分享 无聊写了个 ruby 版糗百客户端

wangbo · 2013年09月05日 · 最后由 shawnyu 回复于 2013年09月05日 · 2904 次阅读

代码不多,就此贴下,轻喷。无聊时打发下时光。 ruby baike.rb -i 页数 -p 代理

#encoding: utf-8
require "httpclient"
require "nokogiri"

def spidr(index=1)
  page = @@client.get_content("http://www.qiushibaike.com/8hr/page/#{index}?s=4593955")
  document = Nokogiri.parse(page)
  div_col1 = document.css("div.col1").first
  div_list = div_col1.css("div.block")
  puts "item size #{div_list.size}"
  div_list.each do |item|
    title = item.css("div.detail").first.css("a").first.content
    content = item.css("div.content").first.content
    thumb = item.css("div.thumb").first
    puts "---------------------------------------------------------"
    puts title
    puts content
    if thumb
      src = thumb.css("img").first["src"]
      resp = @@client.get src
      filename = "./baike/#{Time.now.to_i}.jpg"
      File.open(filename,"wb") do |file|
        file.write resp.body
        file.close
        system "start #{filename}"
      end
    end
    puts "---------------------------------------------------------"
    gets
  end
end

default_proxy = "http://192.168.2.135:808"
config = {}
start_index = 1
loop do
  p = ARGV.shift
  if p == nil
    break
  elsif p =~ /[\-]{0,2}p/
    proxy = ARGV.shift
    config[:proxy] = proxy == "default" ? default_proxy : proxy
  elsif p =~ /[\-]{0,2}/i
    start_index = ARGV.shift.to_i
  end
end

Dir.mkdir("./baike") unless Dir.exist?("./baike")
@@client = HTTPClient.new config
@page = 1
loop do
  spidr(@page)
  @page+=1
end

天王该地虎,都不热闹啊,早知道发 瞎扯淡

匿名 #2 2013年09月05日

宝塔镇河妖。赞一个。

匿名 #3 2013年09月05日

无聊地试了一下。 PS:最好加点注释吧。

匿名 #5 2013年09月05日

一点不足 之处:会重复下载图片。

6 楼 已删除

#3 楼 @Turristan 注释就没什么写的,无非就是分析糗百的 dom 结构。照着爬就是了

#4 楼 @ShiningRay 嘿嘿, 学 ruby 时间不长,见笑了

@wangbo 糗百的就是@ShiningRay写的

需要 登录 后方可回复, 如果你还没有账号请 注册新账号