开源项目 Ruby 里有没有比较成熟的爬虫框架

vus520 · 2013年10月07日 · 最后由 pathbox 回复于 2015年05月21日 · 15843 次阅读

目前来有这几个需求

  1. 爬行、内容抽取、下载和存储
  2. 支持代理库及代理池,最好能有二级代理功能,可以自己抓取代理列表并验证有效性
  3. 分布式,主服务器能将数据分发到从服务器并能完成数据收集

看到社区里有位同志推荐了黄先生的作品,看了一下,在内容抽取方面应该没有大问题 https://github.com/code4craft/webmagic

分布式和代理这块,ruby有没有比较稳定的gem,要想实现一个稳定长期的数据采集服务。

共收到 17 条回复

对于爬虫没什么经验,爬虫也需要用框架来写吗?求指教

有人说用nokogirl爬东西好用,不过要针对特定网站,一般的爬虫,用Ruby不用考虑性能问题?

#2楼 @doun 你要相信它足够快,这个时候最大的瓶颈恐怕是网络.

#1楼 @tiseheaini 用框架的目的,是把除特殊采集规则抽取逻辑之外的调度、存储、代理做成模块,方便使用,可以在一套框架里实现多个需求的内容抓取。

#3楼 @046569 是的,性能不是目前考虑的问题,可以把网络瓶颈和计算瓶颈用分布式和任务分发系统去分解。

Anemone web-spider framework https://github.com/chriskite/anemone

  • Multi-threaded design for high performance
  • Tracks 301 HTTP redirects
  • Built-in BFS algorithm for determining page depth
  • Allows exclusion of URLs based on regular expressions
  • Choose the links to follow on each page with focus_crawl()
  • HTTPS support
  • Records response time for each page
  • CLI program can list all pages in a domain, calculate page depths, and more
  • Obey robots.txt
  • In-memory or persistent storage of pages during crawl, using TokyoCabinet, SQLite3, MongoDB, or Redis

#7楼 @huacnlee 更新很少了?

#7楼 @huacnlee 差不多就是我要的,哈哈! 感谢。

我看有很多 pull request没有更新,不知道fork出去的人,有没有继续维护的版本

#8楼 @cisolarix 这个我还没用过,不过看介绍,功能很丰富了

#9楼 @vus520 Anemone好像是整站爬。 如果定向爬网站,建议参考https://github.com/hooopo/direct_web_spider自己做一个。我们基于这个框架做了一阵,马马虎虎对付过去了。 不过上述框架都很久没有维护了,还是自己搞一个吧。mechanize+nokogirl 可以搞定一切。

#11楼 @changwu direct_web_spider跟我的需求很接近。感谢推荐。完全适合自己的程序估计是没有。还得自己攒。

direct_web_spider提到了他的多线程,不知道是否是基于curl multi。且定向网站采集的话,最好能支持长连接,这个没看到,不知是否支持。

#11楼 @changwu Anemone 也不是整站,可定义规则控制方向。不过效率感觉低了点,还需要很多优化。

#13楼 @vus520 它的多线程主要在download模块。我们后来改写了所有模块都可以用多线程和分布式。 长连接支持否尚不知道,我们都用open-uri进行下载的。

#14楼 @lazing Anemone是不是调度有问题??我没有试过。

不过,ruby爬虫好像效率真的是很低啊。习惯就好,因为比别的语言没有数量级的差别,所以就忍了。

#15楼 @changwu ruby下当时看到的框架,觉得这个还是最方便简洁的,可以尝试

#15楼 @changwu 突然 想问厦门什么公司是用 ruby on rails的。。。

需要 登录 后方可回复, 如果你还没有账号请点击这里 注册