具体目标：
爬取所有中文网站， dump 首页，分析网站再获取域名继续爬，扫描网站服务器端口。
感觉至少有两点需求：
1.worker 不同 IDC ，即爬虫分布在不同的机房。
2.回传数据量可能会比较大。
数据存储检索使用 mongodb+Elasticsearch 已经确定。
任务调度系统 gearman ， celery+rabbitwq ，甚至 kafka 。。。研究了一下别人写的分布式 crawler ，使用 rpc 协议自己写一个简单的调度系统似乎也不难。
在进行折腾之前请 V2EX 上面的大大们给点任务调度方面建议，使用哪种工具最合适，多谢啦==3
Select Language