之前问过定时抓取网站数据的帖子,有朋友推荐了两个网站使用起来还不错,但是现在遇到一个问题是无法抓取滚动列表的数据,请问还有什么工具或网站可以定时抓取呢?
1
jprovim Nov 19, 2014 不能, 如果需要交互的話, 比如說鼠標滑至最底出現另外一個頁面(unlimit scroll), JS代碼的話, 普通的爬蟲是不行的, 除非
1. 用headless browser 2. 或者分析JS代碼直接找到規律, 爬取類似的代碼. |
2
nayuki Nov 19, 2014 via iPhone 可以模拟桌面浏览器渲染,然后抓取html
|