• 请不要在回答技术问题时复制粘贴 AI 生成的内容
bobopu
V2EX  ›  程序员

请问有什么办法或者网站抓取滚动数据?

  •  
  •   bobopu · Nov 18, 2014 · 3435 views
    This topic created in 4221 days ago, the information mentioned may be changed or developed.
    之前问过定时抓取网站数据的帖子,有朋友推荐了两个网站使用起来还不错,但是现在遇到一个问题是无法抓取滚动列表的数据,请问还有什么工具或网站可以定时抓取呢?
    3 replies    2014-11-19 12:11:16 +08:00
    jprovim
        1
    jprovim  
       Nov 19, 2014   ❤️ 1
    不能, 如果需要交互的話, 比如說鼠標滑至最底出現另外一個頁面(unlimit scroll), JS代碼的話, 普通的爬蟲是不行的, 除非
    1. 用headless browser
    2. 或者分析JS代碼直接找到規律, 爬取類似的代碼.
    nayuki
        2
    nayuki  
       Nov 19, 2014 via iPhone   ❤️ 1
    可以模拟桌面浏览器渲染,然后抓取html
    bobopu
        3
    bobopu  
    OP
       Nov 19, 2014 via iPhone
    @jprovim
    @nayuki 找到办法了,之前那个抓取网站调整了下可以抓取了。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1079 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 31ms · UTC 22:55 · PVG 06:55 · LAX 15:55 · JFK 18:55
    ♥ Do have faith in what you're doing.