推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
smallQ
V2EX  ›  Python

如何爬取数据源 url 动态变化的网址?

  •  
  •   smallQ · May 5, 2018 · 6114 views
    This topic created in 2955 days ago, the information mentioned may be changed or developed.

    无意间发现一个网站 七麦数据
    咦~这数据好像还蛮有意思的,尝试爬取一波。 这也太简单了吧,不就是 XHR 加载的嘛,数据都给我装好了 https://api.qimai.cn/rank/indexPlus/brand_id/2?analysis=dDB4Fi8wUEF1J2VAfndkQy8II0YHIn8WUT1xCVAEVlp5Rx4TAwpcGlENVFFLY11MEkoHRwQLVTxZARxUchVSBgpdBlFUUQEMDiMTBQ%3D%3D&brand=all&country=cn&device=iphone&genre=36&date=2018-05-05&page=1
    有个参数 analysis,这么大一串,怕是有问题,多请求几次,,果然,这个参数在变化,而且前面的链接也失效了 Q_Q..
    好吧,定位到这个文件夹 static.qimai.cn/static/js/app.5aed8c28e91d77a9f578.js ,,无奈 js 是个渣渣。。
    想问下这种网页的话,除了 selenium 和分析 js,还有没有什么方法?分析 js 的话,有没有什么小技巧?
    跪等大神分享

    16 replies    2019-09-08 22:16:25 +08:00
    des
        1
    des  
       May 5, 2018 via Android
    还是上 selenium 吧
    smallQ
        2
    smallQ  
    OP
       May 5, 2018
    @des emmm...
    des
        3
    des  
       May 5, 2018 via Android
    @smallQ 之前做煎蛋的反加密,是把 js 下载下来,然后调用关键解密函数,手工分析加密太麻烦,而且指不定什么时候又改了
    locoz
        4
    locoz  
       May 5, 2018 via Android
    分析不了就 selenium 之类的吧
    smallQ
        5
    smallQ  
    OP
       May 5, 2018
    @des 好吧,tks
    lxy
        6
    lxy  
       May 6, 2018
    可以请教一下你的前端同事,这种分析对他们来说应该不难
    laoli123
        7
    laoli123  
       May 7, 2018
    你还别说 这网页挺复杂的 有时间分析下
    helloiac
        8
    helloiac  
       May 7, 2018
    无非是 js 中有个函数生成了一个加了时间戳的密钥,然后过几分钟失效,把 js 格式化一下找找,应该不难定位函数。
    yixiugegegege
        9
    yixiugegegege  
       Sep 17, 2018
    问一下 我连 analysis 参数都搜不到了,请问下怎么搜到这个参数名呢
    smallQ
        10
    smallQ  
    OP
       Sep 17, 2018
    @yixiugegegege 全局搜索,ctrl+shift+f
    smallQ
        11
    smallQ  
    OP
       Sep 17, 2018
    @yixiugegegege 好久没碰了,不知道页面改版没,,感兴趣你可以试下
    yixiugegegege
        12
    yixiugegegege  
       Sep 18, 2018
    全局搜不到, 是不是采用什么编码方式加密了, 望指点, 试了 16 位编码 ,没找到
    yixiugegegege
        13
    yixiugegegege  
       Sep 18, 2018
    已经搞定
    smallQ
        14
    smallQ  
    OP
       Sep 18, 2018
    @yixiugegegege 好像页面改版了,应该是换关键字了,,,
    smallQ
        15
    smallQ  
    OP
       Sep 18, 2018
    @yixiugegegege 怎么弄的?
    wangjinhui
        16
    wangjinhui  
       Sep 8, 2019 via Android
    你好,请问解决了吗,能否指点一下
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3094 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 44ms · UTC 13:42 · PVG 21:42 · LAX 06:42 · JFK 09:42
    ♥ Do have faith in what you're doing.