推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
demomaster
V2EX  ›  Python

刚学爬虫,今天爬豆瓣相册被 403 了?

  •  
  •   demomaster · Apr 2, 2016 · 4584 views
  •   You need to sign in to view this topic
    This topic created in 3854 days ago, the information mentioned may be changed or developed.

    思路是先获取每一页相册中的图片的 url,再分别请求这些 url,然后在得到的 html 中筛选原图的 url,保存到本地.(对应在豆瓣里的操作就是点击缩略图,查看大图),第一步的 url 是都得到了,在第二步时只有前 5 个能返回 200,后面的都被 403 了.设置的延时是 5 秒,想不通.

    Supplement 1  ·  Apr 2, 2016
    对了,是公开的相册.
    Supplement 2  ·  Apr 2, 2016
    有哪位大大知道豆瓣的反爬虫机制是怎样的吗?
    superliang
        1
    superliang  
       Apr 2, 2016   ❤️ 1
    User Agent 设置了吗
    demomaster
        2
    demomaster  
    OP
       Apr 2, 2016
    @myleon 设置了
    skydiver
        3
    skydiver  
       Apr 2, 2016 via iPad   ❤️ 1
    referer 设置了么
    demomaster
        4
    demomaster  
    OP
       Apr 2, 2016
    @skydiver referer 没有,刚查了下,这个是要设成从哪里跳来这的那条 url 吗?
    demomaster
        5
    demomaster  
    OP
       Apr 2, 2016
    解决了,正则有问题(逃
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   3194 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 14:34 · PVG 22:34 · LAX 07:34 · JFK 10:34
    ♥ Do have faith in what you're doing.