V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
Fing
V2EX  ›  Python

开源一个 google 爬虫项目

  •  
  •   Fing · Aug 29, 2017 · 6357 views
    This topic created in 3163 days ago, the information mentioned may be changed or developed.

    这个项目写了一段时间了,主要功能就是实时爬取 googlesearch 的结果。google 反爬很严格,我这边也没有很好的办法,后面可能也不太搞了,就整理了开源出去,希望能给其他人一些思路。 github: https://github.com/FastSchnell/googlebridge

    目前只支持 python2.7,有兴趣的可以试一下 下载 wget http://googlebridge.com/googlebridge.py 运行 python googlebridge.py

    Supplement 1  ·  Aug 29, 2017
    忘记说了,要在墙外主机跑。
    Supplement 2  ·  Aug 30, 2017
    这个服务跑起来以后就是一个网站,访问 vps 公网 IP 即可
    Supplement 3  ·  Aug 30, 2017
    默认使用 tcp80 端口
    10 replies    2017-08-30 09:49:25 +08:00
    mingyun
        1
    mingyun  
       Aug 29, 2017
    支持 py3 啊
    Fing
        2
    Fing  
    OP
       Aug 29, 2017
    @mingyun 没测过欸~
    mckelvin
        3
    mckelvin  
       Aug 30, 2017   ❤️ 1
    楼主代码写得挺认真的,建议了解下 requests, urlparse, pyquery 或 BeautifulSoup, jinja2 这几个库,能剩不少代码。
    viosey
        4
    viosey  
       Aug 30, 2017
    有办法爬 Google image 吗?
    gaotongfei
        5
    gaotongfei  
       Aug 30, 2017 via iPhone
    @mckelvin jinja 在爬虫中有什么应用?
    mckelvin
        6
    mckelvin  
       Aug 30, 2017 via iPhone
    @gaotongfei 我也好奇呢。但楼主代码里有 html 模版。
    Fing
        7
    Fing  
    OP
       Aug 30, 2017 via iPhone
    @mckelvin 不用三方库为了简化部署。 里面有 html 模版是因为脚本跑起来就是一个网站。
    xiaozizayang
        8
    xiaozizayang  
       Aug 30, 2017 via Android
    关键是对谷歌反爬机制的研究 我也写过一个 轮循谷歌全球域名 有点效果 https://github.com/howie6879/MagicGoogle
    jisibencom
        9
    jisibencom  
       Aug 30, 2017
    难道用反代不是更方便些不?
    Fing
        10
    Fing  
    OP
       Aug 30, 2017 via iPhone
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   932 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 41ms · UTC 21:04 · PVG 05:04 · LAX 14:04 · JFK 17:04
    ♥ Do have faith in what you're doing.