境外服务器上部署爬虫抓 YouTube（下载视频）， YouTube 会不会封 IP？

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

For Existing Member Sign In

推荐学习书目

› Learn Python the Hard Way

Python Sites

› PyPI - Python Package Index

› http://diveintopython.org/toc/index.html

› Pocoo

值得关注的项目

› PyPy

› Celery

› Jinja2

› Read the Docs

› gevent

› pyenv

› virtualenv

› Stackless Python

› Beautiful Soup

› 结巴中文分词

› Green Unicorn

› Sentry

› Shovel

› Pyflakes

› pytest

Python 编程

› pep8 Checker

Styles

› PEP 8

› Google Python Style Guide

› Code Style from The Hitchhiker's Guide

This topic created in 3469 days ago, the information mentioned may be changed or developed.

YouTube

境外

服务器

部署

28 replies • 2017-02-09 14:58:42 +08:00

lslqtz

Nov 2, 2016

本人反代 YouTube ，然后用户就被验证码拦了

terence4444

Nov 2, 2016 via iPhone

每次打开会有验证码

chendajun

Nov 2, 2016

@terence4444
@lslqtz
YouTube 反爬比较严格，在阿里云香港服务器上部署了爬虫，刚开始可以抓一些。现在程序直接报错。

21grams

Nov 2, 2016

封 ip 那是轻的

chendajun

Nov 2, 2016

@21grams 请问有 YouTube 具体的反爬技术介绍吗？

majinjing3

Nov 2, 2016 via Android

@chendajun 可以尝试使用代理，建立个代理池，

mudone

Nov 2, 2016

做爬虫代理池不应该是标配吗。。

chendajun

Nov 2, 2016

@mudone 1 ，代理稳定性一直是个问题（付费的 vpn 稳定性也很不好，一直在用付费代理）， 2 ， youtube 封 ip 是封死的。

jimzhong

Nov 2, 2016

当然会

Aspx

Nov 2, 2016

代理池是标配

ljcarsenal

Nov 2, 2016

gg 是世界上最大的爬虫公司当然反爬技术也是炉火纯青了

chendajun

Nov 2, 2016

@ljcarsenal 能感觉到反爬技术很牛逼。另外你的头像是 272 ？

ljcarsenal

Nov 2, 2016

@chendajun 嗯

zoudeze

Nov 2, 2016

表示 http://www.clipconverter.cc 一只很好用，干嘛要自己搞个什么东西爬视频～～～～

shuang

Nov 2, 2016

一直用的它提供的 API 接口爬视频然后下载的，跑了很长时间了，貌似没被限制过 ip

TKKONE

PRO

Nov 2, 2016

以前爬过几千个视频，没有出现问题

chendajun

Nov 2, 2016

@tumbzzc 能具体说说你的方法不？

hujianxin

Nov 2, 2016

爬 youtube 啥意思啊，如果想单纯的下载视频的话用 you-get 或者 youtube-dl 两个软件都可以下啊，我下载几百个视频都不会有别的问题的。也可能我不理解你的意思

chendajun

Nov 2, 2016

@hujianxin 客户需要 youtube 新闻类的视频，我是把 you-get 集成到程序中，爬虫拿到网页链接后交给 you-get 去下载视频，现在 youtube 把 ip 封掉了。

wmttom

Nov 2, 2016

youtube-dl 单 ip 下了十万个视频还没被封，可能是运气好

annielong

Nov 2, 2016

有接口尽量用接口，只要不是特别频繁调用接口，一般不会封，但是模拟前台抓取页面这种，貌似会封的比较厉害

chendajun

Nov 2, 2016

@shuang 有相关文档不？

TKKONE

PRO

Nov 2, 2016

@chendajun youtube-dl 没被封

eycfsjd

Nov 2, 2016

不要随便传播哦，否则要喝茶的

mingyun

Nov 2, 2016

@zoudeze 这个不错

alexapollo

Nov 2, 2016

google 和 youtube 这一套体系的反爬都比较完善，门槛比较高了，但要爬仍然能爬

justyy

Nov 2, 2016

@chendajun https://weibomiaopai.com#api 能用上么？

myself659410

Feb 9, 2017

盯上 youtube 人太多了