跑了一段时间之后发现8G的内存用的只剩下几十MB了,爬虫吃掉的太快。
看了官方的文档里面有个“使用 trackref 调试内存泄露”,没看到怎么调用。
不知道有熟悉scrapy的吗?
在此感谢@marchtea 及其其他翻译scrapy文档的诸位。
看了官方的文档里面有个“使用 trackref 调试内存泄露”,没看到怎么调用。
不知道有熟悉scrapy的吗?
在此感谢@marchtea 及其其他翻译scrapy文档的诸位。
1
codingpp May 7, 2014
是减去buffer以后的内存占用吗
|
3
marchtea May 7, 2014
不客气~
文档上说明了,是调用telnet连接,在终端里头使用prefs()来看的。再看看文档试试呢? |
4
codingpp May 7, 2014
|
5
reverland May 7, 2014
你是读什么大文件了么……
|