爬着爬着就不动了,是因为被服务器拦住了吗
像这样,后面就一直不动了,有可能是不给访问了吗
重试了很多次,有时能顺利爬到几百结束程序(只设置到300或者500的样子),有时就是这样,几个页面或者几十个页面就停下了,也没有报错,试了用add_header()函数(不过也不确实是不是这样就能伪装成浏览器),也不行,查看每次卡住的页面也没找到什么共通之处,难道是网络的问题吗
设置的300,爬到285又不动了TAT
像这样,后面就一直不动了,有可能是不给访问了吗
重试了很多次,有时能顺利爬到几百结束程序(只设置到300或者500的样子),有时就是这样,几个页面或者几十个页面就停下了,也没有报错,试了用add_header()函数(不过也不确实是不是这样就能伪装成浏览器),也不行,查看每次卡住的页面也没找到什么共通之处,难道是网络的问题吗
设置的300,爬到285又不动了TAT
2016-03-23
举报