有关网络爬虫速度,该怎么处理
日期：2014-05-20 浏览次数：21110 次
有关网络爬虫速度
最近在写了个爬虫，在一个网站爬东西，但是爬取页面比较多，被封ip了，虽然他允许输入验证码解封，但是数据量比较大，不能一直这样做，如何降低自己的速度，或者流量之类的，防止出现这种情况
------解决方案--------------------
Thread.sleep(10*1000); 然线程歇个10秒
最近在写了个爬虫，在一个网站爬东西，但是爬取页面比较多，被封ip了，虽然他允许输入验证码解封，但是数据量比较大，不能一直这样做，如何降低自己的速度，或者流量之类的，防止出现这种情况
------解决方案--------------------
Thread.sleep(10*1000); 然线程歇个10秒
免责声明： 本文仅代表作者个人观点，与爱易网无关。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。
