我想把所有的音乐文件类型版权所有.gov网站在过去的3年里一直在使用scrapy,但是我一直得到这个错误:
User timeout caused connection failure: Getting http://cocatalog.loc.gov/cgi-bin/Pwebrecon.cgi?PID=JADxIm18gK9YX6t-BSYC9oABskwhR&SEQ=20150331032850&CNT=25&HIST=1&Search_Arg=PAu003%3F&Search_Code=FT%2A took longer than 180 seconds..
我知道它对网站有一些限制(甚至手动搜索也会导致网站超时)。这是我的蜘蛛:
^{pr2}$有没有办法解决这个超时问题?在
在您的设置.py,默认值为180秒
相关问题 更多 >
编程相关推荐