我要做的就是用这段代码为我的网站创建一个网站地图。但是当这个代码运行时,网站的主机CPU使用率会增加,我想原因是它的url爬行速度快,我有办法做到慢吗
import sys
import logging
from pysitemap import crawler
import time
if __name__ == '__main__':
if '--iocp' in sys.argv:
from asyncio import events, windows_events
sys.argv.remove('--iocp')
logging.info('using iocp')
el = windows_events.ProactorEventLoop()
events.set_event_loop(el)
# root_url = sys.argv[1]
root_url = 'https://example.com'
crawler(root_url, out_file='sitemap.xml', exclude_urls=[".mp3", ".jpg"])
在时间模块中使用
sleep()
方法,并将其放置在希望发生延迟的位置例如:
相关问题 更多 >
编程相关推荐