终止scrapy并保持输出fi

2024-09-30 01:36:46 发布

您现在位置:Python中文网/ 问答频道 /正文

犯了一个编码错误,我的spdier很可能在循环中运行。如何终止spider并保存输出json文件。我的经验是,强制终止将导致没有输出文件被保存。有什么建议吗?你知道吗

pkill能保存输出文件吗? https://stackoverflow.com/a/46727707/7870384


Tags: 文件httpscomjson编码错误经验stackoverflow
1条回答
网友
1楼 · 发布于 2024-09-30 01:36:46

只要发送一个SIGTERM信号,一旦下载程序队列为空,scrapy就会优雅地终止。
如果您发送两个信号,scrapy将强制终止并忽略downloader队列或在引擎中等待的任何其他内容。
如果发送SIGKILL,进程将被转储并关闭,而不会给scrapy任何操作的机会

换句话说,只发送kill <pid>(默认情况下使用SIGTERM信号)如果发送kill -9 <pid>,它将使用SIGKILL信号

相关问题 更多 >

    热门问题