由osscrapycookiecutter自动生成
os-scrapy-uvicorn的Python项目详细描述
乌维科恩
这个项目提供了一个扩展,可以在同一个进程中启动asgihttp服务器(Uvicorn)。在
您可以使用ASGI framework(推荐使用FastAPI)创建与Scrapy通信的应用程序。在
要求:python3.6+,Scrapy 2.0+
安装
pip install os-scrapy-uvicorn
您可以直接在项目根路径中运行示例spider
^{pr2}$设置
- 在
TWISTED_REACTOR = "twisted.internet.asyncioreactor.AsyncioSelectorReactor"
或者,您可以使用os-scrapy(与此项目一起安装)开始使用
-r
命令行选项进行爬网
在os-scrapy crawl -r asyncio example
- 在
启用扩展
在EXTENSIONS = { "os_scrapy_uvicorn.Uvicron": 1, }
- 在
app path,你可以使用ASGI应用框架来创建你的应用,推荐使用FastAPI
在UVICORN_APP = "app_module:app"
- 在
uvicorn服务器设置,supported settings
在UVICORN_CONFIG = {"host": "0.0.0.0", "port": 5000}
- 在
当服务器启动时,Scrapy crawler实例被附加到app上,它是与Scrapy通信的入口点
在
单元测试
sh scripts/test.sh
许可证
麻省理工学院授权。在
- 项目
标签: