奥兹的痒
os-scrap的Python项目详细描述
骨瘦如柴
奥兹的断头台。在
要求
- Python 3.6+(pypy3.6+)
- Scrapy2.0+
安装
pip install os-scrapy
使用
命令行
命令与scrapy相同
^{pr2}$爬虫类
os scrapy支持配置CRAWLER_CLASS
替换默认的scrapy.crawler.Crawler
它可以在settings.py
文件或命令行中配置
os-scrapy crawl -c <your_crawler_class> <spider_name>
增强startproject
多亏了os-scrapy-cookiecutter,-p
选项可以用来创建项目和python包
os-scrapy startproject -p <project_name> [project_dir]
在命令行
-r
选项可用于设置TWISTED_REACTOR
os-scrapy crawl -r asyncio <spider_name>
单元测试
tox
许可证
麻省理工学院授权。在
- 项目
标签: