面向人类的智能代理池™

scylla的Python项目详细描述


一个用于人文学科的智能代理池,只支持Python3.6。主要功能:

  • 自动代理IP爬网和验证
  • 易于使用的json api
  • 简单但漂亮的基于网络的用户界面(如地理位置 代理的分布)
  • 只使用1命令开始最少
  • 简单的http转发代理服务器
  • Scrapyrequests集成,最少只有一行代码
  • 无头浏览器爬网

中新网

文档

请阅读Documentation

快速启动

安装

直接通过PIP安装

pip install scylla
scylla --help
scylla # Run the crawler and web server for JSON API

从源安装

git clone https://github.com/imWildCat/scylla.git
cd scylla

pip install -r requirements.txt

npm install # or yarn install
make assets-build

python -m scylla

对于由于uvloop does not support Windows at the moment

exportSANIC_NO_UVLOOP=trueexportSANIC_NO_UJSON=true
pip3 install sanic

如果这也失败了,yoi将需要从源代码手动安装sanic。

路线图

请看Projects

发展与贡献

git clone https://github.com/imWildCat/scylla.git
cd scylla

pip install -r requirements.txt

npm install # or `yarn install`
make assets-build

测试

如果要在本地运行测试,命令如下所示:

pip install -r tests/requirements-test.txt
pytest tests/

欢迎您向这个项目添加更多的测试用例,从而提高这个项目的健壮性。

本项目命名

Scylla是从美国电视剧Prison Break中的一组存储芯片的名称派生而来的。这个项目是以这部美国电视连续剧命名的,以表达对它的敬意。

捐赠

如果你觉得这个项目有用,你能捐点钱给它吗?

不管钱多少,你的捐赠都会激励作者不断发展新的特色!γ 谢谢您!

捐款方式如下:

贝宝

PayPal Donation Official

支付宝或微信支付

Alipay and WeChat Donation

许可证

apache许可证2.0。有关详细信息,请阅读 LICENSE文件。

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
关于持久性框架的java查询   java My JComponents占用了太多像素   来自保存结构化JSON对象的java错误请求   java一个面板上的鼠标侦听器如何使用另一个面板上对象的值?   java openGL在psuedo3d透视图中绘制扭曲的精灵(图像)   java更改行跨度   java如何在NatTable单元格中插入两个文本(每个文本具有不同的字体)和一个图像?设定利润率?   Objective和Java、iPhone和Android之间有什么巨大的区别吗?   JavaVLCJ在eclipse中播放rtsp流视频,但不是在制作可执行JAR之后   java如何访问原始图像数据   java如何检查未扩展的Ant属性   安卓如何从中获取文本视图。xml到Java文件   java Hibernate仅检索一列,另一列为null   使用java更新json对象   Android中带有networksecurityconfig的java SSL固定   面向对象Java对象拆卸模式   刷新期间java阻止对HashMap的访问   数组BufferedReader和流行Java 8