基于芹菜的网络爬虫管理平台,用于管理分布式网络蜘蛛,而不考虑语言和框架。

crawlab-server的Python项目详细描述


#基于芹菜的网络爬虫管理平台,管理分布式网络蜘蛛,不分语言和框架,不分语言和框架,不分语言和框架,不分语言和框架,不分语言和框架,不分语言和框架,不分语言和框架的分布式网络蜘蛛的管理平台,基于芹菜的网络爬虫管理平台,基于芹菜的网络爬虫管理平台,不分语言和框架,不分语言和框架的分布式网络蜘蛛的管理平台。文件` py `配置api和数据库连接。


前端节点实际上是工作节点用芹菜定义。节点正在运行并连接到任务队列(例如redis)以接收和运行任务。由于蜘蛛需要部署到节点,用户应在部署前指定其IP地址和端口。


web应用程序将自动发现蜘蛛项目。


只需单击spider detail页面上的“deploy”按钮,然后为部署选择正确的节点。

它将为爬网触发一个任务,您可以在“任务”页中详细查看该任务。

用户可以在任务详细信息页中查看任务状态信息并登录。

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
java使用ApachePOI将excel文件导入postgreSQL表   java多线程从iText pdf提取文本   winapi Java和SetWindowDisplayAffinity   eclipse juno的java Websphere 6.1插件   java MPAndroidChart:为Y轴提供一些偏移   java中作为参数传递枚举类型的继承   java Gui jframe的工作原理与netbeans不同   使用Bouncy Castle和PDFBox在Java中验证PDF签名   优化缩小Java代码   java无法在安卓中从Firebase取回子数据   返回的java方法?我应该什么时候用?   java错误处理已完成,退出代码为1。与穿过阵列的for循环有关   多线程Java volatile是否阻止缓存或强制执行写缓存?   java Multi-collectItems如何提前终止并返回已收集的项目   java为什么不在服务(请求,响应)中直接调用processRequest(请求,响应)?   java如何从字符串生成int数组?   打印获取用户输入的值并在其他预选文本中显示。JAVA   未显示java DynamicAsper UTF8字符   java Eclipse RCP:不启动应用程序的命令行参数