amqp上map-reduce的纯python实现

poop的Python项目详细描述


poopy-一个不可用的map reduce引擎超过amqp

安装

来自pypi

  1. 安装rabitmq
  2. pip install poopy(请使用virtualenv)
  3. 下载此文件 https://bitbucket.org/leliel12/poopy/raw/tip/example/iris.arff?at=default
  4. 下载此文件 https://bitbucket.org/leliel12/poopy/raw/tip/example/randomforest.py 放在iris.arff
  5. 的同一目录中

来自回购

  1. 安装rabitmq
  2. 克隆此https://bitbucket.org/leliel12/poopy回购
  3. pip install -e .
  4. 归档文件iris.arffrandomforest.py位于examples/
  5. 中。

正在运行

  1. 打开两个控制台(控制台A、控制台B)
  2. consoleb中运行poopy deploy amqp://localhost
  3. consolea中执行 poopy upload amqp://localhost path/to/iris.arff poopFS://iris.arff 现在您的文件被上传到“分布式文件系统”
  4. consolea运行 poopy run amqp://localhost path/to/randomforest.py Script out
  5. 输出模型在out/localtime中序列化

读取模型

在python控制台中

frompoopyimportserializerswithopen("out/file")asfp:model=serializers.load(fp)

待办事项:

  • 正确执行超时。
  • 实现错误交换。
  • 真正的分布式文件系统。
  • 多个映射或减少。
  • 输出格式比b64 pkl多。
  • 不使用中心节点作为主内存。
  • 将一些模块重新排序到包中

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
JavaJavaFX在MouseOver上闪烁(最近重新绘制)并带有集成Swing   多线程Java多线程解析器   java从字符串中的数字中删除前导零   java Quartz调度程序仅在作业尚未运行时执行作业   java如何处理从页面到Servlet的数据映射   swing如何在java中使对象居中   java Hibernate实体向实体添加业务逻辑?   java实现的com。安卓支持回收服务EWV7。27.1.1“失败”   java为什么for循环只运行两次   java,比如Hibernate或JPA中的游标或记录集迭代器?   部署JavaFX应用程序的QA和生产版本的java策略   java实体。列表()休眠性能   要映射多种类型的java json字符串[字符串,对象]   带有gui的java javamail多附件   java从应用程序访问值。属性并使用@Value Springboot存储在变量中