在ufora运行时并行执行python代码的库

pyfora的Python项目详细描述


pyfora是一个用于ufora的客户端包,它是一个用于数据科学和数值计算的编译的、自动并行的python。在它里面的集会主义(以便它能伸缩)。ufora
运行时是完全容错的,对用户透明地处理数据管理和任务调度的所有细节。


通过将代码封装在"ufora.remote"块中来调用ufora运行时。代码
和对象被发送到ufora集群,并在这些机器上并行执行。然后将结果作为原生python对象或句柄(如果
对象非常大)注入宿主python
环境。这允许您选择
在ufora中运行将受益的代码子集-其余的代码可以在常规的
python环境中运行。

为了使所有这些都正常工作,ufora对其运行的代码设置了一个主要限制:它必须是"纯"的,这意味着它不能修改数据
结构或具有side effESES。此限制允许ufora运行时按顺序重新排序计算,这对
并行性至关重要,并允许它执行编译时
优化,否则无法实现。有关ufora支持的python的子集的更多信息,请参见"python restrictions"。_ python限制:https://ufora.github.io/ufora/documentation/python restrictions.html




代码:

pip install pyfora



Getting started with ufora
使用aws上的ufora `
-`在本地群集上运行ufora `



…_本地ufora入门:https://ufora.github.io/ufora/tutorials/getting started local.html
…_ AWS上的UFORA入门:https://ufora.github.io/ufora/tutorials/getting started aws.html
…_在本地群集上运行ufora:https://ufora.github.io/ufora/tutorials/getting started cluster.html



credits
----


pyfora由ufora团队开发和维护。在github上找到我们。_分发:http://pypi.python.org/pypi/distribute

…_ ufora:https://ufora.github.io/ufora
。_ github:https://github.com/ufora/ufora/ufora




pyfora新闻
=




<0.5.10
-

*发布日期:2016年12月5-2016年12月5日

*[bug]添加pyfora中websocket包的显式依赖性添加pyfora中websocket包的显式依赖性










==[bug-bug-bug=
行号冲突会导致pyobject重新水化错误rs
*[feature]添加了pyfora.aws.cluster,用于以编程方式管理pyfora集群

<0.5.7
----
*发布日期2016年8月30日

*[bug]修复了包含向量的对象的排序稳定性问题
*[bug]修复了大规模排序期间的内存管理错误
*[bug]修复了导致bools与生成无效的大规模排序结果
*[错误275]排序对具有多个相等值的向量效果不佳
*[功能]"打印"语句现在通过pyfora
*[功能]添加了对时间的支持。time
*[错误273]pyfora aws无法添加/停止按需实例


<0.5.6
----
*发布日期2016年8月22日

*[错误]修复pyfora排序中的错误

>0.5.5
----
*发布日期2016年8月15日

*[功能]使用DistributedDatatasks对大列表进行排序

<0.5.4
----


*发布日期2016年6月27日

*[功能]添加方法以返回集群中的工作进程数
*[功能]将ufora工作进程日志分离到主和"核心"
*[功能]减少主ufora工作进程日志的详细程度

<0.5.3
----

*发布日期2016年6月3日

*[功能]添加pyfora支持numpy.random.mtrand.randomstate
*[功能]重写调度程序
*(各种其他后端错误修复和稳定性改进)



<0.5.2
----

*发布日期2016年5月7日

*[feature]向ufora添加了日志轮换/service docker image
*[bug 201]`pyfora aws stop`取消未完成的spot实例请求
*[feature]添加了--pyfora aws的name选项
*[bug 263]pyfora.connect在给定无效主机/端口时挂起
*[feature]添加了ipython/jupyter支持


>0.5.1
-



*发布日期2016年4月25日

*[bug 258]如果没有数据成员,则无法调用基类init init init init基类。
*[bug 255]实现getitem不会使类成为可访问的类
*[bug]将更多不可转换的值推迟到运行时。

<0.5.0
----
-
<0.0.5.0
><0.5.0-

*发布日期:2016年4月14日上下文
*[feature]加速分布式数据任务
*[feature]各种编译器优化
*[features]各种pyfora aws功能:
*添加一个命令以循环所有worker、manager及其日志
*从远程计算机上的ufora-worker.log提取表达式的工具s
*在所有pyfora工作者上运行htop的工具
*[feature]更改pyfora下载流以记录单个python对象
*[feature]使trustregionconjugategradient解算器成为默认的逻辑回归解算器
*[feature]确保lapack例程不会终止进程w当它们出错时,
*[错误253]`pyfora aws add`命令被破坏
*[错误]修复矢量公理中导致错误向量的错误->;字符串数据
*[错误]向linalgmodel.fora添加一些异常处理程序,以便捕获Fortran异常
*[错误]修复Syev中导致无效Fortran的错误。调用

0.4.4
----

*发布日期:2016年3月14日功能:sin,cos,exp
*[bug]修复类特定的覆盖到uu int_uuu()和u float_uu()


>0.4.3
----

*发布日期2016年3月10日t variable
*[feature]:在gpu上支持64位对数
*[feature]:为可对角化矩阵实现矩阵指数
*[feature]:部分支持numpy.norm
*[feature]:add numpy.lstsq
*[错误187]:pyfora"max"、"min"不适用于列表、元组或iterables
*[功能]:提高字符串索引和比较性能
*[功能]:将文档从gh页迁移到sphinx文档。


0.4.2
----

*发布日期:2016年3月4日使用并自然地提交块
*[bug 206]:确保在pyfora中正确传播s3错误
*[bug 234]:确保访问分页向量的顺序正确
*[bug 221]:类实例的成员顺序一致草书对象有稳定的定义
*[错误]:修复一些将大列表从服务器移动到客户端的错误
*[特征]:实现logistic回归的信任域congugate梯度解算器
*[特征]:为动态并行返回if(`split)模型
*[特征]:启动编译器缓存
*[特征]:gpu计算的初步特征
*[特征]:添加'pyfora aws deploy'command
*[特性]:为所有pyfora aws命令添加vpc、子网和安全组参数
*[增强]:改进编译器性能
*[增强]:改进访问不存在的s3存储桶的错误消息
*[增强]:在通过futu时改进WithBlockExecutor行为res containing exceptions
*[增强]:尝试转换"with"块时引发正确类型的异常
*[增强]:确保pyfora列表对象的散列是稳定的。

<0.4.1
----

*发布日期:2016年2月24日

*[功能]:支持成员ini基类初始化函数中的初始化:添加对numpy.linalg.svd的支持BLE代码
*[feature 133]:对对象继承的初始支持
*[enhancement]:新的编译器实现产生更高效的代码
*[enhancement]:beta函数的实现与scipy更好地匹配



>0.3.4
----

*加快编译器的速度
*sp更新pyfora数据上传时间
*修复hyp2f1中的错误
*连接更多的scipy/numpy特殊(数学)函数


>0.3.3
----


*发布日期:2016年1月27日

*使scipy可选


<0.3.1
----

*发布日期:2016年1月26日

*添加对r scipy.special.gamma和scipy.special.hyp2f1



>0.3
——

*发布日期:2016年1月22日#107]:非绑定函数获取太多调用参数时出现错误消息
*[feature 124]:implement`assert`
*[bug 134]:pyint.fora没有实现/>*[特征154]:pyfora中的logistic回归
*[特征155]:pyfora中的梯度增强树
*[特征159]:向pyfora aws添加"add worker"命令
*[错误163]:pyfora aws中的"ufora"安全组已创建时出现问题
*[特征168]:pyfora aws中没有反馈当实例出错时:当客户端和服务器版本不匹配时混淆错误消息EC-10-2015

*[feature]为scipy提供pyfora包装。special.beta
*[feature]为math提供pyfora包装。log
*[feature]为mixin绑定计算提供性能改进。

<0.2
----

*发布日期:2015年12月8日对于外部数据集加载程序服务线程。
*[错误162]:pyfora aws文档表明ec2区域是可选的,但实际上是必需的参数。
*[功能]:pyfora aws应传播aws凭据。
*[错误145]:无法访问s3中的数据。
*[错误144]:pyfora aws引发的异常选项当--num instances为1时。
*[bug 140]:使用pyfora aws启动的ufora worker只使用8gb内存。
*[bug 136]:在不区分大小写的文件系统上与pandas和numpy发生冲突。
*[bug 127]:正确地将通信错误推送到执行器。
*[feature]:suppert@property decorator.
*[feature]:提高了小对象大列表的下载性能。
*[bug#122]:来自"list+non-u list"的错误异常类型。
*[bug 120]:尝试转换映射函数列表时失败。
*[bug 119]:无法转换绑定实例方法。
*[bug 116]:内置"reduce"函数在应用于列表、xrange等时不可并行。
*[bug#115]:修复字符串和元组的getitem:tin
*[feature]:支持用户定义类上的"isinstance"。
*[feature]:将版本控制方案添加到socket.io协议。
*[feature]:添加对python repl的支持。
*[bug 90]:改进了未绑定自由变量的错误消息。
*[bug 89]:ctrl+c不脱离"with"`block.
*[bug 68]:不允许pyfora中带有blocks的"return"语句。
*[bug 67]:元组解包不起作用
*[feature]:数据帧上的基本线性回归
*[feature]:基本csv解析
*[feature]:基本数据帧
*[bug 59]:`sequence(0)`not iterable
*[错误47]:`**`运算符中的int/float不匹配
*[错误21]:某些python变量"存活"时间比fora值长



*已知问题:

*`def`顺序在非模块函数定义(闭包)中很重要。如果函数
`g()`和`h()`是在函数'f'和'g()`calls`h()`内部定义的,则'def h():`必须
出现在'def g():`之前。
这也意味着只能在模块或类级别上使用相互递归的函数。

*类静态方法不能用作v再见。可以调用它们,但不可能将类静态方法作为参数传递给另一个函数。

*不支持命名参数调用。如果您有一个函数def f(x):…`您可以将其称为
`f(42)`但不能使用'f(x=42)`。

*不支持关键字参数。

*类成员只能在''uu init''内初始化。如果"uu init"调用另一个初始化成员的函数
,pyfora将看不到这些成员。

*"return"语句不允许出现在"uu init"中,`

*"classmethod decorator"不受支持。

*不支持"args"。

*"assert"未实现。

*在"初始化"内使用"self"进行设置或获取成员以外的其他操作时出现错误消息。例如,在初始化的内部调用str(self)会导致pythontoforaconversionerror:发生内部错误:我们没有为以下变量提供定义:[self']。
很可能,我们对python代码的分析与生成的f之间不匹配下面是ORA代码。请提交错误报告。"

*不支持对象继承。




>0.1
----

*发布日期:2015年11月6日

*Pyfora的首次发布!
*包括对核心语言功能和内置类型的支持。
*对内置函数的一些支持,如all、any、sum等。
*pyfora.aws模块和pyfora\u aws脚本有助于在ec2中设置ufora群集。

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
java JPanel自动调整大小   从Java更新MySQL数据库中的时间字段   在字符数组中读取字符串而不使用任何字符串函数,甚至java中的C++   java这段代码适合二叉树中的Euler教程吗?   如何在java中拆分字符串我的空行   爪哇舞厅舞者使用信号灯解决问题   java Android Studio MainActivity即使在新项目上也不存在   java Box2D:在矩形体的两端施加力,以实现2D无人机模拟。无法正确定位世界/本地点   python如何在Java中使用HTTP GET请求?   java如何使用ArrayList?   java为什么在缺少@Transactional时不抛出TransactionRequiredException?   java安卓活动可重用性   java Hibernate按属性获取记录不起作用   java如何在Android中使用SQLite多表触发带计数的连接查询?   java要读取的文本文件的正确文件路径   java使用JXL在Excel中切换网格线   java你能在没有外键的情况下用OneToOne关系链接两个实体吗?   java NotificationListenerService。cancelNotification引发NullPointerException   java我如何告诉Jersey客户端对其反序列化的每个类执行@JsonIgnoreProperties(ignoreUnknown=true)的等效操作?   循环特殊情况的java处理