我在输出浮点数时遇到了一个恼人的问题。当我在Windows上以2个小数点的精度格式化11.545时,它输出“11.55”,正如我所期望的那样。但是,当我在Linux上做同样的操作时,输出是“11.54”!在
我最初在Python中遇到了这个问题,但是进一步的研究表明,区别在于底层C运行库。(在这两种情况下,体系结构都是x86-x64)在Windows和Linux上运行下面的C会产生不同的结果,就像在Python中一样。在
printf("%.2f", 11.545);
为了进一步阐明这一点,我将数字打印到小数点后20位("%.20f"
):
我知道11.545不能精确地存储为二进制数。因此,看起来Linux以尽可能高的精度输出实际存储的数字,而Windows则输出最简单的十进制表示,即试图猜测用户最可能的意思。在
我的问题是:有没有什么(合理的)方法来模拟Windows上的Linux行为?
(虽然Windows的行为当然是直观的,但在我的例子中,我需要将Windows程序的输出与Linux程序的输出进行比较,而Windows程序是我唯一可以改变的。顺便说一句,我试图查看printf
的Windows源代码,但实际执行float->;字符串转换的函数是_cfltcvt_l
,它的源似乎不可用。)
编辑:图变粗!关于这是由不精确表示引起的理论可能是错误的,因为0.125确实有一个精确的二进制表示,当用'%.2f' % 0.125
输出时,它仍然不同:
Windows: 0.13
Linux: 0.12
但是,round(0.125, 2)
在Windows和Linux上都返回0.13。在
我不认为Windows在这里做了什么特别聪明的事情(比如试图重新解释以10为基数的浮点数):我猜它只是精确地计算前17个有效数字(即“1154.500000000000”),然后在末尾加上额外的零,以补加点后所需的位数。在
正如其他人所说,0.125的不同结果来自于Windows使用取整取整和Linux使用取整半到偶数。在
请注意,对于python3.1(和python2.7,当它出现时),格式化float的结果将是平台无关的(除了在不寻常的平台上)。在
十进制模块提供多种取整模式:
可以从int或字符串构造十进制数。在您的例子中,输入一个比您想要的多的数字的字符串,然后通过设置截断它上下文.prec. 在
下面是一个pymotw post的链接,其中包含decimal模块的详细概述:
{a1}
首先,在这种情况下,Windows的错误似乎是正确的(这并不重要)。C标准要求将
%.2f
输出的值舍入到适当的位数。最著名的算法是由David M. Gay实现的dtoa。您可能可以将其移植到Windows或找到本机实现。在如果你还没读过Steele and White的《How to Print Floating Point Numbers Accurate》(如何精确打印浮点数),找一份复印件读一读。这绝对是一本启发性的读物。一定要找到70年代末的原件。我想我是从ACM或IEEE那里买的。在
相关问题 更多 >
编程相关推荐