Windows环境下Linux的浮点字符串转换行为仿真

2024-09-28 22:18:54 发布

您现在位置:Python中文网/ 问答频道 /正文

我在输出浮点数时遇到了一个恼人的问题。当我在Windows上以2个小数点的精度格式化11.545时,它输出“11.55”,正如我所期望的那样。但是,当我在Linux上做同样的操作时,输出是“11.54”!在

我最初在Python中遇到了这个问题,但是进一步的研究表明,区别在于底层C运行库。(在这两种情况下,体系结构都是x86-x64)在Windows和Linux上运行下面的C会产生不同的结果,就像在Python中一样。在

printf("%.2f", 11.545);

为了进一步阐明这一点,我将数字打印到小数点后20位("%.20f"):

^{pr2}$

我知道11.545不能精确地存储为二进制数。因此,看起来Linux以尽可能高的精度输出实际存储的数字,而Windows则输出最简单的十进制表示,即试图猜测用户最可能的意思。在

我的问题是:有没有什么(合理的)方法来模拟Windows上的Linux行为?

(虽然Windows的行为当然是直观的,但在我的例子中,我需要将Windows程序的输出与Linux程序的输出进行比较,而Windows程序是我唯一可以改变的。顺便说一句,我试图查看printf的Windows源代码,但实际执行float->;字符串转换的函数是_cfltcvt_l,它的源似乎不可用。)

编辑:图变粗!关于这是由不精确表示引起的理论可能是错误的,因为0.125确实有一个精确的二进制表示,当用'%.2f' % 0.125输出时,它仍然不同:

Windows: 0.13
Linux:   0.12

但是,round(0.125, 2)在Windows和Linux上都返回0.13。在


Tags: 程序linuxwindows体系结构二进制情况精度数字
3条回答

我不认为Windows在这里做了什么特别聪明的事情(比如试图重新解释以10为基数的浮点数):我猜它只是精确地计算前17个有效数字(即“1154.500000000000”),然后在末尾加上额外的零,以补加点后所需的位数。在

正如其他人所说,0.125的不同结果来自于Windows使用取整取整和Linux使用取整半到偶数。在

请注意,对于python3.1(和python2.7,当它出现时),格式化float的结果将是平台无关的(除了在不寻常的平台上)。在

十进制模块提供多种取整模式:

import decimal

fs = ['11.544','11.545','11.546']

def convert(f,nd):
    # we want 'nd' beyond the dec point
    nd = f.find('.') + nd
    c1 = decimal.getcontext().copy()
    c1.rounding = decimal.ROUND_HALF_UP
    c1.prec = nd
    d1 = c1.create_decimal(f)
    c2 = decimal.getcontext().copy()
    c2.rounding = decimal.ROUND_HALF_DOWN
    c2.prec = nd   
    d2 = c2.create_decimal(f)
    print d1, d2

for f in fs:
    convert(f,2)

可以从int或字符串构造十进制数。在您的例子中,输入一个比您想要的多的数字的字符串,然后通过设置截断它上下文.prec. 在

下面是一个pymotw post的链接,其中包含decimal模块的详细概述:

{a1}

首先,在这种情况下,Windows的错误似乎是正确的(这并不重要)。C标准要求将%.2f输出的值舍入到适当的位数。最著名的算法是由David M. Gay实现的dtoa。您可能可以将其移植到Windows或找到本机实现。在

如果你还没读过Steele and White的《How to Print Floating Point Numbers Accurate》(如何精确打印浮点数),找一份复印件读一读。这绝对是一本启发性的读物。一定要找到70年代末的原件。我想我是从ACM或IEEE那里买的。在

相关问题 更多 >