除法结果中的有效位数

2024-10-01 13:25:55 发布

您现在位置:Python中文网/ 问答频道 /正文

这里是新手。我有以下代码:

myADC = 128
maxVoltage = 5.0
maxADC = 255.0
VoltsPerADC = maxVoltage/maxADC
myVolts = myADC * VoltsPerADC
print "myADC = {0: >3}".format(myADC)
print "VoltsPerADC =  {0: >7}".format(VoltsPerADC)
print VoltsPerADC
print "myVolts = {0: >7}".format(myVolts)
print myVolts

这将输出以下内容:

^{pr2}$

我一直在寻找一个解释,解释有效位数是如何在默认情况下确定的,但一直找不到一个对我有意义的解释。这个链接link text表明默认情况下,“print”语句将数字打印到10个有效数字,但在我的结果中似乎不是这样。在

如何确定有效位数/精度?在

有人能帮我解释一下吗。在

提前感谢您的时间和耐心。在


Tags: 代码textformat链接link情况意义print
2条回答

通常,如果文档不在python.org网站,它不是权威的。如果你看一下print,它会告诉你浮点数首先被转换成字符串,float会告诉你(作为Thomas noted)机器本机的{}类型是如何存储浮点数的,并且语言不保证有效数字。在

精度由硬件决定。Python使用硬件浮动(实际上是双倍)作为浮动。本教程将讨论这些含义:http://docs.python.org/tutorial/floatingpoint.html

如果您想要更多地控制精度和舍入,您应该考虑使用decimal模块。在

相关问题 更多 >