用十进制数修复浮点精度

2022-04-01 00:00:00 python rounding

问题描述

a = 1

for x in range(5):
    a += 0.1
    print(a)

这是结果:

1.1
1.2000000000000002
1.3000000000000003
1.4000000000000004
1.5000000000000004

我如何修复此问题?round()函数是唯一的方法吗?我可以在设置变量的值之前设置其精度吗?


解决方案

我可以在设置值之前设置变量的精度吗?

使用decimal模块,与float()不同,它提供任意精度并可以精确表示十进制数:

>>> from decimal import Decimal, getcontext
>>> 
>>> getcontext().prec = 5
>>> 
>>> a = Decimal(1)
>>> 
>>> for x in range(5):
...     a += Decimal(0.1)
...     print(a)
... 
1.1000
1.2000
1.3000
1.4000
1.5000

相关文章