如何在Java中使用Float处理精度错误?

2022-02-23 00:00:00 floating-point precision java

我想知道在Java中修复精度错误的最佳方法是什么。正如您在以下示例中看到的,存在精度错误:

class FloatTest
{
  public static void main(String[] args)
  {
    Float number1 = 1.89f;
    
    for(int i = 11; i < 800; i*=2)
    {
      System.out.println("loop value: " + i);
      System.out.println(i*number1);
      System.out.println("");
    }
  }
}

显示结果为:

循环值:11

20.789999

循环值:22

41.579998

循环值:44

83.159996

循环值:88

166.31999

循环值:176

332.63998

循环值:352

665.27997

循环值:704

1330.5599

另外,如果有人能解释为什么它只从11开始,并且每次值都加倍。我认为所有其他值(或至少其中许多值)都显示了正确的结果。

此类问题过去一直让我头疼,我通常使用数字格式化程序或将其放入字符串中。

编辑:正如大家所说,我可以使用双精度,但尝试之后,似乎1.89作为双精度乘792仍然会输出错误(输出是1496.8799999999999)。

我想我会尝试其他解决方案,如BigDecimal


解决方案

如果您确实关心精度,则应该使用BigDecimal

https://docs.oracle.com/javase/8/docs/api/java/math/BigDecimal.html

https://docs.oracle.com/en/java/javase/11/docs/api/java.base/java/math/BigDecimal.html

相关文章