使用数值方法进行计算时浮点数不准确

Question

所以我在用数值方法计算e（图中第三行）。

我正在增加每次迭代使用的元素数量。当我执行程序时，浮点变量以我不理解的方式运行。这是程序和结果。

import java.util.Scanner;

    public class Test {

       public static void main(String[] args) {

          Scanner input = new Scanner(System.in);

          int factorial = 1;
          int counter = 0;
          int iterationNumber;
          double total = 0;
          int tempCounter;

          System.out.print("Enter iteration number: ");
          iterationNumber = input.nextInt();

          while (counter <= iterationNumber) {

             tempCounter = counter;

             while ((tempCounter - 1) > 0) {
                factorial *= tempCounter;
                tempCounter--;
             }

             total += ((double)1 / factorial);
             System.out.println(total);

             factorial = 1;
             counter ++;
          }
       }
    }

所以我的问题是为什么e的值在一段时间后开始减少而不是增加？我想了解浮点变量在此程序中的行为及其背后的逻辑。

另一个问题是为什么它开始说无穷大？

Answer 1

n! 很快超过 Integer.MAX_VALUE 并溢出到负数。然后，您在总数中添加了一个负数——因此减少了。

您可以使用 BigDecimal 进行计算。它速度较慢，但可以完成工作。

使用数值方法进行计算时浮点数不准确

Floating point inaccuracy during e calculation with numerical methods

java

variables

precision

double