为什么浮点数中的精度问题会因值而异?
Why precision problems in a floating point number varies according to values?
我想知道为什么浮点数的精度问题随着值的不同而不同:
#include <iostream>
#include <iomanip>
int main ()
{
std::cout << std::setprecision(20);
double d1(1.0);
std::cout << d1 << std::endl;
double d2(0.1);
std::cout << d2 << std::endl;
return 0;
}
这个程序的输出是:
- 1
- 0.10000000000000000555
如果两个数字都是双精度类型(通常存在精度问题),为什么编译器没有发现值 1.0 有任何问题而发现值 0.1 有问题。我不清楚的另一件事是,如果精度设置为 20 位,为什么我得到一个包含 21 位的数字作为 d2 的结果?
您的计算机使用浮点表示法,其中 1.0
可以准确存储,但 0.1
不能。这大概是IEC 60559.
前导零不被视为精度的一部分(它们只是占位符);您的输出实际上有 20 位数字,不包括开头的 0.
。
我想知道为什么浮点数的精度问题随着值的不同而不同:
#include <iostream>
#include <iomanip>
int main ()
{
std::cout << std::setprecision(20);
double d1(1.0);
std::cout << d1 << std::endl;
double d2(0.1);
std::cout << d2 << std::endl;
return 0;
}
这个程序的输出是:
- 1
- 0.10000000000000000555
如果两个数字都是双精度类型(通常存在精度问题),为什么编译器没有发现值 1.0 有任何问题而发现值 0.1 有问题。我不清楚的另一件事是,如果精度设置为 20 位,为什么我得到一个包含 21 位的数字作为 d2 的结果?
您的计算机使用浮点表示法,其中 1.0
可以准确存储,但 0.1
不能。这大概是IEC 60559.
前导零不被视为精度的一部分(它们只是占位符);您的输出实际上有 20 位数字,不包括开头的 0.
。