excel 简单的数学错误 1 - 1.09 = -0.0900000000000001?
excel simple math error 1 - 1.09 = -0.0900000000000001?
我在使用 ROUNDUP 函数时发现了一个非常奇怪的答案,后来我发现 1-1.09 = -0.0900000000000001 根据 excel。我不是数学家,但我认为正确答案 1 - 1.09 必须是 -0.09。我不明白为什么答案是 -0.0900000000000001。这是一个错误还是我遗漏了什么?
P.S。我在 Windows 10
上使用 Excel2016 16.0.4417.10000 64 位
计算机只有0和1来表示任何值。将 0.1 转换为二进制数将导致很长的“零和一数”:.0001100011000111000111
为了避免无穷无尽,Excel会在最后四舍五入。但是这种相当于 0.1 的二进制四舍五入会导致计算错误。
在此处找到它。基本上 excel 这样做是为了节省内存 https://professor-excel.com/wrong-calculations-why-does-excel-show-a-wrong-result/
我在使用 ROUNDUP 函数时发现了一个非常奇怪的答案,后来我发现 1-1.09 = -0.0900000000000001 根据 excel。我不是数学家,但我认为正确答案 1 - 1.09 必须是 -0.09。我不明白为什么答案是 -0.0900000000000001。这是一个错误还是我遗漏了什么?
P.S。我在 Windows 10
上使用 Excel2016 16.0.4417.10000 64 位计算机只有0和1来表示任何值。将 0.1 转换为二进制数将导致很长的“零和一数”:.0001100011000111000111
为了避免无穷无尽,Excel会在最后四舍五入。但是这种相当于 0.1 的二进制四舍五入会导致计算错误。
在此处找到它。基本上 excel 这样做是为了节省内存 https://professor-excel.com/wrong-calculations-why-does-excel-show-a-wrong-result/