如何防止 BigDecimal 截断结果？

Question

跟进：

我想计算 1/1048576 并得到正确的结果，即 0.00000095367431640625。

使用 BigDecimal 的 / 截断结果：

require 'bigdecimal'
a = BigDecimal.new(1)
#=> #<BigDecimal:7fd8f18aaf80,'0.1E1',9(27)>
b = BigDecimal.new(2**20)
#=> #<BigDecimal:7fd8f189ed20,'0.1048576E7',9(27)>

n = a / b
#=> #<BigDecimal:7fd8f0898750,'0.9536743164 06E-6',18(36)>

n.to_s('F')
#=> "0.000000953674316406" <- should be ...625

这真的让我感到惊讶，因为我的印象是 BigDecimal 会起作用。

为了获得正确的结果，我必须使用具有明确精度的 div：

n = a.div(b, 100)
#=> #<BigDecimal:7fd8f29517a8,'0.9536743164 0625E-6',27(126)>

n.to_s('F')
#=> "0.00000095367431640625" <- correct

但我不太理解精度的论点。为什么我必须指定它以及我必须使用什么值才能获得未截断的结果？

这是否符合 "arbitrary-precision floating point decimal arithmetic"？

此外，如果我通过以下方式计算上述值：

a = BigDecimal.new(5**20)
#=> #<BigDecimal:7fd8f20ab7e8,'0.9536743164 0625E14',18(27)>
b = BigDecimal.new(10**20)
#=> #<BigDecimal:7fd8f2925ab8,'0.1E21',9(36)>

n = a / b
#=> #<BigDecimal:7fd8f4866148,'0.9536743164 0625E-6',27(54)>

n.to_s('F')
#=> "0.00000095367431640625"

我确实得到了正确的结果。为什么？

Answer 1

BigDecimal 可以执行任意精度的浮点小数运算，但是它不能自动确定给定计算的 "correct" 精度。

例如，考虑

BigDecimal.new(1)/BigDecimal.new(3)
# <BigDecimal:1cfd748, '0.3333333333 33333333E0', 18(36)>

可以说，在这种情况下没有正确的精度；使用正确的值取决于您的计算所需的准确性。值得注意的是，在数学意义上†，几乎所有整数除法都会产生一个无限小数展开的数字，因此需要舍入。一个分数只有一个有限的表示，如果在将它减少到最低项后，分母的唯一质因数是 2 和 5。

所以你必须指定精度。不幸的是，精度参数有点奇怪，因为它似乎既是有效位数，又是小数点后的位数。这是 1/1048576 的不同精度

1   0.000001
2   0.00000095
3   0.000000953
9   0.000000953
10  0.0000009536743164
11  0.00000095367431641
12  0.000000953674316406
18  0.000000953674316406
19  0.00000095367431640625

对于任何小于 10 的值，BigDecimal 会将结果截断为 9 位数字，这就是为什么在精度为 10 时精度会突然飙升：此时切换为截断为 18 位数字（然后四舍五入为 10 位有效数字数字）。

† 取决于您比较可数无限集大小的舒适程度。

如何防止 BigDecimal 截断结果？

How to prevent BigDecimal from truncating results?

ruby

precision

bigdecimal