找到截断值的极限意味着什么？

Question

X_hat 是 X 的近似值。它由 X_t 给出，X 使用 t 位截断。

求 X_t / X 的极限。

X_hat 和 X_t 以浮点二进制表示。据我了解：

If t = 3 and X_hat = 1, X_t = 1.01

1/1 = 1是上限？下限呢？

Answer 1

下面假设问题是关于 significant 位（例如十进制，3141592 截断为 3 个有效数字将是 3140000，并且截断为 5 位有效数字将是 3141500)。由于问题是相对误差，小数点有无或小数点位置无关紧要，因此不失一般性可以假定数字为整数。

如果 X = 0 则 X̂ = X = 0 和 X̂ / X 未定义。

否则，如果 0 < X < 2^(t-1) 则 X 最多有 t-1 个有效位，截断后 X 不变，因此 X̂ = X 和 X̂ / X = 1.

否则，如果 X >= 2^(t-1) 则 X 可以写成 X = 2^n q + r，其中 n >= 0、2^(t-1) <= q < 2^t 和 0 <= r < 2^n。 X的最左边t位是q，所以X截断到t有效位是X̂ = 2^n q.

然后X̂ / X = 2^n q / (2^n q + r) = 1 - 1 / (1 + r / (2^n q))。表达式在 r 中减少，在 q 中增加，结合 r < 2^n 和 q >= 2^(t-1) 给出下限：

X̂ / X  >  2^(n+t-1) / (2^(n+t-1) + 2^n)
       =  1 - 1 / (1 + 2^(t-1))

对于固定的 n > 0，从 r <= 2^n - 1 和 q >= 2^(t-1) 得出的确切下限是：

X̂ / X  >=  2^(n+t-1) / (2^(n+t-1) + 2^n - 1)
        =  1 - (2^n - 1) / (2^(n+t-1) + 2^n - 1)
        =  1 - 1 / (1 + 2^(n+t-1) / (2^n - 1))
        =  1 - 1 / (1 + 2^(t-1) / (1 - 1 / 2^n))

X = 2^(n+t-1) + 2^n - 1 对应 X̂ = 2^(n+t-1) 达到此下限。在极限 n → ∞ 中，它减少到独立于上一步导出的 n 的下限。

找到截断值的极限意味着什么？

What does finding the limits of a truncated value mean?

math

truncation

approximate