IEEE754 浮点数最常用的舍入算法
Commonest rounding algorithm for IEEE754 floating point
IEEE754 标准定义了五种舍入规则。前两轮以一
最近的值(与偶数相关,与零相关);其他的称为定向舍入:趋向于零、趋向正无穷大和趋向负无穷大。
其中哪一个最常用,为什么?
最常用的模式是默认模式:舍入到最接近,并列到偶数。
为什么?这只是一个猜测,但是:
- 最小化误差:定向舍入最多可有 1 ulp 舍入误差,而舍入到最近的舍入误差为 1/2 ulp
- 避免舍入偏差:当数千个舍入被链接起来时,远离零可能会产生偏差
IEEE754 标准定义了五种舍入规则。前两轮以一 最近的值(与偶数相关,与零相关);其他的称为定向舍入:趋向于零、趋向正无穷大和趋向负无穷大。 其中哪一个最常用,为什么?
最常用的模式是默认模式:舍入到最接近,并列到偶数。
为什么?这只是一个猜测,但是:
- 最小化误差:定向舍入最多可有 1 ulp 舍入误差,而舍入到最近的舍入误差为 1/2 ulp
- 避免舍入偏差:当数千个舍入被链接起来时,远离零可能会产生偏差