Numpy - 两个浮点数与浮点类型精度之间的差异
Numpy - Difference between two floats vs float type's precision
我正在查看 numpy.finfo
并执行了以下操作:
In [14]: np.finfo(np.float16).resolution
Out[14]: 0.0010004
In [16]: np.array([0., 0.0001], dtype=np.float16)
Out[16]: array([ 0. , 0.00010002], dtype=float16)
向量似乎能够存储两个数字,使得它们的差异比类型的分辨率小 10 倍。我错过了什么吗?
据我了解,精度是您可以拥有的小数位数。但是由于浮点数与指数一起存储,因此您可以使用比分辨率更小的数字。试试 np.finfo(np.float16).tiny
,它应该给你 6.1035e-05
,这比分辨率小得多。但该数字的基数部分的分辨率约为 0.001。请注意,finfo 中的所有限制都是近似值,因为二进制表示与精确的十进制限制不直接相关。
浮点数在初始数字后具有固定的分辨率。这个数字告诉你的是,当第一个数字在 1.0 位置时,这个数字的分辨率是多少。您可以通过尝试将较小的金额添加到 1.0 来看到这一点:
In [8]: np.float16(1) + np.float16(0.001)
Out[8]: 1.001
In [9]: np.float16(1) + np.float16(0.0001)
Out[9]: 1.0
这与 nextafter
函数有关,它给出给定数字后的下一个可表示数字。取这个差值可以得到大约这个分辨率:
In [10]: np.nextafter(np.float16(1), np.float16(np.inf)) - np.float16(1)
Out[10]: 0.00097656
我正在查看 numpy.finfo
并执行了以下操作:
In [14]: np.finfo(np.float16).resolution
Out[14]: 0.0010004
In [16]: np.array([0., 0.0001], dtype=np.float16)
Out[16]: array([ 0. , 0.00010002], dtype=float16)
向量似乎能够存储两个数字,使得它们的差异比类型的分辨率小 10 倍。我错过了什么吗?
据我了解,精度是您可以拥有的小数位数。但是由于浮点数与指数一起存储,因此您可以使用比分辨率更小的数字。试试 np.finfo(np.float16).tiny
,它应该给你 6.1035e-05
,这比分辨率小得多。但该数字的基数部分的分辨率约为 0.001。请注意,finfo 中的所有限制都是近似值,因为二进制表示与精确的十进制限制不直接相关。
浮点数在初始数字后具有固定的分辨率。这个数字告诉你的是,当第一个数字在 1.0 位置时,这个数字的分辨率是多少。您可以通过尝试将较小的金额添加到 1.0 来看到这一点:
In [8]: np.float16(1) + np.float16(0.001)
Out[8]: 1.001
In [9]: np.float16(1) + np.float16(0.0001)
Out[9]: 1.0
这与 nextafter
函数有关,它给出给定数字后的下一个可表示数字。取这个差值可以得到大约这个分辨率:
In [10]: np.nextafter(np.float16(1), np.float16(np.inf)) - np.float16(1)
Out[10]: 0.00097656