python unittest2 assertAlmostEqual with `places` 工作不正确
python unittest2 assertAlmostEqual with `places` works incorrectly
我正在使用 unittest2
处理以下问题:
assertAlmostEqual(69.88, 69.875, places=2) # returns True
但是
assertAlmostEqual(1.28, 1.275, places=2) # returns False
我认为问题出在 assertAlmostEqual
方法中:
def assertAlmostEqual(self, first, second, places=None, ...):
if first == second:
# shortcut
return
...
if delta is not None:
...
else:
if places is None:
places = 7
if round(abs(second-first), places) == 0:
return
...
raise self.failureException(msg)
应该改为:
if abs(round(second, places) - round(first, places)) == 0
return
您提出的修复没有任何区别,您可以轻松地证明:
>>> places = 2
>>> first, second = 69.88, 69.875
>>> round(abs(second-first), places)
0.0
>>> abs(round(second, places) - round(first, places))
0.0
这是浮点精度的问题,参见例如Is floating point math broken? 69.88
无法准确表示:
>>> "{:.40f}".format(69.88)
'69.8799999999999954525264911353588104248047'
第二个例子的区别是
0.005
即使没有提到浮点数的偏差,轮次结果也将是 0.01,所以这些数字确实与两位精度不同
此方法比较数字之间的差异。这实际上是比较浮点数的标准
所以问题不在于实现,而在于你的期望,这与普通的 float 比较不同
我正在使用 unittest2
处理以下问题:
assertAlmostEqual(69.88, 69.875, places=2) # returns True
但是
assertAlmostEqual(1.28, 1.275, places=2) # returns False
我认为问题出在 assertAlmostEqual
方法中:
def assertAlmostEqual(self, first, second, places=None, ...):
if first == second:
# shortcut
return
...
if delta is not None:
...
else:
if places is None:
places = 7
if round(abs(second-first), places) == 0:
return
...
raise self.failureException(msg)
应该改为:
if abs(round(second, places) - round(first, places)) == 0
return
您提出的修复没有任何区别,您可以轻松地证明:
>>> places = 2
>>> first, second = 69.88, 69.875
>>> round(abs(second-first), places)
0.0
>>> abs(round(second, places) - round(first, places))
0.0
这是浮点精度的问题,参见例如Is floating point math broken? 69.88
无法准确表示:
>>> "{:.40f}".format(69.88)
'69.8799999999999954525264911353588104248047'
第二个例子的区别是
0.005
即使没有提到浮点数的偏差,轮次结果也将是 0.01,所以这些数字确实与两位精度不同
此方法比较数字之间的差异。这实际上是比较浮点数的标准
所以问题不在于实现,而在于你的期望,这与普通的 float 比较不同