比较 KDB 中的浮点数?
Comparing floats in KDB?
我正在尝试比较 KDB 中的数字。
如果我这样做:
exp 0.6931472
我收到 2f
作为回应。
如果我这样做 (exp 0.6931472) = 2
,当我期望 1b
时,我会得到 0b
。
我做错了什么?
最初返回的 2f 并不完全是 2f,调整精度可以说明这一点。
q)\P 10
q)exp 0.6931472
2.000000039
您可以使用 -P
命令行 arg 在会话中设置精度,这应该会更清楚。
我正在尝试比较 KDB 中的数字。
如果我这样做:
exp 0.6931472
我收到 2f
作为回应。
如果我这样做 (exp 0.6931472) = 2
,当我期望 1b
时,我会得到 0b
。
我做错了什么?
最初返回的 2f 并不完全是 2f,调整精度可以说明这一点。
q)\P 10
q)exp 0.6931472
2.000000039
您可以使用 -P
命令行 arg 在会话中设置精度,这应该会更清楚。