在 Python 中使用 0xFFFFFFFF 掩码检测 int32 溢出？

Question

我发现使用 0xFFFFFFFF 掩码检测 Python 中的 int32 溢出可能适用于正数。

表达式：

x & 0xFFFFFFFF == x

将 return True 如果 x 不溢出且 x 大于 0。

但是，此表达式不适用于负整数，例如：

(-7 & 0xFFFFFFFF) == -7

将 return False，但 -7 不应溢出 int32 范围..

有人知道为什么这种方法对 -7 不起作用以及如何让它起作用吗？

Answer 1

那是因为 Python 不考虑数字的任何固定宽度。所以你没有像我们为 C/C++ 语言那样的任何符号位（最高有效位）。换句话说，当您在负数和 0xffff 之间执行位与时，结果是一个大的正数而不是负数：

>>> print(-7 & 0xFFFF)
65529
>>> print(-7 & 0xFFFFFFFF)
4294967289
>>>

确认上述声明：

>>> x = -1
>>> y = -2
>>> z = -4
>>> x.bit_length()
1
>>> y.bit_length()
2
>>> z.bit_length()
3
>>>

而在 C/C++ 语言中，我们有 固定宽度 数字：

#include <iostream>
#include <string>

int main()
{
  int i = -7 & 0xFFFFFFFF;
  std::cout <<  i;
}

输出是相同的负数（如果我们为 & 运算符的右侧选择正确的长度）：

-7

我猜你需要定义一个函数来瞄准你的目标并传递带有长度的数字。（例如 4 字节或 8 字节）。

像这样：

>>> def isOverflow(num, width=32):
    if num > 0 and num > 2**(width-1) -1 :
        return True
    elif num < 0 and abs(num) > 2**(width-1):
        return True
    return False

或更高效的版本：

def isOverflow(num, width=32):
    if num > 0:
        if num >> width-1:
            return True
    elif num < 0:
        if abs(num) > (1 << width - 1):
            return True
    return False

效果如下：

>>> ================================ RESTART ================================
>>> 
>>> isOverflow(-129,8)
True
>>> isOverflow(-128,8)
False
>>> isOverflow(128,8)
True
>>> isOverflow(127,8)
False
>>> isOverflow(0x7fffffff)
False
>>> isOverflow(0x8fffffff)
True

在 Python 中使用 0xFFFFFFFF 掩码检测 int32 溢出？

Detect int32 overflow using 0xFFFFFFFF masking in Python?

python

python-3.x

binary

overflow

sign