GNU Octave 失败 hex2dec

Question

遇到一些 HEX 到 DEC 的失败 conversions

b = '0x170d21b9' 
bdec = hex2dec(b)

Return

bdec = NaN

但应该是386736569

如何将上述例子中的十六进制数转换为整数？

Answer 1

省略 0x。这是某些语言中使用的一种表示法，表示数字是十六进制的，但实际上并不是数字的一部分。 Octave 的 hex2dec 函数不使用它。输入 b = '170d21b9' 你会得到 bdec = 386736569.