GNU Octave 失败 hex2dec

问题描述

遇到一些 HEX 到 DEC conversions 的失败

b = '0x170d21b9' 
bdec = hex2dec(b)

返回

bdec = NaN

但应该是386736569

上面例子中如何将十六进制数转换为整数？

解决方法

不要使用 0x。这是在某些语言中用于表示数字是十六进制的符号，但实际上不是数字的一部分。 Octave 的 hex2dec 函数不使用它。输入 b = '170d21b9'，你会得到 bdec = 386736569。