我在golang中有以下代码:var fnum float32 = 99999999;var inum int32 = int32(fnum);fmt.Println(inum); // This prints out 100000000为什么 99999999 变成了 100000000?我认为我没有超过 float32 和 int32 的限制,所以不知道为什么会这样。
1 回答
梦里花落0921
TA贡献1772条经验 获得超6个赞
A (IEEE 754) 32 位浮点数表示形式为实数值
value = (−1)^sign × 2^e × (1 + 2^−1 b[22] + 2^−2 b[21] + ... + 2^−23 b[0])
其中“e”是介于 -126 到 +127 之间的整数指数,“b[22], ..., b[0]” 构成有效位。
显然,这种表示是有限的,并不是所有的实数都可以准确地表示。对于整数,不能精确表示为 float32 的最小整数是 2^24 + 1 = 16777217。特别是此时的指数因子是 2^24,但最小有效数项是 2^−23 b[ 0],奇数(值%2)≠2^24以上的0不能精确表示。
类似地,对于值 99999999,指数因子为 2^26,并且大于 2^26 且 (值 % 8) ≠ 0 的整数无法精确表示。最接近 99999999 的可表示 float32 值是 99999992 和 100000000。
- 1 回答
- 0 关注
- 65 浏览
添加回答
举报
0/150
提交
取消