为了账号安全,请及时绑定邮箱和手机立即绑定

将 float 转换为 int 时的 Golang 奇怪行为

将 float 转换为 int 时的 Golang 奇怪行为

Go
当年话下 2022-07-25 10:18:14
我在golang中有以下代码:var fnum float32 = 99999999;var inum int32 = int32(fnum);fmt.Println(inum); // This prints out 100000000为什么 99999999 变成了 100000000?我认为我没有超过 float32 和 int32 的限制,所以不知道为什么会这样。
查看完整描述

1 回答

?
梦里花落0921

TA贡献1772条经验 获得超6个赞

(IEEE 754) 32 位浮点数表示形式为实数值

value = (−1)^sign × 2^e × (1 + 2^−1 b[22] + 2^−2 b[21] + ... + 2^−23 b[0])

其中“e”是介于 -126 到 +127 之间的整数指数,“b[22], ..., b[0]” 构成有效位。

显然,这种表示是有限的,并不是所有的实数都可以准确地表示。对于整数,不能精确表示为 float32 的最小整数是 2^24 + 1 = 16777217。特别是此时的指数因子是 2^24,但最小有效数项是 2^−23 b[ 0],奇数(值%2)≠2^24以上的0不能精确表示。

类似地,对于值 99999999,指数因子为 2^26,并且大于 2^26 且 (值 % 8) ≠ 0 的整数无法精确表示。最接近 99999999 的可表示 float32 值是 99999992 和 100000000。


查看完整回答
反对 回复 2022-07-25
  • 1 回答
  • 0 关注
  • 65 浏览
慕课专栏
更多

添加回答

举报

0/150
提交
取消
意见反馈 帮助中心 APP下载
官方微信