如果我运行以下 Go 代码:fmt.Println(float32(0.1) + float32(0.2))
fmt.Println(float64(0.1) + float64(0.2))输出是:0.3
0.30000000000000004看来 float32 sum 的结果比 float64 sum 的结果更精确,为什么?我认为 float64 总是比 float32 更精确。我如何决定选择哪一个以获得最准确的结果?
1 回答
慕的地8271018
TA贡献1796条经验 获得超4个赞
事实并非如此。fmt.Println
只是让它看起来更精确。Println
用于%g
浮点数和复数。文档说...
默认精度... %g 它是唯一标识该值所需的最小位数。
0.3 足以识别float32
. 但float64
更精确需要更多的数字。
我们可以使用fmt.Printf
和%0.20g
强制两个数字显示相同的精度。
f32 := float32(0.1) + float32(0.2)
f64 := float64(0.1) + float64(0.2)
fmt.Printf("%0.20g\n", f32)
fmt.Printf("%0.20g\n", f64)
0.30000001192092895508
0.30000000000000004441
float64更精确。两者都不精确,因为这是浮点数的本质。
我们可以用它strconv.FormatFloat
来看看这些数字到底是什么。
fmt.Println(strconv.FormatFloat(float64(f32), 'b', -1, 32))
fmt.Println(strconv.FormatFloat(f64, 'b', -1, 64))
10066330p-25
5404319552844596p-54
即10066330 * 2^-25和5404319552844596 * 2^-54。
- 1 回答
- 0 关注
- 91 浏览
添加回答
举报
0/150
提交
取消