Python 2.7.9 (default, Dec 10 2014, 12:28:03) [MSC v.1500 64 bit (AMD64)] on win32
>>> print '%.100f' % (9999.0/10000)
0.9999000000000000110134124042815528810024261474609375000000000000000000000000000000000000000000000000
从原理上阐述下为什么产生这样的误差？
2 回答
人到中年有点甜
TA贡献1895条经验 获得超7个赞
可以参考IEEE的浮点数标准
浮点数在计算机中的存储往往采取这个标准, 其只能精确表示2^x的倍数, 而除此之外的其它数字只能尽量逼近.因此使用浮点数是会有误差的.
添加回答
举报
0/150
提交
取消