Python2.7.9(default,Dec102014,12:28:03)[MSCv.150064bit(AMD64)]onwin32>>>print'%.100f'%(9999.0/10000)0.9999000000000000110134124042815528810024261474609375000000000000000000000000000000000000000000000000从原理上阐述下为什么产生这样的误差？
2 回答
POPMUISE
TA贡献1765条经验 获得超5个赞
可以参考IEEE的浮点数标准浮点数在计算机中的存储往往采取这个标准,其只能精确表示2^x的倍数,而除此之外的其它数字只能尽量逼近.因此使用浮点数是会有误差的.
添加回答
举报
0/150
提交
取消