转化整型的时候会截断小数位变成28了,朋友开发一个java项目做折扣计算的时候出现这个问题了。结果发现.Net也是这样。不光是0.29 0.57的时候也会变成56.9999999X
8 回答
潇潇雨雨
TA贡献1833条经验 获得超4个赞
decimal a = 0.29m
这样的计算方式就是精确的。
dobule和float 比如1.0 在计算机中可能表现为0.9999999999999999999或者是 1.000000000000001
这2种形式
- 8 回答
- 0 关注
- 1194 浏览
添加回答
举报
0/150
提交
取消