为了账号安全,请及时绑定邮箱和手机立即绑定

如何处理java的Math.pow()计算的误差

如何处理java的Math.pow()计算的误差

开心每一天1111 2018-12-04 11:09:37
Java中12*Math.pow(10, -1)的计算结果是1.2000000000000002,怎样让幂计算得出正确的结果,项目中有大量类似的幂计算。
查看完整描述

2 回答

?
慕雪6442864

TA贡献1812条经验 获得超5个赞

我记得用Math.pow参数必须为正,所以最好判断一下是否为正数,如果为负数,可以先转为分数计算,如:Math.pow(10, -2)应该写为Math.pow(1/10, 2)

查看完整回答
反对 回复 2018-12-08
?
天涯尽头无女友

TA贡献1831条经验 获得超9个赞

不知道java有没有像c#一样的decimal类型

查看完整回答
反对 回复 2018-12-08
  • 2 回答
  • 0 关注
  • 1051 浏览

添加回答

举报

0/150
提交
取消
意见反馈 帮助中心 APP下载
官方微信