为了账号安全,请及时绑定邮箱和手机立即绑定

解决javascript的Math.pow()误差问题

解决javascript的Math.pow()误差问题

慕容森 2018-12-06 18:30:23
发现javascript的Math.pow()的计算结果存在误差,比如12*Math.pow(10, -1)的输出结果是1.2000000000000002,怎样才能让Math.pow()输出精确的结果,需要用Math.pow()进行大量计算,求帮忙!
查看完整描述

2 回答

?
慕斯709654

TA贡献1840条经验 获得超5个赞

var n = 12 * Math.pow(10, -1);
        alert(FormatFloat(n, 1));

        function FormatFloat(f, d) {
            var m = Math.pow(10, d);
            return parseInt(f * m, 10) / m;
        }
查看完整回答
反对 回复 2018-12-24
?
DIEA

TA贡献1820条经验 获得超2个赞

toPrecision

查看完整回答
反对 回复 2018-12-24
  • 2 回答
  • 0 关注
  • 1141 浏览
慕课专栏
更多

添加回答

举报

0/150
提交
取消
意见反馈 帮助中心 APP下载
官方微信