收藏
回答

-0.3827乘以100,结果是-38.269999999999996

问题模块
API和组件

浮点计算有问题

最后一次编辑于  2017-05-20  (未经腾讯允许,不得转载)
邀请回答
复制链接收藏投诉关注问题回答

4 个回答

  • 绿血贵族
    绿血贵族
    2017-05-20

    (-0.3827)*100这样可以减少错误,但是还是有不精确

    2017-05-20
    赞同
    回复
  • maq
    maq
    2017-05-21

    浮点数的精度问题不是 JavaScript 特有的,因为有些小数以二进制表示位数是无穷的,一定会有精度损失。


    所以使用浮点数进行计算一定要小心,尤其是等于判断(==)。楼主有兴趣的话可以从网上搜一些资料学习一下,有很多原理讲解,以及常用的处理技巧。

    2017-05-21
    赞同
    回复
  • 炒饭()
    炒饭()
    2017-05-22

    3.827e-3   这样写

    2017-05-22
    赞同
    回复
  • 绿血贵族
    绿血贵族
    2017-05-22

    写个小数点  其它小数不出差 就个别出错 也是醉了,还要科学记数法写  太不蛋疼了

    2017-05-22
    赞同
    回复