小程序
小游戏
企业微信
微信支付
扫描小程序码分享
浮点计算有问题
4 个回答
加粗
标红
插入代码
插入链接
插入图片
上传视频
写个小数点 其它小数不出差 就个别出错 也是醉了,还要科学记数法写 太不蛋疼了
你好,麻烦通过点击下方“反馈信息”按钮,提供出现问题的。
3.827e-3 这样写
浮点数的精度问题不是 JavaScript 特有的,因为有些小数以二进制表示位数是无穷的,一定会有精度损失。
所以使用浮点数进行计算一定要小心,尤其是等于判断(==)。楼主有兴趣的话可以从网上搜一些资料学习一下,有很多原理讲解,以及常用的处理技巧。
(-0.3827)*100这样可以减少错误,但是还是有不精确
关注后,可在微信内接收相应的重要提醒。
请使用微信扫描二维码关注 “微信开放社区” 公众号
写个小数点 其它小数不出差 就个别出错 也是醉了,还要科学记数法写 太不蛋疼了
3.827e-3 这样写
浮点数的精度问题不是 JavaScript 特有的,因为有些小数以二进制表示位数是无穷的,一定会有精度损失。
所以使用浮点数进行计算一定要小心,尤其是等于判断(==)。楼主有兴趣的话可以从网上搜一些资料学习一下,有很多原理讲解,以及常用的处理技巧。
(-0.3827)*100这样可以减少错误,但是还是有不精确