js哪些运算精度丢失

JavaScript011

js哪些运算精度丢失,第1张

由于在H5页面上需要进行动态的金额计算,且金额涉及到了小数,因而随之产生了JS浮点数计算的精度丢失问题。

刚开始的时候,测试给提了一个金额计算误差的问题,刚开始我还没怎么重视,然后瞅了瞅代码,随便改了改做了些异常处理,然后就给提交了。

接着,测试又提了一个bug,“6.8-0.9=5.8”。然后顿时我就蒙逼了,随后突然意识到,JS作为解释性语言,直接计算会有浮点数精度丢失问题。接下来,在网上找了一些资料,然后也根据具体的原理自己做了一些修改,最终解决了问题。

浮点数的二进制表示:

IEEE 754 标准是IEEE二进位浮点数算术标准(IEEE Standard for Floating-Point Arithmetic)的标准编号,等同于国际标准ISO/IEC/IEEE 60559。该标准由美国电气电子工程师学会(IEEE)计算机学会旗下的微处理器标准委员会(Microprocessor Standards Committee, MSC)发布。这个标准定义了表示浮点数的格式(包括负零-0)与反常值(denormal number),一些特殊数值(无穷(Inf)与非数值(NaN)),以及这些数值的「浮点数运算子」;它也指明了四种数值修约规则和五种例外状况(包括例外发生的时机与处理方式)。

JS的浮点数实现也是遵循IEEE 754标准,采用双精度存储(double precision),进行了相关的实现。其中1位用来表示符号位,11位用来表示指数,52位表示尾数。

解决方案:

本质上在处理这类问题的时候,基本的思路就是通过将浮点数转换成整数进行计算,然后再将整数的小数点位调整,转回正确的浮点数结果。

经常做用js数据运算的同学应该了解,在js中,0.1+0.2不会等于0.3,而是等于:

我一开始发现这个bug的时候也觉得很奇怪,那怎么去解决这个bug,让0.1+0.2 最后能得到0.3呢?

方法一

最简单的就是先把0.1和0.2换成别的数字(因为在js中只有这两个数相加有bug,例如:1.1+1.2不会有问题),所以先让0.1和0.2分别乘以10,求和之后再除以10 ,则不会有问题:

方法二

可能很多小伙伴都忘记了js的Number对象有一个保留小数位数的方法:toFixed();传入一个需要保留的位数就OK:

因为toFixed方法返回的是一个字符串,所以别忘了把字符串转回浮点数。