为何js计算带有小数的加法的时候会出现误差？

JavaScript019

为何js计算带有小数的加法的时候会出现误差？,第1张

很正常的，浮点数运算的误差。哪种语言都这样，只是误差大小不同而已。 \x0d\x0a 用解析字符串的方式移动小数点，转化为整数，完毕后，在把小数点复位。 \x0d\x0a 浮点数运算的时候，先转化为二进制，用二进制来算，结果再转回十进制 \x0d\x0a 例如 ：求1038.1-1000 \x0d\x0a 1038.1＝10000001110.0001100110011001100110011001100110011001100..... \x0d\x0a 1000＝ 1111101000 \x0d\x0a 1038.1转化为二进制是个无限循环小数，1100是循环节，只能取近似值，误差就是这里产生的 \x0d\x0a如果浏览器版本高，可以用toFixed() 方法可把 Number 四舍五入为指定小数位数的数字.\x0d\x0a后有固定的 num 位数字。如果必要，该数字会被舍入，也可以用 0 补足，以便它达到指定的长度。如果 num 大于 le+21，则该方法只调用 NumberObject.toString()，返回采用指数计数法表示的字符串。\x0d\x0a语法\x0d\x0aNumberObject.toFixed(num)\x0d\x0a返回值\x0d\x0a返回 NumberObject 的字符串表示，不采用指数计数法，小数点后有固定的 num 位数字。如果必要，该数字会被舍入，也可以用 0 补足，以便它达到指定的长度。如果 num 大于 le+21，则该方法只调用 NumberObject.toString()，返回采用指数计数法表示的字符串。\x0d\x0a\x0d\x0a抛出\x0d\x0a当 num 太小或太大时抛出异常 RangeError。0 ~ 20 之间的值不会引发该异常。有些实现支持更大范围或更小范围内的值。\x0d\x0a\x0d\x0a当调用该方法的对象不是 Number 时抛出 TypeError 异常。\x0d\x0a在本例中，我们将把数字舍入为仅有一位小数的数字：\x0d\x0a\x0d\x0aShow the number 13.37 with one decimal:\x0d\x0a\x0d\x0avar num = new Number(13.37)\x0d\x0adocument.write (num.toFixed(1))\x0d\x0a\x0d\x0a\x0d\x0a输出：\x0d\x0aShow the number 13.37 with one decimal:\x0d\x0a13.4

JavaScript 是一门弱类型的语言，从设计思想上就没有对浮点数有个严格的数据类型，所以精度误差的问题就显得格外突出。下面就分析下为什么会有这个精度误差，以及怎样修复这个误差。

首先，我们要站在计算机的角度思考 0.1 + 0.2 这个看似小儿科的问题。我们知道，能被计算机读懂的是二进制，而不是十进制，所以我们先把 0.1 和 0.2 转换成二进制看看：

0.1 =>0.0001 1001 1001 1001…（无限循环）

0.2 =>0.0011 0011 0011 0011…（无限循环）

双精度浮点数的小数部分最多支持 52 位，所以两者相加之后得到这么一串 0.0100110011001100110011001100110011001100110011001100 因浮点数小数位的限制而截断的二进制数字，这时候，我们再把它转换为十进制，就成了 0.30000000000000004。

原来如此，那怎么解决这个问题呢？我想要的结果就是 0.1 + 0.2 === 0.3 啊！！！

有种最简单的解决方案，就是给出明确的精度要求，在返回值的过程中，计算机会自动四舍五入，比如：

var numA = 0.1

var numB = 0.2

alert( parseFloat((numA + numB).toFixed(2)) === 0.3 )

乘法运算中有这种，比如0.58*100，结果是57.99999999999999。可以用Math.round()进行处理，

------||-------

尽量避免对小数进行操作，先处理成整数后在进行操作，其结果会比较精确。

//加法

Number.prototype.add = function (arg) {

    var r1 = 0, r2 = 0, m

    //获取小数的位数并取最大值

    try { r1 = this.toString().split(".")[1].length } catch (e) { }

    try { r2 = arg.toString().split(".")[1].length } catch (e) { }

    m = Math.pow(10, Math.max(r1, r2))

    return (this * m + arg * m) / m

}

//减法

Number.prototype.sub = function (arg) {

    return this.add(-arg)

}

//乘法

Number.prototype.mul = function (arg) {

    var m = 0, s1 = this.toString(), s2 = arg.toString()

    //小数位数相加

    try { m += s1.split(".")[1].length } catch (e) { }

    try { m += s2.split(".")[1].length } catch (e) { }

    return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)

}

//除法

Number.prototype.div = function (arg) {

    var t1 = 0, t2 = 0, r1, r2

    try { t1 = this.toString().split(".")[1].length } catch (e) { }

    try { t2 = arg.toString().split(".")[1].length } catch (e) { }

    //将小数点去掉转换为整数

    r1 = Number(this.toString().replace(".", ""))

    r2 = Number(arg.toString().replace(".", ""))

    return (r1 / r2) * Math.pow(10, t2 - t1)

}