js浮点数的加减乘除解决方案

JavaScript016

js浮点数的加减乘除解决方案,第1张

一直知道js的浮点数计算是不精确的, 0.1 + 0.2 !== 0.3,但是也就知道而已,解决方法却不怎么注意,所以刚做一个项目,尽管了解浮点数精度不精确的问题,但是还是掉坑里了。在此再次默默告诉自己要警惕,端正心态,不可掉以轻心!!!所以下面就分享一些加减乘除的方法。

原理: 把数字转换成字符串,然后从小数点部分切割成两部分,分别算出两个因数的小数点右边的长度,然后用两个因数的小数点右边长度最大的数再乘以10,相当于两个都放大了n倍,然后相加,然后缩小n倍。

注意,这里的放大用了乘法times函数(下面介绍),因为浮点数直接乘以100有可能出现精度不够的情况,如下图

原理和加法一样,放大n倍后相减再缩小n倍

乘法原理稍微变点,放大倍数n是 ‘两个小数点后面长度之和’ 而不是 ‘两个小数点后面长度这两者之间的最大值’

除法原理和乘法一样

这也是一个坑,比如你要保留两位小数,四舍五入的话就要看小数点第三位后面的数字来决定,如2.445四舍五入后就是2.45; 2.444四舍五入就是2.44;做这个需求的时候,我第一反应是Math.toFixed(2),结果是bug百出啊,这里就不举例了,有兴趣可以自己尝试。然后我是怎么解决的呢?百度了一下,也是得到一些半成品不严谨的函数,原理也很简单,先放大倍数,然后利用Math.round()取整

以上加减乘除方法基本满足一般业务需求了,尤其是电商。但是如果数字计算时超出了 2的1024次方减1 ,也就是 9007199254740992 这个数字的话就不适合了,因为从 2^1024 开始就变成了 Infinity。

Math.add = function(v1, v2)

{

///<summary>精确计算加法。语法:Math.add(v1, v2)</summary>

///<param name="v1" type="number">操作数。</param>

///<param name="v2" type="number">操作数。</param>

///<returns type="number">计算结果。</returns>

var r1, r2, m

try

r1 = v1.toString().split(".")[1].length

}

catch (e)

{

r1 = 0

}

try

{

r2 = v2.toString().split(".")[1].length

}

catch (e)

{

r2 = 0

}

m = Math.pow(10, Math.max(r1, r2))

return (v1 * m + v2 * m) / m

}

Number.prototype.add = function(v)

{

///<summary>精确计算加法。语法:number1.add(v)</summary>

///<param name="v" type="number">操作数。</param>

///<returns type="number">计算结果。</returns>

return Math.add(v, this)

}

Math.sub = function(v1, v2)

{

///<summary>精确计算减法。语法:Math.sub(v1, v2)</summary>

///<param name="v1" type="number">操作数。</param>

///<param name="v2" type="number">操作数。</param>

///<returns type="number">计算结果。</returns>

return Math.add(v1, -v2)

}

Number.prototype.sub = function(v)

{

///<summary>精确计算减法。语法:number1.sub(v)</summary>

///<param name="v" type="number">操作数。</param>

///<returns type="number">计算结果。</returns>

return Math.sub(this, v)

}

Math.mul = function(v1, v2)

{

///<summary>精确计算乘法。语法:Math.mul(v1, v2)</summary>

///<param name="v1" type="number">操作数。</param>

///<param name="v2" type="number">操作数。</param>

///<returns type="number">计算结果。</returns>

var m = 0

var s1 = v1.toString()

var s2 = v2.toString()

try

{

m += s1.split(".")[1].length

}

catch (e)

{

}

try

{

m += s2.split(".")[1].length

}

catch (e)

{

}

return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)

}

Number.prototype.mul = function(v)

{

///<summary>精确计算乘法。语法:number1.mul(v)</summary>

///<param name="v" type="number">操作数。</param>

///<returns type="number">计算结果。</returns>

return Math.mul(v, this)

}

Math.div = function(v1, v2)

{

///<summary>精确计算除法。语法:Math.div(v1, v2)</summary>

///<param name="v1" type="number">操作数。</param>

///<param name="v2" type="number">操作数。</param>

///<returns type="number">计算结果。</returns>

var t1 = 0

var t2 = 0

var r1, r2

try

{

t1 = v1.toString().split(".")[1].length

}

catch (e)

{

}

try

{

t2 = v2.toString().split(".")[1].length

}

catch (e)

{

}

with (Math)

{

r1 = Number(v1.toString().replace(".", ""))

r2 = Number(v2.toString().replace(".", ""))

return (r1 / r2) * pow(10, t2 - t1)

}

}

Number.prototype.div = function(v)

{

///<summary>精确计算除法。语法:number1.div(v)</summary>

///<param name="v" type="number">操作数。</param>

///<returns type="number">计算结果。</returns>

return Math.div(this, v)

}

0.1+0.2 != 0.3,怎么解决?

(1) 在计算机中,数字无论是定点数还是浮点数都是以多位二进制的方式进行存储的。存储一个数值所使用的二进制位数比较多,这样得到的数会更加精确。

(2) 由于存储空间有限,无法整除的小数的时候就会取一个近似值,在js中如果这个近似值足够近似,那么js就会认为他就是那个值。

(3) 在0.1 + 0.2这个式子中,0.1和0.2都是近似表示的,在他们相加的时候,两个近似值进行了计算,导致最后得到的值是0.30000000000000004,此时对于JS来说,其不够近似于0.3,于是就出现了0.1 + 0.2 != 0.3 这个现象。

当然,有时两个近似值进行计算的时候,得到的值是在JS的近似范围内的,于是就可以得到正确答案。

(4) 解决办法:

就是我们想办法规避掉这类小数计算时的精度问题,那么最常用的方法就是将浮点数转化成整数计算。因为整数都是可以精确表示的。

对于0.1 + 0.02 我们需要转化成 ( 10 + 2 ) / 1e2

公共方法使用