一直知道js的浮点数计算是不精确的, 0.1 + 0.2 !== 0.3,但是也就知道而已,解决方法却不怎么注意,所以刚做一个项目,尽管了解浮点数精度不精确的问题,但是还是掉坑里了。在此再次默默告诉自己要警惕,端正心态,不可掉以轻心!!!所以下面就分享一些加减乘除的方法。
原理: 把数字转换成字符串,然后从小数点部分切割成两部分,分别算出两个因数的小数点右边的长度,然后用两个因数的小数点右边长度最大的数再乘以10,相当于两个都放大了n倍,然后相加,然后缩小n倍。
注意,这里的放大用了乘法times函数(下面介绍),因为浮点数直接乘以100有可能出现精度不够的情况,如下图
原理和加法一样,放大n倍后相减再缩小n倍
乘法原理稍微变点,放大倍数n是 ‘两个小数点后面长度之和’ 而不是 ‘两个小数点后面长度这两者之间的最大值’
除法原理和乘法一样
这也是一个坑,比如你要保留两位小数,四舍五入的话就要看小数点第三位后面的数字来决定,如2.445四舍五入后就是2.45; 2.444四舍五入就是2.44;做这个需求的时候,我第一反应是Math.toFixed(2),结果是bug百出啊,这里就不举例了,有兴趣可以自己尝试。然后我是怎么解决的呢?百度了一下,也是得到一些半成品不严谨的函数,原理也很简单,先放大倍数,然后利用Math.round()取整
以上加减乘除方法基本满足一般业务需求了,尤其是电商。但是如果数字计算时超出了 2的1024次方减1 ,也就是 9007199254740992 这个数字的话就不适合了,因为从 2^1024 开始就变成了 Infinity。
/**
** 加法函数,用来得到精确的加法结果
** 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
** 调用:accAdd(arg1,arg2)
** 返回值:arg1加上arg2的精确结果
**/function accAdd(arg1, arg2) { var r1, r2, m, c try {
r1 = arg1.toString().split(".")[1].length
} catch (e) {
r1 = 0
} try {
r2 = arg2.toString().split(".")[1].length
} catch (e) {
r2 = 0
}
c = Math.abs(r1 - r2)
m = Math.pow(10, Math.max(r1, r2))
if (c >0) { var cm = Math.pow(10, c) if (r1 >r2) {
arg1 = Number(arg1.toString().replace(".", ""))
arg2 = Number(arg2.toString().replace(".", "")) * cm
} else {
arg1 = Number(arg1.toString().replace(".", "")) * cm
arg2 = Number(arg2.toString().replace(".", ""))
}
} else {
arg1 = Number(arg1.toString().replace(".", ""))
arg2 = Number(arg2.toString().replace(".", ""))
} return (arg1 + arg2) / m
}//给Number类型增加一个add方法,调用起来更加方便。
Number.prototype.add = function
(arg) { return accAdd(arg, this)
}
扩展资料
var a = 1,
var b = 2,
var c = a + b
这样c得出来的解果是12,
使用Number()函数可以解决这个问题,如下
var c = Number(a) + Number(b)
这样c得出来的解果是3,
JavaScript Number() 函数对象的值转换为数字。
<script type="text/javascript">
var test1= new Boolean(true)
var test2= new Boolean(false)
var test3= new Date()
var test4= new String("999")
var test5= new String("999 888")
document.write(Number(test1)+ "<br />")
document.write(Number(test2)+ "<br />")
document.write(Number(test3)+ "<br />")
document.write(Number(test4)+ "<br />")
document.write(Number(test5)+ "<br />")</script>