关于js中小数运算丢失精度的处理办法

JavaScript020

关于js中小数运算丢失精度的处理办法,第1张

浮点数值的最高精度是17位小数,但在进行运算的时候其精确度却远远不如整数;整数在进行运算的时候都会转成10进制; 而java和JavaScript中计算小数运算时,都会先将十进制的小数换算到对应的二进制,一部分小数并不能完整的换算为二进制,这里就出现了第一次的误差。待小数都换算为二进制后,再进行二进制间的运算,得到二进制结果。然后再将二进制结果换算为十进制,这里通常会出现第二次的误差。

所以(0.1+0.2)!=03

解决这种问题,可以将小数变成整数进行运算,然后再将结果变为小数。

//乘法

function multiNum (a,b){

  var c = 0,

d = a.toString(),

e = b.toString()

try {

      c += d.split(".")[1].length

} catch (f) { }

  try {

      c += e.split(".")[1].length

} catch (f) { }

  return Number(d.replace(".","")) * Number(e.replace(".","")) / Math.pow(10,c)

}

//除法

function divide (a,b){

  var c,d,e = 0,

f = 0

try {

      e = a.toString().split(".")[1].length

} catch (g) { }

  try {

      f = b.toString().split(".")[1].length

} catch (g) { }

  return c = Number(a.toString().replace(".","")),d = Number(b.toString().replace(".","")),this.mul(c / d,Math.pow(10,f - e))

}

//加法

function addNum (a,b){

  var c,d,e

try {

      c = a.toString().split(".")[1].length

} catch (f) {

      c = 0

}

  try {

      d = b.toString().split(".")[1].length

} catch (f) {

      d = 0

}

  return e = Math.pow(10,Math.max(c,d)),(multiNum(a,e) + multiNum(b,e)) / e

}

//减法

function subNum (a,b) {

  var c,d,e

try {

      c = a.toString().split(".")[1].length

} catch (f) {

      c = 0

}

  try {

      d = b.toString().split(".")[1].length

} catch (f) {

      d = 0

}

  return e = Math.pow(10,Math.max(c,d)),(multiNum(a,e) - multiNum(b,e)) / e

}

需要准备的材料分别是:电脑、html编辑器、浏览器。

1、首先,打开html编辑器,新建html文件,例如:index.html。

2、在index.html的<script>标签中,输入js代码:var a = '2.71828'var b = parseInt(a * 100) / 100document.body.innerText = b。

3、浏览器运行index.html页面,此时会发现打印出的两位小数是截取而不是四舍五入。