js浮点数的加减乘除解决方案

JavaScript017

js浮点数的加减乘除解决方案,第1张

一直知道js的浮点数计算是不精确的, 0.1 + 0.2 !== 0.3,但是也就知道而已,解决方法却不怎么注意,所以刚做一个项目,尽管了解浮点数精度不精确的问题,但是还是掉坑里了。在此再次默默告诉自己要警惕,端正心态,不可掉以轻心!!!所以下面就分享一些加减乘除的方法。

原理: 把数字转换成字符串,然后从小数点部分切割成两部分,分别算出两个因数的小数点右边的长度,然后用两个因数的小数点右边长度最大的数再乘以10,相当于两个都放大了n倍,然后相加,然后缩小n倍。

注意,这里的放大用了乘法times函数(下面介绍),因为浮点数直接乘以100有可能出现精度不够的情况,如下图

原理和加法一样,放大n倍后相减再缩小n倍

乘法原理稍微变点,放大倍数n是 ‘两个小数点后面长度之和’ 而不是 ‘两个小数点后面长度这两者之间的最大值’

除法原理和乘法一样

这也是一个坑,比如你要保留两位小数,四舍五入的话就要看小数点第三位后面的数字来决定,如2.445四舍五入后就是2.45; 2.444四舍五入就是2.44;做这个需求的时候,我第一反应是Math.toFixed(2),结果是bug百出啊,这里就不举例了,有兴趣可以自己尝试。然后我是怎么解决的呢?百度了一下,也是得到一些半成品不严谨的函数,原理也很简单,先放大倍数,然后利用Math.round()取整

以上加减乘除方法基本满足一般业务需求了,尤其是电商。但是如果数字计算时超出了 2的1024次方减1 ,也就是 9007199254740992 这个数字的话就不适合了,因为从 2^1024 开始就变成了 Infinity。

default 那里没有写完

另外取到的值需要parseInt一下,否则有些浏览器会认为是字符串,1+1 就变成11了

<!DOCTYPE html>

<html>

<head>

<title>事件</title>

<script type="text/javascript">

function count(){

//获取第一个输入框的值

var a = parseInt(document.getElementById("txt1").value)

//获取第二个输入框的值

var b = parseInt(document.getElementById("txt2").value)

//获取选择框的值

var c = document.getElementById("select").value

//获取通过下拉框来选择的值来改变加减乘除的运算法则

switch(c){

case "+":

document.getElementById("fruit").value=a+b

break

case "-":

document.getElementById("fruit").value=a-b

break

case "*":

document.getElementById("fruit").value=a*b

break

case "/":

document.getElementById("fruit").value=a/b

break

default:

break

}

}

</script>

</head>

<body>

<input type='text' id='txt1' /><!-- a -->

<select id='select'>

<option value='+'>+</option>

<option value="-">-</option>

<option value="*">*</option>

<option value="/">/</option>

</select>

<input type='text' id='txt2' /><!-- b -->

<input type='button' value=' = ' onclick="count()"/><!--通过 = 按钮来调用创建的函数,得到结果--><!-- c -->

<input type='text' id='fruit' />

</body>

</html>