js 双精度浮点数

JavaScript030

js 双精度浮点数,第1张

一、怎样将一个数据转成浮点数   https://www.zhihu.com/question/21711083二、js 的 Number 在 JavaScript 中整数和浮点数都属于 Number 数据类型,所有数字都是以 64 位浮点数形式储存,即便整数也是如此。三、造成哪些问题? 1、小数计算精度丢失,比如 0.1+0.2 不等于 0.3 2、整数最大范围 整数是按最大54位来算最大(253 - 1,Number.MAX_SAFE_INTEGER,9007199254740991) 和最小(-(253 - 1),Number.MIN_SAFE_INTEGER,-9007199254740991) 安全整数范围的。所以只要超过这个范围,就会存在被舍去的精度问题。四、解决办法 开源的库、bigInt、 0.1+0.2-0.3     // 5.551115123125783e-17 5.551115123125783e-17.toFixed(20)      //   '0.00000000000000005551' 5.551115123125783e-17<Number.EPSILON*Math.pow(2,2)    // true重新整理https://zhuanlan.zhihu.com/p/73699947回顾一个基础问题,js 中的精度丢失问题。 一、在 js 中只有双精度浮点数来存储的Number,数据存储会有三个步骤:1、十进制转二进制 2、二进制转科学技术法 3、按 IEEE754 标准存储。  二、双精度浮点一共有 64位,64位比特又可分为三个部分: 符号位S:第 1 位是正负数符号位(sign),0代表正数,1代表负数 指数位E:中间的 11 位存储指数(exponent),用来表示次方数 尾数位M:最后的 52 位是尾数(mantissa),超出的部分自动进一舍零 三、基于以上知识,在数据小数位在进行转换二进制时,会出现无线循环的情况,而数据转成 IEEE754标准时又仅支持 52 位,所以要发生一个数据截断,也就是精度丢失。 四、常见的丢失场景,  0.1 + 0.2 === 0.30000000000000004 parseInt(0.58*100,10)=57 (1.335).toFixed(2) 四、解决办法math.js bignumber.js等库以及 es6 针对整数精度丢失的新数据类型BigInt 

一直知道js的浮点数计算是不精确的, 0.1 + 0.2 !== 0.3,但是也就知道而已,解决方法却不怎么注意,所以刚做一个项目,尽管了解浮点数精度不精确的问题,但是还是掉坑里了。在此再次默默告诉自己要警惕,端正心态,不可掉以轻心!!!所以下面就分享一些加减乘除的方法。

原理: 把数字转换成字符串,然后从小数点部分切割成两部分,分别算出两个因数的小数点右边的长度,然后用两个因数的小数点右边长度最大的数再乘以10,相当于两个都放大了n倍,然后相加,然后缩小n倍。

注意,这里的放大用了乘法times函数(下面介绍),因为浮点数直接乘以100有可能出现精度不够的情况,如下图

原理和加法一样,放大n倍后相减再缩小n倍

乘法原理稍微变点,放大倍数n是 ‘两个小数点后面长度之和’ 而不是 ‘两个小数点后面长度这两者之间的最大值’

除法原理和乘法一样

这也是一个坑,比如你要保留两位小数,四舍五入的话就要看小数点第三位后面的数字来决定,如2.445四舍五入后就是2.45; 2.444四舍五入就是2.44;做这个需求的时候,我第一反应是Math.toFixed(2),结果是bug百出啊,这里就不举例了,有兴趣可以自己尝试。然后我是怎么解决的呢?百度了一下,也是得到一些半成品不严谨的函数,原理也很简单,先放大倍数,然后利用Math.round()取整

以上加减乘除方法基本满足一般业务需求了,尤其是电商。但是如果数字计算时超出了 2的1024次方减1 ,也就是 9007199254740992 这个数字的话就不适合了,因为从 2^1024 开始就变成了 Infinity。

可以参考以下的方法:

javascript中如果一个变量的值是字符串,且里面的值是数字类型的,就可以直接用这个变量乘1,就可以将它变成数值类型了。

例如

var str = "12.2365"

就可以用它乘1

var value = str*1

这个value就是需要的数值类型的了

扩展资料:

double数据类型

double(双精度浮点型)是计算机使用的一种资料型别。

比起单精度浮点数(float),double(双精度浮点数)使用 64 位(8字节) 来储存一个浮点数。 它可以表示十进制的15或16位有效数字,负值取值范围为 -1.7976E+308 到 -4.94065645841246544E-324,正值取值范围为 4.94065645841246544E-324 到 1.797693E+308

参考资料来源:百度百科-double