js 双精度浮点数

JavaScript014

js 双精度浮点数,第1张

一、怎样将一个数据转成浮点数   https://www.zhihu.com/question/21711083二、js 的 Number 在 JavaScript 中整数和浮点数都属于 Number 数据类型,所有数字都是以 64 位浮点数形式储存,即便整数也是如此。三、造成哪些问题? 1、小数计算精度丢失,比如 0.1+0.2 不等于 0.3 2、整数最大范围 整数是按最大54位来算最大(253 - 1,Number.MAX_SAFE_INTEGER,9007199254740991) 和最小(-(253 - 1),Number.MIN_SAFE_INTEGER,-9007199254740991) 安全整数范围的。所以只要超过这个范围,就会存在被舍去的精度问题。四、解决办法 开源的库、bigInt、 0.1+0.2-0.3     // 5.551115123125783e-17 5.551115123125783e-17.toFixed(20)      //   '0.00000000000000005551' 5.551115123125783e-17<Number.EPSILON*Math.pow(2,2)    // true重新整理https://zhuanlan.zhihu.com/p/73699947回顾一个基础问题,js 中的精度丢失问题。 一、在 js 中只有双精度浮点数来存储的Number,数据存储会有三个步骤:1、十进制转二进制 2、二进制转科学技术法 3、按 IEEE754 标准存储。  二、双精度浮点一共有 64位,64位比特又可分为三个部分: 符号位S:第 1 位是正负数符号位(sign),0代表正数,1代表负数 指数位E:中间的 11 位存储指数(exponent),用来表示次方数 尾数位M:最后的 52 位是尾数(mantissa),超出的部分自动进一舍零 三、基于以上知识,在数据小数位在进行转换二进制时,会出现无线循环的情况,而数据转成 IEEE754标准时又仅支持 52 位,所以要发生一个数据截断,也就是精度丢失。 四、常见的丢失场景,  0.1 + 0.2 === 0.30000000000000004 parseInt(0.58*100,10)=57 (1.335).toFixed(2) 四、解决办法math.js bignumber.js等库以及 es6 针对整数精度丢失的新数据类型BigInt 

舍入是使用数字时最常见的操作之一。

这里有几个对数字进行舍入的内建函数:

//向下舍入:3.1变成3,-1.1变成-2

//向上舍入:3.1变成4,-1.1变成-1

//向最近的整数舍入:3.1变成3,3.6变成4,中间值3.5变成4

//移除小数点后的所有内容而没有舍入:3.1变成3,-1.1变成-1

这些函数涵盖了处理数字小数部分的所有可能方法。但是,如果我们想将数字舍入到小数点后 n 位改怎么办?

例如,我们有 1.2345 ,并且想把它舍入到小数点后两位,仅得到 1.23 。

有两种方法可以实现这个需求:

1.乘除法

例如,要将数字舍入到小数点后两位,我们可以将数字乘以 100 (或更大的 10 的整数次幂),调用舍入函数,然后再将其除回。

2.函数 toFixed(n) 将数字舍入到小数点后 n 位,并以字符串形式返回结果。

这会向上或向下舍入到最接近的值,类似于Math.round():

请注意 tofixed 的结果是一个字符串。如果小数部分比需要的短,则在结尾添加 0 :

我们可以使用一元加号或 Number() 调用,将其转换为数字: +num.toFixed(5)