js 双精度浮点数

JavaScript08

js 双精度浮点数,第1张

一、怎样将一个数据转成浮点数   https://www.zhihu.com/question/21711083二、js 的 Number 在 JavaScript 中整数和浮点数都属于 Number 数据类型,所有数字都是以 64 位浮点数形式储存,即便整数也是如此。三、造成哪些问题? 1、小数计算精度丢失,比如 0.1+0.2 不等于 0.3 2、整数最大范围 整数是按最大54位来算最大(253 - 1,Number.MAX_SAFE_INTEGER,9007199254740991) 和最小(-(253 - 1),Number.MIN_SAFE_INTEGER,-9007199254740991) 安全整数范围的。所以只要超过这个范围,就会存在被舍去的精度问题。四、解决办法 开源的库、bigInt、 0.1+0.2-0.3     // 5.551115123125783e-17 5.551115123125783e-17.toFixed(20)      //   '0.00000000000000005551' 5.551115123125783e-17<Number.EPSILON*Math.pow(2,2)    // true重新整理https://zhuanlan.zhihu.com/p/73699947回顾一个基础问题,js 中的精度丢失问题。 一、在 js 中只有双精度浮点数来存储的Number,数据存储会有三个步骤:1、十进制转二进制 2、二进制转科学技术法 3、按 IEEE754 标准存储。  二、双精度浮点一共有 64位,64位比特又可分为三个部分: 符号位S:第 1 位是正负数符号位(sign),0代表正数,1代表负数 指数位E:中间的 11 位存储指数(exponent),用来表示次方数 尾数位M:最后的 52 位是尾数(mantissa),超出的部分自动进一舍零 三、基于以上知识,在数据小数位在进行转换二进制时,会出现无线循环的情况,而数据转成 IEEE754标准时又仅支持 52 位,所以要发生一个数据截断,也就是精度丢失。 四、常见的丢失场景,  0.1 + 0.2 === 0.30000000000000004 parseInt(0.58*100,10)=57 (1.335).toFixed(2) 四、解决办法math.js bignumber.js等库以及 es6 针对整数精度丢失的新数据类型BigInt 

在JS中变量被分为基本类型变量和引用类型变量。1、基本类型变量用八字节内存,存储基本数据类型(数值、布尔值、null和未定义)的值。2、引用类型变量则只保存对对象、数组和函数等引用类型的值得引用(即内存地址)。JS字符串的长度受到下标限制。理论最大长度是2^53-1(即js中可表达的最大安全整数)。2^53是多大呢?大约9PB。根据统计,中国2014年所有出版物(不计复本)不到2000亿字,也就是400GB而已。按此推算,不要说存一个txt了,中国自有甲骨文以来所有的书、各类出版物字数加在一起估计也不可能超过100TB,也就是0.1PB。当然啦,实际引擎是不可能允许分配那么大的字符串的,你的电脑也没那么大存储不是。V8的heap上限只有2GB不到,允许分配的单个字符串大小上限更只有大约是512MB不到。JS字符串是UTF16编码保存,所以也就是2.68亿个字符。FF大约也是这个数字最近项目有个需求要用js计算一串字符串写入到localStorage里所占的内存,众所周知的,js是使用Unicode编码的。而Unicode的实现有N种,其中用的最多的就是UTF-8和UTF-16。因此本文只对这两种编码进行讨论。