java 浮点数为什么精度会丢失

Python032

java 浮点数为什么精度会丢失,第1张

并不是java的浮点数精度会丢失,而是所有用二进制存储中的浮点数都可能会精度丢失(部分特殊的小数数值可以精确表示),所以计算机中存储的浮点数都存在精度丢失的风险,不过一边这个丢失的精度对我们正常的使用不会构成影响。

小数在转换为二进制时并不一定能用一个精确的二进制表示,大多数时候都是取的一个近似值,这就造成了精度的丢失。如果再用这个二进制进行计算,明显计算结果的精度会进一步丢失。

举个简单的例子把0.1用二进制表示(小数与二进制转换方法)

(1) 0.1 x 2 = 0.2  取整数位 0 得 0.0

(2) 0.2 x 2 = 0.4  取整数位 0 得 0.00

(3) 0.4 x 2 = 0.8  取整数位 0 得 0.000

(4) 0.8 x 2 = 1.6  取整数位 1 得 0.0001

(5) 0.6 x 2 = 0.2  取整数位 1 得 0.00011

(6) 0.2 x 2 = 0.4  取整数位 0 得 0.000110

(7) 0.4 x 2 = 0.8  取整数位 0 得 0.0001100

(8) 0.8 x 2 = 1.6  取整数位 1 得 0.00011001

(9) 0.6 x 2 = 1.2  取整数位 1 得 0.000110011

(n) ...

得到一个无限循环的二进制小数 0.000110011…,没办法用一个精确的二进制表示0.1。而且计算机中存储一个浮点数所用的位数也是有限的,所以只能选择在某一个精度进行保存。

当然也有特殊的小数,比如0.25的二进制为0.01

附:代码之谜(五)- 浮点数(谁偷了你的精度?)

int是整型,用来表示整数,其值是精确值。

float是浮点型,用来表示实数,其值是近似值。

所以当int转换为float时,是由准确值变成了近似值,所以会丢失精度。

比如int 的1000,转换为浮点型时,可能会被存成1000.00000000001,用来计算或者输出时看不出区别,实际上是已经有变化了。

在32位和64位的编译器中,int和float都是占四字节。

double表示浮点数时是有精度限制的,这跟double计算机内部的表示有关,任意一个double都要变成 尾码*2^阶码,且1<=尾码<2,如 1.45*2^5,1.45存储时只存小数点后面的数,0.45最后也变成2^b0+2^b1+2^bn,尾码存储时每一位就是b0,b1,...bn,0.4无法精确表示的。

如果想使用无精度限制,那就只能使用BigDecimal

BigDecimal dec = new BigDecimal("123456789.06") //这个就是精确的123456789.06

BigDecimal dec1 = new BigDecimal("1000.40")

BigDecimal dec2 = new BigDecimal("1000")

BigDecimal dec3 = dec1.subtract(dec2)   //这个就是精确的0.4