不论大家使用的是什么编程语言想必都知道浮点数在计算机中存在一定的精度问题,特别是有float类型的编程语言中,大部分编程都是建议直接使用更高精度的double类型。下面我做的示例都以python为主。
a = 0.1 + 0.2
print(a)
输出>>0.30000000000000004
0.1+0.2竟然不等于0.3!我的天,这简直有违天道的事情,但其实这在计算机中是正常的,要理解这个问题,我们就要先从浮点数是怎样用二进制表示的,然后它是怎么被存储在计算机内的,然后我们再来讨论如何尽可能的去规避这种精度问题的出现。
浮点型数在内存中的存储和整形还是有很大的差异的 下面先给出浮点型存入内存的规则: 根据国际标准IEEE(电气和电子工程协会) 754,任意一个二进制浮点数V可以表示成下面的形式。
我们还是通过一个例子来解释一下上面的这段话 我们给出一个浮点数5.5写出它对应的二进制,小数点前面的5直接写出它对应得二进制就好,即:
101.
小数点后面的5写出对应的二进制时是1,为什么是1呢?因为小数点前面的二进制权重是从0开始,而后面的权重从-1开始的,那么2^-1就是0.5,这里给大家画图解释一下。
那么这个怎么转换成上面的那种形式呢? (-1)^ S * M * 2 ^ E。
首先我们知道5.5是一个正数,所以S=0,那么M规定是大于等于1小于2的,所以101.1向前进2位即得到了,1.011 * 2 ^ 2,所以E=2,M=1.011。
IEEE754规定:
对于32位的浮点数,最高的1位是符号位s,接着的8位是指数E,剩下的23位为有效数字M。
对于64位的浮点数,最高的1位是符号位S,接着的11位是指数E,剩下的52位为有效数字M。
IEEE 754对有效数字M和指数E,还有一些特别规定: 前面说过, 1≤M<2 ,也就是说,M可以写成 1.xxxxxx 的形式,其中xxxxxx表示小数部分。 IEEE 754规定,在计算机内部保存M时,默认这个数的第一位总是1,因此可以被舍去,只保存后面的 xxxxxx部分。比如保存1.01的时候,只保存01,等到读取的时候,再把第一位的1加上去。 这样做的目的,是节省1位有效数字。以32位浮点数为例,留给M只有23位,将第一位的1舍去以后,等于可以保存24位有效数字。
至于指数E,情况就比较复杂。首先,E为一个无符号整数(unsigned int)这意味着,如果E为8位,它的取值范围为0255;如果E为11位,它的取值范围为02047。但是,我们知道,科学计数法中的E是可以出现负数的,所以IEEE 754规定,存入内存时E的真实值必须再加上一个中间数,对于8位的E,这个中间数是127;对于11位的E,这个中间数是1023。比如,2^10的E是10,所以保存成32位浮点数时,必须保存成10+127=137,即10001001。 然后,指数E从内存中取出还可以再分成三种情况:
E不全为0或不全为1
这时,浮点数就采用下面的规则表示,即指数E的计算值减去127(或1023),得到真实值,再将 有效数字M前加上第一位的1。比如: 0.5(1/2)的二进制形式为0.1,由于规定正数部分必须为1,即将小数点右移1位,则为 1.0*2^(-1),其阶码为-1+127=126,表示为 01111110,而尾数1.0去掉整数部分为0,补齐0到23位00000000000000000000000,则其二进 制表示形式为: 0 01111110 00000000000000000000000
E全为0
这时,浮点数的指数E等于1-127(或者1-1023)即为真实值, 有效数字M不再加上第一位的1,而是还原为0.xxxxxx的小数。这样做是为了表示±0,以及接近于 0的很小的数字
E全为1
这时,如果有效数字M全为0,表示±无穷大(正负取决于符号位s)
通过上面的内容我们其实已经了解了关于浮点数的内容,总结一下就是:
在计算机中,浮点数通常使用 IEEE 754 标准来表示。浮点数由三部分组成:
符号位:表示数值的正负。
指数部分:表示数值的大小。
尾数部分(或称为有效数字):表示数值的精确度。
例如,浮点数 1.5 可以表示为 1.1×201.1×20(在二进制中),其中 1.1 是尾数,0 是指数
在十进制中,某些小数可以被精确表示,例如 0.5(1221)、0.25(1441)等。然而,某些小数在十进制中是无限循环小数,例如 1331 表示为 0.333...。
同样,在二进制中,某些小数可以被精确表示,而另一些则不能。具体来说:
由于计算机的存储是有限的,浮点数只能存储有限的位数。因此,当我们尝试将 0.1 和 0.2 存储为二进制浮点数时,计算机只能存储它们的近似值,而不是它们的精确值。这就导致了在进行浮点数运算时,结果可能会出现微小的误差。
所以,当你计算 0.1 + 0.2 时,计算机实际上是在计算它们的近似值,而不是它们的精确值,最终得到的结果可能是 0.30000000000000004,而不是 0.3!
在需要高精度计算的场合,使用专门的高精度数学库,如 Python 的 decimal
模块或 Java 的 BigDecimal
类。
from decimal import Decimal
result = Decimal('0.1') + Decimal('0.2')
print(result) # 输出 0.3
在某些编程语言中,可以选择使用更高精度的浮点数类型(如 double
而不是 float
),以减少精度损失。
double a = 0.1;
double b = 0.2;
double result = a + b; // 使用 double 类型
容忍误差
在比较浮点数时,使用一个小的容忍值(epsilon
)来判断两个浮点数是否“相等”,避免直接对浮点数进行比较。
epsilon = 1e-10
if abs((0.1 + 0.2) - 0.3) < epsilon:
print("0.1 + 0.2 is approximately equal to 0.3")
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。