浮點(diǎn)數(shù)比較的精度問題
1 引言
先舉個例子:
#include <stdio.h>
int main()
{
float a = 0.1;
float b = 0.2;
float c = a + b;
if(c == 0.3){
printf("c == 0.3\n");
}else{
printf("0.1 + 0.2 != 0.3\n");
}
return 0;
}
如果變量 a , b 換 0.75 , 0.5 可以看出運(yùn)行出 c == 1.25 ,說明浮點(diǎn)數(shù)運(yùn)算是不穩(wěn)定的。
為什么會時好時壞,因?yàn)椴皇撬械男?shù)能用浮點(diǎn)數(shù)標(biāo)準(zhǔn) ( IEEE 754 ) 表示出來。
所以,判斷兩個浮點(diǎn)數(shù)變量是否相等,不能簡單地通過 "==" 運(yùn)算符實(shí)現(xiàn),浮點(diǎn)數(shù)進(jìn)行比較時,一般比較他們之間的差值在一定范圍之內(nèi)。
bool feq(float a,float b){
return fabs(a,b)<FLT_EPSILON;
}
FLT_EPSILON
數(shù)值是 1.192092896e-07F
,最小的 float 型數(shù),它使 1.0+FLT_EPSILON !=1.0
2 為什么浮點(diǎn)數(shù)精度會丟失
十進(jìn)制小數(shù)轉(zhuǎn)化為二進(jìn)制數(shù):乘以2直到?jīng)]有了小數(shù)為止。
舉個例子,0.9 表示成二進(jìn)制數(shù)。
0.9*2=1.8 取整數(shù)部分 1
0.8(1.8的小數(shù)部分)*2=1.6 取整數(shù)部分 1
0.6*2=1.2 取整數(shù)部分 1
0.2*2=0.4 取整數(shù)部分 0
0.4*2=0.8 取整數(shù)部分 0
0.8*2=1.6 取整數(shù)部分 1
0.6*2=1.2 取整數(shù)部分 0
.........
0.9二進(jìn)制表示為(從上往下): 1100100100100......
很顯然,小數(shù)的二進(jìn)制表示有時是不可能精確的。其實(shí)道理很簡單,十進(jìn)制系統(tǒng)中能不能準(zhǔn)確表示出 2/3 呢?同樣二進(jìn)制系統(tǒng)也無法準(zhǔn)確表示 1/10 。這也就解釋了為什么浮點(diǎn)型精度丟失問題。
3 float 存儲原理
float 型在內(nèi)存中占 4 個字節(jié)。float 的 32 個二進(jìn)制位結(jié)構(gòu)如下:
float 內(nèi)存存儲結(jié)構(gòu)
31 | 30 | 29----23 | 22----0 |
---|---|---|---|
實(shí)數(shù)符號位 | 指數(shù)符號位 | 指數(shù)位 | 有效數(shù)位 |
其中符號位 1 表示正,0 表示負(fù)。有效位數(shù)位 24 位,其中一位是實(shí)數(shù)符號位。
將一個 float 型轉(zhuǎn)化為內(nèi)存存儲格式的步驟為:
-
先將這個實(shí)數(shù)的絕對值化為二進(jìn)制格式,注意實(shí)數(shù)的整數(shù)部分和小數(shù)部分的二進(jìn)制方法在上面已經(jīng)探討過了。 -
將這個二進(jìn)制格式實(shí)數(shù)的小數(shù)點(diǎn)左移或右移 n 位,直到小數(shù)點(diǎn)移動到第一個有效數(shù)字的右邊。 -
從小數(shù)點(diǎn)右邊第一位開始數(shù)出二十三位數(shù)字放入第 22 到第 0 位。 -
如果實(shí)數(shù)是正的,則在第 31 位放入“0”,否則放入“1”。 -
如果 是左移得到的,說明指數(shù)是正的,第 30 位放入“1”。如果 n 是右移得到的或 n=0,則第 30 位放入“0”。 -
如果 n 是左移得到的,則將 n 減去 1 后化為二進(jìn)制,并在左邊加“0”補(bǔ)足七位,放入第 29 到第 23 位。如果n是右移得到的或 n=0,則將 n 化為二進(jìn)制后在左邊加“0”補(bǔ)足七位,再各位求反,再放入第 29 到第 23 位。
0.2356 的內(nèi)存存儲格式:
-
將 0.2356 化為二進(jìn)制后大約是0.00111100010100000100100000。 -
將小數(shù)點(diǎn)右移三位得到1.11100010100000100100000。 -
從小數(shù)點(diǎn)右邊數(shù)出二十三位有效數(shù)字,即11100010100000100100000放 入第 22 到第 0 位。 -
由于 0.2356 是正的,所以在第 31 位放入“0”。 -
由于我們把小數(shù)點(diǎn)右移了,所以在第 30 位放入“0”。 -
因?yàn)樾?shù)點(diǎn)被右移了 3 位,所以將 3 化為二進(jìn)制,在左邊補(bǔ)“0”補(bǔ)足七位,得到0000011,各位取反,得到1111100,放入第 29 到第 23 位。 -
最后表示0.2356為:0 0 1111100 11100010100000100100000
浮點(diǎn)類型標(biāo)識的有效數(shù)字及數(shù)值范圍
-
Float :比特數(shù)為 32 ,有效數(shù)字為 6-7 ,數(shù)值范圍為 -3.4E+38~3.4E+38
-
Double :比特數(shù)為 64 ,有效數(shù)字為 15-16 ,數(shù)值范圍為 -1.7E-308~1.7E+308
免責(zé)聲明:本文內(nèi)容由21ic獲得授權(quán)后發(fā)布,版權(quán)歸原作者所有,本平臺僅提供信息存儲服務(wù)。文章僅代表作者個人觀點(diǎn),不代表本平臺立場,如有問題,請聯(lián)系我們,謝謝!