C浮點數(shù)的精度問題

c04n05

業(yè)務代碼里有這么一段代碼
int sample(double a)
{
    ...
    int x;
    x = a * 100;
    ...
}
發(fā)現(xiàn)在a = 37.30或者10.20的時候x得不到想要的值。x的結果會變成3729和1029

寫了個測試代碼如下：

1. #include <stdio.h>
   
2. 
   
3. int main()
   
4. {
   
5.     double test = 37.30;
   
6.     double test2 = 10.20;
   
7.    
   
8.     int i = 100;
   
9.     for(; i < 1000000; i*=10) {
   
10.         printf("%.2f * %d =  %d\n", test, i, (int)(test * i));
    
11.         printf("%.2f * %d = %d\n", test2, i, (int)(test2 * i));
    
12.     }   
    
13.     return 0;
    
14. }

復制代碼

輸出如下：
/home/xlc/DemoCode> ./floattest                  
37.30 * 100 =  3729
10.20 * 100 = 1019
37.30 * 1000 =  37300
10.20 * 1000 = 10200
37.30 * 10000 =  373000
10.20 * 10000 = 102000
37.30 * 100000 =  3729999
10.20 * 100000 = 1019999

在win7 64bit vs2013 下面和gcc (GCC) 4.1.2 20080704 (Red Hat 4.1.2-54)都得到相同的結果

我知道浮點數(shù)不會精確表示。但是為何偏偏是這兩個數(shù)出問題？
各位有遇到過沒？

PS：目前我想是先改成　x = (int)(a * 1000) / 10;

xphh2008

如果x是double肯定沒問題，但樓主你的x是int，double轉(zhuǎn)int最好用round，這樣應該就沒問題了。

另外樓主可以把a改成37.300和10.200試試。

c04n05

回復 2# xphh2008
感謝關注。我試過37.300和10.200問題依舊。要用整形也是前輩們的業(yè)務代碼這么弄的。



   

hellioncu

應該跟浮點數(shù)的表示方法有關，IEEE 754

c04n05

回復 4# hellioncu
回復 2# xphh2008
感謝關注。

經(jīng)過驗證，用round可以，輸出改成這個樣子

printf("%.2f * %d =  %d\n", test, i, (int)(round(test * i)));

但是在linux下這個函數(shù)需要c99標準，編譯命令如下

gcc -o floattest floattest.c -std=c99 -lm

我們平臺以前沒有用到這個。不知道是否會影響其他代碼？

ps：
又試了一下，去掉-std=c99結果一樣。不過編譯會有警告


   

xphh2008

c04n05 發(fā)表于 2014-11-29 17:17
回復 4# hellioncu
回復 2# xphh2008
感謝關注。

不是一定要用round函數(shù)的啦，四舍五入很簡單的，我們一般這么做：

(int)(x + 0.5)

然后寫個ROUND宏就行了~

c04n05

回復 6# xphh2008
哦。這個思路也很不錯！
果然來壇子里問一下是正確的