幫看看寫完的代碼算出來的數(shù)為什么不對呢

dahaoshanhe

輸入文件：

1. 632477.4 5156466.2
   
2. 632496.4 5156459.7
   
3. 632515.3 5156453.2
   
4. 632534.1 5156446.6
   
5. 632553.2 5156440.2
   
6. 632572.0 5156433.6
   

復(fù)制代碼

寫的小代碼：

1. awk '
   
2. BEGIN{                                                      
   
3.    azi=109
   
4.    du=(450-azi)/360*3.14159265*2                                               
   
5.      cosa=cos(du)                                                                  
   
6.      sina=sin(du)                                                                  
   
7.     }                                                                             
   
8. {                                                                              
   
9.    x=$1*cosa+$2*sina                                                              
   
10.    y=$2*cosa-$1*sina                                                              
    
11.        printf "consa= %s sina= %s x= %s y= %s   newx=%.3f newy=%.3f\n", cosa,sina,$1,$2,x,y                     
    
12. }' xyfile > forward_xyfile                                                     

復(fù)制代碼

計算結(jié)果文件：

1. consa= 0.945519 sina= -0.325568 x= 632477.4 y= 5156466.2   newx=-1080762.088 newy=5081449.069
   
2. consa= 0.945519 sina= -0.325568 x= 632496.4 y= 5156459.7   newx=-1080742.007 newy=5081449.109
   
3. consa= 0.945519 sina= -0.325568 x= 632515.3 y= 5156453.2   newx=-1080722.021 newy=5081449.116
   
4. consa= 0.945519 sina= -0.325568 x= 632534.1 y= 5156446.6   newx=-1080702.096 newy=5081448.997
   
5. consa= 0.945519 sina= -0.325568 x= 632553.2 y= 5156440.2   newx=-1080681.953 newy=5081449.164
   
6. consa= 0.945519 sina= -0.325568 x= 632572.0 y= 5156433.6   newx=-1080662.029 newy=5081449.044

復(fù)制代碼

運用�。猓�  -ｌ 運算

1. 632477.4*0.945519+5156466.2*-0.325568
   
2. -1080760.9890310
   

復(fù)制代碼

疑問　怎么一個是　-1080762.088　一個是　-1080760.9890310
為什么會有誤差呢，如何能將這個誤差消除呢。

cao627

@dahaoshanhe我這邊

1. awk '{printf "%.3f", 632477.4*0.945519+5156466.2*-0.325568}'
   
2.         
   
3. -1080760.989
   

復(fù)制代碼

而如果

1. 
   
2. ~> awk '
   
3. BEGIN{                                                      
   
4.    azi=109
   
5.    du=(450-azi)/360*3.14159265*2                                               
   
6.      cosa=cos(du)                                                                  
   
7.      sina=sin(du)                                                                  
   
8.     }     
   
9. {
   
10. x=632477.4*cosa+5156466.2*sina
    
11. printf "%.3f %s %f",x,cosa,sina
    
12. }'
    
13. 
    
14. -1080762.088 0.945519 -0.325568

復(fù)制代碼

看來問題處在x=632477.4*cosa+5156466.2*sina 這一步變量的迭代,實際迭代的值和顯示的值不同?,原因未知.

jason680

回復(fù) 1# dahaoshanhe

because they are not equal
$ awk 'BEGIN{n=cos((450-109)/180*3.14159265358);printf"%f ",n;if(n==0.945519)print "yes";else print "no"}'
0.945519 no

$ awk 'BEGIN{n=cos((450-109)/180*3.14159265358);printf"%.20f ",n;if(n==0.945519)print "yes";else print "no"}'
0.94551857559327645575 no

google also tell us, it isn't equal 0.945519:
cos(((450 - 109) / 180) * pi) = 0.945518576
   

cao627

@jason680
!

居然忘記熟入了!

@dahaoshanhe
632477.4*cosa+5156466.2*sina =  -1080762.088  #################### #  1/3*3=1         
632477.4*0.945519+5156466.2*-0.325568= -1080760.9890310  ###########  0.333333*3=0.99999