今天,寫了一個矩陣法求定積分的函數,發現無論如何更改,結果總是0.后來發現是數據類型整錯了,進行除法時一定要注意數據類型。
下面將常用的int,float類型分別做除數,被除數看得出的結果如何。
1.int/int 毫無疑問,結果為int型,如1/2,結果為0
2.int/float 結果仍為0
3.float/int 結果為0.500000
4.float/float 結果為0.500000
綜上可得,如要得到指定類型的結果,被除數必須為相對應的類型.
今天,寫了一個矩陣法求定積分的函數,發現無論如何更改,結果總是0.后來發現是數據類型整錯了,進行除法時一定要注意數據類型。
下面將常用的int,float類型分別做除數,被除數看得出的結果如何。
1.int/int 毫無疑問,結果為int型,如1/2,結果為0
2.int/float 結果仍為0
3.float/int 結果為0.500000
4.float/float 結果為0.500000
綜上可得,如要得到指定類型的結果,被除數必須為相對應的類型.
本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。