Python浮點數(小數)運算誤差的原因和解決辦法


原因解釋:
浮點數(小數)在計算機中實際是以二進制存儲的,並不精確。
比如0.1是十進制,轉換為二進制后就是一個無限循環的數:
0.00011001100110011001100110011001100110011001100110011001100
python是以雙精度(64bit)來保存浮點數的,后面多余的會被砍掉,所以在電腦上實際保存的已經小於0.1的值了,后面拿來參與運算就產生了誤差。

 

解決辦法:
使用decimal庫
from decimal import *
a = Decimal('4.2')
b = Decimal('2.1')
c = a * b

 

當精度提升的同時,也必然犧牲性能。有時候是值得的,比如在財務對數據精度要求比較高的情況下。


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM