本篇文章主要是對javascript避免數字計算精度誤差的方法進行了介紹,需要的朋友可以過來參考下,希望對大家有所幫助。
如果我問你 0.1 + 0.2 等於幾?你可能會送我一個白眼,0.1 + 0.2 = 0.3 啊,那還用問嗎?連幼兒園的小朋友都會回答這么小兒科的問題了。但是你知道嗎,同樣的問題放在編程語言中,或許就不是想象中那么簡單的事兒了。
不信?我們可以做個試驗。
先來看一段 JS。
var num1 = 0.1; var num2 = 0.2; alert(num1+num2 === '0.3');
執行結果是 false。沒錯,當我第一次看到這段代碼時,我也理所當然地以為它是 true,但是執行結果讓我大跌眼鏡,是我的打開方式不對嗎?非也非也。我們再執行以下代碼試試就知道結果為什么是 false 了。
var num1 = 0.1; var num2 = 0.2; alert( num1+numB );
原來,0.1 + 0.2 = 0.30000000000000004。是不是很奇葩?其實對於浮點數的四則運算,幾乎所有的編程語言都會有類似精度誤差的問題,只不過在 C++/C#/Java 這些語言中已經封裝好了方法來避免精度的問題,
而 JavaScript 是一門弱類型的語言,從設計思想上就沒有對浮點數有個嚴格的數據類型,所以精度誤差的問題就顯得格外突出。下面就分析下為什么會有這個精度誤差,以及怎樣修復這個誤差。
首先,我們要站在計算機的角度思考 0.1 + 0.2 這個看似小兒科的問題。我們知道,能被計算機讀懂的是二進制,而不是十進制,所以我們先把 0.1 和 0.2 轉換成二進制看看:
0.1==》0.1.toString(2)==》0.0001100110011(無限循環..)
0.2==》0.2.toString(2)==》0.001100110011(無限循環..)
雙精度浮點數的小數部分最多支持 52 位,所以兩者相加之后得到這么一串 0.0100110011001100110011001100110011001100110011001100 因浮點數小數位的限制而截斷的二進制數字,這時候,我們再把它轉換為十進制,就成了 0.30000000000000004。
原來如此,那怎么解決這個問題呢?我想要的結果就是 0.1 + 0.2 === 0.3 啊!!!
有種最簡單的解決方案,就是給出明確的精度要求,在返回值的過程中,計算機會自動四舍五入,
比如:
var num1 = 0.1; var num2 = 0.2; alert( parseFloat((num1 + num2).toFixed(2)) === 0.30 );
但是四舍五入明顯不是一勞永逸的辦法。
如果有一個方法能幫我們解決這些浮點數的精度問題,那該多好!所以,我們就自己寫一個方法。
我們來試試下面這個方法:
formatNum = function(f, digit) { var m = Math.pow(10, digit); return parseInt(f * m, 10) / m; }
var num1 = 0.1;
var num2 = 0.2;
alert(formatNum(num1 + num2, 1) === 0.3);
這個方法是什么意思呢?
為了避免產生精度差異,我們要把需要計算的數字乘以 10 的 n 次冪,換算成計算機能夠精確識別的整數,然后再除以 10 的 n 次冪,大部分編程語言都是這樣處理精度差異的,我們就借用過來處理一下 JS 中的浮點數精度誤差。
所以如果下次再有人問你 0.1 + 0.2 等於幾,你可要小心回答咯!!