在js 的計算中如果涉及到小數的運算,那結果可不要想當然了,比如 0.1+0.2 的計算
var num1 = 0.1; var num2 = 0.2; console.log(num1+num2)
如果不加思考 那回答估計是 0.3 實際上的結果是 0.30000000000000004
為什么會有這個結果呢
首先,我們要站在計算機的角度思考 0.1 + 0.2 這個看似小兒科的問題。我們知道,能被計算機讀懂的是二進制,而不是十進制,所以我們先把 0.1 和 0.2 轉換成二進制看看:
0.1==》0.1.toString(2)==》0.0001100110011(無限循環..)
0.2==》0.2.toString(2)==》0.001100110011(無限循環..)
雙精度浮點數的小數部分最多支持 52 位,所以兩者相加之后得到這么一串 0.0100110011001100110011001100110011001100110011001100 因浮點數小數位的限制而截斷的二進制數字,這時候,我們再把它轉換為十進制,就成了 0.30000000000000004。
原來如此,那怎么解決這個問題呢?我想要的結果就是 0.1 + 0.2 === 0.3 啊!!!
為了避免產生精度差異,我們要把需要計算的數字乘以 10 的 n 次冪,換算成計算機能夠精確識別的整數,然后再除以 10 的 n 次冪,大部分編程語言都是這樣處理精度差異的,我們就借用過來處理一下 JS 中的浮點數精度誤差。
formatNum = function(f, digit) { var m = Math.pow(10, digit); return parseInt(f * m, 10) / m; } var num1 = 0.1; var num2 = 0.2; console.log(num1+num2) console.log(formatNum(num1 + num2, 1))