js中對小數的計算


在js 的計算中如果涉及到小數的運算,那結果可不要想當然了,比如  0.1+0.2 的計算  

var num1 = 0.1; 
 var num2 = 0.2;
console.log(num1+num2)

 如果不加思考 那回答估計是 0.3  實際上的結果是 0.30000000000000004

為什么會有這個結果呢

 

首先,我們要站在計算機的角度思考 0.1 + 0.2 這個看似小兒科的問題。我們知道,能被計算機讀懂的是二進制,而不是十進制,所以我們先把 0.1 和 0.2 轉換成二進制看看:

0.1==》0.1.toString(2)==》0.0001100110011(無限循環..)

0.2==》0.2.toString(2)==》0.001100110011(無限循環..)

雙精度浮點數的小數部分最多支持 52 位,所以兩者相加之后得到這么一串 0.0100110011001100110011001100110011001100110011001100 因浮點數小數位的限制而截斷的二進制數字,這時候,我們再把它轉換為十進制,就成了 0.30000000000000004。

原來如此,那怎么解決這個問題呢?我想要的結果就是 0.1 + 0.2 === 0.3 啊!!!

為了避免產生精度差異,我們要把需要計算的數字乘以 10 的 n 次冪,換算成計算機能夠精確識別的整數,然后再除以 10 的 n 次冪,大部分編程語言都是這樣處理精度差異的,我們就借用過來處理一下 JS 中的浮點數精度誤差。

formatNum = function(f, digit) { 
  var m = Math.pow(10, digit); 
  return parseInt(f * m, 10) / m; 
} 
 var num1 = 0.1; 
 var num2 = 0.2;
console.log(num1+num2)
console.log(formatNum(num1 + num2, 1))

  


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM