js中多個數字運算后值不對(失真)處理方法


最近遇到一個bug ,在js里面計算兩個數字相減,633011.20-31296.30

得到的結果居然是601714.89,領導不樂意了說怎么少了0.01,我一聽,噶卵達,來達鬼,不可能啊,我Google了一下,發現原來這是JavaScript浮點運算的一個bug。

解決方法:網上找到了一些解決辦法,就是重新寫了一些浮點運算的函數。
下面就把這些方法摘錄下來,以供遇到同樣問題的朋友參考:

簡易計算器點擊下載

java中多個數字運算后值不對(失真)處理方法
程序代碼
1.除法函數

 

/*除法函數,用來得到精確的除法結果
*說明:javascript的除法結果會有誤差,在兩個浮點數相除的時候會比較明顯。這個函數返回較為精確的除法結果。
*調用:accDiv(arg1,arg2)
*返回值:arg1除以arg2的精確結果
*/
function accDiv(arg1,arg2){
  var t1=0,t2=0,r1,r2;
  try{t1=arg1.toString().split(".")[1].length}catch(e){}
  try{t2=arg2.toString().split(".")[1].length}catch(e){}
  with(Math){
  r1=Number(arg1.toString().replace(".",""))
  r2=Number(arg2.toString().replace(".",""))
  return (r1/r2)*pow(10,t2-t1);
  }
}
 
//給Number類型增加一個div方法,調用起來更加方便。
Number.prototype.div = function (arg){
  return accDiv(this, arg);
}

 

2.乘法函數

 

 
/*
*乘法函數,用來得到精確的乘法結果
*說明:javascript的乘法結果會有誤差,在兩個浮點數相乘的時候會比較明顯。這個函數返回較為精確的乘法結果。
*調用:accMul(arg1,arg2)
*返回值:arg1乘以arg2的精確結果
*/
function accMul(arg1,arg2)
{
  var m=0,s1=arg1.toString(),s2=arg2.toString();
  try{m+=s1.split(".")[1].length}catch(e){}
  try{m+=s2.split(".")[1].length}catch(e){}
  return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
 
//給Number類型增加一個mul方法,調用起來更加方便。
Number.prototype.mul = function (arg){
  return accMul(arg, this);
}

 

3.加法函數

 

/*用來得到精確的加法結果
*說明:javascript的加法結果會有誤差,在兩個浮點數相加的時候會比較明顯。這個函數返回較為精確的加法結果。
*調用:accAdd(arg1,arg2)
*返回值:arg1加上arg2的精確結果
*/
function accAdd(arg1,arg2){
  var r1,r2,m;
  try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
  try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
  m=Math.pow(10,Math.max(r1,r2))
  return (arg1*m+arg2*m)/m
}
 
//給Number類型增加一個add方法,調用起來更加方便。
Number.prototype.add = function (arg){
  return accAdd(arg,this);
}

 

4.減法函數

 

//減法函數
function accSub(arg1, arg2) {
var r1, r2, m, n;
try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
m = Math.pow(10, Math.max(r1, r2));
//last modify by deeka
//動態控制精度長度
n = (r1 >= r2) ? r1 : r2;
return ((arg1 * m - arg2 * m) / m).toFixed(n);
}

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM