最近遇到一個bug ,在js里面計算兩個數字相減,633011.20-31296.30
得到的結果居然是601714.89,領導不樂意了說怎么少了0.01,我一聽,噶卵達,來達鬼,不可能啊,我Google了一下,發現原來這是JavaScript浮點運算的一個bug。
解決方法:網上找到了一些解決辦法,就是重新寫了一些浮點運算的函數。
下面就把這些方法摘錄下來,以供遇到同樣問題的朋友參考:
java中多個數字運算后值不對(失真)處理方法
程序代碼
1.除法函數
/*除法函數,用來得到精確的除法結果 *說明:javascript的除法結果會有誤差,在兩個浮點數相除的時候會比較明顯。這個函數返回較為精確的除法結果。 *調用:accDiv(arg1,arg2) *返回值:arg1除以arg2的精確結果 */ function accDiv(arg1,arg2){ var t1=0,t2=0,r1,r2; try{t1=arg1.toString().split(".")[1].length}catch(e){} try{t2=arg2.toString().split(".")[1].length}catch(e){} with(Math){ r1=Number(arg1.toString().replace(".","")) r2=Number(arg2.toString().replace(".","")) return (r1/r2)*pow(10,t2-t1); } } //給Number類型增加一個div方法,調用起來更加方便。 Number.prototype.div = function (arg){ return accDiv(this, arg); }
2.乘法函數
/* *乘法函數,用來得到精確的乘法結果 *說明:javascript的乘法結果會有誤差,在兩個浮點數相乘的時候會比較明顯。這個函數返回較為精確的乘法結果。 *調用:accMul(arg1,arg2) *返回值:arg1乘以arg2的精確結果 */ function accMul(arg1,arg2) { var m=0,s1=arg1.toString(),s2=arg2.toString(); try{m+=s1.split(".")[1].length}catch(e){} try{m+=s2.split(".")[1].length}catch(e){} return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) } //給Number類型增加一個mul方法,調用起來更加方便。 Number.prototype.mul = function (arg){ return accMul(arg, this); }
3.加法函數
/*用來得到精確的加法結果 *說明:javascript的加法結果會有誤差,在兩個浮點數相加的時候會比較明顯。這個函數返回較為精確的加法結果。 *調用:accAdd(arg1,arg2) *返回值:arg1加上arg2的精確結果 */ function accAdd(arg1,arg2){ var r1,r2,m; try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)) return (arg1*m+arg2*m)/m } //給Number類型增加一個add方法,調用起來更加方便。 Number.prototype.add = function (arg){ return accAdd(arg,this); }
4.減法函數
//減法函數 function accSub(arg1, arg2) { var r1, r2, m, n; try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 } try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 } m = Math.pow(10, Math.max(r1, r2)); //last modify by deeka //動態控制精度長度 n = (r1 >= r2) ? r1 : r2; return ((arg1 * m - arg2 * m) / m).toFixed(n); }