浮點數值的最高精度是17位小數,但在進行運算的時候其精確度卻遠遠不如整數;整數在進行運算的時候都會轉成10進制; 而java和JavaScript中計算小數運算時,都會先將十進制的小數換算到對應的二進制,一部分小數並不能完整的換算為二進制,這里就出現了第一次的誤差。待小數都換算為二進制后,再進行二進制間的運算,得到二進制結果。然后再將二進制結果換算為十進制,這里通常會出現第二次的誤差。
所以(0.1+0.2)!=03
解決這種問題,可以將小數變成整數進行運算,然后再將結果變為小數。
var calc = { /* 函數,加法函數,用來得到精確的加法結果 說明:javascript的加法結果會有誤差,在兩個浮點數相加的時候會比較明顯。這個函數返回較為精確的加法結果。 參數:arg1:第一個加數;arg2第二個加數;d要保留的小數位數(可以不傳此參數,如果不傳則不處理小數位數) 調用:Calc.Add(arg1,arg2,d) 返回值:兩數相加的結果 */ Add: function (arg1, arg2) { arg1 = arg1.toString(), arg2 = arg2.toString(); var arg1Arr = arg1.split("."), arg2Arr = arg2.split("."), d1 = arg1Arr.length == 2 ? arg1Arr[1] : "", d2 = arg2Arr.length == 2 ? arg2Arr[1] : ""; var maxLen = Math.max(d1.length, d2.length); var m = Math.pow(10, maxLen); var result = Number(((arg1 * m + arg2 * m) / m).toFixed(maxLen)); var d = arguments[2]; return typeof d === "number" ? Number((result).toFixed(d)) : result; }, /* 函數:減法函數,用來得到精確的減法結果 說明:函數返回較為精確的減法結果。 參數:arg1:第一個加數;arg2第二個加數;d要保留的小數位數(可以不傳此參數,如果不傳則不處理小數位數 調用:Calc.Sub(arg1,arg2) 返回值:兩數相減的結果 */ Sub: function (arg1, arg2) { return Calc.Add(arg1, -Number(arg2), arguments[2]); }, /* 函數:乘法函數,用來得到精確的乘法結果 說明:函數返回較為精確的乘法結果。 參數:arg1:第一個乘數;arg2第二個乘數;d要保留的小數位數(可以不傳此參數,如果不傳則不處理小數位數) 調用:Calc.Mul(arg1,arg2) 返回值:兩數相乘的結果 */ Mul: function (arg1, arg2) { var r1 = arg1.toString(), r2 = arg2.toString(), m, resultVal, d = arguments[2]; m = (r1.split(".")[1] ? r1.split(".")[1].length : 0) + (r2.split(".")[1] ? r2.split(".")[1].length : 0); resultVal = Number(r1.replace(".", "")) * Number(r2.replace(".", "")) / Math.pow(10, m); return typeof d !== "number" ? Number(resultVal) : Number(resultVal.toFixed(parseInt(d))); }, /* 函數:除法函數,用來得到精確的除法結果 說明:函數返回較為精確的除法結果。 參數:arg1:除數;arg2被除數;d要保留的小數位數(可以不傳此參數,如果不傳則不處理小數位數) 調用:Calc.Div(arg1,arg2) 返回值:arg1除於arg2的結果 */ Div: function (arg1, arg2) { var r1 = arg1.toString(), r2 = arg2.toString(), m, resultVal, d = arguments[2]; m = (r2.split(".")[1] ? r2.split(".")[1].length : 0) - (r1.split(".")[1] ? r1.split(".")[1].length : 0); resultVal = Number(r1.replace(".", "")) / Number(r2.replace(".", "")) * Math.pow(10, m); return typeof d !== "number" ? Number(resultVal) : Number(resultVal.toFixed(parseInt(d))); } };