JS小數運算失精度的問題


浮點數值的最高精度是17位小數,但在進行運算的時候其精確度卻遠遠不如整數;整數在進行運算的時候都會轉成10進制; 而java和JavaScript中計算小數運算時,都會先將十進制的小數換算到對應的二進制,一部分小數並不能完整的換算為二進制,這里就出現了第一次的誤差。待小數都換算為二進制后,再進行二進制間的運算,得到二進制結果。然后再將二進制結果換算為十進制,這里通常會出現第二次的誤差。

所以(0.1+0.2)!=03

解決這種問題,可以將小數變成整數進行運算,然后再將結果變為小數。

var calc = {
    /*
    函數,加法函數,用來得到精確的加法結果
    說明:javascript的加法結果會有誤差,在兩個浮點數相加的時候會比較明顯。這個函數返回較為精確的加法結果。
    參數:arg1:第一個加數;arg2第二個加數;d要保留的小數位數(可以不傳此參數,如果不傳則不處理小數位數)
    調用:Calc.Add(arg1,arg2,d)
    返回值:兩數相加的結果
    */
    Add: function (arg1, arg2) {
        arg1 = arg1.toString(), arg2 = arg2.toString();
        var arg1Arr = arg1.split("."), arg2Arr = arg2.split("."), d1 = arg1Arr.length == 2 ? arg1Arr[1] : "", d2 = arg2Arr.length == 2 ? arg2Arr[1] : "";
        var maxLen = Math.max(d1.length, d2.length);
        var m = Math.pow(10, maxLen);
        var result = Number(((arg1 * m + arg2 * m) / m).toFixed(maxLen));
        var d = arguments[2];
        return typeof d === "number" ? Number((result).toFixed(d)) : result;
    },
    /*
    函數:減法函數,用來得到精確的減法結果
    說明:函數返回較為精確的減法結果。
    參數:arg1:第一個加數;arg2第二個加數;d要保留的小數位數(可以不傳此參數,如果不傳則不處理小數位數
    調用:Calc.Sub(arg1,arg2)
    返回值:兩數相減的結果
    */
    Sub: function (arg1, arg2) {
        return Calc.Add(arg1, -Number(arg2), arguments[2]);
    },
    /*
    函數:乘法函數,用來得到精確的乘法結果
    說明:函數返回較為精確的乘法結果。
    參數:arg1:第一個乘數;arg2第二個乘數;d要保留的小數位數(可以不傳此參數,如果不傳則不處理小數位數)
    調用:Calc.Mul(arg1,arg2)
    返回值:兩數相乘的結果
    */
    Mul: function (arg1, arg2) {
        var r1 = arg1.toString(), r2 = arg2.toString(), m, resultVal, d = arguments[2];
        m = (r1.split(".")[1] ? r1.split(".")[1].length : 0) + (r2.split(".")[1] ? r2.split(".")[1].length : 0);
        resultVal = Number(r1.replace(".", "")) * Number(r2.replace(".", "")) / Math.pow(10, m);
        return typeof d !== "number" ? Number(resultVal) : Number(resultVal.toFixed(parseInt(d)));
    },
    /*
    函數:除法函數,用來得到精確的除法結果
    說明:函數返回較為精確的除法結果。
    參數:arg1:除數;arg2被除數;d要保留的小數位數(可以不傳此參數,如果不傳則不處理小數位數)
    調用:Calc.Div(arg1,arg2)
    返回值:arg1除於arg2的結果
    */
    Div: function (arg1, arg2) {
        var r1 = arg1.toString(), r2 = arg2.toString(), m, resultVal, d = arguments[2];
        m = (r2.split(".")[1] ? r2.split(".")[1].length : 0) - (r1.split(".")[1] ? r1.split(".")[1].length : 0);
        resultVal = Number(r1.replace(".", "")) / Number(r2.replace(".", "")) * Math.pow(10, m);
        return typeof d !== "number" ? Number(resultVal) : Number(resultVal.toFixed(parseInt(d)));
    }
};

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM