js小數點相乘或相除出現多位數的問題


最近做一個支付的項目需要做個計算器,所以發現了一個問題。

比如:

0.03/0.00003=999.9999999999999

0.0003*0.3=0.000029999999999999997

0.1+0.2=0.30000000000000004

等...

 

后面查了一下發現原因是:

浮點數值的最高進度是17位小數,但在進行運算的時候其精確度卻遠遠不如整數;整數在進行運算的時候都會轉成10進制; 而Java和JavaScript中計算小數運算時,都會先將十進制的小數換算到對應的二進制,一部分小數並不能完整的換算為二進制,這里就出現了第一次的誤差。待小數都換算為二進制后,再進行二進制間的運算,得到二進制結果。然后再將二進制結果換算為十進制,這里通常會出現第二次的誤差。

所以(0.1+0.2)!=03

 

 

直接貼上個方法:

function toDecimal2(x,ss) { 
      var f = parseFloat(x); 
      if (isNaN(f)) { 
        return false; 
      } 
      var f = Math.round(x*100)/100; 
      var s = f.toString(); 
      var rs = s.indexOf('.'); 
      if (rs < 0) { 
        rs = s.length; 
        s += '.'; 
      } 
      while (s.length <= rs + ss) { 
        s += '0'; 
      } 
      return s; 
    } 

function bcFixed(num, s) {
    var times = Math.pow(10, s)
    var des = num * times + 0.5
    des = parseInt(des, 10) / times
    return toDecimal2(des,s)+'';
}

/**
 * 加法運算,避免數據相加小數點后產生多位數和計算精度損失。
 *
 * @param num1加數1 | num2加數2
 */
function bcadd(num1, num2,s) {
 var baseNum, baseNum1, baseNum2,ret;
 try {
  baseNum1 = num1.toString().split(".")[1].length;
 } catch (e) {
  baseNum1 = 0;
 }
 try {
  baseNum2 = num2.toString().split(".")[1].length;
 } catch (e) {
  baseNum2 = 0;
 }
 baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
	ret=(num1 * baseNum + num2 * baseNum) / baseNum;
 return bcFixed(ret,s);
};
/**
 * 加法運算,避免數據相減小數點后產生多位數和計算精度損失。
 *
 * @param num1被減數  |  num2減數
 */
function bcsub(num1, num2,s) {
 var baseNum, baseNum1, baseNum2,ret;
 var precision;// 精度
 try {
  baseNum1 = num1.toString().split(".")[1].length;
 } catch (e) {
  baseNum1 = 0;
 }
 try {
  baseNum2 = num2.toString().split(".")[1].length;
 } catch (e) {
  baseNum2 = 0;
 }
 baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
 precision = (baseNum1 >= baseNum2) ? baseNum1 : baseNum2;
ret=((num1 * baseNum - num2 * baseNum) / baseNum).toFixed(precision);
 return bcFixed(ret,s);
};
/**
 * 乘法運算,避免數據相乘小數點后產生多位數和計算精度損失。
 *
 * @param num1被乘數 | num2乘數
 */
function bcmul(num1, num2,s) {
 var baseNum = 0,ret;
 try {
  baseNum += num1.toString().split(".")[1].length;
 } catch (e) {
 }
 try {
  baseNum += num2.toString().split(".")[1].length;
 } catch (e) {
 }
 ret=Number(num1.toString().replace(".", "")) * Number(num2.toString().replace(".", "")) / Math.pow(10, baseNum);
 return bcFixed(ret,s);
};
/**
 * 除法運算,避免數據相除小數點后產生多位數和計算精度損失。
 *
 * @param num1被除數 | num2除數
 */
function bcdiv(num1, num2,s) {
 var baseNum1 = 0, baseNum2 = 0,ret;
 var baseNum3, baseNum4;
 try {
  baseNum1 = num1.toString().split(".")[1].length;
 } catch (e) {
  baseNum1 = 0;
 }
 try {
  baseNum2 = num2.toString().split(".")[1].length;
 } catch (e) {
  baseNum2 = 0;
 }
 with (Math) {
  baseNum3 = Number(num1.toString().replace(".", ""));
  baseNum4 = Number(num2.toString().replace(".", ""));
  ret=(baseNum3 / baseNum4) * pow(10, baseNum2 - baseNum1);
 return bcFixed(ret,s);
 }
};

  

調用方法:(后面的s為顯示小數點后幾位,比如s為0時顯示整數,2為顯示兩位小數,比如2.00)

加法:bcadd(num1, num2,s) //如:1+2為 bcadd(1, 2,2)

減法:bcsub(num1, num2,s) //如:1-2為 bcsub(1, 2,2)

乘法:bcmul(num1, num2,s) //如:1*2為 bcmul(1, 2,2)

除法:bcdiv(num1, num2,s)  //如:1/2為 bcdiv(1, 2,s)


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM