1.浮點數運算后的精度問題
在計算商品價格加減乘除時,偶爾會出現精度問題
// 加法 ===================== 0.1 + 0.2 = 0.30000000000000004 0.7 + 0.1 = 0.7999999999999999 0.2 + 0.4 = 0.6000000000000001 // 減法 ===================== 1.5 - 1.2 = 0.30000000000000004 0.3 - 0.2 = 0.09999999999999998 // 乘法 ===================== 19.9 * 100 = 1989.9999999999998 0.8 * 3 = 2.4000000000000004 35.41 * 100 = 3540.9999999999995 // 除法 ===================== 0.3 / 0.1 = 2.9999999999999996 0.69 / 10 = 0.06899999999999999
而在浮點數運算后出現的精度問題,剛開始往往想到的使用toFixed
來進行解決,因為toFixed()方法可把Number四舍五入為指定小數位數的數字。
但是在常用瀏覽器里,toFixed卻不怎么盡人意
1.35.toFixed(1) // 1.4 正確 1.335.toFixed(2) // 1.33 錯誤 1.3335.toFixed(3) // 1.333 錯誤 1.33335.toFixed(4) // 1.3334 正確 1.333335.toFixed(5) // 1.33333 錯誤 1.3333335.toFixed(6) // 1.333333 錯誤
浮點數的存儲
浮點數存儲的方式可以去看大神的解答:https://github.com/camsong/blog/issues/9
解決toFixed
// toFixed兼容方法 Number.prototype.toFixed = function(len){ if(len>20 || len<0){ throw new RangeError('toFixed() digits argument must be between 0 and 20'); } // .123轉為0.123 var number = Number(this); if (isNaN(number) || number >= Math.pow(10, 21)) { return number.toString(); } if (typeof (len) == 'undefined' || len == 0) { return (Math.round(number)).toString(); } var result = number.toString(), numberArr = result.split('.'); if(numberArr.length<2){ //整數的情況 return padNum(result); } var intNum = numberArr[0], //整數部分 deciNum = numberArr[1],//小數部分 lastNum = deciNum.substr(len, 1);//最后一個數字 if(deciNum.length == len){ //需要截取的長度等於當前長度 return result; } if(deciNum.length < len){ //需要截取的長度大於當前長度 1.3.toFixed(2) return padNum(result) } //需要截取的長度小於當前長度,需要判斷最后一位數字 result = intNum + '.' + deciNum.substr(0, len); if(parseInt(lastNum, 10)>=5){ //最后一位數字大於5,要進位 var times = Math.pow(10, len); //需要放大的倍數 var changedInt = Number(result.replace('.',''));//截取后轉為整數 changedInt++;//整數進位 changedInt /= times;//整數轉為小數,注:有可能還是整數 result = padNum(changedInt+''); } return result; //對數字末尾加0 function padNum(num){ var dotPos = num.indexOf('.'); if(dotPos === -1){ //整數的情況 num += '.'; for(var i = 0;i<len;i++){ num += '0'; } return num; } else { //小數的情況 var need = len - (num.length - dotPos - 1); for(var j = 0;j<need;j++){ num += '0'; } return num; } } }
解決浮點數運算精度
既然我們發現了浮點數的這個問題,又不能直接讓兩個浮點數運算,那怎么處理呢?·
我們可以把需要計算的數字升級(乘以10的n次冪)成計算機能夠精確識別的整數,等計算完成后再進行降級(除以10的n次冪),這是大部分變成語言處理精度問題常用的方法。例如
/*** method ** * add / subtract / multiply /divide * floatObj.add(0.1, 0.2) >> 0.3 * floatObj.multiply(19.9, 100) >> 1990 * */ var floatObj = function(){ /* * 判斷obj是否為一個整數 */ function isInteger(obj){ return Math.floor(obj) === obj } /* * 將一個浮點數轉成整數,返回整數和倍數。如 3.14 >> 314,倍數是 100 * @param floatNum {number} 小數 * @return {object} * {times:100, num: 314} */ function toInteger(floatNum){ var ret = {times: 1, num: 0} if (isInteger(floatNum)) { ret.num = floatNum return ret } var strfi = floatNum + '' var dotPos = strfi.indexOf('.') var len = strfi.substr(dotPos+1).length var times = Math.pow(10, len) var intNum = Number(floatNum.toString().replace('.','')) ret.times = times ret.num = intNum return ret } /* * 核心方法,實現加減乘除運算,確保不丟失精度 * 思路:把小數放大為整數(乘),進行算術運算,再縮小為小數(除) * * @param a {number} 運算數1 * @param b {number} 運算數2 * @param digits {number} 精度,保留的小數點數,比如 2, 即保留為兩位小數 * @param op {string} 運算類型,有加減乘除(add/subtract/multiply/divide) * */ function operation(a, b, digits, op){ var o1 = toInteger(a) var o2 = toInteger(b) var n1 = o1.num var n2 = o2.num var t1 = o1.times var t2 = o2.times var max = t1 > t2 ? t1 : t2 var result = null switch (op) { case 'add': if (t1 === t2) { // 兩個小數位數相同 result = n1 + n2 } else if (t1 > t2) { // o1 小數位 大於 o2 result = n1 + n2 * (t1 / t2) } else { // o1 小數位 小於 o2 result = n1 * (t2 / t1) + n2 } return result / max case 'subtract': if (t1 === t2) { result = n1 - n2 } else if (t1 > t2) { result = n1 - n2 * (t1 / t2) } else { result = n1 * (t2 / t1) - n2 } return result / max case 'multiply': result = (n1 * n2) / (t1 * t2) return result case 'divide': result = (n1 / n2) * (t2 / t1) return result } } // 加減乘除的四個接口 function add(a, b, digits){ return operation(a, b, digits, 'add') } function subtract(a, b, digits){ return operation(a, b, digits, 'subtract') } function multiply(a, b, digits){ return operation(a, b, digits, 'multiply') } function divide(a, b, digits){ return operation(a, b, digits, 'divide') } // exports return { add: add, subtract: subtract, multiply: multiply, divide: divide } }();