Nodejs學習筆記(十七)--- 浮點運算decimal.js


目錄

前言

 開發過程中免不了有浮點運算,JavaScript浮點運算的精度問題會帶來一些困擾

 JavaScript 只有一種數字類型 ( Number )

 JavaScript采用 IEEE 754 標准雙精度浮點(64),64位中 1位浮點數中符號,11存儲指數,52位存儲浮點數的有效數字

 有時候小數在二進制中表示是無限的,所以從53位開始就會舍入(舍入規則是0舍1入),這樣就造成了“浮點精度問題”(由於舍入規則有時大點,有時小點)

 

 下面用示例來看看

JavaScript加減乘除運算

  加法

 

var a = 0.1;
var b = 0.2;
console.log('0.1 以二進制表示:', a.toString(2));
console.log('0.2 以二進制表示:', b.toString(2));
console.log('直接加法運算 0.1 + 0.2 =', a + b);
add.js 示例代碼

  示例: 0.1 + 0.2 

  預期結果:0.3

  實際結果:0.30000000000000004

 

 減法

 

var a = 1.0;
var b = 0.7;
console.log('1.0 以二進制表示:', a.toString(2));
console.log('0.7 以二進制表示:', b.toString(2));
console.log('直接減法運算 1.0 - 0.7 =', a - b);
sub.js示例代碼

  示例: 1.0 - 0.7 

  預期結果:0.3

  實際結果:0.30000000000000004

 

 乘法

  

var a = 1.01;
var b = 1.003;
console.log('1.01 以二進制表示:', a.toString(2));
console.log('1.003 以二進制表示:', b.toString(2));
console.log('直接乘法運算 1.01 * 1.003 =', a * b);
mul.js示例代碼

  示例: 1.01 * 1.003

  預期結果:1.01303

  實際結果:1.0130299999999999

 

 除法

 

var a = 0.029;
var b = 10;
console.log('0.029 以二進制表示:', a.toString(2));
console.log('10 以二進制表示:', b.toString(2));
console.log('直接除法運算 0.029 / 10 =', a / b);
div.js示例代碼

  示例: 0.029 / 10

  預期結果:0.0029

  實際結果:0.0029000000000000002

 

說明:以上加、減、乘、除示例分別演示了JavaScript運算結果(當然實際結果並不是我們想要的),為什么會出現這樣的結果,前言中已經說明^_^!

decimal.js加減乘除運算

An arbitrary-precision Decimal type for JavaScript

 

      GITHUB:  https://github.com/MikeMcl/decimal.js

      API:  http://mikemcl.github.io/decimal.js/

      NPM:  https://www.npmjs.com/package/decimal.js

 

 先安裝decimal.js

npm install --save decimal.js

 把上面的示例,用decimal.js運算一次,對比一下結果

 

var Decimal = require('decimal.js');

//加法
var a = 0.1;
var b = 0.2;
console.log('直接加法運算 a + b =', a + b);
console.log('Decimal.js加法運算 a + b =',  new Decimal(a).add(new Decimal(b)).toNumber());

//減法
var a = 1.0;
var b = 0.7
console.log('直接減法運算 a - b =', a - b);
console.log('Decimal.js減法運算 a - b =',  new Decimal(a).sub(new Decimal(b)).toNumber());

//乘法
var a = 1.01;
var b = 1.003;
console.log('直接乘法運算 a * b =', a * b);
console.log('Decimal.js乘法運算 a * b =',  new Decimal(a).mul(new Decimal(b)).toNumber());

//除法
var a = 0.029;
var b = 10;
console.log('直接除法運算 a / b =', a / b);
console.log('Decimal.js除法運算 a / b =',  new Decimal(a).div(new Decimal(b)).toNumber());
app.js示例代碼

 

 從圖中可以看結果一目了然^_^!

 

說明: “浮點問題”不算是問題,它一直就是這樣,也不是JavaScript獨有的, 所以這個鍋不應該它背^_^!

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM