180706-BigDecimal除法的精度問題


logo

BigDecimal除法的精度問題

在使用BigDecimal的除法時,遇到一個鬼畜的問題,本以為的精度計算,結果使用返回0,當然最終發現還是自己的使用姿勢不對導致的,因此記錄一下,避免后面重蹈覆轍

I. 問題拋出

在使用BigDecimal做高精度的除法時,一不注意遇到了一個小問題,如下

@Test
public void testBigDecimal() {
    BigDecimal origin = new BigDecimal(541253);
    BigDecimal now = new BigDecimal(12389431);

    BigDecimal val = origin.divide(now, RoundingMode.HALF_UP);
    System.out.println(val);

    origin = new BigDecimal(541253);
    now = new BigDecimal(12389431.3);
    val = origin.divide(now, RoundingMode.HALF_UP);
    System.out.println(val);

    origin = new BigDecimal(541253.4);
    now = new BigDecimal(12389431);
    val = origin.divide(now, RoundingMode.HALF_UP);
    System.out.println(val);
}

上面的輸出是什么 ?

0
0
0.043686703610520937021487456961257

為什么前面兩個會是0呢,如果直接是 541253 / 12389431 = 0 倒是可以理解, 但是BigDecimal不是高精度的計算么,講道理不應該不會出現這種整除的問題吧

我們知道在BigDecimal做觸發時,可以指定保留小數的參數,如果加上這個,是否會不一樣呢?

BigDecimal origin = new BigDecimal(541253);
BigDecimal now = new BigDecimal(12389431);

BigDecimal val = origin.divide(now, 5, RoundingMode.HALF_UP);
System.out.println(val);

輸出結果為:

0.04369

所以說在指定了保留小數之后,則沒有問題,所以大膽的猜測一下,是不是上面的幾種case中,由於scale值沒有指定時,默認值不一樣,從而導致最終結果的精度不同呢?

簡單的深入源碼分析一下,執行的方式為 origin.divide(now, RoundingMode.HALF_UP);, 所以這個scale參數就瞄准origin對象,而這個對象,就只能去分析它的構造了,因為沒有其他的地方使用

II. 源碼定位

1. 整形傳參構造

分析下面這一行, 直接進入源碼

BigDecimal origin = new BigDecimal(541253);

很明顯的int傳參構造,進去簡單看一下

// java.math.BigDecimal#BigDecimal(int)
public BigDecimal(int val) {
    this.intCompact = val;
    this.scale = 0;
    this.intVal = null;
}

public BigDecimal(long val) {
    this.intCompact = val;
    this.intVal = (val == INFLATED) ? INFLATED_BIGINT : null;
    this.scale = 0;
}

so,很明確的知道默認的scale為0,也就是說當origin為正數時,以它進行的除法,不現實指定scale參數時,最終返回的都是沒有小數的,同樣看一眼,還有long的傳參方式, BigInteger也一樣

2. 浮點傳參

接下來就是浮點的scale默認值確認了,這個構造相比前面的復雜一點,源碼就不貼了,太長,也看不太懂做了些啥,直接用猥瑣一點的方式,進入debug模式,單步執行

@Test
public void testBigDecimal() {
    BigDecimal origin = new BigDecimal(541253.0);
    BigDecimal now = new BigDecimal(12389431.1);
    BigDecimal tmp = new BigDecimal(0.0);
}

根據debug的結果,第一個,scale為0; 第二個scale為29, 第三個scale為0

origin

now

tmp

3. String傳參

依然是一大串的邏輯,同樣采用單步debug的方式試下

@Test
public void testBigDecimal() {
    BigDecimal origin = new BigDecimal("541253.0");
    BigDecimal now = new BigDecimal("12389431.1");
    BigDecimal t = new BigDecimal("0.0");
}

上面三個的scale都是1

smaple

4. 小結

  • 對於BigDecimal進行除法運算時,最好指定其scale參數,不然可能會有坑
  • 對於BigDecimla的scale初始化的原理,有待深入看下BigDecimal是怎么實現的

最后貼一張乘法的圖作為收尾

mul

II. 其他

1. 一灰灰Bloghttps://liuyueyi.github.io/hexblog

一灰灰的個人博客,記錄所有學習和工作中的博文,歡迎大家前去逛逛

2. 聲明

盡信書則不如,已上內容,純屬一家之言,因個人能力有限,難免有疏漏和錯誤之處,如發現bug或者有更好的建議,歡迎批評指正,不吝感激

3. 掃描關注

QrCode


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM