作者:小傅哥
博客:https://bugstack.cn
沉淀、分享、成長,讓自己和他人都能有所收獲!😄
一、前言
得益於Doug Lea
老爺子的操刀,讓HashMap
成為使用和面試最頻繁的API,沒辦法設計的太優秀了!
HashMap 最早出現在 JDK 1.2中,底層基於散列算法實現。HashMap 允許 null 鍵和 null 值,在計算哈鍵的哈希值時,null 鍵哈希值為 0。HashMap 並不保證鍵值對的順序,這意味着在進行某些操作后,鍵值對的順序可能會發生變化。另外,需要注意的是,HashMap 是非線程安全類,在多線程環境下可能會存在問題。
HashMap 最早在JDK 1.2中就出現了,底層是基於散列算法實現,隨着幾代的優化更新到目前為止它的源碼部分已經比較復雜,涉及的知識點也非常多,在JDK 1.8中包括;1、散列表實現
、2、擾動函數
、3、初始化容量
、4、負載因子
、5、擴容元素拆分
、6、鏈表樹化
、7、紅黑樹
、8、插入
、9、查找
、10、刪除
、11、遍歷
、12、分段鎖
等等,因涉及的知識點較多所以需要分開講解,本章節我們會先把目光放在前五項上,也就是關於數據結構的使用上。
數據結構相關往往與數學離不開,學習過程中建議下載相應源碼進行實驗驗證,可能這個過程有點燒腦,但學會后不用死記硬背就可以理解這部分知識。
二、資源下載
本章節涉及的源碼和資源在工程,interview-04中,包括;
- 10萬單詞測試數據,在doc文件夾
- 擾動函數excel展現,在dock文件夾
- 測試源碼部分在
interview-04
工程中
可以通過關注公眾號:bugstack蟲洞棧
,回復下載進行獲取{回復下載后打開獲得的鏈接,找到編號ID:19}
三、源碼分析
1. 寫一個最簡單的HashMap
學習HashMap前,最好的方式是先了解這是一種怎么樣的數據結構來存放數據。而HashMap經過多個版本的迭代后,乍一看代碼還是很復雜的。就像你原來只穿個褲衩,現在還有秋褲和風衣。所以我們先來看看最根本的HashMap是什么樣,也就是只穿褲衩是什么效果,之后再去分析它的源碼。
問題: 假設我們有一組7個字符串,需要存放到數組中,但要求在獲取每個元素的時候時間復雜度是O(1)。也就是說你不能通過循環遍歷的方式進行獲取,而是要定位到數組ID直接獲取相應的元素。
方案: 如果說我們需要通過ID從數組中獲取元素,那么就需要把每個字符串都計算出一個在數組中的位置ID。字符串獲取ID你能想到什么方式? 一個字符串最直接的獲取跟數字相關的信息就是HashCode,可HashCode的取值范圍太大了[-2147483648, 2147483647]
,不可能直接使用。那么就需要使用HashCode與數組長度做與運算,得到一個可以在數組中出現的位置。如果說有兩個元素得到同樣的ID,那么這個數組ID下就存放兩個字符串。
以上呢其實就是我們要把字符串散列到數組中的一個基本思路,接下來我們就把這個思路用代碼實現出來。
1.1 代碼實現
// 初始化一組字符串
List<String> list = new ArrayList<>();
list.add("jlkk");
list.add("lopi");
list.add("小傅哥");
list.add("e4we");
list.add("alpo");
list.add("yhjk");
list.add("plop");
// 定義要存放的數組
String[] tab = new String[8];
// 循環存放
for (String key : list) {
int idx = key.hashCode() & (tab.length - 1); // 計算索引位置
System.out.println(String.format("key值=%s Idx=%d", key, idx));
if (null == tab[idx]) {
tab[idx] = key;
continue;
}
tab[idx] = tab[idx] + "->" + key;
}
// 輸出測試結果
System.out.println(JSON.toJSONString(tab));
這段代碼整體看起來也是非常簡單,並沒有什么復雜度,主要包括以下內容;
- 初始化一組字符串集合,這里初始化了7個。
- 定義一個數組用於存放字符串,注意這里的長度是8,也就是2的倍數。這樣的數組長度才會出現一個
0111
除高位以外都是1的特征,也是為了散列。 - 接下來就是循環存放數據,計算出每個字符串在數組中的位置。
key.hashCode() & (tab.length - 1)
。 - 在字符串存放到數組的過程,如果遇到相同的元素,進行連接操作
模擬鏈表的過程
。 - 最后輸出存放結果。
測試結果
key值=jlkk Idx=2
key值=lopi Idx=4
key值=小傅哥 Idx=7
key值=e4we Idx=5
key值=alpo Idx=2
key值=yhjk Idx=0
key值=plop Idx=5
測試結果:["yhjk",null,"jlkk->alpo",null,"lopi","e4we->plop",null,"小傅哥"]
- 在測試結果首先是計算出每個元素在數組的Idx,也有出現重復的位置。
- 最后是測試結果的輸出,1、3、6,位置是空的,2、5,位置有兩個元素被鏈接起來
e4we->plop
。 - 這就達到了我們一個最基本的要求,將串元素散列存放到數組中,最后通過字符串元素的索引ID進行獲取對應字符串。這樣是HashMap的一個最基本原理,有了這個基礎后面就會更容易理解HashMap的源碼實現。
1.2 Hash散列示意圖
如果上面的測試結果不能在你的頭腦中很好的建立出一個數據結構,那么可以看以下這張散列示意圖,方便理解;
- 這張圖就是上面代碼實現的全過程,將每一個字符串元素通過Hash計算索引位置,存放到數組中。
- 黃色的索引ID是沒有元素存放、綠色的索引ID存放了一個元素、紅色的索引ID存放了兩個元素。
1.3 這個簡單的HashMap有哪些問題
以上我們實現了一個簡單的HashMap,或者說還算不上HashMap,只能算做一個散列數據存放的雛形。但這樣的一個數據結構放在實際使用中,會有哪些問題呢?
- 這里所有的元素存放都需要獲取一個索引位置,而如果元素的位置不夠散列碰撞嚴重,那么就失去了散列表存放的意義,沒有達到預期的性能。
- 在獲取索引ID的計算公式中,需要數組長度是2的倍數,那么怎么進行初始化這個數組大小。
- 數組越小碰撞的越大,數組越大碰撞的越小,時間與空間如何取舍。
- 目前存放7個元素,已經有兩個位置都存放了2個字符串,那么鏈表越來越長怎么優化。
- 隨着元素的不斷添加,數組長度不足擴容時,怎么把原有的元素,拆分到新的位置上去。
以上這些問題可以歸納為;擾動函數
、初始化容量
、負載因子
、擴容方法
以及鏈表和紅黑樹
轉換的使用等。接下來我們會逐個問題進行分析。
2. 擾動函數
在HashMap存放元素時候有這樣一段代碼來處理哈希值,這是java 8
的散列值擾動函數,用於優化散列效果;
static final int hash(Object key) {
int h;
return (key == null) ? 0 : (h = key.hashCode()) ^ (h >>> 16);
}
2.1 為什么使用擾動函數
理論上來說字符串的hashCode
是一個int類型值,那可以直接作為數組下標了,且不會出現碰撞。但是這個hashCode
的取值范圍是[-2147483648, 2147483647],有將近40億的長度,誰也不能把數組初始化的這么大,內存也是放不下的。
我們默認初始化的Map大小是16個長度 DEFAULT_INITIAL_CAPACITY = 1 << 4
,所以獲取的Hash值並不能直接作為下標使用,需要與數組長度進行取模運算得到一個下標值,也就是我們上面做的散列列子。
那么,hashMap源碼這里不只是直接獲取哈希值,還進行了一次擾動計算,(h = key.hashCode()) ^ (h >>> 16)
。把哈希值右移16位,也就正好是自己長度的一半,之后與原哈希值做異或運算,這樣就混合了原哈希值中的高位和低位,增大了隨機性。計算方式如下圖;
- 說白了,使用擾動函數就是為了增加隨機性,讓數據元素更加均衡的散列,減少碰撞。
2.2 實驗驗證擾動函數
從上面的分析可以看出,擾動函數使用了哈希值的高半區和低半區做異或,混合原始哈希碼的高位和低位,以此來加大低位區的隨機性。
但看不到實驗數據的話,這終究是一段理論,具體這段哈希值真的被增加了隨機性沒有,並不知道。所以這里我們要做一個實驗,這個實驗是這樣做;
- 選取10萬個單詞詞庫
- 定義128位長度的數組格子
- 分別計算在擾動和不擾動下,10萬單詞的下標分配到128個格子的數量
- 統計各個格子數量,生成波動曲線。如果擾動函數下的波動曲線相對更平穩,那么證明擾動函數有效果。
2.2.1 擾動代碼測試
擾動函數對比方法
public class Disturb {
public static int disturbHashIdx(String key, int size) {
return (size - 1) & (key.hashCode() ^ (key.hashCode() >>> 16));
}
public static int hashIdx(String key, int size) {
return (size - 1) & key.hashCode();
}
}
disturbHashIdx
擾動函數下,下標值計算hashIdx
非擾動函數下,下標值計算
單元測試
// 10萬單詞已經初始化到words中
@Test
public void test_disturb() {
Map<Integer, Integer> map = new HashMap<>(16);
for (String word : words) {
// 使用擾動函數
int idx = Disturb.disturbHashIdx(word, 128);
// 不使用擾動函數
// int idx = Disturb.hashIdx(word, 128);
if (map.containsKey(idx)) {
Integer integer = map.get(idx);
map.put(idx, ++integer);
} else {
map.put(idx, 1);
}
}
System.out.println(map.values());
}
以上分別統計兩種函數下的下標值分配,最終將統計結果放到excel中生成圖表。
2.2.2 擾動函數散列圖表
以上的兩張圖,分別是沒有使用擾動函數和使用擾動函數的,下標分配。實驗數據;
- 10萬個不重復的單詞
- 128個格子,相當於128長度的數組
未使用擾動函數
使用擾動函數
- 從這兩種的對比圖可以看出來,在使用了擾動函數后,數據分配的更加均勻了。
- 數據分配均勻,也就是散列的效果更好,減少了hash的碰撞,讓數據存放和獲取的效率更佳。
3. 初始化容量和負載因子
接下來我們討論下一個問題,從我們模仿HashMap的例子中以及HashMap默認的初始化大小里,都可以知道,散列數組需要一個2的倍數的長度,因為只有2的倍數在減1的時候,才會出現01111
這樣的值。
那么這里就有一個問題,我們在初始化HashMap的時候,如果傳一個17個的值new HashMap<>(17);
,它會怎么處理呢?
3.1 尋找2的倍數最小值
在HashMap的初始化中,有這樣一段方法;
public HashMap(int initialCapacity, float loadFactor) {
...
this.loadFactor = loadFactor;
this.threshold = tableSizeFor(initialCapacity);
}
- 閥值
threshold
,通過方法tableSizeFor
進行計算,是根據初始化來計算的。 - 這個方法也就是要尋找比初始值大的,最小的那個2進制數值。比如傳了17,我應該找到的是32。
計算閥值大小的方法;
static final int tableSizeFor(int cap) {
int n = cap - 1;
n |= n >>> 1;
n |= n >>> 2;
n |= n >>> 4;
n |= n >>> 8;
n |= n >>> 16;
return (n < 0) ? 1 : (n >= MAXIMUM_CAPACITY) ? MAXIMUM_CAPACITY : n + 1;
}
- MAXIMUM_CAPACITY = 1 << 30,這個是臨界范圍,也就是最大的Map集合。
- 乍一看可能有點暈😵怎么都在向右移位1、2、4、8、16,這主要是為了把二進制的各個位置都填上1,當二進制的各個位置都是1以后,就是一個標准的2的倍數減1了,最后把結果加1再返回即可。
那這里我們把17這樣一個初始化計算閥值的過程,用圖展示出來,方便理解;
3.2 負載因子
static final float DEFAULT_LOAD_FACTOR = 0.75f;
負載因子是做什么的?
負載因子,可以理解成一輛車可承重重量超過某個閥值時,把貨放到新的車上。
那么在HashMap中,負載因子決定了數據量多少了以后進行擴容。這里要提到上面做的HashMap例子,我們准備了7個元素,但是最后還有3個位置空余,2個位置存放了2個元素。 所以可能即使你數據比數組容量大時也是不一定能正正好好的把數組占滿的,而是在某些小標位置出現了大量的碰撞,只能在同一個位置用鏈表存放,那么這樣就失去了Map數組的性能。
所以,要選擇一個合理的大小下進行擴容,默認值0.75就是說當閥值容量占了3/4s時趕緊擴容,減少Hash碰撞。
同時0.75是一個默認構造值,在創建HashMap也可以調整,比如你希望用更多的空間換取時間,可以把負載因子調的更小一些,減少碰撞。
4. 擴容元素拆分
為什么擴容,因為數組長度不足了。那擴容最直接的問題,就是需要把元素拆分到新的數組中。拆分元素的過程中,原jdk1.7中會需要重新計算哈希值,但是到jdk1.8中已經進行優化,不在需要重新計算,提升了拆分的性能,設計的還是非常巧妙的。
4.1 測試數據
@Test
public void test_hashMap() {
List<String> list = new ArrayList<>();
list.add("jlkk");
list.add("lopi");
list.add("jmdw");
list.add("e4we");
list.add("io98");
list.add("nmhg");
list.add("vfg6");
list.add("gfrt");
list.add("alpo");
list.add("vfbh");
list.add("bnhj");
list.add("zuio");
list.add("iu8e");
list.add("yhjk");
list.add("plop");
list.add("dd0p");
for (String key : list) {
int hash = key.hashCode() ^ (key.hashCode() >>> 16);
System.out.println("字符串:" + key + " \tIdx(16):" + ((16 - 1) & hash) + " \tBit值:" + Integer.toBinaryString(hash) + " - " + Integer.toBinaryString(hash & 16) + " \t\tIdx(32):" + ((
System.out.println(Integer.toBinaryString(key.hashCode()) +" "+ Integer.toBinaryString(hash) + " " + Integer.toBinaryString((32 - 1) & hash));
}
}
測試結果
字符串:jlkk Idx(16):3 Bit值:1100011101001000010011 - 10000 Idx(32):19
1100011101001000100010 1100011101001000010011 10011
字符串:lopi Idx(16):14 Bit值:1100101100011010001110 - 0 Idx(32):14
1100101100011010111100 1100101100011010001110 1110
字符串:jmdw Idx(16):7 Bit值:1100011101010100100111 - 0 Idx(32):7
1100011101010100010110 1100011101010100100111 111
字符串:e4we Idx(16):3 Bit值:1011101011101101010011 - 10000 Idx(32):19
1011101011101101111101 1011101011101101010011 10011
字符串:io98 Idx(16):4 Bit值:1100010110001011110100 - 10000 Idx(32):20
1100010110001011000101 1100010110001011110100 10100
字符串:nmhg Idx(16):13 Bit值:1100111010011011001101 - 0 Idx(32):13
1100111010011011111110 1100111010011011001101 1101
字符串:vfg6 Idx(16):8 Bit值:1101110010111101101000 - 0 Idx(32):8
1101110010111101011111 1101110010111101101000 1000
字符串:gfrt Idx(16):1 Bit值:1100000101111101010001 - 10000 Idx(32):17
1100000101111101100001 1100000101111101010001 10001
字符串:alpo Idx(16):7 Bit值:1011011011101101000111 - 0 Idx(32):7
1011011011101101101010 1011011011101101000111 111
字符串:vfbh Idx(16):1 Bit值:1101110010111011000001 - 0 Idx(32):1
1101110010111011110110 1101110010111011000001 1
字符串:bnhj Idx(16):0 Bit值:1011100011011001100000 - 0 Idx(32):0
1011100011011001001110 1011100011011001100000 0
字符串:zuio Idx(16):8 Bit值:1110010011100110011000 - 10000 Idx(32):24
1110010011100110100001 1110010011100110011000 11000
字符串:iu8e Idx(16):8 Bit值:1100010111100101101000 - 0 Idx(32):8
1100010111100101011001 1100010111100101101000 1000
字符串:yhjk Idx(16):8 Bit值:1110001001010010101000 - 0 Idx(32):8
1110001001010010010000 1110001001010010101000 1000
字符串:plop Idx(16):9 Bit值:1101001000110011101001 - 0 Idx(32):9
1101001000110011011101 1101001000110011101001 1001
字符串:dd0p Idx(16):14 Bit值:1011101111001011101110 - 0 Idx(32):14
1011101111001011000000 1011101111001011101110 1110
- 這里我們隨機使用一些字符串計算他們分別在16位長度和32位長度數組下的索引分配情況,看哪些數據被重新路由到了新的地址。
- 同時,這里還可以觀察🕵出一個非常重要的信息,原哈希值與擴容新增出來的長度16,進行&運算,如果值等於0,則下標位置不變。如果不為0,那么新的位置則是原來位置上加16。{這個地方需要好好理解下,並看實驗數據}
- 這樣一來,就不需要在重新計算每一個數組中元素的哈希值了。
4.2 數據遷移
- 這張圖就是原16位長度數組元素,像32位數組長度中轉移的過程。
- 其中黃色區域元素
zuio
因計算結果hash & oldCap
不為1,則被遷移到下標位置24。 - 同時還是用重新計算哈希值的方式驗證了,確實分配到24的位置,因為這是在二進制計算中補1的過程,所以可以通過上面簡化的方式確定哈希值的位置。
四、總結
- 如果你能堅持看完這部分內容,並按照文中的例子進行相應的實驗驗證,那么一定可以學會本章節涉及這五項知識點;
1、散列表實現
、2、擾動函數
、3、初始化容量
、4、負載因子
、5、擴容元素拆分
。 - 對我個人來說以前也知道這部分知識,但是沒有驗證過,只知道概念如此,正好借着寫面試手冊專欄,加深學習,用數據驗證理論,讓知識點可以更加深入的理解。
- 這一章節完事,下一章節繼續進行HashMap的其他知識點挖掘,讓懂了就是真的懂了。好了,寫到這里了,感謝大家的閱讀。如果某處沒有描述清楚,或者有不理解的點,歡迎與我討論交流。