本文為原創，轉載請注明：http://www.cnblogs.com/tolimit/
內存池是用於預先申請一些內存用於備用，當系統內存不足無法從伙伴系統和slab中獲取內存時，會從內存池中獲取預留的那些內存。內存池與特殊slab一樣，需要使用的設備需要自己創建內存池，而不是系統會自動生成。書上形容得好，內存比作新鮮食物，內存池比作罐頭食物，人比作擁有此內存池的模塊，當無法吃到新鮮食物時，就需要打開罐頭吃罐頭食物。
一般情況下，內存池建立在slab之上，也就是說池子里存放的是slab對象，當某個模塊創建一個屬於自己的內存池時，創建之前，需要設計好一個分配函數和一個釋放函數，創建函數用於創建內存池時自動申請對應的slab對象，而釋放函數則是用於將slab對象釋放回到slab/slub中。當然經過看代碼，感覺內存池中也可以存放頁，這個可以寫個模塊測試一下。
具體先看看內存池主要的數據結構：
1 /* 內存池，用於擁有該內存池的"擁有者"進行內存儲備，只有在常規情況下分配不到內存的時候才會使用自己的內存池 */ 2 typedef struct mempool_s { 3 spinlock_t lock; 4 /* 最大元素個數，也是初始個數，當內存池被創建時，會調用alloc函數申請此變量相應數量的slab放到elements指向的指針數組中 */ 5 int min_nr; /* nr of elements at *elements */ 6 /* 當前元素個數 */ 7 int curr_nr; /* Current nr of elements at *elements */ 8 /* 指向一個數組，在mempool_create中會分配內存，數組中保存指向元素指針 */ 9 void **elements; 10 11 /* 內存池的擁有者的私有數據結構，當元素是slab中的對象時，這里保存的是slab緩存描述符 */ 12 void *pool_data; 13 /* 當元素是slab中的對象時，會使用方法mempool_alloc_slab()和mempool_free_slab() */ 14 /* 分配一個元素的方法 */ 15 mempool_alloc_t *alloc; 16 /* 釋放一個元素的方法 */ 17 mempool_free_t *free; 18 /* 當內存池為空時使用的等待隊列，當內存池中空閑內存對象為空時，獲取函數會將當前進程阻塞，直到超時或者有空閑內存對象時才會喚醒 */ 19 wait_queue_head_t wait; 20 } mempool_t;
內核里使用mempool_create()創建一個內存池，使用mempool_destroy()銷毀一個內存池，使用mempool_alloc()申請內存和mempool_free()是否內存。一切信息都在代碼當中，我們直接看代碼就清楚知道內存池是怎么實現的了。
首先我們先看mempool_create()，mempool_create()流程很簡單，它主要做的就是分配一個mempool_t結構體，然后根據參數初始化此結構體，最后調用傳入的alloc()函數min_nr次，把申請到的內存全部存放到elements中，如下：
1 mempool_t *mempool_create_node(int min_nr, mempool_alloc_t *alloc_fn, 2 mempool_free_t *free_fn, void *pool_data, 3 gfp_t gfp_mask, int node_id) 4 { 5 mempool_t *pool; 6 /* 分配一個內存池結構體 */ 7 pool = kzalloc_node(sizeof(*pool), gfp_mask, node_id); 8 if (!pool) 9 return NULL; 10 /* 分配一個長度為min_nr的數組用於存放申請后對象的指針 */ 11 pool->elements = kmalloc_node(min_nr * sizeof(void *), 12 gfp_mask, node_id); 13 if (!pool->elements) { 14 kfree(pool); 15 return NULL; 16 } 17 /* 初始化鎖 */ 18 spin_lock_init(&pool->lock); 19 pool->min_nr = min_nr; 20 /* 私有成員 */ 21 pool->pool_data = pool_data; 22 /* 初始化等待隊列 */ 23 init_waitqueue_head(&pool->wait); 24 pool->alloc = alloc_fn; 25 pool->free = free_fn; 26 27 /* 28 * First pre-allocate the guaranteed number of buffers. 29 */ 30 /* pool->curr_nr初始為0，因為pool使用kzalloc_node分配的，會清0 */ 31 while (pool->curr_nr < pool->min_nr) { 32 void *element; 33 34 /* 調用pool->alloc函數min_nr次 */ 35 element = pool->alloc(gfp_mask, pool->pool_data); 36 /* 如果申請不到element，則直接銷毀此內存池 */ 37 if (unlikely(!element)) { 38 mempool_destroy(pool); 39 return NULL; 40 } 41 /* 添加到elements指針數組中 */ 42 add_element(pool, element); 43 } 44 /* 返回內存池結構體 */ 45 return pool; 46 }
再看看mempool_destroy()，此函數也很簡單，直接將elements存放的內存依個釋放掉，然后將該釋放的elements指針數組和mempool_t結構都釋放掉
1 /* 銷毀一個內存池 */ 2 void mempool_destroy(mempool_t *pool) 3 { 4 while (pool->curr_nr) { 5 /* 銷毀elements數組中的所有對象 */ 6 /* element = pool->elements[--pool->curr_nr] */ 7 void *element = remove_element(pool); 8 pool->free(element, pool->pool_data); 9 } 10 /* 銷毀elements指針數組 */ 11 kfree(pool->elements); 12 /* 銷毀內存池結構體 */ 13 kfree(pool); 14 }
現在我們看mempool_alloc()函數，當模塊從此內存池中獲取內存對象時，會調用此函數，此函數優先從伙伴系統或slab緩沖區獲取需要的內存對象，當內存不足導致無法獲取內存對象時，才會從內存池elements數組中獲取，如果elements也沒有空閑的內存對象，根據傳入的分配標識進行相應的處理：
1 /* 內存池分配對象 */ 2 void * mempool_alloc(mempool_t *pool, gfp_t gfp_mask) 3 { 4 void *element; 5 unsigned long flags; 6 wait_queue_t wait; 7 gfp_t gfp_temp; 8 9 VM_WARN_ON_ONCE(gfp_mask & __GFP_ZERO); 10 /* 如果有__GFP_WAIT標志，則會先阻塞，切換進程 */ 11 might_sleep_if(gfp_mask & __GFP_WAIT); 12 13 /* 不使用預留內存 */ 14 gfp_mask |= __GFP_NOMEMALLOC; /* don't allocate emergency reserves */ 15 /* 分配頁時如果失敗則返回，不進行重試 */ 16 gfp_mask |= __GFP_NORETRY; /* don't loop in __alloc_pages */ 17 /* 分配失敗不提供警告 */ 18 gfp_mask |= __GFP_NOWARN; /* failures are OK */ 19 20 /* gfp_temp等於gfp_mask去除__GFP_WAIT和__GFP_IO的其他標志 */ 21 gfp_temp = gfp_mask & ~(__GFP_WAIT|__GFP_IO); 22 23 repeat_alloc: 24 25 /* 使用內存池中的alloc函數進行分配對象，實際上就是從伙伴系統或者slab緩沖區獲取內存對象 */ 26 element = pool->alloc(gfp_temp, pool->pool_data); 27 /* 在內存富足的情況下，一般是能夠獲取到內存的 */ 28 if (likely(element != NULL)) 29 return element; 30 31 /* 在內存不足的情況，造成從伙伴系統或slab緩沖區獲取內存失敗，則會執行到這 */ 32 /* 給內存池上鎖，獲取后此段臨界區禁止中斷和搶占 */ 33 spin_lock_irqsave(&pool->lock, flags); 34 /* 如果當前內存池中有空閑數量，就是初始化時獲取的內存數量保存在curr_nr中 */ 35 if (likely(pool->curr_nr)) { 36 /* 從內存池中獲取內存對象 */ 37 element = remove_element(pool); 38 /* 解鎖 */ 39 spin_unlock_irqrestore(&pool->lock, flags); 40 41 /* 寫內存屏障，保證之前的寫操作已經完成 */ 42 smp_wmb(); 43 /* 用於debug */ 44 kmemleak_update_trace(element); 45 return element; 46 } 47 48 /* 這里是內存池中也沒有空閑內存對象的時候進行的操作 */ 49 /* gfp_temp != gfp_mask說明傳入的gfp_mask允許阻塞等待，但是之前已經阻塞等待過了，所以這里立即重新獲取一次 */ 50 if (gfp_temp != gfp_mask) { 51 spin_unlock_irqrestore(&pool->lock, flags); 52 gfp_temp = gfp_mask; 53 goto repeat_alloc; 54 } 55 56 /* 傳入的參數gfp_mask不允許阻塞等待，分配不到內存則直接退出 */ 57 if (!(gfp_mask & __GFP_WAIT)) { 58 spin_unlock_irqrestore(&pool->lock, flags); 59 return NULL; 60 } 61 62 init_wait(&wait); 63 /* 加入到內存池的等待隊列中，並把當前進程的狀態設置為只有wake_up信號才能喚醒的狀態 ，也就是當內存池中有空閑對象時，會主動喚醒等待隊列中的第一個進程，或者等待超時時，定時器自動喚醒 */ 64 prepare_to_wait(&pool->wait, &wait, TASK_UNINTERRUPTIBLE); 65 66 spin_unlock_irqrestore(&pool->lock, flags); 67 68 /* 阻塞等待5秒 */ 69 io_schedule_timeout(5*HZ); 70 71 /* 從內存池的等待隊列刪除此進程 */ 72 finish_wait(&pool->wait, &wait); 73 /* 跳轉到repeat_alloc，重新嘗試獲取內存對象 */ 74 goto repeat_alloc; 75 } 76 EXPORT_SYMBOL(mempool_alloc);
最后我們看看mempool_free()函數，此函數用於將空閑內存對象釋放到內存池中，當內存池中空閑對象不足時，優先將空閑內存對象放到elements數組中，否則直接返回到伙伴系統或slab緩沖區中。
1 /* 內存池釋放內存對象操作 */ 2 void mempool_free(void *element, mempool_t *pool) 3 { 4 unsigned long flags; 5 6 /* 傳入的對象為空，則直接退出 */ 7 if (unlikely(element == NULL)) 8 return; 9 10 /* 讀內存屏障 */ 11 smp_rmb(); 12 13 /* 如果當前內存池中空閑的內存對象少於內存池中應當保存的內存對象的數量時，優先把釋放的對象加入到內存池空閑數組中 */ 14 if (unlikely(pool->curr_nr < pool->min_nr)) { 15 spin_lock_irqsave(&pool->lock, flags); 16 if (likely(pool->curr_nr < pool->min_nr)) { 17 /* 加入到pool->elements[pool->curr_nr++]中 */ 18 add_element(pool, element); 19 spin_unlock_irqrestore(&pool->lock, flags); 20 /* 喚醒等待隊列中的第一個進程 */ 21 wake_up(&pool->wait); 22 return; 23 } 24 spin_unlock_irqrestore(&pool->lock, flags); 25 } 26 /* 直接調用釋放函數 */ 27 pool->free(element, pool->pool_data); 28 } 29 EXPORT_SYMBOL(mempool_free);
或許看完這些還是不太清楚怎么使用內存池，畢竟alloc和free函數需要我們自己去設計，如果內存池是使用slab緩沖區進行內存分配時，可將slab緩沖區描述符寫入到mempool_t中的pool_data中，alloc和free函數可以直接指定mempool_alloc_slab()和mempool_free_slab()，如下：
1 /* 創建一個slab緩沖區 */ 2 drbd_request_cache = kmem_cache_create( 3 "drbd_req", sizeof(struct drbd_request), 0, 0, NULL); 4 if (drbd_request_cache == NULL) 5 goto Enomem; 6 7 /* 創建一個內存池，私有成員設置為drbd_request_cache這個slab緩沖區，alloc和free函數設置為mempool_alloc_slab()和mempool_free_slab() */ 8 drbd_request_mempool = mempool_create(number,mempool_alloc_slab,mempool_free_slab,drbd_request_cache); 9 if (drbd_request_mempool == NULL) 10 goto Enomem; 11 12 13 /* 若內存池從slab緩沖區中獲取內存對象，則內核提供的alloc函數 */ 14 void *mempool_alloc_slab(gfp_t gfp_mask, void *pool_data) 15 { 16 struct kmem_cache *mem = pool_data; 17 return kmem_cache_alloc(mem, gfp_mask); 18 } 19 EXPORT_SYMBOL(mempool_alloc_slab); 20 21 /* 若內存池從slab緩沖區中獲取內存對象，則內核提供的free函數 */ 22 void mempool_free_slab(void *element, void *pool_data) 23 { 24 struct kmem_cache *mem = pool_data; 25 kmem_cache_free(mem, element); 26 } 27 EXPORT_SYMBOL(mempool_free_slab);