linux內存管理之malloc、vmalloc、kmalloc的區別


kmalloc kzalloc vmalloc malloc 和get_free_page()的區別

一、簡述

1、 kmalloc申請的是較小的連續的物理內存,虛擬地址上也是連續的。kmalloc和get_free_page最終調用實現是相同的,只不過在調用最終函數時所傳的flag不同而已。除非被阻塞否則他執行的速度非常快,而且不對獲得空間清零。
2、get_free_page()申請的內存是一整頁,一頁的大小一般是128K。
3、kzalloc 先是用 kmalloc() 申請空間 , 然后用 memset() 清零來初始化 ,所有申請的元素都被初始化為 0.
4、vmalloc用於申請較大的內存空間,虛擬內存是連續,但是在物理上它們不要求連續。
5、malloc 用於用戶空間申請內存。除非被阻塞否則他執行的速度非常快,而且不對獲得空間清零。

二、先看看linux內存分布圖:

圖1:linux內存分布圖

 

對於提供了MMU(存儲管理器,輔助操作系統進行內存管理,提供虛實地址轉換等硬件支持)的處理器而言,Linux提供了復雜的存儲管理系統,使得進程所能訪問的內存達到4GB。

      進程的4GB內存空間被人為的分為兩個部分--用戶空間與內核空間。用戶空間地址分布從0到3GB(PAGE_OFFSET,在0x86中它等於0xC0000000),3GB到4GB為內核空間。

      內核空間中,從3G到vmalloc_start這段地址是物理內存映射區域(該區域中包含了內核鏡像、物理頁框表mem_map等等),比如我們使用 的 VMware虛擬系統內存是160M,那么3G~3G+160M這片內存就應該映射物理內存。在物理內存映射區之后,就是vmalloc區域。對於 160M的系統而言,vmalloc_start位置應在3G+160M附近(在物理內存映射區與vmalloc_start期間還存在一個8M的gap 來防止躍界),vmalloc_end的位置接近4G(最后位置系統會保留一片128k大小的區域用於專用頁面映射)

1、kmalloc

kmalloc申請的是較小的連續的物理內存,內存物理地址上連續,虛擬地址上也是連續的,使用的是內存分配器slab的一小片。申請的內存位於物理內存的映射區域。其真正的物理地址只相差一個固定的偏移。可以用兩個宏來簡單轉換__pa(address) { virt_to_phys()} 和__va(address) {phys_to_virt()}
get_free_page()申請的內存是一整頁,一頁的大小一般是128K。
從本質上講,kmalloc和get_free_page最終調用實現是相同的,只不過在調用最終函數時所傳的flag不同而已。

kmalloc和get_free_page申請的內存位於物理內存映射區域,而且在物理上也是連續的,它們與真實的物理地址只有一個固定的偏移,因此存在較簡單的轉換關系,virt_to_phys()可以實現內核虛擬地址轉化為物理地址:
#define __pa(x) ((unsigned long)(x)-PAGE_OFFSET)
extern inline unsigned long virt_to_phys(volatile void * address)
{
 return __pa(address);
}
上面轉換過程是將虛擬地址減去3G(PAGE_OFFSET=0XC000000)。

與之對應的函數為phys_to_virt(),將內核物理地址轉化為虛擬地址:
#define __va(x) ((void *)((unsigned long)(x)+PAGE_OFFSET))
extern inline void * phys_to_virt(unsigned long address)
{
 return __va(address);
}
virt_to_phys()和phys_to_virt()都定義在include/asm-i386/io.h中。

1. kmalloc的用法
kmalloc與malloc 相似,該函數返回速度快快(除非它阻塞)並對其分配的內存不進行 初始化(清零),分配的區仍然持有它原來的內容, 分配的區也是在物理內存中連 續
記住 kmalloc 原型是:
#include <linux/slab。h>
void *kmalloc(size_t size, int flags);
給 kmalloc 的第一個參數是要分配的塊的大小。 第 2 個參數, 分配標志, 用於控制 kmalloc的行為。
1.1. flags 參數
GFP_ATOMIC
用來從中斷處理和進程上下文之外的其他代碼中分配內存。 從不睡眠。
GFP_KERNEL
內核內存的正常分配。 可能睡眠。
GFP_USER
用來為用戶空間頁來分配內存; 它可能睡眠。
GFP_HIGHUSER
如同 GFP_USER, 但是從高端內存分配, 如果有。 高端內存在下一個子節描述。
GFP_NOIO

GFP_NOFS
這個標志功能如同 GFP_KERNEL, 但是它們增加限制到內核能做的來滿足請求。 一個 GFP_NOFS 分配不允許進行任何文件系統調用, 而 GFP_NOIO 根本不允許任何 I/O 初始化。 它們主要地用在文件系統和虛擬內存代碼, 那里允許一個分配睡眠, 但是遞歸的文件系統調用會是一個壞注意。
上面列出的這些分配標志可以是下列標志的相或來作為參數, 這些標志改變這些分配如何進行:
__GFP_DMA
這個標志要求分配在能夠 DMA 的內存區。 確切的含義是平台依賴的並且在下面章節來解釋。
__GFP_HIGHMEM
這個標志指示分配的內存可以位於高端內存。
__GFP_COLD
正常地, 內存分配器盡力返回"緩沖熱"的頁 -- 可能在處理器緩沖中找到的頁。 相反, 這個標志請求一個"冷"頁, 它在一段時間沒被使用。 它對分配頁作 DMA 讀是有用的, 此時在處理器緩沖中出現是無用的。 一個完整的對如何分配 DMA 緩存的討論看"直接內存存取"一節在第 1 章。
__GFP_NOWARN
這個很少用到的標志阻止內核來發出警告(使用 printk ), 當一個分配無法滿足。
__GFP_HIGH
這個標志標識了一個高優先級請求, 它被允許來消耗甚至被內核保留給緊急狀況的最后的內存頁。
__GFP_REPEAT

__GFP_NOFAIL

__GFP_NORETRY
這些標志修改分配器如何動作, 當它有困難滿足一個分配。 __GFP_REPEAT 意思是" 更盡力些嘗試" 通過重復嘗試 -- 但是分配可能仍然失敗。 __GFP_NOFAIL 標志告訴分配器不要失敗; 它盡最大努力來滿足要求。 使用 __GFP_NOFAIL 是強烈不推薦的; 可能從不會有有效的理由在一個設備驅動中使用它。 最后, __GFP_NORETRY 告知分配器立即放棄如果得不到請求的內存。
1.2. size 參數
內核管理系統的物理內存, 這些物理內存只是以頁大小的塊來使用。 結果是, kmalloc 看來非常不同於一個典型的用戶空間 malloc 實現。 一個簡單的, 面向堆的分 配技術可能很快有麻煩; 它可能在解決頁邊界時有困難。 因而, 內核使用一個特殊的面向 頁的分配技術來最好地利用系統RAM。
Linux 處理內存分配通過創建一套固定大小的內存對象池。 分配請求被這樣來處理,進 入一個持有足夠大的對象的池子並且將整個內存塊遞交給請求者。 內存管理方案是非常復 雜, 並且細節通常不是全部設備驅動編寫者都感興趣的。
然而, 驅動開發者應當記住的一件事情是, 內核只能分配某些預定義的, 固定大小的字 節數組。 如果你請求一個任意數量內存,你可能得到稍微多於你請求的, 至多是 2 倍數量。 同樣, 程序員應當記住 kmalloc 能夠處理的最小分配是 32 或者 64 字節,依賴系統的體 系所使用的頁大小。
kmalloc 能夠分配的內存塊的大小有一個上限。 這個限制隨着體系和內核配置選項而 變化。 如果你的代碼是要完全可移植,它不能指望可以分配任何大於 128 KB。

2、kzalloc

用kzalloc申請內存的時候, 效果等同於先是用 kmalloc() 申請空間 然后用 memset() 來初始化 ,所有申請的元素都被初始化為 0.

 

  1. /** 
  2.  * kzalloc - allocate memory. The memory is set to zero. 
  3.  * @size: how many bytes of memory are required. 
  4.  * @flags: the type of memory to allocate (see kmalloc). 
  5.  */  
  6. static inline void *kzalloc(size_t size, gfp_t flags)  
  7. {  
  8.     return kmalloc(size, flags | __GFP_ZERO);  
  9. }  

kzalloc 函數是帶參數調用kmalloc函數,添加的參數是或了標志位__GFP_ZERO,

  1. void *__kmalloc(size_t size, gfp_t flags)  
  2. {  
  3.     struct kmem_cache *s;  
  4.     void *ret;  
  5.   
  6.     if (unlikely(size > SLUB_MAX_SIZE))  
  7.         return kmalloc_large(size, flags);  
  8.   
  9.     s = get_slab(size, flags);  
  10.   
  11.     if (unlikely(ZERO_OR_NULL_PTR(s)))  
  12.         return s;  
  13.   
  14.     ret = slab_alloc(s, flags, -1, _RET_IP_);  
  15.   
  16.     trace_kmalloc(_RET_IP_, ret, size, s->size, flags);  
  17.   
  18.     return ret;  
  19. }  

這個函數調用trace_kmalloc,flags參數不變,繼續往里面可以看到

 

 

  1. static __always_inline void *slab_alloc(struct kmem_cache *s,  
  2.         gfp_t gfpflags, int node, unsigned long addr)  
  3. {  
  4.     void **object;  
  5.     struct kmem_cache_cpu *c;  
  6.     unsigned long flags;  
  7.     unsigned int objsize;  
  8.   
  9.     gfpflags &= gfp_allowed_mask;  
  10.   
  11.     lockdep_trace_alloc(gfpflags);  
  12.     might_sleep_if(gfpflags & __GFP_WAIT);  
  13.   
  14.     if (should_failslab(s->objsize, gfpflags))  
  15.         return NULL;  
  16.   
  17.     local_irq_save(flags);  
  18.     c = get_cpu_slab(s, smp_processor_id());  
  19.     objsize = c->objsize;  
  20.     if (unlikely(!c->freelist || !node_match(c, node)))  
  21.   
  22.         object = __slab_alloc(s, gfpflags, node, addr, c);  
  23.   
  24.     else {  
  25.         object = c->freelist;  
  26.         c->freelist = object[c->offset];  
  27.         stat(c, ALLOC_FASTPATH);  
  28.     }  
  29.     local_irq_restore(flags);  
  30.   
  31.     if (unlikely((gfpflags & __GFP_ZERO) && object))  
  32.         memset(object, 0, objsize);  
  33.   
  34.     kmemcheck_slab_alloc(s, gfpflags, object, c->objsize);  
  35.     kmemleak_alloc_recursive(object, objsize, 1, s->flags, gfpflags);  
  36.   
  37.     return object;  
  38. }  

這里主要判斷兩個標志,WAIT和ZERO,和本文有關的關鍵代碼就是

 

if (unlikely((gfpflags & __GFP_ZERO) && object))
memset(object, 0, objsize);

3、vmalloc

vmalloc用於申請較大的內存空間,虛擬內存是連續。申請的內存的則位於vmalloc_start~vmalloc_end之間,與物理地址沒有簡單的轉換關系,雖然在邏輯上它們也是連續的,但是在物理上它們不要求連續。

以字節為單位進行分配,在<linux/vmalloc.h>
void *vmalloc(unsigned long size) 分配的內存虛擬地址上連續,物理地址不連續。
一般情況下,只有硬件設備才需要物理地址連續的內存,因為硬件設備往往存在於MMU之外,根本不了解虛擬地址;但為了性能上的考慮,內核中一般使用kmalloc(),而只有在需要獲得大塊內存時才使用vmalloc,例如當模塊被動態加載到內核當中時,就把模塊裝載到由vmalloc()分配的內存上。

4、kmalloc、get_free_page和vmalloc的區別:

我們用下面的程序來演示kmalloc、get_free_page和vmalloc的區別:
#include <linux/module.h>
#include <linux/slab.h>
#include <linux/vmalloc.h>
MODULE_LICENSE("GPL");
unsigned char *pagemem;
unsigned char *kmallocmem;
unsigned char *vmallocmem;

int __init mem_module_init(void)
{
//最好每次內存申請都檢查申請是否成功
//下面這段僅僅作為演示的代碼沒有檢查
pagemem = (unsigned char*)get_free_page(0);
printk("<1>pagemem addr=%x", pagemem);

kmallocmem = (unsigned char*)kmalloc(100, 0);
printk("<1>kmallocmem addr=%x", kmallocmem);

vmallocmem = (unsigned char*)vmalloc(1000000);
printk("<1>vmallocmem addr=%x", vmallocmem);

return 0;
}

void __exit mem_module_exit(void)
{
free_page(pagemem);
kfree(kmallocmem);
vfree(vmallocmem);
}

module_init(mem_module_init);
module_exit(mem_module_exit);

我們的系統上有160MB的內存空間,運行一次上述程序,發現pagemem的地址在0xc7997000(約3G+121M)、kmallocmem 地址在0xc9bc1380(約3G+155M)、vmallocmem的地址在0xcabeb000(約3G+171M)處,符合前文所述的內存布局。
 

5、malloc

malloc內存分配和Kmalloc相似,除非被阻塞否則他執行的速度非常快,而且不對獲得空間清零。
malloc分配的是用戶的內存。
使用 void *malloc(size_t size)
 
 
本文參考資料:
感謝以上作者的分享

 

 

 

 

linux內存管理之malloc、vmalloc、kmalloc的區別

1、kmalloc和vmalloc是分配的是內核的內存,malloc分配的是用戶的內存
2、kmalloc保證分配的內存在物理上是連續的,內存只有在要被DMA訪問的時候才需要物理上連續,malloc和vmalloc保證的是在虛擬地址空間上的連續

3、kmalloc能分配的大小有限,vmalloc和malloc能分配的大小相對較大

4、vmalloc比kmalloc要慢。盡管在某些情況下才需要物理上連續的內存塊,但是很多內核代碼都用kmalloc來獲得內存,而不是vmalloc。這主要是出於性能的考慮。vmalloc函數為了把物理內存上不連續的頁轉換為虛擬地址空間上連續的頁,必須專門建立頁表項。糟糕的是,通過vmalloc獲得的頁必須一個個地進行映射,因為它們物理上是不連續的,這就會導致比直接內存映射大得多的TLB抖動,vmalloc僅在不得已時才會用--典型的就是為了獲得大塊內存時。

 

malloc的實現原理

malloc函數的實質體現在,它有一個將可用的內存塊連接為一個長長的列表的所謂空閑鏈表(全局變量,一個內存塊的鏈表指針)。調用malloc函數時,它沿連接表尋找一個大到足以滿足用戶請求所需要的內存塊。然后,將該內存塊一分為二(一塊的大小與用戶請求的大小相等,另一塊的大小就是剩下的字節)。接下來,將分配給用戶的那塊內存傳給用戶,並將剩下的那塊(如果有的話)返回到連接表上。調用free函數時,它將用戶釋放的內存塊連接到空閑鏈上。到最后,空閑鏈會被切成很多的小內存片段,如果這時用戶申請一個大的內存片段,那么空閑鏈上可能沒有可以滿足用戶要求的片段了。於是,malloc函數請求延時,並開始在空閑鏈上翻箱倒櫃地檢查各內存片段,對它們進行整理,將相鄰的小空閑塊合並成較大的內存塊。  malloc()在操作系統中的實現    在 C 程序中,多次使用malloc () 和 free()。不過,您可能沒有用一些時間去思考它們在您的操作系統中是如何實現的。本節將向您展示 malloc 和 free 的一個最簡化實現的代碼,來幫助說明管理內存時都涉及到了哪些事情。   在大部分操作系統中,內存分配由以下兩個簡單的函數來處理:    void *malloc (long numbytes):該函數負責分配 numbytes 大小的內存,並返回指向第一個字節的指針。    void free(void *firstbyte):如果給定一個由先前的 malloc 返回的指針,那么該函數會將分配的空間歸還給進程的“空閑空間”。

 

malloc_init 將是初始化內存分配程序的函數。它要完成以下三件事:將分配程序標識為已經初始化,找到系統中最后一個有效內存地址,然后建立起指向我們管理的內存的指針。這三個變量都是全局變量:

如前所述,被映射的內存的邊界(最后一個有效地址)常被稱為系統中斷點或者當前中斷點。在很多 UNIX? 系統中,為了指出當前系統中斷點,必須使用sbrk(0) 函數。 sbrk 根據參數中給出的字節數移動當前系統中斷點,然后返回新的系統中斷點。使用參數 0 只是返回當前中斷點。這里是我們的 malloc 初始化代碼,它將找到當前中斷點並初始化我們的變量


現在,為了完全地管理內存,我們需要能夠追蹤要分配和回收哪些內存。在對內存塊進行了 free 調用之后,我們需要做的是諸如將它們標記為未被使用的等事情, 並且, 在調用 malloc 時, 我們要能夠定位未被使用的內存塊。 因此, malloc返回的每塊內存的起始處首先要有這個結構:


現在, 您可能會認為當程序調用 malloc 時這會引發問題 —— 它們如何知道這個結構?答案是它們不必知道;在返回指針之前,我們會將其移動到這個結構之后, 把它隱藏起來。 這使得返回的指針指向沒有用於任何其他用途的內存。 那樣,從調用程序的角度來看,它們所得到的全部是空閑的、開放的內存。然后,當通過 free() 將該指針傳遞回來時,我們只需要倒退幾個內存字節就可以再次找到這個結構。在討論分配內存之前,我們將先討論釋放,因為它更簡單。為了釋放內存,我們必須要做的惟一一件事情就是,獲得我們給出的指針,回退 sizeof(structmem_control_block) 個字節,並將其標記為可用的。這里是對應的代碼:


如您所見,在這個分配程序中,內存的釋放使用了一個非常簡單的機制,在固定時間內完成內存釋放。分配內存稍微困難一些。我們主要使用連接的指針遍歷內存來尋找開放的內存塊。這里是代碼:



 




這就是我們的內存管理器。現在,我們只需要構建它,並在程序中使用它即可.多次調用 malloc()后空閑內存被切成很多的小內存片段,這就使得用戶在申請內存使用時,由於找不到足夠大的內存空間,malloc()需要進行內存整理,使得函數的性能越來越低。聰明的程序員通過總是分配大小為 2 的冪的內存塊,而最大限度地降低潛在的 malloc 性能喪失。也就是說,所分配的內存塊大小為4 字節、8 字節、16 字節、18446744073709551616 字節,等等。這樣做最大限度地減少了進入空閑鏈的怪異片段(各種尺寸的小片段都有)的數量。盡管看起來這好像浪費了空間,但也容易看出浪費的空間永遠不會超過 50%。

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM