python內存管理機制

解讀Python內存管理機制

轉自:http://developer.51cto.com/art/201007/213585.htm

轉自:http://www.cnblogs.com/vamei

 

一句話概括：引用計數為主，清除標記，分代回收為輔

引子

語言的內存管理是語言設計的一個重要方面。它是決定語言性能的重要因素。無論是C語言的手工管理，還是Java的垃圾回收，都成為語言最重要的特征。這里以Python語言為例子，說明一門動態類型的、面向對象的語言的內存管理方式。

 

 

對象的內存使用

賦值語句是語言最常見的功能了。但即使是最簡單的賦值語句，也可以很有內涵。Python的賦值語句就很值得研究。

1. a = 1

整數1為一個對象。而a是一個引用。利用賦值語句，引用a指向對象1。Python是動態類型的語言(參考動態類型)，對象與引用分離。Python像使用“筷子”那樣，通過引用來接觸和翻動真正的食物——對象。

引用和對象

為了探索對象在內存的存儲，我們可以求助於Python的內置函數id()。它用於返回對象的身份(identity)。其實，這里所謂的身份，就是該對象的內存地址。

1. a = 1
2.  
3. print(id(a))
4. print(hex(id(a)))

在我的計算機上，它們返回的是:

11246696
'0xab9c68'

分別為內存地址的十進制和十六進制表示。

在Python中，整數和短小的字符，Python都會緩存這些對象，以便重復使用。當我們創建多個等於1的引用時，實際上是讓所有這些引用指向同一個對象。

1. a = 1
2. b = 1
3.  
4. print(id(a))
5. print(id(b))

上面程序返回

11246696

11246696

可見a和b實際上是指向同一個對象的兩個引用。

為了檢驗兩個引用指向同一個對象，我們可以用is關鍵字。is用於判斷兩個引用所指的對象是否相同。

1. # True
2. a = 1
3. b = 1
4. print(a is b)
5.  
6. # True
7. a = "good"
8. b = "good"
9. print(a is b)
10.  
11. # False
12. a = "very good morning"
13. b = "very good morning"
14. print(a is b)
15.  
16. # False
17. a = []
18. b = []
19. print(a is b)

上面的注釋為相應的運行結果。可以看到，由於Python緩存了整數和短字符串，因此每個對象只存有一份。比如，所有整數1的引用都指向同一對象。即使使用賦值語句，也只是創造了新的引用，而不是對象本身。長的字符串和其它對象可以有多個相同的對象，可以使用賦值語句創建出新的對象。

在Python中，每個對象都有存有指向該對象的引用總數，即引用計數(reference count)。

我們可以使用sys包中的getrefcount()，來查看某個對象的引用計數。需要注意的是，當使用某個引用作為參數，傳遞給getrefcount()時，參數實際上創建了一個臨時的引用。因此，getrefcount()所得到的結果，會比期望的多1。

1. from sys import getrefcount
2.  
3. a = [1, 2, 3]
4. print(getrefcount(a))
5.  
6. b = aprint(getrefcount(b))

由於上述原因，兩個getrefcount將返回2和3，而不是期望的1和2。

對象引用對象

Python的一個容器對象(container)，比如表、詞典等，可以包含多個對象。實際上，容器對象中包含的並不是元素對象本身，是指向各個元素對象的引用。

我們也可以自定義一個對象，並引用其它對象:

1. class from_obj(object):
2. def __init__(self, to_obj):
3. self.to_obj = to_obj
4.  
5. b = [1,2,3]
6. a = from_obj(b)
7. print(id(a.to_obj))
8. print(id(b))

可以看到，a引用了對象b。

對象引用對象，是Python最基本的構成方式。即使是a = 1這一賦值方式，實際上是讓詞典的一個鍵值"a"的元素引用整數對象1。該詞典對象用於記錄所有的全局引用。該詞典引用了整數對象1。我們可以通過內置函數globals()來查看該詞典。

當一個對象A被另一個對象B引用時，A的引用計數將增加1。

1. from sys import getrefcount
2.  
3. a = [1, 2, 3]
4. print(getrefcount(a))
5.  
6. b = [a, a]
7. print(getrefcount(a))

由於對象b引用了兩次a，a的引用計數增加了2。

容器對象的引用可能構成很復雜的拓撲結構。我們可以用objgraph包來繪制其引用關系，比如

1. x = [1, 2, 3]
2. y = [x, dict(key1=x)]
3. z = [y, (x, y)]
4.  
5. import objgraph
6. objgraph.show_refs([z], filename='ref_topo.png')

objgraph是Python的一個第三方包。安裝之前需要安裝xdot。（在 ubuntu 系統 python 2.7.3 下安裝 objgraph1.8 版本導入模塊時總是報錯找不到模塊，安裝低版本 sudo pip install 'objgraph<1.8' 導入模塊成功）

1. sudo apt-get install xdot
2. sudo pip install objgraph

objgraph官網

兩個對象可能相互引用，從而構成所謂的引用環(reference cycle)。

1. a = []
2. b = [a]
3. a.append(b)

即使是一個對象，只需要自己引用自己，也能構成引用環。

1. a = []
2. a.append(a)
3. print(getrefcount(a))

引用環會給垃圾回收機制帶來很大的麻煩，我將在后面詳細敘述這一點。

引用減少

某個對象的引用計數可能減少。比如，可以使用del關鍵字刪除某個引用:

1. from sys import getrefcount
2.  
3. a = [1, 2, 3]
4. b = a
5. print(getrefcount(b))
6.  
7. del a
8. print(getrefcount(b))

del也可以用於刪除容器元素中的元素，比如:

1. a = [1,2,3]
2. del a[0]
3. print(a)

如果某個引用指向對象A，當這個引用被重新定向到某個其他對象B時，對象A的引用計數減少:

1. from sys import getrefcount
2.  
3. a = [1, 2, 3]
4. b = a
5. print(getrefcount(b))
6.  
7. a = 1
8. print(getrefcount(b))

垃圾回收

吃太多，總會變胖，Python也是這樣。當Python中的對象越來越多，它們將占據越來越大的內存。不過你不用太擔心Python的體形，它會乖巧的在適當的時候“減肥”，啟動垃圾回收(garbage collection)，將沒用的對象清除。在許多語言中都有垃圾回收機制，比如Java和Ruby。盡管最終目的都是塑造苗條的提醒，但不同語言的減肥方案有很大的差異 (這一點可以對比本文和Java內存管理與垃圾回收

)。

從基本原理上，當Python的某個對象的引用計數降為0時，說明沒有任何引用指向該對象，該對象就成為要被回收的垃圾了。比如某個新建對象，它被分配給某個引用，對象的引用計數變為1。如果引用被刪除，對象的引用計數為0，那么該對象就可以被垃圾回收。比如下面的表:

1. a = [1, 2, 3]
2. del a

del a后，已經沒有任何引用指向之前建立的[1, 2, 3]這個表。用戶不可能通過任何方式接觸或者動用這個對象。這個對象如果繼續待在內存里，就成了不健康的脂肪。當垃圾回收啟動時，Python掃描到這個引用計數為0的對象，就將它所占據的內存清空。

然而，減肥是個昂貴而費力的事情。垃圾回收時，Python不能進行其它的任務。頻繁的垃圾回收將大大降低Python的工作效率。如果內存中的對象不多，就沒有必要總啟動垃圾回收。所以，Python只會在特定條件下，自動啟動垃圾回收。當Python運行時，會記錄其中分配對象(object allocation)和取消分配對象(object deallocation)的次數。當兩者的差值高於某個閾值時，垃圾回收才會啟動。

我們可以通過gc模塊的get_threshold()方法，查看該閾值:

1. import gc
2. print(gc.get_threshold())

返回(700, 10, 10)，后面的兩個10是與分代回收相關的閾值，后面可以看到。700即是垃圾回收啟動的閾值。可以通過gc中的set_threshold()方法重新設置。

我們也可以手動啟動垃圾回收，即使用gc.collect()。

分代回收

Python同時采用了分代(generation)回收的策略。這一策略的基本假設是，存活時間越久的對象，越不可能在后面的程序中變成垃圾。我們的程序往往會產生大量的對象，許多對象很快產生和消失，但也有一些對象長期被使用。出於信任和效率，對於這樣一些“長壽”對象，我們相信它們的用處，所以減少在垃圾回收中掃描它們的頻率。

小家伙要多檢查

Python將所有的對象分為0，1，2三代。所有的新建對象都是0代對象。當某一代對象經歷過垃圾回收，依然存活，那么它就被歸入下一代對象。垃圾回收啟動時，一定會掃描所有的0代對象。如果0代經過一定次數垃圾回收，那么就啟動對0代和1代的掃描清理。當1代也經歷了一定次數的垃圾回收后，那么會啟動對0，1，2，即對所有對象進行掃描。

這兩個次數即上面get_threshold()返回的(700, 10, 10)返回的兩個10。也就是說，每10次0代垃圾回收，會配合1次1代的垃圾回收；而每10次1代的垃圾回收，才會有1次的2代垃圾回收。

同樣可以用set_threshold()來調整，比如對2代對象進行更頻繁的掃描。

1. import gc
2. gc.set_threshold(700, 10, 5)

孤立的引用環

引用環的存在會給上面的垃圾回收機制帶來很大的困難。這些引用環可能構成無法使用，但引用計數不為0的一些對象。

1. a = []
2. b = [a]
3. a.append(b)
4.  
5. del a
6. del b

上面我們先創建了兩個表對象，並引用對方，構成一個引用環。刪除了a，b引用之后，這兩個對象不可能再從程序中調用，就沒有什么用處了。但是由於引用環的存在，這兩個對象的引用計數都沒有降到0，不會被垃圾回收。

孤立的引用環

為了回收這樣的引用環，Python復制每個對象的引用計數，可以記為gc_ref。假設，每個對象i，該計數為gc_ref_i。Python會遍歷所有的對象i。對於每個對象i引用的對象j，將相應的gc_ref_j減1。

遍歷后的結果

在結束遍歷后，gc_ref不為0的對象，和這些對象引用的對象，以及繼續更下游引用的對象，需要被保留。而其它的對象則被垃圾回收。

 

小塊空間的內存池

在Python中，許多時候申請的內存都是小塊的內存，這些小塊內存在申請后，很快又會被釋放，由於這些內存的申請並不是為了創建對象，所以並沒有對象一級的內存池機制。

 

Python內存池全景

這就意味着Python在運行期間會大量地執行malloc和free的操作，頻繁地在用戶態和核心態之間進行切換，這將嚴重影響Python的執行效率。為了加速Python的執行效率，Python引入了一個內存池機制，用於管理對小塊內存的申請和釋放。這也就是之前提到的Pymalloc機制。

在Python 2.5中，Python內部默認的小塊內存與大塊內存的分界點定在256個字節，這個分界點由前面我們看到的名為SMALL_REQUEST_THRESHOLD的符號控制。

也就是說，當申請的內存小於256字節時，PyObject_Malloc會在內存池中申請內存；當申請的內存大於256字節時，PyObject_Malloc的行為將蛻化為malloc的行為。當然，通過修改Python源代碼，我們可以改變這個默認值，從而改變Python的默認內存管理行為。

在一個對象的引用計數減為0時，與該對象對應的析構函數就會被調用。

但是要特別注意的是，調用析構函數並不意味着最終一定會調用free釋放內存空間，如果真是這樣的話，那頻繁地申請、釋放內存空間會使 Python的執行效率大打折扣（更何況Python已經多年背負了人們對其執行效率的不滿）。一般來說，Python中大量采用了內存對象池的技術，使用這種技術可以避免頻繁地申請和釋放內存空間。因此在析構時，通常都是將對象占用的空間歸還到內存池中。

"這個問題就是:Python的arena從來不釋放pool。這個問題為什么會引起類似於內存泄漏的現象呢。考慮這樣一種情形，申請10*1024*1024個16字節的小內存，這就意味着必須使用160M的內存，由於Python沒有默認將前面提到的限制內存池的WITH_MEMORY_LIMITS編譯符號打開，所以Python會完全使用arena來滿足你的需求，這都沒有問題，關鍵的問題在於過了一段時間，你將所有這些16字節的內存都釋放了，這些內存都回到arena的控制中，似乎沒有問題。

但是問題恰恰就在這時出現了。因為arena始終不會釋放它維護的pool集合，所以這160M的內存始終被Python占用，如果以后程序運行中再也不需要160M如此巨大的內存，這點內存豈不是就浪費了？"

Python內存管理規則：del的時候,把list的元素釋放掉,把管理元素的大對象回收到py對象緩沖池里