數據結構與算法（Python）

Why？

我們舉一個可能不太恰當的例子：

如果將最終寫好運行的程序比作戰場，我們碼農便是指揮作戰的將軍，而我們所寫的代碼便是士兵和武器。

那么數據結構和算法是什么？答曰：兵法！

我們可以不看兵法在戰場上肉搏，如此，可能會勝利，可能會失敗。即使勝利，可能也會付出巨大的代價。我們寫程序亦然：沒有看過數據結構和算法，有時面對問題可能會沒有任何思路，不知如何下手去解決；大部分時間可能解決了問題，可是對程序運行的效率和開銷沒有意識，性能低下；有時會借助別人開發的利器暫時解決了問題，可是遇到性能瓶頸的時候，又不知該如何進行針對性的優化。

如果我們常看兵法，便可做到胸有成竹，有時會事半功倍！同樣，如果我們常看數據結構與算法，我們寫程序時也能游刃有余、明察秋毫，遇到問題時亦能入木三分、迎刃而解。

故，數據結構和算法是一名程序開發人員的必備基本功，不是一朝一夕就能練成絕世高手的。冰凍三尺非一日之寒，需要我們平時不斷的主動去學習積累。

一、引入

先來看一道題:

如果 a+b+c=1000，且 a^2+b^2=c^2（a,b,c 為自然數），如何求出所有a、b、c可能的組合?

二、第一次嘗試

import time

start_time = time.time()

# 注意是三重循環
for a in range(0, 1001):
    for b in range(0, 1001):
        for c in range(0, 1001):
            if a**2 + b**2 == c**2 and a+b+c == 1000:
                print("a, b, c: %d, %d, %d" % (a, b, c))

end_time = time.time()
print("elapsed: %f" % (end_time - start_time))
print("complete!")

運行結果：

a, b, c: 0, 500, 500
a, b, c: 200, 375, 425
a, b, c: 375, 200, 425
a, b, c: 500, 0, 500
elapsed: 214.583347
complete!

注意運行的時間:214.583347秒

三、第二次嘗試

import time

start_time = time.time()

# 注意是兩重循環
for a in range(0, 1001):
    for b in range(0, 1001-a):
        c = 1000 - a - b
        if a**2 + b**2 == c**2:
            print("a, b, c: %d, %d, %d" % (a, b, c))

end_time = time.time()
print("elapsed: %f" % (end_time - start_time))
print("complete!")

運行結果：

a, b, c: 0, 500, 500
a, b, c: 200, 375, 425
a, b, c: 375, 200, 425
a, b, c: 500, 0, 500
elapsed: 0.182897
complete!

注意運行的時間:0.182897秒

四、算法效率衡量

執行時間反應算法效率

對於同一問題，我們給出了兩種解決算法，在兩種算法的實現中，我們對程序執行的時間進行了測算，發現兩段程序執行的時間相差懸殊（214.583347秒相比於0.182897秒），由此我們可以得出結論：實現算法程序的執行時間可以反應出算法的效率，即算法的優劣。

4.1 單靠時間值絕對可信嗎？

假設我們將第二次嘗試的算法程序運行在一台配置古老性能低下的計算機中，情況會如何？很可能運行的時間並不會比在我們的電腦中運行算法一的214.583347秒快多少。

單純依靠運行的時間來比較算法的優劣並不一定是客觀准確的！

程序的運行離不開計算機環境（包括硬件和操作系統），這些客觀原因會影響程序運行的速度並反應在程序的執行時間上。那么如何才能客觀的評判一個算法的優劣呢？

4.2 時間復雜度與“大O記法”

我們假定計算機執行算法每一個基本操作的時間是固定的一個時間單位，那么有多少個基本操作就代表會花費多少時間單位。算然對於不同的機器環境而言，確切的單位時間是不同的，但是對於算法進行多少個基本操作（即花費多少時間單位）在規模數量級上卻是相同的，由此可以忽略機器環境的影響而客觀的反應算法的時間效率。

對於算法的時間效率，我們可以用“大O記法”來表示。

“大O記法”：對於單調的整數函數f，如果存在一個整數函數g和實常數c>0，使得對於充分大的n總有f(n)<=c*g(n)，就說函數g是f的一個漸近函數（忽略常數），記為f(n)=O(g(n))。也就是說，在趨向無窮的極限意義下，函數f的增長速度受到函數g的約束，亦即函數f與函數g的特征相似。

時間復雜度：假設存在函數g，使得算法A處理規模為n的問題示例所用時間為T(n)=O(g(n))，則稱O(g(n))為算法A的漸近時間復雜度，簡稱時間復雜度，記為T(n)

4.3 如何理解“大O記法”

對於算法進行特別具體的細致分析雖然很好，但在實踐中的實際價值有限。對於算法的時間性質和空間性質，最重要的是其數量級和趨勢，這些是分析算法效率的主要部分。而計量算法基本操作數量的規模函數中那些常量因子可以忽略不計。例如，可以認為3n2和100n2屬於同一個量級，如果兩個算法處理同樣規模實例的代價分別為這兩個函數，就認為它們的效率“差不多”，都為n^2^級。

4.4 最壞時間復雜度

分析算法時，存在幾種可能的考慮：

• 算法完成工作最少需要多少基本操作，即最優時間復雜度
• 算法完成工作最多需要多少基本操作，即最壞時間復雜度
• 算法完成工作平均需要多少基本操作，即平均時間復雜度

對於最優時間復雜度，其價值不大，因為它沒有提供什么有用信息，其反映的只是最樂觀最理想的情況，沒有參考價值。

對於最壞時間復雜度，提供了一種保證，表明算法在此種程度的基本操作中一定能完成工作。

對於平均時間復雜度，是對算法的一個全面評價，因此它完整全面的反映了這個算法的性質。但另一方面，這種衡量並沒有保證，不是每個計算都能在這個基本操作內完成。而且，對於平均情況的計算，也會因為應用算法的實例分布可能並不均勻而難以計算。

因此，我們主要關注算法的最壞情況，亦即最壞時間復雜度。

4.5 時間復雜度的幾條基本計算規則

1. 基本操作，即只有常數項，認為其時間復雜度為O(1)
2. 順序結構，時間復雜度按加法進行計算
3. 循環結構，時間復雜度按乘法進行計算
4. 分支結構，時間復雜度取最大值
5. 判斷一個算法的效率時，往往只需要關注操作數量的最高次項，其它次要項和常數項可以忽略
6. 在沒有特殊說明時，我們所分析的算法的時間復雜度都是指最壞時間復雜度

五、算法分析

1. 第一次嘗試的算法核心部分

for a in range(0, 1001):
    for b in range(0, 1001):
        for c in range(0, 1001):
            if a**2 + b**2 == c**2 and a+b+c == 1000:
                print("a, b, c: %d, %d, %d" % (a, b, c))

時間復雜度：

T(n) = O(n*n*n) = O(n^3^)

1. 第二次嘗試的算法核心部分

for a in range(0, 1001):
    for b in range(0, 1001-a):
        c = 1000 - a - b
        if a**2 + b**2 == c**2:
            print("a, b, c: %d, %d, %d" % (a, b, c))

時間復雜度：

T(n) = O(nn(1+1)) = O(n*n) = O(n2)

由此可見，我們嘗試的第二種算法要比第一種算法的時間復雜度好多的。

六、常見時間復雜度

執行次數函數舉例	階	非正式術語
12	O(1)	常數階
2n+3	O(n)	線性階
3n2+2n+1	O(n2)	平方階
5log2n+20	O(logn)	對數階
2n+3nlog2n+19	O(nlogn)	nlogn階
6n3+2n2+3n+4	O(n3)	立方階
2n	O(2n)	指數階

注意，經常將log2n（以2為底的對數）簡寫成logn

6.1 常見時間復雜度之間的關系

所消耗的時間從小到大

O(1) < O(logn) < O(n) < O(nlogn) < O(n2) < O(n3) < O(2n) < O(n!) < O(nn)

練習： 時間復雜度練習( 參考算法的效率規則判斷 )
O(5)
O(2n + 1)
O(n²+ n + 1)
O(3n³+1)

七、Python內置類型性能分析

7.1 timeit模塊

timeit模塊可以用來測試一小段Python代碼的執行速度。

class timeit.Timer(stmt='pass', setup='pass', timer= )

Timer是測量小段代碼執行速度的類。

stmt參數是要測試的代碼語句（statment）；

setup參數是運行代碼時需要的設置；

timer參數是一個定時器函數，與平台有關。

timeit.Timer.timeit(number=1000000)

Timer類中測試語句執行速度的對象方法。number參數是測試代碼時的測試次數，默認為1000000次。方法返回執行代碼的平均耗時，一個float類型的秒數。

7.2 list的操作測試

def test1():
   l = []
   for i in range(1000):
      l = l + [i]
def test2():
   l = []
   for i in range(1000):
      l.append(i)
def test3():
   l = [i for i in range(1000)]
def test4():
   l = list(range(1000))

from timeit import Timer

t1 = Timer("test1()", "from __main__ import test1")
print("concat ",t1.timeit(number=1000), "seconds")
t2 = Timer("test2()", "from __main__ import test2")
print("append ",t2.timeit(number=1000), "seconds")
t3 = Timer("test3()", "from __main__ import test3")
print("comprehension ",t3.timeit(number=1000), "seconds")
t4 = Timer("test4()", "from __main__ import test4")
print("list range ",t4.timeit(number=1000), "seconds")

# ('concat ', 1.7890608310699463, 'seconds')
# ('append ', 0.13796091079711914, 'seconds')
# ('comprehension ', 0.05671119689941406, 'seconds')
# ('list range ', 0.014147043228149414, 'seconds')

pop操作測試

x = range(2000000)
pop_zero = Timer("x.pop(0)","from __main__ import x")
print("pop_zero ",pop_zero.timeit(number=1000), "seconds")
x = range(2000000)
pop_end = Timer("x.pop()","from __main__ import x")
print("pop_end ",pop_end.timeit(number=1000), "seconds")

# ('pop_zero ', 1.9101738929748535, 'seconds')
# ('pop_end ', 0.00023603439331054688, 'seconds')

測試pop操作：從結果可以看出，pop最后一個元素的效率遠遠高於pop第一個元素

可以自行嘗試下list的append(value)和insert(0,value),即一個后面插入和一個前面插入？？？

7.3 list內置操作的時間復雜度

7.4 dict內置操作的時間復雜度

八、數據結構

我們如何用Python中的類型來保存一個班的學生信息？ 如果想要快速的通過學生姓名獲取其信息呢？

實際上當我們在思考這個問題的時候，我們已經用到了數據結構。列表和字典都可以存儲一個班的學生信息，但是想要在列表中獲取一名同學的信息時，就要遍歷這個列表，其時間復雜度為O(n)，而使用字典存儲時，可將學生姓名作為字典的鍵，學生信息作為值，進而查詢時不需要遍歷便可快速獲取到學生信息，其時間復雜度為O(1)。

我們為了解決問題，需要將數據保存下來，然后根據數據的存儲方式來設計算法實現進行處理，那么數據的存儲方式不同就會導致需要不同的算法進行處理。我們希望算法解決問題的效率越快越好，於是我們就需要考慮數據究竟如何保存的問題，這就是數據結構。

在上面的問題中我們可以選擇Python中的列表或字典來存儲學生信息。列表和字典就是Python內建幫我們封裝好的兩種數據結構。

8.1 概念

數據是一個抽象的概念，將其進行分類后得到程序設計語言中的基本類型。如：int，float，char等。數據元素之間不是獨立的，存在特定的關系，這些關系便是結構。數據結構指數據對象中數據元素之間的關系。

Python給我們提供了很多現成的數據結構類型，這些系統自己定義好的，不需要我們自己去定義的數據結構叫做Python的內置數據結構，比如列表、元組、字典。而有些數據組織方式，Python系統里面沒有直接定義，需要我們自己去定義實現這些數據的組織方式，這些數據組織方式稱之為Python的擴展數據結構，比如棧，隊列等。

8.2 算法與數據結構的區別

數據結構只是靜態的描述了數據元素之間的關系。

高效的程序需要在數據結構的基礎上設計和選擇算法。

程序 = 數據結構 + 算法

總結：算法是為了解決實際問題而設計的，數據結構是算法需要處理的問題載體

8.3 抽象數據類型(Abstract Data Type)

抽象數據類型(ADT)的含義是指一個數學模型以及定義在此數學模型上的一組操作。即把數據類型和數據類型上的運算捆在一起，進行封裝。引入抽象數據類型的目的是把數據類型的表示和數據類型上運算的實現與這些數據類型和運算在程序中的引用隔開，使它們相互獨立。

最常用的數據運算有五種：

• 插入
• 刪除
• 修改
• 查找
• 排序

九、技巧

oh, 技你太美, 技你實在是太美了

通常幾次循環O復雜度就是n的幾次方
通常在循環中每次使數目減半的操作就是O(logn)