在路上---學習篇（一）Python 數據結構和算法 （1）

數據結構和算法

現階段的膚淺理解數據結構是各式各樣的類型數據在內存中是如何構造的，原理是怎么樣的。 了解了其本質后，在面對問題時候，根據數據結構利用算法計算可以最快，最有效的完成任務。通常情況下，精心選擇的數據結構可以帶來更高的運行或者存儲效率。這些需要我自己不斷主動的學習和積累！

 

算法的概念

 

算法是計算機處理信息的本質，因為計算機程序本質上是一個算法來告訴計算機確切的步驟來執行一個指定的任務。一般地，當算法在處理信息時，會從輸入設備或數據的存儲地址讀取數據，把結果寫入輸出設備或某個存儲地址供以后再調用。

 

算法是獨立存在的一種解決問題的方法和思想。

 

對於算法而言，實現的語言並不重要，重要的是思想。

 

算法可以有不同的語言描述實現版本（如C描述、C++描述、Python描述等），我們現在是在用Python語言進行描述實現。

 

算法的五大特性

 

1. 輸入: 算法具有0個或多個輸入 
2. 輸出: 算法至少有1個或多個輸出 
3. 有窮性: 算法在有限的步驟之后會自動結束而不會無限循環，並且每一個步驟可以在可接受的時間內完成 
4. 確定性：算法中的每一步都有確定的含義，不會出現二義性 
5. 可行性：算法的每一步都是可行的，也就是說每一步都能夠執行有限的次數完

eg.

   如果 a+b+c=1000，且 a^2+b^2=c^2（a,b,c 為自然數），如何求出所有a、b、c可能的組合?

  

import time

start_time = time.time()

# 注意是三重循環
for a in range(0, 1001):
    for b in range(0, 1001):
        for c in range(0, 1001):
            if a**2 + b**2 == c**2 and a+b+c == 1000:
                print("a, b, c: %d, %d, %d" % (a, b, c))

end_time = time.time()
print("elapsed: %f" % (end_time - start_time))
print("complete!")

a, b, c: 0, 500, 500
a, b, c: 200, 375, 425
a, b, c: 375, 200, 425
a, b, c: 500, 0, 500
elapsed: 214.583347
complete!

進過一次小小的修改

時間大大縮短

import time

start_time = time.time()

# 注意是兩重循環
for a in range(0, 1001):
    for b in range(0, 1001-a):
        c = 1000 - a - b  
        if a**2 + b**2 == c**2:
            print("a, b, c: %d, %d, %d" % (a, b, c))

end_time = time.time()
print("elapsed: %f" % (end_time - start_time))
print("complete!")
運行結果：

a, b, c: 0, 500, 500
a, b, c: 200, 375, 425
a, b, c: 375, 200, 425
a, b, c: 500, 0, 500
elapsed: 0.182897
complete!

算法效率衡量

執行時間反應算法效率

對於同一問題，我們給出了兩種解決算法，在兩種算法的實現中，我們對程序執行的時間進行了測算，發現兩段程序執行的時間相差懸殊（214.583347秒相比於0.182897秒），由此我們可以得出結論：實現算法程序的執行時間可以反應出算法的效率，即算法的優劣。

單靠時間值絕對可信嗎？

假設我們將第二次嘗試的算法程序運行在一台配置古老性能低下的計算機中，情況會如何？很可能運行的時間並不會比在我們的電腦中運行算法一的214.583347秒快多少。

單純依靠運行的時間來比較算法的優劣並不一定是客觀准確的！

程序的運行離不開計算機環境（包括硬件和操作系統），這些客觀原因會影響程序運行的速度並反應在程序的執行時間上。那么如何才能客觀的評判一個算法的優劣呢？

 

時間復雜度與“大O記法”

我們假定計算機執行算法每一個基本操作的時間是固定的一個時間單位，那么有多少個基本操作就代表會花費多少時間單位。算然對於不同的機器環境而言，確切的單位時間是不同的，但是對於算法進行多少個基本操作（即花費多少時間單位）在規模數量級上卻是相同的，由此可以忽略機器環境的影響而客觀的反應算法的時間效率。

對於算法的時間效率，我們可以用“大O記法”來表示。

“大O記法”：對於單調的整數函數f，如果存在一個整數函數g和實常數c>0，使得對於充分大的n總有f(n)<=c*g(n)，就說函數g是f的一個漸近函數（忽略常數），記為f(n)=O(g(n))。也就是說，在趨向無窮的極限意義下，函數f的增長速度受到函數g的約束，亦即函數f與函數g的特征相似。

時間復雜度：假設存在函數g，使得算法A處理規模為n的問題示例所用時間為T(n)=O(g(n))，則稱O(g(n))為算法A的漸近時間復雜度，簡稱時間復雜度，記為T(n)

如何理解“大O記法”

對於算法進行特別具體的細致分析雖然很好，但在實踐中的實際價值有限。對於算法的時間性質和空間性質，最重要的是其數量級和趨勢，這些是分析算法效率的主要部分。而計量算法基本操作數量的規模函數中那些常量因子可以忽略不計。例如，可以認為3n²和100n²屬於同一個量級，如果兩個算法處理同樣規模實例的代價分別為這兩個函數，就認為它們的效率“差不多”，都為n²級。

最壞時間復雜度

分析算法時，存在幾種可能的考慮：

• 算法完成工作最少需要多少基本操作，即最優時間復雜度
• 算法完成工作最多需要多少基本操作，即最壞時間復雜度
• 算法完成工作平均需要多少基本操作，即平均時間復雜度

對於最優時間復雜度，其價值不大，因為它沒有提供什么有用信息，其反映的只是最樂觀最理想的情況，沒有參考價值。

對於最壞時間復雜度，提供了一種保證，表明算法在此種程度的基本操作中一定能完成工作。

對於平均時間復雜度，是對算法的一個全面評價，因此它完整全面的反映了這個算法的性質。但另一方面，這種衡量並沒有保證，不是每個計算都能在這個基本操作內完成。而且，對於平均情況的計算，也會因為應用算法的實例分布可能並不均勻而難以計算。

因此，我們主要關注算法的最壞情況，亦即最壞時間復雜度。

時間復雜度的幾條基本計算規則

1. 基本操作，即只有常數項，認為其時間復雜度為O(1)
2. 順序結構，時間復雜度按加法進行計算
3. 循環結構，時間復雜度按乘法進行計算
4. 分支結構，時間復雜度取最大值
5. 判斷一個算法的效率時，往往只需要關注操作數量的最高次項，其它次要項和常數項可以忽略
6. 在沒有特殊說明時，我們所分析的算法的時間復雜度都是指最壞時間復雜度

常見時間復雜度

執行次數函數舉例	階	非正式術語
12	O(1)	常數階
2n+3	O(n)	線性階
3n2+2n+1	O(n2)	平方階
5log2n+20	O(logn)	對數階
2n+3nlog2n+19	O(nlogn)	nlogn階
6n3+2n2+3n+4	O(n3)	立方階
2n	O(2n)	指數階

 

注意，經常將log₂n（以2為底的對數）簡寫成logn

常見時間復雜度之間的關系

算法效率關系

所消耗的時間從小到大

O(1) < O(logn) < O(n) < O(nlogn) < O(n²) < O(n³) < O(2ⁿ) < O(n!) < O(nⁿ)