算法分析基礎——迭代法求解遞推方程

迭代法的步驟：

• 迭代用遞推方程的右部替換左部
• 出現初始值時，迭代停止
• 用數學歸納法驗證解的正確性

例如，Hanoi塔問題是一個可以遞歸求解的經典問題。我們便可以用迭代法求解其時間復雜度的遞推方程。首先看一下Hanoi塔問題的算法偽碼：

算法1  Hanoi(A, C, n)  //將A柱上n個盤子按照要求移到C柱上

1. if n=1 then move (A, C)  //將A柱上1個盤子移到C柱上

2. else Hanoi(A, B, n-1)

3.         move (A, C)

4.         Hanoi(B, C, n-1)

設移動n個盤子的所需要的移動次數為T(n)，由算法的偽碼得到遞推方程T(n) = 2 * T(n-1) + 1 = 2 * [T(n-2) + 1] + 1 = ... = 2^n-1 * T(1) + 2^n-2 + ... + 2 + 1，其中T(1) = 1。於是得到T(n) = 2ⁿ - 1。再用數學歸納法帶入驗證結果：T(n) = 2 * T(n - 1) + 1 = 2 * (2^{n - 1} - 1) + 1 = 2ⁿ - 1。

隨着n的增大，算法的時間復雜度呈指數級別增長，解Hanoi問題需要的時間之漫長將令人難以接受。事實上，Hanoi塔問題屬於NP-Hard問題，即不存在多項式級別時間復雜度的解法，是不可解的。

有時，當直接只用迭代法解遞歸方程比較復雜時，可以采用換元迭代的方法，其執行步驟總結如下：

• 將對n的遞推式換成對其它變元k的遞推式
• 對k直接迭代
• 將解（關於k的函數）轉換成關於n的函數

例如，考慮歸並排序的時間復雜度。設待排序數組A的長度為n。首先看一下偽碼：

算法2 MergeSort(A, p, r)

輸入: 數組A[p...r], 1 ≤ p ≤ r ≤ n

輸出: 從A[p]到A[r]按照遞增順序排好的數組A

1. if p < r

2. then q←floor((p+r)/2)

3.         MergeSort(A, p, q)

4.         MergeSort(A, q+1, r)

5.         Merge(A, p, q, r)

設W(n)為對長度為n的數組排序需要的比較次數。由偽碼得到時間復雜度的遞推表達式W(n) = 2 * W(n / 2) + n - 1, W(1) = 0。

直接迭代求解比較困難，可以令n = 2^k，則k = log₂n。帶入遞推關系式后，用迭代法解得W(2^k) = (k - 1) * 2^k + 1。再將k = log₂n代入就可以得到W(n) = nlog₂n - n + 1。

需要指出的是，迭代方法一般適用於一階的遞推方程。對於二階以上的情況，直接迭代將導致求和公式變得過於復雜，因此需要運用差消法，先化簡方程再進行迭代。適用差消法的例子將在后續博文中介紹。