在算法分析中,當一個算法中包含遞歸調用時,其時間復雜度的分析會轉化為一個遞歸方程求解。實際上,這個問題是數學上求解漸近階的問題,而遞歸方程的形式多種多樣,其求解方法也是不一而足,比較常用的有以下四種方法:
(1)代入法(Substitution Method)
代入法的基本步驟是先推測遞歸方程的顯式解,然后用數學歸納法來驗證該解是否合理。
(2)迭代法(Iteration Method)
迭代法的基本步驟是迭代地展開遞歸方程的右端,使之成為一個非遞歸的和式,然后通過對和式的估計來達到對方程左端即方程的解的估計。
(3)套用公式法(Master Method)
這個方法針對形如“T(n) = aT(n/b) + f(n)”的遞歸方程。這種遞歸方程是分治法的時間復雜性所滿足的遞歸關系,即一個規模為n的問題被分成規模均為n/b的a個子問題,遞歸地求解這a個子問題,然后通過對這a個子間題的解的綜合,得到原問題的解。
(4)差分方程法(Difference Formula Method)
可以將某些遞歸方程看成差分方程,通過解差分方程的方法來解遞歸方程,然后對解作出漸近階估計。
下面就以上方法給出一些例子說明。
一、代入法
大整數乘法計算時間的遞歸方程為:T(n) = 4T(n/2) + O(n),其中T(1) = O(1),我們猜測一個解T(n) = O(n2 ),根據符號O的定義,對n>n0,有T(n) < cn2 - eO(2n)(注意,這里減去O(2n),因其是低階項,不會影響到n足夠大時的漸近性),把這個解代入遞歸方程,得到:
T(n) = 4T(n/2) + O(n)
≤ 4c(n/2)2 - eO(2n/2)) + O(n)
= cn2 - eO(n) + O(n)
≤ cn2
其中,c為正常數,e取1,上式符合 T(n)≤cn2 的定義,則可認為O(n2 )是T(n)的一個解,再用數學歸納法加以證明。
二、迭代法
某算法的計算時間為:T(n) = 3T(n/4) + O(n),其中T(1) = O(1),迭代兩次可將右端展開為:
T(n) = 3T(n/4) + O(n)
= O(n) + 3( O(n/4) + 3T(n/42 ) )
= O(n) + 3( O(n/4) + 3( O(n/42 ) + 3T(n/43 ) ) )
從上式可以看出,這是一個遞歸方程,我們可以寫出迭代i次后的方程:
T(n) = O(n) + 3( O(n/4) + 3( O(n/42 ) + ... + 3( n/4i + 3T(n/4i+1 ) ) ) )
當n/4i+1 =1時,T(n/4i+1 )=1,則
T(n) = n + (3/4) + (32 /42 )n + ... + (3i /4i )n + (3i+1 )T(1)
< 4n + 3i+1
而由n/4i+1 =1可知,i<log4 n,從而
3i+1 ≤ 3log4 n+1 = 3log3 n*log4 3 +1 = 3nlog4 3
代入得:
T(n) < 4n + 3nlog4 3,即T(n) = O(n)。
三、套用公式法
這個方法為估計形如:
T(n) = aT(n/b) + f(n)
其中,a≥1和b≥1,均為常數,f(n)是一個確定的正函數。在f(n)的三類情況下,我們有T(n)的漸近估計式:
1.若對於某常數ε>0,有f(n) = O(nlogb a-ε ),則T(n) = O(nlogb a )
2.若f(n) = O(nlogb a ),則T(n) = O(nlogb a *logn)
3.若f(n) = O(nlogb a+ε ),且對於某常數c>1和所有充分大的正整數n,有af(n/b)≤cf(n),則T(n)=O(f(n))。
設T(n) = 4T(n/2) + n,則a = 4,b = 2,f(n) = n,計算得出nlogb a = nlog2 4 = n2 ,而f(n) = n = O(n2-ε ),此時ε= 1,根據第1種情況,我們得到T(n) = O(n2 )。
這里涉及的三類情況,都是拿f(n)與nlogb a 作比較,而遞歸方程解的漸近階由這兩個函數中的較大者決定。在第一類情況下,函數nlogb a 較大,則T(n)=O(nlogb a );在第三類情況下,函數f(n)較大,則T(n)=O(f (n));在第二類情況下,兩個函數一樣大,則T(n)=O(nlogb a *logn),即以n的對數作為因子乘上f(n)與T(n)的同階。
但上述三類情況並沒有覆蓋所有可能的f(n)。在第一類情況和第二類情況之間有一個間隙:f(n)小於但不是多項式地小於nlogb a ,第二類與第三類之間也存在這種情況,此時公式法不適用。
