一、動態規划基本思想
一般來說，只要問題可以划分成規模更小的子問題，並且原問題的最優解中包含了子問題的最優解，則可以考慮用動態規划解決。動態規划的實質是分治思想和解決冗余，因此，動態規划是一種將問題實例分解為更小的、相似的子問題，並存儲子問題的解而避免計算重復的子問題，以解決最優化問題的算法策略。由此可知，動態規划法與分治法和貪心法類似，它們都是將問題實例歸納為更小的、相似的子問題，並通過求解子問題產生一個全局最優解。其中貪心法的當前選擇可能要依賴已經作出的所有選擇，但不依賴於有待於做出的選擇和子問題。因此貪心法自頂向下，一步一步地作出貪心選擇；而分治法中的各個子問題是獨立的 (即不包含公共的子子問題)，因此一旦遞歸地求出各子問題的解后，便可自下而上地將子問題的解合並成問題的解。但不足的是，如果當前選擇可能要依賴子問題的解時，則難以通過局部的貪心策略達到全局最優解；如果各子問題是不獨立的，則分治法要做許多不必要的工作，重復地解公共的子問題。解決上述問題的辦法是利用動態規划。該方法主要應用於最優化問題，這類問題會有多種可能的解，每個解都有一個值，而動態規划找出其中最優(最大或最小)值的解。若存在若干個取最優值的解的話，它只取其中的一個。在求解過程中，該方法也是通過求解局部子問題的解達到全局最優解，但與分治法和貪心法不同的是，動態規划允許這些子問題不獨立，也允許其通過自身子問題的解作出選擇，該方法對每一個子問題只解一次，並將結果保存起來，避免每次碰到時都要重復計算。因此，動態規划法所針對的問題有一個顯著的特征，即它所對應的子問題樹中的子問題呈現大量的重復。動態規划法的關鍵就在於，對於重復出現的子問題，只在第一次遇到時加以求解，並把答案保存起來，讓以后再遇到時直接引用，不必重新求解。
中的子問題呈現大量的重復。
動態規划法的關鍵就在於，
對於重復出現的子問題，
只在第一次遇到時加以求解，
並把答案保存起來，
讓以后再遇到時直接引用，
不
必重新求解。
中的子問題呈現大量的重復。
動態規划法的關鍵就在於，
對於重復出現的子問題，
只在第一次遇到時加以求解，
並把答案保存起來，
讓以后再遇到時直接引用，
不
必重新求解。
中的子問題呈現大量的重復。
動態規划法的關鍵就在於，
對於重復出現的子問題，
只在第一次遇到時加以求解，
並把答案保存起來，
讓以后再遇到時直接引用，
不
必重新求解。
二、動態規划實例
1、0-1背包問題
問題描述
假設我們有n件物品，分別編號為1,2,…n。其中編號為i的物品價值Vi,它的重量為Wi。為了簡化問題，假設價值和重量都是整數。現在假設我們有一個背包，它能夠承載的重量是W。現在，我們希望王背包里裝這些物品，使得包里裝的物品價值最大化，那么我們該如何選擇裝的物品？問題結構如下圖所示：
初步分析
對於這個問題，一開始確實有點不太好入手。一堆的物品，每一個都有一定的質量和價值，我們能夠裝入的總重量有限制，該怎么來裝使得價值最大呢？對於這n個物品，每個物品我們可能會選，也可能不選，那么我們總共就可能有2^n種組合選擇方式。如果我們采用這種辦法來硬算的話，則整體的時間復雜度就達到指數級別的，肯定不可行。
現在我們換一種思路。既然每一種物品都有價格和重量，我們優先挑選那些單位價格最高的是否可行呢？比如在下圖中，我們有3種物品，他們的重量和價格分別是10, 20, 30 kg和60, 100, 120
那么按照單位價格來算的話，我們最先應該挑選的是價格為60的元素，選擇它之后，背包還剩下50 - 10 = 40kg。再繼續前面的選擇，我們應該挑選價格為100的元素，這樣背包里的總價值為60 + 100 = 160。所占用的重量為30, 剩下20kg。因為后面需要挑選的物品為30kg已經超出背包的容量了。我們按照這種思路能選擇到的最多就是前面兩個物品。如下圖：
按照我們前面的期望，這樣選擇得到的價值應該是最大的。可是由於有一個背包重量的限制，這里只用了30kg，還有剩下20kg浪費了。這會是最優的選擇嗎？我們看看所有的選擇情況：
很遺憾，在這幾種選擇情況中，我們前面的選擇反而是帶來價值最低的。而選擇重量分別為20kg和30kg的物品帶來了最大的價值。看來，我們剛才這種選擇最佳單位價格的方式也行不通。
動態規划解決問題
既然前面兩種辦法都不可行，我們再來看看有沒有別的方法。我們再來看這個問題。我們需要選擇n個元素中的若干個來形成最優解，假定為k個。那么對於這k個元素a1, a2, …ak來說，它們組成的物品組合必然滿足總重量<=背包重量限制，而且它們的價值必然是最大的。因為它們是我們假定的最優選擇嘛，肯定價值應該是最大的。假定ak是我們按照前面順序放入的最后一個物品。它的重量為wk，它的價值為vk。既然我們前面選擇的這k個元素構成了最優選擇，如果我們把這個ak物品拿走，對應於k-1個物品來說，它們所涵蓋的重量范圍為0-(W-wk)。假定W為背包允許承重的量。假定最終的價值是V，剩下的物品所構成的價值為V-vk。這剩下的k-1個元素是不是構成了一個這種W-wk的最優解呢？
我們可以用反證法來推導。假定拿走ak這個物品后，剩下的這些物品沒有構成W-wk重量范圍的最佳價值選擇。那么我們肯定有另外k-1個元素，他們在W-wk重量范圍內構成的價值更大。如果這樣的話，我們用這k-1個物品再加上第k個，他們構成的最終W重量范圍內的價值就是最優的。這豈不是和我們前面假設的k個元素構成最佳矛盾了嗎？所以我們可以肯定，在這k個元素里拿掉最后那個元素，前面剩下的元素依然構成一個最佳解。
現在我們經過前面的推理已經得到了一個基本的遞推關系，就是一個最優解的子解集也是最優的。可是，我們該怎么來求得這個最優解呢？我們這樣來看。假定我們定義一個函數c[i, w]表示到第i個元素為止，在限制總重量為w的情況下我們所能選擇到的最優解。那么這個最優解要么包含有i這個物品，要么不包含，肯定是這兩種情況中的一種。如果我們選擇了第i個物品，那么實際上這個最優解是c[i - 1, w-wi] + vi。而如果我們沒有選擇第i個物品，這個最優解是c[i-1, w]。這樣，實際上對於到底要不要取第i個物品，我們只要比較這兩種情況，哪個的結果值更大不就是最優的么？
在前面討論的關系里，還有一個情況我們需要考慮的就是，我們這個最優解是基於選擇物品i時總重量還是在w范圍內的，如果超出了呢？我們肯定不能選擇它，這就和c[i-1, w]一樣。
另外，對於初始的情況呢？很明顯c[0, w]里不管w是多少，肯定為0。因為它表示我們一個物品都不選擇的情況。c[i, 0]也一樣，當我們總重量限制為0時，肯定價值為0。
這樣，基於我們前面討論的這3個部分，我們可以得到一個如下的遞推公式：
有了這個關系，我們可以更進一步的來考慮代碼實現了。我們有這么一個遞歸的關系，其中，后面的函數結果其實是依賴於前面的結果的。我們只要按照前面求出來最基礎的最優條件，然后往后面一步步遞推，就可以找到結果了。
我們再來考慮一下具體實現的細節。這一組物品分別有價值和重量，我們可以定義兩個數組int[] v, int[] w。v[i]表示第i個物品的價值，w[i]表示第i個物品的重量。為了表示c[i, w]，我們可以使用一個int[i][w]的矩陣。其中i的最大值為物品的數量，而W表示最大的重量限制。按照前面的遞推關系，c[i][0]和c[0][w]都是0。而我們所要求的最終結果是c[n][w]。所以我們實際中創建的矩陣是(n + 1) x (W + 1)的規格。
具體數據：物品個數n = 5,物品重量w[n] = {0,2,2,6,5,4}，物品價值v[n] = {0,6,3,5,4,6}，W = 10。
代碼實現
- #include <iostream>
- #define max(a,b)((a)>(b)?a:b)
- using namespace std;
- int Weight[] = {0,2,2,6,5,4}; //物品的重量
- int Value[] = {0,6,3,5,4,6}; //物品的價值
- int table[6][11]; //存放表示到第i個元素為止，在限制總重量為w的情況下我們所能選擇到的最優解
- bool Frist_Flag = true; //主要是初始化table[][] = Value[1]
- int main(void)
- {
- for (int i = 1;i <= 5;i++)
- {
- for (int j = 1;j <=10;j++)
- {
- if (Frist_Flag == true)
- {
- if (Weight[1] <= j)
- {
- table[i][j] = Value[1];
- Frist_Flag = false;
- }
- }
- else
- {
- if (Weight[i] > j)
- {
- table[i][j] = table[i-1][j];
- }
- else
- {
- table[i][j] = max(table[i-1][j-Weight[i]]+Value[i],table[i-1][j]);
- }
- }
- }
- }
- cout << ”MaxValue = ”<< table[5][10] << endl;
- return 0;
- }
#include <iostream>
2、最大子數組和問題
問題
一個有N個整數元素的一維數組（A[0],A[1],…A[N-1]），這個數組有很多子數組，求子數組和的最大值？注意：子數組必須是連續的、不需要返回子數組的具體位置、數組中包含：正、負、零整數、子數組不能空。
例如：
int A[5] = {-1,2,3,-4,2};
符合條件的子數組為2，3，即答案為5；
窮舉法：
- int MaxSubStringSum(int *A,int n)
- {
- int MaxSum = A[0];
- int sum = 0;
- for (int i = 0;i < n;i++)
- {
- sum = 0;
- for (int j = i;j < n;j++)
- {
- sum += A[j];
- MaxSum = max(MaxSum,sum);
- }
- }
- return MaxSum;
- }
int MaxSubStringSum(int *A,int n)
{
int MaxSum = A[0];
int sum = 0;
for (int i = 0;i < n;i++)
{
sum = 0;
for (int j = i;j < n;j++)
{
sum += A[j];
MaxSum = max(MaxSum,sum);
}
}
return MaxSum;
}
窮取法最為直接，當然耗時也較多，時間復雜度為O(n^2);
進一步分析
我們利用窮舉法雖然簡單易懂，但是其時間復雜度很大，我們試着優化。現在考慮數組的第一個元素A[0]，與和最大的子數組(A[i],……A[j])之間的關系，有以下三種關系：
1) i = j = 0;A[0]本身構成和最大的子數組
2) j > i = 0;和最大的子數組以A[0]開頭
3) i > 0;A[0]與和最大子數組沒有關系
從上面3中情況可以看出，可以將一個大問題（N個元素的數組）轉化為一個較小的問題（N - 1個元素的數組）。假設已經知道(A[1],……A[N-1])中和最大的子數組和為MaxSum[1]，並且知道，(A[1],……A[N-1])中包含A[1]的和最大的子數組為TempMaxSum[1]。我們就可以把(A[0],……A[N-1])求和最大子數組問題轉換為，MaxSum[0] = max{A[0],A[0]+TempMaxSum[1],MaxSum[1]}。
代碼實現：
- int MaxSubStringSum(int *A,int n)
- {
- int MaxSum = A[0];
- int TempMaxSum = A[0];
- for(int i = 1;i < n;i++)
- {
- TempMaxSum = max(A[i],TempMaxSum + A[i]);
- MaxSum = max(MaxSum,TempMaxSum);
- }
- return MaxSum;
- }
int MaxSubStringSum(int *A,int n)
{
int MaxSum = A[0];
int TempMaxSum = A[0];
for(int i = 1;i < n;i++)
{
TempMaxSum = max(A[i],TempMaxSum + A[i]);
MaxSum = max(MaxSum,TempMaxSum);
}
return MaxSum;
}
未完待續……