線性規划的對偶理論

首先我們指出對線性規划問題引入對偶問題的動機：有時解對偶問題會比解原問題更容易，同時便於后續進行靈敏度分析。

目錄

• 線性規划的對偶理論
  • 1 推導
  • 2 變換
  • 3 性質
  • 4 影子價格

1 推導

考慮線性規划問題

\[\max z=cx \quad s.t. Ax\le b, x_i \ge 0 \]

現假設 \(x\) 是一個可行解，則對於任意一個非負向量 \(y \ge 0\)，有

\[y^TAx \le y^Tb \]

假設能找到 \(y\) 滿足 \(c \le y^T A\)，那么對所有可行解 \(x\) 都有

\[cx \le y^TAx\le y^Tb \]

即 \(y^Tb\) 是原問題的一個上界，那么現在我們要找最小的一個，得到對偶問題

\[\min w=b^Ty \quad s.t. A^Ty\ge c^T, y_i \ge 0 \]

此時原問題的最優解和對偶問題的最優解一定滿足 \(\max z=\min w\)。

2 變換

假設我們由一個最大化的問題，我們通過如下步驟將其轉化為其對偶問題

• 目標函數改為最小化
• \(x_i \ge 0\) 對應約束條件 \(\ge\)，\(x_i\) 無約束對應約束條件 \(=\)
• 原約束條件 \(\le\) 對應 \(y_i \ge 0\)，原約束條件 \(=\) 對應 \(y_i\) 無約束

補充說明一點，從實際意義上來說，光看大於號小於號或許會有點奇怪，我們可以考慮變量自身約束或者方程約束條件對於目標函數優化的貢獻“方向”。設想一個系數全正的目標函數，那么 \(\ge 0\) 的變量變換后始終是限制目標函數的，反之亦然。

3 性質

• 對偶的對偶就是原問題
• \(CX\le Yb\)，其中 \(X,Y\) 是原問題、對偶問題的任意可行解
• 具有無界解的問題的對偶是無解的問題
• 當可行解 \(X,Y\) 滿足 \(CX=Yb\) 時它們是最優解
• 原問題有最優解則對偶問題有目標函數值相同的最優解
• 互補松弛性：可行解 \(X,Y\) 是最優解當且僅當 \(YX_S=0\) 且 \(Y_SX=0\)
• 原問題單純形表的檢驗數行對應對偶問題的一個基本解

4 影子價格

我們觀察到乘子 \(Y=C_BB^{-1}\) 到處都是，它究竟是什么？

現考慮問題的最優基 \(B\)，那么 \(z^*=C_BB^{-1}b=Y^*b\)，對 \(b\) 求偏導數，得到

\[\frac {\partial z^*} {\partial b}=C_BB^{-1}=Y^* \]

因此，\(Y^*\) 實際上反映了某種資源的單位資源轉化為利潤的效率。由於它是在目標函數的最優值中體現的，因此說 \(Y^*\) 包含了每種資源對目標函數的邊際貢獻。

現在我們再回過頭去從實際意義上解釋原問題與對偶問題的關系。

每一個寫着大於等於號的約束等式意味着把足夠制造一個產品的資源整體賣掉獲得的收入必須不低於產品的售價，而最小化的系數則是收購各種資源的數量。我們發現，原問題的 C 在這里仍然是價格量綱，原問題的 b 在這里仍然是資源數量量綱。對偶問題中，每種資源的數量是固定的，我們考慮的是安排各種資源的單位價格，使得收購這些資源的成本最小化，當然在將足夠制造某個商品的資源賣掉后收入不能低於該商品的售價。