拉格朗日乘數法
大多數的優化問題都會加入特定的約束，而不僅僅是指定起點和終點，此時需要更好的辦法去解決優化問題，拉格朗日乘數法正是一種求約束條件下極值的方法。
簡單地說，拉格朗日乘數法(又稱為拉格朗日乘數法)是用來最小化或最大化多元函數的。如果有一個方程f(x,y,z)，在這個方程里的變量之間不是獨立的，也就是說這些變量之間是有聯系的，這個聯系可能是某個方程g(x,y,z) = C；也就是g(x,y,z) = C定義了x,y,z之間的關系，這個關系對變量做出了一定的的限制，我們需要在這個限制下來最小化或最大化f(x,y,z)。
拉格朗日乘數法的解釋
假設(x,y)表示經緯度，f(x, y)是江浙兩省所有大山的海拔高度；g(x, y) = C是約束條件，將范圍縮小到江浙邊界。現在需要找出找出在跨越江浙兩省的大山中，處於江浙邊界的最高點，用數學符號表示：
s.t.是subject to 的縮寫，意思是使maxf滿足於s.t.中規定的條件。由於約束條件是等式，所以這種優化也稱為等式約束優化。我們以位於兩省邊界附近的大山為例，畫出它的等高線和兩省的分界線：
如果f(x,y)中有滿足g(x,y) = C的點，那么一定處於二者相切處：
切點就是極值，該極值的判定條件是，紅綠兩條等高線的梯度方向相同。這里切點是必要條件，如果有極值，極值點一定在切點處，但切點未必是極值點。這類似於普通條件下的極值判定，導數為0的點也可能是鞍點。
求解過程
根據上一節的思路，可以將最初的問題轉換為方程組：
其中λ就是拉格朗日乘子，這就將極值問題轉換成普通的方程組求解問題。更多拉格朗日乘數法，可參考《多變量微積分筆記6——拉格朗日乘數法》。
盒子的最小表面積
固定容積的無頂蓋的盒子，盒子底部是正方形，使其表面積最小是多少？
如上圖所示，設盒子的底邊x，高為y，則體積V = x2y，表面積S = x2 + 4xy。該問題可以使用單變量的極值求解法處理（可參考《單變量微積分筆記8——最值問題和相關變率》），但是有些復雜，現在用拉格朗日乘數法直接求解：
根據拉格朗日乘數法：
當x = 2y時，便面積最小。
多個約束條件
上面的例子僅有一個約束條件，如果碰到多約束條件的時候如何處理？
一般過程
設目標函數為f(x,y,z)，約束條件為gk(x,y,z)，如果尋找在約束下f(x)的最小值：
如果用向量表示，還可以寫成：
然后對F中的所有未知量（x和λ）求偏導，令其等於0：
這將形成一個方程組，通過解方程組求得所有未知量。
示例
5個方程，5個未知數，可以求得方程組的解。
泛函拉格朗日乘數法
一般形式
拉格朗日乘數法也可以在泛函中使用，它的一般形式是：
這里F和G都是簡單泛函，C是一個常數。因為C是常數，所以求A的極值等同於求A – λC的極值，這就將問題和約束條件聯合到一起，構成新的泛函極值問題：
周長固定的圖形中，面積最大的是圓
長度固定的繩子圍成的圖形中，面積最大的是什么圖形？
令曲線方程是y = y(x)，線段長度是C，問題用數學描述就是：
使用拉格朗日乘數法，求A的極值相當於求A-λC的極值：
設置泛函L：
現在可以使用歐拉-拉格朗日方程：
這正是圓的公式，所以說長度固定的繩子圍成的圖形中，面積最大的是圓。
作者：我是8位的
出處：http://www.cnblogs.com/bigmonkey
本文以學習、研究和分享為主，如需轉載，請聯系本人，標明作者和出處，非商業用途！
掃描二維碼關注公眾號“我是8位的”
