在SVM中，我們的超平面參數最終只與間隔邊界上的向量（樣本）有關，故稱為支持向量機。
求解最優超平面，即求最大化間隔，或最小化間隔的倒數：||w||2/2，約束條件為yi(wTxi+b)>=1
因為此函數為凸函數（拉格朗日乘子法的前提條件），可用拉格朗日乘子法轉化為對偶問題，當滿足KKT條件時，對偶問題=原始問題。
關於約束：
1. 目標函數極值點在約束范圍內：此時不等式約束失效，問題即退化為無約束優化問題。
這個很好理解，函數只有一個極值點，如果在約束范圍內，直接對函數求極值點即可。
2. 目標函數極值點在約束范圍外：最優解一定在可行域邊界； 且滿足在該點處的兩個函數的梯度方向相反。
關於這點，很多人從梯度方向去解釋，其實有個更簡單的解釋：反證法，目標函數的極值點在約束范圍外，假設最優解不在邊界，而在約束范圍內，那么這個最優解將是另一個極值點，這與凸的目標函數只有一個極值點矛盾，故最優解必在約束邊界。
而所謂KKT條件的形式，即以上2點說明的內涵。