一、概述
1、含義:
支持向量機(support vector machine,SVM)是一種二類分類器,它的基本模型是定義在特征空間上的間隔最大化的線性分類器,通過引入核函數,也可以作為非線性分類器來解決非線性數據集的分類問題。
2、求解:
支持向量機的學習策略是間隔最大化,可轉化為一個求解凸二次規划的問題。
3、模型:
支持向量機模型從簡單到復雜可分為:線性可分支持向量機、線性支持向量機和非線性支持向量機。
線性可分支持向量機:訓練數據線性可分,通過硬間隔最大化,學習一個線性分類器;
線性支持向量機:訓練數據近似線性可分,通過軟間隔最大化,學習一個線性分類器;
非線性支持向量機:訓練數據線性不可分,通過使用核技巧(kernel trick)及軟間隔最大化,學習一個非線性分類器。
本次數學推導就是推導以上三個模型,不涉及SMO算法的推導。考慮到公式比較多,所以是用手寫筆記的形式進行整理。
二、數學推導