支持向量機(SVM)之數學公式詳細推導


一、概述

1、含義:

支持向量機(support vector machine,SVM)是一種二類分類器,它的基本模型是定義在特征空間上的間隔最大化的線性分類器,通過引入核函數,也可以作為非線性分類器來解決非線性數據集的分類問題。

2、求解:

支持向量機的學習策略是間隔最大化,可轉化為一個求解凸二次規划的問題。

3、模型:

支持向量機模型從簡單到復雜可分為:線性可分支持向量機、線性支持向量機和非線性支持向量機。

線性可分支持向量機:訓練數據線性可分,通過硬間隔最大化,學習一個線性分類器;

線性支持向量機:訓練數據近似線性可分,通過軟間隔最大化,學習一個線性分類器;

非線性支持向量機:訓練數據線性不可分,通過使用核技巧(kernel trick)及軟間隔最大化,學習一個非線性分類器。

本次數學推導就是推導以上三個模型,不涉及SMO算法的推導。考慮到公式比較多,所以是用手寫筆記的形式進行整理。

二、數學推導


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM