李航-統計學習方法-筆記-1：概論
寫在前面 本系列筆記主要記錄《統計學習方法》中7種常用的機器學習分類算法，包括感知機，KNN，朴素貝葉斯，決策樹，邏輯斯諦回歸與最大熵模型，SVM，boosting。 課本還涉及到3種算法是關於概率模型估計和標注問題的，暫未列入學習計划，所以筆記中沒有涉及，包括EM算法，隱馬爾可夫模型，條件 ...
原文：統計學習方法筆記 -- 概論
統計學習方法是基於訓練數據構建統計模型，從而對數據進行預測和分析。 統計學習分為，監督學習 supervised learning ，非監督學習，半監督學習和強化學習 reinforcement learning ，其中以監督學習最為常見和重要，所以這里只討論監督學習 統計學習的過程如下， . 獲取訓練數據集合 . 確定假設空間，即所有可能的模型的集合 . 確定模型選擇的准則 什么是最優模型的標准 ...
2014-03-14 18:25 3 2076 推薦指數：
相關推薦
統計學習方法 李航---第1章 統計學習方法概論
第一章 統計學習方法概論 統計學習的主要特點是: (1)統計學習以計算機及網絡為平台，是建立在計 算機及網絡之上的; (2)統計學習以數據為研究對象，是數據驅動的學科； (3)統 ...
《統計學習方法》學習筆記
上學期花了一個多月讀完了李航老師的《統計學習方法》，現在帶着新入團隊的新同學以讀書會的形式讀這本書，書里邊全是干貨，對於我理解基本的機器學習算法很有幫助，也筆頭做了一些總結（不完全基於此書），現將其摘錄於此作為在博客園的第一篇博客。因為並不是為了掃盲，所以僅僅是抓出脈絡以及關鍵點，方便以后快速溫習 ...
統計學習方法-第 1 章 統計學習及監督學習概論
統計學習方法 第 1 章 統計學習及監督學習概論 附加知識 各種空間介紹 維度詛咒 參考文獻 第 2 章 感知機 ...
統計學習方法（一）
等組成。 統計學習方法包括假設空間、模型選擇的准則、模型學習的算法，這些統稱為統計學習方法的三要素： ...
李航-統計學習方法-筆記-8：提升方法
提升方法 簡述：提升方法（boosting）是一種常用的統計學習方法，應用廣泛且有效。在分類問題中，它通過改變訓練樣本的權重，學習多個分類器，並將這些分類器進行線性組合，提高分類的性能。 本章 （1）介紹boosting方法的思路和代表性的boosting算法AdaBoost （2）通過訓練 ...
李航-統計學習方法-筆記-3：KNN
KNN算法 基本模型：給定一個訓練數據集，對新的輸入實例，在訓練數據集中找到與該實例最鄰近的k個實例。這k個實例的多數屬於某個類，就把輸入實例分為這個類。 KNN沒有顯式的學習過程。 KNN使用的模型實際上對應於特征空間的划分。特征空間中，對每個訓練實例點\(x_i\)，距離該點比其它點更近 ...
李航-統計學習方法-筆記-12：總結
10種統計學習方法特點的概括總結 本書共介紹了10種主要的統計學習方法：感知機，KNN，朴素貝葉斯，決策樹，邏輯斯諦回歸與最大熵模型，SVM，提升方法，EM算法，隱馬爾可夫模型，條件隨機場（CRF）。 適用問題 感知機，KNN，朴素貝葉斯，決策樹，邏輯斯諦回歸與最大熵模型，SVM，提升 ...