李航-統計學習方法-筆記-8：提升方法
提升方法 簡述：提升方法（boosting）是一種常用的統計學習方法，應用廣泛且有效。在分類問題中，它通過改變訓練樣本的權重，學習多個分類器，並將這些分類器進行線性組合，提高分類的性能。 本章 （1）介紹boosting方法的思路和代表性的boosting算法AdaBoost （2）通過訓練 ...
原文：《統計學習方法》(李航)讀書筆記(完結)
因為要准備面試,本文以李航的 統計學習方法 為主,結合西瓜書等其他資料對機器學習知識做一個整理. 知識點 進程和線程:進程和線程都是一個時間段的描述，是CPU工作時間段的描述，不過是顆粒大小不同.進程就是包換上下文切換的程序執行時間總和 CPU加載上下文 CPU執行 CPU保存上下文.線程是共享了進程的上下文環境的更為細小的CPU時間段。 判別式模型和生成式模型: 判別式模型直接學習決策函數f X ...
2018-03-26 21:54 6 47646 推薦指數：
相關推薦
李航-統計學習方法-筆記-3：KNN
KNN算法 基本模型：給定一個訓練數據集，對新的輸入實例，在訓練數據集中找到與該實例最鄰近的k個實例。這k個實例的多數屬於某個類，就把輸入實例分為這個類。 KNN沒有顯式的學習過程。 KNN使用的模型實際上對應於特征空間的划分。特征空間中，對每個訓練實例點\(x_i\)，距離該點比其它點更近 ...
李航-統計學習方法-筆記-12：總結
10種統計學習方法特點的概括總結 本書共介紹了10種主要的統計學習方法：感知機，KNN，朴素貝葉斯，決策樹，邏輯斯諦回歸與最大熵模型，SVM，提升方法，EM算法，隱馬爾可夫模型，條件隨機場（CRF）。 適用問題 感知機，KNN，朴素貝葉斯，決策樹，邏輯斯諦回歸與最大熵模型，SVM，提升 ...
李航-統計學習方法-筆記-1：概論
寫在前面 本系列筆記主要記錄《統計學習方法》中7種常用的機器學習分類算法，包括感知機，KNN，朴素貝葉斯，決策樹，邏輯斯諦回歸與最大熵模型，SVM，boosting。 課本還涉及到3種算法是關於概率模型估計和標注問題的，暫未列入學習計划，所以筆記中沒有涉及，包括EM算法，隱馬爾可夫模型，條件 ...
李航《統計學習方法》總覽
轉自：https://github.com/SmirkCao/Lihang 最近又撿起了李航老師的《統計學習方法》開始啃，之前因為干貨太多一看就困索性放棄（捂臉~），突然在知乎上看到有大神的總結，希望大神能帶我飛哈哈。 [TOC] GitHub的markdown公式支持一般, 推薦使用 ...
統計學習方法 李航---第1章 統計學習方法概論
第一章 統計學習方法概論 統計學習的主要特點是: (1)統計學習以計算機及網絡為平台，是建立在計 算機及網絡之上的; (2)統計學習以數據為研究對象，是數據驅動的學科； (3)統 ...
統計學習方法 李航---第12章 統計學習方法總結
第12章 統計學習方法總結 1 適用問題 分類問題是從實例的特征向量到類標記的預測問題； 標注問題 是從觀測序列到標記序列(或狀態序列)的預測問題。可以認為分類問題是標注 問題的特殊情況。 分類問題中可能的預測結果是二類或多類； 而標注問題 ...
李航-統計學習方法-筆記-5：決策樹
基本模型 簡介：決策樹可以認為是if-then規則的集合，也可以認為是定義在特征空間與類空間上的條件概率分布。其主要優點是模型具有可讀性，分類速度快。 決策樹學習通常包括3個步驟：特征選擇，決策樹生成，剪枝。 決策樹的內部結點表示一個特征或屬性，葉結點表示一個類。 If-then：決策樹 ...