李航-統計學習方法-筆記-8：提升方法
提升方法 簡述：提升方法（boosting）是一種常用的統計學習方法，應用廣泛且有效。在分類問題中，它通過改變訓練樣本的權重，學習多個分類器，並將這些分類器進行線性組合，提高分類的性能。 本章 （1）介紹boosting方法的思路和代表性的boosting算法AdaBoost （2）通過訓練 ...
原文：李航-統計學習方法-筆記-6：邏輯斯諦回歸與最大熵模型
邏輯斯諦回歸 logistic regression 是統計學習中的經典分類方法。最大熵模型是概率模型學習的一個准則，將其推廣到分類問題得到最大熵模型 maximum entropy model 。邏輯斯諦回歸模型與最大熵模型都屬於對數線性模型。 邏輯斯諦回歸 邏輯斯諦分布 ：設 X 是連續隨機變量， X 服從邏輯斯諦分布，則具有以下分布函數和密度函數。其中 mu 為位置參數， gamma gt ...
2019-06-05 15:39 0 587 推薦指數：
相關推薦
李航-統計學習方法-筆記-3：KNN
KNN算法 基本模型：給定一個訓練數據集，對新的輸入實例，在訓練數據集中找到與該實例最鄰近的k個實例。這k個實例的多數屬於某個類，就把輸入實例分為這個類。 KNN沒有顯式的學習過程。 KNN使用的模型實際上對應於特征空間的划分。特征空間中，對每個訓練實例點\(x_i\)，距離該點比其它點更近 ...
李航-統計學習方法-筆記-12：總結
10種統計學習方法特點的概括總結 本書共介紹了10種主要的統計學習方法：感知機，KNN，朴素貝葉斯，決策樹，邏輯斯諦回歸與最大熵模型，SVM，提升方法，EM算法，隱馬爾可夫模型，條件隨機場（CRF）。 適用問題 感知機，KNN，朴素貝葉斯，決策樹，邏輯斯諦回歸與最大熵模型，SVM，提升 ...
李航-統計學習方法-筆記-1：概論
寫在前面 本系列筆記主要記錄《統計學習方法》中7種常用的機器學習分類算法，包括感知機，KNN，朴素貝葉斯，決策樹，邏輯斯諦回歸與最大熵模型，SVM，boosting。 課本還涉及到3種算法是關於概率模型估計和標注問題的，暫未列入學習計划，所以筆記中沒有涉及，包括EM算法，隱馬爾可夫模型，條件 ...
李航統計學習方法——算法3朴素貝葉斯法
一、貝葉斯分類 是一類分類算法的總稱，這類算法均以貝葉斯定理為基礎，故統稱貝葉斯分類。而貝葉斯分類中最簡單的一種：朴素貝葉斯分類。 二、貝葉斯定理： 已知某條件概率，如何得到兩個事件交換后的概率，也就是在已知P(A|B)的情況下如何求得P(B ...
統計學習方法[6]——邏輯回歸模型
統計學習方法由三個要素組成：方法=模型+策略+算法 模型是針對具體的問題做的假設空間，是學習算法要求解的參數空間。例如模型可以是線性函數等。 策略是學習算法學習的目標，不同的問題可以有不同的學習目標，例如經驗風險最小化或者結構風險最小化。 經驗風險最小化中常見的損失函數有：0-1損失函數、殘 ...
李航《統計學習方法》總覽
轉自：https://github.com/SmirkCao/Lihang 最近又撿起了李航老師的《統計學習方法》開始啃，之前因為干貨太多一看就困索性放棄（捂臉~），突然在知乎上看到有大神的總結，希望大神能帶我飛哈哈。 [TOC] GitHub的markdown公式支持一般, 推薦使用 ...
統計學習方法 李航---第1章 統計學習方法概論
第一章 統計學習方法概論 統計學習的主要特點是: (1)統計學習以計算機及網絡為平台，是建立在計 算機及網絡之上的; (2)統計學習以數據為研究對象，是數據驅動的學科； (3)統 ...