原文:機器學習 —— 基礎整理(一)貝葉斯決策論;二次判別函數;貝葉斯錯誤率;生成式模型的參數方法

本文簡單整理了以下內容: 一 貝葉斯決策論:最小錯誤率決策 最小風險決策 經驗風險與結構風險 二 判別函數 生成式模型 多元高斯密度下的判別函數:線性判別函數LDF 二次判別函數QDF 三 貝葉斯錯誤率 四 生成式模型的參數估計:貝葉斯學派與頻率學派 極大似然估計 最大后驗概率估計 貝葉斯估計 多元高斯密度下的參數估計 五 朴素貝葉斯與文本分類 挪到了下一篇博客 一 貝葉斯決策論:最小風險決策 ...

2017-03-30 09:46 1 9172 推薦指數:

查看詳情

決策論

在【前一個例子】中已經舉例說明了如何用公式計算后驗概率,然后依據后驗概率來做決策。 1、什么是行為? 但是,有時候,后驗概率本身只能說明具有特征x的樣本屬於ωi類的可能性有多少,卻沒能表示如果將樣本分到ωi類時的代價有多大。 在此,引入行為的概念。 分類器的設計初衷很簡單,就是進行 ...

Tue Oct 30 00:52:00 CST 2012 1 11003
基於最小錯誤率決策

  本文主要參考資料   最小錯誤率是在統計的意義上說的,請注意其含義。  在這里要弄清楚條件概率這個概念。P(*|#)是條件概率的通用符號,在“|”后邊出現的#為條件,之前的*為某個事件,即在某條件#下出現某個事件*的概率。P(ωK|X)是表示在X出現條件下,樣本為ωK類的概率。  一個事物 ...

Sun Nov 09 20:11:00 CST 2014 1 8103
基於最小錯誤率決策

理論上的東西,就不寫了,也寫不出什么有價值的東西,資料太多了。后文很多關於原理的講述都給出了其他文章的引用。 分享一個比較簡單易懂的決策理論與統計判別方法。 數據集: Dataset1.txt 328 個同學的身高、體重、性別數據(78 個女生、250 個男生 ...

Tue May 07 07:24:00 CST 2013 0 5467
機器學習——方法

0.什么是公式是由一位數學家——托馬斯·提出的,也稱為法則, 他在許許多多的領域都有所應用,我們也在許多數學課程中學習過他。 這就是說,當你不能准確知悉一個事物的本質時,你可以依靠與事物特定本質相關的事件出現的多少去判斷其本質屬性的概率。 用數學語言表達就是:支持 ...

Mon Jul 27 06:10:00 CST 2020 1 1233
機器學習-算法

0. 前言 這是一篇關於方法的科普文,我會盡量少用公式,多用平白的語言敘述,多舉實際例子。更嚴格的公式和計算我會在相應的地方注明參考資料。方法被證明是非常 general 且強大的推理框架,文中你會看到很多有趣的應用。 1. 歷史 托馬斯·(Thomas Bayes)同學 ...

Thu Jul 19 01:47:00 CST 2018 0 2386
機器學習 - 朴素

簡介 朴素是一種基於概率進行分類的算法,跟之前的邏輯回歸有些相似,兩者都使用了概率和最大似然的思想。但與邏輯回歸不同的是,朴素斯通過先驗概率和似然概率計算樣本在每個分類下的概率,並將其歸為概率值最大的那個分類。朴素適用於文本分類、垃圾郵件處理等NLP下的多分類問題。 核心 ...

Fri Aug 06 01:51:00 CST 2021 0 199
機器學習-朴素

概率分類器: 朴素是一種直接衡量標簽和特征質檢的概率關系的有監督學習算法, 是一種專注分類的算法, 朴素的算法根源是基於概率論和數理統計的理論, 因此它是根正苗紅的概率模型. 關鍵概念: 聯合概率: X取值為x和Y的取值為y, 兩個事件同時發生的概率, 表示 ...

Mon Dec 13 23:49:00 CST 2021 0 765
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM