原文:机器学习 —— 基础整理(一)贝叶斯决策论;二次判别函数;贝叶斯错误率;生成式模型的参数方法

本文简单整理了以下内容: 一 贝叶斯决策论:最小错误率决策 最小风险决策 经验风险与结构风险 二 判别函数 生成式模型 多元高斯密度下的判别函数:线性判别函数LDF 二次判别函数QDF 三 贝叶斯错误率 四 生成式模型的参数估计:贝叶斯学派与频率学派 极大似然估计 最大后验概率估计 贝叶斯估计 多元高斯密度下的参数估计 五 朴素贝叶斯与文本分类 挪到了下一篇博客 一 贝叶斯决策论:最小风险决策 ...

2017-03-30 09:46 1 9172 推荐指数:

查看详情

决策论

在【前一个例子】中已经举例说明了如何用公式计算后验概率,然后依据后验概率来做决策。 1、什么是行为? 但是,有时候,后验概率本身只能说明具有特征x的样本属于ωi类的可能性有多少,却没能表示如果将样本分到ωi类时的代价有多大。 在此,引入行为的概念。 分类器的设计初衷很简单,就是进行 ...

Tue Oct 30 00:52:00 CST 2012 1 11003
基于最小错误率决策

  本文主要参考资料   最小错误率是在统计的意义上说的,请注意其含义。  在这里要弄清楚条件概率这个概念。P(*|#)是条件概率的通用符号,在“|”后边出现的#为条件,之前的*为某个事件,即在某条件#下出现某个事件*的概率。P(ωK|X)是表示在X出现条件下,样本为ωK类的概率。  一个事物 ...

Sun Nov 09 20:11:00 CST 2014 1 8103
基于最小错误率决策

理论上的东西,就不写了,也写不出什么有价值的东西,资料太多了。后文很多关于原理的讲述都给出了其他文章的引用。 分享一个比较简单易懂的决策理论与统计判别方法。 数据集: Dataset1.txt 328 个同学的身高、体重、性别数据(78 个女生、250 个男生 ...

Tue May 07 07:24:00 CST 2013 0 5467
机器学习——方法

0.什么是公式是由一位数学家——托马斯·提出的,也称为法则, 他在许许多多的领域都有所应用,我们也在许多数学课程中学习过他。 这就是说,当你不能准确知悉一个事物的本质时,你可以依靠与事物特定本质相关的事件出现的多少去判断其本质属性的概率。 用数学语言表达就是:支持 ...

Mon Jul 27 06:10:00 CST 2020 1 1233
机器学习-算法

0. 前言 这是一篇关于方法的科普文,我会尽量少用公式,多用平白的语言叙述,多举实际例子。更严格的公式和计算我会在相应的地方注明参考资料。方法被证明是非常 general 且强大的推理框架,文中你会看到很多有趣的应用。 1. 历史 托马斯·(Thomas Bayes)同学 ...

Thu Jul 19 01:47:00 CST 2018 0 2386
机器学习 - 朴素

简介 朴素是一种基于概率进行分类的算法,跟之前的逻辑回归有些相似,两者都使用了概率和最大似然的思想。但与逻辑回归不同的是,朴素斯通过先验概率和似然概率计算样本在每个分类下的概率,并将其归为概率值最大的那个分类。朴素适用于文本分类、垃圾邮件处理等NLP下的多分类问题。 核心 ...

Fri Aug 06 01:51:00 CST 2021 0 199
机器学习-朴素

概率分类器: 朴素是一种直接衡量标签和特征质检的概率关系的有监督学习算法, 是一种专注分类的算法, 朴素的算法根源是基于概率论和数理统计的理论, 因此它是根正苗红的概率模型. 关键概念: 联合概率: X取值为x和Y的取值为y, 两个事件同时发生的概率, 表示 ...

Mon Dec 13 23:49:00 CST 2021 0 765
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM