朴素贝叶斯法，就是使用贝叶斯公式的学习方法，朴素就是它假设输入变量（向量）的各个分量之间是相互独立的。所以对于分量之间不独立的分布，如果使用它学习和预测效果就不会很好。 简化策略 　　它是目标是通过训练数据集学习联合概率分布$P(X, Y)$用来预测。书上说，具体是先学习到先验概率 ...

一、贝叶斯分类 是一类分类算法的总称，这类算法均以贝叶斯定理为基础，故统称贝叶斯分类。而贝叶斯分类中最简单的一种：朴素贝叶斯分类。 二、贝叶斯定理： 已知某条件概率，如何得到两个事件交换后的概率，也就是在已知P(A|B)的情况下如何求得P(B ...

朴素贝叶斯分类原理 对于给定的训练数据集，首先基于特征条件独立假设学习输入/输出的联合概率分布；然后基于此模型，对给定的输入\(x\),利用贝叶斯定理求出后验概率最大的输出\(y\)。 特征独立性假设：在利用贝叶斯定理进行预测时，我们需要求解条件概率\(P(x|y_k)=P(x_1,x_2 ...

简述 利用观测到的x,利用先验概率和类条件概率，决定x属于哪一类 后验概率无法直接获得，因此我们需要找到方法来计算它，而解决方法就是引入贝叶斯公式。 贝叶斯理论 可以看出，贝叶斯公式是“由果溯因”的思想，当知道某件事的结果后，由结果推断这件事是由各个原因导致的概率 ...

模型 生成模型介绍 我们定义样本空间为\(\mathcal{X} \subseteq \mathbb{R}^n\)，输出空间为\(\mathcal{Y} = \{c_1, c_2, ..., c_ ...

　　　　 　　极大似然估计提供了一种给定观察数据来评估模型参数的方法，即：“模型已定，参数未知”。即在频率学派中，参数固定了，预测 值也就固定了。最大后验概率是贝叶斯学派在完全贝叶斯不一定可行后采用的一种近似手。如果数据量足够大，最大后验概率和最大似 然估计趋向于一致，如果数据为0,最大后验 ...

朴素贝叶斯（Naive Bayes） 　　特点：基于贝叶斯定义和特征条件(属性)独立假设的分类器方法 　　优点：模型所需估计的参数很少，对缺失数据不太敏感，算法也比较简单，具有很好的模型的可解释性。 朴素贝叶斯模型与其他分类方法相比具有最小的理论误差率。 　　缺点：属性之间相互独立 ...

　　转载请注明出处：http://www.cnblogs.com/Peyton-Li/ 　　朴素贝叶斯法是机器学习模型中一个比较简单的模型，实现简单，比较常用。 　　是定义在输入空间上的随机向量，是定义在输出空间上的随机变量。是和的联合概率分布。训练数据集由独立同分布产生。 　　朴素贝叶斯法 ...