事实上，概率模型的训练过程就是参数估计(parameter estimation)的过程。对于参数的估计，统计学界的两个学派提供了不同的解决方案：频率主义学派(Frequentist)认为参数虽然未知，但却是客观存在的固定值，因此，可通过优化似然函数等准则来确定参数值；贝叶斯学派(Bayesian ...

一、 “探测仪，如果我问一个贝叶斯学派的统计学家如果……”“[掷]我是一个中微子探测仪，不是迷宫守卫。老实说，你是不是脑子坏掉了。”“[掷]...yes” 迷宫守卫的梗：说迷宫里有2条路，分别通向目的地和陷阱，路口各有一个守卫，一个只说真话一个只说假话，他们都知道路后面是什么以及彼此说话 ...

对于技术应用人员来说，我们更看重方法的应用，但有时候对知识的背景做一些了解，我觉得还是挺有必要的，能帮助我们理解一些东西。这篇博文里，不会呈现任何计算公式，只是讨论一下贝叶斯学派与频率学派之间的问题。 贝叶斯学派与频率学派是当今数理统计学的两大学派，基于各自的理论 ...

频率学派（古典学派）和贝叶斯学派是数理统计领域的两大流派。 这两大流派对世界的认知有本质的不同：频率学派认为世界是确定的，有一个本体，这个本体的真值是不变的，我们的目标就是要找到这个真值或真值所在的范围；而贝叶斯学派认为世界是不确定的，人们对世界先有一个预判，而后通过观测数据对这个预判做调整 ...

使用随机事件的发生的频率描写叙述概率的方法，就是通常说的古典概型。或者称为频率学派。另外有一个更加综合的观点就是贝叶斯学派。在贝叶斯学派的观点下概率表示的是事件的不确定性大小。 使用概率表示不确定性，尽管不是唯一的选择。可是是必定的，由于假设想使用 ...

其实这是我之前最想第一篇来写的随笔了，今天就先把这一部分写一写吧。 1.问题 　　一个医疗诊断问题有两个可选的假设：病人有癌症、病人无癌症可用数据来自化验结果：阴性和阳性。有先验知识：在所有人口中 ...

个人理解： 最大似然估计：只是对似然的处理，概率乘积转概率密度乘积，取对数转加，求导得估计值； 贝叶斯估计：由先验乘似然得后验， 这个就是贝叶斯学习过程：在前一个训练集合的后验概率上，乘以新的测试样本点的似然估计，得到新的集合的后验概率，这样，相当于成为了的先验概率分布： ； 原文 ...

贝叶斯方法有着非常广泛的应用，但是初学者容易被里面的概率公式的给吓到，以至于望而却步。所以有大师专门写个tutorial，命名为“bayesian inference with tears”。 我本人也深受其苦，多次尝试学习而不得其门而入。终于有一天，一种醍醐灌顶的感觉在脑海中出现，思路一下子清晰 ...