事实上，概率模型的训练过程就是参数估计(parameter estimation)的过程。对于参数的估计，统计学界的两个学派提供了不同的解决方案：频率主义学派(Frequentist)认为参数虽然未知，但却是客观存在的固定值，因此，可通过优化似然函数等准则来确定参数值；贝叶斯学派(Bayesian ...

一、 “探测仪，如果我问一个贝叶斯学派的统计学家如果……”“[掷]我是一个中微子探测仪，不是迷宫守卫。老实说，你是不是脑子坏掉了。”“[掷]...yes” 迷宫守卫的梗：说迷宫里有2条路，分别通向目的地和陷阱，路口各有一个守卫，一个只说真话一个只说假话，他们都知道路后面是什么以及彼此说话 ...

对于技术应用人员来说，我们更看重方法的应用，但有时候对知识的背景做一些了解，我觉得还是挺有必要的，能帮助我们理解一些东西。这篇博文里，不会呈现任何计算公式，只是讨论一下贝叶斯学派与频率学派之间的问题。 贝叶斯学派与频率学派是当今数理统计学的两大学派，基于各自的理论 ...

这里的频率学派，认为参数θ是一个常量 ，只有属于置信区间，或者∉置信区间，没有属于这个某个置信区间的概率是0.9的说法。 第一个意思是 整体分布的一个参数θ，取θ的某一个先验分布，计算在该先验分布的条件下的贝叶斯估计的值不能等于该θ在整体分布下面的值 ...

频率学派（古典学派）和贝叶斯学派是数理统计领域的两大流派。 这两大流派对世界的认知有本质的不同：频率学派认为世界是确定的，有一个本体，这个本体的真值是不变的，我们的目标就是要找到这个真值或真值所在的范围；而贝叶斯学派认为世界是不确定的，人们对世界先有一个预判，而后通过观测数据对这个预判做调整 ...

贝叶斯方法有着非常广泛的应用，但是初学者容易被里面的概率公式的给吓到，以至于望而却步。所以有大师专门写个tutorial，命名为“bayesian inference with tears”。 我本人也深受其苦，多次尝试学习而不得其门而入。终于有一天，一种醍醐灌顶的感觉在脑海中出现，思路一下子清晰 ...

频率派 \(vs\) 贝叶斯派 一、前言 在使用各种概率模型时，比如极大似然估计 \(logP(X|\theta)\)，已经习惯这么写了，可是为什么这么写？为什么X在前，为什么 \(\theta\) 在后，分别代表了什么？这些更深一层的逻辑和理由不是特别清晰，故此梳理一下频率 ...

全概率公式 设 $B_{1},B_{2},...,B_{n}$ 是一个完备事件组且都有正概率，则对任一个事件 $A$ 有 $$P(A) = \sum_{i=1}^{n}P(AB_{i}) = \sum_{i=1}^{n}P(B_{i})P(A|B_{i})$$ 将复杂的事件划分为简单 ...