Gamma函数 当n为正整数时，n的阶乘定义如下：n! = n * (n - 1) * (n - 2) * … * 2 * 1。 当n不是整数时，n!为多少？我们先给出答案。 容易证明，Γ ...

一些公式 Gamma函数 （1） 贝叶斯公式 （2） 贝叶斯公式计算二项分布概率 现在有一枚未知硬币，我们想要计算抛出后出现正面的概率。我们使用贝叶斯公式计算硬币出现正面的概率。硬币出现正 ...

转自：https://www.cnblogs.com/Gabby/p/5344658.html 我讲EM算法的大概流程主要三部分：需要的预备知识、EM算法详解和对EM算法的改进。 一、EM算法的预 ...

蒙特卡洛（Monte Carlo）法是一类随机算法的统称。随着二十世纪电子计算机的出现，蒙特卡洛法已经在诸多领域展现出了超强的能力。在机器学习和自然语言处理技术中，常常被用到的MCMC也是由此发展而来 ...

马尔科夫链定义 马尔科夫链的定义如下 从定义中我们不难看出马氏链当前状态只与前一个状态相关。比如我们预测明天天气，只考虑今天天气状况，不考虑昨天前天的天气状况。 马尔科夫链平稳状态 ...

独立同分布随机事件 对于n次独立同分布随机事件实验，我们如何计算随机事件概率？举个例子，我们抛同一枚硬币100次，出现正面52次，反面48次，那抛硬币正面的概率是多少？ 频率派思想 频率派认为事 ...

Dirichlet分布 我们把Beta分布推广到高维的场景，就是Dirichlet分布。Dirichlet分布定义如下 Dirichlet分布与多项式分布共轭。多项式分布定义如下 共 ...

主题模型 主题模型这样理解一篇文章的生成过程： 1、 确定文章的K个主题。 2、 重复选择K个主题之一，按主题-词语概率生成词语。 3、 ...

MCMC(Markov Chain Monte Carlo)，即马尔科夫链蒙特卡洛方法，是以马尔科夫平稳状态作为理论基础，蒙特卡洛方法作为手段的概率序列生成技术。 MCMC理论基础 如果转移 ...

二维Gibbs Sampling算法 Gibbs Sampling是高维概率分布的MCMC采样方法。二维场景下，状态(x, y)转移到(x’, y’)，可以分为三种场景 （1）平行于y轴转移 ...