极大似然估计是概率论中一个很常用的估计方法，在机器学习中的逻辑回归中就是基于它计算的损失函数，因此还是很有必要复习一下它的相关概念的。 背景 先来看看几个小例子： 猎人师傅和徒弟 ...

1. EM算法-数学基础 2. EM算法-原理详解 3. EM算法-高斯混合模型GMM 4. EM算法-高斯混合模型GMM详细代码实现 5. EM算法-高斯混合模型GMM+Lasso 1. ...

从极大似然估计的角度理解深度学习中loss函数 为了理解这一概念,首先回顾下最大似然估计的概念: 最大似然估计常用于利用已知的样本结果,反推最有可能导致这一结果产生的参数值,往往模型结果已经确定,用 ...

　等风的鸟原创出品，转载须经同意并附带说明及地址。 　　逻辑回归应该是机器学习里入门级的算法了，但是越是简单的东西越是难以掌控的东西，因为你会觉得简单而忽视掉这个点，但恰恰这个点包含了机器学习的基本 ...

损失函数：最小二乘法与极大似然估计法 最小二乘法 对于判断输入是真是假的神经网络： \[\hat y =sigmod\bigg (\sum_i (w_i\cdot x_i + b_i) \ ...

极大似然估计学习时总会觉得有点不可思议，为什么可以这么做，什么情况才可以用极大似然估计。本文旨在通俗理解MLE(Maximum Likelihood Estimate)。 一、极大似然估计的思 ...

EM算法简述 EM算法是一种迭代算法，主要用于含有隐变量的概率模型参数的极大似然估计，或极大后验概率估计。EM算法的每次迭代由两步完成： E步，求期望 M步，求极大。 EM算法的引入 ...