深入理解线性模型（一）---基于损失函数的估计
更新时间：2019.10.31 目录 1. 引言 2. 从三个层面来看线性模型 2.1 总体层面 2.2 样本层面 2.2.1 Guass-Markov假设 2.2.2 均值向量 2.2.3 X ...
原文：深入理解线性模型（二）---基于似然函数的估计
更新时间： . . 目录 . 引言 . 关于 varepsilon 假设 . 基于似然函数的估计 . 基于假设 . 基于假设 . . 基于假设 . 估计的优良性 . 假设的场景 . 引言 在上一篇中，我们从损失函数的角度出发讨论了 beta 和 sigma 的估计。在本篇将换一种极具统计味道的角度，从似然函数出发来讨论了 beta 和 sigma 的估计。从中我们也将看见，在不同的假设中，损失函数 ...
2019-10-31 16:22 0 299 推荐指数：
相关推荐
深入理解线性模型（三）---基于贝叶斯的估计
引言 在前两篇，我们分别从损失函数以及似然函数的角度来窥探了线性模型。接下来，继续从一个新的角度 ...
似然函数、最大似然估计简单理解
%B6%E4%BC%B0%E8%AE%A1 似然函数（Likelihood functio ...
使用最大似然法来求解线性模型（3）-求解似然函数
根据 使用最大似然法来求解线性模型（2）-为什么是最大化似然函数？ 中提到，某个随机变量tn的 条件概率 服从均值为wT*xn，方差为σ2的正态分布。 现在假设有N个样本点，它们的联合概率密度为： 由于在给定了w和σ2的条件下，tn之间是相互独立的。即：在给定的 w ...
极大似然估计的理解与应用
极大似然估计是概率论中一个很常用的估计方法，在机器学习中的逻辑回归中就是基于它计算的损失函数，因此还是很有必要复习一下它的相关概念的。 背景 先来看看几个小例子： 猎人师傅和徒弟一同去打猎，遇到一只兔子，师傅和徒弟同时放枪，兔子被击中一枪，那么是师傅打中的，还是徒弟打中 ...
理解极大似然估计(MLE)
极大似然估计学习时总会觉得有点不可思议，为什么可以这么做，什么情况才可以用极大似然估计。本文旨在通俗理解MLE(Maximum Likelihood Estimate)。 一、极大似然估计的思想与举例 举个简单的栗子：在一个盒子里有白色黑色小球若干个，每次有放回地从里面哪一个球，已知抽 ...
极大似然估计理解与应用
1. 什么是极大似然估计 在日常生活中，我们很容易无意中就使用到极大似然估计的思想，只是我们并不知道极大似然估计在数学中的如何确定以及推导的。下面我们使用两个例子让大家大概了解一下什么是极大似然估计： （1）猎人师傅和徒弟一同去打猎，遇到一只兔子，师傅和徒弟同时放枪，兔子被击中 ...
最大似然函数估计
首先要知道什么是似然函数，根据百度百科的介绍： 设总体X服从分布P(x；θ)（当X是连续型随机变量时为概率密度，当X为离散型随机变量时为概率分布），θ为待估参数，X1,X2,…Xn是来自于总体X的样本，x1,x2…xn为样本X1,X2,…Xn的一个观察值，则样本的联合分布（当X是连续型随机变量时 ...