深入理解線性模型（一）---基於損失函數的估計
更新時間：2019.10.31 目錄 1. 引言 2. 從三個層面來看線性模型 2.1 總體層面 2.2 樣本層面 2.2.1 Guass-Markov假設 2.2.2 均值向量 2.2.3 X ...
原文：深入理解線性模型（二）---基於似然函數的估計
更新時間： . . 目錄 . 引言 . 關於 varepsilon 假設 . 基於似然函數的估計 . 基於假設 . 基於假設 . . 基於假設 . 估計的優良性 . 假設的場景 . 引言 在上一篇中，我們從損失函數的角度出發討論了 beta 和 sigma 的估計。在本篇將換一種極具統計味道的角度，從似然函數出發來討論了 beta 和 sigma 的估計。從中我們也將看見，在不同的假設中，損失函數 ...
2019-10-31 16:22 0 299 推薦指數：
相關推薦
深入理解線性模型（三）---基於貝葉斯的估計
引言 在前兩篇，我們分別從損失函數以及似然函數的角度來窺探了線性模型。接下來，繼續從一個新的角度 ...
似然函數、最大似然估計簡單理解
%B6%E4%BC%B0%E8%AE%A1 似然函數（Likelihood functio ...
使用最大似然法來求解線性模型（3）-求解似然函數
根據 使用最大似然法來求解線性模型（2）-為什么是最大化似然函數？ 中提到，某個隨機變量tn的 條件概率 服從均值為wT*xn，方差為σ2的正態分布。 現在假設有N個樣本點，它們的聯合概率密度為： 由於在給定了w和σ2的條件下，tn之間是相互獨立的。即：在給定的 w ...
極大似然估計的理解與應用
極大似然估計是概率論中一個很常用的估計方法，在機器學習中的邏輯回歸中就是基於它計算的損失函數，因此還是很有必要復習一下它的相關概念的。 背景 先來看看幾個小例子： 獵人師傅和徒弟一同去打獵，遇到一只兔子，師傅和徒弟同時放槍，兔子被擊中一槍，那么是師傅打中的，還是徒弟打中 ...
理解極大似然估計(MLE)
極大似然估計學習時總會覺得有點不可思議，為什么可以這么做，什么情況才可以用極大似然估計。本文旨在通俗理解MLE(Maximum Likelihood Estimate)。 一、極大似然估計的思想與舉例 舉個簡單的栗子：在一個盒子里有白色黑色小球若干個，每次有放回地從里面哪一個球，已知抽 ...
極大似然估計理解與應用
1. 什么是極大似然估計 在日常生活中，我們很容易無意中就使用到極大似然估計的思想，只是我們並不知道極大似然估計在數學中的如何確定以及推導的。下面我們使用兩個例子讓大家大概了解一下什么是極大似然估計： （1）獵人師傅和徒弟一同去打獵，遇到一只兔子，師傅和徒弟同時放槍，兔子被擊中 ...
最大似然函數估計
首先要知道什么是似然函數，根據百度百科的介紹： 設總體X服從分布P(x；θ)（當X是連續型隨機變量時為概率密度，當X為離散型隨機變量時為概率分布），θ為待估參數，X1,X2,…Xn是來自於總體X的樣本，x1,x2…xn為樣本X1,X2,…Xn的一個觀察值，則樣本的聯合分布（當X是連續型隨機變量時 ...