概率密度函數與最大似然估計的區別


概率密度函數(PDF)

以高斯分布的概率密度函數(PDF)為例,
\(f(x)=\frac{1}{\sigma\sqrt{2\pi}} e^{-\frac{1}{2}\left(\frac{x - \mu}{\sigma}\right)^2}\)

期望值\(\mu\)和方差\(\sigma\)確定之后,\(f(x)\)\(x\)的PDF函數。更一般地, \(f(x)\)可以認為是\(x\)\(\theta(\mu, \sigma)\)的函數,
\(f(x;\theta)=\frac{1}{\sigma\sqrt{2\pi}} e^{-\frac{1}{2}\left(\frac{x - \mu}{\sigma}\right)^2}\)

最大似然估計(maximum likelihood estimation)

現已知數據集 \(x=\{x_0, x_1, x_2, ...\}\) ,求使得 \(f(x)\) 最大化的參數 \(\theta\),此時 \(f(x;\theta)\) 是模型參數 \(\theta\) 的函數,
\( f(\theta)=\frac{1}{\sigma\sqrt{2\pi}} e^{-\frac{1}{2}\left(\frac{x - \mu}{\sigma}\right)^2} \)
在所有 \(\theta\) 的可能取值中,最大似然估計求解使得 \(f(\theta)\) 最大化的參數值 \(\hat{\theta}\)

用大神Aurélien書里的一張圖來總結一下:
Aurélien, 2019


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM