前言：介紹了最簡單的最大似然估計，距離實現「朴素貝葉斯」還有一些距離。在這篇文章，我想分享一下，我所理解的「最大似然估計 - 高斯分布」。 問題 （這里都是玩具數據，為了方便理解才列出 ...

普通最小二乘法 理論： 損失函數： 權重計算： 1、對於普通最小二乘的系數估計問題，其依賴於模型各項的相互獨立性。 2、當各項是相關的，且設計矩陣 X的各列近似線性相關，那么，設計矩陣會趨向於奇異矩陣，這會導致最小二乘估計對於隨機誤差非常敏感，產生很大的方差 ...

高斯分布 對於單維高斯分布而言，其概率密度函數可以表示成 \[p(x)=\frac{1}{\sqrt{2 \pi}\sigma}e^{-\frac{(x-u)^2}{2\sigma^2}} \] 其中\(u\)表示均值，\(\sigma^2\)表示方差。 對於多維高斯分布 ...

^{2}}{2})$ 一個高斯分布只需線性變換即可化為標准高斯分布，所以只需推導標准高斯分布概率密度的積分。由： $\ ...

本文主要推導高斯分布（正態分布）的乘積，以便能更清楚的明白Kalman濾波的最后矯正公式。 　　Kalman濾波主要分為兩大步驟：　　1.系統狀態轉移估計； 　　2.系統測量矯正。在第2步中的主要理論依據就是兩個獨立高斯分布的乘積如何計算的問題，即如何融合 估計值 和 觀測值 得到系統狀態 ...

實數，因此 YTXw =wTXTY 則權重矩陣 w 的最小二乘估計值為： ...

離散高斯分布 　　離散高斯分布是基於格的密碼方案常用的一種概率分布。 高斯函數 離散高斯分布 亞高斯隨機變量 ...

高中的時候我們便學過一維正態（高斯）分布的公式： \[N(x|u,\sigma^2)=\frac{1}{\sqrt{2\pi \sigma^2}}exp[-\frac{1}{2\sigma^2}(x-u)^2] \] 拓展到高維時，就變成： \[N(\overline x ...