【模式識別與機器學習】—— 2.3均值向量和協方差矩陣的參數估計

均值和協方差矩陣的估計量定義

設模式的類概率密度函數為p(x)，則其均值向量定義為：

其中，x = (x₁, x₂, …, x_n)^T，m = (m₁, m₂, …, m_n)^T。若以樣本的平均值作為均值向量的近似值，則均值估計量為：

協方差矩陣為：

其每個元素c_lk定義為：

其中，x_l、x_k和m_l、m_k分別為x和m的第l和k個分量。

協方差矩陣寫成向量形式為：

協方差矩陣的估計量（當N>>1時）為：

這里，樣本模式總體為{ x₁, x₂, …, x_k, …, x_N}。因為計算估計量時沒有真實的均值向量m可用，只能用均值向量的估計量來代替，會存在偏差。