費希爾信息矩陣Fisher's information matrix

Fisher information matrix 是用利用最大似然函數估計來計算方差矩陣，表示隨機變量的一個樣本所能提供的關於狀態參數在某種意義下的平均信息量。

三個意義：

①估計MLE的方程的方差；

②log likelihood在參數真實值處的負二階導數的期望；

③MLE的漸進分布的方差：

Score Function 的期望值為0，證明如下：

為什么其逆矩陣即可用來表示方差的下限，即CRB約束？