有偏估計(biased estimate)和無偏估計(unbiased estimate)本質上的區別是兩種估計方法。
1.區別與產生的原因
首先有偏估計和無偏估計的區別和產生原因是什么呢,原因在於樣本的數量。
定義:
有偏估計是指由樣本值求得的估計值與待估參數的真值之間有系統誤差,其期望值不是待估參數的真值。在統計學中,估計量的偏差(或偏差函數)是此估計量的期望值與估計參數的真值之差。偏差為零的估計量或決策規則稱為無偏的。否則該估計量是有偏的。在統計學中,“偏差”是一個函數的客觀陳述。
無偏估計是用樣本統計量來估計總體參數時的一種無偏推斷。估計量的數學期望等於被估計參數的真實值,則稱此此估計量為被估計參數的無偏估計,即具有無偏性,是一種用於評價估計量優良性的准則。無偏估計的意義是:在多次重復下,它們的平均數接近所估計的參數真值。無偏估計常被應用於測驗分數統計中。
其實簡單看來就是對一種分布的有限的采樣無法完全代替一種分布,下面通過一個例子來看看。
2. 例子與講解
於此同時我們也可以試着證明一下方差的無偏估計[3]
3. 區別
建議看看[5], 我也不能完全理解,大概是說明了三種衡量估計的性質,無偏性,有效性和一致性。這個人寫的關於數學的都還真不錯。數學真是萬物的基礎啊哈哈哈哈,感慨一下。
在我的理解就是,無偏估計的參數看起來可能更符合我們所求的分布,但可能在工程中卻並不實用。可能最主要的區別還是有效性上。我根據上面文章[5]中的打靶舉例子,他舉的可能不夠清楚。
拿這張圖來說,左右兩張圖雖然方差都差不多,有效性卻完全不同。右邊的有效性要明顯高於左邊。但卻其實都是針對中心靶點目標的采樣。如果都進行無偏估計,得到的樣本分布都應該是中心靶點。這個時候,對於右邊的圖采用有偏估計效果會更好,更能反應這些點的分布。
References
[1]https://blog.csdn.net/weixin_31866177/article/details/89003517
[2]https://spaces.ac.cn/archives/6747
[3]https://www.jianshu.com/p/01b4c9d652ff
[4]https://www.cnblogs.com/jiading/articles/12899384.html
[5]https://www.zhihu.com/question/22983179