無偏估計:
估計量的均值等於真實值,即具體每一次估計值可能大於真實值,也可能小於真實值,而不能總是大於或小於真實值(這就產生了系統誤差)。
估計量評價的標准:
(1)
無偏性 如上述
(2)
有效性 有效性是指估計量與總體參數的離散程度。如果兩個估計量都是無偏的,那么離散程度較小的估計量相對而言是較為有效的。即雖然每次估計都會大於或小於真實值,但是偏離的程度都更小的估計更優。
(3)
一致性 又稱相合性,是指隨着樣本容量的增大,估計量愈來愈接近總體參數的真值。
為什么方差的分母是n-1?
結論: 這個問題本身概念混淆了。如果已知全部的數據,那么均值和方差可以直接求出。但是對一個隨機變量X,需要估計它的均值和方差,此時才用分母為n-1的公式來估計他的方差,因此
分母是n-1才能使對
方差的估計(而不是方差)
是無偏的。因此,這個問題應該改為,為什么隨機變量的方差的估計的分母是n-1?
如果我們已經知道了全部的數據,那就可以求出均值μ,sigma,此時就是常規的分母為n的公式直接求,
這並不是估計!
現在,對於一個隨機變量X,我們要去估計它的期望和方差。
期望的估計就是樣本的均值

現在,在估計的X的方差的時候,
如果我們預先知道真實的期望μ,那么根據方差的定義:


這時分母為n的估計是正確的,就是無偏估計!
但是,在實際估計隨機變量X的方差的時候,
我們是不知道它的真實期望的,而是用期望的估計值
去估計方差,那么:


所以把分母從n換成n-1,就是把對方差的估計稍微放大一點點。至於為什么是n-1,而不是n-2,n-3,...,有嚴格的數學證明。
無偏估計雖然在數學上更好,但是並不總是“最好”的估計,在實際中經常會使用具有其它重要性質的有偏估計。