二項分布及其極大似然估計


一、二項分布

二項分布:即n次獨立重復試驗,在概率論和統計學中,二項分布是n個獨立的是/非試驗中成功的次數的離散概率分布,其中每次試驗的成功概率為p。這樣的單次成功/失敗試驗又稱為伯努利試驗。實際上,當n = 1時,二項分布就是伯努利分布

伯努利分布的數學公式表達如下:

 如果表示拋硬幣,則正面向上的概率為x=1時,p(1)=p^1*(1-p)^(1-1)=p,反面向上的概率為x=0時,p(0)=p^0*(1-p)=1-p

由此可得:多次拋硬幣就是一個二項分布,其數學公式可表示為:

 注:這里xi的下標i截圖看的不清,就這樣表示。

二、極大似然估計

極大似然估計,通俗理解來說,就是利用已知的樣本結果信息,反推最具有可能(最大概率)導致這些樣本結果出現的模型參數值

由上面可知,二項分布的損失函數表示為:

 

根據梯度下降的方法對二項分布的極大似然估計進行證明,對p進行求導:

 

 所以極值點為,也是其極大似然估計:

 其中:n為總共實驗的次數,為正樣本出現的次數

比如拋硬幣實驗: 100次,正面次數80,反面次數20,這樣其極大似然估計為0.8

 

參考博客:1、一文搞懂極大似然估計

     2、二項分布


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM