一、二項分布
二項分布:即n次獨立重復試驗,在概率論和統計學中,二項分布是n個獨立的是/非試驗中成功的次數的離散概率分布,其中每次試驗的成功概率為p。這樣的單次成功/失敗試驗又稱為伯努利試驗。實際上,當n = 1時,二項分布就是伯努利分布。
伯努利分布的數學公式表達如下:

如果表示拋硬幣,則正面向上的概率為x=1時,p(1)=p^1*(1-p)^(1-1)=p,反面向上的概率為x=0時,p(0)=p^0*(1-p)=1-p
由此可得:多次拋硬幣就是一個二項分布,其數學公式可表示為:

注:這里xi的下標i截圖看的不清,就這樣表示。
二、極大似然估計
極大似然估計,通俗理解來說,就是利用已知的樣本結果信息,反推最具有可能(最大概率)導致這些樣本結果出現的模型參數值!
由上面可知,二項分布的損失函數表示為:

根據梯度下降的方法對二項分布的極大似然估計進行證明,對p進行求導:

所以極值點為,也是其極大似然估計:
其中:n為總共實驗的次數,
為正樣本出現的次數
比如拋硬幣實驗: 100次,正面次數80,反面次數20,這樣其極大似然估計為0.8
參考博客:1、一文搞懂極大似然估計
