極大似然估計學習時總會覺得有點不可思議，為什么可以這么做，什么情況才可以用極大似然估計。本文旨在通俗理解MLE(Maximum Likelihood Estimate)。
一、極大似然估計的思想與舉例
舉個簡單的栗子：在一個盒子里有白色黑色小球若干個，每次有放回地從里面哪一個球，已知抽到白球的概率可能為0.7或者0.3，但不清楚，現在抽取三次，三次都沒有抽到白球，請問盒子中一次抽到白球的概率是多少？
這類栗子有一個共性，我們假設白球的概率為p，然后用它去計算已知發生的事情“三次都是黑球”使其發生的概率最大。已知p可能取值為0.7或者0.3，那我們兩個值分別計算三次抽取為黑球的概率，誰的概率大我們就認為p的概率是多少。
p=0.3時，三次為黑球的概率 P = 0.7*0.7*0.7 = 0.342
p=0.7時，三次為黑球的概率 P = 0.3*0.3*0.3 = 0.027
可見p為0.3時事件三次抽取都為黑球發生的概率最大，所以我們認為盒子中取到白球的概率的極大似然估計為0.3。
再舉個栗子：有兩個男孩和一個女孩，已知兩男孩中其中一個與女孩是兄妹，經過觀察發現男孩A與女孩有點像，男孩B與女孩不像，那我們就會猜測男孩A和女孩是兄妹。
這就是用到了極大似然估計的思想，即忽略低概率，認為高概率的為真實事件，或者去估計真實事件。
對於連續的問題，還是上面的小球例子，如果取到白球的概率為一個區間值[0.3, 0.7]。
求解：假設取到取到白球概率為p，則三次都為黑球的事件概率
P = （1-p)^3
P對p求導得：P' = -3(1-p)^2
令P' = 0，得p = 1, 因為 p 在[0.3, 0.7]之間，p<1時，P' < 0， 故在 p < 1區間內，函數P單調遞減，所以p = 0.3時，P取到最大值。即事件發生的可能性最大，所以白球概率的極大似然估計為0.3。
二、總結
通過以上的分析，可以得出極大似然估計的通常解法，總體來說分為以下幾步：
1、得到所要求的極大似然估計的概率p的范圍
2、以p為自變量，推導出當前已知事件的概率函數式Q(p)
3、求出能使得Q(p)最大的p
這樣便求出了極大似然估計值p