邏輯回歸的本質是最大似然估計

轉載自：https://www.cnblogs.com/loongofqiao/p/8642045.html

邏輯回歸的本質是最大似然估計

邏輯回歸的輸出是

分別表示取1和取0的后驗概率。將上面兩式聯系起來得到

取似然函數

再取對數

最大似然估計就是求使似然函數最大的參數θ。此時可以使用梯度上升法優化代價函數

取負號和求平均后得到J函數

此時就是求使J函數最小的參數θ。接下來用梯度下降法優化。