事實上，概率模型的訓練過程就是參數估計(parameter estimation)的過程。對於參數的估計，統計學界的兩個學派提供了不同的解決方案：頻率主義學派(Frequentist)認為參數雖然未知，但卻是客觀存在的固定值，因此，可通過優化似然函數等准則來確定參數值；貝葉斯學派(Bayesian ...

一、 “探測儀，如果我問一個貝葉斯學派的統計學家如果……”“[擲]我是一個中微子探測儀，不是迷宮守衛。老實說，你是不是腦子壞掉了。”“[擲]...yes” 迷宮守衛的梗：說迷宮里有2條路，分別通向目的地和陷阱，路口各有一個守衛，一個只說真話一個只說假話，他們都知道路后面是什么以及彼此說話 ...

對於技術應用人員來說，我們更看重方法的應用，但有時候對知識的背景做一些了解，我覺得還是挺有必要的，能幫助我們理解一些東西。這篇博文里，不會呈現任何計算公式，只是討論一下貝葉斯學派與頻率學派之間的問題。 貝葉斯學派與頻率學派是當今數理統計學的兩大學派，基於各自的理論 ...

頻率學派（古典學派）和貝葉斯學派是數理統計領域的兩大流派。 這兩大流派對世界的認知有本質的不同：頻率學派認為世界是確定的，有一個本體，這個本體的真值是不變的，我們的目標就是要找到這個真值或真值所在的范圍；而貝葉斯學派認為世界是不確定的，人們對世界先有一個預判，而后通過觀測數據對這個預判做調整 ...

使用隨機事件的發生的頻率描寫敘述概率的方法，就是通常說的古典概型。或者稱為頻率學派。另外有一個更加綜合的觀點就是貝葉斯學派。在貝葉斯學派的觀點下概率表示的是事件的不確定性大小。 使用概率表示不確定性，盡管不是唯一的選擇。可是是必定的，由於假設想使用 ...

其實這是我之前最想第一篇來寫的隨筆了，今天就先把這一部分寫一寫吧。 1.問題 　　一個醫療診斷問題有兩個可選的假設：病人有癌症、病人無癌症可用數據來自化驗結果：陰性和陽性。有先驗知識：在所有人口中 ...

個人理解： 最大似然估計：只是對似然的處理，概率乘積轉概率密度乘積，取對數轉加，求導得估計值； 貝葉斯估計：由先驗乘似然得后驗， 這個就是貝葉斯學習過程：在前一個訓練集合的后驗概率上，乘以新的測試樣本點的似然估計，得到新的集合的后驗概率，這樣，相當於成為了的先驗概率分布： ； 原文 ...

貝葉斯方法有着非常廣泛的應用，但是初學者容易被里面的概率公式的給嚇到，以至於望而卻步。所以有大師專門寫個tutorial，命名為“bayesian inference with tears”。 我本人也深受其苦，多次嘗試學習而不得其門而入。終於有一天，一種醍醐灌頂的感覺在腦海中出現，思路一下子清晰 ...