全概率公式
設 $B_{1},B_{2},...,B_{n}$ 是一個完備事件組且都有正概率，則對任一個事件 $A$ 有
$$P(A) = \sum_{i=1}^{n}P(AB_{i}) = \sum_{i=1}^{n}P(B_{i})P(A|B_{i})$$
將復雜的事件划分為簡單的 $AB_{1},AB_{2},..,AB_{n}$，因為簡單事件的概率比較容易計算，所以當各個事件互斥時，可以利用加法公式
和條件概率公式計算出 $A$ 的概率。
事件 $A$ 的發生有各種可能的原因 $B_{i}$，全概率公式可以看作由原因推結果的公式，每個原因對結果的發生都有一定的作用。
全概率公式是一種先驗概率，就是根據經驗給出的概率，注意這里也只是經驗上的概率，可能是非常准確的，也可能是不准確的，
1）一個袋子里有 $10$ 個球，其中 $6$ 個黑球，$4$ 個白球；那么隨機抓一個黑球的概率是 $0.6$！那這個先驗概率就很准確。
2）已知一老戰士與一新戰士射擊命中率分別為 $0.9$ 與 $0.5$，這個概率只是根據有限次的射擊試驗所得出來的，不一定非常准確。
於是有了后驗概率，后驗概率就是經過隨機試驗后，由結果對先驗概率進行修正。修正方法用的是下面介紹的貝葉斯公式。
貝葉斯公式
設 $B_{1},B_{2},...,B_{n}$ 是一個完備事件組且都有正概率，則對於任意事件 $A$($P(A) > 0$)，有
$$P(B_{i}|A) = \frac{P(AB_{i})}{P(A)} = \frac{P(B_{i})P(A|B_{i})}{\sum_{j=1}^{n}P(B_{j})P(A|B_{j})}$$
在事件 $A$ 已經發生的情況下，貝葉斯公式可以用來尋找導致 $A$ 發生的各種原因 $B_{i}$ 的概率。
貝葉斯公式是一種逆向概率，所謂“逆向概率”是相對“正向概率”而言。由上面可以知道正向概率可能並不准確，需要修正。如：
我們已經知道袋子里面有 $N$ 個球，不是黑球就是白球，其中 $M$ 個是黑球，那么把手伸進去摸一個球，就能知道摸出黑球的概率是多少。
這種情況往往是上帝視角，即了解了事情的全貌再做判斷。但現實生活中基本都無法知道總體全部，只能根據有限的樣本進行估計然后
得到一個經驗概率。
貝葉斯公式中也出現了先驗概率，這些概率由經驗所得，計算的結果就是修正后的概率。
總之：貝葉斯原理與其他統計學推斷方法截然不同，它是建立在主觀判斷的基礎上：在我們不了解所有客觀事實的情況下，同樣可以先
估計一個經驗概率，然后根據實際結果不斷進行修正。
貝葉斯公式本質上就是條件概率公式，只不過是用乘法公式展開了條件概率公式中的分子，用全概率公式展開了條件概率公式中的分母。
之所以另取名字叫貝葉斯公式，是由於它體現了一種從先驗概率計算后驗概率的思想。