概率論疑難問題---1、通俗理解全概率公式和貝葉斯公式

一、總結

一句話總結：

全概率就是表示達到某個目的，有多種方式，每種方式又有對應的成功率，問達到目的的概率是多少？具體做法就是把達到目的的所有情況的概率加起來就好

全概率公式：$$P ( B ) = \sum _ { i = 1 } ^ { n } P ( M _ { i } ) P ( B | M _ { i } )$$

貝葉斯公式就是當已知結果，問導致這個結果的第i原因的可能性是多少？執果索因！

貝葉斯公式：$$P ( M _ { i } | B ) = \frac { P ( M _ { i } ) P ( B | M _ { i } ) } { \sum _ { j = 1 } ^ { n } P ( M _ { j } ) P ( B | M _ { j } ) }$$

 

 

二、通俗理解全概率公式和貝葉斯公式

博客對應課程視頻位置：1、全概率公式和貝葉斯公式-范仁義-讀書編程筆記
https://www.fanrenyi.com/video/45/382

一、條件概率是什么

舉個例子，比如讓你背對着一個人，讓你猜猜背后這個人是女孩的概率是多少？

直接猜測，肯定是只有５０％的概率。

假如現在告訴你背后這個人是個長頭發，那么女的概率就變為９０％。

所以條件概率的意義就是，當給定條件發生變化后，會導致事件發生的可能性發生變化。

條件概率寫法

P(A|B)表示事件B發生后事件A發生的概率，對應到上面的例中：B表示背后這個人是個長頭發，A表示這個人是女孩的概率

問題：思考P(A|B)到底怎么求

 

 

求事件A和事件B同時發生的概率

看圖可得事件A和事件B同時發生的概率就是P(A∩B)，也寫作P(AB)

相當於P(A∩B)/1，

條件概率：事件B發生后事件A發生的概率

直接看圖非常好解釋

$$P(A|B)=\frac { P ( A ∩ B ) } { P ( B )}\Rightarrow p ( A \cap B ) = p ( A | B ) \times p ( B )$$

 

條件概率和同時發生的本質區別是什么

樣本空間發生了變化

條件概率：事件A發生后事件B發生的概率

$$P(B|A)=\frac { P ( B ∩ A ) } { P ( A )}\Rightarrow p ( B \cap A ) = p ( B | A ) \times p ( A )$$

 

而P(A∩B)=P(B∩A)，從圖中可以輕易看出來，並且P(A∩B)和P(B∩A)都是表示事件AB同時發生的概率

所以

$$p ( A \cap B ) = p ( A | B ) \times p ( B )=p ( B \cap A ) = p ( B | A ) \times p ( A )$$

 

也就是

$$p ( A | B ) \times p ( B ) = p ( B | A ) \times p ( A )$$

 

再變換一下

$$p ( A | B )  = \frac { P ( B | A ) \times p ( A ) } { P ( B )}$$

 

二、全概率公式

最近《斗羅大陸》的動畫不是在熱播么，所以拿《斗羅大陸》來舉例子

假設唐三面前有一個敵人比比東，唐三有三種單獨的方式可以打敗比比東，方式一是使用藍銀皇武魂，方式二是使用昊天錘武魂，方式三使用唐門暗器（比如佛怒唐蓮），唐三使用這三種招式的概率分別是：

Mi表示唐三單獨選擇某種招式，比如P(M1)表示唐三選擇藍銀皇武魂概率，P(Hi)表示唐三第i種招式命中的概率，

P(M1)=0.5，P(M2)=0.4，P(M3)=0.1

這三種招式成功讓比比東中招（中招就算打敗）的概率分別為：

P(H1)=0.3，P(H2)=0.2，P(H3)=0.5

求唐三打敗比比東的概率是多少？

 

 

解決思路：

這里唐三有三種方式打敗比比東，我們把這三種方式打敗比比東的概率加起來，就是總的打敗比比東的概率

P(B)表示唐三打敗比比東的概率

$$P(B)=P(M1) \times P(B|M1)+P(M2) \times P(B|M2)+P(M3) \times P(B|M3)$$

 

這一步有問題

$$P(B)=P(M1) \times P(H1)+P(M2) \times P(H2)+P(M3) \times P(H3)$$

$$P(B)=0.5 \times 0.3+0.4 \times 0.2+0.1 \times 0.5=0.15+0.08+0.05=0.28$$

 

全概率就是表示達到某個目的，有多種方式，每種方式又有對應的成功率，問達到目的的概率是多少？

具體做法就是把達到目的的所有情況的概率加起來就好

全概率公式描述

$$P ( B ) = \sum _ { i = 1 } ^ { n } P ( M _ { i } ) P ( B | M _ { i } )$$

 

公式表示若事件M1，M2，…，Mn構成一個完備事件組且都有正概率，則對任意一個事件B都有公式成立。

完備事件組

 

 

三、貝葉斯公式

我們照樣來說唐三VS比比東的問題，前面的描述一樣，

我們現在已知 唐三打敗了比比東，

現在的問題是 上述三種方式中，唐三使用哪種方式的可能性最大

---

解決這個問題的方式也很簡單，

就是把使用這三種方式打敗比比東的概率分別求出來，然后比較一下就好了

這些前面已經算過了的

使用第一種方式打敗比比東的概率

$$p ( M1 | B )  = \frac { P(B|M1) \times P(M1) } { P ( B )}=\frac { 0.3 \times 0.5 } { 0.28}≈0.536$$

 

使用第二種方式打敗比比東的概率

$$p ( M2 | B )  = \frac { P(B|M2) \times P(M2) } { P ( B )}=\frac { 0.2 \times 0.4 } { 0.28}≈0.286$$

 

使用第三種方式打敗比比東的概率

$$p ( M3 | B )  = \frac { P(B|M3) \times P(M3) } { P ( B )}=\frac { 0.5 \times 0.1 } { 0.28}≈0.178$$

 

從上面的結果中可以看到使用第一種方式的概率最大

貝葉斯公式

貝葉斯公式就是當已知結果，問導致這個結果的第i原因的可能性是多少？執果索因！

$$P ( M _ { i } | B ) = \frac { P ( M _ { i } ) P ( B | M _ { i } ) } { \sum _ { j = 1 } ^ { n } P ( M _ { j } ) P ( B | M _ { j } ) }$$

 

 

系列課程視頻位置：

1、全概率公式和貝葉斯公式-范仁義-讀書編程筆記
https://www.fanrenyi.com/video/45/382

2、通俗理解泊松分布-范仁義-讀書編程筆記
https://www.fanrenyi.com/video/45/385

3、通俗理解協方差與相關系數-范仁義-讀書編程筆記
https://www.fanrenyi.com/video/45/386

4、通俗理解概率論中的“矩”-范仁義-讀書編程筆記
https://www.fanrenyi.com/video/45/387

5、通俗理解中心極限定理-范仁義-讀書編程筆記
https://www.fanrenyi.com/video/45/388

6、極大似然估計-范仁義-讀書編程筆記
https://www.fanrenyi.com/video/45/389

7、通俗理解最小二乘法-范仁義-讀書編程筆記
https://www.fanrenyi.com/video/45/390