詳解概率與期望的概念
本篇隨筆簡單講解一下數學中的概率和期望的相關內容,並致力於對概率期望在信息學奧林匹克競賽中的應用。建議閱讀本篇博客並希望從中弄懂概率和期望相關內容的讀者現行具備一定的(不低於初中)的統計學相關知識。了解一定的數學知識(盡量不低於初三--高一)。
概念集錦
1、隨機現象
在一定的條件下,並不總是出現相同的結果的現象稱為隨機現象。
就是在同一條件下出現很多種不同的結果。
比如在一個固定的時間段,乘坐公交車的人數可能會不同。這就是一個隨機現象。
2、隨機變量
表示隨機現象的各種結果的變量叫做隨機變量。
比如在一個固定的時間段,乘坐公交車的乘客人數。(哈哈哈還是上面的例子)
比較數學的一個說法:設一個隨機現象的所有可能結果做一個基本空間\(\Omega\),隨機變量\(X\)是定義在\(\Omega\)上的取值為實數的函數。這是個映射的關系,也就是對於這個基本空間\(\Omega\)的所有可能結果,都有一個值在實軸上與之對應。
怎么去理解這個東西呢?還是上面這個例子,如果定義\(X\)為八點到九點中乘坐公交車的乘客人數。那么\(X\)就是個隨機變量。它會有很多種可能的結果。對於每個結果,\(X\)有分別不同的取值。這就是一個映射的對應關系。
3、隨機事件
在概率論中,將實驗的結果稱之為事件。在每次實驗中,可能發生也可能不發生的事件,但在大量的實驗中具有某種規律性,這種事件被稱為隨機事件,隨機事件也叫偶然事件。(注意,隨機事件和隨機現象是有區別的。)
隨機現象和隨機事件的區別就在於,隨機現象的發生是純偶然性的,就像公交車的那個例子,每天的同一時段的乘車人數毫無規律性可言,因為這個事情本來就是隨機的。但是隨機事件不同,它是呈現一定的規律性的。比如每天的同一時段乘坐公交車的人數,我們發現每到周六人數都是10000,那這個事情就變成了一個隨機事件了。
4、頻率
假設,我們對某個隨機現象進行了\(n\)次實驗,其中\(A\)事件出現了\(m\)次,那么其出現的頻率就是\(\frac{m}{n}\)。
這個應該很好理解(而且是基本知識)。
5、伯努利大數定律
設\(n_A\)為\(n\)次獨立重復實驗中事件\(A\)發生的次數,\(p\)是事件\(A\)在每次實驗中發生的概率,則對於任意正數\(\epsilon>0\),有:
或
上面這倆式子表示:當\(n\)趨近於正無窮的時候,出現事件\(A\)的頻率無限趨近於這個事件\(A\)的概率。
證明過程我看不懂。
其含義是:當\(n\)足夠大的時候,事件\(A\)出現的頻率將無限接近於其發生的概率。這也揭示了頻率的穩定性。
關於大數定律,除了伯努利大數定律之外,還有切比雪夫大數定律和辛欽大數定律。有興趣的同學可以自己了解一下。
6、概率
概率反應的是隨機事件出現的可能性大小,也叫或然率。
剛剛已經鋪墊了伯努利大數定律,那么我們直到了,對於隨機事件的一個頻率,當\(n\)趨近於\(\infty\)的時候,這個事件\(A\)的頻率會無限接近於一個常數,那么這個常數就叫事件\(A\)的概率。
這應該算是概率的一個比較專業的定義吧。
這種我們研究的概率一般被稱作古典概率。
也就是說,根據這個理論,如果在所有可能出現的事件范圍內構成事件\(A\)的基本事件有\(n\)個,不構成事件\(A\)的事件有\(m\)個,那么出現事件\(A\)的概率為:
7、條件概率公式
條件概率,就是有前提條件的事件發生的概率。具體理解可為:
假設\(A,B\)為兩個獨立的事件,並設在\(B\)事件發生的前提下,\(A\)事件發生的概率為\(P(A|B)\).兩個事件同時發生的概率為\(P(AB)\).那么有:
結合剛剛的古典概率基本公式,這應該是顯然的。
8、貝葉斯公式
內容:對於兩個獨立的事件\(A,B\)來講,他們倆同時發生的概率是
根據剛剛對概率的定義,這是顯然的。
注意,這個長得很像積性函數的東西,並不是一個積性函數,因為\(P(AB)\)表示的是\(AB\)這兩個事件同時發生的概率。
9、期望
如果\(X\)是一個隨機變量,它的取值分別是\(x_1,x_2\cdots x_n\),那么一個隨機事件就可以表示為\(X=X_i\),假設它的概率是\(P(X=X_i)=p_i\),那么它的期望被稱為\(E(X)\),有:
通俗地理解,一個隨機變量的期望就是這個隨機變量的所有取值與其概率的乘積之和。
- 數學期望的性質
數學期望是線性函數,它滿足:
這個性質是我們代碼實現數學期望的時候進行遞推求解的根源。