概率空間與隨機變量的概念

中學階段的概率的概念，無法滿足后續學習的要求，因此必須從測度論角度重新定義概率。本文整理了一些相關概念。

1 概率的公理化定義

定義 概率空間（probability space）：三元參數組\((\Omega, \mathcal{F}, \mathbf{P})\)定義了一個概率空間。

其中\(\Omega\)是樣本空間，即一個隨機試驗的所有可能結果，\(\mathcal{F}\)是樣本空間\(\Omega\)的子集的集合，稱為\(\sigma\)-域（\(\sigma\)-field），\(\mathbf{P}\)是概率函數。

定義 \(\sigma\)-field：樣本空間\(\Omega\)的子集的集合\(\mathcal{F}\)要成為\(\sigma\)-field，必須要滿足：

• \(\Omega\in\mathcal{F}\);
• 若\(\text{E}\in\mathcal{F}\)，則\(\text{E}^c\in\mathcal{F}\)；
• 若\(\text{E}_1,\text{E}_2,\cdots\in\mathcal{F}\)，則\(\cup_{i=1}^{\infty}\text{E}_i\in\mathcal{F}\)。

其中\(\text{E}\)是樣本空間\(\Omega\)的某個子集，又叫事件。

定義 概率：定義在\(\mathcal{F}\)上的實函數\(\mathbf{P}\)被稱為概率或概率測度，它必須滿足

• 對於一切\(\text{E}\in\mathcal{F}\)都有\(\mathbf{P}(\text{E})\geq 0\);
• \(\mathbf{P}(\Omega)=1\)；
• 若\(\text{E}_1,\text{E}_2,\cdots\in\mathcal{F}\)兩兩互斥，即對於任意\(i\neq j\)都有\(\text{E}_1\cap \text{E}_2=\emptyset\)，則\(\mathbf{P}(\cup_{i=1}^{\infty}\text{E}_i)=\sum_{i=1}^{\infty}\mathbf{P}(\text{E}_i)\)。

以上這三條性質，也叫概率公理（axioms of probability）。在現代概率論中，所謂概率就是滿足這三條公理的函數。

2 隨機變量的定義

對於隨機試驗來說，與其對概率空間上的原始概率結構進行分析，不如先對概率結構進行歸納，歸納成隨機變量，再對隨機變量進行分析。

定義 隨機變量：隨機變量\(X\)，是樣本空間\(\Omega\)到實軸\(\mathbb{R}\)的一個可測函數。

\(X\)是可測度的，即對任意\(A\in\mathcal{B}(\mathbb{R})\)，都有\(X^{-1}(A)=\{\omega\in\Omega:X(\omega)\in A\}\in\mathcal{F}\)。

接下來定義隨機變量的分布。

定義 分布：隨機變量\(X\)的分布\(\text{P}_X\)是\(X\)在\((\mathbb{R},\mathcal{B}(\mathbb{R}))\)上誘導（induced）生成的概率測度，用公式表達為，對於任意\(A\in \mathcal{B}(\mathbb{R})\)，都有

\[\text{P}_X(A)=\mathbf{P}(X^{-1}(A))=\mathbf{P}(\omega|X(\omega)\in A) \]

因此，\(\text{P}_X=\mathbf{P}\circ X^{-1}\)在沒有歧義的時候，\(\text{P}_X\)可以簡寫為\(\text{P}\)。很容易可以證明，\(\text{P}\)也是一個概率測度。

定義 累積分布函數：\(X\)的累積分布函數（cdf）\(\text{F}_X\)定義為

\[\text{F}_X=\text{P}_X(X\leq x) \]

其中\(x\in \mathbb{R}\)。

當\(X\)推廣為多維隨機向量時，就是表示從樣本空間\(\Omega\)到\(\mathbb{R}^n\)的函數。