1 基本概念
- 隨機試驗：可重復、所有可能結果或結果所在范圍已知
- 樣本空間\(\Omega\)、樣本點\(\omega\)
- 隨機事件：樣本空間的子集。必然事件\(\Omega\)、不可能事件\(\varnothing\)。
- 事件的包含\(\subset, \supset\)、相等\(=\)、交\(\cap\)、並\(\cup\)、差\(-\)
- 互斥事件\(AB = \varnothing\)、對立事件\(\overline A = \Omega - A\)
- 運算規律
- 若\(A \subset B\)，則\(A \cup B = B, A \cap B = A\)
- \(A \cup B = B \cup A, \ A \cap B = B \cap A\)
- \(A \cup (B \cup C) = (A \cup B) \cup C, \\ A \cap (B \cap C) = (A \cap B) \cap C\)
- \(A \cap (B \cup C) = (A \cap B) \cup (A \cap C), \\ A \cup (B \cap C) = (A \cup B) \cap (A \cup C)\)
- \(\overline{A \cup B} = \overline A \cap \overline B, \\ \overline {A \cap B} = \overline A \cup \overline B\)
- \(\displaystyle \overline {\bigcup_{i = 1}^n A_i} = \bigcap_{i = 1}^n \overline {A_i}, \\ \displaystyle \overline {\bigcap_{i = 1}^n A_i} = \bigcup_{i = 1}^n \overline{A_i}\)
- 頻數、頻率、概率
2 概率
定義
若實值函數\(P\)滿足
- 對於任意事件\(P(A) \ge 0,\)
- 對於必然事件\(P(\Omega) = 1,\)
- 對於兩兩互斥的可數無窮多個事件有\(P(A_1 \cup A_2 \cup \cdots \cup A_n \cup \cdots) = P(A_1) + P(A_2) + \cdots + P(A_n) + \cdots\)
則稱\(P(\cdot)\)為概率。
性質
- \(P(\varnothing) = 0\)
- \(0 \le P(A) \le 1\)
- \(P(\overline A) = 1 - P(A)\)
- 對於兩兩互斥的有限個事件有\(P(A_1 \cup A_2 \cup \cdots \cup A_n) = P(A_1) + P(A_2) + \cdots +P(A_n)\)
- \(A \subset B \implies P(A) \le P(B), P(B-A) = P(B) - P(A)\)
- 注意：\(P(A) = 0\)並不能得出\(A\)為不可能事件，\(P(B) = 1\)並不能得出\(B\)為必然事件；例如幾何概型這樣樣本具有連續性的，有無窮個樣本點，取到某個點的概論是 0，取不到某個點的概率是 1。
條件概率
\(P(B \mid A) = \cfrac {P(AB)}{P(A)}\)為在事件\(A\)發生的條件下事件\(B\)發生的條件概率。
事件的獨立性
設\(A, B\)兩事件滿足\(P(AB) = P(A) P(B)\)，則稱\(A,B\)兩事件獨立。
注意：多個事件獨立並不是簡單的滿足上式，需要這些事件的全部任意組合都滿足上式才行。如\(A,B,C\)相互獨立需滿足
\(\begin{cases} P(AB) = P(A) P(B) \\ P(BC) = P(B) P(C) \\ P(AC) = P(A) P(C) \\ P(ABC) = P(A) P(B) P(C) \end{cases}\)
- \(A,B\)相互獨立、\(A,\overline B\)相互獨立、\(\overline A, B\)相互獨立、\(\overline A, \overline B\)相互獨立這四個結論之間等價。
- \(A,B\)相互獨立\(\iff P(B \mid A) = P(B) \iff P(B \mid A) = P(B \mid \overline A)\)
- 當多個事件相互獨立時，它的部分也相互獨立。
常用公式
-
加法公式：\(P(A \cup B) = P(A) + P(B ) - P(AB)\)
-
減法公式：\(P(A-B) = P(A) - P(AB) = P(A\overline B)\)
-
乘法公式：\(P(AB) = P(B \mid A) P(A)\)，\(P(A_1 A_2 \cdots A_n) = P(A_1) P(A_2 \mid A_1) \cdots P(A_n \mid A_1 A_2 \cdots A_{n-1})\)
-
全概率公式：設\(B_1, B_2, \cdots, B_n\)滿足\(\displaystyle \bigcup_{i = 1}^n B_i = \Omega, B_i B_j = \varnothing(i \neq j)\)且\(P(B_k) \gt 0,k = 1, 2, \cdots, n\)，則對任意事件\(A\)有\(P(A) = \displaystyle \sum_{i=1}^n P(B_i) P(A \mid B_i)\)。
當\(n = 2\)時，全概率公式為\(P(A) = P(A \mid B) P(B) + P(A \mid \overline B) P(\overline B)\)
-
貝葉斯公式：設\(B_1, B_2, \cdots, B_n\)滿足\(\displaystyle \bigcup_{i = 1}^n B_i = \Omega, B_i B_j = \varnothing(i \neq j)\)且\(P(A) \gt 0, P(B_k) \gt 0,k = 1, 2, \cdots, n\)，則\(P(B_j \mid A) = \displaystyle \cfrac {P(B_j) P(A \mid B_j)}{\displaystyle\sum_{i=1}^n P(B_i) P(A \mid B_i)}\)。
（貝葉斯公式表征的是在已知一個結果的情況下，對題設條件的推斷。）
3 古典概型和伯努利概型
古典概型
包含有限個樣本點，且每個樣本點發生的概率相同。
\(P(A) = \cfrac {n_A}n\)
幾何概型
樣本區間可以表示為一個幾何區域，且每個樣本點發生的概率相同。
\(P(A) = \cfrac {L(\Omega_A)}{L(\Omega)} = \cfrac {\text{the area of }\Omega_A}{\text{the area of }\Omega}\)，幾何度量如長度、面積、體積等。
\(n\)重伯努利概型
各次實驗是相互獨立的，且每次實驗只有兩種結果中的一種。
設\(P(A) = p\)，則在\(n\)重伯努利試驗中事件\(A\)發生\(k\)次的概率為\(\mathrm{C}_n^k p^k(1-p)^{n-k}, k = 1, 2, \cdots, n\)。