前置知識：
\(1.\)高中數學相關知識。
\(2.\)高等數學（微分，定積分，不定積分，泰勒展開，極限等）
- 定積分常用計算方式：牛頓—萊布尼茲公式：（\(F()\)為\(f()\)的原函數，即\(F^{'}()=f()\)）
- 泰勒中值定理\(1\)：\(f(x)=f(x_0)+f'(x_0)(x-x_0)+\frac{f''(x_0)}{2!}(x-x_0)^2+...+\frac{f^{(n)}(x_0)}{n!}(x-x_0)^n+R_n(x)\)，滿足\(f(x)\)在\(x_0\)處有\(n\)階導數，\(x\)為\(x_0\)的一個鄰域中的任意值，\(R_n(x)=o((x-x_0))^n\)稱為佩亞諾余項。
- 泰勒中值定理\(2\)：\(f(x)=f(x_0)+f'(x_0)(x-x_0)+\frac{f''(x_0)}{2!}(x-x_0)^2+...+\frac{f^{(n)}(x_0)}{n!}(x-x_0)^n+R_n(x)\)，滿足\(f(x)\)在\(x_0\)的某一鄰域中有\(n+1\)階導數，\(x\)為\(x_0\)該鄰域中的任意值，\(R_n(x)=\frac{f^{n+1}(\xi)}{(n+1)!}(x-x_0)^{n+1}\)稱為拉格朗日余項\((\xi\)在\(x_0\)和\(x\)之間\()\)。
- 麥克勞林公式：取\(x_0=0,\xi=\theta x(0<\theta<1)\)時的泰勒展開。
- 常見的麥克勞林公式（重要）
- \(e^x=1+x+\frac{x^2}{2!}+\frac{x^3}{3!}+...+\frac{x^n}{n!}+\frac{e^{\theta x}}{(n+1)!}x^{n+1}\)
- \(sinx=x-\frac{x^3}{3!}+\frac{x^5}{5!}-...+(-1)^{m-1}\frac{x^{2m-1}}{(2m-1)!}+R_{2m}(x)\)
\(3.\)微分中值定理（羅爾，拉格朗日中值，柯西中值）（理解聯系斜率）
- 羅爾定理：\(f(x)\)滿足\([a,b]\)上連續，\((a,b)\)上可導，\(f(a)=f(b)\)則\(\exists\xi(a<\xi<b)\)有\(f'(\xi)=0\)
- 拉格朗日中值定理：\(f(x)\)滿足\([a,b]\)上連續，\((a,b)\)上可導，則\(\exists\xi(a<\xi<b)\)有\(f(b)-f(a)=f'(\xi)(b-a)\)
- 柯西中值定理：\(f(x),F(x)\)滿足\([a,b]\)上連續，\((a,b)\)上可導，\(\forall x\in(a,b)F'(x)\ne0\)則\(\exists\xi(a<\xi<b)\)有\(\frac{f(a)-f(b)}{F(a)-F(b)}=\frac{f'(\xi)}{F'(\xi)}\)
第一章：基本概念（還是略了吧，真的就是高中知識……）
第二章：隨機變量及其分布
\(1.\)一般來說，隨機變量分為離散型和連續型，離散型可以用數列來類比，而連續型可以用函數來類比。
注意，連續型中定積分相當於離散型中的\(\Sigma\)。
\(2.\)\(P\{X\}\)表示隨機變量為\(X\)時的概率，以下是幾個重要的分布
-
\((0-1)\)分布：\(P\{X=k\}=p^k(1-p)^k,k=0,1,(0<p<1)\)
-
伯努利實驗：實驗結果僅有發生或不發生兩種情況。
-
\(n\)重伯努利實驗：做\(n\)次伯努利實驗，事件發生次數。
-
二項分布：\(P\{X=k\}={n \choose k} p^k(1-p)^{n-k},k=0,1,2,3...\)我們稱隨機變量\(X\)服從參數為\(n,p\)的二項分布，記為\(X\sim b(n,p)\)
-
泊松分布：\(P\{X=k\}=\frac{\lambda^ke^{-k}}{k!},k=0,1,2...,\lambda>0\)我們稱隨機變量\(X\)服從參數為\(\lambda\)的泊松分布，記為\(X\sim \pi(\lambda)\)
-
關於泊松分布，可以利用泊松定理與二項分布建立聯系，當\(np_n=\lambda\)時即有
\[\lim_{n\to\infty}{n \choose k}p^k_n(1-p_n)^{n-k}=\frac{\lambda^ke^{-k}}{k!} \]
\(3.\)分布函數\(F(x)\)，在一維的情況下，當成前綴和看就好，即有：\(F(x)=P\{X\leq x\},F(-\infty)=0,F(\infty)=1\)
\(4.\)對分布函數積一下，就有概率密度\(f(x)\)，即：\(F(x)=\int^x_{-\infty}f(t)dt,P\{x_1<X\leq x_2\}=\int^{x_2}_{x_1}f(x)dx\)
-
均勻分布：隨機變量\(X\)有概率密度
\[f(x)=\left\{\begin{array}{ll}\frac{1}{b-a}& a<x<b\\0&x\leq a||x\geq b\end{array} \right. \]我們稱\(X\)在區間\((a,b)\)上服從均勻分布，記為\(X～U(a,b)\)。
-
指數分布：隨機變量\(X\)有概率密度\((\theta>0)\)
\[f(x)=\left\{\begin{array}{ll}\frac{1}{\theta}e^{-\frac{x}{\theta}}&x>0\\0&x\leq 0\end{array} \right. \]我們稱\(X\)在區間\((a,b)\)上服從參數為\(\theta\)的指數分布。
-
正態分布（這玩意兒和\(e^x\)有神似之處，用心體會）：隨機變量\(X\)有概率密度\(\mu,\sigma\)為常數\((\sigma>0)\)
\[f(x)=\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}},-\infty<x<\infty \]我們稱\(X\)在區間\((a,b)\)上服從參數為\(\mu,\sigma\)的正態分布，記為\(X\sim N(\mu,\sigma^2)\)。
-
正態分布\(f(x)\)圖像最高點在\(x=\mu\)處，\(\sigma\)決定其形狀。
-
\(\mu=0,\sigma=1\)時我們稱隨機變量服從標准正態分布，即
\[\varphi(x)=\frac{1}{\sqrt{2}\sigma}e^{-\frac{x^2}{2}},-\infty<x<\infty \] -
若\(X\sim N(\mu,\sigma^2)\)則\(Z=\frac{X-\mu}{\sigma}\sim N(0,1)\)，應用這個加查表，我們可以求出任意的正態分布概率密度。
-
第三章 多維隨機變量及其分布
\(1.\)首先第一個重點，多維要學會偏導，將一維看做常數，對另一個進行求導。
\(2.\)\(F(x,y)\)（成為聯合分布概率）定義類似上面的，用面積和理解即可，\(f(x,y)=\frac{\partial^2 F(x,y)}{\partial x\partial y}\)，求法：先對\(F(x,y)\)的\(x\)求導，再對結果的\(y\)求導。
\(3.\)邊緣概率密度：\(f_x(x)=\int^\infty_{-\infty}f(x,y)dy,f_y(x)=\int^\infty_{-\infty}f(x,y)dx\)。
-
對於一個\(f(x)\)，若其在\([-a,a]\)上可積則有：
\[\int^a_{-a}f(x)dx=\left\{ \begin{array}{ll}2\int^a_0f(x)dx&f(-x)=f(x)\\0&f(-x)=-f(x)\end{array} \right. \] -
二維正態分布：
-
聯合分布：
\[f(x)=\frac{1}{2\pi\sigma_1\sigma_2\sqrt{1-\rho^2}}exp\{\frac{-1}{2(1-\rho^2)}[\frac{(x-\mu_1)^2}{\sigma_1^2}-2\rho\frac{(x-\mu_1)(y-\mu_2)}{\sigma_1\sigma_2}+\frac{(y-\mu_2)^2}{\sigma_2^2}]\} \] -
邊緣分布滿足一維的正態分布。
-
\(4.\)條件概率：\(P\{X=x_i|Y=y_i\}=\frac{P\{X=x_i,Y=y_i\}}{P\{Y=y_i\}}=\frac{p_{ij}}{p_{\cdot j}}\)
-
條件概率密度：\(f_{X|Y}(x_y)=\frac{f(x,y)}{f_y(y)}\)（可以運用此式倒推聯合分布密度）
-
均勻分布：設\(G\)為平面區域上的有界區域，面積為\(A\)，\((X,Y)\)具有概率密度：
\[f(x,y)=\left\{ \begin{array}{ll} \frac{1}{A}&(x,y)\in G\\0&(x,y)\notin G\end{array} \right. \]我們稱\((X,Y)\)在\(G\)上服從均勻分布（其邊緣分布不一定服從均勻分布）
\(5.\)相互獨立的隨機變量：判定方法：\(P\{X\leq x,Y\leq y\}=P\{X\leq x\}P\{Y\leq y\},f(x,y)=f_X(x)f_Y(y)\)
第四章：隨機變量的數字特征：
\(1.\)數學期望（本質上是加權平均）：\(E(X)=\int^\infty_{-\infty}xf(x)dx\)
-
二項分布：\(E(X)=np\)
-
正態分布：\(E(X)=\mu\)
-
均勻分布：\(E(X)=\frac{a+b}{2}\)
-
泊松分布：\(E(X)=\lambda\)（證明再次用到了麥克勞林公式）
-
指數分布：\(E(X)=\theta\)（證明）（注：證明中的\(\lambda\)與這里的\(\theta\)互為倒數，這里寫\(\theta\)只是為了和書上一致）
-
定理：若隨機變量\(X\)的概率密度為\(f(x)\)，\(\int^\infty_{-\infty}g(x)f(x)dx\)絕對收斂，則有：
\[E(Y)=E(g(X))=\int^\infty_{-\infty}g(x)f(x)dx \] -
注意：\(E(X)\)為一個常數。\(E(CX)=CE(X),E(X+Y)=E(X)+E(Y),E(XY)=E(X)E(Y)\)
\(2.\)方差：\(D(x)=\int^\infty_{-\infty}[x-E(X)]^2f(x)dx=E(X^2)-[E(X)]^2\)
-
隨機變量\(X\)具有數學期望\(E(X)=\mu,D(x)=\sigma^2\)則\(X^*=\frac{X-\mu}{\sigma}\)成為\(X\)的標准化變量。
-
正態分布：\(D(X)=\sigma^2\)
-
泊松分布：\(D(X)=\lambda\)
-
均勻分布：\(D(X)=\frac{(b-a)^2}{12}\)
-
指數分布：\(D(X)=\theta^2\)
-
二項分布：\(D(X)=np(1-p)\)
-
\(D(C)=0,D(CX)=C^2D(X),D(C+X)=D(X)\)
-
\(D(X+Y)=D(X)+D(Y)+2E\{(X-E(X))(Y-E(Y))\}\)，特別的，當\(X,Y\)相互獨立時有\(D(X+Y)=D(X)+D(Y)\)
\(3.\)協方差及相關系數：
-
協方差：\(Cov(X,Y)=E\{[X-E(X)][Y-E(Y)]\}\)，相關系數：\(\rho_{XY}=\frac{Cov(X,Y)}{\sqrt{D(X)D(Y)}}\)
-
協方差性質：\(Cov(aX,bY)=abCov(X,Y),Cov(X_1+X_2,Y)=Cov(X_1,Y)+Cov(X_2,Y)\)
-
柯西施瓦茨不等式：\(|Cov(X,Y)^2|\leq D(X)D(Y)\)
-
當\(\rho_{XY}=0\)時，稱\(X,Y\)不相關。二維正態分布中的\(\rho\)就是\(X,Y\)的相關系數\(\rho_{XY}\)