概率論最重要的一方面就是關注隨機變量序列的趨勢，這部分內容稱為大樣本理論或極限理論。
兩種重要思想：
1、大數定律說明樣本均值\(\tilde{X_n}=n^{-1}\sum_{i=1}^nX_i依概率收斂於期望\mu，意味着\tilde{X_n}以很高的概率趨於\mu\)
2、中心極限定理說明\(\sqrt{n}(\tilde{x}_n-\mu)\)依分布收斂於正態分布，意味着對很大的n,樣本均值漸進服從正態分布。大量相互獨立的隨機變量，其均值（或者和）的分布以正態分布為極限
收斂的類型
1、依概率收斂
當\(n\to \infty時，有P(|X_n-X|>\epsilon)\to 0\),則稱\(X_n\)依概率收斂於X
2.依分布收斂
如果對F的所有連續的點t,有\(\lim_{n \to +\infty}F_n(t)=F(t)\)
則稱\(X_n\)依分布收斂於X，記為\(X_n \to X\)
3、幾乎必然收斂
如果\(P({\omega:X_n(\omega)\to X(\omega)})=1\),則稱\(X_n\)幾乎必然收斂於X
4.如果當\(n\to \infty\)時,\(E|X_n-X|\to 0\),則稱\(X_n依L_1\)收斂於X
大數定理
大數定理指出大量樣本的均值近似於分布的均值；即當n越大，樣本均值與分布的均值越接近，但它僅指出\(X_n\)的分布會聚集在均值附近。
弱大數定理：如果\(X_1，\cdots,X_n\)為獨立同分布樣本，則\(\hat{X}_n \to \mu\)
以拋篩子為例：當n越大時，樣本均值\(\frac{1}{n}\sum X_i\)越接近分布均值3.5
中心極限定律：
令\(X_1，\cdots,X_n為均值為\mu方差為\sigma^2的獨立同分布\),則樣本均值近似分布均值為\(\mu,\)方差為\(\frac{\sigma^2}{n}\)的正態分布。
比如你要調查一個國家人民的體重的平均值，每次取1000個體重值作為樣本，對應就有一個樣本均值。你再從總體中重復抽取n多次1000個樣本，就對應有n個樣本均值。隨着n增大，把所有樣本均值畫出來，得到的就是一個接近正太分布的圖，且n越大，方差\(\sigma^2/n\)越小
Delta方法
假設\(\frac{\sqrt{n}(Y_n-\mu)}{\sigma}服從N(0,1)\),g為可微函數滿足\(g'(\mu)\neq 0 ,則\)