怎么來理解伽瑪（gamma）分布？

本文轉載自查看原文 2016-03-11 09:25 16425

Gamma分布即為多個獨立且相同分布（iid）的指數分布變量的和的分布。
（最新修改，希望能夠行文布局更有邏輯）

—————— 泊松過程——————
指數分布和 泊松分布的關系十分密切，是統計學中應用極大的兩種分布。
其中 泊松過程是一個顯著應用。

泊松過程是一個 計數過程，通常用於模擬一個（非連續）事件在連續時間中發生的次數。
$\{N(t):t\geq 0\}$ 為一個泊松過程，則其滿足三個性質：
① N(0)=0

（t=0時什么都沒發生）

② N(t+s)-N(t)

（增量）之間互相獨立：
擴展補充： N(t+1)-N(t)

與

互相獨立，且在計數過程中
$Pr(N(t+1)=n_{t+1}|N(t)=n_{t},N(t-1)=n_{t-1},...,N(1)=n_{i})$
$=Pr(N(t+1)=n_{t+1}|N(t)=n_{t})$
這是因為
$Pr(N(t+1)=n_{t+1}|N(t)=n_{t},N(t-1)=n_{t-1},...,N(1)=n_{i})$
$=Pr(N(t+1)=N(t)+n_{t+1}-n_{t}|N(t)=n_{t},N(t-1)=n_{t-1},...,N(1)=n_{i})$
$=Pr(N(t+1)=n_{t+1}|N(t)=n_{t})$

③ $Pr(N(t+s)-N(s)=n)=Pr(N(t)=n)=e^{-\lambda t} \frac{(\lambda t )^{n}}{n!}$
即 $N(t) \sim Poi(\lambda t)$
根據增量獨立性，易知其成立。

—————— 泊松→指數——————
假設 $T_{i}$ 為第 i-1

次事件與第

次事件的間隔時間。
$Pr(T_{1}>t)=Pr(N(t)=0)=e^{-\lambda t}$
所以 $T_{1} \sim Exp(\lambda)$

$Pr(T_{i}>t|T_{i-1}=s)=Pr(N(t+s)-N(s)=0)=e^{-\lambda t}$
所以 $T_{i} \sim Exp(\lambda)$

即泊松過程的事件間隔時間為指數分布。

—————— 指數→Gamma—————
再令 $S_{n}=\sum_{i=1}^{n}{T_{i}}$ ，即從頭開始到第

次事件的發生的時間，該隨機變量分布即為Gamma分布。
即 $S_{n} \sim Gamma(n,\lambda )$ 。
Gamma分布即為多個獨立且相同分布（iid）的指數分布變量的和的分布。

—————— 證明——————
假設 $X_{1},X_{2},X_{3},...X_{n}\sim Exp(\lambda )$ 且互相獨立

①Moment Generating Function（MGF）：
MGF的定義為 $M_{X}(t)=E[e^{tX} ]=1+tX+\frac{t^{2}X^{2}}{2!} +\frac{t^{3}X^{3}}{3!}+...\frac{t^{n}X^{n}}{n!}+...$
則 $E[X^{n}]=M_{X}^{(n)} (0)=\frac{d^{n}M_{X}(t)}{dt} |_{t=0}$
其性質為 $M_{X+Y}(t)=M_{X}(t)\times M_{Y}(t)$

下證：
$X_{i} \sim Exp(\lambda)\Leftrightarrow M_{X_{i}}(t)=(1-\frac{t}{\lambda} )^{-1}$
$S=\sum_{i=1}^{n}{X_{i}}$
則 $M_{S}(t)=\prod_{i=1}^{n} M_{X_{i}}(t)=\prod_{i=1}^{n} (1-\frac{t}{\lambda} )^{-1}=(1-\frac{t}{\lambda} )^{-n}$
為Gamma分布的MGF。
MGF: Moment-generating function

②數學歸納法：
已知 $Gamma(1,\lambda)=Exp(\lambda)$
所以當 n=1

時成立。
假設 $n\leq k$ 時 $S_{n}=\sum_{i=1}^{n}{X_{i}} \sim Gamma(n,\lambda )$ 成立
當 n=k+1

時，
$S_{k+1}=S_{k}+X_{k+1}$
其中 $S_{k} \sim Gamma(k,\lambda), X_{k+1} \sim Exp(\lambda)$
$Pr(S_{k+1}=x)$
$=\int_{0}^{x} Pr(S_{k}=y)Pr(X_{k+1}=x-y)dy$
$=\int_{0}^{x} \frac{\lambda^{k}}{\Gamma (k)} y^{k-1}e^{-\lambda y}\times \lambda e^{-\lambda (x-y)}dy$
$=\frac{\lambda^{k+1}}{\Gamma (k)}e^{-\lambda x}\int_{0}^{n} y^{k-1}dy$
$=\frac{\lambda^{k+1}}{\Gamma (k)}e^{-\lambda x} \frac{y^{k}}{k}|_{y=0}^{n}$
$=\frac{\lambda^{k+1}}{\Gamma (k+1)}x^{k}e^{-\lambda x}$
為 $Gamma(k+1, \lambda)$ 的pdf。證畢。

當然，Gamma分布與Beta，Chi-square分布也有着十分緊密的聯系，不過在統計學應用中都不如與指數分布的聯系來得重要。

作者：T Yuan
鏈接：https://www.zhihu.com/question/34866983/answer/60541847
來源：知乎
著作權歸作者所有。商業轉載請聯系作者獲得授權，非商業轉載請注明出處。

免責聲明！

本站轉載的文章為個人學習借鑒使用，本站對版權不負任何法律責任。如果侵犯了您的隱私權益，請聯系本站郵箱yoyou2525@163.com刪除。

猜您在找 伽瑪分布（轉）理解伽馬（Gamma）神奇的伽瑪函數(上) 伽瑪函數【圖形學】我理解的伽馬校正（Gamma Correction）伽瑪分布與泊松分布、指數分布的關系 C++生成隨機數：Gamma(伽馬)分布（gamma distribution）特殊函數專場之伽瑪函數伽馬校正 Gamma Correction 神奇的伽瑪函數(上) | 數學之美