特征函數

目錄

• 特征函數
• 逆轉公式
• 多元特征函數
• 習題

 

特征函數

定義 若 \(\xi\) 為實隨機變量，則稱

\[f(t) = Ee^{it\xi},\quad -\infty<t<+\infty \]

為 \(\xi\) 的特征函數；因此，離散型隨機變量的特征函數為

\[f(t) = \sum_{n=1}^{+\infty}p_ne^{itx_n},\quad p_n = P(\xi=x_n) \]

連續型隨機變量的特征函數為

\[f(t) = \int_{-\infty}^{+\infty}e^{itx}dF(x) \]

若有密度函數 \(p(x)\) ，則

\[f(t) = \int_{-\infty}^{+\infty}e^{itx}p(x)dx \]

 

性質

• \(|f(t)|\le f(0) = 1,\ f(-t) = \overline{f(t)}\) .
• \(f(t)\) 非負定.
• 若 \(\xi_1,\cdots,\xi_n\) 相互獨立，特征函數為 \(f_1(t),\cdots,f_n(t)\) ，記 \(\eta = \xi_1+\cdots+\xi_n\) 則有

\[f_{\eta}(t) = f_1(t)\cdots f_n(t) \]

由於相互獨立，則

\[Ee^{it\eta} = E(e^{it\xi_1}\cdots e^{it\xi_n}) = Ee^{it\xi_1}\cdots Ee^{it\xi_n} \]

• 若 \(E\xi^n\) 存在，則 \(f(t)\) 是 \(n\) 次可微的，且 \(f^{(k)}(0) = i^kE\xi^k\) .
• 設 \(\eta = a\xi+b\) ，則 \(f_{\eta}(t) = e^{ibt}f(at)\) .
• \(f(t)\) 為特征函數 \(\Leftrightarrow\) \(f(t)\) 非負定，連續且 \(f(0)=1\) .

 

逆轉公式

唯一性定理 分布函數可由特征函數唯一確定.

逆傅里葉變換 對於特征函數 \(f(t)\) ，若 \(\int_{-\infty}^{\infty}|f(t)|dt<\infty\) ，則分布函數 \(F(x)\) 有連續導數，且

\[F^{\prime}(x) = \dfrac{1}{2\pi}\int_{-\infty}^{+\infty}e^{-itx}f(t)dt \]

 

對於離散型非負整數隨機變量 \(\xi\) ， \(P(\xi=k)=p_k,\ k=0,1,\cdots\) ，則有特征函數

\[f(t) = \sum_{k=0}^{+\infty}p_ke^{itk} \]

利用逆傅里葉變換及

\[\int_0^{2\pi}e^{int}dt = \left\{ \begin{aligned} &2\pi,\quad &n=0\\ &0,\quad &n\neq 0 \end{aligned} \right. \]

則有

\[p_k = \dfrac{1}{2\pi}\int_0^{2\pi}e^{-itk}f(t)dt \]

也就是說，如果 \(f(t)\) 有上面的求和形式，實際上可以直接反推分布列，需要注意系數 \(p_k>0,\ \sum_kp_k = 1\) .

 

多元特征函數

設隨機向量 \(\mathbf{\xi} = (\xi_1,\cdots,\xi_n)^T\) 的分布函數為 \(F(x_1,\cdots,x_n)\) ，稱

\[f(t_1,\cdots,t_n) = Ee^{i(t_1\xi_1+\cdots+t_n\xi_n)} \]

• \(\eta = a_1\xi_1+\cdots+a_n\xi_n\) 的特征函數為

\[f_{\eta}(t) = Ee^{it\sum_{k=1}^na_k\xi_k} = Ee^{i\sum_{k=1}^n(a_kt)\xi_k} = f(a_1t_1,\cdots,a_nt_n) \]

• \(N(\mathbf{a},\mathbf{B})\) 的數學期望向量為 \(\mathbf{a}\) ，協方差矩陣為 \(\mathbf{B}\) .
• 設 \(\mathbf{\xi} = (\xi_1,\cdots,x_n)^T\sim N(\mathbf{a},\mathbf{B}),\ \mathbf{C} = (c_{ij})_{m\times n}\) 矩陣，則 \(\mathbf{\eta} = \mathbf{C}\mathbf{\xi}\) 服從 \(m\) 元正態分布 \(N\left(\mathbf{Ca},\mathbf{CBC^T}\right)\) .

 

習題

9. 設 \(\xi_1,\xi_2\) 相互獨立且服從 \(N(a,\sigma^2)\) ，則 \(E\max(\xi_1,\xi_2)=a+\sigma/\sqrt{\pi}\) .

使用技巧

\[\max(\xi_1,\xi_2) = \dfrac{1}{2}(|\xi_1-\xi_2|+\xi_1+\xi_2) \]

且有 \(E(\xi_1+\xi_2) = 2a,\ \xi_1-\xi_2\sim N(0,2\sigma^2)\) ，則有

\[E|\xi_1-\xi_2| = \int_{-\infty}^{+\infty}|x|p(x)dx \]

其中 \(p(x)\) 是對應於 \(N(0,2\sigma^2)\) 的密度函數.

 

11. 袋中有 \(n\) 張卡片，號碼記為 \(1,2,\cdots,n\) ，從中有放回地抽出 \(k\) 張卡，求所得號碼之和 \(\mu\) 的數學期望和方差.

令 \(X_i\) 為第 \(i\) 次取得的號碼，則它們獨立同分布

\[EX_i = \sum_{k=1}^n\dfrac{k}{n} = \dfrac{n+1}{2},\quad E\mu = \sum_{i=1}^{n}EX_i = \dfrac{k(n+1)}{2}\\ VarX_i = EX_i^2 - (EX_i)^2 = \dfrac{n^2-1}{12},\quad Var\mu = \sum_{i=1}^{n}VarX_i = \dfrac{k(n^2-1)}{12} \]

由於獨立同分布，方差可以直接求和，即得.

 

26. 滿足均勻分布的賠款，類別記為 \(k\) ，最大賠款為 \(X_k\sim U(0,L_k)\) ，保單數為 \(n_k\) ，則總賠款 \(S\) 的數學期望和方差.

\[EX_i = \dfrac{1}{2}L_i,\quad VarX_i = \dfrac{L_i^2}{12}\\ ES = \sum_{i=1}^kn_iEX_i = \dfrac{1}{2}\sum_{i=1}^kn_iL_i\\ VarS = \sum_{i=1}^kn_iVarX_i = \dfrac{1}{12}\sum_{i=1}^kn_iL_i^2 \]

注意題中可能有發生事故的概率 \(p\) ，因此還需要乘 \(p\) .

 

36. 設 \(\xi,\eta\) 都是只取兩個值的隨機變量，若它們不相關，則它們獨立.

不妨令

\[P(\xi=a) = p_1,\quad P(\xi=b) = q_1\\ P(\eta=c) = p_2,\quad P(\eta=d) = q_2\\ \xi^* = \xi-b,\quad \eta^* = \eta-d \]

則 \(E\xi^*\eta^* = E\xi^*E\eta^*\) ，而

\[E\xi^*\eta^* = (a-b)(c-d)P(\xi=a,\eta=b)\\ E\xi^*E\eta^* = (a-b)(c-d)P(\xi=a)P(\eta=b) \]

從而有 \(P(\xi=a,\eta=b) = P(\xi=a)P(\eta=b)\) ，類似可證其它三種情況，即證.

 

39. 設 \(\xi\sim U[0,1],\ \eta=\ln\xi\) ，則特征函數

\[f_{\eta}(t) = Ee^{i\ln\xi t} = \int_{-\infty}^{+\infty}e^{i\ln x t}p(x)dx = \int_{0}^{1}e^{i\ln x t}dx = \dfrac{1}{1+it} \]

注意需要根據密度函數改寫定義域；此時 \(\eta\) 類似於指數分布

\[p(x) = \left\{ \begin{aligned} &e^{-x},\quad &x< 0\\ &0,\quad &x\ge 0 \end{aligned} \right. \]

事實上 \(-\eta\sim E(1)\) .

 

41. 若 \(\varphi(t)\) 是 \(\xi\) 的特征函數，則

• \([\varphi(t)]^n\) 是 \(\eta = \xi_1+\cdots+\xi_n\) 的特征函數
• \(\varphi(t)(\sin at)/at\) 是 \(\xi+\eta,\ \eta\sim U[-a,a]\) 的特征函數

 

45. 使用逆傅里葉變換求解密度函數

\[\varphi(t) = \left\{ \begin{aligned} &1-\frac{|t|}{a},\quad &|t|< a\\ &0,\quad &|t|\ge a \end{aligned} \right.\quad\quad a>0 \]

則根據特征函數有

\[p(x) = \dfrac{1}{2\pi}\int_{-\infty}^{+\infty}e^{-itx}\varphi(t)dt = \dfrac{1-\cos ax}{a\pi x^2} \]

 

補 設 \(\xi_1,\cdots,\xi_n\) 相互獨立，都服從 \(N(a,\sigma^2)\) ，則 \(\xi = (\xi_1,\cdots,\xi_n)^T\) 的分布有聯合密度函數

\[p(x_1,\cdots,x_n) = \prod_{i=1}^np(x_i)\\ E(\xi_1,\cdots,\xi_n) = a(1,\cdots,1)^T \]

 

53. 設 \(\xi=(\xi_1,\xi_2)^T\sim N(\mathbf{0},\mathbf{I})\) ，則給定 \(\xi_1+\xi_2 = x_1+x_2\) 時 \(\xi_1\) 的條件分布.

添加一個額外變量，有 \(\eta_1 = \xi_1+\xi_2,\ \eta_2 = \xi_1\) ，則有變換矩陣

\[C = \left( \begin{matrix} 1 & 1\\ 1 & 0 \end{matrix} \right),\quad B = CIC^T = \left( \begin{matrix} 2 & 1\\ 1 & 1 \end{matrix} \right) \]

從而有 \((\eta_1,\eta_2)^T\sim N(\mathbf{0},\mathbf{B})\) ，有密度函數 \(p(y_1,y_2)\) ；又 \(\eta_1 = \xi_1+\xi_2\sim N(0,2)\) ，則有已知 \(\eta_1 = x_1+x_2\) 時 \(\eta_2\) 的條件密度

\[p_{\eta_2|\eta_1}(y) = \dfrac{p(x_1+x_2,y)}{p_{\eta_1}(x_1+x_2)} \]

其中 \(p_{\eta_1}\) 是 \(N(0,2)\) 的密度函數.