平穩時間序列建模方法
一般用Box-Jenkins建模方法，但Pandit-Wu建模方法更簡單。
一. 樣本序列中均值處理方法
- 用樣本的均值作為過程均值的估計，建模前先用樣本數據減去這個均值，然后對所得的序列進行建模
- 把樣本均值作為模型的一個未知參數進行估計
二. 模型識別
三類平穩序列的自相關函數和偏自相關函數具有如下統計特性,用作判斷序列模型的依據
| 模型 | AR(p) | MA(q) | ARMA(p,q) |
| 自相關函數 | 拖尾 | 截尾 | 拖尾 |
| 偏自相關函數 | 截尾 | 拖尾 | 拖尾 |
1) 如果序列的自相關函數在q步截尾( k>q時,\(\rho_k=0\) ),而偏自相關函數被負指數函數控制收斂到零,則可判斷序列為MA(q)序列.
可以證明, 當 k>n時, \(\phi_k\) 漸近於正態分布,即
\[ \hat{\rho}_k \sim N[0, \frac{1}{N}(1+2\sum_{i=1}^{m} \rho_i^2)]\]
對於每一個k>0,分別考察
\(\hat { \rho } _{ k+1 },\hat { \rho } _{ k+2 },\hat { \rho } _{ k+3 },\cdots \)
中滿足
\[ |\hat{\rho}_{k+i}| \le \frac{1}{N}(1+2\sum_{j=1}^m \hat{\rho}_j^2)]^{1/2}, i=1,2,....,M\]
(M一般取 N/10或 \(\sqrt{N})\)
的比例是否達到了68.3%, 若k=1,2,...,m-1,都未達到,而在k=m達到了,我們就說\(\rho_k\)在m步截尾.
2) 如果序列的偏自相關函數在p步截尾,並且自相關函數被負指數函數控制收斂到零,則可判斷序列為AR(p)序列.
可以證明,當k>n時, \(\phi_{kk}\)的分布漸進於 N(0,1/N),
\[P|\hat{\phi}_{kk}|>1/\sqrt{N})=31.6\%,P|\hat{\phi}_{kk}|>2/\sqrt{N})=4.5\%\]
3) 如果序列的自相關函數和偏自相關函數均不截尾,但都被負指數函數控制收斂到零,則序列很可能是ARMA(p,q)序列
三. 模型定階方法
1. 殘差方差圖定階方法
殘差的方差\(\hat{\sigma}^2={殘差平方和}/{(實際觀測值個數-模型參數個數)}\), 故從殘差方差圖中可以估計出模型階數(參數個數)
AR(p)模型:
\(\hat{\sigma}^2\)
=殘差平方和/[(N-p)-(p+1)] = 殘差平方和/(N-2p+1)
MA(q)模型:
\(\hat{\sigma}^2\)
=殘差平方和/(n-q-1)
ARMA(p,q)模型:
\(\hat{\sigma}^2\)
=殘差平方和/(N-2p-q-1)
判斷原則: 殘差方差小, 相應的模型階數合理
2. F檢驗定階法
ARMA(p,q)模型的殘差平方和 Q0, ARMA(p-1,q-1)模型的殘差平方和Q1. 用F檢驗來確定兩個模型是否有顯著性差異.
H0:
兩個模型沒有顯著性差異
統計量\[F=\frac{\frac{Q_1-Q_0}{2}}{\frac{Q_0}{(N-p)-(q+p)}} \sim F(2,N-2p-q)\]
3. 准則函數定階法
即確定一個准則函數,建模時按照該准則函數的取值大小確定模型的優劣,使准則函數達到極小值的就是最佳模型階數.
- AIC
- BIC
四. 模型參數估計
- 矩估計法 - 相對簡單,計算量小,但精度低,只宜作為初估計
- 最小二乘估計法 - 精度高,計算量大,計算復雜
- 極大似然估計法
五. 模型的適應性檢驗
主要是殘差序列的獨立性檢驗
1. 相關函數法
樣本數充分大時,\(\hat{\rho}_k \sim N(0,1/N)\), 如果
\(|\hat{\rho}_k| \le 1.96\sqrt{N}\),就可以在5%的顯著水平下接受\(\rho_k=0\)
2. \(\chi^2\)檢驗法
Box-Pierce統計量 \[Q=N\sum_{k=1}^{M}\hat{\rho}_k^2,M=N/10 或 \sqrt{N}\]
如果\(Q \le \chi^2_{1-\alpha}(M-p-q)\)就認為模型是合適的.
Ljung-Box-Pierce統計量
\[Q=N(N+2) \sum_{k=1}^{M}\hat{\rho}_k^2/(N-k)\]
六. Pandit-Wu建模方法
從一階開始,逐漸增加模型階數,擬合AR(2n,2n-1)模型,即二階地增加模型階數,直到F檢驗表明增加模型階數而殘差平方和不再顯著減小為止,也即模型沒有差異性.
七. 含有趨勢模型
時間序列x(t)可能有趨勢因素，有季節因素，有異常因素，有異方差情形。如有趨勢因素，要得到平穩的序列有如下方法
1. Box-Jenkins建模方法是差分，再用ADF檢驗，不行就再差分，再用ADF檢驗，直到通過ADF檢驗。
2. Pandit-Wu建模方法樣本減去平均值，
如有季節因素，就用HEGY檢驗，在季節差分。得到平穩的序列
如有異常因素，就就用異常值檢驗。
如有異方差（用Ljung-Box Q統計量檢驗），就用ARCH，或GARCH模型