數學建模時間序列方法

1、9.2 9.2 隨機時間序列分析模型隨機時間序列分析模型 一、時間序列模型的基本概念及其適用性一、時間序列模型的基本概念及其適用性 二、隨機時間序列模型的平穩(wěn)性條件二、隨機時間序列模型的平穩(wěn)性條件 三、隨機時間序列模型的識別三、隨機時間序列模型的識別 四、隨機時間序列模型的估計四、隨機時間序列模型的估計 五、隨機時間序列模型的檢驗五、隨機時間序列模型的檢驗 經典計量經濟學模型與時間序列模型經典計量經濟學模型與時間序列模型 確定性時間序列模型與隨機性時間序列確定性時間序列模型與隨機性時間序列 模型模型 一、時間序列模型的基本概念及其適用性一、時間序列模型的基本概念及其適用性 1 1、時間序列模型

2、的基本概念、時間序列模型的基本概念 隨機時間序列模型（隨機時間序列模型（time series modeling）是指僅用它的 過去值及隨機擾動項所建立起來的模型，其一般形式為 Xt=F(Xt-1, Xt-2, , t) 建立具體的時間序列模型，需解決如下三個問題建立具體的時間序列模型，需解決如下三個問題： (1)模型的具體形式模型的具體形式 (2)時序變量的滯后期時序變量的滯后期 (3)隨機擾動項的結構隨機擾動項的結構 例如，取線性方程、一期滯后以及白噪聲隨機擾動項（ t =t），模型將是一個1階自回歸過程階自回歸過程AR(1)： Xt=Xt-1+ t 這里， t特指一白噪聲一白噪聲。 一般

3、的p階自回歸過程階自回歸過程AR(p)是 Xt=1Xt-1+ 2Xt-2 + + pXt-p + t (*) (1)如果隨機擾動項是一個白噪聲(t=t)，則稱(*) 式為一純純AR(p)過程（過程（pure AR(p) process），記為 Xt=1Xt-1+ 2Xt-2 + + pXt-p +t (2)如果t不是一個白噪聲，通常認為它是一個q 階的移動平均（移動平均（moving average）過程）過程MA(q)： t=t - 1t-1 - 2t-2 - - qt-q 該式給出了一個純純MA(q)過程（過程（pure MA(p) process）。 將純AR(p)與純MA(q)結合，得

4、到一個一般的自回歸移動自回歸移動 平均（平均（autoregressive moving average）過程）過程ARMA（p,q）： Xt=1Xt-1+ 2Xt-2 + + pXt-p + t - 1t-1 - 2t-2 - - qt-q 該式表明：該式表明： （1）一個隨機時間序列可以通過一個自回歸移動平均過）一個隨機時間序列可以通過一個自回歸移動平均過 程生成，程生成，即該序列可以由其自身的過去或滯后值以及隨 機擾動項來解釋。 （2）如果該序列是平穩(wěn)的）如果該序列是平穩(wěn)的，即它的行為并不會隨著時間 的推移而變化，那么我們就可以通過該序列過去的行為那么我們就可以通過該序列過去的行為 來預

5、測未來。來預測未來。 這也正是隨機時間序列分析模型的優(yōu)勢所在。 經典回歸模型的問題：經典回歸模型的問題： 迄今為止，迄今為止，對一個時間序列Xt的變動進行解釋或預測， 是通過某個單方程回歸模型或聯(lián)立方程回歸模型進行的， 由于它們以因果關系為基礎，且具有一定的模型結構，因 此也常稱為結構式模型（結構式模型（structural model）。 然而，然而，如果Xt波動的主要原因可能是我們無法解釋的因 素，如氣候、消費者偏好的變化等，則利用結構式模型來 解釋Xt的變動就比較困難或不可能，因為要取得相應的量 化數據，并建立令人滿意的回歸模型是很困難的。 有時，有時，即使能估計出一個較為滿意的因果關系

6、回歸方程， 但由于對某些解釋變量未來值的預測本身就非常困難，甚 至比預測被解釋變量的未來值更困難，這時因果關系的回 歸模型及其預測技術就不適用了。 2 2、時間序列分析模型的適用性、時間序列分析模型的適用性 例如例如，時間序列過去是否有明顯的增長趨勢時間序列過去是否有明顯的增長趨勢，如果增長 趨勢在過去的行為中占主導地位，能否認為它也會在未來的行 為里占主導地位呢？ 或者時間序列顯示出循環(huán)周期性行為時間序列顯示出循環(huán)周期性行為，我們能否利用過去 的這種行為來外推它的未來走向？ 隨機時間序列分析模型，就是要通過序列過去的變隨機時間序列分析模型，就是要通過序列過去的變 化特征來預測未來的變化趨勢化

7、特征來預測未來的變化趨勢。 使用時間序列分析模型的另一個原因在于使用時間序列分析模型的另一個原因在于： 如果經濟理論正確地闡釋了現實經濟結構，則這一結 構可以寫成類似于ARMA(p,q)式的時間序列分析模型的 形式。 在這些情況下，我們采用另一條預測途徑在這些情況下，我們采用另一條預測途徑：通過時間 序列的歷史數據，得出關于其過去行為的有關結論，進而 對時間序列未來行為進行推斷。 例如，例如，對于如下最簡單的宏觀經濟模型： 這里，Ct、It、Yt分別表示消費、投資與國民收 入。 Ct與與Yt作為內生變量，它們的運動是由作為外作為內生變量，它們的運動是由作為外 生變量的投資生變量的投資It的運動

8、及隨機擾動項的運動及隨機擾動項 t的變化決定的變化決定 的。的。 ttt CYC 12110 ttt ICY 上述模型可作變形如下： 兩個方程等式右邊除去第一項外的剩余部分 可看成一個綜合性的隨機擾動項，其特征依賴于 投資項It的行為。 如果如果It是一個白噪聲是一個白噪聲，則消費序列Ct就成為一 個1階自回歸過程階自回歸過程AR(1)，而收入序列Yt就成為一 個(1,1)階的自回歸移動平均過程階的自回歸移動平均過程ARMA(1,1)。 tttt ICC 11 1 1 0 1 1 2 1 1 111 ttttt IIYY 1 1 1 2 11 0 1 1 2 1 1 11 1 11 二、隨機時

9、間序列模型的平穩(wěn)性條件二、隨機時間序列模型的平穩(wěn)性條件 自回歸移動平均模型（ARMA）是隨機時間序列分析模 型的普遍形式，自回歸模型（AR）和移動平均模型（MA） 是它的特殊情況。 關于這幾類模型的研究，是時間序列分析的重點內容時間序列分析的重點內容： 主要包括主要包括模型的平穩(wěn)性分析模型的平穩(wěn)性分析、模型的識別模型的識別和和模型的估計模型的估計。 1 1、AR(p)AR(p)模型的平穩(wěn)性條件模型的平穩(wěn)性條件 隨機時間序列模型的平穩(wěn)性隨機時間序列模型的平穩(wěn)性，可通過它所生成的隨機時間可通過它所生成的隨機時間 序列的平穩(wěn)性來判斷序列的平穩(wěn)性來判斷。 如果如果一個p階自回歸模型AR(p)生成的時間

10、序列是平穩(wěn)的， 就說該AR(p)模型是平穩(wěn)的， 否則否則，就說該AR(p)模型是非平穩(wěn)的。 考慮p階自回歸模型AR(p) Xt=1Xt-1+ 2Xt-2 + + pXt-p +t (*) 引入滯后算子（滯后算子（lag operator ）L： LXt=Xt-1, L2Xt=Xt-2, , LpXt=Xt-p (*)式變換為 (1-1L- 2L2-pLp)Xt=t 記(L)= (1-1L- 2L2-pLp),則稱多項式方程 (z)= (1-1z- 2z2-pzp)=0 為AR(p)的特征方程特征方程(characteristic equation)(characteristic equatio

11、n)。 可以證明，可以證明，如果該特征方程的所有根在單位圓外如果該特征方程的所有根在單位圓外 （根的模大于（根的模大于1 1），則），則AR(p)AR(p)模型是平穩(wěn)的。模型是平穩(wěn)的。 例例9.2.1 AR(1)模型的平穩(wěn)性條件。 對1階自回歸模型AR(1) ttt XX 1 方程兩邊平方再求數學期望，得到Xt的方差 )(2)()()( 1 22 1 22 ttttt XEEXEXE 由于Xt僅與t相關，因此，E(Xt-1t)=0。如果該模型穩(wěn) 定，則有E(Xt2)=E(Xt-12)，從而上式可變換為： 2 2 2 0 1 X 在穩(wěn)定條件下，該方差是一非負的常數，從而有 |1。 而AR(1)的

12、特征方程 01)(zz 的根為 z=1/ AR(1)穩(wěn)定，即 | 1，意味著特征根大于1。 例例9.2.2 AR(2)模型的平穩(wěn)性。 對AR(2)模型 tttt XXX 2211 方程兩邊同乘以Xt，再取期望得： )( 22110tt XE 又由于 22 2211 )()()()( ttttttt EXEXEXE 于是 2 22110 同樣地，由原式還可得到 02112 12011 于是方差為 )1)(1)(1 ( )1 ( 21212 2 2 0 由平穩(wěn)性的定義，該方差必須是一不變的正數，于是有 1+21, 2-11, |2|1 這就是AR(2)的平穩(wěn)性條件的平穩(wěn)性條件，或稱為平穩(wěn)域平穩(wěn)域。

13、它是一頂點 分別為（-2,-1），（2,-1），（0,1）的三角形。 2 (0,1) 1 (-2, -1) (2, -1) 圖圖 9.2.1 AR(2)模模型型的的平平穩(wěn)穩(wěn)域域 對應的特征方程1-1z-2z2=0 的兩個根z1、z2滿足： z1z2=-1/2 , z1+z2 =-1/2 tttt XXX 2211 AR(2)模型 解出1，2 21 2 1 zz 21 21 1 zz zz 由AR(2)的平穩(wěn)性，|2|=1/|z1|z2|1，有 1) 1 1)( 1 1 (1 1 212121 21 21 zzzzzz zz 0) 1 1)( 1 1 ( 21 zz 于是| z2 |1。由 2

14、- 1 1可推出同樣的結果。 對高階自回模型對高階自回模型AR(p)來說來說，多數情況下沒有 必要直接計算其特征方程的特征根，但有一些有一些有 用的規(guī)則可用來檢驗高階自回歸模型的穩(wěn)定性用的規(guī)則可用來檢驗高階自回歸模型的穩(wěn)定性： (1)AR(p)模型穩(wěn)定的必要條件是模型穩(wěn)定的必要條件是： 1+2+p1 (2)(2)由于i(i=1,2,p)可正可負，AR(p)模模 型穩(wěn)定的充分條件是：型穩(wěn)定的充分條件是： |1|+|2|+|p|1 對于移動平均模型MR(q)： Xt=t - 1t-1 - 2t-2 - - qt-q 其中t是一個白噪聲，于是 2、MA(q)模型的平穩(wěn)性模型的平穩(wěn)性 0)()()()

15、( 11 qqttt EEEXE 2 2 1111 2 13221111 222 10 ),cov( )(),cov( )(),cov( )1 (var qqttq qqqttq qqtt qt XX XX XX X 當滯后期大于q時，Xt的自協(xié)方差系數為0。 因此:有限階移動平均模型總是平穩(wěn)的有限階移動平均模型總是平穩(wěn)的。 由于ARMA (p,q)模型是AR(p)模型與MA(q)模型的組合： Xt=1Xt-1+ 2Xt-2 + + pXt-p + t - 1t-1 - 2t-2 - - qt-q 3、ARMA(p,q)模型的平穩(wěn)性模型的平穩(wěn)性 而而MA(q)模型總是平穩(wěn)的，因此模型總是平穩(wěn)的

16、，因此ARMA (p,q)模型的平模型的平 穩(wěn)性取決于穩(wěn)性取決于AR(p)部分的平穩(wěn)性。部分的平穩(wěn)性。 當當AR(p)部分平穩(wěn)時，則該部分平穩(wěn)時，則該ARMA(p,q)模型是平穩(wěn)的，模型是平穩(wěn)的， 否則，不是平穩(wěn)的。否則，不是平穩(wěn)的。 最后最后 （1 1）一個平穩(wěn)的時間序列總可以找到生成它的平穩(wěn)的隨）一個平穩(wěn)的時間序列總可以找到生成它的平穩(wěn)的隨 機過程或模型；機過程或模型； （2 2）一個非平穩(wěn)的隨機時間序列通?？梢酝ㄟ^差分的方）一個非平穩(wěn)的隨機時間序列通常可以通過差分的方 法將它變換為平穩(wěn)的，對差分后平穩(wěn)的時間序列也可找出對法將它變換為平穩(wěn)的，對差分后平穩(wěn)的時間序列也可找出對 應的平穩(wěn)隨機過

17、程或模型。應的平穩(wěn)隨機過程或模型。 因此，因此，如果我們將一個非平穩(wěn)時間序列通過如果我們將一個非平穩(wěn)時間序列通過d d次差分，將次差分，將 它變?yōu)槠椒€(wěn)的，然后用一個平穩(wěn)的它變?yōu)槠椒€(wěn)的，然后用一個平穩(wěn)的ARMA(p,q)ARMA(p,q)模型作為它的模型作為它的 生成模型，則我們就說該原始時間序列是一個生成模型，則我們就說該原始時間序列是一個自回歸單整移自回歸單整移 動平均（動平均（autoregressive integrated moving averageautoregressive integrated moving average）時）時 間序列，記為間序列，記為ARIMA(p,d,q

18、)ARIMA(p,d,q)。 例如，例如，一個一個ARIMA(2,1,2)ARIMA(2,1,2)時間序列在它成為平穩(wěn)序列之前時間序列在它成為平穩(wěn)序列之前 先得差分一次，然后用一個先得差分一次，然后用一個ARMA(2,2)ARMA(2,2)模型作為它的生成模模型作為它的生成模 型的。型的。 當然，當然，一個一個ARIMA(p,0,0)ARIMA(p,0,0)過程表示了一個純過程表示了一個純AR(p)AR(p)平穩(wěn)過平穩(wěn)過 程；一個程；一個ARIMA(0,0,q)ARIMA(0,0,q)表示一個純表示一個純MA(q)MA(q)平穩(wěn)過程。平穩(wěn)過程。 三、隨機時間序列模型的識別三、隨機時間序列模型的

19、識別 所謂隨機時間序列模型的識別所謂隨機時間序列模型的識別，就是對于一 個平穩(wěn)的隨機時間序列，找出生成它的合適的隨 機過程或模型，即判斷該時間序列是遵循一純 AR過程、還是遵循一純MA過程或ARMA過程。 所使用的工具所使用的工具主要是時間序列的自相關函數自相關函數 （autocorrelation function，ACF）及偏自相關函偏自相關函 數數（partial autocorrelation function， PACF ）。 1 1、AR(p)AR(p)過程過程 (1)(1)自相關函數自相關函數ACFACF 1階自回歸模型階自回歸模型AR(1) Xt=Xt-1+ t 的k階滯后自協(xié)

20、方差自協(xié)方差為： 011 )( k kttktk XXE =1,2, 因此，AR(1)模型的自相關函數自相關函數為 k kk 0=1,2, 由由AR(1)的穩(wěn)定性知的穩(wěn)定性知| | |1，因此，因此，k k時，呈指數形時，呈指數形 衰減，直到零衰減，直到零。這種現象稱為拖尾拖尾或稱AR(1)有無窮記憶有無窮記憶 （infinite memory）。 注意注意， 0時，呈振蕩衰減狀。 Xt=1Xt-1+ 2Xt-2 + t 該模型的方差0以及滯后1期與2期的自協(xié)方差1, 2分別為 階自回歸模型階自回歸模型AR(2) 2 22110 02112 12011 類似地,可寫出一般的一般的k期滯后自協(xié)方

21、差期滯后自協(xié)方差： 22112211 )( kktttktk rXXXE(K=2,3,) 于是,AR(2)的k 階自相關函數階自相關函數為： 2211 kkk (K=2,3,) 其中 :1=1/(1-2), 0=1 如果如果AR(2)AR(2)穩(wěn)定，則由穩(wěn)定，則由 1 1+ + 2 211知知| | k k| |衰減趨于零，呈拖尾狀。衰減趨于零，呈拖尾狀。 至于衰減的形式，要看至于衰減的形式，要看AR(2)AR(2)特征根的實虛性，特征根的實虛性，若為實根，若為實根， 則呈單調或振蕩型衰減，若為虛根，則呈正弦波型衰減。則呈單調或振蕩型衰減，若為虛根，則呈正弦波型衰減。 一般地，p階自回歸模型階

22、自回歸模型AR(p) Xt=1Xt-1+ 2Xt-2 + pXt-p + t k期滯后協(xié)方差為: pkpkk tptpttKtk XXXXE 2211 2211 )( 從而有自相關函數 : pkpkkk 2211 可見，無論無論k k有多大，有多大， k k的計算均與其到的計算均與其到p p階滯后階滯后 的自相關函數有關的自相關函數有關，因此呈拖尾狀呈拖尾狀。 如果如果AR(p)AR(p)是穩(wěn)定的，則是穩(wěn)定的，則| | k k| |遞減且趨于零遞減且趨于零。 其中：1/zi是AR(p)特征方程(z)=0的特征根， 由AR(p)平穩(wěn)的條件知，|zi|p，Xt與Xt-k間的 偏自相關系數偏自相關系

23、數為零。 AR(p)的一個主要特征是的一個主要特征是:kp時，時， k*=Corr(Xt,Xt-k)=0 即即 k*在在p以后是截尾的。以后是截尾的。 一隨機時間序列的識別原則：一隨機時間序列的識別原則： 若若XtXt的偏自相關函數在的偏自相關函數在p p以后截尾，即以后截尾，即kp時，時， k*=0=0，而，而 它的自相關函數它的自相關函數 k是拖尾的，則此序列是自回歸是拖尾的，則此序列是自回歸AR(p)AR(p)序序 列。列。 在實際識別時，由于樣本偏自相關函數rk*是總 體偏自相關函數k*的一個估計，由于樣本的隨機 性，當kp時，rk*不會全為0，而是在0的上下波動。 但可以證明，當kp

24、時，rk*服從如下漸近正態(tài)分布: rk*N(0,1/n) 式中n表示樣本容量。 因此，如果計算的rk*滿足 需指出的是需指出的是， 我們就有95.5%的把握判斷原時間序列在p之后截尾。 對MA(1)過程 2、MA(q)MA(q)過程過程 可容易地寫出它的自協(xié)方差系數自協(xié)方差系數： 于是，MA(1)過程的自相關函數自相關函數為： 可見，當當k1時，時， k k0，即，即Xt與與Xt-k不相關，不相關，MA(1)MA(1)自自 相關函數是截尾的。相關函數是截尾的。 MA(1)過程可以等價地寫成過程可以等價地寫成 t t關于無窮序列關于無窮序列X Xt t，X Xt-1 t-1， ， 的線性組合的形

25、式：的線性組合的形式： 或（*） (*)是一個AR()過程，它的偏自相關函數非截尾但卻 趨于零，因此MA(1)MA(1)的偏自相關函數是非截尾但卻趨于零的偏自相關函數是非截尾但卻趨于零 的。的。 注意注意: : (*)式只有當|1時才有意義，否則意味著距Xt越遠的X 值，對Xt的影響越大，顯然不符合常理。 因此，我們把把| | |1|q時， Xt與與Xt-k不相關，即存在截尾現象， 因此，當當kq時，時， k k=0是是MA(q)的一個特征的一個特征。 于是：可以根據自相關系數是否從某一點開始一直為可以根據自相關系數是否從某一點開始一直為0 0 來判斷來判斷MA(q)MA(q)模型的階。模型的

26、階。 與MA(1)相仿，可以驗證MA(q)過程的偏自相關函數是 非截尾但趨于零的。 MA(q)模型的識別規(guī)則：模型的識別規(guī)則：若隨機序列的自相關函數截若隨機序列的自相關函數截 尾，即自尾，即自q q以后，以后， k k=0=0（ kqkq）；而它的偏自相關函數是拖）；而它的偏自相關函數是拖 尾的，則此序列是滑動平均尾的，則此序列是滑動平均MA(q)MA(q)序列。序列。 同樣需要注意的是同樣需要注意的是：在實際識別時，由于樣本自相關 函數rk是總體自相關函數k的一個估計，由于樣本的隨機性， 當kq時，rk不會全為0，而是在0的上下波動。但可以證明， 當kq時，rk服從如下漸近正態(tài)分布: rkN

27、(0,1/n) 式中n表示樣本容量。 因此，如果計算的如果計算的r rk k滿足：滿足： 我們就有就有95.5%95.5%的把握判斷原時間序列在的把握判斷原時間序列在q q之后截尾之后截尾。 ARMA(p,q)的自相關函數的自相關函數，可以看作MA(q)的自相關函數 和AR(p)的自相關函數的混合物。 當當p=0時，它具有截尾性質時，它具有截尾性質； 當當q=0時，它具有拖尾性質；時，它具有拖尾性質； 當當p、q都不為都不為0時，它具有拖尾性質時，它具有拖尾性質 從識別上看，通常：從識別上看，通常： ARMA(p，q)過程的偏自相關函數（過程的偏自相關函數（PACF）可能在可能在p階滯階滯 后

28、前有幾項明顯的尖柱（后前有幾項明顯的尖柱（spikes），但從），但從p階滯后項開始逐漸階滯后項開始逐漸 趨向于零；趨向于零； 而而它的自相關函數（它的自相關函數（ACF）則是在則是在q階滯后前有幾項明顯階滯后前有幾項明顯 的尖柱，從的尖柱，從q階滯后項開始逐漸趨向于零。階滯后項開始逐漸趨向于零。 3 3、ARMA(p, q)ARMA(p, q)過程過程 四、隨機時間序列模型的估計四、隨機時間序列模型的估計 AR(p)、MA(q)、ARMA(p,q)模型的估計方法較多，大大 體上分為體上分為3類：類： （1）最小二乘估計；）最小二乘估計； （2）矩估計；）矩估計； （3）利用自相關函數的直接估

29、計）利用自相關函數的直接估計。 下面有選擇地加以介紹。 結構 階數 模型 識別 確定估計參數 AR(p) AR(p)模型的模型的Yule WalkerYule Walker方程估計方程估計 在AR(p)模型的識別中，曾得到 利用k=-k，得到如下方程組： 此方程組被稱為此方程組被稱為Yule Walker方程組方程組。該方程組建該方程組建 立了立了AR(p)AR(p)模型的模型參數模型的模型參數 1 1, , 2 2, , , p p與自相關函數與自相關函數 1 1, , 2 2, , , p p的關系，的關系， 利用實際時間序列提供的信息，利用實際時間序列提供的信息，首先首先求得自相關函數的

30、求得自相關函數的 估計值估計值 然后然后利用利用Yule Walker方程組，求解模型參數的估計方程組，求解模型參數的估計 值值 , , 12 p , , 12 p 1 2 011 102 120 1 1 2 p p p ppp 由于 ptpttt XXX 11于是 p ji ijjit E 1, 0 22 從而可得 2 2的估計值的估計值 p ji ijji 1, 0 2 在具體計算時， k 可用樣本自相關函數rk替代。 MA(q) MA(q)模型的矩估計模型的矩估計 將MA(q)模型的自協(xié)方差函數中的各個量用估計量代 替，得到： qk qk k qkqkk q k 當 當 當 0 1) (

31、 0) 1 ( 11 2 22 2 2 1 2 首先首先求得自協(xié)方差函數的估計值，(*)是一個包含 (q+1)個待估參數 (*) 2 21 , , q 的非線性方程組，可以用直接法直接法或迭代法迭代法求解。 常用的迭代方法有常用的迭代方法有線性迭代法線性迭代法和和Newton-Raphsan 迭代法迭代法。 （1 1）MA(1)MA(1)模型的直接算法模型的直接算法 對于MA(1)模型，（*）式相應地寫成 1 2 1 2 1 2 0 ) 1 ( 于是 2 11 0 2 1 2 0 4 或 0 2 1 241 0 有 于是有解 )411 ( 2 2 1 02 )411 (2 2 11 2 11

32、由于參數估計有兩組解，可根據可逆性條件|1|1的MA(q)模型，一般用迭代算法估計參數： 由（*）式得 qkqkk k k q 1 2211 2 22 1 02 第一步第一步，給出 的一組初值，比如 k , , , 21 2 0 2 )0( 0)0( )0( )0( 21 k 代入（*）式，計算出第一次迭代值 0 2 ) 1 ( 0 ) 1 ( kk （*） 第二步第二步，將第一次迭代值代入（*）式，計 算出第二次迭代值 )1 ( ) 1 ( ) 1 ( ) 1 ( ()2( )1 ( ) 1 ( 1/()2( 110 22 10 2 qkqkkk q 按此反復迭代下去，直到第m步的迭代值與

33、第m-1步的迭代值相差不大時（滿足一定的精 度），便停止迭代，并用第m步的迭代結果作為 （*）的近似解。 ARMA(p,q) ARMA(p,q)模型的矩估計模型的矩估計 在ARMA(p,q)中共有(p+q+1)個待估參數1,2,p與 1,2,q以及2，其估計量計算步驟及公式如下： 第一步第一步，估計1,2,p 1 2 11 1 12 1 1 2 p qqqp qqqp qpqpq q q qp k是總體自相關函數的估計值，可用樣本自相關函 數rk代替。 第二步，第二步，改寫模型，求1,2,q以及2的估計值 將模型 tptpttt XXXX 2211qtqtt 2211 改寫為： tptpttt

34、 XXXX 2211qtqtt 2211 令 ptptttt XXXXX 2211 于是(*)可以寫成： (*) qtqtttt X 2211 構成一個MA模型。按照估計MA模型參數的方法，可 以得到1,2,q以及2的估計值。 AR(p) AR(p)的最小二乘估計的最小二乘估計 假設模型AR(p)的參數估計值已經得到，即有 tptpttt XXXX 2211 殘差的平方和為： 2 1 2211 1 2 )( ) ( n pt ptpttt n pt t XXXXS (*) 根據最小二乘原理，所要求的參數估計值是下列方程 組的解： S j 0 即 0)( 1 2211 jt n pt ptptt

35、t XXXXX j=1,2,p (*) 解該方程組，就可得到待估參數的估計值。 為了與AR(p)模型的Yule Walker方程估計進行比較，將 (*)改寫成： n pt jtt n pt jtpt p n pt jtt n pt jtt XX n XX n XX n XX n 111 2 2 1 1 1 1 j=1,2,p 由自協(xié)方差函數的定義，并用自協(xié)方差函數的估計值 kn pt tktk XX n 1 1 代入，上式表示的方程組即為： jpjpjj 2211 或 jpjpjj rrrr 2211 j=1,2,p j=1,2,p 解該方程組，得到： ppp p p p r r r rrr

36、rrr rrr 2 1 1 021 201 110 2 1 即為參數的最小二乘估計。 Yule Walker方程組的解 1 2 011 102 120 1 1 2 p p p ppp 比較發(fā)現，當n足夠大時，二者是相似的。 2的估計值為： pn S pn n pt t 1 22 1 需要說明的是，需要說明的是，在上述模型的平穩(wěn)性、識別與估計的討在上述模型的平穩(wěn)性、識別與估計的討 論中，論中，ARMA(p,q)模型中均未包含常數項。模型中均未包含常數項。 如果包含常數項，該常數項并不影響模型的原有性質如果包含常數項，該常數項并不影響模型的原有性質， 因為通過適當的變形，可將包含常數項的模型轉換為

37、不含常 數項的模型。 下面以一般的ARMA(p,q)模型為例說明。 對含有常數項的模型 qtqttptptt XXX 1111 方程兩邊同減/(1-1-p)，則可得到 qtqttptptt xxx 1111 其中 pii Xx 1 1 pttti, 1, 五、模型的檢驗五、模型的檢驗 由于ARMA(p,q)模型的識別與估計是在假設隨機擾 動項是一白噪聲的基礎上進行的，因此，如果估計的模如果估計的模 型確認正確的話，殘差應代表一白噪聲序列型確認正確的話，殘差應代表一白噪聲序列。 如果通過所估計的模型計算的樣本殘差不代表一白噪如果通過所估計的模型計算的樣本殘差不代表一白噪 聲，則說明模型的識別與估

38、計有誤，需重新識別與估計。聲，則說明模型的識別與估計有誤，需重新識別與估計。 在實際檢驗時，主要檢驗殘差序列是否存在自相關在實際檢驗時，主要檢驗殘差序列是否存在自相關。 1 1、殘差項的白噪聲檢驗、殘差項的白噪聲檢驗 可用可用QLB的統(tǒng)計量進行的統(tǒng)計量進行 2檢驗檢驗：在給定顯著性水平下， 可計算不同滯后期的QLB值，通過與 2分布表中的相應臨 界值比較，來檢驗是否拒絕殘差序列為白噪聲的假設。 若大于相應臨界值，則應拒絕所估計的模型，需重新 識別與估計。 2 2、AICAIC與與SBCSBC模型選擇標準模型選擇標準 另外一個遇到的問題是，在實際識別ARMA(p,q)模型時， 需多次反復償試，有

39、可能存在不止一組（p,q）值都能通過識別 檢驗。 顯然，增加增加p與與q的階數，可增加擬合優(yōu)度的階數，可增加擬合優(yōu)度，但卻同時降低但卻同時降低 了自由度了自由度。 因此，對可能的適當的模型，存在著模型的對可能的適當的模型，存在著模型的“簡潔性簡潔性”與模與模 型的擬合優(yōu)度的權衡選擇問題。型的擬合優(yōu)度的權衡選擇問題。 其中，n為待估參數個數（p+q+可能存在的常數項）， T為可使用的觀測值，RSS為殘差平方和（Residual sum of squares）。 在選擇可能的模型時，在選擇可能的模型時，AIC與與SBC越小越好越小越好 顯然，如果添加的滯后項沒有解釋能力，則對顯然，如果添加的滯后項

40、沒有解釋能力，則對RSSRSS值值 的減小沒有多大幫助，卻增加待估參數的個數，因此使的減小沒有多大幫助，卻增加待估參數的個數，因此使 得得AICAIC或或SBCSBC的值增加。的值增加。 需注意的是：需注意的是：在不同模型間進行比較時，必須選取相 同的時間段。 常用的模型選擇的判別標準有：常用的模型選擇的判別標準有：赤池信息法赤池信息法（Akaike information criterion，簡記為簡記為AIC）與施瓦茲貝葉斯法施瓦茲貝葉斯法 （Schwartz Bayesian criterion，簡記為簡記為SBC）： )ln()ln( 2)ln( TnRSSTSBC nRSSTAIC

41、由第一節(jié)知：中國支出法GDP是非平穩(wěn)的，但它的一階 差分是平穩(wěn)的，即支出法GDP是I(1)時間序列。 可以對經過一階差分后的GDP建立適當的ARMA(p,q)模 型。 記GDP經一階差分后的新序列為GDPD1，該新序列的樣 本自相關函數圖與偏自相關函數圖如下： -0.4 -0.2 0.0 0.2 0.4 0.6 0.8 1.0 24681012141618 GDPD1AC -0.6 -0.4 -0.2 0.0 0.2 0.4 0.6 0.8 1.0 24681012141618 GDPD1PAC 例例9.2.3 中國支出法中國支出法GDP的的ARMA(p,q)模型估計。模型估計。 圖形：圖形：

42、樣本自相關函數圖形呈正弦線型衰減波，而偏自相 關函數圖形則在滯后兩期后迅速趨于0。因此可初步判斷該序列可初步判斷該序列 滿足滿足2 2階自回歸過程階自回歸過程AR(2)AR(2)。 表表 9.2.2 中國中國 GDP一階差分序列的樣本自相關函數與偏自相關函數一階差分序列的樣本自相關函數與偏自相關函數 k k r * k r k k r * k r k k r * k r 10.8590.8597-0.034-0.25213-0.361-0.086 20.622-0.4418-0.1120.01214-0.3630.076 30.378-0.0659-0.1750.0415-0.3080.043

43、 40.1910.06610-0.228-0.11716-0.216-0.022 50.0870.07711-0.282-0.19217-0.128-0.048 60.036-0.05112-0.32-0.0218-0.059-0.002 426. 0222| * k r 自相關函數自相關函數與偏自相關函數偏自相關函數的函數值：函數值： 相關函數具有明顯的拖尾性； 偏自相關函數值在k2以后， 可認為：可認為：偏自相關函數是截尾的。再次驗證了一階差分后的偏自相關函數是截尾的。再次驗證了一階差分后的 GDPGDP滿足滿足AR(2)AR(2)隨機過程。隨機過程。 設序列GDPD1的模型形式為 ttt

44、t GDPDGDPDGDPD 2211 111 有如下Yule Walker 方程： 622. 0 859. 0 1859. 0 859. 01 1 2 1 解為： 442. 0,239. 1 21 用用OLSOLS法回歸的結果為：法回歸的結果為： tttt GDPDGDPDGDPD 21 1653. 01593. 11 （7.91) (-3.60) r2=0.8469 R2=0.8385 DW=1.15 有時，在用回歸法時，也可加入常數項有時，在用回歸法時，也可加入常數項。 本例中加入常數項的回歸為： tttt GDPDGDPDGDPD 21 1678. 01495. 159.9091 （1

45、.99） （7.74） （-3.58） r2 =0.8758 R2 =0.8612 DW.=1.22 模型檢驗模型檢驗 下表列出三模型的殘差項的自相關系數及QLB檢驗值。 模型1與模型3的殘差項接近于一白噪聲，但模型2存在4階滯后相關問 題，Q統(tǒng)計量的檢驗也得出模型2拒絕所有自相關系數為零的假設。因此: 模型模型1 1與與3 3可作為描述中國支出法可作為描述中國支出法GDPGDP一階差分序列的隨機生成過程。一階差分序列的隨機生成過程。 表表 9.2.3 模模型型殘殘差差項項的的自自相相關關系系數數及及 Q檢檢驗驗值值 模型1 模型2 模型3 K Resid-ACF Q Resid-ACF Q

46、Resid-ACF Q 1 0.382 3.3846 0.258 1.5377 0.257 1.5263 2 0.014 3.3893 -0.139 2.0077 -0.040 1.5646 3 -0.132 3.8427 -0.246 3.5677 -0.059 1.6554 4 -0.341 7.0391 -0.529 11.267 -0.328 4.6210 5 -0.170 7.8910 -0.300 13.908 -0.151 5.2864 6 0.253 9.9097 0.271 16.207 0.345 9.0331 7 0.144 10.613 0.158 17.051 0.1

47、55 9.8458 8 0.057 10.730 0.116 17.541 0.076 10.059 9 -0.019 10.745 0.097 17.914 0.011 10.064 10 -0.146 11.685 -0.036 17.969 -0.123 10.728 11 -0.233 14.329 -0.136 18.878 -0.230 13.319 12 -0.049 14.461 0.064 19.104 -0.012 13.328 用建立的用建立的AR(2)模型對中國支出法模型對中國支出法GDP進行外推預測。進行外推預測。 模型模型1可作如下展開： )()( 3222111 tttttt GDPGDPGDPGDPGDPGDP 3221211 )()1 ( tttt GDPGDPGDPGDP 于是，當已知t-1、t-2、t-3期的GDP時，就可對第t期的 GDP作出外推預測。 模型模型3的預測式與此相類似，只不過多出一項常數項。 對對20012001年中國支出法年中國支出法GDPGDP的預測結果（億元）的預測結果（億元） 預測值預測值 實際值實際值 誤差誤差 模型模型1 95469 95933 -0.48%1 95469 95933 -0.4