計量經濟學14-隨機時間序列分析

1、授課教師： 葉春輝浙江大學遠程教育學院2008年1月第十四章第十四章 隨機時間序列分析模型隨機時間序列分析模型一、時間序列模型的基本概念及其適用性一、時間序列模型的基本概念及其適用性二、隨機時間序列模型的平穩(wěn)性條件二、隨機時間序列模型的平穩(wěn)性條件三、隨機時間序列模型的識別三、隨機時間序列模型的識別四、隨機時間序列模型的估計四、隨機時間序列模型的估計五、隨機時間序列模型的檢驗五、隨機時間序列模型的檢驗 經典計量經濟學模型與時間序列模型經典計量經濟學模型與時間序列模型 確定性時間序列模型與隨機性時間序列確定性時間序列模型與隨機性時間序列模型模型一、時間序列模型的基本概念及其適用性一、時間序列模型的

2、基本概念及其適用性1 1、時間序列模型的基本概念、時間序列模型的基本概念 隨機時間序列模型（隨機時間序列模型（time series modeling）是指僅用它的過去值及隨機擾動項所建立起來的模型，其一般形式為 Xt=F(Xt-1, Xt-2, , t) 建立具體的時間序列模型，需解決如下三個問題建立具體的時間序列模型，需解決如下三個問題： (1)模型的具體形式模型的具體形式 (2)時序變量的滯后期時序變量的滯后期 (3)隨機擾動項的結構隨機擾動項的結構 例如，取線性方程、一期滯后以及白噪聲隨機擾動項（ t =t），模型將是一個1階自回歸過程階自回歸過程AR(1)： Xt=Xt-1+ t這里

3、， t特指一白噪聲一白噪聲。 一般的p階自回歸過程階自回歸過程AR(p)是 Xt=1Xt-1+ 2Xt-2 + + pXt-p + t (*) (1)如果隨機擾動項是一個白噪聲(t=t)，則稱(*)式為一純純AR(p)過程（過程（pure AR(p) process），記為 Xt=1Xt-1+ 2Xt-2 + + pXt-p +t (2)如果t不是一個白噪聲，通常認為它是一個q階的移動平均（移動平均（moving average）過程）過程MA(q)： t=t - 1t-1 - 2t-2 - - qt-q 該式給出了一個純純MA(q)過程（過程（pure MA(p) process）。 將純A

4、R(p)與純MA(q)結合，得到一個一般的自回歸移動自回歸移動平均（平均（autoregressive moving average）過程）過程ARMA（p,q）： Xt=1Xt-1+ 2Xt-2 + + pXt-p + t - 1t-1 - 2t-2 - - qt-q 該式表明：該式表明：（1）一個隨機時間序列可以通過一個自回歸移動平均過）一個隨機時間序列可以通過一個自回歸移動平均過程生成，程生成，即該序列可以由其自身的過去或滯后值以及隨機擾動項來解釋。（2）如果該序列是平穩(wěn)的）如果該序列是平穩(wěn)的，即它的行為并不會隨著時間的推移而變化，那么我們就可以通過該序列過去的行為那么我們就可以通過該序

5、列過去的行為來預測未來。來預測未來。 這也正是隨機時間序列分析模型的優(yōu)勢所在。 經典回歸模型的問題：經典回歸模型的問題： 迄今為止，迄今為止，對一個時間序列Xt的變動進行解釋或預測，是通過某個單方程回歸模型或聯立方程回歸模型進行的，由于它們以因果關系為基礎，且具有一定的模型結構，因此也常稱為結構式模型（結構式模型（structural model）。 然而，然而，如果Xt波動的主要原因可能是我們無法解釋的因素，如氣候、消費者偏好的變化等，則利用結構式模型來解釋Xt的變動就比較困難或不可能，因為要取得相應的量化數據，并建立令人滿意的回歸模型是很困難的。 有時，有時，即使能估計出一個較為滿意的因果

6、關系回歸方程，但由于對某些解釋變量未來值的預測本身就非常困難，甚至比預測被解釋變量的未來值更困難，這時因果關系的回歸模型及其預測技術就不適用了。2 2、時間序列分析模型的適用性、時間序列分析模型的適用性 例如例如，時間序列過去是否有明顯的增長趨勢時間序列過去是否有明顯的增長趨勢，如果增長趨勢在過去的行為中占主導地位，能否認為它也會在未來的行為里占主導地位呢？ 或者時間序列顯示出循環(huán)周期性行為時間序列顯示出循環(huán)周期性行為，我們能否利用過去的這種行為來外推它的未來走向？ 隨機時間序列分析模型，就是要通過序列過去的變隨機時間序列分析模型，就是要通過序列過去的變化特征來預測未來的變化趨勢化特征來預測未

7、來的變化趨勢。 使用時間序列分析模型的另一個原因在于使用時間序列分析模型的另一個原因在于： 如果經濟理論正確地闡釋了現實經濟結構，則這一結構可以寫成類似于ARMA(p,q)式的時間序列分析模型的形式。 在這些情況下，我們采用另一條預測途徑在這些情況下，我們采用另一條預測途徑：通過時間序列的歷史數據，得出關于其過去行為的有關結論，進而對時間序列未來行為進行推斷。 例如，例如，對于如下最簡單的宏觀經濟模型： 這里，Ct、It、Yt分別表示消費、投資與國民收入。 Ct與與Yt作為內生變量，它們的運動是由作為外作為內生變量，它們的運動是由作為外生變量的投資生變量的投資It的運動及隨機擾動項的運動及隨機

8、擾動項 t的變化決定的變化決定的。的。tttCYC12110tttICY上述模型可作變形如下： 兩個方程等式右邊除去第一項外的剩余部分可看成一個綜合性的隨機擾動項，其特征依賴于投資項It的行為。 如果如果It是一個白噪聲是一個白噪聲，則消費序列Ct就成為一個1階自回歸過程階自回歸過程AR(1)，而收入序列Yt就成為一個(1,1)階的自回歸移動平均過程階的自回歸移動平均過程ARMA(1,1)。ttttICC1111011211111tttttIIYY11121101121111111二、隨機時間序列模型的平穩(wěn)性條件二、隨機時間序列模型的平穩(wěn)性條件 自回歸移動平均模型（ARMA）是隨機時間序列分析

9、模型的普遍形式，自回歸模型（AR）和移動平均模型（MA）是它的特殊情況。 關于這幾類模型的研究，是時間序列分析的重點內容時間序列分析的重點內容：主要包括主要包括模型的平穩(wěn)性分析模型的平穩(wěn)性分析、模型的識別模型的識別和和模型的估計模型的估計。 1 1、AR(p)AR(p)模型的平穩(wěn)性條件模型的平穩(wěn)性條件 隨機時間序列模型的平穩(wěn)性隨機時間序列模型的平穩(wěn)性，可通過它所生成的隨機時間可通過它所生成的隨機時間序列的平穩(wěn)性來判斷序列的平穩(wěn)性來判斷。 如果如果一個p階自回歸模型AR(p)生成的時間序列是平穩(wěn)的，就說該AR(p)模型是平穩(wěn)的， 否則否則，就說該AR(p)模型是非平穩(wěn)的?？紤]p階自回歸模型AR(

10、p) Xt=1Xt-1+ 2Xt-2 + + pXt-p +t (*) 引入滯后算子（滯后算子（lag operator ）L： LXt=Xt-1, L2Xt=Xt-2, , LpXt=Xt-p(*)式變換為 (1-1L- 2L2-pLp)Xt=t 記(L)= (1-1L- 2L2-pLp),則稱多項式方程 (z)= (1-1z- 2z2-pzp)=0為AR(p)的特征方程特征方程(characteristic equation)(characteristic equation)。 可以證明，可以證明，如果該特征方程的所有根在單位圓外如果該特征方程的所有根在單位圓外（根的模大于（根的模大于1

11、1），則），則AR(p)AR(p)模型是平穩(wěn)的。模型是平穩(wěn)的。 例例9.2.1 AR(1)模型的平穩(wěn)性條件。對1階自回歸模型AR(1)tttXX1方程兩邊平方再求數學期望，得到Xt的方差)(2)()()(122122tttttXEEXEXE由于Xt僅與t相關，因此，E(Xt-1t)=0。如果該模型穩(wěn)定，則有E(Xt2)=E(Xt-12)，從而上式可變換為：22201X在穩(wěn)定條件下，該方差是一非負的常數，從而有 |1。 而AR(1)的特征方程01)(zz的根為 z=1/ AR(1)穩(wěn)定，即 | 1，意味著特征根大于1。例例9.2.2 AR(2)模型的平穩(wěn)性。 對AR(2)模型 ttttXXX22

12、11方程兩邊同乘以Xt，再取期望得： )(22110ttXE又由于222211)()()()(tttttttEXEXEXE于是 222110同樣地，由原式還可得到0211212011于是方差為 )1)(1)(1 ()1 (21212220由平穩(wěn)性的定義，該方差必須是一不變的正數，于是有 1+21, 2-11, |2|1這就是AR(2)的平穩(wěn)性條件的平穩(wěn)性條件，或稱為平穩(wěn)域平穩(wěn)域。它是一頂點分別為（-2,-1），（2,-1），（0,1）的三角形。 2 (0,1) 1 (-2, -1) (2, -1) 圖圖 9.2.1 AR(2)模模型型的的平平穩(wěn)穩(wěn)域域 對應的特征方程1-1z-2z2=0 的兩個

13、根z1、z2滿足： z1z2=-1/2 , z1+z2 =-1/2 ttttXXX2211AR(2)模型解出1，22121zz21211zzzz 由AR(2)的平穩(wěn)性，|2|=1/|z1|z2|1，有1)11)(11 (112121212121zzzzzzzz0)11)(11 (21zz于是| z2 |1。由 2 - 1 1可推出同樣的結果。 對高階自回模型對高階自回模型AR(p)來說來說，多數情況下沒有必要直接計算其特征方程的特征根，但有一些有一些有用的規(guī)則可用來檢驗高階自回歸模型的穩(wěn)定性用的規(guī)則可用來檢驗高階自回歸模型的穩(wěn)定性： (1)AR(p)模型穩(wěn)定的必要條件是模型穩(wěn)定的必要條件是：

14、1+2+p1 (2)(2)由于i(i=1,2,p)可正可負，AR(p)模模型穩(wěn)定的充分條件是：型穩(wěn)定的充分條件是： |1|+|2|+|p|1 對于移動平均模型MR(q)： Xt=t - 1t-1 - 2t-2 - - qt-q 其中t是一個白噪聲，于是 2、MA(q)模型的平穩(wěn)性模型的平穩(wěn)性 0)()()()(11qqtttEEEXE22111121322111122210),cov()(),cov()(),cov()1 (varqqttqqqqttqqqttqtXXXXXXX 當滯后期大于q時，Xt的自協(xié)方差系數為0。因此:有限階移動平均模型總是平穩(wěn)的有限階移動平均模型總是平穩(wěn)的。 由于AR

15、MA (p,q)模型是AR(p)模型與MA(q)模型的組合：Xt=1Xt-1+ 2Xt-2 + + pXt-p + t - 1t-1 - 2t-2 - - qt-q 3、ARMA(p,q)模型的平穩(wěn)性模型的平穩(wěn)性 而而MA(q)模型總是平穩(wěn)的，因此模型總是平穩(wěn)的，因此ARMA (p,q)模型的平模型的平穩(wěn)性取決于穩(wěn)性取決于AR(p)部分的平穩(wěn)性。部分的平穩(wěn)性。 當當AR(p)部分平穩(wěn)時，則該部分平穩(wěn)時，則該ARMA(p,q)模型是平穩(wěn)的，模型是平穩(wěn)的，否則，不是平穩(wěn)的。否則，不是平穩(wěn)的。 最后最后 （1 1）一個平穩(wěn)的時間序列總可以找到生成它的平穩(wěn)的隨）一個平穩(wěn)的時間序列總可以找到生成它的平穩(wěn)

16、的隨機過程或模型；機過程或模型； （2 2）一個非平穩(wěn)的隨機時間序列通?？梢酝ㄟ^差分的方）一個非平穩(wěn)的隨機時間序列通?？梢酝ㄟ^差分的方法將它變換為平穩(wěn)的，對差分后平穩(wěn)的時間序列也可找出對法將它變換為平穩(wěn)的，對差分后平穩(wěn)的時間序列也可找出對應的平穩(wěn)隨機過程或模型。應的平穩(wěn)隨機過程或模型。 因此，因此，如果我們將一個非平穩(wěn)時間序列通過如果我們將一個非平穩(wěn)時間序列通過d d次差分，將次差分，將它變?yōu)槠椒€(wěn)的，然后用一個平穩(wěn)的它變?yōu)槠椒€(wěn)的，然后用一個平穩(wěn)的ARMA(p,q)ARMA(p,q)模型作為它的模型作為它的生成模型，則我們就說該原始時間序列是一個生成模型，則我們就說該原始時間序列是一個自回歸單整

17、移自回歸單整移動平均（動平均（autoregressive integrated moving averageautoregressive integrated moving average）時）時間序列，記為間序列，記為ARIMA(p,d,q)ARIMA(p,d,q)。 例如，例如，一個一個ARIMA(2,1,2)ARIMA(2,1,2)時間序列在它成為平穩(wěn)序列之前時間序列在它成為平穩(wěn)序列之前先得差分一次，然后用一個先得差分一次，然后用一個ARMA(2,2)ARMA(2,2)模型作為它的生成模模型作為它的生成模型的。型的。 當然，當然，一個一個ARIMA(p,0,0)ARIMA(p,0,0)

18、過程表示了一個純過程表示了一個純AR(p)AR(p)平穩(wěn)過平穩(wěn)過程；一個程；一個ARIMA(0,0,q)ARIMA(0,0,q)表示一個純表示一個純MA(q)MA(q)平穩(wěn)過程。平穩(wěn)過程。三、隨機時間序列模型的識別三、隨機時間序列模型的識別 所謂隨機時間序列模型的識別所謂隨機時間序列模型的識別，就是對于一個平穩(wěn)的隨機時間序列，找出生成它的合適的隨機過程或模型，即判斷該時間序列是遵循一純AR過程、還是遵循一純MA過程或ARMA過程。 所使用的工具所使用的工具主要是時間序列的自相關函數自相關函數（autocorrelation function，ACF）及偏自相關函偏自相關函數數（partial

19、autocorrelation function， PACF ）。 1 1、AR(p)AR(p)過程過程 (1)(1)自相關函數自相關函數ACFACF 1階自回歸模型階自回歸模型AR(1) Xt=Xt-1+ t 的k階滯后自協(xié)方差自協(xié)方差為：011)(kkttktkXXE=1,2,因此，AR(1)模型的自相關函數自相關函數為 kkk0=1,2, 由由AR(1)的穩(wěn)定性知的穩(wěn)定性知| | |1，因此，因此，k k時，呈指數形時，呈指數形衰減，直到零衰減，直到零。這種現象稱為拖尾拖尾或稱AR(1)有無窮記憶有無窮記憶（infinite memory）。 注意注意， 0時，呈振蕩衰減狀。 Xt=1X

20、t-1+ 2Xt-2 + t該模型的方差0以及滯后1期與2期的自協(xié)方差1, 2分別為階自回歸模型階自回歸模型AR(2) 2221100211212011類似地,可寫出一般的一般的k期滯后自協(xié)方差期滯后自協(xié)方差： 22112211)(kktttktkrXXXE(K=2,3,)于是,AR(2)的k 階自相關函數階自相關函數為： 2211kkk(K=2,3,)其中 :1=1/(1-2), 0=1如果如果AR(2)AR(2)穩(wěn)定，則由穩(wěn)定，則由 1 1+ + 2 211知知| | k k| |衰減趨于零，呈拖尾狀。衰減趨于零，呈拖尾狀。至于衰減的形式，要看至于衰減的形式，要看AR(2)AR(2)特征根

21、的實虛性，特征根的實虛性，若為實根，若為實根，則呈單調或振蕩型衰減，若為虛根，則呈正弦波型衰減。則呈單調或振蕩型衰減，若為虛根，則呈正弦波型衰減。 一般地，p階自回歸模型階自回歸模型AR(p) Xt=1Xt-1+ 2Xt-2 + pXt-p + tk期滯后協(xié)方差為: pkpkktptpttKtkXXXXE22112211)(從而有自相關函數 :pkpkkk2211 可見，無論無論k k有多大，有多大， k k的計算均與其到的計算均與其到p p階滯后階滯后的自相關函數有關的自相關函數有關，因此呈拖尾狀呈拖尾狀。 如果如果AR(p)AR(p)是穩(wěn)定的，則是穩(wěn)定的，則| | k k| |遞減且趨于零

22、遞減且趨于零。 其中：1/zi是AR(p)特征方程(z)=0的特征根，由AR(p)平穩(wěn)的條件知，|zi|p，Xt與Xt-k間的偏自相關系數偏自相關系數為零。 AR(p)的一個主要特征是的一個主要特征是:kp時，時， k*=Corr(Xt,Xt-k)=0 即即 k*在在p以后是截尾的。以后是截尾的。一隨機時間序列的識別原則：一隨機時間序列的識別原則：若若XtXt的偏自相關函數在的偏自相關函數在p p以后截尾，即以后截尾，即kp時，時， k*=0=0，而，而它的自相關函數它的自相關函數 k是拖尾的，則此序列是自回歸是拖尾的，則此序列是自回歸AR(p)AR(p)序序列。列。 在實際識別時，由于樣本偏

23、自相關函數rk*是總體偏自相關函數k*的一個估計，由于樣本的隨機性，當kp時，rk*不會全為0，而是在0的上下波動。但可以證明，當kp時，rk*服從如下漸近正態(tài)分布: rk*N(0,1/n)式中n表示樣本容量。 因此，如果計算的rk*滿足 需指出的是需指出的是，我們就有95.5%的把握判斷原時間序列在p之后截尾。nrk2|* 對MA(1)過程 2、MA(q)MA(q)過程過程 1tttX可容易地寫出它的自協(xié)方差系數自協(xié)方差系數： 0)1 (3221220于是，MA(1)過程的自相關函數自相關函數為：0)1 (3221可見，當當k1時，時， k k0，即，即Xt與與Xt-k不相關，不相關，MA(

24、1)MA(1)自自相關函數是截尾的。相關函數是截尾的。 MA(1)過程可以等價地寫成過程可以等價地寫成 t t關于無窮序列關于無窮序列X Xt t，X Xt-1t-1，的線性組合的形式：的線性組合的形式：221ttttXXX或ttttXXX221（*） (*)是一個AR()過程，它的偏自相關函數非截尾但卻趨于零，因此MA(1)MA(1)的偏自相關函數是非截尾但卻趨于零的偏自相關函數是非截尾但卻趨于零的。的。 注意注意: : (*)式只有當|1時才有意義，否則意味著距Xt越遠的X值，對Xt的影響越大，顯然不符合常理。 因此，我們把把| | |1|q時， Xt與與Xt-k不相關，即存在截尾現象，因

25、此，當當kq時，時， k k=0是是MA(q)的一個特征的一個特征。 于是：可以根據自相關系數是否從某一點開始一直為可以根據自相關系數是否從某一點開始一直為0 0來判斷來判斷MA(q)MA(q)模型的階。模型的階。 與MA(1)相仿，可以驗證MA(q)過程的偏自相關函數是非截尾但趨于零的。 MA(q)模型的識別規(guī)則：模型的識別規(guī)則：若隨機序列的自相關函數截若隨機序列的自相關函數截尾，即自尾，即自q q以后，以后， k k=0=0（ kqkq）；而它的偏自相關函數是拖）；而它的偏自相關函數是拖尾的，則此序列是滑動平均尾的，則此序列是滑動平均MA(q)MA(q)序列。序列。 同樣需要注意的是同樣需

26、要注意的是：在實際識別時，由于樣本自相關函數rk是總體自相關函數k的一個估計，由于樣本的隨機性，當kq時，rk不會全為0，而是在0的上下波動。但可以證明，當kq時，rk服從如下漸近正態(tài)分布: rkN(0,1/n)式中n表示樣本容量。 因此，如果計算的如果計算的r rk k滿足：滿足：nrk2|我們就有就有95.5%95.5%的把握判斷原時間序列在的把握判斷原時間序列在q q之后截尾之后截尾。 ARMA(p,q)的自相關函數的自相關函數，可以看作MA(q)的自相關函數和AR(p)的自相關函數的混合物。 當當p=0時，它具有截尾性質時，它具有截尾性質； 當當q=0時，它具有拖尾性質；時，它具有拖尾

27、性質； 當當p、q都不為都不為0時，它具有拖尾性質時，它具有拖尾性質 從識別上看，通常：從識別上看，通常： ARMA(p，q)過程的偏自相關函數（過程的偏自相關函數（PACF）可能在可能在p階滯階滯后前有幾項明顯的尖柱（后前有幾項明顯的尖柱（spikes），但從），但從p階滯后項開始逐漸階滯后項開始逐漸趨向于零；趨向于零； 而而它的自相關函數（它的自相關函數（ACF）則是在則是在q階滯后前有幾項明顯階滯后前有幾項明顯的尖柱，從的尖柱，從q階滯后項開始逐漸趨向于零。階滯后項開始逐漸趨向于零。 3 3、ARMA(p, q)ARMA(p, q)過程過程 表表 9.2.1 ARMA(p,q)模模型型的

28、的 ACF 與與 PACF 理理論論模模式式 模型 ACF PACF 白噪聲 0k 0*k AR(p) 衰減趨于零（幾何型或振蕩型） P 階后截尾：0*k，kp MA(q) q階后截尾： ，0k，kq 衰減趨于零（幾何型或振蕩型） ARMA(p,q) q階后衰減趨于零（幾何型或振蕩型） p階后衰減趨于零 （幾何型或振蕩型） 圖圖 9.2.2 ARMA(p,q)模型的模型的 ACF與與 PACF理論模式理論模式 ACF PACF 模型模型 1： tttXX17 . 00.00.20.40.60.812345678ACF10.00.20.40.60.812345678PACF1 模型 2： ttt

29、XX17 . 0 模型 3： 17 . 0tttX-0.8-0.6-0.4-0.20.00.20.40.612345678ACF2-0.8-0.6-0.4-0.20.012345678PACF2-0.5-0.4-0.3-0.2-0.10.012345678ACF3-0.5-0.4-0.3-0.2-0.10.012345678PACF3 模型 4：ttttXXX2149. 07 . 0 模型 5：117 . 07 . 0ttttXX-0.4-0.20.00.20.40.612345678ACF4-0.4-0.20.00.20.40.612345678PACF4-1.2-0.8-0.40.00.4

30、0.812345678ACF5-1.0-0.8-0.6-0.4-0.20.012345678PACF5四、隨機時間序列模型的估計四、隨機時間序列模型的估計 AR(p)、MA(q)、ARMA(p,q)模型的估計方法較多，大大體上分為體上分為3類：類： （1）最小二乘估計；）最小二乘估計； （2）矩估計；）矩估計； （3）利用自相關函數的直接估計）利用自相關函數的直接估計。 下面有選擇地加以介紹。結構階數模型識別確定估計參數 AR(p) AR(p)模型的模型的Yule WalkerYule Walker方程估計方程估計 在AR(p)模型的識別中，曾得到 pkpkkk2211利用k=-k，得到如下方

31、程組： kppppppppp12112211211211 此方程組被稱為此方程組被稱為Yule Walker方程組方程組。該方程組建該方程組建立了立了AR(p)AR(p)模型的模型參數模型的模型參數 1 1, , 2 2, , , p p與自相關函數與自相關函數 1 1, , 2 2, , , p p的關系，的關系， 利用實際時間序列提供的信息，利用實際時間序列提供的信息，首先首先求得自相關函數的求得自相關函數的估計值估計值 然后然后利用利用Yule Walker方程組，求解模型參數的估計方程組，求解模型參數的估計值值, 12p, 12p12011102120112pppppp由于 ptptt

32、tXXX11于是 pjiijjitE1,022從而可得 2 2的估計值的估計值 pjiijji1,02在具體計算時，k可用樣本自相關函數rk替代。 MA(q) MA(q)模型的矩估計模型的矩估計 將MA(q)模型的自協(xié)方差函數中的各個量用估計量代替，得到： qkqkkqkqkkqk當當當01)(0)1 (112222212 首先首先求得自協(xié)方差函數的估計值，(*)是一個包含(q+1)個待估參數 (*)221,q的非線性方程組，可以用直接法直接法或迭代法迭代法求解。 常用的迭代方法有常用的迭代方法有線性迭代法線性迭代法和和Newton-Raphsan迭代法迭代法。 （1 1）MA(1)MA(1)

33、模型的直接算法模型的直接算法 對于MA(1)模型，（*）式相應地寫成1212120)1 (于是 211021204或0212410有于是有解 )411 (22102)411 (2211211 由于參數估計有兩組解，可根據可逆性條件|1|1的MA(q)模型，一般用迭代算法估計參數： 由（*）式得 qkqkkkkq12211222102第一步第一步，給出的一組初值，比如k,21202)0(0)0()0()0(21k代入（*）式，計算出第一次迭代值 02) 1 (0) 1 (kk（*） 第二步第二步，將第一次迭代值代入（*）式，計算出第二次迭代值 )1 () 1 () 1 () 1 ()2()1 (

34、) 1 (1/()2(11022102qkqkkkq 按此反復迭代下去，直到第m步的迭代值與第m-1步的迭代值相差不大時（滿足一定的精度），便停止迭代，并用第m步的迭代結果作為（*）的近似解。 ARMA(p,q) ARMA(p,q)模型的矩估計模型的矩估計 在ARMA(p,q)中共有(p+q+1)個待估參數1,2,p與1,2,q以及2，其估計量計算步驟及公式如下： 第一步第一步，估計1,2,p 1211112112pqqqpqqqpqpqpqqqqp k是總體自相關函數的估計值，可用樣本自相關函數rk代替。 第二步，第二步，改寫模型，求1,2,q以及2的估計值 將模型 tptptttXXXX2

35、211qtqtt2211 改寫為： tptptttXXXX2211qtqtt2211令 ptpttttXXXXX2211于是(*)可以寫成： (*)qtqttttX2211 構成一個MA模型。按照估計MA模型參數的方法，可以得到1,2,q以及2的估計值。 AR(p) AR(p)的最小二乘估計的最小二乘估計 假設模型AR(p)的參數估計值已經得到，即有 tptptttXXXX2211 殘差的平方和為： 21221112)() (nptptptttnpttXXXXS(*) 根據最小二乘原理，所要求的參數估計值是下列方程組的解： Sj 0即 0)(12211jtnptptptttXXXXXj=1,2

36、,p (*) 解該方程組，就可得到待估參數的估計值。 為了與AR(p)模型的Yule Walker方程估計進行比較，將(*)改寫成： nptjttnptjtptpnptjttnptjttXXnXXnXXnXXn111221111j=1,2,p由自協(xié)方差函數的定義，并用自協(xié)方差函數的估計值 knpttktkXXn11代入，上式表示的方程組即為： jpjpjj2211或 jpjpjjrrrr2211j=1,2,pj=1,2,p解該方程組，得到： pppppprrrrrrrrrrrr21102120111021即為參數的最小二乘估計。 Yule Walker方程組的解12011102120112pp

37、pppp比較發(fā)現，當n足夠大時，二者是相似的。 2的估計值為： pnSpnnptt1221 需要說明的是，需要說明的是，在上述模型的平穩(wěn)性、識別與估計的討在上述模型的平穩(wěn)性、識別與估計的討論中，論中，ARMA(p,q)模型中均未包含常數項。模型中均未包含常數項。 如果包含常數項，該常數項并不影響模型的原有性質如果包含常數項，該常數項并不影響模型的原有性質，因為通過適當的變形，可將包含常數項的模型轉換為不含常數項的模型。 下面以一般的ARMA(p,q)模型為例說明。 對含有常數項的模型 qtqttptpttXXX1111方程兩邊同減/(1-1-p)，則可得到 qtqttptpttxxx1111其

38、中piiXx11pttti, 1,五、模型的檢驗五、模型的檢驗 由于ARMA(p,q)模型的識別與估計是在假設隨機擾動項是一白噪聲的基礎上進行的，因此，如果估計的模如果估計的模型確認正確的話，殘差應代表一白噪聲序列型確認正確的話，殘差應代表一白噪聲序列。 如果通過所估計的模型計算的樣本殘差不代表一白噪如果通過所估計的模型計算的樣本殘差不代表一白噪聲，則說明模型的識別與估計有誤，需重新識別與估計。聲，則說明模型的識別與估計有誤，需重新識別與估計。 在實際檢驗時，主要檢驗殘差序列是否存在自相關在實際檢驗時，主要檢驗殘差序列是否存在自相關。1 1、殘差項的白噪聲檢驗、殘差項的白噪聲檢驗 可用可用QL

39、B的統(tǒng)計量進行的統(tǒng)計量進行 2檢驗檢驗：在給定顯著性水平下，可計算不同滯后期的QLB值，通過與 2分布表中的相應臨界值比較，來檢驗是否拒絕殘差序列為白噪聲的假設。 若大于相應臨界值，則應拒絕所估計的模型，需重新識別與估計。 2 2、AICAIC與與SBCSBC模型選擇標準模型選擇標準 另外一個遇到的問題是，在實際識別ARMA(p,q)模型時，需多次反復償試，有可能存在不止一組（p,q）值都能通過識別檢驗。 顯然，增加增加p與與q的階數，可增加擬合優(yōu)度的階數，可增加擬合優(yōu)度，但卻同時降低但卻同時降低了自由度了自由度。 因此，對可能的適當的模型，存在著模型的對可能的適當的模型，存在著模型的“簡潔性

40、簡潔性”與模與模型的擬合優(yōu)度的權衡選擇問題。型的擬合優(yōu)度的權衡選擇問題。 其中，n為待估參數個數（p+q+可能存在的常數項），T為可使用的觀測值，RSS為殘差平方和（Residual sum of squares）。 在選擇可能的模型時，在選擇可能的模型時，AIC與與SBC越小越好越小越好 顯然，如果添加的滯后項沒有解釋能力，則對顯然，如果添加的滯后項沒有解釋能力，則對RSSRSS值值的減小沒有多大幫助，卻增加待估參數的個數，因此使的減小沒有多大幫助，卻增加待估參數的個數，因此使得得AICAIC或或SBCSBC的值增加。的值增加。 需注意的是：需注意的是：在不同模型間進行比較時，必須選取相同的

41、時間段。 常用的模型選擇的判別標準有：常用的模型選擇的判別標準有：赤池信息法赤池信息法（Akaike information criterion，簡記為簡記為AIC）與施瓦茲貝葉斯法施瓦茲貝葉斯法（Schwartz Bayesian criterion，簡記為簡記為SBC）：)ln()ln(2)ln(TnRSSTSBCnRSSTAIC 由第一節(jié)知：中國支出法GDP是非平穩(wěn)的，但它的一階差分是平穩(wěn)的，即支出法GDP是I(1)時間序列。 可以對經過一階差分后的GDP建立適當的ARMA(p,q)模型。 記GDP經一階差分后的新序列為GDPD1，該新序列的樣本自相關函數圖與偏自相關函數圖如下：-0.4

42、-0.20.00.20.40.60.81.024681012141618GDPD1AC-0.6-0.4-0.20.00.20.40.60.81.024681012141618GDPD1PAC 例例9.2.3 中國支出法中國支出法GDP的的ARMA(p,q)模型估計。模型估計。 圖形：圖形：樣本自相關函數圖形呈正弦線型衰減波，而偏自相關函數圖形則在滯后兩期后迅速趨于0。因此可初步判斷該序列可初步判斷該序列滿足滿足2 2階自回歸過程階自回歸過程AR(2)AR(2)。表表 9.2.2 中中國國 GDP一一階階差差分分序序列列的的樣樣本本自自相相關關函函數數與與偏偏自自相相關關函函數數kkr*krkk

43、r*krkkr*kr10.8590.8597-0.034-0.25213-0.361-0.08620.622-0.4418-0.1120.01214-0.3630.07630.378-0.0659-0.1750.0415-0.3080.04340.1910.06610-0.228-0.11716-0.216-0.02250.0870.07711-0.282-0.19217-0.128-0.04860.036-0.05112-0.32-0.0218-0.059-0.002426. 0222|*kr 自相關函數自相關函數與偏自相關函數偏自相關函數的函數值：函數值： 相關函數具有明顯的拖尾性； 偏自

44、相關函數值在k2以后，可認為：可認為：偏自相關函數是截尾的。再次驗證了一階差分后的偏自相關函數是截尾的。再次驗證了一階差分后的GDPGDP滿足滿足AR(2)AR(2)隨機過程。隨機過程。設序列GDPD1的模型形式為 ttttGDPDGDPDGDPD2211111有如下Yule Walker 方程： 622. 0859. 01859. 0859. 01121解為： 442. 0,239. 121用用OLSOLS法回歸的結果為：法回歸的結果為： ttttGDPDGDPDGDPD211653. 01593. 11 （7.91) (-3.60) r2=0.8469 R2=0.8385 DW=1.15

45、有時，在用回歸法時，也可加入常數項有時，在用回歸法時，也可加入常數項。 本例中加入常數項的回歸為： ttttGDPDGDPDGDPD211678. 01495. 159.9091 （1.99） （7.74） （-3.58） r2 =0.8758 R2 =0.8612 DW.=1.22 模型檢驗模型檢驗 下表列出三模型的殘差項的自相關系數及QLB檢驗值。 模型1與模型3的殘差項接近于一白噪聲，但模型2存在4階滯后相關問題，Q統(tǒng)計量的檢驗也得出模型2拒絕所有自相關系數為零的假設。因此: 模型模型1 1與與3 3可作為描述中國支出法可作為描述中國支出法GDPGDP一階差分序列的隨機生成過程。一階差分

46、序列的隨機生成過程。表表 9.2.3 模模型型殘殘差差項項的的自自相相關關系系數數及及 Q檢檢驗驗值值 模型1 模型2 模型3 K Resid-ACF Q Resid-ACF Q Resid-ACF Q 1 0.382 3.3846 0.258 1.5377 0.257 1.5263 2 0.014 3.3893 -0.139 2.0077 -0.040 1.5646 3 -0.132 3.8427 -0.246 3.5677 -0.059 1.6554 4 -0.341 7.0391 -0.529 11.267 -0.328 4.6210 5 -0.170 7.8910 -0.300 13.

47、908 -0.151 5.2864 6 0.253 9.9097 0.271 16.207 0.345 9.0331 7 0.144 10.613 0.158 17.051 0.155 9.8458 8 0.057 10.730 0.116 17.541 0.076 10.059 9 -0.019 10.745 0.097 17.914 0.011 10.064 10 -0.146 11.685 -0.036 17.969 -0.123 10.728 11 -0.233 14.329 -0.136 18.878 -0.230 13.319 12 -0.049 14.461 0.064 19.1

48、04 -0.012 13.328 用建立的用建立的AR(2)模型對中國支出法模型對中國支出法GDP進行外推預測。進行外推預測。 模型模型1可作如下展開： )()(3222111ttttttGDPGDPGDPGDPGDPGDP3221211)()1 (ttttGDPGDPGDPGDP 于是，當已知t-1、t-2、t-3期的GDP時，就可對第t期的GDP作出外推預測。 模型模型3的預測式與此相類似，只不過多出一項常數項。 對對20012001年中國支出法年中國支出法GDPGDP的預測結果（億元）的預測結果（億元） 預測值預測值 實際值實際值 誤差誤差 模型模型1 95469 95933 -0.48

49、%1 95469 95933 -0.48% 模型模型3 97160 95933 1.28%3 97160 95933 1.28% 由于由于中國人均居民消費（CPC）與人均國內生產總值（GDPPC）這兩時間序列是非平穩(wěn)的，因此不宜直接建立它們的因果關系回歸方程。 但它們都是但它們都是I(2)I(2)時間序列時間序列，因此可以建立它們的ARIMA(p,d,q)模型。 下面只建立下面只建立中國人均居民消費（中國人均居民消費（CPCCPC）的隨機時間序列模的隨機時間序列模型。型。 中國人均居民消費（CPC）經過二次差分后的新序列記為CPCD2，其自相關函數、偏自相關函數及Q統(tǒng)計量的值列于下表： 例例9.2.4 中國人均居民消費的中國人均居民消費的ARMA(p,q)ARMA(p,q)模型模型 在5%的顯著性水平下，通過Q統(tǒng)計量容易驗證該序列本身就接近于一白噪聲，因此可考慮采用零階考慮采用零階MA(0)MA(0)模型模型: 表表 9 9. .2 2. .4 4 C CP