平穩(wěn)時(shí)間序列分析

1、第3章 平穩(wěn)時(shí)間序列分析本章教學(xué)內(nèi)容與要求：了解時(shí)間序列分析的方法性工具；理解并掌握ARMA模型的性質(zhì)；掌握時(shí)間序列建模的方法步驟及預(yù)測(cè)；能夠利用軟件進(jìn)行模型的識(shí)別、參數(shù)的估計(jì)以及序列的建模與預(yù)測(cè)。本章教學(xué)重點(diǎn)與難點(diǎn)：利用軟件進(jìn)行模型的識(shí)別、參數(shù)的估計(jì)以及序列的建模與預(yù)測(cè)。計(jì)劃課時(shí)：21（講授16課時(shí)，上機(jī)3課時(shí)、習(xí)題3課時(shí)）教學(xué)方法與手段：課堂講授與上機(jī)操作§3.1 方法性工具一個(gè)序列經(jīng)過(guò)預(yù)處理被識(shí)別為平穩(wěn)非白噪聲序列，那就說(shuō)明該序列是一個(gè)蘊(yùn)含著相關(guān)信息的平穩(wěn)序列。在統(tǒng)計(jì)上，我么通常是建立一個(gè)線性模型來(lái)擬合該序列的發(fā)展，借此提取該序列中的有用信息。ARMA(auto regress

2、ion moving average)模型是目前最常用的一個(gè)平穩(wěn)序列擬合模型。時(shí)間序列分析中一些常用的方法性工具可以使我們的模型表達(dá)和序列分析更加簡(jiǎn)潔、方便。一、差分運(yùn)算（一）p階差分相距一期的兩個(gè)序列值之間的減法運(yùn)算稱(chēng)為1階差分運(yùn)算。記為的1階差分：對(duì)1階差分后的序列再進(jìn)行一次1階差分運(yùn)算稱(chēng)為2階差分，記2為的2階差分：2=-以此類(lèi)推，對(duì)p-1階差分厚序列再進(jìn)行一次1階差分運(yùn)算稱(chēng)為p階差分。記p為的p階差分：p=p-1-p-1（二）k步差分相距k期的兩個(gè)序列值之間的減法運(yùn)算稱(chēng)為k步差分運(yùn)算。記k為的k步差分：k=例：簡(jiǎn)單的序列：6，9，15，43，8，17，20，38，4，10，1階差分：

3、，即1階差分序列：3，6，28，-35，9，3，18，-34，6，2階差分：2=-=32=-=222=-=-40即2階差分序列2：3，22，-63，-54，-6，16，-52，-40，2步差分：2 2 2即2步差分序列：9，34，-7，-26，12，21，-16，-28二、延遲算子（滯后算子）（一）定義延遲算子類(lèi)似于一個(gè)時(shí)間指針，當(dāng)前序列值乘以一個(gè)延遲算子，就相當(dāng)于把當(dāng)前序列值的時(shí)間向過(guò)去撥去了一個(gè)時(shí)刻。記B為延遲算子，有（二）性質(zhì)1.2.3.若c為任一常數(shù)，有4.對(duì)任意兩個(gè)序列和，有5.，其中（三）用延遲算子表示差分運(yùn)算1.p階差分=例如上例中，因此，15-18+6=343-30+9=222

4、.k步差分k =三、線性差分方程在實(shí)踐序列的時(shí)域分析中，線性差分方程是非常重要的，也是極為有效的工具，事實(shí)上，任何一個(gè)ARMA模型都是一個(gè)現(xiàn)象差分方程。因此，ARMA模型的性質(zhì)往往取決于差分方程的性質(zhì)。為了更好地討論ARMA模型的性質(zhì)，先簡(jiǎn)單介紹差分方程的一般性質(zhì)。常系數(shù)微分方程是描述連續(xù)時(shí)間系統(tǒng)的動(dòng)態(tài)性工具，相應(yīng)的，描述離散型時(shí)間系統(tǒng)的主要工具就是常系數(shù)差分方程。（一）線性差分方程的定義定義：稱(chēng)如下形式的方程為序列的線性差分方程： （1）式中，為實(shí)數(shù)；為t的已知函數(shù)。特別地，若，則差分方程 （2） 稱(chēng)為齊次線性差分方程。否則，成為非齊次線性差分方程。（一） 齊次線性差分方程的解設(shè),帶入齊次線

5、性差分方程（2）得，方程兩邊同除以，得特征方程 （3）這是一個(gè)一元p次方程，應(yīng)該至少有p個(gè)非零實(shí)根，稱(chēng)這p個(gè)實(shí)根為特征方程（3）的特征根，不防記作.特征根的取值情況不同，齊次線性差分方程的解會(huì)有不同的表達(dá)形式。1、 為p個(gè)不同的實(shí)根，（2）的解為 ，為任意常數(shù)。2、 中有相同實(shí)根。假設(shè)為d個(gè)相同實(shí)根，為不同實(shí)根，則（2）的解為，為任意常數(shù)。3、中有復(fù)根（自己看）（三）非齊次線性差分方程的解線性差分方程（1）的解是齊次線性差分方程（2）的通解+非齊次線性差分方程（1）的一個(gè)特解構(gòu)成。例1、 求解以下線性差分方程設(shè)代人得，同除以得，得所以，齊次方程的通解為=例2、求解以下線性差分方程(1) 、求齊

6、次方程的通解設(shè)代人得，同除以得，得所以，齊次方程的通解為=(2) 、求非齊次方程的特解（非唯一，求解方式可多種，只要找到一個(gè)解滿足方程即可）設(shè)代入原方程得： 2c=9,c=9/2，即為原方程的一個(gè)特解（3）、所以原方程的解四、時(shí)間序列模型與線性差分方程（意義）線性差分方程在實(shí)際序列分析中有重要的應(yīng)用，常用的時(shí)序模型和某些模型自協(xié)方差函數(shù)合自相關(guān)系數(shù)都可以視為線性差分方程，而線性差分方程對(duì)應(yīng)的特征根的性質(zhì)對(duì)判斷模型的平穩(wěn)性有非常重要的意義。§3.2 ARMA模型的性質(zhì)一、AR模型（一）定義：具有如下結(jié)構(gòu)的模型稱(chēng)為p階自回歸模型，簡(jiǎn)記為AR(P)：1.AR(P)的三個(gè)限制條件：（1），保

7、證了模型的最高階數(shù)為p。（2），要求隨機(jī)干擾序列為零均值白噪聲序列。（3），說(shuō)明當(dāng)期的隨機(jī)干擾與過(guò)去的序列值無(wú)關(guān)。通常情況下，記AR(P)模型為2. 中心化的AR(P)模型如果則以上自回歸模型稱(chēng)為中心化的AR(P)模型：，后面的分析都是針對(duì)中心化的模型進(jìn)行的。3.用延遲算子表示AR(P)： 成為p階自回歸系數(shù)多項(xiàng)式。自回歸模型描述了后一時(shí)刻的行為與前面時(shí)刻的行為有關(guān)。（二）格林函數(shù)（Green函數(shù)）設(shè)為平穩(wěn)AR(P)模型的特征根，即的特征根。任取帶入特征方程：設(shè)為特征多項(xiàng)式的根。任取帶入方程得：，兩邊同時(shí)除以得:可見(jiàn)，AR(P)模型自回歸系數(shù)多項(xiàng)式的根是齊次線性差分方程的特征根的倒數(shù)。即由為特

8、征多項(xiàng)式的根可知所以， （為常數(shù)） 稱(chēng)為格林函數(shù)，代入原模型得，可見(jiàn)，格林（Green）函數(shù)是前j個(gè)時(shí)刻以前進(jìn)入系統(tǒng)的隨機(jī)擾動(dòng)對(duì)系統(tǒng)現(xiàn)在的行為即序列值影響的權(quán)數(shù)。根據(jù)待定系數(shù)法（略）可以推出格林函數(shù)的遞推公式：其中，例如：對(duì)于AR(1)模型，P=1 對(duì)于AR(2)模型，P=2練習(xí)AR(3)模型格林函數(shù)。AR(3)：P=3（二） AR模型平穩(wěn)性判別要擬合一個(gè)平穩(wěn)序列，用來(lái)擬合的模型顯然應(yīng)該是平穩(wěn)的，AR模型是常用的用來(lái)擬合平穩(wěn)序列的模型之一，但并非所有的AR模型都是平穩(wěn)的，因此需要判別模型的平穩(wěn)性。例如，考察如下四個(gè)模型的平穩(wěn)性（1） （2）（3） （4）擬合這四個(gè)序列的序列值，并繪制時(shí)序圖，可

9、初步判斷（1）、（3）平穩(wěn)，（2）、（4）不平穩(wěn)（見(jiàn)教材圖形）。時(shí)序圖檢驗(yàn)比較粗糙，準(zhǔn)確的方法有以下兩種：特征根判別與自回歸系數(shù)判別法。1.特征根判別對(duì)于一個(gè)自回歸系統(tǒng)（格林函數(shù)表示法）要使平穩(wěn)，必須是隨著，擾動(dòng)項(xiàng)對(duì)的以下逐漸減少，直至趨于0，即系統(tǒng)隨著時(shí)間的增長(zhǎng)回到均衡位置，那么該系統(tǒng)就是穩(wěn)定的，因此用格林函數(shù)表示就是 時(shí)，才能使，即特征根都在單位圓內(nèi)，或者的根都在單位圓外。 這就是說(shuō)，要判斷一個(gè)模型是否平穩(wěn)，需解氣特征方程，判斷特征根的情況。那么，是否可以直接從模型額形式或自回歸系數(shù)的大小來(lái)判斷？2.自回歸系數(shù)判別法及平穩(wěn)域的概念（1）對(duì)于AR(1)模型：特征方程為=0，由得，時(shí)，模型平穩(wěn)

10、，平穩(wěn)域?yàn)椋?）對(duì)于AR(2)模型特征方程為，根據(jù)AR(2)模型平穩(wěn)的條件由根與系數(shù)的關(guān)系得，則 即又即以上（1）、（2）、（3）三個(gè)條件的圖形為-=01-1-1-1圖中陰影部分為AR(2)模型的平穩(wěn)域，即模型平穩(wěn)時(shí)自回歸系數(shù)所滿足的條件構(gòu)成的區(qū)域。例：分別用用特征根與自回歸系數(shù)法判別以下四個(gè)模型的平穩(wěn)性。（1） 1.特征根法：<1,所以該模型平穩(wěn)2.自回歸系數(shù)法：，所以模型平穩(wěn)（2）1.特征根法：>1,所以該模型不平穩(wěn)2.自回歸系數(shù)法：，所以模型不平穩(wěn)（3） ， 所以模型平穩(wěn)（4）1.特征根法：,所以該模型不平穩(wěn)2.自回歸系數(shù)法： ， 所以模型不平穩(wěn)可見(jiàn)于圖形檢驗(yàn)是一致的。（四）

11、平穩(wěn)AR模型的統(tǒng)計(jì)性質(zhì)1均值 平穩(wěn)兩邊取期望：，得 對(duì)于中心化的AR(p)模型，由于，所以均值2.方差 , 取方差對(duì)于平穩(wěn)序列，由于時(shí)，收斂，所以存在所以，平穩(wěn)序列方差有界，等于常數(shù).例：求AR(1)模型的方差由前面可知，AR(1)模型的格林函數(shù)為,所以方差 AR(2)模型的方差（略）3.協(xié)方差函數(shù)在平穩(wěn)模型兩邊同時(shí)乘以,再取期望得：，因?yàn)樗?，自協(xié)方差函數(shù)的遞推公式為：例1：求平穩(wěn)AR(1)模型的自協(xié)方差函數(shù)遞推公式為： ，例2：求平穩(wěn)AR(2)模型的自協(xié)方差函數(shù)遞推公式為：，當(dāng)時(shí)，（，自協(xié)方差函數(shù)和自相關(guān)系數(shù)的對(duì)稱(chēng)性） ，所以， ，4.自相關(guān)函數(shù)拖尾（1）遞推公式：由于，在自協(xié)方差等式兩邊

12、同時(shí)除以方差函數(shù)，就得到自相關(guān)系數(shù)的遞推公式：例1：求平穩(wěn)AR(1)模型的自相關(guān)系數(shù)因?yàn)椋海?，例2：求平穩(wěn)AR(2)模型的自相關(guān)系數(shù) ，（2）自相關(guān)系數(shù)的性質(zhì)1）拖尾性：始終有非零取值，不會(huì)在大于某個(gè)常數(shù)之后恒等于02）負(fù)指數(shù)衰減：隨著時(shí)間的推移，會(huì)迅速衰減，衰減速度為（負(fù)指數(shù)：<1，短期相關(guān)性），為的特征根，可視為p階齊次差分方程。例：考察下面四個(gè)AR模型的自相關(guān)圖（1） （2）（3） （4）由以上判斷可知以上四個(gè)模型均平穩(wěn)，擬合其自相關(guān)圖，均呈現(xiàn)出拖尾性和負(fù)指數(shù)衰減的特征。見(jiàn)教材54頁(yè)。5.偏自相關(guān)函數(shù)截尾（1）含義：對(duì)于平穩(wěn)的AR(p)模型，滯后k自相關(guān)系數(shù)實(shí)際上并不是與之間

13、單純的相關(guān)關(guān)系，因?yàn)橥瑫r(shí)還受到中間k-1個(gè)隨機(jī)變量的影響，而這k-1個(gè)隨機(jī)變量又都和具有相關(guān)關(guān)系，所以，自相關(guān)系數(shù)實(shí)際摻雜了其他變量對(duì)與關(guān)系的影響，偏自相關(guān)系數(shù)則是單純測(cè)度對(duì)的影響。具體說(shuō)，對(duì)于平穩(wěn)序列，滯后k偏自相關(guān)系數(shù)就是指在給定中間k-1個(gè)隨機(jī)變量的條件下，或者說(shuō)，在剔除了中間k-1個(gè)隨機(jī)變量的干擾之后，對(duì)的影響的相關(guān)度量?？梢?jiàn)，偏自相關(guān)系數(shù)的定義與回歸分析中偏回歸系數(shù)的定義非常相似，因此可以從線性回歸的角度，得到偏自相關(guān)系數(shù)的另一層含義。（2）計(jì)算假定為中心化平穩(wěn)序列，用過(guò)去的k期序列值對(duì)作k階自回歸擬合，即：由以上分析可知，即為排除中間k-1個(gè)變量的干擾之后，對(duì)的影響的單純度量，因此

14、可根據(jù)回歸系數(shù)的求法求出的值（過(guò)程略）對(duì)于AR(1)模型 對(duì)于AR(2)模型 （3）偏自相關(guān)系數(shù)p步截尾性可以證明，偏自相關(guān)系數(shù)具有p步截尾性的特征，前面學(xué)過(guò)AR(p)模型自相關(guān)系數(shù)具有拖尾性，這是兩條判斷AR(p)模型的主要依據(jù)，即如果模型自相關(guān)系數(shù)具拖尾偏自相關(guān)系數(shù)p步截尾 則該模型為p階自回歸模型。例，考察如下四個(gè)平穩(wěn)AR(p)模型的偏自相關(guān)系數(shù)（1） （2）（3） （4）序號(hào)模型(p步截尾)（拖尾）1234見(jiàn)教材58頁(yè)四個(gè)模型的偏自相關(guān)系數(shù)圖。(計(jì)算課后98頁(yè)第3題)，作業(yè)：匯總AR(1)、AR(2)模型的統(tǒng)計(jì)性質(zhì)，包括均值、方差、自協(xié)方差函數(shù)、自相關(guān)系數(shù)、偏自相關(guān)系數(shù)。統(tǒng)計(jì)性質(zhì)AR(

15、1) :AR(2): ， ，二、MA模型（一）定義1.定義：具有如下結(jié)構(gòu)的模型稱(chēng)為q階移動(dòng)平均模型，簡(jiǎn)記為MA(q)：2. MA(q)的限制條件：（1），保證了模型的最高階數(shù)為q。（2），要求隨機(jī)干擾序列為零均值白噪聲序列。2. 中心化的MA(q)模型如果則以上移動(dòng)平均模型稱(chēng)為中心化的MA(q)模型：，后面的分析都是針對(duì)中心化的模型進(jìn)行的。3.用延遲算子表示MA(q)： 成為q階移動(dòng)平均系數(shù)多項(xiàng)式。（二）MA模型的統(tǒng)計(jì)性質(zhì)1.常數(shù)均值當(dāng)時(shí)(有限階)，當(dāng)時(shí)，2.常數(shù)方差3.自協(xié)方差函數(shù)只與滯后階數(shù)相關(guān)，且q階截尾例如：MA（1）MA（2）模型：4.自相關(guān)函數(shù)q階截尾 例如：MA（1）MA（2）模

16、型：5.偏自相關(guān)函數(shù)拖尾 MA模型的拖尾（證明略）綜上，得出以下結(jié)論：第一， 有限階的MA模型一定是平穩(wěn)的（因?yàn)榫岛头讲罹鶠槌?shù)）第二， MA模型q階截尾，拖尾（AR模型是拖尾，p階截尾）例3.6：繪制下列MA模型的自相關(guān)系數(shù)和偏自相關(guān)系數(shù)，直觀考察MA模型自相關(guān)系數(shù)的截尾性和偏自相關(guān)系數(shù)的拖尾性。（1） （2）（3） （4）圖形見(jiàn)教材61頁(yè)62頁(yè)。（三）MA模型的可逆性例3.6四個(gè)MA模型中，（1）與（2）具有相同的自相關(guān)圖，經(jīng)計(jì)算自相關(guān)系數(shù)也相同；模型（3） 和（4）也具有相同的自相關(guān)圖，經(jīng)計(jì)算系數(shù)也相同。即與模型不是一一對(duì)應(yīng)的關(guān)系，這種自相關(guān)系數(shù)的不唯一給我們將來(lái)的工作帶來(lái)麻煩。因?yàn)閷?/p>

17、來(lái)我們是通過(guò)樣本自相關(guān)系數(shù)顯示出額特征選擇合適的模型擬合序列的發(fā)展，如果自相關(guān)系數(shù)和模型之間不是一一對(duì)應(yīng)關(guān)系，就導(dǎo)致序列與模型之間不是一一對(duì)應(yīng)的。為了保證一個(gè)給定的對(duì)應(yīng)唯一一個(gè)MA模型，就要給模型施加約束條件可逆性。1、可逆的定義可以驗(yàn)證。兩個(gè)MA（1）模型具有如下結(jié)構(gòu)關(guān)系時(shí)，其相同（1） （2） AR模型的形式要想使以上模型收斂，必須保證,即而模型（2）可寫(xiě)作，要寫(xiě)成收斂的AR模型，需保證，即定義：若一個(gè)MA模型能夠表示稱(chēng)為收斂的AR模型形式，那么該MA模型稱(chēng)為可逆MA模型，一個(gè)唯一對(duì)應(yīng)一個(gè)可逆的MA模型。2、MA（q）模型的逆轉(zhuǎn)形式及可逆函數(shù)MA模型可寫(xiě)作設(shè)為MA(q)模型的特征根，即的特

18、征根。任取帶入特征方程： （1）設(shè)為特征多項(xiàng)式的根。任取帶入方程得：，兩邊同時(shí)除以得: （2）可見(jiàn)，MA (q)模型移動(dòng)平均系數(shù)多項(xiàng)式的根是齊次線性差分方程的特征根的倒數(shù)。即由為特征多項(xiàng)式的根可知所以， （為常數(shù)） 以上為MA模型的逆轉(zhuǎn)形式，即把MA模型寫(xiě)作無(wú)窮階的AR模型。其中為可逆函數(shù)。同理，根據(jù)待定系數(shù)法（略）可以推出可逆函數(shù)的遞推公式：其中，例如：對(duì)于MA (1)模型，q=1 對(duì)于MA (2)模型，q=2練習(xí)MA (3)模型可逆函數(shù)。MA (3)：q=3總結(jié)：AR（p）模型的傳遞形式：是把AR模型寫(xiě)作無(wú)窮階的MA模型。MA（q）模型的逆轉(zhuǎn)形式：是把MA模型寫(xiě)作無(wú)窮階的AR模型3、可逆性

19、判別（1）特征根判別對(duì)于一個(gè)移動(dòng)平均系統(tǒng)（逆轉(zhuǎn)形勢(shì)）要使可逆，即以上形式收斂，則需 時(shí)，才能使，即特征根都在單位圓內(nèi)，或者的根都在單位圓外。 這就是說(shuō)，要判斷一個(gè)MA模型是否可逆，需解其特征方程，判斷特征根的情況。那么，是否可以直接從模型的形式或移動(dòng)平均系數(shù)的大小來(lái)判斷？2.移動(dòng)平均系數(shù)判別法（1）對(duì)于MA (1)模型：特征方程為=0，由得，時(shí)，模型可逆（2）對(duì)于MA (2)模型特征方程為，根據(jù)MA (2)模型可逆的條件由根與系數(shù)的關(guān)系得，則 即又即三、ARMA模型（一）定義1.定義：具有如下結(jié)構(gòu)的模型稱(chēng)為自回歸移動(dòng)平均模型，簡(jiǎn)記為：2.限制條件：（1），保證了模型的自回歸最高階數(shù)為p，移動(dòng)平

20、均最高階數(shù)為q。（2），要求隨機(jī)干擾序列為零均值白噪聲序列。（3），說(shuō)明當(dāng)期的隨機(jī)干擾與過(guò)去的序列值無(wú)關(guān)。2. 中心化的模型如果，則以上自回歸模型稱(chēng)為中心化的ARMA(p,q)模型：，后面的分析都是針對(duì)中心化的模型進(jìn)行的。3.用延遲算子表示ARMA(p,q)： 成為p階自回歸系數(shù)多項(xiàng)式。成為q階移動(dòng)平均系數(shù)多項(xiàng)式當(dāng)q=0時(shí)，ARMA(p,q)模型就退化成了AR(p)模型。當(dāng)p=0時(shí)，ARMA(p,q)模型就退化成了MA(q)模型。所以，AR(p) 和MA(q)模型實(shí)際上是ARMA(p,q)模型的特例。他們統(tǒng)稱(chēng)為ARMA(p,q)模型。而ARMA(p,q)模型的統(tǒng)計(jì)性質(zhì)也正是AR(p) 和MA(q)模型統(tǒng)計(jì)性質(zhì)的有機(jī)結(jié)合。 （二）平穩(wěn)條件與可逆條件1. 平穩(wěn)條件：對(duì)于ARMA(p,q)模型，令 顯然 是一個(gè)均值為零、方差為 的平穩(wěn)序列，于是ARMA(p,q)模型可寫(xiě)作如下形式：。與分析AR(p)模型平穩(wěn)性完全類(lèi)似，容易推出ARMA(p,q)模型的平穩(wěn)性條件是：P階自回歸系數(shù)多項(xiàng)式的根都在單位圓外，或者齊次線性差分方程的特征根都在單位圓內(nèi)。即A