自回歸過程性質(zhì)PPT課件

1、1一、時間序列模型的平穩(wěn)性（Stationarity） 平穩(wěn)性的定義：如果一個時間序列模型可以寫成如下形式：2211ttttaaax其中，xt為零均值平穩(wěn)序列，at為白噪聲，且滿足條件 就稱該模型是平穩(wěn)的。（上式又稱Wold展開式）002)1(,jj返回本節(jié)首頁下一頁上一頁第1頁/共70頁2.,)(000)()(0)(,0222022這是過程平穩(wěn)的條件因此必須有在由于平穩(wěn)過程的方差存且可以證明如下結(jié)論對于上式j(luò)joikiiakttkajttjjattxxEjjxaExVarxE第2頁/共70頁3時間序列模型的可逆性 (ivertibility) 如果一個時間序列（未必平穩(wěn)）的模型可以寫成如下形

2、式：tttttaxxxx332211其中：at為白噪聲，且有那么，就稱這個模型是可逆的。 11jj返回本節(jié)首頁下一頁上一頁第3頁/共70頁4對于一個有限階的自回歸模型AR(P)tptptttaxxxx2211總有：pjjjj1111所以，一個有限階的AR(p)模型總是可逆的。第4頁/共70頁5自回歸表示有助于理解預(yù)測機制，Box和Jenkins證明在預(yù)測時，一個非可逆過程是毫無意義的。第5頁/共70頁6一、一階自回歸過程AR(1)的性質(zhì) 一階自回歸模型的形式為：tttaxx11或ttaxB11返回本節(jié)首頁下一頁上一頁第6頁/共70頁71、平穩(wěn)性和可逆性A.可逆性： 一個有限階的自回歸模型總是可

3、逆的，所以，AR(1)模型總是可逆的。B.平穩(wěn)性：為滿足平穩(wěn)性， 的根必須在單位圓外，于是有：011B1, 1111即第7頁/共70頁812233111123111213221200111,(1),(1)11:1:(1)1tttttttjjjjARMAaxBBBaBaaaaAR 當(dāng)時可表示為一個無限階的過程 即此時有注 下面我們對的討論都假定第8頁/共70頁923111213tttttxaaaau上式說明系統(tǒng)是怎樣記憶擾動atu上式中的系數(shù)客觀的描述了該系統(tǒng)的動態(tài)性，故這個系數(shù)稱為記憶函數(shù)（格林函數(shù)），uAR(1)模型的格林函數(shù)可表示為u平穩(wěn)序列的這種表示形式，稱為“傳遞形式”，（用無窮階MA

4、模型來逼近有限階AR模型）1jjG第9頁/共70頁10格林函數(shù)的意義 是前j個時間單位以前進(jìn)入系統(tǒng)的擾動對系統(tǒng)現(xiàn)在的影響； 客觀的刻劃了系統(tǒng)動態(tài)響應(yīng)衰減的快慢程度； 是系統(tǒng)動態(tài)真實描述； 格林函數(shù)所描述的動態(tài)性完全取決于系統(tǒng)參數(shù)第10頁/共70頁11對于AR(1)來說：若系統(tǒng)受到擾動后，該擾動的作用逐漸減小，直至趨于零，即系統(tǒng)隨著時間的增長回到均衡位置，那么該系統(tǒng)就是漸近穩(wěn)定的，也就是平穩(wěn)的。系統(tǒng)平穩(wěn)對于格林函數(shù)來說，就是隨著j的增加，趨近于零；若格林函數(shù)趨于無窮大，那么任意小的擾動，只要給定足夠的時間，就會使系統(tǒng)響應(yīng)正負(fù)趨于無窮，永遠(yuǎn)不會回到其均衡位置，這時系統(tǒng)便是不穩(wěn)定的，當(dāng)然是非平穩(wěn)的。

5、1jjG第11頁/共70頁122.AR(1)過程的自相關(guān)函數(shù)kkkktkttkttktkaatttttkaxExxExxEaxaxExEAR10111121202021211212120:)1()()()(1)2()(:)1(解此差分方程有所以所以過程的自協(xié)方差如下第12頁/共70頁131,0)1()1(:0110110有時當(dāng)解此差分方程有因此它的自相關(guān)函數(shù)為kkkkkkkkk第13頁/共70頁142121261412111224121212221111221112122614121224121212222111201)1 ()()()(1)1 ()()()(:akakkktktktktktk

6、tktktttkttkaatttttttaaaEaaaaaaaExxEaaaEaaaExE方法證明上述結(jié)論還可通過如下第14頁/共70頁151010且于是有kkk第15頁/共70頁16通過上述推導(dǎo)可看出，當(dāng)過程平穩(wěn)即 時，AR(1)過程的自相關(guān)函數(shù)（ACF）呈指數(shù)衰減。101如果 ，那么所有的自相關(guān)系數(shù)都為正，并逐漸衰減。如果 ,自相關(guān)系數(shù)的符號以負(fù)號開始，并呈正、負(fù)交替逐漸衰減。01111第16頁/共70頁17例1，下面兩圖表分別是模擬生成的249個數(shù)據(jù)如下AR(1)過程趨勢圖和自相關(guān)圖白噪聲為正態(tài)其中或) 1 , 0(,85. 085. 0)85. 01 (11NaaxxaxBtttttt

7、第17頁/共70頁18-6-4-202482848688909294969800例1，模擬生成的AR(1)過程趨勢圖第18頁/共70頁19例1：模擬生成的AR(1)過程自相關(guān)圖:85. 085. 0)85. 01 (11其中或tttttaxxaxB呈指數(shù)衰減第19頁/共70頁20例2，下面兩圖表分別是模擬生成的249個數(shù)據(jù)如下AR(1)過程趨勢圖和自相關(guān)圖白噪聲為正態(tài)其中或) 1 , 0(,85. 0)85. 0()85. 01 (11NaaxxaxBtttttt第20頁/共70頁21-6-4-2024682848688909294969800Y例2，模擬生成的AR(1)過程趨勢圖第21頁/共

8、70頁22例2：模擬生成的AR(1)過程自相關(guān)圖:85. 0)85. 0()85. 01 (11其中或tttttaxxaxB呈正負(fù)交替指數(shù)衰減第22頁/共70頁233.AR(1)過程的偏自相關(guān)函數(shù)（PACF）A.偏自相關(guān)函數(shù)的一般公式.) 1(0),cov(,:, 0)(.,112211121121間的偏自相關(guān)系數(shù)和也就是上式中的且為正態(tài)誤差項個回歸系數(shù)為第上式中則有間存在線性關(guān)系與且假設(shè)來表示它一般用的相關(guān)性之間和的影響之后之間的隨機變量和偏自相關(guān)函數(shù)指剔除掉在第二章我們已經(jīng)知道kttkkjtttkitktkkktkktktktktktttttkkkttktttkttxxjxeeiexxxx

9、xxxxxxxExxxxxxx第23頁/共70頁24kjkkjkjkjkjkkjkjkjjtktkkjttkjttkjttjtxxExxExxExxEjx221122112211:)()()()(,) 1(:所以于是有并求期望得乘上式兩端將式可推導(dǎo)如下偏自相關(guān)函數(shù)的一般公第24頁/共70頁25110211211202112201,2,r,kekkkkkkkkkkkkkkkkkkkYulejkWol 對于我們有如下方程組此方程稱為即為方程偏自相關(guān)函數(shù)第25頁/共70頁2601210121031220111033112110110211022111111, 2 , 1法則可得由對于Gramerkk

10、第26頁/共70頁27122111321231122111321231,11111()kkkkkkkkkkkkkkk類推下去可得上式即為偏自相關(guān)函數(shù)的一般公式偏自相關(guān)函數(shù)公式的另一種推導(dǎo)方法可見課本第27頁/共70頁28B.AR(1)過程的偏自相關(guān)函數(shù)0011,0121012102112110101100121012103122011103311111010011021102211111公式得及偏自相關(guān)函數(shù)的一般由kk第28頁/共70頁29)2(0:1111kkk于是有如下結(jié)論上述結(jié)論說明：AR (1)過程的偏自相關(guān)函數(shù)(PACF)在滯后一階有一峰值，其符號取決于 。滯后一階以后PACF截尾。

11、1第29頁/共70頁30例1：模擬生成的AR(1)過程自相關(guān)圖:85. 085. 0)85. 01 (11其中或tttttaxxaxB滯后一階以后截尾第30頁/共70頁3185. 0)85. 0()85. 01 (11其中或tttttaxxaxB例2：模擬生成的AR(1)過程自相關(guān)圖:滯后一階以后截尾第31頁/共70頁32二、二階自回歸AR(2)過程的性質(zhì) 二階自回歸模型的形式為：ttttaxxx2111或ttaxBB2211返回本節(jié)首頁下一頁上一頁第32頁/共70頁33B.平穩(wěn)性：為滿足平穩(wěn)性， 的根必須在單位圓外.1、平穩(wěn)性和可逆性A.可逆性：AR(2)模型總是可逆的。01221BB第33

12、頁/共70頁34)1(1,011, 111, 1:01,)2(21212212122121BBBBBBBBBAR因為可以證明有的絕對值都小于的兩個特征根程其實也就是要求特征方即那么必須有的兩個根是假定以用其參數(shù)值形式表示模型的平穩(wěn)性條件可第34頁/共70頁3521212(2)1111AR通過證明，模型的平穩(wěn)性條件如下注：我們下面對AR(2)性質(zhì)的討論中都假定平穩(wěn)性條件滿足.第35頁/共70頁36-202-101實根復(fù)根12AR(2)過程的平穩(wěn)性區(qū)域如下圖三角域所示04221第36頁/共70頁372.AR(2)過程的自相關(guān)函數(shù)) 1(,) 1()()()()()2(221122112211kka

13、xExxExxExxEARkkkkkktkttkttkttktk自相關(guān)函數(shù)為因而所以下過程的自協(xié)方差求得如第37頁/共70頁38呈混合指數(shù)衰減的顯然此時可由如下初始條件求出其中常數(shù)于是解之得特征根為異實根即上述特征方程有兩相如果程為上述差分方程的特征方ACFARbbbbkkk)2(,)24()24(24, 04) 1 (02112121121221122211122112, 1221212第38頁/共70頁39呈指數(shù)衰減的顯然此時可由如下初始條件求出其中常數(shù)于是解之得特征征根為實根即上述特征方程有兩重如果ACFARbbkbbkk)2(,)2)(2, 04)2(211212112112112,

14、1221第39頁/共70頁40呈阻尼正弦波衰減的顯然此時可由如下初始條件求出常數(shù)為復(fù)角為復(fù)根的模其中于是解之得特征根為共軛復(fù)根即上述特征方程有一對如果ACFARbbrtrbtrbiidckkk)2(,coscos2)4(, 04) 3(211212112122122112, 1221第40頁/共70頁41通過上述推導(dǎo)可以如下結(jié)論，在AR(2)過程的平穩(wěn)性條件滿足時，如果特征方程的根為實根，即 時，AR(2)的自相關(guān)函數(shù)呈指數(shù)衰減。如果特征方程的根為復(fù)根，即 時，AR(2)的自相關(guān)函數(shù)呈阻尼正弦波衰減。0422104221第41頁/共70頁423.AR(2)過程的偏自相關(guān)函數(shù)2121201102

15、1102221111221111,)2(公式得由偏自相關(guān)函數(shù)的一般因為過程對于kkkAR第42頁/共70頁43001210121012211202110112011001210121031220111033第43頁/共70頁44通過上述證明可以得出如下結(jié)論：.)2(,0,3,)2(過程是滯后二階截尾的因此時當(dāng)過程對于ARkARkk第44頁/共70頁45例1，下面兩圖表分別是模擬生成的250個數(shù)據(jù)如下AR(2)過程趨勢圖和自相關(guān)圖白噪聲為正態(tài)其中或) 1 , 0(, 5 . 0, 3 . 05 . 03 . 0)5 . 03 . 01 (21212NaaxxxaxBBttttttt第45頁/共7

16、0頁46-4-202482848688909294969800例1.模擬生成的AR(2)過程趨勢圖第46頁/共70頁47例1.模擬生成的AR(2)過程自相關(guān)圖05 . 003 . 021呈混合指數(shù)衰滯后二階以后截尾第47頁/共70頁48例2，下面兩圖表分別是模擬生成的250個數(shù)據(jù)如下AR(2)過程趨勢圖和自相關(guān)圖白噪聲為正態(tài)其中或) 1 , 0(, 3 . 0, 5 . 03 . 05 . 0)3 . 05 . 01 (21212NaaxxxaxBBttttttt第48頁/共70頁49-6-4-2024682848688909294969800例2.模擬生成的AR(2)過程趨勢圖第49頁/共7

17、0頁50例2.模擬生成的AR(2)過程自相關(guān)圖03 . 005 . 021呈混合指數(shù)衰減滯后二階以后截尾第50頁/共70頁51白噪聲為正態(tài)其中或) 1 , 0(5 . 0, 15 . 0)5 . 01 (21212NaaxxxaxBBttttttt例3，下面兩圖表分別是模擬生成的250個數(shù)據(jù)如下AR(2)過程趨勢圖和自相關(guān)圖第51頁/共70頁52-4-202482848688909294969800模擬生成的AR(2)過程趨勢圖第52頁/共70頁53模擬生成的AR(2)過程自相關(guān)圖05 . 00121呈阻尼正弦波衰減滯后二階以后截尾第53頁/共70頁54三、p階自回歸過程AR(p)的性質(zhì) 二階

18、自回歸模型的形式為：tptptttaxxxx2111或ttppaxBBB2211返回本節(jié)首頁下一頁上一頁第54頁/共70頁55B.平穩(wěn)性：為滿足平穩(wěn)性， 的根必須在單位圓外.1、平穩(wěn)性和可逆性A.可逆性：AR(p)模型總是可逆的。01)(221ppBBBB即如果1，2，p是 的根，那么它們的絕對值|i|1 0B第55頁/共70頁56其實也就是要求特征方程的特征根都在單位圓內(nèi)。02211pppp即如果1，2p是上述特征方程的p個特征根，那么為滿足平穩(wěn)性條件，必須有|i|1注：下面對AR(p)性質(zhì)的討論，都假定平穩(wěn)性條件滿足。第56頁/共70頁57對于高階的自回歸過程，其平穩(wěn)性條件用其模型參數(shù)表示

19、雖比較復(fù)雜，但都有最基本的一點：121q這是自回歸過程平穩(wěn)的必要條件之一。第57頁/共70頁58一個可逆過程不一定是平穩(wěn)的，對于一個有限階的AR(P)模型：為推移算子其中BBBBBpp2211 ttaxB自回歸過程的平穩(wěn)性條件(stationarity condition)它是平穩(wěn)過程的必要條件是 : 的根都在單位圓外，即如果1，2，p是 的根，那么它們的絕對值必須大于1 0B 0B返回本節(jié)首頁下一頁上一頁第58頁/共70頁59后同這時即為復(fù)數(shù)時當(dāng)22,baiba注第59頁/共70頁60 ttaBx1移項得推導(dǎo)過程如下由 ttaxB 根據(jù)數(shù)學(xué)知識，上式可以展開為冪級數(shù)，即 3322101:)(1BBBBaaBaBxj