第三章線性平穩(wěn)時(shí)間序列分析

1、上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系1線性平穩(wěn)時(shí)間序列分析 在時(shí)間序列的統(tǒng)計(jì)分析中，平穩(wěn)序列是一類重要的隨機(jī)序列。在這方面已經(jīng)有了比較成熟的理論知識(shí)，最常用的是ARMA（Autoregressive Moving Average）序列。用ARMA模型去近似地描述動(dòng)態(tài)數(shù)據(jù)在實(shí)際應(yīng)用中有許多優(yōu)點(diǎn)，例如它是線性模型，只要給出少量參數(shù)就可完全確定模型形式；另外，便于分析數(shù)據(jù)的結(jié)構(gòu)和內(nèi)在性質(zhì)，也便于在最小方差意義下進(jìn)行最佳預(yù)測(cè)和控制。本章將討論ARMA模型的基本性質(zhì)和特征，這是時(shí)間序列統(tǒng)計(jì)分析中的重要理論基礎(chǔ)。 上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系23.1 線性過(guò)程 在正式討論線性過(guò)程之前，我們首先給出相應(yīng)的準(zhǔn)備工具，介紹延遲算子

2、和求解線性差分方程，這些工具會(huì)使得時(shí)間序列模型表達(dá)和分析更為簡(jiǎn)潔和方便，下面是延遲算子的概念。 設(shè) 為一步延遲算子，如果當(dāng)前序列乘以一個(gè)延遲算子，就表示把當(dāng)前序列值的時(shí)間向過(guò)去撥一個(gè)時(shí)刻，即 。 B1ttXBX上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系3 延遲算子 有如下性質(zhì)： B上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系4 定義如下形式方程為序列 的線性差分方程： 其中 ， 為實(shí)數(shù)， 為 的已知函數(shù)。 特別地，當(dāng)函數(shù) 時(shí)，差分方程： 稱為齊次線性差分方程。否則，線性差分方程稱為非齊次線性差分方程。 :0, 1, 2,tzt 11ttptpzzzh t1p 1,p h ttt 0h t 110ttptpzzz上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系5

3、 下列方程： 稱為齊次線性差分方程的特征方程。這是一個(gè)一元p次線性方程，它至少存在p個(gè)非零根，稱這p個(gè)非零根為特征根，記為 。 根據(jù)特征根 的情況，齊次線性差分方程解的解有如下情形：110ppp 12,p 12,p 上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系6 特征根 為互不相同的實(shí)根 這時(shí)齊次線性差分方程的解為 特征根 中有相同實(shí)根 這時(shí)齊次線性差分方程的解為 特征根 中有復(fù)根 這時(shí)齊次線性差分方程的解為12,p 12,p 12,p 1 1tttppzcc2112111dttttdddppzcc tc tcc1 11233tttpptititttppzccrcec ecc上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系7 對(duì)于非齊次線性

4、差分方程解的問(wèn)題，通常分下下列兩個(gè)步驟進(jìn)行：首先求出對(duì)應(yīng)齊次線性差分方程的通解 ，然后再求出該非齊次線性差分方程的一個(gè)特解 ，即 滿足： 則非齊次線性差分方程 的解為對(duì)應(yīng)齊次線性差分方程的解 和該非齊次線性差分方程的一個(gè)特解 之和，即 tztztz 11ttptpzzzh t 11ttptpzzzh ttztztttzzz上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系83.1.1線性過(guò)程的定義上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系9 定理定理3.1 定義（3.1）中的線性過(guò)程是平穩(wěn)序列，且 是均方收斂的。jtjjG 上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系10 下面證明序列 是平穩(wěn)的，容易計(jì)算 ,ZtXt0tjtjjEXG EkttkXEXjtjlt

5、 k ljlEGG 2jj kjG G上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系11上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系123.1.2 線性過(guò)程的因果性和可逆性 在應(yīng)用時(shí)間序列分析去解決實(shí)際問(wèn)題時(shí)，所使用的線性過(guò)程是因果性因果性的，即： 上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系13 設(shè) 為一步延遲算子，則 ， ，(3.4)可表為： 其中， ，今后將把 看作對(duì) 進(jìn)行運(yùn)算的算子，又可作為 的函數(shù)來(lái)討論。 BjttjXXB0j0)(jjjBGBG)(BGtB上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系14 在理論研究和實(shí)際問(wèn)題的處理時(shí)，通常還需要用t時(shí)刻及t時(shí)刻以前的 來(lái)表示白噪聲 ，即 ), 1 , 0(jXjtt上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系15上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系16上海

6、財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系173.2 自回歸過(guò)程AR(p) 上節(jié)中所討論的線性過(guò)程及其逆轉(zhuǎn)形式都是無(wú)窮和的形式，當(dāng)用有限和去逼近時(shí)即產(chǎn)生有限參數(shù)線性模型，而且許多平穩(wěn)序列本身就是由有限參數(shù)線性模型刻畫(huà)的。有限參數(shù)線性模型是時(shí)間序列分析中理論最基礎(chǔ)、應(yīng)用最廣泛的部分。如下將討論AR、MA和ARMA三種有限參數(shù)線性模型。 上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系183.2.1一階自回歸過(guò)程AR(1) 通常地，由于經(jīng)濟(jì)系統(tǒng)慣性的作用，經(jīng)濟(jì)時(shí)間序列往往存在著前后依存關(guān)系。最簡(jiǎn)單的一種情形就是變量當(dāng)前的取值主要與其前一時(shí)期的取值狀況有關(guān)，用數(shù)學(xué)模型來(lái)描述這種關(guān)系就是下面介紹的一階自回歸模型。上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系19上海財(cái)經(jīng)大學(xué)

7、 統(tǒng)計(jì)學(xué)系20 在一階自回歸AR(1)模型中，保持其平穩(wěn)性的條件是對(duì)應(yīng)的特征方程 的根的絕對(duì)值必須小于1，即滿足 。 對(duì)于平穩(wěn)的AR(1)模型，經(jīng)過(guò)簡(jiǎn)單的計(jì)算易得 01上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系21上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系223.2.2 二階自回歸過(guò)程AR(2) 當(dāng)變量當(dāng)前的取值主要與其前兩時(shí)期的取值狀況有關(guān)，用數(shù)學(xué)模型來(lái)描述這種關(guān)系就是如下的二階自回歸模型AR(2)： 引入延遲算子 的表達(dá)形式為：B上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系23上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系24 下面利用特征方程的根與模型參數(shù) 的關(guān)系，給出AR(2) 模型平穩(wěn)的 的取值條件（或值域）。 12, 12, 12(1)(1)0上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系

8、25 (3.16)和(3.17)式是保證AR(2)模型平穩(wěn)，回歸參數(shù) 所應(yīng)具有的條件。反之，若(3.16)和(3.17)式成立，則特征方程 特征方程的根必落在單位圓內(nèi)。 12,2120 上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系26 滿足條件(3.16)和(3.17)式給出的區(qū)域 稱為平穩(wěn)域。對(duì)于AR(2)模型平穩(wěn)域是一個(gè)三角形區(qū)域，見(jiàn)下圖陰影部分。 12212,1,1 上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系27上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系28上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系29 例例3.2 設(shè)AR(2)模型： 試判別 的平穩(wěn)性。 解：解：根據(jù)上述關(guān)于平穩(wěn)條件的討論，可以通過(guò)兩種徑進(jìn)行討論： 120.70.1ttttXXXtX上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)

9、學(xué)系30上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系31 下面我們討論序列的統(tǒng)計(jì)特性，關(guān)于平穩(wěn)的二階自回歸模型AR(2)模型： 上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系323.2.3 p階自回歸過(guò)程AR(p)模型上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系33上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系34 首先，求對(duì)應(yīng)齊次差分方程 的通解 。 假定其對(duì)應(yīng)特征方程 的p個(gè)特征根為 ，根據(jù)前面的討論，一般地，這p個(gè)特征根可能有如下情形： ( )0tB XtX110ppp 12,p 上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系35上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系36再求非齊次差分方程 的一個(gè)特解 。( )ttB XtX上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系37 由此，自回歸系數(shù)多項(xiàng)式可以寫(xiě)為 因此，我們可以得到非齊次差分方程

10、的一個(gè)特解 部分分式展開(kāi)得到 其中 為任意實(shí)數(shù)。1()1pjjBB( )ttB X111( )1tttpjjXBB11111pjtttpjjjjkXBB1,pkk上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系38上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系393.3 移動(dòng)平均過(guò)程MA(q) 3.3.1一階移動(dòng)平均過(guò)程一階移動(dòng)平均過(guò)程MA(1)上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系40 圖3.2為一個(gè)零均值的MA(1)序列200個(gè)模擬數(shù)據(jù)。 上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系41上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系42 類似于自回歸模型的平穩(wěn)性討論，與移動(dòng)平均過(guò)程相聯(lián)系的一個(gè)重要概念是可逆性。對(duì)于零均值的MA(1)序列 1tttX上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系43上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系44

11、3.3.2 q階移動(dòng)平均過(guò)程MA(q)上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系45上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系463.4 自回歸移動(dòng)平均過(guò)程ARMA(p, q) 3.4.1 ARMA(p, q)過(guò)程的平穩(wěn)域和可逆域 上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系47上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系48上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系49上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系50例例3.4 求ARMA(1,1)的平穩(wěn)域和可逆域。 上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系51上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系52 例例3.5 求MA(2)的可逆域。上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系53上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系54上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系55上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系563.4.2 模型的因果性和格(Green)函數(shù) 上海財(cái)經(jīng)大學(xué)

12、 統(tǒng)計(jì)學(xué)系57 對(duì)于零均值的模型，則ARMA(p,q)模型 可表示為： 由部分分式展開(kāi)， 可表為 比較兩邊B的同次冪系數(shù)，得到： ( )( )ttB XB )(BG10( )( ) ( )jjjG BBBG B 上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系58上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系59 可以得到 的遞推公式：jG*1*1,1,lljljjlljljjGlqGGjq 上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系60上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系61上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系62 例例3.7 求ARMA(2,1)模型的格林函數(shù)。上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系63上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系64上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系65上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系663.4.3 模型的逆轉(zhuǎn)

13、形式和逆函數(shù) 上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系67上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系68上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系69 例例3.10 求ARMA(2,1)模型的逆函數(shù)。上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系70上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系71上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系72上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系73上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系743.5 自相關(guān)系數(shù)與偏相關(guān)系數(shù) 3.5.1自相關(guān)系數(shù)及其特征 上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系75上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系76上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系77上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系78上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系79上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系80上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系81上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系82上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系83上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系84上海財(cái)

14、經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系85上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系86上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系87上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系88 3.5.2偏自相關(guān)系數(shù)及其特征偏自相關(guān)系數(shù)及其特征 在對(duì)前面平穩(wěn)時(shí)間序列的分析中，我們看到對(duì)于MA(q)過(guò)程，其自相關(guān)系數(shù)具有q階截尾性，由此我們可以通過(guò)計(jì)算序列的自相關(guān)系數(shù)大致判斷出模型的階數(shù)。但是，對(duì)于平穩(wěn)的自回歸模型AR(p)來(lái)說(shuō)，由于自相關(guān)系數(shù)不具有截尾性，因此我們無(wú)法利用序列的自相關(guān)系數(shù)來(lái)判斷模型的階數(shù)，我們希望找到一種類似地系數(shù)，使得對(duì)自回歸模型AR(p)來(lái)說(shuō)也具有截尾性。上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系89上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系90 1. 偏自相關(guān)系數(shù)的定義上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系91上海財(cái)經(jīng)

15、大學(xué) 統(tǒng)計(jì)學(xué)系92上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系93 2. 偏自相關(guān)函數(shù)的遞推算法上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系94上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系95上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系96 定理定理3.4 設(shè) 為平穩(wěn)序列，則它的偏相關(guān) 函數(shù) 滿足如下遞推公式： 其中， 是 的自相關(guān)系數(shù)。tXkkjtX上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系97 例例3.11 求AR(1)序列的偏自相關(guān)系數(shù)。 解：解： 對(duì) ，計(jì)算可以得到11tttXX1121211111122111111,0111111112121123213111332121111112211111110,111111上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系98 因此有 即對(duì)于 ， ，故對(duì)于AR(1)序列，偏自相關(guān)系數(shù)是一步截尾的。1,10,1kkkk1k 0kk上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系99 例例3.12 求AR(2)序列的偏自相關(guān)系數(shù)。 解：解： 對(duì) ，計(jì)算可以得到 1122ttttXXX11112122211221212222122221111222221222211111111111上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系100上海財(cái)經(jīng)大學(xué) 統(tǒng)計(jì)學(xué)系101 定理定理3.5 零均值平穩(wěn)序列 為AR(