本時(shí)間序列分析第三章(下).ppt

時(shí)間序列分析,第三章ARMA模型的特性,本章共有四節(jié)內(nèi)容：,第一節(jié)格林函數(shù)和平穩(wěn)性第二節(jié)逆函數(shù)和可逆性第三節(jié)自協(xié)方差函數(shù)第四節(jié)自譜,第三節(jié)自協(xié)方差函數(shù),一、自相關(guān)函數(shù),2.理論自相關(guān)函數(shù)與樣本自相關(guān)函數(shù),1.自相關(guān)函數(shù)的引入,3.格林函數(shù)與自協(xié)方差函數(shù)之間的關(guān)系,二、偏自相關(guān)函數(shù),4.ARMA模型自協(xié)方差函數(shù)及其特點(diǎn),一、自相關(guān)函數(shù),1.自相關(guān)函數(shù)的引入,AR(1)模型：,Xt與Xt-j雖不直接相關(guān)，但有一定的相關(guān)關(guān)系，這就是我們這一節(jié)將要給大家介紹的自相關(guān)函數(shù)。,問題：Xt與Xt-2是否有相關(guān)關(guān)系？有怎樣的相關(guān)關(guān)系？怎樣去度量這種相關(guān)關(guān)系？對(duì)MA(1)模型呢？,2.理論自相關(guān)函數(shù)與樣本自相關(guān)函數(shù),Xt：零均值平穩(wěn)時(shí)間序列；任何一個(gè)ARMA模型都可轉(zhuǎn)化為等價(jià)的零均值A(chǔ)RMA模型。,（1）自協(xié)方差函數(shù)cov(Xt，Xt-k)（若Xt零均值平穩(wěn)）E(XtXt-k)=k,（2）理論自相關(guān)函數(shù),自協(xié)方差函數(shù)cov(Xt，Xt-k)=k,（3）樣本自相關(guān)函數(shù)（注：樣本數(shù)據(jù)也先進(jìn)行零均值化處理）,自相關(guān)函數(shù),由此可知，自相關(guān)函數(shù)和自協(xié)方差函數(shù)是關(guān)于零點(diǎn)對(duì)稱的。一個(gè)正態(tài)平穩(wěn)過程Xt能夠被其均值和協(xié)方差函數(shù)（或等價(jià)地，均值、方差和自相關(guān)函數(shù)）完全刻劃。,一個(gè)平穩(wěn)過程的自協(xié)方差函數(shù)具有以下性質(zhì)：,（4）自協(xié)方差函數(shù)和自相關(guān)函數(shù)的性質(zhì),（5）協(xié)差陣,(6)對(duì)樣本自相關(guān)函數(shù)的說(shuō)明,這是因?yàn)楹笳叩姆讲钜∮谇罢撸缓笳呤钦ㄐ蛄?，協(xié)差陣為正定陣，對(duì)平穩(wěn)序列而言，自協(xié)方差的正定性是最本質(zhì)的，常常是相關(guān)分析和參數(shù)估計(jì)的條件。,設(shè)隨機(jī)變量Xt，Xt-1，Xt-2，Xt-n+1的任一線性函數(shù)為：,由于對(duì)平穩(wěn)過程而言，有,可利用協(xié)方差的運(yùn)算法則得到Lt的方差,若li不全為0，則上式必然大于0（方差大于等于0）。,所以Lt的方差為,由于對(duì)任意不全為零的常數(shù),有,相應(yīng)的，自協(xié)方差函數(shù)和自相關(guān)函數(shù)也都是正定的。,由此得知任何平穩(wěn)過程的自協(xié)方差陣和自相關(guān)陣都是正定的。,對(duì)一般的Xt，k步滯后自相關(guān)k最令人滿意的估計(jì)是其中k0，1，2，N；該式是自協(xié)方差的估計(jì)，稱為樣本自協(xié)方差函數(shù)，相應(yīng)的自相關(guān)估計(jì)稱為樣本自相關(guān)函數(shù)。,例1：,Xt的樣本數(shù)據(jù)如下：求其樣本自協(xié)方差函數(shù)和樣本自相關(guān)函數(shù)Xt：47642371386455415948,計(jì)算步驟（1）計(jì)算樣本均值；（2）對(duì)原序列Xt進(jìn)行零均值化處理，得到y(tǒng)t；（3）計(jì)算yt的樣本自協(xié)方差函數(shù)（4）計(jì)算yt的樣本自相關(guān)函數(shù)（見Excel文件）,內(nèi)容回顧:,對(duì)正態(tài)零均值平穩(wěn)Xt,1理論自協(xié)方差函數(shù):,2理論自相關(guān)函數(shù),3理論協(xié)差陣、理論自相關(guān)陣：對(duì)稱性、正定性,4樣本自協(xié)方差函數(shù)和樣本自相關(guān)函數(shù),5樣本自協(xié)方差函數(shù)是根據(jù)樣本計(jì)算的理論自協(xié)方差函數(shù)的估計(jì)值；樣本自相關(guān)函數(shù)是根據(jù)樣本計(jì)算的理論自相關(guān)函數(shù)的估計(jì)值。它們具有“時(shí)間序列分析”課程所特有的特點(diǎn)，與一般估計(jì)不同，計(jì)算時(shí)應(yīng)特別注意。可利用Excel一步步計(jì)算獲得，也可通過其它專用軟件計(jì)算得到。,6要求大家掌握：,ARMA模型的理論自協(xié)方差函數(shù)（理論自相關(guān)函數(shù)）的算法、形式和特點(diǎn)；任給一個(gè)時(shí)間序列（某過程的樣本實(shí)現(xiàn)）計(jì)算其樣本自協(xié)方差函數(shù)（樣本自相關(guān)函數(shù)）,ARMA模型,某隨機(jī)過程,一個(gè)樣本實(shí)現(xiàn),時(shí)間序列,理論值,樣本值,3.格林函數(shù)與自協(xié)方差函數(shù)之間的關(guān)系,例1：求AR(1)的自協(xié)方差函數(shù)及自相關(guān)函數(shù),結(jié)論：AR(1)的格林函數(shù)即是AR(1)的自相關(guān)函數(shù),例2：求MA(1)的自協(xié)方差函數(shù)及自相關(guān)函數(shù),結(jié)論：MA(1)的格林函數(shù)和MA(1)的自相關(guān)函數(shù)有相同的特點(diǎn),那么：格林函數(shù)與自協(xié)方差函數(shù)之間到底有怎樣的關(guān)系？,從自協(xié)方差的定義出發(fā)，利用模型的傳遞形式來(lái)考察格林函數(shù)與自協(xié)方差函數(shù)之間的關(guān)系。,得到如下結(jié)論：,例3：利用格林函數(shù)與自協(xié)方差函數(shù)之間的關(guān)系，重新計(jì)算AR(1)和MA(1)的自協(xié)方差函數(shù)及自相關(guān)函數(shù)。,即：格林函數(shù)和自協(xié)方差函數(shù)滿足下面等式：,例4：計(jì)算MA(q)的自相關(guān)函數(shù)。,MA(q)的Gj為：,其自相關(guān)函數(shù)為：,4.ARMA模型自協(xié)方差函數(shù)及其特點(diǎn),AR(1)：,MA(1)：,有：,例5：求AR(2)模型的自相關(guān)函數(shù)。,例6：對(duì)下面模型，求其各自的自相關(guān)函數(shù),例7：寫出下面模型的自協(xié)方差函數(shù)并說(shuō)明其自相關(guān)函數(shù)的特點(diǎn)。,自相關(guān)函數(shù)是拖尾的。,我們對(duì)表3.1給出的數(shù)據(jù)計(jì)算其樣本自相關(guān)函數(shù),表3.1化工過程一組70個(gè)順次產(chǎn)量的序列,取表中前10個(gè)數(shù)據(jù)，利用Excel計(jì)算得到r1為-0.78956，利用Minitab計(jì)算該時(shí)間序列的前18個(gè)樣本自相關(guān)值，得如下結(jié)果：,ACF-1.0-0.8-0.6-0.4-0.20.00.20.40.60.81.0+-+-+-+-+-+-+-+-+-+-+1-0.390XXXXXXXXXXX20.304XXXXXXXXX3-0.166XXXXX40.071XXX5-0.097XXX6-0.047XX70.035XX8-0.043XX9-0.005X100.014X110.110XXXX12-0.069XXX130.148XXXXX140.036XX15-0.007X160.173XXXXX17-0.111XXXX180.020X,重要結(jié)論：,可以證明：AR(p)模型自相關(guān)函數(shù)都是拖尾的，MA(q)模型自相關(guān)函數(shù)q步截尾，ARMA(p,q)模型的自相關(guān)函數(shù)拖尾。ARMA模型自相關(guān)函數(shù)的變化特點(diǎn)與格林函數(shù)相同，其本質(zhì)是自相關(guān)函數(shù)k也滿足AR部分的齊次差分方程。,此種性質(zhì)稱為截尾。對(duì)MA(q)模型，自相關(guān)函數(shù)q步后截尾，簡(jiǎn)稱q步截尾。,2.MA(1)模型：,1.AR(1)模型：，當(dāng)時(shí)，模型平穩(wěn)，此時(shí)自相關(guān)函數(shù)逐漸趨于零，其速度與自回歸參數(shù)有關(guān)。這種性質(zhì)稱為拖尾。若參數(shù)為正，呈指數(shù)衰減到零，若參數(shù)為負(fù)，正負(fù)交錯(cuò)衰減到零。,二、偏自相關(guān)函數(shù),3.偏自相關(guān)函數(shù)的概率意義,1.偏自相關(guān)函數(shù)的引入,2.偏自相關(guān)函數(shù)的一般定義,4.偏自相關(guān)函數(shù)的計(jì)算,5.利YuleWolker方程計(jì)算,1.偏自相關(guān)函數(shù)的引入,對(duì)MA(q)模型，其自相關(guān)函數(shù)是q步截尾的，這是MA的特有標(biāo)志，但AR和ARMA模型，其自相關(guān)函數(shù)卻都是拖尾的。是否有某種統(tǒng)計(jì)量能體現(xiàn)AR的獨(dú)有特性？有沒有一種函數(shù)，對(duì)MA模型是拖尾的，對(duì)AR模型卻是截尾的？回答是肯定的，這就是我們將要介紹的偏自相關(guān)函數(shù)。,用kj記k階回歸表達(dá)式中的第j個(gè)系數(shù)，kk就是最后一個(gè)系數(shù)。利用線性最小二乘估計(jì)得到其中的系數(shù)，即對(duì)k，可選擇系數(shù),達(dá)到極小值的系數(shù)（k階自回歸中Xt-k的系數(shù)）稱為偏自相關(guān)函數(shù)。,2.偏自相關(guān)函數(shù)的一般定義,使得：,Xt：零均值平穩(wěn)時(shí)間序列，由Xt-1，Xt-2，Xt-k對(duì)Xt做回歸，,即有：,AR(1)：Xt只與Xt-1直接相關(guān)，與Xt-j(j1)不直接相關(guān)，但其自相關(guān)函數(shù)卻是拖尾的。也即Xt與Xt-2有關(guān)系。這是因?yàn)閄t與Xt-1相關(guān)，而Xt-1又與Xt-2相關(guān)，Xt由于Xt-1的緣故與Xt-2相關(guān)。事實(shí)上，Xt剔除Xt-1的影響后與Xt-2可能不相關(guān)。剔除中間變量影響后的相關(guān)就是偏自相關(guān)。,3.偏自相關(guān)函數(shù)的概率意義,所以，對(duì)AR(P)模型，偏自相關(guān)函數(shù)p階截尾。即,從另一角度來(lái)看，對(duì)AR模型來(lái)說(shuō)，第k個(gè)偏自相關(guān)系數(shù)就是AR模型中Xt-k的回歸系數(shù)，那么對(duì)于AR(p)模型，有,即，對(duì)AR(P)模型，偏自相關(guān)函數(shù)p階截尾。,總的相關(guān)關(guān)系：,直接相關(guān)間接相關(guān),自相關(guān)函數(shù)是不考慮是否有中間影響的Xt間的總的相關(guān)關(guān)系。偏自相關(guān)函數(shù)是剔除中間影響后的相關(guān)，是一種直接相關(guān)關(guān)系，也即描述Xt與Xt-k之間部分的相關(guān)關(guān)系，也即是一種條件相關(guān)。,4.偏自相關(guān)函數(shù)的計(jì)算,5.利用YuleWolker方程計(jì)算,根據(jù)偏自相關(guān)函數(shù)的一般定義和極值原理，對(duì),關(guān)于,求導(dǎo)，得到：,最后得到：,將矩陣展開為方程組，即為Yule-Walker方程。,對(duì)k1，2，3，依次求解Yule-Walker方程，得到,一個(gè)p階自回歸過程，當(dāng)k小于或等于p時(shí)，偏自相關(guān)函數(shù)kk不為零，而當(dāng)k大于p時(shí)，偏自相關(guān)函數(shù)kk為零，即AR(p)過程的偏自相關(guān)函數(shù)是p階截尾的。通過計(jì)算推導(dǎo)可以證明，MA模型和ARMA模型的偏自相關(guān)函數(shù)都是拖尾的。根據(jù)MA模型的逆轉(zhuǎn)形式可知，偏自相關(guān)函數(shù)有無(wú)窮多個(gè)；若模型可逆，則PACF拖尾。,對(duì)于平穩(wěn)可逆的ARMA過程：（1）ARMA(p,q)過程的ACF會(huì)從滯后期q開始衰減。即ACF滿足AR部分的齊次線性差分方程，其模式將會(huì)按特征根所表示的形式變化。（2）ARMA(p,q)過程的PACF會(huì)從滯后期p開始衰減。PACF會(huì)依照模型的PACF系數(shù)的形式變化。,第四節(jié)自譜,目前國(guó)內(nèi)外通常是從兩種角度出發(fā)對(duì)時(shí)間序列進(jìn)行分析，一種是將時(shí)間序列看成是依時(shí)間順序發(fā)展的數(shù)據(jù)列，根據(jù)序列前后期之間存在的相關(guān)關(guān)系對(duì)時(shí)間序列進(jìn)行更深層次的分析，這種分析稱為時(shí)域分析。另一種是從波的角度出發(fā)，將時(shí)間序列看成是不同的波的疊加，并通過研究波動(dòng)的頻率特征來(lái)刻劃時(shí)間序列的特性，這種分析稱為時(shí)間序列的頻域分析。,在時(shí)域分析中，自相關(guān)函數(shù)是主要工具，是分析平穩(wěn)時(shí)間序列Xt的統(tǒng)計(jì)規(guī)律的數(shù)字特征。在頻域分析中，譜密度是主要工具，是分析平穩(wěn)時(shí)間序列Xt的統(tǒng)計(jì)規(guī)律的數(shù)字特征。兩種分析方法相互補(bǔ)充，互不矛盾，也是相互驗(yàn)證，是一致的。,時(shí)間序列分析方法：,時(shí)域分析：在時(shí)間域用有限參數(shù)模型描述時(shí)間序列的相關(guān)結(jié)構(gòu)，并通過對(duì)模型的統(tǒng)計(jì)分析更進(jìn)一步掌握序列的特性，主要工具是差分方程及自相關(guān)函數(shù)。,頻域分析：在頻率域中考察時(shí)間序列，將時(shí)間序列看成是由不同頻率的正弦、余弦波組成，并通過研究波動(dòng)的頻率特征來(lái)刻劃時(shí)間序列的特性，主要工具是傅立葉變換及譜、譜密度。,時(shí)域和頻域是以不同的方式刻畫時(shí)間序列的特性，時(shí)域方法直接分析觀測(cè)到的依時(shí)間變化的數(shù)據(jù)，頻域方法是將時(shí)間序列看成是不同諧波的疊加，著重研究波動(dòng)的頻率特征。,第四節(jié)自譜,第3章小結(jié),1對(duì)任何一個(gè)ARMA模型，（1）能夠?qū)懗龌蚯蟪銎涓窳趾瘮?shù)的隱式解、顯式解及其傳遞形式；（2）能夠?qū)懗龌蚯蟪銎淠婧瘮?shù)的隱式解、顯式解及其逆轉(zhuǎn)形式；（3）能判斷出該模型是否平穩(wěn)；（4）能判斷出該模型是否可逆；（5）能夠求出其理論自協(xié)方差和理論自相關(guān)函數(shù)的形式；（6）能夠說(shuō)出其自相關(guān)函數(shù)和偏自相關(guān)函數(shù)的特點(diǎn)。,2對(duì)任何一個(gè)時(shí)間序列，會(huì)計(jì)算其樣本自相關(guān)函數(shù)和偏自相關(guān)函數(shù)，并據(jù)此初步判斷該序列屬于什么模型。,3掌握自相關(guān)函數(shù)