第八章時間序列分析

第八章時間序列分析第1頁，共29頁，2023年，2月20日，星期一第八章1隨機過程隨機時間序列與隨機過程由一串不同時刻的隨機變量x1,x2,…,所構成的序列稱為隨機時間序列，用xt(t=1,2,…)來表示。當隨機時間序列中的時間t是連續(xù)變化時，就稱為隨機過程，記為X(t)，是時間t的函數(shù)。自然界的變化過程可分為兩大類：確定過程和隨機過程。如果每次試驗所得到觀測過程都相同，且都是時間t的一個確定的函數(shù)，具有確定的變化規(guī)律，這種過程就稱為“確定過程”。如果每次實驗所得到的觀測的過程都不同，是時間t的不同的函數(shù)，實驗前無法預知這次實驗會隨時間呈現(xiàn)怎樣的過程，這種過程就稱為：“隨機過程”。即：“隨機時間序列”是“隨機過程”的離散形式。第2頁，共29頁，2023年，2月20日，星期一

月年一二三四五六七八九十十一十二1951-2.2-0.54.39.716.020.723.625.421.917.78.44.519520.4-1.43.710.416.220.524.224.121.415.68.8-0.41953-2.30.04.710.716.120.624.725.822.418.58.42.519540.30.53.69.714.619.022.024.621.315.111.1-1…………………………………例表8.1：青島市逐年年各月平均氣溫表格中的任一行表示氣溫在一年中的變化，可認為是在相同條件下所做的一次獨立實驗。氣溫隨時間的演變過程是連續(xù)的，雖存在春夏秋冬的周期性規(guī)律，但是每年的過程都不完全相同。

每次實驗結果都是t的不同的函數(shù)，具有隨機性，所以氣溫的變化過程就是一種“隨機過程”。固定表中的某一列(同一個月份)，可以視為是在一定條件下的隨機變量序列，稱為“靜態(tài)時間序列”（具有相同的期望，冬天低，夏天高）。第3頁，共29頁，2023年，2月20日，星期一截口而對于某一時刻tj來說，隨機過程就表現(xiàn)為一個隨機變量，記為X(tj)，稱為隨機過程的一個“截口”。名詞：現(xiàn)實：針對隨機過程X(t)的某一次觀測過程，稱為隨機過程X(t)中的一個觀測“現(xiàn)實”(realization),或稱“樣本函數(shù)”，用小寫字母表示，記為x(t)。

月年一二三四五六七八九十十一十二1951-2.2-0.54.39.716.020.723.625.421.917.78.44.519520.4-1.43.710.416.220.524.224.121.415.68.8-0.41953-2.30.04.710.716.120.624.725.822.418.58.42.519540.30.53.69.714.619.022.024.621.315.111.1-1…………………………………第4頁，共29頁，2023年，2月20日，星期一隨機時間序列的統(tǒng)計特征1均值函數(shù)隨機時間序列X在任一指定時刻t表現(xiàn)為一個隨機變量，它的期望記為：E(X(t))，該隨機變量可以隨機地取任意值，設它的各種取值的概率密度函數(shù)為：f(x,t)，則有：各個觀測現(xiàn)實(樣本函數(shù))都圍繞著均值函數(shù)擺動；均值函數(shù)反映了各個時刻X(t)的擺動中心，它是X(t)的所有現(xiàn)實在t時刻的總平均。因此，

μ(t)是個確定性的t函數(shù)。對表8.1來說，對每列求平均就得到了μ(t)的估計。μ(t)稱為隨機過程X(t)的數(shù)學期望。由于μ(t)是t的函數(shù)，因此被稱為“期望函數(shù)”或“均值函數(shù)”。第5頁，共29頁，2023年，2月20日，星期一2方差函數(shù)隨機過程的某一個截口處，為一個隨機變量X(t)，該隨機變量取值的變化程度，可用方差來衡量，這就是隨機過程的方差函數(shù)。方差函數(shù)也是時間t的確定性的函數(shù)，反映了每個截口處取值的變動情況，即相對于均值函數(shù)的離散程度。注意：即使兩個隨機過程的均值函數(shù)和方差函數(shù)都完全一樣，那么他們仍可能具有完全不同的特點，如下圖A與B中兩個隨機過程(每條曲線為一個現(xiàn)實)。(A)(B)A與B具有幾乎相同的均值和方差函數(shù)，但內部結構卻是完全不同的。A中每個現(xiàn)實的變化較為緩慢，在t1和t2時刻具有相關性；B則是無規(guī)則的大幅波動。這種內部結構的描述可通過協(xié)方差(或相關)函數(shù)來實現(xiàn)。第6頁，共29頁，2023年，2月20日，星期一3.協(xié)方差函數(shù)和相關函數(shù)隨機過程在任兩個時刻(截口)t1和t2表現(xiàn)為兩個隨機變量，這兩個隨機變量可以存在相關性，即存在協(xié)方差和相關系數(shù)。K(t1,t2)稱為自協(xié)方差函數(shù)，簡稱為協(xié)方差函數(shù)。當t1=t2=t時，自協(xié)方差函數(shù)就是隨機過程在第t時刻的方差。t1和t2時刻的相關系數(shù)為：ρ(t1,t2)稱為自相關函數(shù)，簡稱為相關函數(shù)，表示隨機過程X(t)在不同時刻t1和t2之間線性相關的程度。它們的協(xié)方差為：第7頁，共29頁，2023年，2月20日，星期一第八章2平穩(wěn)時間序列及其遍歷性平穩(wěn)隨機過程如果隨機過程的統(tǒng)計特性不隨時間的推移而變化，即其均函數(shù)是與t無關的常數(shù)：并且，協(xié)方差函數(shù)僅僅與時間間隔τ有關，而與t的起始點位置無關，即：這種隨機過程稱為：“廣義平穩(wěn)隨機過程”或“寬平穩(wěn)隨機過程”。相應的時間序列資料稱為：“寬平穩(wěn)時間序列”。有“廣義平穩(wěn)”或“寬平穩(wěn)”序列，相應地也就有“狹義平穩(wěn)”或“嚴平穩(wěn)”序列。嚴平穩(wěn)序列的“嚴格之處”是指：它要求隨機過程的全部概率特性(包括概率密度f(x,t))在任意t時刻都要相同。對氣象要素的變化過程而言，嚴平穩(wěn)過程的條件難以滿足。從實際意義的角度來說，我們并不需要考慮全部概率特性的平穩(wěn)，只要求寬平穩(wěn)就足夠了。以后談到“平穩(wěn)時間序列”時，主要是指“寬平穩(wěn)時間序列”而言。第8頁，共29頁，2023年，2月20日，星期一平穩(wěn)隨機過程中有一個較廣的應用——白噪聲過程對于一個零均值的隨機過程a，若其方差滿足：則稱此隨機過程為：白噪聲過程。白噪聲表示不含有任何規(guī)律性波動的純隨機過程，可認為白噪聲沒有“記憶”。常用白噪聲過程來表示“隨機誤差”。當資料為離散的時間序列資料時，稱為“白噪聲序列”?！鞍自肼暋泵值膩碓矗侯愃莆锢砩系陌咨?，白色光是由強度相同的各種波長的顏色諧波共同組成；白噪聲就是由強度相同的各種頻率的振動共同組成的隨機序列。第9頁，共29頁，2023年，2月20日，星期一平穩(wěn)隨機過程的基本統(tǒng)計特征不隨時間改變，如何來估計這些統(tǒng)計特征？根據定義，若對隨機過程進行觀測，獲得了n個觀測現(xiàn)實，以xj(ti)表示第j個觀測現(xiàn)實在ti截口的取值，則可對隨機過程的統(tǒng)計特征作出如下估計：以上統(tǒng)計量的計算要依賴于n個現(xiàn)實，但在很多實際問題中，我們能觀測到的只有一個現(xiàn)實，于是產生一個想法：能否用一個現(xiàn)實來代替多個現(xiàn)實，以估計隨機過程的統(tǒng)計特征？注意此處的n代表現(xiàn)實的個數(shù)；第10頁，共29頁，2023年，2月20日，星期一要想用一個現(xiàn)實來估計隨機過程的統(tǒng)計特征，該現(xiàn)實需要滿足條件：——該現(xiàn)實要能經歷(遍歷)隨機過程各種可能的狀態(tài)。圖A圖B比較圖A與圖B所示的兩種平穩(wěn)隨機過程。圖中每條曲線代表一個現(xiàn)實。平穩(wěn)隨機過程A：每個現(xiàn)實都圍繞著隨機過程的均值波動，且他們的平均振幅都差不多，該隨機過程的一個現(xiàn)實就可以近似代表整個隨機過程的屬性。平穩(wěn)隨機過程B：每個現(xiàn)實都圍繞不同的數(shù)學期望波動，且振幅也不一致，僅僅靠一個現(xiàn)實無法代表整個隨機過程的特性。類似平穩(wěn)隨機過程A這樣，對于任意一個現(xiàn)實，只要觀測時間足夠長，就可把該現(xiàn)實的時間平均作為整個隨機過程總體均值的近似值，具有這種性質的平穩(wěn)隨機過程就稱其具有“各態(tài)歷經性”（或“各態(tài)遍歷性”）。第11頁，共29頁，2023年，2月20日，星期一對于具有各態(tài)遍歷性的平穩(wěn)過程，用“一個現(xiàn)實”來確定其統(tǒng)計特征時，求平均的時間區(qū)間取得越長，其估計誤差就越小。因此，對氣象問題來說，凡是具備各態(tài)歷經性的平穩(wěn)過程，就可以用一個充分長的現(xiàn)實來代替多個現(xiàn)實。由這一個現(xiàn)實的時間平均來代替多個現(xiàn)實的總平均來估算期望函數(shù)或協(xié)方差函數(shù)等統(tǒng)計特征。設某具有各態(tài)遍歷性的平穩(wěn)時間序列，若有一個充分長的觀測現(xiàn)實，x1,x2,…,xn，則其均值函數(shù)的估計值為：對“各態(tài)歷經性（遍歷性）”的理解各態(tài)歷經性是建立在平穩(wěn)隨機過程的每一個現(xiàn)實幾乎可以代表所有可能現(xiàn)實的基礎上的，或者說，一個充分長的現(xiàn)實能近似代替短時間內各現(xiàn)實的總體。各態(tài)遍歷性的應用第12頁，共29頁，2023年，2月20日，星期一時滯為τ的自協(xié)方差函數(shù)的估計值為：自相關函數(shù)的估計值為：特別地，當τ=0時，協(xié)方差變?yōu)榉讲顂2：自相關函數(shù)還可寫為標準化數(shù)據的自協(xié)方差函數(shù)：要驗證某隨機過程是否為“各態(tài)歷經性”，比較困難；通常假設所研究的平穩(wěn)過程具有各態(tài)歷經性，然后從這個假設出發(fā)，計算時間序列的各種統(tǒng)計特征。注意此處的n代表一個現(xiàn)實(時間序列)的長度，而非現(xiàn)實的個數(shù)；第13頁，共29頁，2023年，2月20日，星期一第8章3平穩(wěn)時間序列預報如何對平穩(wěn)時間序列做預報？時間序列某個時刻的取值，可能與前一時刻的取值有關，于是可建立回歸模型，尋找變量在不同時刻的聯(lián)系，因此這種回歸模型稱為自回歸模型(Autoregressive(AR)Model)。一階自回歸模型表示要素在某一時刻與前一時刻之間的線性回歸模型，稱為一階自回歸模型，記為AR(1)。對隨機時間序列xt（設已中心化），有：用前一時刻的xt-1乘以上式兩邊，然后取數(shù)學期望，得：Xt-1只與前一時刻的白噪音有關，而與后面(t)時刻的白噪音無關。第14頁，共29頁，2023年，2月20日，星期一于是，一階自回歸模型可寫為：由以上遞推公式知，第t-1時刻可寫為：將xt-1的表達式代入xt的表達式：依此類推，第t時刻的xt與第t-τ時刻的xt-τ的關系可表示為：這表征了落后τ時刻與落后1時刻的自相關函數(shù)的關系。這表明：某時刻的氣象要素還可看成是前期無窮多白噪聲共同影響的結果。第15頁，共29頁，2023年，2月20日，星期一符合一階自回歸模型的隨機過程，被稱為：紅噪聲過程(又稱為“馬爾可夫過程”)，第t時刻的xt僅與前一時刻的xt-1有關。紅噪聲就是指：過程在t>t0時刻所處的狀態(tài)與過程在t0之前(t<t0)所處的狀態(tài)無關,只與第t0時刻的狀態(tài)有關。通俗地說，在已經知道“現(xiàn)在”的條件下，要想推測“未來”無需依賴“過去”。紅噪聲沒有任何周期性。反映了信號的時間延續(xù)性。紅噪聲過程第16頁，共29頁，2023年，2月20日，星期一設具有各態(tài)歷經性的標準化平穩(wěn)時間序列為：x1,x2,x3，…,xn

要預報第t時刻的值，利用前期第t-1,t-2,…,t-p,共p個時刻的值作為因子變量，建立多元回歸方程，即：以上多元自回歸模型稱為：p階自回歸模型，記為AR(p)。p階自回歸模型第17頁，共29頁，2023年，2月20日，星期一p階自回歸系數(shù)的估計為求解回歸系數(shù)，類似AR(1)模型，用xt-1，xt-2，…，

xt-p依次乘以上式的兩端，并取數(shù)學期望，可以得到p個方程。首先考察第1個方程，即用xt-1乘以上式兩端，并取期望，得：通過以上分析可知，第一個方程可以寫為：第18頁，共29頁，2023年，2月20日，星期一可得方程組：寫成矩陣形式，并利用ρ0=1：以上求解自回歸系數(shù)的多元回歸方程正規(guī)方程組稱為：尤拉-沃爾克（Yule-Walker）方程。同理，對第二個方程兩邊同乘以xt-2，然后取期望，可寫為：同理，第p個方程兩邊同乘以xt-p，然后取期望，可寫為：與多元回歸的正規(guī)方程組本質上相同。第19頁，共29頁，2023年，2月20日，星期一在實際中，我們要利用平穩(wěn)時間序列的一個樣本現(xiàn)實，求解自回歸系數(shù)。自回歸方程的經驗形式，可寫成：實際計算時，利用標準化序列計算自相關函數(shù)，得到自相關函數(shù)的估計值，記為：于是，把ρ換成r，求解自回歸系數(shù)的尤拉-沃爾克方程寫為：第20頁，共29頁，2023年，2月20日，星期一不同形式的自回歸方程前面推導的自回歸預報方程是標準化變量的，若將上式兩端乘以序列的標準差s，即得到自回歸的距平形式：將上式加上時間序列的均值，即為自回歸的原值形式（為方便記符，等號右側采用與距平變量相同的符號）：可見，自回歸預報方程，無論是原值形式、距平形式、還是標準化形式，自回歸系數(shù)都是相同的。多元回歸的標準化變量與距平變量形式的回歸方程具有不同的回歸系數(shù)，而自回歸具有相同的回歸系數(shù)，本質上是因為：xt、xt-1…等具有相同的標準差?；貞洠翰煌问降亩嘣貧w的回歸系數(shù)是怎樣的？第21頁，共29頁，2023年，2月20日，星期一例：某臺站有15年(1978-1992)的年降水資料，并假設是具有各態(tài)遍歷性的平穩(wěn)時間序列，試建立AR(3)模型，并外推下一年的值。因為要建立AR(3)模型，所以需要用到的自相關系數(shù)是r1,r2,r3，算得r1=-0.041,r2=-0.438,r3=-0.286;代入AR(3)模型：得：解以上方程組得：因此，距平(或標準化)形式的3階自回歸預報方程為：第22頁，共29頁，2023年，2月20日，星期一顯著性檢驗因此，該自回歸方程不能通過顯著性水平為0.05的檢驗。本例為AR(3)，m=3，x序列的總長度為15，但用于實際回歸方程計算的樣本長度n=15-3=12第23頁，共29頁，2023年，2月20日，星期一利用AR(3)模型，根據前三年的降水距平值可以預測下一年的距平值。例如，要估計1993年的降水距平值，就將1992、1991、1990年的降水距平值代入AR(3)模型：若要對原始值而非距平值進行預測，需在距平值的預報結果的基礎上加上原始變量的均值588.57：對于該問題，1978-1992年15年的年降水資料的均值為588.57；1990、1991、1992年的降水原始數(shù)據為：928.2，573.2，407.0；1990、1991、1992年的降水距平數(shù)據為：339.63，-15.37，-181.57；自回歸遞推預報第24頁，共29頁，2023年，2月20日，星期一遞推多步的預報例如，根據AR(3)模型，如果已經有了第t-1,t-2,t-3這三個時刻的觀測值xt-1，xt-2,xt-3,現(xiàn)要預測第t+2時刻的值，應如何計算？采用自回歸遞推預報！通過遞推3步，最終獲得了第t+2時刻的估計值。注意：遞推預報xt+2時，由于xt和xt+1的值也是通過遞推預報估計出來的，帶有誤差，因此，最終預報的xt+2累積了誤差，遞推步數(shù)越多，累積的誤差越大，影響預報效果。為了避免誤差過度積累，遞推的步數(shù)不宜太多，應該小于自回歸模型的階數(shù)。第25頁，共29頁，2023年，2月20日，星期一自回歸遞推預