非平穩(wěn)模型估計

1、第四節(jié) 求和模型與季節(jié)模型 的處理方法一. 求和模型ARIMA的識別與擬合1. 求和模型的識別方法方法一 直接觀察數(shù)據(jù)圖形的方法：根據(jù)數(shù)據(jù) 畫出數(shù)據(jù)曲線圖，通過觀察曲 線的形狀，可初步判別是否需要擬合求和模型。 例：數(shù)據(jù)1 數(shù)據(jù)2 數(shù)據(jù)3 數(shù)據(jù)4 方法二. 數(shù)據(jù)樣本自相關函數(shù)分析法：當序列含有趨勢項時，序列的樣本自相關函數(shù) 的尾部不衰減到零值，特別地，所含趨勢項為多項式時， 將近似于常數(shù)為1的序列。 例：序列1 樣本自相關函數(shù)： 序列2 序列2樣本自相關函數(shù) 序列3 序列3的樣本自相關函數(shù) 另外，還可從數(shù)據(jù)的來源判斷使用求和模型的合理性。2. 判斷求和模型ARIMA(p,d,q)的階數(shù)d對AR

2、IMA(p,d,q)模型的研究焦點是對差分階數(shù)d的判別。d的判別方法：(1) 用動態(tài)數(shù)據(jù) 的實際背景來確定。若數(shù)據(jù)圍繞著某條曲線變化，而此曲線是近似線性的，則判斷差分階數(shù)d=1,若此曲線可由二次多項式近似，則判斷階數(shù)d=2,一般地，若該曲線可由d次t的多項式逼近，則可對原序列 作d次差分 ，而 可按平穩(wěn)序列建模。 (2) 采用數(shù)據(jù)處理的方法：對原動態(tài)數(shù)據(jù) 分別作j次差分， ，連同原數(shù)據(jù)共有D+1套 動態(tài)數(shù)據(jù)，然后對每套數(shù)據(jù)求出樣本自相關函數(shù)和樣本 偏相關函數(shù)為 ,綜合分析它 們的截尾性或拖尾性，最后判定為何種模型，再建立相 應的模型。 2. 求和模型的擬合步驟1：判斷p值，對原數(shù)據(jù)進行d次差分

3、運算，即 (4.1) 例：當d=2時， 為 的二次差分序列，即， 步驟2：根據(jù)差分后的數(shù)據(jù)序列 按照前幾節(jié)的方法，擬合AR、MA、ARMA模型，包括模型參數(shù)的估計以及對階數(shù)p,q的估計，即 (4.2) 結合(4.1)和(4.2)，得到ARIMA(p,d,q)的擬合模型為， (4.3)步驟3：對擬合求和模型 的檢驗：即是檢驗 是否符合(4.2)的模型，亦是對擬合后的殘差進行白噪聲檢驗. 步驟3：對擬合求和模型 的檢驗：即是檢驗 是否符合(4.2)的模型，亦是 對擬合后的殘差進行白噪聲檢驗。 例：某國1960年至1993年GNP平減指數(shù)的季度時間序列。要求對序列進行模型識別。(sample12)

4、第一步：判斷差分階數(shù)d=1,對數(shù)據(jù) 進行一階差分 第二步：對差分后序列進行ARMA模型擬合。觀察樣本自相關函數(shù)和偏相關函數(shù)，初步判斷為AR模型。使用AIC定階準則和最小二乘估計方法。判斷階數(shù)p=2, ,即 擬合后的殘差圖 第三步：擬合模型的檢驗：采用正態(tài)檢驗， 于是，擬合模型為： 二. 季節(jié)模型的識別與擬合季節(jié)ARMA模型： 其中T是周期， 是某個ARMA(p,q)模型的特征多項式，實際問題中T經(jīng)常的取值是4，7或12。 星期一二三四五六日一周二周n+1周 上述表中的每一列都可以看成一個時間序列，將數(shù)據(jù)(4.5)的第j列零均值化 (4.6) 其中 (4.7)首先，用數(shù)據(jù)(4.6)建立模型： (

5、4.8)其中 在相隔T步上為白噪聲序列，而相隔小于T步時是相關的，即其次， 仍為平穩(wěn)序列，故需對 建立ARMA(p,q)模型， (4.9)其中 對季節(jié)內(nèi)外為白噪聲序列，將(4.9)代入(4.8),得到季節(jié)ARMA 模型， (4.10) 季節(jié)模型(4.10)實際上是一個ARMA(p+7P，q+7Q)模型，只是其中又很多的系數(shù)是零。季節(jié)模型的擬合方法：第一步：設 是數(shù)據(jù) 的樣本自協(xié)方差函數(shù)，利用 擬合一個 模型： 要求這個模型通過模型檢驗；第二步：利用 擬合一個 模型：要求這個模型通過模型檢驗。于是， 為了得到更精確的估計，可將模型看作疏系數(shù)的ARMA模型，使用前幾節(jié)的ARMA模型參數(shù)的極大似然估

6、計方法或最小二乘估計法估計模型(4.10)中的參數(shù)。 例：北京市1990.1-2000.12氣溫數(shù)據(jù)（sample6） 差分運算 觀察序列tempx1的樣本自相關函數(shù)和偏相關函數(shù)，建模ls tempx ar(1) ar(2) ma(1) ma(2) sar(12) sma(12) 殘差檢驗 三. 乘積模型的擬合如果時間序列既具有趨勢項又具有周期項，需采用乘積模型來擬合。在上例中如果每一列的數(shù)據(jù)需要經(jīng)過差分后才能進行季節(jié)ARMA模型的擬合，模型將改寫為， 稱之為乘積模型 . 實際問題中，d和D的取值一般很小，例如：D=0或1。季節(jié)模型 實際上是一個乘積模型 。 一種簡單的乘積模型： (4.11)

7、 其中T為某一正整數(shù)，表示周期。 為某一平穩(wěn)可逆的ARMA(p,q)序列。(1)模型的擬合 在T和D已知時，首先對 進行差分變換 (4.12) 其中， 滿足故，只需對 擬合形如(4.1)的求和模型，就可得到模型(4.11)的參數(shù)估計。(2) T和D的取值判斷 a. T表示周期，它有較明顯的物理背景，可根據(jù)數(shù)據(jù)的實際背景確定T的大小 b. D的確定，可使用逐步嘗試的方法。即對D=1,2逐一嘗試，并擬合(4.11),若模型檢驗通過，則確定該值為D的取值。 例：航空客流量數(shù)據(jù)。 數(shù)據(jù)的預處理： (1) xx=log(x) (2) cx=xx-5.542193 模型的建立：對數(shù)據(jù)cx: 對數(shù)據(jù)dcx進

8、行一次差分運算 對數(shù)據(jù)ddcx建立模型：使用最小二乘估計方法，得到ls ddcx ma(1) ma(2) ma(3) 模型的殘差檢驗： 結論：客流量的模型為 另一種方法建模：觀察序列ddcx的樣本自相關函數(shù)和偏相關函數(shù)。ls d(log(x),1,12) ar(1) ar(2) ar(3) ma(1) sar(12) sma(12)ls ddcx ar(1) ar(2) ar(3) ma(1) sar(12) sma(12)ls d(log(x),1,12) ar(1) ar(3) ma(1) sar(12) sma(12)ls d(log(x),1,12) ar(3) ma(1) sar(1

9、2) sma(12)ls d(log(x),1,12) ar(3) ma(1) sar(12) sma(12) 1. 設 為零均值平穩(wěn)序列，由它的長度為N=100的樣本算得樣本自相關函數(shù) 及樣本偏相關函數(shù) 的前6個數(shù)值如下又知 ，試求：(1) 為哪種模型，并說明理由。(2) 對模型參數(shù)和白噪聲方差給出矩估計。(3) 判斷所建立的模型是否具有平穩(wěn)性（或可逆性），并給出模型的傳遞形式（或逆轉形式） k123456-0.8000.670-0.1580.390-0.3100.221-0.8000.0850.112-0.046-0.0610.038 2. 全國城鎮(zhèn)居民儲蓄額年數(shù)據(jù)序列 的建模。下表給出1

10、952年至1991年儲蓄額年數(shù)據(jù)(億元)8.612.214.316.922.427.925.147.351.139.231.435.644.852.357.759.862.361.064.573.385.194.1105.8114.6122.2135.1154.9202.6282.5354.1447.3572.6776.61057.81471.52067.62659.23734.85192.66790.9 第五節(jié) 疏系數(shù)自回歸模型 的處理方法疏系數(shù)自回歸模型： (5.1)其中， 為白噪聲序列，且 ， 為未知的正整數(shù)足標值，為未知參數(shù)。這里不假定任何平穩(wěn)性條件成立。 一. 參數(shù)估計令其中 表示矩

11、陣 的第s列矢量，它們的定義為 使用上述記號，(5.1)可簡寫為 (5.2）其中的P應比 大，但比樣本長度n要小得多。于是，當 已知時，(5.2)式中參數(shù)的最小二乘估計為： 二. 足標 的估計取定足標上界P,根據(jù)數(shù)據(jù) 擬合如下模型： (5.3)滿足 條件的(5.3)共有 個，使用前述的最小二乘估計法，獲得這個疏系數(shù)自回歸模型參數(shù)估計，繼而得到 個 使用AIC準則： 或BIC準則：求出：或從而確定 的估計。第六節(jié) 回歸與自回歸混合模型 的處理方法一. 并聯(lián)形式混合回歸模型的擬合方法 (6.1) (6.2)其中， 為白噪聲序列，且 , 參數(shù) 滿足平穩(wěn)性條件。 為非隨機的可觀測的自變元。比如：它們可

12、為多項式，三角函數(shù)等。 對(6.1)的統(tǒng)計分析可分為兩種情況：一種是在(6.1)中殘差項 的協(xié)方差陣給定的情況下，對回歸系數(shù) 的統(tǒng)計分析；另一種是，已知 的模型具有AR形式，其階數(shù)和參數(shù)未知，或階數(shù)已知，而參數(shù)未知。 1. 模型回歸系數(shù) 的估計考慮如下形式的回歸模型： (6.3)其中 為非隨機的可觀測的自變元， 為未知的自回歸系數(shù)矢量, 為零均值的殘差，并假定它的協(xié)方差陣已知，記為 。 令于是(6.3)的矩陣形式為 (6.4) (1) 模型參數(shù) 的最小二乘估計： （6.5）性質：(I) 是 的無偏估計；(II) 誤差 其協(xié)方差陣為 (2) 線性最小方差無偏估計線性最小方差無偏估計是線性無偏估計

13、類中方差陣最小的估計，記 。它必須具備如下三個條件：線性性質：即 ，H為矩陣；無偏性：即 ，等價于最小方差性：即對其他滿足上述兩條件的估計 都有， 經(jīng)計算，線性最小方差無偏估計 為 (6.6)且最小方差為 (6.7) (3) 兩種估計的比較 (I) 和 都是線性的，都是 的無偏估計；(II) 的優(yōu)點是在計算時不需要知道 的協(xié)方差陣。(III) 線性最小方差無偏估計的優(yōu)點是在不同的無偏估計中誤差的方差最小。(IV) 當 時, 2. 并聯(lián)混合模型的分步識別方法第一步： 根據(jù)所給數(shù)據(jù)，由(6.5)給出 的最小二乘估計，即第二步： 求出(6.2)的擬合殘差序列，即將 視為 的樣本值序列，用第一節(jié)方法對

14、它們進行自回歸擬合，包括對模型參數(shù)、階數(shù)的估計，以及對擬合模型的檢驗。 第三步 若檢驗通過，以此擬合模型作為對(6.2)式的擬合，連同上述對 的估計 完成對(6.1),(6.2)的擬合。 例：產(chǎn)生模型： 的n=500個樣本值，擬合該時序數(shù)據(jù)。 模型的擬合：首先使用最小二乘估計方法對 進行傳統(tǒng)的回歸分析： 對回歸后的殘差進行自回歸建模： 模型的檢驗：對擬合后的最終殘差作白噪聲檢驗，這里采用正態(tài)檢驗 16/20=80% 結論：擬合模型為： 二. 串聯(lián)形式混合模型的擬合方法 (6.8)令 則(6.8)可簡寫為： (6.9) 于是 的最小二乘估計為 (6.10)殘差項 的方差 的估計為， 當(6.8)

15、中的p未知時，可應用AIC準則確定適當?shù)膒值：p的估計 ，滿足 例：由序列 , 為標準正態(tài)白噪聲，產(chǎn)生n=500個樣本值，擬合該數(shù)據(jù) 采用最小二乘估計得到： 殘差的檢驗： 結論：擬合的模型為 三. 序列相關與ARMA模型1. 序列相關理論與檢驗涉及時間序列的回歸模型，殘差序列自相關較常見。模型形式： (6.11) (6.12)其中， 是t時刻所觀測的解釋變量向量； 為隨機擾動項，稱為非條件殘差； 為改進的隨機擾動項，稱為一期提前(one-period-ahead)預測誤差； 是前期已知變量向量，可包括 的滯后項； 為參數(shù)向量。 殘差序列的自相關檢驗方法：1）. 相關圖與Q統(tǒng)計量 即檢驗序列任意滯后期的自相關和偏相關系數(shù)與0有無顯著差異。2）. LM(Lagrange Multiplier)檢驗 該檢驗可對包含ARMA誤差項的模型殘差序列進行高階的自相關檢驗，并允許存在因變量的滯后項。檢驗假設為：其中，p=maxr,q 對(6.11)中的非條件殘差建立輔助回歸方程： (6.13)利用方程(6.13)的決定系數(shù) 構造LM檢驗統(tǒng)計量：其中，n是計算輔助回歸時的樣本數(shù)據(jù)的個數(shù)。在零假設下，LM統(tǒng)計量由漸進的 分布。對于給定的顯著水平 和自由度