ARMA模型與ARIMA模型建模培訓(xùn)課件

1、ARMA模型與ARIMA模型建模培訓(xùn)課件計(jì)算樣本相關(guān)系數(shù)n樣本自相關(guān)系數(shù)n樣本偏自相關(guān)系數(shù)nttkntkttkxxxxxx121)()(DDkkk模型識(shí)別n根本原那么選擇模型拖尾P階截尾AR(P)q階截尾拖尾MA(q)拖尾拖尾ARMA(p,q)kkk模型定階的困難n因?yàn)橛捎跇颖镜碾S機(jī)性，樣本的相關(guān)系數(shù)不會(huì)呈現(xiàn)出理論截尾的完美情況，本應(yīng)截尾的 或 仍會(huì)呈現(xiàn)出小值振蕩的情況n由于平穩(wěn)時(shí)間序列通常都具有短期相關(guān)性，隨著延遲階數(shù) ， 與 都會(huì)衰減至零值附近作小值波動(dòng)n？當(dāng) 或 在延遲假設(shè)干階之后衰減為小值波動(dòng)時(shí)，什么情況下該看作為相關(guān)系數(shù)截尾，什么情況下該看作為相關(guān)系數(shù)在延遲假設(shè)干階之后正常衰減到零值

2、附近作拖尾波動(dòng)呢？ kkkkkkkkkk樣本相關(guān)系數(shù)的近似分布nBarlettnQuenouillennNk,)1, 0(nnNkk,)1, 0(模型定階經(jīng)驗(yàn)方法n95的置信區(qū)間n模型定階的經(jīng)驗(yàn)方法n如果樣本(偏)自相關(guān)系數(shù)在最初的d階明顯大于兩倍標(biāo)準(zhǔn)差范圍，而后幾乎95的自相關(guān)系數(shù)都落在2倍標(biāo)準(zhǔn)差的范圍以內(nèi)，而且通常由非零自相關(guān)系數(shù)衰減為小值波動(dòng)的過程非常突然。這時(shí)，通常視為(偏)自相關(guān)系數(shù)截尾。截尾階數(shù)為d。22Pr0.9522Pr0.95kkknnnn參數(shù)估計(jì)n待估參數(shù)n 個(gè)未知參數(shù)n常用估計(jì)方法n矩估計(jì)n極大似然估計(jì)n最小二乘估計(jì)2pq211, ,pq 矩估計(jì)n原理n樣本自相關(guān)系數(shù)估計(jì)

3、總體自相關(guān)系數(shù)n樣本一階均值估計(jì)總體均值，樣本方差估計(jì)總體方差111111( ,)( ,)pqp qpqp q 1niixxn2221221211xqp對(duì)矩估計(jì)的評(píng)價(jià)n優(yōu)點(diǎn)n估計(jì)思想簡單直觀n不需要假設(shè)總體分布n計(jì)算量小低階模型場合n缺點(diǎn)n信息浪費(fèi)嚴(yán)重n只用到了p+q個(gè)樣本自相關(guān)系數(shù)信息，其他信息都被忽略n估計(jì)精度差n通常矩估計(jì)方法被用作極大似然估計(jì)和最小二乘估計(jì)迭代計(jì)算的初始值 極大似然估計(jì)n原理n在極大似然準(zhǔn)那么下，認(rèn)為樣本來自使該樣本出現(xiàn)概率最大的總體。因此未知參數(shù)的極大似然估計(jì)就是使得似然函數(shù)即聯(lián)合密度函數(shù)到達(dá)最大的參數(shù)值 ,);(max),;,(21121kkxpxxL似然方程n由于

4、 和 都不是 的顯式表達(dá)式。因而似然方程組實(shí)際上是由p+q+1個(gè)超越方程構(gòu)成，通常需要經(jīng)過復(fù)雜的迭代算法才能求出未知參數(shù)的極大似然估計(jì)值 ( )Sln 0)(21ln21);(02)(2);(2422SxlSnxl對(duì)極大似然估計(jì)的評(píng)價(jià)n優(yōu)點(diǎn)n極大似然估計(jì)充分應(yīng)用了每一個(gè)觀察值所提供的信息，因而它的估計(jì)精度高n同時(shí)還具有估計(jì)的一致性、漸近正態(tài)性和漸近有效性等許多優(yōu)良的統(tǒng)計(jì)性質(zhì)n缺點(diǎn)n需要假定總體分布最小二乘估計(jì)n原理n使殘差平方和到達(dá)最小的那組參數(shù)值即為最小二乘估計(jì)值 211111)(min)(min)(ntqtqtptpttxxxQQ條件最小二乘估計(jì)n實(shí)際中最常用的參數(shù)估計(jì)方法n假設(shè)條件n殘差

5、平方和方程n解法n迭代法0,0txtnitititnitxxQ121112)(對(duì)最小二乘估計(jì)的評(píng)價(jià)n優(yōu)點(diǎn)n最小二乘估計(jì)充分應(yīng)用了每一個(gè)觀察值所提供的信息，因而它的估計(jì)精度高n條件最小二乘估計(jì)方法使用率最高n缺點(diǎn)n需要假定總體分布模型檢驗(yàn)n模型的顯著性檢驗(yàn)n整個(gè)模型對(duì)信息的提取是否充分n參數(shù)的顯著性檢驗(yàn)n模型結(jié)構(gòu)是否最簡模型的顯著性檢驗(yàn)n目的n檢驗(yàn)?zāi)Ｐ偷挠行詫?duì)信息的提取是否充分n檢驗(yàn)對(duì)象n殘差序列n判定原那么n一個(gè)好的擬合模型應(yīng)該能夠提取觀察值序列中幾乎所有的樣本相關(guān)信息，即殘差序列應(yīng)該為白噪聲序列 n反之，如果殘差序列為非白噪聲序列，那就意味著殘差序列中還殘留著相關(guān)信息未被提取，這就說明擬合

6、模型不夠有效假設(shè)條件n原假設(shè)：殘差序列為白噪聲序列n備擇假設(shè)：殘差序列為非白噪聲序列0120,1mHm：mkmHk，：至少存在某個(gè)1, 01檢驗(yàn)統(tǒng)計(jì)量nLB統(tǒng)計(jì)量221(2)() ( )mkkLBn nmnk參數(shù)顯著性檢驗(yàn)n目的n檢驗(yàn)每一個(gè)未知參數(shù)是否顯著非零。刪除不顯著參數(shù)使模型結(jié)構(gòu)最精簡 n假設(shè)條件n檢驗(yàn)統(tǒng)計(jì)量mjHHjj10:0:10)()(mntQamnTjjjj例2.5續(xù)n選擇適宜的模型ARMA擬合1950年1998年北京市城鄉(xiāng)居民定期儲(chǔ)蓄比例序列。序列自相關(guān)圖序列偏自相關(guān)圖擬合模型識(shí)別n自相關(guān)圖顯示延遲3階之后，自相關(guān)系數(shù)全部衰減到2倍標(biāo)準(zhǔn)差范圍內(nèi)波動(dòng)，這說明序列明顯地短期相關(guān)。但

7、序列由顯著非零的相關(guān)系數(shù)衰減為小值波動(dòng)的過程相當(dāng)連續(xù)，相當(dāng)緩慢，該自相關(guān)系數(shù)可視為不截尾 n偏自相關(guān)圖顯示除了延遲1階的偏自相關(guān)系數(shù)顯著大于2倍標(biāo)準(zhǔn)差之外，其它的偏自相關(guān)系數(shù)都在2倍標(biāo)準(zhǔn)差范圍內(nèi)作小值隨機(jī)波動(dòng)，而且由非零相關(guān)系數(shù)衰減為小值波動(dòng)的過程非常突然，所以該偏自相關(guān)系數(shù)可視為一階截尾 n所以可以考慮擬合模型為AR(1)例2.5續(xù)n確定1950年1998年北京市城鄉(xiāng)居民定期儲(chǔ)蓄比例序列擬合模型的口徑 n擬合模型：AR(1)n估計(jì)方法：極大似然估計(jì)n模型口徑tttxx169. 017.25216.17例2.5續(xù)n檢驗(yàn)1950年1998年北京市城鄉(xiāng)居民定期儲(chǔ)蓄比例序列擬合模型的顯著性 n殘差白

8、噪聲序列檢驗(yàn)結(jié)果延遲階數(shù)LB統(tǒng)計(jì)量P值檢驗(yàn)結(jié)論65.830.3229擬合模型顯著有效1210.280.50501811.380.8361例2.5續(xù)n檢驗(yàn)1950年1998年北京市城鄉(xiāng)居民定期儲(chǔ)蓄比例序列極大似然估計(jì)模型的參數(shù)是否顯著 n參數(shù)檢驗(yàn)結(jié)果檢驗(yàn)參數(shù)t統(tǒng)計(jì)量P值結(jié)論均值46.120.0001顯著6.720.0001顯著1例2.5:北京市城鄉(xiāng)居民定期儲(chǔ)蓄比例序列擬合與預(yù)測圖 例3.8美國科羅拉多州某一加油站連續(xù)57天的OVERSHORT序列 序列自相關(guān)圖序列偏自相關(guān)圖擬合模型識(shí)別n自相關(guān)圖顯示除了延遲1階的自相關(guān)系數(shù)在2倍標(biāo)準(zhǔn)差范圍之外，其它階數(shù)的自相關(guān)系數(shù)都在2倍標(biāo)準(zhǔn)差范圍內(nèi)波動(dòng)。根據(jù)這

9、個(gè)特點(diǎn)可以判斷該序列具有短期相關(guān)性，進(jìn)一步確定序列平穩(wěn)。同時(shí)，可以認(rèn)為該序列自相關(guān)系數(shù)1階截尾n偏自相關(guān)系數(shù)顯示出典型非截尾的性質(zhì)。n綜合該序列自相關(guān)系數(shù)和偏自相關(guān)系數(shù)的性質(zhì)，為擬合模型定階為MA(1) 例3.8n確定美國科羅拉多州某一加油站連續(xù)57天的OVERSHORTS序列擬合模型的口徑 n擬合模型：MA(1)n估計(jì)方法：條件最小二乘估計(jì)n模型口徑4.40915(10.82083 )ttxB 22178.929例3.8:對(duì)OVERSHORTS序列的擬合模型進(jìn)行檢驗(yàn) n殘差白噪聲檢驗(yàn)n參數(shù)顯著性檢驗(yàn)檢驗(yàn)參數(shù)t統(tǒng)計(jì)量P值結(jié)論均值3.750.0004顯著10.600.0001顯著延遲階數(shù)LB統(tǒng)計(jì)

10、量P值結(jié)論63.150.6772模型顯著有效129.050.61711例3.8: OVERSHORTS序列序列擬合與預(yù)測圖 例3.9n1880-1985全球氣表平均溫度改變值差分序列 n 序列自相關(guān)圖序列偏自相關(guān)圖擬合模型識(shí)別n自相關(guān)系數(shù)顯示出不截尾的性質(zhì)n偏自相關(guān)系數(shù)也顯示出不截尾的性質(zhì)n綜合該序列自相關(guān)系數(shù)和偏自相關(guān)系數(shù)的性質(zhì)，可以嘗試使用ARMA(1,1)模型擬合該序列例3.9n確定1880-1985全球氣表平均溫度改變值差分序列擬合模型的口徑 n擬合模型：ARMA(1,1)n估計(jì)方法：條件最小二乘估計(jì)n模型口徑119 . 0407. 0003. 0ttttxx20.016例3.9:對(duì)1

11、880-1985全球氣表平均溫度改變值差分序列擬合模型進(jìn)行檢驗(yàn) n殘差白噪聲檢驗(yàn)n參數(shù)顯著性檢驗(yàn)檢驗(yàn)參數(shù)t統(tǒng)計(jì)量P值結(jié)論16.340.0001顯著3.50.0007顯著延遲階數(shù)LB統(tǒng)計(jì)量P值結(jié)論65.280.2595模型顯著有效1210.300.424711例3.9:全球氣表平均溫度改變值預(yù)測模型優(yōu)化n問題提出n當(dāng)一個(gè)擬合模型通過了檢驗(yàn)，說明在一定的置信水平下，該模型能有效地?cái)M合觀察值序列的波動(dòng)，但這種有效模型并不是唯一的。n優(yōu)化的目的n選擇相對(duì)最優(yōu)模型 例3.13:擬合某一化學(xué)序列序列自相關(guān)圖序列偏自相關(guān)圖擬合模型一n根據(jù)自相關(guān)系數(shù)2階截尾，擬合MA(2)模型n參數(shù)估計(jì)n模型檢驗(yàn)n模型顯著有

12、效 n三參數(shù)均顯著 ttBByield)31009. 032286. 01 (17301.512擬合模型二n根據(jù)偏自相關(guān)系數(shù)1階截尾，擬合MA(1)模型n參數(shù)估計(jì)n模型檢驗(yàn)n模型顯著有效 n兩參數(shù)均顯著 Byieldtt42481. 0126169.51問題n同一個(gè)序列可以構(gòu)造兩個(gè)擬合模型，兩個(gè)模型都顯著有效，那么到底該選擇哪個(gè)模型用于統(tǒng)計(jì)推斷呢？ n解決方法n確定適當(dāng)?shù)谋容^準(zhǔn)那么，構(gòu)造適當(dāng)?shù)慕y(tǒng)計(jì)量，確定相對(duì)最優(yōu)例3.13續(xù)n用AIC準(zhǔn)那么和SBC準(zhǔn)那么評(píng)判例3.13中兩個(gè)擬合模型的相對(duì)優(yōu)劣 n結(jié)果nAR(1)優(yōu)于MA(2)模型AICSBCMA(2)536.4556543.2011AR(1)535.7896540.2866ARIMA模型建模步驟獲獲得得觀觀察察值值序序列列平穩(wěn)性平穩(wěn)性檢驗(yàn)檢驗(yàn)差分差分運(yùn)算運(yùn)算YN白噪聲白噪聲檢驗(yàn)檢驗(yàn)Y分分析析結(jié)結(jié)束束N擬合擬合ARMA模型模型例5.6n對(duì)1952年1988年中國農(nóng)業(yè)實(shí)際國民收入指數(shù)序列建模 一階差分序列時(shí)序圖一階差分序列自相關(guān)圖一階差分后序列白噪聲檢驗(yàn)延遲階數(shù) 統(tǒng)計(jì)量P值615.330.01781218.330.10601824.6