時間序列分析(全)ppt課件

1、目 錄第一章 隨機(jī)過程簡介第二章 時間序列分析簡介第三章 ARMA模型的特性第四章 平穩(wěn)時間序列的建立第五章 平穩(wěn)時間序列的預(yù)測第一章 隨機(jī)過程簡介一.隨機(jī)過程實(shí)際的產(chǎn)生和開展 隨機(jī)過程的研討來源于消費(fèi)、科研中的實(shí)踐問題，其實(shí)際產(chǎn)生于二十世紀(jì)初期。特別是，在1929年由柯爾莫哥洛夫A.H.Kolmogorov奠定了概率論的數(shù)學(xué)根底之后，隨機(jī)過程實(shí)際得到了更快、更深化的開展。二、隨機(jī)過程的運(yùn)用 現(xiàn)實(shí)上，在水資源科學(xué)、水利工程、土木工程、電氣、通訊工程、經(jīng)濟(jì)管理、實(shí)際物理等學(xué)科領(lǐng)域，四處能找到運(yùn)用隨機(jī)過程的實(shí)例。 隨著人們對自然景象的認(rèn)識愈來愈深化，隨機(jī)過程已被廣泛地運(yùn)用于自然、社會科學(xué)的各個領(lǐng)域

2、，大有 “水銀瀉地?zé)o孔不入 之勢，并在研討和處理實(shí)踐課題的過程中起到了艱苦的作用。 第一節(jié) 隨機(jī)過程的 根本概念及分類隨機(jī)過程S.P的根本概念S.P的分類及幾種重要S.P簡介 S.P的根本概念S.P及其有窮維分布族S.P的數(shù)字特征多(兩)個S.P的統(tǒng)計(jì)特性及復(fù)S.P1.1 S.P及其有窮維分布族 1、概念 (1) 實(shí)例 概率論主要研討的對象是r.v.，即所研討的隨機(jī)實(shí)驗(yàn)的結(jié)果是可用一個或有限個r.v.描畫的隨機(jī)景象。隨著科學(xué)技術(shù)的開展，有些隨機(jī)景象僅用一個或有限個r.v.來描畫是不夠的，必需用無窮多個r.v.來描畫。例如： (i) 某交換臺在時段0, t內(nèi)接到的呼喚次數(shù)是一個與 t 有關(guān)的r.

3、v.X t()，對于固定的t ， X t()是r.v.，它可取恣意的非負(fù)整數(shù)0，1，2，當(dāng) t 在0，上變化時，可得到一族無窮多個r.v.X t()， t 0，) 。 (ii) 思索某生物群體的開展過程。令X n()表示該群體第n代成員的個數(shù)，當(dāng)n固定時， X n()是r.v.，它能夠取值0, 1, 2, ，這時，需求研討的是一列r.v. X n(), nZ+。 (iii)懸浮在液面的微粒，由于遭到分子的隨機(jī)碰撞作雜亂無章的運(yùn)動。令 X t()， Y t() 表示在 t 時辰微粒的位置，那么當(dāng) t 固定時，它是二維 r.v. 。在時段a, b觀測微粒的運(yùn)動，便得到一族無窮多個二維 r.v. X

4、 t()， Y t() ， t a, b，這就是物理學(xué)中的布郎運(yùn)動。(2) 定義1.1 設(shè)(, F，P)是概率空間，TR，假設(shè)對恣意t T，都有(, F，P)上的一個r.v.與之對應(yīng)，那么稱r.v.族X t()， t T 是(, F，P)上的一個隨機(jī)過程，可記為S.P.。T稱為參數(shù)集，通常表示時間。 物了解釋： X t()也可記作X(t，)， X t或X(t)，表示在時辰t 系統(tǒng)的形狀。 X(t)的形狀全體稱為形狀空間或相空間，記為E或I。 數(shù)學(xué)解釋：可以為X t()， t T 是定義在T上的二元函數(shù)。當(dāng)t 固定時， X t()是r.v.，當(dāng)固定時， X t()是定義在T上的普通函數(shù)，稱為隨機(jī)

5、過程的樣本函數(shù)或軌道，樣本函數(shù)的全體稱為樣本函數(shù)空間。 有窮維分布函數(shù)族 (1) 定義1.2 給定隨機(jī)過程X (t)， t T ，那么對任意nZ+和t1,t n T，隨機(jī)向量X (t1) , X (t n ) 的分布函數(shù)稱為X (t)， t T 的n維分布函數(shù)；這些分布函數(shù)的全體稱為X (t)， t T 的有窮維分布函數(shù)族。(2) 有窮維分布函數(shù)族的性質(zhì)(i) 對稱性：對于參數(shù)t1,t n的恣意陳列(ii)相容性：當(dāng)mn時 反之，可以證明：給定相容性和對稱性的分布函數(shù)族F，一定存在概率空間及其上的隨機(jī)過程，它的有窮維布函數(shù)族是F。這就是著名的柯爾莫哥洛夫(A. N. Kolmogorov)定理

6、(3) 有窮維特征函數(shù)族稱為X (t)， t T 的n維特征函數(shù)；稱為X (t)， t T 的有窮維特征函數(shù)族。 由于r.v.的特征函數(shù)與分布函數(shù)有一一對應(yīng)關(guān)系，所以，可以經(jīng)過S.P.的有窮維特征函數(shù)族來描畫它的概率特性。1.2 隨機(jī)過程的數(shù)字特征1、均值函數(shù) 定義1.3 對于隨機(jī)過程X (t)， t T ，假設(shè)對恣意t T，EX(t)存在，那么稱函數(shù) 由于隨機(jī)過程X (t )， t T 是兩個變量t 的函數(shù)，故可有兩種取平均的方法。其一是固定 t 后，對X(t)=X(t )取平均，稱為集平均或統(tǒng)計(jì)平均；其二是固定后，對樣本函數(shù)x(t)取平均，稱為時間平均。實(shí)際上通常用前者，運(yùn)用上那么常用后者

7、。為S.P.的均值函數(shù)。2、自協(xié)方差函數(shù)、自相關(guān)函數(shù)與方差函數(shù) 定義1.4 對于隨機(jī)過程X (t)， t T ，假設(shè)對恣意t T，EX(t)2存在，那么稱函數(shù)為S.P.的自協(xié)方差函數(shù)。分別稱為S.P.的自相關(guān)函數(shù)和方差函數(shù)。3、互協(xié)方差函數(shù)與相互關(guān)函數(shù) 定義1.6 對于S.P.X (t)， t T ， Y (t)， t T ，假設(shè)對恣意t T，EX(t)2 、 EY(t)2存在，那么稱函數(shù)為S.P. X (t)， t T 與Y (t)， t T 的互協(xié)方差函數(shù)。稱為S.P. X (t)， t T 與Y (t)， t T 的相互關(guān)函數(shù)。易知 定義1.7 假設(shè)CXY(s, t)=0，那么稱S.P.

8、X (t)， t T 與Y (t)，t T 互不相關(guān)；假設(shè)對恣意的n,mZ+，隨機(jī)向量(X(t1), X(t n)與(Y(s1),Y(s m) 相互獨(dú)立，t1,t n；s1,s m T ，那么稱S.P.X (t)， t T 與Y (t)，t T 相互獨(dú)立。 易知S.P.X (t)， t T 與Y (t)，t T 相互獨(dú)立它們互不相關(guān)，即CXY(s, t)=0，亦即RXY(s, t)=EX (s)EY (t)，反之不然。 S.P.X (t)， t T 與Y (t)，t T 稱為是正交的，假設(shè)對恣意的s ， t T，有EX (s)Y (t)=0。1.3 S.P.的分類及幾個重要的S.P.簡介S.P

9、.的分類幾個重要的S.P.簡介一、隨機(jī)過程的分類1、按參數(shù)集T及形狀空間E離散與否分類可分成四類，如下表所示：類 別 1 2 3 4T離散 Y Y N NE離散 Y N Y N留意：這種分類是完備的， 但是其概率構(gòu)造意義并不明確。2、按概率構(gòu)造分類 (1) 獨(dú)立隨機(jī)過程 對于恣意n個不同的參數(shù)t1,t n T ， r.v. X(t1), X(t n)相互獨(dú)立，這樣的S. P.稱為具有獨(dú)立r.v. 的隨機(jī)過程，簡稱獨(dú)立隨機(jī)過程。 (2) 獨(dú)立增量過程 假設(shè)參數(shù)t1,t n T 滿足t1 t2 t n ， r.v. 的增量 X(t 2) X(t1), X(t 3) X(t2) , , X(t n)

10、 X(tn1 ) 相互獨(dú)立，這樣的S. P.稱為具有獨(dú)立增量的隨機(jī)過程，簡稱獨(dú)立增量過程。這種分類也把S. P.分成四類如下： (3) 馬爾可夫過程馬氏過程 設(shè)參數(shù)t1,t n T 滿足t1 t2 t n ， 假設(shè)那么稱該過程為馬爾可夫過程，簡稱“馬氏過程。 馬氏過程的特點(diǎn)：知如今，未來與過去無關(guān)。(4) 平穩(wěn)隨機(jī)過程 直觀的說：該過程的統(tǒng)計(jì)特性不隨時間的轉(zhuǎn)移而變化，其嚴(yán)厲的定義及有關(guān)知識將在后面引見，簡稱平穩(wěn)過程 二、幾個重要的隨機(jī)過程 1、獨(dú)立增量過程 假設(shè)X (t) ， t T 是獨(dú)立增量過程，那么對t1 t2 t n ， r.v. 的增量 X(t 2) X(t1), X(t 3) X(

11、t2) , , X(t n) X(tn1 ) 相互獨(dú)立。 該過程也叫可加過程“。此時，限制T=0，且讓X (0)=0，(a.e.)。于是，對于0=t0 t1 t2 0，該過程的增量X(t+) X(t)的概率分布僅依賴于 而與 t 無關(guān)，那么稱其為齊次時齊獨(dú)立增量過程，或稱其具有平穩(wěn)增量，即平穩(wěn)獨(dú)立增量過程。 關(guān)于獨(dú)立增量過程有如下兩個結(jié)論： 定理1 假設(shè)X (t) ， t T 是獨(dú)立增量過程，且X (0)=0，(a.e.)，那么該過程必為馬氏過程。 定理2 獨(dú)立增量過程的有窮維分布族可由其一維分布和增量的分布所確定。2、正態(tài)過程 (1) 定義 假設(shè)過程X (t) ， t T 恣意有窮維分布都是

12、正態(tài)的，那么稱該過程為正態(tài)過程或高斯(Gauss)過程。 由于對恣意nZ+, t1, , t n T ，隨機(jī)向量(X(t1), X(t n) 是一個 n維正態(tài)隨機(jī)向量，故第一章中關(guān)于正態(tài)隨機(jī)向量的結(jié)論此處均可加以運(yùn)用?，F(xiàn)實(shí)上，它的概率密度是其中，x=(x1,x n )，m=(m(t1),m(t n)，正態(tài)過程的幾個重要性質(zhì) (i) 正態(tài)過程的統(tǒng)計(jì)特性由它的均值函數(shù)m(t)及自協(xié)方差函數(shù)C(t i, t j)或相關(guān)函數(shù)R(t i, t j), i, j=1,n完全確定。 (ii) 對應(yīng)于正態(tài)過程的任一n維隨機(jī)向量，其互不相關(guān)性等價于相互獨(dú)立性。 (iii) 正態(tài)過程的任正態(tài)性在線性變換下堅(jiān)持不變

13、。 這一性質(zhì)通知我們：假設(shè)隨機(jī)系統(tǒng)是線性系統(tǒng)，那么當(dāng)輸入(鼓勵)是正態(tài)過程時，其輸出(呼應(yīng))仍是正態(tài)的。3、維納(Weiner)過程 (1) 定義 隨機(jī)過程W(t)，t 0 稱為參數(shù)為2的維納過程，假設(shè)它滿足： (i) W (0) =0， (a.e.)； (ii) W (t)是獨(dú)立增量過程； (iii)對任何s, t 0，W (t)W (s )N (0， 2 |t s| )。(2) 有關(guān)維納過程的幾個結(jié)論 (i) 維納過程W ， t 0 是正態(tài)過程。當(dāng)=1時，稱它為規(guī)范維納過程。 (ii) 維納過程W (t) ，t 0 是馬氏過程，其轉(zhuǎn)移概率密度t s 0是 (iii)維納過程W ， t 0

14、的均值函數(shù)、方差函數(shù)和相關(guān)函數(shù)分別是 1m(t)=EW(t)=0; 2D(t)=DW(t)=2; 3R(t1, t2)= 2 min (t1, t2).4、泊松(Poisson)過程 (1) 概念 隨機(jī)效力系統(tǒng) 設(shè)N(t)表示在時間段0 ， t 到達(dá)效力機(jī)構(gòu)的顧客數(shù)，那么 N(t) ， t 0 是隨機(jī)過程。由于形狀空間E=0，1，2，故N(t) ， t 0 稱為計(jì)數(shù)過程。由于N(t)是時間段0 ， t 某事件發(fā)生的次數(shù)，從而N(t) ， t 0 也稱為“事件流 (2) 假設(shè) (i) 零初值： N(0)=0； (ii)增量平穩(wěn)性：對恣意a, t 0，N(a+t) N(a)的概率與a無關(guān)，即PN(

15、t+t) N(t)=k=PN(t)=k=p k, k=0, 1, 2, ; (iii)增量獨(dú)立性： (iv)單騰躍性：在時間段t內(nèi)，某事件發(fā)生兩次或兩次以上的概率是t 的高階無窮小，即PN(t )2=0(t )； (v) 隨機(jī)性：對恣意的t 0，0p0(t)0，使得對恣意的t 0，有稱為泊松過程的參數(shù)或強(qiáng)度。(3) 泊松過程的統(tǒng)計(jì)特性 (i) 均值函數(shù)：對恣意t 0，有 m(t)=EN(t)= EN(t)N(0)=t； (ii) 相關(guān)函數(shù)：對于0t1t2，有 R(t1, t2)=EN t1N t2= 2 t1t2 + t1，普通地，對恣意的t1, t2 0，有 R(t1, t2)= 2 t1t

16、2 + mint1, t2； (iii)協(xié)方差函數(shù)：對恣意的t1, t2 0，有 C(t1, t2)= R(t1, t2) m(t1) m(t2)= mint1, t2.(4) 泊松過程的幾個重要結(jié)論 (i) 泊松過程是馬氏過程； 對于泊松過程N(yùn)(t) ， t 0 ，設(shè)W1，W2， 分別表示事件第一次，第二次， 出現(xiàn)的時間，那么稱W i為事件第 i 次出現(xiàn)的等待時間， 而W n，n 1 為等待時間序列；設(shè)T n ，(n 1) ，表示事件第n 1 次出現(xiàn)到n 次出現(xiàn)之間的時間間隔，那么稱T n ，n 1為到達(dá)時間間隔序列。 T1 T2 T3 Tn t 0 W1 W2 W3 Wn1 W n (ii

17、) 到達(dá)時間間隔序列獨(dú)立同均值為1/的指數(shù)分布： 設(shè)T n，n 1為參數(shù)為的泊松過程的到達(dá)時間間隔序列，那么對恣意的n， (iii)等待時間W n服從參數(shù)為n, 的分布：設(shè)W n，n 1為參數(shù)為的泊松過程的等待時間序列，那么W n (n, )，其密度函數(shù)是四、復(fù)平穩(wěn)過程 定義1.3 設(shè) Z (t) ， t T 是復(fù)隨機(jī)過程，其一、二階矩存在，假設(shè)mZ(t)=EZ(t)=mZ復(fù)常數(shù)， t T，且RZ(t1, t2)僅與t1 t2有關(guān)，即那么稱 Z (t) ， t T 是復(fù)平穩(wěn)過程寬。復(fù)平穩(wěn)過程的協(xié)方差函數(shù)它僅與t1 t2有關(guān)，可記為CZ()=CZ(t， t+)。第二節(jié) 平穩(wěn)過程 在工程運(yùn)用和大量

18、實(shí)踐景象的實(shí)際分析研討中常會遇到另一類過程。這類過程隨著時間的推移其統(tǒng)計(jì)特性不發(fā)生任何變化。此類過程中，最重要的是“平穩(wěn)過程。2.1 平穩(wěn)過程概念 平穩(wěn)過程實(shí)例嚴(yán)平穩(wěn)過程寬平穩(wěn)過程及其與 嚴(yán)平穩(wěn)過程的關(guān)系復(fù)隨機(jī)過程一、平穩(wěn)過程實(shí)例 1、無線電設(shè)備中熱噪聲電壓X(t)是由于電路中電子的熱運(yùn)動引起的，這種熱擾動不隨時間而變； 2、延續(xù)丈量飛機(jī)飛行速度產(chǎn)生的丈量誤差X(t) ， 是由儀器震動、電磁波干擾、氣候變化等要素引起的； 3、紡紗廠消費(fèi)出的棉紗各處直徑X(t)不同是由于紡紗機(jī)運(yùn)轉(zhuǎn)，棉條不勻、溫濕度變化等要素引起的。 這類過程有一個共同的特點(diǎn)：所產(chǎn)生的隨機(jī)景象的主要要素不隨時間而變化。二、嚴(yán)平穩(wěn)

19、過程定義1.1 設(shè)隨機(jī)過程 X (t) ， t T 的有窮維分布函數(shù)族為F(x1,xn: t1,tn ), t1,tn T, n1 ，假設(shè)對n 和t1,tn T, 及ti+T的，有F(x1,xn: t1,tn )= F(x1,xn: t1 +,tn + ) (2.1)那么稱 X (t) ， t T 是嚴(yán)平穩(wěn)過程。嚴(yán)平穩(wěn)過程的特點(diǎn)： (1) 假設(shè)有概率密度，那么式(2.1)等價于：f (x1,xn: t1,tn )=f (x1,xn: t1 +,tn + ); (2) 一維分布與 t 無關(guān)，二維分布僅與時間差有關(guān)，而與時間的起點(diǎn)無關(guān)； (3) 假設(shè)存在二階矩，那么其均值函數(shù)是常數(shù)，相關(guān)函數(shù)或協(xié)方

20、差函數(shù)僅是時間差的函數(shù)。 嚴(yán)平穩(wěn)過程的平穩(wěn)性條件(4.1)過于嚴(yán)厲而在運(yùn)用上往往難于實(shí)現(xiàn)。在工程技術(shù)中普通只需知道過程的一、二階矩，就能處置和處理有關(guān)問題，于是就產(chǎn)生了僅與過程的一、二階矩有關(guān)的平穩(wěn)過程實(shí)際。這類過程的實(shí)際稱為平穩(wěn)過程的相關(guān)實(shí)際，它涉及的平穩(wěn)過程稱為寬平穩(wěn)過程。三、寬平穩(wěn)過程及其與嚴(yán)平穩(wěn)過程的關(guān)系 定義1.2 設(shè)隨機(jī)過程 X (t) ， t T 的一、二階矩存在，且 (1) m(t)=EX(t)=m; (2.2) (2) R(t1, t2)=EX(t1)X(t2)=B(), =t2 t1 (2.3)那么稱 X (t) ， t T 是寬弱平穩(wěn)過程。闡明： (1) 寬平穩(wěn)過程不一定

21、是嚴(yán)平穩(wěn)過程； (2) 嚴(yán)平穩(wěn)過程也不一定是寬平穩(wěn)過程； (3) 對于正態(tài)過程而言，它的嚴(yán)平穩(wěn)性與寬平穩(wěn)性等價； (4) 定義1.2中的條件(2)可換為C(t1, t2)僅與=t2 t1有關(guān)。四、復(fù)平穩(wěn)過程 定義1.3 設(shè) Z (t) ， t T 是復(fù)隨機(jī)過程，其一、二階矩存在，假設(shè)mZ(t)=EZ(t)=mZ復(fù)常數(shù)， t T，且RZ(t1, t2)僅與t1 t2有關(guān)，即那么稱 Z (t) ， t T 是復(fù)平穩(wěn)過程寬。復(fù)平穩(wěn)過程的協(xié)方差函數(shù)它僅與t1 t2有關(guān)，可記為CZ()=CZ(t， t+)。2.2 平穩(wěn)過程相關(guān)函數(shù)的性質(zhì)平穩(wěn)過程自相關(guān)函數(shù)的性質(zhì)平穩(wěn)過程相互關(guān)函數(shù)的性質(zhì)一、平穩(wěn)過程自相關(guān)函

22、數(shù)的性質(zhì) 設(shè) X (t) ， t 是平穩(wěn)過程，不失普通性，可假設(shè)其均值函數(shù)為零，其相關(guān)函數(shù)記為B() =R(t+,t)=EX(t+)X(t)性質(zhì)1、B (0) 0；性質(zhì)2、|B()| B (0)； 性質(zhì)3、 B() 是偶函數(shù)： B() = B()；性質(zhì)4、 B() 具非負(fù)定性：對2n個實(shí)數(shù)a1, a2, , an及1, 2, , n，有二、平穩(wěn)過程相互關(guān)函數(shù)的性質(zhì)性質(zhì)5、 B()在( ， )上延續(xù) B()在點(diǎn)=0處延續(xù)。性質(zhì)6、周期平穩(wěn)過程的自相關(guān)函數(shù)必為周期函數(shù)，且二者周期一樣。性質(zhì)1、BXY(0)= BYX(0)；性質(zhì)2、BXY( )= BYX()；定義 設(shè)X(t) ， t T 、 Y(t) ， t T 是兩個平穩(wěn)過程，假設(shè)對 t、 T ，有EX(t+)Y(t)= BXY( )或EY(t+)X(t)= BYX( ) (4.8)那么稱X(t) 與Y(t)平穩(wěn)相關(guān)平穩(wěn)聯(lián)絡(luò)。性質(zhì)3、 |BXY( )|2 BX