隨機過程的基本概念學(xué)習(xí)教案

1、會計學(xué)1隨機隨機(su j)過程的基本概念過程的基本概念第一頁，共29頁。2數(shù)學(xué)解釋：可認(rèn)為X (,t)， t T 是定義在T上的二元函數(shù)。當(dāng)t固定時， X(,t)是r.v.(stat)，當(dāng)固定時， X(,t)是定義在T上的普通函數(shù)，稱為(chn wi)隨機過程的樣本函數(shù)或軌道(path)，樣本函數(shù)的全體稱為(chn wi)樣本函數(shù)空間。1.5.1(1)( )cos(2),(0,2 ),0,10X ttUt 例第2頁/共29頁第二頁，共29頁。3SuSdSSu2udSSd2Su3Sd3Sud2dSu2Su4Sd4dSu3Sdu22Sud3 101,1,2,.kkkuSHSS SkdST,0.5

2、,0,1,.,hn hhnnnHHHHHHHTHHTHHTHHTHHHHTHTP Su dSChn (2)由拋硬幣決定的隨機(su j)過程: (隨機(su j)游動)第3頁/共29頁第三頁，共29頁。4隨機過程可按時間(參數(shù))是連續(xù)的或離散的分為兩類:(1)若T是有限(yuxin)集或可列集時,則稱為離散參數(shù)隨機過程或隨機序列.(2)若T是有限(yuxin)或無限區(qū)間時,則稱為連續(xù)參數(shù)隨機過程.隨機過程也可按任一時刻的狀態(tài)是連續(xù)型隨機變量或離散(lsn)型隨機變量分為兩類:(1)若對于任意 都是離散型隨機變量(su j bin lin),稱 為離散型隨機過程；)(,jjtXTt TttX),

3、(2)若對于任意 都是連續(xù)型隨機變量,稱 為連續(xù)型隨機過程.TttX),()(,jjtXTt 第4頁/共29頁第四頁，共29頁。5定義 1.5.1 設(shè)Xt，tT 為(,F, P) (E,E )隨機(su j)過程，令11,121(),;nnttnttniFFFP XFXFtT其中F1 ., FkE. 稱 為隨機(su j)過程Xt，tT 的有限維分布族.1:,1,1nttitTin n 特別,對于一維隨機過程X (t), t T 任意 nZ+ 和 t1,t n T，隨機向量（X t1 , X t n )的分布函數(shù)全體1,11( ,.),nttnnFxxttT nZ稱為Xt，t T 的有窮維分布

4、函數(shù)族。第5頁/共29頁第五頁，共29頁。6若對 ,隨機(su j)向量 有密度函數(shù), 則這些密度函數(shù)的全體ntt ,.,1nttXX ,.,11,11( ,.),nttnnfxxttT nZ稱為(chn wi)Xt，t T 的有窮維密度函數(shù)族。若對 ,隨機向量 是離散型的, 則這些分布(fnb)律的全體ntt ,.,1nttXX ,.,11,11( ,.) ,nttnnpxxttT nZ稱為Xt，t T 的有窮維概率分布族。第6頁/共29頁第六頁，共29頁。7設(shè)X (t), t T 為隨機(su j)過程，稱為X (t), t T的n維特征函數(shù)；稱n1kkkn1tXin1ttEe)(,),(

5、,),(,ZnTttn1n1ttn1為X (t), t T的有窮維特征函數(shù)族。 由于r.v.的特征函數(shù)與分布函數(shù)有一一對應(yīng)關(guān)系，所以，也可以通過(tnggu)隨機過程的有窮維特征函數(shù)族來描述它的概率特性。第7頁/共29頁第七頁，共29頁。8隨機(su j)過程的有限維分布滿足下面的兩個性質(zhì)： 1(1)(),.1,(1)(.)()nnttnttFFFF（n）(1)對稱性：對于1,2,n 的任意(rny)排列(1),(2),(n) 有111,1,1()()kkkk mttkttttkFFFFEE(2)相容性：對于(duy)任意的自然數(shù) k ,m,反之， (Kolmogorovs 擴張定理).對一切

6、性質(zhì)(1) (2)的概率測度，則存在概率空間 (,F, P) 及定義在 上取值于E的隨機過程Xt ，使得NkTttk ,1令kttv,.,1為Ek上滿足以上11,11(),kkttktktvFFP XFXF第8頁/共29頁第八頁，共29頁。9例1.5.2. 求隨機過程(guchng)的一維密度函數(shù)族.這里b 是常數(shù), X是標(biāo)準(zhǔn)正態(tài)隨機變量.,cos)(btXtX解:(1)當(dāng)cosbt0時,由X(t)=Xcosbt,XN(0,1)知X(t)N(0,cos2bt),則X(t)的一維密度(md)函數(shù)為(2)當(dāng)cosbt=0時, X(t)不存在一維密度(md)函數(shù).222cos1( ),2cosxbt

7、tf xexbt 故X(t)的一維密度函數(shù)族為222cos11( );,0, 1, 2,.22 cosxbttf xetR tkkbbt 第9頁/共29頁第九頁，共29頁。10定義1.5.2 給定隨機過程Xt,tT, 給定t,（1）隨機變量Xt的均值或數(shù)學(xué)期望(qwng)與t有關(guān),記為( )XttE X稱X(t)為隨機(su j)過程Xt的均值函數(shù)(Mean)稱為隨機(su j)過程Xt,tT,的均方值函數(shù).（2） 隨機變量Xt的二階原點矩22( ),XttE X第10頁/共29頁第十頁，共29頁。11（3） 隨機變量(su j bin lin)Xt的方差22( )( ),XttXtVar X

8、EXt稱為隨機過程Xt,tT,的方差(fn ch)函數(shù)(Varance)(4) 設(shè)Xt1和Xt2是隨機過程Xt,tT在任意二個時刻t1和t2時的狀態(tài)(zhungti).稱Xt1和Xt2的二階混合原點矩為隨機過程Xt,tT的自相關(guān)函數(shù)(correlation),簡稱相關(guān)函數(shù).1212( , )XttRt tE X X第11頁/共29頁第十一頁，共29頁。12（5）稱Xt1和Xt2的二階混合(hnh)中心矩121212( , )( )( )XtXtXCt tEXtXt為隨機過程(guchng)Xt,tT的自協(xié)方差函數(shù)covaricance,簡稱協(xié)方差函數(shù).(6) 對于兩個隨機過程(guchng)X

9、t,tT,Yt,tT，若對任意t T，EXt2 、 EYt2存在，則稱函數(shù)( , )( )( ),XYsXtYCs tE XsYts tT為隨機過程 Xt,tT,與Yt,tT,的互協(xié)方差函數(shù)。第12頁/共29頁第十二頁，共29頁。13( , ),;XYs tRs tE X Ys tT為隨機(su j)過程Xt,tT與Yt,tT的互相關(guān)函數(shù).易知;,),()(),(),(TtststsRtsCYXXYXY(7) 稱定義1.5.3 若對任意的s,t T，有EXsYt=0, 則稱隨機過程Xt,tT與Yt,tT正交; 若CXY(s, t)=0，則稱隨機過程Xt,tT與Yt,tT 互不相關(guān)； 若對任意的

10、n,mZ+，隨機向量(xingling)(Xt1, Xtn)與(Ys1,Ysm) 相互獨立，則稱隨機過程Xt,tT與Yt,tT相互獨立。第13頁/共29頁第十三頁，共29頁。14例1.5.3 設(shè) ,其中X0和V是相互獨立(dl)的隨機變量.且btatVXtX,)(0求隨機過程X(t),-t的五種(w zhn)數(shù)字特征.20(0,),( )XNVE解:)()(0tVXEtXEtXt)(),(201021VtXVtXEttRX)(21221020t tVttVXXE22122t t),()(2ttRtXX2222t)()(),(),(212121ttttRttCXXXX2212t t2( )( ,

11、 )XXtCt t222t第14頁/共29頁第十四頁，共29頁。15定義1.5.4若Xt,tT, Yt,tT是兩個(lin )實隨機過程，則稱Zt = X t+i Yt， t T 為復(fù)隨機過程。 它的均值函數(shù)、協(xié)方差函數(shù)、相關(guān)函數(shù)和方差函數(shù)分別定義如下： Z (t)= EZt=EXt+i EYt ,t T( , )( )( ),ZsZtZC s tE Zm sZm ts tT( , ),ZstR s tE Z Zs tT22( )( )( )|( )| ,ZtZtZtZtE Zm tZm tE Zm ttT第15頁/共29頁第十五頁，共29頁。16(1) 獨立隨機序列 對于任意n個不同的參數(shù)t

12、1,t n T ， r.v. X(t1), X(t n)相互(xingh)獨立，這樣的隨機序列稱為獨立隨機序列。 (2) 獨立增量過程(guchng)定義1.3.1 若隨機過程(guchng) 滿足 增量 與 獨立,則稱為獨立增量過程(guchng).st tsXX,0tX t ,suXusF或等價地寫作第16頁/共29頁第十六頁，共29頁。17 過程 滿足,對任意 t1 t2 t n T， Xt的增量 相互獨立，這樣的隨機(su j)過程稱為獨立增量過程。,tX tT21321,nnttttttXXXXXX第17頁/共29頁第十七頁，共29頁。18例 1.5.4 設(shè)Xt,tT是獨立增量過程(

13、guchng)，且增量平穩(wěn), PX0=0=1，求證：增量的分布完全決定任意有窮維分布.( )ti XtEe 12121212,12,( ,)ttiXXt tttE e 1221211()ttttiXXXXE e122121()()tttiXXXiE ee121122ttt第18頁/共29頁第十八頁，共29頁。1912121112)12.(nnnttntnnktkttnttkkXXXXXXXX11211,.,1)12( ,.,)exp.(nnnttnnnktkttnttkkEiXXXXX12.,nttt 121112()().() #nnnntkttkttnkk 第19頁/共29頁第十九頁，共2

14、9頁。20定義1.5.5 設(shè)隨機(su j)過程 , 若對|,tstsP XBP XB XF則稱該過程為馬爾可夫過程，簡稱(jinchng)“馬氏過程”。 馬氏過程的特點：已知現(xiàn)在，將來與過去無關(guān)。 tXt;st )(|(),;,(tsxXBXPBtxsPst第20頁/共29頁第二十頁，共29頁。21 1212),1,2,|iutsustsvust BRiP XB XBXP XBXP XBX B):,|ttstsih RRE h Xst E h XE h XX 滿足FsXsXttzEzEtsRzX,F),XttiuXiuXssiiiuR stE eE e Fii)若Xt 的母函數(shù)(hnsh)存

15、在, ,|,.,|11nttntttxXBXPxXxXBXPnn 12).,1,., ,niivtttt x in BR B第21頁/共29頁第二十一頁，共29頁。22Markov過程的判別-獨立性定理:設(shè)X,Y為概率空間(,F,P)上的隨機變量, G為F 的子代數(shù), 且設(shè)X與G 獨立, Y關(guān)于(guny)G 可測. 則對二元函數(shù) f(x,y),(, )|(, )|E f X YE f X YYG例1.5.5 獨立增量(zn lin)過程Xt是Markov過程.證:|tsstiu XXiuXiuXssst E eE e FF|#tsstiu XXiuXiuXssE eE eXF其中(qzhng

16、), Xt-Xs關(guān)于Fs獨立, Xs 關(guān)于Fs 可測, 根據(jù)獨立性定理,第22頁/共29頁第二十二頁，共29頁。23根據(jù)參數(shù)集T及狀態(tài)空間E的取值離散與否，通常將馬氏過程分成四類進行研究(ynji)：1、參數(shù)和狀態(tài)都離散的馬氏過程，簡稱馬氏鏈；3、參數(shù)連續(xù)、狀態(tài)離散的馬氏過程，又稱連續(xù)馬氏鏈或純不連續(xù)馬氏過程；3、參數(shù)離散、狀態(tài)連續(xù)的馬氏過程，簡稱馬氏序列;4、參數(shù)和狀態(tài)都連續(xù)的馬氏過程，又稱連續(xù)馬氏過程。隨機(su j)游動, Poisson過程, 更新過程中的更新時間序列, Brown運動, 分別是1-4的例子.第23頁/共29頁第二十三頁，共29頁。24設(shè)Bt,t0為一獨立增量(zn l

17、in)過程， ，求證：Xt,t0為Markov過程.tBtXe第24頁/共29頁第二十四頁，共29頁。25 在工程應(yīng)用和大量實際現(xiàn)象的理論分析研究中常會遇到一類過程。其統(tǒng)計特性隨著時間的推移不發(fā)生任何變化。此類過程中，最重要的是“平穩(wěn)過程”。例如無線電設(shè)備(shbi)中熱噪聲電壓X(t)是由于電路中電子的熱運動引起的，這種熱擾動不隨時間而變；連續(xù)測量飛機飛行速度產(chǎn)生的測量誤差X(t) ， 是由儀器震動、電磁波干擾、氣候變化等因素引起的; 紡紗廠生產(chǎn)出的棉紗各處直徑X(t)不同是由于紡紗機運行，棉條不勻、溫濕度變化等因素引起的。第25頁/共29頁第二十五頁，共29頁。26定義1.5.7 設(shè)隨機(

18、su j)過程 X (t) ,t T 的有窮維分布函數(shù)族為Ft1,tn (x1,xn), t1,tn T, n1 ，若對n 和t1,tn T, 及ti+T的，有Ft1,tn (x1,xn)= Ft1 +,tn + (x1,xn) (1.3.1)則稱 X (t) ， t T 是嚴(yán)平穩(wěn)(pngwn)過程。嚴(yán)平穩(wěn)過程的特點： (1) 若有概率密度，則式(1.3.1)等價于：f t1,tn (x1,xn)=f t1 +,tn + (x1,xn);第26頁/共29頁第二十六頁，共29頁。27 (2) 一維分布(fnb)與 t 無關(guān)，二維分布(fnb)僅與時間差有關(guān)，而與時間的起點無關(guān)； (3) 若存在二階矩，則其均值函數(shù)是常數(shù)，相關(guān)函數(shù)或協(xié)方差函數(shù)僅是時間差的函數(shù)。 嚴(yán)平穩(wěn)過程(guchng)的平穩(wěn)性條件(1.3.1)過于嚴(yán)格而在應(yīng)用上往往難于實現(xiàn)。在工程技術(shù)中一般只要知道過程(guchng)的一、二階矩，就能處理和解決有關(guān)問題，于是就產(chǎn)生了僅與過程(guchng)的一、二階矩有關(guān)的平穩(wěn)過程(guchng)理論。這類過程(guchng)的理論稱為平穩(wěn)過程(guchng)的相關(guān)理論，它涉及