第三章幾種重要的隨機過程

1、 第三章第三章 幾種重要的隨機過程幾種重要的隨機過程 第一節(jié)第一節(jié) 獨立過程和獨立增量過程獨立過程和獨立增量過程 第二節(jié)第二節(jié) 正態(tài)過程正態(tài)過程 第三節(jié)第三節(jié) 維納過程維納過程 第四節(jié)第四節(jié) 泊松過程泊松過程 定義定義3.1.1 對任意的正整數(shù)對任意的正整數(shù) n 及任意的及任意的 , 21 Tttt n TttX ),( 為為獨立過程獨立過程. . 相互獨立相互獨立, ,稱隨機過程稱隨機過程 隨機變量隨機變量 )(,),(),( 21n tXtXtX 第一節(jié)第一節(jié) 獨立過程和獨立增量過程獨立過程和獨立增量過程 一、獨立過程一、獨立過程 獨立隨機過程的有限維分布由一維分布確定獨立隨機過程的有限維

2、分布由一維分布確定注注 n k kkknnn xtFxxttF 1 11 );(),;,( Ex.1 高斯白噪聲高斯白噪聲 實值時間序列實值時間序列 的的 NnnX ),( ,)(0,)( 2 n XDnXE 自相關函數(shù)為自相關函數(shù)為 2 0,; (, ) ,. mn R m n mn 稱稱 為為離散白噪聲離散白噪聲( (序列序列).). NnnX ),( 兩兩不相兩兩不相 關序列關序列. . 又若又若X(n)都服從正態(tài)分布都服從正態(tài)分布, ,稱稱 是是 高斯白噪聲高斯白噪聲序列序列. . NnnX ),( 對于對于n維正態(tài)隨機變量有維正態(tài)隨機變量有 相互獨立相互獨立 不相關不相關 故故高斯白

3、噪聲序列高斯白噪聲序列是獨立時間序列是獨立時間序列. . 若過程若過程 是正態(tài)過程是正態(tài)過程, ,且且 RttX ),( , 0)( tXE ts ts tstsR , 0, )(),( 2 高斯白噪聲高斯白噪聲是典型的是典型的隨機干擾數(shù)學模型隨機干擾數(shù)學模型, , 普遍存在于電流的波動普遍存在于電流的波動, ,通信設備各部分的通信設備各部分的 波動波動, ,電子發(fā)射的波動等各種波動現(xiàn)象中電子發(fā)射的波動等各種波動現(xiàn)象中. . 稱其為稱其為高斯白噪聲過程高斯白噪聲過程，它是獨立過程，它是獨立過程. . 如金融、電子工程中常用的線性模型如金融、電子工程中常用的線性模型 自回歸模型（自回歸模型（AR

4、(p)） tptptt XXX 11 理想模型要求殘差序列理想模型要求殘差序列t是是(高斯高斯)白噪聲白噪聲. 二、獨立增量過程二、獨立增量過程 定義定義3.1.2 稱稱 , T=0,)為為獨立增獨立增 量過程量過程, 若對若對 , 及及t0=0t1t20, X(t+h) X(s+h) 與與 X(t) X(s) 有相同的分布函數(shù)有相同的分布函數(shù), ,稱稱X(t),t0是是平穩(wěn)獨立平穩(wěn)獨立 增量增量過程過程. 0 tss+ht+h 增量增量 的分布僅與的分布僅與有關有關, ,與起始與起始 點點 t 無關無關, ,稱稱X(t),t0的增量具有的增量具有平穩(wěn)性平穩(wěn)性( (齊性齊性).). )() (

5、tXtX 注注 Ex.2 若若X(n),nN+是獨立時間序列是獨立時間序列, ,令令 n k XkXnY 0 0)0(, )()( 則則Y(n), nN+是獨立增量過程是獨立增量過程. . 又若又若X(n), n=1,2, 相互獨立同分布相互獨立同分布, ,則則 Y(n), nN+ 是平穩(wěn)獨立增量過程是平穩(wěn)獨立增量過程. . 證證 若若n1n2nm 21 00 12 )()()()( n k n k kXkXnYnY )()1( 21 nXnX )()1()()( 3223 nXnXnYnY )()1()()( 11mmmm nXnXnYnY X(n),nN+ 相互獨立相互獨立各增量相互獨立各

6、增量相互獨立. 性質(zhì)性質(zhì)3.1.1 X(t),t0是平穩(wěn)獨立增量過程是平穩(wěn)獨立增量過程, X(0)=0, 則則 1）均值函數(shù)）均值函數(shù) m(t)= m t (m 為常數(shù)為常數(shù)); 2）方差函數(shù)）方差函數(shù) D( t )= 2t (為常數(shù)為常數(shù)); 3）協(xié)方差函數(shù)）協(xié)方差函數(shù) C(s, t)=2min(s,t). 分析分析 因均值函數(shù)和方差函數(shù)滿足因均值函數(shù)和方差函數(shù)滿足 , )()()(tmsmtsm )()()(tDsDtsD 命題命題：若：若 ),()()(tysytsy .(1)(tyty 可證得可證得1)和和2). 則對任意實數(shù)則對任意實數(shù) t, 有有 )()()()(),(smsXtm

7、tXEtsC 證證3) )()( )()(tmsmsXtXE )()( )( )()()(tmsmsXsXsXtXE X(t) X(s) 與與X(s)相互相互 獨立獨立. stmsXE sXEsXtXE 22 )( )()()( )()( 2222 ststmsmsmsstm 一般一般, C(s, t)=2min(s,t). 性質(zhì)性質(zhì)3.1.2 獨立增量過程的有限維分布由獨立增量過程的有限維分布由 一維分布和增量分布確定一維分布和增量分布確定. 分析分析 對于獨立增量過程對于獨立增量過程X(t ),t0,任取的任取的 t1 t2 tnT, Y1= X(t1), Y2 =X(t2)X(t1),

8、, Yn =X(tn)X(tn-1) 相互獨立性相互獨立性, 利用特征函數(shù)法可證明結論利用特征函數(shù)法可證明結論. 思考題：思考題： 1. 白噪聲過程是否一定是獨立過程？白噪聲過程是否一定是獨立過程？ 2. 獨立過程是否是獨立增量過程？反之？獨立過程是否是獨立增量過程？反之？ 1定義 為n維正態(tài)分布，其密度函數(shù)為 也稱高斯過程。 則稱 設)(tX,Rt是一隨機過程， 對 任 意 正 整 數(shù) n 及Rttt n , 21 ， 隨機變量)( 1 tX,)( 2 tX,)( n tX的聯(lián)合分布函數(shù) ),( 2121nn xxxtttf； 1 /21/2 11 exp() C () (2 )|C|2 n

9、 xmxm 第二節(jié)第二節(jié) 正態(tài)過程正態(tài)過程 其中 n x x x x 2 1 )( )( )( 2 1 n tm tm tm m 11121 21222 12 C( , )C( , )C( , ) C( , )C( , )C( , ) C C( , )C( , )C( , ) n n nnnn t tt tt t t tt tt t t tt tt t 且 )()( ii tXEtm C( , ) ( )( ) ( )( ) ijiijj t tE X tm tX tm tC( , ) ji t t C為協(xié)方差矩陣，為協(xié)方差矩陣， 注由正態(tài)過程的n維概率密度表達式知，正態(tài)過程 的統(tǒng)計特性，由它

10、的均值函數(shù) 及自協(xié)方差 函數(shù) 完全確定。 )(tm 12 C( ,)t t Ex.3 證 可得 設)(tX,Rt是一個獨立的正態(tài)過程， 若 21 tt ，)( 1 tX與)( 2 tX相互獨立， 121212 C( ,)( )( )( ) ( )t tE X t X tm t m t 0)()()()( 2121 tmtmtEXtEX 注注逆命題也成立。 一、維納過程的數(shù)學模型及應用一、維納過程的數(shù)學模型及應用 維納過程是英國植物學家羅伯特維納過程是英國植物學家羅伯特.布朗布朗 在觀察漂浮在液面的花粉運動在觀察漂浮在液面的花粉運動布朗運布朗運 動規(guī)律時建立的隨機游動數(shù)學模型動規(guī)律時建立的隨機游

11、動數(shù)學模型. 第三節(jié)第三節(jié) 維納過程維納過程 維納過程應用廣泛：電路理論、通信維納過程應用廣泛：電路理論、通信 和控制、生物、經(jīng)濟管理等和控制、生物、經(jīng)濟管理等. 維納過程的研究成果應用于計量經(jīng)濟學，維納過程的研究成果應用于計量經(jīng)濟學， 使其方法論產(chǎn)生了一次飛躍，成功地應用使其方法論產(chǎn)生了一次飛躍，成功地應用 于非平穩(wěn)的經(jīng)濟過程，如激烈變化的金融于非平穩(wěn)的經(jīng)濟過程，如激烈變化的金融 商品價格的研究。商品價格的研究。 二、定義 則稱或布朗運動過程。 當1時，稱為標準維納過程。特別 三、維納過程的分布三、維納過程的分布 1.一維分布一維分布： W( t ) N(0,2t)； 2. 增量分布增量分布

12、： W( t) W( s)N(0,2|ts|); 設設ts ，因因W(0)=0, 且且W( t )是平穩(wěn)獨立增量是平穩(wěn)獨立增量 過程，故過程，故 有相同分布有相同分布N(0,2(ts). )()()()(sWsstWsWtW )()0()(stWWstW 與與 3. 維納過程是維納過程是正態(tài)過程正態(tài)過程. 證證 設維納過程設維納過程 W( t ),t0的參數(shù)是的參數(shù)是2， , 21n tttn 及及任取任取 ),()( 1 kkk tWtWX ),(, 0( 1 2 kkk ttNX 則則 相互獨立，且有相互獨立，且有 nkt, 2 , 1, 0 0 kk XXXtW 21 )( )( )(

13、)( 2 1 n tW tW tW 11111 00111 00011 00001 n X X X 2 1 正態(tài)隨機正態(tài)隨機 向量的線向量的線 性變換服性變換服 從正態(tài)分從正態(tài)分 布布。 四、維納過程的數(shù)字特征四、維納過程的數(shù)字特征 1. EW(t)=0; DW(t)= 2t 2. C(s, t)=R(s,t)=2min(s,t) 維納過程是維納過程是 平穩(wěn)獨立增平穩(wěn)獨立增 量過程量過程 下證 C(s, )W(s)W( )tEt W(s)D 2s 同理 故 2 C(s, )min(s, )tt 3 對任意 n ttt, 21 ， 21 0tt n t 維納過程)(tX有 )()( 1 ii t

14、XtX)(, 0( 1 2 ii ttN，ni, 2 , 1 證由于增量 )()( 1 ii tXtX，ni, 2 , 1 是相互獨立的正態(tài)變量。 所以 )()( 1 ii tXtXE 0)()( 1 ii tXEtXE )()( 1 ii tXtXD)()( 2 1 ii tXtXE )()()(2)( 1 2 1 2 iiii tXtXtXtXE )()()(2)( 1 2 1 2 iiii tXEtXtXEtXE i t 2 1 2 2 i t 1 2 i t ii tt 1 )( 1 2 ii tt 4具有馬氏性 證 因此 所以 因)(tX是維納過程 增量)()(sXstX與時刻 s

15、以前的狀態(tài) )(X (s0)獨立， xsXastXP)(|)(，)(X，s0 xsXxasXstXP)(|)()(，)(X，s0 xsXxasXstXP)(|)()( xsXastXP)(|)( 所以維納過程是馬氏過程。 例4 試求 的協(xié)方差函數(shù)。 且 解 設)(tW，0t是一個維納過程， 0)0(W)()(tWltW（0l常數(shù)） 12 C( , )t t)()( 11 tWltWE)()( 22 tWltW )()(tWltWE )()( 21 ltWtWE )()( 21 tWltWE )()( 21 tWtWE ),min( 21 2 ltlt),min( 21 2 ltt ),min(

16、 21 2 tlt ),min( 21 2 tt )(tm0 )()( 21 ltWltWE 當 21 tt 時，可得 當 21 tt ，可得 所以 一、計數(shù)過程與泊松過程一、計數(shù)過程與泊松過程 在天文，地理，物理，生物，通信，醫(yī)學，在天文，地理，物理，生物，通信，醫(yī)學， 計算機網(wǎng)絡，密碼學等許多領域，都有關于隨計算機網(wǎng)絡，密碼學等許多領域，都有關于隨 機事件流的機事件流的計數(shù)問題，計數(shù)問題，如：如： 蓋格記數(shù)器上的粒子流；蓋格記數(shù)器上的粒子流； 電話交換機上的呼喚流；電話交換機上的呼喚流； 計算機網(wǎng)絡上的（圖象，聲音）流；計算機網(wǎng)絡上的（圖象，聲音）流； 編碼（密碼）中的誤碼流；編碼（密碼）

17、中的誤碼流； 第四節(jié)第四節(jié) 泊泊 松過程松過程 交通中事故流；交通中事故流； 細胞中染色體的交換次數(shù)，細胞中染色體的交換次數(shù)， 均構成以時間順序出現(xiàn)的事件流均構成以時間順序出現(xiàn)的事件流 A1,A2, 定義定義3.4.1 隨機過程隨機過程N(t), t0稱為稱為計數(shù)過計數(shù)過 程程(Counting Process),如果如果N(t)表示在表示在(0, t)內(nèi)內(nèi) 事件事件A 出現(xiàn)的總次數(shù)出現(xiàn)的總次數(shù). 計數(shù)過程應滿足：計數(shù)過程應滿足： (1) N( t )0; ; (2) N( t ) 取非負整數(shù)值；取非負整數(shù)值； (3) 如果如果s t，則，則N( s )N( t )； (4) 對于對于s 0；

18、 (4) PN(h)2=o(h). 稱稱N( t ),t0)是參數(shù)是參數(shù)( (或速率或速率, ,強度強度) )為為的的 齊次泊松過程齊次泊松過程. . EX.1 在數(shù)字通信中誤碼率在數(shù)字通信中誤碼率是重要指標，是重要指標， 設設N( t ), t0為時間段為時間段0, t)內(nèi)發(fā)生的誤碼次內(nèi)發(fā)生的誤碼次 數(shù)數(shù), N( t ), t0是計數(shù)是計數(shù)過程過程, 而且滿足而且滿足 (1) 初始時刻不出現(xiàn)誤碼是必然的初始時刻不出現(xiàn)誤碼是必然的, 故故N(0)=0; (2) 在互不相交的區(qū)間在互不相交的區(qū)間 nnn tttttttt 211211 0), ,),), 0 出現(xiàn)的誤碼數(shù)互不影響出現(xiàn)的誤碼數(shù)互不

19、影響, 故故N( t )獨立增量過程獨立增量過程. 在系統(tǒng)穩(wěn)定運行的條件下在系統(tǒng)穩(wěn)定運行的條件下, 在相同長度區(qū)間在相同長度區(qū)間 內(nèi)出現(xiàn)內(nèi)出現(xiàn)k個誤碼概率應相同個誤碼概率應相同, 故可認為故可認為N( t )是是 增量平穩(wěn)過程增量平穩(wěn)過程. N( t ), t0是平穩(wěn)獨立增量過程；是平穩(wěn)獨立增量過程； (3) 認為認為t時間內(nèi)出現(xiàn)一個誤碼的可能性時間內(nèi)出現(xiàn)一個誤碼的可能性 與區(qū)間長度成正比是合理的與區(qū)間長度成正比是合理的,即有即有 PN( t)=1= t +o( t), 0； (4) 假定對足夠小的假定對足夠小的t時間內(nèi)時間內(nèi),出現(xiàn)兩個以出現(xiàn)兩個以 上誤碼的概率是關于上誤碼的概率是關于t的高階

20、無窮小也是合的高階無窮小也是合 理的理的, 有有 PN( t)2=o( t). 定理定理3.4.1 齊次泊松過程齊次泊松過程N( t ),t0在時間在時間 間隔間隔(t0, t0+t)內(nèi)事件出現(xiàn)內(nèi)事件出現(xiàn)n 次的概率為次的概率為 終上所述終上所述,可用可用Poisson過程數(shù)學模型描述通過程數(shù)學模型描述通 信系統(tǒng)中誤碼計數(shù)問題信系統(tǒng)中誤碼計數(shù)問題. . 可認為可認為 N( t ), t0是強度為是強度為的泊松計數(shù)的泊松計數(shù)過程過程. ), 2 , 1 , 0( , ! )( )()( 00 ne n t ntNttNP t n 定理證明反之亦然定理證明反之亦然, ,得泊松過程的等價定義：得泊松

21、過程的等價定義： 定義定義3.4.2 設計數(shù)過程設計數(shù)過程 N(t),t0 滿足下述條滿足下述條 件：件： (1) N(0)=0； (3) 對一切對一切0st , N(t) N(s) P(ts), ,即即 ), 2 , 1 , 0( , ! )( )()( )( k e k st ksNtNP st k (2) N(t)是獨立增量過程是獨立增量過程； 注注 有有 )0()()(kNtNPktNP ),2,1,0( , ! k e k t t k 問題問題 若若N(t)的一維分布是泊松分布的一維分布是泊松分布, 能否能否 推出第推出第(3)條成立條成立? EX.2 設設N( t ), t0是參數(shù)

22、為是參數(shù)為的泊松過程的泊松過程, 事件事件A在在(0,)時間區(qū)間內(nèi)出現(xiàn)時間區(qū)間內(nèi)出現(xiàn)n次，試求次，試求: : PN(s)=k N()=n, 0kn, 0s s 0 R(s,t)=EN(t)N(s)= EN(s)N(t) N(s)+ N(s) = EN(s)N(t) N(s)+E N2(s) =EN(s)EN(t) N(s)+E N2(s) stssssts 22 )()( tsststmsmtsRtsC 2 )()(),(),( C(s,t)=min(s,t) R(s,t)=min(s, t)+2st. 一般地有一般地有 ( ) 0 ( )( ) iuX tiun X n guE eeP X

23、tn 泊松過程的特征函數(shù)為泊松過程的特征函數(shù)為 1 iu X g (u)expt(e) 0 () ! n iunt n t e e n exp tiu ete 0 () ! iun t n te e n exp(1) iu t e 1) 令令Y(t)=N1(t) N2(t)，t0,求求Y(t)的均值函的均值函 數(shù)和相關函數(shù)數(shù)和相關函數(shù). 2) 證明證明 X(t)=N1(t) +N2(t), t 0, 是強度是強度 為為1+2的泊松過程的泊松過程. 3) 證明證明 Y(t)=N1(t) N2(t)，t 0,不是泊松不是泊松 過程過程. EX.3 設設N1(t)和和N2( t )分別分別是強度為是

24、強度為1和和2 的相互獨立的泊松過程的相互獨立的泊松過程, ,)()()()(1 2121 ttNEtNEtm Y ）解解 )()()()(),( 2121 tNtNsNsNEtsRY )()()()( )()()()( 1221 2211 tNsNEtNsNE tNsNEtNsNE )()( )()(),(),( 12 21 21 tNEsNE tNEsNEtsRtsR NN ststtsstts 21 2 22 2 11 2),min(),min( .2)(),min()( 21 2 2 2 121 ststts 2) 根據(jù)泊松分布的可加性知根據(jù)泊松分布的可加性知 X(t)=N1(t) +

25、N2(t), t0, 3) X(t)=N1(t) N2(t)的特征函數(shù)為的特征函數(shù)為 1212 ( )exp() iuiu X utetet 獨立和的獨立和的 特征函數(shù)特征函數(shù) 由分布函數(shù)與特征函數(shù)的一一對應的惟一性由分布函數(shù)與特征函數(shù)的一一對應的惟一性 定理知定理知X(t)不是泊松過程不是泊松過程. 服從參數(shù)為服從參數(shù)為1+2的泊松分布的泊松分布. 自證自證問題問題:如何證明如何證明? 2. 時間間隔與等待時間的分布時間間隔與等待時間的分布 t W1W2W3W4 N(t) 軌道是躍度為軌道是躍度為 1 的階梯函數(shù)的階梯函數(shù) 用用Tn表示事件表示事件A第第n1次出現(xiàn)與第次出現(xiàn)與第n次出現(xiàn)的次出現(xiàn)的 時間間隔時間間隔. . n i in TW 1 有有 1iii TWW 和 Wn為事件為事件A第第n 次出現(xiàn)的次出現(xiàn)的等待時間等待時間( (到達時間到達時間).). 定理定理3.4.2 設設Tn, n1是參數(shù)為是參數(shù)為的泊松過的泊松過 程程N(t), t0 的時間間隔序列，的時間間隔序列， 則則Tn, n1