第1章概率與隨機(jī)過程(應(yīng)用隨機(jī)過程,陳萍)

應(yīng)用隨機(jī)過程第1章概率論基礎(chǔ)與隨機(jī)過程的基本概念教師:陳萍prob123@1

隨機(jī)過程通常被視為概率論的動(dòng)態(tài)部分,在概率論中研究的隨機(jī)現(xiàn)象,都是在概率空間上的一個(gè)或有限多個(gè)隨機(jī)變量的規(guī)律性.但在實(shí)際問題中,我們還需要研究一些隨機(jī)現(xiàn)象的發(fā)展和變化過程,即隨時(shí)間不斷變化的隨機(jī)變量,這就是隨機(jī)過程所要研究的對象.引言2課程的主要內(nèi)容概率論基礎(chǔ)與隨機(jī)過程的基本概念泊松過程與更新過程馬爾科夫鏈鞅與Brown運(yùn)動(dòng)

隨機(jī)微分方程

3參考書陳萍等編，隨機(jī)數(shù)學(xué)，國防工業(yè)出版社，2008林元烈,應(yīng)用隨機(jī)過程,清華大學(xué)出版社,2002Bernt

ksendalStochasticD如果ferentialEquations,Springer-Verlag,1998陳萍等編，概率與統(tǒng)計(jì)，科學(xué)出版社，2006工程數(shù)學(xué)--積分變換4隨機(jī)試驗(yàn)是概率論的基本概念,一個(gè)試驗(yàn)(或觀察)，若它的結(jié)果預(yù)先無法確定，則稱之為隨機(jī)試驗(yàn);試驗(yàn)的所有可能結(jié)果所組成的集合稱為樣本空間，記為;試驗(yàn)的每一個(gè)結(jié)果或樣本空間的元素稱為一個(gè)樣本點(diǎn),記為ω;由一個(gè)樣本點(diǎn)組成的單點(diǎn)集稱為一個(gè)基本事件,也記為ω.

由Ω中的若干子集構(gòu)成的集合稱為集類，用花寫字母A，B，F(xiàn)等表示．由于并不是在所有的Ω的子集上都能方便地定義概率，一般只限制在滿足一定條件的集類上研究概率性質(zhì)，為此引入域(代數(shù))的概念：5定義

1.1.1

設(shè)F是空間上的集類，稱F為-代數(shù)（域）（

-algebra）,若滿足:①∈F;②F∈FFC∈F；③A1,A2,…∈FAi∈F注:如果F是-代數(shù),則F對F上的所有集合運(yùn)算封閉；且對極限運(yùn)算封閉，如：A1,A2,…∈FAi∈F,A1,A2,…∈Fand

AnAA∈F,A1,A2,…∈Fand

AnAA∈F6例1.1.1幾個(gè)常見的-代數(shù)：1）稱{,}為最“粗”的-代數(shù)，而稱()={的所有子集}為最“細(xì)”的-代數(shù)；2）設(shè)A

，則{,,A,Ac}是-代數(shù)；3）設(shè)F1，F(xiàn)2是的子集組成的兩個(gè)-代數(shù)，令

F3=F1F2，則F3也為-代數(shù)；4）設(shè)是實(shí)數(shù)域Rn，是由Rn上的一切開集生成的-代數(shù)，稱之為Borel代數(shù)，B中的元素稱為Borel集.7定義1.1.2設(shè)U

是由

的子集構(gòu)成的集類

.稱包含U.的最小-代數(shù),即為由U生成的-代數(shù)（

the-algebrageneratedbyU.）定義1.1.3設(shè)F為空間的子集組成的代數(shù)，稱二元組

(,F)為可測空間（measurablespace）;的任一子集F稱為F-可測（F-measurable）的,如果F∈F.8定義1.1.4設(shè)(,F)為可測空間，μ為定義在F上取非負(fù)實(shí)數(shù)R+=[0,+]的函數(shù)，即μ:

F

R+，若μ()=0;

若A1,A2,…∈F,且

{Ai}i≧1

兩兩不交，則特別，（1）當(dāng)μ()=1時(shí)，稱μ為概率測度(probabilitymeasure),記為P，并稱(,F,P)為概率空間(probabilityspace).此時(shí)稱F可測集A為事件，A的測度P(A)稱為事件A發(fā)生的概率。則稱μ為可測空間(,F)上的測度(measure)，且稱(,F,μ)為測度空間(measurespace).9(2)當(dāng)=R，F(xiàn)=B為R上的Borel代數(shù)，測度μ使得開區(qū)間的測度等于區(qū)間的長度,即若A=(a.b),則μ(A)=b-a時(shí),稱μ為Lebesgue測度.(3）在可測空間(R,B)上，f是單調(diào)不減的連續(xù)函數(shù)，在B上定義測度μ為稱μ為Lebesgue-Stieltjes測度.事件的概率刻畫了事件出現(xiàn)可能性的大?。怕实幕拘再|(zhì)如下：1）有限可加性：設(shè){Ai,i=1,…,n}為兩兩互不相容的事件列，則102）單調(diào)性：A,BF,且AB,則P(A)P(B)

；3）減法公式：A,BF,則P(B-A)=P(B)-P(AB)；4）下（上）連續(xù)性：設(shè){An,n1}F,若An↓A,則P(An)↓P(A);若An↑A,(n→∞),則P(An)↑P(A);5）Jordan公式：設(shè){Ai,i=1,…,n}為事件列，則11定義1.1.5設(shè)(,F)與（E，E）為可測空間,函數(shù)X:→E稱為F-可測的（F-measurable）,如果對任意UE，特別，若(,F,P)為概率空間，(E,E)=（Rn，B)，則可測函數(shù)X稱為n維隨機(jī)變量（隨機(jī)變量）;易證，集類仍為代數(shù)，稱為由隨機(jī)變量X生成的代數(shù)，記作

.顯然，X是(X)可測的，且(X)是使X可測的最小代數(shù)。任一隨機(jī)變量X，都可以導(dǎo)出(Rn,B)上的測度，稱為X的分布，即12定理1.1.6設(shè)X,Y為→Rn的函數(shù).則Y是(X)-可測的，當(dāng)且僅當(dāng)存在Borel可測函數(shù)g:Rn→Rn使得Y=g(X)定理1.1.4設(shè)X,Y為F-可測函數(shù),則X+c,cX,|X|,X2,X+Y,X/Y均為可測函數(shù).定理1.1.5設(shè){fn}是F-可測函數(shù)列,則以下定義的4個(gè)函數(shù)h,g,f*,f*F-可測?？蓽y函數(shù)的性質(zhì)131.1.3獨(dú)立性定義1.1.10設(shè)(,F,P)為概率空間，稱兩事件A，B是獨(dú)立的（independent）如果若A={Hi;i=1,2,..}是由可測集類

Hi組成的集族，稱A是獨(dú)立的，如果對任意不同的i1,…,ik稱隨機(jī)變量族{Xi;i=1,2,…}是獨(dú)立的，如果生成-代數(shù)族{(Xi),i=1,2,…}是獨(dú)立的.14定理1.1.7.設(shè)(,F,P)為概率空間,若Ct,t∈T為獨(dú)立的-類,則(Ct),t∈T為獨(dú)立的-代數(shù).推論2.設(shè)(,F,P)為概率空間,若{Xt,t∈T}為獨(dú)立的隨機(jī)變量族

,{gt,t∈T}為Borel可測函數(shù)族，則{gt(Xt),t∈T}獨(dú)立.推論1.設(shè)(,F,P)為概率空間,若{Ai,i=1,…,m,m+1,…,m+n}為m+n個(gè)獨(dú)立的事件

,g,h表示兩個(gè)事件運(yùn)算，則g(A1,…,Am)與h(Am+1,…,Am+n)獨(dú)立.注：稱集類C為類，若滿足A,BCABC15定義1.3.1定義在可測空間(,F)上的函數(shù)X()稱為是簡單函數(shù)（simple）,如果存在有限個(gè)兩兩互不相容的可測集{F1,...,Fn}以及有限個(gè)實(shí)數(shù){a1,...,an}滿足：

1.2.1可積性的定義16

在經(jīng)典概率論中，連續(xù)型隨機(jī)變量X的期望定義為（Riemann

積分）：其中

稱為概率密度函數(shù).離散型隨機(jī)變量X的期望定義為§1.2隨機(jī)變量的期望可否給出期望的統(tǒng)一定義？…17Riemann積分:

考慮對示性函數(shù)的積分：其中A是[0，1]區(qū)間的有理數(shù)集

若要函數(shù)可積，必須上和等于下和-----連續(xù)函數(shù)或幾乎處處連續(xù)的有界函數(shù)上和始終為

1,下和始終為

0…18

[0，1]區(qū)間的有理數(shù)集是可數(shù)的,即,

1.對示性函數(shù),定義關(guān)于Lebesgue測度的積分為

2.對于簡單函數(shù):1.2.1Lebesgue

積分19引理：設(shè)

f(x）為上的非負(fù)可測函數(shù)則存在簡單函數(shù)序列滿足.其中于是可以定義

f(x)的Lubesgue積分為

事實(shí)上…20引理證明:

f(x):

上的非負(fù)可測函數(shù)

a1=“區(qū)間”

(如果

f(x)連續(xù))21引理證明:a1a222引理證明:a1a2a1重復(fù)以上過程,總可以構(gòu)造出簡單函數(shù)序列hn(x)converging收斂到f(x).………..證畢！23Lebesgue積分

4.對于上的可測函數(shù)f,其中于是，當(dāng)時(shí)，定義

f(x)的Lubesgue積分為24Lebesgue積分的性質(zhì):

Lebesgue

積分有所有Riemann積分的性質(zhì)：c:constant如果如果AB=25定義1.3.1定義在可測空間(,F)上的函數(shù)X()稱為是簡單函數(shù)（simple）,如果存在有限個(gè)兩兩互不相容的可測集{F1,...,Fn}以及有限個(gè)實(shí)數(shù){a1,...,an}滿足：1.2.2關(guān)于測度的積分26引理1.2.1設(shè)(,F)為可測空間，X為非負(fù)可測函數(shù)，則1)則存在非負(fù)遞增簡單可測函數(shù)列{Xn,n1}，使得積分的定義i)對于(,F,μ)上的簡單函數(shù)，稱X是可積的，如果μ(Fi)<,i=1,…,n，X的積分定義為27ii)如果X()是非負(fù)實(shí)值可測函數(shù)，{Xn}為非負(fù)簡單函數(shù)列，滿足0XnX.則X的積分（integral）定義為iii)如果X()實(shí)值可測函數(shù)，則X的積分定義為其中28注:若X:→Rn,則29在計(jì)算積分時(shí)，改變積分區(qū)域有時(shí)可以帶來很大的方便，這在微積分中是熟知的，在一般的測度論中，也有類似的結(jié)果，這就是重要的積分變換定理.定理1.2.1設(shè)f為測度空間(,F,μ)到可測空間(R,E）上的可測映射，g為定義在(R,E）上的可測函數(shù)，則其中，.這里等號的意義是上式在兩端之一有意義時(shí)成立.30若則稱為X的期望(w.r.t.P).其中設(shè)X為概率空間(,F,P)上的n維隨機(jī)變量，1.2.3期望31更一般地,若g:Rn→R為Boreal可測函數(shù)，則*Lr空間

(,F,P)上所有r階矩存在的隨機(jī)變量組成的集合構(gòu)成線性空間，稱為Lr空間。即X∈Lr,如果E|X|r<∞.*記L∞為所有a.s.有界的隨機(jī)變量組成的集合。*當(dāng)1≦r<∞時(shí)，Lr

為Banach空間.32設(shè)X:R

為隨機(jī)變量，滿足E[|X|]<,

若AF且

P(A)=0，則(2)設(shè)Y:R

為隨機(jī)變量滿足E[|Y|]<,且XY,a.s.則E[X]E[Y].

期望的性質(zhì)(3)設(shè)X:R

為隨機(jī)變量滿足E[|X|]<,且X0a.s.,則E[X]=0當(dāng)且僅當(dāng)X=0a.s.;若X>0a.s.,則E[X]>0.33(4)設(shè)X:R

為隨機(jī)變量滿足E[|X|]<,則對A,BF且AB=.(5)設(shè)兩個(gè)隨機(jī)變量X,Y:R獨(dú)立，且E[X]<,E[Y]<，則E[XY]=E[X]E[Y],34(a)(Chebychev’s不等式)設(shè)X:Rn為隨機(jī)變量，滿足E[|X|P]<,0<p<.則1.2.4不等式(b)(Jensen不等式)設(shè)X為R上可積的隨機(jī)變量,g(.)是連續(xù)凸函數(shù).如果E[|g(X)|]<,則E[g(X)]g[E(X)].例如.E[|X|]|E[X]|;E[X2]{E[X]}2注：凸函數(shù)g(.)滿足g(px+(1-p)y)pg(x)+(1-p)g(y),x,yRn,p[0,1]35(c)(Holder不等式)設(shè)p,q為大于1的實(shí)數(shù)，滿足1/p+1/q=1,且設(shè)fLp，gLq,則(d)(矩不等式)設(shè)0<s<t為實(shí)數(shù),X為隨機(jī)變量，則(e)(Minkowski’s不等式)設(shè)p為大于1的實(shí)數(shù),f,g屬于Lp,則f+gLp,且注:當(dāng)0<p<1時(shí),E|f+g|p

E|f|p+E|g|p361.3隨機(jī)變量序列的收斂性定義1.3.1(a)稱{Xn,n=1,2,…}依概率P收斂于X，若對于任意>0，(b)若,則稱{Xn,n=1,2,…}依概率1收斂或強(qiáng)收斂于X,記為設(shè){Xn,n=1,2,…}是概率空間(,F,P)上的隨機(jī)變量序列.X是隨機(jī)變量。記為37

(c)設(shè)隨機(jī)變量序列滿足其中r>0為常數(shù)，若,則稱

{Xn,n=1,2,…}r階收斂于X，記為

(d)稱{Xn,n=1,2,…}依分布收斂于X,如果記為特別，當(dāng)時(shí)，稱{Xn,n=1,2,…}均方收斂于X，記為38定理1.3.1

設(shè){Xn,n=1,2,…}是概率空間(,F,P)上的隨機(jī)變量序列，X是隨機(jī)變量.1)2)如果子列{Xn’}使或則3)如果則且存在{Xn}的Borel-Canteli引理設(shè),且滿足，則39定理1.3.2(單調(diào)收斂定理):設(shè)0≤Xn↑X,a.s.或依概率,則E[Xn]→E[X]*Fato引理設(shè)E[Xn]存在,(n=1,2,...)i)若Xn

X,a.s.且X可積,則存在,且ii)若Xn

≦X,a.s.且X可積,

則存在,且定理1.3.3(控制收斂定理):設(shè)|Xn|≤Ya.s.(n=1,2,...),Y可積,如果或則401.2.5大數(shù)定律及中心極限定理1.切比雪夫大數(shù)定律

設(shè){Xk,k=1,2,...}為獨(dú)立的隨機(jī)變量序列，且有相同的數(shù)學(xué)期望，及方差2>0，則即若任給>0,使得412.柯爾莫哥洛夫強(qiáng)大數(shù)定律設(shè){Xn,n=1.2,...}是獨(dú)立的隨機(jī)序列,且則有3.

若{Xk,k=1.2,...}為獨(dú)立同分布隨機(jī)變量序列,EXk=<,k=1,2,…則證明參見馮予，陳萍，概率論與數(shù)理統(tǒng)計(jì)，第5章424.

Levy-Lindeberg中心極限定理設(shè){Xn}為獨(dú)立同分布隨機(jī)變量序列，若EXk=<，DXk=2<，k=1,2,…,則5.DeMoivre-Laplace中心極限定理設(shè)隨機(jī)變量n(n=1,2,...)服從參數(shù)為n,p(0<p<1)的二項(xiàng)分布，則436.

Lindeberg中心極限定理設(shè){Xn，n=1,2,…}為獨(dú)立隨機(jī)變量序列，滿足Lindeberg條件:其中Fk(x)是Xk的分布函數(shù)，，則對x一致地有447.

Liapounov中心極限定理設(shè){Xn，n=1,2,…}為獨(dú)立隨機(jī)變量序列，若存在δ>0,使得則對x一致地有其中45§1-4條件期望1.關(guān)于事件B的條件期望定義1.4.1設(shè)(,F,P)為概率空間，A，BF，P(B)≠0,稱**PB為F上的概率測度即:(,F,PB)為概率空間.為已知事件B的條件下，事件A的條件概率。46設(shè)(,

F,P)為概率空間,P(B)>0,為隨機(jī)變量,如果在概率空間

(,F,PB)下的期望存在,則稱之為關(guān)于事件B的條件期望，記作E(|B).注:設(shè)=A,則Lemma1.4.2472.關(guān)于代數(shù)C的條件期望構(gòu)造性定義:設(shè){Bn,n=1,2,...}為的可數(shù)分割，C={Bn,n=1,2,...},設(shè)為所有期望存在的隨機(jī)變量組成的集合，稱E(|

C)=∑[E(|Bn)]Bn

為關(guān)于C的條件期望。例如：設(shè)若在X=x條件下，Y的條件密度為且則48例1將一硬幣拋2次,所有可能結(jié)果為={HH;HT;TH;TT}.以F1表示由第一次拋擲結(jié)果生成的代數(shù):H={HH;HT},T={TH;TT},F1={H,T}.設(shè)X為定義在上的隨機(jī)變量:X(HH)=3,X(HT)=X(TH)=2,X(TT)=1.E(X|F1)=?解49定理1.4.3

E(|C)關(guān)于C可測，且EX已知隨機(jī)變量X的分布律為且知在{X=x}的條件下,隨機(jī)變量Y的條件密度為p(y|x).且設(shè)E|Y|<∞,求證:--全期望公式.50描述性定義定義1.4.4條件期望E(|C)是到Rn的函數(shù)，滿足

E(|C)關(guān)于C可測.(2)補(bǔ)充:設(shè)與為(,F),上的-有限測度，稱為關(guān)于絕對連續(xù)的,如果(A)=0則(A)=0.記作<<.Radon-Nikodym定理設(shè)和

都是可測空間(,F)上的有限測度，若<<，則存在唯一的非負(fù)函數(shù)XL1(,F,)，使得51補(bǔ)充:Radon-Nikodym定理設(shè)與為(,F),上的-有限測度，稱為關(guān)于絕對連續(xù)的,如果(A)=0則(A)=0.記作<<.Radon-Nikodym定理設(shè)和

都是可測空間(,F)上的有限測度，若<<，則存在唯一的非負(fù)函數(shù)XL1(,F,)，使得52條件期望的性質(zhì)設(shè)，η是隨機(jī)變量,E,Eη,E(|C),E(η|C)存在.E(|C)=E(+|C)-E(-|C)a.s.如果關(guān)于

C可測,則

E(|C)=a.s.對任意實(shí)數(shù)a,E(a|C)=aa.s.如果與

C獨(dú)立,則

E(|C)=Ea.s.如果關(guān)于

C可測，E存在,則E(|C)=E(|C)a.s.53(6)設(shè)CC1F,則E(E(|C)|C1)=E(|C)a.s.如果E(|C1)存在，則E(E(|C1)|

C)=E(|C)a.s(7)若,a.s.則E(|C)E(|C).a.s.(8)設(shè)a,bR,則E(a+b|C)=aE(|C)+bE(|C)a.s.EX證明wald等式:設(shè){Xi,i=1,2,…}為獨(dú)立隨機(jī)變量序列,具有相同的數(shù)學(xué)期望E(Xi)=μ,i=1,2,….。又設(shè)N是取正整數(shù)值的隨機(jī)變量,E(N)<且{N≤n}{Xi,i≤n}.則10706*54條件單調(diào)收斂定理:如果0≤Xn↑X,a.s.或pr則E[Xn|C]→E[X|C]a.s.或pr.條件Fato引理:設(shè)E[Xn|C]存在,(n=1,2,...)i)如果Xn

X,a.s.且X可積,則ii)如果Xn

≦X,a.s.且X可積,則條件收斂55條件有界收斂定理:設(shè)|Xn|≤Ya.s.(n=1,2,...)且Y可積,如果或則56(a)(條件

Jensen不等式)設(shè)g(.)為連續(xù)凸函數(shù).如果E[g(X|C

)]<,則E[g(X)|C

]g[E(X|C

)].

條件不等式(e)(條件

Holder不等式)設(shè)p,q為大于1的實(shí)數(shù)，滿足1/p+1/q=1,如果fLp

gLq,則57(g)(條件

Minkowski’s不等式)設(shè)p>1,f,g

Lp,則f+gLp,且(b)(條件矩不等式)設(shè)0<s<t，XLt,則58EX3設(shè)保險(xiǎn)公司在給定[0,t]時(shí)段內(nèi)發(fā)生的索賠次數(shù)N(t)服從參數(shù)為λt的Poisson分布,各次索賠額是相互獨(dú)立且與N(t)獨(dú)立隨機(jī)變量,服從正態(tài)分布,求[0,t]時(shí)段內(nèi)總索賠額的期望.1071*591.4特征函數(shù)與正態(tài)隨機(jī)變量一.母函數(shù)，矩母函數(shù)定義1.4.1設(shè)隨機(jī)變量X的分布律為稱為X的母函數(shù).記實(shí)變數(shù)s的實(shí)函數(shù)為60母函數(shù)有如下性質(zhì):3.設(shè)獨(dú)立,且,則4.若X的n階矩存在,則其母函數(shù)的k(kn)階導(dǎo)數(shù)存在(|s|1),且X的k階矩可由母函數(shù)在s=1的各階導(dǎo)數(shù)表示,如615.(反演公式)設(shè)隨機(jī)變量X的分布律為母函數(shù)為則分布律可由下式給出:62設(shè),求證:X的母函數(shù)是,(1)利用矩母函數(shù)的性質(zhì)求X的前4階原點(diǎn)矩.(2)利用矩母函數(shù)的性質(zhì)證明:兩個(gè)獨(dú)立poisson分布隨機(jī)變量的和仍然服從poisson分布.EX63三、特征函數(shù)的定義1.復(fù)隨機(jī)變量與特征函數(shù)(1)復(fù)隨機(jī)變量:若X與Y都是概率空間(,F，P)上的實(shí)值隨機(jī)變量，則Z=X+iY稱為復(fù)值隨機(jī)變量，其中;規(guī)定EZ=EX+iEY

(2)特征函數(shù):設(shè)X是實(shí)隨機(jī)變量，則稱為X的特征函數(shù)。64（3）設(shè){X

(t)，tT}為隨機(jī)過程，稱為{X

(t)，tT}的n維特征函數(shù)；稱為{X

(t)，tT}的有窮維特征函數(shù)族。

由于r.v.的特征函數(shù)與分布函數(shù)有一一對應(yīng)關(guān)系，所以，可以通過隨機(jī)過程的有窮維特征函數(shù)族來描述它的概率特性。652、幾個(gè)常用隨機(jī)變量的特征函數(shù)(1)單點(diǎn)分布:若X~P{X=c}=1，則(t)=eitc；(2)二項(xiàng)分布B(n,p):若(3)泊松分布P():若則則66(4)正態(tài)分布N(,2):若則

易知，已知一個(gè)隨機(jī)變量的概率分布可計(jì)算出它的特征函數(shù)，反之亦然。事實(shí)上，在特征函數(shù)理論中，有逆轉(zhuǎn)公式和唯一性定理。

因此，可認(rèn)為：隨機(jī)變量的概率分布與它的特征函數(shù)是一一對應(yīng)的。67逆轉(zhuǎn)公式:設(shè)x1,x2是分布函數(shù)F(x)的連續(xù)點(diǎn),則進(jìn)一步,若特征函數(shù)于R上絕對可積,則X是連續(xù)型隨機(jī)變量,且其概率密度f(x)為唯一性定理:分布函數(shù)F1(x)及F2(x)恒等的充要條件是它們的特征函數(shù)1(t)與2(t)恒等.683、特征函數(shù)的性質(zhì)(1)|(t)|(0)=1；(2)共軛對稱性：(3)特征函數(shù)(t)在(，)上一致連續(xù)；(4)若Y=aX+b，則(5)若X、Y獨(dú)立，Z=X+Y，則(6)若EXn存在，則(t)可以微分n次，且69四、隨機(jī)向量的特征函數(shù)

1、定義設(shè)隨機(jī)向量X=(X1,…,Xn)’，則對任意n個(gè)實(shí)數(shù)t1,…,tn

：稱為n維隨機(jī)向量X的n維特征函數(shù)。n維特征函數(shù)也有逆轉(zhuǎn)公式和唯一性定理，由n維特征函數(shù)也可以唯一地確定隨機(jī)向量X的概率分布。702、n維特征函數(shù)的性質(zhì)(1)|(t1,···,tn)|(0,···,0)=1；(2)共軛對稱性：(3)特征函數(shù)(t1,···,tn)在n維歐氏空間Rn上一致連續(xù)；(4)k維隨機(jī)向量X=(X1,···,Xk)’的特征函數(shù)為(0<k<n)(6)X1,···,Xn相互獨(dú)立(5)若Y=a1X1+···+anXn，則

Y(t)=(a1t,···,ant)；71三、正態(tài)隨機(jī)向量及其性質(zhì)設(shè)X=(X1,···,Xn)’為n維隨機(jī)向量，x=(x1,···,xn)’為n維實(shí)向量，若X的概率密度為則稱X是n維正態(tài)隨機(jī)向量，它服從n維正態(tài)分布。記為XN

n(,B)。72定理n維正態(tài)分布的特征函數(shù)為其中t是n維實(shí)參數(shù)向量。n維正態(tài)分布還可如下定義：若n維隨機(jī)向量X具有形如（）式的特征函數(shù)，則稱X服從n維正態(tài)分布。（）注意：對|B|=0的情形這個(gè)定義仍有意義，而前面從密度函數(shù)出發(fā)定義的n維正態(tài)分布此時(shí)卻沒有意義。故，用n維特征函數(shù)定義的n維正態(tài)分布更為一般。不過，|B|=0時(shí)的正態(tài)分布稱為退化的；否則，稱為非退化的。73正態(tài)隨機(jī)向量的性質(zhì)(1)n維正態(tài)隨機(jī)向量X=(X1,···,Xn)’的m(m<n)個(gè)分量構(gòu)成的隨機(jī)向量(2)設(shè)X=(X1,···,Xn)’為n維正態(tài)隨機(jī)向量，則隨機(jī)向量X1,···,Xn相互獨(dú)立是一個(gè)m維正態(tài)隨機(jī)向量。即n維正態(tài)隨機(jī)向量任何分量仍為正態(tài)隨機(jī)向量。(3)X=(X1,···,Xn)’~N

n(,B)的充分必要條件是，對任意n個(gè)常數(shù)l1,···,ln，74(4)設(shè)X=(X1,···,Xn)’~N

n(,B)，又m維隨機(jī)向量Y=CX，其中C=(cij)mn，則Y服從m維正態(tài)分布N

m(C,CBC’)。EX設(shè)X1,…,Xn是獨(dú)立同分布的標(biāo)準(zhǔn)正態(tài)隨機(jī)變量.設(shè),其中A為正交陣.試證:Y1,…,Yn

也是獨(dú)立同分布的標(biāo)準(zhǔn)正態(tài)隨機(jī)變量.75定義1.5.10設(shè)(,F,P)為概率空間，(E,E)為可測空間，TR，若，且t給定時(shí)，Xt關(guān)于F可測，則稱為(,F,P)上取值于E的隨機(jī)過程.此時(shí),Xt()表示在時(shí)刻t系統(tǒng)的狀態(tài)。稱(E,E)為相空間或狀態(tài)空間；稱T為參數(shù)集或時(shí)間域；通常取或1.5隨機(jī)過程的基本概念

1.5.1

隨機(jī)過程的概念與舉例

76數(shù)學(xué)解釋：可認(rèn)為{X

(,t)，tT}是定義在T上的二元函數(shù)。當(dāng)t固定時(shí)，X(,t)是r.v.(stat)，當(dāng)固定時(shí)，X(,t)是定義在T上的普通函數(shù)，稱為隨機(jī)過程的樣本函數(shù)或軌道(path)，樣本函數(shù)的全體稱為樣本函數(shù)空間。77幾個(gè)實(shí)例1.某地某日一晝夜氣溫的變化情況{X(t),0<t<24},X(t)表示t時(shí)刻的氣溫。2.通訊技術(shù)中，接收機(jī)熱噪聲電壓隨時(shí)間的變化過程{V(t),t>0}3.股票行情，{P(t),t>0}.P(t)表示某時(shí)刻某種股票的價(jià)格，4.某路公交車的客流情況{(X(t),Y(t));t0<t<t1},(X(t),Y(t))表示t時(shí)刻起點(diǎn)與終點(diǎn)站的候車人數(shù).5.紡紗機(jī)紡出一條長為l的細(xì)紗,由于紡紗過程中隨機(jī)因素的干擾，它各處的橫截面直徑是不同的，記X(u)是坐標(biāo)為u處橫截面的直徑，0<u<l78隨機(jī)過程可按時(shí)間(參數(shù))是連續(xù)的或離散的分為兩類:(1)若T是有限集或可列集時(shí),則稱為離散參數(shù)隨機(jī)過程或隨機(jī)序列.(2)若T是有限或無限區(qū)間時(shí),則稱為連續(xù)參數(shù)隨機(jī)過程.隨機(jī)過程,也可按任一時(shí)刻的狀態(tài)是連續(xù)型隨機(jī)變量或離散型隨機(jī)變量分為兩類:(1)若對于任意都是離散型隨機(jī)變量,稱為離散型隨機(jī)過程；79如下表所示：類別1234T離散YYNNE離散YNYN(2)若對于任意都是連續(xù)型隨機(jī)變量,稱為連續(xù)型隨機(jī)過程.80例1.指出以下過程的類型1.利用拋一枚硬幣的試驗(yàn),定義2。隨機(jī)相位正弦波3.某路公交車的客流情況{(X(t),Y(t));t0<t<t1},(X(t),Y(t))表示t時(shí)刻起點(diǎn)與終點(diǎn)站的候車人數(shù)81定義1.5.1

設(shè){Xt，tT}

為(,F,P)(E,E)隨機(jī)過程，令其中F1×...,×FkE.稱為隨機(jī)過程{Xt，tT}

的有限維分布族.1.5.2隨機(jī)過程的數(shù)字特征及有限維分布族特別,對于一維隨機(jī)過程{X

(t),tT}任意nZ+和t1,···,tn

T，隨機(jī)向量（X

t1

,···,X

tn)’的分布函數(shù)全體稱為{Xt，tT}的有窮維分布函數(shù)族。82若對,隨機(jī)向量有密度函數(shù),則這些密度函數(shù)的全體稱為{Xt，tT}的有窮維密度函數(shù)族。若對,隨機(jī)向量是離散型的,則這些分布律的全體稱為{Xt，tT}的有窮維概率分布族。83隨機(jī)過程的有限維分布滿足下面的兩個(gè)性質(zhì)：(1)對稱性：對于1,2,…,n的任意排列(1),(2),…,(n)有(2)相容性：對于任意的自然數(shù)k,m,反之，(Kolmogorov’s擴(kuò)張定理).對一切性質(zhì)(1)(2)的概率測度，則存在概率空間(,F,P)

及定義在

上取值于E的隨機(jī)過程{Xt}，使得令為Ek上滿足以上84例2.求隨機(jī)過程的一維密度函數(shù).這里b是常數(shù),X是標(biāo)準(zhǔn)正態(tài)隨機(jī)變量.解:(1)當(dāng)cosbt≠0時(shí),由X(t)=Xcosbt,X~N(0,1)知X(t)~N(0,cos2bt),則X(t)的一維密度函數(shù)為(2)當(dāng)cosbt=0時(shí),X(t)不存在一維密度函數(shù).85定義1.5.2給定隨機(jī)過程{Xt,tT},給定t,（1）隨機(jī)變量Xt的均值或數(shù)學(xué)期望與t有關(guān),記為稱X(t)為隨機(jī)過程Xt的均值函數(shù)(Mean)稱為隨機(jī)過程{Xt,tT},的均方值函數(shù).（2）隨機(jī)變量Xt的二階原點(diǎn)矩86（3）隨機(jī)變量Xt的方差稱為隨機(jī)過程{Xt,tT},的方差函數(shù)(Varance)(4)設(shè)Xt1和Xt2是隨機(jī)過程{Xt,tT}在任意二個(gè)時(shí)刻t1和t2時(shí)的狀態(tài).稱Xt1和Xt2的二階混合原點(diǎn)矩為隨機(jī)過程{Xt,tT}的自相關(guān)函數(shù)(correlation),簡稱相關(guān)函數(shù).87（5）稱Xt1和Xt2的二階混合中心矩為隨機(jī)過程{Xt,tT}的自協(xié)方差函數(shù)covaricance,簡稱協(xié)方差函數(shù).(6)對于兩個(gè)隨機(jī)過程{Xt,tT},{Yt,tT}，若對任意t

T，E[Xt]2、E[Yt]2存在，則稱函數(shù)為隨機(jī)過程

{Xt,tT},與{Yt,tT},的互協(xié)方差函數(shù)。88為隨機(jī)過程{Xt,tT}與{Yt,tT}的互相關(guān)函數(shù).易知(7)稱定義1.5.3若對任意的s,tT，有E[XsYt]=0,則稱隨機(jī)過程{Xt,tT}與{Yt,tT}正交;若CXY(s,t)=0，則稱隨機(jī)過程{Xt,tT}與{Yt,tT}

互不相關(guān)；若對任意的n,mZ+，隨機(jī)向量(Xt1,···,Xtn)’與(Ys1,···,Ysm)’相互獨(dú)立，，則稱隨機(jī)過程{Xt,tT}與{Yt,tT}相互獨(dú)立。89例3設(shè),其中X0和V是相互獨(dú)立的隨機(jī)變量.且求隨機(jī)過程{X(t),-∞<t<∞}的五種數(shù)字特征.解:90定義1.5.4若{Xt,tT},{Yt,tT}是兩個(gè)實(shí)隨機(jī)過程，則稱{Zt=Xt+iYt，tT}為復(fù)隨機(jī)過程。它的均值函數(shù)、協(xié)方差函數(shù)、相關(guān)函數(shù)和方差函數(shù)分別定義如下：

μZ(t)=E[Zt]=EXt+iEYt,tT91§1-3幾類典型的隨機(jī)過程(1)獨(dú)立隨機(jī)序列對于任意n個(gè)不同的參數(shù)t1,···,tnT，r.v.X(t1),···,X(tn)相互獨(dú)立，這樣的隨機(jī)序列稱為獨(dú)立隨機(jī)序列。(2)獨(dú)立增量過程定義1.3.1若參數(shù)t1,···,tnT滿足t1

<t2

<···<tn，X(t)的增量X(t2)

X(t1),X(t3)

X(t2),

···,X(tn)

X(tn1)相互獨(dú)立，這樣的隨機(jī)過程稱為獨(dú)立增量過程。92特別地,若獨(dú)立增量過程{X(t),tT}滿足增量平穩(wěn)性，即對任意t,X(s+t)-X(s)與X(t)同分布，則稱{X(t),tT}為具有平穩(wěn)增量（或時(shí)齊）的獨(dú)立增量過程；進(jìn)一步，若具有平穩(wěn)增量的獨(dú)立增量過程{X(t),tT}滿足(1)參數(shù)集T連續(xù);(0)P{X(0)=0}=1則稱過程{X(t),tT}為Levy過程.定理1.3.1設(shè){X(t),tT}是具有平穩(wěn)增量的獨(dú)立增量過程，X(0)=0,則其有限維分布可由一維分布完全決定。93(7)若存在，則例1.4.1

設(shè){Xt,tT}是獨(dú)立增量過程，且增量平穩(wěn),P{X0=0}=1，求證：增量的分布完全決定任意有窮維分布.94證：不妨設(shè)X0=0。則s0,t>0,Xt的特征函數(shù)決定了Xs+t-Xs的分布.95類似地，n,于是96(3)馬爾可夫過程（馬氏過程）定義1.3.1

設(shè)隨機(jī)過程，若對則稱該過程為馬爾可夫過程，簡稱“馬氏過程”。馬氏過程的特點(diǎn)：已知現(xiàn)在，將來與過去無關(guān)。稱為轉(zhuǎn)移概率函數(shù).(transitionprobabilityfunction)97Aprocess{Xk}withindependentincrementsisaMarkovprocessProof::independentrandomvariables.WeshowthatisMarkov98-measurableIndependentofIndependentof-measurable

Yk

isindependentof99Inparticular,wehaveAprocess{Xk}withindependentincrementsisaMarkovprocess100（4）二階矩過程定義1.3.3設(shè)隨機(jī)過程{Xt，tT}，若對tT，Xt的均值和方差有限，則稱{Xt，tT}為二階矩過程。易知，二階矩過程的自相關(guān)函數(shù)和自協(xié)方差函數(shù)總是存在的。一般地，所論及的二階矩過程可為復(fù)隨機(jī)過程。101定理1.3.1設(shè)二階矩過程的自相關(guān)函數(shù)為R(t1,t2)，則此性質(zhì)稱為共軛對稱性或埃爾密特性(Hermite).定理1.3.2二階矩過程的自相關(guān)函數(shù)具非負(fù)定性：對n個(gè)參數(shù)t1,…,tnT及n個(gè)復(fù)數(shù)1,…,n，有102(5)平穩(wěn)隨機(jī)過程在工程應(yīng)用和大量實(shí)際現(xiàn)象的理論分析研究中常會(huì)遇到一類過程。其統(tǒng)計(jì)特性隨著時(shí)間的推移不發(fā)生任何變化。此類過程中，最重要的是“平穩(wěn)過程”。例如無線電設(shè)備中熱噪聲電壓X(t)是由于電路中電子的熱運(yùn)動(dòng)引起的，這種熱擾動(dòng)不隨時(shí)間而變；連續(xù)測量飛機(jī)飛行速度產(chǎn)生的測量誤差X(t)，是由儀器震動(dòng)、電磁波干擾、氣候變化等因素引起的;紡紗廠生產(chǎn)出的棉紗各處直徑X(t)不同是由于紡紗機(jī)運(yùn)行，棉條不勻、溫濕度變化等因素引起的。103嚴(yán)平穩(wěn)過程