《隨機(jī)信號分析基礎(chǔ)》課件第1章

1.1概率基本術(shù)語

1.2隨機(jī)變量及其分布

1.3隨機(jī)變量函數(shù)及其分布

1.4隨機(jī)變量及其函數(shù)的數(shù)字特征

1.5高斯隨機(jī)變量第一章隨機(jī)變量基礎(chǔ)1.1.1概率空間

1.隨機(jī)現(xiàn)象

隨機(jī)現(xiàn)象有兩個主要特點(diǎn)：①個別試驗的不確定性；②大量試驗結(jié)果的統(tǒng)計規(guī)律性。概率論和數(shù)理統(tǒng)計是描述和研究隨機(jī)現(xiàn)象統(tǒng)計規(guī)律性的數(shù)學(xué)學(xué)科，它們研究大量隨機(jī)現(xiàn)象內(nèi)在的統(tǒng)計規(guī)律、建立隨機(jī)現(xiàn)象的物理模型并預(yù)測隨機(jī)現(xiàn)象將要產(chǎn)生的結(jié)果。

第一章隨機(jī)變量基礎(chǔ)

2.隨機(jī)試驗

為了建立隨機(jī)現(xiàn)象的物理模型，引入隨機(jī)試驗的概念。隨機(jī)試驗必須滿足下面3個特征：

(1)試驗可以在相同條件下重復(fù)進(jìn)行。

(2)每次試驗的結(jié)果并不唯一，并能事先確定所有的可能結(jié)果。

(3)每次試驗前結(jié)果不確定。

例1.1

隨機(jī)拋一個骰子，觀察出現(xiàn)的點(diǎn)數(shù)。

(1)樣本空間=所有樣本點(diǎn)，Ω={1,2,3,4,5,6}。

(2)事件A=“投擲結(jié)果為3”={3}Ω。(說明：僅由一個樣本點(diǎn)構(gòu)成的事件叫做基本事件。)

(3)事件B=“投擲結(jié)果為奇數(shù)”={1,3,5}Ω。

(4)事件D={1,2,3,4,5,6}=Ω，包括所有樣本點(diǎn)，為必然事件。

(5)空集E=，不包含任何樣本點(diǎn)，是不可能事件。

3.概率的公理化定義及性質(zhì)

概率論中有概率的統(tǒng)計定義和古典概率定義。下面重點(diǎn)介紹概率的公理化定義。

(1)定義：設(shè)Ω是某隨機(jī)試驗的樣本空間，F(xiàn)是定義在該樣本空間Ω上的子集。若定義在事件域F的一個集合函數(shù)P滿足下面三個條件：

①非負(fù)性：對任何事件A,均有P(A)≥0成立,即

(1-1)

②規(guī)范性：必然事件概率為1,即

P(Ω)=1

③完全可加性：若Ai(i=1,2,…)，且兩兩互不相容時，有

(1-2)

則稱P為概率。

顯然，集合函數(shù)P將每一個事件A和區(qū)間［0,1］內(nèi)的數(shù)P(A)對應(yīng)起來，這個數(shù)P(A)就是事件A的概率,如圖1-1所示。圖1-1概率的定義

(2)性質(zhì)：

①不可能事件的概率為0，即

(1-3)

②有限可加性：當(dāng)存在Ai(i=1，2，…)，且兩兩互不相容(互斥)時，有

(1-4)

③逆事件的概率為

(1-5)④單調(diào)性：

若，則：

P(A－B)=P(A)－P(B),且P(B)≤P(A)

(1-6)

⑤加法公式：

P(A∪B)=P(A)+P(B)－P(AB)

次可加性：

P(A∪B)≤P(A)+P(B)

一般地有，

(1-7)

4.概率空間

至此，我們引進(jìn)了研究隨機(jī)性試驗的三個基本組成部分：樣本空間Ω、事件域F和概率P。對隨機(jī)試驗E而言，樣本空間Ω給出了它的所有可能的試驗結(jié)果，F(xiàn)給出了由這些可能結(jié)果組成的各種各樣的事件，而P則給出了每一個事件發(fā)生的概率。這三部分構(gòu)成的整體(Ω,F,P)稱為隨機(jī)試驗E的概率空間。概率空間是隨機(jī)試驗建模的基礎(chǔ)。圖1-2是隨機(jī)試驗、樣本空間和概率空間的關(guān)系示意圖。圖1-2隨機(jī)試驗、樣本空間和概率空間的關(guān)系1.1.2條件概率

1.條件概率的定義

設(shè)B為一個概率不為零的事件，已知某次試驗的樣本點(diǎn)屬于B，考慮該樣本點(diǎn)又同時屬于另一事件A的概率。即在事件B發(fā)生的條件下，事件A發(fā)生的概率，這個概率稱為條件概率，記為P(A|B)，定義為

(1-8)當(dāng)B成為條件時，實際上相當(dāng)于B

成為必然事件，即B

成為當(dāng)前事件的全空間，因此需將概率P(AB)放大1/P(B)倍。

對于事件B∈F，P(B)>0，條件概率有以下性質(zhì)：

(1)對于任意A∈F，有0≤P(A|B)≤1。

(2)P(Ω|B)=1。

(3)對任意可列個An∈F(n=1,2,…)，如Ai∩Aj=(i≠j)，則

2.事件的獨(dú)立

當(dāng)事件A的發(fā)生不依賴于條件B時，有P(A|B))=P(A)，稱事件A與B

獨(dú)立。由式(1-8)等價地有

P(AB)=P(A)P(B)

(1-9)

因此稱滿足式(1-9)的事件A和B互相獨(dú)立。注意“獨(dú)立”與“互斥”的區(qū)別，互斥為P(AB)=0。

推廣到多個事件，設(shè)A1,A2,…，AN為同一樣本空間上的一組事件，若對任意的M(2≤M≤N)及任意M

個互不相同的整數(shù)i1,i2,…，

iM,滿足

(1-10)

3.全概率公式

若事件A1,A2,…，AN兩兩互斥(互不相容)，即

，且其并集等于樣本空間，即，則A1,A2,…，AN為樣本空間Ω的一個分割或完備事件組。完備事件組是既彼此互斥，又可以完整地拼接成Ω的事件組。樣本空間Ω的劃分是不唯一的。

若A1,A2,…，AN是完備事件組，任取另外一個事件，則有

(1-11)

該公式稱為全概率公式,可以看出，全概率公式等價于

，其中，BAi是圖1-3中B的局部子塊，它們彼此互斥。

圖1-3全概率公式

例1.2

某通信網(wǎng)可以支持3種業(yè)務(wù)，第1種業(yè)務(wù)的概率是0.3，第2種業(yè)務(wù)的概率是0.2，第3種業(yè)務(wù)的概率是0.5。對于第1種業(yè)務(wù)，在傳輸過程中發(fā)生阻塞的概率是0.1，對于第2、3種業(yè)務(wù),傳輸過程中發(fā)生阻塞的概率分別為0.15和0.2。試求該通信網(wǎng)發(fā)生阻塞的總概率。

解這道題目可以用全概率公式求解。

用A1、A2、A3分別表示“一個業(yè)務(wù)是第1、2、3種業(yè)務(wù)3個事件，用B表示“該通信網(wǎng)發(fā)生阻塞”這個事件，由全概率公式有

P(B)=P(B|A1)P(A1)+P(B|A2)P(A2)+P(B|A3)P(A3)

=0.1×0.3+0.15×0.2+0.2×0.5=0.16

4.貝葉斯(Bayes)公式

設(shè)事件Ai(i=1,2,…,N)為樣本空間Ω的一個完備事件組，對任意事件B∈F,P(B)>0，由條件概率公式(1-8)和全概率公式(1-11)得，在事件B

發(fā)生的條件下，事件Ai的概率為

(1-12)對上面公式做簡單說明如下：

(1)P(Ai)(i=1,2,…,N)為事件發(fā)生的概率，稱為先驗概率，它在試驗前就已給定。

(2)P(Ai|B)是觀測到B出現(xiàn)的條件下，事件Ai發(fā)生的概率，為后驗概率。

(3)P(B|Aj)是事件Aj試驗后轉(zhuǎn)移成事件B的概率，為轉(zhuǎn)移概率。

貝葉斯公式正是基于結(jié)果B推測某種起因Ai的可能性的方法。可應(yīng)用于研究因果推測、信息傳輸與信號檢測等問題。

例1.3

二進(jìn)制對稱信道模型如圖1-4所示，設(shè)信道輸入為0或1，信源發(fā)出0的概率為q，信道傳輸差錯概率為p，試求：

(1)信道輸出為0和1的概率；

(2)輸出為1的條件下輸入是1的概率以及輸出是0的條件下輸入為1的概率。

解先考慮原因，樣本空間ΩX={0,1}，由已知得先驗概率P(X=0)=q，可以得出

則當(dāng)信源發(fā)出為1時，接收到為0的概率為

P(Y=0|X=1)=p

對稱信道同理，當(dāng)信源發(fā)出為0時接收到為1的概率為

P(Y=1|X=0)=p圖1-4二進(jìn)制對稱信道傳輸模型結(jié)果樣本空間為ΩY={0,1}，因此有

P(Y=1|X=1)=P(Y=0|X=0)=1－p

(1)由全概率公式得到

P(Y=1)=P(Y=1|X=0)P(X=0)+P(Y=1|X=1)P(X=1)

=pq+(1－p)(1－q)=1－(p+q)+2pq

同理有

P(Y=0)=P(Y=0|X=0)P(X=0)+P(Y=0|X=1)P(X=1)

=(1－p)q+p(1－q)=p+q－2pq

(2)題中所求即為P(X=1|Y=1)和P(X=1|Y=0)，由Bayes公式得到

同理有

1.2.1隨機(jī)變量

1.一維實隨機(jī)變量的定義

設(shè)概率空間為{Ω,F,P}，若對于每一個樣本點(diǎn)ξk∈Ω均有實數(shù)xk=X(ξk)，xk∈R與之對應(yīng),對于所有樣本ξ∈Ω，便可以得到一個定義在Ω上的單值實函數(shù)X(ξ)；若每個實數(shù)x的數(shù)集{X(ξ)≤x}仍然是事件域F中的事件，則稱這個單值實函數(shù)X(ξ)為一維實隨機(jī)變量，簡寫為X。一維實隨機(jī)變量的定義如圖1-5所示。1.2隨機(jī)變量及其分布圖1-5一維實隨機(jī)變量的定義下面對一維實隨機(jī)變量做簡要說明。

(1)樣本ξk是樣本空間上的點(diǎn)，所對應(yīng)的實數(shù)xk是某個實數(shù)集R1上的點(diǎn)。因此，一維實隨機(jī)變量X(ξ)就是從原樣本空間Ω到新空間R1的一種映射，如圖1-5所示。

(2)隨機(jī)變量X(ξ)總是對應(yīng)一定的概率空間(Ω,F,P)。為了書寫簡便，沒有特殊要求時不必每次寫出隨機(jī)變量X(ξ)的概率空間(Ω,F,P)。

(3)隨機(jī)變量X(ξ)是關(guān)于ξ的單值實函數(shù)，簡寫為X。本書規(guī)定用大寫英文字母X,Y,Z,…表示隨機(jī)變量，用相應(yīng)的小寫字母x,y,z，…表示隨機(jī)變量的可能取值，用R1表示一維實隨機(jī)變量的值域。

簡單地說，隨機(jī)變量實際上就是樣本空間為一維實數(shù)域R1其子集的概率空間。

2.二維及多維實隨機(jī)變量

多維隨機(jī)變量亦稱隨機(jī)向量，隨機(jī)向量在矩陣分析和信號處理中非常重要，例如雷達(dá)回波信號的幅度和相位需要兩個不同的隨機(jī)變量來描述。仿照一維實隨機(jī)變量的定義，二維隨機(jī)變量用(X,Y)來表示，它可以認(rèn)為是從原樣本空間Ω到新空間R2(xoy平面)的一種映射，即樣本空間Ω中任意ξ映射為二維空間平面上的一個隨機(jī)點(diǎn),如圖1-6所示。同理，n維隨機(jī)變量則用(X1,X2,…,Xn)表示，它可推廣到n維空間上的一個隨機(jī)點(diǎn)。依次類推，樣本空間Ω中任意ξ映射到復(fù)數(shù)空間即是復(fù)隨機(jī)變量。圖1-6二維實隨機(jī)變量的定義

3.隨機(jī)變量的分類

按照隨機(jī)變量的可能取值，其可以分為兩種基本類型，即離散隨機(jī)變量和連續(xù)隨機(jī)變量。離散隨機(jī)變量僅可取得有限個或者可數(shù)多個數(shù)值，例如移動通信系統(tǒng)用戶在某一段時間內(nèi)對基站的呼叫次數(shù)就屬于離散型的隨機(jī)變量；而連續(xù)型的隨機(jī)變量其取值連續(xù)且占據(jù)某一區(qū)間，例如通信系統(tǒng)中接收機(jī)的噪聲電壓就是連續(xù)隨機(jī)變量。本書以連續(xù)型隨機(jī)變量為研究對象進(jìn)行討論和分析。1.2.2隨機(jī)變量統(tǒng)計描述

1.一維連續(xù)實隨機(jī)變量X的概率分布函數(shù)與概率密度函數(shù)

(1)概率分布函數(shù)。

對隨機(jī)變量X，定義任意實數(shù)x∈R1的函數(shù)

FX(x)=P{X≤x}

(1-13)

為X的概率分布函數(shù)或累積分布函數(shù)，記為FX(x)，其中，實數(shù)x為隨機(jī)變量X的可能的取值。概率分布函數(shù)性質(zhì)如下：

①FX(x)為單調(diào)非降函數(shù),即當(dāng)x2>x1時，F(xiàn)X(x2)>FX(x1)。

②0≤FX(x)≤1，且有和

。

③分布函數(shù)右連續(xù)，即。

因此，若已知隨機(jī)變量X的分布函數(shù)，就可以知道X落在任一區(qū)間上的概率，從這個意義上說，分布函數(shù)完整地描述了隨機(jī)變量的統(tǒng)計規(guī)律性。④隨機(jī)變量在(x1,x2］區(qū)間內(nèi)的概率為

P(x1<X≤x2)=FX(x2)－FX(x1)

(1-14)

(2)概率密度函數(shù)。隨機(jī)變量X的概率密度函數(shù)定義為概率分布函數(shù)FX(x)對可能取值狀態(tài)x的導(dǎo)數(shù)，即

(1-15)

fX(x)的含義即為隨機(jī)變量X分布在單位長度上的概率大小。

概率密度函數(shù)性質(zhì)如下：

①非負(fù)性:fX(x)≥0，－∞<x<∞。

②歸一性:

③

一維概率分布函數(shù)和一維概率密度函數(shù)可以充分地說明連續(xù)隨機(jī)變量取值落在某一區(qū)間或者單位區(qū)間的概率。值得注意的是，連續(xù)型隨機(jī)變量在某點(diǎn)取值的概率為0。圖1-7表示了連續(xù)型隨機(jī)變量的概率密度和分布函數(shù)。

圖1-7連續(xù)型隨機(jī)變量的概率密度和概率分布函數(shù)

例1.4

在通信系統(tǒng)中，一條消息的傳輸時間X是一個隨機(jī)變量，它服從指數(shù)概率分布，即P(X>x)=e－λx，(x>0)，其中λ是一個正常數(shù)。試求X的概率分布函數(shù)和概率密度函數(shù)，并求出P(1/λ<X≤2/λ)。

解

X的概率分布函數(shù)為

FX(x)=P(X≤x)=1－P(X>x)

因此有

X的概率密度函數(shù)為

根據(jù)概率分布函數(shù)定義有

P(1/λ<X≤2/λ)=FX(2/λ)－FX(1/λ)=e－1－e－2

2.二維及多維連續(xù)實隨機(jī)變量的概率分布函數(shù)與概率密度函數(shù)

1)二維隨機(jī)變量的聯(lián)合概率分布函數(shù)

仿照一維隨機(jī)變量概率分布函數(shù)的定義，任意取x,y∈R1，稱

FXY(x,y)=P(X≤x,Y≤y)

(1-16)

為(X,Y)的聯(lián)合概率分布函數(shù)。它表示隨機(jī)變量在X≤x，且Y≤y這樣一個聯(lián)合事件的概率。

聯(lián)合分布函數(shù)FXY(x,y)具有以下性質(zhì)：

①FXY(x,y)分別對x,y單調(diào)不減。

②FXY(x,y)對每個變量均為右連續(xù)。

③0≤FXY(x,y)≤1,且有FXY(x,－∞)=0，F(xiàn)XY(－∞,y)=0和FXY(+∞,+∞)=1。

④P{a<X≤b;c<Y≤d}=FXY(b,d)－FXY(a,d)－FXY(b,c)+FXY(a,c)，如圖1-8所示。圖1-8聯(lián)合概率分布函數(shù)性質(zhì)④

2)二維隨機(jī)變量的聯(lián)合概率密度函數(shù)

若FXY(x,y)存在二階偏導(dǎo)數(shù)，定義

(1-17)

為二維隨機(jī)變量(X,Y)的聯(lián)合概率密度。

二維概率密度函數(shù)fXY(x,y)反映了隨機(jī)變量(X,Y)在(x,y)處的聯(lián)合概率的強(qiáng)度，它具有下面的基本性質(zhì)：

①fXY(x,y)≥0。

②

③

④

以上由一維隨機(jī)變量的統(tǒng)計特性推廣到二維隨機(jī)變量的聯(lián)合概率分布和聯(lián)合概率統(tǒng)計特性，如圖1-9所示。圖1-9二維概率密度和概率分布函數(shù)

3)二維隨機(jī)變量的邊緣分布與條件分布

邊緣分布函數(shù)定義為

(1-18)

邊緣概率密度函數(shù)定義如下：

(1-19)

仿照事件的條件概率公式，二維隨機(jī)變量的條件概率分布定義為

(1-20)

其密度函數(shù)定義為

(1-21)

4)二維隨機(jī)變量的統(tǒng)計獨(dú)立性

設(shè)X,Y是兩個隨機(jī)變量，

，若有

P(X<x,Y<y)=P{(X<x)∩(Y<y)}=P(X<x)·P(Y<y)

則稱隨機(jī)變量X、Y相互獨(dú)立。

對于二維隨機(jī)變量(X,Y)，X與Y相互獨(dú)立的條件為

FXY(x,y)=FX(x)·FY(y)或fXY(x,y)=fX(x)·fY(y)

(1-22)

5)n維隨機(jī)變量

n維隨機(jī)變量X=(X1,X2,…,Xn)T的聯(lián)合分布函數(shù)定義為

FX(x1,x2,…,xn)=P{X1≤x1,…,Xn≤xn}

(1-23)

若n維隨機(jī)變量(X1,…,Xn)T的聯(lián)合分布函數(shù)FX(x1,x2,…,xn)存在n階偏導(dǎo)數(shù)，則稱

(1-24)邊緣分布函數(shù)定義如下：

(1-25)

邊緣密度函數(shù)定義如下：

(1-26)如果有

fX(x1,x2,…,xn)=fX(x1)fX(x2)…fX(xn－1)fX(xn)

(1-27)

則稱n個隨機(jī)變量X1,X2,…,Xn是相互獨(dú)立的。

例1.5

二維高斯分布的聯(lián)合概率密度函數(shù)為

其中mX、mY為任意常數(shù)，σX、σY為正常數(shù)，|ρ|<1為常數(shù)，求：

(1)X和Y的概率密度；

(2)條件概率密度函數(shù)f(y|x)。

解首先將指數(shù)部分寫為

則有被積函數(shù)正好為一維高斯分布形式，因此,對y的積分項正好為1，則有

同理有

可見，其邊緣分布分別是X和Y的一維高斯分布。根據(jù)定義,條件概率密度為1.2.3常見隨機(jī)變量的分布

1.均勻分布

如果隨機(jī)變量X的概率密度滿足

(1-28)

則稱X為在［a,b］區(qū)間內(nèi)均勻分布的隨機(jī)變量。容易證明其概率分布函數(shù)為

(1-29)均勻分布是最常用的分布律之一。實際應(yīng)用中，均勻的或沒有明確向性的物理量會產(chǎn)生均勻分布特性。在數(shù)字通信技術(shù)中，數(shù)字信號的量化噪聲通常呈現(xiàn)均勻分布。在工程上，正弦隨機(jī)信號X(t)=acos(ω0t+Φ)的相位經(jīng)常假定為在(0,2π)上均勻分布的隨機(jī)相位變量。

圖1-10是均勻分布的概率密度和概率分布函數(shù)。圖1-10均勻分布的概率密度和概率分布函數(shù)

2.高斯(正態(tài))分布

若隨機(jī)變量X的概率密度為

(1-30)

其中mX、σX為常數(shù)，則稱隨機(jī)變量X服從高斯分布，高斯分布簡記為N(mX,σ2X)。其概率密度曲線如圖1-11所示。圖1-11高斯分布的概率密度曲線由概率分布函數(shù)和概率密度函數(shù)的關(guān)系，得出高斯分布函數(shù)為

(1-31)

3.指數(shù)分布

若隨機(jī)變量X的概率密度滿足

fX(x)=λe－λx,x≥0,λ>0

(1-32)

則稱X服從指數(shù)分布。容易證明，其概率分布函數(shù)為

FX(x)=1－e－λx,x≥0

(1-33)

在通信系統(tǒng)中，指數(shù)分布的隨機(jī)變量常被用來對業(yè)務(wù)達(dá)到的時間間隔、業(yè)務(wù)所需要的服務(wù)時間等隨機(jī)現(xiàn)象建模。

圖1-12是指數(shù)分布的概率密度和概率分布函數(shù)。圖1-12指數(shù)分布的概率密度和概率分布函數(shù)

4.對數(shù)正態(tài)分布

若隨機(jī)變量X服從高斯分布N(mX,σ2X)，即X是高斯隨機(jī)變量，定義新的隨機(jī)變量Y=lnX，則Y的概率密度為

(1-34)

通常稱Y服從對數(shù)正態(tài)分布。對數(shù)正態(tài)分布一般用于移動無線通信中對大的障礙物引起的信號慢衰落進(jìn)行建模。雷達(dá)海雜波的幅度特性通常也用對數(shù)正態(tài)分布來描述。對數(shù)正態(tài)分布概率密度曲線如圖1-13所示。圖1-13對數(shù)正態(tài)分布的概率密度函數(shù)

5.瑞利分布

若隨機(jī)變量X的概率密度函數(shù)為

(1-35)

其中σx為常數(shù)，則稱X服從指數(shù)分布。通信系統(tǒng)接收端接收到的信號通常是窄帶信號，其包絡(luò)服從瑞利分布，無線通信中由多徑傳播造成的快衰落信號的幅度一般也服從瑞利分布。瑞利分布的概率密度函數(shù)如圖1-14所示。圖1-14瑞利分布概率密度函數(shù)

6.萊斯分布

若隨機(jī)變量X的概率密度函數(shù)為

(1-36)

其中σ、a為常數(shù)，則稱X服從萊斯分布。在通信系統(tǒng)中，疊加窄帶高斯噪聲的接收信號的幅度通常服從萊斯分布。在無線通信中，接收到的多徑衰落信號幅度有時也服從萊斯分布。萊斯分布的概率密度分布如圖1-15所示。圖1-15萊斯分布概率密度函數(shù)1.3.1一維隨機(jī)變量函數(shù)的分布

已知一個實函數(shù)變換y=g(x)以及隨機(jī)變量X，定義一個新的隨機(jī)變量Y=g(X)，稱隨機(jī)變量Y是隨機(jī)變量X的函數(shù)，其分析模型如圖1-16所示。1.3隨機(jī)變量函數(shù)及其分布圖1-16一維隨機(jī)變量函數(shù)分析模型

1.單值變換

首先考慮單值變換，即Y=g(X)存在唯一反函數(shù)X=

g－1(Y)=h(Y)，X與Y一一對應(yīng)。因此必有對應(yīng)無限小區(qū)間內(nèi)概率相等，即X落在區(qū)間(x0,x0+dx)內(nèi)的概率等于Y落在區(qū)間(y0,y0+dy)的概率，如圖1-17所示，有

P{x0<X≤x0+dx}=P{y0<Y≤y0+dy}圖1-17一維函數(shù)單值變換因此

fY(y)dy=fX(x)dx

可以推出

由概率密度的非負(fù)性，dx/dy應(yīng)取絕對值，即

(1-37)

例1.6

已知隨機(jī)變量X和Y滿足線性關(guān)系Y=aX+b，X為高斯隨機(jī)變量，即X~N(mX,σ2X)，a和b為常數(shù)，求Y的概率密度函數(shù)。

解根據(jù)已知條件X為高斯隨機(jī)變量且X~N(mX,σ2X)，所以隨機(jī)變量X的概率密度函數(shù)為

根據(jù)Y和X是嚴(yán)格單調(diào)這一函數(shù)關(guān)系，其反函數(shù)為

其導(dǎo)數(shù)存在且有

將上式帶入公式(1-37)，可以求得Y的概率密度為

該例說明了高斯隨機(jī)變量X經(jīng)線性變換后的隨機(jī)變量Y仍然是高斯分布，其中mY=amX+b,σ2Y=a2σ2X。

2.多值變換

下面考慮多值變換，即反函數(shù)X=h(Y)不唯一，一個Y值對應(yīng)多個X值。以雙值變換函數(shù)為例，即一個Y值可能對應(yīng)著兩個X值，X1=h1(Y)或X2=h2(Y)，如圖1-18所示。當(dāng)X位于(x1,x1+dx1)或(x2,x2+dx2)內(nèi)時，兩個事件中只要有一個發(fā)生，則Y位于(y0,y0+dy0)內(nèi)的事件就發(fā)生。因此，根據(jù)和事件的概率求法可得

fY(y)dy=fX(x1)dx1+fX(x2)dx2

將x1用h1(y)代入，x2用h2(y)代入，可得

(1-38)對于多值變換，上式可以推廣為

(1-39)圖1-18一維隨機(jī)變量雙值變換

例1.7

考慮通信電路中常用的平方律設(shè)備，其輸出隨機(jī)變量Y和輸入隨機(jī)變量X之間的關(guān)系為Y=X2。已知隨機(jī)變量X服從N(mX,σ2X)的高斯變量，求輸出Y的概率密度。

解由于y=x2，可得

由于Y不可能為負(fù)，因此當(dāng)y<0時，必有fY(y)=0。

此變換是雙值變換，故

(1)若mX=0，則高斯變量X的概率密度為

代入fY(y)中得到

(1-40)

這是一個中心(讀做卡方)分布，如圖1-19所示。圖1-19mX=0的概率密度變換

(2)若mX≠0，則高斯變量X的概率密度為

代入fY(y)中得到

由三角函數(shù)公式

可以得到

(1-41)

這是非中心分布。1.3.2二維隨機(jī)變量函數(shù)的分布

問題描述：已知二維隨機(jī)變量(X1,X2)的聯(lián)合概率密度fX(x1,x2)，求新的二維隨機(jī)變量(Y1,Y2)的聯(lián)合概率密度fY(y1,y2)的問題，其中(Y1,Y2)分別為(X1,X2)的函數(shù)，則有

(1-42)從幾何意義上理解，新隨機(jī)變量落入無限小區(qū)間dSY的概率fY(y1,y2)dSY等于原隨機(jī)變量落入對應(yīng)無限小區(qū)間dSX的概率fX(x1,x2)dSX，如圖1-20所示，即

fY(y1,y2)dSY=fX(x1,x2)dSX

因此

(1-43)上式中坐標(biāo)間的變換比J為雅可比行列式

(1-44)圖1-20函數(shù)變換對應(yīng)的區(qū)間變換

例1.8

復(fù)隨機(jī)變量Z=X+jY=RejΘ，其實部與虛部為高斯隨機(jī)變量,X~N(mX,σ)，Y~N(mY,σ)，且X與Y相互獨(dú)立，試討論振幅R和相位Θ的概率分布。

解題中的原函數(shù)、反函數(shù)和雅可比行列式分別為

由聯(lián)合概率密度可得

fXY(x,y)

fRΘ(r,θ)邊緣概率密度fR(r)與fΘ(θ)

(1)首先考慮零均值情況，即mX=mY=0。由于X與Y相互獨(dú)立，有

于是有

邊緣概率密度函數(shù)為

(1-45)

(1-46)

可見，復(fù)變量Z的幅度R為瑞利(Rayleigh)分布，如圖1-21所示。相位Θ為均勻分布，且fRΘ(r,θ)=fR(r)·fΘ(θ)，即幅度R和相位Θ相互獨(dú)立。圖1-21瑞利分布的概率密度函數(shù)

(2)若均值不為零，則

令

于是fXY(x,y)的指數(shù)部分

因此

當(dāng)r≥0時，幅度分布為

(1-47)

其中，I0(·)為修正貝塞爾函數(shù)。

(1-48)

式(1-47)為萊斯分布或廣義瑞利分布，在衛(wèi)星通信、短波通信等無線信道傳播特性研究中應(yīng)用較多，如圖1-22所示。

圖1-22萊斯分布的概率密度函數(shù)1.4.1一維隨機(jī)變量的數(shù)字特征

1)一維隨機(jī)變量的數(shù)學(xué)期望

對于概率密度為fX(x)的連續(xù)型隨機(jī)變量X，稱

(1-49)1.4隨機(jī)變量及其函數(shù)的數(shù)字特征

2)一維隨機(jī)變量函數(shù)的數(shù)學(xué)期望

已知隨機(jī)變量X的概率密度函數(shù)fX(x)，且隨機(jī)變量Y=g(x)，其中g(shù)(·)是連續(xù)型實函數(shù)，則可得到隨機(jī)變量Y的數(shù)學(xué)期望為

(1-50)

其分析過程如下：

若g(·)是單值變換，則若g(·)是多值變換，則結(jié)論：若連續(xù)型隨機(jī)變量X的概率密度為fX(x)，且

，則隨機(jī)變量函數(shù)g(X)的期望為

(1-51)

例1.9

隨機(jī)變量X在區(qū)間(a,b)上呈均勻分布，求g(x)=x2+1的數(shù)學(xué)期望。

解由于X服從均勻分布，則其概率密度函數(shù)fX(x)為

則隨機(jī)變量函數(shù)g(X)的數(shù)學(xué)期望為

3)數(shù)學(xué)期望的基本性質(zhì)

①若隨機(jī)變量X滿足a≤X≤b,a,b為常數(shù)，則其數(shù)學(xué)期望a≤E［X］≤b。

②常數(shù)c的期望為E［c］=c。

③為常數(shù)，有

④若隨機(jī)變量X與隨機(jī)變量Y互不相關(guān)，則E［XY］=

E［X］E［Y］。

⑤n個隨機(jī)變量(X1,X2,…,Xn)相互獨(dú)立，則

2.方差

方差用來度量隨機(jī)變量偏離其數(shù)學(xué)期望的程度，也可度量隨機(jī)變量在數(shù)學(xué)期望附近的離散程度，因此也可用它來描述隨機(jī)變量取值分布的離散特性。方差用D［X］或σ2X表示。

一維連續(xù)性隨機(jī)變量X的方差為

(1-52)

其中D［X］的正平方根，稱為隨機(jī)變量X的均方差或標(biāo)準(zhǔn)偏差。從信號分析的角度來看，方差σ2X可以表示信號的歸一化交流功率的平均值。

方差有如下性質(zhì)：

①D［X］≥0,且當(dāng)X=c(c為常數(shù))時，D［X］=0。

②D［X］=E［X2］－m2X=E［X2］－E2［X］。

③,有D［CX］=C2D［X］。

④若(X1,X2,…,Xn)兩兩互不相關(guān)，則有

D［X1±X2±…±Xn］=D［X1］+D［X2］+…+D［Xn］

例1.10

已知高斯隨機(jī)變量X的概率密度

，求它的數(shù)學(xué)期望mX和方差σ2X。

解根據(jù)數(shù)學(xué)期望和方差的定義，有

令,dx=2dt，代入上式整理得做與前面同樣的變換，令，整理后得

數(shù)學(xué)手冊中的積分表中有

上式中，令n=1,a=1/2，利用積分結(jié)果，可得方差

3.均方值

已知隨機(jī)變量X及其一維概率密度函數(shù)fX(x)，對隨機(jī)變量Y=X2進(jìn)行統(tǒng)計平均得均方值，定義為

(1-53)

均方值ψ2X的物理含義表示信號歸一化的總功率的平均值，其公式為

σ2X=D［X］=E［X2］－E2［X］=ψ2X－m2X

(1-54)1.4.2二維隨機(jī)變量的數(shù)字特征

1.二維隨機(jī)變量及其函數(shù)的數(shù)學(xué)期望

設(shè)(X,Y)是定義在概率空間(Ω,F,P)上的二維連續(xù)型隨機(jī)變量，且已知其聯(lián)合概率密度函數(shù)fXY(x,y)，則由聯(lián)合概率密度與邊緣概率密度的關(guān)系及數(shù)學(xué)期望定義式可得

(1-55)

(1-56)

2.二維隨機(jī)變量的協(xié)方差、相關(guān)矩和相關(guān)系數(shù)

若二維隨機(jī)變量(X,Y)中，X和Y的數(shù)學(xué)期望mX、mY和方差均存在，則稱

(1-57)

為隨機(jī)變量X與Y的協(xié)方差。

CXY用來表征兩個隨機(jī)變量X與Y之間的關(guān)聯(lián)程度。

協(xié)方差具有下列性質(zhì)：

①cov(X,X)=D［X］。

②cov(X,Y)=cov(Y,X)。

③cov(X,c)=0(c為常數(shù))。④cov(aX,bY)=abcov(X,Y)(a,b為常數(shù))。

⑤cov(X,Y±Z)=cov(X,Y)±cov(X,Z)。

所以有

CXY=E［(X－mX)(Y－mY)］=E［XY］－mXmY

(1-58)定義

(1-59)

為隨機(jī)變量X與Y的相關(guān)值。相關(guān)值也是衡量隨機(jī)變量X與Y之間相關(guān)聯(lián)程度的量。公式(1-58)表明了協(xié)方差和相關(guān)值以及均值之間的關(guān)系。當(dāng)Y=X時，該公式就退化成公式(1-54)。

3.兩個隨機(jī)變量之間的關(guān)系

隨機(jī)變量所描述的對象是隨機(jī)現(xiàn)象，對于二維隨機(jī)變量，由于隨機(jī)現(xiàn)象之間往往是相互影響、相互聯(lián)系的，一種現(xiàn)象的發(fā)生常常會影響到另外一個現(xiàn)象的發(fā)生。所以，兩個隨機(jī)變量之間也應(yīng)該存在一定的關(guān)系。本書所討論兩個隨機(jī)變量之間關(guān)系主要包括：相互獨(dú)立、不相關(guān)和正交。

下面討論它們滿足的條件及關(guān)系。

(1)隨機(jī)變量X與Y統(tǒng)計獨(dú)立的充分必要條件為

fXY(x,y)=fX(x)×fY(y)

(1-61)

(2)隨機(jī)變量X與Y不相關(guān)的充分必要條件為

ρXY=0

(1-62)

由公式(1-60)可以看出，若隨機(jī)變量X與Y不相關(guān)，則

CXY=0

(1-63)

由公式(1-58)可以看出，若隨機(jī)變量X與Y不相關(guān)，則

RXY=mXmY

(1-64)

當(dāng)兩個隨機(jī)變量X與Y不相關(guān)時，式(1-62)~式(1-64)是等價的。

(3)隨機(jī)變量X與Y統(tǒng)計獨(dú)立，它們必定是互不相關(guān)的。

證明由于X與Y互相獨(dú)立，根據(jù)獨(dú)立的充分必要條件有

fXY(x,y)=fX(x)×fY(y)

又根據(jù)互不相關(guān)的等價條件可得

所以隨機(jī)變量X與Y互不相關(guān)。

(4)隨機(jī)變量X與Y不相關(guān)，它們不一定統(tǒng)計獨(dú)立。

例1.11

設(shè)X

是一個均勻分布的隨機(jī)變量，

，另一隨機(jī)變量為Y=X2，證明(4)中的結(jié)論。

證明：顯然，Y

與X

不是統(tǒng)計獨(dú)立的，但容易得出

因此，E{xy}=0成立，二者互不相關(guān)，也不統(tǒng)計獨(dú)立。

(5)若隨機(jī)變量X與Y的相關(guān)矩為零，即

RXY=E［XY］=0

(1-65)

稱X與Y互相正交。

對于正交的兩個隨機(jī)變量，若其中一個隨機(jī)變量的數(shù)學(xué)期望為零，則二者一定互不相關(guān)，這是因為公式(1-58)中，若有mX=0或mY=0，必有CXY=0。

上面討論的獨(dú)立、不相關(guān)和正交是三個不同的概念，要認(rèn)真加以區(qū)分，不可混淆。圖1-23給出了三者之間的關(guān)系。圖1-23隨機(jī)變量獨(dú)立、不相關(guān)和正交之間的關(guān)系1.4.3隨機(jī)變量的矩

1.一維隨機(jī)變量的矩

設(shè)隨機(jī)變量X的概率密度為fX(x)，稱矩

(1-66)

為隨機(jī)變量X的k階原點(diǎn)矩，同時稱矩

(1-67)

為隨機(jī)變量X的k階中心矩。

2.二維隨機(jī)變量的矩

設(shè)(X,Y)為二維隨機(jī)變量，其聯(lián)合概率密度為fXY(x,y)，稱

(1-68)

為隨機(jī)變量X與Y的k+l聯(lián)合原點(diǎn)矩，而稱

(1-69)

為隨機(jī)變量X與Y的k+l聯(lián)合中心矩。

顯然，相關(guān)值為二階聯(lián)合原點(diǎn)矩，協(xié)方差為二階聯(lián)合中心矩。由上述概念可知，二維隨機(jī)變量(X1,X2)有四個二階中心矩，分別記為

(1-70)

將它們排列成矩陣形式

(1-71)1.4.4n維隨機(jī)變量的數(shù)字特征

1.n維隨機(jī)變量的數(shù)學(xué)期望

若隨機(jī)向量X中的每個分量Xi的數(shù)學(xué)期望均存在且

，則隨機(jī)向量X的數(shù)學(xué)期望為

(1-72)

2.n維隨機(jī)變量的協(xié)方差矩陣

仿照二維隨機(jī)變量協(xié)方差矩陣，可以得到n維隨機(jī)變量的協(xié)方差矩陣。如果隨機(jī)向量X=［X1,X2,…,Xn］T的二階聯(lián)合中心距

Cij=E{(Xi－E［Xi］)(Xj－E［Xj］)}i,j=1,2,…,n

(1-73)

都存在，則稱矩陣

(1-74)

為n維隨機(jī)變量(X1,X2,…,Xn)的協(xié)方差矩陣。

例1.12

設(shè)二維隨機(jī)變量(X1,X2)的均值向量為(0,1)，協(xié)方差矩陣為

試計算：

(1)D(2X1－X2)；

(2)E［X21－X1X2+X22］。

解由均值向量的定義可知

E［X1］=0,E［X2］=1由協(xié)方差矩陣的定義知

D(X1)=D(X2)=1,cov(X1,X2)=cov(X2,X1)=0.5

則有

(1)D(2X1－X2)=D(2X1)+D(X2)－2cov(2X1,X2)

=4D(X1)+D(X2)－4cov(X1,X2)=3

(2)由E(X21)=D(X1)+E2［X1］=1,E(X22)=D(X2)+E2［X2］=2可得

E(X1X2)=cov(X1,X2)+E［X1］E［X2］=0.5

故有

E［X21－X1X2+X22］=2.51.4.5統(tǒng)計平均算子

前面講述的隨機(jī)變量的數(shù)字特征，其實質(zhì)都是對隨機(jī)變量及其函數(shù)的統(tǒng)計平均。統(tǒng)計平均是建立在無窮多次試驗得到的概率密度函數(shù)基礎(chǔ)上的一種算法。本書稱這種算法為統(tǒng)計平均算子。

若是n維隨機(jī)向量X=(X1,X2,…,Xn)T的一個函數(shù)，則定義統(tǒng)計平均算子為：

(1-75)1.5.1高斯隨機(jī)變量的概率密度函數(shù)

1.一維概率密度

高斯分布在概率論課程中講過，這里作進(jìn)一步討論。一維高斯隨機(jī)變量X的概率密度為

(1-76)1.5高斯隨機(jī)變量標(biāo)準(zhǔn)正態(tài)分布的特點(diǎn)是：fX(x)可由方差σ2X和均值mX

完全確定；fX(x)對稱于mX，最大值點(diǎn)在x=mX位置處；mX不同，曲線會發(fā)生平移；σX不同，曲線的寬窄隨之也會發(fā)生變化。從圖1-24可以看出，均值決定了高斯分布曲線的位置，方差描述了分布曲線本身的形狀，即它們共同描述了曲線的擴(kuò)散特征。圖1-24一維高斯分布的概率密度函數(shù)

2.二維聯(lián)合概率密度函數(shù)

設(shè)兩個隨機(jī)變量X1、X2，若它們的聯(lián)合概率密度為

(1-77)其中

為X1、X2各自的期望，為X1、X2各自的方差，ρ是兩個隨機(jī)變量的互相關(guān)系數(shù)。則稱X1、X2是聯(lián)合高斯的，簡記為?？梢?，其二維高斯聯(lián)合概率密度由參數(shù)

確定，其二維概率密度圖形如圖1-25所示。圖1-25二維高斯概率密度函數(shù)前面已經(jīng)證明，若X1、X2是聯(lián)合高斯的，則X1、X2的邊緣密度也是高斯的，且

(1-78)

(1-79)若ρ=0，即X1、X2是不相關(guān)的，則

，可以看出，X1、X2是相互獨(dú)立的。

運(yùn)用矩陣形式，不僅可以使二維聯(lián)合概率密度函數(shù)的表示形式變得簡潔，而且容易推廣到多維情況。式(1-77)的二維高斯概率密度可表示為

(1-80)其中X=［X1

X2］T,x=［x1

x2］T,

,CX表示隨機(jī)變量X1和X2的協(xié)方差矩陣，其表示式為

3.多維聯(lián)合概率密度函數(shù)

從二維聯(lián)合概率密度的表達(dá)式可以很容易推廣到多維正態(tài)隨機(jī)變量的情況。引入列矩陣

則n維高斯隨機(jī)變量(X1,X2,…,Xn)的概率密度為

(1-81)1.5.2一維高斯分布函數(shù)的求解

在通信系統(tǒng)性能分析中，我們常需要計算高斯隨機(jī)變量X小于或等于某一取值x的概率P(X≤x)，它等于概率密度函數(shù)fX(x)的積分。定義此積分為高斯分布函數(shù)，表示為

(1-82)

1.概率積分函數(shù)(標(biāo)準(zhǔn)高斯分布函數(shù))

標(biāo)準(zhǔn)高斯密度函數(shù)為，標(biāo)準(zhǔn)高斯分布函數(shù)的定義為

(1-83)

容易得Φ(－x)=1－Φ(x)。對公式(1-82)進(jìn)行變量替換，令，得：

(1-84)

2.誤差函數(shù)

誤差函數(shù)erf(x)的定義為

(1-85)

誤差函數(shù)是遞增函數(shù)，且有erf(0)=0,erf(∞)=1,erf(－x)=－erf(x)。

同樣對高斯分布函數(shù)FX