應(yīng)用統(tǒng)計學(xué)與隨機過程(第4章--白色噪聲與正態(tài)隨機過程2015)

1、主講教師：何松華 教授聯(lián)系電話：(0731）82687718子信箱：應(yīng)用統(tǒng)計學(xué)與隨機過程應(yīng)用統(tǒng)計學(xué)與隨機過程( (通信專業(yè)通信專業(yè)) )Applied Statistics and Random ProcessApplied Statistics and Random Process湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程4. 白噪聲與正態(tài)隨機過程(7學(xué)時)4.1白噪聲及其特性白噪聲及其特性4.2離散白噪聲及其特性離散白噪聲及其特性4.3常用離散線性系統(tǒng)模型常用離散線性系統(tǒng)模型4.4正態(tài)隨機過程正態(tài)隨機過程4.5正態(tài)隨機過程的線性變換正態(tài)隨機過程的

2、線性變換引引 言言白噪聲與正態(tài)隨機過程的工程背景白噪聲與正態(tài)隨機過程的工程背景 (1)白噪聲過程與正態(tài)隨機過程分別從相關(guān)函數(shù)或概率密度函數(shù)這兩種不同角度體現(xiàn)了隨機過程的典型； (2)從功率譜或相關(guān)函數(shù)的角度來看,任何具有有理功率譜密度函數(shù)的隨機過程都可以認為是白色噪聲通過線性系統(tǒng)所產(chǎn)生；白色噪聲相關(guān)函數(shù)為沖激函數(shù),功率譜為常數(shù)是研究隨機過程產(chǎn)生機制及預(yù)測方法的基礎(chǔ); (3)從概率密度函數(shù)的角度來看,根據(jù)中心極限定理,正態(tài)分布以及由此衍生的其他分布是最常見的概率密度分布；正態(tài)隨機過程分析是研究隨機過程的重要基礎(chǔ)。湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程白噪聲及其特性白噪聲及其

3、特性4.11.1.連續(xù)時間白噪聲的定義連續(xù)時間白噪聲的定義 如果隨機過程X(t)的均值函數(shù)為常數(shù)0，相關(guān)函數(shù)為如下的沖激函數(shù)，則稱該隨機過程為白色噪聲。 12121121( ,)( )( )( ) () ( )0XRt tE X tX tV tttV t通常意義上的白噪聲為平穩(wěn)白噪聲，即V(t1)為常數(shù)(相關(guān)函數(shù)中的沖激強度與時間無關(guān))N0/2，則相關(guān)函數(shù)定義為0( )()( )( )2NNRE X tX t 湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程思考：為什么除以2非平穩(wěn)白色噪聲從頻域的角度看，平穩(wěn)白噪聲的雙邊功率譜密度函數(shù)為常數(shù)N0/2，物理功率譜密度函數(shù)(單邊)為常數(shù)

4、N000( )( )( )22 ()jjNXNNGReded 湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程0( )2( ) (0)NNFGN 0GN( )N0 /2FN( )N0 RN( )N0 ( )/20白噪聲中的“白”的含義：借用了光譜中的“白色光的光譜包含所有顏色(頻率)的可見光，且具有均勻光譜”，意指頻率分布廣且均勻湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程2.2. 白噪聲的特性白噪聲的特性 (1)白噪聲過程在任意兩個不同時刻是互不相關(guān)的 EX(t1)X(t2) =RN(t1-t2)=0 (t1t2) (2)白噪聲任意時刻的功率為無窮大 EX2(t)

5、 =RN(0) = (3)白噪聲在實際中是不存在的，但在數(shù)學(xué)處理上給信號與系統(tǒng)分析帶來方便，正如沖激函數(shù)在物理上不存在，但沖激響應(yīng)給信號與系統(tǒng)分析帶來方便一樣。 湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程3.3. 白噪聲通過線性系統(tǒng)白噪聲通過線性系統(tǒng) 實際的噪聲過程可以認為是白噪聲通過線性系統(tǒng)所產(chǎn)生，稱為有色噪聲，在不同時刻可能是相關(guān)的，且任意時刻的功率小于無窮大。(1) 設(shè)輸入從t=-開始，生成系統(tǒng)(線性時不變系統(tǒng))的沖激響應(yīng)為h(t),傳遞函數(shù)為H(j)( )() ( )Y tX thd220( )( )|()|()|2YXNGGH jH j根據(jù)隨機過程的線性變換特性，得

6、到或0( )() ( )Y tX thd因果系統(tǒng)功率密度分布不再均勻湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程200001( )|() |22 = ( )()( )2 ( )()2 ( ) ()2jYNRHjedNhhNhhNh u h udu 頻域方法時域方法(參見第3章)(2) 對于因果系統(tǒng)0| |( )( ) (|)2YNRh u h udu根據(jù)定義、相關(guān)函數(shù)的偶函數(shù)特性(附錄)線性系統(tǒng)一般是穩(wěn)定的，即201(0)|()|22YNRH jd 功率為無窮大的白噪聲通過線性系統(tǒng)后任意時刻的能量有限，功率(平均能量)有限湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機

7、過程附錄(自學(xué)）:0( )( ) ()2YNRh u h udu(1) 0. u0、u-0時，h(u)=0、h(u-)=0；u的取值范圍只能為u00| |( )( ) ()( ) (|)22YNNRh u h uduh u h udu(2) 0. u的取值范圍為0ut1、 t2t1兩種情況證明(附錄)(3) 對于因果系統(tǒng)但輸入從t=0開始情況 X(t)=0 (tt2(2) t1e/2湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程如果有色噪聲Y(t)的生成系統(tǒng)的傳遞函數(shù)為H(j)，則20()|() |YFNHj2020|( 2) |( 2) |eHjfdffHjf容易得到對于低通系

8、統(tǒng)，f0=0有色噪聲功率與白噪聲功率及生成系統(tǒng)有效通能帶的關(guān)系220002001(0)|()|2|( 2)|222 |( 2)|YeNNRH jdH jfdfNfH jf白噪聲的有效功率乘以中心頻率處的功率放大系數(shù) FY( )0efFY(2 f) fe湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程白噪聲通過線性系統(tǒng)舉例白噪聲通過線性系統(tǒng)舉例1 1 設(shè)輸入信號為白噪聲,從t=-開始；求輸出隨機過程的功率譜密度函數(shù)、相關(guān)函數(shù)、相關(guān)時間及有效通能帶RCX(t)Y(t)解：()()()1()1()11YjHjXjI jj CI jRj CjRC RC電路為低通電路，當電路為低通電路，當

9、=0時，時，|H(j )|有最大的值有最大的值1湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程200222 1/()( )|()|241/()YNNRCGH jRCRC2*2222211|() |()()1111()1 / ()1 / ()HjHjHjjRCjRCRCRCRC | |222aaea配對關(guān)系| |0( )4RCYNReRC200(0)|( 2)|YeRNfH jf00/ (4)14eNRCfNRC| |( )RCYre00( )YrdRC湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程白噪聲通過線性系統(tǒng)舉例白噪聲通過線性系統(tǒng)舉例2 2 設(shè)輸入信號為白噪聲

10、,從t=-開始,中頻線性放大器的幅頻特性為高斯型的，求其輸出過程的相關(guān)函數(shù)解：22222000022()()|() |expexpHjCC20222000022()|() |2()()expexp2YNGHjN C220002220002()1( )exp22()1 exp22jYjN CRedN Ced湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程00002222()00222()002220022220002222/ 400021exp221 exp22exp4cos()exp2/ 2cos()exp2jjjjjN CedN CedN CeeedN CjdN Cjed 222

11、220040222004021cos()22(/2 )/ 2 expcos()2(/2 )2N CeN Cjde 分別作積分變量置換-0； +0正態(tài)概率密度分布函數(shù)積分性質(zhì)湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程4.4. 限帶隨機過程及其特性限帶隨機過程及其特性 如果隨機過程的功率密度分布只集中在有限寬度的頻帶內(nèi),在該頻帶外,功率譜密度函數(shù)為0，則稱為限帶隨機過程；進一步，如果限帶隨機過程的功率譜密度函數(shù)在限帶內(nèi)為常數(shù)，則稱為限帶白噪聲。帶通限帶隨機過程帶通限帶白噪聲 FX( )0 0 0+ c 0- cff0+fcf0f0-fcFX(2 f) 0FX( ) 0 0+ c

12、0- cN0ff0+fcf0f0-fcFX(2 f)湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程低通限帶隨機過程低通限帶白噪聲性質(zhì)： 根據(jù)線性系統(tǒng)輸入輸出功率譜密度關(guān)系容易得到，理想白噪聲通過理想低通系統(tǒng)(通帶內(nèi)放大系數(shù)為1，通帶外為0)后為低通限帶白噪聲；理想白噪聲通過理想帶通系統(tǒng)后為帶通限帶白噪聲。 FX( )0 cffcFX(2 f) 0FX( ) cN0FX(2 f)ffc思考：以上為物理功率譜密度，功率譜密度形式如何？湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程5.5. 低通限帶白噪聲的相關(guān)函數(shù)特性低通限帶白噪聲的相關(guān)函數(shù)特性 設(shè)低通限帶白噪聲X(t)

13、的物理帶寬(單邊帶寬)為c，物理功率譜密度為N0(通帶內(nèi)雙邊功率譜密度N0 /2)000011( )( )222sin()1122222ccLccccccjjXXjjjcccNRGededNNNeeejj0(0)2LcXNR功率 RXL( )0 / c- / c2 / c利用歐拉定理湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程性質(zhì)(自學(xué))：對物理帶寬為c的低通限帶白噪聲X(t)按采樣角頻率s =2c ，采樣頻率fs=2fc，采樣間隔t=1/fs進行采樣，得到離散時間隨機過程Xs(n)=X(nt)，則任意采樣時刻的隨機變量是互不相關(guān)的。1212120121212012012121

14、2( ,)( )()()sin()()2()sin()/(2)sin ()02()/(2)2()sLXssccXcccccccRn nE X n X nE X n t X ntNnntRnntnntNnnfNnnnnfnn c=2fc低通限帶白噪聲的相關(guān)時間00000( )(0)( )(0)2(0)2/ (2)XXLXXXccRdNGrdRRN()( )jXXGRed湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程6.6. 帶通限帶白噪聲的相關(guān)函數(shù)特性帶通限帶白噪聲的相關(guān)函數(shù)特性( (參見前圖參見前圖) ) 設(shè)帶通限帶白噪聲X(t)的物理帶寬(單邊帶寬)為2c，中心角頻率為0，物理

15、功率譜密度為N0(通帶內(nèi)雙邊功率譜密度N0 /2)，則其相關(guān)函數(shù)為0000000000()()000001( )22212221 22sin() cos()ccBccccccccjjXjjjjjcccNNRededNNededNeeedN 積分變量置換+0利用前面的低通積分性質(zhì)及歐拉定理慢變部分快變部分積分變量置換-0湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程 0RXB( )Ra( )000sin()( )cos() 2cos()( )BLccXcXNRR物理帶寬為2c的帶通限帶白噪聲的相關(guān)函數(shù)是物理帶寬為c的低通限帶白噪聲相關(guān)函數(shù)的調(diào)制，其包絡(luò)為0sin()( )2( )L

16、ccaXcNRR0(0)2(0)BLcXXNRR對于具有調(diào)制特性的相關(guān)函數(shù)，根據(jù)包絡(luò)來定義相關(guān)時間0000( )(0)(0)2(0)2/ (2 )LLaXBaXccRdGNRRN湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程本小節(jié)作業(yè)本小節(jié)作業(yè)4.6 4.7 4.8離散白噪聲及其特性離散白噪聲及其特性(自學(xué)為主自學(xué)為主)4.21.1.離散白噪聲的定義離散白噪聲的定義 如果離散時間隨機過程X(n)的均值函數(shù)為常數(shù)0，相關(guān)函數(shù)為單位脈沖函數(shù)，則稱該隨機過程為離散白色噪聲。 2()()( )()XXRmE X nm X nm湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程從

17、頻域的角度看，平穩(wěn)白噪聲的雙邊功率譜密度函數(shù)為常數(shù)X22()() ()jmXXXmGRm e 與沖激區(qū)別RX(0)有限:數(shù)字角頻率2()() mXXXmGzRmz 湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程2.2. 離散白噪聲通過線性系統(tǒng)離散白噪聲通過線性系統(tǒng) 任何具有有理功率譜密度函數(shù)的離散隨機過程可以認為是離散白噪聲通過線性系統(tǒng)所產(chǎn)生。(1) 設(shè)輸入從n=-開始，生成系統(tǒng)(線性時不變系統(tǒng))的單位脈沖響應(yīng)為h(n),傳遞函數(shù)為H()( )() ()mY nX nm h m222( )( ) |() |() |jjYXXGGH eH e根據(jù)離散隨機過程的線性變換特性，得到或因

18、果系統(tǒng)功率譜密度分布不再均勻0( )() ()mY nX nm h m21( )( )()YXGzH z H zz變換形式的功率譜湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程222221()|() |2 ()()()()() ( ) ()jjmYXXXXuRmH eedmhmh mh mhmh u h um頻域方法時域方法，參見第3章ppt(2) 對于因果系統(tǒng)2| |()( ) (|)YXumRmh u h um練習(xí)：根據(jù)定義、單位脈沖函數(shù)求和特性分m0、 mn1、 n22c進行采樣，得到離散時間隨機過程Xs(n)，求其功率譜密度函數(shù)。解：低通限帶白噪聲的相關(guān)函數(shù)為0sin()

19、( )2LccXcNR采樣后的離散時間隨機過程的相關(guān)函數(shù)為00sin()sin(2/)( )()222/LsccccsXXccsNm tNmRmRm tm tm 采樣間隔2st 湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程0sin(2/)( ) (- )22/sj mccsXmcsNmGem 0(2/)(2/)02020( )sin(2/)()22/82(2/) 2(2/)8 (2/)(2/)4scscsXj mccsmcsjmjmsmscscsscscsdGNmjedNeeNN 0( ) (2/)(2/)4ssXcscsNGd 歐拉定理2( )j mme 湖南大學(xué)教學(xué)課件：應(yīng)

20、用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程00 (-2/)( ) ( 2/2/)40 (2/)scssXcscscsNGc/sM時，h(u)=0；則22211( )|1.|jjjMXWMGbebeb e2| |2| | | (|)( )( ) (|)0 (|)MMWu u mu mXWu mb bmMR mh u h ummM附錄(擴展)：MA模型的工程應(yīng)用。如果已知某零均值平穩(wěn)隨機過程滿足參數(shù)已知的MA模型，假設(shè)按順序得到隨自相關(guān)函數(shù)是M后截尾的湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程機過程的樣本數(shù)據(jù)x(1),x(2),x(n-1),x(n),;已知隨機過程的相關(guān)函數(shù),則按

21、順序進行單步預(yù)測的過程為第1步：由x(1) 預(yù)測 x(2) 在已獲x(1)未獲得x(2)時1(1)Zx1,10(1)XRv1,11(2)xZ211,10(0)XvRv第2步：由x(1) ,x(2)預(yù)測 x(3) 在已獲x(2)未獲得x(3)時2(2)(2)Zxx0(0)XvR獲得上一步的預(yù)測誤差為下次預(yù)測做準備湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程11 22 02,22,101(1)(2), XXRvRvv 22,31(3)jjjxZ2222,202,11(0)XvRvv以此類推第n步：由x(1) ,x(2),x(n)預(yù)測 x(n+1) 在已獲x(n)未獲得x(n+1)時

22、( )( )nZx nx n湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程,0( )Xn nR nvmin( ,),1,111(1)n Mnn jnjn jnjjjx nZZ 2,1(0)nnXn jn jjvRv當n足夠大時，n,1, n,2, n,M趨近于b1,b2,bM； n,M+1, n,M+2, n,n為0。不用計算各系數(shù) 假設(shè)在初次預(yù)測時x(1),x(2),x(k)已知，從x(k+1)開始預(yù)測，為保證精度，模型的遞推從x(1)開始；只是在已知的數(shù)據(jù)段內(nèi)，預(yù)測誤差已知而已。1,0,() 1,2,.,1kXk k j n n jjjn n kkR n kvknv根據(jù)MA序

23、列相關(guān)函數(shù)的截止特性,當nM時,ry(n)=0,則n,j=0 (njq+1)2.ARMA2.ARMA模型模型( (自回歸滑動平均模型自回歸滑動平均模型) ) 設(shè)W(n)為離散白噪聲，X(n)通過如下的(N,M)階自回歸滑動平均線性模型生成(假設(shè)輸入從n=-開始) 湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程根據(jù)信號與系統(tǒng)理論，該生成系統(tǒng)的傳遞函數(shù)為該系統(tǒng)穩(wěn)定的條件是：方程zN+a1zN-1+aN-1z+aN的根即所有極點pi都在復(fù)平面單位圓內(nèi)1212121211112111121.( )1.(1)(1).(1) (1)(1).(1)MMNNMNb zb zb zH za za

24、za zz zz zz zp zp zp z零極點模型11( )(1) .()( )(1) .()NMX naX na X n NW nbW nb W n M 湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程2122121.( )1.jjMjMjjNjNbeb eb eHa ea ea e下面求X(n)的相關(guān)函數(shù)的通解。設(shè)m M，差分方程兩邊同乘X(n-m)，再取數(shù)學(xué)期望，得到222122121.( )|1.jjMjMXWjjNjNbeb eb eGa ea ea e11 ( ) () (1) () . () () ( ) () (1) () . () ()NME X n X n

25、maE X nX n ma E X n N X n mEW n X n mbEW nX n mb EW n M X n m 考慮到mM 時，X(n-m)與W(n),W(n-1), ,W(n-M)不相關(guān)W的白色性、系統(tǒng)的因果性；得到湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程1( )(1) .()0 ()XXNXR maR ma R m NmM根據(jù)高等數(shù)學(xué)理論，上述差分方程的通解為1 12 2( ). (max( ,1)mmmXNNR mBpB pB pm LM N 剩下的問題：(1)如何求得邊界條件RX(L+1), RX(L+2), RX(L+N)?通過RX(0), RX(1)

26、, RX(L)利用差分方程遞推 如果已求得，則代入通解表達式，通過解線性方程組可以求出B1,B2,BN；(2)如何求得RX(0), RX(1), RX(L)? 方法1(其他方法略)：留數(shù)定理211( ) ( ) ()mXWR mH z H zz在單位圓內(nèi)所有極點的留數(shù)之和考慮到差分方程不滿足偶函數(shù)特性ARMAARMA模型舉例：求模型舉例：求X(n)的相關(guān)函數(shù)的相關(guān)函數(shù) ( ) 1.4 (1) 0.48 (2)( ) 0.2 (1) 0.1 (2)X nX nX nW nW nW n 湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程12221221 0.20.10.20.10.20.

27、1( )1 1.40.481.40.48(0.6)(0.8)zzzzzzH zzzzzzz222120.20.11 0.20.1( )( ) ()(0.6)(0.8)(1 0.6 )(1 0.8 )XWWzzzzGzH z H zzzzz122220.11(0)( )(0.6)(0.8)(1)(1)( 0.6)0.2 ( 0.6) 0.11 0.2 ( 0.6) 0.1 ( 0.6)( 0.6 0.8) ( 0.6)1 0.6 ( 0.6)1 0.8 ( 0.6)XXWWRz Gz dz 湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程2222( 0.8)0.2 ( 0.8) 0.

28、11 0.2 ( 0.8) 0.1 ( 0.8)( 0.8 0.6) ( 0.8)1 0.6 ( 0.8)1 0.8 ( 0.8)19.09148WW 222222(1)( )( 0.6)0.2 ( 0.6) 0.11 0.2 ( 0.6) 0.1 ( 0.6)( 0.6 0.8)1 0.6 ( 0.6)1 0.8 ( 0.6)( 0.8)0.2 ( 0.8) 0.11 0.2 ( 0.8) 0.1 ( 0.8)( 0.8 0.6)1 0.6 ( 0.8)1 0.8 ( 0.8)14.30XXWWRGz dz 2275W湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程222222(

29、2)( )( 0.6)0.2 ( 0.6) 0.11 0.2 ( 0.6) 0.1 ( 0.6)( 0.6)( 0.6 0.8)1 0.6 ( 0.6)1 0.8 ( 0.6)( 0.8)0.2 ( 0.8) 0.11 0.2 ( 0.8) 0.1 ( 0.8)( 0.8 0.6)1 0.6 ( 0.8)1 0.8 ( 0.8)XXWWRzGz dz 2( 0.8)12.67994W 12( )( 0.6)( 0.8) (2)mmXR mBBm代入 RX(3), RX(4)求得：2110.31435WB2225.61426WBm2時 ，滿足 得：( ) 1.4(1) 0.48(2)0XXXR

30、mR mR m方程兩邊同乘X(n-m)取期望2(3)1.4(2) 0.48(1)10.88660XXXWRRR2(4)1.4(3) 0.48(2)9.15486XXXWRRR湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程附錄(擴展)：基于ARMA模型的單步預(yù)測，假設(shè)模型參數(shù)已知(相關(guān)函數(shù)可以根據(jù)模型參數(shù)計算) ；初始條件x(0)=x(-1)=x(-2)=0;按順序進行單步預(yù)測的過程為第1步：由x(1) 預(yù)測 x(2) 在已獲x(1)未獲得x(2)時1(1)Zx1,10(1)XRv1,11(2)xZ211,10(0)XvRv第2步：由x(1) ,x(2)預(yù)測 x(3) 在已獲x(2

31、)未獲得x(3)時2(2)(2)Zxx0(0)XvR獲得上一步的預(yù)測誤差為下次預(yù)測做準備湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程11 22 02,22,101(1)(2), XXRvRvv 22,31(3)jjjxZ2222,202,11(0)XvRvv以此類推第n步：由x(1) ,x(2),x(n)預(yù)測 x(n+1) 在已獲x(n)未獲得x(n+1)時( )( )nZx nx n湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程,0(0)Xn nRv1,0,() 1,2,.,1kXk k j n n jjjn n kkR n kvknv,11,11,11111m

32、ax( ,)(1)()(1)max( ,)nn jnjnjn jnjMNjn jnjnjjjjZnN Mx nZyya y njnN M 12,0(0)nnXn n jjjvRv111 arg (1)(1)MNjnjjjjif n is le enough x nb Za x nj 3.AR3.AR模型模型( (自回歸模型自回歸模型) ) 設(shè)W(n)為離散白噪聲，X(n)通過如下的N階自回歸線性模型生成(假設(shè)輸入從n=-開始) 湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程根據(jù)信號與系統(tǒng)理論，該生成系統(tǒng)的傳遞函數(shù)為該系統(tǒng)穩(wěn)定的條件是：方程zN+a1zN-1+aN-1z+aN的根即

33、所有極點pi都在復(fù)平面單位圓內(nèi)1212111121( )1.1 (1)(1).(1)NNNH za za za zp zp zp z全極點模型1( )(1) .()( )NX naX na X n NW n 湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程2121( )1.jjNjNHa ea ea e下面考慮如何求X(n)的相關(guān)函數(shù)的通解。設(shè)m0，差分方程兩邊同乘X(n-m)，再取數(shù)學(xué)期望，得到222121( )|1.XWjjNjNGa ea ea e1 ( ) () (1) () . () () ( ) ()NE X n X n maE X nX n ma E X n N X

34、n mEW n X n m 考慮到m0 時，X(n-m)與W(n)不相關(guān)W的白色性、系統(tǒng)的因果性；只與W(n-m)以及n-m時刻以前的W相關(guān)；得到湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程1( )(1) .()0 (0)XXNXR maR ma R m Nm根據(jù)高等數(shù)學(xué)理論，上述差分方程的通解為1122( ). ()mmmXNNR mB pB pB pmN剩下的問題：(1)如何求得邊界條件RX(N), RX(N+1), RX(2N-1)? 如果已求得，則代入通解表達式，通過解線性方程組可以求出B1,B2,BN ；(2)如何求得RX(0) RX(N-1)?方法：Yule-Wal

35、ker方程性質(zhì)1222 ( ) ( ) ( )(1)(2) .() ( )( )NWE X nW nE W na X na X na X n N W nEW n根據(jù)因果性，X(n-i)為W(n-i), W(n-i-1),的線性組合，每項都與W(n)無關(guān)考慮到差分方程不滿足偶函數(shù)特性湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程差分方程兩邊同乘X(n)，再取數(shù)學(xué)期望，并利用相關(guān)函數(shù)的偶函數(shù)特性，得到21(0)(1) .( ) XXNXWRaRa RN上述方程與前面得到的方程1( )(1) .()0 (0)XXNXR maR ma R m Nm聯(lián)立，得到如下的N+1個線性方程211(

36、0)(1) .( ) ( )(1) .()0 (1,2,., )XXNXWXXNXRaRa R NR maR ma R m NmN 根據(jù)RX()的偶函數(shù)特性，上述N+1個方程只包含RX(0), RX(1), , RX(N)這N+1個未知數(shù)，可求得唯一解;然后利用差分方程遞推求得RX(N+1), RX(2N-1)? ARAR模型舉例：求模型舉例：求X(n)的相關(guān)函數(shù)的相關(guān)函數(shù) ( ) 1.4 (1) 0.48 (2)( )X nX nX nW n 湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程2(0) 1.4(1) 0.48(2) XXXWRRRN=2(1) 1.4(0) 0.48

37、(1)0XXXRRR(2) 1.4(1) 0.48(0)0XXXRRR211.40.48(0)11.41.480(1)00.481.41(2)0XXWXRRR 方程兩邊同乘X(n)取期望方程兩邊同乘X(n-1)取期望方程兩邊同乘X(n-2)取期望湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程2(0) 12.35310XWR2(1)11.68536XWR2(2) 10.43002XWR12( )( 0.6)( 0.8) (2)mmXR mBBm代入RX(2)，RX(3)= -1.4RX(2)-0.48 RX(1)；得到練習(xí)：采用頻域法及留數(shù)定理進行驗證219.01443WB2221

38、.36753WB附錄(擴展)：基于AR模型的單步預(yù)測，假設(shè)模型參數(shù)已知(相關(guān)函數(shù)可以根據(jù)模型參數(shù)計算) ；初始條件x(0)=x(-1)=x(-2)=0;按順序進行單步預(yù)測的過程為112( )(1) .(1)nNxax na x na x n N 基于AR模型的預(yù)測方法簡單，由于沒有利用歷史預(yù)測誤差修正目前的預(yù)測值，需要的階數(shù)一般較高。( ) 1.4(1) 0.48(2)0 (0)XXXR mR mR mm正態(tài)隨機過程正態(tài)隨機過程4.41.1.正態(tài)隨機過程的普遍性正態(tài)隨機過程的普遍性( (自學(xué)為主自學(xué)為主) )(1)李雅普諾夫定理：設(shè)X1,X2,Xn為相互獨立、均值與方差為有限值的隨機變量，則不

39、管其服從什么分布，當n足夠大時，這些隨機變量的和服從高斯分布。(2) 白色噪聲X(t)通過有限帶寬的線性系統(tǒng)后其概率密度分布必為高斯分布(假設(shè)信號從任意t0開始輸入)湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程00()/0001( )( ) ()lim() ()t tttiY tXhtdX tiht ti 即使0，對不同的i，隨機變量00() ()X tiht ti 相互獨立，只要tt0，則n=(t-t0)/；滿足定理條件(3)寬帶隨機過程通過窄帶系統(tǒng)后，其概率密度分布逼近高斯分布，用高斯分布進行統(tǒng)計分析不會帶來顯著誤差。隨機過程的帶寬越寬，則其相關(guān)時間0=/c就越短，系統(tǒng)帶寬

40、越窄，則其沖激響應(yīng)過渡時間就越長湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程000()/000000( )( ) ()() () ()ttt tiY tXh tdX tt ih t it t RX( )0 / c- / c將t=t-t0寬度的積分區(qū)間分成t/0個小區(qū)間，各求和變量可以認為是相互獨立的且變量數(shù)足夠多；基本滿足定理條件t0h(t ) t t =t-t0 0當小區(qū)間寬度0足夠小時(4)在通信系統(tǒng)中，信號的傳輸是寬帶的，但最終提取信息時要對信號進行窄帶接收處理，信道噪聲滿足寬帶隨機過程通過窄帶線性系統(tǒng)的條件，因此，高斯過程或正態(tài)過程是通信與電子系統(tǒng)中最普遍的隨機過程。湖

41、南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程2.2.正態(tài)隨機過程的定義與特征正態(tài)隨機過程的定義與特征正態(tài)(高斯)隨機過程的定義：對于任意的n以及任意的時刻t1,t2,tn；如果隨機變量X(t1),X(t2),X(tn)的聯(lián)合概率密度分布函數(shù)為如下的聯(lián)合高斯分布，則稱其為正態(tài)隨機過程或高斯隨機過程1122111221211exp,.,22|nnnnnxmxmxm xmxm KKxm1212( ,.,; , ,., )Xnnfx xx t tt行矢量列矢量 對稱正定矩陣行列式值容易證明，湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程定義如下的矩陣及矢量(列矢量） ( )

42、 (1,2,., )iimE X tin( )( ) ( ,1,2,., )ijiijjKEX tmX tmi jnnn維的矩陣K的第i行第j列的元素值為Kij滿足12 ( ),( ),.,( )TnXX tX tX t12,.,Tnmm mm12 ,.,Tnxx xx則顯然有1122,., ()Tnnxm xmxmx m mE X矢量的數(shù)學(xué)期望及矩陣的數(shù)學(xué)期望的含義顯然Kij=Kji，K為對稱矩陣湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程1122nnxmxmx mxm 將多維聯(lián)合正態(tài)分布記為：11211( )exp()()22|TXnfxx m Kx mK理解為：隨機矢量X

43、的取值服從均值矢量為m協(xié)方差矩陣為K的聯(lián)合正態(tài)分布，在取值x處的概率密度值為( )Xfx(標量)111212122212.()() .nnTnnnnKKKKKKKE Xm XmKKK矩陣第i行第j列的值?湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程正態(tài)隨機過程的多維特征函數(shù)正態(tài)隨機過程的多維特征函數(shù)1 12 21212(.)121212( , ,., ; , ,., ).( , ,., ; , ,., ).n nXnnj ux u xu xXnnnC u uu t ttfx xx t tt edxdxdx 記12,.,Tnuu uu1 12 2. Tn nuxu xu xx u

44、 則多維特征函數(shù)定義簡記為 ( )( )TTjx ujX uXXC ufx edxE e 表達式太煩瑣完美的數(shù)學(xué)表達語言標量的含義dx多維隨機變量函數(shù)的數(shù)學(xué)期望的定義湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程11211211211( )exp()()22|11exp()() 222|11exp()()22|1 exp exp2TTjx uXnTTnTnTTC ux m Kx m edxKx m Kx mjx u dxKx mjKuKx mjKu dxKjm uu Kujm 12TTuu Ku練習(xí)：展開并利用TTm uu m TTx uu x 多維聯(lián)合正態(tài)概率密度分布函數(shù)在多維

45、空間上的全積分湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程零均值正態(tài)隨機過程重要性質(zhì)零均值正態(tài)隨機過程重要性質(zhì)1234123413241423 ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )E X t X t X t X tE X t X tE X t X tE X t X tE X t X tE X t X tE X t X t證： （證明過程自學(xué)）11( )expexp22TTTXCujm uu Kuu Ku 1112131414421222324212341131323334341424344

46、4 ,TijijijKKKKuKKKKuu Kuu u u uK uuKKKKuKKKKuKij=Kji=EX(ti)X(tj)湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程1 1 1 11234123412340441112340444411111123401234(,)( )( )( )( )()1exp211exp221exp2XuijijijujjiiijijjiijuiCu uuuE X tX tX tX tjuuuuK u uuuuuK uK uK u uuuuKKuu 4444111111444422111101211 ()exp22jijjjiiijjijjiii

47、jijjiijuu uK uK uKuK uK u u 參見第1章的多維聯(lián)合矩與多維特征函數(shù)的關(guān)系1()(1)(1)ijijijjijiK u uuKiuK uj湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程4444123311114444413221111444423111111441121111exp2211exp2211exp2218jjiiijijjiijjjiiijijjiijjjiiijijjiijjjiijjjijKKuK uK u uuKKuK uK u uKK uK uK u uK uK uKu 44211444433111101234132414231exp2

48、iiijjiiijijjiijuK uKuK uK u uKKKKKK 證畢13311323322322KKKKKK注:對u3求導(dǎo)利用了3 44 33 42 44 22 41 44 12 42,2,2KKKKKKKKK注:對u4求導(dǎo)利用了湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程附錄附錄( (自學(xué)自學(xué)) )以上證明了t1t2t3 t4的情況，對于部分變量相同情況，公式同樣成立。(1) t1=t2=t3 =t4=t的情況4224( )( )( )( )( )( )( ) ( )( )( )( ) ( )( ) ( )( ) ( )( )3 ( )3( )XE XtE X t X

49、 t X t X tE X t X t E X t X tE X t X t E X t X tE X t X t E X t X tE Xtt練習(xí)：利用正態(tài)隨機變量X(t)矩與其一維特征函數(shù)的關(guān)系(參見第1章)證明(2) (1) t1=t2=t3=s t4=t的情況322( )( )( )( )( )( )( )( ) ( )( )( )( ) ( )( ) ( )( ) ( )( )3 ( )( ) ( )3( , )( )XXE Xs X tE X s X s X s X tE X s X s E X s X tE X s X s E X s X tE X s X t E X s X s

50、E X s X t E XsKs ts練習(xí)：利用正態(tài)隨機變量X(s)與X(t)的聯(lián)合矩與其二維聯(lián)合特征函數(shù)的關(guān)系(參見第1章以及本章前面)證明湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程(3) t1=t2=s t3=t4=t的情況22222222( )( )( )( )( )( )( )( ) ( )( )( )( ) ( )( ) ( )( ) ( )( )( ) ( ) 2 ( )( )( )( )2( , )XXXE Xs XtE X s X s X t X tE X s X s E X t X tE X s X t E X s X tE X s X t E X s X

51、tE Xs E XtE X s X tstKs t練習(xí)：利用正態(tài)隨機變量X(s)與X(t)的聯(lián)合矩與其二維聯(lián)合特征函數(shù)的關(guān)系(參見第1章以及本章前面)證明(4) t1=t2=s t3=wt4=t的情況22( )( )( )( )( )( )( )( )( ) ( )( )( )( ) ( )( ) ( )( ) ( )( )( )( , )2( , )( , )XXXXE Xs X w X tE X s X s X w X tE X s X s E X w X tE X s X w E X s X tE X s X t E X s X ws Kw tKs w Ks t練習(xí)：利用正態(tài)隨機變量X(

52、s)、 X(w)與X(t)的聯(lián)合矩與其三維聯(lián)合特征函數(shù)的關(guān)系(參見第1章以及本章前面)證明湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程同理可以證明，對于零均值正態(tài)隨機過程以及任意的時刻t1,t2,t3，有123( )( )( )0E X t X tX t練習(xí)：利用正態(tài)隨機變量X(t1)、 X(t2)與X(t3)的聯(lián)合矩與其三維聯(lián)合特征函數(shù)的關(guān)系(參見第1章以及本章前面)證明對于均值函數(shù)為mX(t)的非零均值正態(tài)隨機過程X(t)，可以看作是一個零均值隨機過程Y(t)與確定性函數(shù)mX(t)的和，且Y(t)與X(t)具有相同的方差函數(shù)及協(xié)方差函數(shù)，則12341122334412341

53、2342134312441 ( ) ( ) ( ) ( ) ( )( ) ( )( ) ( )( ) ( )( ) ( ) ( ) ( ) ( )( ) ( ) ( ) ( )( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( ) ( ) (XXXXXXXXE X t X t X t X tE Y tm tY tm tY tm tY tm tE Y t Y t Y t Y tm t E Y t Y t Y tm t E Y t Y t Y tm t E Y t Y t Y tm t E Y t Y t2312341324142323142413341212341) ( )( )(

54、 ) ( ) ( ) ( )( ) ( ) ( )( )( ) ( ) ( )( )( ) ( ) ( ) ( )( ) ( ) ( )( )( ) ( ) ( ) ( )( )( ) ( )(XXXXXXXXXXXXXXXXY tm t m t E Y t Y tm t m t E Y t Y tm t m t E Y t Y tm t m t E Y t Y tm t m t E Y t Y tm t m t E Y t Y tm t m t m t E Y tm t243134223411234)( )( ) ( )( )( )( ) ( ) ( )( )( ) ( )( )( )( )

55、( )XXXXXXXXXXXXm t m t E Y tm t m t m t E Y tm t m t m t E Y tm t m t m t m t湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程1234132414231234132414232314241334121( , )( , )( , )( , )( , )( , )( )( )( , ) ( )( )( , )( )( )( , )( )( )( , ) ( )( )( , )( )( )( , )( )XXXXXXXXXXXXXXXXXXXXXXXXXXK t t K t tK t t K t tK t t K

56、 t tm t m t K t tm t m t K t tm t m t K t tm t m t K t tm t m t K t tm t m t K t tm t m234( )( )( )XXt m t m t12311223312312321331212313223 ( ) ( ) ( ) ( )( ) ( )( ) ( )( ) ( ) ( ) ( )( ) ( ) ( )( ) ( ) ( ) ( ) ( ) ( )( )( ) ( )( )( ) ( ) ( )( )XXXXXXXXXXXXE X t X t X tE Y tm tY tm tY tm tEY t Y t Y

57、 tm t EY t Y tm t EY t Y tm t EY t Y tm t m t EY tm t m t EY tm t m t E1123123213312123 ( )( )( )( )( )( , )( )( , )( )( , )( )( )( )XXXXXXXXXXXXY tm t m t m tm t K t tm t K t tm t K t tm t m t m t同理可以得到：湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程3.3.聯(lián)合正態(tài)分布函數(shù)形式的唯一性聯(lián)合正態(tài)分布函數(shù)形式的唯一性( (自學(xué)自學(xué)) )性質(zhì):若X(t1),X(t2),X(tn)都服從

58、正態(tài)分布,各自的均值為mi,方差為i,相互之間的相關(guān)系數(shù)為 ( ) ( )/()ijjiiijjijE X tmX tm 如果任意維的條件分布(一維二維舉例如下)( , |, ) ()Xiijjfx t x tij( , |,; , ) ()Xiijkjkfx t x x t tijk均為正態(tài)分布,則它們服從聯(lián)合正態(tài)分布,且11211( )exp()()22|TXnfxx m Kx mK湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程附錄附錄( (自學(xué)自學(xué)):):證明證明11211exp()()122|Tnxm Kxm dxK12,.,nu uu 證：協(xié)方差矩陣K為正定矩陣，設(shè)1,

59、 2, n為其全部特征根(大于0)，對應(yīng)的n個特征向量為 (1,2,., )iiiKuuin，將上述n組線性方程組合并表示為令矩陣12 . nUu uu 12 ,.,nKUUdiag 對稱矩陣的特征向量矩陣滿足性質(zhì)：1TUUn維積分參見第2章湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程12121212 ,.,.,.,.,TnTnnTnKUdiagUUdiagdiagUAAAUdiag 作積分變量置換：1yA x根據(jù)積分變換理論：xAy11211211exp()()22|11exp()()|22|TnTnxm Kxm dxKAy m KAy mA dyK行列式值2| | |TKA

60、 AA行列式值湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程111121111exp()()()|22|11exp() ()22TTTnTnyA mA AAA yA mA dyKyA myA m dy令：112 . TnA mmmm則原積分2111212111.exp() .2211exp()221exp122niinnniniiiiniiiymdy dydyymdyzdz 可分離的多維積分積分變量置換iiiymz參見第2章ppt的標準正態(tài)概率密度分布積分湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計學(xué)與隨機過程 白噪聲與正態(tài)隨機過程211212112212122221122.nnnnnnnnnK