隨機(jī)過(guò)程第一章

1、主講教師：何松華 教授聯(lián)系電話(huà)：(0731）82687718子信箱：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程( (通信專(zhuān)業(yè)通信專(zhuān)業(yè)) )Applied Statistics and Random ProcessApplied Statistics and Random Process湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述1. 概 述兼概率論復(fù)習(xí) (6學(xué)時(shí))1.1不確定性事件不確定性事件1.2通信與電子系統(tǒng)中的不確定性通信與電子系統(tǒng)中的不確定性1.3含噪信號(hào)的最優(yōu)處理問(wèn)題含噪信號(hào)的最優(yōu)處理問(wèn)題1.4隨機(jī)變量及其數(shù)字特征隨機(jī)變量及其數(shù)字特征1.5隨機(jī)變量函數(shù)的概率密

2、度分布隨機(jī)變量函數(shù)的概率密度分布1.6隨機(jī)變量的特征函數(shù)隨機(jī)變量的特征函數(shù)不確定性事件不確定性事件1.1客觀(guān)世界中的兩大類(lèi)規(guī)律：客觀(guān)世界中的兩大類(lèi)規(guī)律：1.1.確定性事件中蘊(yùn)涵的確定性規(guī)律2.2.不確定性事件中蘊(yùn)涵的統(tǒng)計(jì)性規(guī)律確定性事件及確定性規(guī)律：確定性事件及確定性規(guī)律：1.1.因果律 確定的原因產(chǎn)生確定的可預(yù)知的結(jié)果“如果蘋(píng)果從樹(shù)上掉下(B),則肯定往下掉到地上(A)” if B then A ProbA|B=100%, Prob|B=0%湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述2.2.排中律 事物歸屬關(guān)系的確定性,非此即彼 “我(x)現(xiàn)在是湖南大學(xué)的教師(A)” I：論域（被討論的對(duì)

3、象的全體范圍） AB=（空集），AB=I if xA then uA(x)=100%,xB, uB(x)=0% if xB then uB(x)=100%,xA, uA(x)=0%湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述3.3.恒等律 事物(A,B,C,)之間相互約束關(guān)系的確定性 “三角形的三個(gè)內(nèi)角之和為180度” R（A，B，C，）= Constant 4.4.守恒律 事物(A,B,C,)(a,b,c,)之間轉(zhuǎn)換或交換過(guò)程中的確定性 “物質(zhì)不滅,能量守恒” R1（A，B，C，）= R2(a,b,c,)5.5.周期律 事物在有限域內(nèi)變化的重復(fù)性 “物極必返” if A=N,MN,xiA(i

4、=1,2,M) then 存在 i1i2,xi1=xi2毛澤東：打破周期率；江澤民：與時(shí)俱進(jìn)，三個(gè)代表湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述不確定性事件及不確定性：不確定性事件及不確定性：1.1.隨機(jī)性,因果律的一種破缺 隨機(jī)試驗(yàn)：可以在相同條件下重復(fù)進(jìn)行,每次試驗(yàn)的結(jié)果是事先不可預(yù)測(cè)的,所有可能的結(jié)果不止一個(gè)，但每次試驗(yàn)的結(jié)果是唯一的, 這樣的試驗(yàn)稱(chēng)為隨機(jī)試驗(yàn)。 隨機(jī)事件：在隨機(jī)試驗(yàn)中，對(duì)于1次試驗(yàn)可能發(fā)生也可能不發(fā)生、但在大量重復(fù)的試驗(yàn)中按一定規(guī)律發(fā)生的某種事情，稱(chēng)為隨機(jī)事件。 基本事件：在隨機(jī)試驗(yàn)中，最簡(jiǎn)單、不可再分、互不相容的事件稱(chēng)為基本事件。 湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)

5、過(guò)程 概述例如:不同的人通過(guò)測(cè)量蘋(píng)果落地的時(shí)間獲得樹(shù)的高度 “隨機(jī)試驗(yàn)”舉例：袋中有編號(hào)為0到5的6個(gè)乒乓球，從里面隨機(jī)地拿出一個(gè)，觀(guān)察結(jié)果后再放回；反復(fù)進(jìn)行試驗(yàn)。 6種基本事件：(1)拿到編號(hào)為0的球；(2)拿到編號(hào)為1的球；(3)拿到編號(hào)為2的球；(4)拿到編號(hào)為3的球；(5)拿到編號(hào)為4的球；(6)拿到編號(hào)為5的球。 “隨機(jī)事件”舉例：拿到編號(hào)大于4的球(在一次試驗(yàn)中可能發(fā)生也可能不發(fā)生；在大量重復(fù)的試驗(yàn)中發(fā)生的比例約為1/3) “基本事件”是隨機(jī)事件的特例。 所有基本事件的組合稱(chēng)為隨機(jī)試驗(yàn)的“樣本空間”。湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述不確定性事件及不確定性：不確定性事件及

6、不確定性：2.2.模糊性,排中律的一種破缺 事物之間歸屬關(guān)系的不確定性，不能確定某個(gè)對(duì)象肯定屬于某個(gè)集合或肯定不屬于某個(gè)集合，但能夠確定對(duì)象屬于某個(gè)集合的程度。 模糊性舉例：論域 I=各種不同年齡x的人 模糊集合 =年輕人 1 （0 x 24） u(x)= 1+（x-25）/52-1（25 x） 年齡x越大，則歸屬于年輕人的隸屬度u(x)就越小。湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述通信與電子系統(tǒng)中的不確定性通信與電子系統(tǒng)中的不確定性(隨機(jī)性隨機(jī)性)1.2湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述由于信道噪聲的存在(電子的布朗運(yùn)動(dòng))，確定的傳輸系統(tǒng)對(duì)確定的傳輸信號(hào)并不產(chǎn)生確定的響應(yīng)。

7、傳輸系統(tǒng)h(t)傳輸信號(hào)X(t) 響應(yīng) Y(t) 信道噪聲(t) Y(t)= X(t)h(t)+ (t) (卷積）(t)的取值是隨機(jī)的、不可預(yù)測(cè)的，則Y(t)也是隨機(jī)的、不確定的。通信電子系統(tǒng)中的不確定性所帶來(lái)的問(wèn)題：通信電子系統(tǒng)中的不確定性所帶來(lái)的問(wèn)題：1.1.信號(hào)的檢測(cè)問(wèn)題 在數(shù)字通信中，0，1編碼用不同的兩種波形進(jìn)行傳輸;接收端信號(hào)為Y(t) H0：（傳輸 0 編碼信號(hào)） Y(t)= X0(t)h(t) + 0(t) H1：（傳輸 1 編碼信號(hào)） Y(t)= X1(t)h(t) + 1(t) 怎樣從接收信號(hào)Y(t)中判斷出發(fā)送端傳輸?shù)男盘?hào)是X0(t) 還是X1(t) ？ 如何將假設(shè)檢驗(yàn)理

8、論應(yīng)用于通信電子系統(tǒng)?湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述2.2.信號(hào)及系統(tǒng)參數(shù)的估計(jì)問(wèn)題湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述系統(tǒng)h(t，2)A(t，)+ (t) a(t，1) Y(t)=a（t，1) h(t，2) + (t) 1：信號(hào)參數(shù)矢量(K個(gè)參數(shù)) 2：系統(tǒng)參數(shù)矢量(M個(gè)參數(shù))問(wèn)題：Y(t)、 (t)是不可預(yù)知的隨機(jī)過(guò)程，怎樣從接收信號(hào)Y(t)的有限個(gè)采樣值Y(0)、Y(T)、Y(N-1)T求得1、 1的最佳估計(jì)呢？簡(jiǎn)單的方程K+M個(gè)聯(lián)立為什么不能求得統(tǒng)計(jì)意義上的最佳估計(jì)？3.3.最優(yōu)濾波器的設(shè)計(jì)問(wèn)題湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述 問(wèn)題：Y(t)、 (t)

9、是不可預(yù)知的隨機(jī)過(guò)程，采用什么樣的濾波器h1(t)，使得含噪失真信號(hào)Y(t)通過(guò)該濾波器后，其輸出信號(hào)與X(t)最逼近？ minimum EY(t) h1(t)-X(t)2 h1(t)傳輸系統(tǒng)h(t)傳輸信號(hào)X(t) 響應(yīng) Y(t) 信道噪聲(t) 濾波器h1(t)含噪失真信號(hào)Y(t) 恢復(fù)信號(hào)Z(t) 4.4.系統(tǒng)的性能評(píng)估以及信號(hào)波形參數(shù)的設(shè)計(jì)問(wèn)題(自學(xué))湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述已知信道噪聲(t)的統(tǒng)計(jì)特性平均值、方差、相關(guān)函數(shù)、概率分布等，要求在給定接收端檢測(cè)性能的情況下對(duì)傳輸信號(hào)的波形進(jìn)行設(shè)計(jì)。舉例：軍用雷達(dá)目標(biāo)檢測(cè)H0：（無(wú)目標(biāo)） Y(t)= (t)H1：（有目標(biāo)

10、） Y(t)= kAs(t-2R/c)+ (t) s(t)：寬度為的正弦脈沖,R:目標(biāo)距離,c:光速，k：信號(hào)傳輸衰減系數(shù);要求虛警概率Pf=P（H1H0）=10-7，已知(t)服從N(0，2)，如何對(duì)發(fā)射信號(hào)的幅度A、脈沖寬度進(jìn)行設(shè)計(jì)？5.5.噪聲背景中的最優(yōu)預(yù)測(cè)問(wèn)題(自學(xué))湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述 舉例：軍用雷達(dá)機(jī)動(dòng)目標(biāo)狀態(tài)(距離、速度)預(yù)測(cè)測(cè)量方程：Y(n)= A(n) + (n) n0,N-1 Y(n):n時(shí)刻目標(biāo)距離的測(cè)量值(已知) A(n):n時(shí)刻實(shí)際的目標(biāo)距離值(未知) (n):測(cè)量誤差(隨機(jī)過(guò)程,概率分 布密度函數(shù)及相關(guān)特性已知) 目標(biāo)運(yùn)動(dòng)狀態(tài)方程：A(n+

11、1)=A(n)+TV(n)+ (1/2)T2W(n) V(n+1)=V(n)+TW(n) V(n):目標(biāo)第n個(gè)時(shí)刻的速度(未知) T :時(shí)間采樣間隔 W(n):目標(biāo)的加速度擾動(dòng)(概率密度、相關(guān)性已知)假設(shè)為帶有加速度擾動(dòng)的勻速運(yùn)動(dòng)如何預(yù)測(cè)目標(biāo)未來(lái)狀態(tài)? A(n),V(n)(nN-1)社會(huì)及國(guó)民經(jīng)濟(jì)領(lǐng)域中的統(tǒng)計(jì)問(wèn)題舉例社會(huì)及國(guó)民經(jīng)濟(jì)領(lǐng)域中的統(tǒng)計(jì)問(wèn)題舉例1.1.19世紀(jì)末中華民族無(wú)人能解的一個(gè)簡(jiǎn)單問(wèn)題湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述加拿大山貓年捕獲量數(shù)據(jù)加拿大山貓年捕獲量數(shù)據(jù) (1821-1878)(1821-1878)269,321,585,871,1475,2821,3928,59

12、43,4950,2577,523,98,184,279,409,2285,2685,3409,1824,409,151,45,68,213,546,1033,2129,2536,957,361,377,225,360,731,1638,2725,2871,2119,684,299,236,245,552,1623,3311,6721,4254,687,255,473,358,784,1594,1676,2251,1426,756,299假設(shè)今年為假設(shè)今年為18781878年年, ,請(qǐng)根據(jù)歷史數(shù)據(jù)建立預(yù)測(cè)模型請(qǐng)根據(jù)歷史數(shù)據(jù)建立預(yù)測(cè)模型, , 得到得到明年及明年及1880,1881,1882,18

13、831880,1881,1882,1883五年內(nèi)的山貓捕獲量的預(yù)測(cè)五年內(nèi)的山貓捕獲量的預(yù)測(cè). .有限次差分后平穩(wěn)2. 2. 現(xiàn)在一個(gè)很容易解決的問(wèn)題湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述舉例舉例: : 某城市居民季度用煤消耗量某城市居民季度用煤消耗量 ( ( 單位單位: : 噸噸 ) )請(qǐng)預(yù)測(cè)請(qǐng)預(yù)測(cè)19971997年度每個(gè)季度的用煤消耗量年度每個(gè)季度的用煤消耗量年份1季度2季度3季度4季度年平均19916878.45343.74847.96421.9 5873.019926815.45532.64745.66406.2 5875.019936634.45658.54674.86645.5

14、 5853.319947130.25532.64898.66642.3 6073.719957413.55863.14997.46776.1 6262.619967476.55965.55202.16894.1 6384.5非平穩(wěn)隨機(jī)過(guò)程: (1)趨勢(shì)項(xiàng); (2)季節(jié)(周期)項(xiàng)含噪信號(hào)的最優(yōu)處理問(wèn)題含噪信號(hào)的最優(yōu)處理問(wèn)題1.3湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述信號(hào)處理的主要研究?jī)?nèi)容信號(hào)處理的主要研究?jī)?nèi)容 從噪聲背景中檢測(cè)感興趣的信號(hào)、提取信息或?qū)π盘?hào)的參數(shù)進(jìn)行估計(jì)圖像處理、語(yǔ)音信號(hào)處理、數(shù)據(jù)處理最優(yōu)信號(hào)處理方法最優(yōu)信號(hào)處理方法 信號(hào)處理的方法不僅與信號(hào)本身的特性有關(guān)，還與噪聲背景的統(tǒng)

15、計(jì)特性(概率密度分布、功率譜等)密切相關(guān)；從事通信與電子系統(tǒng)領(lǐng)域研究的人員除了掌握確定性的信號(hào)與系統(tǒng)分析方法外，必須了解噪聲等隨機(jī)過(guò)程的特性，掌握各種統(tǒng)計(jì)方法在信號(hào)處理中的應(yīng)用信號(hào)處理方法舉例1：最優(yōu)預(yù)測(cè)湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述設(shè)設(shè)x(n)( (n=1,2,)1,2,)為離散時(shí)間隨機(jī)信號(hào)，為離散時(shí)間隨機(jī)信號(hào)，n為采樣時(shí)刻；為采樣時(shí)刻；該隨機(jī)信號(hào)的相關(guān)函數(shù)及功率譜定義為該隨機(jī)信號(hào)的相關(guān)函數(shù)及功率譜定義為( ) () ( )xR mE x n m x n(數(shù)學(xué)期望)( )( ) (-)j mxmPx m e 25 5 4cos( )( )9 17 8cos(2 )xP如果該隨機(jī)

16、信號(hào)的功率譜密度函數(shù)為如果該隨機(jī)信號(hào)的功率譜密度函數(shù)為則最優(yōu)的因果則最優(yōu)的因果IIR 3IIR 3步預(yù)測(cè)方程為步預(yù)測(cè)方程為湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述其中其中(3)(0) ( )(1) (1)(2) (2) .x nhx nhx nhx n1( ) ( )h nZH z( (逆逆z z變換變換) )11111( )()/(1)8 162H zzz 5 4cos( )( )10 6cos(2 )xP如果該隨機(jī)信號(hào)的功率譜密度函數(shù)為如果該隨機(jī)信號(hào)的功率譜密度函數(shù)為則最優(yōu)的因果則最優(yōu)的因果IIR 3IIR 3步預(yù)測(cè)濾波器應(yīng)修正為步預(yù)測(cè)濾波器應(yīng)修正為11111( )()/(1)692H

17、 zzz 隨機(jī)信號(hào)的最優(yōu)預(yù)測(cè)方法與其統(tǒng)計(jì)特性有關(guān)信號(hào)處理方法舉例2：最優(yōu)估計(jì)湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述 利用氣壓計(jì)對(duì)某棟高樓的高度進(jìn)行測(cè)量利用氣壓計(jì)對(duì)某棟高樓的高度進(jìn)行測(cè)量, ,根據(jù)甲班各個(gè)根據(jù)甲班各個(gè)學(xué)生的測(cè)量結(jié)果，該樓高度的測(cè)量值的平均值為學(xué)生的測(cè)量結(jié)果，該樓高度的測(cè)量值的平均值為h h0 0，變，變化的范圍化的范圍( (方差方差) )為為 0 02 2 ，測(cè)量值分布接近高斯分布。，測(cè)量值分布接近高斯分布。 現(xiàn)由乙班對(duì)該樓高度現(xiàn)由乙班對(duì)該樓高度h h進(jìn)行測(cè)量，進(jìn)行測(cè)量，NN個(gè)學(xué)生中第個(gè)學(xué)生中第n n個(gè)學(xué)個(gè)學(xué)生的測(cè)量值生的測(cè)量值xn, , 第第n n個(gè)學(xué)生的測(cè)量?jī)x器的精度個(gè)

18、學(xué)生的測(cè)量?jī)x器的精度( (誤差的方差誤差的方差) )為為 n n2 2; ;誤差服從正態(tài)分布誤差服從正態(tài)分布, ,各觀(guān)測(cè)相互獨(dú)立。各觀(guān)測(cè)相互獨(dú)立。 (1) (1) 不參考甲班的測(cè)量結(jié)果，且假設(shè)乙班不同儀器的測(cè)不參考甲班的測(cè)量結(jié)果，且假設(shè)乙班不同儀器的測(cè)量精度相同，量精度相同， 1 12 2= = 2 22 2= = NN2 2, ,則高度的最優(yōu)估計(jì)值為則高度的最優(yōu)估計(jì)值為湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述11NnnhxN(簡(jiǎn)單平均) (2) (2) 不參考甲班的測(cè)量結(jié)果，但乙班每個(gè)學(xué)生的測(cè)量不參考甲班的測(cè)量結(jié)果，但乙班每個(gè)學(xué)生的測(cè)量?jī)x器的精度不同，儀器的精度不同，則高度的最優(yōu)估計(jì)值為

19、則高度的最優(yōu)估計(jì)值為221111()/NNnnnnnhx(加權(quán)平均，精度越高，方差越小，加權(quán)系數(shù)越大) (3) (3) 參考甲班的測(cè)量結(jié)果，參考甲班的測(cè)量結(jié)果，則高度的最優(yōu)估計(jì)值為則高度的最優(yōu)估計(jì)值為022221100111()/NNnnnnnhhx在數(shù)據(jù)統(tǒng)計(jì)中如何利用先驗(yàn)知識(shí)信號(hào)處理方法舉例3：正弦信號(hào)的參數(shù)估計(jì)湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述( )sin()cos() + (n) (0,1,.,-1)x nAnBnnN( 已知已知)假設(shè)觀(guān)測(cè)噪聲假設(shè)觀(guān)測(cè)噪聲 (n)服從零均值正態(tài)分布服從零均值正態(tài)分布,各觀(guān)測(cè)值之間相各觀(guān)測(cè)值之間相互獨(dú)立，求互獨(dú)立，求A、B的最優(yōu)估計(jì)值的最優(yōu)估計(jì)值

20、頻率已知、幅相未知的正弦信號(hào)的參數(shù)估計(jì)。假設(shè)獲頻率已知、幅相未知的正弦信號(hào)的參數(shù)估計(jì)。假設(shè)獲得了正弦信號(hào)在得了正弦信號(hào)在NN個(gè)不同時(shí)刻的觀(guān)測(cè)值個(gè)不同時(shí)刻的觀(guān)測(cè)值為什么不能解方程？111120001112000sin ()sin()cos()( )sin()sin()cos()cos ()( )cos()NNNnnnNNNnnnnnnx nnABnnnx nn 僅僅兩個(gè)參數(shù)而已?信號(hào)處理方法舉例4：數(shù)據(jù)的最優(yōu)平滑(維納濾波器)湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述( )( )( ) (., 2, 1,0,1,2,.)x ns nnnx(n)：測(cè)量數(shù)據(jù)：測(cè)量數(shù)據(jù)(已知已知)； s(n)：需要

21、恢復(fù)的信號(hào)數(shù)據(jù)：需要恢復(fù)的信號(hào)數(shù)據(jù)(未知未知) (n)：測(cè)量誤差：測(cè)量誤差(未知且隨機(jī)未知且隨機(jī))。如何恢復(fù)。如何恢復(fù)s(n)？濾波器h(n)含噪數(shù)據(jù)x(n) 恢復(fù)的數(shù)據(jù)s1(n) 21( )min ( )( ) h nEs ns n求解如下的最優(yōu)化問(wèn)題：求解如下的最優(yōu)化問(wèn)題：湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述( )()( )( )jssPH ePP其中其中：1( )()jh nFTH e( ) ( ) ()sPFT E s n s nm( ) ( ) ()PFT Ennm(信號(hào)相關(guān)函數(shù)的傅立葉變換，信號(hào)功率譜)(噪聲相關(guān)函數(shù)的傅立葉變換，噪聲功率譜)濾波器的單位脈沖響應(yīng)社會(huì)與經(jīng)濟(jì)領(lǐng)

22、域中數(shù)據(jù)的統(tǒng)計(jì)處理方法1. 統(tǒng)計(jì)描述方法 對(duì)所收集的數(shù)據(jù)進(jìn)行加工處理，計(jì)算綜合性的統(tǒng)計(jì)指標(biāo)，描述所研究的隨機(jī)現(xiàn)象的總體數(shù)量特征和數(shù)量關(guān)系2. 統(tǒng)計(jì)推斷方法 在對(duì)已獲取的數(shù)據(jù)進(jìn)行統(tǒng)計(jì)描述的基礎(chǔ)上，建立預(yù)測(cè)模型，對(duì)未知的或未來(lái)的數(shù)據(jù)進(jìn)行推斷。統(tǒng)計(jì)研究的作用 (1) 提供決策咨詢(xún)服務(wù)；(2)提供監(jiān)督服務(wù)；(3)提供其他形式的信息服務(wù)湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述社會(huì)與經(jīng)濟(jì)領(lǐng)域中的應(yīng)用統(tǒng)計(jì)舉例： 移動(dòng)通信公司之客戶(hù)保持 已知?dú)v史客戶(hù)(包括離網(wǎng)客戶(hù)、忠誠(chéng)客戶(hù))的基本屬性，例如：性別、年齡、職業(yè)類(lèi)型、在網(wǎng)時(shí)長(zhǎng)、發(fā)展渠道、繳費(fèi)方式、繳費(fèi)途徑、平均每次繳費(fèi)金額、平均每月話(huà)費(fèi)、所選套餐類(lèi)型、.(1

23、)如何確定影響客戶(hù)是否離網(wǎng)的最主要屬性(因素)？(2)如何根據(jù)歷史客戶(hù)數(shù)據(jù)建立預(yù)測(cè)模型，預(yù)測(cè)目前在網(wǎng)客戶(hù)的離網(wǎng)可能性？(3)對(duì)離網(wǎng)可能性比較大的客戶(hù)，應(yīng)采取何種針對(duì)性的營(yíng)銷(xiāo)或客戶(hù)保持措施，以最低的活動(dòng)成本實(shí)現(xiàn)客戶(hù)保持？湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述隨機(jī)變量及其數(shù)字特征隨機(jī)變量及其數(shù)字特征1.4湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述隨機(jī)變量隨機(jī)變量 ( (事件事件變量，物理描述變量，物理描述數(shù)學(xué)問(wèn)題數(shù)學(xué)問(wèn)題) ) 設(shè)隨機(jī)試驗(yàn)E的樣本空間 Se，如果對(duì)于每一個(gè)eS，有一個(gè)實(shí)數(shù)X(e)和它對(duì)應(yīng)，這樣就得到一個(gè)定義在S上的單值實(shí)函數(shù)X(e)，稱(chēng)X(e)為隨機(jī)變量，一般簡(jiǎn)記為X。 舉

24、例舉例1 1：拋擲硬幣：拋擲硬幣( (隨機(jī)試驗(yàn)隨機(jī)試驗(yàn)E)E) 樣本空間 S正面朝上，反面朝上 定義：如果正面朝上，則 X=0；反面朝上，則X=1 則X為隨機(jī)變量，且取值為離散的，稱(chēng)為離散隨機(jī)變量 湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述舉例舉例1(1(續(xù)續(xù)) ) P(X=0)=0.5 (X取值為0的概率); P(X=1)=0.5 舉例舉例2 2：用標(biāo)尺測(cè)量長(zhǎng)度，最小刻度單位：用標(biāo)尺測(cè)量長(zhǎng)度，最小刻度單位1mm1mm樣本空間S=長(zhǎng)度測(cè)量誤差的分布范圍 設(shè)X為測(cè)量值與實(shí)際值之間的誤差，則X為隨機(jī)變量，且取值范圍為連續(xù)區(qū)間-0.5mm,0.5mm ，稱(chēng)為連續(xù)隨機(jī)變量。 對(duì)于本例，PxXy=mi

25、ny,0.5-maxx,-0.5 (隨機(jī)變量X取值落在區(qū)間x,y)內(nèi)的概率)湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述古典概率模型古典概率模型若某一隨機(jī)事件可以分解為某些基本事件的組合,則該事件發(fā)生的概率為這些基本事件發(fā)生概率的和。舉例：設(shè)離散隨機(jī)變量X有只有3種可能的取值0,1,2;各種取值出現(xiàn)的概率為0.2,0.5,0.3;求X1.5這一事件的發(fā)生概率。1.501XXX1.5010.20.50.7P XP XP X湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述幾何概率模型幾何概率模型若向有界區(qū)域G內(nèi)投擲質(zhì)點(diǎn)，所有質(zhì)點(diǎn)落在G中任何一點(diǎn)是等可能的(均勻分布)，若g是G中一部分，則質(zhì)點(diǎn)落在g中的

26、概率：P = g的區(qū)域?qū)挾?G的區(qū)域?qū)挾?。舉例：設(shè)連續(xù)隨機(jī)變量X在-3,1區(qū)間內(nèi)均勻分布;求X0.2這一事件的發(fā)生概率。0.2 30.2gXX 0.50.2( 3)/1 ( 3)0.8P X 31GX 湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述全概率公式與貝葉斯公式舉例全概率公式與貝葉斯公式舉例設(shè)S為隨機(jī)試驗(yàn)E例如：從n個(gè)車(chē)間的產(chǎn)品中隨機(jī)地抽取1個(gè)進(jìn)行檢驗(yàn)的樣本空間例如：抽到車(chē)間1的正品，抽到車(chē)間1的劣品，抽到車(chē)間2的正品，抽到車(chē)間2的劣品，,抽到車(chē)間n的正品，抽到車(chē)間n的劣品 (2n個(gè)基本事件)設(shè)A1、A2、An為S的一個(gè)劃分例如事件Ai：“抽到車(chē)間i的產(chǎn)品”,即 ()ijAAij 空集1

27、niiAS湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述設(shè)B為任意的隨機(jī)事件例如：抽到劣品，則B發(fā)生的概率為 P(A1)、P(A2) 、P(AN)稱(chēng)為先驗(yàn)概率例如P(Ai) 為車(chē)間i的產(chǎn)品占總產(chǎn)品的比例， P(B|Ai)為似然概率(條件概率)例如：車(chē)間i的產(chǎn)品是劣品的概率11221( )(|) ()(|) ().(|) ()(|) ()nnniiiP BP B A P AP B A P AP B A P AP B A P A全概率公式 假如B已經(jīng)發(fā)生例如抽到劣品例如抽到劣品，則該事件在多大的可能性上應(yīng)由Ai負(fù)責(zé)？例如：“抽到的劣品是車(chē)間i的產(chǎn)品的概率”(與“車(chē)間i的產(chǎn)品是劣品的概率”并不等價(jià))，

28、如何計(jì)算P(Ai|B)貝葉斯公式湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述 P(Ai|B）稱(chēng)為后驗(yàn)概率事件發(fā)生后對(duì)事件各種起因的可能性的概率性推斷，P(Ai,B）稱(chēng)為聯(lián)合概率例如：既是劣品又是車(chē)間i的產(chǎn)品的概率1(,)(|) ()(|)( )(|) ()iiiinjjjP A BP B A P AP A BP BP B A P A貝葉斯公式顯然，B肯定來(lái)源于劃分中的其中某一個(gè) 例如：劣品肯定來(lái)自某個(gè)車(chē)間，劣品來(lái)自于各車(chē)間的概率和為1111(|)()(|)1(|)()niiniinijjjP BAP AP ABP BAP A湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述例題：已知某地區(qū)銷(xiāo)售的計(jì)算

29、機(jī)主板有20%來(lái)自供應(yīng)商1，50%來(lái)自供應(yīng)商2，30來(lái)自供商3。假定這三個(gè)供應(yīng)商所生產(chǎn)的主板的不合格率已知，分別為0.01、0.004和0.008，請(qǐng)計(jì)算每個(gè)供應(yīng)商應(yīng)承擔(dān)的責(zé)任(主板返修費(fèi)用)比例。 雖然不合格比例低,但產(chǎn)品量大,承擔(dān)責(zé)任不一定少湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述隨機(jī)變量的概率分布函數(shù)與概率密度分布函數(shù)隨機(jī)變量的概率分布函數(shù)與概率密度分布函數(shù)( )()XFxP Xx()0XF ( )1XF (x的單調(diào)非減函數(shù))0( )1XFx概率分布函數(shù)概率密度分布函數(shù)( )( )XXdFxfxdx( )0Xfx 關(guān)系( )( )xXXFxft dt根據(jù)幾何概型為什么是x+非負(fù)函數(shù)P

30、x1Xx2=FX(x2+)- FX(x1+)21( )xXxfx dxPx1Xx2 2121()()( )XXxXxFxFxfx dx可能存在不連續(xù)點(diǎn)湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述概率分布函數(shù)與概率密度分布函數(shù)舉例概率分布函數(shù)與概率密度分布函數(shù)舉例1 1設(shè)離散隨機(jī)變量X有3種可能的取值0,1,2;各種取值出現(xiàn)的概率為0.2,0.5,0.3;求其概率分布函數(shù)及概率密度分布函數(shù)解:根據(jù)古典概型000.201( )()0.712120.2 ( )0.5 (1)0.3 (2)XxxFxP Xxxxu xu xu x注意定義及開(kāi)閉區(qū)間單位階躍函數(shù)FX(x)x0120.20.710.50.3

31、湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述單位階躍函數(shù)單位階躍函數(shù)( (詳見(jiàn)詳見(jiàn)信號(hào)與系統(tǒng)信號(hào)與系統(tǒng)) )10( )00 xu xxu(x)x0121在x=0處不連續(xù),u(0)=1,u(0-)=0FX(x)x0120.20.710.2 ( )u x0.2 ( )0.5 (1)u xu x0.2 ( )0.5 (1)0.3 (2)u xu xu x湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述其中,()為單位沖激函數(shù),滿(mǎn)足0()xaxaxa()1aaxa dx在信號(hào)與系統(tǒng)理論中,采用單位沖激函數(shù)解決不可微問(wèn)題( )( )0.2 ( )0.5 (1)0.3 (2)XXdFxfxxxxdxfX(x)

32、x120.20.50.30其他任何位置的導(dǎo)數(shù)為零，x=0,1,2三處的導(dǎo)數(shù)為無(wú)窮大(不同的無(wú)窮大)()0aa()0aa對(duì)無(wú)窮大的約束沖激強(qiáng)度為1湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述單位沖激函數(shù)與單位階躍函數(shù)的關(guān)系00( ) ( )10 xxt dtu xx( )( )du xxdxu(x)x01(x)x100000( )( )( )xx dxx dxx dx0 x 100()/()du xadxxa()()xta dtu xa兩個(gè)1的區(qū)別偶函數(shù)湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述舉例：利用沖激函數(shù)的積分性質(zhì)求概率分布函數(shù)( )0.2 ( )0.5 (1)0.3 (2)Xfxxx

33、xfX(x)x120.20.50.30(1)0 x ( )0Xfx ( )( )0 xXXFxft dt(2)01x( )Xfx00( )( )0.2 ( )0.2xXXFxft dtt dt在(,)x內(nèi)的x=0處有一個(gè)沖激其他位置處的積分和為零(3)12x( )Xfx在(,)x內(nèi)的x=0,1處有2個(gè)沖激+號(hào)可省去湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述0101( )( )0.2 ( )0.5 (1)0.7xXXFxft dtt dttdt(4)2x ( )Xfx在(,)x內(nèi)的x=0,1,2處有3個(gè)沖激010122( )( )0.2 ( )0.5 (1) 0.3 (3)1xXXFxft d

34、tt dttdttdt沖激強(qiáng)度分別為0.2,0.5000.201( )()0.71212XxxFxP Xxxx湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述推廣到離散隨機(jī)變量的更一般情況推廣到離散隨機(jī)變量的更一般情況設(shè)離散隨機(jī)變量X有I種可能的取值x1,x2,xI;其中第i(i=1,2,I)取值出現(xiàn)的概率為pi;則其概率分布函數(shù)及概率密度分布函數(shù)分別為( )()()iXiiixxiFxP XxP Xxpu xx( )( )()XXiiidFxfxpxxdx參見(jiàn)前面FX(x)圖根據(jù)古典概型附錄：沖激函數(shù)積分性質(zhì)：設(shè)g(x)在x0處連續(xù)，則000000000( ) ()( ) ()()()()xxx

35、xg ttx dtg ttx dtg xtx dtg x湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述概率分布函數(shù)與概率密度分布函數(shù)舉例概率分布函數(shù)與概率密度分布函數(shù)舉例2 2設(shè)連續(xù)隨機(jī)變量在區(qū)間a,b上服從均勻分布;求其概率分布函數(shù)及概率密度分布函數(shù)解:根據(jù)幾何概型( )()0 () / ()1XFxP XxxaxabaaxbbxFX(x)xab1( )( ) /0 1 / ()0XXfxdfxdxxabaaxbbxabfX(x)x1/(b-a)湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述多維連續(xù)隨機(jī)變量的聯(lián)合概率分布函數(shù)與聯(lián)合多維連續(xù)隨機(jī)變量的聯(lián)合概率分布函數(shù)與聯(lián)合概率密度分布函數(shù)概率密度分

36、布函數(shù)設(shè)X1、X2、XN為不同的隨機(jī)變量，則其聯(lián)合概率分布函數(shù)以及概率密度分布函數(shù)定義為12.121122( ,.,)(,.,)nX XXnnnFx xxP Xx XxXx多個(gè)隨機(jī)事件同時(shí)發(fā)生的概率1212.12.1212( ,.,)( ,.,).nnnX XXnX XXnnFx xxfx xxx xx 121212.12.1221( ,.,).( ,.,).nnnxxxX XXnX XXnnFx xxfy yy dydy dy 省去“+”湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述多維連續(xù)隨機(jī)變量分布函數(shù)的性質(zhì)多維連續(xù)隨機(jī)變量分布函數(shù)的性質(zhì)121212.12.0(,.,)( ,.,) ( ,

37、.,)1nnnX XXX XXnX XXFFx xxF (練習(xí)：證明其為所有變量的單調(diào)非減函數(shù))事件112211,.,nnXx XxXx可以分解為112211,.,nnXx XxXx(,)nX 情況下的所有事件之和，等價(jià)于事件112211,.,nnnXx XxXxX 下面考察如何由高維分布得到低維分布。湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述121121.121.121( ,.,)( ,.,)nnnX XXnX XXXnnnfx xxfx xxx dx1211212112.121.121.121121( ,.,)( ,.,).(,.,).nnnnX XXnX XXnxxxX XXnnnnF

38、x xxFx xxfy yyy dy dydy dy 邊緣分布121.121111( ).( ,.,).innXiX XXXnnniifxfx xxx dxdx dxdx 上式兩邊對(duì)x1,x2,xn-1求偏導(dǎo)，再作變量置換nnyx采用遞推方法不難得到：根據(jù)古典概型得到：湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述隨機(jī)變量之間相互獨(dú)立的定義隨機(jī)變量之間相互獨(dú)立的定義如果1212.,1212(,.,)()().()nnX XXnXXXnFx xxFx FxFx或1212.1212( ,.,)()().()nnX XXnXXXnfx xxfxfxfx則這n個(gè)隨機(jī)變量相互獨(dú)立離散隨機(jī)變量的相互獨(dú)立，要

39、求對(duì)所有可能組合(x1,x2,xn)11221122(,.,)() (). ()nnnnP Xx XxXxP Xx P XxP Xx對(duì)于離散型隨機(jī)變量，聯(lián)合概率分布或分布律定義為1122(,.,)nnP Xx XxXx湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述隨機(jī)變量的數(shù)字特征隨機(jī)變量的數(shù)字特征(1)均值(數(shù)學(xué)期望)( )XmE Xxf x dx1IXiiimE Xp x(連續(xù)隨機(jī)變量)(有I種取值的離散隨機(jī)變量)(2)方差222() ()( )XXXVar XE Xmxmf x dx2221() ()IXXiiXiVar XE Xmp xm(連續(xù))(離散)Var X或2X湖南大學(xué)教學(xué)課件：

40、應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述(3)k階原點(diǎn)矩,( )kkX kmE Xx f x dx,1IkkX kiiimE Xp x(連續(xù)隨機(jī)變量)(離散隨機(jī)變量)(4)k階中心矩,() ()( )kkX kXXE Xmxmf x dx2,1() ()IkX kXiiXiE Xmp xm(連續(xù)隨機(jī)變量)(離散隨機(jī)變量)1階原點(diǎn)矩即為均值，二階中心矩即為方差；二階原點(diǎn)矩稱(chēng)為均方值，滿(mǎn)足222XXE Xm湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述(5)隨機(jī)變量函數(shù)的數(shù)學(xué)期望 ()( ) ( )E g Xg x f x dx1 ()( )IiiiE g Xg x p(連續(xù)隨機(jī)變量)(離散隨機(jī)變量)(6)兩個(gè)隨

41、機(jī)變量之間的相關(guān)函數(shù)( , )XYXYRE XYxyfx y dydx (連續(xù)隨機(jī)變量)(離散隨機(jī)變量)11(,)IJXYijijijRE XYx y P Xx Yy22222222() 22XXXXXXXE XmE Xm XmE Xm E XmE Xm附錄(證)：湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述(離散隨機(jī)變量)11()()(,)()()XYXYIJijiXjYijKE XmXmP Xx Yyxmym(9)多維隨機(jī)變量函數(shù)的數(shù)學(xué)期望(8)兩個(gè)隨機(jī)變量之間的相關(guān)系數(shù)或標(biāo)準(zhǔn)協(xié)方差/()XYXYXYrK ()()( , )XYXYxmymfx y dydx (連續(xù)隨機(jī)變量)(7)兩個(gè)隨機(jī)

42、變量之間的協(xié)方差函數(shù), ()()XYXYXYKCov X YE XmYmE XYm m對(duì)于零均值變量，協(xié)方差函數(shù)與相關(guān)函數(shù)等價(jià)顯然XXKVar X湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述隨機(jī)變量之間不相關(guān)及正交的定義隨機(jī)變量之間不相關(guān)及正交的定義()()0XYXYKE XmYm若則稱(chēng)兩個(gè)隨機(jī)變量X、Y互不相關(guān)0XYRE XY若則稱(chēng)兩個(gè)隨機(jī)變量X、Y相互正交在零均值情況下，正交與不相關(guān)等價(jià)XYXYXYXYKRm mR121212.1221 (,.,) .( ,.,)( ,.,).nnnX XXnnE g X XXg x xx fx xx dxdx dx 湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程

43、 概述隨機(jī)變量數(shù)字特征的性質(zhì)22| XYRE XE Y2() 0E XcY22220E XcE XYc E Y以c為變量的拋物線(xiàn)在c軸上方的充要條件222224 4 0 | XYE XYE YE XRE XE YA根據(jù) 同理可得22|XYXYXYK | |/()| 1XYXYXYrK B:對(duì)稱(chēng)性XYYXRRXYYXKKXYYXrr2( ) 0EXE Xc YE Y附錄證：根據(jù)定義以及乘法的交換率(練習(xí))為什么？湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述數(shù)學(xué)期望方差協(xié)方差函數(shù)的運(yùn)算性質(zhì)()( ) ( )( )XXXE aXbaxb fx dxaxfx dxbfx dxaE Xb2222() (

44、) Var aXbEaXbE aXba EXE Xa Var X1122111111111212,()()()( ), Cov a Xb a YbEa XbE a Xba XbE a Xba a EXE XYE Ya a Cov X YABC常數(shù)b只影響均值，不影響方差湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述121212.122111.12211.1221.()(,.,).()(,.,). .(,.,).nnnnniiiiX XXnniiniiX XXnniX XXnnEa Xba xb fx xxdxdx dxa xfx xxdxdx dxbfx xx dxdx dx 11 nniiii

45、iiE a Xba E Xb附錄:1212.1221.12111 .()(,.,).().(,.,).()() ()nniiX XXnniX XXnniiiiXiiig x fx xxdxdx dxg xfx xx dxdxdxdxdxg xfx dxE g X 概率密度函數(shù)的全積分為1邊緣分布湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述21112111111()()()()()nnniiiiiiiiinnniiiiiijjjiijnnijiijjijnijjVara XbEa XbEa XbEa XE XEa XE XaXE XEaaXE XXE Xaa E 111()()ijnnniijj

46、ijX XiijXE XXE Xaa K利用隨機(jī)變量和的數(shù)學(xué)期望性質(zhì)利用隨機(jī)變量和的數(shù)學(xué)期望性質(zhì)(將整個(gè)函數(shù)作為新的隨機(jī)變量)當(dāng)各隨機(jī)變量不相關(guān)時(shí)211nniiiiiiVaraXba Var X0 ()ijX XKij湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述(10)多維隨機(jī)矢量的均值矢量12 . TnXX XX定義由n個(gè)隨機(jī)變量構(gòu)成的矢量則其均值矢量定義為12 . TnE XE XE XE X各隨機(jī)變量的均值所構(gòu)成的矢量(10)多維隨機(jī)變量的協(xié)方差矩陣(n行n列對(duì)稱(chēng)矩陣)()() TC XE XE XXE X協(xié)方差矩陣的第i行第j列元素值為()()ijijiijjX XCE XE XXE

47、XK矩陣對(duì)稱(chēng)性Cij=Cji列矢量行矢量湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述附錄：附錄：( (證明證明) )若兩個(gè)變量相互獨(dú)立，則必然不相關(guān)若兩個(gè)變量相互獨(dú)立，則必然不相關(guān)( (反之不一定反之不一定) )證：設(shè)X、Y兩個(gè)隨機(jī)變量相互獨(dú)立，即( , )( )( )XYXYfx yfx fy()()XYXYKE XmYm,()()( , )()()( )( )()( )()( )( )( )( )( )0XYX YXYXYXXYYXXXYYYXXYYxmymfx y dydxxmymfx fy dydxxmfx dxymfy dyxfx dxmfx dxyfy dymfy dymmmm 則

48、：湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述正態(tài)分布以及多維聯(lián)合正態(tài)分布的定義正態(tài)分布以及多維聯(lián)合正態(tài)分布的定義22()21( )2x uXfxe設(shè)X為隨機(jī)變量，如果其概率密度函數(shù)為則稱(chēng)X服從均值為u，方差為2的正態(tài)分布或高斯分布容易證明(參見(jiàn)后面附錄)：22()21( )12x uXFedx 概率密度函數(shù)的積分性質(zhì)22()212x uXmE Xxedxu湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述22()222221() ()2x uXXE Xmxuedx當(dāng)u=0, 2=1時(shí)，此時(shí)的正態(tài)分布稱(chēng)為標(biāo)準(zhǔn)正態(tài)分布x0fX(x)mX=uux=u+ 1 ( 2)x=u- 最大值點(diǎn)(均值u處)、最大值

49、、兩個(gè)拐點(diǎn)、對(duì)稱(chēng)性、漸近線(xiàn)平移參數(shù)u，形狀參數(shù)(方差的性質(zhì)？)xufX(x) =1 =1.5 =3湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述附錄附錄22222222202xxyredxedxdyerdrd 22112xedx222xedx直角坐標(biāo)系內(nèi)的積分轉(zhuǎn)化為極坐標(biāo)系內(nèi)的積分練習(xí)：在此式的基礎(chǔ)上運(yùn)用常規(guī)的積分方法證明前面的3個(gè)式子湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述如果這n個(gè)隨機(jī)變量的多維聯(lián)合概率密度分布函數(shù)滿(mǎn)足12 . TnXX XX下面介紹多維聯(lián)合正態(tài)分布。定義n維隨機(jī)矢量12 . Tnxx xx定義隨機(jī)變量取值所構(gòu)成的矢量12.121122( ,.,)( )11exp()()

50、2(2 ) |nX XXnXTnfx xxfxxmCxmCC：nn的正定方陣、對(duì)角線(xiàn)元素值大于0；|：行列式值n維常數(shù)列維常數(shù)列矢量矢量湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述則稱(chēng)這n個(gè)隨機(jī)變量服從聯(lián)合正態(tài)分布，且均值矢量以及協(xié)方差矩陣滿(mǎn)足1212 , ,., ,.,TTnnE XE XE XE Xmm mm()() TC XE XE XXE XC()()ijX XiijjijKE XE XXE XC容易證明(見(jiàn)第4章ppt附錄)：12.1211112.( ,.,).()1( )exp22niX XXnnniiiiXiiiiifx xx dx dxdx dxdxxmfxCC 對(duì)除xi外的所

51、有變量積分(n-1重積分)矩陣的數(shù)學(xué)期望的概念2iiiiiX XXCK湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述結(jié)論結(jié)論1 1：若多個(gè)隨機(jī)變量服從聯(lián)合正態(tài)分布，則其：若多個(gè)隨機(jī)變量服從聯(lián)合正態(tài)分布，則其中的任意變量服從正態(tài)分布中的任意變量服從正態(tài)分布( (反之則不一定反之則不一定) )進(jìn)一步,若C為對(duì)角矩陣，即()()0 ()ijijX XiijjCKE XE XXE Xij111212122212.nnnnnnX XX XX XX XX XX XX XX XX XKKKKKKCKKK對(duì)稱(chēng)矩陣于是可得到如下結(jié)論:湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述11220.00.000.nnCCC

52、2iiiiiX XXCK1122|.nnCC CC111112210.00.000.nnCCCC1111112222112210.00.0,.,00.nnnnnnxmCxmCxm xmxmxmC1()()TxmCxm湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述12121.121222121122212111( ,.,)exp()()2(2 ) |()1exp2(2 ).()1exp( )().()22nnTX XXnnniiniiinnniiXXXniiiiifx xxxm CxmCxmCC CCxmfx fxfxCC結(jié)論結(jié)論2 2：若多個(gè)隨機(jī)變量服從聯(lián)合正態(tài)分布，且各：若多個(gè)隨機(jī)變量服從聯(lián)合

53、正態(tài)分布，且各變量互不相關(guān)，則這些變量相互獨(dú)立變量互不相關(guān)，則這些變量相互獨(dú)立其他分布不一定滿(mǎn)足此性質(zhì)21()niiiiixmC則多維聯(lián)合概率密度分布函數(shù)為湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述結(jié)論結(jié)論2 2的推論：若多個(gè)隨機(jī)變量各自服從正態(tài)分布，且相的推論：若多個(gè)隨機(jī)變量各自服從正態(tài)分布，且相互獨(dú)立互獨(dú)立( (充分條件，并非必要條件充分條件，并非必要條件) ) ，則其聯(lián)合分布為聯(lián)，則其聯(lián)合分布為聯(lián)合正態(tài)分布。二維情況的充分必要條件為：合正態(tài)分布。二維情況的充分必要條件為：容易證明(練習(xí))：若隨機(jī)變量X、Y分別服從均值、方差分別為(mX,X2)、(mY,Y2)的正態(tài)分布，且在X=x的情況

54、下，Y的條件概率密度分布為如下的正態(tài)分布2|2222()1( | )exp2(1)2 (1) (| | 1)YYXXY XYYrymx mfy xrrr則X、Y服從聯(lián)合正態(tài)分布，且r為兩變量的相關(guān)系數(shù),即湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述|2222221222222( ,)(|)( )()11exp2(1)212 ()()() 11exp()2(2) XYY XXYYXYYXXXYXYTXYXYXYXYXYfx yfyx fxymrrr ymxmxmmymxrrr 12()YXXYXmymxr XYXYrK /()XYXYXYrKr (相關(guān)系數(shù))湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程

55、 概述|()YYXXE Y Xxmrxm222|(1) YYVar Y XxrVar Y2|2222()1( | )exp2(1)2 (1)XxYYX YXXrx mymfx yrr|()XXYYE X Yymrym222|(1)XXVar X YyrVar X隨機(jī)變量函數(shù)的概率密度分布隨機(jī)變量函數(shù)的概率密度分布1.5湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述1. 單調(diào)單變量函數(shù)的概率密度分布 設(shè)隨機(jī)變量X和Y存在單調(diào)函數(shù)關(guān)系Y=g(X)，存在唯一反函數(shù)X=h(Y)。如果Y在任意小區(qū)間(y,y+dy)內(nèi)變化時(shí)，X在(h(y), h(y)+ dy)區(qū)間內(nèi)變化，這兩個(gè)事件的概率相等，即( )h

56、y( )| ( )|( )|YXfydyfh yh y dy(dy、dx可能為負(fù),但區(qū)間的長(zhǎng)度是正的,取絕對(duì)值),得到( ) ( )|( )|YXfyfh yh y( ,)x xdx( )|( )|YXfydyfxdx湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述YaXb22()1( )exp22XXXXxmfx證(附錄)：設(shè)2222211( ) ( )|( )|exp |22()1exp22|XYXXXXXXybmafyfh yh yayambaa性質(zhì)：若性質(zhì)：若X服從正態(tài)分布，服從正態(tài)分布，Y是是X的線(xiàn)性函數(shù)，則的線(xiàn)性函數(shù)，則Y也服從正態(tài)分布也服從正態(tài)分布則有：( )()/Xh YYba(

57、)1/h Ya湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述YaXb22()1( )exp22XXXXxmfx附錄:實(shí)際應(yīng)用中，可利用上述性質(zhì)以及概率論中數(shù)學(xué)期望與方差的性質(zhì)，直接寫(xiě)出Y的概率密度分布函數(shù)222()1 exp22|XYXXyambfyaa則有：YXmE aXbamb2222YXVar aXbVar aXa Var Xa數(shù)學(xué)期望的性質(zhì)方差的性質(zhì)湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述2. 多值單變量函數(shù)的概率密度分布 設(shè)隨機(jī)變量X和Y存在函數(shù)關(guān)系Y=g(X)，除個(gè)別的Y值外，存在多個(gè)反函數(shù)(以2個(gè)為例)X=h1(Y)、X=h2(Y)。如果Y在任意小區(qū)間(y,y+dy)內(nèi)變化時(shí)，

58、則X 可以在兩個(gè)區(qū)間(h1(y),h1(y)+ dy)、(h2(y),h2(y)+ dy)區(qū)間內(nèi)變化，這兩個(gè)事件的概率相等，即1122( )| ( )|( )|( )|( )|YXXfydyfh yhy dyfh yhy dy得到:1122( ) ( )|( )|( )|( )|YXXfyfh yhyfhyhy1( )hy2( )hy湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述隨機(jī)變量Y和X間的關(guān)系為Y=sin(X)，X在區(qū)間 -X內(nèi)服從均勻分布。求隨機(jī)變量Y的概率密度多值函數(shù)概率密度分布函數(shù)舉例多值函數(shù)概率密度分布函數(shù)舉例解：-1Y1，對(duì)于任意一個(gè)Y值(0除外)，有兩個(gè)X值與之對(duì)應(yīng)，有11(

59、 )arcsin( )Xh YY21( )sgn( )arcsin( )Xh YYY121( )1h Yy221( )1hyy 111 ( ) ( )2XXfh yfh y112221( ) ( )|( )|( )|( )|1YXXfyfh yhyfhyhyy-YX值域范圍?( 11)y 湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述3. 多變量函數(shù)的概率密度分布1112221212(,.,)(,.,)(,.,)nnnnnYg XXXYgXXXYgXXX如果存在唯一的反函數(shù)1112221212( ,.,)( ,.,)( ,.,)nnnnnXh Y YYXh Y YYXh Y YY對(duì)于多維隨機(jī)變量

60、的函數(shù)湖南大學(xué)教學(xué)課件：應(yīng)用統(tǒng)計(jì)學(xué)與隨機(jī)過(guò)程 概述根據(jù)高等數(shù)學(xué)：其中 表示矩陣J的行列式值的絕對(duì)值，J為如下的矩陣(雅可比矩陣)1121121121221221221212121212122(,.,)(,.,)(,.,).(,.,)(,.,)(,.,).(,.,)(,.,)(,.,).nnnnnnnnnnnnnnh yyyh yyyh yyyyyyhyyyhyyyhyyyyyyJhyyyhyyyhyyyyyy|J1212.|.nndx dxdxJdy dydy1 212.12.11221212( ,.,) (,.,),(,.,), .,(,.,) |nnYYYnX XXnnnnfy yyfh