第一章隨機過程

第一章隨機過程課件第1頁，共98頁，2023年，2月20日，星期三參考書：1.應用隨機過程，林元烈編著，清華大學出版社；2.隨機系統(tǒng)分析引論，盛昭瀚，東南大學出版社；3.隨機過程，伊曼紐爾、帕爾遜著，鄧永錄、楊振業(yè)譯，高等教育出版社；4.隨機過程，SheldonM[1].Ross著。第2頁，共98頁，2023年，2月20日，星期三第一章預備知識簡要回顧一下概率論中與本課程有關的基本概念：隨機試驗、樣本空間、事件、概率、隨機變量、概率分布、數(shù)字特征等。第3頁，共98頁，2023年，2月20日，星期三一、基本概念試驗結果事先不能準確預言，三個特征:可以在相同條件下重復進行；每次試驗結果不止一個，可預先知道試驗所有可能結果；每次試驗前不能確定那個結果會出現(xiàn)。樣本空間隨機試驗所有可能結果組成的集合，記為Ω隨機事件樣本空間Ω的子集A稱為隨機事件，用A、B、C表示§1.1概率空間隨機試驗第4頁，共98頁，2023年，2月20日，星期三注：由于事件是集合，故集合的運算（并、交、差、上極限、下極限、極限等）都適用于事件。稱為必然事件，W樣本空間也是一個事件，W空集稱為不可能事件。F注：所謂某個事件在試驗中是否出現(xiàn)，當且僅當該事件所包含的某個樣本點是否出現(xiàn)，因此一個事件實際上對應于的一個確定的子集。事件的概率論運算Ω子集的集合論運算。第5頁，共98頁，2023年，2月20日，星期三

在實際問題中，并不是對所有的事件樣本空間（Ω的所有子集）都感興趣，而是關心某些事件（Ω的某些子集）及其發(fā)生的可能性大?。ǜ怕剩?。為了數(shù)學上處理方便，我們常要求這些子集組成的類具有一些基本性質（即對事件需加一些約束）

代數(shù)（事件族）二、第6頁，共98頁，2023年，2月20日，星期三定義1.1設樣本空間的某些子集構成的集合記為F，如果F滿足下列性質：F中的元素稱為事件。則稱F為代數(shù)（Bord事件域），稱為可測空間第7頁，共98頁，2023年，2月20日，星期三例如，包含A的最大的代數(shù)是的一切子集組成的集類對于某個事件A包含它的代數(shù)不是唯一的而包含A的最小的代數(shù)則是：注：F（Ω）表示由Ω的子集全體構成的集合類，顯然滿足上述定義的（1）~（3），但這個族常常顯得太大以致對于某些樣本空間而言不可以在這樣的族上定義滿足三條公理的概率函數(shù)。為了建立概率的數(shù)學理論通常只需把事件族取為具有定義（１）～（３）中并包含了我們感興趣的所有集合的的最小子集族。第8頁，共98頁，2023年，2月20日，星期三三、概率的公理化定義為了完成隨機現(xiàn)象的數(shù)學描述，還要規(guī)定隨機事件族Ｆ上的概率函數(shù)即對Ｆ中的每個事件Ａ要定義一個稱作為的概率的數(shù)，作為事件A的函數(shù)必須假定滿足三條公理。非負性；規(guī)范性；兩兩互不相容，即有則稱P為（Ω，F(xiàn)）上的概率，（Ω，F(xiàn)，P）稱為概率空間，P（A）為事件A的概率。定義1.2：設（Ω，P）是可測空間是定義在F上的實值函數(shù)，如果滿足第9頁，共98頁，2023年，2月20日，星期三由此定義出發(fā)，可推出概率的其它一些性質：即概率具有單調性；新事件：連續(xù)性定理第10頁，共98頁，2023年，2月20日，星期三條件概率在事件B已發(fā)生這一條件下，事件A發(fā)生的概率。全概率公式若有N個互斥事件Bn（n=1,2,…,N），它的并集等于整個樣本空間，則四、幾個重要公式加法公式第11頁，共98頁，2023年，2月20日，星期三設事件A1，A2，…，An構成一個完備事件組，概率P(Ai)>0,i=1,2,……,n,對于任何一個事件B，若P(B)>0,有貝葉斯公式獨立事件第12頁，共98頁，2023年，2月20日，星期三§1.2隨機變量及其分布一、一維隨機變量及其分布函數(shù)由于數(shù)學分析不能直接利用來研究集合函數(shù)，這樣影響對隨機現(xiàn)象的研究。解決這個問題的方法，主要是設法在集合函數(shù)與數(shù)學分析中所研究的點函數(shù)間建立某種聯(lián)系，從而能用數(shù)學分析去研究隨機現(xiàn)象。第13頁，共98頁，2023年，2月20日，星期三X(e)就是一個函數(shù)，它把樣本點映射到實數(shù)軸上，隨機變量就是從原樣本空間Ω到新樣本空間的一種映射，我們通常把這樣一種對應關系稱之為在概率空間上的一個隨機變量。下面我們給出隨機變量的數(shù)學定義。定義1.4：設（Ω，F(xiàn)，P）是概率空間，X=X(e)是定義在Ω上的實函數(shù)，如果對任意實數(shù)x，{e:X(e)≤x}∈F，則稱X(e)是F上的隨機變量。第14頁，共98頁，2023年，2月20日，星期三事件隨機變量離散型隨機變量：只取有限個數(shù)值或可列無窮多個值。連續(xù)型隨機變量：從原樣本空間到新樣本空間的映射是某一個范圍，是一段（或幾段）實線（也可能是整個坐標軸），隨機變量可以取值于某一區(qū)間中的任一數(shù)。第15頁，共98頁，2023年，2月20日，星期三分布函數(shù)（一個描述隨機變量取值的概率分布情況的統(tǒng)一方法）第16頁，共98頁，2023年，2月20日，星期三離散型隨機變量X的概率分布用分布律描述：第17頁，共98頁，2023年，2月20日，星期三離散型隨機變量的概率分布用分布列描述0－1分布二項分布泊松分布連續(xù)型隨機變量的概率分布用概率密度描述均勻分布正態(tài)分布指數(shù)分布第18頁，共98頁，2023年，2月20日，星期三隨機變量函數(shù)的分布在給定某任意的隨機變量X，以及它的概率分布函數(shù)FX(x)，希望進一步求出給定的隨機變量的某些可測函數(shù)（如Y=g(X)）的概率分布函數(shù)。非線性放大器YXY的概率分布函數(shù)公式為如果上式右端概率的導數(shù)對于y處處存在，那么這個導數(shù)就給出了隨機變量Y的概率密度第19頁，共98頁，2023年，2月20日，星期三二、n維隨機變量及其分布函數(shù)定義1.5設（Ω，F(xiàn)，P）是概率空間，X=X(e)＝（X1(e),…,Xn(e)）是定義在Ω上的n維空間Rn中取值的向量函數(shù)。如果對于任意x=(x1,…,xn)∈Rn，{e:X1(e)≤x1,…,Xn(e)≤xn}∈F，則稱X=X(e)為n維隨機變量。稱為X=(X1,X2,…,Xn)的聯(lián)合分布函數(shù)第20頁，共98頁，2023年，2月20日，星期三第21頁，共98頁，2023年，2月20日，星期三三、邊緣分布若二維聯(lián)合分布函數(shù)中有一個變元趨于無窮，則其極限函數(shù)便是一維分布函數(shù)，對于這種特殊性質，我們稱其為邊緣分布。對于任意兩個隨機變量X,Y，其聯(lián)合分布函數(shù)為：則：分別稱FX(x)和FY(y)為關于X和關于Y的邊緣分布函數(shù)。第22頁，共98頁，2023年，2月20日，星期三離散型隨機變量（X，Y）邊緣分布律計算如下連續(xù)型隨機變量（X，Y）邊緣概率密度計算如下第23頁，共98頁，2023年，2月20日，星期三相互獨立的隨機變量設X，Y是兩個隨機變量，若對任意實數(shù)x，y有則稱X，Y為相互獨立的隨機變量。若X，Y為相互獨立隨機變量，則有聯(lián)合密度邊緣密度邊緣密度聯(lián)合密度第24頁，共98頁，2023年，2月20日，星期三四、條件分布條件概率條件分布函數(shù)兩邊對x微分第25頁，共98頁，2023年，2月20日，星期三§1.3隨機變量的數(shù)字特征隨機變量的數(shù)學期望隨機變量函數(shù)的期望值方差協(xié)方差相關系數(shù)獨立與不相關第26頁，共98頁，2023年，2月20日，星期三一、斯蒂爾吉斯積分（補充）1.有限區(qū)間上的斯蒂爾吉斯積分第27頁，共98頁，2023年，2月20日，星期三第28頁，共98頁，2023年，2月20日，星期三2.無限區(qū)間上的S積分第29頁，共98頁，2023年，2月20日，星期三第30頁，共98頁，2023年，2月20日，星期三左邊的積分稱為斯蒂吉斯積分二、數(shù)學期望第31頁，共98頁，2023年，2月20日，星期三隨機變量函數(shù)的期望值已知隨機變量X的數(shù)學期望值，求隨機變量函數(shù)Y=g(X)的數(shù)學期望，對于多維隨機變量第32頁，共98頁，2023年，2月20日，星期三設X1,X2,…,Xn為隨機變量，求隨機變量函數(shù)Y=a1X1+a2X2+…+anXn的數(shù)學期望。已知隨機變量X1和X2，求隨機變量函數(shù)Y＝aX1+bX2的數(shù)學期望第33頁，共98頁，2023年，2月20日，星期三加權和的期望等于加權期望的和求數(shù)學期望是線性運算數(shù)學期望的線性運算不受獨立條件限制已知隨機變量X1和X2，求隨機變量函數(shù)Y＝g1(X1)g2(X2)的數(shù)學期望第34頁，共98頁，2023年，2月20日，星期三假設兩個隨機變量X1和X2相互獨立，則有因此，有第35頁，共98頁，2023年，2月20日，星期三三、方差（隨機變量取值的離散程度）第36頁，共98頁，2023年，2月20日，星期三四、協(xié)差與相關系數(shù)引入一個描述兩個隨機變量相關程度的系數(shù)ρXY稱為歸一化的協(xié)方差系數(shù)或相關系數(shù)。若ρXY＝0，則稱隨機變量X和Y不相關。第37頁，共98頁，2023年，2月20日，星期三五、K階原點矩、k階中心矩隨機變量X，若E[|X|k]<∞，稱E[Xk]為k階原點矩。離散隨機變量連續(xù)隨機變量又若E[X]存在，且E[|X-E[X]|k]<∞，稱為X的k階中心矩。離散隨機變量連續(xù)隨機變量第38頁，共98頁，2023年，2月20日，星期三一階原點矩就是隨機變量的數(shù)學期望，數(shù)學期望大致的描述了概率分布的中心。二階中心矩就是隨機變量的方差，方差反映隨機變量取值的離散程度。0－1分布泊松分布正態(tài)分布數(shù)學期望和方差（見表1－1）第39頁，共98頁，2023年，2月20日，星期三中心化的兩個隨機變量X-E[X]，Y-E[Y]的互相關矩稱為隨機變量X和Y的協(xié)方差，協(xié)方差是描述隨機現(xiàn)象中，隨機變量X和Y概率相關的程度。第40頁，共98頁，2023年，2月20日，星期三統(tǒng)計獨立不相關統(tǒng)計獨立不相關設Z是一個隨機變量，具有均勻概率密度令X=sinZ，Y=cosZ，求隨機變量X和Y是否相關，是否獨立？第41頁，共98頁，2023年，2月20日，星期三§1.4特征函數(shù)、母函數(shù)數(shù)學特征只反映了概率分布的某些側面，一般并不能通過它們來確定分布函數(shù)，這里將要引進的特征函數(shù)，既能完全決定分布函數(shù)而又具有良好的分析性質。一、復隨機變量對復隨機變量也可以平行于實隨機變量建立起一系列結果。第42頁，共98頁，2023年，2月20日，星期三二、特征函數(shù)第43頁，共98頁，2023年，2月20日，星期三對離散型隨機變量，若其分布律為第44頁，共98頁，2023年，2月20日，星期三三、特征函數(shù)的性質第45頁，共98頁，2023年，2月20日，星期三第46頁，共98頁，2023年，2月20日，星期三因而可作下理積分號下的微分第47頁，共98頁，2023年，2月20日，星期三此性質使我們可以方便地求得隨機變量的各階矩第48頁，共98頁，2023年，2月20日，星期三第49頁，共98頁，2023年，2月20日，星期三（7）特征函數(shù)與分布函數(shù)是相互唯一確定的證略第50頁，共98頁，2023年，2月20日，星期三唯一性定理：分布函數(shù)由其特征函數(shù)唯一決定而分布函數(shù)由其連續(xù)點上的值唯一決定不連續(xù)點利用右連續(xù)性第51頁，共98頁，2023年，2月20日，星期三即在特征函數(shù)絕對可積的條件下，概率密度與特征函數(shù)構成一對付氏變換。第52頁，共98頁，2023年，2月20日，星期三因此用控制收斂定理知（極限號與積分號交換的勒貝格控制收斂定理）第53頁，共98頁，2023年，2月20日，星期三第54頁，共98頁，2023年，2月20日，星期三四、多元特征函數(shù)第55頁，共98頁，2023年，2月20日，星期三第56頁，共98頁，2023年，2月20日，星期三第57頁，共98頁，2023年，2月20日，星期三第58頁，共98頁，2023年，2月20日，星期三第59頁，共98頁，2023年，2月20日，星期三第60頁，共98頁，2023年，2月20日，星期三第61頁，共98頁，2023年，2月20日，星期三第62頁，共98頁，2023年，2月20日，星期三第63頁，共98頁，2023年，2月20日，星期三第64頁，共98頁，2023年，2月20日，星期三利用特征函數(shù)與分布一一對應的唯一性得第65頁，共98頁，2023年，2月20日，星期三注：求隨機變量的特征函數(shù)的方法（3）用Fourier變換去求解。（1）一般定義求解；（2）對一些特殊分布可化為微分方程求解；（4）利用特征函數(shù)求多個獨立隨機變量和的分布。要求：（1）會求一些常用的隨機變量的特征函數(shù)；（2）記住一些重要分布的特征函數(shù)，如正態(tài)分布；（3）利用特征函數(shù)求相應隨機變量的各階矩；第66頁，共98頁，2023年，2月20日，星期三五、母函數(shù)對于整值隨機變量，有一種處理方法很便于應用，這就是母函數(shù)法。第67頁，共98頁，2023年，2月20日，星期三第68頁，共98頁，2023年，2月20日，星期三例、求二項分布、泊松分布、幾何分布的母函數(shù)第69頁，共98頁，2023年，2月20日，星期三（1）唯一性，非負整數(shù)值隨機變量的分布列由其母函數(shù)唯一確定六、母函數(shù)的性質第70頁，共98頁，2023年，2月20日，星期三第71頁，共98頁，2023年，2月20日，星期三第72頁，共98頁，2023年，2月20日，星期三3、獨立隨機變量之和的母函數(shù)等于母函數(shù)之積第73頁，共98頁，2023年，2月20日，星期三第74頁，共98頁，2023年，2月20日，星期三(4)隨機個隨機變量之和的母函數(shù)第75頁，共98頁，2023年，2月20日，星期三第76頁，共98頁，2023年，2月20日，星期三第77頁，共98頁，2023年，2月20日，星期三一、密度函數(shù)與特征函數(shù)第78頁，共98頁，2023年，2月20日，星期三第79頁，共98頁，2023年，2月20