概率論與數(shù)理統(tǒng)計總結

1、第一章 隨機事件與概率第一節(jié) 隨機事件及其運算1、 隨機現(xiàn)象：在一定條件下，并不總是出現(xiàn)相同結果的現(xiàn)象2、 樣本空間：隨機現(xiàn)象的一切可能基本結果組成的集合，記為=,其中 表示基本結果，又稱為樣本點。3、 隨機事件：隨機現(xiàn)象的某些樣本點組成的集合常用大寫字母A、B、C等表示，表示必然事件，表示不可能事件。4、 隨機變量：用來表示隨機現(xiàn)象結果的變量，常用大寫字母X、Y、Z等表示。5、 時間的表示有多種：（1） 用集合表示，這是最基本形式（2） 用準確的語言表示（3） 用等號或不等號把隨機變量于某些實屬聯(lián)結起來表示6、事件的關系（1）包含關系：如果屬于A的樣本點必屬于事件B，即事件 A 發(fā)生必然導致

2、事件B發(fā)生，則稱A被包含于B，記為AB;（2）相等關系：若AB且B A，則稱事件A與事件B相等，記為AB。（3）互不相容：如果AB=，即A與B不能同時發(fā)生，則稱A與B互不相容7、事件運算（1）事件A與B的并：事件A與事件B至少有一個發(fā)生，記為 AB。（2）事件A與B的交：事件A與事件B同時發(fā)生，記為A B或AB。（3）事件A對B的差：事件A發(fā)生而事件B不發(fā)生,記為 AB。用交并補可以表示為。（4）對立事件：事件A的對立事件（逆事件），即 “A不發(fā)生”，記為。對立事件的性質(zhì)：。8、事件運算性質(zhì)：設A，B，C為事件，則有（1）交換律：AB=BA，AB=BA（2）結合律：A(BC)=(AB

3、)C=ABC A(BC)=(AB)C=ABC（3）分配律：A(BC)(AB)(AC)、 A(BC)(AB)(AC)= ABAC（4）棣莫弗公式（對偶法則）： 9、事件域：含有必然事件 ，并關于對立運算和可列并運算都封閉的事件類稱為事件域，又稱為代數(shù)。具體說，事件域滿足：（1）;(2)若A，則對立事件；（3）若An，n=1,2，···，則可列并  。10、兩個常用的事件域： （1）離散樣本空間（有限集或可列集）內(nèi)的一切子集組成的事件域； （2）連續(xù)樣本空間（如R、R2等）內(nèi)的一切博雷爾集（如區(qū)間或矩形）逐步擴展而成的事件域。第二節(jié) 概率的定義及其

4、確定方法1、概率的公理化定義：定義在事件域上的一個實值函數(shù)P（A）滿足：（1）非負性公理：若A，則P(A)0；（2）正則性公理：P()1（3）可列可加性公理：若A,，A2，···，A3互不相容，則有 ，即，則稱P（A）為時間A的概率，稱三元素（，P）為概率空間2、確定概率的頻率方法：（是在大量重復試驗中，用頻率的穩(wěn)定值去獲得頻率的一種方法）它的基本思想是： （1）與考察事件A有關的隨機現(xiàn)象可大量重復進行；（2） 在n次重復試驗中，記n(A)為事件A出現(xiàn)的次數(shù)，稱 fn(A)= ， 為事件A出現(xiàn)的頻率；（3） 頻率的穩(wěn)定值就是概率；（4） 當重復次數(shù)n較大時，可用頻

5、率作為概率的估計值。3、確定概率的古典方法：它的基本思想是：（1） 所涉及的隨機現(xiàn)象只有有限個樣本點，譬如為n個；（2） 每個樣本點發(fā)生的可能性相等（等可能性）；（3） 若事件A含有k個樣本點，則事件A的概率為P（A）=。4、確定概率的幾何方法：它的基本思想是：（1） 如果一個隨機現(xiàn)象的樣本空間充滿某個區(qū)域，其度量（長度、面積、體積等）大小可用Sn表示；（2） 任意一點落在度量相同的子區(qū)域內(nèi)是等可能的；（3） 若事件A為中某個子區(qū)域，且其度量為SA,則事件A的概率為P（A）= .5、確定概率的主觀方法：一個事件A的概率P（A）使人們根據(jù)經(jīng)驗，對該事件發(fā)生的可能性大小所做出的個人信念。6、概率是

6、定義在事件域上的集合函數(shù)，且滿足三條公理。前三種確定概率的方法自動滿足三條公理，而主觀方法確定概率要加驗證，若不滿足三條公理就不能稱為概率。第三節(jié) 概率的性質(zhì)：1、 P()02、 有限可加性：若有限個事件A,，A2，···，A3互不相容，則有 ，3、 對立事件的概率：對任一事件A，有4、 減法公式（特定場合）：若AB,則P(AB)P(A)P(B)5、 單調(diào)性：若AB，則P（A） P（B）6、 減法公式（一般場合）：對任意兩個事件A、B，有P(AB)P(A)P(AB)7、 加法公式：對任意兩個事件A、B，有P(A+B)=P(A)+P(B)-P(AB)。對任意n個事件

7、A1，A2，···，An，有8、 半可加性：對任意兩個事件A、B，有.9、 事件序列的極限：（1） 對 中任一單調(diào)不減的事件序列，稱為可列并為極限Fn的極限事件，記為。（2） 對 中任一單調(diào)不增的事件序列，稱為可列交為極限En的極限事件，記為。若,則稱概率P是上連續(xù)的10、 概率的連續(xù)性：若P為事件域 上的概率，則P既是上連續(xù)的，又是下連續(xù)的11、 若P是上滿足P（）=1的非負集合函數(shù)，則P是可列可加性的充要條件是P具有有限可加性和下連續(xù)性。第四節(jié) 條件概率 1、條件概率：設A、B是兩個事件，若P(A)>0，則稱P(A|B)=為

8、事件B發(fā)生條件下，事件A發(fā)生的條件概率。條件概率是概率的一種，所有概率的性質(zhì)都適合于條件概率。2、乘法公式：（1）若P(B)>0,P(AB)=P(B)P(A|B) （2）若P(A1A2An-1)>0，則有。3、全概率公式：設事件互不相容，且，如果，則對任一事件A有，i=1,2,···，n。 。4、貝葉斯共公式：設事件，互不相容，且，如果P（A）>0，,則，i=1，2，n。此公式即為貝葉斯公式。，（，），通常叫Bi的先驗概率。，（，），通常稱為Bi的后驗概率。 第五節(jié) 獨立性1、兩個事件的獨立性：如果滿足，則稱事件、是相互獨立的，簡稱A與B獨立。否

9、則稱A與B不獨立或相依。若事件、相互獨立，且，則有2、若事件、相互獨立，則可得到與、與、與也都相互獨立。必然事件和不可能事件Ø與任何事件都相互獨立。Ø與任何事件都互斥。3、多個事件的獨立性：設有n個事件A1，A2，···，An，如果對任意的1I<j<k<···n，以下等式均成立則稱此n個事件A1，A2，···，An相互獨立。4、若n個事件相互獨立，則其任一部分與另一部分也相互獨立。特別把其中部分換為對立事件后，所得諸事件亦相互獨立。5、試驗的獨立性：假如實驗E1的任一

10、結果（事件）與試驗E2的任一結果（事件）都是相互獨立的事件，則稱這兩個試驗相互獨立。6、n重獨立重復試驗：假如一個試驗重復進行n次，并各次試驗間相互獨立，則稱其為n次獨立重復試驗。假如一個試驗只可能有兩個結果：A與，則稱其為伯努利試驗。假如一個伯努利試驗重復進行n次，并各次試驗間相互獨立，則稱其為n重伯努利試驗。第二章 隨機變量及其分布第一節(jié) 隨機變量及其分布1、 隨機變量：定義在樣本空間上的實值函數(shù)X=X()稱為隨機變量。（1） 離散隨機變量：僅取有限個或可列個值的隨機變量（2） 連續(xù)隨機變量:取值充滿某個空間（a，b）的隨機變量。這里a可為-，b可為+。2、分布函數(shù)：設X是一個隨機變量，對

11、任意實數(shù)x，稱函數(shù)為X的分布函數(shù)，記為XF(x)。分布函數(shù)具有如下三條基本性質(zhì)：（1） 單調(diào)性：F（x）是單調(diào)非減函數(shù)，即對任意的x1<x2,有F(x1)F(x2)；（2） 右連續(xù)性：F（x）是x的右連續(xù)函數(shù)，即對任意的x0，有，即F(x0+0)=F(x0)；（3） 有界性:對任意的x，有0F(x) 1，且F(-)=0，F(xiàn)(+)=1可以證明：具有上述三條性質(zhì)的函數(shù)F（x）一定是某一個隨機變量的分布函數(shù)。如果將X看作數(shù)軸上隨機點的坐標，那么分布函數(shù) F(x)的值就表示X落在區(qū)間 內(nèi)的概率3、離散型隨機變量的概率分布列: 若離散型隨機變量的可能取值為xn(n=1,2,)則稱X取xi的概率為P

12、i=P(xi=)P(X=xi)，i=1,2,，則稱上式為離散型隨機變量的概率分布列，簡稱分布列。有時也用列表的形式給出：。分布列具有兩條基本性質(zhì)： （1） 非負性;， （2）正則性:。離散隨機變量X的分布函數(shù)，它是有限級或可列有限級階梯函數(shù)。離散隨機變量X取值于區(qū)間（a，b 上的概率為P(a<Xb)=F(a)-F(b).常數(shù)c可看作僅取一個值的隨機變量X，即P(X=c)=1，它的分布常稱為單點分布或退化分布。4、連續(xù)隨機變量的概率密度函數(shù): 記連續(xù)隨機變量X的分布函數(shù)是F(x)，若存在非負可積函數(shù)p（x），對任意實數(shù)x，有，則稱為連續(xù)型隨機變量。p（x）稱為的概率密度函數(shù)，簡稱密度函數(shù)。

13、密度函數(shù)p（x）具有下面2個基本性質(zhì)：（1） 非負性:;（2） 正則性：。5、離散分布：分布在離散場合可以是分布列或分布函數(shù)；連續(xù)分布：分布在連續(xù)場合可以是密度函數(shù)或分布函數(shù)。存在既非離散又非連續(xù)的分布。6、設隨機變量X的分布函數(shù)F(x)，則可用F(x)表示下列概率： （1）P(Xa)= F(a)； （2）P(X<a)= F(a-0)； （3）P(X>a)=1-P(Xa) =1-F(a)；(4) P(X=a)= P(Xa)- P(X<a)= F(a)- F(a-0);(5) P(Xa)=1- P(X<a)=1- F(a-0);(6) P(|X|<a)=P(-a&l

14、t;X<a)= P(X<a)- P(X-a)= F(a-0)- F(-a). 第二節(jié) 隨機變量的數(shù)學期望1、 數(shù)學期望：設隨機變量X的分布列p（xi）或用密度函數(shù)p（x）表示，若，則稱E(X)= 為X的數(shù)學期望，簡稱期望或均值，且稱X的數(shù)學期望存在。否則數(shù)學期望不存在。數(shù)學期望是有分布決定的，它是分布的位置特征。如果兩個隨機變量同分布，則其數(shù)學期望（存在的話）是相等的。期望相當于重心。2、 數(shù)學期望的性質(zhì)：假設數(shù)學期望存在，（1） X的某一函數(shù)g（X）的數(shù)學期望為（2） 若C為常數(shù)，則E(C)=C（3） 對任意常數(shù)C，有E(CX)=CE(X)（4） 對任意的兩個函數(shù)g1（x）和g2

15、（x），Eg1（x）±g2（x） = Eg1（x）±Eg2（x）（5） E(X+Y)=E(X)+E(Y)，（6） E(XY)=E(X) E(Y)，充分條件：X和Y獨立； 充要條件：X和Y不相關。第三節(jié) 隨機變量的方差與標準差1、 方差：隨機變量X對其期望E（X）的偏差平方的數(shù)學期望（設其存在）Var（X）=EX-E(X)2稱為X的方差，方差的正平方根（X）=X=稱為X的標準差。方差是由分布決定的，它是分布的散布象征，方差越大，分布就越散；方差越小，分布就越集中。標準差與方差的功能相似，只是量綱不同。2、 方差的性質(zhì)：假設方差存在，（1） Var（X）=E(X2)-E(X)2

16、（2） 若c是常數(shù)，則Var（c）=0（3） Var（aX+b）= a2Var（X）（4） 若隨機變量X的方差存在，則Var（X）=0的充要條件是X幾乎處處為某個常數(shù)a，即P（X=a）=1（5） 若 X ,Y 相互獨立，則D ( X ± Y ) = D ( X ) + D (Y ) 3、 切比雪夫不等式:設X的數(shù)學期望和方差都存在，則對任意常數(shù)>0,有,或。切比雪夫不等式給出隨機變量取值的大偏差（指事件|X-E(X)| ）發(fā)生的概率的上限，該上限于分布的方差成正比。4、 隨機變量的標準化：對任意隨機變量X，如果X的數(shù)學期望和方差存在，則稱 為X的標準化隨機變量，此時有E(X*)

17、=0，Var（X*）=1。第四節(jié) 常用離散分布1、 二項分布：設隨機變量X的概率分布列為， ，其中，則稱隨機變量服從參數(shù)為，的二項分布。記為。（1） 背景： 重貝努里試驗中成功的次數(shù)服從參數(shù)為，的二項分布。記為，其中p為一次伯努利試驗中成功發(fā)生的概率。（2） n=1時的二項分布B（1，p）稱為二點分布，或0-1分布，（0-1）分布是二項分布的特例。當XB（1，p）時，X可表示一次伯努利試驗中成功的次數(shù)，它只能取0或1。（3） 二項分布B（1，p）的數(shù)學期望和方差分別是：E(X)=np，Var（X）=np（1-p）。（4） 若，則Y=n-XB（n，1-p），其中Y=n-X是n重伯努利試驗中失敗的

18、次數(shù)。2、 泊松分布：（1） 設隨機變量的概率分布列為，k=0,1,2，···，則稱隨機變量服從參數(shù)為的泊松分布，記為XP()，其中參數(shù)。（2） 背景：單位時間（或單位面積、單位產(chǎn)品等）上某稀有事件（這里的稀有事件是指不經(jīng)常發(fā)生的事件）發(fā)生的次數(shù)服從泊松分布P()，其中為該稀有事件發(fā)生的強度。（3） 泊松分布P()的數(shù)學期望和方差分別是：E(X)= ,Var（X）=。（4） 二項分布的泊松近似（泊松定理）：在n重伯努利試驗中，記事件A在一次試驗中發(fā)生的概率為pn（與試驗次數(shù)n有關），如果當n+時，有npn，則。3、 超幾何分布（1） 若X的概率分布列為，k=0,1

19、，···，r。則稱X服從超幾何分布，記為Xh（n，N,M）,其中r=minM，n，且MN，nN。n，N,M均為正整數(shù)。（2） 背景：設有N個產(chǎn)品，其中有M個不合格品。若從中不放回的隨機抽取n個，則其中含有的不合格品的個數(shù)X服從超幾何分布h（n，N,M）。（3） 超幾何分布h（n，N,M）的數(shù)學期望和方差分別是:E（X）=,Var（X）=。（4） 超幾何分布的二項近似：當n<<N時，超幾何分布h（n，N,M）可用二項分布b（n，M/N）近似，即，其中p=M/N。（5） 實際應用中，再不返回抽樣時，常用超幾何分布描述抽搐樣哦泥中不合格品數(shù)的分布；在返回抽樣

20、時，常用二項分布b（n，p）描述抽出樣品中不合格聘書的分布；當批量N較大，而抽出樣品數(shù)n較小時，不返回抽樣可近似看成返回抽樣。4、 幾何分布：（1） 若X的概率分布列為P（X=k）=（1-p）k-1p，k=1,2，···，則稱為X服從幾何分布，記為XGe（p），其中0<p<1.（2） 背景：在伯努利試驗序列中，成功事件A首次出現(xiàn)時的試驗次數(shù)X服從幾何分布Ge（p），其中p為每次試驗中事件A發(fā)生的概率。（3） 幾何分布Ge（p）的數(shù)學期望和方差分別是;E(X)=,Var(X)=。（4） 幾何分布的無記憶性：若XGe（p），則對任意正整數(shù)m與n有P(X&g

21、t;m+n|X>m)=P(X>n)。5、 負二項分布：（1） 若X的概率分布列為，k=r，r+1，···。則稱X服從負二項分布或巴斯卡分布，記為XNb（r，p），其中r為正整數(shù)，0<p<1。（2） 背景：在伯努利試驗序列中，成功事件A第r次出現(xiàn)時的試驗次數(shù)X服從負二項分布Nb（r，p），其中p為每次試驗中事件A發(fā)生的概率。（3） r=1時的負二項分布為幾何分布，即Nb（r，p）=Ge（p）。（4） 負二項分布Nb（r，p）的數(shù)學期望和方差分別是:E(X)=r/p,Var(X)=r(1-p)/p2。（5） 負二項分布的隨機變量可以表示成r個獨

22、立同分布的幾何分布隨機變量之和，即若XNb（r，p），則X=X1+X2+···+Xr，其中X1，X2，···，Xr是相互獨立、服從幾何分布Ge（p）的隨機變量。6、 常用離散分布表分布列pk 期望方差0-1分布pk=pk（1-p）1-k，k=0,1p二項分布pk=k=0,1，···，nnp泊松分布pk=k=0,1，···幾何分布pk= P（X=k）=（1-p）k-1p，k=1,2，···，超幾何分布pk= k=0,1，··&#

23、183;，r。r=minM，n負二項分布Nb（r，p）pk= k=r，r+1，···。r/pr(1-p)/p2第五節(jié) 常用連續(xù)分布1、 正態(tài)分布(1) 若X的密度函數(shù)和分布函數(shù)分別為，-<x<+; ,-<x<+;則稱X服從正態(tài)分布，記作XN（，2），其中參數(shù)-<<+，>0。（2）背景：一個變量若是由大量微小的、獨立的隨機因素的疊加結果，則此變量一定是正態(tài)變量（服從正態(tài)分布的變量）。測量誤差就是量具偏差、測量環(huán)境的影響、測量技術的的影響等因素隨機因素疊加而成的，所以測量誤差常認為服從正態(tài)分布。（3） 關于參數(shù)：l 是正態(tài)分布

24、的數(shù)學期望，即E（X）=，稱為正態(tài)分布的位置參數(shù)。l 是正態(tài)分布的對稱中心，在的左側和p（x）下的面積為0.5；在的右側和p（x）下的面積為0.5；所以也是正態(tài)分布的中位數(shù)l 若XN（，2），則X在離越近取值的可能性越大，離越遠取值的可能性越小關于參數(shù)：l 2是正態(tài)分布的方差，即Var（X）=2；l 是正態(tài)分布的標準差，越小，正太分布越集中；越大，正態(tài)分布越分散；又稱為正態(tài)分布的尺度參數(shù)l 若XN（，2），則其密度函數(shù)p（x）在±處有兩個拐點（4） 標準正態(tài)分布：稱=0，=1時的正態(tài)分布N（0,1）；記U為標準正態(tài)變量，(u)和(u)為標準正態(tài)分布的密度函數(shù)和分布函數(shù)。(u)和(u)

25、滿足：l (-u)= (u)l (-u)=1- (u)。對u>0, (u)的值有表可查（5） 標準化變換：若XN（，2），則U=（X-）/N（0,1），其中U=（X-）/稱為X的標準化變換（6） 若XN（，2），則對任意實數(shù)a與b，有P（Xb）=，P（a<X）=1-, P（a<Xb）=-。（7） 正態(tài)分布的3原則：設XN（，2），則P（|X-|<k）=(k) (-k)=2、 均勻分布（1） 若X的密度函數(shù)和分布函數(shù)分別為 則稱X服從區(qū)間（a，b）上的均勻分布，記作XU（a，b）。（2） 背景：向區(qū)間（a，b）隨機投點，落點坐標X一定服從均勻分布U（a，b）?！半S即投點”

26、指：點落在任意相等長度的小區(qū)間上的可能性是相等的。（3） 均勻分布U（a，b）的數(shù)學期望和方差分別是E（X）=，Var（X）=。（4） 稱區(qū)間（0,1）上的均勻分布U（0,1）為標準均勻分布，它是導出其他分布隨機數(shù)的橋梁3、 指數(shù)分布（1） 若X的密度函數(shù)和分布函數(shù)分別為 則稱為X服從指數(shù)分布，記作XExp（），其中參數(shù)>0。（2） 背景：若一個元器件（或一臺設備、或一個系統(tǒng)）遇到外來沖擊時即告失效，則首次沖擊來到的時間X（壽命）服從指數(shù)分布。（3） 指數(shù)分布Exp（）的數(shù)學期望和方差分別是E(X)=,Var(X)=。（4） 指數(shù)分布的無記憶性：若XExp（），則對任意s>0,t&

27、gt;0,有P（X>s+t|X>s）=P(X>t)。4、 伽瑪分布（1） 伽瑪函數(shù)：稱（）=為伽瑪函數(shù)，其中參數(shù)>0。伽瑪函數(shù)具有如下性質(zhì)： （1）=1； （1/2）=； （+1）=（）； （n+1）=n（n）=n！（n為自然數(shù)）。（2） 伽瑪分布：若X的密度函數(shù)為即稱X服從伽瑪分布，記作XGa（，），其中>0為形狀參數(shù)，>0為尺度參數(shù)。（3） 背景：若一個元器件（或一臺設備、或一個系統(tǒng)）能抵擋一些外來沖擊，但遇到第k次沖擊時即告失效，則第k次沖擊來到的時間X（壽命）服從形狀參數(shù)為k的伽瑪分布Ga（k，）。（4） 伽瑪分布Ga（，）的數(shù)學期望和方差分別為E（

28、X）=，Var（X）=。（5） 伽瑪分布的兩個特例: =1時的伽瑪分布就是指數(shù)分布，即Ga（1，）= Exp（）。 稱=n/2，=1/2時的伽瑪分布為自由度為n的2（卡方）分布，記為2（n），其密度函數(shù)為 ，2（n）分布的期望和方差分別是E(X)=n，Var（X）=2n。（6） 若形狀參數(shù)為整數(shù)k，則伽瑪變量可以表示成k個獨立同分布的指數(shù)變量之和，即若XGa（k，），則X=X1+X2+···+Xk是相互獨立且都服從指數(shù)分布Exp（），的隨機變量。5、 貝塔分布(1) 貝塔函數(shù):稱B（a，b）=為貝塔函數(shù)，其中參數(shù)a>0,b>0。貝塔函數(shù)具有如下性質(zhì)：B

29、（a，b）= B（b，a）；B（a，b）=。(2) 貝塔分布：若X的密度函數(shù)為， 則稱X服從貝塔分布，記作XBe（a，b），其中a>0,b>0都是形狀參數(shù)。(3) 背景：很多比率，如產(chǎn)品的不合格率、機器的維修率、射擊的命中率等都是在區(qū)間（0，1）上取值的隨機變量，貝塔分布Be（a，b）可供描述這些隨機變量之用。(4) 貝塔分布Be（a，b）的數(shù)學期望和方差分別是，(5) a=b=1時的貝塔分布就是區(qū)間（0,1）上的均勻分布，即Be（1,1）=U（0,1）。6、常見連續(xù)分布表密度函數(shù)p（x）期望方差正態(tài)分布，-<x<+均勻分布U（a，b）指數(shù)分布Exp（）伽瑪分布Ga（，）2（n）分布n2n貝塔分布Be（a，b）對數(shù)正態(tài)分布LN(，2)x>0柯西分布Cau(, ),-<x<+不存在不存在韋布爾分布Wei（m，）P（x）=F(x),x>0第六節(jié) 隨機變量函數(shù)的分布1、 設連續(xù)隨機變量X的