概率論和數(shù)理統(tǒng)計(jì)復(fù)習(xí)筆記

1、 概率論與數(shù)理統(tǒng)計(jì)復(fù)習(xí)第一章 概率論的基本概念一.基本概念隨機(jī)試驗(yàn)E:(1)可以在相同的條件下重復(fù)地進(jìn)行;(2)每次試驗(yàn)的可能結(jié)果不止一個(gè),并且能事先明確試驗(yàn)的所有可能結(jié)果;(3)進(jìn)行一次試驗(yàn)之前不能確定哪一個(gè)結(jié)果會(huì)出現(xiàn).樣本空間S: E的所有可能結(jié)果組成的集合. 樣本點(diǎn)(基本事件):E的每個(gè)結(jié)果.隨機(jī)事件(事件):樣本空間S的子集.必然事件(S):每次試驗(yàn)中一定發(fā)生的事件. 不可能事件(F):每次試驗(yàn)中一定不會(huì)發(fā)生的事件.二. 事件間的關(guān)系和運(yùn)算1.AB(事件B包含事件A )事件A發(fā)生必然導(dǎo)致事件B發(fā)生.2.AB(和事件)事件A與B至少有一個(gè)發(fā)生.3. AB=AB(積事件)事件A與B同時(shí)發(fā)生

2、.4. A-B(差事件)事件A發(fā)生而B不發(fā)生.5. AB=F (A與B互不相容或互斥)事件A與B不能同時(shí)發(fā)生.6. AB=F且AB=S (A與B互為逆事件或?qū)α⑹录?表示一次試驗(yàn)中A與B必有一個(gè)且僅有一個(gè)發(fā)生. B=A, A=B .運(yùn)算規(guī)則 交換律 結(jié)合律 分配律 德摩根律 三. 概率的定義與性質(zhì)1.定義 對(duì)于E的每一事件A賦予一個(gè)實(shí)數(shù),記為P(A),稱為事件A的概率.(1)非負(fù)性 P(A)0 ; (2)歸一性或規(guī)范性 P(S)=1 ;(3)可列可加性 對(duì)于兩兩互不相容的事件A1,A2,(A iAj=, ij, i,j=1,2,),P(A1A2)=P( A1)+P(A2)+2.性質(zhì) (1) P

3、(F) = 0 , 注意: A為不可能事件 P(A)=0 . (2)有限可加性 對(duì)于n個(gè)兩兩互不相容的事件A1,A2,A n ,P(A1A2A n)=P(A1)+P(A2)+P(A n) (有限可加性與可列可加性合稱加法定理)(3)若AB, 則P(A)P(B), P(B-A)=P(B)-P(A) . (4)對(duì)于任一事件A, P(A)1, P(A)=1-P(A) .(5)廣義加法定理 對(duì)于任意二事件A,B ,P(AB)=P(A)+P(B)-P(AB) .對(duì)于任意n個(gè)事件A1,A2,A n+(-1)n-1P(A1A2A n)四.等可能(古典)概型1.定義 如果試驗(yàn)E滿足:(1)樣本空間的元素只有有

4、限個(gè),即S=e1,e2,e n;(2)每一個(gè)基本事件的概率相等,即P(e1)=P(e2)= P(e n ).則稱試驗(yàn)E所對(duì)應(yīng)的概率模型為等可能(古典)概型.2.計(jì)算公式 P(A)=k / n 其中k是A中包含的基本事件數(shù), n是S中包含的基本事件總數(shù).五.條件概率1.定義 事件A發(fā)生的條件下事件B發(fā)生的條件概率P(B|A)=P(AB) / P(A) ( P(A)>0).2.乘法定理 P(AB)=P(A) P (B|A) (P(A)>0); P(AB)=P(B) P (A|B) (P(B)>0). P(A1A2A n)=P(A1)P(A2|A1)P(A3|A1A2)P(A n|

5、A1A2A n-1) (n2, P(A1A2A n-1) > 0)3. B1,B2,B n是樣本空間S的一個(gè)劃分(BiBj=,ij,i,j=1,2,n, B1B2B n=S) ,則當(dāng)P(B i)>0時(shí),有全概率公式 P(A)=當(dāng)P(A)>0, P(B i)>0時(shí),有貝葉斯公式P (Bi|A)= . 六.事件的獨(dú)立性 1.兩個(gè)事件A,B,滿足P(AB) = P(A) P(B)時(shí),稱A,B為相互獨(dú)立的事件.(1)兩個(gè)事件A,B相互獨(dú)立Û P(B)= P (B|A) .(2)若A與B,A與,與B, ,與中有一對(duì)相互獨(dú)立,則另外三對(duì)也相互獨(dú)立.2.三個(gè)事件A,B,C滿

6、足P(AB) =P(A) P(B), P(AC)= P(A) P(C), P(BC)= P(B) P(C),稱A,B,C三事件兩兩相互獨(dú)立. 若再滿足P(ABC) =P(A) P(B) P(C),則稱A,B,C三事件相互獨(dú)立.3.n個(gè)事件A1,A2,A n,如果對(duì)任意k (1<kn),任意1i1<i2<<i kn.有,則稱這n個(gè)事件A1,A2,A n相互獨(dú)立.第二章 隨機(jī)變量及其概率分布一.隨機(jī)變量及其分布函數(shù)1.在隨機(jī)試驗(yàn)E的樣本空間S=e上定義的單值實(shí)值函數(shù)X=X (e)稱為隨機(jī)變量.2.隨機(jī)變量X的分布函數(shù)F(x)=PXx , x是任意實(shí)數(shù). 其性質(zhì)為:(1)0F

7、(x)1 ,F(-)=0,F()=1. (2)F(x)單調(diào)不減,即若x1<x2 ,則 F(x1)F(x 2).(3)F(x)右連續(xù),即F(x+0)=F(x). (4)Px1<Xx2=F(x2)-F(x1).二.離散型隨機(jī)變量 (只能取有限個(gè)或可列無限多個(gè)值的隨機(jī)變量)1.離散型隨機(jī)變量的分布律 PX= x k= p k (k=1,2,) 也可以列表表示. 其性質(zhì)為:(1)非負(fù)性 0Pk1 ; (2)歸一性 .2.離散型隨機(jī)變量的分布函數(shù) F(x)=為階梯函數(shù),它在x=x k (k=1,2,)處具有跳躍點(diǎn),其跳躍值為p k=PX=x k .3.三種重要的離散型隨機(jī)變量的分布(1)X(

8、0-1)分布 PX=1= p ,PX=0=1p (0<p<1) .(2)Xb(n,p)參數(shù)為n,p的二項(xiàng)分布PX=k=(k=0,1,2,n) (0<p<1)(3)Xp(l)參數(shù)為l的泊松分布 PX=k= (k=0,1,2,) (l>0)三.連續(xù)型隨機(jī)變量1.定義 如果隨機(jī)變量X的分布函數(shù)F(x)可以表示成某一非負(fù)函數(shù)f(x)的積分F(x)=,-< x <,則稱X為連續(xù)型隨機(jī)變量,其中f (x)稱為X的概率密度(函數(shù)).2.概率密度的性質(zhì)(1)非負(fù)性 f(x)0 ; (2)歸一性 =1 ;(3) Px 1<Xx 2= ; (4)若f (x)在點(diǎn)x處

9、連續(xù),則f (x)=F/ (x) .注意：連續(xù)型隨機(jī)變量X取任一指定實(shí)數(shù)值a的概率為零,即PX= a=0 .3.三種重要的連續(xù)型隨機(jī)變量的分布(1)XU (a,b) 區(qū)間(a,b)上的均勻分布 . (2)X服從參數(shù)為q的指數(shù)分布. (q>0).(3)XN (m,s2 )參數(shù)為m,s的正態(tài)分布 -¥<x<¥, s>0.特別, m=0, s2 =1時(shí),稱X服從標(biāo)準(zhǔn)正態(tài)分布,記為XN (0,1),其概率密度 , 標(biāo)準(zhǔn)正態(tài)分布函數(shù) , F(-x)=1-(x) .若XN (m,s2), 則Z=N (0,1), Px1<Xx2=()-().若PZ>z

10、 a= PZ<-z a= P|Z|>z a/2= a,則點(diǎn)z a,-z a, ±z a/ 2分別稱為標(biāo)準(zhǔn)正態(tài)分布的上,下,雙側(cè)a分位點(diǎn). 注意：F(z a)=1-a , z 1- a= -z a.四.隨機(jī)變量X的函數(shù)Y= g (X)的分布1.離散型隨機(jī)變量的函數(shù) Xx 1 x2 x k p kp 1 p2 p k Y=g(X)g(x1) g(x2) g(x k) 若g(x k) (k=1,2,)的值全不相等,則由上表立得Y=g(X)的分布律.若g(x k) (k=1,2,)的值有相等的,則應(yīng)將相等的值的概率相加,才能得到Y(jié)=g(X)的分布律.2.連續(xù)型隨機(jī)變量的函數(shù)若X的

11、概率密度為fX(x),則求其函數(shù)Y=g(X)的概率密度f(wàn)Y(y)常用兩種方法：(1)分布函數(shù)法 先求Y的分布函數(shù)FY(y)=PYy=Pg(X)y=其中k(y)是與g(X)y對(duì)應(yīng)的X的可能值x所在的區(qū)間(可能不只一個(gè)),然后對(duì)y求導(dǎo)即得fY(y)=FY /(y) .(2)公式法 若g(x)處處可導(dǎo),且恒有g(shù) /(x)>0 (或g / (x)<0 ),則Y=g (X)是連續(xù)型隨機(jī)變量,其概率密度為 其中h(y)是g(x)的反函數(shù) , a= min (g (-¥),g (¥) b= max (g (-¥),g (¥) .如果f (x)在有限區(qū)間a,

12、b以外等于零,則 a= min (g (a),g (b) b= max (g (a),g (b) .第三章 二維隨機(jī)變量及其概率分布 一.二維隨機(jī)變量與聯(lián)合分布函數(shù)1.定義 若X和Y是定義在樣本空間S上的兩個(gè)隨機(jī)變量,則由它們所組成的向量(X,Y)稱為二維隨機(jī)向量或二維隨機(jī)變量.對(duì)任意實(shí)數(shù)x,y,二元函數(shù)F(x,y)=PXx,Yy稱為(X,Y)的(X和Y的聯(lián)合)分布函數(shù).2.分布函數(shù)的性質(zhì)(1)F(x,y)分別關(guān)于x和y單調(diào)不減.(2)0F(x,y)1 , F(x,- ¥)=0, F(-¥,y)=0, F(-¥,-¥)=0, F(¥,¥

13、;)=1 .(3) F(x,y)關(guān)于每個(gè)變量都是右連續(xù)的,即 F(x+0,y)= F(x,y), F(x,y+0)= F(x,y) .(4)對(duì)于任意實(shí)數(shù)x 1<x 2 , y 1<y 2Px 1<Xx 2 , y 1<Yy 2= F(x2,y2)- F(x2,y1)- F(x1,y2)+ F(x1,y1)二.二維離散型隨機(jī)變量及其聯(lián)合分布律1.定義 若隨機(jī)變量(X,Y)只能取有限對(duì)或可列無限多對(duì)值(x i,y j) (i ,j =1,2, )稱(X,Y)為二維離散型隨機(jī)變量.并稱PX= x i,Y= y j = p i j為(X,Y)的聯(lián)合分布律.也可列表表示. 2.性

14、質(zhì)(1)非負(fù)性 0p i j1 . (2)歸一性 . 3. (X,Y)的(X和Y的聯(lián)合)分布函數(shù)F(x,y)= 三.二維連續(xù)型隨機(jī)變量及其聯(lián)合概率密度 1.定義 如果存在非負(fù)的函數(shù)f (x,y),使對(duì)任意的x和y,有F(x,y)= 則稱(X,Y)為二維連續(xù)型隨機(jī)變量,稱f(x,y)為(X,Y)的(X和Y的聯(lián)合)概率密度.2.性質(zhì) (1)非負(fù)性 f (x,y)0 . (2)歸一性 .(3)若f (x,y)在點(diǎn)(x,y)連續(xù),則(4)若G為xoy平面上一個(gè)區(qū)域,則.四.邊緣分布1. (X,Y)關(guān)于X的邊緣分布函數(shù) FX (x) = PXx , Y<¥= F (x , ¥)

15、 .(X,Y)關(guān)于Y的邊緣分布函數(shù) FY (y) = PX<¥, Yy= F (¥,y)2.二維離散型隨機(jī)變量(X,Y)關(guān)于X的邊緣分布律 PX= x i = = p i· ( i =1,2,) 歸一性 .關(guān)于Y的邊緣分布律 PY= y j = = p·j ( j =1,2,) 歸一性 .3.二維連續(xù)型隨機(jī)變量(X,Y)關(guān)于X的邊緣概率密度f(wàn) X (x)= 歸一性關(guān)于Y的邊緣概率密度f(wàn) Y (y)= 歸一性五.相互獨(dú)立的隨機(jī)變量1.定義 若對(duì)一切實(shí)數(shù)x,y,均有F(x,y)= FX (x) FY (y) ,則稱X和Y相互獨(dú)立.2.離散型隨機(jī)變量X和

16、Y相互獨(dú)立p i j= p i··p·j ( i ,j =1,2,)對(duì)一切xi,yj成立.3.連續(xù)型隨機(jī)變量X和Y相互獨(dú)立f (x,y)=f X (x)f Y (y)對(duì)(X,Y)所有可能取值(x,y)都成立.六條件分布1二維離散型隨機(jī)變量的條件分布定義 設(shè)(X,Y)是二維離散型隨機(jī)變量,對(duì)于固定的j,若PY=yj>0,則稱PX=x i |Y=yj 為在Y= yj條件下隨機(jī)變量X的條件分布律.同樣,對(duì)于固定的i,若PX=xi>0,則稱PY=yj|X=x i 為在X=xi條件下隨機(jī)變量Y 的條件分布律.第四章 隨機(jī)變量的數(shù)字特征一.數(shù)學(xué)期望和方差的定義隨機(jī)

17、變量X 離散型隨機(jī)變量 連續(xù)型隨機(jī)變量 分布律PX=x i= pi ( i =1,2,) 概率密度f(wàn) (x)數(shù)學(xué)期望(均值)E(X) (級(jí)數(shù)絕對(duì)收斂) (積分絕對(duì)收斂)方差D(X)=EX-E(X)2 =E(X2)-E(X)2 (級(jí)數(shù)絕對(duì)收斂) (積分絕對(duì)收斂)函數(shù)數(shù)學(xué)期望E(Y)=Eg(X) (級(jí)數(shù)絕對(duì)收斂) (積分絕對(duì)收斂)標(biāo)準(zhǔn)差s(X)=D(X) .二.數(shù)學(xué)期望與方差的性質(zhì)1. c為為任意常數(shù)時(shí), E(c) = c , E(cX) = cE(X) , D(c) = 0 , D (cX) = c 2 D(X) .2.X,Y為任意隨機(jī)變量時(shí), E (X±Y)=E(X)±E(

18、Y) .3. X與Y相互獨(dú)立時(shí), E(XY)=E(X)E(Y) , D(X±Y)=D(X)+D(Y) .4. D(X) = 0 PX = C=1 ,C為常數(shù).三.六種重要分布的數(shù)學(xué)期望和方差 E(X) D(X)1.X (0-1)分布PX=1= p (0<p<1) p p (1- p)2.X b (n,p) (0<p<1) n p n p (1- p)3.X p(l) l l4.X U(a,b) (a+b)/2 (b-a) 2/125.X服從參數(shù)為q的指數(shù)分布 q q26.X N (m,s2) m s2四.矩的概念隨機(jī)變量X的k階(原點(diǎn))矩E(X k ) k=1

19、,2,隨機(jī)變量X的k階中心矩EX-E(X) k隨機(jī)變量X和Y的k+l階混合矩E(X kY l) l=1,2,隨機(jī)變量X和Y的k+l階混合中心矩EX-E(X) k Y-E(Y) l 第六章 樣本和抽樣分布一.基本概念總體X即隨機(jī)變量X ; 樣本X1 ,X2 ,X n是與總體同分布且相互獨(dú)立的隨機(jī)變量;樣本值x1 ,x2 ,x n為實(shí)數(shù);n是樣本容量.統(tǒng)計(jì)量是指樣本的不含任何未知參數(shù)的連續(xù)函數(shù).如：樣本均值 樣本方差 樣本標(biāo)準(zhǔn)差S樣本k階矩( k=1,2,) 樣本k階中心矩( k=1,2,)二.抽樣分布 即統(tǒng)計(jì)量的分布1.的分布 不論總體X服從什么分布, E () = E(X) , D () =

20、D(X) / n .特別,若X N (m,s2 ) ,則 N (m, s2 /n) .2.c2分布 (1)定義 若XN (0,1 ) ,則Y = c2(n)自由度為n的c2分布.(2)性質(zhì) 若Y c2(n),則E(Y) = n , D(Y) = 2n .若Y1 c2(n1) Y2 c2(n2) ,則Y1+Y2 c2(n1 + n2).若X N (m,s2 ), 則 c2(n-1),且與S2相互獨(dú)立. (3)分位點(diǎn) 若Y c2(n),0< a <1 ,則滿足 的點(diǎn)分別稱為c2分布的上、下、雙側(cè)a分位點(diǎn). 3. t分布(1)定義 若XN (0,1 ),Y c2 (n),且X,Y相互獨(dú)立

21、,則t=t(n)自由度為n的t分布.(2)性質(zhì)n時(shí),t分布的極限為標(biāo)準(zhǔn)正態(tài)分布.XN (m,s2 )時(shí), t (n-1) .兩個(gè)正態(tài)總體 相互獨(dú)立的樣本 樣本均值 樣本方差X N (m1,s12 ) 且s12=s22=s2 X1 ,X2 ,X n1 S12Y N (m2,s22 ) Y1 ,Y2 ,Y n2 S22則 t (n1+n2-2) , 其中 (3)分位點(diǎn) 若t t (n) ,0 < a<1 , 則滿足的點(diǎn)分別稱t分布的上、下、雙側(cè)a分位點(diǎn). 注意: t 1- a (n) = - t a (n).4.F分布 (1)定義 若Uc2(n1), V c2(n2), 且U,V 相互

22、獨(dú)立,則F =F(n1,n 2)自由度為(n1,n2)的F分布.(2)性質(zhì)(條件同3.(2) F(n1-1,n2-1)(3)分位點(diǎn) 若F F(n1,n2) ,0< a <1,則滿足的點(diǎn)分別稱為F分布的上、下、雙側(cè)a分位點(diǎn). 注意: 第七章 參數(shù)估計(jì)一.點(diǎn)估計(jì) 總體X的分布中有k個(gè)待估參數(shù)q1, q2, qk.X1 ,X2 ,X n是X的一個(gè)樣本, x1 ,x2 ,x n是樣本值.1.矩估計(jì)法先求總體矩解此方程組,得到,以樣本矩Al取代總體矩m l ( l=1,2,k)得到矩估計(jì)量,若代入樣本值則得到矩估計(jì)值.2.最大似然估計(jì)法若總體分布形式(可以是分布律或概率密度)為p(x, q1, q2, qk),稱樣本X1 ,X2 ,X n的聯(lián)合分布為似然函數(shù).取使似然函數(shù)達(dá)到最大值的,稱為參數(shù)q1, q2,qk的最大似然估計(jì)值,代入