期末概率論復(fù)習(xí)

1、1(復(fù)習(xí)二)開(kāi)始2第四章第四章 隨機(jī)變量的數(shù)字特征（知識(shí)點(diǎn)）隨機(jī)變量的數(shù)字特征（知識(shí)點(diǎn)）隨機(jī)變量數(shù)學(xué)期望的定義及隨機(jī)變量數(shù)學(xué)期望的定義及性質(zhì)，性質(zhì)， 7個(gè)分布個(gè)分布 的數(shù)學(xué)期望。的數(shù)學(xué)期望。 2. 隨機(jī)變量函數(shù)隨機(jī)變量函數(shù)的的數(shù)學(xué)期望求法數(shù)學(xué)期望求法3. 隨機(jī)變量方差的定義及隨機(jī)變量方差的定義及性質(zhì)，性質(zhì)， 7個(gè)分布個(gè)分布 的方差。的方差。4. 協(xié)方差及相關(guān)系數(shù)，協(xié)方差及相關(guān)系數(shù)， 二維正態(tài)分布二維正態(tài)分布的協(xié)方差及相關(guān)系數(shù)。的協(xié)方差及相關(guān)系數(shù)。* *5 5. 矩、協(xié)方差矩陣矩、協(xié)方差矩陣* *6 6. 條件期望條件期望3定理定理4.1.1 : 設(shè)設(shè)Y是隨機(jī)變量是隨機(jī)變量X的函數(shù)的函數(shù),Y=

2、g(X)(函數(shù)函數(shù)g(x)是連續(xù)函數(shù)是連續(xù)函數(shù)).一、一、設(shè)離散隨機(jī)變量設(shè)離散隨機(jī)變量X的分布律為的分布律為 P(X=xk) = pk k=1,2,* 隨機(jī)變量函數(shù)隨機(jī)變量函數(shù)的的數(shù)學(xué)期望數(shù)學(xué)期望若級(jí)數(shù)若級(jí)數(shù)1)(kkkpxg絕對(duì)收斂絕對(duì)收斂,則有則有1)()()(kkkpxgXgEYE4二、二、連續(xù)型隨機(jī)變量連續(xù)型隨機(jī)變量X的概率密度為的概率密度為f(x),若積分若積分dxxfxg)()(絕對(duì)收斂絕對(duì)收斂,則有則有dxxfxgXgEYE)()()()(51. 數(shù)學(xué)期望的數(shù)學(xué)期望的性質(zhì)性質(zhì):(以下均設(shè)所遇到的以下均設(shè)所遇到的數(shù)學(xué)期望數(shù)學(xué)期望存在存在)10 設(shè)設(shè)C為常數(shù)為常數(shù),則有則有 E(C)

3、=C。20 設(shè)設(shè)C為常數(shù)為常數(shù), X是隨機(jī)變量是隨機(jī)變量,則有則有 E(CX)=CE(X)。30 X,Y是兩個(gè)隨機(jī)變量是兩個(gè)隨機(jī)變量,則有則有 E(X+Y)=E(X)+ E(Y)。 這個(gè)這個(gè)性質(zhì)性質(zhì)可以推廣可以推廣到到任意有限個(gè)任意有限個(gè)隨機(jī)變量之和的情況隨機(jī)變量之和的情況.40 X,Y是兩個(gè)相互獨(dú)立的隨機(jī)變量是兩個(gè)相互獨(dú)立的隨機(jī)變量,則有則有 E(XY)=E(X) E(Y)。這個(gè)這個(gè)性質(zhì)性質(zhì)可以推廣可以推廣到到任意有限個(gè)任意有限個(gè)相互獨(dú)立的隨機(jī)變量相互獨(dú)立的隨機(jī)變量之積的情況之積的情況.62. 方差的方差的性質(zhì)性質(zhì):(以下均設(shè)所遇到的以下均設(shè)所遇到的方差方差存在存在)10 設(shè)設(shè)C為常數(shù)為常數(shù)

4、,則有則有 D(C)=0。20 設(shè)設(shè)C為常數(shù)為常數(shù), X是隨機(jī)變量是隨機(jī)變量,則有則有 D(CX)=C2D(X)。30 X,Y是兩個(gè)相互獨(dú)立的隨機(jī)變量是兩個(gè)相互獨(dú)立的隨機(jī)變量,則有則有 D(X+Y)=D(X)+ D(Y)。 這個(gè)這個(gè)性質(zhì)性質(zhì)可以推廣可以推廣到到任意有限個(gè)任意有限個(gè)相互獨(dú)立的隨機(jī)變量相互獨(dú)立的隨機(jī)變量之和的情況之和的情況.40 D(X)=0 的充要條件是的充要條件是X以概率以概率1取常數(shù)取常數(shù)C,即即 PX=C=173. 協(xié)方差的協(xié)方差的性質(zhì)性質(zhì):(以下均設(shè)所遇到的以下均設(shè)所遇到的協(xié)方差協(xié)方差存在存在)10 Cov(X,Y) = Cov(Y,X)。30 設(shè)設(shè)a,b為常數(shù)為常數(shù),

5、則有則有 Cov(aX,bY)=ab Cov (X,Y)。40 X1, X2, Y 是任三個(gè)隨機(jī)變量是任三個(gè)隨機(jī)變量,則有則有 Cov (X1+ X2 ,Y)= Cov (X1,Y)+ Cov (X2 ,Y)20 Cov(X,c) = 0。50 當(dāng)當(dāng) X 和和 Y 相互獨(dú)立時(shí)相互獨(dú)立時(shí). 0),(),(YXYXCov84.2對(duì)任意兩個(gè)隨機(jī)變量對(duì)任意兩個(gè)隨機(jī)變量X和和Y,有有4.3將定義式展開(kāi)易得將定義式展開(kāi)易得)()()(),(YEXEXYEYXCov我們常常利用這些式子計(jì)算。我們常常利用這些式子計(jì)算。)(),(2)()(YDYXCovXDYXD即即22)()()(XEXEXD2.1對(duì)任意對(duì)任

6、意 隨機(jī)變量隨機(jī)變量X ,有有9設(shè)隨機(jī)變量設(shè)隨機(jī)變量X具有具有數(shù)學(xué)期望數(shù)學(xué)期望 E(X)= 和方差和方差 D(X)= 2, 則對(duì)于任意正數(shù)則對(duì)于任意正數(shù) , 成立不等式成立不等式.22|XP此不等式稱(chēng)為此不等式稱(chēng)為切比雪夫切比雪夫(Chebyshev)不等式不等式。對(duì)對(duì)一般一般隨機(jī)變量值的隨機(jī)變量值的估計(jì)估計(jì)要用到要用到一個(gè)重要的不等式，一個(gè)重要的不等式，221|XP此不等式亦可寫(xiě)成此不等式亦可寫(xiě)成10第五章第五章 大數(shù)定律即中心極限定理（知識(shí)點(diǎn)）大數(shù)定律即中心極限定理（知識(shí)點(diǎn)）1:1:幾乎處處收斂幾乎處處收斂、依概率收斂、依分布收斂的定義依概率收斂、依分布收斂的定義2 2：契比雪夫契比雪夫

7、大數(shù)定律（獨(dú)立大數(shù)定律（獨(dú)立、方差有界）， 貝努利大數(shù)定律貝努利大數(shù)定律 （二項(xiàng)分布二項(xiàng)分布的頻率穩(wěn)定性的頻率穩(wěn)定性）， 辛欽大數(shù)定律辛欽大數(shù)定律 （獨(dú)立同分布）。（獨(dú)立同分布）。3 3：林德貝格林德貝格勒維中心極限勒維中心極限 定理（獨(dú)立同分布），定理（獨(dú)立同分布）， 德莫弗德莫弗- -拉普拉斯拉普拉斯 定理定理 （二項(xiàng)分布二項(xiàng)分布）， 李雅普諾夫李雅普諾夫 定理定理 ( (李雅普諾夫條件李雅普諾夫條件) )。滿(mǎn)足條件的滿(mǎn)足條件的隨機(jī)變量隨機(jī)變量的的算術(shù)平均序列算術(shù)平均序列與它們的與它們的數(shù)學(xué)期望數(shù)學(xué)期望的的算術(shù)平均序列算術(shù)平均序列之差之差依概率收斂于零依概率收斂于零。則則隨機(jī)變量和隨機(jī)變量

8、和的的標(biāo)準(zhǔn)化標(biāo)準(zhǔn)化序列序列依分布收斂依分布收斂于于N(0,1),11 三個(gè)重要的收斂三個(gè)重要的收斂定義定義： 設(shè)設(shè), Y1,Y2,Yn,是一個(gè)隨機(jī)變量序列是一個(gè)隨機(jī)變量序列,X 也也是一個(gè)隨機(jī)變量是一個(gè)隨機(jī)變量. .XYean),()(limeXeYnn則稱(chēng)則稱(chēng),隨機(jī)變量序列隨機(jī)變量序列Y1,Y2,Yn,幾乎處處收斂幾乎處處收斂于于X.記為記為1：若存在若存在 N S, P(N)=0 . 若若對(duì)任意的對(duì)任意的 e Nc ,有有依概率收斂依概率收斂2：若對(duì)于任意正數(shù)若對(duì)于任意正數(shù) ,有有1|limXYPnn.XYPn 3：它們的分布函數(shù)分別為它們的分布函數(shù)分別為 Fn(x) 和和 F(x).若對(duì)

9、若對(duì)F的每的每一個(gè)連續(xù)點(diǎn)一個(gè)連續(xù)點(diǎn) x,都有都有)()(limxFxFnn.XYFn依分布收斂依分布收斂12定理一定理一:設(shè)隨機(jī)變量設(shè)隨機(jī)變量X1,X2,Xn,相互獨(dú)立相互獨(dú)立,且具有且具有 當(dāng)當(dāng)n充分大時(shí)充分大時(shí), 滿(mǎn)足條件的隨機(jī)變量滿(mǎn)足條件的隨機(jī)變量X1,X2,Xn的的算術(shù)平均算術(shù)平均接近于它們的接近于它們的數(shù)學(xué)期望的平均數(shù)學(xué)期望的平均。5.2大數(shù)定律大數(shù)定律或或有限方差有限方差, ,且存在常數(shù)且存在常數(shù)C C使得使得，), 2 , 1( ,)(kCXDk0112nkkXDn或或有限方差有限方差, ,滿(mǎn)足滿(mǎn)足，則則 依概率收斂依概率收斂于于 0 。nkknkkXEnXn11)(11或或相同

10、的數(shù)學(xué)期望和方差相同的數(shù)學(xué)期望和方差: E(Xk)= ,D(Xk)= 2.13定理三定理三(辛欽定理辛欽定理)：設(shè)隨機(jī)變量設(shè)隨機(jī)變量X1,X2,Xn,相互獨(dú)立相互獨(dú)立, 服從服從同一分布同一分布,且具有數(shù)學(xué)期望且具有數(shù)學(xué)期望 E(Xk)= (k=1,2,).則則隨機(jī)變量的隨機(jī)變量的平均序列平均序列 依概率收斂依概率收斂于于 .nkknXnY1114定理二定理二(貝努利定理貝努利定理)：設(shè)設(shè)nA是是n次獨(dú)立重復(fù)試驗(yàn)中事件次獨(dú)立重復(fù)試驗(yàn)中事件A發(fā)生的次數(shù)發(fā)生的次數(shù).p是事件是事件A在每次試驗(yàn)中發(fā)生的概率在每次試驗(yàn)中發(fā)生的概率,則則pnnXnYPAnkkn11(這是定理一、三的特殊情況這是定理一、三

11、的特殊情況)即：事件即：事件A發(fā)生的頻率發(fā)生的頻率依概率收斂依概率收斂于事件于事件A發(fā)生的概率。發(fā)生的概率。15定理一定理一(獨(dú)立同分布的中心極限定理獨(dú)立同分布的中心極限定理)則則隨機(jī)變量和隨機(jī)變量和的的標(biāo)準(zhǔn)化標(biāo)準(zhǔn)化序列序列5.3中心極限定理中心極限定理nnXXDXEXYnkknkknkknkkn1111)()(設(shè)設(shè) X1,X2,Xn,為相互獨(dú)立的隨機(jī)變量為相互獨(dú)立的隨機(jī)變量,服從同服從同一分布一分布,且具有數(shù)學(xué)期望和方差且具有數(shù)學(xué)期望和方差: E(Xk)= ,D(Xk)= 2 0,(k=1,2,).1 , 0(NYFn依分布收斂依分布收斂于于N(0,1),即即16定理三定理三(德莫弗德莫弗-

12、拉普拉斯拉普拉斯De Moivre-Laplace定理定理)設(shè)設(shè) 隨機(jī)變量序列隨機(jī)變量序列 n 服從參數(shù)為服從參數(shù)為n,p的二項(xiàng)分布的二項(xiàng)分布,則則)1 ,0()1 (NpnpnpFn即即, 對(duì)于足夠大的對(duì)于足夠大的 n，隨機(jī)變量隨機(jī)變量 n 近似服從近似服從N (np, npq) .17定理二定理二(李雅普諾夫李雅普諾夫Liapunov定理定理)nkknB122若存在正數(shù)若存在正數(shù) ,使得當(dāng)使得當(dāng) n 時(shí)時(shí),0|1lim122nkkknnXEB 設(shè)設(shè) X1,X2,Xn,為相互獨(dú)立的隨機(jī)變量為相互獨(dú)立的隨機(jī)變量, 具有數(shù)具有數(shù)學(xué)期望和方差學(xué)期望和方差: E(Xk)= k ,D(Xk)= k2

13、0,記記)1 ,0()()(11111NBXXDXEXZFnnkknkknkknkknkkn則則隨機(jī)變量和隨機(jī)變量和的的標(biāo)準(zhǔn)化標(biāo)準(zhǔn)化序列序列依分布收斂依分布收斂于于N(0,1),即即18第六章第六章 樣本及抽樣分布（知識(shí)點(diǎn)）樣本及抽樣分布（知識(shí)點(diǎn)）1.1.隨機(jī)樣本、隨機(jī)樣本、統(tǒng)計(jì)量統(tǒng)計(jì)量的的定義定義: : 2. 2. 幾個(gè)常用的統(tǒng)計(jì)量：幾個(gè)常用的統(tǒng)計(jì)量：樣本平均值樣本平均值; ; 樣本方差樣本方差; ; 樣本標(biāo)準(zhǔn)差樣本標(biāo)準(zhǔn)差; ; 樣本樣本k k階階( (原點(diǎn)原點(diǎn)) )矩矩; ; 樣本樣本k k階階( (中心中心) )矩矩; ;樣本極差樣本極差; 樣本中位數(shù)樣本中位數(shù); ; 樣本分布函數(shù)。樣本

14、分布函數(shù)。8個(gè)個(gè)3 3：幾個(gè)：幾個(gè)抽樣分布抽樣分布(0) 正態(tài)正態(tài)分布分布(一一) 2分布分布;(二二) t分布分布;(三三) F分布分布 4個(gè)個(gè)4 4：分布的分布的上上 、下下 、雙側(cè)雙側(cè) 分位點(diǎn)分位點(diǎn)5 5：正態(tài)總體的正態(tài)總體的樣本均值樣本均值與與樣本方差樣本方差的分布的分布 4個(gè)個(gè) 19定義定義: 設(shè)設(shè)X是具有分布函數(shù)是具有分布函數(shù)F的隨機(jī)變量。若的隨機(jī)變量。若X1,X2, Xn是相互獨(dú)立且具有同一分布的是相互獨(dú)立且具有同一分布的n個(gè)隨機(jī)變量個(gè)隨機(jī)變量,則稱(chēng)則稱(chēng)X1,X2,Xn為從分布函數(shù)為從分布函數(shù)F(或總體或總體F 、或總體、或總體X)得到得到的的容量為容量為n的簡(jiǎn)單隨機(jī)樣本的簡(jiǎn)單隨

15、機(jī)樣本,簡(jiǎn)稱(chēng)簡(jiǎn)稱(chēng)樣本樣本.它們的觀察值它們的觀察值x1,x2,xn稱(chēng)為稱(chēng)為樣本值樣本值,又稱(chēng)為又稱(chēng)為X的的n個(gè)獨(dú)立觀察值個(gè)獨(dú)立觀察值. 6.1隨機(jī)樣本隨機(jī)樣本總體均可視為總體均可視為無(wú)限總體無(wú)限總體; 抽出的部分抽出的部分(n個(gè)個(gè))個(gè)體為一個(gè)樣個(gè)體為一個(gè)樣本本,亦視為亦視為有放回抽取有放回抽取, 保證抽樣為保證抽樣為獨(dú)立獨(dú)立、同分布同分布的隨的隨機(jī)樣本機(jī)樣本; 其個(gè)數(shù)其個(gè)數(shù)n為樣本容量為樣本容量。20定義定義 設(shè)設(shè)X1,X2,Xn是來(lái)自總體是來(lái)自總體X的一個(gè)的一個(gè)樣本樣本, 若若g是是連續(xù)函數(shù)連續(xù)函數(shù)且且g中中不含任何未知參數(shù)不含任何未知參數(shù), 則稱(chēng)函數(shù)則稱(chēng)函數(shù)g(X1,X2,Xn )是一個(gè)是

16、一個(gè)統(tǒng)計(jì)量統(tǒng)計(jì)量. 又設(shè)又設(shè)x1,x2,xn是相應(yīng)于是相應(yīng)于X1,X2,Xn的的樣本值樣本值, 則稱(chēng)則稱(chēng)g(x1,x2,xn )為為g(X1,X2,Xn ) 的的觀察值觀察值. 21設(shè)設(shè)X1,X2,Xn是來(lái)自總體是來(lái)自總體X的一個(gè)的一個(gè)樣本樣本, x1,x2,xn是相應(yīng)于是相應(yīng)于X1,X2,Xn的樣本的樣本觀察值觀察值. 6.2 幾個(gè)常用的統(tǒng)計(jì)量幾個(gè)常用的統(tǒng)計(jì)量樣本平均值樣本平均值:;11nkkXnX樣本方差樣本方差:; 11)(11122122nkknkkXnXnXXnS樣本標(biāo)準(zhǔn)差樣本標(biāo)準(zhǔn)差:;)(11122nkkXXnSS定義定義:22樣本樣本k階階(原點(diǎn)原點(diǎn))矩矩:,.;2, 1,11k

17、XnAnikik樣本樣本k階階(中心中心)矩矩:,.;2, 1,)(11kXXnBnikik樣本極差樣本極差:,.,min,.,maxn21n21xxxxxxR 23我們指出我們指出:若總體若總體X的的k階矩存在階矩存在,記為記為E(Xk)= k ,則當(dāng)則當(dāng) n 時(shí)（時(shí)（辛欽定理辛欽定理）.,21kXn1AkPn1ikik 對(duì)于連續(xù)函數(shù)對(duì)于連續(xù)函數(shù)g(x1,xk)，由，由依概率收斂序列的依概率收斂序列的性質(zhì)性質(zhì)知知,),(),(k21Pk21gAAAg 24樣本的函數(shù)是樣本的函數(shù)是統(tǒng)計(jì)量統(tǒng)計(jì)量,它是一個(gè)隨機(jī)變量它是一個(gè)隨機(jī)變量.它的分布稱(chēng)為它的分布稱(chēng)為抽樣分布抽樣分布.(一一) 2分布分布22

18、2212nXXX為服從自由度為為服從自由度為 n 的的 2 分布分布,記為記為 2 2(n)設(shè)設(shè)X1,X2,Xn是來(lái)自總體是來(lái)自總體N(0,1)的樣本的樣本,則稱(chēng)則稱(chēng)統(tǒng)計(jì)量統(tǒng)計(jì)量6.3 抽樣分布抽樣分布25(二二) t分布分布nYXt/為服從自由度為為服從自由度為 n 的的 t 分布分布, 記為記為 t t(n).設(shè)設(shè) X N (0,1) , Y 2(n) , X 與與 Y 相互獨(dú)立相互獨(dú)立. 則稱(chēng)則稱(chēng)統(tǒng)計(jì)量統(tǒng)計(jì)量26(三三) F分布分布21/nVnUF 為服從自由度為為服從自由度為 (n1,n2) 的的 F 分布分布,記為記為 F F(n1,n2)設(shè)設(shè) U 2(n1), V 2(n2) ,

19、U 與與 V 相互獨(dú)立相互獨(dú)立. 則稱(chēng)則稱(chēng)統(tǒng)計(jì)量統(tǒng)計(jì)量顯然，顯然，1/F為服從自由度為為服從自由度為 (n2 ,n1) 的的 F 分布分布,即即 1/F F(n2 ，n1)276.4（正態(tài)）總體的（正態(tài)）總體的樣本均值樣本均值與與樣本方差樣本方差的分布的分布)( XE 1. 設(shè)總體設(shè)總體X數(shù)學(xué)期望數(shù)學(xué)期望E(X)= 和方差和方差D(X)= 2存在存在 (不管服從什么分布不管服從什么分布)。 又設(shè)又設(shè)X1,X2,Xn是來(lái)自總體是來(lái)自總體X的樣本的樣本,則總有則總有2.進(jìn)而，進(jìn)而， 若若 X N( , 2)，則，則nXD/)(2)/,(2nNX于是進(jìn)而于是進(jìn)而有有定理一定理一：)1 ,0(/NnX

20、28定理二定理二：設(shè)設(shè)X1,X2,Xn是來(lái)自總體是來(lái)自總體N( , 2) X的樣本的樣本,2S與X為樣本均值和方差為樣本均值和方差,則有則有1.2.)1()1(222nSn.S2相互獨(dú)立與X29定理三定理三：設(shè)設(shè)X1,X2,Xn是來(lái)自總體是來(lái)自總體N( , 2)的樣本的樣本,2S與X為樣本均值和方差為樣本均值和方差,則有則有)1(/ntnSX30設(shè)設(shè)X1,X2,Xn1與與Y1,Y2,Yn2分別是來(lái)自?xún)煞謩e是來(lái)自?xún)烧龖B(tài)總體正態(tài)總體N( 1, 12), N( 2, 22)的樣本的樣本,且這兩且這兩個(gè)樣本相互獨(dú)立個(gè)樣本相互獨(dú)立.這兩個(gè)樣本的均值為這兩個(gè)樣本的均值為2111,njjniiYYXX與這兩

21、個(gè)樣本的方差為這兩個(gè)樣本的方差為,)(11112121niiXXnS212222)(11njjYYnS31其中：其中：)2(11)()(212121nntnnSYXw如果且具有如果且具有相同方差相同方差,則則:定理四定理四:)2()1()1(221222211nnSnSnwS則有則有:定理五定理五:)1, 1(2122212221nnFSS326.5 (1) 分布的分布的上上 分位點(diǎn)分位點(diǎn),)(1zFzXP則稱(chēng)則稱(chēng) 為該分布的上為該分布的上 分位點(diǎn)分位點(diǎn). 如如:正態(tài)分布正態(tài)分布 、 t 分布分布、 2分布分布、 F 分布分布、.等的等的上上 分位點(diǎn)分位點(diǎn). 請(qǐng)注意：請(qǐng)注意：設(shè)設(shè) X為一個(gè)隨機(jī)

22、變量為一個(gè)隨機(jī)變量,其分布為其分布為F,對(duì)任意對(duì)任意0 1,若若 滿(mǎn)足條件滿(mǎn)足條件zz, 1)(zF33(2) 分布的分布的下下 分位點(diǎn)分位點(diǎn),)(zFzXP則稱(chēng)則稱(chēng) 為該分布的下為該分布的下 分位點(diǎn)分位點(diǎn). 如如:正態(tài)分布正態(tài)分布 、 t 分布分布、 2分布分布、 F 分布分布、.等的等的下下 分位點(diǎn)分位點(diǎn).請(qǐng)注意：請(qǐng)注意： 設(shè)設(shè) X為一個(gè)隨機(jī)變量為一個(gè)隨機(jī)變量,其分布為其分布為F,對(duì)任意對(duì)任意0 1,若若 滿(mǎn)足條件滿(mǎn)足條件zz,)(zF34(3) 對(duì)稱(chēng)分布的對(duì)稱(chēng)分布的 雙側(cè)雙側(cè) 分位點(diǎn)分位點(diǎn),1)(2)()(-zF-z-FzFzXP則稱(chēng)則稱(chēng) 為該分布的為該分布的雙側(cè)雙側(cè) 分位點(diǎn)。分位點(diǎn)。 如如:正態(tài)分正態(tài)分布布 、 t 分布分布、 .等的等的雙側(cè)雙側(cè) 分位點(diǎn)分位點(diǎn)。請(qǐng)注意：。請(qǐng)注意： 設(shè)設(shè) X為一