第五章__大數(shù)定律與中心極限定理

1、第一節(jié)第一節(jié) 大數(shù)定律大數(shù)定律第二節(jié)第二節(jié) 中心極限定理中心極限定理 第五章第五章 大數(shù)定律及中心極限定理大數(shù)定律及中心極限定理第第5章概述章概述 大數(shù)定律和中心極限定理就是大數(shù)定律和中心極限定理就是使用使用極限極限方法方法研究大量隨機(jī)現(xiàn)象統(tǒng)計(jì)規(guī)律性研究大量隨機(jī)現(xiàn)象統(tǒng)計(jì)規(guī)律性. 闡明闡明大量重復(fù)試驗(yàn)的平均結(jié)果具有穩(wěn)定性大量重復(fù)試驗(yàn)的平均結(jié)果具有穩(wěn)定性的的一系列定律都稱為一系列定律都稱為大數(shù)定律大數(shù)定律. 論證論證隨機(jī)變量（試驗(yàn)結(jié)果）之和漸進(jìn)服從某隨機(jī)變量（試驗(yàn)結(jié)果）之和漸進(jìn)服從某一分布一分布的定理稱為的定理稱為中心極限定理中心極限定理.契比雪夫不等式契比雪夫不等式.,)(,)(222成成立立不

2、不等等式式則則對(duì)對(duì)于于任任意意正正數(shù)數(shù)方方差差具具有有數(shù)數(shù)學(xué)學(xué)期期望望設(shè)設(shè)隨隨機(jī)機(jī)變變量量定定理理XPXDXEX 切比雪夫不等式切比雪夫不等式切比雪夫不等式也可以寫(xiě)成切比雪夫不等式也可以寫(xiě)成22(|)1PX 大數(shù)定律大數(shù)定律 概率論中有關(guān)闡明概率論中有關(guān)闡明大量隨機(jī)現(xiàn)象平大量隨機(jī)現(xiàn)象平均結(jié)果的穩(wěn)定性均結(jié)果的穩(wěn)定性的一系列定理的一系列定理。 迄今為止迄今為止,人們已發(fā)現(xiàn)很多人們已發(fā)現(xiàn)很多大數(shù)定律大數(shù)定律(laws of large numbers),所謂大數(shù)定律，簡(jiǎn)單地說(shuō)，就是所謂大數(shù)定律，簡(jiǎn)單地說(shuō)，就是大大量數(shù)目的隨機(jī)變量所呈現(xiàn)出的規(guī)律量數(shù)目的隨機(jī)變量所呈現(xiàn)出的規(guī)律，這種規(guī)律一般，這種規(guī)律一般

3、用隨機(jī)變量序列的某種收斂性來(lái)刻畫(huà)。用隨機(jī)變量序列的某種收斂性來(lái)刻畫(huà)。lim | 1lim |0nnnnPXaPXa，或等價(jià)地，則稱則稱 Xn 依概率收斂依概率收斂于于a, , 記作記作: :lim,( )PnnnXa PXa 或12,nXXXa定義1 設(shè)是一個(gè)隨機(jī)變量序列，是一個(gè)常數(shù)，若對(duì)任意正數(shù) ，有1212,lim1,1lim. . .nnnnnnnX XXXXX XXXXXasX asX 定義2 設(shè)是一個(gè)隨機(jī)變量序列，若存在隨機(jī)變量X（可以是一常數(shù)），使P我們稱隨機(jī)變量序列以概率收斂于 ，或說(shuō)幾乎處處收斂于X，并記為，或。11nniiXXn若若lim()0,(),nnnXE XPn則稱隨

4、機(jī)序列X 服從大數(shù)定律。12,()nnXXXE X定義3 設(shè)是一個(gè)隨機(jī)變量序列，數(shù)學(xué)期望存在，令1.1.伯努利大數(shù)定伯努利大數(shù)定律律lim | 1nnPpn5.1,0,nEnApA定理設(shè)試驗(yàn) 重復(fù)進(jìn)行了 次 事件 在每次實(shí)驗(yàn)中出現(xiàn)的概率為表示事件 發(fā)生的次數(shù),則對(duì)任意有證明證明: ( , ),nb n p因?yàn)?),()(1)nnEnp Dnpp故21(1)(),()()nnnppEpDDnnnn從而2| 1DXP XEX 由切比雪夫不等式，lim()1nnPpn從而22()(1)()11nnDppnPpnn n 令2(1)11ppn伯努利大數(shù)定律說(shuō)明了伯努利大數(shù)定律說(shuō)明了當(dāng)重復(fù)獨(dú)立試驗(yàn)次數(shù)當(dāng)重

5、復(fù)獨(dú)立試驗(yàn)次數(shù) n 很大時(shí)，頻率與其概率之差可為任意小很大時(shí)，頻率與其概率之差可為任意小， 即說(shuō)明了其即說(shuō)明了其頻率的穩(wěn)定性頻率的穩(wěn)定性。從而在實(shí)際推斷中，當(dāng)試驗(yàn)次數(shù)較大時(shí)，可以從而在實(shí)際推斷中，當(dāng)試驗(yàn)次數(shù)較大時(shí)，可以用事件發(fā)生的頻率來(lái)近似代替概率。用事件發(fā)生的頻率來(lái)近似代替概率。1,(1,2)0iiAXiniA第次實(shí)驗(yàn)中事件 發(fā)生 若記，第次實(shí)驗(yàn)中事件 不發(fā)生1,nniiX則11,nniiXnn1111( )(),nniiipP AE Xnn從而定理可寫(xiě)成：1111lim()1nniiniiPXE Xnn2.2.切比雪夫大數(shù)定律切比雪夫大數(shù)定律 1211,()(1,2)0,11lim()1n

6、inniiniiXXXcD Xc iPXE Xnn設(shè)相互獨(dú)立的隨機(jī)變量序列的數(shù)學(xué)期望與方差都存在,且存在常數(shù) ,使得,則對(duì)任意有211111111()1nnniiiiiiPXE XDXnnn 21cn 證明證明: 由期望與方差的性質(zhì)知1111()()nniiiiEXE Xnn11()niiDXn211()niiD Xn21ncncn利用切比雪夫不等式,1111lim()1nniiniiPXE Xnn所以 切比雪夫大數(shù)定律切比雪夫大數(shù)定律表明，當(dāng)表明，當(dāng)n很大時(shí)，很大時(shí)，X1，X2 , ,，Xn的算術(shù)平均值的算術(shù)平均值 niiXnX11的取值，集中在其數(shù)學(xué)期望的取值，集中在其數(shù)學(xué)期望11()()

7、niiE XE Xn附近。附近。121,()(),1lim()1niininiXXXE XD XPXn2推論 設(shè)隨機(jī)變量序列相互獨(dú)立,且具有相同的期望和方差：= ,=則對(duì)任意正數(shù) ，有這使我們關(guān)于算術(shù)平均值的法則有了理論上的依據(jù)。這使我們關(guān)于算術(shù)平均值的法則有了理論上的依據(jù)。12,nXXX由大數(shù)定律知，只要由大數(shù)定律知，只要n充分大，則以接近于充分大，則以接近于1的概率保證的概率保證這便是在這便是在n較大情況下反映出的客觀規(guī)律較大情況下反映出的客觀規(guī)律,故稱為故稱為“大數(shù)大數(shù)”定定律律 如我們要測(cè)量某段距離，在相同條件下重復(fù)進(jìn)行如我們要測(cè)量某段距離，在相同條件下重復(fù)進(jìn)行n次，得次，得n個(gè)測(cè)量值

8、個(gè)測(cè)量值 ，它們可以看成是，它們可以看成是n個(gè)相個(gè)相互獨(dú)立的隨機(jī)變量具有相同的分布、相同的數(shù)學(xué)期望互獨(dú)立的隨機(jī)變量具有相同的分布、相同的數(shù)學(xué)期望和方差和方差 ， 2niiXn11 人們已經(jīng)知道，在自然界和生產(chǎn)實(shí)踐中遇到大人們已經(jīng)知道，在自然界和生產(chǎn)實(shí)踐中遇到大量隨機(jī)變量都服從或近似服從正態(tài)分布，正因如此，量隨機(jī)變量都服從或近似服從正態(tài)分布，正因如此，正態(tài)分布占有特別重要的地位。正態(tài)分布占有特別重要的地位。 那么，那么，如何判斷一個(gè)隨機(jī)變量服從正態(tài)分布如何判斷一個(gè)隨機(jī)變量服從正態(tài)分布顯得尤為重要。如經(jīng)過(guò)長(zhǎng)期的觀測(cè)，人們已經(jīng)知顯得尤為重要。如經(jīng)過(guò)長(zhǎng)期的觀測(cè)，人們已經(jīng)知道，很多工程測(cè)量中產(chǎn)生的誤差道

9、，很多工程測(cè)量中產(chǎn)生的誤差X都是服從正態(tài)分都是服從正態(tài)分布的隨機(jī)變量。布的隨機(jī)變量。 分析起來(lái)，造成誤差的原因有儀器偏差分析起來(lái)，造成誤差的原因有儀器偏差X1、大氣折射偏差大氣折射偏差X2, ,溫度變化偏差溫度變化偏差X3、估讀誤差、估讀誤差造成的偏差造成的偏差X4等等，這些偏差等等，這些偏差Xi 對(duì)總誤差對(duì)總誤差 的影響都很微小，沒(méi)有一個(gè)起到特別突出的影的影響都很微小，沒(méi)有一個(gè)起到特別突出的影響，雖然每個(gè)響，雖然每個(gè)Xi的分布并不知道，但的分布并不知道，但 卻服從正態(tài)分布。卻服從正態(tài)分布。iXX例如：(1, )nXBp設(shè)隨機(jī)變量序列獨(dú)立同分布于兩點(diǎn)分布,1( , )nnkkYXB n p那么

10、其部份和服從二項(xiàng)分布，5,10,20( ,0.5)nb n分別對(duì)畫(huà)出二項(xiàng)分布密度的圖形n 易知，當(dāng) 變大時(shí)，這些圖形越來(lái)越接近正態(tài)分布的密度曲線.0246810121416182000.020.040.060.080.10.120.140.160.180246810121416182000.050.10.150.20.250246810121416182000.050.10.150.20.250.30.35lim( )( )nnF xF x則稱則稱 Xn 依依分布分布收斂收斂于于X, , 并稱并稱F F（x x）為）為( )nF x 極限分布函數(shù)。( ),1,2,. ( )(1,2,.)( )

11、,nx nF xXnF xxn定義1 設(shè)F分別為隨機(jī)變量序列，及隨機(jī)變量X的分布函數(shù)，若對(duì)的任一連續(xù)點(diǎn) 有 n設(shè)為任一隨機(jī)變量序列，其和的標(biāo)準(zhǔn)化隨機(jī)變量111()()nniiiinniiEYDlim( )nnP Yxx 在什么條件下滿足？ 這是此后這是此后300多年來(lái)，概率論研究的一個(gè)多年來(lái)，概率論研究的一個(gè)中心，故稱作中心，故稱作中心極限定理中心極限定理（Central Limit Theorems）。）。 2122112.,()()0,(1,2).(),(1,2,.),1lim2nnnnnnkknknknkntynnXXXE XaD XnXaBDXYnByRP Yyedt2n定義52 設(shè)是

12、相互的隨機(jī)變量序列,且,=,= 令= 若對(duì)于一致有則稱隨機(jī)變量序列獨(dú)立具有有限的數(shù)X 服從中心學(xué)期極望和方差限定理。5.2.15.2.1. .林德林德伯伯格格-列列維定理維定理( (獨(dú)立同分布獨(dú)立同分布) ) 12111111,()()0(1,2).()()( ),1lim( )lim()( )2niiniinnniiiiiinniinniinnnXXXE XD XiXXEXXnYnDXF xxXnF xPxxn 2定理2 設(shè)是相互的隨機(jī)變量序列,且,= ,=則隨機(jī)變量之和的 的分布函數(shù)對(duì)任意實(shí)數(shù) 滿足獨(dú)立同分布具有數(shù)學(xué)期望和方差標(biāo)準(zhǔn)化隨機(jī)變量22txedt%例2 某單位有500部電話分機(jī),假

13、定每部分機(jī)有4的時(shí)間要用外線通話，且各分機(jī)是否要用外線相互獨(dú)立，問(wèn)該單位總機(jī)至少需要安裝多少條外線，才能以90%以上的概率保證每部分機(jī)用外線時(shí)不必等候.解:00,設(shè)X表示5臺(tái)中同時(shí)要用外線通話的分機(jī)數(shù) 則(500,0.04)XB()20,()19.2E XD X且:(20,19.2) ()XN由中心極限定理近似N設(shè) 表示安裝外線數(shù)目,由題意()0.9P XN5001()()kkP XxPXx即5001202020= ()19.219.219.2kkXxxP 25.69x:(1.30)0.9032查 表 得 推論：推論：棣莫佛棣莫佛-拉普拉斯定理拉普拉斯定理221lim( )(1)2txnnXn

14、pPxedtxnpp1( , ), (1,2),nXB n pnxR定理設(shè)隨機(jī)變量則對(duì)任意有. .1900003例523：一船舶在某海區(qū)航行，已知每遭受一次波浪的沖擊，縱搖角大于3度的概率為 ，若船舶遭受了次波浪沖擊，問(wèn)其中有2950030500次縱搖角大于3度的概率是多少？解:90000,X設(shè) 表示次波浪沖擊中縱搖角大于3度的次數(shù) 則1(90000, )3XB:由中心極限定理(2950030500)2950030500()(1)(1)(1)PXnpXnpnpPnppnppnpp即5 2()-0.99952 5 2（）290000,1/3,np()()bnannn 1niiP aXb11()n

15、iianbnPXnnnn111(,)nnniiiiiiXNEXDX結(jié)論：21(,)niiXN nn即注意:(1),0.1,ppnpnp泊松分布告訴我們 當(dāng)時(shí) 二項(xiàng)分布可用泊松分布作近似計(jì)算,而上述定理不受 值的限制.但若 很大,很小(5),則用正態(tài)分布作近似不如泊松分布精確.(2),nnnn很大 是一個(gè)較為模糊的概念 經(jīng)驗(yàn)告訴我們 如果取50(有時(shí)可放寬到30),則近似程度便可以滿足一般要求.當(dāng)然, 越大精度越好.niXEX 設(shè)為獨(dú)立同分布隨機(jī)變量序列，02iDX111lim1niniPXn、由大數(shù)定律知，對(duì)任意正數(shù) ， 有11niiPXn 大數(shù)定理并未給出的表達(dá)式，但是保證了它的極限為1最后

16、，我們指出最后，我們指出大數(shù)定律與中心極限定理的區(qū)別大數(shù)定律與中心極限定理的區(qū)別： 因此，在所給條件下，中心極限定理不僅給出了因此，在所給條件下，中心極限定理不僅給出了概率的近似表達(dá)式，而且也能保證了其極限是概率的近似表達(dá)式，而且也能保證了其極限是1，可見(jiàn)，可見(jiàn)中心極限定理的結(jié)論更為深入中心極限定理的結(jié)論更為深入.這時(shí)，對(duì)于任意的這時(shí)，對(duì)于任意的0及某固定的及某固定的n，有，有211nn nnnXPXnPniii112、而在以上條件下，中心極限定理亦成、而在以上條件下，中心極限定理亦成.中心極限定理的意義中心極限定理的意義 在后面的課程中，我們還將經(jīng)常用到中心極限在后面的課程中，我們還將經(jīng)常用

17、到中心極限定理定理. 中心極限定理是概率論中最著名的結(jié)果之一，中心極限定理是概率論中最著名的結(jié)果之一，它不僅提供了計(jì)算獨(dú)立隨機(jī)變量之和的近似概率的它不僅提供了計(jì)算獨(dú)立隨機(jī)變量之和的近似概率的簡(jiǎn)單方法，而且有助于解釋為什么很多自然群體的簡(jiǎn)單方法，而且有助于解釋為什么很多自然群體的經(jīng)驗(yàn)頻率呈現(xiàn)出鐘形曲線這一值得注意的事實(shí)經(jīng)驗(yàn)頻率呈現(xiàn)出鐘形曲線這一值得注意的事實(shí).思考題：思考題： 在人壽保險(xiǎn)公司里有在人壽保險(xiǎn)公司里有3000個(gè)同一年齡的人參個(gè)同一年齡的人參加人壽保險(xiǎn)加人壽保險(xiǎn). .在一年里在一年里, ,這些人的死亡率為這些人的死亡率為0.1%. 參參加保險(xiǎn)的人在一年的頭一天交付保險(xiǎn)費(fèi)加保險(xiǎn)的人在一年的頭一天交付保險(xiǎn)費(fèi)100元元, ,死亡死亡時(shí)時(shí), ,家屬可以從