概率統(tǒng)計(jì)(魏宗舒版)4

第四章大數(shù)定律與中心極限定律

4.1大數(shù)定律(一)依概率收斂第一章提到過，某一事件A發(fā)生的頻率，當(dāng)實(shí)驗(yàn)次數(shù)n增大時(shí)，會(huì)逐漸趨向于其概率。即若能否理解為對(duì)任意一組實(shí)驗(yàn)中的樣本點(diǎn)ω，有，顯然上述極限不成立，但是發(fā)生的概率很小。設(shè)第i次試驗(yàn)事件A發(fā)生第i次試驗(yàn)事件A不發(fā)生則由切比雪夫不等式則稱{ξn}依概率收斂于ξ

.記為：定義設(shè){ξn}為一個(gè)隨機(jī)變量序列，ξ為一個(gè)隨機(jī)變量，若任給的ε>0，有等價(jià)定義設(shè){ξn}為一個(gè)隨機(jī)變量序列，ξ一個(gè)隨機(jī)變量，若任給的ε>0，δ>0存在N，使得當(dāng)n>N時(shí)，則稱{ξn}依概率收斂于ξ。表示不管ε有多小，當(dāng)n→∞，ξn落在內(nèi)的概率→1，即落在外的概率→0。ξn收斂于ξ的幾種形式。對(duì)任意ω?，有1.逐點(diǎn)收斂2.一致收斂對(duì)任意ε>0，存在N，當(dāng)n>N時(shí)，對(duì)所有ω?，有若存在A?，P(A)=1，使得對(duì)任意ωA，有3.幾乎必然收斂ξn幾乎必然收斂于ξ，可記為用集合的方式來表示即是其中ξn收斂于ξ的點(diǎn)ω構(gòu)成的集合是4.幾乎必然一致收斂若存在A?，P(A)=1，使得對(duì)任意ε>0，存在N，當(dāng)n>N時(shí)，對(duì)所有ωA，有用集合的方式來表示即是，存在一個(gè)整數(shù)序列{nl}，l=1,2,…使得如果隨機(jī)變量序列ξn的分布函數(shù)Fn(x)在連續(xù)點(diǎn)處收斂于ξ的分布函數(shù)F(x)，稱ξn弱收斂于ξ,記作也稱隨機(jī)變量ξn依分布收斂于ξ。5.弱收斂也把它記為6.積分平均收斂各種收斂之間的關(guān)系幾乎必然一致收斂幾乎必然收斂弱收斂依概率收斂積分平均收斂依概率收斂存在子列幾乎必然收斂(二)幾個(gè)常用的大數(shù)定律1.伯努利大數(shù)定律定理4.1(伯努利定理)設(shè)μn是n重伯努利試驗(yàn)中事件A出現(xiàn)的次數(shù)，又A在每次試驗(yàn)中出現(xiàn)的概率為p(0<p<1),則A出現(xiàn)的頻率fn(A)依概率收收斂于p，即對(duì)任意的ε>0，有證明:設(shè)第i次試驗(yàn)事件A發(fā)生第i次試驗(yàn)事件A不發(fā)生則由切比雪夫大數(shù)定律事實(shí)上，可以證明幾乎處處收斂于p，即滿足強(qiáng)大數(shù)定律。大數(shù)定律的一般定義定義4.1若是隨機(jī)變量序列，如果存在常數(shù)使得成立，則稱隨機(jī)變量序列服從大數(shù)定律。則對(duì)任意的ε>0，有2.切比雪夫大數(shù)定律定理4.2設(shè)是一列兩兩不相關(guān)的隨機(jī)變量，又設(shè)它們的方差有界，即存在常數(shù)C>0，使有證明；由切比雪夫不等式由于兩兩不相關(guān)，例4.1設(shè)是獨(dú)立同分布的隨機(jī)變量序列，均服從參數(shù)為λ的泊松分布，因?yàn)镋ξi=λ，Dξi=λ，因此滿足大數(shù)定律，即對(duì)任意ε>0，有3.馬爾可夫大數(shù)定律定理4.3對(duì)隨機(jī)變量序列，若有則服從大數(shù)定律，即對(duì)任意的ε>0，有大數(shù)定律的證明過程中利用了稱其為馬爾可夫條件。當(dāng)隨機(jī)變量序列獨(dú)立且方差有界時(shí)顯然有而如果隨機(jī)變量序列獨(dú)立同分布，方差存在即有界，顯然滿足馬爾可夫條件，進(jìn)而滿足大數(shù)定律。即馬爾可夫大數(shù)定律成立。而如果隨機(jī)變量序列僅僅是獨(dú)立同分布，方差是否存在未知，則同樣可以證明其滿足大數(shù)定律，但是不能用切比雪夫大數(shù)定律了，要用到特征函數(shù)的工具。3.辛欽大數(shù)定律定理4.4若為獨(dú)立同分布隨機(jī)變量序列,且數(shù)學(xué)期望存在：則對(duì)于任意，有（三）幾個(gè)大數(shù)定的關(guān)系結(jié)論條件伯努利大數(shù)定律頻率依概率收斂于概率切比雪夫大數(shù)定律平均值依概率收斂于其數(shù)學(xué)期望馬爾可夫大數(shù)定律辛欽大數(shù)定律隨機(jī)變量序列兩兩不相關(guān)且方差有界方差的平均值趨向于0獨(dú)立同分布且數(shù)學(xué)期望存在則稱{ξn}依概率收斂于η

.記為：定義4.2設(shè){ηn}為一個(gè)隨機(jī)變量序列，若任給的ε>0，有等價(jià)定義設(shè){ηn}為一個(gè)隨機(jī)變量序列，若任給的ε>0，δ>0存在N，使得當(dāng)n>N時(shí)，則稱{ηn}依概率收斂于η。4.2隨機(jī)變量序列的兩種收斂性或關(guān)于依概率收斂極限的唯一性若且關(guān)于依概率收斂極限保持運(yùn)算的性質(zhì)若且問？？這里只證明加法的情形，對(duì)任意的ε>0,依概率收斂性是否被連續(xù)函數(shù)所保持？即若，f(x)是連續(xù)函數(shù)，是否成立？考慮f(x)一致連續(xù)的情況，證明如下：對(duì)任意的ε>0，存在δ>0，使得當(dāng)|x1-x2|<δ時(shí)，|f(x1)-f(x2)|<δ，故故有證明：對(duì)任意的，有例4.2設(shè)η，{ηn}都是服從退化分布的隨機(jī)變量序列，且則，但。自然的問題分布函數(shù)證明：對(duì)當(dāng)故但故只在不連續(xù)點(diǎn)0處定義4.3設(shè)F1(x),F2(x),F3(x),…是一列分布函數(shù)，如果對(duì)F(x)的每個(gè)連續(xù)點(diǎn)x，都有稱分布函數(shù){Fn(x)}弱收斂于分布函數(shù)F(x),并記作如果隨機(jī)變量序列ηn的分布函數(shù)弱收斂于η的分布函數(shù)，也稱ηn弱收斂于η,記作也稱隨機(jī)變量ηn依分布收斂于η。定理4.5若隨機(jī)變量序列η1,η2,η3,…依概率收斂于隨機(jī)變量η,即則相應(yīng)的分布函數(shù)F1(x),F2(x),F3(x),…弱收斂于分布函數(shù)F(x)，即證明：對(duì)故而故即當(dāng)時(shí)，同理有于是當(dāng)時(shí)，有當(dāng)F在x處連續(xù)時(shí)，令

有定理4.5的逆命題不真，即弱收斂不蘊(yùn)含依概率收斂例4.3拋擲一枚均勻的硬幣的試驗(yàn)，樣本空間為Ω={H,T}定義兩個(gè)隨機(jī)變量：顯然，它們有相同的分布函數(shù)令則不成立但僅在非常特殊的一些情況下弱收收斂才蘊(yùn)含依概率收斂。定理4.6隨機(jī)變量序列（c為常數(shù)）的充要條件是這里F(x)是η=c的分布函數(shù)，也就是退化分布：證明：作業(yè)：P226126選做38問題：由第3章知識(shí)隨機(jī)變量的分布函數(shù)和其特征函數(shù)一一對(duì)應(yīng)，那么依分布收斂（弱收斂）與其特征函數(shù)的收斂性是否等價(jià)？定理4.7分布函數(shù)列{Fn(x)}弱收斂于分布函數(shù)F(x)的充要條件是相應(yīng)的特征函數(shù)列{φn(x)}收斂于F(x)的特征函數(shù)φ(x)。例4.4若ξλ是服從參數(shù)為λ的泊松分布的隨機(jī)變量，證明：證明：已知ξλ特征函數(shù)是，故的特征函數(shù)為因?yàn)楣使蕪亩菢?biāo)準(zhǔn)正態(tài)分布隨機(jī)變量的特征函數(shù)，由定理4.7定理4.4（辛欽大數(shù)定律）的證明：

因?yàn)棣蝛同分布，故設(shè)其特征函數(shù)為φ(t)，又因?yàn)镋ξk=a存在，故有φ’(0)=ai，φ(t)在0處作泰勒展開ξk互獨(dú)立，因此的特征函數(shù)為故由定理4.6

是退化分布的特征函數(shù)，再由定理4.7

考察射擊命中點(diǎn)與靶心距離的偏差這種偏差是大量微小的偶然因素造成的微小誤差的總和,這些因素包括:瞄準(zhǔn)誤差、測量誤差、子彈制造過程方面(如外形、重量等)的誤差以及射擊時(shí)武器的振動(dòng)、氣象因素(如風(fēng)速、風(fēng)向、能見度、溫度等)的作用,所有這些不同因素所引起的微小誤差是相互獨(dú)立的,并且它們中每一個(gè)對(duì)總和產(chǎn)生的影響不大.問題:

某個(gè)隨機(jī)變量是由大量相互獨(dú)立且微小的隨機(jī)變量相加而成的,研究其概率分布情況.4.3中心極限定理(一)問題的提法設(shè)ξn(n=1,2,…)相互獨(dú)立。如果討論ηn=

ξ1+ξ2+…+ξn(n=1,2,…)的收斂規(guī)律律，它的極限可能取到正負(fù)無窮，哪怕是ηn-Eηn也是如此，即可能出現(xiàn)因此無意義。如果討論

的收斂規(guī)律律，由大數(shù)定律，其會(huì)收斂于它們的數(shù)學(xué)期望的平均值，即但這是我們已知的結(jié)論。因此，分母中n的數(shù)量級(jí)很關(guān)鍵，應(yīng)當(dāng)與ηn=

ξ1+ξ2+…+ξn(n=1,2,…)的標(biāo)準(zhǔn)差的數(shù)量級(jí)一致。即我們應(yīng)當(dāng)考慮ζn稱為ηn的中心化隨機(jī)變量。顯然滿足Eζn=0，Dζn=1。例如n重伯努利試驗(yàn)，Eξn=p，Dξn=pq，(q=1-p),

因此應(yīng)當(dāng)考慮的收斂規(guī)律(二)同分布的中心極限定理定理4.10若ξ1,ξ2,…是一列獨(dú)立同分布隨機(jī)變量，且定理4.9（棣模弗－拉普拉斯）在n重伯努利試驗(yàn)中，事件A在每次試驗(yàn)中出現(xiàn)的概率為p(0<p<1)，μn為n次試驗(yàn)中A出現(xiàn)的次數(shù)，則

則有例μn為n重伯努利試驗(yàn)中事件A出現(xiàn)的次數(shù)，試計(jì)算例4.5某單位內(nèi)部有260架電話分機(jī)，每個(gè)分機(jī)有4%的概率要與外線通話，可以認(rèn)為各個(gè)電話分機(jī)用不用外線是相線獨(dú)立的，問總機(jī)要備有多少條外線才能以95%的把握保證各個(gè)分機(jī)在用外線時(shí)不必等候。解：令第i個(gè)分機(jī)要用外線第i個(gè)分機(jī)不用外線若260架分機(jī)中同時(shí)要求使用外線的分機(jī)數(shù)為μ260練習(xí)對(duì)于一個(gè)學(xué)生而言,來參加家長會(huì)的家長人數(shù)是一個(gè)隨機(jī)變量.設(shè)一個(gè)學(xué)生無家長、1名家長、2名家長來參加會(huì)議的概率分別為0.05，0.8，0.15.若學(xué)校共有400名學(xué)生,設(shè)各學(xué)生參加會(huì)議的家長數(shù)相互獨(dú)立,且服從同一分布.(1)求參加會(huì)議的家長數(shù)X超過450的概率;(2)求有1名家長來參加會(huì)議的學(xué)生數(shù)不多于340的概率.解根據(jù)獨(dú)立同分布的中心極限定理，由德莫佛－拉普拉斯定理知,例某類保險(xiǎn)公司有100000人參加，每人每年付72元保險(xiǎn)費(fèi)。在一年內(nèi)一個(gè)人死亡的概率為0.5%，死亡時(shí)其家屬可向保險(xiǎn)公司領(lǐng)得10000元，公司一年的總開支為70萬元。問：(1)保險(xiǎn)公司虧本的概率有多大？(2)保險(xiǎn)公司一年的純利潤不少于90萬元、100萬元、150萬元的概率各為多大？解：設(shè)ξ表示一年內(nèi)死亡的人數(shù)，則ξ~B(n,p),其中n=100000，p=0.5%，保險(xiǎn)公司每年的凈收入為：72元100000-700000=6500000元（1）當(dāng)該年死亡人數(shù)超過人時(shí)，公司就會(huì)虧本，于是由中心極限定理有：（2）公司純利潤不少于90萬元的事件等駕于保險(xiǎn)者年內(nèi)死亡人數(shù)不多于650人-90人=560人，其概率為：同理，公司純利潤不少于100萬元、150萬元的概率分別為：關(guān)于二項(xiàng)分布的收斂性問題第二章泊松定理告訴我們，二項(xiàng)分布收斂于泊松分布，中收極限定理則告訴我們，二項(xiàng)分布收斂于正態(tài)分布。是否有矛盾？二項(xiàng)分布收斂于泊松分布的條件是npn→λ;而二項(xiàng)分布收斂于正態(tài)分