Chap5大數(shù)定律和中心極限定理

第5章極限定理第一節(jié)大數(shù)定律第二節(jié)中心極限定理第一節(jié)大數(shù)定律我們已經知道，一個隨機事件發(fā)生的頻率隨試驗的次數(shù)n的增大而呈現(xiàn)出穩(wěn)定性。事實上，大量的隨機現(xiàn)象的平均結果也具有穩(wěn)定性。概率論中用來闡明大量隨機現(xiàn)象平均結果的穩(wěn)定性的一系列定理，稱為大數(shù)定律（lawoflargenumber).

設Y為連續(xù)型隨機變量，概率密度函數(shù)為f(y).

因為y只取非負值，則當y<0時，有f(y)=0.對任意正數(shù)ε，有證明：引理1（馬爾科夫Markov不等式）若Y為只取非負值的隨機變量，則對任意的正數(shù)ε，有當Y是離散型隨機變量時同理可證。

在馬爾科夫不等式中，令Y=(X-μ)2,ε換成ε2，則有證明：引理1（馬爾科夫Markov不等式）若Y為只取非負值的隨機變量，則對任意的正數(shù)ε，有定理1（切比雪夫Chebyshev不等式）設隨機變量X具有期望E(X)=μ，方差D(X)=σ2,則對任意的正數(shù)ε，有說明：常用切比雪夫不等式的等價形式上式說明：當X的方差越小時，事件{|X-E(X)|<ε}發(fā)生的概率就越大，即X的取值就基本集中在它的期望附近。無論X的分布已知還是未知，只要其期望μ和方差σ2

已知，即可估計概率值P(|X-μ|<ε)或P(|X-μ|≥ε).例如

以X表示1000次重復獨立試驗中事件A發(fā)生的次數(shù)，則X~B(1000,0.5).因此解：例1設在一次試驗中事件A發(fā)生的概率是0.5，利用切比雪夫不等式估計：在1000次重復獨立試驗中A發(fā)生的次數(shù)在400至600之間的概率。由切比雪夫不等式可得即在1000次重復獨立試驗中，A

發(fā)生的次數(shù)在400至600之間的概率至少為0.975.定義1若對于任意自然數(shù)n>1,X1,X2,…,Xn相互獨立，則稱隨機變量序列X1,X2,…,Xn,…是相互獨立的。注：上式的一個等價形式為定義2設X1,X2,…,Xn,…是相互獨立的隨機變量序列，若對任意正數(shù)ε，均有則稱隨機變量序列{Xn}依概率收斂于隨機變量X，記為或定理2（馬爾科夫Markov大數(shù)定律）設X1,X2,…,Xn,…是一個隨機變量序列，若對所有的n≥1,方差D(Xi)存在，且則對任給的正數(shù)ε，有注：若令即有證明：由可知，對任給正數(shù)ε，由切比雪夫不等式可得即推論2（切比雪夫大數(shù)定律）設X1,X2,…,Xn,…是相互獨立的隨機變量序列，若存在常數(shù)C，使得Xi的方差有公共上界，即則對任給的正數(shù)ε，有特別地，如果X1,X2,…,Xn,…有相同的期望E(X),則有由獨立性和有界性可知證明：再由定理2即得證。推論3（泊松大數(shù)定律）設X1,X2,…,Xn,…是相互獨立的隨機變量序列，Xi有分布律則對任給的正數(shù)ε，有由于證明：再由推論2即得證。推論4（伯努利大數(shù)定律）設μn是n次伯努利試驗中事件A發(fā)生的次數(shù)，p是事件A在每次試驗中發(fā)生的概率，則對任給的正數(shù)ε，有記證明：再由推論3即得證。則Xi的分布律是說明：該定律表明事件A發(fā)生的頻率依概率收斂于事件A的概率p.它以嚴格的形式表達了頻率的穩(wěn)定性，表明在實際應用中可通過多次重復一個試驗，用頻率近似作為事件A的概率p.說明：上式的一個等價形式為此定律表明：在相同的條件下重復觀測n次X，當n充分大時，“觀測值的算術平均值接近于期望”是一個大概率事件。推論5（辛欽大數(shù)定律）設X1,X2,…,Xn,…是獨立同分布的隨機變量序列，若它們的數(shù)學期望E(X)存在，則對任給的正數(shù)ε，有證明：略。第二節(jié)中心極限定理客觀背景：客觀實際中，許多隨機變量是由大量相互獨立的偶然因素的綜合影響所形成，每一個微小因素，在總的影響中所起的作用是很小的，但總起來，卻對總和有顯著影響，這種隨機變量往往近似地服從正態(tài)分布。概率論中有關論證獨立隨機變量的和的極限分布是正態(tài)分布的一系列定理稱為中心極限定理。定理1（林德伯格-列維Lindeberg-Levy定理）設X1,X2,…,Xn,…是獨立同分布的隨機變量序列，且它們具有有限的期望E(Xi)=μ和方差D(Xi)=σ2>0，i=1,2,…,則對任何實數(shù)x，隨機變量滿足如下極限式證明：略。說明：此定律表明：隨機變量序列Y1,Y2,…,Yn,…的分布函數(shù)序列F1(x),F2(x),…,Fn(x),…的極限分布函數(shù)是Φ(x),即Yn的極限分布是N(0,1).對于獨立隨機變量序列X1,X2,…,Xn,…，不管Xi(i=1,2,…)

服從什么分布，只要它們同分布，且有有限的期望和方差，那么當n充分大時，X1+X2+…+Xn近似地服從正態(tài)分布

N(nμ,nσ2).由于Xi的分布在一定程度上可以是任意的，一般來說，X1+X2+…+Xn

的分布難以確切求出。但是只要n很大，就能通過Φ(x)給出X1+X2+…+Xn

的分布函數(shù)的近似值。這也是正態(tài)分布在概率論中占有重要地位的一個基本原因。由于“正態(tài)分布的線性函數(shù)仍然服從正態(tài)分布”，因此對上述{Xn}近似地有例1

設一批產品的強度服從期望為14，方差為4的分布，每箱裝有該產品100件，問：（1）每箱產品的平均強度超過14.5的概率是多少？（2）每箱產品的平均強度在14至14.5之間的概率是多少？解:

n=100可以認為比較大。設Xi是第i件產品的強度，E(Xi)=14,D(Xi)=4,i=1,2,…,100.并記則每箱產品的平均強度根據定理1，近似地有例1

設一批產品的強度服從期望為14，方差為4的分布，每箱裝有該產品100件，問：（1）每箱產品的平均強度超過14.5的概率是多少？（2）每箱產品的平均強度在14至14.5之間的概率是多少？續(xù)解:由于

于是定理2（棣莫弗—拉普拉斯DeMoivre-Laplace定理）設X1,X2,…,Xn,…是相互獨立的隨機變量序列，且都服從參數(shù)為p的兩點分布，即P(Xi=1)=p,P(Xi=0)=1-p,0<p<1,i=1,2,…,則對任何實數(shù)x，有證明：由于E(Xi)=p,D(Xi)=p(1-p),i=1,2,…,則由定理1得證。注意：此定理表明,若Xi(i=1,2,…)服從兩點分布，則

X1+X2+…+Xn

服從二項分布B(n,p).二項分布的極限是正態(tài)分布，即當n很大時，二項分布也可以用正態(tài)分布近似表示。一般地，如果則近似地有且有如果n較小，通常采用修正公式

例2

某高校有400名教師參加全國職稱外語考試，按歷年資料統(tǒng)計，該考試的平均通過率為0.8.試計算這400名教師中至少有300人通過的概率？解:記則這400名教師通過考試的人數(shù)X1+X2+…+X400

服從B(400,0.8),根據棣莫弗-拉普拉斯定理，近似地有因此有即這400名教師中至少有300人通過考試的概率為0.9938.例3現(xiàn)有一大批種子，其中良種占1/6，今在其中任選6000粒，試問在這些種子中良種所占的比例與1/6之差小于1%的概率是少？解:記選一粒種子可以看成是一次伯努利試驗，若以X表示6000粒種子中的良種粒數(shù)，則X~B(6000,1/6),根據棣莫弗-拉普拉斯定理,近似地有因此有例3*