概率論與數(shù)理統(tǒng)計(jì)-中心極限定理

偶然背后的必然——中心極限定理歡迎交流QQ：1420500393在《偶然背后的必然——大數(shù)定理》介紹了大量隨機(jī)變量的平均值趨于穩(wěn)定的特征。這篇文章介紹大量隨機(jī)變量之和的極限分布形態(tài)。中心極限定理，是概率論中討論隨機(jī)變量序列之和分布漸近于正態(tài)分布的一類定理。這組定理是數(shù)理統(tǒng)計(jì)學(xué)和誤差分析的理論基礎(chǔ)，指出了大量隨機(jī)變量之和近似服從正態(tài)分布的條件。它是概率論中最重要的一類定理，有廣泛的實(shí)際應(yīng)用背景。在自然界與生產(chǎn)中，一些現(xiàn)象受到許多相互獨(dú)立的隨機(jī)因素的影響，如果每個(gè)因素所產(chǎn)生的影響都很微小時(shí)，總的影響可以看作是服從正態(tài)分布的。中心極限定理就是從數(shù)學(xué)上證明了這一現(xiàn)象。1、基本概念【漸進(jìn)正態(tài)分布】對(duì)于隨機(jī)變量序列{ηn}，有相應(yīng)的分布函數(shù)序列{Fηn(x)}，也即每個(gè)隨機(jī)變量的分布函數(shù)構(gòu)成的集合。如果{Fηn(x)}收斂于正態(tài)分布N(μ,σ2)，即有：lim則稱隨機(jī)變量序列{ηn}漸進(jìn)正態(tài)分布。注釋：假設(shè)，η1，η2，η3，。。。。ηn的概率密度圖如下：η2η2η1η4η4η3n→∞正態(tài)分布ηn→∞正態(tài)分布ηn隨著隨機(jī)變量序列{ηn}中隨機(jī)變量數(shù)目趨于無窮大，隨機(jī)變量逐漸逼近正態(tài)分布?！倦S機(jī)變量序列服從中心極限定理】對(duì)于相互獨(dú)立的隨機(jī)變量序列{ξn}，記：ηn=i=1nξi-Eξii=1nDξi，lim則稱隨機(jī)變量序列{ξn}服從中心極限定理。注釋：ηn實(shí)際上就是隨機(jī)變量序列{ξn}中各個(gè)隨機(jī)變量之和的標(biāo)準(zhǔn)化，各個(gè)隨機(jī)變量之和的期望值是各隨機(jī)變量期望值的和，方差為各隨機(jī)變量方差的和（對(duì)于相互獨(dú)立的隨機(jī)變量來說）。隨機(jī)變量序列{ξn}中各隨機(jī)變量（相互獨(dú)立）之和作為一個(gè)新的隨機(jī)變量，如果其極限分布形態(tài)為正態(tài)分布（也就是隨著隨機(jī)變量數(shù)目趨于無窮大時(shí)的漸進(jìn)分布），或者標(biāo)準(zhǔn)化之后其極限分布形態(tài)為標(biāo)準(zhǔn)正態(tài)分布，則稱該隨機(jī)變量序列服從中心極限定理。那么隨機(jī)變量序列{ξn}需要滿足什么條件，即可服從中心極限定理呢？或者說各隨機(jī)變量之和漸進(jìn)正態(tài)分布呢？下面的幾個(gè)定理揭示了什么樣的隨機(jī)變量序列服從中心極限定理。2、基本定理【林德貝格定理】有隨機(jī)變量序列{ξn}，各隨機(jī)變量相互獨(dú)立，且各隨機(jī)變量期望值為μi=Eξi,各隨機(jī)變量之和的方差為Bn2=i=1nfix為隨機(jī)變量ξi的概率密度函數(shù)，如果{ξlimn→∞1則隨機(jī)變量序列{ξn}服從中心極限定理，也即：lim注釋：大量的相互獨(dú)立的隨機(jī)變量，如果期望值與方差皆存在，并且滿足林德貝格條件，則服從中心極限定理。一般來說，如果某些偶然因素對(duì)總和的影響是均勻的，微小的（也即滿足林德貝格條件），即沒有一項(xiàng)起特別突出的作用，那么就可以斷定描述這些大量獨(dú)立的隨機(jī)因素的總和的隨機(jī)變量是近似的服從正態(tài)分布。這個(gè)規(guī)律用數(shù)學(xué)形式來表達(dá)就是林德貝格定理?！纠站S-林德貝格定理】對(duì)于獨(dú)立同分布的隨機(jī)變量序列{ξn}，如果隨機(jī)變量的方差與期望值存在，則lim其中μ=Eξi,σ2=Dξi(i=1,2,3,…)，即隨機(jī)變量序列{ξ注釋：勒維-林德貝格定理比林德貝格定理多了一個(gè)條件，也即隨機(jī)變量序列{ξn}同分布，同分布也同時(shí)滿足了林德貝格條件。所以說勒維-林德貝格定理是林德貝格定理的特例。勒維-林德貝格定理揭示了對(duì)于獨(dú)立同分布的隨機(jī)變量序列{ξn}，無論ξn服從什么樣的分布，只要它的方差與期望值存在，那么{ξn}就是服從中心極限定理的。也即{i=1nξi}漸進(jìn)正態(tài)分布N(nμ,nσ2)，{1ni=1nξi}漸進(jìn)正態(tài)分布N(【德莫弗-拉普拉斯積分極限定理】設(shè)μn表示n重貝努力試驗(yàn)中事件A的出現(xiàn)次數(shù)，已知事件A在每次試驗(yàn)中出現(xiàn)的概率為p，則有：limn→∞Pμn注釋：德莫弗-拉普拉斯積分極限定理實(shí)際上是勒維-林德貝格定理的特例。n重貝努力試驗(yàn)中的每一次試驗(yàn)對(duì)應(yīng)一個(gè)服從0-1分布的隨機(jī)變量ξi，且期望值為p，方差為pq(q=1-p)。所以n重貝努力試驗(yàn)對(duì)應(yīng)一個(gè)隨機(jī)變量序列{ξn}，μn=i=1nξi，E(μn)=np,D(μ所以根據(jù)勒維-林德貝格定理