大數(shù)定理與中心極限定理的關(guān)系

1、大數(shù)定律與中心極限定理的關(guān)系 延川中學(xué) 白江平1 引 言概率論中關(guān)于獨立隨機變量序列的極限理論,已相當(dāng)完整,各種問題已有了令人滿意的回答.但由于一般教材中,特別是工科教材,只介紹了幾個最簡單的基本定理.至于大數(shù)定律的幾個常見定律之間有什么關(guān)系;中心極限定理的幾個常見定理之間有什么關(guān)系;以及大數(shù)定律的幾個常見定律與中心極限定理的幾個常見定理之間又有什么關(guān)系?還未得到系統(tǒng)地總結(jié).本文將對以上提出的問題進行詳細(xì)的探討,最后總結(jié)出大數(shù)定律與中心極限定理的一般關(guān)系.2 大數(shù)定律與中心極限定理的關(guān)系2.1 大數(shù)定律與中心極限定理的概念大數(shù)定律: 設(shè)為隨機變量序列, 存在,記: ,若依概率收斂于零,即對于任

2、意的,有 .則稱服從大數(shù)定律（弱大數(shù)定律）. 中心極限定理: 設(shè)為隨機變量序列,存在,記.若依概率收斂于標(biāo)準(zhǔn)正態(tài)分布的隨機變量,即對于任意實數(shù),有 .則稱服從中心極限定理.了解了大數(shù)定律與中心極限定理的概念,容易產(chǎn)生這樣的問題:大數(shù)定律與中心極限定理之間究竟有什么關(guān)系?下面將通過討論來回答這個問題.2.2 大數(shù)定律與中心極限定理的關(guān)系首先給出三個定理:定理1(格涅堅克) 設(shè)有相互獨立的隨機變量序列.則對0,的充要條件是.定理2(馬爾科夫) 隨機變量序列.若,則對，有.定理3（費勒）對相互獨立隨機變量序列,若常數(shù),使,且,().則服從中心極限定理.設(shè)為相互獨立的隨機變量序列.以下在中,令取不同的

3、值,以說明不同的情形.2.2.1 服從大數(shù)定律，但不服從中心極限定理令=0,即,則,可知.因.由馬爾科夫定理知,大數(shù)定律成立,但中心極限定理不成立.這是因為 若服從中心極限定理,則取,有.當(dāng)充分靠近0時,.這就出現(xiàn)了矛盾,所以中心極限定理不成立. 服從中心極限定理，但不服從大數(shù)定律取,可知,又,即，得,又.則由費勒定理知中心極限定理成立,但不服從大數(shù)定律.這是因為 為凸函數(shù),由琴生不等式得,而，由格涅堅克定理知,不服從大數(shù)定律. 大數(shù)定律與中心極限定理都不服從取,可知,當(dāng)充分大時,有,即,則,得,故.可知不服從中心極限定理.又 .由格涅堅克定理知不服從大數(shù)定律. 大數(shù)定律和中心極限定理都服從

4、若為同分布且有有限期望及大于零的方差,則由大數(shù)定律和中心極限定理的概念可知兩者都服從.這時有.但括號中的事件概率究竟多大?大數(shù)定律未能回答.而根據(jù)中心極限定理有，其中,這樣看來在所假定的條件下,中心極限定理比大數(shù)定律更精確. 下面對三個常見的大數(shù)定律與三個常見的中心極限定理的關(guān)系進行探討. 3 三個常見的大數(shù)定律與三個常見的中心極限定理的關(guān)系定理4(切比雪夫定理) 設(shè)獨立隨機變量序列的數(shù)學(xué)期望與方差,都存在，并且方差是一致有上界的,即存在某一常數(shù),使得.則對于任意的正數(shù),有.定理5(辛欽大數(shù)定理) 設(shè)獨立隨機變量序列是獨立同分布的隨機變量序列,若期望存在.則對于任意的,有成立.定理6(伯努利定

5、理) 在獨立實驗序列中,設(shè)事件的概率,則事件在 次實驗中發(fā)生的頻率為,當(dāng)實驗的次數(shù)時,按概率收斂于的概率;即對于,有.定理7(林德伯格定理) 設(shè)獨立隨機變量,滿足林德伯格條件:對于任意的正數(shù),有,其中是隨機變量的概率密度,.則當(dāng)時,有,其中z是任何實數(shù).定理8(列維定理)  設(shè)相互獨立,服從同一分布,并且具有數(shù)學(xué)期望和方差：，則當(dāng)時,它們和的極限分布是正態(tài)分布,即,其中z是任意實數(shù).定理9(棣莫弗拉普拉斯定理) 設(shè)在獨立實驗序列中,事件在各次實驗中發(fā)生的概率為,隨機變量表示事件在次實驗中發(fā)生的次數(shù),則有. 下面就以上幾個常見定理的關(guān)系加以說明.根據(jù)以上定理的內(nèi)容,可以得到下圖:（:表

6、示A能推出B.沒有線和箭頭表示二者由于條件不同,無法推出）切比雪夫定理Chebyshev 林德伯格定理Linderbery3.3 3.123.53.111辛欽大數(shù)定理列維定理Levy 3.83.73.999993 3.43.103.23.1 拉普拉斯定理 Laplace伯努利定理Bernoulli 3.6 下面將對以上圖表中成立的關(guān)系加以證明或說明.3.1 切比雪夫定理推出伯努利定理證明 設(shè)隨機變量表示事件在第次實驗中發(fā)生的次數(shù)（）.則在課本中,已知這些隨機變量相互獨立,服從相同的“”分布,并且有數(shù)學(xué)期望與方差: 存在,由切比雪夫定理的推論得 （1） 易知就是事件在次實驗中發(fā)生的次數(shù),由此可知

7、.所以由（1）得.3.2 辛欽大數(shù)定理推出伯努利定理說明 根據(jù)辛欽大數(shù)定理的內(nèi)容和伯努利定理的內(nèi)容可知,伯努利定理是辛欽大數(shù)定理的特殊情況.故辛欽大數(shù)定理可以推出伯努利定理.3.3 林德伯格定理推出列維定理證明 由于獨立隨機變量服從相同的分布,我們有 .因為方差存在,所以顯然有 （2）由（2）就證明了林德伯格條件成立.于是,由林德伯格定理可知,等式 成立.3.4 列維定理推出拉普拉斯定理證明 設(shè)隨機變量表示事件在第次實驗中發(fā)生的次數(shù),則這些隨機變量相互獨立,服從相同的“”分布,并且有數(shù)學(xué)期望及方差：,.顯然,事件在次實驗中發(fā)生的次數(shù),所以由列維定理得,等式 成立.3.5 林德伯格定理推出拉普拉

8、斯定理說明 因為林德伯格定理可以推出列維定理,而列維定理又能推出拉普拉斯定理.所以林德伯格定理可以推出拉普拉斯定理.3.6 伯努利定理與拉普拉斯等價說明 二者條件等價,所以可以相互推出.3.7 列維定理推出伯努利定理說明 列維定理可以推出拉普拉斯定理.而拉普拉斯定理與伯努利定理等價,故列維定理可以推出伯努利定理.3.8 林德伯格定理推出伯努利定理說明 林德伯格定理可以推出列維定理,而列維定理可以推出伯努利定理.故林德伯格定理可以推出伯努利定理.3.9 切比雪夫定理推出拉普拉斯定理說明 切比雪夫定理可以推出伯努利定理,而伯努利定理與拉普拉斯等價.故切比雪夫定理可以推出拉普拉斯定理.3.10辛欽大

9、數(shù)定理推出拉普拉斯定理說明 辛欽大數(shù)定理可以推出伯努利定理,而伯努利定理與拉普拉斯等價.故辛欽大數(shù)定理可以推出拉普拉斯定理.3.11 列維定理推出辛欽大數(shù)定理說明 拉普拉斯定理可以推出辛欽大數(shù)定理,而列維定理可以推出拉普拉斯定理.故列維定理可以推出辛欽大數(shù)定理.3.12 林德伯格定理推出辛欽大數(shù)定理說明 林德伯格定理可以推出列維定理,而列維定理可以推出拉普拉斯定理.故林德伯格定理推出辛欽大數(shù)定理.4 結(jié)論總結(jié)大數(shù)定律是大量的隨機變量平均值的概率收斂,而中心極限定理是大量相互獨立的“均勻小”的隨機因素平均值標(biāo)準(zhǔn)化后的分布.總結(jié)起來分別得到以下幾種情況:4.1 大量的隨機變量平均值的概率收斂于某個常數(shù),但大量相互獨立的“均勻小”的隨機因素的和標(biāo)準(zhǔn)化后不服從正態(tài)分布.即 成立,而 不成立.4.2 大量的隨機變量平均值的概率收斂于某個常數(shù),但大量相互獨立的“均勻小”的隨機因素的和標(biāo)準(zhǔn)化后服從正態(tài)分布.