大數(shù)定律中心極限定理51切比雪夫不等式引理1設(shè)隨機(jī)變量X的數(shù)學(xué)課件

1、第五章 大數(shù)定律和中心極限定理5.1 切比雪夫不等式5.2 大數(shù)定律5.3 中心極限定理1 概率論與數(shù)理統(tǒng)計是研究隨機(jī)現(xiàn)象統(tǒng)計規(guī)律性的學(xué)科。隨機(jī)現(xiàn)象的規(guī)律性只有在相同的條件下進(jìn)行大量重復(fù)試驗(yàn)時才會呈現(xiàn)出來，也就是說，要從隨機(jī)現(xiàn)象中去尋求必然的法則，應(yīng)該研究大量的隨機(jī)現(xiàn)象。 研究大量的隨機(jī)現(xiàn)象時，常常采用極限形式。例如第一章中曾指出頻率是概率的反映,隨著觀察次數(shù)的增大，頻率將會逐漸穩(wěn)定于概率。這里的“穩(wěn)定”是指試驗(yàn)的次數(shù)無限增大時, 頻率值在某種收斂意義下逼近某一常數(shù)。此類極限形式導(dǎo)致了對極限定理進(jìn)行研究。2本章要解決的問題 為何能以某事件發(fā)生的頻率 作為該事件的 概率的估計？為何能以樣本均值作

2、為總體 期望的估計？為何正態(tài)分布在概率論中占 有極其重要的地位？大樣本統(tǒng)計推斷的理論基礎(chǔ) 是什么？大數(shù)定律中心極限定理35.1 切比雪夫不等式引理1 設(shè)隨機(jī)變量X的數(shù)學(xué)期望E(X)與方差 D(X)均存在，則對于任意實(shí)數(shù) 0，有下述不等式成立或4切比雪夫不等式示意圖E(X)E(X) +eE(X) -eF(x)xD(X)/e25例1 已知E(X)=100, D(X)=30，試估計隨機(jī)變量X 落在(70,130)內(nèi)的概率。解: P70X130=P|X100|30由切比雪夫不等式可得0.967 契比雪夫不等式給出了在隨機(jī)變量X的分布未知的情況下，事件 | X |0，有或8引入隨機(jī)變量序列Xk由題設(shè)X1

3、,X2,Xn相互獨(dú)立證明：故n+時，結(jié)論成立。由切比雪夫不等式9貝努里（Bernoulli）大數(shù)定律的意義“ 穩(wěn)定于”事件 A 在一次試驗(yàn)中發(fā)生的概率是指：在概率的統(tǒng)計定義中，事件 A 發(fā)生的頻率頻率 與 p 有較大偏差是小概率事件 因而在試驗(yàn)次數(shù) n 足夠大時，可用事件發(fā)生的頻率近似代替事件發(fā)生的概率 ，即此類定律說明了大次數(shù)的重復(fù)試驗(yàn)所呈現(xiàn)的客觀規(guī)律。同時，頻率的這種穩(wěn)定性也稱為依概率穩(wěn)定。10切比雪夫（Chebyshev）大數(shù)定律定理2 設(shè)X1, X2, . , Xn,.是相互獨(dú)立的隨機(jī)變量，且分別具有數(shù)學(xué)期望E(Xk)和方差D(Xk),（k=1,2,.)。若方差有界，即存在常數(shù)C，使得

4、 D(Xk)C，則對于任意的0，恒有 切比雪夫大數(shù)定律是貝努里大數(shù)定律的推廣，而貝努里大數(shù)定律是切比雪夫大數(shù)定律的一個特例。11證明：對于隨機(jī)變量序列 Xk記根據(jù)切比雪夫不等式可知n1由方差和期望的性質(zhì)可得12均服從同一分布，并且有相同的數(shù)學(xué)期望 和方差2，則對于任意的0，恒有或是相互獨(dú)立的隨機(jī)變量，推論 設(shè)13當(dāng) n 足夠大時，算術(shù)平均值幾乎是一常數(shù)。 具有相同數(shù)學(xué)期望和方差的獨(dú)立隨機(jī)變量序列的算術(shù)平均值依概率收斂于數(shù)學(xué)期望。算術(shù)均值數(shù)學(xué)期望近似代替可被切比雪夫（Chebyshev）大數(shù)定律的意義14辛欽（）大數(shù)定律定理3 設(shè)隨機(jī)變量相互獨(dú)立，均服從同一分布，且具有相同的數(shù)學(xué)期望 E(X k

5、) = , k= 1,2, 則對任意的 0，均有155.3 中心極限定理 在實(shí)際問題中，常常需要考慮許多隨機(jī)因素所產(chǎn)生的總影響。 觀察表明，如果一個量是由大量相互獨(dú)立的隨機(jī)因素的影響所造成，而每一個隨機(jī)因素在總影響中所起的作用不大，那么這種量一般都服從或近似服從正態(tài)分布。 研究“在一定條件下，大量獨(dú)立隨機(jī)變量和的分布是以正態(tài)分布為極限分布”的定理統(tǒng)稱為中心極限定理。 16獨(dú)立同分布的中心極限定理 的分布函數(shù)Fn(x)收斂到標(biāo)準(zhǔn)正態(tài)分布函數(shù)，即定理4 設(shè)隨機(jī)變量X1, X2, , Xn, 相互獨(dú)立,服從同一分布,且具有有限的數(shù)學(xué)期望和方差, E(Xk)= , D(Xk)=20 (k=1,2,)則隨機(jī)變量 17(1) 對于當(dāng) n 足夠大時，Y n 的分布函數(shù)近似于標(biāo)準(zhǔn)正態(tài)隨機(jī)變量的分布函數(shù)，即近似近似服從表明：當(dāng)n充分大時，n個具有期望和方差的獨(dú)立同分布的隨機(jī)變量之和近似服從正態(tài)分布。稱 Y n 為的標(biāo)準(zhǔn)化隨機(jī)變量。18德莫弗-拉普拉斯（DeMoivre-Laplace）定理定理5 設(shè)隨機(jī)變量 Xn B( n , p) , 0 p 1, n = 1,2,，則對任意實(shí)數(shù) x，均有X n N (np , np(1-p) (近似)即 n 足夠大時191 會利用契比雪