大數(shù)定律(補(bǔ)充)

1、 大數(shù)定律大數(shù)定律的背景及概念大數(shù)定律的背景及概念依概率收斂定義及性質(zhì)依概率收斂定義及性質(zhì)三個(gè)大數(shù)定律三個(gè)大數(shù)定律小結(jié)小結(jié)一、大數(shù)定律的背景和概念一、大數(shù)定律的背景和概念 大量隨機(jī)試驗(yàn)中大量隨機(jī)試驗(yàn)中1、大數(shù)定律的客觀背景、大數(shù)定律的客觀背景 有穩(wěn)定性有穩(wěn)定性測(cè)量值的算術(shù)平均值具測(cè)量值的算術(shù)平均值具某一常數(shù)某一常數(shù)事件發(fā)生的頻率穩(wěn)定于事件發(fā)生的頻率穩(wěn)定于例例1、擲一顆均勻正六面體的骰子，出現(xiàn)、擲一顆均勻正六面體的骰子，出現(xiàn)1點(diǎn)的概率是點(diǎn)的概率是1/6。但擲的次數(shù)少時(shí)，出現(xiàn)但擲的次數(shù)少時(shí)，出現(xiàn)1點(diǎn)的頻率可能與點(diǎn)的頻率可能與1/6相差較大，但相差較大，但擲次數(shù)很多時(shí)，出現(xiàn)擲次數(shù)很多時(shí)，出現(xiàn)1點(diǎn)的頻

2、率接近點(diǎn)的頻率接近1/6幾乎是必然的。幾乎是必然的。例例2、測(cè)量一個(gè)長(zhǎng)度、測(cè)量一個(gè)長(zhǎng)度a，一次測(cè)量的結(jié)果不見(jiàn)得就等于，一次測(cè)量的結(jié)果不見(jiàn)得就等于a，量了若干次，其算術(shù)平均值仍不見(jiàn)得等于量了若干次，其算術(shù)平均值仍不見(jiàn)得等于a,但當(dāng)測(cè)量的但當(dāng)測(cè)量的次數(shù)很多時(shí)，算術(shù)平均值接近于次數(shù)很多時(shí)，算術(shù)平均值接近于a幾乎是必然的。幾乎是必然的。 概率論中用來(lái)闡明大量隨機(jī)現(xiàn)象概率論中用來(lái)闡明大量隨機(jī)現(xiàn)象平均結(jié)果的平均結(jié)果的穩(wěn)定性穩(wěn)定性的一系列定理，稱為的一系列定理，稱為大數(shù)定律大數(shù)定律（law of large number)2、大數(shù)定律的概念、大數(shù)定律的概念介紹三個(gè)大數(shù)定律：介紹三個(gè)大數(shù)定律： （1 1）切比

3、曉夫大數(shù)定律切比曉夫大數(shù)定律、 （2 2）貝努利大數(shù)定律貝努利大數(shù)定律 （3）辛欽大數(shù)定律辛欽大數(shù)定律。它們之間既有區(qū)別也有聯(lián)系。它們之間既有區(qū)別也有聯(lián)系。 二、二、依概率收斂定義及性質(zhì)依概率收斂定義及性質(zhì) 定義定義，有，有若對(duì)于任意正數(shù)若對(duì)于任意正數(shù)一個(gè)常數(shù)一個(gè)常數(shù)是是是一個(gè)隨機(jī)變量序列，是一個(gè)隨機(jī)變量序列，設(shè)設(shè) .,21aYYYn1|limaYPnn.,21aYaYYYPnn記為記為依概率收斂于依概率收斂于則稱序列則稱序列性質(zhì)性質(zhì)).,(),(),(),(,bagYXgbayxgbYaXPnnPnPn連連續(xù)續(xù)，則則點(diǎn)點(diǎn)在在又又設(shè)設(shè)函函數(shù)數(shù)，設(shè)設(shè)請(qǐng)注意請(qǐng)注意 : .10可可能能性性很很小小生

4、生的的的的發(fā)發(fā)生生，而而只只是是說(shuō)說(shuō)他他發(fā)發(fā)并并不不排排除除事事件件；的的概概率率很很大大，接接近近于于充充分分大大時(shí)時(shí)，事事件件當(dāng)當(dāng)，意意味味著著對(duì)對(duì)任任意意給給定定的的依依概概率率收收斂斂于于 aXaXnaXnnn.定定性性弱弱些些，它它具具有有某某種種不不確確中中的的普普通通意意義義下下的的收收斂斂依依概概率率收收斂斂比比高高等等數(shù)數(shù)學(xué)學(xué)三、大數(shù)定律三、大數(shù)定律1、定理一、定理一（切比曉夫定理的特殊情況切比曉夫定理的特殊情況）切比曉夫切比曉夫 則對(duì)任意的則對(duì)任意的0，有，有學(xué)學(xué)期期望望和和方方差差：獨(dú)獨(dú)立立，且且具具有有相相同同的的數(shù)數(shù)相相互互，設(shè)設(shè)隨隨機(jī)機(jī)變變量量,21nXXX21 2

5、(),()(, ,).kkE XD Xk 1|1|lim1 niinXnP|lim XPn11XnnkkX 做前做前 n 個(gè)隨機(jī)變量的算術(shù)平均個(gè)隨機(jī)變量的算術(shù)平均證證 nkkXnE11由于由于 nn1 nkkXEn1)(1 nkkXnD11 nkkXDn12)(1nnn2221 由切比曉夫不等式由切比曉夫不等式22111 nXnPnkk 上式中令上式中令 n得得1|1|lim1 niinXnP說(shuō)明說(shuō)明.,2 , 1XE1X,211有有的的穩(wěn)穩(wěn)定定性性），這這種種接接近近說(shuō)說(shuō)明明其其具具（）（接接近近數(shù)數(shù)學(xué)學(xué)期期望望的的算算術(shù)術(shù)平平均均隨隨機(jī)機(jī)變變量量定定理理以以數(shù)數(shù)學(xué)學(xué)形形式式證證明明了了、n

6、kXnXXkniin . 1|1|11于于時(shí)時(shí)，這這個(gè)個(gè)事事件件的的概概率率趨趨當(dāng)當(dāng)是是指指一一個(gè)個(gè)隨隨機(jī)機(jī)事事件件，、定定理理中中 nXnnii .常常數(shù)數(shù)收收斂斂的的意意義義下下逼逼近近某某一一算算術(shù)術(shù)平平均均值值是是依依概概率率這這種種穩(wěn)穩(wěn)定定性性的的含含義義說(shuō)說(shuō)明明.1),2 , 1()(,)(,1221 PnkkkknXXnXkXDXEXXX，即即依依概概率率收收斂斂于于，則則序序列列差差：有有相相同同的的數(shù)數(shù)學(xué)學(xué)期期望望和和方方相相互互獨(dú)獨(dú)立立，且且具具，設(shè)設(shè)隨隨機(jī)機(jī)變變量量3、定理的另一種敘述方式、定理的另一種敘述方式（書(shū)中定理書(shū)中定理3.4.2），有則任給無(wú)關(guān)的常數(shù)是與其中都有

7、的并且對(duì)于所有及方差數(shù)學(xué)期望序列，各有是相互獨(dú)立的隨機(jī)變量設(shè)0, 2 , 1,212121illDXiDXDXEXEXXXXin1|11|lim11 niiniinEXnXnP（切比曉夫定理）（切比曉夫定理）切比曉夫大數(shù)定律是切比曉夫大數(shù)定律是1866年被俄國(guó)數(shù)學(xué)家切比曉年被俄國(guó)數(shù)學(xué)家切比曉夫所證明，它是關(guān)于大數(shù)定律的一個(gè)相當(dāng)普遍的結(jié)論，很多大夫所證明，它是關(guān)于大數(shù)定律的一個(gè)相當(dāng)普遍的結(jié)論，很多大數(shù)定律的古典結(jié)果是它的特例。數(shù)定律的古典結(jié)果是它的特例。 設(shè)設(shè) nA 是是n次獨(dú)立重復(fù)試驗(yàn)中事件次獨(dú)立重復(fù)試驗(yàn)中事件A發(fā)生的次數(shù)，發(fā)生的次數(shù)，p是事件是事件A在每次試驗(yàn)中發(fā)生的概率，則對(duì)于任意正在每次

8、試驗(yàn)中發(fā)生的概率，則對(duì)于任意正數(shù)數(shù) 0 ，有，有 2、定理二（貝努利大數(shù)定律）、定理二（貝努利大數(shù)定律）1|lim pnnPAn或或0|lim pnnPAn此定理說(shuō)明了頻率的穩(wěn)定性此定理說(shuō)明了頻率的穩(wěn)定性。證：令nkAkAkXk, 2 , 110，發(fā)生次試驗(yàn)中，在第不發(fā)生次試驗(yàn)中，在第則nkkAXn1，且nXX,1相互獨(dú)立同服從于 分布) 10( 故 ,2, 1)1(nkppDXpEXkk，1|1|lim1pXnPniin,由定理一有由定理一有即 1|limpnnPAn。貝努里大數(shù)定律的重要意義貝努里大數(shù)定律的重要意義： (1)(1)從理論上證明了頻率具有穩(wěn)定性。從理論上證明了頻率具有穩(wěn)定性。

9、 （2)2)提供了通過(guò)試驗(yàn)來(lái)確定事件概率的方法提供了通過(guò)試驗(yàn)來(lái)確定事件概率的方法: : 這種方法是參數(shù)估計(jì)的重要理論基礎(chǔ)。這種方法是參數(shù)估計(jì)的重要理論基礎(chǔ)。 （3 3）是）是“小概率原理小概率原理”的理論基礎(chǔ)。的理論基礎(chǔ)。 小概率原理：小概率原理：實(shí)際中概率很小的隨機(jī)事件在個(gè)實(shí)際中概率很小的隨機(jī)事件在個(gè)別試驗(yàn)中幾乎是不可能發(fā)生的。別試驗(yàn)中幾乎是不可能發(fā)生的。)(APpnnA下面給出的下面給出的獨(dú)立同分布下的大數(shù)定律，獨(dú)立同分布下的大數(shù)定律，不要求隨機(jī)變量的方差存在不要求隨機(jī)變量的方差存在. 設(shè)隨機(jī)變量序列設(shè)隨機(jī)變量序列X1,X2, 相互獨(dú)立，服從同一相互獨(dú)立，服從同一分布，具有數(shù)學(xué)期分布，具有

10、數(shù)學(xué)期E(Xi)=, i=1,2,， 則對(duì)于任意則對(duì)于任意正數(shù)正數(shù) ，有，有3、定理三（辛欽大數(shù)定律）、定理三（辛欽大數(shù)定律）1|1|lim1 niinXnP 1、辛欽大數(shù)定律為尋找隨機(jī)變量的、辛欽大數(shù)定律為尋找隨機(jī)變量的期望值提供了一條實(shí)際可行的途徑期望值提供了一條實(shí)際可行的途徑.注注2、伯努利大數(shù)定律是辛欽定理的特殊情況、伯努利大數(shù)定律是辛欽定理的特殊情況.3、辛欽定理具有廣泛的適用性、辛欽定理具有廣泛的適用性. 要估計(jì)某地區(qū)的平均畝產(chǎn)量要估計(jì)某地區(qū)的平均畝產(chǎn)量 ，要收割某些有代表性塊，例如要收割某些有代表性塊，例如n 塊塊地地. 計(jì)算其平均畝產(chǎn)量，則當(dāng)計(jì)算其平均畝產(chǎn)量，則當(dāng)n 較較大時(shí)，可用它作為整個(gè)地區(qū)平均畝大時(shí)，可用它作為整個(gè)地區(qū)平均畝產(chǎn)量的一個(gè)估計(jì)產(chǎn)量的一個(gè)估計(jì).niixnx11當(dāng)當(dāng)n充分大時(shí)有充分大時(shí)有三、小結(jié)三、小結(jié)大大數(shù)數(shù)定定律律 大數(shù)定律以嚴(yán)格的數(shù)學(xué)形式表達(dá)了隨機(jī)現(xiàn)大數(shù)定律