概率23-大數定理與中心極限定理

概率論基礎（Ⅲ）2009年3月山西大學數學科學學院大數定律&中心極限定理1知識拓展山西大學數學科學學院大數定律&中心極限定理2一、多維隨機變量（隨機向量）二、多維隨機變量的特征數三、大數定理四、中心極限定理相關概念山西大學數學科學學院大數定律&中心極限定理3n維隨機變量（隨機向量）的形式：n維隨機變量的聯(lián)合分布函數：二維離散型隨機變量的聯(lián)合分布列：二維連續(xù)型隨機變量的聯(lián)合分布函數：二維隨機變量的特征數山西大學數學科學學院大數定律&中心極限定理4協(xié)方差相關系數二維隨機變量的協(xié)方差山西大學數學科學學院大數定律&中心極限定理5設（X，Y）是一個二維隨機變量，如果存在，則稱其為X與Y的協(xié)方差，或稱為X與Y的相關（中心）矩，并記為特別地：協(xié)方差>0，稱X與Y正相關，即同增同減；協(xié)方差<0，稱X與Y負相關，即增減相反；協(xié)方差=0，稱X與Y不（線性）相關。二維隨機變量的協(xié)方差山西大學數學科學學院大數定律&中心極限定理6協(xié)方差的性質：Cov(X,Y)=E(XY)-E(X)E(Y)；若X與Y獨立，則Cov(X,Y)=0，反之亦然；Cov(X,Y)=Cov(Y,X)；Cov(X,a)=0，a為常數；Cov(aX,bY)=abCov(Y,X)，a,b為常數;Cov(X+Y,Z)=Cov(X,Z)+Cov(Y,Z)；Var(X+Y)=Var(X)+Var(Y)+2Cov(X,Y),Var(X-Y)=Var(X)+Var(Y)-2Cov(X,Y)。二維隨機變量的相關系數山西大學數學科學學院大數定律&中心極限定理7設（X，Y）是一個二維隨機變量，且Var(X)>0，Var(Y)>0。則稱為X與Y的相關系數。相關系數與協(xié)方差是同符號的，即同正同負，所以從相關系數的取值也可以反映X與Y的（線性）相關性。相關系數可以看做是X與Y標準化后的協(xié)方差。二維隨機變量的相關系數山西大學數學科學學院大數定律&中心極限定理8相關系數的性質：有界：;不等式關系：；相關系數為的充分必要條件是X與Y幾乎處處有線性關系，即存在a(不為0)和b，使得P(Y=aX+b)=1。其中當Corr(X,Y)=1時，有a>0；當Corr(X,Y)=1，有a<0。獨立與不相關山西大學數學科學學院大數定律&中心極限定理9一般場合，獨立必然導致不相關，但不相關推不出獨立。但在正態(tài)場合下兩者等價。TH.在二維正態(tài)分布場合，不相關與獨立是等價的。伯努利大數定律山西大學數學科學學院大數定律&中心極限定理10設為n重伯努利試驗中事件A發(fā)生的次數，p為每次實驗中A出現(xiàn)的概率，則對任意的，有注解：只要試驗次數足夠大，事件A發(fā)生的頻率就會與其概率真值相當的接近，偏離的機會很小，可以認為是0。大數定律的一般形式山西大學數學科學學院大數定律&中心極限定理11設有一隨機變量序列{Xn}，若對任意的，有則稱該隨機變量序列服從大數定律。注解：只要n充分大，隨機變量“平均值”與理論“期望”可以無限接近。大數定律的不同形式山西大學數學科學學院大數定律&中心極限定理121、切比雪夫大數定律設{Xn}為一列兩兩不相關的隨機變量序列，若每個Xi的方差存在，且有共同的上界，則{Xn}服從大數定律。2、馬爾科夫大數定律（條件）隨機變量序列{Xn}，若滿足3、辛欽大數定律設{Xn}為一獨立同分布的隨機變量序列，若Xi的期望存在，則{Xn}服從大數定律。中心極限定理&大數定律的關系山西大學數學科學學院大數定律&中心極限定理13大數定律討論的是多個隨機變量的平均(1)的漸進性質，中心極限定理討論的是隨機變量和(2)的極限分布。(1)(2)獨立同分布的中心極限定理山西大學數學科學學院大數定律&中心極限定理141、林德貝格-勒維中心極限定理設{Xn}是獨立同分布的隨機變量序列，且記則對任意實數y，有注解：獨立隨機變量和序列標準化后的分布是漸進正態(tài)的。二項分布的正態(tài)近似山西大學數學科學學院大數定律&中心極限定理152、棣莫弗-拉普拉斯極限定理設n重伯努利試驗中，事件A在每次實驗中出現(xiàn)的概率是p(0<p<1)，記為n次試驗中事件A出現(xiàn)的次數，且記則，對任意實數y，有注解：二項分布（n個獨立同分布事件和）是漸進正態(tài)的。林德貝格條件山西大學數學科學學院大數定律&中心極限定理16林德貝格條件設{Xn}是一個相互獨立的的隨機變量序列，他們具有有限的數學期望和方差：

，則隨機變量的和的期望方差分別為：若諸Xi為連續(xù)隨機變量時，記其密度函數為pi(x)。如果對任意的，有 *獨立不同分布的中心極限定理1山西大學數學科學學院大數定律&中心極限定理173、林德貝格中心極限定理設{Xn}是相互獨立的的隨機變量序列，如果滿足林德貝格條件，即對任意，有則對任意的x，有

注解：n個獨立不同分布事件的和是漸進正態(tài)的，只要它