概率論特征函數(shù)與極限定理

1、特征函數(shù)特征函數(shù) 引進(jìn)特征函數(shù)的目的在于有些問(wèn)題用分布函引進(jìn)特征函數(shù)的目的在于有些問(wèn)題用分布函數(shù)不好解決，比如計(jì)算隨機(jī)變量的矩以及對(duì)立隨數(shù)不好解決，比如計(jì)算隨機(jī)變量的矩以及對(duì)立隨機(jī)變量和的分布機(jī)變量和的分布. .使用特征函數(shù)就會(huì)特別方便，使用特征函數(shù)就會(huì)特別方便，在極限理論的研究中也發(fā)揮了很大作用。在極限理論的研究中也發(fā)揮了很大作用。 如以前我們講過(guò)隨機(jī)變量如以前我們講過(guò)隨機(jī)變量X XY Y的分布函數(shù)求的分布函數(shù)求法過(guò)程比較復(fù)雜，實(shí)際上經(jīng)常碰到求法過(guò)程比較復(fù)雜，實(shí)際上經(jīng)常碰到求X X1 1+X+X2 2+X+X3 3+ +X+Xn n 的密度函數(shù)，重復(fù)使用卷極公式，的密度函數(shù)，重復(fù)使用卷極公式

2、，非常繁雜。非常繁雜。0. 0. 復(fù)隨機(jī)變量的定義復(fù)隨機(jī)變量的定義iEYEXEZ),( ,),(11nnYXYX相互獨(dú)立，就稱(chēng)復(fù)隨機(jī)相互獨(dú)立，就稱(chēng)復(fù)隨機(jī)nniYXiYX,11如果如果相互獨(dú)立相互獨(dú)立. .變量變量YX,設(shè)設(shè)是定義在概率空間是定義在概率空間iYXZ隨機(jī)變量，則隨機(jī)變量，則PF,稱(chēng)為稱(chēng)為復(fù)隨機(jī)變量復(fù)隨機(jī)變量。上的實(shí)上的實(shí)1 1、特征函數(shù)的定義、特征函數(shù)的定義X設(shè)設(shè)的分布函數(shù)為的分布函數(shù)為)()()()(1xdxfepexdFeEetfitxiiitxitxitXi稱(chēng)稱(chēng))(xF為為X的特征函數(shù)。的特征函數(shù)?？偞嬖趇tXitxEee1對(duì)每個(gè)隨機(jī)變量對(duì)每個(gè)隨機(jī)變量X X（或者說(shuō)每個(gè)分布函

3、數(shù)（或者說(shuō)每個(gè)分布函數(shù)F(x)F(x)）, ,都有一個(gè)特征函數(shù)都有一個(gè)特征函數(shù)f(t)f(t)與之一一對(duì)應(yīng)。與之一一對(duì)應(yīng)。 cossinitxetxitx 2. 2. 特征函數(shù)的性質(zhì)特征函數(shù)的性質(zhì))(tf設(shè)設(shè)是是X X的特征函數(shù)，則的特征函數(shù)，則)()(, 1)0()(,1)0() 10tftfftfEefXi)()(xdFeEetfitxitX)(tf2)2)特征函數(shù)特征函數(shù)在在R R上一致連續(xù)上一致連續(xù))(tf3)3)特征函數(shù)特征函數(shù)是非負(fù)定的，即對(duì)任意實(shí)數(shù)是非負(fù)定的，即對(duì)任意實(shí)數(shù)nttt,21及復(fù)數(shù)及復(fù)數(shù)naaa,210)(1, 1njkjkjkaattf證明證明dxxpeaaaattf

4、xttinjkjknjkjkjkjk)()()(1, 11, 1 dxxpeaeadxxpeaaxitnkjxitnkkxttinjkjkjkjk)()()(11)(1, 10)()(21 dxxpeaxitnkkk4 4）ba,設(shè)設(shè)是常數(shù)，是常數(shù)，baXY)()()()(atfeEeeEetfXitbXtaiitbbaXitY)()(atfetfXibtY則則YX,5)5)隨機(jī)變量隨機(jī)變量相互獨(dú)立，則相互獨(dú)立，則)()()(tftftfYXYX)()()()(tftfEeEeeEeEeEetfYXitYitXitYitXitYitXYXitYX此性質(zhì)可推廣至多個(gè)此性質(zhì)可推廣至多個(gè)niXi,

5、2 , 1,隨機(jī)變量隨機(jī)變量相互獨(dú)立，則相互獨(dú)立，則iXXtftfiii)()(6 6）設(shè)隨機(jī)變量）設(shè)隨機(jī)變量nEX則它的特征函數(shù)可微分則它的特征函數(shù)可微分n n次，且次，且)0()()(kXkkfiEXnk )()()()()(xdFedtdxdFedtdtfitxkkitxkkk)()()(xdFexiitxkkkktxikkkEXixdFexif)()()()()0(0)(特征函數(shù)提供了一條求各階矩的捷徑。特征函數(shù)提供了一條求各階矩的捷徑。7 7）唯一性定理：分布函數(shù)由其特征函數(shù)唯一確定。）唯一性定理：分布函數(shù)由其特征函數(shù)唯一確定。絕對(duì)可積，即絕對(duì)可積，即若特征函數(shù)若特征函數(shù))(tfdt

6、tf)(dttfexpxFitx)(21)()(相應(yīng)的分布函數(shù)相應(yīng)的分布函數(shù)F(xF(x）可導(dǎo)且導(dǎo)函數(shù)連續(xù)，則有）可導(dǎo)且導(dǎo)函數(shù)連續(xù)，則有)()(xdFeEetfitxitX 構(gòu)成傅里葉變換對(duì)( , )XB n p), 2 , 1 , 0(nkqpCkXPknkkn參數(shù)為參數(shù)為., pnX的分布律的分布律3 3 常見(jiàn)的幾個(gè)分布的特征函數(shù)常見(jiàn)的幾個(gè)分布的特征函數(shù)nitknkitknnkitkknkknnknkkitkitXqpeqpeCeppCpeEetf)()()1 ()(000)(PX!kekXPk), 2 , 1 , 0(k分布律分布律參數(shù)為參數(shù)為itkknknkkitkitXekepeEe

7、tf!)(00)1(0!)(ititeekitnkeeekee)(EX0,00,)(xxexfx0密度函數(shù)密度函數(shù)參數(shù)為參數(shù)為10)1 ()()(itdxeedxxpeEetfxitxitxitX),(2NX222)(21)(xexfx密度函數(shù)密度函數(shù)參數(shù)為參數(shù)為.,2221)(ttietf特征函數(shù)特征函數(shù))(22n2)21 ()(nittf如：二項(xiàng)分布，泊松分布，正態(tài)分布，卡方分布如：二項(xiàng)分布，泊松分布，正態(tài)分布，卡方分布均具有可加性。均具有可加性。例例題題 若若且且 相相互互獨(dú)獨(dú)立立則則 = =11(, ),(1,2) (, )iiinniiiiXB n pXinYXBn p 證證明明 因

8、因?yàn)闉?則則 相相互互獨(dú)獨(dú)立立(, ),( )()(1,2)iiiinitXXB n pftpeqin = =1( )()()iinnnititYiftpeqpeq 在在由由唯唯一一性性定定理理得得到到 1(, )niiYBnp 一一 隨機(jī)變量的收斂性隨機(jī)變量的收斂性 二二 大數(shù)定律與中心極限定理大數(shù)定律與中心極限定理1、依概率收斂、依概率收斂為隨機(jī)是隨機(jī)變量序列，設(shè)定義XXn，有變量，若對(duì)任意實(shí)數(shù)01limXXPnn.XXXXPnn，記作依概率收斂于則稱(chēng)一一 隨機(jī)變量的收斂性隨機(jī)變量的收斂性2、依分布收斂、依分布收斂),()(limxFxFnn分分別別是是隨隨機(jī)機(jī)變變量量，定定義義：設(shè)設(shè))(

9、, 2 , 1)(xFnxFnxXnXn連連續(xù)續(xù)點(diǎn)點(diǎn)的的分分布布函函數(shù)數(shù)，若若對(duì)對(duì)及及), 2 , 1(.XXXXLnn，記記為為依依分分布布收收斂斂于于則則稱(chēng)稱(chēng)并不需要定義在共同的并不需要定義在共同的注：對(duì)于分布收斂，注：對(duì)于分布收斂，nX而而是是斂斂的的并并不不是是概概率率空空間間。實(shí)實(shí)際際上上，收收,nX.nnFX分分布布函函數(shù)數(shù)3、r-階收斂階收斂,2nnXEXX，有及設(shè)對(duì)隨機(jī)變量定義, 0lim2XXEnn.XXn均方收斂于則稱(chēng)如果,2XE其中更一般地，設(shè),rrnXEXE, 0limrnnXXE,XrXn階收斂于則稱(chēng)為常數(shù)，如果0r.XXrn記作1-階收斂又稱(chēng)為平均收斂，階收斂又稱(chēng)為

10、平均收斂，2-階收斂即為均方收斂。階收斂即為均方收斂。4、以概率、以概率1收斂收斂，（簡(jiǎn)簡(jiǎn)記記為為若若定定義義1)()(lim:XXPnn.XXXXsan，記作隨機(jī)變量（或幾乎處處）收斂于1,1lim以概率則稱(chēng)隨機(jī)變量序列）nnnXXXP四種收斂關(guān)系：四種收斂關(guān)系：以概率以概率1收斂或收斂或r-階收斂階收斂依概率收斂依概率收斂依分布收斂依分布收斂研究?jī)深?lèi)問(wèn)題：研究?jī)深?lèi)問(wèn)題：1,nXX11?nniiXn （大數(shù)定律大數(shù)定律）（中心極限定理中心極限定理）為相互獨(dú)立的隨機(jī)變量序列為相互獨(dú)立的隨機(jī)變量序列 ninX1（2）n充分大時(shí)，充分大時(shí)， 服從什么分布？服從什么分布？（1）是常數(shù)序列，是隨機(jī)變量

11、序列，設(shè)knaX有若對(duì)任意實(shí)數(shù), 0定義定義, 11lim1nknknaXnP, 011PnnkkaXn即服從大數(shù)定律。則稱(chēng)nX（切比雪夫大數(shù)定律）（切比雪夫大數(shù)定律）,21nXXX量，且具有相同的數(shù)學(xué)量，且具有相同的數(shù)學(xué) PniiXn11期望期望 ,2和方差和方差 設(shè)設(shè)為一列相互獨(dú)立的隨機(jī)變?yōu)橐涣邢嗷オ?dú)立的隨機(jī)變即即11lim1niniPXn0 定理二定理二（辛欽大數(shù)定律）（辛欽大數(shù)定律） ,21nXXX, PniiXn11為一列為一列相互獨(dú)立相互獨(dú)立同分布同分布的的隨機(jī)變量，且具有相同的數(shù)學(xué)期望隨機(jī)變量，且具有相同的數(shù)學(xué)期望 即即設(shè)設(shè)11lim1niniPXn在定理一中在定理一中,去掉方差

12、存在的條件而加上相同去掉方差存在的條件而加上相同分布的條件，則有：分布的條件，則有：設(shè)事件設(shè)事件AnnA/pnnPA在每次試驗(yàn)中出現(xiàn)的概率為在每次試驗(yàn)中出現(xiàn)的概率為 p, 在在n次重復(fù)獨(dú)立試驗(yàn)中出現(xiàn)的頻率為次重復(fù)獨(dú)立試驗(yàn)中出現(xiàn)的頻率為 即即且且lim |1AnnPpn 理論上給出了在大量重復(fù)實(shí)驗(yàn)下理論上給出了在大量重復(fù)實(shí)驗(yàn)下, ,事件事件A A的的頻率依概率收斂于它的概率頻率依概率收斂于它的概率p.p.是隨機(jī)變量序列，設(shè)kX0)(1lim12nkknXDn若服從大數(shù)定律。則kXnknkkkEXnXnP1111證明證明由切比雪夫不等式由切比雪夫不等式即得所證結(jié)果即得所證結(jié)果.,)(11212nk

13、kXDn例例1 1 如何估計(jì)一大批產(chǎn)品的次品率？如何估計(jì)一大批產(chǎn)品的次品率？解解pAP )(抽取抽取n件產(chǎn)品，件產(chǎn)品， 為其中次品的件數(shù)為其中次品的件數(shù)。AnpnnPA設(shè)設(shè)A為事件為事件“任取一件為次品任取一件為次品”，記，記由伯努利大數(shù)定律知由伯努利大數(shù)定律知nnA當(dāng)當(dāng)n很大時(shí)，可取很大時(shí)，可取 作為次品率作為次品率 的估計(jì)值的估計(jì)值。p的隨機(jī)變量，且具有數(shù)學(xué)期望和方差，的隨機(jī)變量，且具有數(shù)學(xué)期望和方差， 定理定理1 1（獨(dú)立同分布的中心極限定理）（獨(dú)立同分布的中心極限定理）,nX,21XX任意實(shí)數(shù)任意實(shí)數(shù) ,x有有其中其中為標(biāo)準(zhǔn)正態(tài)分布的分布函數(shù)。為標(biāo)準(zhǔn)正態(tài)分布的分布函數(shù)。 )(x 設(shè)設(shè)為

14、一列相互獨(dú)立相同分布為一列相互獨(dú)立相同分布則對(duì)于則對(duì)于)(x 22-1e2txdtnlim111nniiiiniiXEXPxDXlim(1)nnnpPxnpp)(x 其中其中為標(biāo)準(zhǔn)正態(tài)分布的分布函數(shù)。為標(biāo)準(zhǔn)正態(tài)分布的分布函數(shù)。定理定理2 2 （德莫佛（德莫佛拉普拉斯）拉普拉斯）),(pnbn ，則對(duì)于任意實(shí)數(shù)，則對(duì)于任意實(shí)數(shù)x，有，有設(shè)設(shè)2t2-1e2xdt)(x 差，具有有限數(shù)學(xué)期望和方是獨(dú)立隨機(jī)變量序列，設(shè)k, 2 , 1,2kDaEkkkk即若存在記,122nkknB時(shí)使得當(dāng)n, 0, 01122nkkknaEB有則對(duì)于任意的x).()(1lim1xxaBPnkkknn人有了知識(shí)，就會(huì)具備各種分析能力，人有了知識(shí)，就會(huì)具備各種分析能力，明辨是非的能力。明辨是非的能力。所以我們要勤懇讀書(shū)，廣泛閱讀，所以我們要勤懇讀書(shū)，廣泛閱讀，古人說(shuō)古人說(shuō)“書(shū)中自有黃金屋。書(shū)中自有黃金屋。