統(tǒng)計(jì)模擬介紹課件

統(tǒng)計(jì)模擬介紹統(tǒng)計(jì)模擬介紹專(zhuān)業(yè)必修課教學(xué)目的：掌握統(tǒng)計(jì)模擬在實(shí)際中的應(yīng)用36理論課+18實(shí)驗(yàn)課(PBL)考試形式：閉卷考試(60%)+小論文(40%)統(tǒng)計(jì)模擬課程安排專(zhuān)業(yè)必修課統(tǒng)計(jì)模擬課程安排1.統(tǒng)計(jì)模擬，Ross著，王兆軍，陳廣雷，鄒長(zhǎng)亮譯2007年7月由人民郵電出版社出版2.統(tǒng)計(jì)建模與R軟件，薛毅,陳廣萍編著，2007年4月清華大學(xué)出版社教材或參考書(shū)目1.統(tǒng)計(jì)模擬，Ross著，王兆軍，陳廣雷，鄒長(zhǎng)亮譯教材或參考MonteCarlo方法：亦稱(chēng)統(tǒng)計(jì)模擬方法，statisticalsimulationmethod

利用隨機(jī)數(shù)進(jìn)行數(shù)值模擬的方法MonteCarlo名字的由來(lái)：是由Metropolis在二次世界大戰(zhàn)期間提出的：Manhattan計(jì)劃，研究與原子彈有關(guān)的中子輸運(yùn)過(guò)程；MonteCarlo是摩納哥（monaco)的首都，該城以賭博聞名NicholasMetropolis(1915-1999)Monte-Carlo,MonacoMonteCarlo方法：亦稱(chēng)統(tǒng)計(jì)模擬方法，statistMonteCarlo方法簡(jiǎn)史簡(jiǎn)單地介紹一下MonteCarlo方法的發(fā)展歷史1、Buffon投針實(shí)驗(yàn)：1768年，法國(guó)數(shù)學(xué)家ComtedeBuffon利用投針實(shí)驗(yàn)估計(jì)的值dLMonteCarlo方法簡(jiǎn)史簡(jiǎn)單地介紹一下MonteCaProblemofBuffon’sneedle:Ifaneedleoflengthlisdroppedatrandomonthemiddleofahorizontalsurfaceruledwithparallellinesadistanced>lapart,whatistheprobabilitythattheneedlewillcrossoneofthelines?ProblemofBuffon’sneedle:IfSolution:Thepositioningoftheneedlerelativetonearbylinescanbedescribedwitharandomvectorwhichhascomponents:Therandomvectorisuniformlydistributedontheregion[0,d)×[0,).Accordingly,ithasprobabilitydensityfunction1/d.TheprobabilitythattheneedlewillcrossoneofthelinesisgivenbytheintegralSolution:Thepositioningofth1777年，古稀之年的蒲豐在家中請(qǐng)來(lái)好些客人玩投針游戲（針長(zhǎng)是線距之半），他事先沒(méi)有給客人講與π有關(guān)的事?？腿藗冸m然不知道主人的用意，但是都參加了游戲。他們共投針2212次，其中704次相交。蒲豐說(shuō)，2212/704=3.142，這就是π值。這著實(shí)讓人們驚喜不已。1777年，古稀之年的蒲豐在家中請(qǐng)來(lái)好些客人玩投針游2、1930年，EnricoFermi利用MonteCarlo方法研究中子的擴(kuò)散，并設(shè)計(jì)了一個(gè)MonteCarlo機(jī)械裝置，F(xiàn)ermiac,用于計(jì)算核反應(yīng)堆的臨界狀態(tài)3、VonNeumann是MonteCarlo方法的正式奠基者,他與StanislawUlam合作建立了概率密度函數(shù)、反累積分布函數(shù)的數(shù)學(xué)基礎(chǔ)，以及偽隨機(jī)數(shù)產(chǎn)生器。在這些工作中，StanislawUlam意識(shí)到了數(shù)字計(jì)算機(jī)的重要性

合作起源于Manhattan工程：利用ENIAC(ElectronicNumericalIntegratorandComputer)計(jì)算產(chǎn)額2、1930年，EnricoFermi利用MonteCa一些人進(jìn)行了實(shí)驗(yàn)，其結(jié)果列于下表：實(shí)驗(yàn)者年份投計(jì)次數(shù)π的實(shí)驗(yàn)值沃爾弗(Wolf)185050003.1596斯密思(Smith)185532043.1553?？怂?Fox)189411203.1419拉查里尼(Lazzarini)190134083.1415929一些人進(jìn)行了實(shí)驗(yàn)，其結(jié)果列于下表：實(shí)驗(yàn)者年份投計(jì)次數(shù)π的實(shí)蒙特卡羅方法的基本思想蒙特卡羅方法又稱(chēng)計(jì)算機(jī)隨機(jī)模擬方法。它是以概率統(tǒng)計(jì)理論為基礎(chǔ)的一種方法。

由蒲豐試驗(yàn)可以看出，當(dāng)所求問(wèn)題的解是某個(gè)事件的概率，或者是某個(gè)隨機(jī)變量的數(shù)學(xué)期望，或者是與概率、數(shù)學(xué)期望有關(guān)的量時(shí)，通過(guò)某種試驗(yàn)的方法，得出該事件發(fā)生的頻率，或者該隨機(jī)變量若干個(gè)具體觀察值的算術(shù)平均值，通過(guò)它得到問(wèn)題的解。這就是蒙特卡羅方法的基本思想。蒙特卡羅方法的基本思想蒙特卡羅方法又稱(chēng)計(jì)算機(jī)隨機(jī)模擬方法。它模擬程序l=1;d=2;m=0;n=10000fork=1:n;x=unifrnd(0,d);y=unifrnd(0,pi);ifx<1*sin(y)m=m+1elseendendp=m/npi_m=1/p關(guān)系式成立產(chǎn)生隨機(jī)數(shù)驗(yàn)證模型成立次數(shù)k=k+1否是計(jì)算估計(jì)結(jié)果k/n成立次數(shù)不變?cè)囼?yàn)次數(shù)是否達(dá)到n次是否編寫(xiě)R程序模擬程序l=1;關(guān)系式產(chǎn)生隨機(jī)數(shù)驗(yàn)證模型成立次數(shù)k=k+1否MonteCarlo模擬的應(yīng)用：自然現(xiàn)象的模擬：宇宙射線在地球大氣中的傳輸過(guò)程；高能物理實(shí)驗(yàn)中的核相互作用過(guò)程；實(shí)驗(yàn)探測(cè)器的模擬數(shù)值分析：利用MonteCarlo方法求積分金融工程：股票期權(quán)的模擬定價(jià)MonteCarlo模擬的應(yīng)用：自然現(xiàn)象的模擬：宇宙射線在物理化學(xué)生物環(huán)境工程醫(yī)學(xué)金融交通教育心里衛(wèi)生數(shù)學(xué)語(yǔ)言軍事歷史經(jīng)濟(jì)天文。。。MonteCarlo應(yīng)用領(lǐng)域物理化學(xué)生物環(huán)境MonteCarloMonteCarlo模擬在物理研究中的作用MonteCarlo模擬在物理研究中的作用MonteCarlo模擬的步驟：根據(jù)欲研究的物理系統(tǒng)的性質(zhì)，建立能夠描述該系統(tǒng)特性的理論模型，導(dǎo)出該模型的某些特征量的概率密度函數(shù)；從概率密度函數(shù)出發(fā)進(jìn)行隨機(jī)抽樣，得到特征量的一些模擬結(jié)果；對(duì)模擬結(jié)果進(jìn)行分析總結(jié)，預(yù)言物理系統(tǒng)的某些特性。MonteCarlo模擬的步驟：根據(jù)欲研究的物理系統(tǒng)的性質(zhì)注意以下兩點(diǎn)：MonteCarlo方法與數(shù)值解法的不同:MonteCarlo方法利用隨機(jī)抽樣的方法來(lái)求解物理問(wèn)題;數(shù)值解法:從一個(gè)物理系統(tǒng)的數(shù)學(xué)模型出發(fā),通過(guò)求解一系列的微分方程來(lái)的導(dǎo)出系統(tǒng)的未知狀態(tài);MonteCarlo方法并非只能用來(lái)解決包含隨機(jī)的過(guò)程的問(wèn)題:許多利用MonteCarlo方法進(jìn)行求解的問(wèn)題中并不包含隨機(jī)過(guò)程例如:用MonteCarlo方法計(jì)算定積分.

對(duì)這樣的問(wèn)題可將其轉(zhuǎn)換成相關(guān)的隨機(jī)過(guò)程,然后用MonteCarlo方法進(jìn)行求解注意以下兩點(diǎn)：MonteCarlo方法與數(shù)值解法的不同:MMonteCarlo算法的主要組成部分概率密度函數(shù)(pdf)—必須給出描述一個(gè)物理系統(tǒng)的一組概率密度函數(shù);隨機(jī)數(shù)產(chǎn)生器—能夠產(chǎn)生在區(qū)間[0,1]上均勻分布的隨機(jī)數(shù)抽樣規(guī)則—如何從在區(qū)間[0,1]上均勻分布的隨機(jī)數(shù)出發(fā),隨機(jī)抽取服從給定的pdf的隨機(jī)變量;模擬結(jié)果記錄—記錄一些感興趣的量的模擬結(jié)果誤差估計(jì)—必須確定統(tǒng)計(jì)誤差（或方差）隨模擬次數(shù)以及其它一些量的變化；減少方差的技術(shù)—利用該技術(shù)可減少模擬過(guò)程中計(jì)算的次數(shù)；并行和矢量化—可以在先進(jìn)的并行計(jì)算機(jī)上運(yùn)行的有效算法MonteCarlo算法的主要組成部分概率密度函數(shù)(pdf1.具有統(tǒng)計(jì)功能的軟件Excel,Matab,C,Fortran2.專(zhuān)業(yè)的統(tǒng)計(jì)軟件SPSS,SAS,S-Plus,R,Gauss,minitab常用的統(tǒng)計(jì)軟件1.具有統(tǒng)計(jì)功能的軟件常用的統(tǒng)計(jì)軟件蒙特卡羅方法的特點(diǎn)優(yōu)點(diǎn)能夠比較逼真地描述具有隨機(jī)性質(zhì)的事物的特點(diǎn)及物理實(shí)驗(yàn)過(guò)程。受幾何條件限制小。收斂速度與問(wèn)題的維數(shù)無(wú)關(guān)。具有同時(shí)計(jì)算多個(gè)方案與多個(gè)未知量的能力。誤差容易確定。程序結(jié)構(gòu)簡(jiǎn)單，易于實(shí)現(xiàn)。缺點(diǎn)收斂速度慢。誤差具有概率性。在粒子輸運(yùn)問(wèn)題中，計(jì)算結(jié)果與系統(tǒng)大小有關(guān)。蒙特卡羅方法的特點(diǎn)優(yōu)點(diǎn)缺點(diǎn)趕火車(chē)問(wèn)題火車(chē)離站時(shí)刻13:0013:0513:10概率0.70.20.1

一列列車(chē)從A站開(kāi)往B站，某人每天趕往B站上車(chē)。他已經(jīng)了解到火車(chē)從A站到B站的運(yùn)行時(shí)間是服從均值為30min，標(biāo)準(zhǔn)差為2min的正態(tài)隨機(jī)變量?；疖?chē)大約下午13：00離開(kāi)A站，此人大約13:30到達(dá)B站。火車(chē)離開(kāi)A站的時(shí)刻及概率如表1所示，此人到達(dá)B站的時(shí)刻及概率如表2所示。問(wèn)此人能趕上火車(chē)的概率有多大？表1：火車(chē)離開(kāi)A站的時(shí)刻及概率

表2：某人到達(dá)B站的時(shí)刻及概率人到站時(shí)刻13:2813:3013:3213:34概率0.30.40.20.1趕火車(chē)問(wèn)題火車(chē)離站時(shí)刻13:0013:0513:10概率0.趕火車(chē)問(wèn)題——問(wèn)題的分析——

這個(gè)問(wèn)題用概率論的方法求解十分困難，它涉及此人到達(dá)時(shí)刻、火車(chē)離開(kāi)站的時(shí)刻、火車(chē)運(yùn)行時(shí)間幾個(gè)隨機(jī)變量，而且火車(chē)運(yùn)行時(shí)間是服從正態(tài)分布的隨機(jī)變量，沒(méi)有有效的解析方法來(lái)進(jìn)行概率計(jì)算。在這種情況下可以用計(jì)算機(jī)模擬的方法來(lái)解決。趕火車(chē)問(wèn)題——問(wèn)題的分析——：火車(chē)從A站出發(fā)的時(shí)刻；：火車(chē)從A站到B站的運(yùn)行時(shí)間；：某人到達(dá)B站的時(shí)刻；：隨機(jī)變量服從正態(tài)分布的均值；：隨機(jī)變量服從正態(tài)分布的標(biāo)準(zhǔn)差；

進(jìn)行計(jì)算機(jī)統(tǒng)計(jì)模擬的基礎(chǔ)是抽象現(xiàn)實(shí)系統(tǒng)的數(shù)學(xué)模型

為了便于建模，對(duì)模型中使用的變量作出如下假定：：火車(chē)從A站出發(fā)的時(shí)刻；進(jìn)行計(jì)算機(jī)統(tǒng)計(jì)模擬的基礎(chǔ)是抽象現(xiàn)實(shí)

此人能及時(shí)趕上火車(chē)的充分必要條件為：，所以此人能趕上火車(chē)的概率模型為：。趕火車(chē)問(wèn)題

為了分析簡(jiǎn)化，假定13時(shí)為時(shí)刻t=0，則變量、的分布律為：05100.70.20.1283032340.30.40.20.1此人能及時(shí)趕上火車(chē)的充分必要條件為：趕火車(chē)問(wèn)題

R軟件求解的總算法：關(guān)系式成立產(chǎn)生隨機(jī)數(shù)驗(yàn)證模型成立次數(shù)k=k+1否是計(jì)算估計(jì)結(jié)果k/n成立次數(shù)不變?cè)囼?yàn)次數(shù)是否達(dá)到n次是否編寫(xiě)R程序①借助區(qū)間(0,1)分布產(chǎn)生的隨機(jī)數(shù)，對(duì)變量、概率分布進(jìn)行統(tǒng)計(jì)模擬；②根據(jù)變量、、概率分布及模擬程序、命令產(chǎn)生n個(gè)隨機(jī)分布數(shù)；③使用隨機(jī)產(chǎn)生的n組隨機(jī)數(shù)驗(yàn)證模型中的關(guān)系表達(dá)式是否成立；④計(jì)算n次模擬實(shí)驗(yàn)中，使得關(guān)系表達(dá)式成立的次數(shù)k；⑤當(dāng)時(shí)，以作為此人能趕上火車(chē)的概率p的近似估計(jì)；趕火車(chē)問(wèn)題R軟件求解的總算法：關(guān)系式產(chǎn)生隨機(jī)數(shù)驗(yàn)證模型成立windows(7,3)prb=replicate(100,{x=sample(c(0,5,10),1,prob=c(0.7,0.2,0.1))y=sample(c(28,30,32,34),1,prob=c(0.3,0.4,0.2,0.1))plot(0:40,rep(1,41),type="n",xlab="time",ylab="",axes=FALSE)axis(1,0:40)r=rnorm(1,30,2)points(x,1,pch=15)i=0while(i<=r){i=i+1segments(x,1,x+i,1)if(x+i>=y)points(y,1,pch=19)Sys.sleep(0.1)}points(y,1,pch=19)title(ifelse(x+r<=y,"poor...missedthetrain!","Bingo!catchedthetrain!"))Sys.sleep(0.5)x+r>y})mean(prb)windows(7,3)1.1矩母函數(shù)和生成函數(shù)

定義1.1設(shè)隨機(jī)變量X的密度函數(shù)為p(x),稱(chēng)為X的矩母函數(shù)，記為性質(zhì)：(1)(2)若X和Y相互獨(dú)立，則第一章預(yù)備知識(shí)1.1矩母函數(shù)和生成函數(shù)第一章預(yù)備知識(shí)定義1.2若Ｘ為離散型隨機(jī)變量，稱(chēng)為其概率生成函數(shù)，記為性質(zhì)(1)(2)若X和Y獨(dú)立，

定義1.21.條件分布其中為X的邊際分布例子：令X和Y的聯(lián)合密度函數(shù)為試求

1.2條件分布和條件方差1.條件分布1.2條件分布和條件方差2.條件數(shù)學(xué)期望命題：2.條件數(shù)學(xué)期望3.條件方差條件方差公式3.條件方差例1.3從某大學(xué)任意挑選一個(gè)學(xué)院，然后從此學(xué)院中任意挑選n個(gè)學(xué)生，令X表示這些學(xué)生中來(lái)自武漢市的人數(shù)，令Q代表該學(xué)院來(lái)自武漢市的人數(shù)所占的比例，因?yàn)閷W(xué)院之間的比例不相同，因此Q也是一個(gè)隨機(jī)變量。若Q~U(0,1),X|Q=q~B(n,q)，求X的方差。例1.3從某大學(xué)任意挑選一個(gè)學(xué)院，然后從此學(xué)院中任意挑選n隨機(jī)過(guò)程

是一個(gè)隨機(jī)變量集合，狀態(tài)空間S是隨機(jī)變量取值集合，集合T為指標(biāo)集。指標(biāo)集可以是離散的也可以是連續(xù)的。例：天氣變化情況是一個(gè)隨機(jī)過(guò)程

晴，晴，多云，雨，雨，…

1.3隨機(jī)過(guò)程簡(jiǎn)介隨機(jī)過(guò)程1.3隨機(jī)過(guò)程簡(jiǎn)介統(tǒng)計(jì)模擬介紹ppt課件命題：設(shè)為Poisson過(guò)程中事件發(fā)生的間隔時(shí)間序列，則為獨(dú)立同分布的隨機(jī)變量序列，且共同分布為具有參數(shù)的指數(shù)分布命題：設(shè)為Poisson過(guò)例1.5顧客依Poisson過(guò)程到達(dá)商店，速率為

人/小時(shí)。已知商店上午9:00開(kāi)門(mén)。試求：到9:30時(shí)僅到一位顧客，而到11:30時(shí)總計(jì)已到5位顧客的概率。例1.5顧客依Poisson過(guò)程到達(dá)商店，速率為2.非齊次Posson過(guò)程2.非齊次Posson過(guò)程統(tǒng)計(jì)模擬介紹ppt課件一、Markov鏈的定義1．Markov鏈一、Markov鏈的定義1．Markov鏈有限馬氏鏈狀態(tài)空間是有限集I={0,1,2,…，k}2．一步轉(zhuǎn)移概率馬氏鏈在時(shí)刻n處于狀態(tài)i

的條件下，到時(shí)刻n+1轉(zhuǎn)移到狀態(tài)j

的條件概率，即稱(chēng)為在時(shí)刻n的一步轉(zhuǎn)移概率，注:馬氏鏈由和條件概率決定有限馬氏鏈狀態(tài)空間是有限集I={0,1,2,…，k}2．一步注:由于概率是非負(fù)的，且過(guò)程從一狀態(tài)出發(fā)，經(jīng)過(guò)一步轉(zhuǎn)移后，必到達(dá)狀態(tài)空間中的某個(gè)狀態(tài)一步轉(zhuǎn)移概率滿足3．一步轉(zhuǎn)移矩陣稱(chēng)為在時(shí)刻n的一步轉(zhuǎn)移矩陣

隨機(jī)矩陣注:由于概率是非負(fù)的，且過(guò)程從一狀態(tài)出發(fā)，經(jīng)過(guò)一步轉(zhuǎn)移后，必即有有限馬氏鏈狀態(tài)空間I={0，1，2，…，k}即有有限馬氏鏈狀態(tài)空間I={0，1，2，…，k}4．齊次馬氏鏈即則稱(chēng)此馬氏鏈為齊次馬氏鏈（即關(guān)于時(shí)間為齊次）5．初始分布4．齊次馬氏鏈即則稱(chēng)此馬氏鏈為齊次馬氏鏈（即關(guān)于時(shí)間為齊次）注馬氏鏈在初始時(shí)刻有可能處于I中任意狀態(tài)，初始分布就是馬氏鏈在初始時(shí)刻的概率分布。6．絕對(duì)分布概率分布稱(chēng)為馬氏鏈的絕對(duì)分