《貝葉斯統(tǒng)計(jì)》ppt課件

1、MCMC方法方法一、一、貝貝葉斯葉斯統(tǒng)計(jì)統(tǒng)計(jì)的框架分析的框架分析困難困難: 后驗(yàn)分布是復(fù)雜的、高維的分布后驗(yàn)分布是復(fù)雜的、高維的分布處理方法處理方法:馬爾可夫鏈蒙特卡羅馬爾可夫鏈蒙特卡羅MCMC方法方法后驗(yàn)分布后驗(yàn)分布 先驗(yàn)信息先驗(yàn)信息 似然函數(shù)似然函數(shù) 目前，MCMC曾經(jīng)成為一種處置復(fù)雜統(tǒng)計(jì)問題的特別流行的工具，尤其在經(jīng)常需求復(fù)雜的高維積分運(yùn)算的貝葉斯分析領(lǐng)域更是如此。在那里，高維積分運(yùn)算主要是用來求取普通方法無法得到的后驗(yàn)分布密度。假設(shè)合理的定義和實(shí)施，MCMC總能得到一條或幾條收斂的馬爾可夫鏈，該馬爾可夫鏈的極限分布就是所需的后驗(yàn)分布一預(yù)備知識二根本思想三常用MCMC算法Gibbs抽樣吉

2、布斯采樣算法每次迭帶的時(shí)候的一些元素曾經(jīng)被跟新了，假設(shè)在更新其他的元素時(shí)不運(yùn)用這些更新后的元素會呵斥一定程度新其他的元素時(shí)不運(yùn)用這些更新后的元素會呵斥一定程度的浪費(fèi)?，F(xiàn)實(shí)上，的浪費(fèi)。現(xiàn)實(shí)上， Gibbs抽樣抽樣 可經(jīng)過在每一步都利用近似可經(jīng)過在每一步都利用近似得到的其他元素的值來獲得更好的效果。這種方法改良了得到的其他元素的值來獲得更好的效果。這種方法改良了練的混合，換句話說，鏈能更加迅速，更加詳盡的搜索目練的混合，換句話說，鏈能更加迅速，更加詳盡的搜索目的分布的支撐空間。的分布的支撐空間。）（0）（02逐個生成。3添加m,前往第2步。Metropolis-Hastings抽樣00000001

3、N,401,( )()pmin(1,)( )aa 假設(shè)數(shù)據(jù)是 （1 ）的1000個隨機(jī)數(shù)；和的初值是 和 ，用隨機(jī)移動的正態(tài)分布作為建議分布做法就應(yīng)該是，=建議分布為N(，I)，再由它生成一個隨機(jī)向量作為，然后看接受概率設(shè)先驗(yàn)為均勻分布，設(shè)p(x,x )= （x，x），則診斷方法1察看樣本途徑 產(chǎn)生多條馬爾可夫鏈，察看樣本途徑對多個初始值產(chǎn)生多個馬爾可夫鏈 樣本途徑是一個描畫迭代數(shù)對應(yīng) 的實(shí)現(xiàn)圖。樣本途徑有時(shí)也稱為歷史圖。假設(shè)鏈的混合不是很好，那么在很多次迭代中它會取 一樣或者相近的數(shù)值。一個好的鏈可以快速地遠(yuǎn)離初始值，無論以何值開場。 ）（m歷史迭代圖不收斂收斂(2)察看自相關(guān)性圖自相關(guān)性圖用于描畫 序列在不同迭代延遲下的相關(guān)性，延遲i的自相關(guān)性是指相距i步的兩迭代之間的相關(guān)性。具有較差的性質(zhì)的鏈隨著迭代延遲的添加會表現(xiàn)出較慢的自相關(guān)衰弱。）（m）（m)()()()()(xLxfxh)()(supxhxhMDMDdxhxEE)()(E5 . 0)(5 . 0dxhuMeMe5 . 0uMeB),()(21nxxxx1)(ULP1)()(dxhxPULUL1)()(dxhxIPIII21,)()(21xhxhdxhxPxdxhxPx10)()()()()()(111