教學(xué)大綱_貝葉斯統(tǒng)計(jì)

1、貝葉斯統(tǒng)計(jì)教學(xué)大綱課程編號：120493A課程類型：口通識教育必修課口通識教育選修課舊專業(yè)必修課口專業(yè)選修課學(xué)科基礎(chǔ)課總學(xué)時：48 講課學(xué)時：32實(shí)驗(yàn)（上機(jī)）學(xué)時：16學(xué)分：3適用對象：統(tǒng)計(jì)學(xué)專業(yè)先修課程：高等數(shù)學(xué)、概率論與數(shù)理統(tǒng)計(jì)學(xué)畢業(yè)要求：1 .扎實(shí)的數(shù)學(xué)基礎(chǔ)和完整的統(tǒng)計(jì)知識體系2 .計(jì)算機(jī)編程技能與經(jīng)濟(jì)學(xué)基本常識3 .解決實(shí)際問題的能力4 .統(tǒng)計(jì)學(xué)和大數(shù)據(jù)專業(yè)知識一、教學(xué)目標(biāo)貝葉斯統(tǒng)計(jì)是上世紀(jì)50年代后，才迅速發(fā)展起來的一門統(tǒng)計(jì)理論。目前， 在歐美等西方國家，貝葉斯統(tǒng)計(jì)已經(jīng)成為了與經(jīng)典統(tǒng)計(jì)學(xué)派并駕齊驅(qū)的當(dāng)今兩大 統(tǒng)計(jì)學(xué)派之一；隨著貝葉斯理論和方法的不斷發(fā)展和完善， 以及相應(yīng)的計(jì)算軟件 的

2、研制，貝葉斯方法在實(shí)踐中獲得了日趨廣泛的應(yīng)用；特別是，貝葉斯決策問題在統(tǒng)計(jì)應(yīng)用中占有越來越重要的地位。 在商業(yè)經(jīng)濟(jì)預(yù)測、政府宏觀經(jīng)濟(jì)管理、國 防工業(yè)中對武器裝備系統(tǒng)可靠性評估、生物醫(yī)學(xué)研究；知識發(fā)現(xiàn)和數(shù)據(jù)挖掘技術(shù) 等都獲得了廣泛應(yīng)用。本課程通過貝葉斯統(tǒng)計(jì)的教學(xué) 使學(xué)習(xí)過傳統(tǒng)的 數(shù)理統(tǒng)計(jì)課程的學(xué)生了解貝葉斯統(tǒng)計(jì)的基本思想和基本觀點(diǎn)，了解貝葉斯統(tǒng)計(jì)與傳統(tǒng)的數(shù)理統(tǒng)計(jì)在理論和處 理方法上的區(qū)別，了解貝葉斯統(tǒng)計(jì)的最新進(jìn)展，能夠系統(tǒng)的掌握貝葉斯統(tǒng)計(jì)的基 本理論、基本方法，特別是貝葉斯統(tǒng)計(jì)極具特色的一些處理方法，引進(jìn)一個效用函數(shù)(utility function)并選擇使期望效用最大的最優(yōu)決策，這樣就把貝葉

3、斯的 統(tǒng)計(jì)思想擴(kuò)展到在不確定時的決策問題。 很好的將統(tǒng)計(jì)學(xué)與最優(yōu)化的思想方法和 技術(shù)很好的進(jìn)行了結(jié)合。貝葉斯統(tǒng)計(jì)理論和方法技術(shù)的學(xué)習(xí)，不僅能夠提高學(xué)生 分析和解決實(shí)際問題的能力，還能夠更進(jìn)一步提高對經(jīng)典數(shù)理統(tǒng)計(jì)的深入理解。二、教學(xué)內(nèi)容及其與畢業(yè)要求的對應(yīng)關(guān)系根據(jù)貝葉斯統(tǒng)計(jì)課程的教學(xué)內(nèi)容，本課程將重點(diǎn)介紹貝葉斯統(tǒng)計(jì)推斷理論，貝葉斯決策理論。并且注重貝葉斯統(tǒng)計(jì)處理方法和基本觀點(diǎn)與傳統(tǒng)數(shù)理統(tǒng)計(jì)相應(yīng) 內(nèi)容對比的講授方式。注重案例教學(xué)，安排學(xué)生課后查閱文獻(xiàn)資料，以及課堂研 討等方式，了解貝葉斯統(tǒng)計(jì)理論和應(yīng)用最新成果及前沿研究進(jìn)展。對最新貝葉斯網(wǎng)絡(luò)和貝葉斯統(tǒng)計(jì)的方法除了傳統(tǒng)講授方式外，適當(dāng)?shù)陌才派蠙C(jī)實(shí)驗(yàn)，

4、了解貝葉斯統(tǒng)計(jì)相關(guān)軟件的使用方法。課程的考核方式：期末開卷+論文方式，卷面60%, 平時和論文40%。三、各教學(xué)環(huán)節(jié)學(xué)時分配以表格方式表現(xiàn)各章節(jié)的學(xué)時分配，表格如下：教學(xué)課時分配廳P京P內(nèi)谷講課實(shí)驗(yàn)其他合計(jì)1第一章緒論22第一早先驗(yàn)分布與后驗(yàn)分布423第三章貝葉斯統(tǒng)計(jì)推斷824第四章先驗(yàn)分布的確定425第五章決策中的收益、損失與效應(yīng)446第六章貝葉斯決策647第七章貝葉斯網(wǎng)絡(luò)簡介42合計(jì)321648四、教學(xué)內(nèi)容第一章緒論第一節(jié)貝葉斯理論發(fā)展歷史簡介簡單的介紹貝葉斯理論發(fā)展歷史，在貝葉斯理論發(fā)展過程中一些統(tǒng)計(jì)學(xué)家的 重要工作。第二節(jié)貝葉斯方法的特點(diǎn)1 .貝葉斯統(tǒng)計(jì)理論的基本觀點(diǎn)2 .貝葉斯統(tǒng)計(jì)與

5、傳統(tǒng)數(shù)理統(tǒng)計(jì)的區(qū)別第三節(jié) 現(xiàn)代貝葉斯統(tǒng)計(jì)理論的研究現(xiàn)狀1 .先驗(yàn)分布理論的研究2 .后驗(yàn)分布的統(tǒng)計(jì)推斷3 .貝葉斯網(wǎng)絡(luò)技術(shù)的發(fā)展第四節(jié)貝葉斯方法的應(yīng)用1 .在經(jīng)濟(jì)分析中的應(yīng)用2 .在保險精算中的應(yīng)用3 .在數(shù)據(jù)挖掘中的應(yīng)用教學(xué)重點(diǎn)、難點(diǎn)：重點(diǎn)掌握貝葉斯統(tǒng)計(jì)的基本思想， 本章難點(diǎn)是貝葉斯統(tǒng)計(jì) 的基本思想以及貝葉斯統(tǒng)計(jì)學(xué)派與傳統(tǒng)的頻率學(xué)派的分歧。課程的考核要求：通過本章的學(xué)習(xí)，要求學(xué)生了解貝葉斯統(tǒng)計(jì)思想的歷史背 景、掌握基本觀點(diǎn)及其基本學(xué)術(shù)思想的內(nèi)涵、了解貝葉斯統(tǒng)計(jì)與傳統(tǒng)數(shù)理統(tǒng)計(jì)的區(qū)別，了解貝葉斯統(tǒng)計(jì)理論的研究現(xiàn)狀及貝葉斯方法的應(yīng)用。復(fù)習(xí)思考題：1. 貝葉斯統(tǒng)計(jì)理論的基本觀點(diǎn)是什么？2. 貝葉斯學(xué)

6、派與頻率學(xué)派之間存在的重大分歧是什么？3. 請課后查閱貝葉斯理論相關(guān)應(yīng)用文獻(xiàn)資料，然后回答貝葉斯理論有哪些應(yīng)用？第二章 先驗(yàn)分布與后驗(yàn)分布第一節(jié) 三種信息1. 總體信息2. 樣本信息3. 先驗(yàn)信息第二節(jié) 貝葉斯公式1. 貝葉斯公式的密度函數(shù)形式2. 后驗(yàn)分布是三種信息的綜合第三節(jié) 共軛先驗(yàn)分布1. 共軛先驗(yàn)分布2. 后驗(yàn)分布的計(jì)算3. 共軛先驗(yàn)分布的優(yōu)缺點(diǎn)教學(xué)重點(diǎn)、難點(diǎn)： 重點(diǎn)講解貝葉斯公式的密度函數(shù)形式，特別是連續(xù)隨機(jī)變量形式。共軛先驗(yàn)分布的計(jì)算及其優(yōu)缺點(diǎn)、課程的考核要求： 通過本章的學(xué)習(xí)，要求學(xué)生掌握先驗(yàn)分布與后驗(yàn)分布的概念。 理解 貝葉斯統(tǒng)計(jì)中的三種信息；掌握貝葉斯公式的密度函數(shù)形式、共

7、軛先驗(yàn)分布的計(jì)算及其優(yōu)缺點(diǎn)、超參數(shù)的確定方法；了解多參數(shù)模型和充分統(tǒng)計(jì)量。復(fù)習(xí)思考題：1. 什么是貝葉斯公式？寫出貝葉斯公式的三種形式。2. 設(shè) 是一批產(chǎn)品的不合格率，已知它不是0.1 就是0.2，其先驗(yàn)分布為：(0.1) 0.7,(0.2) 0.3假如從這批產(chǎn)品中隨機(jī)取出8 個進(jìn)行檢查，發(fā)現(xiàn)有 2 個不合格品，求的后驗(yàn)分布。3. 共軛先驗(yàn)分布的優(yōu)缺點(diǎn)是什么？第三章 貝葉斯推斷第一節(jié) 條件方法第二節(jié) 點(diǎn)估計(jì)1. 貝葉斯估計(jì)2. 貝葉斯估計(jì)的誤差第三節(jié) 區(qū)間估計(jì)1 . 可信區(qū)間2 .最大后驗(yàn)密度(HPD)可信區(qū)間第四節(jié) 假設(shè)檢驗(yàn)1. 假設(shè)檢驗(yàn)2. 貝葉斯因子3. 簡單假設(shè)對簡單假設(shè)4. 復(fù)雜假設(shè)

8、對復(fù)雜假設(shè)5. 簡單原假設(shè)對復(fù)雜備擇假設(shè)第五節(jié) 預(yù)測1 .預(yù)測的基本概念和基本問題2 .預(yù)測的貝葉斯方法第六節(jié)似然原理1 .對似然函數(shù)的理解2 .似然原理3 .兩個學(xué)派對似然原理的不同理解而產(chǎn)生的影響教學(xué)重點(diǎn)、難點(diǎn)：重點(diǎn)講解貝葉斯估計(jì)和貝葉斯假設(shè)檢驗(yàn)的思想方法。難點(diǎn)二次損失函數(shù)下參數(shù)估計(jì)的貝葉斯方法。課程的考核要求：通過本章的學(xué)習(xí)，要求學(xué)生掌握二次損失函數(shù)下參數(shù)估計(jì) 的貝葉斯方法、估計(jì)量的誤差分析、最大后驗(yàn)密度的可信區(qū)間；掌握貝葉斯基本 假設(shè)的涵義、檢驗(yàn)方法的一般步驟，了解貝葉斯預(yù)測和似然原理。能用這些方法 解決一些簡單的實(shí)際問題。復(fù)習(xí)思考題：1 .簡述條件方法的基本思想。2 .請敘述貝葉斯參

9、數(shù)估計(jì)基本思想，并寫出貝葉斯估計(jì)的具體步驟。3 .怎樣評價貝葉斯估計(jì)的優(yōu)劣？4 .簡述貝葉斯假設(shè)檢驗(yàn)的基本思想，它與經(jīng)典假設(shè)檢驗(yàn)的根本區(qū)別是什 么？2、25.已知隨機(jī)樣本X1, ,XnN( , 0),其中0已知。設(shè) 的先驗(yàn)分布為雙 指數(shù)分布，即h( ) ec/(2c),其中c已知。(1)試求的后驗(yàn)分布；(2)試求的后驗(yàn)分布的數(shù)學(xué)期望。226.已知隨機(jī)變量X N( , 1 ),隨機(jī)變量Y N( , 2),其中兩個正態(tài)總體含 有相同的未知,且12, 2已知。設(shè) 的先驗(yàn)分布 N( , 2),其中，2已知。(1)如果沒有來自總體N( , 12)的Xi, ,Xn樣本數(shù)據(jù)，試求隨機(jī)變量Y的貝葉斯預(yù)測值及預(yù)

10、測區(qū)間。(2)如果給出了來自總體N( , 12)的Xi, ,Xn樣本數(shù)據(jù)，試求隨機(jī)變量Y的 貝葉斯預(yù)測值及預(yù)測區(qū)間。第四章 先驗(yàn)分布的確定第一節(jié) 主觀概率1. 主觀概率2. 確定主觀概率的方法第二節(jié) 利用先驗(yàn)信息確定先驗(yàn)分布1. 直方圖法2. 選定先驗(yàn)密度函數(shù)形式再估計(jì)其超參數(shù)3. 定分度法與變分度法第三節(jié)利用邊緣分布m(x)確定先驗(yàn)密度1. 邊緣分布m(x)2. 混合分布3. 先驗(yàn)選擇的MII方法4. 先驗(yàn)選擇的矩方法第四節(jié) 無信息先驗(yàn)分布1. 貝葉斯假設(shè)2. 位置 - 尺度參數(shù)的無信息先驗(yàn)分布3. 尺度參數(shù)的無信息先驗(yàn)分布4. 用 Fisher 信息陣確定無信息先驗(yàn)分布教學(xué)重點(diǎn)、難點(diǎn)：重點(diǎn)

11、介紹 無信息先驗(yàn)分布。特別是位置參數(shù)和尺度參數(shù)的無信息先驗(yàn)分布，和Fisher 信息陣確定無信息先驗(yàn)分布。課程的考核要求： 先驗(yàn)分布的確定是貝葉斯學(xué)派研究的重點(diǎn)問題，更是研究的難點(diǎn)， 也是經(jīng)典學(xué)派批評的熱點(diǎn)。要求學(xué)生掌握確定先驗(yàn)分布的幾個典型方法， 掌握貝葉斯假設(shè)的概念，掌握位置參數(shù)和尺度參數(shù)的無信息先驗(yàn)分布，會用 Fisher 信息陣確定無信息先驗(yàn)分布等，并運(yùn)用這些方法解決一些實(shí)際問題。復(fù)習(xí)思考題：1. 如何理解主觀概率？2. 什么是貝葉斯假設(shè)？3. 混合分布的含義是什么？4. 簡述 Fisher 信息陣確定無信息先驗(yàn)分布的基本步驟。第五章 決策中的收益、損失與效用第一節(jié) 決策問題的三要素1

12、. 決策問題2. 決策問題的三要素第二節(jié) 決策準(zhǔn)則1. 行動的容許性2. 決策準(zhǔn)則第三節(jié) 先驗(yàn)期望準(zhǔn)則1. 先驗(yàn)期望準(zhǔn)則的基本原理和應(yīng)用2. 先驗(yàn)期望準(zhǔn)則的兩個重要性質(zhì)第四節(jié) 損失函數(shù)1. 從收益到損失2. 損失函數(shù)3. 損失函數(shù)下的悲觀準(zhǔn)則第五節(jié) 常用的損失函數(shù)*1. 常用損失函數(shù)2. 常用損失函數(shù)的應(yīng)用第六節(jié) 效用函數(shù) *1. 效用和效用函數(shù)2. 效用的測定3. 效用尺度4. 常見的效用曲線5. 用效用函數(shù)作決策的例子6. 從效用到損失教學(xué)重點(diǎn)、難點(diǎn)：重點(diǎn)介紹 決策問題的三要素、決策準(zhǔn)則、先驗(yàn)期望準(zhǔn)則及性質(zhì)，常用的損失函數(shù)、損失函數(shù)下的悲觀準(zhǔn)則和先驗(yàn)期望準(zhǔn)則。課程的考核要求： 掌握決策問題

13、的三要素、決策準(zhǔn)則、先驗(yàn)期望準(zhǔn)則及其性質(zhì) ,了解常用的損失函數(shù)、損失函數(shù)下的悲觀準(zhǔn)則和先驗(yàn)期望準(zhǔn)則；理解效應(yīng)和效應(yīng)函數(shù)、常用的效應(yīng)曲線和效應(yīng)的測定方法,以及效應(yīng)曲線在決策中的應(yīng)用。復(fù)習(xí)思考題：1. 如何理解悲觀準(zhǔn)則、樂觀準(zhǔn)則、折中準(zhǔn)則和先驗(yàn)期望準(zhǔn)則之間的聯(lián)系？2. 某企業(yè)準(zhǔn)備經(jīng)營一種新產(chǎn)品，可采取得行動有：大批量、中批量和小批量生產(chǎn)。市場可能出現(xiàn)的狀況有：暢銷、一般和滯銷。如大批量生產(chǎn)，在暢銷時可獲利 100 萬元，一般時可獲利30 萬元，滯銷時虧損60 萬元；如中批量生產(chǎn)，在三種市場情況下可獲利50 萬元、 40 萬元和虧損20 萬元；如小批量生產(chǎn)，在三種市場情況下可獲利10 萬元、 9 萬

14、元和 6 萬元。3. 1）寫出收益矩陣4. 2）在悲觀準(zhǔn)則下，該企業(yè)的最優(yōu)行動是什么？5. 3）在樂觀準(zhǔn)則下，該企業(yè)的最優(yōu)行動是什么？6. 4）若樂觀系數(shù)0.8，該企業(yè)的最優(yōu)行動是什么？第六章貝葉斯決策第一節(jié)貝葉斯決策問題1. 無數(shù)據(jù)的決策問題2. 統(tǒng)計(jì)決策問題3. 貝葉斯決策問題第二節(jié) 后驗(yàn)風(fēng)險準(zhǔn)則1. 后驗(yàn)風(fēng)險2. 決策函數(shù)3. 后驗(yàn)風(fēng)險準(zhǔn)則第三節(jié) 常用損失函數(shù)下的貝葉斯估計(jì)1. 平方損失下的貝葉斯估計(jì)2. 線性損失下的貝葉斯估計(jì)3. 有限個行動問題的假設(shè)檢驗(yàn)第四節(jié) 抽樣信息期望值1. 完全信息期望值2. 抽樣信息期望值第五節(jié) 最佳樣本量的確定1. 抽樣凈益2. 最佳樣本量及其上界3. 最

15、佳樣本量的求法教學(xué)重點(diǎn)、難點(diǎn)：貝葉斯決策的基本概念、后驗(yàn)風(fēng)險、決策函數(shù)和后驗(yàn)風(fēng)險準(zhǔn)則；平方損失函數(shù)和線性損失函數(shù)下參數(shù)的貝葉斯估計(jì)方法、有限個行動問題的貝葉斯假設(shè)檢驗(yàn)；課程的考核要求：本章系統(tǒng)介紹貝葉斯決策的基本理論和方法，通過本章的學(xué)習(xí)，要求學(xué)生掌握貝葉斯決策的基本概念、后驗(yàn)風(fēng)險、決策函數(shù)和后驗(yàn)風(fēng)險準(zhǔn) 則；熟練掌握平方損失函數(shù)和線性損失函數(shù)下參數(shù)的貝葉斯估計(jì)、有限個行動問題的貝葉斯hl檢驗(yàn)；了解完全信息期望值、抽樣信息期望值、最佳樣本容量的 確定和正態(tài)分布下二行動線性決策問題的先驗(yàn)EVPI。復(fù)習(xí)思考題：1 .貝葉斯決策問題與其他據(jù)測問題的異同點(diǎn)是什么？2 .考察損失函數(shù)L( ,d) ec(

16、d) c( d) 1(1)證明 L( ,d) 0(2)對c 0.1, 0.5, 1.2,畫出此損失函數(shù)圖形(3)在這個損失函數(shù)下給出貝葉斯估計(jì)的表達(dá)式(4)設(shè)X1,X2,“|, Xn是來自正態(tài)總體N( ,1)的一個樣本，的先驗(yàn)取無信息先驗(yàn)，即()1,請給出 的貝葉斯估計(jì)。第七章貝葉斯網(wǎng)絡(luò)簡介第一節(jié) 簡單貝葉斯學(xué)習(xí)模型1 .簡單貝葉斯學(xué)習(xí)模型的介紹2 .簡單貝葉斯模型的提升第二節(jié)貝葉斯網(wǎng)絡(luò)簡介1.Bayesian網(wǎng)絡(luò)的定義2 .貝葉斯網(wǎng)的表示方法3 .貝葉斯網(wǎng)絡(luò)的構(gòu)造第三節(jié)貝葉斯問題的求解第四節(jié) Bayesian 網(wǎng)絡(luò)的應(yīng)用案例教學(xué)重點(diǎn)、難點(diǎn)：貝葉斯網(wǎng)絡(luò)的構(gòu)造和貝葉斯網(wǎng)絡(luò)的表述方法課程的考核要求：讓學(xué)生知道貝葉斯網(wǎng)絡(luò)是表示不確定性知識的一種有效方法，貝葉斯網(wǎng)絡(luò)的參數(shù)學(xué)習(xí)與結(jié)構(gòu)學(xué)習(xí)是比較活躍的研究領(lǐng)域，貝葉斯網(wǎng)絡(luò)的推理能夠計(jì)算出任何給定事件在給定