第五章統(tǒng)計決策與貝葉斯推斷

統(tǒng)計學家瓦爾德(A.Wald)把關于假設檢驗和參數(shù)估計的經(jīng)典統(tǒng)計理論加以概括，將不確定意義下的決策科學也包括在統(tǒng)計學范圍之內(nèi)，于1939年創(chuàng)立了統(tǒng)計決策理論，該理論彌補了過去統(tǒng)計理論的缺陷。統(tǒng)計決策的顯著特點是：統(tǒng)計決策建立在統(tǒng)計分析和統(tǒng)計預測的基礎上，是一種定量決策。統(tǒng)計決策是在不確定情況下，應用概率來進行決策的計算和分析，是一種概率決策。

6.1統(tǒng)計決策決策問題的三個基本要素狀態(tài)集行動集行動空間損失函數(shù)依統(tǒng)計決策論的觀點，對決策有用的信息先驗信息樣本信息決策問題的分類無數(shù)據(jù)（無樣本信息）決策問題統(tǒng)計決策問題貝葉斯決策問題一寄、挖基溫本市概捉念1、楊損須失園函拆數(shù)描述當未知量處于狀態(tài)而采取行動時所引起的損失，記為線性損失函數(shù)一邊、簽基似本棟概誘念2、罩決回策吩函紅數(shù)由樣本空間到行動空間的可測映射稱為決策函數(shù)。3、侍風魚險板函盛數(shù)稱為決策函數(shù)的風險函數(shù)。設是一個決策函數(shù)，則損失函數(shù)關于樣本分布的數(shù)學期望平鞠均番損擾失數(shù)愈僻小癥，稼決賽策潤函泥數(shù)陰愈棒好恥。風險函數(shù)描述在未知量處于狀態(tài)而采取決策時所蒙受的平均損失。二砌、評常剃用益的蝕決烘策山準謀則1嫌、牛一慌致獅最組優(yōu)條決笛策辜準尋則則稱為決策函數(shù)類的一致最小風險決策函數(shù)，或稱為一致最優(yōu)決策函數(shù)。定義設表示定義在樣本空間上取值于行動空間的某一決策函數(shù)類，若存在一個決策函數(shù)，使得對任意，都有2走、績最怪小遺最身大掌（唯M齡i循n繡i奸m怒a體x菌）軌決叼策迫準宏則則稱為該統(tǒng)計決策問題的最小最大決策函數(shù)，相應的風險稱為最小最大風險。定義對于一個統(tǒng)計決策問題，設表示定義在樣本空間上取值于行動空間的某一決策函數(shù)類。若有決策函數(shù)，使得3決、杏貝昂葉汽斯珠決斗策俊準缸則去先灘驗灣信霞息唐與散先妙驗緣瑞分屠布無論是在統(tǒng)計決策問題還是在統(tǒng)計推斷問題中總會包含未知量。為了對作統(tǒng)計決策或者作統(tǒng)計推斷，樣本信息是必不可少的，因為它包含的最新信息。除此之外，一些非樣本信息也可用于統(tǒng)計決策和統(tǒng)計推斷。這些非樣本信息主要來源于經(jīng)驗或歷史資料。由于此類經(jīng)驗或歷史資料大多存在于（獲取樣本的）試驗之前，故稱這些非樣本信息為先驗信息。統(tǒng)計學中有兩個主要學派：經(jīng)典（頻率）學派與貝葉斯學派。經(jīng)典學派認為是未知參數(shù)；貝葉斯學派認為是隨機變量，應該用一個概率分布去描述的未知狀況。這個概率分布在抽樣之前就已存在，它是關于的先驗信息的概率陳述。這個概率分布就稱為先驗分布，用來表示。氏貝善葉昆斯偽公醫(yī)式究與糧后促驗豈分袍布稱為的后驗分布。裝先攻驗故風盈險目準估則元與炎后示驗箱風萍險厭準暖則定義1：在給定的統(tǒng)計決策問題中，設為決策函數(shù)的風險函數(shù)，為的先驗分布，則平均風險稱為決策的貝葉斯風險。若在決策函數(shù)類中存在，使得則稱為決策函數(shù)類在貝葉斯（先驗）風險準則下的最優(yōu)決策函數(shù)，簡稱貝葉斯決策函數(shù)或貝葉斯解。定義2：在給定的統(tǒng)計決策問題中，設為決策函數(shù)的損失函數(shù)，為的后驗分布，則條件期望風險稱為決策函數(shù)的貝葉斯后驗風險。若在決策函數(shù)類中存在，使得則稱為決策函數(shù)類在貝葉斯后驗風險準則下的最優(yōu)決策函數(shù)，或稱其為貝葉斯后驗型決策函數(shù)。例6挑.峽1一巴位今收惑藏徹家燥擬撫收顆購勞一魚幅褲名寨畫擇，穿這潤幅愛畫腔標嬸價農(nóng)為5報0家0遠0元值。代若紙這壘幅憐畫避是總真背品戒，朽則聚值1野0臭0爭0現(xiàn)0元尖；咬若服是迎贗綱品絨，渴則軋一農(nóng)文束不禁值噸。僑此鍛外銹，師買奪下旱一袋幅辮假深畫御或謠者日沒程有巷買尊下蕉一賓幅赴真匯畫港都伯會議損鞋害隱這們位描收續(xù)藏忘家配的偽名獎譽脅，驢其可收瓜益歐情秩況蘿如返下招表

采取的行動畫的狀態(tài)買不買真品+5000-3000贗品-60000現(xiàn)水在尸，妄這皺位償收俊藏盯家退需擋要撿決國定造是籠買葡還轟是算不拔買束這挽幅錦畫檢？(乏1扎)如哄果辨收那藏勸家額有圾以欺下奶三擾種降決傘策水可撥供夠選霜擇赤：：撓以細概尋率0澇.永5買陜下堤這炭幅區(qū)畫涼；：漁請迫一仰位抬鑒偵賞舒家谷進蹤蝶行塔鑒蛛定炭（煤已嫩知絕該循鑒珍賞挨家廳以冶概峽率0弄.咽9弄5識壞別弦一更幅傅真孕畫核，睛以鞏概他率0像.業(yè)7識鍛別除一漫幅超假孕畫膜）渠，捆如漂果斃鑒列賞張家永鑒四定攀為取真捕品谷就忘買拆下順這綢幅振畫猶；：統(tǒng)肯哪定伙不壁買那取么翼，倚什柜么致是甩這則位豪收部藏清家遍的膏最皆小統(tǒng)最泰大慘決立策險？（2）矛如薦果洞根場據(jù)榨賣典畫紋者涌以測往祖的喉資裁料主得漲知皂，需發(fā)攤生乘的揉概徑率蜘為0叼.尺7權5，辮發(fā)駕生面的垃概牙率剝?yōu)?油.捏2抄5，圈那袖么閘這浙位篇收勁藏貸家賄是糊否望應拜買姨下啦這肝幅邊畫材呢凈？（3）挎在憐（2）規(guī)的斬條鎮(zhèn)件鄭下葛，者這豬位片收幟藏逮家孩為句穩(wěn)約妥唯起伙見棉，獵聘革請格一伍位拍鑒盯賞肺家移做鐵鑒懇定拘。柳已段知存鑒份賞哲家凈以場概雙率0酸.安9夸5識監(jiān)別東一柴幅藏真腸畫甜，腔以倍概窗率0鐵.簽7識免別瓣一舍幅息假炭畫讀。宴如發(fā)果沉鑒饑賞溜家傘說撲這刮幅雖畫合是炎真畜品劣，墓那信么源這績位制收葛藏繁家饑是趙否弊應安買厭下帳這這幅痰畫陡呢害？這井是午一澇個挖決晉策斥問譯題暴，汪狀喝態(tài)繪集貫，妄為陜真腹品汽，為丹贗鞠品,行膽動廊集慚表枯示串“易買寶”東，嗓表駱示饅“瓣不原買解”煉，損君失闖函廚數(shù)顏用臭矩葡陣器可寫表匪示箱為統(tǒng)姐計端決云策巴中種所材說者的則損里失災可玩以薯理凳解估為顆“采該壤賺盟到讓而育沒釣有鞋賺憲到舊的錢仇”荒，界“夜不撒該康虧退而裙虧大損沈的春錢階”仇或玻者潤“母不糧該兵支稿付怖而洽支峽付筋的億錢徑”秋。采用收益函數(shù)時，損失函數(shù)時，損失函數(shù)采用支付函數(shù)解：（1）對，對，對，計算結果表明，收藏家的最小最大決策為，即如果鑒賞家鑒定為真品就買下這幅畫，這一決策的最小最大風險為1800元。根據(jù)先驗分布，可分別算出行動，的平均損失，亦即，行動，的平均風險，因為這是無數(shù)據(jù)決策問題，所以對比上述結果可知，采取行動為上策，即，收藏家應該買下這幅畫。（2）由題意知，的先驗分布為：(覽3子)引宿入雜隨慢機傅變蕩量由止題墊意級知下：的槐先化驗失分辜布壞為舉，清由予貝鞠葉號斯?jié)摴奘胶芸善鹊么┑脑夂竽蝌炂旆謮挪歼@擴樣蒼樣弓本殼空免間私，檢行擦動易空僑間容，巡壽所蓄以姑決善策匠函勤數(shù)美只反有碑以梯下4個這租樣初本純值串時矮，更這助些遮決損策辨函剩數(shù)腐的跑貝信葉脫斯葡后曉驗委風京險聚分辜別槐是怒：在野時想，脅這何些滲決率策意函輪數(shù)些的數(shù)貝仔葉暖斯滔后羨風習險混分銹別思是腹：可絕見銜在參貝諒葉型斯奇風低險定準聰則覺下夾，聰是緞最恐優(yōu)芬決倍策補函趴數(shù)壯，衫換氏言肥之付，翠當卡鑒弄定暑家跑說姨這重幅則畫繼是唱真渴品暈時趟，即這股位鞠收捆藏防家垮應重買忽下諸這棵幅弦畫親。下瀉面襖計毛算謹（3）歉中劉那嶄些孫決屋策摩函獅數(shù)矛的鹿貝恥葉咳斯日風攜險桶，龍先漁算側的獵邊挪緣建分面布呀：從結而業(yè)，由棒此法可逐見濫，頌在織貝然葉盤斯蹦風情險漿準反則摧下傷的康最欣優(yōu)木決度策煮函坐數(shù)失仍片是偶，夸在貴兩僚種蘇不運同杠風蜻險疲準佳則述下探得駐出礎相蟻同段的抽最幣優(yōu)飾決逮策斧函預數(shù)賄，儀其料理暮論鍋依舌據(jù)叢是蔬定磁理6剖.鮮1仁.視1像.定理6.1.1對給定的統(tǒng)計決策問題（含給定的先驗分布）和決策函數(shù)類，若貝葉斯風險滿足條件則貝葉斯決策函數(shù)與貝葉斯后驗型決策函數(shù)等價。6要.蓮2貝蓄葉耳斯章推舒斷在經(jīng)典統(tǒng)計學中，總體的分布函數(shù)用表示，其中表示未知參數(shù)，表示參數(shù)空間。改寫為經(jīng)典統(tǒng)計學并不產(chǎn)生任何實質上的影響，僅僅是記號的變更。Bayes統(tǒng)計中意義就不同了，其表示條件分布。定義6.1

若函數(shù)和相比僅差一個常數(shù)因子，則稱為的核，記為例買如貝葉斯學派認為，的后驗分布集先驗信息和樣本信息于一身，包含了的所有可供利用的信息，所以有關的點估計，區(qū)間估計和假設檢驗等統(tǒng)計推斷都要基于后驗分布來進行。樣本分布其中為總體的條件概率密度。一栗、脾貝肉葉限斯佩估穴計1、救點經(jīng)估蹄計貝宵葉學斯手估餐計紡量革就似是繩貝箭葉嫁斯來決碑策鳥函奇數(shù)顫（拳貝污葉軋斯告解穴）則稱為的貝葉斯估計量定義設總體的分布函數(shù)為，其中參數(shù)為具有先驗分布的隨機變量，又設為來自總體的樣本。若在決策函數(shù)類中有一個，使得定理若損失函數(shù)為，且，則的貝葉斯估計為其中為的后驗概率密度。注：由定理可知，當使用平方損失函數(shù)時，的貝葉斯估計為（或），即的后驗分布的期望，故稱這種估計為后驗期望估計。例1設總體的分布為，其中未知量為隨機變量，且，為來自總體的樣本值，求的貝葉斯估計。解：因為的后驗概率密度的核是所以，的貝葉斯估計為可見，在樣本的條件下，的條件分布為

條件（1）、（2）表明，D集中了后驗概率密度取值盡可能大的點，因此的最大后驗密度可信區(qū)間就是在同一可信概率下長度最短的區(qū)間。2猛、屠區(qū)顯間毅估眾計定義設參數(shù)的后驗分布為，對給定的樣本和概率，若存在區(qū)域D滿足下列條件：（1）（2）任給，總有則稱D是的可信水平為的最大后驗密度可信域。當是一維的且D是一個區(qū)間時，稱D為的最大后驗密度可信區(qū)間。例2設為來自正態(tài)分布的樣本，其中已知。又設的先驗分布為正態(tài)分布，其中為已知，求的可信區(qū)間。解：因為的后驗概率密度其中可見是正態(tài)分布，因此對給定的，查得標準正態(tài)分布的上側分位數(shù)，使于是，的最大后驗可信區(qū)間是。利用后驗分布，分別計算假設與的后驗概率。3伯、側貝芝葉店斯粱假議設靈檢竭驗當后驗概率比時接受；當時拒絕；當時，則不宜匆忙做判斷，需進一步抽樣或搜集更多的先驗信息。例3設從正態(tài)總體中隨機地抽取了一個容量為10的樣本，算得樣本均值，又設的先驗分布為正態(tài)分布，現(xiàn)在檢驗如下假設解由例2可知，的后驗分布仍為正態(tài)分布，且其中因而假設與的后驗概率分別為兩紛后序驗坦概彈率藏之美比故拒絕，即認為正態(tài)均值大于1。貝泛葉減斯吵檢濾驗夕的捉特勢點漢：（豆1楚）稱簡始單姑易葉行盤，稈無線需木選說擇厲檢搞驗贈統(tǒng)槽計雨量刊，蝕確抱定月抽儀樣很分贈布止；（2）襯無好需里事逢先朋給愧定洋顯屠著察水軋平河，驚確燃定勵檢胞驗肥問逝題異的遣拒兆絕鮮域可；（