貝葉斯信念網(wǎng)絡(luò)09710

1、六、貝葉斯信念網(wǎng)絡(luò)樸素貝葉斯分類器假定類條件獨(dú)立，即給定樣本的類標(biāo)號Y，屬性的值X之間相互條件獨(dú)立。但在實(shí)踐中，變量之間的依賴可能存在。貝葉斯信念網(wǎng)絡(luò)不要求給定類的所有屬性都條件獨(dú)立，而是允許指定哪些屬性條件獨(dú)立。它提供一種因果關(guān)系的圖形。2022/9/2512022/9/252某水文站內(nèi)裝有一個(gè)小型的警報(bào)系統(tǒng)，與該警報(bào)是否拉響相關(guān)的因素有：洪水到來、地震發(fā)生，同時(shí)該系統(tǒng)還肩負(fù)著安全警報(bào)的功能，當(dāng)水文站發(fā)生入室盜竊時(shí)，警報(bào)同樣也會拉響。而洪水的到來與降雨情況有關(guān)，地震的發(fā)生會反映在地震監(jiān)測儀的報(bào)告中。同時(shí)，入室盜竊也會帶來地震監(jiān)測儀的擾動。在水文站以往的數(shù)據(jù)庫中，關(guān)于以上這些因素都能找到詳細(xì)的

2、記錄。那么如何從這些數(shù)據(jù)中挖掘出有用的信息，來幫助工作人員進(jìn)行決策呢？ 假設(shè)某時(shí)刻警報(bào)突然拉響了，且此時(shí)正在下雨，值班人員要判斷此時(shí)發(fā)生地震、盜竊和洪水的概率分別是多少，以便采取相應(yīng)的措施加以應(yīng)對。問題引入：2022/9/2531、有向無環(huán)圖例如，得肺癌受其家族肺癌史的影響，也受是否吸煙的影響。2022/9/254有向無環(huán)圖條件概率圖概率依賴雙親或直接前驅(qū)后繼非后繼獨(dú)立節(jié)點(diǎn)：隨機(jī)變量貝葉斯網(wǎng)絡(luò)模型網(wǎng)絡(luò)的組成：（1）一個(gè)有向無環(huán)圖：表示變量之間的依賴關(guān)系（2）一個(gè)概率表：把各結(jié)點(diǎn)與它的直接父結(jié)點(diǎn)關(guān)聯(lián)起來貝葉斯網(wǎng)絡(luò)的一個(gè)重要性質(zhì)： 貝葉斯網(wǎng)絡(luò)中的一個(gè)結(jié)點(diǎn)，如果它的父母結(jié)點(diǎn)已知，則它條件獨(dú)立于它的所

3、有非后代結(jié)點(diǎn)概率表的建立（1）如果結(jié)點(diǎn)X沒有父母結(jié)點(diǎn)，則表中只包含先驗(yàn)概率P（X）；（2）如果結(jié)點(diǎn)X只有一個(gè)父母結(jié)點(diǎn)Y，則表中包含條件概率P（X|Y）。（3）如果結(jié)點(diǎn)X有多個(gè)父母結(jié)點(diǎn)Y1，Y2，.,Yk，則表中包含條件概率P（X|Y1，Y2，.,Yk）。一個(gè)簡單的例子由左圖給出，它對下雨(R)引起草地變濕(W)建模。天下雨的可能性為，并且下雨時(shí)草地變濕的可能性為；也許的時(shí)間雨下得不長，不足以讓我們真正認(rèn)為草地被淋濕了。在這個(gè)例子中，隨機(jī)變量是二元的：真或假。存在的可能性草地變濕而實(shí)際上并沒有下雨，例如，使用噴水器時(shí)。2022/9/2572022/9/258可以看到三個(gè)值就可以完全指定P(R,W

4、)的聯(lián)合分布。如果P(R)=0.4， 則P(R)=0.6。類似地， ，而 這是一個(gè)因果圖，解釋草地變濕的主要原因是下雨。我們可以顛倒因果關(guān)系并且做出診斷。例如，已知草地是濕的，則下過雨的概率可以計(jì)算如下：2022/9/259現(xiàn)在，假設(shè)我們想把噴水器（）作為草地變濕的另一個(gè)原因，如下圖所示。節(jié)點(diǎn)有兩個(gè)父節(jié)點(diǎn)和，因此它的概率是這兩個(gè)值上的條件概率 。我們可以計(jì)算噴水器開著草地會濕的概率。這是一個(gè)因果（預(yù)測）推理：2022/9/25102022/9/2511=0.1給定草地是濕的，我們能夠計(jì)算噴水器開著的概率。這是一個(gè)診斷推理。2022/9/2512知道草是濕的增加了噴水器開著的可能?，F(xiàn)在讓我們假設(shè)

5、下過雨，我們有：注意，這個(gè)值比 小。這叫作解釋遠(yuǎn)離explaining away;給定已知下過雨，則噴水器導(dǎo)致濕草地的可能性降低了。已知草地是濕的，下雨和噴水器成為相互依賴的。2022/9/25132022/9/2514某水文站內(nèi)裝有一個(gè)小型的警報(bào)系統(tǒng)，與該警報(bào)是否拉響相關(guān)的因素有：洪水到來、地震發(fā)生，同時(shí)該系統(tǒng)還肩負(fù)著安全警報(bào)的功能，當(dāng)水文站發(fā)生入室盜竊時(shí)，警報(bào)同樣也會拉響。而洪水的到來與降雨情況有關(guān)，地震的發(fā)生會反映在地震監(jiān)測儀的報(bào)告中。同時(shí)，入室盜竊也會帶來地震監(jiān)測儀的擾動。在水文站以往的數(shù)據(jù)庫中，關(guān)于以上這些因素都能找到詳細(xì)的記錄。那么如何從這些數(shù)據(jù)中挖掘出有用的信息，來幫助工作人員進(jìn)

6、行決策呢？ 七、貝葉斯信念網(wǎng)絡(luò)應(yīng)用實(shí)例 ：警報(bào)分析（馬克威分析系統(tǒng)）2022/9/25151、有向無環(huán)圖2、條件概率表2022/9/2516先驗(yàn)概率條件概率表2022/9/25173、推理（1）當(dāng)“警報(bào)拉響降雨 地震、入室盜竊、洪水”：假設(shè)某時(shí)刻警報(bào)突然拉響了，且此時(shí)正在下雨，值班人員要判斷此時(shí)發(fā)生地震、盜竊和洪水的概率分別是多少，以便采取相應(yīng)的措施加以應(yīng)對。首先，設(shè)置警報(bào)和降雨為已知節(jié)點(diǎn)，觀察值分別為拉響和降雨；并且指定地震、入室盜竊和洪水為目標(biāo)節(jié)點(diǎn)。然后計(jì)算各種情況發(fā)生的后驗(yàn)概率。2022/9/25182022/9/2519節(jié)點(diǎn)名稱降雨警報(bào)狀態(tài)取值降雨拉響已知變量的狀態(tài)觀察值狀態(tài)取值不發(fā)生

7、發(fā)生概率值10084.8015.20地震狀態(tài)取值不發(fā)生發(fā)生概率值10012.0088.0入室盜竊狀態(tài)取值不發(fā)生發(fā)生概率值10088.8011.2洪水（2）當(dāng)“警報(bào)拉響降雨地震監(jiān)測儀信號弱 地震、入室盜竊、洪水”：假設(shè)，同樣在下雨天，警報(bào)突然拉響，如果此時(shí)值班人員還注意到了地震監(jiān)測儀的狀態(tài)處于弱信號的范圍，那么到底地震、入室盜竊、洪水中哪個(gè)發(fā)生呢？解決的辦法是設(shè)定：降雨節(jié)點(diǎn)處于降雨?duì)顟B(tài)，警報(bào)節(jié)點(diǎn)處于拉響狀態(tài)，地震監(jiān)測儀處于弱狀態(tài)；目標(biāo)節(jié)點(diǎn)仍舊是地震、入室盜竊和洪水。然后，計(jì)算后驗(yàn)概率。2022/9/25202022/9/2521節(jié)點(diǎn)名稱降雨警報(bào)地震監(jiān)測儀狀態(tài)取值降雨拉響弱已知變量的狀態(tài)觀察值狀態(tài)取值不發(fā)生發(fā)生概率值100100.000.00地震狀態(tài)取值不發(fā)生發(fā)生概率值1008.3391.67洪水狀態(tài)取值不發(fā)生發(fā)生概率值10091.678.33入室盜竊貝葉斯分類的優(yōu)缺點(diǎn)：優(yōu)點(diǎn)：在某些領(lǐng)域的應(yīng)用上，其分類效果優(yōu)于類神經(jīng)網(wǎng)絡(luò)和判定樹。用于大型數(shù)據(jù)庫，可以得出準(zhǔn)確高且有效率的分類結(jié)果。缺點(diǎn)：一般而言，貝葉斯分類中的屬性可以出現(xiàn)兩種以上不同的值，而目標(biāo)值則多半為兩元的相對狀態(tài)，如 “是/