人工智能AI5章不確定性推理

第5章不確定性推理

5.1不確定性推理的基本概念5.1.1不確定性推理的含義5.1.2不確定性推理的基本問題（表示、匹配、更新、合成）5.1.3不確定性理的類型5.2可信度推理5.3主觀Bayes推理5.4證據(jù)理論5.5模糊推理5.6概率推理

現(xiàn)實(shí)世界中的大多數(shù)問題是不精確、非完備的。因此，人工智能需要研究不精確性的推理方法，以滿足客觀問題的需求。15.1.1不確定性推理的含義

什么是不確定性推理

不確定性推理泛指除精確推理以外的其它各種推理問題。包括不完備、不精確知識(shí)的推理，模糊知識(shí)的推理，非單調(diào)性推理等。不確定性推理過程實(shí)際上是一種從不確定的初始證據(jù)出發(fā)，通過運(yùn)用不確定性知識(shí)，最終推出具有一定不確定性但卻又是合理或基本合理的結(jié)論的思維過程。為什么要采用不確定性推理

所需知識(shí)不完備、不精確所需知識(shí)描述模糊多種原因?qū)е峦唤Y(jié)論解題方案不唯一25.1.2不確定性推理的基本問題不確定性的表示(1)知識(shí)的不確定性的表示

考慮因素：?jiǎn)栴}的描述能力，推理中不確定性的計(jì)算

含義：知識(shí)的確定性程度，或動(dòng)態(tài)強(qiáng)度

表示：用概率，[0,1]，0接近于假，1接近

用可信度，[-1,1]，大于0接近于真，小于0接近于(2)證據(jù)不確定性的表示

證據(jù)的類型：按證據(jù)組織：基本證據(jù)，組合證據(jù)

按證據(jù)來源：初始證據(jù)，中間結(jié)論表示方法：概率，可信度，模糊集等基本證據(jù)：常與知識(shí)表示方法一致，如概率，可信度，模糊集等組合證據(jù)：組合方式：析取的關(guān)系，合取的關(guān)系。

計(jì)算方法：基于基本證據(jù)最大最小方法，概率方法，有界方法

等。3含義不確定的前提條件與不確定的事實(shí)匹配問題前提是不確定的，事實(shí)也是不確定的方法設(shè)計(jì)一個(gè)計(jì)算相似程度的算法，給出相似的限度標(biāo)志相似度落在規(guī)定限度內(nèi)為匹配，否則為不匹配5.1.2不確定性推理的基本問題不確定性的匹配44.不確定性的更新主要問題①如何用證據(jù)的不確定性去更新結(jié)論的不確定性②如何在推理中把初始證據(jù)的不確定性傳遞給最終結(jié)論解決方法對(duì)①，不同推理方法的解決方法不同對(duì)②，不同推理方法的解決方法基本相同，即把當(dāng)前結(jié)論及其不確定性作為新的結(jié)論放入綜合數(shù)據(jù)庫(kù)，依次傳遞，直到得出最終結(jié)論5.不確定性結(jié)論的合成含義：多個(gè)不同知識(shí)推出同一結(jié)論，且不確定性程度不同方法：視不同推理方法而定5.1.2不確定性推理的基本問題不確定性的更新不確定性結(jié)論的合成5模糊方法基于概率主觀Bayes方法可信度方法證據(jù)理論數(shù)值方法非數(shù)值方法不確定性推理框架推理

語(yǔ)義網(wǎng)絡(luò)推理

常識(shí)推理5.1.3不確定性推理的類型…概率方法概率推理6第5章不確定性推理

5.1不確定性推理的基本概念5.2可信度推理5.2.1可信度的概念5.2.2可信度推理模型5.2.2可信度推理的例子5.3主觀Bayes推理5.4證據(jù)理論5.5模糊推理5.6概率推理7可信度是指人們根據(jù)以往經(jīng)驗(yàn)對(duì)某個(gè)事物或現(xiàn)象為真的程度的一個(gè)判斷，或者說是人們對(duì)某個(gè)事物或現(xiàn)象為真的相信程度。例如，沈強(qiáng)昨天沒來上課，理由是頭疼。就此理由，只有以下兩種可能：一是真的頭疼了，理由為真；二是沒有頭疼，理由為假。但就聽話人而言，因不能確切知道，就只能某種程度上相信，即可信度。可信度具有一定的主觀性，較難把握。但對(duì)某一特定領(lǐng)域，讓該領(lǐng)域?qū)＜医o出可信度還是可行的。

5.2.1可信度的概念85.2.2可信度推理模型知識(shí)不確定性的表示表示形式：在C-F模型中，知識(shí)是用產(chǎn)生式規(guī)則表示的，其一般形式為：IFETHENH(CF(H,E))其中，E是知識(shí)的前提條件；H是知識(shí)的結(jié)論；CF(H,E)是知識(shí)的可信度。說明：①E可以是單一條件，也可以是復(fù)合條件。例如：E=(E1ORE2)ANDE3ANDE4②H可以是單一結(jié)論，也可以是多個(gè)結(jié)論③CF是知識(shí)的靜態(tài)強(qiáng)度，CF(H,E)的取值為[-1,1]，表示當(dāng)E為真時(shí)，證據(jù)對(duì)H的支持程度，其值越大，支持程度越大。例子：IF發(fā)燒AND流鼻涕THEN感冒(0.8)表示當(dāng)某人確實(shí)有“發(fā)燒”及“流鼻涕”癥狀時(shí)，則有80%的把握是患了感冒。9在CF模型中，把CF(H,E)定義為CF(H,E)=MB(H,E)-MD(H,E)式中MB稱為信任增長(zhǎng)度，MB(H,E)定義為5.2.2可信度推理模型可信度的定義(1/2)MD稱為不信任增長(zhǎng)度，MD(H,E)定義為10MB和MD的關(guān)系當(dāng)MB(H,E)>0時(shí)，有P(H|E)>P(H)，即E的出現(xiàn)增加了H的概率當(dāng)MD(H,E)>0時(shí)，有P(H|E)<P(H)，即E的出現(xiàn)降低了H的概率根據(jù)前面對(duì)CF(H,E)可信度、MB(H,E)信任增長(zhǎng)度、MD(H,E)不信增長(zhǎng)度的定義，可得到CF(H,E)的計(jì)算公式：???????íì<=>--=---=-=)()|()()|()()|()()|()(),(00)(1)()|(0),(),(HPEHPHPEHPHPEHPHPEHPHPEHMDHPHPEHPEHMBEHCF若若若5.2.2可信度推理模型可信度的性質(zhì)(2/2)

分別解釋CF(H,E)>0，CF(H,E)=0，CF(H,E)<011(1)

互斥性對(duì)同一證據(jù)，它不可能既增加對(duì)H的信任程度，又同時(shí)增加對(duì)H的不信任程度，這說明MB與MD是互斥的。即有如下互斥性：當(dāng)MB(H,E)>0時(shí)，MD(H,E)=0當(dāng)MD(H,E)>0時(shí)，MB(H,E)=0(2)值域(3)典型值當(dāng)CF(H,E)=1時(shí)，有P(H/E)=1，它說明由于E所對(duì)應(yīng)證據(jù)的出現(xiàn)使H為真。此時(shí)，MB(H,E)=1，MD(H,E)=0。當(dāng)CF(H,E)=-1時(shí)，有P(H/E)=0，說明由于E所對(duì)應(yīng)證據(jù)的出現(xiàn)使H為假。此時(shí)，MB(H,E)=0，MD(H,E)=1。當(dāng)CF(H,E)=0時(shí)，有MB(H,E)=0、MD(H,E)=0。前者說明E所對(duì)應(yīng)證據(jù)的出現(xiàn)不證實(shí)H；后者說明E所對(duì)應(yīng)證據(jù)的出現(xiàn)不否認(rèn)H。5.2.2可信度推理模型可信度的性質(zhì)(1/3)12(4)對(duì)H的信任增長(zhǎng)度等于對(duì)非H的不信任增長(zhǎng)度根據(jù)MB、MD的定義及概率的性質(zhì)有：再根據(jù)CF的定義和MB、MD的互斥性有CF(H,E)+CF(﹁H,E)=(MB(H,E)-MD(H,E))+(MB(﹁H,E)-MD(﹁H,E))=(MB(H,E)-0)+(0-MD(﹁H,E))(由互斥性)=MB(H,E)-MD(﹁H,E)=0它說明：(1)對(duì)H的信任增長(zhǎng)度等于對(duì)非H的不信任增長(zhǎng)度(2)對(duì)H的可信度與非H的可信度之和等于0(3)可信度不是概率，不滿足P(H)+P(﹁H)=1和0≤P(H),P(﹁H)≤15.2.2可信度推理模型可信度的性質(zhì)(2/3)13(5)對(duì)同一前提E，若支持若干個(gè)不同的結(jié)論Hi(i=1,2,…,n)，則因此，如果發(fā)現(xiàn)專家給出的知識(shí)有如下情況CF(H1,E)=0.7,CF(H2,E)=0.4則因0.7+0.4=1.1>1為非法，應(yīng)進(jìn)行調(diào)整或規(guī)范化。5.2.2可信度推理模型可信度的性質(zhì)(3/3)14基本證據(jù)表示方法，用可信度，其取值范圍也為[-1,1]。例如，CF(E)，其的含義：CF(E)=1，證據(jù)E肯定它為真CF(E)=-1，證據(jù)E肯定它為假CF(E)=0，對(duì)證據(jù)E一無所知0<CF(E)<1，證據(jù)E以CF(E)程度為真-1<CF(E)<0，證據(jù)E以CF(E)程度為假否定證據(jù)CF(?E)=-CF(E)組合證據(jù)合取：E=E1ANDE2AND…En時(shí)，若已知CF(E1)，CF(E2)，…，則CF(E)=min{CF(E1),CF(E2),…,CF(En)}析?。篍=E1ORE2OR…En時(shí)，若已知CF(E1)，CF(E2)，…，則CF(E)=max{CF(E1),CF(E2),…,CF(En)}5.2.2可信度推理模型證據(jù)不確定性的表示15CF模型中的不確定性推理實(shí)際上是從不確定的初始證據(jù)出發(fā)，不斷運(yùn)用相關(guān)的不確性知識(shí)，逐步推出最終結(jié)論和該結(jié)論可信度的過程。而每一次運(yùn)用不確定性知識(shí)，都需要由證據(jù)的不確定性和知識(shí)的不確定性去計(jì)算結(jié)論的不確定性。不確定性的更新公式CF(H)=CF(H,E)×max{0,CF(E)}若CF(E)<0，則CF(H)=0即該模型沒考慮E為假對(duì)H的影響。若CF(E)=1，則CF(H)=CF(H,E)即規(guī)則強(qiáng)度CF(H,E)實(shí)際上是在E為真時(shí)，H的可信度5.2.2可信度推理模型不確定性的更新16當(dāng)有多條知識(shí)支持同一個(gè)結(jié)論，且這些知識(shí)的前提相互獨(dú)立，結(jié)論的可信度又不相同時(shí)，可利用不確定性的合成算法求出結(jié)論的綜合可信度。設(shè)有知識(shí)：IFE1THENH(CF(H,E1))IFE2THENH(CF(H,E2))則結(jié)論H的綜合可信度可分以下兩步計(jì)算：(1)分別對(duì)每條知識(shí)求出其CF(H)。即CF1(H)=CF(H,E1)×max{0,CF(E1)}CF2(H)=CF(H,E2)×max{0,CF(E2)}(2)用如下公式求E1與E2對(duì)H的綜合可信度5.2.2可信度推理模型結(jié)論不確定性的合成17例5.1

設(shè)有如下一組知識(shí)：r1：IFE1THENH(0.9)r2：IFE2THENH(0.6)r3：IFE3THENH(-0.5)r4：IFE4AND(E5ORE6)THENE1(0.8)已知：CF(E2)=0.8，CF(E3)=0.6，CF(E4)=0.5，CF(E5)=0.6,CF(E6)=0.8求：CF(H)=?解：由r4得到：CF(E1)=0.8×max{0,CF(E4AND(E5ORE6))}=0.8×max{0,min{CF(E4),CF(E5ORE6)}}=0.8×max{0,min{CF(E4),max{CF(E5),CF(E6)}}}=0.8×max{0,min{CF(E4),max{0.6,0.8}}}=0.8×max{0,min{0.5,0.8}}=0.8×max{0,0.5}=0.45.2.3可信度推理的例子18由r1得到：CF1(H)=CF(H,E1)×max{0,CF(E1)}=0.9×max{0,0.4}=0.36由r2得到：CF2(H)=CF(H,E2)×max{0,CF(E2)}=0.6×max{0,0.8}=0.48由r3得到：CF3(H)=CF(H,E3)×max{0,CF(E3)}=-0.5×max{0,0.6}=-0.3根據(jù)結(jié)論不精確性的合成算法，CF1(H)和CF2(H)同號(hào)，有：CF12(H)和CF3(H)異號(hào)，有：即綜合可信度為CF(H)=0.5319第5章不確定性推理

5.1不確定性推理的基本概念5.2可信度推理5.3主觀Bayes推理

5.3.1主觀Bayes方法的概率論基礎(chǔ)5.3.2主觀Bayes方法的推理模型5.3.3主觀Bayes推理的例子5.4證據(jù)理論5.5模糊推理5.6概率推理20

定義5.1

設(shè)事件A1,A2,…,An滿足：(1)任意兩個(gè)事件都互不相容，即當(dāng)i≠j時(shí)，有Ai∩Aj=Φ(i=1,2,…,n；j=1,2,…,n)；(2)P(Ai)>0(i=1,2,…,n);(3)D=

則對(duì)任何事件B由下式成立：該公式稱為全概率公式，它提供了一種計(jì)算P(B)的方法。

5.3.1主觀Bayes方法的概率論基礎(chǔ)1.全概率公式21

定理5.2

設(shè)事件A1,A2,…,An滿足定理5.1規(guī)定的條件，則對(duì)任何事件B有下式成立：該定理稱為Bayes定理，上式稱為Bayes公式。其中，P(Ai)是事件Ai的先驗(yàn)概率，P(B|Ai)是在事件Ai發(fā)生條件下事件B的條件概率；P(Ai|B)是在事件B發(fā)生條件下事件Ai的條件概率。如果把全概率公式代入Bayes公式，則有：即這是Bayes公式的另一種形式。Bayes定理給處了用逆概率P(B|Ai)求原概率P(Ai|B)的方法。5.3.1主觀Bayes方法的概率論基礎(chǔ)2.Bayes公式22表示形式：在主觀Bayes方法中，知識(shí)是用產(chǎn)生式表示的，其形式為：IFETHEN(LS,LN)H其中，(LS,LN)用來表示該知識(shí)的知識(shí)強(qiáng)度，LS(充分性度量)和LN(必要性度量)的表示形式分別為：5.3.2主觀Bayes方法的推理模型1.知識(shí)不確定性的表示(1/5)LS和LN的含義：由本節(jié)前面給出的的Bayes公式可知：

235.3.2主觀Bayes方法的推理模型1.知識(shí)不確定性的表示(2/5)兩式相除得：(5.1)

為討論方便，下面引入幾率函數(shù)

可見，X的幾率等于X出現(xiàn)的概率與X不出現(xiàn)的概率之比，P(X)與O(X)的變化一致，且有：P(X)=0時(shí)有O(X)=0P(X)=1時(shí)有O(X)=+∞即把取值為[0,1]的P(X)放大為取值為[0,+∞]的O(X)(5.2)24把(5.2)式代入(5.1)式有：5.3.2主觀Bayes方法的推理模型1.知識(shí)不確定性的表示(3/5)再把LS代入此式，可得：(5.3)式(5.3)和(5.4)就是修改的Bayes公式?？梢姡寒?dāng)E為真時(shí)可用（5.3）計(jì)算O(H|E)當(dāng)E為假時(shí)可用（5.4）計(jì)算O(H|?E)(5.4)同理可得到關(guān)于LN的公式：25LS的性質(zhì)：當(dāng)LS>1時(shí)，O(H|E)>O(H)，說明E支持H，LS越大，E對(duì)H的支持越充分。當(dāng)LS→∝時(shí)，O(H|E)→∝，即P(H/E)→1，表示由于E的存在將導(dǎo)致H為真。當(dāng)LS=1時(shí)，O(H|E)=O(H)，說明E對(duì)H沒有影響。當(dāng)LS<1時(shí)，O(H|E)<O(H)，說明E不支持H。當(dāng)LS=0時(shí)，O(H|E)=0，說明E的存在使H為假。LN的性質(zhì)：當(dāng)LN>1時(shí)，O(H|﹁E)>O(H)，說明﹁E支持H，即由于E的不出現(xiàn)，增大了H為真的概率。并且，LN得越大，﹁E對(duì)H為真的支持就越強(qiáng)。當(dāng)LN→∝時(shí)，O(H|﹁E)→∝，即P(H|﹁E)→1，表示由于﹁E的存在將導(dǎo)致H為真。當(dāng)LN=1時(shí)，O(H|﹁E)=O(H)，說明﹁E對(duì)H沒有影響。當(dāng)LN<1時(shí)，O(H|﹁E)<O(H)，說明﹁E不支持H，即由于﹁E的存在，使H為真的可能性下降，或者說由于E不存在，將反對(duì)H為真。當(dāng)LN→0時(shí)O(H|﹁E)→0，即LN越小，E的不出現(xiàn)就越反對(duì)H為真，這說明H越需要E的出現(xiàn)。當(dāng)LN=0時(shí)，O(H|﹁E)=0，說明﹁E的存在（即E不存在）將導(dǎo)致H為假。5.3.2主觀Bayes方法的推理模型1.知識(shí)不確定性的表示(4/5)26

LS與LN的關(guān)系由于E和﹁E不會(huì)同時(shí)支持或同時(shí)排斥H，因此只有下述三種情況存在：①LS>1且LN<1②LS<1且LN>1③LS=LN=1證①：LS>1?P(E|H)/P(E|?H)>1?P(E|H)>P(E|?H)?1-P(E|H)<1-P(E|?H)?P(?E|H)<P(?E|?H)?P(?E|H)/P(?E|?H)<1?LN<1同理可證②、③，證明略5.3.2主觀Bayes方法的推理模型1.知識(shí)不確定性的表示(5/5)27基本證據(jù)的表示：在主觀Bayes方法中，基本證據(jù)E的不精確性是用其概率或幾率來表示的。概率與幾率之間的關(guān)系為：

在實(shí)際應(yīng)用中，除了需要考慮證據(jù)E的先驗(yàn)概率與先驗(yàn)幾率外，往往還需要考慮在當(dāng)前觀察下證據(jù)E的后驗(yàn)概率或后驗(yàn)幾率。以概率情況為例，對(duì)初始證據(jù)E，用戶可以根據(jù)當(dāng)前觀察S將其先驗(yàn)概率P(E)更改為后驗(yàn)概率P(E|S)，即相當(dāng)于給出證據(jù)E的動(dòng)態(tài)強(qiáng)度。5.3.2主觀Bayes方法的推理模型2.證據(jù)不確定性的表示(1/2)28組合證據(jù)不確定性的計(jì)算：證據(jù)的基本組合方式只有合取和析取兩種。當(dāng)組合證據(jù)是多個(gè)單一證據(jù)的合取時(shí)，例E=E1ANDE2AND…ANDEn如果已知在當(dāng)前觀察S下，每個(gè)單一證據(jù)Ei有概率P(E1|S),P(E2|S),…,P(En|S)，則P(E|S)=min{P(E1|S),P(E2|S),…,P(En|S)}當(dāng)組合證據(jù)是多個(gè)單一證據(jù)的析取時(shí)，例E=E1ORE2OR…OREn如果已知在當(dāng)前觀察S下，每個(gè)單一證據(jù)Ei有概率P(E1|S),P(E2|S),…,P(En|S)，則P(E|S)=max{P(E1|S),P(E2|S),…,P(En|S)}5.3.2主觀Bayes方法的推理模型2.證據(jù)不確定性的表示(2/2)29

根據(jù)E的概率P(E)及LS和LN的值，把H的先驗(yàn)概率P(H)或先驗(yàn)幾率O(H)更新為后驗(yàn)概率或后驗(yàn)幾率。分以下3種情況討論：1.證據(jù)肯定為真2.證據(jù)肯定為假3.證據(jù)既非為真有非為假5.3.2主觀Bayes方法的推理模型3.不確定性的更新(1/4)30證據(jù)肯定為真時(shí)當(dāng)證據(jù)E肯定為真時(shí)，P(E)=P(E|S)=1。將H的先驗(yàn)幾率更新為后驗(yàn)幾率的公式為(5.3)，即O(H|E)=LS×O(H)把H的先驗(yàn)概率P(H)更新為后驗(yàn)概率P(H|E)的公式，可將(5.2)代入(5.4)得：5.3.2主觀Bayes方法的推理模型3.不確定性的更新(2/4)證據(jù)E肯定為假時(shí)當(dāng)證據(jù)E肯定為假時(shí)，P(E)=P(E|S)=0，P(﹁E)=1。將H的先驗(yàn)幾率更新為后驗(yàn)幾率的公式為(5.4)，即O(H|﹁E)=LN×O(H)把先驗(yàn)概率P(H)更新為后驗(yàn)概率P(H|﹁E)的公式，可將(5.2)代入(5.4)得：(5.5)(5.6)31證據(jù)既非真假：需要使用杜達(dá)等人給出的公式：P(H|S)=P(H|E)×P(E|S)+P(H|﹁E)×P(﹁E|S)(5.7)下面分四種情況討論：(1)P(E|S)=1當(dāng)P(E|S)=1時(shí)，P(﹁E|S)=0。由(6.7)式和(6.5)式可得這實(shí)際是證據(jù)肯定存在的情況(2)P(E|S)=0當(dāng)P(E|S)=0時(shí)，P(﹁E|S)=1。由(6.7)式和(6.6)式可得(3)P(E|S)=P(E)當(dāng)P(E|S)=P(E)時(shí)，表示E與S無關(guān)。由(5.7)式和全概率公式可得5.3.2主觀Bayes方法的推理模型3.不確定性的更新(3/4)320P(E)1P(E|S)P(H|﹁E)P(H)P(H|E)P(H|S)

(4)P(E/S)為其它值上面已經(jīng)得到了P(E|S)的3個(gè)特殊值：0，P(E),1；它們分別對(duì)應(yīng)的3個(gè)值為P(H|﹁E),P(H),P(H|E)。由此構(gòu)造的分段線性插值函數(shù)為：(5.8)5.3.2主觀Bayes方法的推理模型3.不確定性的更新(4/4)33

假設(shè)有n條知識(shí)都支持同一結(jié)論H，并且這些知識(shí)的前提條件分別是n個(gè)相互獨(dú)立的證據(jù)E1、E2、…、En，而每個(gè)證據(jù)所對(duì)應(yīng)的觀察又分別是S1、S2、…、Sn。在這些觀察下，求H的后驗(yàn)概率的方法是：首先對(duì)每條知識(shí)分別求出H的后驗(yàn)幾率O(H|Si)，然后利用這些后驗(yàn)幾率并按下述公式求出在所有觀察下H的后驗(yàn)幾率：5.3.2主觀Bayes方法的推理模型4.結(jié)論不確定性的合成(5.9)34例5.2

設(shè)有規(guī)則r1:IFE1THEN(2,0.0001)H1r2:IFE1ANDE2THEN(100,0.001)H1r3:IFH1THEN(200,0.01)H2已知：P(E1)=P(E2)=0.6P(H1)=0.091，P(H2)=0.01用戶回答:P(E1|S1)=0.76,P(E2|S2)=0.68求：P(H2|S1,S2)=?5.3.3主觀Bayes推理的例子35解：由已知知識(shí)得到的推理網(wǎng)絡(luò)如下圖所示。0.091H2H1ANDE1E20.01(2,0.001)(100,0.001)(200,0.01)0.60.60.760.68r2r1r35.3.3主觀Bayes推理的例子36(1)計(jì)算O(H1|S1)先把P(H1)更新為E1下的后驗(yàn)概率P(H1|E1)由于P(E1|S1)=0.76>P(E)，使用(6.8)式的后半部分，得P(H1|S1)為：5.3.3主觀Bayes推理的例子37(2)計(jì)算O(H1|(S1ANDS2))由于r2的前件是E1、E2的合取關(guān)系，且已知P(E1|S1)=0.76，P(E2|S2)=0.68，即P(E2|S2)<P(E1|S1)。按合取取最小的原則，這里僅考慮E2對(duì)H1的影響，即把計(jì)算P(H1|(S1ANDS2))的問題轉(zhuǎn)化為計(jì)算O(H1|S2)的問題。把H1的先驗(yàn)概率P(H1)更新為在E2下的后驗(yàn)概率P(H1/E2)又由于P(E2|S2)=0.68>P(E2)，還使用(5.8)式的后半部分，得P(H1|S2)為：5.3.3主觀Bayes推理的例子38(3)計(jì)算O(H1|S1,S2)先將H1的先驗(yàn)概率轉(zhuǎn)換為先驗(yàn)幾率再根據(jù)合成公式計(jì)算H1的后驗(yàn)幾率然后再將后驗(yàn)幾率轉(zhuǎn)換為后驗(yàn)概率5.3.3主觀Bayes推理的例子39(4)計(jì)算P(H2|S1,S2)對(duì)r3，H1相當(dāng)于已知事實(shí)，H2為結(jié)論。將H2的先驗(yàn)概率P(H2)更新為在H1下的后驗(yàn)概率P(H2|H1)由于P(H1|S1,S2)=0.321>P(H1)，仍使用(5.8)式的后半部分，得到在當(dāng)前觀察S1、S2下H2的后驗(yàn)概率P(H2|S1,S2)可以看出，H2的先驗(yàn)概率是0.01，通過r1、r2、r3及初始證據(jù)進(jìn)行推理，最后推出H2的后驗(yàn)概率為0.177，相當(dāng)于概率增加了16倍多。5.3.3主觀Bayes推理的例子405.1不確定性推理的基本概念5.2可信度推理5.3主觀Bayes方法5.4證據(jù)理論5.4.1證據(jù)理論的形式化描述5.4.2證據(jù)理論的推理模型5.4.3推理實(shí)例5.4.4證據(jù)理論推理的特征5.5模糊推理5.6概率推理

第5章不確定性推理

415.4.1DS理論的形式描述

1.概率分配函數(shù)（1/5）DS理論處理的是集合上的不確定性問題，為此需要先建立命題與集合之間的一一對(duì)應(yīng)關(guān)系，以把命題的不確定性問題轉(zhuǎn)化為集合的不確定性問題。(1)冪集設(shè)Ω為樣本空間，且Ω中的每個(gè)元素都相互獨(dú)立，則由Ω的所有子集構(gòu)成的冪集記為2Ω。當(dāng)Ω中的元素個(gè)數(shù)為N時(shí)，則其冪集2Ω的元素個(gè)數(shù)為2N，且其中的每一個(gè)元素都對(duì)應(yīng)于一個(gè)關(guān)于x取值情況的命題。例5.3

設(shè)Ω={紅，黃，白}，求Ω的冪集2Ω。解：Ω的冪集可包括如下子集：A0=Φ,A1={紅},A2={黃},A3={白},A4={紅，黃},A5={紅，白},A6={黃，白},A7={紅，黃，白}其中，Φ表示空集，空集也可表示為{}。上述子集的個(gè)數(shù)正好是23=8425.4.1DS理論的形式描述

1.概率分配函數(shù)（2/5）(2)一般的概率分配函數(shù)定義5.3設(shè)函數(shù)m：2Ω→[0，1]，且滿足則稱m是2Ω上的概率分配函數(shù)，m(A)稱為A的基本概率數(shù)。例5.4

對(duì)例5.3所給出的有限集Ω，若定義2Ω上的一個(gè)基本函數(shù)m：m({},{紅},{黃},{白},{紅，黃},{紅，白},{黃，白},{紅，黃，白})=(0,0.3,0,0.1,0.2,0.2,0,0.2)請(qǐng)說明該函數(shù)滿足概率分配函數(shù)的定義。解：(0,0.3,0,0.1,0.2,0.2,0,0.2)分別是冪集2Ω中各個(gè)子集的基本概率數(shù)。顯然m滿足即滿足概率分配函數(shù)的定義。435.4.1DS理論的形式描述

1.概率分配函數(shù)（3/5）

對(duì)一般概率分配函數(shù)的說明(1)概率分配函數(shù)的作用是把Ω的任一子集映射為[0，1]上的一個(gè)數(shù)m(A)當(dāng)AΩ，且A由單個(gè)元素組成時(shí)，則m(A)表示對(duì)A的精確信任度；當(dāng)AΩ、A≠Ω，且A由多個(gè)元素組成時(shí)，m(A)也表示對(duì)A的精確信任度，但卻不知道這部分信任度該分給A中哪些元素；當(dāng)A=Ω時(shí)，則m(A)也表示不知道該如何分配的部分。

例如，對(duì)上例所給出的有限集Ω及基本函數(shù)m，當(dāng)A={紅}時(shí)，有m(A)=0.3，它表示對(duì)命題“x是紅色”的精確信任度為0.3。B={紅，黃}時(shí)，有m(B)=0.2，x是紅或黃的信任度0.2，但不知道怎樣分。C=Ω={紅，黃，白}時(shí)，有m(Ω)=0.2，同樣不知道該怎樣分配。(2)概率分配函數(shù)不是概率例如，在例5.3中，m符合概率分配函數(shù)的定義，但m({紅})+m({黃})+m({白})=0.3+0+0.1=0.4<1因此m不是概率，因?yàn)楦怕蔖要求：P(紅)+P(黃)+P(白)=1445.4.1證據(jù)理論的推理模型

1.概率分配函數(shù)(4/5)(3)一個(gè)特殊的概率分配函數(shù)設(shè)Ω={s1,s2,…,sn}，m為定義在2Ω上的概率分配函數(shù)，且m滿足其中，∣A∣表示命題A所對(duì)應(yīng)的集合中的元素個(gè)數(shù)。該概率分配函數(shù)的特殊性：①只有當(dāng)子集中的元素個(gè)數(shù)為1時(shí)，其概率分配數(shù)才有可能大于0；②當(dāng)子集中有多個(gè)或0個(gè)元素，且不等于全集時(shí)，其概率分配數(shù)均為0；③全集Ω的概率分配數(shù)按(3)計(jì)算。455.4.1證據(jù)理論的推理模型

1.概率分配函數(shù)(5/5)例5.5

設(shè)Ω={紅，黃，白}，有如下概率分配函數(shù)m({}，{紅}，{黃}，{白}，{紅，黃，白})=(0,0.6,0.2,0.1,0.1)其中：m({紅，黃})=m({紅，白})=m({黃，白})=0，可見，m符合上述概率分配函數(shù)的定義。

(4)概率分配函數(shù)的合成定義5.4

設(shè)m1和m2是2Ω上的基本概率分配函數(shù)，它們的正交和定義為其中：465.4.1證據(jù)理論的推理模型

2.信任函數(shù)和似然函數(shù)(1/2)根據(jù)上述特殊的概率分配函數(shù)，可構(gòu)造其信任函數(shù)和似然函數(shù)。定義5.4

對(duì)任何命題AΩ,其信任函數(shù)為信任函數(shù)也稱為下限函數(shù)，表示對(duì)A的總體信任度。

定義5.5

對(duì)任何命題AΩ,其似然函數(shù)為似然函數(shù)也稱為上限函數(shù)，表示對(duì)A的非假信任度。可以看出，對(duì)任何命題AΩ、AΩ都有

Pl(A)-Bel(A)=Pl(B)-Bel(B)=m(Ω)475.4.3證據(jù)理論的推理模型

2.信任函數(shù)和似然函數(shù)(2/2)例5.6設(shè)Ω={紅，黃，白}，概率分配函數(shù)m({}，{紅}，{黃}，{白}，{紅，黃，白})=(0,0.6,0.2,0.1,0.1)A={紅，黃}，求m(Ω)、Bel(A)和Pl(A)的值。解：m(Ω)=1-[m({紅})+m({黃})+m({白})]=1-(0.6+0.2+0.1)=0.1Bel({紅，黃})=m({紅})+m({黃})=0.6+0.2=0.8Pl({紅，黃})=m(Ω)+Bel({紅，黃})=0.1+0.8=0.9或Pl({紅，黃})=1-Bel(﹁{紅，黃})=1-Bel({白})=1-0.1=0.9

48定義5.7設(shè)Ω為有限域，對(duì)任何命題AΩ，命題A的類概率函數(shù)為

其中，|A|和|Ω|分別是A及Ω中元素的個(gè)數(shù)。

類概率函數(shù)f(A)具有如下性質(zhì)：證明：5.4.1證據(jù)理論的推理模型

3.類概率函數(shù)(1/4)故因?yàn)?9(2)對(duì)任何,有Bel(A)≤f(A)≤Pl(A)

證明：根據(jù)f(A)定義5.4.1證據(jù)理論的推理模型

3.類概率函數(shù)(2/4)故因又因，即所以50(3)對(duì)任何，有f(﹁A)=1-f(A)證明：因?yàn)?.4.1證據(jù)理論的推理模型

3.類概率函數(shù)(3/4)故51(1)

f(Ф)=0(2)

f(Ω)=1(3)對(duì)任何，有0≤f(A)≤1

根據(jù)以上性質(zhì)，可得如下推論例5.7

設(shè)Ω={紅，黃，白}，概率分配函數(shù)m({}，{紅}，{黃}，{白}，{紅，黃，白})=(0,0.6,0.2,0.1,0.1)若A={紅，黃}，求f(A)的值。解：5.4.1證據(jù)理論的推理模型

3.類概率函數(shù)(4/4)525.4.2證據(jù)理論的推理模型

1.知識(shí)不確定性的表示表示形式：IFETHENH={h1,h2,…,hn}CF={c1,c2,…,cn}其中：E為前提條件，它既可以是簡(jiǎn)單條件，也可以是用合取或析取詞連接起來的復(fù)合條件；H是結(jié)論，它用樣本空間中的子集表示，h1,h2,…,hn是該子集中的元素；CF是可信度因子，用集合形式表示。該集合中的元素c1,c2,…,cn用來指出h1,h2,…,hn的可信度，ci與hi一一對(duì)應(yīng)。并且，ci應(yīng)滿足如下條件：53定義5.8設(shè)A是規(guī)則條件部分的命題，E'是外部輸入的證據(jù)和已證實(shí)的命題，在證據(jù)E'的條件下，命題A與證據(jù)E'的匹配程度為定義5.9條件部分命題A的確定性為CER(A)=MD(A/E')×f(A)其中f(A)為類概率函數(shù)。由于f(A)∈[0,1]，因此CER(A)∈[0,1]

5.4.1證據(jù)理論的推理模型

2.證據(jù)不確定性的表示如果A的所有元素都出現(xiàn)在E‘中否則54當(dāng)組合證據(jù)是多個(gè)證據(jù)的合取時(shí)E=E1ANDE2AND…ANDEn則CER(E)=min{CER(E1),CER(E2),…,CER(En)}當(dāng)組合證據(jù)是多個(gè)證據(jù)的析取時(shí)E=E1ORE2OR…OREn則CER(E)=max{CER(E1),CER(E2),….CER(En)5.4.2證據(jù)理論的推理模型

3.組合證據(jù)不確定性的表示55(1)求H的概率分配函數(shù)

如果有兩條或多條知識(shí)支持同一結(jié)論H，例：IFE1THENH={h1,h2,…,hn}CF={c11,c12,…,c1n}IFE2THENH={h1,h2,…,hn}CF={c21,c22,…,c2n}則按正交和求CER(H)，即先求出：

m1=m1({h1},{h2},…,{hn})m2=m2({h1},{h2},…,{hn})然后再用公式求m1和m2的正交和，最后求得H的m。設(shè)有知識(shí)IFETHENH={h1,h2,…,hn}CF={c1,c2,…,cn}則求結(jié)論H的確定性CER(H)的方法如下：

5.4.2證據(jù)理論的推理模型

4.不確定性的更新(1/2)56(2)求Bel(H)、Pl(H)及f(H)

5.4.2證據(jù)理論的推理模型

4.不確定性的更新(2/2)(3)求H的確定性CER(H)按公式CER(H)=MD(H/E')×f(H)計(jì)算結(jié)論H確定性。

575.4.3推理實(shí)例

例(1/5)例5.8

設(shè)有如下規(guī)則：r1:IFE1ANDE2THENA={a1,a2}CF={0.3,0.5}r2:IFE3THENH={h1,h2}CF={0.4,0.2}r3:IFATHENH={h1,h2}CF={0.1,0.5}已知用戶對(duì)初始證據(jù)給出的確定性為：CER(E1)=0.8CER(E2)=0.6CER(E3)=0.9并假Ω定中的元素個(gè)數(shù)∣Ω∣=10求：CER(H)=?

解：由給定知識(shí)形成的推理網(wǎng)絡(luò)如右圖所示：HAE1E2E3={h1,h2}={a1,a2}r1r2r358(1)求CER(A)由r1:CER(E1ANDE2)=min{CER(E1),CER(E2)}=min{0.8,0.6}=0.6m({a1},{a2})={0.6×0.3,0.6×0.5}={0.18,0.3}Bel(A)=m({a1})+m({a2})=0.18+0.3=0.48

Pl(A)=1-Bel(﹁A)=1-0=1f(A)=Bel(A)+|A|/|Ω|?[Pl(A)-Bel(A)]=0.48+2/10*[1-0.48]=0.584故CER(A)=MD(A/E')×f(A)=0.5845.4.3推理實(shí)例

例(2/5)595.4.3推理實(shí)例

例(3/5)(2)求CER(H)由r2得m1({h1},{h2})={CER(E3)×0.4,CER(E3)×0.2}={0.9×0.4,0.9×0.2}={0.36,0.18}m1(Ω)=1-[m1({h1})+m1({h2})]=1-[0.36+0.18]=0.46由r3得m2({h1},{h2})={CER(A)×0.1,CER(A)×0.5}={0.58×0.1,0.58×0.5}={0.06,0.29}m2(Ω)=1-[m2({h1})+m2({h2})]=1-[0.06+0.29]=0.6560求正交和m=m1⊕m2K=m1(Ω)×m2(Ω)+m1({h1})×m2({h1})+m1({h1})×m2(Ω)+m1(Ω)×m2({h1})+m1({h2})×m2({h2})+m1({h2})×m2(Ω)+m1(Ω)×m2({h2})=0.46×0.65+0.36×0.06+0.36×0.65+0.46×0.06+0.18×0.29+0.18×0.65+0.46×0.29=0.30+(0.02+0.23+0.03)+(0.05+0.12+0.13)=0.885.4.3推理實(shí)例

例(4/5)615.4.3推理實(shí)例

例(5/5)故有：m(Ω)=1-[m({h1})+m({h2})]=1-[0.32+0.34]=0.34同理可得：再根據(jù)m可得Bel(H)=m({h1})+m({h2})=0.32+0.34=0.66Pl(H)=m(Ω)+Bel(H)=0.34+0.66=1

CER(H)=MD(H/E')×f(H)=0.73625.1不確定性推理的基本概念5.2可信度推理5.3主觀Bayes方法5.4證據(jù)理論

5.5模糊推理5.5.1模糊知識(shí)表示5.5.2模糊概念的匹配5.5.3模糊推理的方法5.6概率推理

第5章不確定性推理

63模糊命題是基于模糊邏輯，利用模糊謂詞、模糊量詞、模糊修飾語(yǔ)等用來對(duì)模糊命題的模糊性進(jìn)行描述的。

模糊謂詞設(shè)x∈U，F(xiàn)為模糊謂詞，即U中的一個(gè)模糊關(guān)系，則模糊命題可表示為xisF其中的模糊謂詞F可以是大、小、年輕、年老、冷、暖、長(zhǎng)、短等。模糊量詞模糊邏輯中使用的模糊量詞，如極少、很少、幾個(gè)、少數(shù)、多數(shù)、大多數(shù)、幾乎所有等。這些模糊量詞可以很方便地描述類似于下面的命題：大多數(shù)成績(jī)好的學(xué)生學(xué)習(xí)都很刻苦。很少有成績(jī)好的學(xué)生特別貪玩。5.5.1模糊知識(shí)表示

1.模糊命題的描述(1/3)64模糊修飾語(yǔ)設(shè)m是模糊修飾語(yǔ)，x是變量，F(xiàn)謂模糊謂詞，則模糊命題可表示為xismF，模糊修飾語(yǔ)也稱為程度詞，常用的程度詞有“很”、“非常”、“有些”、“絕對(duì)”等。模糊修飾語(yǔ)的四種主要運(yùn)算：①求補(bǔ)

表示否定，如“不”、“非”等，其隸屬函數(shù)的表示為

②集中

表示“很”、“非?！钡?，其效果是減少隸屬函數(shù)的值：

③擴(kuò)張表示“有些”、“稍微”等，其效果是增加隸屬函數(shù)的值：

5.5.1模糊知識(shí)表示

1.模糊命題的描述(2/3)65④加強(qiáng)對(duì)比

表示“明確”、“確定”等，其效果是增加0.5以上隸屬函數(shù)的值，減少0.5以下隸屬函數(shù)的值：

則“非常真”、“有些真”、“非常假”、“有些假”可定義為

在以上4種運(yùn)算中，集中與擴(kuò)張用的較多。例如，語(yǔ)言變量“真實(shí)性”取值“真”和“假”的隸屬函數(shù)定義為：

5.5.1模糊知識(shí)表示

1.模糊命題的描述(3/3)66在扎德的推理模型中，產(chǎn)生式規(guī)則的表示形式是IFxisFTHENyisG其中：x和y是變量，表示對(duì)象；F和G分別是論域U和V上的模糊集，表示概念。

5.5.1模糊知識(shí)表示

2.模糊知識(shí)的表示方式67連續(xù)論域：如果論域U是實(shí)數(shù)域上的某個(gè)閉區(qū)間[a,b]，則漢明距離為

語(yǔ)義距離用于刻劃兩個(gè)模糊概念之間的差異。這里主要討論漢明距離。

離散論域：設(shè)U={u1,u2,…,un}是一個(gè)離散有限論域，F(xiàn)和G分別是論域U上的兩個(gè)模糊概念的模糊集，則F和G的漢明距離定義為5.5.2模糊概念的匹配

1.語(yǔ)義距離例5.9

設(shè)論域U={-10,0,10,20,30}表示溫度，模糊集F=0.8/-10+0.5/0+0.1/10G=0.9/-10+0.6/0+0.2/10分別表示“冷”和“比較冷”，則d(F,G)=0.2×(|0.8-0.9|+|0.5-0.6|+|0.1-0.2|)=0.2×0.3=0.06即F和G的漢明距離為0.06。685.5.2模糊概念的匹配

2.貼近度設(shè)F和G分別是論域U={u1,u2,…,un}上的兩個(gè)模糊概念的模糊集，則它們的貼近度定義為(F,G)=(1/2)﹡(F·G

+(1-F⊙G))其中：

稱F·G為內(nèi)積，F(xiàn)⊙G為外積。例5.10

設(shè)論域U及其上的模糊集F和G如上例所示，則F·G=0.8∧0.9∨0.5∧0.6∨0.1∧0.2∨0∧0∨0∧0=0.8∨0.5∨0.1∨0∨0=0.8F⊙G=(0.8∨0.9)∧(0.5∨0.6)∧(0.1∨0.2)∧(0∨0)∧(0∨0)=0.9∧0.6∧0.2∧0∧0=0(F,G)=0.5×(0.8+(1-0))=0.5×1.8=0.9即F和G的貼近度為0.9。F·G=

F⊙G=695.5.3模糊推理的方法模糊推理實(shí)際上是按照給定的推理模式，通過模糊集合與模糊關(guān)系的合成來實(shí)現(xiàn)的。主要討論：1.模糊關(guān)系的構(gòu)造2.模糊推理的基本方法70模糊關(guān)系RmRm是由扎德提出的一種構(gòu)造模糊關(guān)系的方法。設(shè)F和G分別是論域U和V上的兩個(gè)模糊集，則Rm定義為其中，×號(hào)表示模糊集的笛卡爾乘積。例5.10設(shè)U=V={1，2，3}，F(xiàn)和G分別是U和V上的兩個(gè)模糊集，且F=1/1+0.6/2+0.1/3,G=0.1/1+0.6/2+1/3，求U×V上的Rm

解：5.5.3模糊推理方法1.模糊關(guān)系的構(gòu)造(1/3)如：Rm(2,3)=(0.6∧1)∨(1-0.6)=0.6∨0.4=0.671模糊關(guān)系RcRc是由麥姆德尼(Mamdani)提出的一種構(gòu)造模糊關(guān)系的方法。設(shè)F和G分別是論域U和V上的兩個(gè)模糊集，則Rc義為

例：對(duì)例5.11所給出的模糊集F=1/1+0.6/2+0.1/3,G=0.1/1+0.6/2+1/3其Rc為如Rc(3,2)：

5.5.3模糊推理方法1.模糊關(guān)系的構(gòu)造(2/3)72模糊關(guān)系RgRg是米祖莫托(Mizumoto)提出的一種構(gòu)造模糊關(guān)系的方法。設(shè)F和G分別是論域U和V上的兩個(gè)模糊集，則Rg定義為其中

例：對(duì)例5.11所給出的模糊集F=1/1+0.6/2+0.1/3,G=0.1/1+0.6/2+1/3其Rg為5.5.3模糊推理方法1.模糊關(guān)系的構(gòu)造(3/3)73模糊假言推理(1/2)設(shè)F和G分別是U和V上的兩個(gè)模糊集，且有知識(shí)IFxisFTHENyisG若有U上的一個(gè)模糊集F'，且F可以和F'匹配，則可以推出yisG'，且G'是V上的一個(gè)模糊集。這種推理模式稱為模糊假言推理，其表示形式為：知識(shí)：IFxisFTHENyisG證據(jù)：xisF'---------------------------------------------------------結(jié)論：yisG'5.5.3模糊推理方法2.模糊推理的基本模式(1/7)在這種推理模式下，模糊知識(shí)IFxisFTHENyisG表示在F與G之間存在著確定的因果關(guān)系，設(shè)此因果關(guān)系為R。則有G'=F'οR其中的模糊關(guān)系R，可以是Rm、Rc或Rg中的任何一種。

74模糊假言推理(2/2)例5.12

對(duì)例5.11所給出的F、G，以及所求出的Rm，設(shè)有已知事實(shí)：｛xis較?。⒃O(shè)“較小”的模糊集為：較小=1/1+0.7/2+0.2/3求在此已知事實(shí)下的模糊結(jié)論。解：本例的模糊關(guān)系Rm已在例5.11中求出，設(shè)已知模糊事實(shí)“較小”為F'，F(xiàn)'與Rm的合成即為所求結(jié)論G'。

={0.4,0.6,1}即所求出的模糊結(jié)論G'為G'=0.4/1+0.6/2+1/35.5.3模糊推理方法2.模糊推理的基本模式(2/7)75模糊拒取式推理(1/2)設(shè)F和G分別是U和V上的兩個(gè)模糊集，且有知識(shí)IFxisFTHENyisG若有V上的一個(gè)模糊集G’，且G可以和G’匹配，則可以推出xisF’，且F’是U上的一個(gè)模糊集。這種推理模式稱為模糊拒取式推理，其表示形式為：知識(shí)：IFxisFTHENyisG證據(jù)：yisG'---------------------------------------------------------結(jié)論：xisF'

在這種推理模式下，模糊知識(shí)IFxisFTHENyisG也表示在F與G之間存在著確定的因果關(guān)系，設(shè)此因果關(guān)系為R，則有F'=RοG'其中的模糊關(guān)系R，可以是Rm、Rc或Rg中的任何一種。5.5.3模糊推理方法2.模糊推理的基本模式(3/7)76模糊拒取式推理(2/2)例5.13

設(shè)F、G如例5.11所示，已知事實(shí)為｛yis較大｝且“較大”的模糊集為：較大=0.2/1+0.7/2+1/3，若已知事實(shí)與G匹配，以模糊關(guān)系Rc為例，在此已知事實(shí)下推出F’。解：本例的模糊關(guān)系Rc已在前面求出，設(shè)模糊概念“較大”為G'，則

Rc與G'的合成即為所求的F'。

即所求出的F'為F'=1/1+0.6/2+0.1/3

5.5.3模糊推理的方法2.模糊推理的基本模式(4/7)77模糊假言三段論推理(1/3)設(shè)F、G、H分別是U、V、W上的3個(gè)模糊集，且由知識(shí)IFxisFTHENyisGIFyisGTHENzisH則可推出:IFxisFTHENzisH這種推理模式稱為模糊假言三段論推理。它可表示為：知識(shí)：IFxisFTHENyisG證據(jù)：IFyisGTHENzisH---------------------------------------------------------結(jié)論：IFxisFTHENzisH5.5.3模糊推理的方法2.模糊推理的基本模式(5/7)78

模糊假言三段論推理(2/3)在模糊假言三段論推理模式下，模糊知識(shí)r1:IFxisFTHENyisG表示在F與G之間存在著確定的因果關(guān)系，設(shè)此因果關(guān)系為R1。模糊知識(shí)r2:IFyisGTHENzisH表示在G與H之間存在著確定的因果關(guān)系，設(shè)此因果關(guān)系為R2。若模糊假言三段論成立，則模糊結(jié)論r3：IFxisFTHENzisH的模糊關(guān)系R3可由R1與R2的合成得到。即R3=R1οR2這里的關(guān)系R1、R2、R3都可以是前面所討論過的Rm、Rc、Rg中的任何一種。5.5.3模糊推理方法2.模糊推理的基本模式(6/7)79模糊假言三段論推理(3/3)例5.14設(shè)U=W=V={1,2,3}，E=1/1+0.6/2+0.2/3，F(xiàn)=0.8/1+0.5+0.1/3，G=0.2/1+0.6+1/3。按Rg求E×F×G上的關(guān)系R。解：先求E×F上的關(guān)系R1

再求F×G上的關(guān)系R2

5.5.3模糊推理方法2.模糊推理的基本模式(7/7)最后求E×F×G上的關(guān)系R

805.1不確定性推理的基本概念5.2可信度推理5.3主觀Bayes方法5.4證據(jù)理論

5.5模糊推理5.6概率推理

5.6.1貝葉斯網(wǎng)絡(luò)的概念及理論5.6.2貝葉斯網(wǎng)絡(luò)推理的概念和類型5.6.3貝葉斯網(wǎng)絡(luò)的精確推理5.6.4貝葉斯網(wǎng)絡(luò)的近似推理第5章不確定性推理

81貝葉斯網(wǎng)絡(luò)是由美國(guó)加州大學(xué)的珀?duì)枺↗.Pearl）于1985年首先提出的一種模擬人類推理過程中因果關(guān)系的不確定性處理模型。它是概率論與圖論的結(jié)合，其拓?fù)浣Y(jié)構(gòu)是一個(gè)有向無環(huán)圖。定義5.10設(shè)X={X1,X2,…,Xn}是任何隨機(jī)變量集，其上的貝葉斯網(wǎng)絡(luò)可定義為BN=（BS，BP）。其中：①BS是貝葉斯網(wǎng)絡(luò)的結(jié)構(gòu)，即一個(gè)定義在X上的有向無環(huán)圖。其中的每一個(gè)節(jié)點(diǎn)Xi都惟一地對(duì)應(yīng)著X中的一個(gè)隨機(jī)變量，并需要標(biāo)注定量的概率信息；每條有向邊都表示它所連接的兩個(gè)節(jié)點(diǎn)之間的條件依賴關(guān)系。②Bp為貝葉斯網(wǎng)絡(luò)的條件概率集合，Bp={P(Xi|par(Xi))}。其中，par(Xi)表示Xi的所有父節(jié)點(diǎn)的相應(yīng)取值，P(Xi|par(Xi))是節(jié)點(diǎn)Xi的一個(gè)條件概率分布函數(shù)。從以上定義可以看出，貝葉斯網(wǎng)絡(luò)中的弧是有方向的，且不能形成回路，因此圖有始點(diǎn)和終點(diǎn)。5.6.1貝葉斯網(wǎng)絡(luò)的概念及理論1.貝葉斯網(wǎng)絡(luò)的定義(1/2)82

例5.15假設(shè)學(xué)生在碰見難題和遇到干擾時(shí)會(huì)產(chǎn)生焦慮，而焦慮又可導(dǎo)致思維遲緩和情緒波動(dòng)。請(qǐng)用貝葉斯網(wǎng)絡(luò)描述這一問題。解：圖5.4是對(duì)上述問題的一種貝葉斯網(wǎng)絡(luò)描述。在該圖中，大寫英文字母A、D、I、C和E分別表示節(jié)點(diǎn)“產(chǎn)生焦慮”、“碰見難題”、“遇到干擾”、“認(rèn)知遲緩”和“情緒波動(dòng)”，并將各節(jié)點(diǎn)的條件概率表置于相應(yīng)節(jié)點(diǎn)的右側(cè)。5.6.1貝葉斯網(wǎng)絡(luò)的概念及理論1.貝葉斯網(wǎng)絡(luò)的定義(2/2)碰見難題產(chǎn)生焦慮遇到干擾思維遲緩情緒波動(dòng)ADIEC圖5.4關(guān)于學(xué)習(xí)心理的貝葉斯網(wǎng)絡(luò)AP(C)T0.8AP(E)T0.9P(D)0.15P(I)0.05DIP(A)TT0.8TF0.4FT0.5FF0.1其中，小寫英文字母a、d、i、c和e分別表示布爾變量A、D、I、C和E取邏輯值為“True”，﹁a、﹁d、﹁i、﹁c和﹁e來表示布爾變量A、D、I、C和E取邏輯值為“False”。貝葉斯網(wǎng)絡(luò)中每個(gè)節(jié)點(diǎn)的概率表就是該節(jié)點(diǎn)與其父節(jié)點(diǎn)之間的一個(gè)局部條件概率分布，由于節(jié)點(diǎn)D和I無父節(jié)點(diǎn)，故取其先驗(yàn)概率來填充。83

全聯(lián)合概率分布也稱為聯(lián)合概率分布，它是概率的合取形式，其定義為

定義5.11設(shè)X={X1,X2,…,Xn}為任何隨機(jī)變量集，其全聯(lián)合概率分布是指當(dāng)對(duì)每個(gè)變量取特定值時(shí)xi（i=1,2,…,n）時(shí)的合取概率，即P(X1=x1∧X2=x2∧…∧Xn=xn)其簡(jiǎn)化表示形式為P(x1,x2,…,xn)。由全聯(lián)合概率分布，再重復(fù)使用乘法法則P(x1,x2,…,xn)=P(xn|xn-1,xn-2,…,x1)P(xn-1,xn-2,…,x1)可以把每個(gè)合取概率簡(jiǎn)化為更小的條件概率和更小的合取式，直至得到如下全聯(lián)合概率分布表示：P(x1,x2,…,xn)=P(xn|xn-1,xn-2,…,x1)P(xn-1|xn-2,xn-3,…,x1)…P(x2|x1)P(x1)

=這個(gè)恒等式對(duì)任何隨機(jī)變量都是成立的，該式亦稱為鏈?zhǔn)椒▌t。5.6.1貝葉斯網(wǎng)絡(luò)的概念及理論2.貝葉斯網(wǎng)絡(luò)的全聯(lián)合概率分布表示(1/2)84根據(jù)貝葉斯網(wǎng)絡(luò)的定義，對(duì)子節(jié)點(diǎn)變量Xi，其取值xi的條件概率僅依賴于Xi的所有父節(jié)點(diǎn)的影響。按照前面的假設(shè)，我們用par(Xi)表示Xi的所有父節(jié)點(diǎn)的相應(yīng)取值xi，P(Xi|par(Xi))是節(jié)點(diǎn)Xi的一個(gè)條件概率分布函數(shù)，則對(duì)X的所有節(jié)點(diǎn)，應(yīng)有如下聯(lián)合概率分布：P(x1,x2,…,xn)=這個(gè)公式就是貝葉斯網(wǎng)絡(luò)的聯(lián)合概率分布表示?？梢?，貝葉斯網(wǎng)絡(luò)的聯(lián)合概率分布要比全聯(lián)合概率分布簡(jiǎn)單得多，一個(gè)重要原因是其具有局部化特征。所謂局部化特征，是指每個(gè)節(jié)點(diǎn)只受到整個(gè)節(jié)點(diǎn)集中少數(shù)別的節(jié)點(diǎn)的直接影響，而不受這些節(jié)點(diǎn)外的其它節(jié)點(diǎn)的直接影響。

貝葉斯網(wǎng)絡(luò)是一種線性復(fù)雜度的方法。原因是一個(gè)節(jié)點(diǎn)僅受該節(jié)點(diǎn)的父節(jié)點(diǎn)的直接影響，而不受其它節(jié)點(diǎn)的直接影響。5.6.1貝葉斯網(wǎng)絡(luò)的概念及理論2.貝葉斯網(wǎng)絡(luò)的全聯(lián)合概率分布表示(2/2)

85從貝葉斯網(wǎng)絡(luò)的局部化特征可以看出，貝葉斯網(wǎng)絡(luò)能實(shí)現(xiàn)簡(jiǎn)化計(jì)算的最根本基礎(chǔ)是條件獨(dú)立性，即一個(gè)節(jié)點(diǎn)與它的祖先節(jié)點(diǎn)之間是條件獨(dú)立的。下面從網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)去定義下面兩個(gè)等價(jià)的條件獨(dú)立關(guān)系的判別準(zhǔn)則：(1)給定父節(jié)點(diǎn)，一個(gè)節(jié)點(diǎn)與非其后代的節(jié)點(diǎn)之間是條件獨(dú)立的。例如，在圖5.4所示的貝葉斯網(wǎng)絡(luò)中，給定父節(jié)點(diǎn)“產(chǎn)生焦慮”的取值（即T或F），節(jié)點(diǎn)“思維遲緩”與非其后代節(jié)點(diǎn)“碰見難題”和節(jié)點(diǎn)“遇到干擾”之間是條件獨(dú)立的。同樣，節(jié)點(diǎn)“情緒波動(dòng)”與非其后代節(jié)點(diǎn)“碰見難題”和節(jié)點(diǎn)“遇到干擾”之間也是條件獨(dú)立的。(2)給定一個(gè)節(jié)點(diǎn)，該節(jié)點(diǎn)與其父節(jié)點(diǎn)、子節(jié)點(diǎn)和子節(jié)點(diǎn)的父節(jié)點(diǎn)一起構(gòu)成了一個(gè)馬爾科夫覆蓋，則該節(jié)點(diǎn)與馬爾科夫覆蓋以外的所有節(jié)點(diǎn)之間都是條件獨(dú)立的。

例如，在圖5.4所示的貝葉斯網(wǎng)絡(luò)中，若給定一個(gè)節(jié)點(diǎn)“碰見難題”，其馬爾科夫覆蓋包括“產(chǎn)生焦慮”、“遇到干擾”。此時(shí)，節(jié)點(diǎn)“碰見難題”與處于馬爾科夫覆蓋以外的那些節(jié)點(diǎn)，如節(jié)點(diǎn)“思維遲緩”和節(jié)點(diǎn)“情緒波動(dòng)”之間都是條件獨(dú)立的。5.6.1貝葉斯網(wǎng)絡(luò)的概念及理論3.貝葉斯網(wǎng)絡(luò)的條件依賴關(guān)系表示

86依據(jù)貝葉斯網(wǎng)絡(luò)的聯(lián)合概率分布表示，其構(gòu)造過程如下：(1)首先建立不依賴于其它節(jié)點(diǎn)的根節(jié)點(diǎn)，并且根節(jié)點(diǎn)可以不止一個(gè)。(2)加入受根節(jié)點(diǎn)影響的節(jié)點(diǎn)，并將這些節(jié)點(diǎn)作為根節(jié)點(diǎn)的子節(jié)點(diǎn)。此時(shí)，根節(jié)點(diǎn)已成為父節(jié)點(diǎn)。(3)進(jìn)一步建立依賴于已建節(jié)點(diǎn)的子節(jié)點(diǎn)。重復(fù)這一過程直到葉節(jié)點(diǎn)為止。(4)對(duì)每個(gè)根節(jié)點(diǎn)，給出其先驗(yàn)概率；對(duì)每個(gè)中間節(jié)點(diǎn)和葉節(jié)點(diǎn)，給出其條件概率表。

例如，圖5.4所示貝葉斯網(wǎng)絡(luò)的構(gòu)建過程如下：(1)先建立根節(jié)點(diǎn)“碰見難題”和“遇到干擾”；(2)加入受根節(jié)點(diǎn)影響節(jié)點(diǎn)“產(chǎn)生焦慮”，并將其作為兩個(gè)根節(jié)點(diǎn)的子節(jié)點(diǎn)。(3)進(jìn)一步加入依賴于已建立節(jié)點(diǎn)“產(chǎn)生焦慮”的子節(jié)點(diǎn)“思維遲緩”和“情緒波動(dòng)”。由于這兩個(gè)新建節(jié)點(diǎn)已為葉節(jié)點(diǎn)，故節(jié)點(diǎn)構(gòu)建過程終止。(4)對(duì)每個(gè)根節(jié)點(diǎn)，給出其先驗(yàn)概率；