人工智能之不確定知識(shí)表示及推理

1、第 一 章不確定知識(shí)表示及推理10/13/20221內(nèi)容1.1概述1.2概率模型型1.3主觀Bayes方法1.4可信度方方法1/15/202021.1概述1/15/20203所謂不確確定性推推理就是是從不確確定性的的初始事事實(shí)（證證據(jù)）出出發(fā)，通通過運(yùn)用用不確定定的知識(shí)識(shí)，最終終推出具具有一定定程度的的不確定定性卻是是合理或或者近乎乎合理的的結(jié)論的的思維過過程。需要解決決的問題題：不確定性性的表示示不確定性性的匹配配不確定性性的更新新算法1/15/20204證據(jù)的不不確定性性一、不確確定性的的表示證據(jù)通常常有兩類類：一類為初初始事實(shí)實(shí)。這一一類證據(jù)據(jù)多來(lái)源源于觀察察，因而而通常具具有不確確定性

2、；另一類為為推理過過程中產(chǎn)產(chǎn)生的中中間結(jié)果果。證據(jù)不確確定性用用C(E)表示示，它代代表相應(yīng)應(yīng)證據(jù)的的不確定定性程度度，即表表示證據(jù)據(jù)E為真真的程度度。如果E為為初始事事實(shí)，則則C(E)由用用戶給出出。如果E為為推理過過程中產(chǎn)產(chǎn)生的中中間結(jié)果果，則C(E)可以通通過不確確定性的的更新算算法來(lái)計(jì)計(jì)算。知識(shí)的不不確定性性1/15/20205規(guī)則：IFE THENH規(guī)則是知知識(shí)，E是規(guī)則則的前提提即證據(jù)據(jù)，H是是該規(guī)則則的結(jié)論論，也可可以是其其他規(guī)則則的證據(jù)據(jù)。EHC(E)C(H)f(E,H)規(guī)則的不不確定性性通常用用一個(gè)數(shù)數(shù)值f(E,H)表示示，稱為為規(guī)則強(qiáng)強(qiáng)度。規(guī)則的假假設(shè)(結(jié)結(jié)論)H也可以以作

3、為其其他規(guī)則則的證據(jù)據(jù)，其不不確定用用C(H)表示示，C(H)必必須通過過不確定定性的更更新算法法來(lái)計(jì)算算。1/15/20206在確定一一種量度度方法及及其范圍圍時(shí)，應(yīng)應(yīng)注意以以下幾點(diǎn)點(diǎn)：量度要能能充分表表達(dá)相應(yīng)應(yīng)的知識(shí)識(shí)和證據(jù)據(jù)的不確確定性程程度。量度范圍圍的指定定應(yīng)便于于領(lǐng)域?qū)＜壹坝糜脩魧?duì)不不確定性性的估計(jì)計(jì)。量度要便便于對(duì)不不確定性性的更新新進(jìn)行計(jì)計(jì)算，而而且對(duì)結(jié)結(jié)論算出出的不確確定性量量度不能能超出量量度的范范圍量度的確確定應(yīng)當(dāng)當(dāng)是直觀觀的，同同時(shí)應(yīng)有有相應(yīng)的的理論依依據(jù)。1/15/20207二、不確確定性的的匹配算算法設(shè)計(jì)一個(gè)個(gè)數(shù)用來(lái)來(lái)計(jì)算匹匹配雙方方相似的的程度，另外再再指定一一

4、個(gè)相似似的限度度(稱為閾值值)，用來(lái)衡衡量匹配配雙方相相似的程程度是否否落在指指定的限限度內(nèi)。如果落在在指定的的限度內(nèi)內(nèi)，就稱稱它們是是可匹配配的，相相應(yīng)的知知識(shí)可被被應(yīng)用。否則就稱稱它們是是不可匹匹配的，相應(yīng)的的知識(shí)不不可應(yīng)用用。1/15/20208三、不確確定性的的更新算算法即在推理理過程中中如何考考慮知識(shí)識(shí)不確定定性的動(dòng)動(dòng)態(tài)積累累和傳遞遞。1、已知知規(guī)則前前提的不不確定性性C(E)和規(guī)規(guī)則的強(qiáng)強(qiáng)度f(wàn)(E,H)，如如何求假假設(shè)H的的不確定定性C(H)。即定義算算法g1，使C(H)=g1C(E),f(E,H)E1HC(E1)C(H)f(E1,H)E2HC(E2)C(H)f(E2,H)2、并并

5、行規(guī)則則算法定義算法法g2：C(H)=g2C1(H), C2(H)1/15/202093、證據(jù)據(jù)合取的的不確定定性算法法C(E1E2) =g3 C(E1),C(E2) C(E1 E2)=g4C(E1),C(E2)4、證據(jù)析析取的不不確定性性算法合取和析析取的不不確定性性算法統(tǒng)統(tǒng)稱為組組合證據(jù)據(jù)的不確確定性算算法。最大最小小法C(E1E2) =minC(E1),C(E2) C(E1E2)= maxC(E1),C(E2) C(EE2) =C(E1) C(E2)C(EE2)=C(E1)C(E2)C(E1) C(E2)有界方法法概率方法法C(E1E2)=max0,C(E1)+C(E2)1C(E1E2)

6、=min1,C(E1)+C(E2) 1/15/202010設(shè)A1、A2、A3、A4為原始證證據(jù)，不不確定性性分別為為：C(A1)、C(A2)、C(A3)、C(A4)求A5、A6、A7的不確定定性。舉例A1A2ORA4A3ANDA5R1f1A6R2f2A7R3f3R4f41/15/202011由證據(jù)據(jù)A1和A2的不確定定性C(A1)和C(A2)由A1和A2析取的的不確定定性C(A1A2)和規(guī)則則R1的規(guī)則強(qiáng)強(qiáng)度f(wàn)1根據(jù)算法法4求出出A1和A2析取的不不確定性性C(A1A2)。根據(jù)算法法1求出出A5的不確定定性C(A5)。由證據(jù)據(jù)A3和和A4的的不確定定性C(A3)和C(A4)由A3和A4合取的的

7、不確定定性C(A3A4)和規(guī)則則R2的規(guī)則強(qiáng)強(qiáng)度f(wàn)2，根據(jù)算法法3求出出A3和和A4合合取的不不確定性性C(A3A4)。根據(jù)算法法1求出出A6的不確定定性C(A6)。1/15/202012由A5的不確確定性C(A5)和規(guī)則則R3的規(guī)則強(qiáng)強(qiáng)度f(wàn)3由A6的不確定定性C(A6)和規(guī)則則R4的規(guī)則強(qiáng)強(qiáng)度f(wàn)4由A7的兩個(gè)根根據(jù)獨(dú)立立證據(jù)分分別求出出的不確確定性C(A7)和C(A7)根據(jù)算法法1求出出A7的的其中一一個(gè)不確確定性C(A7)。根據(jù)算法法1求出出A7的另外一一個(gè)不確確定性C(A7)。根據(jù)算法法2求成成A7最后的不不確定性性C(A7)。1/15/2020131.2概率方法法1/15/202014

8、一、基礎(chǔ)礎(chǔ)1、全概概率公式式P(Ai)0；兩兩互互不相容容，即當(dāng)當(dāng)ij時(shí)，有有設(shè)事件滿滿足：，D為必必然事件件則對(duì)任何何事件B有下式式成立：提供了一一種計(jì)算算P(B)的方方法。1/15/2020152、Bayes公式定理：設(shè)設(shè)事件滿滿足上述述定理的的條件，則對(duì)任任何事件件B有：該定理稱稱為Bayes定理，上式稱稱為Bayes公式。1/15/202016如果把全全概率公公式代入入Bayes公式中，就可得得到：即：1/15/202017二、概率率推理模模型Bayes方法法用于不不精確推推理的條條件是已已知：P(E)，P(H)，P(E| H)IFE THENH若一組組證據(jù)E1,E2,En同時(shí)支持持假

9、設(shè)H時(shí)，則則：對(duì)于H，E1,E2,En之間相互互獨(dú)立對(duì)于一般般的不精精確推理理網(wǎng)絡(luò)，必須做做如下約約定：當(dāng)一個(gè)個(gè)證據(jù)E支持多多個(gè)假設(shè)設(shè)H1,H2,Hn時(shí)，則則：假設(shè)H1,H2,Hn之間互不不相容1/15/202018如果一個(gè)個(gè)證據(jù)E支持多多個(gè)假設(shè)設(shè)H1,H2,Hn，即：IFETHENHi并已知P(Hi)和P(E| Hi)，則如果有多多個(gè)證據(jù)據(jù)E1,E2,Em和多個(gè)結(jié)結(jié)論H1,H2,Hn，則：1/15/202019設(shè)已知：P(H1)=0.4,P(H2)=0.3,P(H3)=0.3P(E1|H1)=0.5,P(E1|H2)=0.6,P(E1|H3)=0.3P(E2|H1)=0.7,P(E2|H2)

10、=0.9,P(E2|H3)=0.1=0.45同理求：P(H1| E1E2),P(H2| E1E2),P(H3| E1E2)舉例1/15/202020概率推理理模型的的優(yōu)缺點(diǎn)點(diǎn)有較強(qiáng)的的理論背背景和良良好的數(shù)數(shù)學(xué)特征征，當(dāng)證證據(jù)及結(jié)結(jié)論都彼彼此獨(dú)立立時(shí)，計(jì)計(jì)算的復(fù)復(fù)雜度比比較低。它要求給給出結(jié)論論Hi的的先驗(yàn)概概率P(Hi)及證據(jù)據(jù)Ej的條件概概率P(Ej| Hi)，要獲獲得這些些數(shù)據(jù)是是一件相相當(dāng)困難難的工作作。Bayes公式式的應(yīng)用用條件很很嚴(yán)格，它要求求各事件件互相獨(dú)獨(dú)立，若若證據(jù)之之間存在在依賴關(guān)關(guān)系，就就不能直直接使用用這個(gè)方方法1/15/2020211.3主觀Bayes方法1/15/

11、202022EHP(E)P(H)LS,LNLS，LN(0)分別別稱為充充分性量量度和必必要性量量度，這這兩個(gè)數(shù)數(shù)值由領(lǐng)領(lǐng)域?qū)＜壹医o出。一、不確確定性的的表示1、知識(shí)識(shí)的不確確定性表表示IFE THEN(LS,LN)H (P(H)1/15/202023O等價(jià)于于概率函函數(shù)P，定義如如下：P越大則O越大，P和O在概率含含義上等等價(jià)的，但取值值范圍不不同：當(dāng)P0.5時(shí)時(shí)，O0.5時(shí)時(shí)，O1當(dāng)P=0.5時(shí)時(shí)，O=1當(dāng)P=0時(shí)，O=0幾率函數(shù)數(shù)O(odds)1/15/202024H的先驗(yàn)驗(yàn)幾率O(H)和后驗(yàn)驗(yàn)幾率O(H|E)1/15/202025同理可得得：O(H|E)=LNO(H)O(H|E)=LSO

12、(H)1/15/202026LS：規(guī)則的的充分性性量度LS=1時(shí)，O(H|E)=O(H)，說明E對(duì)H沒有影響響；LS1時(shí)，O(H|E)O(H)，說明E支持H，且LS越大，E對(duì)H的支持越越充分?？梢?，E的出現(xiàn)對(duì)對(duì)H為真是充充分的，故稱LS為充分性性度量。LS1時(shí)，O(H|E)1時(shí)，O(H|E)O(H)，說明E支持H，且LN越大，E對(duì)H的支持越越充分。當(dāng)LN1時(shí)，O(H|E)1且LN1LS1LS=LN=1由于E和和E不可能同同時(shí)支持持H或同同時(shí)反對(duì)對(duì)H，所所以領(lǐng)域域?qū)＜以谠跒橐粭l條知識(shí)中中的LS和LN賦值時(shí)時(shí)，不應(yīng)應(yīng)該同時(shí)時(shí)大于1或同時(shí)時(shí)小于1。1/15/2020292、證據(jù)據(jù)的不確確定性表表示在

13、主觀Bayes方法法中，證證據(jù)E的的不確定定性由用用戶根據(jù)據(jù)觀察S給出后后驗(yàn)概率率P(E|S)或后驗(yàn)驗(yàn)幾率O(E|S)表表示。當(dāng)E為真真時(shí)，P(E|S)=1，O(E|S)=當(dāng)E為假假時(shí)，P(E|S)=0，O(E|S)=0當(dāng)E不確確定時(shí)，0P(E|S)0，所所以使用用CP公公式的后后一部分分：1/15/202053求O(H1| S2)因?yàn)镃(E2| S2)=10，所所以使用用CP公公式的后后一部分分：1/15/202054求O(H1| S1S2)1/15/202055求O(H2| S1S2)為了確定定應(yīng)用EH公式式的哪一一部分，需要判判斷P(H1|S1S2)與P(H1)的關(guān)系系。P(H1| S1

14、S2)P(H1)，必須用EH公式的后后半部分分：1/15/2020561/15/202057求O(H2| S3)因?yàn)镃(E3| S3)=-20，表示證證據(jù)的存存在增加加結(jié)論為為真的程程度，CF(H，E)的值越越大結(jié)論論H越真真；CF(H，E)=1，表示證證據(jù)存在在結(jié)論為為真；CF(H，E)0證據(jù)的出出現(xiàn)越是是支持H為真，就使CF(H,E)的值越越大；反之，使使：CF(H,E)0當(dāng)證據(jù)肯肯定為真真時(shí)：CF(E)=1當(dāng)證據(jù)以以某種程程度為假假時(shí)：CF(E)0，即即證據(jù)以以某種程程度為真真，則CF(H)=CF(H,E)CF(E)若CF(E)=1，即即證據(jù)為為真時(shí)，則CF(H)=CF(H,E)；若CF

15、(E)0，即即證據(jù)以以某種程程度為假假，則CF(H)=0；在可信度度方法的的不精確確推理中中，并沒沒有考慮慮證據(jù)為為假時(shí)對(duì)對(duì)結(jié)論H所產(chǎn)生生的影響響。1/15/202073IFE1THENH(CF(H,E1)IFE2THENH(CF(H,E2)3、多個(gè)個(gè)獨(dú)立證證據(jù)推出出同一假假設(shè)的合合成算法法先分別別求兩條條規(guī)則得得出的結(jié)結(jié)論的可可信度。CF1(H)=CF(H,E1)max0,CF(E1) CF2(H)=CF(H,E2)max0,CF(E2) 利用下下式求出出E1和E2對(duì)H的綜綜合影響響所形成成的CF1,2(H)。CF1(H)0,CF2(H)0：CF1,2(H)= CF1(H)+CF2(H)-C

16、F1(H)CF2(H)CF1(H)0,CF2(H)0：CF1,2(H)=CF1(H)+CF2(H)+CF1(H)CF2(H)CF1(H)和和CF2(H)異異號(hào)：CF1,2(H)= CF1(H)+CF2(H)1/15/202074在MYCIN系系統(tǒng)的基基礎(chǔ)上形形成的專專家系統(tǒng)統(tǒng)工具EMYCIN，將其修修改為：在組合兩兩個(gè)以上上的獨(dú)立立證據(jù)時(shí)時(shí)，可先先組合其其中兩個(gè)個(gè)，再將將結(jié)果與與第三個(gè)個(gè)證據(jù)組組合，如如此下去去，直到到組合完完畢為止止。當(dāng)CF1(H)0,CF2(H)0 時(shí)：CF1,2(H)= CF1(H)+CF2(H)-CF1(H)CF2(H)當(dāng)CF1(H)0,CF2(H)0：CF1,2(H)

17、=CF1(H)+CF2(H)+CF1(H)CF2(H)當(dāng)CF1(H) 和CF2(H)異異號(hào)時(shí)時(shí)：1/15/202075即：已知知規(guī)則IFE THENHCF(H,E)及CF(H)，求CF(H|E)4、在已已知結(jié)論論原始可可信度的的情況下下，結(jié)論論可信度度的更新新計(jì)算方方法這時(shí)分三三種情況況進(jìn)行討討論。1/15/202076CF(H)0,CF(H,E)0：CF(H|E)=CF(H)+CF(H,E)-CF(H,E)CF(H)CF(H)0,CF(H,E)0：CF(H|E)=CF(H)+CF(H,E)+CF(H,E)CF(H)CF(H)和和CF(H,E)異號(hào)號(hào)：當(dāng)CF(E)=1時(shí)時(shí)，即證證據(jù)肯定定出現(xiàn)時(shí)

18、時(shí)1/15/202077CF(H)0,CF(H,E)0：CF(H |E)=CF(H)+CF(H,E)CF(E)-CF(H)CF(H,E)CF(E)CF(H)0,CF(H,E)0：CF(H |E)=CF(H)+CF(H,E)CF(E)+CF(H)CF(H,E)CF(E)CF(H)和CF(H,E)異號(hào)：當(dāng)0CF(E)1時(shí)1/15/202078當(dāng)CF(E)0時(shí)在MYCIN系系統(tǒng)中就就規(guī)定，當(dāng)CF(E)0.2時(shí)時(shí)，規(guī)則則IFETHEN H不不可使用用。結(jié)論可信信度的合合成算法法和更新新算法本本質(zhì)上是是一致的的，但對(duì)對(duì)不同前前提條件件，使用用不同的的方法，解題的的效果或或難易程程度不同同。有些些題目使使

19、用合成成法求解解就比較較容易，而有些些題目就就需要使使用更新新法。規(guī)則不可可使用，對(duì)結(jié)論論H的可可信度無(wú)無(wú)影響。1/15/202079R1：IFA1THEN B1CF(B1,A1)=0.8R2：IFA2THENB1CF(B1,A2)=0.5R3：IFB1A3THENB2CF(B2,B1A3)=0.8并且已知知：CF(A1)=CF(A2)=CF(A3)=1而對(duì)B1，B2一無(wú)所知知。求CF(B1)和CF(B2)。三、可信信度方法法應(yīng)用舉舉例1、多條條知識(shí)下下，合成成法求結(jié)結(jié)論可信信度舉例例舉例11/15/202080解：由于于對(duì)B1，B2的初始可可信度一一無(wú)所知知，使用用合成算算法計(jì)算算A1B1R

20、1A2R2A3B2R3對(duì)知識(shí)識(shí)R1和R2，分別計(jì)計(jì)算CF(B1)CF1(B1)=CF(B1,A1)max0,CF(A1)=0.81=0.8CF2(B1)=CF(B1, A2)max0,CF(A2)=0.51=0.5利用合合成算法法計(jì)算B1的綜合可可信度CF1,2(B1)=CF1(B1)+CF2(B1)-CF1(B1)CF2(B1)=0.8+0.5-0.80.5=0.9計(jì)算B2的可信度度CF(B2)CF(B2)=CF(B2, B1A3)max0,CF(B1A3)=0.8max0,minCF(B1),CF(A3)=0.8max0,min0.9,1=0.8max0,0.9=0.80.9=0.721/

21、15/202081R1：IFE1THENHCF(H,E1)=0.8R2：IFE2THENHCF(H,E2)=0.6R3：IFE3THENHCF(H,E3)=0.5R4：IFE4( E5E6)THENE1CF(E1, E4( E5E6)=0.7R5：IFE7E8THENE3CF(E3, E7E8)=0.9在系統(tǒng)運(yùn)運(yùn)行中已已從用戶戶處得：CF(E2)=0.8，CF(E4)=0.5，CF(E5)=0.6，CF(E6)=0.7，CF(E7)=0.6，CF(E8)=0.9求：CF(H)舉例21/15/202082解：由已已知知識(shí)識(shí)建立推推理網(wǎng)絡(luò)絡(luò)如圖。E1HR1E2R2E3R3E4E5E6R4E8E7R

22、51/15/202083由R4：CF(E1)=CF(E1,E4(E5E6)max0,CF(E4(E5E6) )=0.7max0,minCF(E4),CF(E5E6)=0.7max0,minCF(E4),maxCF(E5),CF(E6) =0.7max0,minCF(E4),max0.6,0.7 =0.7max0,minCF(E4),0.7 =0.7max0,min0.5,0.7 =0.7max0,0.5=0.70.5=0.35由R5：CF(E3)=CF(E3, E7E8)max0,CF(E7E8) =0.9max0,minCF(E7),CF(E8) =0.9max0,min0.6,0.9=0.

23、9max0,0.6 =0.90.6=0.541/15/202084由R1：將R1和和R2兩兩條知識(shí)識(shí)合成：CF1,2(H)=CF1(H)+CF2(H)-CF1(H)CF2(H)=0.28+0.48-0.280.48=0.6256CF1(H)=CF(H,E1)max0,CF(E1) =0.8max0,0.35=0.80.35=0.28由R2：CF2(H)=CF(H,E2)max0,CF(E2) =0.6max0,0.8=0.60.8=0.48由R3：CF3(H)=CF(H,E3)max0,CF(E3) = -0.5max0,0.54=-0.50.54=-0.271/15/202085將CF1,2

24、(H)和和CF3(H)合合成1/15/202086規(guī)則可信信度為：2、多條條知識(shí)下下，更新新法求結(jié)結(jié)論可信信度舉例例證據(jù)可信信度為：CF(A)=CF(B)=CF(C)=CF(D)=0.5X,Y的的初始可可信度為為：CF0(X)=0.1,CF0(Y)=0.2要求用MYCIN的方方法計(jì)算算：結(jié)論X的的可信度度CF(X)結(jié)論Y的的可信度度CF(Y)R1：AXCF(X,A)=0.8R2：BXCF(X,B)=0.6R3：CXCF(X,C)=0.4R4：XDYCF(Y,XD)=0.3舉例31/15/202087解：考慮慮X,Y具有初初始可信信度，故故用更新新法計(jì)算算結(jié)論可可信度。先計(jì)算X的可信信度更新新值：CF(A)=CF(B)=CF(C)=CF(D)=0.51由R1：CF(X |A)CF0(X)+CF(X,A)CF(A)-CF0(X)CF(X,A)CF(A)=0.1+0.80.5-0.10.80.5=0.46由R2：CF(X |AB)= CF(X|A)+CF(X,B)CF(B)-CF(X|A)CF(X,B)CF(B)=0.46+0.60.5-0.460.60.5=0.6221/15/202088由R3：CF(X |ABC)=CF(X|AB) +CF(X,C)CF(C)CF(X