不精確推理技術(shù)

1、不確定推理技術(shù)不確定性v 不確定性(uncerbinly)是智能問(wèn)題的本質(zhì)特征，無(wú)論是人類(lèi)智能還是人工智能，都離不開(kāi)不確定性的處理。v可以說(shuō)，智能主要反映在求解不確定性問(wèn)題的能力上。因此，不確定推理模型是人工智能與專(zhuān)家系統(tǒng)的一個(gè)核心研究課題。v不確定性通常表現(xiàn)在證據(jù)、規(guī)則和推理三個(gè)方面證據(jù)的不確定性v歧義性（在知識(shí)獲取階段要避免）v不完全性v不精確性v模糊性v可信性v隨機(jī)性規(guī)則的不確定性v構(gòu)成前提條件的模式的不確定性v觀察證據(jù)的不確定性v組合證據(jù)的不確定性v規(guī)則自身的不確定性v規(guī)則結(jié)論的不確定性v搜索策略帶來(lái)的不確定性推理的不確定性v推理過(guò)程中要進(jìn)行不確定性的動(dòng)態(tài)積累和傳播的計(jì)算，得出結(jié)果的不

2、確定性v不確定推理網(wǎng)絡(luò)可以分解為三種基本模式推理的不確定性v證據(jù)邏輯組合模式F證據(jù)的合取：求e1e2 en的不確定度： MU=f(MU1,MU2,MUn)F證據(jù)的析?。呵骵1e2 en的不確定度： MU=g(MU1,MU2,MUn)F證據(jù)的否定：求ei的不確定度：MU=nMU(MUi)推理的不確定性v并行規(guī)則模式： if ei then h, i=1,n 所有規(guī)則都滿(mǎn)時(shí)h 的不確定度：MU=pMU(MU1,MU2,MUn)v順序規(guī)則模式： if e then e; MU0 if e then h; Mu1 求：if e then h 的不確定度 MU=s(MU0,MU1)推理的不確定性v一旦給

3、定上述三種組合模式不確定性的計(jì)算方法，即可從觀察證據(jù)出發(fā)得到結(jié)論的不確定度v不確定性推理模型就是證據(jù)和規(guī)則的不確定性測(cè)度方法和組合計(jì)算模式主觀Bayes方法v 不確定性與概率有許多內(nèi)在的聯(lián)系，可將概率理論用作一種不確定性的處理工具v 現(xiàn)實(shí)世界中的不確定性是非常豐富的，要使用概率來(lái)描述專(zhuān)家系統(tǒng)中的不確定性，必須將概率的含義加以拓展v專(zhuān)家系統(tǒng)中，概率一般解釋為專(zhuān)家對(duì)證據(jù)和規(guī)則的主觀信任度（注意：這里不采取先驗(yàn)概率是上帝結(jié)定的、不可知的，只能逐步逼近的觀點(diǎn)），對(duì)概率推理起著支撐作用的是Bayes定理主觀Bayes方法v 1976年Duda等人在開(kāi)發(fā)PROSPECTOR的過(guò)程中，針對(duì)專(zhuān)家系統(tǒng)推理網(wǎng)絡(luò)的

4、特點(diǎn)，對(duì)主觀Bayes 法做了重要的改進(jìn)。該方法及其變種在專(zhuān)家系統(tǒng)領(lǐng)域中得到了廣泛的應(yīng)用v 在專(zhuān)家系統(tǒng)的概率推理模型中證據(jù)e的不確定性為e發(fā)生的概率P(e)；產(chǎn)生式規(guī)則 “if e then h” 的不確定性通常解釋為在事件e(證據(jù))已經(jīng)發(fā)生的情況下，事件h(假設(shè))發(fā)生的概率P(h|e)主觀Bayes方法v 貝葉斯方法用于專(zhuān)家系統(tǒng)不確定推理的一個(gè)原始條件是： 領(lǐng)域?qū)＜一蛑R(shí)工程師對(duì)每個(gè)命題(包括初始證據(jù)e及中間假設(shè)h)的先驗(yàn)概率P(e)和P(h)已經(jīng)預(yù)先賦值，同時(shí)，對(duì)于每一假設(shè)h及其相關(guān)證據(jù)e已經(jīng)給出h成立時(shí)，e出現(xiàn)的條件概率P(eI h)v 如果只使用一條規(guī)則進(jìn)行一步推理，則使用如下最簡(jiǎn)形式

5、的貝葉斯公式便可以從假設(shè)h的先驗(yàn)概率P(h)推得h的后驗(yàn)概率： )()()|()|(hphphepehp主觀Bayes方法v Bayes推理過(guò)程實(shí)質(zhì)上就是從證據(jù)出發(fā)，將每一步推理得到的結(jié)論的先驗(yàn)概率修改為條件概率的過(guò)程v主觀Bayes方法的兩個(gè)基本假設(shè)：1若一組證據(jù)e1，e2，en同時(shí)支持假設(shè)h則 對(duì)于h，h；證據(jù)之間相互獨(dú)立2當(dāng)一個(gè)證據(jù)e支持多個(gè)假設(shè)h1,h2,，hn時(shí)，假設(shè) hl,h2,hn之間互不相容主觀Bayes方法v 主觀Bayes方法的基本定理： 1)()(hphpiiehp1)|(iiiepehphp)()|()()()|(.).&|().&|().&(1

6、322121nnnnnnhphhphhhphhhphhhp主觀Bayes方法v 基于上述假設(shè)，我們可以得出主觀貝葉斯方法的證據(jù)邏輯組合規(guī)則、并行法則和順序法則的不確定性計(jì)算模式v證據(jù)邏輯組合定理： 設(shè)證據(jù)e1，e2，en相互獨(dú)立，則：主觀Bayes方法v 順序法則定理： 設(shè)e支持e,e支持h，且e，h相對(duì)于e，e相 互獨(dú)立,即: P(eh|e)=P(e|e)P(h|e) P(eh|e)=P(e|e)P(h|e) 則： P(h|e)=P(h|e)P(e|e)+P(h|e)P(e|e)主觀Bayes方法v 若領(lǐng)域?qū)＜覍?duì)證據(jù)和假設(shè)的賦值按先驗(yàn)概率P(e)、P(h)和條件概率P(e|h)給出，則在運(yùn)用

7、關(guān)于并行規(guī)則和順序規(guī)則的計(jì)算模式前，需要計(jì)算P(e|h)、P(h|e)和P(h|e)，它們可由如下公式得到:主觀Bayes方法v 幾率（似然比）：v 條件幾率：v幾率修正（充分性）因子：v有：主觀Bayes方法v 從條件幾率得到條件概率： )|(1)|()|(EHOEHOEHP主觀Bayes方法v必要性因子：還可以用LN(G|H)表示LS(G|H)，得到：v約束條件：vLS,LN0vLN1,則LS1, 反之亦然v若LS=1，則LN=1，反之亦然v滿(mǎn)足約束的前提下，LS、LN可以任意給定1.通過(guò)給定O(),LS,LN，則可以進(jìn)行較方便的貝葉斯推理主觀Bayes方法v LS和LN只用其一即可進(jìn)行推

8、理，在證據(jù)獨(dú)立的前提下，同時(shí)使用較為方便，有如下定理： 主觀Bayes方法v 例子：PROSPECTOR的推理模型v Duda等人關(guān)于PROSPECTOR的工作的指導(dǎo)思想是：以簡(jiǎn)單、實(shí)用、有效為目的，用經(jīng)驗(yàn)性模型改進(jìn)嚴(yán)格的貝葉斯理論在專(zhuān)家系統(tǒng)中的應(yīng)用v規(guī)則的不確定測(cè)度(或稱(chēng)規(guī)則強(qiáng)度)并沒(méi)有采用原始條件概率來(lái)加以刻劃，而是讓領(lǐng)域?qū)＜覟槊織l規(guī)則提供兩個(gè)量度，分別稱(chēng)為規(guī)則的充分性量度和必要性量度。vPROSPECTOR不確定推理過(guò)程，就是根據(jù)證據(jù)e的先驗(yàn)概率P(e)，利用規(guī)則的充分性量度和必要性量度，把假設(shè)h的先驗(yàn)概率P(h)更新為后驗(yàn)概率 P(h|e)和P(h|e)的過(guò)程PROSPECTOR的推理

9、模型v LS和LN的意義： (1)LS1，LNl，這時(shí)P(hIe)P(h)P(h|e)， 說(shuō)明證據(jù)e的存在增加了對(duì)h的信任度，而e不存 在則減少對(duì)h的信任度 (2)LSLN1，這時(shí)P(h|e)P(h)P(hIe)，說(shuō)明 e的存在與否對(duì)假設(shè)h不產(chǎn)生影響。 (3)LS1，LNl，這時(shí)P(hIe)P(h)P(h|e)，說(shuō)明e的存在減少了對(duì)h的主觀信任度，而e不存在則增加h的信任度PROSPECTOR的推理模型v 證據(jù)邏輯組合規(guī)則：v 并行法則：同主觀貝葉斯法則v順序法則：采用線(xiàn)性插值法 PROSPECTOR的推理模型v 計(jì)算公式：PROSPECTOR的推理模型v 由順序法則的分段插值公式可以看出，在

10、運(yùn)用它時(shí)必須知道P(ele)的大小關(guān)系。設(shè)e是原始證據(jù)，e表示用戶(hù)的觀察。在許多情況下、要求用戶(hù)確切地給出P(e|e)的值是不現(xiàn)實(shí)的，但是，給出P(eIe)與P(e)的相對(duì)關(guān)系還是有可能的 PROSPECTOR的推理模型v通過(guò)人機(jī)交互賦值的方法：由用戶(hù)給出證據(jù)信任度C(e|e)，-55的十一個(gè)整數(shù)值，正整數(shù)時(shí)肯定證據(jù)的出現(xiàn)，數(shù)越大肯定的程度越大，若C(eIe)5，則證據(jù)絕對(duì)肯定；負(fù)整數(shù)時(shí)，否定證據(jù)的出現(xiàn)負(fù)得越多否定的程度越多，若C(eIe)-5，則證據(jù)絕對(duì)被否定，即P(eIe)0;C(eIe)0，表示“無(wú)可奉告”，不改變證據(jù)的先驗(yàn)概率，即P(e|e)P(e)PROSPECTOR的推理模型v 計(jì)

11、算公式（CP公式）：PROSPECTOR的推理模型vBayes方法的局限性： I由于概率賦值的主觀性，領(lǐng)域?qū)＜宜o的概率值很難保證 一致。如可能會(huì)出現(xiàn)P(AIB)P(B)不等于P(BIA)P(A)的情況2使用貝葉斯定理的一個(gè)基本條件是所有假設(shè)不相交。在大 型專(zhuān)家系統(tǒng)中，將解空間嚴(yán)格地分解為不相容的子集通常 是不現(xiàn)實(shí)的。3不確定證據(jù)公式和并行規(guī)則模式中引入的條件獨(dú)立性假設(shè) 很難嚴(yán)格滿(mǎn)足4通過(guò)增加或刪除一個(gè)假設(shè)或規(guī)則來(lái)對(duì)系統(tǒng)進(jìn)行維護(hù)、求精 時(shí)，須計(jì)算所有事件發(fā)生的概率才能保證系統(tǒng)納協(xié)調(diào)一 致PROSPECTOR的推理模型vPROSCETOR的局限性： 1、PROSPECTOR系統(tǒng)對(duì)假設(shè)主觀信任度的

12、賦值采用概率，但是證據(jù)組合公式和插值公式并不符合概率的基本性質(zhì)，因而難以采用嚴(yán)格的概率論對(duì)PROPECTOR的推理結(jié)論給出評(píng)價(jià)。 2、采用概率作為不確定性測(cè)度時(shí)，一個(gè)最難解決的問(wèn)題是要保證專(zhuān)家對(duì)假設(shè)的先驗(yàn)概率和規(guī)則強(qiáng)度的賦值保持一致插值方法，仍然沒(méi)有徹底解決這一問(wèn)題。3同主觀貝葉斯方法一樣，PROSPECTOR系統(tǒng)的并行法則和順序法則都引入了相應(yīng)的獨(dú)立性條件，這些條件在實(shí)際運(yùn)用中很難得到滿(mǎn)足。證據(jù)理論模型vD-S證據(jù)理論是由Dempster和Shafer建立的一套數(shù)學(xué)理論，它是概率論的進(jìn)一步擴(kuò)充。v證據(jù)理論可以處理由不知道所引起的不確定性，采用信任函數(shù)而不是概率作為不確定性度量。通過(guò)對(duì)一些事件

13、的概率加以約束來(lái)建立信任函數(shù)，而不必說(shuō)明精確的難以獲得的概率。v在證據(jù)推理中，由于mass函數(shù)在構(gòu)造信任函數(shù)和似然函數(shù)時(shí)有著重要的作用，因此最關(guān)鍵的是mass函數(shù)的計(jì)算與合成。 證據(jù)理論模型v定義定義: mass函數(shù)： 設(shè)U為一有限集，U中的元素是互斥的，在U的冪集上定義一基本概率分配（BPA，Basic Probability Assignment）函數(shù)： ，滿(mǎn)足： ， 如對(duì)于 ，有 ，則稱(chēng)為m的焦點(diǎn)元素或核元素，而稱(chēng) 為m的核.1 , 02:Um 0m1UAAmUA 0Am ACAm0證據(jù)理論模型vmass函數(shù)是專(zhuān)家給出的一種評(píng)價(jià)，是憑經(jīng)驗(yàn)給出的一種主觀判斷，表示了在當(dāng)前證據(jù)下對(duì)假設(shè)成立的

14、一種信任程度。vmass函數(shù)與通常的概率分布函數(shù)有很大的差別，它的基本概率分配是定義在U的冪集上的，是從U的冪集到0，1的映射，因而其方法不同于Bayes方法。v基本概率分配滿(mǎn)足以下公理： 證據(jù)理論模型（1）（2）（3） v基本概率分配是松散的，因?yàn)椋海?） 可以不等于1（2） 并不意味著 （3） 與 之間沒(méi)有約束關(guān)系 0m 1UAAm 0AmUA2 UmBA BmAm AmcAm證據(jù)理論模型v定義定義:信任函數(shù)：設(shè)U為有限集，稱(chēng) 為信任函數(shù)，如果滿(mǎn)足以下條件：(1) ， (2)對(duì)于U中的任意子集 ，有v 1 , 02:UBel 0Bel 1UBelnAAA,21InIiIiIiniABelA

15、Bel, 2, 1111證據(jù)理論模型v信任函數(shù)和似然函數(shù)： ADDmAPl ADDmABel證據(jù)理論模型v信任函數(shù)和似然函數(shù)分別作為對(duì)假設(shè)信任程度的下限估計(jì)（悲觀估計(jì)）和上限估計(jì)（樂(lè)觀估計(jì)），并有關(guān)系： v可以用區(qū)間 來(lái)描述A的不確定性，下面對(duì)該區(qū)間的特殊值進(jìn)行語(yǔ)義解釋?zhuān)海?） ，表示A為真（2） ，表示A為假（3） ，表示對(duì)A一無(wú)所知。1)()(0APlABel)(),(APlABel 1 , 0)(),(APlABel0 , 0)(),(APlABel 1 , 1)(),(APlABel證據(jù)理論模型v在證據(jù)理論中，證據(jù)信息是以給定基本概率分配的形式給出的。v為了同時(shí)利用來(lái)自?xún)蓚€(gè)（或多個(gè)）相

16、互獨(dú)立的不同信息源的兩組證據(jù)，提高對(duì)事件判斷的可靠度，Dempster-Shafer組合公式提供對(duì)獨(dú)立的信息源所提供的證據(jù)的融合能力。v該規(guī)則是一種多信息體的組合法則，它定義了一個(gè)新的基本概率分配函數(shù) 21mm 證據(jù)理論模型vDempste-Shafer合成公式：設(shè)m1和m2為U上的兩個(gè)mass函數(shù)，則對(duì)及 為mass函數(shù)。其中： 0mAFEFmEmKAm)()(11)(21A1)()(21FEFmEmKFEFEFmEmFmEm0)()()()(12121證據(jù)理論模型v該定理可以擴(kuò)展至多個(gè)mass函數(shù)的情形，并滿(mǎn)足交換率和結(jié)合率 vDempste-Shafer合成公式有三種可能的情形：（1）0k1，意味著兩組證