不確定推理方法

1、2022-2-101第五章第五章 不確定性推理方法不確定性推理方法華北電力大學(xué)華北電力大學(xué) 計(jì)算機(jī)系計(jì)算機(jī)系 劉麗劉麗2022-2-10華北電力大學(xué)華北電力大學(xué)2主要內(nèi)容主要內(nèi)容什么是不確定性推理？為什么要采取不確定性推理？不確定性推理的理論依據(jù)是什么？不確定性推理有哪幾種主要方法？CF方法的推理主觀Bayes方法的推理2022-2-10華北電力大學(xué)華北電力大學(xué)3第五章第五章 不確定性推理方法不確定性推理方法 概述 概率論基礎(chǔ) 確定性方法 主觀Bayes方法2022-2-10華北電力大學(xué)華北電力大學(xué)4第五章第五章 不確定性推理方法不確定性推理方法 概述 概率論基礎(chǔ) 確定性方法 主觀Bayes方

2、法2022-2-10華北電力大學(xué)華北電力大學(xué)5概述概述 不確定性推理不確定性推理是指建立在不確定性知識(shí)和證據(jù)基是指建立在不確定性知識(shí)和證據(jù)基礎(chǔ)上的推理礎(chǔ)上的推理 不確定性推理產(chǎn)生的背景： 由于知識(shí)本身的不精確和不完全，采用標(biāo)準(zhǔn)邏輯意義下的推理方法難以達(dá)到解決問題的目的 對于一個(gè)智能系統(tǒng)來說，知識(shí)庫是其核心，知識(shí)庫中往往大量包含模糊性、隨機(jī)性、不可靠性或不知道等不確定性因素的知識(shí) 智能主要反映在求解不確定性問題的能力上 不確定推理是人工智能和專家系統(tǒng)的核心研究課題2022-2-10華北電力大學(xué)華北電力大學(xué)6概述概述 不確定性推理的主要問題： 不確定性描述 不確定性如何傳播2022-2-10華北電

3、力大學(xué)華北電力大學(xué)7概述概述 不確定性推理的研究發(fā)展： 概率論是解決不確定性問題的主要理論基礎(chǔ)之一 貝葉斯網(wǎng)絡(luò)方法受到多方面關(guān)注 DURA等人與1976年在PROSPECTOR基礎(chǔ)上給出了同屬概率推理的主觀貝葉斯方法 Shortliffe等人與1975年結(jié)合MYCIN系統(tǒng)建立了確定性理論 2022-2-10華北電力大學(xué)華北電力大學(xué)8概述概述 Dempster Shaferter同年也提出了證據(jù)理論 Zadeh提出可能性理論，1983年提出了模糊邏輯 這一系列的系統(tǒng)推進(jìn)了不確定性推理的研究發(fā)展2022-2-10華北電力大學(xué)華北電力大學(xué)9概述概述 總結(jié)總結(jié)： 不確定性推理實(shí)際上是一種從不確定的初始

4、證據(jù)出發(fā)，通過運(yùn)用不確定性知識(shí)，最終推出即保持一定不確定性，又合理或基本合理的結(jié)論的推理過程2022-2-10華北電力大學(xué)華北電力大學(xué)10概述概述不確定性不確定性 不精確思維并非專家的習(xí)慣或愛好所至，而是客觀現(xiàn)實(shí)的要求 很多原因?qū)е峦唤Y(jié)果 推理所需的信息不完備 背景知識(shí)不足 信息描述模糊 信息中含有噪聲 規(guī)劃是模糊的 推理能力不足 解題方案不唯一 以上其實(shí)是不確定性推理方法研究產(chǎn)生的原因在人類的知識(shí)和思維行為中，精確性只是相對的，不精確性才是絕對的。知識(shí)工程需要各種適應(yīng)不同類的不精確性特點(diǎn)的不精確性知識(shí)描述方法和推理方法。2022-2-10華北電力大學(xué)華北電力大學(xué)11概述概述不確定性不確定性

5、 不確定性產(chǎn)生的原因是多方面的，其表現(xiàn)形式多種多樣。其主要性質(zhì)有： 隨機(jī)性指由于不確定性推理所處理的事件的真實(shí)性是不完全肯定的，含有一定的可能性，只能給出一個(gè)估計(jì)值 模糊性主要指命題中出現(xiàn)的表達(dá)形式是不明確的 不完全性產(chǎn)生于信息的不充分、不全面 由于種種的不確定因素，及其在推理過程中的累計(jì)，導(dǎo)致了一些結(jié)論的不一致性 2022-2-10華北電力大學(xué)華北電力大學(xué)12概述概述不確定性不確定性 在不確定性推理中，規(guī)則前件、后件以及規(guī)則本身在某種程度上都是不確定的 證據(jù)的不確定性主要表現(xiàn)在歧義性、不完全性、不精確性、模糊性、可信性、隨機(jī)性和不一致性上 歧義性：證據(jù)中含有多種意義明顯不同的解釋，如果離開具

6、體的上下文和環(huán)境，往往難以判斷其明確含義 不完全性：對于某事物來說，對于它的知識(shí)還不全面、不完整、不充分2022-2-10華北電力大學(xué)華北電力大學(xué)13概述概述不確定性不確定性 不精確性：證據(jù)的觀測值與真實(shí)值存在一定的差別 模糊性：命題中的詞語從概念上講不明確，無明確的內(nèi)涵和外延 可信性：專家主觀上對證據(jù)可靠性不能完全確定 隨機(jī)性：命題的事實(shí)的真假性不能完全肯定，而只能對其真?zhèn)谓o出一個(gè)估計(jì) 不一致性：在推理過程中發(fā)生了前后不相容的結(jié)論，或者隨著時(shí)間的推移或范圍的擴(kuò)大，原來成立的命題變得不成立了2022-2-10華北電力大學(xué)華北電力大學(xué)14概述概述不確定性不確定性 規(guī)則一般是經(jīng)驗(yàn)知識(shí)，存在著不確定

7、性因素 不確定性因素主要有證據(jù)的組合的不確定性、規(guī)則自身的不確定性以及規(guī)則結(jié)論的不確定性 證據(jù)的組合的不確定性：一些規(guī)則有若干證據(jù)作為前提條件，或幾個(gè)證據(jù)都可以激活某一規(guī)則。此時(shí)，組合起來的證據(jù)到底有多大程度符合前提條件，其中包含某些不確定的主觀度量2022-2-10華北電力大學(xué)華北電力大學(xué)15概述概述不確定性不確定性 規(guī)則自身的不確定性：有時(shí)領(lǐng)域?qū)＜覍σ?guī)則持有某種信任程度，即專家有時(shí)也沒有十足把握某種前提下得到結(jié)果必為真的結(jié)論，只能給出一個(gè)發(fā)生可能性及可能性的度量 規(guī)則結(jié)論的不確定性：包含各種不確定性的前提條件，運(yùn)用不確定的規(guī)則，引出的結(jié)論或動(dòng)作不可避免的含有不確定性因素2022-2-10華

8、北電力大學(xué)華北電力大學(xué)16概述概述不確定性不確定性 從系統(tǒng)高層看，規(guī)則的不確定性還源于各個(gè)規(guī)則之間的沖突，來源于單個(gè)規(guī)則、規(guī)則間的沖突消解和規(guī)則后件的不相容 知識(shí)工程的目的就是要盡可能減少或消減這些不確定性 P161 圖5.1-單個(gè)規(guī)則產(chǎn)生不確定性的原因2022-2-10華北電力大學(xué)華北電力大學(xué)17規(guī)則前件后件誤差證據(jù)組合參數(shù)誤差參數(shù)單個(gè)規(guī)則產(chǎn)生不確定性的原因單個(gè)規(guī)則產(chǎn)生不確定性的原因參數(shù)：描述不確定性的參數(shù)，其設(shè)定來自專家經(jīng)驗(yàn)，有誤差2022-2-10華北電力大學(xué)華北電力大學(xué)18概述概述不確定性不確定性 推理的不確定性是由于知識(shí)不確定性的動(dòng)態(tài)累計(jì)和傳播過程所造成的 為此，整個(gè)過程要通過某種不

9、確定度量，尋找盡可能符合客觀世界的計(jì)算，最終得到結(jié)論的不確定性度量2022-2-10華北電力大學(xué)華北電力大學(xué)19概述概述-不確定性推理的基本問題不確定性推理的基本問題 在不確定性推理中，除了解決在確定性推理過程中所提到的推理方向、推理方法、控制策略推理方向、推理方法、控制策略等基本問題等基本問題外，一般還需要解決不確定性的表示與度量、不確定性的匹配、不確定性的傳遞算法以及不確定性的合成等問題 將不確定性問題用確定的數(shù)學(xué)公式表示出來，是不確定性推理研究的基礎(chǔ)不確定性推理研究的基礎(chǔ)2022-2-10華北電力大學(xué)華北電力大學(xué)20概述概述-不確定性推理的基本問題不確定性推理的基本問題(1)不確定性的表

10、示不確定性的表示 不確定性包括證據(jù)的不確定性和知識(shí)的不確定性，它們都求有相應(yīng)的表示方法 證據(jù)通常有兩類 初始事實(shí) 醫(yī)療診斷中的癥狀、化驗(yàn)結(jié)果等數(shù)據(jù) 來源于觀察，具有不確定性 推理過程中產(chǎn)生的中間結(jié)果，因?yàn)槌跏际聦?shí)具有不確定性，推理中所使用的知識(shí)也具有不確定性，所以推出的中間結(jié)果同樣帶有不確定性 證據(jù)的不確定性用C(E)表示 在規(guī)則中，E是規(guī)則的前提即證據(jù)，H是該規(guī)則的結(jié)論，也可以是其它規(guī)則的證據(jù) 規(guī)則的不確定性用一個(gè)數(shù)值f(E，H)表示，稱為規(guī)則強(qiáng)度2022-2-10華北電力大學(xué)華北電力大學(xué)21概述概述-不確定性推理的基本問題不確定性推理的基本問題(1)不確定性的表示不確定性的表示 在進(jìn)行不確

11、定性的表示時(shí)，還需考慮不確定性的量度和數(shù)值的取值范圍 如C(E)和f(E,H)的取值范圍為多大，只有這樣每個(gè)數(shù)據(jù)才會(huì)有確定的意義 量度要能充分表達(dá)相應(yīng)的知識(shí)和證據(jù)的不確定性程度 量度范圍的指定應(yīng)便于領(lǐng)域?qū)＜壹坝脩魧Σ淮_定性的估計(jì) 量度要便于對不確定性的更新進(jìn)行計(jì)算，而且對結(jié)論算出的不確定性量度不能超出量度規(guī)定的范圍 量度的確定應(yīng)當(dāng)是直觀的，同時(shí)應(yīng)有相應(yīng)的理論依據(jù)2022-2-10華北電力大學(xué)華北電力大學(xué)22概述概述-不確定性推理的基本問題不確定性推理的基本問題(2)不確定性的匹配算法不確定性的匹配算法 推理中，為了找到所需的知識(shí)，需要用知識(shí)的前提條件與已知證據(jù)進(jìn)行匹配匹配，只有匹配成功的知識(shí)才

12、有可能被應(yīng)用 在確定性推理中，知識(shí)是否匹配成功很容易確定的 在不精確推理中，由于知識(shí)和證據(jù)都具有不確定性，而且知識(shí)所要求的不確定性程度與證據(jù)實(shí)際具有的不確定性程度不一定相同，因而就出現(xiàn)了“怎樣才算怎樣才算匹配成功？匹配成功？”的問題 2022-2-10華北電力大學(xué)華北電力大學(xué)23概述概述-不確定性推理的基本問題不確定性推理的基本問題(2)不確定性的匹配算法不確定性的匹配算法 對怎樣才算匹配成功？怎樣才算匹配成功？，常用的解決方法： 設(shè)計(jì)一個(gè)算法用來計(jì)算匹配雙方相似的程度，另外再指定一個(gè)相似的限度，用來衡量匹配雙方相似的程度是否落在指定的限度內(nèi)。如果落在指定的限度內(nèi)，就稱它們是可匹配的，相應(yīng)的知

13、識(shí)可被應(yīng)用，否則就稱它們是不可匹配的，相應(yīng)的知識(shí)不可應(yīng)用 用來計(jì)算匹配雙方相似程度的算法稱為不確定性匹配算法，用來指出相似的限度稱為閾值 2022-2-10華北電力大學(xué)華北電力大學(xué)24概述概述-不確定性推理的基本問題不確定性推理的基本問題(3)不確定性的更新算法不確定性的更新算法 不精確推理的根本目的是根據(jù)用戶提供的初始證據(jù)，通過運(yùn)用不確定性知識(shí)，最終推出不確定性的結(jié)論，并推算出結(jié)論為確定性的程度 不確定性的更新問題在推理過程中2022-2-10華北電力大學(xué)華北電力大學(xué)25概述概述-不確定性推理的基本問題不確定性推理的基本問題 3方面問題 表示問題:如何描述不確定性 計(jì)算問題：不確定性的傳播和

14、更新 語義問題：如何解釋表示和計(jì)算的含義2022-2-10華北電力大學(xué)華北電力大學(xué)26概述概述-不確定性推理的基本問題不確定性推理的基本問題 表示問題： 指用什么方法描述不確定性，是解決不確定推理的關(guān)鍵一步 通常的方法有： 數(shù)值表示方法，如CH(A) 非數(shù)值表示的語義表示方法，如“很可能”2022-2-10華北電力大學(xué)華北電力大學(xué)27概述概述-不確定性推理的基本問題不確定性推理的基本問題計(jì)算問題： 不確定性的傳播和更新。也是獲取新信息的過程 如：q 已知證據(jù)A的不確定性度量P(A),規(guī)則AB,規(guī)則的可信度度量P(B，A)，如何計(jì)算結(jié)論的可信度度量P(B)q 從一個(gè)規(guī)則得到A的可信度度量P1(A

15、)，又從另一個(gè)規(guī)則得到A的另一個(gè)可信度度量 P2(A)，如何從兩個(gè)規(guī)則合成最終的可信度度量P(A)1. 如何由P(A1)、 P(A2)來計(jì)算P(A1A2),P(A1A2) 2022-2-10華北電力大學(xué)華北電力大學(xué)28不確定性推理例子不確定性推理例子 初始命題的不確定性度量的獲得也是非常重要的，一般由領(lǐng)域內(nèi)的專家從經(jīng)驗(yàn)得出 推理過程可以用推理樹直觀的表示出來。例如，對于如下的推理過程：R1：A1A2B1R2：A2A3B2R3：B1BR4：B2B 用推理樹可以表示如下：2022-2-10華北電力大學(xué)華北電力大學(xué)29推理樹結(jié)果圖推理樹結(jié)果圖最下層的是初始證據(jù)經(jīng)過一些“與”和“或”的組合，形成推理中

16、的臨時(shí)證據(jù)，由這些臨時(shí)證據(jù)推導(dǎo)出最終的結(jié)論Ri所表示的是推理弧上所使用的規(guī)則，fi表示證據(jù)或規(guī)則的不確定度量值2022-2-10華北電力大學(xué)華北電力大學(xué)30概述概述-不確定性推理的基本問題不確定性推理的基本問題 語義問題：將各個(gè)公式解釋清楚。如何解釋表示和計(jì)算的含義，目前多用概率方法。如： P(B，A)可理解為當(dāng)前提A為真時(shí)結(jié)論B為真的一種影響程度 P(A)可理解為A為真的程度 對于規(guī)則，特別關(guān)心P(B，A)的特殊值的意義：1）A(T) B(T), P(B，A)=?2）A(T) B(F), P(B，A)=?3）B 獨(dú)立于A，P(B，A)=?2022-2-10華北電力大學(xué)華北電力大學(xué)31概述概述

17、-不確定性推理的基本問題不確定性推理的基本問題 對證據(jù)的可信度度量P(A)關(guān)心的也是一些特殊狀態(tài)下的意義：1）A為TRUE，P(A)？2）A為FALSE, P(A)？ T：True，F(xiàn)：False2022-2-10華北電力大學(xué)華北電力大學(xué)32概述概述-不確定性推理的基本問題不確定性推理的基本問題 總結(jié)： 任何一個(gè)AI系統(tǒng)中，都必須較好的解決這三個(gè)問題 表示問題解決如何表示知識(shí)，以便于計(jì)算和推理 計(jì)算問題是在一定的知識(shí)表示方式下進(jìn)行數(shù)學(xué)運(yùn)算 上述的兩個(gè)步驟都必須有合理的語義解釋，也即表示、計(jì)算推理所代表的知識(shí)含義2022-2-10華北電力大學(xué)華北電力大學(xué)33概述概述-分類（分類（1 1） 不確定

18、性推理方法可分為形式化方法和非形式化方法 形式化方法有 邏輯法：邏輯法是非數(shù)值方法，采用多值邏輯和非單調(diào)邏輯來處理不確定性。傳統(tǒng)的有基于概率理論的貝葉斯網(wǎng)絡(luò)等 新計(jì)算法：新計(jì)算法認(rèn)為概率法不足以描述不確定性，從而出現(xiàn)了證據(jù)理論（也叫DempsterShafter， D-S方法），確定性方法（CF法）以及模糊邏輯方法 新概率法：試圖在傳統(tǒng)的概率論框架內(nèi)，采用新的計(jì)算方法以適應(yīng)不確定性描述 非形式化方法是指啟發(fā)性方法，對不確定性沒有給出明確的概念2022-2-10華北電力大學(xué)華北電力大學(xué)34概述概述-分類（分類（2 2） 另外一種觀點(diǎn)，把不確定推理方法分為工程方法、控制方法和并行確定性法 工程法是

19、將問題簡化為忽略哪些不確定性因素 控制法是利用控制策略來消除不確定性的影響，如啟發(fā)式的搜索方法 并行確定性法是把不確定性的推理分解為兩個(gè)相對獨(dú)立的過程：一個(gè)過程不計(jì)不確定性采用標(biāo)準(zhǔn)邏輯進(jìn)行推理；另一過程是對第一個(gè)過程的結(jié)論加以不確定性的度量。前一過程決定信任什么，后一過程決定對它的信任程度2022-2-10華北電力大學(xué)華北電力大學(xué)35第五章第五章 不確定性推理方法不確定性推理方法 概述 概率論基礎(chǔ) 確定性方法 主觀Bayes方法2022-2-10華北電力大學(xué)華北電力大學(xué)36第五章第五章 不確定性推理方法不確定性推理方法 概述 概率論基礎(chǔ) 確定性方法 主觀Bayes方法2022-2-10華北電力

20、大學(xué)華北電力大學(xué)37概率論基礎(chǔ)概率論基礎(chǔ) 概率論研究隨機(jī)現(xiàn)象中數(shù)量規(guī)律的科學(xué) 隨機(jī)現(xiàn)象在相同的條件下重復(fù)進(jìn)行某種實(shí)驗(yàn)時(shí)，所得實(shí)驗(yàn)結(jié)果不一定完全相同且不可預(yù)知的現(xiàn)象。擲硬幣的實(shí)驗(yàn) 人工智能所討論的不確定性現(xiàn)象，雖然不完全是隨機(jī)的過程，但是實(shí)踐證明，采用概率論的思想方法考慮能夠得到較好的結(jié)果 概率論的基本概念和貝葉斯定 2022-2-10華北電力大學(xué)華北電力大學(xué)38概率論基礎(chǔ)概率論基礎(chǔ)（基本定義）（基本定義） 隨機(jī)實(shí)驗(yàn)隨機(jī)實(shí)驗(yàn)：隨機(jī)實(shí)驗(yàn)是一個(gè)可觀察結(jié)果的人工或自然的過程，其產(chǎn)生的結(jié)果可能不止一個(gè)，且不能事先確定會(huì)產(chǎn)生什么結(jié)果 樣本空間樣本空間：樣本空間是一個(gè)隨機(jī)實(shí)驗(yàn)的全部可能出現(xiàn)的結(jié)果的集合，通常

21、記作，中的點(diǎn)（即一個(gè)可能出現(xiàn)的實(shí)驗(yàn)結(jié)果）稱為樣本點(diǎn)，通常記作 隨機(jī)事件隨機(jī)事件：隨機(jī)事件是一個(gè)隨機(jī)實(shí)驗(yàn)的一些可能結(jié)果的集合，是樣本空間的一個(gè)子集。常用大寫字母A,B,C,表示2022-2-10華北電力大學(xué)華北電力大學(xué)39概率論基礎(chǔ)概率論基礎(chǔ)（事件間的關(guān)系與運(yùn)算事件間的關(guān)系與運(yùn)算 ） 兩個(gè)事件A與B可能有以下幾種特殊關(guān)系： 包含包含：若事件B發(fā)生則事件A也發(fā)生，稱“A包含B”，或“B包含于A”，記作A B或B A 等價(jià)等價(jià)：若A B且B A，即A與B同時(shí)發(fā)生或同時(shí)不發(fā)生，則稱A與B等價(jià)，記作A=B 互斥互斥：若A與B不能同時(shí)發(fā)生，則稱A與B互斥，記作AB= 對立對立：若A與B互斥，且必有一個(gè)發(fā)生

22、，則稱A與B對立，記作A=B或B=A，又稱A為B的余事件余事件，或B為A的余事件余事件 任意兩個(gè)事件不一定會(huì)是上述幾種關(guān)系中的一種任意兩個(gè)事件不一定會(huì)是上述幾種關(guān)系中的一種2022-2-10華北電力大學(xué)華北電力大學(xué)40概率論基礎(chǔ)概率論基礎(chǔ)（事件間的關(guān)系與運(yùn)算事件間的關(guān)系與運(yùn)算 ） 設(shè)A，B，A1，A2，An為一些事件，它們有下述的運(yùn)算： 交交：記C=“A與B同時(shí)發(fā)生”，稱為事件A與B的交，C=|A且B，記作C=AB或C=AB 并并：記C=“A與B中至少有一個(gè)發(fā)生”，稱為事件A與B的并，C=|A或B，記作C=AB 差差：記C=“A發(fā)生而B不發(fā)生”，稱為事件A與B的差，C=|A但 B，記作或C=A

23、B或 C=A-B 求余求余：A= A2022-2-10華北電力大學(xué)華北電力大學(xué)41概率論基礎(chǔ)概率論基礎(chǔ)（運(yùn)算的性質(zhì)運(yùn)算的性質(zhì) ） 事件的運(yùn)算有以下幾種性質(zhì)： 交換率： 結(jié)合律： 分配律： 摩根率： 事件計(jì)算的優(yōu)先順序?yàn)椋呵笥?，交，差和并ABBABAAB )()(CBACBA)()(BCACAB)()()(BCACCBA)()(CBCACABiniiniAA)(11 iniiniAA)(11 2022-2-10華北電力大學(xué)華北電力大學(xué)42概率論基礎(chǔ)概率論基礎(chǔ)（概率定義概率定義 ）定義：定義：設(shè)為一個(gè)隨機(jī)實(shí)驗(yàn)的樣本空間，對上的任意事件A，規(guī)定一個(gè)實(shí)數(shù)與之對應(yīng)，記為P(A)，滿足以下三條基本性質(zhì)，稱

24、為事件A發(fā)生的概率：q q q 若二事件AB互斥，即AB= ，則1. 以上三條基本規(guī)定是符合常識(shí)的1)(0AP1)(P0)(P)()()(BPAPBAP2022-2-10華北電力大學(xué)華北電力大學(xué)43概率論基礎(chǔ)概率論基礎(chǔ)（概率性質(zhì)概率性質(zhì) ） 定義定義： 設(shè)An, n=1, 2, 為一組有限或可列無窮多個(gè)事件，兩兩不相交，且 ，則稱事件族An, n=1, 2, 為樣本空間的一個(gè)完備完備事件族事件族 又若對任意事件B有BAn=An或, n=1, 2, ，則稱An, n=1, 2, 為基本事件族基本事件族nnA2022-2-10華北電力大學(xué)華北電力大學(xué)44概率論基礎(chǔ)概率論基礎(chǔ)（概率性質(zhì)概率性質(zhì) ）

25、完備事件族與基本事件族有如下的性質(zhì)： 定理： 若An, n=1, 2, 為一完備事件族，則 ，且對于一事件B有 又若An, n=1, 2, 為一基本事件族，則1)(nnAPnnBAPBP)()(BAnnAPBP)()(2022-2-10華北電力大學(xué)華北電力大學(xué)45概率論基礎(chǔ)概率論基礎(chǔ)（統(tǒng)計(jì)（統(tǒng)計(jì)概率性質(zhì)概率性質(zhì) ） 統(tǒng)計(jì)概率也稱古典概率，是通過對某一事件出現(xiàn)的頻率定義的。統(tǒng)計(jì)概率具有以下性質(zhì)： 對任意事件A，有 必然事件的概率P() =1，不可能事件的概率P() = 0 對任意事件A，有 設(shè)事件A1，A2，An（kn）是兩兩互不相容的事件，則 設(shè)A，B是兩事件，則1)(0AP)(1)(APAP

26、)(.)()()(211kikiAPAPAPAP)()()()(BAPBPAPBAP2022-2-10華北電力大學(xué)華北電力大學(xué)46概率論基礎(chǔ)概率論基礎(chǔ)（條件（條件概率概率 ） 定義定義：設(shè)A，B為事件且P(A)0，稱 為事件A已發(fā)生的條件下，事件B的條件概率條件概率，P(A)在概率推理中稱為邊緣概率邊緣概率 簡稱P(B|A)為給定A時(shí)B發(fā)生的概率。P(AB)稱為A與B的聯(lián)合概率。有聯(lián)合概率公式：)()()|(APABPABP)()|()(APABPABP2022-2-10華北電力大學(xué)華北電力大學(xué)47概率論基礎(chǔ)概率論基礎(chǔ)（條件（條件概率性質(zhì)概率性質(zhì) ） ， 若 ，則 乘法公式： 全 概 率 公

27、式 ： 設(shè) A1， A2， An互 不 相交， ，且 ，則對于任意事件A有1)|(0ABP1)|( AP21BB)|()|()|(2121ABPABPABBP)|()()(ABPAPABP).|().|()|()().(12121312121nnnAAAAPAAAPAAPAPAAAPiiAniAPi,.,2 , 1, 0)(iiiAAPAPAP)|()()( | )0PA2022-2-10華北電力大學(xué)華北電力大學(xué)48概率論基礎(chǔ)概率論基礎(chǔ)（貝葉斯定理貝葉斯定理 ） 設(shè)A，B1，B2，Bn為一些事件，P(A)0，B1，B2，Bn互不相交，P(Bi)0, i=1, 2, , n，且 ，則對于k=1,

28、 2, , n， 貝葉斯公式容易由條件概率的定義、乘法公式和全概率公式得到 在貝葉斯公式中，P(Bi), i=1, 2, , n稱為先驗(yàn)概率，而P(Bi|A) i=1, 2, , n稱為后驗(yàn)概率也是條件概率1)(iiBPiiikkkBAPBPBAPBPABP)|()()|()()|(2022-2-10華北電力大學(xué)華北電力大學(xué)49第五章第五章 不確定性推理方法不確定性推理方法 概述 概率論基礎(chǔ) 確定性方法 主觀Bayes方法2022-2-10華北電力大學(xué)華北電力大學(xué)50第五章第五章 不確定性推理方法不確定性推理方法 概述 概率論基礎(chǔ) 確定性方法 主觀Bayes方法2022-2-10華北電力大學(xué)華

29、北電力大學(xué)51確定性方法確定性方法（可信度方法可信度方法） MYCIN系統(tǒng)研制過程中產(chǎn)生的不確定推理方法,第一個(gè)采用了不確定推理邏輯，70年代很有名 這個(gè)系統(tǒng)提出該方法時(shí)遵循了以下原則： 不采用嚴(yán)格的統(tǒng)計(jì)理論。使用的是一種接近統(tǒng)計(jì)理論的近似方法 用專家的經(jīng)驗(yàn)估計(jì)代替統(tǒng)計(jì)數(shù)據(jù) 盡量減少需要專家提供的經(jīng)驗(yàn)數(shù)據(jù)，盡量使少量數(shù)據(jù)包含多種信息 新方法應(yīng)適用于證據(jù)為增量式地增加的情況 專家數(shù)據(jù)的輕微擾動(dòng)不影響最終的推理結(jié)論2022-2-10華北電力大學(xué)華北電力大學(xué)52 理論基礎(chǔ) 以定量法為工具，比較法為原則的相對確認(rèn)理論 采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個(gè)最可信結(jié)論及其可信度，而是給出可信

30、度較高的前幾位，供人們比較選用 規(guī)則 規(guī)則的不確定性度量 證據(jù)（前提）的不確定性度量 推理計(jì)算確定性方法確定性方法2022-2-10華北電力大學(xué)華北電力大學(xué)53 理論基礎(chǔ) 以定量法為工具，比較法為原則的相對確認(rèn)理論 采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個(gè)最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用 規(guī)則 規(guī)則的不確定性度量 證據(jù)（前提）的不確定性度量。 推理計(jì)算確定性方法確定性方法2022-2-10華北電力大學(xué)華北電力大學(xué)54 規(guī)則規(guī)則 ( (規(guī)則的不確定性度量）規(guī)則的不確定性度量） 在邏輯推理過程中，常常以A B表示規(guī)則。其中A表示前提，可以是一些命題的析取或

31、和取；B表示結(jié)論或推論，是在前提A下的直接邏輯結(jié)果 在精確邏輯推理中，通常只有真假的描述：若A真，則B也必為真 在不確定推理過程中，通常要考慮的是A為真時(shí)對B為真的支持程度，甚至還考慮A為假（不發(fā)生）時(shí)對B為真的支持程度 在MYCIN系統(tǒng)中，考慮的是A發(fā)生的前提下對B的不支持程度，為此，引入規(guī)則的不確定性度量 2022-2-10華北電力大學(xué)華北電力大學(xué)55 規(guī)則規(guī)則 ( (規(guī)則的不確定性度量）規(guī)則的不確定性度量） 在MYCIN系統(tǒng)中，最初確定性因子定義為信任與不信任二者之差，有規(guī)則AB，其可信度CF(B,A)定義為 CF(B,A)=MB(B,A)-MD(B,A) CF是由證據(jù)A得到假設(shè)B的確定

32、性因子 MB是由證據(jù)A得到假設(shè)B的信任增加度量 MD是由證據(jù)A得到假設(shè)B的不信任增加度量 確定性因子把信任與不信任組合到了一起 對MB和MD又有相關(guān)的定義。見書P191 根據(jù)CF定義，重寫得到確定性因子的概率表示形式2022-2-10華北電力大學(xué)華北電力大學(xué)56 規(guī)則規(guī)則 ( (規(guī)則的不確定性度量）規(guī)則的不確定性度量） 規(guī)則 A B，可信度表示為CF(B, A)P(B)A)|P(B , P(B)P(B)-A)|P(BP(B)A)|P(B , P(B)1P(B)-A)|P(BA) CF(B,當(dāng)當(dāng)2022-2-10華北電力大學(xué)華北電力大學(xué)57 規(guī)則規(guī)則 ( (規(guī)則的不確定性度量）規(guī)則的不確定性度量

33、） CF(B, A)表示的意義：證據(jù)為真時(shí) 相對于P(B) = 1 - P(B)來說，A對B為真的支持程度。即A發(fā)生更支持B發(fā)生， 此時(shí) CF(B, A) 0 相對于P(B)來說，A對B為真的不支持程度。即A發(fā)生不支持B發(fā)生， 此時(shí) CF(B, A) 0 結(jié)論 -1 CF(B, A) 1P(B)A)|P(B , P(B)P(B)-A)|P(BP(B)A)|P(B , P(B)1P(B)-A)|P(BA) CF(B,當(dāng)當(dāng)2022-2-10華北電力大學(xué)華北電力大學(xué)58規(guī)則規(guī)則 ( (規(guī)則的不確定性度量）規(guī)則的不確定性度量） CF(B, A)的特殊值： CF(B, A) = 1，前提真，結(jié)論必真 C

34、F(B, A) = -1，前提真，結(jié)論必假 CF(B, A) = 0 ，前提真假與結(jié)論無關(guān) 實(shí)際應(yīng)用中CF(B, A)的值由專家確定，并不是由P(B|A), P(B)計(jì)算得到的2022-2-10華北電力大學(xué)華北電力大學(xué)59 理論基礎(chǔ) 以定量法為工具，比較法為原則的相對確認(rèn)理論 采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個(gè)最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用 規(guī)則 規(guī)則的不確定性度量 證據(jù)（前提）的不確定性度量。 推理計(jì)算確定性方法確定性方法2022-2-10華北電力大學(xué)華北電力大學(xué)60規(guī)則規(guī)則 ( (證據(jù)的不確定性度量）證據(jù)的不確定性度量） 在精確的邏輯推理過

35、程中，前提要么為真，要么為假，不允許不真不假的情況出現(xiàn) 但是在很多不確定性推理問題中，前提或證據(jù)本身是不確定的，介于完全的真和完全的假之間。為了描述這種不確定性的程度，引入了證據(jù)的可信度 證據(jù)A的可信度用CF(A)來表示2022-2-10華北電力大學(xué)華北電力大學(xué)61規(guī)則規(guī)則 ( (證據(jù)的不確定性度量）證據(jù)的不確定性度量） 證據(jù)A的可信度表示為CF( A)，-1 CF( A) 1 特殊值：CF( A) = 1， 前提肯定真 CF(A) = -1， 前提肯定假CF(A) = 0， 對前提一無所知 CF( A) 0， 表示A以CF( A)程度為真CF( A) 0， 表示A以CF( A)程度為假 實(shí)際

36、使用時(shí) 初始證據(jù)的CF值由專家根據(jù)經(jīng)驗(yàn)提供 其它證據(jù)的CF通過規(guī)則進(jìn)行推理計(jì)算得到2022-2-10華北電力大學(xué)華北電力大學(xué)62 理論基礎(chǔ) 以定量法為工具，比較法為原則的相對確認(rèn)理論 采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個(gè)最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用 規(guī)則 規(guī)則的不確定性度量 證據(jù)（前提）的不確定性度量 推理計(jì)算確定性方法確定性方法2022-2-10華北電力大學(xué)華北電力大學(xué)63規(guī)則規(guī)則 ( (推理計(jì)算推理計(jì)算 1 1） 在推理過程中，可能計(jì)算： 原始證據(jù)的與、或、非 多條規(guī)則的使用對計(jì)算結(jié)果的綜合影響 關(guān)鍵問題: 在已知規(guī)則和原始證據(jù)的可信度度量

37、的情況下，如何計(jì)算新的組合證據(jù)或規(guī)則的不確定性 在不確定性的傳播與更新中，必須解決： 證據(jù)的與、或、非的不確定性計(jì)算問題 多條規(guī)則使用后的組合不確定性計(jì)算問題2022-2-10華北電力大學(xué)華北電力大學(xué)64規(guī)則規(guī)則 ( (推理計(jì)算推理計(jì)算 1 1） “與”的計(jì)算： A1 A2 BCF(A1 A2 ) = min CF(A1), CF(A2 ) “或”的計(jì)算： A1 A2 BCF(A1 A2 ) = max CF(A1), CF(A2 ) “非”的計(jì)算：CF(A ) = -CF(A ) 由A， A B，求 B： CF(B) = max0,CF(A )CF(B,A ) (CF(A ) 0 時(shí)可以不算

38、即為“0”)2022-2-10華北電力大學(xué)華北電力大學(xué)65規(guī)則規(guī)則 ( (推理計(jì)算推理計(jì)算 2 2） 合成，由兩條規(guī)則求出再合并： 由CF1(B)、 CF2(B)，求 CF(B) 符號(hào)不同與當(dāng)當(dāng) 當(dāng)(B)CF(B)CF (B)CF(B)CF0(B)CF0(B)CF (B)CF (B)CF(B)CF(B)CF0(B)CF0(B)CF (B)CF (B)CF-(B)CF(B)CFCF(B)2121212121212121，2022-2-10華北電力大學(xué)華北電力大學(xué)66規(guī)則規(guī)則 ( (推理計(jì)算推理計(jì)算 2 2） 注意：以上公式不滿足組合交換性，即，如果有n個(gè)證據(jù)同時(shí)作用于一個(gè)假設(shè)，設(shè)A1、A2、An

39、為證據(jù)通過規(guī)則R1、R2、Rn作用于B，那么使用上式進(jìn)行逐一計(jì)算時(shí)，計(jì)算結(jié)果與各條規(guī)則采用的先后順序有關(guān) 同時(shí)，MYCIN規(guī)定證據(jù)的可信度CF(A)0.2時(shí)，就認(rèn)為該證據(jù)引入的規(guī)則不可使用。即CF(B)=max(0.2,CF(A)CF(B,A)，而不是CF(B)=max(0,CF(A)CF(B,A)。2022-2-10華北電力大學(xué)華北電力大學(xué)67規(guī)則規(guī)則 ( (推理計(jì)算推理計(jì)算 2-2-關(guān)于組合交換性的改進(jìn)）關(guān)于組合交換性的改進(jìn)） EMYCIN系統(tǒng)（MYCIN發(fā)展而成）對CF1(B)和CF2(B)符號(hào)不同時(shí)，進(jìn)行修正： 符號(hào)不同與當(dāng)當(dāng) 當(dāng)(B)CF(B)CF (B)CF,(B)CFmin1(B

40、)CF(B)CF0(B)CF0(B)CF (B)CF (B)CF(B)CF(B)CF0(B)CF0(B)CF (B)CF (B)CF-(B)CF(B)CFCF(B)212121212121212121，2022-2-10華北電力大學(xué)華北電力大學(xué)68規(guī)則規(guī)則 ( (推理計(jì)算推理計(jì)算 3 3） 更新：由CF(A)、A B、CF(B, A )、CF(B)，求 CF(B) 當(dāng)A必然發(fā)生，CF(A)=1時(shí)：符號(hào)不同與當(dāng)當(dāng)當(dāng)A) CF(B,CF(B) A) CF(B,CF(B)0A) CF(B,0CF(B) CF(B)A)(1 CF(B,CF(B)0A) CF(B,0CF(B) CF(B)-A)(1 CF(B,CF(B)A)|CF(B，2022-2-10華北電力大學(xué)華北電力大學(xué)69規(guī)則規(guī)則 ( (推理計(jì)算推理計(jì)算 4 4） 0 CF(A) 1，即A有可能發(fā)生時(shí)用CF(A)CF(B, A)代替CF(A)=1時(shí)的CF(B, A)即可 CF(A) 0，規(guī)則A B不可使用，即此計(jì)算不必進(jìn)行不可能發(fā)生的