不確定性推理方法概率基礎

不確定性推理方法概率基礎第一頁，共三十九頁，編輯于2023年，星期六第3章作業(yè)的部分問題（續(xù)）只能置換變量，不可置換常量、函數(shù)求合一的步驟見P104-P105例：P(g(f(v),g(u))和P(x,x)歸結法步驟：①聲明謂詞的含義；②寫出謂詞公式（別忘了量詞），按結論的否定寫出謂詞公式；③將各公式的子句集求出；④歸結，得到?；⑤說明按歸結原理，原題得證。注：參與歸結的都是子句，不可出現(xiàn)包含→的句子。注：第3章作業(yè)的部分參考答案已放在ftp2@σ1={g(f(v))/x}P(g(f(v)),g(f(v)))

σ2={g(f(v))/x,f(v)/u}{u/f(v)}

╳第二頁，共三十九頁，編輯于2023年，星期六5不確定性推理方法背景推理基于知識，而知識庫包含大量模糊、隨機、不可靠的知識。必須采用非精確推理(即不確定性推理)。AI的核心研究課題。第三頁，共三十九頁，編輯于2023年，星期六不確定性推理的發(fā)展史概率論是不確定性推理的理論基礎之一。80年代，貝葉斯網(wǎng)絡成功應用于專家系統(tǒng)。75年，Shortliff等提出了確定性推理方法(醫(yī)療診斷系統(tǒng)MYCIN)。76年，DURA等提出了主觀貝葉斯方法(地礦勘探系統(tǒng)PROSPECTOR)。76年，Dempster和Shafer提出了證據(jù)理論(D-S理論,又稱廣義概率論)。83年，Zadeh等提出了模糊邏輯。第四頁，共三十九頁，編輯于2023年，星期六不確定性推理中的術語解釋規(guī)則前件后件(產(chǎn)生式系統(tǒng)中)規(guī)則證據(jù)結論(不確定性推理中)規(guī)則新證據(jù)結論第五頁，共三十九頁，編輯于2023年，星期六5.1.1不確定性的普遍存在證據(jù)有不確定性，如事實描述有歧義、不精確、不肯定。證據(jù)可以是初始證據(jù)新證據(jù)第六頁，共三十九頁，編輯于2023年，星期六5.1.1不確定性的普遍存在(續(xù))規(guī)則是啟發(fā)類(Heuristic)知識，描述由已有知識可推得哪些新知識。規(guī)則有不確定性。規(guī)則自身證據(jù)組合結論A1A2ANDBAB第七頁，共三十九頁，編輯于2023年，星期六5.1.1不確定性的普遍存在(續(xù))推理過程的不確定性知識不確定性的動態(tài)積累和傳播的過程。第八頁，共三十九頁，編輯于2023年，星期六5.1.2基本問題(1)不確定性如何表示？定量(數(shù)值)表示例：P(A)是A發(fā)生的概率，用作證據(jù)A的不確定性度量。定性(非數(shù)值)表示例：A很可能(或可能、不太可能、一定)發(fā)生。第九頁，共三十九頁，編輯于2023年，星期六5.1.2基本問題(2)不確定程度該如何計算？已知P(A)和P(B,A)，怎樣求P(B)？已知P(B1,A)和P(B2,A)，怎樣求P(A)？已知P(A1)和P(A2)，怎樣求P(A1∧A2)和P(A1∨A2)？各規(guī)則和初始證據(jù)的不確定性度一般由專家給出。第十頁，共三十九頁，編輯于2023年，星期六5.1.2基本問題(3)不確定性度量代表什么含義？P(B,A)可理解為A真對B真的影響程度。P(A)可理解為A為真的程度。第十一頁，共三十九頁，編輯于2023年，星期六5.1.3推理方法的分類形式化方法邏輯法采用多值邏輯和非單調(diào)邏輯處理不確定性。新計算法采用擴展的概率方法，表示不確定性。如：證據(jù)理論(D-S法)、確定性方法(CF法)、模糊邏輯法第十二頁，共三十九頁，編輯于2023年，星期六5.1.3推理方法的分類(續(xù))新概率法根據(jù)傳統(tǒng)概率論，采用新方法描述不確定性。如：主觀內(nèi)葉斯方法、貝葉斯網(wǎng)絡方法。非形式化方法即啟發(fā)性方法，對不確定性沒有給出明確定義。第十三頁，共三十九頁，編輯于2023年，星期六5.2概率論基礎概率可表示隨機現(xiàn)象發(fā)生的可能性。不確定性現(xiàn)象不同于隨機現(xiàn)象，但用概率思考不確定性，效果不錯?！靶掠嬎惴ā焙汀靶赂怕史ā倍际且愿怕收摓榛A的。第十四頁，共三十九頁，編輯于2023年，星期六5.2.1隨機事件樣本空間(Ω)隨機實驗可能結果的集合。樣本點(ω)一個可能出現(xiàn)的結果。隨機事件(A、B、…)一些樣本點的集合。CABΩ第十五頁，共三十九頁，編輯于2023年，星期六5.2.1隨機事件事件間的關系包含等價A=B互斥對立A=～BAΩBAΩBABΩ第十六頁，共三十九頁，編輯于2023年，星期六事件間的關系運算由已知事件，導出新事件。交并第十七頁，共三十九頁，編輯于2023年，星期六事件間的關系運算(續(xù))差——A發(fā)生而B不發(fā)生求余～A=Ω﹣AABΩAΩ～A第十八頁，共三十九頁，編輯于2023年，星期六事件關系運算的性質(zhì)交換律結合律分配律摩根律第十九頁，共三十九頁，編輯于2023年，星期六運行符的優(yōu)先順序 余交差并高低第二十頁，共三十九頁，編輯于2023年，星期六5.2.2事件的概率有Ω和A，P(A)稱作事件A發(fā)生的概率，當滿足:0≤P(A)≤1P(Ω)=1,P(Φ)=0AB=Φ,則P(AB)=P(A)+P(B)第二十一頁，共三十九頁，編輯于2023年，星期六完備事件族{An|n=1,2,…}稱為完備事件族,當對于任意i,j≥1且i≠j，Ai∧Aj=Φ，且。A1A2A3A4Ω第二十二頁，共三十九頁，編輯于2023年，星期六完備事件族(續(xù)){An|n=1,2,…}為完備事件族,則

對于任意B,B

Ai

第二十三頁，共三十九頁，編輯于2023年，星期六基本事件族{An|n=1,2,…}稱為基本事件族,當{An|n=1,2,…}是完備事件族；且對于任意B，有B∧An=An或Φ,這里，n=1,2,…。A1A2A3A4BΩ第二十四頁，共三十九頁，編輯于2023年，星期六基本事件族(續(xù)){An|n=1,2,…}為基本事件族,當

B

Ai

第二十五頁，共三十九頁，編輯于2023年，星期六統(tǒng)計概率(古典概率)若在同一條件下，事件A出現(xiàn)頻率為m/n,則m/n稱為A的統(tǒng)計概率。第二十六頁，共三十九頁，編輯于2023年，星期六統(tǒng)計概率的性質(zhì)0≤P(A)≤1P(Ω)=1,P(Φ)=0對于任意A,P(~A)=1﹣P(A)

{An|n=1,2,…,n}中兩兩不相容，則對于任意A和B，有第二十七頁，共三十九頁，編輯于2023年，星期六條件概率在事件A發(fā)生情況下B發(fā)生的條件概率邊緣概率A與B的聯(lián)合概率（乘法公式）第二十八頁，共三十九頁，編輯于2023年，星期六條件概率(續(xù))如果是統(tǒng)計概率，則第二十九頁，共三十九頁，編輯于2023年，星期六C、D發(fā)生下A、B發(fā)生的概率另一種寫法：第三十頁，共三十九頁，編輯于2023年，星期六條件概率的性質(zhì)0≤P(B|A)≤1P(Ω|A)=1,P(Ф|A)=0若B1,B2不相容，則P(B1+B2|A)=P(B1|A)+P(B2|A)另一種寫法：

P(B1∨B2|A)=P(B1|A)+P(B2|A)第三十一頁，共三十九頁，編輯于2023年，星期六條件概率的性質(zhì)(續(xù))乘法公式(聯(lián)合概率)P(A1A2…An)=P(A1)P(A2|A1)…P(An|A1A2…An-1)例：P(ABCD)=P(A|BCD)P(B|CD)P(C|D)P(D)第三十二頁，共三十九頁，編輯于2023年，星期六條件概率的性質(zhì)(續(xù)){Ai|i=1,2,…,n}是完備事件集，且P(Ai)>0，則有全概率公式：例：A+B+C=Ω,對于任意D，有P(D)=P(A)P(D|A)+P(B)P(D|B)+P(C)P(D|C)∵=P(AD)+P(BD)+P(CD)=P(AD∨BD∨CD)=P(D)第三十三頁，共三十九頁，編輯于2023年，星期六事件的獨立性若P(AB)=P(A)P(B)，則A與B相互獨立。性質(zhì)：P(A)=0或1，則A與任何事件獨立。若A，B獨立，且P(B)>0,則P(A|B)=P(A)。若A，B獨立，則～A與B，A與～B，～A與～B都相互獨立。{Ai|i=1,2,…,n}中事件相互獨立，則其中任何一組事件之間相互獨立。~~~~第三十四頁，共三十九頁，編輯于2023年，星期六5.2.3貝葉斯定理(公式){Bi|i=1,2,…,n}是一個完備事件集，P(A)>0,P(Bi)>0,則

P(Bi)稱為先驗概率，P(Bi|A)稱為后驗概率，B1,B2,…,Bn為互不相容的原因，A為結果。第三十五頁，共三十九頁，編輯于2023年，星期六5.2.4信任幾率概率基于重復的隨機實驗，而實際中事件不可重復。A代表出紅斑，B代表出麻疹，P(B|A)理解為“A成立時B的可信度”。A=T，P(B|A)=1,則B=T。A=T，P(B|A)=0，則B=F。A=T，0≤P(B|A)≤1，則不能確定B的值。P(B|A)表示了存在證據(jù)A時B的似然性（或可信度）。第三十六頁，共三十九頁，編輯于2023年，星期六信任幾率事件發(fā)生與