北航多源信息融合證據理論基礎

1、儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering多源測試信息融合證據理論基礎(1)儀器科學與光電工程學院School of Instrumentation Science and Opt

2、o-electronics Engineering儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering萬江文儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering儀器科學與光電工程學院School of Instrument朮ion Scien

3、ce and Opto-electronics Engineering主要內容引言證據理論基礎證據理論研究現狀未來研究方向2020/5/9#儀器科學與光電工程學院School of Instrument朮ion Science and Opto-electronics Engineering主要內容引言證據理論基礎證據理論研究現狀未來研究方向2020/5/93儀器科學與光電工程學院School of Instrument朮ion Science and Opto-electronics Engineering1引言主觀貝葉斯理論的缺點:(1) 要求概率(各證據之間)都是獨立的；(2) 要求先驗

4、概率P(OJ和條件概率P(Dj IO0 ；(3) 要求統(tǒng)一的識別框架，不能實現不同層 次的組合；不能區(qū)分“不確定”和“不知道”。2020/5/9#儀器科學與光電工程學院School of Instrument朮ion Science and Opto-electronics Engineering1引言不確定性分類不確定性可以分為隨機性、模糊性和認識不確定性三種。隨機性：在自然界中客觀存在，可根據歷史資料得到的統(tǒng)計數字來 描述，常用概率論和數理統(tǒng)計來解決這方面問題。模糊性：通常指發(fā)生在概念上的模糊，如大、中、小界限的模糊等。 模糊理論是處理此問題的有力工具。認識的不確定性：是由于人們認識水平的

5、局限以及知識缺乏所造成 的。隨機性和模糊性是客觀的不確定性，認識的不確定性是主觀的不確 定性。2020/5/95虧儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering1引言概率的解釋證據理論出現以前，概率的解釋主要有客觀 解釋，個人主義解釋及必要性解釋。客觀解釋概率：認為概率描述了一個可以重 復出現事件的客觀事實，用試驗次數趨于無窮時, 該事件發(fā)生的頻率的極限來刻劃。個人主義解釋：認為概率反映了個人的某種 偏好，它根據某個人在賭博中或其他帶有不確定 性結果的事件中所表現出來的行為來推童。1引言

6、必要'性角軍釋：則認為概率是測量一個命題推出另一個命題 程度的量，這個量由兩個命題之間的邏輯關系完全決定，與個 人的偏好無任何關系，又稱為邏輯主義解釋。Shafer出以上三種概率的解釋都沒有涉及概率推斷的構造 特征，因此，Shafer提出了對概率的第四種解釋構造性解 釋：概率是指某人在證據的基礎上構造出的他對某一命題為真 的信任程度，簡稱信度。2020/5/99虧儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering主要內容引言證據理論基礎證據理論研究現狀未來研究方向2020/5/911

7、虧儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering4. 2證據理論基礎證據理論的起源證據理論源于20世紀60年代美國哈弗大學的數學家 A.P.Dempster利用上、下概率來解決多值映射問題方面的研 究工作。后來他的學生G.Shafer對證據理論做了進一步的發(fā) 展和推廣完善，引入了信任函數概念，形成了一套利用證據 和組合來處理不確定性推理問題的數學方法。它作為一種不 確定性推理方法，正受到越來越多的關注。稱為（D-S）證據理論和信任函數理論。2020/5/913虧儀器科學與光電工程學院Sc

8、hool of Instrumentation Science and Opto-electronics Engineering2證據理論基礎(1) 識別框架假設現有一個判決問題，對于該問題我們所能 認識到的所有可能答案的集合用0表示，且0中的所 有元素都滿足兩兩互斥；任一時刻的問題答案只能 取0中的某一子集，答案可以是數值變量，也可以 是非數值變量，則稱此互不相容命題的完備集合0 為識別框架，可表示為：鄉(xiāng)1切(2-1)其中Q為識別框架的一個元素或事件。2020/5/915虧儀器科學與光電工程學院School of Instrumentation Science and Opto-electr

9、onics Engineering2證據理論基礎（i）識別框架（續(xù)i）集合®的選取問題識別框架的選取集合3的選取依賴于我們的認識水平和知識結構，包含我 們所知道的和想要知道的。當一個命題對應于該識別框架的 一個子集時，稱該框架能夠識別該命題，否則認為識別框架 是無效的。因此，®的選取應當足夠的豐富，使我們所考慮 的任何特定的命題集都可以對應于6）的某一集類R, （0,R ） 稱為命題空間。當®中含有N個元素時，R中最多有2"個子集。 需要說明的是，集合®可以為有限集也可以為無限集。本課 程只討論有限集。2020/5/9虧儀器科學與光電工程學院S

10、chool of Instrumentation Science and Opto-electronics Engineering2證據理論基礎(1)識別框架(續(xù)2)由識別框架中所有子集構成的一個有限集合稱為O的幕集合，記作(2-2)其中0表示空集。識別框架的任一子集A都對應于一個命題, 一般可描述為“問題的答案在A中”。2020/5/919虧儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering2證據理論基礎例1:以擲骰子為例，要判斷其可能所出現的點數，則識別框架®珂1,2,3,4,

11、5,6,而則表示“擲出的點數為1，貝I 2,4,6表示“擲出的點數為偶數”，123,4,5則表示“擲出的點數不為6，即“擲出的點數為1,2, 3,4,5中 的某一個”。由此可見，幕集合中的每一個子集A都代 表一個命題。2020/5/921虧儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering2證據理論基礎證據理論是建立在識別框架基礎上的推理模型，其 基本思路如下：a）建立識別框架。利用集合論方法來研究命題；b）建立初始信任分配。根據證據提供的信息，分配證據對每一集合 （命題）A本身的支持程度，

12、該支持程度不能再細分給A的真子集。c）根據因果關系，計算所有命題的信任度。一個命題的信任度等于 證據對它的所有前提的初始信任度之和。這是因為，若證據支持一個命 題，則他同樣支持該命題的推論。d）證據合成。利用證據理論合成公式融合多個證據提供的信息，得 到各命題融合后的信任度。e）根據融合后的信任度進行決策，一般選擇信任度最大的命題。2020/5/923虧儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering2證據理論基礎證據函數證據函數證據是整個證據理論的核心，證據函數又是 描述證據的有力工具。

13、下面將詳細介紹證據理論 中幾個證據函數的基本概念及相關定理?；局眯哦戎概珊瘮?；信任度函數；似真度函數等2020/5/925虧儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering2證據理論基礎一一基本置信度指派函數定義1：設®為一識別框架，函數m是2®->0,l的映射，A為2®任一子集，記作，且滿足:Ac 2®m (0) = 0加(A)二1(2-3)則稱m是2®上的基本置信度分配函數，也稱為質量函數或m"ss函數。m(A)為命題

14、A的基本置信度指派值，表示證據對A的信任程度，空集0的基本信任分配值為0。2020/5/927儀器科學與光電工程學院School of Instrument朮ion Science and Opto-electronics Engineering2證據理論基礎一一基本置信度指派函數1=FA基本置信度指派函數相關的幾個定義(1) 對于識別框架的任一子集A,只要滿足 m(A)>0,則稱A為證據的焦元。證據的焦元和它的基本置信度指派構成的 二元體(A, m(A)稱為證據體，證據是由若干證據 體組成。1=FA基本置信度指派函數相關的幾個定義(2)焦元中所包含識別框架中的元素個數稱為該焦元的基,記

15、作IAL當子集A中只包含一個元素時，即IAI=1,稱為單元素焦元。當子集A中包含j個元素時，即IAI=i,稱為全體焦元的集合稱為證據的核。核就是識別框架的幕集卻嗎？2020/5/9虧儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering2證據理論基礎一一基本置信度指派函數基本置信度指派函數的作用把的任一子集都映射到0,1上的一個數m(A)：(1) 當A由單個元素組成時，m(A)表示對相應命題A的精確 信任度；(2) 當Ac20 , AM®,且A由多個元素組成時，m(A)也是 相應命題A

16、的精確信任程度，但卻不知道這部分信任度該分給A中 的哪些元素；當A二®時，m(A)是對®的各個子集進行信任分配后剩下 的部分，它表示不知道該如何對它進行分配。2020/5/933虧儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering2證據理論基礎一一基本置信度指派函數例2：泄漏診斷時，設識別框架=A1, A2, A3, Al 表示“發(fā)生大泄漏”，A2表示“發(fā)生小泄漏”， A3表示無泄漏，基本置信度指派分別為m(0)=O, m(Al)=0.3, m(A2)=0, m(A3)=

17、0.1 m(Al, A2)=0.2, m(Al, A3)=0.2,m(A2, A3)=0.1, m(Al, A2, A3)=0.12020/5/935虧儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering2證據理論基礎一一基本置信度指派函數當A=A1時，m(A)=0.3,它表示對命題'答案是大泄漏”的 精確信任度為0.3。當A=A1, A2時，m(A)=0.2,它表示對命題“答案或是大 泄漏，或是小泄漏”的精確信任度為0.2,但卻不知道該把這0.2分 給大泄漏還是分給小泄漏。當A=A1

18、, A2, A3時,m(A)=0.1,它表示不知道該把它如 何分配；它不屬于A1,就屬于A2或A3,只是基于現有的知 識，還不知道該如何進行分配。2020/5/937虧儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering信任度函數2證據理論基礎定義2:信任度函數：集合A是識別框架®的任一子集，A中全部子集對應的基本置信度之和稱為信任函數Bel(A),即Bel： 2°0, 1其中，Bel(A)成為事件A的信任值，它表示證據對A為真的 信任程度；空集的信任值為0。2020/5/

19、939虧儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering信任度函數2證據理論基礎信任度函數表示對假設的信任程度的下限估 計。由信任度分配函數的定義容易得到：Bel(<D) = M()=0Bel(0)=工 M(B) =1比如果對于®中的任意兩個子集A1zA2,滿足:則稱為弱信任度函數。2020/5/941虧儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering信任度函數2證據理

20、論基礎例3：同例2,已知：m(Q=0, m(Al)=0.3, m(A2)=0, m(A3)=0.1m(Al, A2)=0.2, m(Al, A3)=0.2,m(A2, A3)=0.1, m(Al, A2, A3)=0.1求.Bel(Al)和 Bel(Al,A2)的信任度值.解：根據題意，可得Bel(Al) = m(Al)=0.3Bel(Al,A2)=m(Al)+m(A2)+m(Al,A2)=0.5.2020/5/943虧儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering信任度函數2證據理論基

21、礎引理1:假設A是一個有限集合，則下式成丹=o蠶證明：令亠幺亠切 是一個有限的非空集 合，其中n為正整數，則有刃出牙劉引+ 牙引_a_ +(吩BZ2AZi<zj=o2020/5/9#儀器科學與光電工程學院/ School of Instrumentation Science and Opto-electronics Engineering2證據理論基礎信任函數引理2.2:若A是有限集，且BuA ,則:2020/5/945儀器科學與光電工程學院/ School of Instrumentation Science and Opto-electronics Engineering2020/5

22、/9#儀器科學與光電工程學院/ School of Instrumentation Science and Opto-electronics Engineering證明:S (-D|c| =BuCuABc(BuD)cA2020/5/9#儀器科學與光電工程學院/ School of Instrumentation Science and Opto-electronics EngineeringY (_1)匹糾Du(A-B)=(-d|b| s(-1円Dc(A-B)根據引理2.1,可證。2020/5/9#虧儀器科學與光電工程學院School of Instrumentation Science an

23、d Opto-electronics Engineering似真度函數2證據理論基礎定義3：似真度函數：設識別框架幕集2®->0J映射，A為 識別框架內的任一子集，似真度函數H(A)定義為對A的非假 信任度，即對A似乎可能成立的不確定性度Ac©,此時有：PZ(A)表示A為非假的信任程度，A的上限估計，且Be/(4) < PZ(A) ； Bel(A)表示對A為假的信任程度，即對A的懷疑程度。2020/5/947儀器科學與光電工程學院/ School of Instrumentation Science and Opto-electronics Engineerin

24、g2證據理論基礎信任區(qū)間信任區(qū)間一一定義4：信任區(qū)間表示事件發(fā)生的下限估計到上限估計的范圍, 即：B叫A), P/(A)稱為命題A的信任區(qū)間，P/(A)-Be/(A) 描述了對A的不確定性，有時也稱為不確定區(qū)間。區(qū)間的下限等于直接證據對命題的支持程度，即命 題的信任度；區(qū)間的上限等于潛在證據對命題的支持程度，即命題的似真度。0BelPl1支持區(qū)間.弋信任區(qū)間拒絕區(qū)斗證據區(qū)間劃分示意圖2證據理論基礎信任區(qū)間例4：說說下列信任區(qū)間，對命題A表示的實際意 義：Bel(A), P1(A)意義0, 1對命題A無所知0, 0命題A為假1，1命題A為真0.5, 0.5對命題A的準確信任度為050.4, 1證

25、據提供對命題A的部分支持度0, 0.7證據對命題的部分支持度03, 0.9證據對命題A的信任區(qū)間為0.3-0.92證據理論基礎證據函數總結 m(A)、Bel(A)和P1(A)的意義m(A)反映了對A本身的信任度大小Bel(A)是分配到A上的總信任度P1(A)是所有與A相容的命題本身的信任度之和2020/5/953儀器科學與光電工程學院/ School of Instrumentation Science and Opto-electronics Engineering課程內容引言證據理論基礎證據理論研究現狀未來研究方向2020/5/955O儀器科學與光電工程學院School of Instru

26、mentation Science and Opto-electronics Engineering3證據理論研究現狀(1) 證據理論模型解釋(2) 證據融合悖論(3) 證據組合算法實現(4) 證據理論的應用國內研究現狀2020/5/932前儀器科學與光電工程學院/ School of Instrument朮ion Science and Opto-electronics Engineering3證據理論研究現狀(1)證據理論模型的幾種解釋 上、下概率解釋 廣義貝葉斯理論解釋 隨機集理論模型解釋 可傳遞信度模型解釋3證據理論研究現狀Dempster對證據理論模型解釋上、下概率解釋模型，認為置信

27、函數是概率的下界，似真函數是概率的 上界，Dempster正是通過這個概念創(chuàng)立了證據理論。廣義貝葉斯理論模型，認為證據理論是貝葉斯理論的擴展，所有應用貝葉 斯概率推理方法的數據融合系統(tǒng)都可以用證據理論方法來替代。當BPA 函數的所有焦元都是單個假設集，且這些焦元都滿足貝葉斯獨立條件時, Dempster合成公式就退化為貝葉斯公式。隨機集理論模型把證據的合成看作是隨機條件事件的并（或交）。按照這種解釋模型的觀點，數據融合過程就相當于隨機集的集合運算過程。以上三種解釋模型的共同點都是以概率理論為基礎。3證據理論研究現狀Smets對證據理論模型解釋Smets發(fā)現許多DS模型的研究者只看到了 BPA是

28、在識別框架的幕集上 的靜態(tài)概率分布，都沒有從研究DS模型的動態(tài)部分，即信度是如何更新 的，因此提出了一種不依賴任何概率理論的“可傳遞信度模型” (TBM) O這種模型的基本假設是證據不充分，以致不足以把信任度指派給識別 框架中的元素。從數據融合的角度來看，TBM模型在它是一種層次化的 遞進模型，體現了數據融合系統(tǒng)的層次化描述特征，尤其適用于需要逐 層進行數據、特征或決策融合的數據融合系統(tǒng)。TBM模型理論和實際應 用上都很有價值。3證據理論研究現狀(2)證據融合悖論在證據理論的實際應用中，常常會面臨各種不確定的沖突 信息，而當參與合成的證據間具有較大的不一致性或沖突時， 證據合成方法就不能使用，

29、若使用會得出與事實相悖的結果。 這一局限性成為制約證據理論進一步推廣的主要問題，所以基 于沖突證據的合成方法的研究和改進是一個亟待解決的問題。 為了解決沖突證據的合成問題，不少學者對沖突證據的合成方 法進行了研究，并提出了許多解決方法。3證據理論研究現狀（3）證據算法的實現目前證據算法實現主要有以下三種途徑:1）針對特殊的證據組織結構，構造相應 的快速算法2）近似計算3）修改D-S合成公式法3證據理論研究現狀1）快速算法構造Shafer*給出在層次情況下精確實現Dempster 合成規(guī)則的算法。Barnett針對一類簡單的證據結構提出了一個 快速實現D-S的算法；為達到簡化計算量的目的，Pea

30、rl在層次假設 空間中使用了一種貝葉斯形式的推理算法；2020/5/937虧儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering3證據理論研究現狀2）近似計算近似計算方法的思路是通過減少置信函數的焦元個數來簡化計算。Voorbraak提出了一種置信函數的貝葉斯近似算法，他研究證明：如 果置信任函數的合成將產生一個貝葉斯信任函數，即一個識別框架 上的概率測度，則信任函數用他們的貝葉斯近似來代替，將不會影 響Dempster合成規(guī)則的結果。Voorbraak證明了在一般的情況下，置信函數的貝葉斯近

31、似的合成等 于這些置信函數的合成的貝葉斯近似，大大簡化了計算量。2020/5/939虧儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering3證據理論研究現狀Dubois （迪布瓦）提出了一致近似性算法，該方法的特點是通過近 似計算后的焦元是嵌套的，并且焦元的個數不超過識別框架中的假設個 數。Tessem （特塞姆）提岀了（k,l,x）近似算法，k表示保留的焦元個數,1保 留的焦點元素最多個數，X表示允許被刪除的最大mass值，x通常在0,0.1 上取值。Simard （西馬德）提出了一種稱為T

32、DS算法，主要思想為：首先給出要保留的焦點元素的最大個數、上限BPA和下限BPA,然后判斷BPA的數值的大小以決定其對應的焦點元素是否應該保留。2020/5/941虧儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering3證據理論研究現狀3）修改D-S方法修改D-S方法主要是指Mahler提出的條件化證據理論， 它是一種在先驗知識可能是非貝葉斯的情況下，處理證據的 概率計算。Ishizuka等人結合了 D-S方法和模糊集理論的優(yōu)點 來表示和處理不確定的和模糊的信息，通過定義模糊集合的 包含度和相

33、關度來實現這個目的，并將置信函數重新定義， 給出了包含度的定義并相應地修正了 Dempster合成公式。2020/5/9#虧儀器科學與光電工程學院School of Instrumentation Science and Opto-electronics Engineering3證據理論研究現狀(4)證據理論的應用證據理論為不確定信息的表達和合成提供了強有力的方法，使得它 在數據融合領域得到了廣泛的應用。在軍事方面，如目標檢測、識別、 跟蹤和態(tài)勢評估與決策分析；在非軍事方面，如故障診斷、數字圖像處 理、經濟決策、網絡入侵檢測、機器人導航等。隨著證據理論的發(fā)展，它的應用也越來越廣。目前，證據理論在信 息融合，風險評估功偽、專家系統(tǒng)、企業(yè)診斷、模式識別、決策分析等 方面均有成功的應用。2020/5/943虧儀器科學與光電工程學院School of Instrumentation Science and Opto-electronic