多源信息融合第二次報告

1、多源信息融合2015/10/9毅糙集理論基趙2015/10/92015/10/9隨機集理論及其疹用2015/10/92015/10/9號形網(wǎng)給基趙2015/10/9粗糙集發(fā)展歷程 1970s, Pawlak和波蘭科學(xué)院、華沙大學(xué)的一些邏輯學(xué)家，在研究信息系統(tǒng)邏輯特性的基礎(chǔ)上，提出了粗糙集理 論的思想。 在最初的幾年里，由于大多數(shù)研究論文是用波蘭文發(fā)表 的，所以未引起國際計算機界的重視，研究地域僅限于東 歐各國。 1982年，Pawlak發(fā)表經(jīng)典論文Rough sets,標(biāo)志著 該理論正式誕生。 1991年，Pawlak的第一本關(guān)于粗糙集理論的專著 Rough sets: theoretleal

2、 aspects of reasoning about data;粗糙集發(fā)展歷程 992年，Slowinski主編白勺Intelligence decision support: handbook of applications and advances of rough gets theory的出版,奠定了粗糙集理論的基礎(chǔ)， 有另地推動了國際巫糙集理論與應(yīng)用的深入研究。 1992年，在波蘭召開了第一屆國際粗糙集理論研討會， 有15篇論文發(fā)表在1993年第18卷的 Foundation of computingand decision sciences上。 1995年，Pawlak等人在ACM

3、 Communications 上發(fā)表“Rough sets二 極大地擴(kuò)大了該理論的國際影響。2015/10/9#粗糙集的基本理論介鄉(xiāng)主要優(yōu)點-除數(shù)據(jù)集之外，無需任何先驗知識（或信息）-對不確定性的描述與處理相對客觀【說明】：Bayes理論（先驗分布）、證據(jù)理論（隸屬度函數(shù)）等都需要先驗知識，具有很大的主觀性。粗糙集理論在知識發(fā)現(xiàn)中的作用在數(shù)據(jù)預(yù)處理過程中，粗糙集理論可以用 于對特征更準(zhǔn)確的提取在數(shù)據(jù)準(zhǔn)備過程中，利用粗糙集理論的數(shù) 據(jù)約簡特性，對數(shù)據(jù)集進(jìn)行降維操作。在數(shù)據(jù)挖掘階段，可將粗糙集理論用于分 類規(guī)則的發(fā)現(xiàn)。在解釋與評估過程中，粗糙集理論可用于 對所得到的結(jié)果進(jìn)行統(tǒng)計評估。集合的上近似

4、&下近似在信息系統(tǒng)S二U, A, V,刃中，設(shè)XuU是個體全域上的 子集，PcA,貝IJX的下和上近似集及邊界區(qū)域分別為：PX =Y gU/P:Y XPX =YU/P:YCX0Bndp(X) = PX -PX遲X是XuU上必然被分類的那些元素的集合，即包含在X內(nèi)的 最大可定義集；訂X是U上可能被分類的那些元素的集合，即包含X的最小可 定義集。Bndp (X)是既不能在XuU上被分類，又不能在U-X上被分類的 2隔那些元素的集合。7集合的上、下近似概念示意圖例子：考慮8個積木構(gòu)成的集合A,我們記 4=儀兀,兀,每個積木按照顏色屬性分 為R冃紅,黃蘭三大類，那么有紅色積木X =坷,兀2，兀6黃色積

5、木X2=x3,x4紅色積木%3=兀5，兀7，叫 我們顏色屬性是一種知識，對集合A的一個 劃分就對應(yīng)著關(guān)于A中元素的一個知識。假如積分還有其他的屬性，比如，形狀尺2= 三角形，方塊，圓形大小尺3=尢中，小那么加上&屬性對A構(gòu)成的劃分分別為:顏色分類:A/& =X1,X2,X3 = x1,x2,x6,x3,x4,x5,x7,x8形狀分類A/R =YvY2,Y3 = xvx2,x5,xs,x3,x4,x6,x7大小分類A/7?3 =Z1,Z2,Z3 = x1,x2,x5,x6,x8,x4,x7近似集：考慮A中子集X=x2,x5,x7下近似集：在那些所有的包含于X的知識 庫中的集合中求并得到的，上近似

6、集：將那些包含X的知識庫中的集 合求并得到的。2015/10/11決策系統(tǒng):元素顏色形狀大小穩(wěn)定性x1紅三角大穩(wěn)定x2紅三角大穩(wěn)定x3黃園小不穩(wěn)定x4黃不穩(wěn)定x5乂方塊大穩(wěn)定x6紅中不穩(wěn)定x7圓小不穩(wěn)定x8方塊屮不穩(wěn)定條件屬性：顏色，大小，形狀決策屬性：是否穩(wěn)定考慮決策屬性穩(wěn)定集合：西,兀2不穩(wěn)疋集合：兀3,兀4,兀6,兀7,兀8 在知識系統(tǒng)A/R中上下近似都是本身考慮條件屬性：卄亠1.去掉顏色，知識系統(tǒng)變?yōu)閚A/（R-尺）=兀1，兀2，兀3兀4兀7，兀5，兀6，屮 料定集合和不穩(wěn)定集合的上下近似都號棹;掉大小或者形狀他們的上下近似就原來 知識吞統(tǒng)不一樣了因此不冃旨去掉。 淼我們只需要考慮知識

7、庫R用2015/10/9粗糙集理論在知識發(fā)現(xiàn)中的作用在數(shù)據(jù)預(yù)處理過程中，粗糙集理論可以用于 對特征更準(zhǔn)確的提取在數(shù)據(jù)準(zhǔn)備過程中，利用粗糙集理論的數(shù) 據(jù)約簡特性，對數(shù)據(jù)集進(jìn)行降維操作。在數(shù)據(jù)挖掘階段，可將粗糙集理論用于分 類規(guī)則的發(fā)現(xiàn)。在解釋與評估過程中，粗糙集理論可用于 對所得到的結(jié)果進(jìn)行統(tǒng)計評估。2015/10/915隨堿型2015/10/91確定性模型:隨機性模型確定性因素和隨機性因素隨機因素可以忽略隨機因素影響可以簡單 地以平均值的作用出現(xiàn)隨機因素影響必須考慮概率模型統(tǒng)計回歸模型馬氏鏈模型2015/10/9從醫(yī)生診斷病例說起每個疾病的發(fā)生都有復(fù)雜的成因；每個疾病的發(fā)生不是絕對互斥的事件；

8、每個疾病發(fā)生的可能性分布不符合概率公理; 2015/10/9 因果分析具有明顯的層次結(jié)構(gòu)。經(jīng)典概率公理體系的缺陷概率公理設(shè),P是一個概率空間，其 中。是基本事件集合，F(xiàn)是由 的字集構(gòu)成的集類，稱為事件 集合；空集0gF是不可能事 件，而QqF是必然事件；P是定義在F上的概率測度， 滿足OP(A)0, VAeP (UVm(A) = 1,則稱濾上的一個mass函數(shù)。如果AeP (/)且 m(A) 0則稱/是加的一個焦元；加的所有 焦元構(gòu)成加的一個焦集，記為V=AeP (U): m(A) 0)如果集函數(shù)Bel -P (t/)0,l，滿足(1) 滋(0) = 0, Bel(U) = l(2) 對于任意

9、的gP (U)陽(CjA)Y(-1)曲曲(4)：i=iel0工/匸1,2,“則稱Be雇U上的一個信任測度。如果集函數(shù)pZ:P(t/)-0,l，滿足 0(0) pi(u)= i(2)對于任意的,食,AgP(U) h(fVm(-1)歸丹(U a)i=iel:0工/匸1,2,則稱P堤U上的一個似然測度。在醫(yī)生診斷的例子中，N =mx () m2(F)mx (w)m2(t/) + mx (U )m2 (w) + mx (JJ )m2 (U)= 0.9x0.8 + 0.1x0.2 + 0x0.8 = 0.82麗二丄奶二竺竺詁0.82-0.824110Jx0.84m(U)=的(U )恥(t/)=0.82-

10、0.824136Belti)= a m(v)-加()二 vf u41p/(”)= 丫 二 + m(U) = 36+4 =辿 叩心04141Demps terShafer 合成公式設(shè)“宀 加(0)=雇吐的兩個mass 函數(shù)，貝U加(4)=丄工4工0N ECF=A/是mass函數(shù)，其中N 二 E m1(E)m2(F)0eDfh0Demps ter-Shaf er合成公式的意義 在于，兩個不同的可能性判斷，經(jīng)過 合成后變成統(tǒng)一的判斷，這是一種形 式的信息融合，在許多實際問題中都 有應(yīng)用。注意，這是一種集合運算， 與概率的數(shù)值計算完全不同！未來應(yīng)用的展望A多目標(biāo)跟蹤問題模式分類問題解決復(fù)雜系統(tǒng)問題的思

11、路2015/10/9多目標(biāo)跟蹤問題多目標(biāo)跟蹤冋題的本質(zhì)是 對一個隨時間變化的目標(biāo) 集進(jìn)行估計的問題。現(xiàn)有的方法是利用聯(lián)合概 率數(shù)據(jù)關(guān)聯(lián)（JPDA）以及 交互式多模型（IMM）等 方法解決的。隨機集理論為多目標(biāo)跟蹤 問題提出了一個新的思路, 即把目標(biāo)群視為一個隨時 間變化的隨機集（集值隨 機過程），有可能建立一 整套全新的方法。目前正2止牲研究中模式分類問題類別根據(jù)統(tǒng)計結(jié)果，給岀各種特征對類別的可能性測度；由可能性測度計算每個類別的U1QSS函數(shù)（這是一個尚未解決 的難題）；根據(jù)每個類別的mass函數(shù)，再結(jié)合判別準(zhǔn)則（閾值），計算 2。論類結(jié)果。解決復(fù)雜系統(tǒng)問題的思路建立問題的層次結(jié)構(gòu)（兩層、三

12、層，甚至多層）；在每個層次上給出底層對上層的可能性測度（依賴 于歷史數(shù)據(jù)的總結(jié)或統(tǒng)計，需要適應(yīng)的統(tǒng)計推斷方 法）；給出由可能性測度到mass函數(shù)的通用計算方法（這 是一個技術(shù)難點）；研究得到類Bayes規(guī)則的知識更新方法，以便實現(xiàn)在 更高層次上的有效更新（這將是具有革命性的理論 成果）；條件事件代數(shù)仍然是具有挑戰(zhàn)性的研究課題；把基于規(guī)則的模式分類與支持向量機等新的機器學(xué) 習(xí)方法有效結(jié)合，產(chǎn)生更加有效和適應(yīng)范圍更寬的 2015/10/9 方法。Bayes網(wǎng)絡(luò)貝葉斯網(wǎng)絡(luò)是用來表示變量間連接概率的圖形模 式，它提供了一種自然的表示因果信息的方法， 用來發(fā)現(xiàn)數(shù)據(jù)間的潛在關(guān)系。在這個網(wǎng)絡(luò)中，用 節(jié)點表示

13、變量，有向邊表示變量間的依賴關(guān)系。貝葉斯方法以其獨特的不確定性知識表達(dá)形式、 豐富的概率表達(dá)能力、綜合先驗知識的增量學(xué)習(xí) 特性等成為當(dāng)前數(shù)據(jù)挖掘眾多方法中最為引人注 目的焦點之一。2015/10/9#貝葉斯網(wǎng)絡(luò)的應(yīng)用領(lǐng)域輔助智能決策數(shù)據(jù)融合模式識別醫(yī)療診斷文本理解數(shù)據(jù)挖掘2015/10/9例子:“判斷妻子是否在家”問題：假定當(dāng)某甲一個人回家是，在進(jìn)門之前希望 知道妻子是否在家。根據(jù)經(jīng)驗，當(dāng)他妻子離 開家時經(jīng)常把前門的燈打開，但有時候她希 望客人來時也會打開前面的燈。他們還養(yǎng)狗 一只，當(dāng)無人在家時狗被關(guān)在后院，而狗生 病也會被關(guān)在后院。如果狗在后院就可以聽 到狗叫，但有時候也是鄰居的狗叫，邏輯關(guān)

14、 系圖如下：Bayes網(wǎng)絡(luò)的建隹貝葉斯網(wǎng)絡(luò)的建構(gòu)及建立方法貝葉斯網(wǎng)絡(luò)是表示變量間概率依賴關(guān)系 的有向無環(huán)圖，這里每個節(jié)點表示領(lǐng)域變量, 每條邊表示變量間的概率依賴關(guān)系，同時對 每個節(jié)點都對應(yīng)著一個條件概率分布表 (CPT),指明了該變量與父節(jié)點之間概率依 賴的數(shù)量關(guān)系。Bay es網(wǎng)絡(luò)構(gòu)造限制條件:1. 獨立性假設(shè)；2. 致性概率；單連接網(wǎng)絡(luò);2015/10/930p(a) = 0.15p(b) 0.012015/10/9p(a) = 0.15p(b) 0.01前門燈亮(c)p(cla) = 060 p(c I a) = 0.05p(幺 I )= 0.70p(幺丨 )= 0.01“判斷妻子是否

15、在家”問題的bayes網(wǎng)絡(luò)圖妻子外出(a)狗生病(b)狗在后院(d)p(d I a.b) = 0.99 p(d I a,b) = 0.90 p(d I a,b) = 0.97 pd I a.b) = 0.03聽見狗叫(e)2015/10/92015/10/9例：考慮圖37J的bayes網(wǎng)絡(luò)，假定我們 已經(jīng)知道“妻子外岀并聽見狗叫”，問 “狗在后院”的后驗概率是多少？p(ba,e)=p(d I a)p(e I d)p(d I a)p(e I d) + p(d I a)p(e I d)= 0.998431例考慮圖37J的bayes網(wǎng)絡(luò)，假定 我們已經(jīng)知道“妻子外岀并已知狗 售導(dǎo)院，問“狗生病”的后

16、驗概率 是多少？p(b a,d) =P(dgb)p(b) _IQ, b)p(b) + p(d a,b)p(b) = 0.0112015/10/9目標(biāo)跟蹤方法涉及的基本問題目標(biāo)跟蹤的定義：A所謂目標(biāo)跟蹤，可以簡單地定義為對連續(xù)的視 頻序列中的目標(biāo)維持一條航跡，進(jìn)而獲得目標(biāo) 的位置、速度等運動參數(shù)，以及形狀、大小、 顏色等對后續(xù)目標(biāo)分析與理解非常重要的測量 信息。多幀連續(xù)圖像目標(biāo)跟蹤器。運動目標(biāo)跟蹤在工業(yè)過程控制、醫(yī)學(xué)研究、交通監(jiān)視、自動 導(dǎo)航、天文觀測等領(lǐng)域有重要的實用價值。尤其在軍事上， 目標(biāo)跟蹤技術(shù)已被成功地用于武器的成像制導(dǎo)、軍事偵察和 監(jiān)視方面。運動目標(biāo)跟蹤的目的就是通過對傳感器拍攝到的

17、圖像序列進(jìn) 行分析，計算出目標(biāo)在每幀圖像上的位置，給出目標(biāo)速度的 估計。可靠性和精度是跟蹤過程的兩個重要指標(biāo)。遠(yuǎn)距離，目標(biāo)面積較小、機動性不強，通常采用濾波方法跟 蹤目標(biāo)以提咼跟蹤精度。近距離，目標(biāo)具有一定面積其幀間抖動較大時，一般采用口質(zhì)心跟蹤或匹配跟蹤方法以保持跟蹤的穩(wěn)定性和精度。實例1:弱小點目標(biāo)的跟蹤實例弱小點目標(biāo)跟蹤實例實例2：姿態(tài)變化的人臉跟蹤實例人臉跟蹤實例實例3： F-22戰(zhàn)斗機的目標(biāo)跟蹤系統(tǒng)實例4：智能監(jiān)控系統(tǒng)實例5: Vizi Arena電視直播系統(tǒng)目標(biāo)跟蹤問題的描述A怎樣表示(Representation)被跟蹤的目標(biāo)？A選擇哪些特征(Feature)作為跟蹤輸入？A使用

18、什么模型(Model)對目標(biāo)的運動、特征及 形狀進(jìn)行跟蹤？、目標(biāo)跟蹤的表示方法:（a）質(zhì)心表示，（b）特征點集表示，（c）矩形框表示，（d）橢圓框表示，（e）關(guān)節(jié)模型 表示，（f）輪廓表示，仗）側(cè)影表示，（h）骨架模型痕示在圖像中用一個點（圖a）或點集（圖b）來表示被 跟蹤目標(biāo)，這些點一般取為目標(biāo)的質(zhì)心、角點等。這種表 示方式通常使用在目標(biāo)區(qū)域相對整個圖像比較小或者目標(biāo) 為只有幾個到十幾個像素的點目標(biāo)的情況下。A基本幾何形狀表示:目標(biāo)被表示為一個矩形區(qū)域（圖c）或橢區(qū)域（圖d）,這種表示法可以描述目標(biāo)的平移、仿射變換或者投 影變換，并且對剛體和非剛體目標(biāo)都可以表示。A關(guān)節(jié)模型表示:當(dāng)目標(biāo)可以認(rèn)

19、為是由各個部位通過結(jié)點銜接到一起的時 候，就可以用關(guān)節(jié)模型來表示（圖e）,而各個部位則可以用 幾何形狀來表示。輪廓表示：目標(biāo)的外邊界稱為輪廓（圖f）,而輪廓內(nèi)的區(qū)域被稱為 側(cè)影（圖g）,它們都可以用來表示復(fù)雜的非剛體目標(biāo)。A骨架模型表示:目標(biāo)骨架（圖h）可以通過對側(cè)影的中軸變換得到。骨架模 型通常可以表示關(guān)節(jié)模型目標(biāo)和非剛體目標(biāo)。、目標(biāo)特征的選擇:顏色特征：顏色特征是一種全局特征，描述了目標(biāo)的表面性質(zhì)。一 般顏色特征是基于像素點的特征，此時所有屬于目標(biāo)區(qū)域的 像素都有各自的貢獻(xiàn)。優(yōu)點：顏色直方圖是最常用的表達(dá)顏色特征的方法，不受圖 像旋轉(zhuǎn)和平移變化的影響，進(jìn)一步借助歸一化還可不受尺度 變化的影

20、響。缺點：沒有表達(dá)出顏色空間分布的信息，對光照變化非常敏 感，而且由于顏色對圖像或圖像區(qū)域的方向、大小等變化不 敏感，所以不能很好地捕捉目標(biāo)的局部特征。常用方法：主要的顏色特征包括顏色直方圖、顏色矩、顏色 聚合向量等。邊緣特征：目標(biāo)邊緣通常代表強度變化較大的像素點。優(yōu)點：邊緣特征的抗光照變化能力強。缺點：具有較大形變的目標(biāo)的邊緣特征不穩(wěn)定；邊緣特征 空間的相似性與人視覺系統(tǒng)感受到的相似性往往有差別； 而且，從2D圖像中反映出來的形狀常不是3D物體真實的形 狀；由于視點的變化可能會產(chǎn)生各種失真等等，這些問題 還需要進(jìn)一步研究解決。常用方法：Canny算子、SobeI算子。紋理特征：與顏色特征不同

21、，紋理特征不是基于像素點的特征，它 需要一個額外的在包含多個像素點的區(qū)域中進(jìn)行統(tǒng)計計算的 過程。在模式匹配中，這種區(qū)域性的特征具有較大的優(yōu)越性, 不會由于局部的偏差而無法匹配成功。優(yōu)點：作為一種統(tǒng)計特征，紋理特征常具有旋轉(zhuǎn)不變性，并 且對于噪聲有較強的抵抗能力。缺點：當(dāng)圖像的分辨率變化的時候，所計算出來的紋理可能 會有較大偏差；另外，由于有可能受到光照、反射情況的影 響，從2D圖像中反映出來的紋理不一定是3D物體表面的真實 紋理。 常用方法：共生矩陣、SI FT (Scale-Invariant Feature Transform) 算子、小波特征等。光流特征：光流特征是一個區(qū)域內(nèi)的像素幀間偏

22、移量的密集場，它 是基于亮度恒常這個基本假設(shè)的。0優(yōu)點：對基于運動的跟蹤效果好。缺點：計算速度慢、對光照變化敏感的缺點。0 常用方法：LucasKanada法等。機動目標(biāo)跟蹤方法的分類電視跟蹤系統(tǒng)中，采用的機動目標(biāo)跟蹤方法主要分為空間跟 蹤與時間-空間跟蹤兩種。空間跟蹤單獨對每幀圖像信號進(jìn)行處理，利用目標(biāo)信號在2-D 空間中的特征跟蹤運動目標(biāo)。它又分為對比度跟蹤和圖像相 關(guān)跟蹤兩類。對比度跟蹤：利用目標(biāo)與背景景物在對比度上的差異來識別 和提取目標(biāo)信號，實現(xiàn)對目標(biāo)的自動跟蹤。依跟蹤參考點的 不同，又分為：邊緣跟蹤，形心（矩心、重心）跟蹤，峰值 （點）跟蹤等。圖像相關(guān)跟蹤：通過計算目標(biāo)模板與圖像的

23、相關(guān)曲線， 得出目標(biāo)的當(dāng)前位置?？臻g跟蹤方法僅適合于跟蹤簡單 背景中的目標(biāo)或背景變化緩慢而目標(biāo)又無明顯姿態(tài)變化 的情況。時間-空間跟蹤方法除利用目標(biāo)信號在空間域的特征外, 同時也利用了它在時間域的運動特征。實現(xiàn)時間-空間跟蹤的途徑主要有四種：能量累積方法, 運動估計方法，基于神經(jīng)網(wǎng)絡(luò)的方法，基于小波變換的 方法。常用的目標(biāo)跟蹤方法波門跟蹤0形心跟蹤0邊緣跟蹤。相關(guān)模板跟蹤0多目標(biāo)跟蹤及編號維持、竺o軌跡預(yù)測和記憶跟蹤算法（Kalman、粒子濾波等）?；谀Ｊ阶R別及特征分類的目標(biāo)跟蹤方法（在線學(xué)習(xí)的跟蹤方法、離線學(xué)習(xí)的跟蹤方法）多目標(biāo)跟蹤時的編號維持問題存在交叉、相遇、分離和遮擋的多目標(biāo)跟蹤利用顏色特征提取來克服遮擋的實驗:基于特征匹配的傳統(tǒng)跟蹤方法的跟蹤結(jié)果缺點:(1)目標(biāo)發(fā)生遮擋時，基于特征的方法只能將兩個目標(biāo)看作一個 整體來保持跟蹤，在遮擋結(jié)束時再采用模板匹配等方法，重 新恢復(fù)目標(biāo)在遮擋前的標(biāo)記。(2)無法確認(rèn)兩個目標(biāo)在遮擋時的具體情況。同時如果目標(biāo)合并的時間過長，目標(biāo)特征與合并前相比較發(fā)生顯著變化，則可 能無法正確的恢復(fù)目標(biāo)在遮擋前的標(biāo)記。(a)目標(biāo)發(fā)生相互遮擋時的運動區(qū)域(b)當(dāng)前區(qū)域的主要顏色塊(c)目標(biāo)顏色塊