數(shù)字圖像第9章

1、l91 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 l92 集群分類集群分類 l93 其他分類方法其他分類方法 l統(tǒng)計(jì)模式識(shí)別和句法統(tǒng)計(jì)模式識(shí)別和句法( (結(jié)構(gòu)結(jié)構(gòu)) )模式識(shí)別模式識(shí)別統(tǒng)計(jì)模式識(shí)別：根據(jù)統(tǒng)計(jì)規(guī)律進(jìn)行推測(cè)、判斷統(tǒng)計(jì)模式識(shí)別：根據(jù)統(tǒng)計(jì)規(guī)律進(jìn)行推測(cè)、判斷句法模式識(shí)別：按照句法分析方法進(jìn)行判別句法模式識(shí)別：按照句法分析方法進(jìn)行判別l有監(jiān)督分類和無監(jiān)督分類有監(jiān)督分類和無監(jiān)督分類有監(jiān)督分類：有已知訓(xùn)練樣本，要通過學(xué)習(xí)有監(jiān)督分類：有已知訓(xùn)練樣本，要通過學(xué)習(xí)無監(jiān)督分類：沒有已知樣本，基于物以類聚來分類無監(jiān)督分類：沒有已知樣本，基于物以類聚來分類l參數(shù)和非參數(shù)方法參數(shù)和非參數(shù)方法參數(shù)方法：可知函數(shù)形式，只要求出

2、其參數(shù)參數(shù)方法：可知函數(shù)形式，只要求出其參數(shù)非參數(shù)方法：沒有函數(shù)形式，通常用鄰近方法判斷非參數(shù)方法：沒有函數(shù)形式，通常用鄰近方法判斷l(xiāng)911 統(tǒng)計(jì)模式識(shí)別的基本概念統(tǒng)計(jì)模式識(shí)別的基本概念 l912 判別函數(shù)方法判別函數(shù)方法 l913 貝葉斯貝葉斯(Bayes)分類器分類器 l914 基于統(tǒng)計(jì)模式識(shí)別的遙感圖象分基于統(tǒng)計(jì)模式識(shí)別的遙感圖象分類類 l模式模式 物體較抽象的特征和描述物體較抽象的特征和描述l特征，特征矢量，特征空間特征，特征矢量，特征空間l模式分類模式分類 N N 維特征空間的劃分維特征空間的劃分將特征空間劃分成將特征空間劃分成 M M 個(gè)子空間個(gè)子空間各個(gè)類別均有它的樣本集合，樣本

3、有各個(gè)類別均有它的樣本集合，樣本有 N N 維特征。維特征。 每個(gè)樣本是每個(gè)樣本是 N N 維特征空間中的某一點(diǎn)。維特征空間中的某一點(diǎn)。分類是將全部樣本集合劃分成分類是將全部樣本集合劃分成 M M 個(gè)子集，個(gè)子集，也就是將也就是將 N N 維特征空間分成維特征空間分成 M M 個(gè)子空間。個(gè)子空間。TNxxxx),(21),(21M對(duì)一組給定的樣本集合，找出其最佳的類判決對(duì)一組給定的樣本集合，找出其最佳的類判決函數(shù)函數(shù) ，作如下判決：作如下判決： 對(duì)于對(duì)于 有有 則作判決則作判決（表示屬于第（表示屬于第 i i 類）類）是是 N N 維矢量，維矢量， 表示類別，表示類別， i=1,2,M i=1

4、,2,M 。ji )()(xDxDjiixxiiDl線性判別函數(shù)線性判別函數(shù)l最小距離分類最小距離分類l分段線性判別函數(shù)（最近鄰域分類）分段線性判別函數(shù)（最近鄰域分類）lBayesBayes分類分類l集群方法集群方法l模糊分類模糊分類l人工神經(jīng)網(wǎng)絡(luò)方法人工神經(jīng)網(wǎng)絡(luò)方法 若若 則則Mi, 2 , 112211)(NiNiNiiiaxaxaxaxDxAxDii)(0)(xDiixD1(x)D2(x)D3(x)X2X1213xAxDijij)(判決函數(shù)：判決函數(shù)： 是權(quán)系數(shù)矩陣。是權(quán)系數(shù)矩陣。若對(duì)于所有的若對(duì)于所有的有有則判決則判決ijAji 0)(xDijix)()()(xDxDxDjiijD23

5、13X2X12D13D12令各類的重心（參考矢量）為令各類的重心（參考矢量）為對(duì)于輸入樣本，若距離對(duì)于輸入樣本，若距離 則則 舍去與類別無關(guān)的項(xiàng)，舍去與類別無關(guān)的項(xiàng)，可以得到以下判決函數(shù)可以得到以下判決函數(shù)：MRRR,21miniRxixiTiTiiTiRRxRRxxD)( R R1 R R3 X2 X1 R R2 x x 2 1 ijiRxxd min)(iNj, 2 , 1i判別函數(shù)判別函數(shù) 為為 類的一組點(diǎn)集。類的一組點(diǎn)集。判別函數(shù)可以取不同的形式，判別函數(shù)可以取不同的形式，比如：高次多項(xiàng)式，比如：高次多項(xiàng)式， 分段定義，分段定義， 貝葉斯分類器以概率統(tǒng)計(jì)理論為基礎(chǔ)，貝葉斯分類器以概率統(tǒng)

6、計(jì)理論為基礎(chǔ)，以最小分類誤差為準(zhǔn)則，導(dǎo)出分類判決以最小分類誤差為準(zhǔn)則，導(dǎo)出分類判決的準(zhǔn)則。的準(zhǔn)則。l1 1、分類準(zhǔn)則、分類準(zhǔn)則l2 2、實(shí)際使用中確定判決函數(shù)的一般方法、實(shí)際使用中確定判決函數(shù)的一般方法 設(shè)設(shè) “ “模式樣本在某個(gè)類別中出現(xiàn)模式樣本在某個(gè)類別中出現(xiàn)” “把樣本判決為屬于某一類把樣本判決為屬于某一類” ” 互為獨(dú)立事件。互為獨(dú)立事件。 令令 為第為第 i i 類概率密度函數(shù)，類概率密度函數(shù)， 為條件概率密度函數(shù)，為條件概率密度函數(shù)，由最佳判決規(guī)則可以導(dǎo)出由最佳判決規(guī)則可以導(dǎo)出BayesBayes分類的判決函數(shù)分類的判決函數(shù): :)/(ixp)/()()(iiixppxD)(ip設(shè)

7、模式的概率密度函數(shù)是正態(tài)分布設(shè)模式的概率密度函數(shù)是正態(tài)分布, , 為：為：)/(ixp)()(21exp|)2(112/12/iiTiinmxCmxC其中其中 是均值，是均值， 是協(xié)方差矩陣。是協(xié)方差矩陣。常取正態(tài)分布的的對(duì)數(shù)作為判決函數(shù)：常取正態(tài)分布的的對(duì)數(shù)作為判決函數(shù)：除去那些與類別沒有關(guān)系的常數(shù)項(xiàng)，可得：除去那些與類別沒有關(guān)系的常數(shù)項(xiàng)，可得：imiCMi, 2 , 1)()(21|ln21)2ln(2)(ln)()/(ln)(1iiTiiiiiimxCmxCnPPxPxD)()(21|ln21)(ln)(1iiTiiiimxCmxCPxD132,23,13,22,212108,99,89

8、,98,97251111YEm954122YEm10551425111)1()1(1TTmmxxEc10551425122)2()2(2TTmmxxEc21ccc1455102351c令令iTiiTiimcmmcxcpxD1121ln21)(ln)(23371231952316021)(21111111xxmcmmcxxDTT236361238352363521)(21212212xxmcmmcxxDTT0)()(21xDxD4 . 974. 012xx由由得得)()(21|ln21)(ln)(1iiTiiiimxCmxCPxDl1. 1. 遙感簡(jiǎn)介遙感簡(jiǎn)介l2. 2. 遙感圖象分類遙感圖象分

9、類l遙感是一門研究電磁波輻射與地球表面物遙感是一門研究電磁波輻射與地球表面物質(zhì)相互作用的機(jī)理和過程的科學(xué)。質(zhì)相互作用的機(jī)理和過程的科學(xué)。l初期，遙感僅作為一種探測(cè)地球資源的技初期，遙感僅作為一種探測(cè)地球資源的技術(shù)手段?，F(xiàn)在，在信息系統(tǒng)技術(shù)支持下，術(shù)手段?，F(xiàn)在，在信息系統(tǒng)技術(shù)支持下，獲得了十分廣泛的應(yīng)用，有很廣闊的發(fā)展獲得了十分廣泛的應(yīng)用，有很廣闊的發(fā)展前景。前景。l遙感是一個(gè)綜合的技術(shù)學(xué)科領(lǐng)域。它是遙感是一個(gè)綜合的技術(shù)學(xué)科領(lǐng)域。它是多種學(xué)科相互交叉、滲透的結(jié)果。多種學(xué)科相互交叉、滲透的結(jié)果。l把地表、地物作為研究對(duì)象，在時(shí)空的把地表、地物作為研究對(duì)象，在時(shí)空的不同尺度上研究它的各要素及其相互作

10、不同尺度上研究它的各要素及其相互作用。利用遙感技術(shù)獲得各種電磁波譜作用。利用遙感技術(shù)獲得各種電磁波譜作用于地物的信息，通過處理和分析，得用于地物的信息，通過處理和分析，得到定性和定量的結(jié)果。到定性和定量的結(jié)果。航空遙感航空遙感航天遙感航天遙感陸地衛(wèi)星陸地衛(wèi)星氣象衛(wèi)星氣象衛(wèi)星軍事衛(wèi)星軍事衛(wèi)星微小衛(wèi)星微小衛(wèi)星攝影機(jī)攝影機(jī) 雷達(dá)雷達(dá)攝像機(jī)攝像機(jī)多光譜掃描儀多光譜掃描儀成象光譜儀成象光譜儀微波輻射計(jì)微波輻射計(jì)輻射源方式輻射源方式主動(dòng)式，被動(dòng)式主動(dòng)式，被動(dòng)式遙感遙感成像方式成像方式攝影式，非攝影式攝影式，非攝影式遙感遙感光譜方式光譜方式可見光，多光譜可見光，多光譜遙感遙感紅外，微波，紫外紅外，微波，紫外

11、遙感遙感l(wèi)Landset 多光譜掃描儀（多光譜掃描儀（MSS） 47 專題掃描儀（專題掃描儀（TM）lSPOT(Systeme Probatoire dObservation de la Terre) 14高分辨遙感器（高分辨遙感器（HRV）lERS, CBERS, JERSlRadarset雷達(dá)雷達(dá)lNOAA高分辨輻射計(jì)（高分辨輻射計(jì)（AVHRR)lIKONOSlSPIN-2L （Synthesize Aperture Radar) 全天候工作，一定的穿透能力，多極化方式等。全天候工作，一定的穿透能力，多極化方式等。 （Image Spectrometer) 極多的波段，光譜分辨率高，數(shù)據(jù)率

12、高。極多的波段，光譜分辨率高，數(shù)據(jù)率高。 衛(wèi)星體積小，重量在衛(wèi)星體積小，重量在500kg以下，軌道高度低于以下，軌道高度低于500Km。 多衛(wèi)星組網(wǎng)，互為補(bǔ)充，功能更強(qiáng)，抗毀能力強(qiáng)。多衛(wèi)星組網(wǎng)，互為補(bǔ)充，功能更強(qiáng)，抗毀能力強(qiáng)。1）特征抽?。┨卣鞒槿∽蛹x擇子集選擇組合特征組合特征篩選特征篩選特征2）分類判決）分類判決訓(xùn)練訓(xùn)練 分級(jí)判決分級(jí)判決 誤差分析誤差分析歸一化差異歸一化差異植被植被指數(shù)指數(shù)NDVI (Normalized Difference Vegetation Index) NDVI=(IRR) / (IRR)歸一化差異水體指數(shù)歸一化差異水體指數(shù) NDWI (Normalized D

13、ifference Water Index) NDWI= (GNIR) / (GNIR)222121D多維特征空間兩類的分離程度可以通過投影多維特征空間兩類的分離程度可以通過投影到一維特征空間的方法來獲得。到一維特征空間的方法來獲得。Fisher判據(jù)表明特征空間兩個(gè)類的分離程度，判據(jù)表明特征空間兩個(gè)類的分離程度，可以作為鑒別特征性能的度量?？梢宰鳛殍b別特征性能的度量。設(shè)各類分布為正態(tài)分布，一維特征空間中反設(shè)各類分布為正態(tài)分布，一維特征空間中反映兩類的分離程度映兩類的分離程度Fisher判據(jù)為：判據(jù)為：CH5CH8, CH10, CH13CH7, CH13CH7, CH8 鏡面 雪 雪 雪 雪

14、雪 反射 1 2 3 4 5作 樹 水物作 樹 水 鏡面 雪 雪 雪 雪 雪物 反射 1 2 3 4 5雪 雪 雪 1 2 3雪 3雪 1雪 2雪 5雪 4鏡面反射作物樹水疊合光譜圖疊合光譜圖l921 簡(jiǎn)單集群方法簡(jiǎn)單集群方法 l922 K-mean 方法方法 1 1）確定分類半徑，隨機(jī)取一點(diǎn)，作為第一類的中心；）確定分類半徑，隨機(jī)取一點(diǎn)，作為第一類的中心；2 2）對(duì)一個(gè)待分點(diǎn)，計(jì)算與中心點(diǎn)的距離）對(duì)一個(gè)待分點(diǎn)，計(jì)算與中心點(diǎn)的距離 d d1 1 ， 如果如果 d d1 1 T T 將該點(diǎn)分為這一類，將該點(diǎn)分為這一類， 如果如果 d d1 1 T T 該點(diǎn)則為另外一新類，該點(diǎn)則為另外一新類，且將

15、該點(diǎn)作為新一類的中心；且將該點(diǎn)作為新一類的中心；3 3）如同第二步，對(duì)每一個(gè)待分點(diǎn)，計(jì)算它與各類中心的）如同第二步，對(duì)每一個(gè)待分點(diǎn)，計(jì)算它與各類中心的距離距離 d di i ， 若若 d di i T T 將該點(diǎn)分給最靠近的那一類，將該點(diǎn)分給最靠近的那一類， 否則，取該點(diǎn)為新一類的中心；否則，取該點(diǎn)為新一類的中心；4 4）重復(fù)第步，直到所有的點(diǎn)分完。）重復(fù)第步，直到所有的點(diǎn)分完。1 1）選擇個(gè)初始分類中心）選擇個(gè)初始分類中心 ；2 2）使用最小距離法將所有樣本分類：）使用最小距離法將所有樣本分類：若若 則將則將 分為第分為第 i i 類類 ；3 3）根據(jù)第）根據(jù)第2 2步的分類結(jié)果，重新計(jì)算各

16、類重心，步的分類結(jié)果，重新計(jì)算各類重心，并將此作為各類新的中心；并將此作為各類新的中心；4 4）反復(fù)進(jìn)行）反復(fù)進(jìn)行2 2、3 3步，直到各類中心趨于穩(wěn)定。步，直到各類中心趨于穩(wěn)定。KZZZ,21| |ijxzxzxilK-mean算法需要預(yù)先確定類別的數(shù)目，最好有算法需要預(yù)先確定類別的數(shù)目，最好有一些先驗(yàn)知識(shí)。一些先驗(yàn)知識(shí)。l其分類結(jié)果基本不受分類中心的影響。其分類結(jié)果基本不受分類中心的影響。l分類的準(zhǔn)確性仍與各類分布情況有關(guān)。分類的準(zhǔn)確性仍與各類分布情況有關(guān)。l設(shè)定合理的條件，可以獲得更好的結(jié)果。如：先設(shè)定合理的條件，可以獲得更好的結(jié)果。如：先暫定一類別數(shù)，在聚類中心過于分散時(shí)，增加類暫定一

17、類別數(shù)，在聚類中心過于分散時(shí)，增加類別數(shù)，反之減少類別數(shù)。別數(shù)，反之減少類別數(shù)。l931 模糊聚類模糊聚類 l932 人工神經(jīng)網(wǎng)絡(luò)方法人工神經(jīng)網(wǎng)絡(luò)方法 模糊模糊ISODATA算法算法（Iterative Self Organizing Data Analysis Techniques A）將將N維特征空間的樣本集合分為維特征空間的樣本集合分為K類一般步驟：類一般步驟：）選一初始模糊分類矩陣）選一初始模糊分類矩陣 M M； ( (公式見后）公式見后）計(jì)算個(gè)模糊聚類中心）計(jì)算個(gè)模糊聚類中心 j=1,2,Kj=1,2,K；）修改分類矩陣）修改分類矩陣M M；）重復(fù)步驟）重復(fù)步驟2 2和和3 3，直到

18、各類中心趨于穩(wěn)定。，直到各類中心趨于穩(wěn)定。LiLimijimijjxZ11)()(1 1）初始模糊分類矩陣：）初始模糊分類矩陣：2 2）計(jì)算個(gè)模糊聚類中心：）計(jì)算個(gè)模糊聚類中心：3 3）修改分類矩陣：）修改分類矩陣：4）重復(fù)步驟）重復(fù)步驟23，直到類中心在給定精度中穩(wěn)定。，直到類中心在給定精度中穩(wěn)定。jiijZxdnLiijKjijij11011 ,0ijM樣本數(shù)樣本數(shù)類別數(shù)類別數(shù)), 1 ( m)(1112KkmikijijddkiikZxdkikiij010ikdLi, 2 , 11,2,jK有較好的收斂性。初始值的選取對(duì)結(jié)果影響有較好的收斂性。初始值的選取對(duì)結(jié)果影響較小。較小。要先確定所

19、分類別的數(shù)目。最好有一些先驗(yàn)要先確定所分類別的數(shù)目。最好有一些先驗(yàn)知識(shí)，否則先暫定一類別數(shù)，在聚類中心過知識(shí)，否則先暫定一類別數(shù)，在聚類中心過于分散時(shí)，增加類別數(shù)，反之減少類別數(shù)。于分散時(shí)，增加類別數(shù)，反之減少類別數(shù)。樣本點(diǎn)多，特征數(shù)多時(shí)，運(yùn)算速度較慢。樣本點(diǎn)多，特征數(shù)多時(shí)，運(yùn)算速度較慢。l人工神經(jīng)網(wǎng)絡(luò)方法是從生物的神經(jīng)系統(tǒng)得到啟人工神經(jīng)網(wǎng)絡(luò)方法是從生物的神經(jīng)系統(tǒng)得到啟發(fā)，是與傳統(tǒng)方法不同的模式識(shí)別方法。發(fā)，是與傳統(tǒng)方法不同的模式識(shí)別方法。l神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)l處理單元處理單元l網(wǎng)絡(luò)連接網(wǎng)絡(luò)連接l輸入層、隱含層、輸出層輸入層、隱含層、輸出層l處理單元（處理單元（PE)l輸入向量與權(quán)向量相乘輸入向量與權(quán)向量相乘l再將各乘積累加再將各乘積累加l經(jīng)過一激勵(lì)函數(shù)引入非線性變換經(jīng)過一激勵(lì)函數(shù)引入非線性變換處理單元處理單元神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)l在模式識(shí)別中，神經(jīng)網(wǎng)絡(luò)分別輸入各對(duì)象特征向量在模式識(shí)別中，神經(jīng)網(wǎng)絡(luò)分別輸入各對(duì)象特征向量的值，輸出則表明該輸入對(duì)象屬于哪一類的可能性的值，輸出則表明該輸入對(duì)象屬于哪一類的可能性最大。最大。l神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn)：神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn)：關(guān)于問題的知識(shí)不需要很多關(guān)于問題的