模式識別實習報告.docVIP

模式識別上機實習報告一、貝葉斯估計做分類【問題描述】實習題目一：用貝葉斯估計做分類。問題描述：給出試驗區(qū)裸土加水田的tif圖像，要求通過貝葉斯估計算法對房屋、水田及植被進行分類。問題分析：首先通過目視解譯法對圖像進行分類，獲取裸土、水田和植被的DN值，在此基礎上，通過該部分各個類別的面積計算先驗概率，然后帶入公式進行計算，從而對整個圖像進行分類?！灸Ｐ头椒ā颗c分布有關的統(tǒng)計分類方法主要有最大似然/ 貝葉斯分類。最大似然分類是圖像處理中最常用的一種監(jiān)督分類方法,它利用了遙感數(shù)據(jù)的統(tǒng)計特征,假定各類的分布函數(shù)為正態(tài)分布,在多變量空間中形成橢圓或橢球分布,也就是和中個方向上散布情況不同,按正態(tài)分布規(guī)律用最大似然判別規(guī)則進行判決,得到較高準確率的分類結果。否則,用平行六面體或最小距離分類效果會更好?！痉桨冈O計】確定需要分類的地區(qū)和使用的波段和特征分類數(shù),檢查所用各波段或特征分量是否相互已經(jīng)位置配準；根據(jù)已掌握的典型地區(qū)的地面情況,在圖像上選擇訓練區(qū)；計算參數(shù),根據(jù)選出的各類訓練區(qū)的圖像數(shù)據(jù),計算和確定先驗概率；分類,將訓練區(qū)以外的圖像像元逐個逐類代入公式,對于每個像元,分幾類就計算幾次,最后比較大小,選擇最大值得出類別；產(chǎn)生分類圖,給每一類別規(guī)定一個值,如果分10 類,就定每一類分別為1 ,2 10 ,分類后的像元值便用類別值代替,最后得到的分類圖像就是專題圖像. 由于最大灰階值等于類別數(shù),在監(jiān)視器上顯示時需要給各類加上不同的彩色；檢驗結果,如果分類中錯誤較多,需要重新選擇訓練區(qū)再作以上各步,直到結果滿意為止?！窘Y果討論】如圖所示，通過貝葉斯算法，較好地對圖像完成了分類，裸土、植被和水田三個類別清晰地判別出來。在計算先驗概率時，選擇何種數(shù)據(jù)成為困擾我的一個問題。既有ENVI自身提供的精確的先驗概率值，也可以自己通過計算各個類別的面積，從而獲取大致的先驗概率值。最后，在田老師的講解下，我知道了雖然數(shù)據(jù)可能不太精確，但是，計算先驗概率時，總體的傾向是一致的，所以在最后判別時，因此而引起的誤差是微乎其微的，所以，一定要弄清楚算法原理，才能讓自己的每一步工作都有理可循。以上是精度評價，由于目視解譯的效果有瑕疵，再加上計算先驗概率時存在偏差，導致精度只有七十多，有待改善。14二、用Fisher準則判別【問題描述】實習題目二：用Fisher準則進行判別。問題描述：給出試驗區(qū)裸土加水田的tif圖像，要求通過Fisher準則進行分類。問題分析：首先通過目視解譯法對圖像進行分類，獲取植被和非植被的DN值，在此基礎上，通過一系列矩陣求逆等數(shù)學公式的計算，求出可以分開二類樣本的直線，然后在此基礎上從而對整個圖像進行分類?！灸Ｐ头椒ā咳绻诙S空間中一條直線能將兩類樣本分開，或者錯分類很少，則同一類別樣本數(shù)據(jù)在該直線的單位法向量上的投影的絕大多數(shù)都應該超過某一值。而另一類數(shù)據(jù)的投影都應該小于(或絕大多數(shù)都小于)該值，則這條直線就有可能將兩類分開。準則：向量W的方向選擇應能使兩類樣本投影的均值之差盡可能大些，而使類內(nèi)樣本的離散程度盡可能小。這就是Fisher準則函數(shù)的基本思路。評價投影方向W的函數(shù)：=最佳W值的確定：求取使達極大值時的：-的確定：當確定之后，則可按以下規(guī)則分類，【方案設計】考慮Fisher線性判別方法，利用實驗1中程序產(chǎn)生的數(shù)據(jù)（分別在各類樣本數(shù)均為50及500時），計算：1)求解最優(yōu)投影方向W；2)求出表示最優(yōu)投影方向的直線，并且標記出投影后的點在直線上的位置；3)計算投影后的閾值權；4)計算分類器的各類錯誤率及總的平均錯誤率；5)計算按最小錯誤率Bayes決策的錯誤率（設各類先驗概率相同）【結果討論】通過運用三個波段的植被和非植被的DN值，從而獲取Fisher判別的分類直線。首先由于計算時需要運用矩陣求逆等各種公式，這一步困擾了我很久，后來在同學的幫助下，自己對算法不斷改正，初步達到了計算的要求。計算出投影方向和分割閾值后，對圖像進行分類就很輕松了。但是，由于時間的緊迫和自己能力的不足，并沒有再對非植被類完成裸土和水田的分割。運用Fisher準則對多類地物進行分割時，可以將多維降低，從而一步步完成分類，這一思路是需要我在實習結束后好好琢磨并完善的。以上是精度評價，用Fisher判別對植被和非植被進行判別，效果較好。3、 K均值聚類判別【問題描述】實習題目三：用K均值聚類對圖像進行分類。問題描述：給出試驗區(qū)裸土加水田的tif圖像，要求通過K均值聚類算法進行分類。問題分析：首先通過目視解譯法對圖像進行分類，獲取裸土、水田和植被的DN值，在此基礎上，可分為三個聚類中心，將圖像上的每個像素點依次分類到三個聚類中，從而完成對圖像裸土、水田和植被的分類?！灸Ｐ头椒ā縆-均值算法的主要思想是先在需要分類的數(shù)據(jù)中尋找K組數(shù)據(jù)作為初始聚類中心，然后計算其他數(shù)據(jù)距離這三個聚類中心的距離，將數(shù)據(jù)歸入與其距離最近的聚類中心，之后再對這K個聚類的數(shù)據(jù)計算均值，作為新的聚類中心，繼續(xù)以上步驟，直到新的聚類中心與上一次的聚類中心值相等時結束算法?！痉桨冈O計】1、從圖像中隨機選取三個像素點，作為三個簇的各自的中心。2、分別計算剩下的元素到三個簇中心的相異度，將這些元素分別劃歸到相異度最低的簇。3、根據(jù)聚類結果，重新計算三個簇各自的中心，計算方法是取簇中所有元素各自維度的算術平均數(shù)。4、將圖像中全部像素點按照新的中心重新聚類。5、重復第4步，直到每個簇的中心基本不再變化。6、將結果輸出?！窘Y果討論】如圖所示，首先隨機選取三個圖像的像素點作為聚類中心，在一次次根據(jù)距離判斷分類后，最后得到三個聚類中心就分別是植被、水田和裸土。在這樣的基礎上，對圖像上每個像素點的DN值進行判斷，再根據(jù)劃分的聚類中心將其歸類，最后將圖像分成三類，較好地達到了既定目的。以上是精度評價，由于K均值聚類中心較為簡單，所以評價精度較高，達到了既定目的。總結通過本次上機，我對模式識別這門課程有了更深層次的理解。首先是學習并使用Envi,對這個圖像處理軟件有了初步的掌握。在目視解譯時，由于經(jīng)驗不足，錯誤率較高，以后有待加強。在設計算法時，由于寫代碼的能力不是很強，所以一些關鍵代碼無法寫出來，只能夠簡單化處理，勉強達到題目的要求。但是，在短短的幾次上機中，我收獲了很多知識，Bayes二類判別，F(xiàn)isher判別準則，K均值聚類分析，對這些算法的思路有所了解并加以應用，獲益良多。遇到問題時，在同學、學長和老師的幫助下，我一步步攻堅克難，最終完成了老師的要求，比較滿意。先說說最大似然估計和貝葉斯估計：這兩種方法的前提條件是各類別的條件概率密度的形式已知，而參數(shù)類未知。在此情況下，對現(xiàn)有的樣本進行參數(shù)估計。參數(shù)估計在統(tǒng)計學中是很經(jīng)典的算法，而最大似然估計和貝葉斯估計也是參數(shù)估計中常用的方法。最大似然估計是把待估參數(shù)看作確定性的量，只是其取值未知，最大似然估計方法所尋找的是能最好解釋訓練樣本的那個參數(shù)值，貝葉斯估計把待估參數(shù)看作是符合某種先驗概率分布的隨機變量，而訓練樣本的作用就是把先驗概率轉(zhuǎn)化為后驗概率。實際生活中，用的更多的還是最大似然估計，因為此方法更容易實現(xiàn)，而且樣本數(shù)據(jù)充足的情況下，得到的分類器效果比較好。再說說Fisher判別分析法：Fisher判別分析法的基本原理是將多維空間樣本點分布的圖像投影到二維或者一維，投影方向選擇的原則是