基于混合模型遙感影像分類方法研究

ofGeosciencesfortheMasterDegreeofRemoteSensingforNaturalResourcesandEnvironmentMethodsofRemoteSensingImageClassificationBasedonGaussianMixtureModel Major：RemoteSensingforNaturalResourcesandChinaUniversityofGeosciencesWuhan430074P.R.China中國地質(zhì)大學(xué)（ 性本人鄭重：本人所呈交的 《基于高斯混合模學(xué)（）攻讀期間獨(dú)立進(jìn)行研究工作所取得的成果。論文中除已注明部分外不包含他人已或撰寫過的研究成果，對論文的完成提供過幫助的有關(guān)已在文中說明并致以謝意。本人所呈交的沒有學(xué)術(shù)道德和學(xué)術(shù)規(guī)范，沒有行為，并愿意承擔(dān)由此而產(chǎn)生的和法律。作者簽 期：2014年5月18考入中國地質(zhì)大學(xué)（）信息，2011年7月獲得遙感科學(xué)與技術(shù)學(xué)位；2011年9月免試保送到中國地質(zhì)大學(xué)（）信息，攻讀資源與環(huán)境遙感學(xué)術(shù)，師從吳信才教授。研究、英語(含、閱讀、翻譯)等15門課程；總學(xué)分28.5分，其中學(xué)位課學(xué)分18分，課程平均成績83.65分。中國博士后科學(xué)基金（49批）“基于云模型的高分辨率遙感影像類算法研究，參與《基于高斯混合模型的云變換改進(jìn)算法及其在圖像分割中的應(yīng)用》大學(xué)學(xué)報(bào)（信息科學(xué)版）的撰寫（第四）；教育部GIS及其應(yīng)用工程開放基金，課題“基于云模糊的遙感圖分割研究，參與《泛概念層次構(gòu)建方法及其在遙感圖像分類中的應(yīng)用》大學(xué)學(xué)報(bào)（信息科學(xué)版）的撰寫（第四）。期間注重實(shí)踐，2010年10月2011年5月，2012年1月2013年月于中地?cái)?shù)碼科技（國家地理信息系統(tǒng)（GI）工程技術(shù)產(chǎn)業(yè)化單位）科技發(fā)展實(shí)習(xí)，任行業(yè)技術(shù)研究員一職，主要參與工作如書及可行性報(bào)告中GIS發(fā)展行業(yè)分析編寫；參與“管理技術(shù)系統(tǒng)MapGIS模塊開發(fā)與完善”項(xiàng)目，主要參與“地質(zhì)信息網(wǎng)格平臺(tái)框架功能完善與生產(chǎn)調(diào)度指揮模塊開發(fā)”項(xiàng)目，主要負(fù)責(zé)2013年度項(xiàng)目實(shí)施方案的設(shè)計(jì)與編寫；第4章“遙感影像專題解譯與制圖”的編寫；生：指導(dǎo)教師：吳信才徐世武數(shù)進(jìn)行近，如高斯（Gaussian）分布，然而這類參數(shù)化分布密度要求是單峰形式，而實(shí)的概率統(tǒng)計(jì)特性和近特性。分析了高斯混合模型對高維遙感影像數(shù)據(jù)的特征建模和分類感影像分類方法。該方法利用高斯混合模型良好的數(shù)學(xué)性質(zhì)——它可以近任意一種概率MethodsofRemoteSensingImageClassificationBasedonGaussianMixtureModelMasterCandidaiDeng-chaoSupervisor：WuXin-cai Remotesensingimageclassificationisoneofthemostbasicprobleminremotesensingimageinformationprocessing,andremotesensingimageclassificationmethodhasbeenoneofthehotissuespeopletoexploreandresearch.Inthefieldofremotesensingimageclassification,weoftenneedtoknowtheprobabilitydensityfunctionoftheimage.However,theprobabilitydensityfunctionoftheimageisdifficulttoaccuraysolved.Theusualapproachistobeapproachedbyaknowndensityfunction,suchasGaussiandistribution,however,suchparametersofthedistributiondensityofthesinglepeakisrequired,andpracticalproblems,theformmayincludeadensitymultimodal.Gaussianmixturemodelistheclassicaltheoryofstatisticalpatternrecognition,whichisbasedonanormaldistributiontheory,andprobabilityismainlyusedtodescribethespatialdistributioncharacteristicsoftheobject.ItusesapluralityofGaussdistributionoflinearsuperposition,andaprobabilitydensitymodelis posedintoamodelbasedonGaussianprobabilitydensityfunctionofanumberofsuperimposed.Gaussianmixturemodel-basedapproachhastheformofaflexible,recognitionspeed,stronganti-interferenceability,highrecognitionaccuracy,etc.,inmanyareasofimageprocessinghasbeenwidelyused.ThispapermainlystudiestheGaussianmixturemodel-basedremotesensingimageclassificationmethod.Inthispapertakesfulladvantageofthedifferencesamongthevariousremotesensingimagefeaturerichspectralcharacteristicsandcolorinformation,andtheprobabilityofGaussianmixturemodelandthestatisticalpropertiesofthesurfacefeaturescharacteristicapproach.ItyzestheGaussianmixturemodelforremotesensingimagedataofhighdimensionalfeaturemodelingandclassificationmethods,Gaussianmixturemodeltostudytheremotesensingimageclassificationmethodbasedonspectralandtextureinformation.ThispaperisbasedonGaussmixturemodelasthetheoreticalbasis,throughthestudybasicprinciple,mainmethodsofit,putforwardtheGaussmixturemodelbasedon,toobtaintheoptimalnumberofcomponentsfortheGaussobjectsamplespectrumcharacteristicsofadaptive,andcombinedwiththeclassificationmethodofremotesensingimagetexture.ThemethodusesthegoodmathematicalpropertiesoftheGaussmixedmodelItcanapproximate第一章緒 §1.1研究背景和意 §1.2國內(nèi)外研究現(xiàn) §1.4結(jié) §1.5本章小 第二章高斯混合模型與EM算 §2.1有限混合模 §2.2高斯混合模 §2.3EM算 EM算法簡 EM算法的原 K均值初始化EM算法參 §2.5貝葉斯分類準(zhǔn) §2.6本章小 §3.4本章小 §4.2遙感影像的紋理特 第五章總結(jié)與展 §5.1總 §5.2展 致 參考文 附 隨著遙感技術(shù)的發(fā)展，遙感影像分辨率越來越高，數(shù)據(jù)量也迅速增加[1]，使能夠影像的快速發(fā)展更是加深了對自然界的認(rèn)識(shí)。而且遙感影像技術(shù)現(xiàn)已不僅僅在傳統(tǒng)的也在不斷增加和出現(xiàn)，極大地拓寬和豐富了高分辨率遙感影像的應(yīng)用領(lǐng)域。但是的挑將其分為不同類別的一種思路。通過影像分類，可將影像空間數(shù)據(jù)轉(zhuǎn)化成需要的數(shù)據(jù)分類領(lǐng)域，許多研究已獲得眾多研究成果，然而，目前仍缺乏普遍適用的分類模型和不同，它們在圖像上的表現(xiàn)是不一樣的。因此，可以根據(jù)它們的變化和差異來區(qū)分不形式[910]，非常適用有限混合模型理論。該理論通過擬合出所有像元的像素值，得到一個(gè)個(gè)自然框架和半?yún)?shù)框架，在聚類問題中得到很好應(yīng)用[1112]。R.Wilson[13]研究了混合高斯模型在多分辨率遙感影像中的函數(shù)擬合性能。表明有限混合高斯模型能夠高精度近0或正值的黎曼可積函數(shù)，且能近任意精度的概率密度分布函數(shù)，實(shí)例分析結(jié)果也闡述了有斯混合密度函數(shù)強(qiáng)大的擬合近性能。1894年，混合高斯模型開始受到關(guān)注，Day[14]大似然估計(jì)精度比其他幾類估計(jì)算法較優(yōu)。Dempster[15]EM算法，在此之后，混合高EM算法得以實(shí)現(xiàn)，因其優(yōu)越的性能而能在非監(jiān)督分類中得遙感影像分類的研究Shashahni[22]等，對于影像分類問題進(jìn)行研究，并引入法對影像樣本概率在特征空間上的分布形式，沒有苛刻的要求[2123]。馬氏距離分類法考慮機(jī)（SVM、Markov隨機(jī)場分類方法[25]、神經(jīng)網(wǎng)絡(luò)（ANN）的分類方法[26]，基于遺傳算法的分類方法等?；诮y(tǒng)計(jì)學(xué)習(xí)理論的SVM模型，不需對概率分布密度進(jìn)行估計(jì)，且認(rèn)為ANN模型主要基于人類大腦處理信息的方法，模仿人類思考問題的能力，體現(xiàn)了人類大腦的某些特征，是一種對大腦的抽象、提煉。運(yùn)用ANN模型分類遙感影像信息，能減小影像混合概率模型的遙感影像分類方,能的大幅度提高，研究集中于對混合模型參數(shù)采用極大似然法進(jìn)行估算。1977寫特征識(shí)別、生物聚合物中的基序發(fā)現(xiàn)、人臉識(shí)別和等。Jansen和DenNijs[37]使用正作。Rabiner和Juang[39]描述了如何用隱理論識(shí)別孤立數(shù)字，其中，與過的各個(gè)狀態(tài)均有關(guān)聯(lián)的概率密度函數(shù)是正態(tài)混合模型。Revow[40]等對傳統(tǒng)的混合模型盟的或蛋白質(zhì)序列中識(shí)別基序。McKenna[42]等，在人臉識(shí)別研究中標(biāo)識(shí)每個(gè)對象臉部EM算法估計(jì)，再用貝葉斯規(guī)則估計(jì)密混合高斯模型法在影像分割、建立圖像背景和檢測物體運(yùn)動(dòng)特征等方面獲得了較方面的研究主要有，駱劍承[8]基于地物光譜空間的多密度混合分布情況，借助最大期望(expectationization，EM)模型估計(jì)各個(gè)地物類別的概率密度曲線參數(shù)，然而它還QB影像中的建筑，不同建筑類型通過不同子高斯項(xiàng)進(jìn)行表達(dá)，進(jìn)而將建筑劃分為更加精細(xì)的類別，表明混合高斯方法對單個(gè)類別地物分類的可靠性。[45]等用混合高斯理論(Gaussmixturemodel,GMM)表達(dá)每一類地物類別光譜信息，且將其在半監(jiān)督影像分類(semi-supervisedclassification)實(shí)踐中進(jìn)行研究，取得了具有較好的應(yīng)用價(jià)值。[46]等研索當(dāng)中的應(yīng)用。張偉樹[35]研究了高斯混合模型在醫(yī)學(xué)圖像分割中的應(yīng)用。KaiXu[48]等提出GMM的影像分割模型。陳雪峰[49]等探討了圖像高斯混合模型的判別學(xué)習(xí)方法。，[50]研究了雙重高斯混合模型的EM算法的聚類問題研究。任廣波[18]主要研究自適應(yīng)消除概率最小高斯分量數(shù)的方法獲取訓(xùn)練樣本最佳高斯混合分量個(gè)數(shù)，并采用K均體現(xiàn)直方圖的多極值特征，能有效解決影像分類、邊緣分割等問題。EMDempster等人于1977年求參數(shù)極大似然估計(jì)的法。EM模型過程主要有：通過E步和M步構(gòu)成，由最大化不完整數(shù)據(jù)的對數(shù)似然函數(shù)通過迭代來最大化完整數(shù)據(jù)的對數(shù)似然函EM算法，主要是為析，利用K均值算法來初始化混合高斯模型的參數(shù)。技術(shù)EME步（初始化參數(shù)計(jì)算后驗(yàn)概率）MYNYN基于高斯混合模型的遙感影像分自適應(yīng)獲取各地物樣高斯混合模型的最佳高斯分量貝葉遙感影像分分類結(jié)果與精度評EM算法參訓(xùn)練樣本特征選 遙感影像數(shù)1-1技術(shù)路遙感影像數(shù)§1.4結(jié)EM算法，在此基礎(chǔ)上探討了高斯混合模型的初斯混合模型分類。最后分別選取了以TM影像為代表的中分辨率（多光譜）影像和以§1.5本章主要了本文的研究背景與意義，并對該選題的國內(nèi)外研究現(xiàn)狀進(jìn)行了分析比有限混合模型最初由Pearson在1984年提出，在圖像識(shí)別領(lǐng)域中的首次應(yīng)用則是ChhikaraRegister1979年開發(fā)出的第一個(gè)基于有限混合模型的數(shù)字分類系統(tǒng)[51]??(??) ∑ (2?的權(quán)重，且wk>0,k=1,...,N，由歸一化條件，即∑?? ????=1。當(dāng)混合模型中的成分是獨(dú)立的概率分布時(shí)，可以稱之為概率混合模型。把f(x)換P(x)，式(2-1)重寫為下式:P(x)=∑

(2?§2.2論上闡述了產(chǎn)生正態(tài)分布的條件。中心極限定理的比較直觀說明是：如果決定某一隨一種因素可以起到壓倒一切的作用，那么這個(gè)隨量一般近似于正態(tài)分布。簡單來在這種情況下，可以用多個(gè)統(tǒng)計(jì)分布模型的和來達(dá)到較好的擬合效果。高斯混合模型在圖像識(shí)別領(lǐng)域，基于高斯混合模型的方法具有形式靈活、識(shí)別速度快、能力高斯混合模型可表示如下：設(shè)X={X1，X2，…，Xd}T是d維的隨量，x={x1，x2，…，為μi、方差為∑i的高斯分布，則整個(gè)數(shù)據(jù)集的分布可以用高斯混合模型來描述：f(x|θ)=∑????????(??;式中：wi為權(quán)重，且滿足下列條????≥0， ????=1，??={1，…

(2?θ={(wi，ui，Σi)，i=1，2，M}為未知的待估計(jì)的GMM????(x；ui，Σi)為正態(tài)分布，且 ??(??；??，??)=(2??)???/2|??|?1/2exp

(?????)?????1(????? (2? §2.3EMEM算法簡EM算法法稱期望最大化算法。EMDempster，Laind，Rubin1977年提出的求參數(shù)極大似然估計(jì)（MLE）的法。它可以從非完整數(shù)據(jù)集中對參數(shù)進(jìn)行最大似使類內(nèi)相似度盡可能的大，類間相似度盡可能的小。同時(shí)EM算法也是一種迭代算法，主量的參數(shù)向量后進(jìn)行迭代，每一次迭代都能保證似然函數(shù)值增加,并且收斂到一個(gè)局部極EM算法包括兩個(gè)步驟：由EM步組成，它是通過迭代地最大化完整數(shù)據(jù)的對數(shù)似然函數(shù)的期望來最大化不完整數(shù)據(jù)的對數(shù)似然函數(shù)，通過交替使用這兩個(gè)步驟，EM算EM算法的主要目的是提供一個(gè)簡單的迭代算法計(jì)算后驗(yàn)密度函數(shù)。EM算法的原EM算法需要假設(shè)選取樣本符合高斯混合模型，算法目的是求出高斯混合模型各個(gè)正MP(x)iNi(x;i,i

N(x) (2

expd/2

(x)T1(x i

NiP(X|)P(x|)argmaxP(X| （2—i 這里遇到一個(gè)問題，混合高斯分布一共有k個(gè)分布，并且對于每一個(gè)觀察到的x，如果同時(shí)還知道它是屬于k中哪一個(gè)分布的，則求各個(gè)參數(shù)并不是件難事。比如用z來而現(xiàn)實(shí)往往是不知道每個(gè)x屬于哪個(gè)分布，也就是說z是觀察不到的，z是隱藏變 P(X,Z|)logp(xi,zi|)log(iN(xi;zi,zi （2— Q(,old)Ez[logp(X,Z|)|X,old （2—zQ(,old)E[logp(X,Z|)|X,oldz

logp(X,Z|)f(Z|X,oldlogp(X,Z|)p(Z|X,old Nlog(p(x;,))p(Z|X,old z log(p(x;, p(z|x,old z j...Mlog(p(x;,

p(z|x,oldk z11z21Znk

k1

p(x;,))p(k|x,oldM Mlog(k)p(k|xi,old)log(pk(xi;k,k))p(k|xi,oldk1 k1k

1N

p(k|

Nxip(k|xi,oldNknewNp(k|xi,old

p(k|x,old)(xnew)(xnewknew

NNp(k|xi,old

（2—ip(k|x,(i1可由式（2-13）ip(k|x,old)i

p(k,xi|oldp(k|old)p(x|k,oldM （2—Mp(l|old)p(xi|l,oldloldN(x|old,old | , | , oldN l P(X,Z|)logp(xi,zi|)log(iN(xi;zi,zi 關(guān)于條件分布p(Z|X,old的期望Q(,old)E[logp(XZ|)|X,old]M步：M步驟，是將似然函數(shù)最大化以獲得新的參數(shù)值，用new更新old使Q(,oldEM算法的主要目的是提供一個(gè)簡單的迭代算法計(jì)算后驗(yàn)密度函數(shù)，它的最大優(yōu)點(diǎn)是很大。因此，對EM算法初始化參數(shù)的研究具有非常重要的意義[55-58]。K均值初EM算法參KK-Mean算法，是應(yīng)用最為廣泛的聚類算法之一[59]。該算法是一種間接聚類算法，是一種基于樣本間相似性度量聚類方法，以類中各樣本的均值來代表該類，該算法具有十分清晰的幾何意義，但性十分的差。K均值算法通常以類中心與數(shù)據(jù)點(diǎn)之間的距離的總和作為該算法目標(biāo)函數(shù)，如果該算法的目標(biāo)函數(shù)看成為分布?xì)w一化有限混合模型似然對數(shù)，K均值算法則被看成概率模型算法的推廣。影響EM算法迭代效率的穩(wěn)定性的原因之一就是因?yàn)镋M算法常常選取隨機(jī)值，而由于KEM算法用于有限混合模型參數(shù)估計(jì)有一定吻合性，都是一種分類個(gè)數(shù)人為確定的動(dòng)態(tài)迭代算法，故可以通過k均值聚類先給出混EM算法迭NY選擇C個(gè)中心2-1K均值算法框 cc個(gè)類的初對于所有的ij，i=1，2，c如果‖X??(??)‖X???(??)‖，則X???(??)，其中??(??) 以??(??)為中心第三步：由第二步得到??(??)類新的中心 ??(??+1)=

∑

（2?式中：????為??(??)類中的樣本數(shù)。??(??+1)是按照使J最小的原則，J (??)J=∑∑‖X???????=1

（2? 模擬數(shù)值EM算法和KEM算法聚類效果。我2-2模擬數(shù)據(jù)的直方果如表2-1所示：真實(shí)參EM算k均值初始化EM算KEM算法對原始數(shù)據(jù)進(jìn)行聚類后得到的高斯混合EM算法求取的參數(shù)更加精確，由此可以看出經(jīng)過K均值初始化的EM算法的優(yōu)越性。.........設(shè)Ω={ω1,ω2,…,ωc}c個(gè)類別狀態(tài)的有限集合，特征向量Xd維隨機(jī)向量，Bayes法則，后驗(yàn)概率P(ωj|X)就是P(??|X)= （2? P(X)=∑??(??|????)因?yàn)槭街械姆帜窹(X)在做決策時(shí)是不起作用的，所以決策法則可用類條件概率密度P(x|wj)和先驗(yàn)概率P(wj)來表示，決策法則就是：如果P(x|w1)p(w1)>P(x|w2)p(w2)，則決策對于上述（1）P(x|w2)p(w1)，就得到以下的決策法則形式如果l(x)=??(??|??1)>??(??2)，則決策ω1；否則決策ω2 而

如果似然比超過某個(gè)閾值??(??2)，則做決策ω則§2.6EM算法，在此基礎(chǔ)上探討了高斯混合模型的初始化方法，最后介紹了貝葉光譜特征分析來選擇特征參數(shù)，將特征空間劃分為互不的子空間，然后將影像內(nèi)各個(gè)遙感影像分類算法的是確定判別函數(shù)和相應(yīng)的判別準(zhǔn)則，但是在多（高）光譜遙沒有類別的先驗(yàn)知識(shí)的情況下，指定某一準(zhǔn)則讓計(jì)算機(jī)自動(dòng)判別歸類，無需人為，則精度相對偏置精度分析是將分類的類別與其所在的空間位置進(jìn)行檢查來表示精??

1∑ （3? 式中m--分類后的類別數(shù)；

=

（3?式中pii--矩陣中第i列元和

=

（3?中的所有樣本中，其實(shí)測類型卻是也為第i類樣本所占的比例?？傮w的Kappa??∑?????????∑??(??????×K （3???????

(??????×則為極好。Kappa系數(shù)也是評價(jià)分類精度最重要的指標(biāo)。 到不同的類中，由此將待分類的模式集分成若干個(gè)互不的子集；另一類方法主要是定層次聚類算法(HierarchicalClusterMethod)是對給定的數(shù)據(jù)集按照分層的原則構(gòu)成簇，n個(gè)子類開始逐步合并最相似的類以形成一個(gè)新的聚類，直到算法，它是開始于一個(gè)大類，逐步形成n個(gè)類或者滿足某個(gè)終止條件為止。其中代表算法有：BIRCH算法、CURE算法、CHAMELEON算法[61,62]等。劃分聚類算法(PartitioningClusterMethod)是給定一個(gè)有N個(gè)元組或者的數(shù)據(jù)集，基于密度的聚類方法(Density-basedClusterMethod)與其它方法的一個(gè)根本區(qū)別是：它代表算法有：DBSCAN算法、OPTICS算法等?；诰W(wǎng)格的聚類方法(Grid-basedClusterMethod)首先將數(shù)據(jù)空間劃分成為有限個(gè)單元遙感影像的目前的算法大多針對3個(gè)波段以下的圖像，而遙感影像包含了多個(gè)波段，各個(gè)遙感影像中包含的地物類型信息復(fù)雜，且具有豐富的紋理特征，反映了地物的遙感影像地物高斯混合模型分量數(shù)3-1所示；同時(shí)，不同的地物在多個(gè)波段圖像上亮度的呈現(xiàn)規(guī)律也不同。因此，草 林 長湖 圖3-1TM影像樣本直方圖EMk進(jìn)行預(yù)先設(shè)置，然后（i=12k這會(huì)使得擬合效果不夠完美[63]k征的缺陷。自適應(yīng)GMM算法流程如圖3-2所示。NY是去掉概率最小的高斯分3-2自適應(yīng)GMM算法流第一步：在參數(shù)空間Θ中為φ選擇一個(gè)合適的初始值φ0，s=0；k{0????}，N0，N表示自適應(yīng)分類EM算法迭代的次數(shù)。k>=2，N=N+1，同時(shí)進(jìn)行第三步，如果第三步：E_step：通過當(dāng)前估值φ0來計(jì)算輔助函數(shù)????(φ?φ??)=E(??????(φ|x,z))=∫??????p(x,z|φ)f((z|x, （3?第四步：M_step：在參數(shù)空間中是????(φ?φ??)極大化，求??Δ=??z+1∈Θ使????(φ??+1?φ??)=max??(φ, （3?第五步：如果????????(φ??+1????????(φ????2ss1??min?????(φ??+1?φ??)?應(yīng)的??Δ，k遙感影像高斯混合模型非監(jiān)督分或高斯分布的疊加，各個(gè)不同目標(biāo)高斯分布的和構(gòu)成了整幅遙感圖像的高斯混合模型同地物高斯分布的和構(gòu)成了遙感影像的高斯混合模型的表達(dá)，這是基于高斯混合模型建可以按照式2-32-4進(jìn)行。w1=0.27733，w2=0.221045，u1=[102.53336947.00211353.65805865.20373387.892538145.678670u2=[91.95881040.10816738.67356027.00455315.274118136.264998u3=[92.86999740.06450140.64425461.31608062.757961143.6668831

-61.1194431.59507 - 59.306153 - - - ---10.729391-

-----------0.644368 2-

1.2762749.408934

--

-

28.05158416.316378 - 31.61004 --

-

-

-

-

--

37.77094712.944067w1=0.313139，w2=0.165621，w3=0.214719，w4=0.132466，w5=0.174056；u1=[98.12426742.65749745.86893250.98483861.790177145.93405936.181761]；u2=[105.56977449.05485957.66832164.51668493.378610146.125199u3=[91.92685540.13287238.65211526.58247014.608044136.038575u4=[86.93800436.61303434.33277465.68428755.866034141.079671u5=[91.25070140.49663340.53915579.00059279.750904142.433615-7.963961

-4.62 - - -4.62-0.22

-

54.60138522.806226

-

35.59807230.772781 - 238.897032 - - - 6.990197 ------- 11.580489---17.776594 -----9.3539114 45

6.753925----------6.7632675.39943312.855995 -----22.629009-6.394285-38.063402遙感影像高斯混合模型根據(jù)地物特征，采用EM算法確定高斯混合模型的參數(shù)，然后將未知類別的樣本的觀測值§3.4半監(jiān)督半監(jiān)督學(xué)習(xí)研究主要關(guān)注當(dāng)訓(xùn)練數(shù)據(jù)的部分信息缺失的情況下，如何獲得具有良能和推廣能力的學(xué)習(xí)機(jī)器，這里的信息缺失涵蓋數(shù)據(jù)的類別缺失或者存在噪聲，數(shù)據(jù)學(xué)習(xí)樣本，對大量的學(xué)習(xí)樣本做類別的標(biāo)記是一項(xiàng)非常費(fèi)時(shí)的工作；非監(jiān)督學(xué)習(xí)是一標(biāo)記樣本，這樣既減輕了標(biāo)記樣本的工作量，又提供了更高效的分類器,是近年來模式識(shí)（（xlX→Y可以準(zhǔn)確的對樣例x其標(biāo)記y，其中????∈??為d維向量，????∈??為樣例x??的類別標(biāo)方法EME步（初始化參數(shù)計(jì)算后驗(yàn)概率）M3子圖的像元領(lǐng)域，而最大的常見的紋理特征描述和分析方法主要有：直方圖分析aw紋理能量測量法、自相關(guān)函數(shù)分析法、灰度共生矩陣法、傅立葉頻譜分析法、小波分析法、隨機(jī)場分析Law紋理能量測量法的基本思路是設(shè)置兩個(gè)窗口，一個(gè)是微窗口（5理能）用在三中，相隔某一距離的兩個(gè)像素，他們具有相同的灰度級，或者具有不同的ij的像素同時(shí)出現(xiàn)§4.3遙感影像的分類實(shí)驗(yàn)及評價(jià)TM影像的分類實(shí)圖4-12009年9月6日的地區(qū)的TM影像741波段圖本文選取2009年9月6日的地區(qū)的TM影像進(jìn)行分類，該區(qū)域有長江、城中湖、地物類樣本容顏長紅湖藍(lán)草綠林品黃地紫3個(gè)高斯分量、居民地4個(gè)高斯分量、地3個(gè)高斯分量。通過EM算法求取各類地物樣將本文分類方法和平行六面體法、最小距離法、馬氏距離法、最大似然法、支較，分類實(shí)驗(yàn)結(jié)果如圖4-2所示。 （f）傳統(tǒng)（g）自適應(yīng)4-2基于光行矩陣分析，各分類結(jié)果矩陣如圖表4-2到表4-8所示。 草草林長湖地

7046草005林20000長00000湖0000020地1008

草林長湖地草林長湖地0000000草007林0130長00000湖03029200地000

地0000000草0000000草009林長00037湖0603108地200

地0000000草0000000草010林0000長00000湖010567地2004-64-6SVM分類結(jié)

草林長湖地草林長湖地0000000草003林0100長00000湖030007地0000 草草林長湖地0000000草00000林00122長1湖0001地0000

分類圖)=表表4-8本文自適應(yīng)GMM分類結(jié)

分類圖地0000000草00000000草00000林00122長010湖00011754地000類方法分類結(jié)果的矩陣可以看出，本方自適應(yīng)GMM方法在區(qū)分草地和林地，以及居民地和地時(shí)，有很好的容錯(cuò)性，符合高斯混合模型的原理，遙感影像的分類實(shí)驗(yàn)將本文分類方法和平行六面體法、最小距離法、馬氏距離法、最大似然法、支較，分類實(shí)驗(yàn)結(jié)果如圖4-3所示。 （f）傳統(tǒng)（g）自適應(yīng)4-3 草草林長湖地

1草05林10000長00000湖00000207地 矩

草林長湖地草林長湖地0000000草00林0130長00000湖0302200地000 矩

地0000000草0000000草01林長00036湖0905207地200 矩

地0000000草0000000草020林0000長00000湖010567地2004-134-13SVM類結(jié)草林長地0000000草015林0030長00000湖0305007地0000

地0000000草0000000草00000林00122長0湖00315754地072 矩

草林長湖地草林長湖地0000000草00000林00122長0湖00315754地02根據(jù)圖4-3和表4-9至4-15可以分析出，本文分類方法，在根據(jù)TM影像的光類方法分類結(jié)果的矩陣可以看出，加入紋理信息后，居民地和地的錯(cuò)分率降低了，TMTM影像光譜和紋理信息的高斯混Kappa系數(shù)如表4-16所示。 Kappa系Kappa系SVM傳統(tǒng)GMM本文自適應(yīng)GMM法GMMTM影像光譜信息所得的分類結(jié)果。試驗(yàn)結(jié)果證明了加入紋理信息針對TM影像分類的有效性、可行性和優(yōu)越性。Quickbird影像的分類實(shí)圖4-4漢陽蓮花湖公園區(qū)域Quickbird影像432波段彩色圖在針對高空間分辨率遙感影像分類實(shí)驗(yàn)時(shí)，本文選取漢陽蓮花湖公園區(qū)域的物，地物信息復(fù)雜，尤其是建筑物、地以及道路光譜信息很接近，地理位置交錯(cuò)，分類地物類樣本容顏長紅湖綠植藍(lán)地黃道藍(lán)品35EM算法求取各類地物樣本的將本文分類方法和平行六面體法、最小距離法、馬氏距離法、最大似然法、支較，分類實(shí)驗(yàn)結(jié)果如圖4-5所示。 （f）傳統(tǒng)（g）自適應(yīng) 長長湖植地道00006長000湖002植00地300道00000000

長長湖植地道0000000長0000湖00植00008地300道100

矩

長湖植地道長湖植地道0000000長0009湖00植0000地000道000

長湖長湖植地道0000000長00000湖0002植0004地600道00表表4-22SVM分類結(jié)

長湖植地道長湖植地道0000000長00103湖0202植00007地000道0080表表4-23傳統(tǒng)GMM分類結(jié) 矩

長湖道植地長湖道植地0000000長00030湖0020道0植00地100 長長湖道植地0000000長00050湖0020道0植000202地000

根據(jù)4-54-184-24可以分析出，本文分類方法，在根TM影像的光將本文分類方法和平行六面體法、最小距離法、馬氏距離法、最大似然法、支較，分類實(shí)驗(yàn)結(jié)果如圖4-6所示。 （f）傳統(tǒng)（g）自適應(yīng)4-6

分類圖長湖植地道長湖植地道209長0009湖0002植00地000道80010001 長長湖植地道0000000長0000湖00植00008地300道100

分類圖=

分類圖長湖植地長湖植地道0000000長00湖0植00005地000道0907

長湖植長湖植地道0000000長00000湖0002植00043地000道0= 長長湖植地道0000000長00005湖0202植00007地000道008

分類圖)=表表4-30傳統(tǒng)GMM分類結(jié) 矩

分類圖長湖植地道長湖植地道0000000長00061湖0020植0地0670道20010 長長湖植地道0000000長000湖020植0地00020道0030

分類圖)=4-64-254-31可以分析出，本文分類方法，在根據(jù)Quickbird影像法、SVM法和傳統(tǒng)GMM法，總體來說，本文分類方法具有較高的分類精度。根據(jù)及Kappa系數(shù)如表4-32所示。 Kappa系Kappa系SVM傳統(tǒng)GMM本文自適應(yīng)GMM方4-32Quickbird為代表的高空間分辨遙感影像上，基于光譜合模型針對Quickbird影像分類的有效性、可行性和優(yōu)越性。§5.1GMM遙感影像分類方法，通過結(jié)合遙感影像的光譜特征和紋理特征，基于高斯混合模型分類。采用紋理特征§5.2本文在基于高斯混合模型的遙感影像光譜特征分類的基礎(chǔ)上，引入紋理特征參采用自適應(yīng)消除最小權(quán)重高斯子分量的方法，判斷子高斯分量數(shù)的最優(yōu)值，執(zhí)本文采用了基于高斯混合模型的遙感影像分類建模，僅考慮到了遙感影像特征的概率性，未考慮到其不確定性（模糊性時(shí)光荏苒，歲月如梭，答辯，三年的學(xué)習(xí)生活也即將畫上?；匚沂紫纫?qū)焻切挪沤淌谥乱宰钌钭钫\摯的謝意。吳老師淵博的知識(shí)、嚴(yán)謹(jǐn)?shù)耐瑫r(shí)還要感謝徐世武教授、許凱講師在方面給予幫助和指導(dǎo)，兩位老師在百忙之中抽出時(shí)間悉心指導(dǎo)，從的研究內(nèi)容、技術(shù)路線的確定到實(shí)驗(yàn)結(jié)果的分析，都給了我很多寶貴的意見，每一次都使我對高斯混合模型遙感影像分類方法的理解進(jìn)一步加深，給了我很大的啟發(fā)和幫助。此外還要感謝學(xué)弟鄧凱強(qiáng)、在實(shí)驗(yàn)過給予的幫助。正是因?yàn)樗麄兊膸椭?，才使得我順利完成了遙感影像分類實(shí)驗(yàn)和的感謝“金石團(tuán)隊(duì)”成員、、、盧素齋、、、春、、、、郭振輝、等對關(guān)心與毫無保留的幫助。感謝一起寫論文的李嬋、劉偉、等同學(xué)，與并肩，使我在過充滿了歡樂，更加充們讓我在結(jié)束每天疲勞的工作和學(xué)習(xí)有了充滿和溫馨的休息港灣。還有許許多多的同學(xué)、朋友給予過的幫助，不能一一述之，但都默記在心，也一并表示感最后，我要感謝的是我家人。感謝父母對養(yǎng)育和教育，沒有就沒有今天的我。感謝家人，因?yàn)榈拇嬖?，因?yàn)榈闹С趾凸膭?lì)，更因?yàn)榈膼?，讓我有信心和勇氣去面對，在?jīng)歷一個(gè)又一個(gè)挫折的過，始終沒有放棄，最終完成20145鐘燕飛,,湘.遙感影像分類中的模糊聚類有效性研究.大學(xué)學(xué)報(bào)(信息科學(xué)英.遙感應(yīng)用分析原理與方法::科學(xué)駱劍承,,馬江洪等.遙感圖像最大似然分類方法的EM改進(jìn)算法.測繪學(xué)[10]ZhouX,WangX.OptimisationofGaussianmixturemodelforsaliteimageclassification.IEEProceedings-Vision,ImageandSignalProcessing.2006,153(3):349-[11]deMeloACO,deMoraesRM,DosSantosMachadoL.Gaussianmixturemodelsforsupervisedclassificationofremotesensingmultispectralimages:Springer.2003:440-DayNE.Estimatingthecomponentsofamixtureofnormaldistributions.Biometrika.1969,56(3):463-474.DempsterAP,LairdNM,RubinDB.umlikelihoodfrom pletedataviatheEMalgorithm.JournaloftheRoyalstatisticalSociety.1977,39(1):1-38.JainAK,DuinRPW,MaoJ.Statisticalpatternrecognition:Areview.PatternysisandMachineInligence,IEEETransactionson.2000,22(1):4-37.PermuterH,FrancosJ,JermynI.AstudyofGaussianmixturemodelsofcolorandtexturefeaturesforimageclassificationandsegmentation.PatternRecognition.2006,39(4):,,BmS,Landgrebe.TheeffectofunlabeledsamplesinreducingthesmallsamplesizeproblemandmitigatingtheHughesphenomenon.IEEETransactionsonGeoscienceandRemoteSensing.1994,32(5):1087-1095.,高振宇.多分類器聯(lián)合監(jiān)督分類方法研究.測繪,2006,29(1):15-16;[24]RichardsJARemotesensingdigitalimageysisanintroduction:Springer.2012.PanjwaniDK,Healey.Markovrandomfieldmodelsforunsupervisedsegmentationoftexturedcolorimages.IEEETransactionsonPatternysisandMachineInligence.1995,17(10):939-954.ChengK,LinJ,MaoC.TheapplicationofcompetitiveHopfieldneuralnetworktomedicalimagesegmentation.IEEETransactionsonMedicalImaging.1996,15(4):560-567.HuangC,DavisLS,TownshendJRG.Anassessmentofsupportvectormachinesforlandcoverclassification.InternationalJournalofRemoteSensing.2002,23(4):725-749.AtkinsonPM,TatnallA.Introductionneuralnetworksinremotesensing.InternationalJournalofremotesensing.1997,18(4):699-709.李德仁.論21世紀(jì)遙感與GIS的發(fā)展.大學(xué)學(xué)報(bào)(信息科學(xué)版),2003(02):127-131;[30]BaatzM,Sch?peAMultiresolutionsegmentation:anoptimizationapproachforhighqualitymulti-scaleimagesegmentation.AngewandteGeographischeInformationsverarbeitungXII.2000:12-23.TobiasOJ,Seara.Imagesegmentationbyhistogramthresholdingusingfuzzysets.IEEETransactionsonImageProcessing.2002,11(12):1457-1465.MushrifMM,Ray.Colorimagesegmentation:Rough-settheoreticapproach.PatternRecognitionLetters.2008,29(4):483-493.WebbAndrewR.,統(tǒng)計(jì)模式識(shí)別.:電子工業(yè)JansenRC,Nijs.Astatisticalmixturemodelforestimatingtheproportionofunreducedpollengrainsinperennialryegrass(LoliumperenneL.)viathesizeofpollengrains.Euphytica.1993,70(3):205-215.LuttrellSP.Partitionedmixturedistribution:anadaptiveBayesiannetworkforlow-energyimageprocessing.IEEProceedings-Vision,ImageandSignalProcessing.1994,141(4):JuangB,RabinerL.MixtureautoregressivehiddenMarkovmodelsforspeechsignals.Acoustics,SpeechandSignalProcessing,IEEETransactionson.1985,33(6):1404-1413.RevowM,WilliamsCK,HintonGE.Usinggenerativemodelsforhandwrittendigitrecognition.PatternysisandMachineInligence,IEEETransactionson.1996,18(6):BaileyTL,ElkanC.Unsupervisedlearningofmultiplemotifsinbiopolymersusing ization.Machinelearning.1995,21(1-2):51-80.MckennaSJ,GongS,RajaY.Modellingfacialcolourandidentitywithgaussianmixtures.Patternrecognition.1998,31(12):1883-1892.VatsavaiRR,ShekharS,BurkTE.Asemi-supervisedlearningmethodforremotesensingdatamining:IEEE.2005:5.KaiX,FangfangW,KunQ.AnimagesegmentationmethodbasedonType-2fuzzyGaussianMixtureModels:IEEE.2010:363-366.,.雙重高斯混合模型的EM算法的聚類問題研究.計(jì)算機(jī)仿MclachlanG,PeelD.Finitemixturemodels:JohnWiley&Sons.2004.[53],王加俊.基于高斯混合模型的紋理圖像的分割.微電子學(xué)與計(jì)算][56],.高斯混合模型聚類中EM算法及初始化的研究.微計(jì)算機(jī)信[57王鑫基于高斯混合模型的k均值初始化EM算法的研究商丘師范學(xué)院學(xué)[58],,沈鋒.混合高斯分布的變分貝葉斯學(xué)習(xí)參數(shù)估計(jì).交通大學(xué)學(xué)DavidsonI.UnderstandingK-meansnon-hierarchicalclustering.ComputerScienceDepartmentofStateUniversityofNewYork(SUNY),Albany.2002.GuhaS,RastogiR,ShimK.CURE:anefficientclusteringalgorithmforlargedatabases:ACM.1998:73-84.KarypisG,HanE,KumarV.Chameleon:Hierarchicalclusteringusingdynamicmodeling.Computer.1999,32(8):68-75.宋磊,鄭寶忠,張瑩等.一種基于高斯混合模型的改進(jìn)EM算法研究.應(yīng)用光w1=0.205946,w2=0.579705,w3=u1=[90.34076340.20502640.90554076.55135280.539595141.560505u2=[85.66540737.54130235.14476183.22076978.487868140.708262u3=[89.69049739.35872935.94205990.38389777.017041140.502093

---

13.17963710.76401127.904103-

- -

-

57.920787 - 1.680125 - 63.3409095.7419512.3079253.289015-3.5122873.850793-0.1664644.70644 2.3079252.0820762.970731-0.9792285.4251990.3090614.52375 3.2890152.9707316.375086-3.63550711.2830231.07161 9.575242

-3.512287-0.979228-3.63550736.64459110.6560270.8754

-3.1953.85079

5.42519911.28302310.65602752.7866643.82688927.6768-0.1664640.3090611.0716160.8754 3.8268891.2244832.497144.7064484.5237529.575249-3.19522927.676842.49714521.466010.4362025.8285716.09042533.80033233.226781.22904911.7914.533374.2020324.533374.2020320.28567720.4697940.690374.202036.173528.17214311.2961320.99237 6.09042 33.80033220.2856778.17214

379.534033918.0015645.67073

6.3004987.116333.2267

20.46979411.296132318.001563506.5919643.93756988.5521.2290490.6903720.9923744.6707354.9375690.8368821.952511.7918717.41878

6.30049387.11634188.5521641.95252829.920w1=0.208951,w2=0.352504,w3=u1=[86.76404737.11064934.67372273.56417465.720461140.185548u2=[80.49835531.99445628.12750960.08079242.820271138.844608u3=[82.81841233.45638029.69887964.41157349.881508139.070066u4=[84.09648934.63489730.84936071.77147455.942336139.4909736.8528944.8337658.238586--51.7748343.2535852

33.811901.289241.18332-0.4951111.195900.2881420.6231.289241.183340.767980.2642 0.518370.1590370.3471.183320.767981.151580.6256550.580750.1974090.259-0.4951110.2642 0.62565514.3056435.20254

-0.0621050.2151.19590

0.5183780.5807595.20254410.461334-0.0265582.6830.2881420.1590370.197409-0.062105-0.0265580.6254450.0810.6233420.3479580.2593840.2152122.6830 0.0816651.9638.23908 3.59814 4.20943 -1.99278383.59814 2.69492 2.50857 -0.403783

1.3 0.8 4.20943 2.50857 3.44696 -1.4597351 1.1-1.99288 -0.4038393181.45195.12155 -0.55461 0.5615 -0.341871.14150

-0.278370.77537

-0.350670.9062

- 30.5615 1.35861

0.86423 1.15979 99.914473.755234.40583-1.4027142.264290.575232.00703.755232.311962.409400.0008651.669180.387371.37534.40583

2.4094093.507264-0.5612772.5320750.4757282.0450 -1.4027140.00086

-0.56127717.6234954.1630710.06038

-0.07972.26429

1.6691812.5320754.16307117.9159030.0663267.01370.5752360.3873710.4757280.0603820.0663260.5617940.25342.0070931.3753172.045081-0.0797247.0137530.2534854.6234w1=0.229249,w2=0.055336,w3=u1=[103.97436049.43204457.15380330.40075411.975896132.000000u2=[102.78012248.64640455.91609529.48552012.348075133.833156u3=[103.67127149.39917156.91022130.03038712.230663133.0000001

0.441075-----0.1104772----1.6656454.06677-----3.6216663.844971.116021.315791.029321.116021.20110.961250.545881.31579

0.96125 1.98227 0.79416

0.5 1.02932 0.54588 0.7941656 1.07.836453 0.00000 1.09240 0.55157 0.63258 0.86453 1.0 0.000000.000000.000000.000000.00.761740.375730.502950.57864w1=0.278857,w2=0.337427,w3=u1=[91.73150339.72074536.58448128.19745015.408264136.770987u2=[86.85095436.40320731.52665221.52245611.815845135.623308u3=[86.95275336.35470832.54366825.89628413.849753136.077388

-

--

1.091629- 1

-

---

-

-

0.5604444.3415907.4801751.2977515.1374172

5.5488925.548892.818252.760560.599050.45500-0.5970570.3072.818253.266472.534321.161630.83833-0.385590.4812.760562.534323.031571.528230.73687-0.1989610.4190.599051.161631.528233.256611.05640.6247260.375

0.83833

0.73687

1.0564

1.78594

0.16761

0.456-0.597057-0.38559-0.1989610.6247260.1676190.6012490.0193

0.30722-

0.48136--

0.41968

0.37524-

0.45658-

0.01978-----

1.1680.0126940.0010610.1647831.0380191.761998w1=0.253888,w2=0.511573,w3=u1=[103.34420345.65217451.26992852.19565277.2246380147.853261u2=[99.314573042.84723646.12864346.88241257.9969850147.324623u3=[94.583333039.15315340.81982035.54504538.2590090149.806306u4=[95.000000039.38461541.92307737.153846148.307692150.307692

---

5.729057- -3.2472841

- -11.323444

-

-

-

65.89515814.445396 - - - 23

--

1.903542----------------3.6841353.16231625.507763.6410842.5704965.1506317.023855----4.375755--------

-

-

- 2053.320513w1=0.152807,w2=0.517578,w3

u1=[143.38414165.97041279.51659685.565605144.682464150.180785u2=[106.45428852.44293265.23666868.81260897.3566130146.4187791

-

-

-

-

-

------

175.115887-13.423023-13.925223--- --- -----

-2.5872768.1871233.92714547.12593w1=0.720225,w2=u1=[86.62358238.11203736.47187781.64373079.190950140.92096810.225952u2=[89.73224039.42850936.57856787.87962077.054413140.62897922.417279

16

---

3.2264951.2635252.751948--

-5 -14.51327752 -0.840079- 1

60.286253 - - 0.09783 -21.14644638.701771 3.517497 - - --7---------w1=0.170141,w2=0.388358，w3=u1=[88.83974837.98080535.60135872.12263862.237123140.03651614.251294u2=[80.26684531.94493528.10467962.53486044.702512138.8061475.306442u3=[83.34269934.15232830.43426367.72374254.447923139.4790437.569606-14-8.074608

-0

-6.968941 29.792803 213566021-0 -1210.788668 5.2121922

-

5

--1.3450951.1910230.930384423.374561-10.270603 --3--w1=u1=[103.68478349.36067256.90415030.08004012.180830132.8270751

-

0.268503-00.1003170.2598320.2368790.1923920.1923921.038775w1=0.295391,w2=u1=[91.13930639.43069336.19739027.95618715.227357136.7555087.4606976.839797u2=[86.79279836.22935731.85638323.54146112.748637135.7836986.1330730.875702-0-1-6.9689414-8.074608 22-0-1-2- 13566021 10.7886685.2121922

--

-

0-

------0.8399080393384--02938190