第八章圖像識(shí)別

1第八章圖像識(shí)別信息與通信工程學(xué)院張洪剛zhhg@2模式識(shí)別和模式的概念感知：從環(huán)境獲取信息3計(jì)算機(jī)模式識(shí)別模式識(shí)別：使計(jì)算機(jī)模仿人的感知能力，從感知數(shù)據(jù)中提取信息（判別物體和行為）的過(guò)程。數(shù)據(jù)獲取模式分割模式識(shí)別姚明ROCKETS11概念4模式識(shí)別的意義數(shù)字化感知數(shù)據(jù)：來(lái)源豐富、數(shù)量巨大概念5模式識(shí)別的難點(diǎn)感知數(shù)據(jù)：非結(jié)構(gòu)化（像素、聲波等）概念6模式與模式類(lèi)樣本(sample,object)：一類(lèi)事物的一個(gè)具體體現(xiàn)，對(duì)具體的個(gè)別事物進(jìn)行觀測(cè)所得到的某種形式的信號(hào)。模式(pattern)：表示一類(lèi)事物，如印刷體A與手寫(xiě)體A屬同一模式。B與A則屬于不同模式。樣本是具體的事物，而模式是對(duì)同一類(lèi)事物概念性的概括。模式類(lèi)與模式聯(lián)合使用時(shí)，模式表示具體的事物，而模式類(lèi)則是對(duì)這一類(lèi)事物的概念性描述。模式識(shí)別是從樣本到類(lèi)別的映射。概念7模式識(shí)別的基本問(wèn)題（1）特征如何提??？-------特征產(chǎn)生（2）最有效的特征是那些特征？-------特征選擇（3）對(duì)特定任務(wù)，如何設(shè)計(jì)分類(lèi)器？

-------分類(lèi)器設(shè)計(jì)（4）分類(lèi)器設(shè)計(jì)后，如何評(píng)價(jià)分類(lèi)器？分類(lèi)錯(cuò)誤率是多少？

-------分類(lèi)器評(píng)價(jià)8模式識(shí)別方法的分類(lèi)（1）監(jiān)督與非監(jiān)督模式識(shí)別

A、監(jiān)督模式識(shí)別

利用先驗(yàn)知識(shí)和訓(xùn)練樣本來(lái)設(shè)計(jì)分類(lèi)器。

B、非監(jiān)督模式識(shí)別

利用特征向量的相似性來(lái)自動(dòng)進(jìn)行分類(lèi)。9有監(jiān)督學(xué)習(xí)（supervisedlearning)：用已知類(lèi)別的樣本訓(xùn)練分類(lèi)器，以求對(duì)訓(xùn)練集數(shù)據(jù)達(dá)到某種最優(yōu)，并能推廣到對(duì)新數(shù)據(jù)的分類(lèi)。非監(jiān)督學(xué)習(xí)（unsupervisedlearning)：樣本數(shù)據(jù)類(lèi)別未知，需要根據(jù)樣本間的相似性對(duì)樣本集進(jìn)行分類(lèi)(聚類(lèi)，clustering)10模式分類(lèi)

vs.

模式聚類(lèi)Classification(knowncategories)Clustering(creationofnewcategories)Category“A”Category“B”Classification(Recognition)(SupervisedClassification)Clustering(UnsupervisedClassification)11監(jiān)督與非監(jiān)督學(xué)習(xí)方法比較模式識(shí)別方法12參數(shù)估計(jì)近鄰法直接計(jì)算判別函數(shù)·非參數(shù)方法有監(jiān)督學(xué)習(xí)最小距離分層聚類(lèi)無(wú)監(jiān)督學(xué)習(xí)靜態(tài)模式（不相關(guān)）HMM時(shí)序模式（相關(guān)的靜態(tài)模式）統(tǒng)計(jì)模式識(shí)別模板匹配結(jié)構(gòu)模式識(shí)別人工神經(jīng)網(wǎng)絡(luò)句法模式識(shí)別統(tǒng)計(jì)學(xué)習(xí)理論和支持向量機(jī)模糊模式識(shí)別13模板匹配TemplateMatchingTemplateInputscene14結(jié)構(gòu)模式識(shí)別用簡(jiǎn)單的基元(primitives)和結(jié)構(gòu)關(guān)系來(lái)描述復(fù)雜對(duì)象YNMLTXZSceneObjectBackgroundDELTXYZMNDE15句法模式識(shí)別定義：描述待處理模式的結(jié)構(gòu)信息，并用形式語(yǔ)言中的文法定義模式結(jié)構(gòu)，并通過(guò)句法分析進(jìn)行分類(lèi)對(duì)象被描述為以基元為基本單位（符號(hào)化）的文法源自語(yǔ)言學(xué)，但不限于語(yǔ)言學(xué)應(yīng)用基本概念基元：預(yù)定義的不再包含細(xì)節(jié)結(jié)構(gòu)信息的子結(jié)構(gòu)文法：對(duì)模式的描述（基元為字符）字符串句法：對(duì)字符串進(jìn)行判別，是否文法描述的“語(yǔ)言”16句法死模式答識(shí)別蟻系統(tǒng)嫁框架預(yù)處理基元分割或分解句法分析基元和關(guān)系選擇文法結(jié)構(gòu)及推理測(cè)試模式訓(xùn)練模式分類(lèi)學(xué)習(xí)過(guò)程錯(cuò)誤率檢測(cè)基元及關(guān)系識(shí)別17人工少神經(jīng)巖網(wǎng)絡(luò)計(jì)算晨“仿詳生”智能魚(yú)計(jì)算脖機(jī)大規(guī)克模并胡行分布遍式的校計(jì)算學(xué)習(xí)拘，泛活化和屢自適功應(yīng)容錯(cuò)雹，非嚇確定萬(wàn)，不父精確似的分何類(lèi)人工層神經(jīng)效網(wǎng)絡(luò)1819模糊訴模式鮮識(shí)別19背65年Za偶de枕h提出詞模糊姓集理票論是對(duì)超傳統(tǒng)蒙集合玩理論般的一它種推掉廣傳統(tǒng)赤：屬年于或只者不晌屬于模糊透：以腳一定砌的程臣度屬旗于模糊桿邏輯藝：相蹈對(duì)傳挖統(tǒng)二增值邏奔輯“炕是或酷不是斤”模糊潮數(shù)學(xué)趕：研識(shí)究模缺糊集槳和模挎糊邏誤輯模糊資系統(tǒng)捉：應(yīng)柔用角迎度20模糊磁模式散識(shí)別墨方法隸屬慌度函破數(shù)對(duì)象x屬于屢集合A的程裹度的粘函數(shù)嬸，值拳域[0恒,漲1]模糊偶模式鵲識(shí)別扭方法將?？嘉坌g(shù)引送入傳屯統(tǒng)模皺式識(shí)撈別方嬌法中模糊癢特征模糊撒分類(lèi)稼：模電糊子奪集代壓替確孕定子后集模糊暫評(píng)價(jià)21統(tǒng)計(jì)商模式友識(shí)別模式治識(shí)別快最初擊從統(tǒng)番計(jì)理膊論發(fā)躺展而毒來(lái)基本斤思想遵：模體式被男描述職為一息組測(cè)投量值晚組成應(yīng)的隨應(yīng)機(jī)特植征向潑量，綢用概廟率統(tǒng)籮計(jì)理認(rèn)論對(duì)伯其進(jìn)禮行建捉模，稀用統(tǒng)毛計(jì)決昂策理像論劃捧分特彼征空幻玉間來(lái)信進(jìn)行俊分類(lèi)渣。22統(tǒng)計(jì)熟模式做識(shí)別扮的一壩般過(guò)僑程預(yù)處理特征提取/選擇分類(lèi)預(yù)處理特征提取/選擇學(xué)習(xí)分類(lèi)規(guī)則測(cè)試模式訓(xùn)練模式分類(lèi)訓(xùn)練錯(cuò)誤率檢測(cè)23統(tǒng)計(jì)麻模式雞識(shí)別哥基本亦過(guò)程基本壇系統(tǒng)春組成數(shù)據(jù)蓄獲取蠟：測(cè)化量預(yù)處響理：榮利于我特征鈴提取床和分介類(lèi)特征儉提取鉗與選負(fù)擇降維選擇穴有利拖于分救類(lèi)的貌特征約，去暗除不通利分悔類(lèi)的炊特征分類(lèi)店決策錯(cuò)誤刻率最誘小損失便最小24統(tǒng)計(jì)扔模式門(mén)識(shí)別距離戴分類(lèi)班法1.標(biāo)準(zhǔn)薯模式江法設(shè)由饞訓(xùn)練剩樣例午可獲紗得c個(gè)模真式類(lèi)1,2,…篇,c，且及可獲皮得各面?zhèn)€模鵝式類(lèi)瘦的標(biāo)挨準(zhǔn)模根式M1,慰M2,…陳,魄MC。那旬么，亞對(duì)于討待識(shí)嶄模式X，可損通過(guò)興計(jì)算母其與纏各標(biāo)紐奉準(zhǔn)模們式的今距離d(X,晉Mi)模(i=1盤(pán),2巡壽,…外,c旁)來(lái)決霞定它火的歸因?qū)佟６淳唧w蘿分類(lèi)蒸規(guī)則患為：d(X,Mj)=克mi狹nd(X,Mi)Xji=1絞,2喘,…沖,c即與X距離或最小卸的標(biāo)平準(zhǔn)模稿式所東屬的榜模式胖類(lèi)即券為X的所豬屬模奮式類(lèi)尺。25m1m2xg(x)=0m1m2x262.平均扁距離坊法平均顯距離捐法就語(yǔ)是將休待識(shí)意模式X與模夕式類(lèi)ωi(i=1遇,2冠,…東,c)中所召有樣鋸例模略式的輕距離歇平均戶(hù)值作津?yàn)榕cX的距遍離，搖然后循以距捐離最材小的碰模式習(xí)類(lèi)作佩為X的類(lèi)雜屬。岔分類(lèi)飽規(guī)則碧可描頸述為伏：其中,(k=1壇,盞2,包…潑,c),sk為模聰式類(lèi)ωk中的鴿樣例循模式斷數(shù)。273.最近迫鄰法乞最近鄰法是祖將與差待識(shí)耐模式X距離蔥最近余的一餐個(gè)樣掃例模熟式的悉模式熔類(lèi)作暖為X的類(lèi)僵屬。姑分類(lèi)渴規(guī)則改可描著述為其中,

sk為模式類(lèi)ωk中的樣例模式數(shù)。2829幾何淡分類(lèi)搭法一個(gè)檢模式取類(lèi)就盛是相輕應(yīng)特茶征空匪間中絹的一此個(gè)點(diǎn)債集。右一般拔來(lái)講瓣，在捷特征碰空間巴中一平個(gè)模費(fèi)式類(lèi)?ài)E的點(diǎn)蹦集總哨是在鈴某種扇程度碰上與散另一慕個(gè)模澇式類(lèi)獲的點(diǎn)恐集相偏分離元。因防此，難模式秩識(shí)別零的另份一個(gè)駝思路剩就是捉設(shè)法對(duì)構(gòu)造話(huà)一些贈(zèng)分界姨面（壓線(xiàn)）夢(mèng)，把貍特征柳空間Rn分割望成若番干個(gè)環(huán)稱(chēng)為倆決策沈區(qū)域聯(lián)的子乎空間Ri(i=1出,2鼻,…浙,n局)，使烘得一句個(gè)模獸式類(lèi)致剛好術(shù)位于夜一個(gè)侮決策竭區(qū)域臭。這崖樣，村對(duì)于快待識(shí)虜模式X，就夜可以歷利用龜空間敞中的達(dá)這些梁分界缸面來(lái)孝判定X的類(lèi)順屬。充分界忙面（農(nóng)線(xiàn)）傻方程gi(X)=紗0中的提函數(shù)gi(X)稱(chēng)為鄭判別幸函數(shù)送。顯撐然，朵構(gòu)造童分界扯面的哪關(guān)鍵插就是跡構(gòu)造最其判賢別函銀數(shù)。分界坡面（能線(xiàn)）緣瑞可分哄為平破面（煮直線(xiàn)以）和酒曲面帝，相選應(yīng)的魔判別趟函數(shù)甚為線(xiàn)幻玉性函磁數(shù)和踏非線(xiàn)飾性函糕數(shù)。捉下面耳介紹爪分界譽(yù)平面爪和線(xiàn)榆性判欄別函方數(shù)。30對(duì)于尾二分界類(lèi)問(wèn)款題,顯然信只需今一個(gè)朗分界靈平面蓋。設(shè)剝判別溪函數(shù)能為g(X)=WTX+w0其中W=賞(w1,w2,布…,wn)T為X中各蝴分量x1,x2,璃…,xn的系脂數(shù)組餅成的笑向量創(chuàng)，稱(chēng)械為權(quán)抵向量鴨；w0為一靠個(gè)常鞠數(shù)，徒稱(chēng)為楚閾值柜權(quán)。傭那么割，分奸界平梳面方折程為g(X)碌=WTX+w0=流0由幾雜何知猜識(shí)知,位于昨這個(gè)促分界奶平面嘴兩邊倘的點(diǎn)X的判期別函績(jī)數(shù)值g(X)符號(hào)橡相反片。于眼是,可有堤分類(lèi)甘規(guī)則:g(X)>鞠0X1g(X)<誤0X2g(X)=滋0X屬于1或2，或卸者不芽可判怪別31二分愈類(lèi)問(wèn)劫題的席分界巾面(線(xiàn))示意32概率剖分類(lèi)姨法基于帥最小弄錯(cuò)誤子率的之貝葉彼斯決護(hù)策因?yàn)槠Ｊ缴鷮儆谝文囊皇鼓Ｊ綆X類(lèi)存獄在不嚷確定紛性,所以辣需要氧用概引率來(lái)耍決策,就是塘說(shuō)對(duì)唯于待菜識(shí)模等式X,如果斑它屬騾于哪般個(gè)類(lèi)井的概駁率大民則它眨就屬芹于哪沸一類(lèi)線(xiàn)。但斤如果葡直接倚使用掠各模執(zhí)式類(lèi)施的先流驗(yàn)概胸率P(ci),則會(huì)尊因先輸驗(yàn)概隆率所告提供以的信島息量漢太少蠻而導(dǎo)趨致把甩所有條模式戒都?xì)w遵入先笛驗(yàn)概色率最貓大的捧模式衛(wèi)類(lèi)的稱(chēng)無(wú)效序分類(lèi)磨。因碧此,應(yīng)該捎考慮愿后驗(yàn)點(diǎn)概率P(ci|X),但通皺常概肌率P(ci|X)不易松直接揭求得哈的。勇幸好,概率信論中脂的貝照葉斯灘公式俗可以弦?guī)兔?事實(shí)掌上,由貝坐葉斯毛公式先驗(yàn)金概率驢、類(lèi)頸條件足概率稱(chēng)密度金和后練驗(yàn)概活率先驗(yàn)科概率：根據(jù)鴉大量?jī)S統(tǒng)計(jì)對(duì)確定界某類(lèi)萄事物扇出現(xiàn)紅的比前例，如巷在我考國(guó)大雅學(xué)中代，一伸個(gè)學(xué)關(guān)生是研男生傅的先紛驗(yàn)概徑率為0.叮7，而重為女翻生的女概率我是0.拉3，這凝兩類(lèi)端概率代是互燈相制歉約的稀，因匹為這交兩個(gè)襖概率勤之和嘩應(yīng)滿(mǎn)業(yè)足總悔和為1的約慎束。類(lèi)條旁件概蒙率密螞度函抬數(shù)：同一役類(lèi)事倍物的凈各個(gè)奔屬性譽(yù)都有踢一定膚的變懸化范劣圍，尊在這犁些變甚化范箱圍內(nèi)漿的分源布概辨率用桂一種愚函數(shù)住形式斑表示癥，則梁稱(chēng)為礙類(lèi)條煮件概旨率密皆度函驗(yàn)數(shù)。這掛種分療布密菌度只軋對(duì)同搶一類(lèi)搭事物煎而言躺，與童其它展類(lèi)事迫物沒(méi)討有關(guān)間系。榴為了強(qiáng)調(diào)臣是同疫一類(lèi)呆事物崗內(nèi)部，因停此這侵種分玻布密酬度函堅(jiān)數(shù)往令往表畜示成條件鉆概率的形規(guī)式。吉例如x表示場(chǎng)某一健個(gè)學(xué)鞠生的詳特征六向量廣，則穿，男剩生的雷概率俯密度己表示適成P(x|男生)，女友生的凱表示偷成P(x|女生)，這由兩者消之間絡(luò)沒(méi)有龍任何極關(guān)系境，即堤一般塑的情際況下P(x|w1)+P(x|w2)≠柜1，可縮慧為從[0炭,2榴]之間鴉的任帖意值旺。后驗(yàn)穿概率：一個(gè)青具體擋事物西屬于題某種歐類(lèi)別農(nóng)的概潑率，例州如一禿個(gè)學(xué)嫩生用棵特征狗向量x表示蟲(chóng)，它鼠是男胃性或陸女性懼的概沸率表敞示成P(男生|x)和P(女生|x)，這乎就是喪后驗(yàn)偵概率透。由繡于一沾個(gè)學(xué)霉生只狂可能吼為兩津個(gè)性界別之煉一，妹因此凈有P(男生|x)+堂P(女生|x)=累1的約呆束，悼這一吵點(diǎn)是觸與類(lèi)歐分布赴密度石函數(shù)搏不同慕的。壩后驗(yàn)俗概率挖與先絹驗(yàn)概誘率也安不同山，后驗(yàn)亭概率巖涉及譜一個(gè)虜具體浮事物攤，而微先驗(yàn)融概率笑是泛旬指一昌類(lèi)事姿物，因機(jī)此P(男生|x)和P(男生)是兩漲個(gè)不省同的慘概念壯。圖解p(x|ω1)p(x|ω2)p(ω1|x)p(ω2|x)類(lèi)條騰件概刮率密膛度函跪數(shù)后驗(yàn)漏概率最小痕錯(cuò)誤率決貸策35模式贏識(shí)別佳過(guò)程息示例挑：Fi鏈sh展C躁la委ss棍if謠ic氏at巴io黑n預(yù)處打理：im抄ag跨e轎en活ha鉗nc襲em練en牛t,燈s長(zhǎng)ep呀ar繭at吃in石g半to甲u(yù)c旋hi旬ng直/o熄cc投lu家di祖ng籍f止is茅he疫s避an憶d避fi模nd廈in奪g筒th釣e府bo兇un帶da傅ry野o將f烈th稿e(cuò)失fi宿shEx詞am趕pl嘴e祝fr每om躲:暑R.傻D逢ud保a,相P填.睛Ha虜rt具,足D.蔽S限to魂rk局,甚“P鍛at蘭te監(jiān)rn醬C涼la橋ss喪if鵝ic主at具io尸n”漂,科s撐ec恐on斗d償ed綠it呈io穴n,棍2慈00笛0.36先驗(yàn)燃知識(shí):鱸魚(yú)仇一般紹比鮭池魚(yú)長(zhǎng)通過(guò)鈔長(zhǎng)度L是否支超過(guò)射了臨些界值L*來(lái)判肚斷種捕類(lèi)為了部確定腥恰當(dāng)散的L*值，禍必須為先獲叛得不藥同類(lèi)代別的嚇魚(yú)的藏若干咐樣本(“設(shè)計(jì)衛(wèi)樣本事”或沖”訓(xùn)挑練樣挑本”)進(jìn)行煙長(zhǎng)度余測(cè)量幼。3738驗(yàn)證撫了平榮均意悼義上扭鱸魚(yú)廉要比耳鮭魚(yú)銜長(zhǎng)的拉結(jié)論令人藝失望荒的表畝明:單一奔的特眾征判炊據(jù)是觸不足頃以完藏美分熊類(lèi)的稻。繼續(xù)浸嘗試漂別的燃特征聰，如:魚(yú)的策平均角光澤萍