第八章圖像識別

1第八章圖像識別信息與通信工程學(xué)院張洪剛zhhg@2模式識別和模式的概念感知：從環(huán)境獲取信息3計算機(jī)模式識別模式識別：使計算機(jī)模仿人的感知能力，從感知數(shù)據(jù)中提取信息（判別物體和行為）的過程。數(shù)據(jù)獲取模式分割模式識別姚明ROCKETS11概念4模式識別的意義數(shù)字化感知數(shù)據(jù)：來源豐富、數(shù)量巨大概念5模式識別的難點(diǎn)感知數(shù)據(jù)：非結(jié)構(gòu)化（像素、聲波等）概念6模式與模式類樣本(sample,object)：一類事物的一個具體體現(xiàn)，對具體的個別事物進(jìn)行觀測所得到的某種形式的信號。模式(pattern)：表示一類事物，如印刷體A與手寫體A屬同一模式。B與A則屬于不同模式。樣本是具體的事物，而模式是對同一類事物概念性的概括。模式類與模式聯(lián)合使用時，模式表示具體的事物，而模式類則是對這一類事物的概念性描述。模式識別是從樣本到類別的映射。概念7模式識別的基本問題（1）特征如何提??？-------特征產(chǎn)生（2）最有效的特征是那些特征？-------特征選擇（3）對特定任務(wù)，如何設(shè)計分類器？

-------分類器設(shè)計（4）分類器設(shè)計后，如何評價分類器？分類錯誤率是多少？

-------分類器評價8模式識別方法的分類（1）監(jiān)督與非監(jiān)督模式識別

A、監(jiān)督模式識別

利用先驗知識和訓(xùn)練樣本來設(shè)計分類器。

B、非監(jiān)督模式識別

利用特征向量的相似性來自動進(jìn)行分類。9有監(jiān)督學(xué)習(xí)（supervisedlearning)：用已知類別的樣本訓(xùn)練分類器，以求對訓(xùn)練集數(shù)據(jù)達(dá)到某種最優(yōu)，并能推廣到對新數(shù)據(jù)的分類。非監(jiān)督學(xué)習(xí)（unsupervisedlearning)：樣本數(shù)據(jù)類別未知，需要根據(jù)樣本間的相似性對樣本集進(jìn)行分類(聚類，clustering)10模式分類

vs.

模式聚類Classification(knowncategories)Clustering(creationofnewcategories)Category“A”Category“B”Classification(Recognition)(SupervisedClassification)Clustering(UnsupervisedClassification)11監(jiān)督與非監(jiān)督學(xué)習(xí)方法比較模式識別方法12參數(shù)估計近鄰法直接計算判別函數(shù)·非參數(shù)方法有監(jiān)督學(xué)習(xí)最小距離分層聚類無監(jiān)督學(xué)習(xí)靜態(tài)模式（不相關(guān)）HMM時序模式（相關(guān)的靜態(tài)模式）統(tǒng)計模式識別模板匹配結(jié)構(gòu)模式識別人工神經(jīng)網(wǎng)絡(luò)句法模式識別統(tǒng)計學(xué)習(xí)理論和支持向量機(jī)模糊模式識別13模板匹配TemplateMatchingTemplateInputscene14結(jié)構(gòu)模式識別用簡單的基元(primitives)和結(jié)構(gòu)關(guān)系來描述復(fù)雜對象YNMLTXZSceneObjectBackgroundDELTXYZMNDE15句法模式識別定義：描述待處理模式的結(jié)構(gòu)信息，并用形式語言中的文法定義模式結(jié)構(gòu)，并通過句法分析進(jìn)行分類對象被描述為以基元為基本單位（符號化）的文法源自語言學(xué)，但不限于語言學(xué)應(yīng)用基本概念基元：預(yù)定義的不再包含細(xì)節(jié)結(jié)構(gòu)信息的子結(jié)構(gòu)文法：對模式的描述（基元為字符）字符串句法：對字符串進(jìn)行判別，是否文法描述的“語言”16句法死模式答識別蟻系統(tǒng)嫁框架預(yù)處理基元分割或分解句法分析基元和關(guān)系選擇文法結(jié)構(gòu)及推理測試模式訓(xùn)練模式分類學(xué)習(xí)過程錯誤率檢測基元及關(guān)系識別17人工少神經(jīng)巖網(wǎng)絡(luò)計算晨“仿詳生”智能魚計算脖機(jī)大規(guī)克模并胡行分布遍式的校計算學(xué)習(xí)拘，泛活化和屢自適功應(yīng)容錯雹，非嚇確定萬，不父精確似的分何類人工層神經(jīng)效網(wǎng)絡(luò)1819模糊訴模式鮮識別19背65年Za偶de枕h提出詞模糊姓集理票論是對超傳統(tǒng)蒙集合玩理論般的一它種推掉廣傳統(tǒng)赤：屬年于或只者不晌屬于模糊透：以腳一定砌的程臣度屬旗于模糊桿邏輯藝：相蹈對傳挖統(tǒng)二增值邏奔輯“炕是或酷不是斤”模糊潮數(shù)學(xué)趕：研識究模缺糊集槳和?？婧壵`輯模糊資系統(tǒng)捉：應(yīng)柔用角迎度20模糊磁模式散識別墨方法隸屬慌度函破數(shù)對象x屬于屢集合A的程裹度的粘函數(shù)嬸，值拳域[0恒,漲1]模糊偶模式鵲識別扭方法將?？嘉坌g(shù)引送入傳屯統(tǒng)模皺式識撈別方嬌法中模糊癢特征模糊撒分類稼：模電糊子奪集代壓替確孕定子后集模糊暫評價21統(tǒng)計商模式友識別模式治識別快最初擊從統(tǒng)番計理膊論發(fā)躺展而毒來基本斤思想遵：模體式被男描述職為一息組測投量值晚組成應(yīng)的隨應(yīng)機(jī)特植征向潑量，綢用概廟率統(tǒng)籮計理認(rèn)論對伯其進(jìn)禮行建捉模，稀用統(tǒng)毛計決昂策理像論劃捧分特彼征空幻玉間來信進(jìn)行俊分類渣。22統(tǒng)計熟模式做識別扮的一壩般過僑程預(yù)處理特征提取/選擇分類預(yù)處理特征提取/選擇學(xué)習(xí)分類規(guī)則測試模式訓(xùn)練模式分類訓(xùn)練錯誤率檢測23統(tǒng)計麻模式雞識別哥基本亦過程基本壇系統(tǒng)春組成數(shù)據(jù)蓄獲取蠟：測化量預(yù)處響理：榮利于我特征鈴提取床和分介類特征儉提取鉗與選負(fù)擇降維選擇穴有利拖于分救類的貌特征約，去暗除不通利分悔類的炊特征分類店決策錯誤刻率最誘小損失便最小24統(tǒng)計扔模式門識別距離戴分類班法1.標(biāo)準(zhǔn)薯模式江法設(shè)由饞訓(xùn)練剩樣例午可獲紗得c個模真式類1,2,…篇,c，且及可獲皮得各面?zhèn)€模鵝式類瘦的標(biāo)挨準(zhǔn)模根式M1,慰M2,…陳,魄MC。那旬么，亞對于討待識嶄模式X，可損通過興計算母其與纏各標(biāo)紐奉準(zhǔn)模們式的今距離d(X,晉Mi)模(i=1盤,2巡壽,…外,c旁)來決霞定它火的歸因?qū)?。洞具體蘿分類蒸規(guī)則患為：d(X,Mj)=克mi狹nd(X,Mi)Xji=1絞,2喘,…沖,c即與X距離或最小卸的標(biāo)平準(zhǔn)模稿式所東屬的榜模式胖類即券為X的所豬屬模奮式類尺。25m1m2xg(x)=0m1m2x262.平均扁距離坊法平均顯距離捐法就語是將休待識意模式X與模夕式類ωi(i=1遇,2冠,…東,c)中所召有樣鋸例模略式的輕距離歇平均戶值作津為與X的距遍離，搖然后循以距捐離最材小的碰模式習(xí)類作佩為X的類雜屬。岔分類飽規(guī)則碧可描頸述為伏：其中,(k=1壇,盞2,包…潑,c),sk為模聰式類ωk中的鴿樣例循模式斷數(shù)。273.最近迫鄰法乞最近鄰法是祖將與差待識耐模式X距離蔥最近余的一餐個樣掃例模熟式的悉模式熔類作暖為X的類僵屬。姑分類渴規(guī)則改可描著述為其中,

sk為模式類ωk中的樣例模式數(shù)。2829幾何淡分類搭法一個檢模式取類就盛是相輕應(yīng)特茶征空匪間中絹的一此個點(diǎn)債集。右一般拔來講瓣，在捷特征碰空間巴中一平個模費(fèi)式類跡的點(diǎn)蹦集總哨是在鈴某種扇程度碰上與散另一慕個模澇式類獲的點(diǎn)恐集相偏分離元。因防此，難模式秩識別零的另份一個駝思路剩就是捉設(shè)法對構(gòu)造話一些贈分界姨面（壓線）夢，把貍特征柳空間Rn分割望成若番干個環(huán)稱為倆決策沈區(qū)域聯(lián)的子乎空間Ri(i=1出,2鼻,…浙,n局)，使烘得一句個模獸式類致剛好術(shù)位于夜一個侮決策竭區(qū)域臭。這崖樣，村對于快待識虜模式X，就夜可以歷利用龜空間敞中的達(dá)這些梁分界缸面來孝判定X的類順屬。充分界忙面（農(nóng)線）傻方程gi(X)=紗0中的提函數(shù)gi(X)稱為鄭判別幸函數(shù)送。顯撐然，朵構(gòu)造童分界扯面的哪關(guān)鍵插就是跡構(gòu)造最其判賢別函銀數(shù)。分界坡面（能線）緣瑞可分哄為平破面（煮直線以）和酒曲面帝，相選應(yīng)的魔判別趟函數(shù)甚為線幻玉性函磁數(shù)和踏非線飾性函糕數(shù)。捉下面耳介紹爪分界譽(yù)平面爪和線榆性判欄別函方數(shù)。30對于尾二分界類問款題,顯然信只需今一個朗分界靈平面蓋。設(shè)剝判別溪函數(shù)能為g(X)=WTX+w0其中W=賞(w1,w2,布…,wn)T為X中各蝴分量x1,x2,璃…,xn的系脂數(shù)組餅成的笑向量創(chuàng)，稱械為權(quán)抵向量鴨；w0為一靠個常鞠數(shù)，徒稱為楚閾值柜權(quán)。傭那么割，分奸界平梳面方折程為g(X)碌=WTX+w0=流0由幾雜何知猜識知,位于昨這個促分界奶平面嘴兩邊倘的點(diǎn)X的判期別函績數(shù)值g(X)符號橡相反片。于眼是,可有堤分類甘規(guī)則:g(X)>鞠0X1g(X)<誤0X2g(X)=滋0X屬于1或2，或卸者不芽可判怪別31二分愈類問劫題的席分界巾面(線)示意32概率剖分類姨法基于帥最小弄錯誤子率的之貝葉彼斯決護(hù)策因為漂模式生屬于椅哪一使模式嶺類存獄在不嚷確定紛性,所以辣需要氧用概引率來耍決策,就是塘說對唯于待菜識模等式X,如果斑它屬騾于哪般個類井的概駁率大民則它眨就屬芹于哪沸一類線。但斤如果葡直接倚使用掠各模執(zhí)式類施的先流驗概胸率P(ci),則會尊因先輸驗概隆率所告提供以的信島息量漢太少蠻而導(dǎo)趨致把甩所有條模式戒都?xì)w遵入先笛驗概色率最貓大的捧模式衛(wèi)類的稱無效序分類磨。因碧此,應(yīng)該捎考慮愿后驗點(diǎn)概率P(ci|X),但通皺常概肌率P(ci|X)不易松直接揭求得哈的。勇幸好,概率信論中脂的貝照葉斯灘公式俗可以弦?guī)兔?事實掌上,由貝坐葉斯毛公式先驗金概率驢、類頸條件足概率稱密度金和后練驗概活率先驗科概率：根據(jù)鴉大量僑統(tǒng)計對確定界某類萄事物扇出現(xiàn)紅的比前例，如巷在我考國大雅學(xué)中代，一伸個學(xué)關(guān)生是研男生傅的先紛驗概徑率為0.叮7，而重為女翻生的女概率我是0.拉3，這凝兩類端概率代是互燈相制歉約的稀，因匹為這交兩個襖概率勤之和嘩應(yīng)滿業(yè)足總悔和為1的約慎束。類條旁件概蒙率密螞度函抬數(shù)：同一役類事倍物的凈各個奔屬性譽(yù)都有踢一定膚的變懸化范劣圍，尊在這犁些變甚化范箱圍內(nèi)漿的分源布概辨率用桂一種愚函數(shù)住形式斑表示癥，則梁稱為礙類條煮件概旨率密皆度函驗數(shù)。這掛種分療布密菌度只軋對同搶一類搭事物煎而言躺，與童其它展類事迫物沒討有關(guān)間系。榴為了強(qiáng)調(diào)臣是同疫一類呆事物崗內(nèi)部，因停此這侵種分玻布密酬度函堅數(shù)往令往表畜示成條件鉆概率的形規(guī)式。吉例如x表示場某一健個學(xué)鞠生的詳特征六向量廣，則穿，男剩生的雷概率俯密度己表示適成P(x|男生)，女友生的凱表示偷成P(x|女生)，這由兩者消之間絡(luò)沒有龍任何極關(guān)系境，即堤一般塑的情際況下P(x|w1)+P(x|w2)≠柜1，可縮慧為從[0炭,2榴]之間鴉的任帖意值旺。后驗穿概率：一個青具體擋事物西屬于題某種歐類別農(nóng)的概潑率，例州如一禿個學(xué)嫩生用棵特征狗向量x表示蟲，它鼠是男胃性或陸女性懼的概沸率表敞示成P(男生|x)和P(女生|x)，這乎就是喪后驗偵概率透。由繡于一沾個學(xué)霉生只狂可能吼為兩津個性界別之煉一，妹因此凈有P(男生|x)+堂P(女生|x)=累1的約呆束，悼這一吵點(diǎn)是觸與類歐分布赴密度石函數(shù)搏不同慕的。壩后驗俗概率挖與先絹驗概誘率也安不同山，后驗亭概率巖涉及譜一個虜具體浮事物攤，而微先驗融概率笑是泛旬指一昌類事姿物，因機(jī)此P(男生|x)和P(男生)是兩漲個不省同的慘概念壯。圖解p(x|ω1)p(x|ω2)p(ω1|x)p(ω2|x)類條騰件概刮率密膛度函跪數(shù)后驗漏概率最小痕錯誤率決貸策35模式贏識別佳過程息示例挑：Fi鏈sh展C躁la委ss棍if謠ic氏at巴io黑n預(yù)處打理：im抄ag跨e轎en活ha鉗nc襲em練en牛t,燈s長ep呀ar繭at吃in石g半to甲u(yù)c旋hi旬ng直/o熄cc投lu家di祖ng籍f止is茅he疫s避an憶d避fi模nd廈in奪g筒th釣e府bo兇un帶da傅ry野o將f烈th稿e失fi宿shEx詞am趕pl嘴e祝fr每om躲:暑R.傻D逢ud保a,相P填.睛Ha虜rt具,足D.蔽S限to魂rk局,甚“P鍛at蘭te監(jiān)rn醬C涼la橋ss喪if鵝ic主at具io尸n”漂,科s撐ec恐on斗d償ed綠it呈io穴n,棍2慈00笛0.36先驗燃知識:鱸魚仇一般紹比鮭池魚長通過鈔長度L是否支超過射了臨些界值L*來判肚斷種捕類為了部確定腥恰當(dāng)散的L*值，禍必須為先獲叛得不藥同類代別的嚇魚的藏若干咐樣本(“設(shè)計衛(wèi)樣本事”或沖”訓(xùn)挑練樣挑本”)進(jìn)行煙長度余測量幼。3738驗證撫了平榮均意悼義上扭鱸魚廉要比耳鮭魚銜長的拉結(jié)論令人藝失望荒的表畝明:單一奔的特眾征判炊據(jù)是觸不足頃以完藏美分熊類的稻。繼續(xù)浸嘗試漂別的燃特征聰，如:魚的策平均角光澤萍