模式識(shí)別-第一章概論

王改華TelEmail:80103185@湖北工業(yè)大學(xué)電氣學(xué)院具有某些屬性的實(shí)體的集合蘋果水果具體形式：實(shí)體抽象形式：概念1.模式和模式識(shí)別最簡(jiǎn)單的例子：對(duì)蘋果和桔子的識(shí)別特征：顏色、形狀顏色特征：RGB形狀：測(cè)量圖像頂部到最寬處的距離模式識(shí)別(PatternRecognition)：確定一個(gè)樣本的類別屬性（模式類）的過程，即把某一樣本歸屬于多個(gè)類型中的某個(gè)類型。樣本（Sample)：一個(gè)具體的研究（客觀）對(duì)象。如患者，某人寫的一個(gè)漢字，一幅圖片等。模式(Pattern)：對(duì)客體（研究對(duì)象）特征的描述（定量的或結(jié)構(gòu)的描述），是取自客觀世界的某一樣本的測(cè)量值的集合（或綜合）。

模式和模式識(shí)別特征(Features)：能描述模式特性的量（測(cè)量值）。在統(tǒng)計(jì)模式識(shí)別方法中，通常用一個(gè)矢量表示，稱之為特征矢量，記為模式類(Class)：具有某些共同特性的模式的集合。模式識(shí)別是模擬人的某些功能模擬人的視覺:計(jì)算機(jī)+光學(xué)系統(tǒng)模擬人的聽覺:計(jì)算機(jī)+聲音傳感器模擬人的嗅覺和觸覺:計(jì)算機(jī)+傳感器訓(xùn)練集：是一個(gè)已知樣本集，在監(jiān)督學(xué)習(xí)方法中，用它來開發(fā)出模式分類器。測(cè)試集：在設(shè)計(jì)識(shí)別和分類系統(tǒng)時(shí)沒有用過的獨(dú)立樣本集。系統(tǒng)評(píng)價(jià)原則：為了更好地對(duì)模式識(shí)別系統(tǒng)性能進(jìn)行評(píng)價(jià)，必須使用一組獨(dú)立于訓(xùn)練集的測(cè)試集對(duì)系統(tǒng)進(jìn)行測(cè)試。人類具有很強(qiáng)的模式識(shí)別能力，時(shí)刻在完成某種模式識(shí)別的任務(wù)。模式識(shí)別是一門理論與應(yīng)用并重的技術(shù)科學(xué)，有廣泛的需求。模式識(shí)別是從樣本到類別的映射。模式識(shí)別是從樣本到類別的映射。2.人的模式識(shí)別能力人的視覺識(shí)別能力圖像信息80%看書、看報(bào)、寫字看電影、看風(fēng)景…光學(xué)信息可見光圖像、紅外圖像X射線圖像、γ射線圖像靜態(tài)圖像、動(dòng)態(tài)圖像2.人的模式識(shí)別能力人的聽覺識(shí)別能力一聽就知道是…為什么研究它？3、計(jì)算機(jī)模式識(shí)別問題生產(chǎn)實(shí)踐的需要：需要智能機(jī)器人，另外人的工資高，而計(jì)算機(jī)的價(jià)格越來便宜。信息爆炸現(xiàn)象：用人來不及處理信息。如：衛(wèi)星遙感，超級(jí)市場(chǎng)，郵政，銀行，指紋庫(kù)。危險(xiǎn)地帶：油漆、放射、高溫、核電站。提高工效：自動(dòng)化帶來的好處已經(jīng)顯而易見。衛(wèi)星地圖符號(hào)化地圖的分割方法圖5.2“地圖3”分割結(jié)果：（a）原始圖像（b）分割的“路面”信息（c）分割的“湖泊”信息（d）分割的“植被”信息圖5.3“地圖6”分割結(jié)果：（a）原始圖像（b）分割的“路面”信息（c）分割的“湖泊”信息（d）分割的“植被”信息圖5.6分割后處理的結(jié)果圖：（a1）分割得到的“路面”信息（a2）后處理之后的“路面”信息（b1）分割得到的“湖泊”信息（b2）后處理之后的“湖泊”信息（c1）分割得到的“植被”信息（c2）后處理之后的“植被”信息彩色地圖后處理方法圖5.7分割后處理的結(jié)果圖：（a1）分割得到的“路面”信息（a2）后處理之后的“路面”信息（b1）分割得到的“湖泊”信息（b2）后處理之后的“湖泊”信息（c1）分割得到的“植被”信息（c2）后處理之后的“植被”信息彩色地圖后處理方法美軍排爆機(jī)器人執(zhí)行任務(wù)智能娛樂機(jī)器人-童童騎自行車的機(jī)器人-村田頑童航天機(jī)器人對(duì)象空間模式空間特征空間類型空間各類空間（Space)的概念模式采集：從客觀世界（對(duì)象空間）到模式空間的過程稱為模式采集。特征提取和特征選擇：由模式空間到特征空間的變換和選擇。類型判別：特征空間到類型空間所作的操作。模式識(shí)別三大任務(wù)信息的獲?。菏峭ㄟ^傳感器，將光或聲音等信息轉(zhuǎn)化為電信息。信息可以是二維的圖象如文字，圖象等；可以是一維的波形如聲波，心電圖，腦電圖；也可以是物理量與邏輯值。預(yù)處理：包括A\D,二值化，圖象的平滑，變換，增強(qiáng)，恢復(fù)，濾波等。1.2模式識(shí)別系統(tǒng)特征抽取和選擇：在模式識(shí)別中，需要進(jìn)行特征的抽取和選擇，例如，一幅64x64的圖象可以得到4096個(gè)數(shù)據(jù)，這種在測(cè)量空間的原始數(shù)據(jù)通過變換獲得在特征空間最能反映分類本質(zhì)的特征，就是特征提取和選擇的過程。分類器設(shè)計(jì)：分類器設(shè)計(jì)的主要功能是通過訓(xùn)練確定判決規(guī)則，使按此類判決規(guī)則分類時(shí)，錯(cuò)誤率最低。把這些判決規(guī)則建成標(biāo)準(zhǔn)庫(kù)。分類決策：在特征空間中對(duì)被識(shí)別對(duì)象進(jìn)行分類。

1.數(shù)據(jù)獲取為了使計(jì)算機(jī)能夠?qū)腕w進(jìn)行分類識(shí)別，必須將客體用計(jì)算機(jī)所能接受的形式表示，通常從客體獲得的信息有下列三種類型①二維圖像，如文字、指紋、照片等；②一維波形，如語(yǔ)音、機(jī)械振動(dòng)波、心電團(tuán)等；③物理參量或邏輯值，如體溫、各種實(shí)驗(yàn)數(shù)據(jù)等。通過測(cè)量、采樣和量化，可以用矩陣或向量表示二維圖象或一維波形，這就是信息獲取過程。2．預(yù)處理預(yù)處理的目的是去除噪聲，加強(qiáng)有用的信息，并對(duì)種種因素造成的退化現(xiàn)象進(jìn)行復(fù)原。某人聲音有雜音模糊圖像清晰圖像清晰聲音圖像預(yù)處理語(yǔ)音信號(hào)預(yù)處理3．特征抽取

由信息獲取部分獲得的原始數(shù)據(jù)量一般是相當(dāng)大的。為了有效地實(shí)現(xiàn)分類識(shí)別，要對(duì)原始數(shù)據(jù)進(jìn)行選擇或變換，得到最能反應(yīng)分類本質(zhì)的待征，構(gòu)成特征向量。這就是特征抽取的過程。人臉幾何特征人臉部件規(guī)一化的點(diǎn)間距離和比率特征點(diǎn)如眼角、嘴角、鼻尖等人臉的顏色特征

黃皮膚、黑眼睛統(tǒng)計(jì)特征臉形模板和圖象灰度的自相關(guān)性

4．分類器設(shè)計(jì)為了把待識(shí)模式分配到各自的模式類中去，必須設(shè)計(jì)出分類判別規(guī)則?；咀鞣ㄊ牵河靡欢〝?shù)量的樣本(稱為訓(xùn)練樣本集)確定出一套分類判別規(guī)則，使得按這套分類判別規(guī)則對(duì)待識(shí)模式進(jìn)行分類所造成的錯(cuò)誤識(shí)別率最小或引起約損失最小。分類器按已確定的分類判別規(guī)則對(duì)待識(shí)模式進(jìn)行分類判別，輸出分類結(jié)果。§1-4模式識(shí)別的基本問題一、模式(樣本)表示方法向量表示:假設(shè)一個(gè)樣本有n個(gè)變量(特征)

x=(x1,x2,…,xn)T2.矩陣表示:N個(gè)樣本，n個(gè)變量(特征)3.幾何表示

一維表示

X1=1.5，X2=3

二維表示X1=(x1,x2)T=(1,2)T

X2=(x1,x2)T=(2,1)T

三維表示X1=(x1,x2,x3)T=(1,1,0)T

X2=(x1,x2,x3)T=(1,0,1)Tx1x2x3x1x24.基元（鏈碼）表示：在右側(cè)的圖中八個(gè)基元分別表示:0，1，2，3，4，5，6，7，八個(gè)方向和基元線段長(zhǎng)度。則右側(cè)樣本可以表示為X1=006666這種方法將在句法模式識(shí)別中用到。5一些基本問題模式類的緊致性：集合中任意兩個(gè)內(nèi)點(diǎn)可以用光滑線連接，在該連線上的點(diǎn)也屬于這個(gè)集合。每個(gè)內(nèi)點(diǎn)都有一個(gè)足夠大的鄰域，在該鄰域中只包含同一集合中的點(diǎn)。緊致集要求臨界點(diǎn)要比較少假若每個(gè)模式類都滿足緊致性假設(shè)，則解決模式識(shí)別間題就不會(huì)碰到什么原則上的困難。但對(duì)于很多實(shí)際問題這個(gè)假設(shè)是不成立的。只要各個(gè)模式類是可分的，總存在這樣一個(gè)空間，使變換到這個(gè)空間中的集合滿足緊致性要求。5一些基本問題相似與分類：相似與分類問題遠(yuǎn)不像集合表達(dá)那樣簡(jiǎn)單明了。集合的概念可用來表現(xiàn)已經(jīng)分好的類，但對(duì)于怎樣分類和歸類則缺乏指導(dǎo)意義。

用各種距離表示相似性：已知兩個(gè)樣本

xi=(xi1,xi2,xi3,…,xin)Txj=(xj1,xj2,xj3,…,xjn)T

5一些基本問題5一些基本問題②歐幾里德距離①絕對(duì)值距離③明考夫斯基距離其中當(dāng)q=1時(shí)為絕對(duì)值距離，當(dāng)q=2時(shí)為歐氏距離5一些基本問題④切比雪夫距離⑤夾角余弦x4x5x1x2x3因?yàn)閤1,x2的夾角小，所以x1,x2最相似。其中Xi，Xj為特征向量，為協(xié)方差矩陣。使用于N個(gè)樣本的集合中兩個(gè)樣本之間求M氏距離：⑤馬哈拉諾比斯（Mahalanobis)距離N——樣本個(gè)數(shù)例：馬哈拉諾比斯（Mahalanobis)距離：設(shè)X1=（0,0)T,X2=（0,1)T,X3=（1,0)T,X4=（1,1)T.則N=4，兩點(diǎn)之間的馬氏距離X1X2X3X4兩點(diǎn)之間的歐氏距離都具對(duì)稱性。但數(shù)值不同。歐氏距離的計(jì)算步驟：1.求樣本均值；2.求協(xié)方差矩陣；3.求協(xié)方差矩陣的逆矩陣；4。按公式求兩點(diǎn)間馬氏距離。如：1，3，5，7，9與2，4，6，8，10的相關(guān)系數(shù)為1；1，3，5，7，9與10，8，6，4，2的相關(guān)系數(shù)為-1；注意：在求相關(guān)系數(shù)之前，要將數(shù)標(biāo)準(zhǔn)化*相關(guān)系數(shù)分別的均值:其中，Xi=(xi1,xi2,…,xin),Xj=(xj1,xj2,…,xjn).分類的主觀性和客觀性①分類帶有主觀性：目的不同，分類不同。例如：鯨魚，牛，馬從生物學(xué)的角度來講都屬于哺乳類，但是從產(chǎn)業(yè)角度來講鯨魚屬于水產(chǎn)業(yè)，牛和馬屬于畜牧業(yè)。②分類的客觀性：科學(xué)性

判斷分類必須有客觀標(biāo)準(zhǔn)，因此分類是追求客觀性的，但主觀性也很難避免，這就是分類的復(fù)雜性。靠哪些特征決定相似并進(jìn)行分類，取決于行為的目的和方法。5一些基本問題范例木板圖象512×512d=3長(zhǎng)度紋理亮度

c=2松木\樺木維數(shù)無(wú)限有限/很大R有限d不大c模式識(shí)別過程d<<R<無(wú)限模式采集模式空間特征提取/選擇類型空間分類特征空間客觀世界待識(shí)別對(duì)象識(shí)別過程錯(cuò)誤概率檢測(cè)制定分類的判決規(guī)則特征提取/選擇方法校正學(xué)習(xí)過程采集方法校正已知對(duì)象預(yù)處理應(yīng)用領(lǐng)域1.4模式識(shí)別的應(yīng)用應(yīng)用領(lǐng)域生物醫(yī)學(xué)：血細(xì)胞計(jì)數(shù)，染色體分類，心電腦電圖1.4模式識(shí)別的應(yīng)用應(yīng)用領(lǐng)域文字處理：文字識(shí)別（印刷體，手寫體漢字識(shí)別）；辦公自動(dòng)化（機(jī)器翻譯）；銀行（支票識(shí)別）；郵局（郵政信函的自動(dòng)分揀）。遙感：資源普查（對(duì)地形地貌的分析，森林資源、海洋資源的普查，湖水面積的計(jì)算），地圖識(shí)別……1.4模式識(shí)別的應(yīng)用紙幣識(shí)別器對(duì)紙幣按面額進(jìn)行分類

面額

系統(tǒng)實(shí)例5元10元20元50元100元 長(zhǎng)度(mm)寬度(mm) 5元 136 63 10元 141 70 20元 146 70 50元 151 70 100元 156 77 磁性 金屬條位置(大約) 5元 有 54/82 10元 有 54/87 20元 有 57/89 50元 有 60/91 100元 有 63/935元10元20元50元100元12345678反射光波形數(shù)據(jù)采集、特征提?。?/p>

長(zhǎng)度、寬度、磁性、磁性的位置，光反射亮度、光透射亮度等等

特征選擇：

長(zhǎng)度、磁性及位置、反射亮度分類識(shí)別：

確定紙幣的面額及真?zhèn)螐臄z像頭獲取包含車牌的彩色圖象車牌定位和獲取字符分割和識(shí)別輸入圖象特征提取粗略