計(jì)算機(jī)科學(xué)理論模式識(shí)別課件c1.ppt

模式識(shí)別 Pattern Recognition,余 莉 電話： 76434（O）,61430（M） E-mail：（民網(wǎng)） liliyugfkd.mtn（軍網(wǎng)）,課程對(duì)象,信息工程專業(yè)本科生的專業(yè)課 學(xué)院碩士研究生的學(xué)位課 學(xué)院博士研究生的必修課之一,學(xué)習(xí)方法,著重理解 基本概念 基本方法 算法原理 注重理論與實(shí)踐緊密結(jié)合,基本要求,基本：完成課程學(xué)習(xí)，通過考試，獲得學(xué)分。 提高：能夠?qū)⑺鶎W(xué)知識(shí)和內(nèi)容用于課題研究，解決實(shí)際問題。 飛躍：通過模式識(shí)別的學(xué)習(xí)，改進(jìn)思維方式，為將來的工作打好基礎(chǔ)，終身受益。,課程內(nèi)容及安排,第一章 引論 (2學(xué)時(shí)) 第二章 聚類分析 (4學(xué)時(shí)) 第三章 判別域代數(shù)界面方程法 (4學(xué)時(shí)) 第四章 統(tǒng)計(jì)判決 (4學(xué)時(shí)) 第五章 統(tǒng)計(jì)決策中的學(xué)習(xí)與估計(jì)（4學(xué)時(shí)) 第六章 最近鄰方法 （2學(xué)時(shí)) 第七章 特征提取與選擇 (2學(xué)時(shí)) 復(fù)習(xí) (2學(xué)時(shí)) 實(shí)驗(yàn) 上機(jī)實(shí)驗(yàn) (8學(xué)時(shí)) 作業(yè) 每章課后布置習(xí)題 考核 筆試(70%)+實(shí)驗(yàn)(20%)+作業(yè)(10%),教材及參考教材,教材 孫即祥，現(xiàn)代模式識(shí)別，國防科技大學(xué)出版社，2002.1 參考教材 J.P.Marques de Sa,模式識(shí)別-原理、方法及應(yīng)用，清華大學(xué)出版社，2002.11 邊肇祺等，模式識(shí)別（第二版）清華大學(xué)出版社 2000.1 Sergios Theodoridis, 李晶皎等譯，模式識(shí)別（第三版），電子工業(yè)出版社，2006,第一章 引 論,1.1 模式和模式識(shí)別,1.1.1 模式和模式識(shí)別的概念 識(shí)別是人類的基本行為 模式識(shí)別（Pattern Recognition）使用計(jì)算機(jī)來辨別事物。機(jī)器識(shí)別，計(jì)算機(jī)識(shí)別，機(jī)器自動(dòng)識(shí)別。,1. 2 模式識(shí)別系統(tǒng),概 念,樣本（Sample)：一個(gè)具體的研究（客觀）對(duì)象。如某人寫的一個(gè)漢字，一幅圖片等。 模式（Pattern）：對(duì)客體（研究對(duì)象）特征的描述（定量的或結(jié)構(gòu)的描述），是取自客觀世界的某一樣本的測(cè)量值的集合（或綜合）。 模式類（Class）：具有某些共同特性的模式的集合。,特征矢量： 設(shè)一個(gè)研究對(duì)象的 個(gè)特征量測(cè)量值分別 為 ,我們將它們作為一個(gè)整體來 考慮,讓它們構(gòu)成一個(gè) 維特征矢量 。 特征空間: 各種不同取值的特征矢量的全體構(gòu)成了 維特征空間。 注：特征矢量就是特征空間中的一個(gè)點(diǎn)。,(顏色（綠/紅）,似圓度),顏色（綠/紅）,似圓度,模式識(shí)別：確定一個(gè)樣本的類別屬性（模式類）的過程，即把某一樣本歸屬于多個(gè)類型中的某個(gè)類型。模式分類的過程。,1.1.2 機(jī)器與人類識(shí)別事物原理的比較,人類：具有抽象抽象概念的能力 總結(jié)規(guī)律，抽象出概念 機(jī)器：缺乏抽象能力 基本方法是計(jì)算,1.1.3 模式識(shí)別技術(shù)的應(yīng)用領(lǐng)域,生物學(xué) 自動(dòng)細(xì)胞學(xué)、染色體特性研究、遺傳研究 天文學(xué) 天文望遠(yuǎn)鏡圖像分析、自動(dòng)光譜學(xué) 經(jīng)濟(jì)學(xué) 股票交易預(yù)測(cè)、企業(yè)行為分析 醫(yī)學(xué) 心電圖分析、腦電圖分析、醫(yī)學(xué)圖像分析,文字識(shí)別（Character Recognition） OCR（Optical Character Recognition） 智能交通（Intelligent Traffic） 車牌、車型 語音識(shí)別（Speech recognition） 翻譯機(jī)，身份識(shí)別等 目標(biāo)識(shí)別 ATR（Automaic Target Recognition）,（1）確定患者的病癥：測(cè)量體溫、血壓，化驗(yàn)血沉，詢問臨床表現(xiàn)（模式采集）； （2）醫(yī)生運(yùn)用醫(yī)學(xué)知識(shí)和個(gè)人經(jīng)驗(yàn)（分類判決規(guī)則），根據(jù)主要病癥（特征提取/選擇），作出診斷（分類判決）：該患者（模式樣本）患了何種疾?。Ｊ筋悾?。,例子1：診斷,1. 2 模式識(shí)別系統(tǒng),1. 2 模式識(shí)別系統(tǒng),數(shù)據(jù)采集 特征提取,正確率 測(cè)試,數(shù)據(jù)采集 特征提取,改進(jìn)分類識(shí)別規(guī)則,二次特征 提取與選擇,分類 識(shí)別,改進(jìn)采集 提取方法,二次特征提取與選擇,改進(jìn)特征提取與選擇,制定改進(jìn)分類識(shí)別規(guī)則,待識(shí) 對(duì)象,訓(xùn)練 樣本,人工 干預(yù),識(shí)別結(jié)果,例子2：蘋果和香蕉的分類,顏色（綠/紅）,似圓度,1. 2 模式識(shí)別系統(tǒng),18,紙幣識(shí)別器對(duì)紙幣按面額進(jìn)行分類 面額,例子3：紙幣識(shí)別系統(tǒng),5元 10元 20元 50元 100元,19,長度(mm) 寬度(mm) 5元 136 63 10元 141 70 20元 146 70 50元 151 70 100元 156 77,例子3：紙幣識(shí)別系統(tǒng),20,磁性 金屬條位置(大約) 5元 有 54/82 10元 有 54/87 20元 有 57/89 50元 有 60/91 100元 有 63/93,例子3：紙幣識(shí)別系統(tǒng),21,數(shù)據(jù)采集、特征提取： 長度、寬度、磁性、磁性的位置等等,特征選擇： 長度、位置,分類識(shí)別： 確定紙幣的面額,例子3：紙幣識(shí)別系統(tǒng),各類空間（Space)的概念,對(duì)象空間,模式空間,特征空間,類型空間,模式采集：從客觀世界（對(duì)象空間）到模式空間的過程稱為模式采集。,特征提取和特征選擇：由模式空間到特征空間的變換和選擇。,類型判別：特征空間到類型空間所作的操作。,1. 3 特征矢量和特征空間,所有樣本觀測(cè)數(shù)據(jù)構(gòu)成的空間,1. 3 特征矢量和特征空間,1. 4 模式識(shí)別方法,統(tǒng)計(jì)判決 句法結(jié)構(gòu) 模糊判決 邏輯推理 神經(jīng)網(wǎng)絡(luò),（1）統(tǒng)計(jì)判決,理論基礎(chǔ)：概率論，數(shù)理統(tǒng)計(jì) 模式描述方法：特征向量 主要方法 幾何分類：線性分類，非線性分類 統(tǒng)計(jì)分類：Bayes決策 無教師的分類：聚類分析 主要優(yōu)點(diǎn) 1）比較成熟 2）能考慮干擾噪聲等影響 3）識(shí)別模式基元能力強(qiáng) 主要缺點(diǎn) 1）對(duì)結(jié)構(gòu)復(fù)雜的模式抽取特征困難 2）不能反映模式的結(jié)構(gòu)特征，難以描述模式的性質(zhì) 3）難以從整體角度考慮識(shí)別問題,（2）句法結(jié)構(gòu),理論基礎(chǔ)：形式語言，自動(dòng)機(jī)技術(shù) 模式描述方法：符號(hào)串，樹，圖 模式判定：是一種語言，用一個(gè)文法表示一個(gè)類， m類就有m個(gè)文法，然后判定未知模式遵循哪一個(gè)文法。 主要優(yōu)點(diǎn) 1）識(shí)別方便，可以從簡(jiǎn)單的基元開始，由簡(jiǎn)至繁。 2）能反映模式的結(jié)構(gòu)特征，能描述模式的性質(zhì)。 3）對(duì)圖象畸變的抗干擾能力較強(qiáng)。 主要缺點(diǎn) 當(dāng)存在干擾及噪聲時(shí)，抽取特征基元困難，且易失誤。,（3）模糊判決,理論基礎(chǔ)：模糊數(shù)學(xué) 模式描述方法：模糊集合 A=(a,a), (b,b),. (n,n), 模式判定：是一種集合運(yùn)算。用隸屬度將模糊集合劃分為若干子集， m類就有m個(gè)子集，然后根據(jù)擇近原則分類。 主要優(yōu)點(diǎn) 由于隸屬度函數(shù)作為樣本與模板間相似程度的度量，故往往能反映整體的與主體的特征，從而允許樣本有相當(dāng)程度的干擾與畸變。 主要缺點(diǎn) 準(zhǔn)確合理的隸屬度函數(shù)往往難以建立，故限制了它的應(yīng)用。,（4）邏輯推理,理論基礎(chǔ)：演繹邏輯，布爾代數(shù) 模式描述方法：字符串表示的事實(shí) 模式判定：是一種布爾運(yùn)算。從事實(shí)出發(fā)運(yùn)用一系列規(guī)則，推理得到不同結(jié)果，m個(gè)類就有m個(gè)結(jié)果。 主要優(yōu)點(diǎn) 已建立了關(guān)于知識(shí)表示及組織，目標(biāo)搜索及匹配的完整體系。對(duì)需要眾多規(guī)則的推理達(dá)到識(shí)別目標(biāo)確認(rèn)的問題，有很好的效果。 缺點(diǎn) 當(dāng)樣本有缺損，背景不清晰，規(guī)則不明確甚至有歧義時(shí)，效果不好。,（5）神經(jīng)網(wǎng)絡(luò),理論基礎(chǔ)：神經(jīng)生理學(xué)，心理學(xué)