ch1模式與模式識(shí)別概論.ppt

第一章 概論,模 式 識(shí) 別,Pattern Recognition,,1 模式及模式識(shí)別的概念 2 模式識(shí)別系統(tǒng) 3 模式識(shí)別的應(yīng)用 4 模式識(shí)別的方法,第一章 模式識(shí)別概論,1.1 模式及模式識(shí)別的概念,模式識(shí)別(Pattern Recognition)：確定一個(gè)樣本的類(lèi)別屬性（模式）的過(guò)程，即把某一樣本歸屬于多個(gè)類(lèi)型中的某個(gè)類(lèi)型.,樣本（Sample)：所研究對(duì)象的一個(gè)個(gè)體， 如患者的細(xì)胞、一個(gè)漢字、一幅圖片、一段視頻等.,模式( Pattern)：對(duì)研究對(duì)象所具有的特征和信息的描述，對(duì)某類(lèi)事物的抽象也成為該類(lèi)的模式 .,人類(lèi)具有很強(qiáng)的模式識(shí)別能力，時(shí)刻在完成某種模式識(shí)別的任務(wù)。 模式識(shí)別是從樣本到類(lèi)別的映射。,1.1 模式及模式識(shí)別的概念,1929年 G. Tauschek發(fā)明閱讀機(jī) ，能夠閱讀0-9的數(shù)字。 30年代 Fisher提出統(tǒng)計(jì)分類(lèi)理論，奠定了統(tǒng)計(jì)模式識(shí)別的基礎(chǔ)。 50年代 Noam Chemsky 提出形式化語(yǔ)言理論，傅京蓀 提出句法結(jié)構(gòu)模式識(shí)別。 60年代 L.A.Zadeh提出了模糊集理論，模糊模式識(shí)別方法得以發(fā)展和應(yīng)用。 80年代以Hopfield網(wǎng)、BP網(wǎng)為代表的神經(jīng)網(wǎng)絡(luò)模型使人工神經(jīng)元網(wǎng)絡(luò)復(fù)活，并在模式識(shí)別得到廣泛的應(yīng)用。 90年代小樣本學(xué)習(xí)理論，支持向量機(jī)受到了很大的重視。,模式識(shí)別簡(jiǎn)史,1、數(shù)據(jù)獲取 2、預(yù)處理 3、特征抽取 4、分類(lèi)器設(shè)計(jì),1.2 模式識(shí)別系統(tǒng),1.2 模式識(shí)別系統(tǒng),分 類(lèi) 過(guò) 程,學(xué) 習(xí) 過(guò) 程,在傳送帶上用光學(xué)傳感器件對(duì)魚(yú)按品種分類(lèi) 鱸魚(yú)(Seabass) 品種 鮭魚(yú)(Salmon),模式識(shí)別過(guò)程實(shí)例,識(shí)別過(guò)程,數(shù)據(jù)獲?。杭茉O(shè)一個(gè)攝像機(jī)，采集一些樣本圖像，獲取樣本數(shù)據(jù) 預(yù)處理：去噪聲，用一個(gè)分割操作把魚(yú)和魚(yú)之間以及魚(yú)和背景之間分開(kāi),識(shí)別過(guò)程,特征提取和選擇：對(duì)單個(gè)魚(yú)的信息進(jìn)行特征選擇，從而通過(guò)測(cè)量某些特征來(lái)減少信息量 長(zhǎng)度 亮度 寬度 魚(yú)翅的數(shù)量和形狀 嘴的位置 分類(lèi)決策：把特征送入決策分類(lèi)器,識(shí)別過(guò)程,識(shí)別過(guò)程,識(shí)別過(guò)程,識(shí)別過(guò)程,識(shí)別過(guò)程,1.數(shù)據(jù)獲取,為了使計(jì)算機(jī)能夠?qū)腕w進(jìn)行分類(lèi)識(shí)別，必須將客體用計(jì)算機(jī)所能接受的形式表示，通常從客體獲得的信息有下列三種類(lèi)型 二維圖像，如文字、指紋、照片等； 一維波形，如語(yǔ)音、機(jī)械振動(dòng)波、心電團(tuán)等； 物理參量或邏輯值，如體溫、各種實(shí)驗(yàn)數(shù)據(jù)等。 通過(guò)測(cè)量、采樣和量化，可以用矩陣或向量表示二維圖象或一維波形，這就是信息獲取過(guò)程。,2預(yù)處理,預(yù)處理的目的是去除噪聲，加強(qiáng)有用的信息，并對(duì)種種因素造成的退化現(xiàn)象進(jìn)行復(fù)原。,某人聲音有雜音,清晰聲音,圖像預(yù)處理,語(yǔ)音信號(hào)預(yù)處理,模糊圖像,清晰圖像,3特征提取,為了有效地實(shí)現(xiàn)分類(lèi)識(shí)別，要對(duì)原始數(shù)據(jù)進(jìn)行選擇或變換，得到最能反應(yīng)分類(lèi)本質(zhì)的待征，構(gòu)成特征向量。,人臉幾何特征 人臉部件規(guī)一化的點(diǎn)間距離和比率特征點(diǎn) 如眼角、嘴角、鼻尖等 人臉的顏色特征 黃皮膚、黑眼睛 統(tǒng)計(jì)特征 臉形模板和圖象灰度的自相關(guān)性,4分類(lèi)器設(shè)計(jì),為了把待識(shí)模式分配到各自的模式類(lèi)中去，必須設(shè)計(jì)出分類(lèi)判別規(guī)則。 基本作法是：用一定數(shù)量的樣本(稱(chēng)為訓(xùn)練樣本集)確定出一套分類(lèi)判別規(guī)則，使得按這套分類(lèi)判別規(guī)則對(duì)待識(shí)模式進(jìn)行分類(lèi)所造成的錯(cuò)誤識(shí)別率最小或引起約損失最小。 分類(lèi)器按已確定的分類(lèi)判別規(guī)則對(duì)待識(shí)模式進(jìn)行分類(lèi)判別，輸出分類(lèi)結(jié)果。,監(jiān)督學(xué)習(xí)和非監(jiān)督學(xué)習(xí),監(jiān)督學(xué)習(xí),監(jiān)督學(xué)習(xí)和非監(jiān)督學(xué)習(xí),劃分的類(lèi)別已知，且訓(xùn)練樣本已知類(lèi)別信息,非監(jiān)督學(xué)習(xí),半監(jiān)督學(xué)習(xí),沒(méi)有類(lèi)別標(biāo)簽， 通常利用聚類(lèi)方法完成 樣本的分類(lèi),部分樣本有類(lèi)別標(biāo)簽， 目標(biāo)與有監(jiān)督分 類(lèi)一致,應(yīng)用領(lǐng)域,1.3 模式識(shí)別的應(yīng)用,文本分類(lèi) 文本圖像分析 工業(yè)自動(dòng)化 數(shù)據(jù)挖掘 多媒體數(shù)據(jù)庫(kù)檢索 生物特征識(shí)別 語(yǔ)音識(shí)別 生物信息學(xué) 遙感 ,1.3 模式識(shí)別的應(yīng)用, 準(zhǔn)確性 速度 存儲(chǔ)量 價(jià)格,指紋識(shí)別,1.3 模式識(shí)別的應(yīng)用,語(yǔ)音信號(hào)處理與識(shí)別,語(yǔ)音識(shí)別 說(shuō)話人識(shí)別 語(yǔ)種識(shí)別 口音識(shí)別,1.3 模式識(shí)別的應(yīng)用,人臉圖像識(shí)別, 人臉檢測(cè)和定位 人臉識(shí)別 虹膜識(shí)別,應(yīng)用： 圖象壓縮 視頻監(jiān)視 基于內(nèi)容的圖象檢索,醫(yī)學(xué)信號(hào)的處理、識(shí)別和分類(lèi)： 細(xì)胞正常與異常判斷，染色體分類(lèi)，心電腦電圖，測(cè)謊儀,1.3 模式識(shí)別的應(yīng)用,應(yīng)用領(lǐng)域,1.3 模式識(shí)別的應(yīng)用,1. 模板匹配識(shí)別方法 2. 句法識(shí)別方法 3. 統(tǒng)計(jì)識(shí)別方法 4. 人工神經(jīng)網(wǎng)絡(luò)方法,1.4 模式識(shí)別方法,模版匹配,首先對(duì)每個(gè)類(lèi)別建立一個(gè)或多個(gè)模版 輸入樣本和數(shù)據(jù)庫(kù)中每個(gè)類(lèi)別的模版進(jìn)行比較，求相關(guān)或距離 根據(jù)相關(guān)性或距離大小進(jìn)行決策 優(yōu)點(diǎn)：直接、簡(jiǎn)單 缺點(diǎn)：適應(yīng)性差,方法,句法模式,許多復(fù)雜的模式可以分解為簡(jiǎn)單的子模式，這些子模式組成所謂 “基元” 每個(gè)模式都可以由基元根據(jù)一定的關(guān)系來(lái)組成 基元可以認(rèn)為是語(yǔ)言中的詞語(yǔ)，每個(gè)模式都可以認(rèn)為是一個(gè)句子，關(guān)系可以認(rèn)為是語(yǔ)法 模式的相似性由句子的相似性來(lái)決定 優(yōu)點(diǎn)：適合結(jié)構(gòu)性強(qiáng)的模式 缺點(diǎn)：抗噪聲能力差，計(jì)算復(fù)雜度高,方法,句法模式,方法,統(tǒng)計(jì)方法,根據(jù)訓(xùn)練樣本，建立決策邊界 統(tǒng)計(jì)決策理論根據(jù)每一類(lèi)總體的概率分布決定決策邊界 判別式分析方法給出帶參數(shù)的決策邊界，根據(jù)某種準(zhǔn)則，由訓(xùn)練樣本決定“最優(yōu)”的參數(shù) 本課程的重點(diǎn)內(nèi)容,方法,神經(jīng)網(wǎng)絡(luò),神經(jīng)網(wǎng)絡(luò)是受人腦組織的生理學(xué)啟發(fā)而創(chuàng)立的。 由一系列互相聯(lián)系的、相同的單元（神經(jīng)元）組成。相互間的聯(lián)系可以在不同的神經(jīng)元之間傳遞增強(qiáng)或抑制信號(hào)。 增強(qiáng)或抑制是通過(guò)調(diào)整神