第十章模式識(shí)別

1、第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.1 10.1 模板匹配模板匹配 10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 10.4 10.4 結(jié)構(gòu)模式識(shí)別法結(jié)構(gòu)模式識(shí)別法 10.5 10.5 神經(jīng)網(wǎng)絡(luò)識(shí)別法神經(jīng)網(wǎng)絡(luò)識(shí)別法 10.2 10.2 模式識(shí)別概念模式識(shí)別概念第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.1 10.1 模板匹配模板匹配 模板匹配是一種最原始、最基本的模式識(shí)別方法。研究某模板匹配是一種最原始、最基本的模式識(shí)別方法。研究某特特定對(duì)象物的圖案位于圖像的什么地方，進(jìn)而識(shí)別對(duì)象物，就是定對(duì)象物的圖案位于圖像的什么地方，進(jìn)而識(shí)別對(duì)象物，就是一個(gè)匹配的問題。一個(gè)匹

2、配的問題。通常應(yīng)用在以下方面： 1. 1. 模板匹配概述模板匹配概述 在幾何變換中，檢測(cè)圖像和地圖之間的對(duì)應(yīng)點(diǎn) 不同的光譜或不同的攝影時(shí)間所得的圖像之間位置的配準(zhǔn)圖像配準(zhǔn)) 在立體影象分析中提取左右影象間的對(duì)應(yīng)關(guān)系 運(yùn)動(dòng)物體的跟蹤 圖像中對(duì)象物位置的檢測(cè)等 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.1 10.1 模板匹配模板匹配 如右圖如右圖, ,設(shè)檢測(cè)對(duì)象的模板為設(shè)檢測(cè)對(duì)象的模板為t(xt(x，y)y)，令其中心與圖像令其中心與圖像f(xf(x，y)y)中的一點(diǎn)中的一點(diǎn)(i(i，j)j)重合，檢測(cè)重合，檢測(cè)t(xt(x，y)y)和圖像重合部分和圖像重合部分之間的相似度，對(duì)圖像中

3、所有的點(diǎn)都之間的相似度，對(duì)圖像中所有的點(diǎn)都進(jìn)行這樣的操作，根據(jù)相似度為最大進(jìn)行這樣的操作，根據(jù)相似度為最大或者超過某或者超過某閾值來確定對(duì)象物是否閾值來確定對(duì)象物是否存在，并求得對(duì)象物所在的位置，即存在，并求得對(duì)象物所在的位置，即是模板匹配匹配的基本原理。是模板匹配匹配的基本原理。 2. 2. 模板匹配方法（原理）模板匹配方法（原理） 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.1 10.1 模板匹配模板匹配 2. 2. 模板匹配方法（原理）模板匹配方法（原理） 1 1） 模板匹配模板匹配非相似度度量方法非相似度度量方法) 11 .10(maxtfssdxdytf) 21 .10(

4、) 31 .10()(2dxdytfs式中計(jì)算的是模板和圖像重合部分的非相似度，該值越小，表示匹配程度越好。 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.1 10.1 模板匹配模板匹配 2. 2. 模板匹配方法（原理）模板匹配方法（原理） 2 2） 模板匹配模板匹配相似度度量方法相似度度量方法式中，分別表示f(x+u,y+v)，t(x,y)在S內(nèi)的均值，得到的是模板和圖像重合部分相似度，該值越大，表示匹配程度越好。 sdxdyvyuxfyxtvum),(),(),()51 .10(),(),(),(2sdxdyvyuxfvumvum)61 .10(),(),(),()(),(),(

5、22sssdxdytyxtdxdyfvyuxfdxdytyxtfvyuxfvum（10.1-4）第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.1 10.1 模板匹配模板匹配 3. 3. 高速模板匹配高速模板匹配 序貫相似性檢測(cè)法序貫相似性檢測(cè)法SSDASSDA 模板匹配中使用的模板相當(dāng)大模板匹配中使用的模板相當(dāng)大(8(88 832323232左右左右) ) ，為提高匹配速度，為提高匹配速度，BarneaBarnea等人提出了序貫相似性檢測(cè)法等人提出了序貫相似性檢測(cè)法SSDASSDA法法(Sequential Similiarity (Sequential Similiarity De

6、tectionDetection Algorithm)Algorithm) 。 )71 .10(),() 1, 1(),(11nkmtlktvlukfvumSSDA用下式計(jì)算圖像f(x，y)在點(diǎn)(u，v)的非相似度m(u,v)作為匹配尺度。式中(u，v)表示的不是模板中心坐標(biāo)，而是它左上角坐標(biāo)。模板的大小為 mn。 若在(u，v)處圖像中有和模板一致的圖案時(shí)，則m(u,v)值很小，相反則大。 如果在模板內(nèi)的各像素與圖像重合部分對(duì)應(yīng)象素的灰度差的絕對(duì)值依次增加下去，其和就會(huì)急劇地增大。因此，在做加法的過程中，如果灰度差的絕對(duì)值部分和超過了某一閾值時(shí)，就認(rèn)為這位置上不存在和模板致的圖案，從而轉(zhuǎn)移到

7、下一個(gè)位置上計(jì)算m(u，v) 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.1 10.1 模板匹配模板匹配 3. 3. 高速模板匹配高速模板匹配 粗檢索細(xì)檢索兩階段匹配法粗檢索細(xì)檢索兩階段匹配法 粗檢索每隔若干個(gè)像素把模板和圖像重疊，并計(jì)算匹配的尺度，從而每隔若干個(gè)像素把模板和圖像重疊，并計(jì)算匹配的尺度，從而求出對(duì)象物大致存在的范圍求出對(duì)象物大致存在的范圍 細(xì)檢索這粗檢索檢出范圍內(nèi)，讓模板每隔這粗檢索檢出范圍內(nèi)，讓模板每隔個(gè)像素移動(dòng)一次，根據(jù)求個(gè)像素移動(dòng)一次，根據(jù)求出的匹配尺度確定對(duì)象物所在的位置出的匹配尺度確定對(duì)象物所在的位置 計(jì)算時(shí)間縮短，匹配速度就提高了。但是用這種方法具有計(jì)算

8、時(shí)間縮短，匹配速度就提高了。但是用這種方法具有漏掉圖漏掉圖像中最適當(dāng)位置的危險(xiǎn)性像中最適當(dāng)位置的危險(xiǎn)性 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.1 10.1 模板匹配模板匹配 4. 4. 模板匹配改進(jìn)模板匹配改進(jìn) 基于圖案輪廓的特征匹配方法基于圖案輪廓的特征匹配方法 模板匹配的缺陷在一般的圖像中有較強(qiáng)自相關(guān)性，因此，進(jìn)行模板匹配計(jì)算的在一般的圖像中有較強(qiáng)自相關(guān)性，因此，進(jìn)行模板匹配計(jì)算的相似度就在以對(duì)象物存在的地方為中心形成平緩的峰。這樣，相似度就在以對(duì)象物存在的地方為中心形成平緩的峰。這樣，即使從圖像中對(duì)象物的真實(shí)位置稍微離開一點(diǎn)，也表現(xiàn)出相當(dāng)即使從圖像中對(duì)象物的真實(shí)位置稍微

9、離開一點(diǎn)，也表現(xiàn)出相當(dāng)高的相似度，即高的相似度，即模板匹配結(jié)果過于平緩模板匹配結(jié)果過于平緩 改進(jìn) 基于圖案輪廓的特征匹配 用各種模板進(jìn)行匹配，從而求出最用各種模板進(jìn)行匹配，從而求出最致的模板及其位置致的模板及其位置 在對(duì)象形狀復(fù)雜時(shí)，把對(duì)象分割成幾個(gè)分圖案，把各分圖案作為在對(duì)象形狀復(fù)雜時(shí)，把對(duì)象分割成幾個(gè)分圖案，把各分圖案作為模板進(jìn)行匹配，研究分圖案之間位置關(guān)系，從而求得對(duì)象的位置模板進(jìn)行匹配，研究分圖案之間位置關(guān)系，從而求得對(duì)象的位置 圖案輪廓的匹配與一般的匹配相比較，表現(xiàn)出更尖銳的相似度分布圖案輪廓的匹配與一般的匹配相比較，表現(xiàn)出更尖銳的相似度分布 10.2 圖像（模式）識(shí)別概念圖像（模式

10、）識(shí)別概念l模式識(shí)別：對(duì)表征事物或現(xiàn)象的各種形式的（數(shù)值的，文字的和邏輯關(guān)系的）信息進(jìn)行處理和分析，以對(duì)事物或現(xiàn)象進(jìn)行描述、辨認(rèn)、分類和解釋的過程，是信息科學(xué)和人工智能的重要組成部分。l什么是模式 （Pattern）？ “模式”是一個(gè)客觀事物的描述，是指建立一個(gè)可用于仿效的完善的標(biāo)本。n 圖像識(shí)別與模式識(shí)別第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別l模式識(shí)別的研究?jī)?nèi)容模式識(shí)別的研究?jī)?nèi)容 1）研究生物體（包括人）是如何感知對(duì)象的，屬于認(rèn)研究生物體（包括人）是如何感知對(duì)象的，屬于認(rèn)知科學(xué)的范疇知科學(xué)的范疇 2）在給定的任務(wù)下，如何用計(jì)算機(jī)實(shí)現(xiàn)模式識(shí)別的理在給定的任務(wù)下，如何用計(jì)算機(jī)實(shí)現(xiàn)模式

11、識(shí)別的理論和方法論和方法 10.2 圖像（模式）識(shí)別概念圖像（模式）識(shí)別概念第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別l典型模式識(shí)別系統(tǒng)典型模式識(shí)別系統(tǒng) l圖像識(shí)別系統(tǒng)圖像識(shí)別系統(tǒng) 10.2 圖像（模式）識(shí)別概念圖像（模式）識(shí)別概念第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別l人臉識(shí)別系統(tǒng)10.2 圖像（模式）識(shí)別概念圖像（模式）識(shí)別概念第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別l模式模式可以定義為可以定義為物體的描述物體的描述。由于描述這個(gè)詞。由于描述這個(gè)詞的意義比較廣泛，有人把它推廣到圖像數(shù)據(jù)本的意義比較廣泛，有人把它推廣到圖像數(shù)據(jù)本身，因?yàn)閳D像數(shù)據(jù)也是相應(yīng)事物的一種

12、描述，身，因?yàn)閳D像數(shù)據(jù)也是相應(yīng)事物的一種描述，只不過這樣的描述不夠抽象和簡(jiǎn)要而已。圖像只不過這樣的描述不夠抽象和簡(jiǎn)要而已。圖像的各種特征和描述的提取方法。我們將的各種特征和描述的提取方法。我們將模式解模式解釋為物體的較抽象的特征和描述。釋為物體的較抽象的特征和描述。 10.2 圖像（模式）識(shí)別概念圖像（模式）識(shí)別概念第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別l模式可以是以模式可以是以矢量矢量 柵格形式柵格形式表示的表示的數(shù)字特征數(shù)字特征；也可以是以也可以是以句法結(jié)構(gòu)句法結(jié)構(gòu)表示的表示的字符串或圖字符串或圖；還可以是以還可以是以關(guān)系結(jié)構(gòu)關(guān)系結(jié)構(gòu)表示的表示的語(yǔ)義網(wǎng)絡(luò)或框架語(yǔ)義網(wǎng)絡(luò)或框架結(jié)構(gòu)

13、結(jié)構(gòu)等。等。l對(duì)于上述三種類型的模式，必須分別使用不同對(duì)于上述三種類型的模式，必須分別使用不同的識(shí)別和推理方法：的識(shí)別和推理方法：統(tǒng)計(jì)模式識(shí)別，句法模式統(tǒng)計(jì)模式識(shí)別，句法模式識(shí)別識(shí)別和和人工智能方法人工智能方法。 10.2 圖像（模式）識(shí)別概念圖像（模式）識(shí)別概念第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別l統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別基本原理是：有相似性的樣本在模式空間中互相接基本原理是：有相似性的樣本在模式空間中互相接近，并形成近，并形成“集團(tuán)集團(tuán)”，即，即“物以類聚物以類聚”。主要方法有：決策函數(shù)法，主要方法有：決策函數(shù)法， k近鄰分類法，支持向近鄰分類法，支持向量機(jī)，特征分析法，主因

14、子分析法等量機(jī)，特征分析法，主因子分析法等10.2 圖像（模式）識(shí)別概念圖像（模式）識(shí)別概念第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別l句法（或結(jié)構(gòu)）模式識(shí)別 基于形式語(yǔ)言理論的概念為基礎(chǔ)。模式按其結(jié)構(gòu)分解為子模式或模式基元，模式基元的連接關(guān)系以文法形式進(jìn)行描述。一個(gè)場(chǎng)景的示意圖 場(chǎng)景結(jié)構(gòu)的分析 10.2 圖像（模式）識(shí)別概念圖像（模式）識(shí)別概念第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別l模糊模式識(shí)別模糊模式識(shí)別模糊集理論，模糊集理論，Zadeh，1965模糊集理論在模式識(shí)別中的應(yīng)用模糊集理論在模式識(shí)別中的應(yīng)用l神經(jīng)網(wǎng)絡(luò)模式識(shí)別神經(jīng)網(wǎng)絡(luò)模式識(shí)別特點(diǎn)：具有信息分布式存儲(chǔ)、大規(guī)模自

15、適應(yīng)并行處理、高度的特點(diǎn)：具有信息分布式存儲(chǔ)、大規(guī)模自適應(yīng)并行處理、高度的容錯(cuò)性以及學(xué)習(xí)能力容錯(cuò)性以及學(xué)習(xí)能力缺點(diǎn)：缺點(diǎn)：實(shí)際應(yīng)用中仍有許多因素需要憑經(jīng)驗(yàn)確定，比如如何選實(shí)際應(yīng)用中仍有許多因素需要憑經(jīng)驗(yàn)確定，比如如何選擇網(wǎng)絡(luò)節(jié)點(diǎn)數(shù)、初始權(quán)值和學(xué)習(xí)步長(zhǎng)等；局部極小點(diǎn)問題、過擇網(wǎng)絡(luò)節(jié)點(diǎn)數(shù)、初始權(quán)值和學(xué)習(xí)步長(zhǎng)等；局部極小點(diǎn)問題、過學(xué)習(xí)與欠學(xué)習(xí)問題等學(xué)習(xí)與欠學(xué)習(xí)問題等 10.2 圖像（模式）識(shí)別概念圖像（模式）識(shí)別概念第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別l特征選擇特征選擇 所要提取的應(yīng)當(dāng)是具有可所要提取的應(yīng)當(dāng)是具有可區(qū)別性、可靠性、區(qū)別性、可靠性、獨(dú)立性好獨(dú)立性好的的少量少量特征特征。因

16、此特征選擇可以看作是一個(gè)因此特征選擇可以看作是一個(gè)( (從最差的從最差的開始開始) )不斷刪除無用的特征和組合有關(guān)聯(lián)的特不斷刪除無用的特征和組合有關(guān)聯(lián)的特征的過程，直到特征的數(shù)目減少到易于駕馭的征的過程，直到特征的數(shù)目減少到易于駕馭的程度，同時(shí)分類器的性能仍能滿足要求為止。程度，同時(shí)分類器的性能仍能滿足要求為止。 l每類的每一個(gè)特征均值：每類的每一個(gè)特征均值： 假設(shè)訓(xùn)練樣本中有個(gè)不同類別的樣本。令表示假設(shè)訓(xùn)練樣本中有個(gè)不同類別的樣本。令表示第類的樣本數(shù)，第類中第個(gè)樣本的兩個(gè)特征分第類的樣本數(shù)，第類中第個(gè)樣本的兩個(gè)特征分別記為和。別記為和。每類的每一個(gè)特征均值：每類的每一個(gè)特征均值：和和注意：僅

17、是兩個(gè)值基于訓(xùn)練樣本的估計(jì)值，而不是真實(shí)注意：僅是兩個(gè)值基于訓(xùn)練樣本的估計(jì)值，而不是真實(shí)的類均值。的類均值。MjNjjiijxijyjNiijjxjxN11jNiijjyjyN1110.2 圖像（模式）識(shí)別概念圖像（模式）識(shí)別概念第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別l特征方差特征方差第類的特征和特征的方差估值分第類的特征和特征的方差估值分別為：別為： 和和 在理想情況下同一類別中所有對(duì)象的特在理想情況下同一類別中所有對(duì)象的特征值應(yīng)該很相近。征值應(yīng)該很相近。 jxyjNixjijjxjxN122)(1jNiyjijjyjyN122)(110.2 圖像（模式）識(shí)別概念圖像（模式）識(shí)別

18、概念第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別l特征相關(guān)系數(shù)特征相關(guān)系數(shù)第類特征和特征的相關(guān)系數(shù)估計(jì)為第類特征和特征的相關(guān)系數(shù)估計(jì)為 它的取值范圍為。它的取值范圍為。如果如果=0=0，說明這兩特征之間沒有相關(guān)性；接近，說明這兩特征之間沒有相關(guān)性；接近+1+1表示表示這兩個(gè)特征相關(guān)性強(qiáng)；為這兩個(gè)特征相關(guān)性強(qiáng)；為-1-1表示任一特征都與另一特征表示任一特征都與另一特征的負(fù)值成正比。的負(fù)值成正比。因此，因此，如果相關(guān)系數(shù)的絕對(duì)值接近如果相關(guān)系數(shù)的絕對(duì)值接近1 1，則說明這兩個(gè)特，則說明這兩個(gè)特征可以組合在一個(gè)特征或干脆舍棄其中一個(gè)。征可以組合在一個(gè)特征或干脆舍棄其中一個(gè)。jxyyjxjNiy

19、jijxjijjxyjjyxN)(11 1, 110.2 圖像（模式）識(shí)別概念圖像（模式）識(shí)別概念第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別l類間距離類間距離一個(gè)特征區(qū)分兩類能力的一個(gè)指標(biāo)是類間距離，即類一個(gè)特征區(qū)分兩類能力的一個(gè)指標(biāo)是類間距離，即類均值間的方差歸一化間距。顯然，均值間的方差歸一化間距。顯然，類間距離大的特征是類間距離大的特征是好特征好特征。對(duì)特征來說，第類與第類之間的類間距為：對(duì)特征來說，第類與第類之間的類間距為：xjk22xkxjxkxjxjkD10.2 圖像（模式）識(shí)別概念圖像（模式）識(shí)別概念第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別基本概念基本概念這里我

20、們討論數(shù)字特征的識(shí)別。其前提是，假定這里我們討論數(shù)字特征的識(shí)別。其前提是，假定我們所處理的模式每一個(gè)樣本都表示為我們所處理的模式每一個(gè)樣本都表示為N N維特征矢量維特征矢量，寫為：，寫為： 顯然，特征矢量顯然，特征矢量 可以表示為可以表示為N N維特征矢量空間維特征矢量空間 中的一個(gè)點(diǎn)，這樣統(tǒng)計(jì)模式識(shí)別的概念及方法就可中的一個(gè)點(diǎn)，這樣統(tǒng)計(jì)模式識(shí)別的概念及方法就可以在特征空間中予以研究。以在特征空間中予以研究。),.,(21Nxxxxxx第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 u模式分類：根據(jù)識(shí)別對(duì)象的觀測(cè)值確定其類別u樣本與樣本空間表示：

21、12,Tnnx xxRxx12,ic u類別與類別空間：c個(gè)類別（類別數(shù)已知）第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 u把樣本x x分到哪一類分到哪一類最合理最合理？解決該問？解決該問題的題的理論基礎(chǔ)之一是統(tǒng)計(jì)決策理論u決策：是從樣本空間S，到?jīng)Q策空間的一個(gè)映射，表示為 D D: S - : S - 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 假設(shè)我們要把一個(gè)樣本集合假設(shè)我們要把一個(gè)樣本集合 分成分成M M類類 ；如上所述，該樣本集合可以表示為如上所述，該樣本集合可以表示為N N維特征空

22、間維特征空間 中的一個(gè)點(diǎn)集，它的分類問題表述為將該特征中的一個(gè)點(diǎn)集，它的分類問題表述為將該特征空間劃分為空間劃分為M M個(gè)子空間，每一子空間為一類，子個(gè)子空間，每一子空間為一類，子空間中的樣本點(diǎn)屬于相應(yīng)類別?？臻g中的樣本點(diǎn)屬于相應(yīng)類別。這樣，這樣，分類問題的關(guān)鍵就在于如何找到一個(gè)正分類問題的關(guān)鍵就在于如何找到一個(gè)正確子空間劃分，確子空間劃分，即劃分子空間的界面。即劃分子空間的界面。 ,.,21xxM,.,21x第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 下圖為二維特征空間，三類問題。下圖為二維特征空間，三類問題。 第十章第十章 模板匹配與模式

23、識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 u決策區(qū)域與決策面第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 數(shù)學(xué)上，統(tǒng)計(jì)模式識(shí)別問題可以歸結(jié)為：對(duì)一數(shù)學(xué)上，統(tǒng)計(jì)模式識(shí)別問題可以歸結(jié)為：對(duì)一組給定的樣本集合，找出其最佳的分類判決函組給定的樣本集合，找出其最佳的分類判決函數(shù)數(shù) ，并作判決：并作判決：若對(duì)所有的若對(duì)所有的 均有：均有： 則作判決：則作判決： MiDi,.,2 , 1, Mjij,.,2 , 1,)()(xDxDjii

24、x第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 因?yàn)樘幚淼氖欠诸悊栴}，因此最佳的意義因?yàn)樘幚淼氖欠诸悊栴}，因此最佳的意義是分類誤差最小。是分類誤差最小。 由于求解最佳判決函數(shù)的出發(fā)點(diǎn)和途徑不同由于求解最佳判決函數(shù)的出發(fā)點(diǎn)和途徑不同，因此產(chǎn)生了各種不同的分類方法：，因此產(chǎn)生了各種不同的分類方法： 判別函數(shù)方法判別函數(shù)方法貝葉斯分類器貝葉斯分類器：判別函數(shù)表示為似然比，也稱：判別函數(shù)表示為似然比，也稱為為最大似然率分類器或最小損失分類器最大似然率分類器或最小損失分類器集群分類方法集群分類方法：它幾乎不需要有關(guān)待分樣本的：它幾乎不需要有關(guān)待分樣本的先

25、驗(yàn)知識(shí)。先驗(yàn)知識(shí)。 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 u分類器是某種由硬件或軟件組成的“機(jī)器”：計(jì)算c個(gè)判別函數(shù)gi(x)最大值選擇ARGMAXg1.g2gc.x1x2xna(x)第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 基本過程基本過程統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別是研究每是研究每個(gè)模式的各種測(cè)量數(shù)據(jù)的統(tǒng)計(jì)特性，按照統(tǒng)個(gè)模式的各種測(cè)量數(shù)據(jù)的統(tǒng)計(jì)特性，按照統(tǒng)計(jì)決策理論來進(jìn)行分類計(jì)決策理論來進(jìn)

26、行分類 統(tǒng)計(jì)模式識(shí)別過程統(tǒng)計(jì)模式識(shí)別過程分為識(shí)別和分類兩部分，核心內(nèi)容為分為識(shí)別和分類兩部分，核心內(nèi)容為特征處理特征處理與與分類分類 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 特征處理特征處理 包括特征選擇和特征變換：包括特征選擇和特征變換： 特征選擇方法特征選擇特征選擇指的是從原有的指的是從原有的m m個(gè)測(cè)量值集合中，按某一準(zhǔn)則選擇出一個(gè)測(cè)量值集合中，按某一準(zhǔn)則選擇出一個(gè)個(gè)n n維維(n(nm)m)的子集作為分類特征的子集作為分類特征 窮舉法窮舉法從從m m個(gè)原始的測(cè)量值中選出個(gè)原始的測(cè)量值中選出n n個(gè)特征，個(gè)特征，共有共有C Cm m

27、n n種可能的選擇。種可能的選擇。對(duì)每一種選法用己知類別屬性的樣本進(jìn)行試分類，測(cè)出其正確分對(duì)每一種選法用己知類別屬性的樣本進(jìn)行試分類，測(cè)出其正確分類率，分類誤差最小的一組特征便是最好的選擇類率，分類誤差最小的一組特征便是最好的選擇 優(yōu)點(diǎn)是不僅能提供最優(yōu)的特征子集，而且可以全面了解所有特征對(duì)各類別之間的可分性信息。但是，計(jì)算量太大，特別在特征維數(shù)高時(shí)，計(jì)算更繁 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 最大最小類對(duì)距離法最大最小類對(duì)距離法 首先在首先在K K個(gè)類別中選出最難分離的一對(duì)類別，個(gè)類別中選出最難分離的一對(duì)類別，然后選擇不同的特征子集

28、，計(jì)算這一對(duì)類別的可分性，然后選擇不同的特征子集，計(jì)算這一對(duì)類別的可分性，具有最大可分性的特征子集就是該方法所選擇的最佳具有最大可分性的特征子集就是該方法所選擇的最佳特征子集特征子集 特征選擇方法不改變?cè)紲y(cè)量值的物理意義，因此它不會(huì)影響分類器設(shè)計(jì)者對(duì)所用待征的認(rèn)識(shí)，有利于分類器的設(shè)計(jì)，便于分類結(jié)果的進(jìn)一步分析 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 特征變換特征變換特征變換是將原有的是將原有的m m個(gè)測(cè)量值集合通過某種變換，然后產(chǎn)生個(gè)測(cè)量值集合通過某種變換，然后產(chǎn)生n n個(gè)個(gè)(n(nm)m)特征用于分類。特征變換又分為兩種情況：特征用于

29、分類。特征變換又分為兩種情況： 一種，從減少特征之間相關(guān)性和濃縮信息量的角度出發(fā)，根據(jù)原一種，從減少特征之間相關(guān)性和濃縮信息量的角度出發(fā)，根據(jù)原始數(shù)據(jù)的統(tǒng)計(jì)特性，用數(shù)學(xué)的處理方法使得用盡量少的特征來最始數(shù)據(jù)的統(tǒng)計(jì)特性，用數(shù)學(xué)的處理方法使得用盡量少的特征來最大限度地包含所有原始數(shù)據(jù)的信息。這種方法不涉及具體模式類大限度地包含所有原始數(shù)據(jù)的信息。這種方法不涉及具體模式類別的分布情況，因此，對(duì)于沒有類別先驗(yàn)知識(shí)的情況，這是別的分布情況，因此，對(duì)于沒有類別先驗(yàn)知識(shí)的情況，這是種種有效的特征變換方式。主分量變換就屬于這一類型有效的特征變換方式。主分量變換就屬于這一類型 另一類，根據(jù)對(duì)測(cè)量值所反映的物理現(xiàn)

30、象與待分類別之間關(guān)系的另一類，根據(jù)對(duì)測(cè)量值所反映的物理現(xiàn)象與待分類別之間關(guān)系的認(rèn)識(shí)，通過數(shù)學(xué)運(yùn)算來產(chǎn)生認(rèn)識(shí)，通過數(shù)學(xué)運(yùn)算來產(chǎn)生組新的特征，使得待分類別之間的組新的特征，使得待分類別之間的差異在這組特征中更明顯，從而有利于改善分類效果差異在這組特征中更明顯，從而有利于改善分類效果 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 . . 統(tǒng)計(jì)分類方法統(tǒng)計(jì)分類方法 v 監(jiān)督分類監(jiān)督分類方法監(jiān)督分類方法就是根據(jù)預(yù)先已知類別名的訓(xùn)練樣本，求出各類在就是根據(jù)預(yù)先已知類別名的訓(xùn)練樣本，求出各類在特征空間的分布，然后利用它對(duì)未知數(shù)據(jù)進(jìn)行分類的方法特征空間的分布，

31、然后利用它對(duì)未知數(shù)據(jù)進(jìn)行分類的方法 換句話說，監(jiān)督分類法就是根據(jù)訓(xùn)練樣本把特征空間分割成換句話說，監(jiān)督分類法就是根據(jù)訓(xùn)練樣本把特征空間分割成對(duì)應(yīng)于各類的區(qū)域?qū)?yīng)于各類的區(qū)域 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 監(jiān)督分類過程1)1)根據(jù)類別名預(yù)先給定的訓(xùn)練樣本，根據(jù)各類特征矢量分布確定根據(jù)類別名預(yù)先給定的訓(xùn)練樣本，根據(jù)各類特征矢量分布確定判別函數(shù)判別函數(shù)g g1 1ggc c(c(c為類別數(shù)為類別數(shù)) )。這一過程稱為學(xué)習(xí)。這一過程稱為學(xué)習(xí) 2)2)對(duì)于待分類的特征矢量（或稱模式）對(duì)于待分類的特征矢量（或稱模式）X=(xX=(x1,1,

32、x x2,2,x,xn n) )，計(jì)算各判，計(jì)算各判別函數(shù)的值別函數(shù)的值g g1 1（X X）ggc c(X)(X) 3)3)在在g g1 1(X)g(X)gc c(X)(X)中選擇最大者，把模式中選擇最大者，把模式X X分類到這一類中分類到這一類中 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 常用判別函數(shù)1)1)距離判別函數(shù)距離判別函數(shù) 2/112)(niiiyxniiiyx1|/YXYX歐幾里德距離L距離相似度第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 常用判別函數(shù)1)1)距離判別函數(shù)距

33、離判別函數(shù) 利用距離判別函數(shù)的最近鄰域分類 分別使用與類別的平均值和與逐個(gè)訓(xùn)練樣本的距離分類的結(jié)果，前者邊界為直線后者為曲線 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 常用判別函數(shù)2)2)線性函數(shù)線性函數(shù) g(X)=aX+b 將將m m類問題分解成（類問題分解成（m-1)m-1)個(gè)個(gè)2 2類識(shí)別問題。方法是先把特征空間分類識(shí)別問題。方法是先把特征空間分為為1 1類和其他類，如此進(jìn)行下去即可類和其他類，如此進(jìn)行下去即可 其中線性判別函數(shù)的系數(shù)可通過樣本試驗(yàn)來確定其中線性判別函數(shù)的系數(shù)可通過樣本試驗(yàn)來確定 第十章第十章 模板匹配與模式識(shí)別模板匹

34、配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 常用判別函數(shù)3)3)基于統(tǒng)計(jì)決策理論的最大似然分類法基于統(tǒng)計(jì)決策理論的最大似然分類法 式中式中P( P( i i) )表示類別表示類別 i i的模式以多大的概率被觀測(cè)到的情況，稱為先的模式以多大的概率被觀測(cè)到的情況，稱為先驗(yàn)概率。驗(yàn)概率。p(X| p(X| i i) )表示條件概率密度函數(shù)，表示條件概率密度函數(shù)，p( p( i i|X)|X)表示在觀測(cè)模式表示在觀測(cè)模式X X的時(shí)候，這個(gè)模式屬于類別的時(shí)候，這個(gè)模式屬于類別i i的確定度（似然度）。這一方法叫作的確定度（似然度）。這一方法叫作最大似然法最大似然法。 第十章第十章 模板匹配

35、與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 3)3)基于統(tǒng)計(jì)決策理論的最大似然分類法基于統(tǒng)計(jì)決策理論的最大似然分類法 理論上為誤差最小的分類法。例如，在一維特征空間的場(chǎng)合，如下圖a所示，用某一值T把特征空間分割成兩個(gè)區(qū)域（類別）的時(shí)候，產(chǎn)生的誤分類概率可由圖b中劃有斜線的部分的面積來表示。即 dxXpPdxXpPEEPTTE)|()()|()(11222112圖a圖b第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 3)3)基于統(tǒng)計(jì)決策理論的最大似然分類法基于統(tǒng)計(jì)決策理論的最大似然分類法 為了使用最大似然法，必須預(yù)先求

36、出( i)和p(| i)。( i)是類別 i被觀測(cè)的概率，所以是可以預(yù)測(cè)的。另一方面，p(| i)是表示在類別 i的特征矢量分布的函數(shù)，是不易求得的。因此，通常假定它為正態(tài)分布，即： )()(21exp)2()|(12/12/iiTiiiUXUXXp第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 3)3)基于統(tǒng)計(jì)決策理論的最大似然分類法基于統(tǒng)計(jì)決策理論的最大似然分類法 分布函數(shù)的平均值i和協(xié)方差矩陣i則可從訓(xùn)練樣本計(jì)算。從n個(gè)訓(xùn)練樣本X1,X2,Xn計(jì)算平均值U和協(xié)方差矩陣的表達(dá)式為：niinX11U1, 2, , nT1212122211121

37、1.mmmmmm在假設(shè)特征矢量為正態(tài)分布的前提下，為了使最大似然法計(jì)算簡(jiǎn)化，常把似然度函數(shù)P( i)p(X| i)用其對(duì)數(shù)logP( i)+logp(X| i)來代替。因?yàn)閷?duì)數(shù)函數(shù)是單調(diào)函數(shù)，所以即使采用對(duì)數(shù)似然度函數(shù)，分類結(jié)果也完全不變 如果不對(duì)各種類別的特征矢量是否真正的形成正態(tài)分布進(jìn)行檢查，最大似然分類法多半會(huì)產(chǎn)生誤分類，甚至出現(xiàn)不能使用的情況 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.3 10.3 統(tǒng)計(jì)模式識(shí)別統(tǒng)計(jì)模式識(shí)別 v 非監(jiān)督分類非監(jiān)督分類非監(jiān)督分類方法是在無法獲得類別先驗(yàn)知識(shí)的情況下，根據(jù)模式方法是在無法獲得類別先驗(yàn)知識(shí)的情況下，根據(jù)模式之間的相似度進(jìn)行類別劃分

38、，將相似性強(qiáng)的模式歸為同一類別。之間的相似度進(jìn)行類別劃分，將相似性強(qiáng)的模式歸為同一類別。非監(jiān)督分類方法又稱為非監(jiān)督分類方法又稱為聚類分析聚類分析 對(duì)于模式不服從多維正態(tài)分布或者概率密度函數(shù)具有多重模態(tài)對(duì)于模式不服從多維正態(tài)分布或者概率密度函數(shù)具有多重模態(tài)( (即不止一個(gè)最大值的情況）時(shí)，通常就可使用非監(jiān)督分類。即不止一個(gè)最大值的情況）時(shí)，通常就可使用非監(jiān)督分類。第第七章中介紹的七章中介紹的K K均值聚類均值聚類分析法就是一種非監(jiān)督分類法分析法就是一種非監(jiān)督分類法 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.4 10.4 結(jié)構(gòu)模式識(shí)別結(jié)構(gòu)模式識(shí)別 1. 1. 基本原理基本原理 結(jié)構(gòu)模

39、式識(shí)別結(jié)構(gòu)模式識(shí)別是將一個(gè)復(fù)雜的模式分解成一系列更簡(jiǎn)單的模式（子模是將一個(gè)復(fù)雜的模式分解成一系列更簡(jiǎn)單的模式（子模式），對(duì)子模式繼續(xù)分解，最后分解成最簡(jiǎn)單的子模式（或稱基元），式），對(duì)子模式繼續(xù)分解，最后分解成最簡(jiǎn)單的子模式（或稱基元），借助于一種形式語(yǔ)言對(duì)模式的結(jié)構(gòu)進(jìn)行描述，從而識(shí)別圖像。模式、借助于一種形式語(yǔ)言對(duì)模式的結(jié)構(gòu)進(jìn)行描述，從而識(shí)別圖像。模式、子模式、基元類似于英文句子的短語(yǔ)、單詞、字母，這種識(shí)別方法類子模式、基元類似于英文句子的短語(yǔ)、單詞、字母，這種識(shí)別方法類似語(yǔ)言的句法結(jié)構(gòu)分析，因此又稱為句法模式識(shí)別。似語(yǔ)言的句法結(jié)構(gòu)分析，因此又稱為句法模式識(shí)別。 第十章第十章 模板匹配與模式

40、識(shí)別模板匹配與模式識(shí)別10.4 10.4 結(jié)構(gòu)模式識(shí)別結(jié)構(gòu)模式識(shí)別 1. 1. 基本原理基本原理 句法模式識(shí)別系統(tǒng)原理框圖如下圖所示。它由識(shí)別和分析兩部分組成句法模式識(shí)別系統(tǒng)原理框圖如下圖所示。它由識(shí)別和分析兩部分組成 識(shí)別部分包括預(yù)處理、分割描述、基元提取和結(jié)構(gòu)分析。預(yù)處理主要包括編碼、增強(qiáng)等系列操作。結(jié)構(gòu)分析是用學(xué)習(xí)所得的句法規(guī)則對(duì)未知結(jié)構(gòu)信息的圖像所表示的句子進(jìn)行句法分析。 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.4 10.4 結(jié)構(gòu)模式識(shí)別結(jié)構(gòu)模式識(shí)別 2. 2. 樹分類法樹分類法 樹分類法樹分類法就是根據(jù)樹型分層理論，將未知數(shù)據(jù)歸屬于某一類的分類方就是根據(jù)樹型分層理論，

41、將未知數(shù)據(jù)歸屬于某一類的分類方法，下圖所示是一個(gè)法，下圖所示是一個(gè)n n類問題的樹分類器。類問題的樹分類器。 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.4 10.4 結(jié)構(gòu)模式識(shí)別結(jié)構(gòu)模式識(shí)別 2. 2. 樹分類法樹分類法 分類過程首先，把集合首先，把集合 C C1 1,C,C2 2, ,，C Cn n 用特征用特征f f1 1將其分成兩組將其分成兩組CC1 1,C,C2 2, ,，C Cn1n1 和和CCn1+1n1+1,C,Cn1+2n1+2, ,，C Cn n 然后，用特征然后，用特征f f2 2進(jìn)一步將進(jìn)一步將CC1 1,C,C2 2, ,C Cn1n1 分成兩組，用特征分

42、成兩組，用特征f f3 3將將CCn1+1n1+1,C,Cn1+2n1+2, ,C Cn n 分成兩組分成兩組 不斷地進(jìn)行二分法處理，最終分別達(dá)到唯一的種類為止不斷地進(jìn)行二分法處理，最終分別達(dá)到唯一的種類為止 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.4 10.4 結(jié)構(gòu)模式識(shí)別結(jié)構(gòu)模式識(shí)別 2. 2. 樹分類法樹分類法 樹分類法優(yōu)點(diǎn)在識(shí)別多類、多特征圖像時(shí)，用樹分類器，每次判定只選用少量的在識(shí)別多類、多特征圖像時(shí)，用樹分類器，每次判定只選用少量的特征，而不同的特征又可在不同的判定中發(fā)揮作用，維數(shù)的問題就特征，而不同的特征又可在不同的判定中發(fā)揮作用，維數(shù)的問題就顯得不突出了顯得不突

43、出了 樹分類器每次判定比較簡(jiǎn)單。盡管判定次數(shù)增多，但判定一個(gè)樣本樹分類器每次判定比較簡(jiǎn)單。盡管判定次數(shù)增多，但判定一個(gè)樣本所屬類別的總計(jì)算量并不一定增加所屬類別的總計(jì)算量并不一定增加 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.4 10.4 結(jié)構(gòu)模式識(shí)別結(jié)構(gòu)模式識(shí)別 2. 2. 樹分類法樹分類法 問題注意設(shè)計(jì)分類器時(shí)，必須考慮樹的結(jié)構(gòu)，使之用最少的特征，盡可能少設(shè)計(jì)分類器時(shí)，必須考慮樹的結(jié)構(gòu)，使之用最少的特征，盡可能少的段數(shù)達(dá)到最終的判決。對(duì)非常容易出現(xiàn)的類別，盡可能縮短判決的段數(shù)達(dá)到最終的判決。對(duì)非常容易出現(xiàn)的類別，盡可能縮短判決的段數(shù)，而很少出現(xiàn)的類別，判決段數(shù)長(zhǎng)些。的段數(shù)，而

44、很少出現(xiàn)的類別，判決段數(shù)長(zhǎng)些。 樹分類器雖然判決簡(jiǎn)單，容易用機(jī)器實(shí)現(xiàn)，但是，如果從樹分類器雖然判決簡(jiǎn)單，容易用機(jī)器實(shí)現(xiàn)，但是，如果從“樹根樹根”就產(chǎn)生判決錯(cuò)誤，以后將無法糾正這個(gè)錯(cuò)誤判決。所以，在靠近樹就產(chǎn)生判決錯(cuò)誤，以后將無法糾正這個(gè)錯(cuò)誤判決。所以，在靠近樹根處必須選擇抗噪聲的穩(wěn)定可靠的特征。根處必須選擇抗噪聲的穩(wěn)定可靠的特征。 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.5 10.5 人工神經(jīng)網(wǎng)絡(luò)識(shí)別法人工神經(jīng)網(wǎng)絡(luò)識(shí)別法 1. 1. 人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) 常一個(gè)網(wǎng)絡(luò)分為輸入層、隱含層和輸出層。第一層稱為輸入層。網(wǎng)常一個(gè)網(wǎng)絡(luò)分為輸入層、隱含層和輸出層。第一層稱為輸入層

45、。網(wǎng)絡(luò)中當(dāng)前層的每個(gè)神經(jīng)元獲得輸入信號(hào)，而它的輸出則傳向下一層絡(luò)中當(dāng)前層的每個(gè)神經(jīng)元獲得輸入信號(hào)，而它的輸出則傳向下一層的所有神經(jīng)元。有些網(wǎng)絡(luò)則允許同層間的神經(jīng)元之間通信，而反饋的所有神經(jīng)元。有些網(wǎng)絡(luò)則允許同層間的神經(jīng)元之間通信，而反饋結(jié)構(gòu)還允許前一層的神經(jīng)元接受后一層的神經(jīng)元的輸出。最后一層結(jié)構(gòu)還允許前一層的神經(jīng)元接受后一層的神經(jīng)元的輸出。最后一層被稱為輸出層，而其它所有的稱為隱含層。被稱為輸出層，而其它所有的稱為隱含層。 輸入1輸入2輸入n輸出輸入層 隱含層 輸出層 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.5 10.5 人工神經(jīng)網(wǎng)絡(luò)識(shí)別法人工神經(jīng)網(wǎng)絡(luò)識(shí)別法 2. 2. 神經(jīng)

46、元神經(jīng)元 一個(gè)處理單元即一個(gè)人工神經(jīng)元，將接受的信息一個(gè)處理單元即一個(gè)人工神經(jīng)元，將接受的信息x x0 0,x,x1 1, ,x,xn-1n-1，通過，通過用用W W0 0,W,W1 1, ,W,Wn-1n-1表示的權(quán)，以點(diǎn)積的形式作為自己的輸入，如下圖，表示的權(quán)，以點(diǎn)積的形式作為自己的輸入，如下圖，并將輸入與以某種方式設(shè)定的域值并將輸入與以某種方式設(shè)定的域值作比較，再經(jīng)某種函數(shù)作比較，再經(jīng)某種函數(shù)f f的變換，的變換，便得到該神經(jīng)元的輸出便得到該神經(jīng)元的輸出y y 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.5 10.5 人工神經(jīng)網(wǎng)絡(luò)識(shí)別法人工神經(jīng)網(wǎng)絡(luò)識(shí)別法 2. 2. 神經(jīng)元神

47、經(jīng)元 常用非線性變換函數(shù)f二值型閾值邏輯型S型第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.5 10.5 人工神經(jīng)網(wǎng)絡(luò)識(shí)別法人工神經(jīng)網(wǎng)絡(luò)識(shí)別法 2. 2. 神經(jīng)元神經(jīng)元 神經(jīng)元輸入輸出間關(guān)系神經(jīng)元的輸入與輸出間的關(guān)系由下式給出：神經(jīng)元的輸入與輸出間的關(guān)系由下式給出： )(10iniixWfyxi為第i個(gè)輸入元素（通常為n維輸入矢量X的第i個(gè)分量）；Wi為從第i個(gè)輸入與神經(jīng)元間的互聯(lián)權(quán)重；為神經(jīng)元的內(nèi)部閾值；y為神經(jīng)元的輸出。 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.5 10.5 人工神經(jīng)網(wǎng)絡(luò)識(shí)別法人工神經(jīng)網(wǎng)絡(luò)識(shí)別法 2. 2. 神經(jīng)元神經(jīng)元 神經(jīng)元輸入輸出間關(guān)系神經(jīng)元

48、的輸入與輸出間的關(guān)系由下式給出：神經(jīng)元的輸入與輸出間的關(guān)系由下式給出： )(10iniixWfyxi為第i個(gè)輸入元素（通常為n維輸入矢量X的第i個(gè)分量）；Wi為從第i個(gè)輸入與神經(jīng)元間的互聯(lián)權(quán)重；為神經(jīng)元的內(nèi)部閾值；y為神經(jīng)元的輸出。 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.5 10.5 人工神經(jīng)網(wǎng)絡(luò)識(shí)別法人工神經(jīng)網(wǎng)絡(luò)識(shí)別法 3. 3. 神經(jīng)網(wǎng)絡(luò)用于模式識(shí)別的基本原理神經(jīng)網(wǎng)絡(luò)用于模式識(shí)別的基本原理在模式識(shí)別應(yīng)用中，神經(jīng)網(wǎng)絡(luò)的輸入是未知對(duì)象的特征向量；在模式識(shí)別應(yīng)用中，神經(jīng)網(wǎng)絡(luò)的輸入是未知對(duì)象的特征向量； 輸入的信息經(jīng)不同層傳播，使輸出層上產(chǎn)生相應(yīng)輸出向量，根輸入的信息經(jīng)不同層傳播

49、，使輸出層上產(chǎn)生相應(yīng)輸出向量，根據(jù)輸出的結(jié)果將該對(duì)象劃分到某一類中據(jù)輸出的結(jié)果將該對(duì)象劃分到某一類中 當(dāng)神經(jīng)元的定義和網(wǎng)絡(luò)連接結(jié)構(gòu)確定后，神經(jīng)元之間互連的權(quán)重當(dāng)神經(jīng)元的定義和網(wǎng)絡(luò)連接結(jié)構(gòu)確定后，神經(jīng)元之間互連的權(quán)重系數(shù)決定了網(wǎng)絡(luò)的行為。在訓(xùn)練過程中權(quán)重系數(shù)不斷得到調(diào)整，系數(shù)決定了網(wǎng)絡(luò)的行為。在訓(xùn)練過程中權(quán)重系數(shù)不斷得到調(diào)整，當(dāng)訓(xùn)練結(jié)束進(jìn)入實(shí)際應(yīng)用時(shí)，權(quán)重系數(shù)保持不變。當(dāng)訓(xùn)練結(jié)束進(jìn)入實(shí)際應(yīng)用時(shí)，權(quán)重系數(shù)保持不變。 第十章第十章 模板匹配與模式識(shí)別模板匹配與模式識(shí)別10.5 10.5 人工神經(jīng)網(wǎng)絡(luò)識(shí)別法人工神經(jīng)網(wǎng)絡(luò)識(shí)別法 3. 3. 神經(jīng)網(wǎng)絡(luò)用于模式識(shí)別的優(yōu)缺點(diǎn)分析神經(jīng)網(wǎng)絡(luò)用于模式識(shí)別的優(yōu)缺點(diǎn)分析 優(yōu)點(diǎn)o 它要求對(duì)問題的了解較少它要求對(duì)問題的了解較少 o 可以實(shí)現(xiàn)特征空間較復(fù)雜的劃