模式識(shí)別方法及其研究進(jìn)展

1、模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review1模式識(shí)別方法及其研模式識(shí)別方法及其研究進(jìn)展究進(jìn)展Pattern Recorgnition Method And Its Research Review模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review2主要內(nèi)容 有關(guān)組織與出版物 模式識(shí)別的基本概念 模式識(shí)別系統(tǒng) 模式識(shí)別過(guò)程 模式識(shí)別方法與進(jìn)展 未來(lái)展望模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及

2、其研究進(jìn)展Pattern recognition method & its research review3機(jī)構(gòu)、會(huì)議、刊物 1973年 IEEE發(fā)起了第一次關(guān)于模式識(shí)別的國(guó)際會(huì)議“ICPR”（此后兩年一次），成立了國(guó)際模式識(shí)別協(xié)會(huì)-“IAPR” 1977年IEEE成立PAMI委員會(huì)，創(chuàng)立IEEE Trans. on PAMI，并支持ICCV, CVPR兩個(gè)會(huì)議 其他刊物 Pattern Recognition (PR) Pattern Recognition Letters (PRL) Pattern Analysis and Application (PAA) Internatio

3、nal Journal of Pattern Recognition and Artificial Intelligence (IJPRAI)模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review4 統(tǒng)計(jì)學(xué) 概率論 線性代數(shù)（矩陣計(jì)算） 形式語(yǔ)言 機(jī)器學(xué)習(xí) 人工智能 圖像處理 計(jì)算機(jī)視覺 與模式識(shí)別相關(guān)的學(xué)科模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review5什么是模式（Pattern）？模式識(shí)別

4、方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review6 廣義地說(shuō)，存在于時(shí)間和空間中可觀察的物體，如果我們可以區(qū)別它們是否相同或是否相似，都可以稱之為模式。 模式所指的不是事物本身，而是從事物獲得的信息，因此，模式往往表現(xiàn)為具有時(shí)間和空間分布的信息。 模式的直觀特性: 可觀察性 可區(qū)分性 相似性什么是模式？模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review7 模式識(shí)別 直觀，無(wú)所不在，“人以類聚，物以群

5、分” 周圍物體的認(rèn)知：桌子、椅子 人的識(shí)別：張三、李四 聲音的辨別：汽車、火車，狗叫、人語(yǔ) 氣味的分辨：炸帶魚、紅燒肉 人和動(dòng)物的模式識(shí)別能力是極其平常的，但對(duì)計(jì)算機(jī)來(lái)說(shuō)卻是非常困難的。模式識(shí)別的概念模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review8 目的：利用計(jì)算機(jī)對(duì)物理對(duì)象進(jìn)行分類，在錯(cuò)誤概率最小的條件下，使識(shí)別的結(jié)果盡量與客觀物體相符合。 Y = F(X)X的定義域取自特征集Y的值域?yàn)轭悇e的標(biāo)號(hào)集F是模式識(shí)別的判別方法模式識(shí)別的研究模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pat

6、tern recognition method & its research review9 1929年 G. Tauschek發(fā)明閱讀機(jī) ，能夠閱讀0-9的數(shù)字。 30年代 Fisher提出統(tǒng)計(jì)分類理論，奠定了統(tǒng)計(jì)模式識(shí)別的基礎(chǔ)。 50年代 Noam Chemsky 提出形式語(yǔ)言理論傅京蓀 提出句法結(jié)構(gòu)模式識(shí)別。 60年代 L.A.Zadeh提出了模糊集理論，模糊模式識(shí)別方法得以發(fā)展和應(yīng)用。 80年代以Hopfield網(wǎng)、BP網(wǎng)為代表的神經(jīng)網(wǎng)絡(luò)模型導(dǎo)致人工神經(jīng)元網(wǎng)絡(luò)復(fù)活，并在模式識(shí)別得到較廣泛的應(yīng)用。 90年代小樣本學(xué)習(xí)理論，支持向量機(jī)也受到了很大的重視。模式識(shí)別簡(jiǎn)史模式識(shí)別方法及其

7、研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review10 生物學(xué) 自動(dòng)細(xì)胞學(xué)、染色體特性研究、遺傳研究 天文學(xué) 天文望遠(yuǎn)鏡圖像分析、自動(dòng)光譜學(xué) 經(jīng)濟(jì)學(xué) 股票交易預(yù)測(cè)、企業(yè)行為分析 醫(yī)學(xué) 心電圖分析、腦電圖分析、醫(yī)學(xué)圖像分析模式識(shí)別的應(yīng)用（一）模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review11 工程 產(chǎn)品缺陷檢測(cè)、特征識(shí)別、語(yǔ)音識(shí)別、自動(dòng)導(dǎo)航系統(tǒng)、污染分析 軍事 航空攝像分析、雷達(dá)和聲納信號(hào)檢測(cè)和分類、自動(dòng)目

8、標(biāo)識(shí)別 安全 指紋識(shí)別、人臉識(shí)別、監(jiān)視和報(bào)警系統(tǒng)模式識(shí)別的應(yīng)用（二）模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review12模式識(shí)別目標(biāo) 模式識(shí)別系統(tǒng)的目標(biāo)：在特征空間和解釋空間之間找到一種映射關(guān)系，這種映射也稱之為假說(shuō)。 特征空間：從模式得到的對(duì)分類有用的度量屬性或基元構(gòu)成的空間。 解釋空間：將c個(gè)類別表示為其中 為所屬類別的集合，稱為解釋空間。 )(XFY 模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its researc

9、h review13兩種實(shí)現(xiàn)假說(shuō)：歸納 監(jiān)督學(xué)習(xí)、概念驅(qū)動(dòng)或歸納假說(shuō)：在特征空間中找到一個(gè)與解釋空間的結(jié)構(gòu)相對(duì)應(yīng)的假說(shuō)。在給定模式下假定一個(gè)解決方案，任何在訓(xùn)練集中接近目標(biāo)的假說(shuō)也都必須在“未知”的樣本上得到近似的結(jié)果。 依靠已知所屬類別的的訓(xùn)練樣本集，按它們特征向量的分布來(lái)確定假說(shuō) （通常為一個(gè)判別函數(shù)），只有在判別函數(shù)確定之后才能用它對(duì)未知的模式進(jìn)行分類； 對(duì)分類的模式要有足夠的先驗(yàn)知識(shí)，通常需要采集足夠數(shù)量的具有典型性的樣本進(jìn)行訓(xùn)練。模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review14

10、兩種實(shí)現(xiàn)假說(shuō)：演繹 非監(jiān)督學(xué)習(xí)、數(shù)據(jù)驅(qū)動(dòng)或演繹假說(shuō)：在解釋空間中找到一個(gè)與特征空間的結(jié)構(gòu)相對(duì)應(yīng)的假說(shuō)。這種方法試圖找到一種只以特征空間中的相似關(guān)系為基礎(chǔ)的有效假說(shuō)。 在沒有先驗(yàn)知識(shí)的情況下，通常采用聚類分析方法，基于“物以類聚”的觀點(diǎn)，用數(shù)學(xué)方法分析各特征向量之間的距離及分散情況； 如果特征向量集聚集若干個(gè)群，可按群間距離遠(yuǎn)近把它們劃分成類； 這種按各類之間的親疏程度的劃分，若事先能知道應(yīng)劃分成幾類，則可獲得更好的分類結(jié)果。模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review15模式識(shí)別系統(tǒng)的基

11、本構(gòu)成模式識(shí)別系統(tǒng)數(shù)據(jù)獲取特征提取和選擇預(yù)處理分類決策分類器設(shè)計(jì)模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review16 數(shù)據(jù)獲取：用計(jì)算機(jī)可以運(yùn)算的符號(hào)來(lái)表示所研究的對(duì)象 二維圖像：文字、指紋、地圖、照片等 一維波形：腦電圖、心電圖、季節(jié)震動(dòng)波形等 物理參量和邏輯值：體溫、化驗(yàn)數(shù)據(jù)、參量正常與否的描述 預(yù)處理單元：去噪聲，提取有用信息，并對(duì)輸入測(cè)量?jī)x器或其它因素所造成的退化現(xiàn)象進(jìn)行復(fù)原模式識(shí)別系統(tǒng)組成（一）模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition

12、method & its research review17 特征提取和選擇：對(duì)原始數(shù)據(jù)進(jìn)行變換，得到最能反映分類本質(zhì)的特征 測(cè)量空間：原始數(shù)據(jù)組成的空間 特征空間：分類識(shí)別賴以進(jìn)行的空間 模式表示：維數(shù)較高的測(cè)量空間-維數(shù)較低的特征空間 分類決策：在特征空間中用模式識(shí)別方法把被識(shí)別對(duì)象歸為某一類別 基本做法：在樣本訓(xùn)練集基礎(chǔ)上確定某個(gè)判決規(guī)則，使得按這種規(guī)則對(duì)被識(shí)別對(duì)象進(jìn)行分類所造成的錯(cuò)誤識(shí)別率最小或引起的損失最小模式識(shí)別系統(tǒng)組成（二）模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research revie

13、w18由訓(xùn)練樣本所得特征空間分布圖模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review19 光學(xué)傳感器對(duì)魚分類：鱸魚(Seabass)鮭魚(Salmon)模式識(shí)別過(guò)程實(shí)例模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review20 數(shù)據(jù)獲?。杭茉O(shè)一個(gè)攝像機(jī)，采集一些樣本圖像，獲取樣本數(shù)據(jù) 預(yù)處理：去噪聲，用一個(gè)分割操作把魚和魚之間以及魚和背景之間分開 特征提取和選擇：對(duì)單個(gè)魚的信息進(jìn)行特征選擇，從而通

14、過(guò)測(cè)量某些特征來(lái)減少信息量 長(zhǎng)度 亮度 寬度 魚翅的數(shù)量和形狀 嘴的位置，等等 分類決策：把特征送入決策分類器識(shí)別過(guò)程模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review21模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review22模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review23模式識(shí)別方法及

15、其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review24模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review25模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review26 數(shù)據(jù)聚類、PCA 統(tǒng)計(jì)模式識(shí)別 結(jié)構(gòu)模式識(shí)別（句法） 神經(jīng)網(wǎng)絡(luò) 支持向量機(jī) 模糊理論 特征提取理論 分形理論 小波分析模式分類的主要方法模式識(shí)別

16、方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review27 目標(biāo)：用某種相似性度量的方法將原始數(shù)據(jù)組織成有意義的和有用的各種數(shù)據(jù)集。 是一種非監(jiān)督學(xué)習(xí)的方法，解決方案是數(shù)據(jù)驅(qū)動(dòng)的。數(shù)據(jù)聚類模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review281543126654321X101099887702X1x2x3x4x5x6x7x8x9x10 x11x12x13x14x15x16x17x18x19x20 x模式識(shí)

17、別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review29 基于概率統(tǒng)計(jì)模型得到各類別的特征向量的分布，以取得分類的方法。 特征向量分布的獲得是基于一個(gè)類別已知的訓(xùn)練樣本集。 是一種監(jiān)督分類的方法，分類器是概念驅(qū)動(dòng)的。統(tǒng)計(jì)模式識(shí)別模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review30 該方法通過(guò)考慮識(shí)別對(duì)象的各部分之間的聯(lián)系來(lái)達(dá)到識(shí)別分類的目的。 識(shí)別采用結(jié)構(gòu)匹配的形式，通過(guò)計(jì)算一個(gè)匹配程度值（matc

18、hing score）來(lái)評(píng)估一個(gè)未知的對(duì)象或未知對(duì)象某些部分與某種典型模式的關(guān)系如何。 當(dāng)成功地制定出了一組可以描述對(duì)象部分之間關(guān)系的規(guī)則后，可以應(yīng)用一種特殊的結(jié)構(gòu)模式識(shí)別方法 句法模式識(shí)別，來(lái)檢查一個(gè)模式基元的序列是否遵守某種規(guī)則，即句法規(guī)則或語(yǔ)法。結(jié)構(gòu)模式識(shí)別模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review31 神經(jīng)網(wǎng)絡(luò)是受人腦組織的生理學(xué)啟發(fā)而創(chuàng)立的。 由一系列互相聯(lián)系的、相同的單元（神經(jīng)元）組成。相互間的聯(lián)系可以在不同的神經(jīng)元之間傳遞增強(qiáng)或抑制信號(hào)。 增強(qiáng)或抑制是通過(guò)調(diào)整神經(jīng)元相互間

19、聯(lián)系的權(quán)重系數(shù)來(lái)（weight）實(shí)現(xiàn)。 神經(jīng)網(wǎng)絡(luò)可以實(shí)現(xiàn)監(jiān)督和非監(jiān)督學(xué)習(xí)條件下的分類。神經(jīng)網(wǎng)絡(luò)模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review32MP模型模型模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review33多層感知器多層感知器?如果在輸入和輸出層間加上一層或多層的神經(jīng)元(隱層神經(jīng)元)，就可構(gòu)成多層前向網(wǎng)絡(luò)，這里稱為多層感知器。 模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Patte

20、rn recognition method & its research review34支持向量機(jī) 基于統(tǒng)計(jì)學(xué)習(xí)理論的支持向量機(jī)（support vector machines, SVM），作為一種新的強(qiáng)大數(shù)據(jù)分類和函數(shù)估計(jì)工具以及神經(jīng)網(wǎng)絡(luò)領(lǐng)域中一種新的重要方法學(xué)，得到了巨大的發(fā)展。 目前SVM已經(jīng)達(dá)到了一個(gè)比較成熟的水平，被成功地應(yīng)用于模式識(shí)別和目標(biāo)檢測(cè)、函數(shù)估計(jì)、基因分析等領(lǐng)域。 模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review35線性分類器線性分類器f xy+1-1f(x,w

21、,b) = sign(w. x - b)How would you classify this data?模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review36f xy+1-1f(x,w,b) = sign(w. x - b)How would you classify this data?模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review37f x+1-1f(x,w,b) = sign(w.

22、 x - b)How would you classify this data?模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review38f x+1-1f(x,w,b) = sign(w. x - b)How would you classify this data?模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review39f xy+1-1f(x,w,b) = sign(w. x - b)Any of

23、 these would be fine.but which is best?模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review40 xy+1-1f(x,w,b) = sign(w. x - b)線性分類器的間隔（ margin）：到超平面最近的樣本與此超平面之間的距離。模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review41最大間隔最大間隔f xy+1-1f(x,w,b) = sign(w.

24、x - b)具有最大間隔的線性分類器叫做最大間隔線性分類器。其就是一種最簡(jiǎn)單的支持向量機(jī)(SVM) (稱為線性支持向量機(jī)，即LSVM)線性支持向量機(jī)模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review42f xy+1-1f(x,w,b) = sign(w. x - b)支持向量(Support Vectors) :是那些距離超平面最近的點(diǎn)。具有最大間隔的線性分類器叫做最大間隔線性分類器。其就是一種最簡(jiǎn)單的支持向量機(jī)(SVM) (稱為線性支持向量機(jī)，即LSVM)線性支持向量機(jī)最大間隔最大間隔模式識(shí)

25、別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review43Why 最大間隔?+1-1f(x,w,b) = sign(w. x - b)支持向量(Support Vectors) :是那些距離超平面最近的點(diǎn)。具有最大間隔的線性分類器叫做最大間隔線性分類器。其就是一種最簡(jiǎn)單的支持向量機(jī)(SVM) (稱為線性支持向量機(jī)，即LSVM)線性支持向量機(jī)直觀上感覺很好. 學(xué)習(xí)得到的線性分類器.其對(duì)未知樣本的預(yù)測(cè)能力與分類器間隔有如下關(guān)系：)arg1()()(inmRRemp模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究

26、進(jìn)展Pattern recognition method & its research review44Overfitting and underfittingProblem: how rich class of classifications q(x;) to use.underfittingoverfittinggood fitProblem of generalization: a small emprical risk Remp does not imply small true expected risk R.模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern r

27、ecognition method & its research review45分形理論的創(chuàng)始人曼德布羅特(Mandelprot)曾說(shuō)過(guò)：“浮云不呈球浮云不呈球形，山峰不呈錐體，海岸線不是圓圈，樹干不是光溜溜的，閃電形，山峰不呈錐體，海岸線不是圓圈，樹干不是光溜溜的，閃電永不會(huì)沿直線行進(jìn)永不會(huì)沿直線行進(jìn)”，說(shuō)的就是人們一般不應(yīng)以簡(jiǎn)單的、理想的體系去對(duì)待實(shí)際體系。 大自然中存在的不規(guī)則的物體，可能存在不同尺度上的相似性，稱為自相似性。例如： 1. 布朗微粒軌跡圖存在自相似性：雖然記錄時(shí)間間隔相差很大，但它們?nèi)远季哂邢嗤膹?fù)雜性。 2. 不管漫步在海岸邊以厘米量級(jí)觀察，還是從人造衛(wèi)星上以

28、數(shù)千米跨度觀察，海岸線的彎曲的復(fù)雜程度也可能是相同的。以不以不同尺度去測(cè)量都有相似結(jié)果說(shuō)明，測(cè)量對(duì)象沒有特征尺寸，它們同尺度去測(cè)量都有相似結(jié)果說(shuō)明，測(cè)量對(duì)象沒有特征尺寸，它們具有尺度（標(biāo)度）不變性具有尺度（標(biāo)度）不變性。分 形多姿的大自然體形多姿的大自然體形模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review46布朗微粒軌跡布朗微粒軌跡 皮蘭（Perrin）于1908年用顯微鏡測(cè)量了布朗運(yùn)動(dòng)的軌跡，他每隔30秒記錄一次某個(gè)微粒的位置，再將相繼得到的兩點(diǎn)位置連成直線，得到一幅由長(zhǎng)短不等的直線段連接

29、成的軌跡圖。他又將測(cè)量時(shí)間間隔縮短為每隔3秒，畫出的另外一幅微粒的軌跡圖。將兩圖進(jìn)行比較可以發(fā)現(xiàn)，兩幅圖雖不盡相同，它們具有同等的復(fù)雜程度。以不同尺度去測(cè)量都有相似結(jié)果說(shuō)明，測(cè)以不同尺度去測(cè)量都有相似結(jié)果說(shuō)明，測(cè)量對(duì)象沒有特征尺寸，它們具有尺度（標(biāo)量對(duì)象沒有特征尺寸，它們具有尺度（標(biāo)度）不變性度）不變性。模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review47大自然中的自相似體大自然中的自相似體 不管漫步在海岸 邊以厘米量級(jí)觀察，還是從人造衛(wèi)星上以數(shù)千米跨度觀察，海岸線的彎曲的復(fù)雜程度也可能是相

30、同的。 大自然中的許多大自然中的許多不規(guī)則物體，可能不規(guī)則物體，可能存在不同尺度上的存在不同尺度上的相似性，稱為自相相似性，稱為自相似性似性。模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review48多彩的大自然多彩的大自然大自然是異常復(fù)大自然是異常復(fù)雜、豐富多彩的，雜、豐富多彩的，那些簡(jiǎn)單、正規(guī)那些簡(jiǎn)單、正規(guī)的理想對(duì)象只是的理想對(duì)象只是少數(shù)。人們不應(yīng)少數(shù)。人們不應(yīng)以簡(jiǎn)單的、理想以簡(jiǎn)單的、理想的體系去對(duì)待實(shí)的體系去對(duì)待實(shí)際體系。際體系。模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern

31、 recognition method & its research review49理理不不清清的的相相軌軌線線模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review50奇妙的計(jì)算圖形奇妙的計(jì)算圖形模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review51基于測(cè)量對(duì)象體形上的自相似性與標(biāo)度不變性，曼德布羅特提出了分形理論分形理論。1973年，在法蘭商學(xué)院講學(xué)期間提出了分形的幾何學(xué)的基本思想，

32、 1977年，出版了第一本著作：分形對(duì)象：形、機(jī)遇與維數(shù)， 1982年，出版了第二本著作：自然界的形幾何學(xué) 分形的英文詞是分形的英文詞是“fractal”，是曼德布羅特創(chuàng)造的，用以表征某，是曼德布羅特創(chuàng)造的，用以表征某些不規(guī)則的幾何形體。些不規(guī)則的幾何形體。分形定義 “A fractal is a shape made of parts simslar to the whole in some way”， “分形是其組成部分以某種方式與整體相似的圖形分形是其組成部分以某種方式與整體相似的圖形”，或者說(shuō)： 分形是指一類體形復(fù)雜的體系，其局部與整體具有相似性分形是指一類體形復(fù)雜的體系，其局部與整體

33、具有相似性。維數(shù)維數(shù)：與人們熟悉的整規(guī)體形的整數(shù)維整數(shù)維不同，分形體的維數(shù)不一定分形體的維數(shù)不一定是整數(shù)是整數(shù)，它可取連續(xù)變化的各種數(shù)值，稱為分形維數(shù)（簡(jiǎn)稱分維）。 根據(jù)分形體不同特征，分形維數(shù)的定義有多種，而且不同維數(shù)定義計(jì)算出的維數(shù)也有一些差別。分形的定義模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review52分形的研究現(xiàn)已大大地超出了數(shù)學(xué)、物理學(xué)的范疇，它不僅廣泛用于處理自然科學(xué)中相關(guān)問(wèn)題，象雷電、相變、聚合物生長(zhǎng)等等，而且在擴(kuò)展到生態(tài)、生命、經(jīng)濟(jì)、人文的許多領(lǐng)域。在地震、氣象的預(yù)報(bào)預(yù)測(cè)、

34、石油的多次開采等應(yīng)用領(lǐng)域，甚至在股票漲落分析等方面，分形也都得到了廣泛的應(yīng)用。分形與系統(tǒng)的混沌運(yùn)動(dòng)是密切相關(guān)的，是非線性科學(xué)的一個(gè)重要分支。分形研究領(lǐng)域有如下方面分形研究領(lǐng)域有如下方面1. 數(shù)學(xué)，這是分形的基礎(chǔ)領(lǐng)域；2. 物理學(xué)、化學(xué)等自然科學(xué)， 如雷電、相變、聚合物生長(zhǎng)、天文、地理地質(zhì)、生態(tài)、生命等自然現(xiàn)象；3. 非線性動(dòng)力系統(tǒng)中的分形研究；4. 人文、經(jīng)濟(jì) 如股票漲落分析等；5. 國(guó)民經(jīng)濟(jì)：如地震、氣象的預(yù)報(bào)預(yù)測(cè)、石油的多次開采等領(lǐng)域。 分形研究模式識(shí)別方法及其研究進(jìn)展模式識(shí)別方法及其研究進(jìn)展Pattern recognition method & its research review53小波分析 時(shí)頻分析局部化 時(shí)頻分析局部化的特點(diǎn)提高了信號(hào)分析的能力。Fourier變換無(wú)法做局部分析，小波分析正式為了克服Fourier變換這些不足而提出來(lái)的。 具有多分辨率（multi-resolution），也叫多尺度(multi-scale)的特點(diǎn)。 可以由粗及精地逐步觀察信號(hào)。當(dāng)在某一個(gè)分辨度檢測(cè)不到的現(xiàn)象，在另一個(gè)分辨度卻很容易觀察處理。小波變換的多分辨度的變換，有利于各分辨度不同特征的提取。 小波變換比快速Fourier變換還要快一個(gè)數(shù)量級(jí)。 信號(hào)長(zhǎng)度為M時(shí)， Fourier變換（左）和小波變換（右）計(jì)算復(fù)雜性分別如下公式： MOMMOwf,log2模式識(shí)別方法及其研究