基于Gabor小波和極限學(xué)習(xí)機(jī)的表情識(shí)別

1、濱江學(xué)院畢業(yè)論文題目 基于Gabor小波和極限學(xué)習(xí)機(jī)的表情識(shí)別 學(xué)生姓名 王帥凌 學(xué) 號(hào) 20102336037 院 系 濱江學(xué)院自動(dòng)控制 專 業(yè) 自動(dòng)化 指導(dǎo)教師 劉青山 職 稱 教授 二O一四 年 五 月 二十 日目 錄1緒論21.1課題研究的背景及意義21.2課題研究難點(diǎn)21.3 國內(nèi)外對表情識(shí)別的研究31.4 本文的研究工作31.5本章小結(jié)42 表情識(shí)別基本理論52.1 表情識(shí)別的方法52.3 理論基礎(chǔ)52.3 仿真的實(shí)現(xiàn)以及MATLAB介紹52.3.1 表情識(shí)別的仿真52.3.2 MATLAB介紹52.4 本章小結(jié)63 基于Gabor小波和PCA降維處理73.1 Gabor小波73.

2、1.1系統(tǒng)概要73.1.2 預(yù)處理73.1.3 Gabor小波特征提取83.1.4Gabor小波特征提取的實(shí)驗(yàn)結(jié)果93.2 主成分分析（PCA）93.2.1 PCA介紹93.2.2 PCA算法93.3.3 PCA算法103.3.4 降維處理實(shí)驗(yàn)結(jié)果113.5 本章小結(jié)114 極限學(xué)習(xí)機(jī)124.1 極限學(xué)習(xí)機(jī)介紹124.2 ELM原理124.3 極限學(xué)習(xí)機(jī)算法134.4 極限學(xué)習(xí)機(jī)訓(xùn)練144.5 本章小結(jié)155 實(shí)驗(yàn)結(jié)果與分析165.1實(shí)驗(yàn)結(jié)果165.2 實(shí)驗(yàn)分析185.3 本章小結(jié)18參考文獻(xiàn)19致謝21Abstract22基于Gabor小波和極限學(xué)習(xí)機(jī)的表情識(shí)別王帥凌南京信息工程大學(xué)濱江學(xué)院

3、，江蘇南京，210044摘要：人們相互間的交流能夠從表情來傳達(dá)出內(nèi)心的情感，20世紀(jì)以來，圖像技術(shù)以及人工智能化得到了飛速的發(fā)展，尤其是智能機(jī)器人在人臉表情識(shí)別的運(yùn)用上，所以人臉表情識(shí)別技術(shù)越來越受到學(xué)術(shù)界的研究發(fā)展，成為了一個(gè)很重要的課題。表情識(shí)別在人機(jī)交互界面、游戲互動(dòng)、以及一些高端醫(yī)療設(shè)備上的到了很好的運(yùn)用，本實(shí)驗(yàn)是基于Gabor小波和極限學(xué)習(xí)機(jī)的算法，對預(yù)處理過后的圖片進(jìn)行Gabor小波特征提取，將特征提取后的結(jié)果用極限學(xué)習(xí)機(jī)進(jìn)行訓(xùn)練并分類識(shí)別，用日本JAFFE表情庫在MATLAB中進(jìn)行了表情識(shí)別實(shí)驗(yàn)，結(jié)果表明實(shí)驗(yàn)識(shí)別率達(dá)到80%。關(guān)鍵字：表情識(shí)別;Gabor小波;PCA降維處理;極限

4、學(xué)習(xí)機(jī);分類識(shí)別1 緒論1.1課題研究的背景及意義社會(huì)心理研究學(xué)發(fā)現(xiàn)，表情包含了個(gè)人的情感狀態(tài)、活動(dòng)狀態(tài)、性格、精神狀態(tài)等多個(gè)復(fù)雜的信息，并且這些信息基本上都是不能由其他表達(dá)方式所代替的，因此，人臉表情分析成為醫(yī)療設(shè)備、心理研究等多個(gè)智能化領(lǐng)域的重要研究課題。表情識(shí)別是人類表達(dá)自身情緒的一種方法，表情含有豐富的行為信息，是人類自身狀態(tài)的體現(xiàn)，所以，表情是一種表達(dá)人類情緒的一種手段。表情識(shí)別實(shí)現(xiàn)了計(jì)算機(jī)以及機(jī)器人對人臉面部表情的認(rèn)識(shí)，從本質(zhì)上改善了人機(jī)關(guān)系，對于人機(jī)交互界面有種重要的意義，大大提高了人機(jī)交互界面的智能化。人與人面對面的交流過程中很容易識(shí)別人的面部表情，并且通過大腦作出正確的判斷，

5、可是這相對于計(jì)算機(jī)的某種程序來說卻是很艱難的。計(jì)算機(jī)最簡單的識(shí)別系統(tǒng)是識(shí)別一些一成不變的物體，對于表情來說，它是一種運(yùn)動(dòng)，想跟蹤并識(shí)別這些運(yùn)動(dòng)有一定的困難，表情識(shí)別需要跟蹤一些表情點(diǎn)，并且提取這些表情的特征點(diǎn)。所以，運(yùn)用計(jì)算機(jī)實(shí)現(xiàn)表情識(shí)別是一個(gè)實(shí)現(xiàn)友好的人機(jī)界面以及智能化設(shè)備的一項(xiàng)有研究意義的課題。在交流的過程當(dāng)中，有時(shí)候語言與心理的表達(dá)并不是一致的，也就是人們常說的口是心非，但是一個(gè)人的表情往往是最能證明一個(gè)人的心理感受，在刑偵部門辦案時(shí)會(huì)用到測謊儀，我們可以將表情識(shí)別加入進(jìn)去，更加有效的增加它的效率。在醫(yī)院內(nèi)，如果花費(fèi)大量的人工去監(jiān)護(hù)一位病人，這會(huì)大大降低工作效率，我們可以研發(fā)一種監(jiān)測病人

6、的表情設(shè)備，在病人難受以及病情發(fā)作時(shí)會(huì)產(chǎn)生一定的表情，通過這些表情來達(dá)到監(jiān)測的效果，并及時(shí)作出報(bào)警，這樣會(huì)降低夜間病人病情發(fā)作帶來的嚴(yán)重后果。在遠(yuǎn)程教育過程中，通過攝像頭來采集學(xué)生的表情，再通過表情來了解其潛在的心理狀態(tài)以及一些性格，這有助于我們?nèi)ゲ捎酶玫慕虒W(xué)方式，達(dá)到最好的教學(xué)效果，也能夠?qū)⒈砬樾畔⒏睦韺W(xué)進(jìn)行一些對比分析，幫助老師特高教學(xué)效率。表情識(shí)別的技術(shù)甚至可以普及到我們平常的生活工作當(dāng)中，近年來，汽車行業(yè)較為發(fā)達(dá)，也越來越走向智能化，運(yùn)用表情識(shí)別我們可以監(jiān)測駕駛員的生理以及情緒的變化，可以達(dá)到預(yù)防重大事故的發(fā)生，有一些需要精神高度集中的崗位上也可以應(yīng)用表情識(shí)別，火車哨崗以及軍事崗位

7、等地方，這些都需要負(fù)責(zé)人的精神高度集中，通過監(jiān)測表情，來預(yù)防重大事故的發(fā)生。1.2課題研究難點(diǎn)人臉表情是一種肌肉運(yùn)動(dòng)，并不是一個(gè)一成不變的物體，這導(dǎo)致不能用一塊模型來描繪。表情識(shí)別也依賴于它對各個(gè)人臉表情的熟悉度、對多種表情的分類，表情有多種表達(dá)形式，比如中性臉是相對平靜的一種肌肉運(yùn)動(dòng)，而高興、悲傷等表情是一種相對比較劇烈的肌肉運(yùn)動(dòng)，這些都是它的研究難點(diǎn)。計(jì)算機(jī)本身只是一個(gè)系統(tǒng)，需要人類給它具體的操作方法，而且其存在誤差，這都需要一一解決，這也就是本課題的重要難點(diǎn)。每種表情都是固定在那幾塊肌肉的運(yùn)動(dòng)時(shí)，這導(dǎo)致了一些表情的相似，哭、笑、以及驚奇這些表情都是嘴巴張開，所以一個(gè)特征點(diǎn)的改變并不能判斷

8、出一種表情，這使得表情識(shí)別需要注意更多的細(xì)節(jié)。我們提供的表情庫是比較簡單的，人臉沒有任何東西遮擋，但是日常生活當(dāng)中，人臉可能會(huì)有眼睛、頭發(fā)等物體的遮擋，還有人臉的光照條件、以及攝像頭采樣會(huì)造成人臉的傾斜而導(dǎo)致特征點(diǎn)的改變，等等諸多影響都需要我們將它解決，這些會(huì)涉及到計(jì)算機(jī)的智能化，所以表情識(shí)別這項(xiàng)課題很富有挑戰(zhàn)性。1.3 國內(nèi)外對表情識(shí)別的研究表情識(shí)別能夠?qū)崿F(xiàn)智能化，作為人機(jī)界面、機(jī)器人智能技術(shù)、醫(yī)療設(shè)備、游戲界面的人工情感等領(lǐng)域，具有廣闊的應(yīng)用前景和經(jīng)濟(jì)價(jià)值，使得學(xué)術(shù)界和企業(yè)界產(chǎn)生了一個(gè)高優(yōu)先級(jí)，并且退出了一批又一批的研究。日本率先開發(fā)了表情識(shí)別的機(jī)器人（personalrobot）產(chǎn)品，索

9、尼公司情感機(jī)器人、Q班型情感機(jī)器人以及機(jī)器狗為典型代表(10)。中國有很多研究人員，比如趙力，王志良，陶霖密，等學(xué)者也都在積極開展表情識(shí)別的研究。1971年，美國提出了：生氣、厭惡、恐懼、悲傷、驚訝、高興六種基本表情，并在1978年開發(fā)了面部動(dòng)作編碼系統(tǒng)來檢測表情的微妙變化，大多數(shù)的表情識(shí)別系統(tǒng)都是設(shè)計(jì)了6種表情識(shí)別，而且研究人員建立的模型也都是根據(jù)面部動(dòng)作編碼來設(shè)計(jì)的。近年來，各個(gè)國家都在研究人工情感模式的識(shí)別，使得這個(gè)領(lǐng)域成為一個(gè)研究重點(diǎn)，日本、美國。ART建立了日本女性表情數(shù)據(jù)庫（JAFFE）是有213副表情，美國機(jī)器人研究所和心理學(xué)研究所共同建立了Kanade人臉表情數(shù)據(jù)庫，含有200

10、0張面部表情圖片，以上表情庫為表情識(shí)別的研究提供了很多用處。1.4 本文的研究工作本實(shí)驗(yàn)主要是識(shí)別表情庫內(nèi)的圖片表情，對圖片進(jìn)行預(yù)處理、特征提取，最后進(jìn)行表情分類。對表情庫中的每種表情進(jìn)行眼睛定位，定位結(jié)束之后將定位完成的圖片進(jìn)行相應(yīng)的幾何變化，為了消除光照的影響，將圖片進(jìn)行拉伸處理。本文選用人本JAFFE人臉表情庫進(jìn)行實(shí)驗(yàn)，首先在讀取表情庫里面的圖片，運(yùn)用Gabor小波分析法，對圖片進(jìn)行特征提取，在運(yùn)用主成分分析法（PCA）對特征提取過的圖片進(jìn)行降維處理，以達(dá)到降低小波變換后產(chǎn)生的高維數(shù)，最后運(yùn)用神經(jīng)網(wǎng)絡(luò)中的極限學(xué)習(xí)機(jī)ELM進(jìn)行訓(xùn)練和分類，最終達(dá)到預(yù)計(jì)的效果。圖1.1表情識(shí)別流程圖：PCA降

11、維處理Gabor小波特征提取獲取人臉數(shù)據(jù)庫ELM訓(xùn)練識(shí)別結(jié)果ELM分類識(shí)別提取Gabor特征載入待識(shí)別的圖像圖1.1 表情識(shí)別流程圖 第一,對圖像建立幾何模型，對圖像進(jìn)行預(yù)處理，減少光照以及噪聲的影響。第二，運(yùn)用Gabor小波對圖片進(jìn)行特征提取，再結(jié)合主成分分析來將提取過的圖片進(jìn)行降維處理。第三,采用神經(jīng)網(wǎng)絡(luò)的極限學(xué)習(xí)機(jī)進(jìn)行學(xué)習(xí)分類，極限學(xué)習(xí)機(jī)在對于處理海量圖庫有一定的優(yōu)越性。每個(gè)章節(jié)的具體安排如下：第一章，介紹本課題的研究目的和意義，再介紹表情識(shí)別的難點(diǎn)，以及國內(nèi)外對表情課題的研究現(xiàn)狀，說明本論文的流程。第二章，表情識(shí)別基本理論，介紹表情識(shí)別的方法和基本概念，對仿真軟件作一些簡單介紹。第三章

12、，介紹Gabor小波特征提取的方法，以及如何用PCA進(jìn)行降維處理。第四章，介紹神級(jí)網(wǎng)絡(luò)的一種極限學(xué)習(xí)機(jī)算法，并介紹本文如何運(yùn)用極限學(xué)習(xí)機(jī)分類識(shí)別的。1.5 本章小結(jié)本章介紹課題的背景意義，國內(nèi)外研究現(xiàn)狀，以及難點(diǎn)，簡單描述了以下本文的研究工作。2 表情識(shí)別基本理論2.1 表情識(shí)別的方法表情識(shí)別的流程一般有三步：圖像的獲取，特征提取，最后對表情進(jìn)行分類。人臉檢測表情特征提取人臉表情分類圖2.1 表情識(shí)別的流程人臉檢測方法有樣本學(xué)習(xí)，子空間方法，以及模板法。表情識(shí)別的特征提取有主成分分析（PCA），LBP,Gabor小波，本文主要介紹Gabor小波特征提取。最后需要對提取的特征向量進(jìn)行分類，常用的

13、分類方法有支持向量機(jī)（SVM），基于神經(jīng)網(wǎng)絡(luò)的，彈性模板匹配等方法。2.3 理論基礎(chǔ)人臉表情識(shí)別是由以下幾個(gè)流程組成的：首先需要MATLAB讀取需要識(shí)別的表情數(shù)據(jù)庫，然后對人臉進(jìn)行檢測，主要是眼睛和嘴巴幾個(gè)主要特征點(diǎn)，在對人臉幾個(gè)關(guān)鍵點(diǎn)進(jìn)行特征點(diǎn)的定位，最后對特征提取過的表情進(jìn)行分類。由于人臉圖片會(huì)對識(shí)別有一些影響，需要對圖片進(jìn)行預(yù)處理，這樣消除光照和噪聲的影響，再對它進(jìn)行特征提取，最后分類識(shí)別。本實(shí)驗(yàn)的理論基礎(chǔ)是利用小波變化進(jìn)行特征提取，小波變換對于數(shù)字、語音、模式的識(shí)別，等各種信號(hào)有一定的應(yīng)用。在運(yùn)用PCA降維，增加識(shí)別率，最后分類識(shí)別。2.3 仿真的實(shí)現(xiàn)以及MATLAB介紹2.3.1 表

14、情識(shí)別的仿真表情識(shí)別的方法有很多，有U3D，kinet，以及MATLAB，本文利用了MATLAB來實(shí)現(xiàn)，下面具體介紹MATLAB,由于MATLAB對圖像處理有良好的性能，利用這一點(diǎn)，本實(shí)驗(yàn)運(yùn)用日本JAFFE表情庫來進(jìn)行仿真。2.3.2 MATLAB介紹MATLAB是一種圖像處理好數(shù)值計(jì)算的軟件（5）。MATLAB中含有很多的工具箱，可以實(shí)現(xiàn)各種仿真，比如線性控制、神經(jīng)網(wǎng)絡(luò)、數(shù)字信號(hào)、非線性控制、魯棒性、數(shù)字統(tǒng)計(jì)、模糊控制、系統(tǒng)仿真（6），借助于MATLAB的這些功能，使用者可以精確的計(jì)算出數(shù)據(jù)以及更好的分析數(shù)據(jù)。MATLAB語法比較通俗易懂，相對了C+來說，它的語言更具有適用性，不需要反復(fù)的編

15、寫調(diào)試程序，只需要簡單的調(diào)用即可，對于C語言來說，也許C語言的幾百句語言只需要MATLAB的一條指令來代替，這大大節(jié)約了開發(fā)者的時(shí)間，因此，MATLAB成為更加應(yīng)用廣泛的一款軟件。MATLAB圖形處理功能非常強(qiáng)大，它有一個(gè)強(qiáng)大的工具箱，多種圖片的格式都可以支持。比如：BMP、JPEG、GIF、PNG等格式，MATLAB最新的版本增加了多種圖片處理函數(shù)，包括了最新的一些圖片處理方法。這些處理函數(shù)分為圖片分析、圖片文件接口、圖片顯示、像素處理、幾何處理、圖片增強(qiáng)、線性濾波以及設(shè)計(jì)、圖片轉(zhuǎn)換等等方式。MATLAB強(qiáng)大的工具箱使得我們根本不需要考慮圖片文件的格式、像素等等細(xì)節(jié)，我們只需要考慮算法，這大

16、大減少的開發(fā)者的精力，也提高了效率。調(diào)試算法時(shí)我們可以方便的得到數(shù)據(jù)統(tǒng)計(jì)，也能直觀的顯示出結(jié)果。MATLAB可以從實(shí)際運(yùn)用角度來進(jìn)行圖片的分析，這種語言之所以能夠迅速的發(fā)展，主要是這種語言能夠擺脫了人們對計(jì)算機(jī)硬件的操作，主要是它擁有很多的函數(shù)資源，并不需要人們記住那么多的程序代碼。其工具箱有兩個(gè)核心部分，功能型和學(xué)科型工具箱，功能型的來擴(kuò)大符號(hào)的計(jì)算、建模的仿真、文字的處理和硬件的交換，這兩種功能也是相輔相成的，功能型工具箱是用來服務(wù)于學(xué)科型的工具箱，學(xué)科型工具性需要較強(qiáng)的專業(yè)知識(shí)，這些都是專家實(shí)現(xiàn)編寫好的，并不需要我們?nèi)チ私狻ATLAB界面友好，編程簡單，它最大的有點(diǎn)就是簡潔，能夠用一段

17、函數(shù)來代替繁瑣的C語言，為用戶帶來更好的開發(fā)環(huán)境。MATLAB允許使用者二次開發(fā)，使用者可以將自己的程序?qū)懗梢粋€(gè)新的函數(shù)并添加到工具箱中，以增加工具箱的函數(shù)，為下次使用提供方便。MATLAB的數(shù)值、符號(hào)計(jì)算功能，以及數(shù)據(jù)分析、仿真、圖文處理功能很好，能夠?yàn)槌绦驅(qū)嶋H帶來良好的工具環(huán)境。2.4 本章小結(jié)本章介紹了表情識(shí)別的基本方法，介紹現(xiàn)有的一些識(shí)別方法，以及本實(shí)驗(yàn)的仿真軟件MATLAB。3 基于Gabor小波和PCA降維處理3.1 Gabor小波3.1.1系統(tǒng)概要本章重點(diǎn)介紹小波特征提取，以及具體的Gabor小波的算法。Gabor小波主要用于圖片的特征提取，有效的反映圖片的在各個(gè)位置以及尺度的紋

18、理改動(dòng)，能夠縮小圖片里光線改動(dòng)、噪聲的干擾。3.1.2 預(yù)處理無論是表情識(shí)還是人臉識(shí)別以及各個(gè)識(shí)別系統(tǒng)，在表情識(shí)別中表情圖像的預(yù)處理是一個(gè)非常重要的環(huán)節(jié)，它需要把一張圖片中的面部表情的重要特征點(diǎn)來進(jìn)行定位。本文需要把圖片中的光線影響去除，以及噪聲等對圖片產(chǎn)生的失真效果，只有解決了這些問題，才能達(dá)到預(yù)處理的效果，從而達(dá)到理想的處理結(jié)果，圖3.1是人臉面部的幾何模型：圖3.1 人臉幾何模型根據(jù)面部的幾何模型來獲得表情的純區(qū)域，對表情模型建立一個(gè)幾何算法，產(chǎn)生函數(shù)，把圖片轉(zhuǎn)化成一種數(shù)字處理的方式，經(jīng)過尺度的變化來得到一個(gè)校準(zhǔn)的圖像(1)。在一幅表情圖像中，眼睛、嘴巴、鼻子的位移會(huì)給人臉的定位造成一定

19、的困難，為了準(zhǔn)確的確定幾何位置，需要對圖像進(jìn)行歸一化，本實(shí)驗(yàn)對雙眼球作為特征點(diǎn)，始終保持雙眼球在水平線上，然后以兩眼中心位置的距離為基準(zhǔn)，按一定的比例裁剪，得到表情最多的區(qū)域，最后進(jìn)行圖像的縮放處理，使各圖的大小統(tǒng)一。盡管小波變化對光照的影響并不敏感，但是為了的到最優(yōu)化的提取效果，采用灰度均衡化： I(x，y)=0（I（x，y）-）+0 （公式3.1）I（x，y）是均衡前的灰度圖像，I(x，y)是均衡后的灰度圖像，這樣所有圖像就得到一致的均值和方差。3.1.3 Gabor小波特征提取把眼睛和嘴部作為Gabor特征維數(shù)的選取，其中我們?nèi)コW(wǎng)格大小，一律改用五種頻率，用八個(gè)核函數(shù)Gabor小波進(jìn)行

20、函數(shù)特征抽取。在眉毛部位，我們選用三種頻率，十二個(gè)核函數(shù)Gabor小波進(jìn)行核函數(shù)特征抽取。Gabor小波變化對圖片的微小改動(dòng)有較好的提取能力，人臉表情主要在于局部的變化，基于這一點(diǎn)，可以使用Gabor小波變化來提取表情圖片的特征向量，另外Gabor小波對于光線的改變沒有太多的影響，使得其擁有很好的魯棒性。目前，對于表情識(shí)別的研究大多是基于Gabor小波的特征提取，Gabor小波函數(shù)能夠較好的反映視覺系統(tǒng)的變化。我們設(shè)定圖像的灰度值I(x，y)，圖像本文采用的小波變化核函數(shù)如下(3)： （公式3.2），（小波的核頻率），其中選?。╲=0,1,2,3,4,）五個(gè)頻率，本文主要是對表情特征的選取，局

21、部細(xì)節(jié)和紋理特性是最主要的，而這些特性都屬于高頻部分，所以我們選取的參數(shù)盡量小一點(diǎn)。（k=0，1,2,3,4,5,6,7）八個(gè)方向，計(jì)算得到40個(gè)函數(shù)。我們選取這些函數(shù)進(jìn)行圖像卷積，可以得到卷積結(jié)果:Ouv(x,y)=|I(x,y)*guv(x,y)| (公式3.3)I(x,y)表示圖像，Ouv(x,y)表示卷積結(jié)果，*表示卷積因子(2)。由于小波變化是對圖像進(jìn)行卷積實(shí)現(xiàn)的，卷積是對圖像上給定范圍區(qū)域內(nèi)的像素灰度值進(jìn)行乘積、累加的結(jié)果。所以，得到的小波系數(shù)圖的值不會(huì)像像素的灰度值那樣隨著位置的改變發(fā)生劇烈變化，這就是Gabor變換具有對位置部敏感的性質(zhì)(4)。圖3.2是圖像的小波變化結(jié)果：圖3

22、.2 特征提取結(jié)果每幅表情圖片的Gabor小波的特征向量可以這么定位，圖片位置（x，y）位置的各個(gè)方向跟尺度位置的小波變化的幅值想結(jié)合，就可以得到這個(gè)點(diǎn)的小波特征數(shù)值，在將每個(gè)像素位置的Gabor小波特征向量組合，就可以得到圖片的小波特征向量：X=（O0,0，O0,1O4.7)T （公式3.4）本文是五個(gè)尺度八個(gè)方向的小波函數(shù)，所以變換后得到的40個(gè)小波系數(shù)圖，我們預(yù)處理的圖像是128*128維的，提取后特征維數(shù)變成128*128*5*8，如此高的維數(shù)想用特征分類基本不可能，所以需要進(jìn)行降維處理。3.1.4Gabor小波特征提取的實(shí)驗(yàn)結(jié)果一張人臉表情的圖片的Gabor的特征表示就是圖片與Gab

23、or小波的卷積效果，本實(shí)驗(yàn)利用MATLAB進(jìn)行仿真，運(yùn)用日本JAFFE表情圖庫，來實(shí)現(xiàn)特征提取。實(shí)驗(yàn)結(jié)果圖3.3所示：圖3.2 Gabor特征提取結(jié)果3.2 主成分分析（PCA）3.2.1 PCA介紹主成分分析（PCA）算法是一種建好的線性鑒別方法，目前被廣泛的應(yīng)用于圖片的處理以及文字方面。3.2.2 PCA算法在多種測試變量中，m個(gè)參數(shù)面合成n個(gè)測試變量x=x1,x2,.,xn,對比發(fā)現(xiàn)，m遠(yuǎn)遠(yuǎn)比n小的多。一個(gè)隨機(jī)測試向量在實(shí)際情況下可以表示為： x=Fy+e （公式3.5）F是有m*n的矩陣，e是誤差。 相關(guān)矩陣Rx主要的特征值按照一定順序排列，并且按F=UT變換，使誤差降到最小。對于N中

24、維的數(shù)據(jù)，正交化的方式能夠獲得數(shù)據(jù)里的大多數(shù)變化，在最小的誤差下，可以利用投影來實(shí)現(xiàn)重新整理組內(nèi)數(shù)據(jù)。最有代表的數(shù)據(jù)降維方式，是利用保存大部分已知的結(jié)構(gòu)，抽取少量有意義的成分。PCA算法是線性算法，無法滿足一線非線性結(jié)構(gòu)的數(shù)據(jù)。3.3.3 PCA算法經(jīng)過Gabor小波變化后得到的特征數(shù)據(jù)維數(shù)高達(dá)16384維，后續(xù)處理十分困難。傳統(tǒng)PCA是對PCA所有訓(xùn)練樣本進(jìn)行一次處理，而類內(nèi)PCA是對每一種訓(xùn)練樣本進(jìn)行PCA處理，得到每類的訓(xùn)練樣本最主要特征。類內(nèi)PCA思想如下：設(shè)X=X1，X2，X3,Xi，,Xc是c類且總個(gè)數(shù)為N的訓(xùn)練樣本總集，Xi=xi，j為第i類樣本的集合，它有樣本Ni個(gè)，且 i=1

25、cNi=N (公式3.6)其中i表示第i類樣本集的類別（i=1,2,3，c），j表示當(dāng)前樣本集的當(dāng)前樣本的序號(hào)j=（1，2，Ni），xi，j表示第i類j個(gè)樣本。假設(shè)要處理的第i類樣本，則該類樣本集為xi，1，xi，2，xi，Nj，i=1,2，c，該類樣本的的產(chǎn)生矩陣為 i=1Nij=1Ni（xi，j-i）（xi，j-i）T （公式3.7） i=1Nij=1Nixi，j （公式3.8）是第i類表情訓(xùn)練樣本的平均向量，與矩陣SVD定理(9)得到 i=1Nij=1Ni（xi，j-i）（xi，j-i）T=1NiMiMiT （公式3.9）其中Mi=xi，1-i,xi，2-i, xi，Nj-i,故構(gòu)造矩陣

26、: Ri=MiTMi （公式3.10）由于xi，j的維數(shù)為（m*n）*1=128*128*1，所以i的維數(shù)16384*1，xi，j-i的維數(shù)也是（m*n）*1=16384*1，（xi，j-i）T的維數(shù)為16384*1，Mi的維數(shù)是16384*Ni*16384，MiMiT的維數(shù)16384*16384，MiTMi的維數(shù)為Ni*Ni，由于Ni是每類表情樣本的個(gè)數(shù)，一般情況下，它遠(yuǎn)遠(yuǎn)小于16384.所以Ri的維數(shù)相對于i來說大大降低了。3.3.4 降維處理實(shí)驗(yàn)結(jié)果如前所述，特征提取時(shí)實(shí)驗(yàn)所用的訓(xùn)練樣本的分辨率都是128*128，經(jīng)過Gabor變換后如果直接進(jìn)行分類，往往容易陷入“維數(shù)災(zāi)難”使得問題變得

27、實(shí)際上不可能實(shí)現(xiàn)。為此本文采用PCA降維的方法進(jìn)行降維。由于Gabor特征在相鄰像素間是高度相關(guān)和信息冗余的，所以只需要提取部分特征就足夠了，因此首先對特征空間進(jìn)行降維處理是非常有必要的，圖3.3是降維效果圖：圖3.3 PCA降維處理結(jié)果3.5 本章小結(jié)本章將圖像進(jìn)行Gabor小波特征提取，由于Gabor小波變換會(huì)產(chǎn)生很高的維數(shù)，所以我們需要降低它的維數(shù)，主成分分析是一種很好的降低維數(shù)的工具，運(yùn)用其中的一些算法，來實(shí)現(xiàn)其中的目的。4 極限學(xué)習(xí)機(jī)4.1 極限學(xué)習(xí)機(jī)介紹極限學(xué)習(xí)機(jī)（extreme learning machine）ELM是一種簡單易用、有效的單隱層前饋神經(jīng)網(wǎng)絡(luò)SLFNs學(xué)習(xí)算法。2

28、004年由南洋理工大學(xué)黃廣斌副教授提出。傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法（如BP算法）需要人為設(shè)置大量的網(wǎng)絡(luò)訓(xùn)練參數(shù)，并且很容易產(chǎn)生局部最優(yōu)解。極限學(xué)習(xí)機(jī)只需要設(shè)置網(wǎng)絡(luò)的隱層節(jié)點(diǎn)個(gè)數(shù)，在算法執(zhí)行過程中不需要調(diào)整網(wǎng)絡(luò)的輸入權(quán)值以及隱元的偏置，并且產(chǎn)生唯一的最優(yōu)解，因此具有學(xué)習(xí)速度快且泛化性能好的優(yōu)點(diǎn)。極限學(xué)習(xí)機(jī)（ELM）是基于神經(jīng)網(wǎng)絡(luò)的一種有效的算法，與傳統(tǒng)的學(xué)習(xí)算法相比有很大的優(yōu)勢。近年來，多媒體技術(shù)日益進(jìn)步，人們生活中產(chǎn)生了越來越多的圖像，這些繁瑣復(fù)雜的圖像運(yùn)用一般的分析以及識(shí)別技術(shù)根本無法識(shí)別，現(xiàn)在的圖像分類模型面臨嚴(yán)峻的挑戰(zhàn)。極限學(xué)習(xí)機(jī)以及神經(jīng)網(wǎng)絡(luò)在圖像識(shí)別中取得了一些較好的成果。4.2 ELM原

29、理 神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)可以看出，其實(shí)ELM是一個(gè)簡單的SLFNs，其結(jié)構(gòu)圖如圖4.1所示： f(x)m 1 . . . . .1iLLi1 . . . . . . . . . G(ai,bi,x) G(a1,b1,x) G(aL,bL,x)d1 . . . . . x圖4.1 SLFNS結(jié)構(gòu)圖4.3 極限學(xué)習(xí)機(jī)算法 fN（x）=i=1NiG（wi，bi，xi），xRn，wiRn，iRm （公式4.1）是SLFNS的n個(gè)隱含神經(jīng)元的輸出。式（4-1）中：G(wi，bi，xi）是xi相對的第i 個(gè)隱含層神經(jīng)元的輸出數(shù)據(jù)；i=i1,i2,imT是連接權(quán)向量，這個(gè)向量是基于第i 個(gè)隱含層神經(jīng)元與輸出神經(jīng)元

30、之間的。當(dāng)函數(shù)g（x）被選定并且加性神經(jīng)元時(shí)，第i個(gè)隱層神經(jīng)元的輸出結(jié)果將會(huì)改變，其結(jié)果為: G（wi，bi，xi）= g（wixi+bi），biR （公式4.2）式（4-2）中：wi=wi1,wi2,wimT是權(quán)向量。給定N個(gè)隱層神經(jīng)元和激活函數(shù)G(wi，bi，xi），就存在i，wi，bi使極限學(xué)習(xí)機(jī)算法可以使N個(gè)樣本點(diǎn)無線近似的接近零偏差，即： i=1NiG（wi，bi，xi）=tj，j=1,2，N （公式4.3）式(4-3）可以寫成矩陣形式H=T。其中： （公式4.4）=1T,NTN*mT,T=t1T,tBTN*mT,式（4-4）中：隱含層輸出舉證H的第i列是關(guān)于輸入x1,x2,xn的第

31、i 個(gè)隱層神經(jīng)元的輸出結(jié)果。神級(jí)網(wǎng)絡(luò)的單項(xiàng)隱含層，極限學(xué)習(xí)機(jī)學(xué)習(xí)算法可以用于任何無限可以微分激活的函數(shù)，這一函數(shù)算法加大了神級(jí)網(wǎng)絡(luò)前向激活函數(shù)的確定空間，傳統(tǒng)的函數(shù)對于輸入層和隱含層的偏差，這種偏差是不能隨機(jī)選擇的，但是該算法的輸入層權(quán)值和隱含層的偏差是可以隨機(jī)選擇的，在網(wǎng)絡(luò)的訓(xùn)練過程中，在參數(shù)訓(xùn)練確認(rèn)之后，對輸入層權(quán)值和隱含層偏差不需要進(jìn)行調(diào)整，極限學(xué)習(xí)算法在訓(xùn)練數(shù)據(jù)的時(shí)候，隱含層矩陣H的的數(shù)值是永遠(yuǎn)不會(huì)變化的。因此，極限學(xué)習(xí)機(jī)算法的訓(xùn)練過程可以表示為尋找H=T的最小二乘解,假設(shè)隱含層神經(jīng)元的個(gè)性N等于網(wǎng)絡(luò)內(nèi)的輸入樣本個(gè)數(shù)N，為了確定矩陣H是否可以判斷為可逆矩陣，只有確定了輸入權(quán)值跟隱含層偏

32、差才能確定。然而在大多數(shù)情況下，矩陣H 不是方陣，從而不可能有i,wi, bi(i=1,2,.N)使得H=T。但是可以求此線性系統(tǒng)的最小范數(shù)的最小二乘解：=H+Y，其中H+是矩陣H的Moore-Penrose 廣義逆。ELM極限學(xué)習(xí)機(jī)算法與傳統(tǒng)的一些算法相比，改算法處理數(shù)據(jù)更快，廣泛性更加高，它可以解決很多其他算法不能良好解決的問題，比如一些算法不能解決一些局部問題，學(xué)習(xí)速度慢等問題。仿真結(jié)果表示，極限學(xué)習(xí)機(jī)算法在學(xué)習(xí)處理海量圖庫，在一些外界因素造成影響的同時(shí)，選用極限學(xué)習(xí)機(jī)算法的函數(shù)可以良好的解決這些問題，在處理激活函數(shù)的選取當(dāng)中極限學(xué)習(xí)機(jī)算法有一定的問題依賴性。ELM極限學(xué)習(xí)機(jī)的算法是以下

33、步驟：步驟 1 任意確定輸入層權(quán)值wi和偏差bi，i=1，,N。步驟 2計(jì)算隱層函數(shù)矩陣H。步驟 3 計(jì)算:=H+T,其中T=t1,tnTELM算法就如上所述，從2004年至今年，近來一些學(xué)者多算法進(jìn)行了一些改進(jìn)，其改進(jìn)內(nèi)容主要是對輸入層和隱含層數(shù)值隨著確定數(shù)值的優(yōu)化、算出隱含層和輸出層數(shù)值的優(yōu)化，這樣使ELM更加匹配與噪聲數(shù)據(jù)集，核函數(shù)ELM以及加入了正則化項(xiàng)的損失函數(shù)、ELM和其它方法項(xiàng)結(jié)合等等。神經(jīng)網(wǎng)絡(luò)因?yàn)镋LM和產(chǎn)生了一個(gè)新思路，也使得我們更加清楚的了解神經(jīng)網(wǎng)絡(luò)，但是還有一些問題有待我們?nèi)ソ鉀Q，比如隱含層節(jié)點(diǎn)的確定。ELM作為一個(gè)應(yīng)用及其，我們可以將它應(yīng)用到很多學(xué)科的研究以及應(yīng)用。4.

34、4 極限學(xué)習(xí)機(jī)訓(xùn)練極限學(xué)習(xí)機(jī)（ELM）是一種前饋神經(jīng)網(wǎng)絡(luò)簡單、快速、有效的算法，跟傳統(tǒng)的基于梯度下降的學(xué)習(xí)算法相比極限學(xué)習(xí)機(jī)有很大的優(yōu)勢（7）。對于N個(gè)任意的各不相同的（xi，yi），其中 xi=xi1,xi2,xinTRn,yi=yi1, yi2,yinTRm (公式4.5)擁有L個(gè)隱層節(jié)點(diǎn)，前饋神經(jīng)網(wǎng)絡(luò)的輸出可以表示為： fL（x）=i=1LiG（aixi+bi）ai，xi，biRn （公式4.6）ai=ai1,ai2,aimT是網(wǎng)絡(luò)的輸入層到第i個(gè)節(jié)點(diǎn)的輸入權(quán)值，bi是第i個(gè)隱層節(jié)點(diǎn)的偏置；i=i1, i2,imT是第i個(gè)隱層節(jié)點(diǎn)的輸出權(quán)值；aixi表示向量ai和xi的內(nèi)積。如果這個(gè)具有

35、L個(gè)隱含層節(jié)點(diǎn)的前饋神經(jīng)網(wǎng)絡(luò)能以0誤差逼近這N個(gè)樣本，則存在ai，bi，i，使fL（x）=i=1LiG（aixi+bi）=yi，i=1,2,，L），那么H=Y，則： G（a1x1+b1) . G(aLx1+bL)H(a1,aL，b1，bL，x1，xN)=. . . . . . .G（a1xN+b1） . G（a1xN+b1） N*L 1T y1T . . = . Y= . .LT L*M yLT N*M （公式4.7）H被稱作網(wǎng)絡(luò)的隱含層輸出矩陣，在極限學(xué)習(xí)機(jī)算法中，輸出權(quán)值和偏差可以隨機(jī)給定。這樣隱層矩陣H就變成了一個(gè)確定的矩陣，這樣前饋神經(jīng)網(wǎng)絡(luò)的訓(xùn)練就可以轉(zhuǎn)化為一個(gè)求給輸出權(quán)值矩陣的最小二

36、乘解的問題(11)，只需要求出輸入權(quán)值的最小二乘解就能完成網(wǎng)絡(luò)的訓(xùn)練，輸出權(quán)值矩陣可以有下式得到(8)： =H+Y (公式4.8)4.5 本章小結(jié)極限學(xué)習(xí)機(jī)是基于神經(jīng)網(wǎng)絡(luò)的算法，是一種很好的分類器，它可以解決海量圖像處理的問題，很好的解決了JAFFE圖片較多的問題，本章將極限學(xué)習(xí)機(jī)跟支持向量機(jī)進(jìn)行了對比，發(fā)現(xiàn)其能夠很好的訓(xùn)練并且分類(12)。5 實(shí)驗(yàn)結(jié)果與分析5.1實(shí)驗(yàn)結(jié)果本實(shí)驗(yàn)采用了現(xiàn)在應(yīng)用最廣泛的日本女性表情數(shù)據(jù)庫JAFFE進(jìn)行實(shí)驗(yàn)，該數(shù)據(jù)由10個(gè)人的213幅圖像組成，每個(gè)人展示生氣、厭惡、害怕、高興、悲傷、驚奇和中性7種基本表情各2到4幅圖像，均為128*128的圖像。實(shí)驗(yàn)壞境是MATL

37、AB2013b為工具，雖然整個(gè)算法復(fù)雜度較大，但是模塊功能清晰，結(jié)構(gòu)復(fù)雜度不高，識(shí)別系統(tǒng)能夠結(jié)構(gòu)接受。為了能夠簡潔的識(shí)別圖片里的表情，本文在MATLAB里面添加了可視化，使得讀取圖片，以及特征處理可降維處理更加簡潔，最后在運(yùn)用ELM分類器進(jìn)行分類，可視化視圖如圖5.1所示：圖5.1 MATLAB可視化界面本次實(shí)驗(yàn)運(yùn)用了日本JAFFE表情庫，調(diào)試了多種表情，有悲傷、厭惡、恐懼、憤怒、驚奇、高興、中性臉七種基本表情，圖5.2是載入的待識(shí)別圖像：圖5.2 載入的待識(shí)別圖像實(shí)現(xiàn)對圖像進(jìn)行Gabor小波特征提取，將算法寫入MATLAB中，讓MATLAB進(jìn)行特征提取，圖5.3是對圖像進(jìn)行特征提取以及進(jìn)行降

38、維處理的實(shí)驗(yàn)結(jié)果：圖5.3 圖像Gabor小波特征提取結(jié)果圖5.4是實(shí)驗(yàn)的識(shí)別結(jié)果：圖5.4 ELM分類識(shí)別結(jié)果從實(shí)驗(yàn)派別成績中察覺，高興的識(shí)別成績最高，其次是悲傷、驚奇，厭惡和悲傷表情識(shí)別率相對于高興表情較低，最低的是中性臉，平均識(shí)別率80%，實(shí)驗(yàn)結(jié)果如表1所示：表1 表情識(shí)別率表情識(shí)別結(jié)果高興中性驚奇憤怒恐懼厭惡悲傷識(shí)別率%平均識(shí)別率%高興2910000096.6780中性0280001193.3驚奇0025031183.33憤怒0202312276.67恐懼0032222173.33厭惡0022321270悲傷0202242066.67本實(shí)驗(yàn)與不進(jìn)行降維處理的實(shí)驗(yàn)結(jié)果比較，發(fā)現(xiàn)不進(jìn)行降維

39、處理的圖像識(shí)別率僅為68%，而進(jìn)行過降維處理的圖像識(shí)別率高達(dá)80%，這充分說明了降維處理的重要性。5.2 實(shí)驗(yàn)分析人臉表情識(shí)別是一個(gè)富有挑戰(zhàn)的課題，隨之智能化的發(fā)展，需要機(jī)器人、人機(jī)交互界面、醫(yī)療設(shè)備等方面能夠?qū)Ρ砬橛幸粋€(gè)很好的識(shí)別和分析，但是畢竟是一個(gè)機(jī)器，并不能像人類一樣去思考判斷。本文運(yùn)用Gabor小波特征提取，由于特征提取之后產(chǎn)生了高維數(shù)，雖然運(yùn)用了PCA降維處理，但是并不能完全讓分類器分類并識(shí)別。上面的實(shí)驗(yàn)結(jié)果可以看出，高興、悲傷等表情識(shí)別率比較高，因?yàn)樗谋砬樘卣髯兓容^明顯，Gabor濾波器在這些特征點(diǎn)的輸出比較強(qiáng)，這里的特征向量相對來說比較容易抽取，厭惡等表情特征變化不是很明顯

40、，所以特征抽取效果比較差。在眾多表情圖片中，驚奇和恐懼、厭惡這三種表情比較難以分辨，因?yàn)檫@三組表情存在一定的相似之處，需要更加深入的提取它的一些細(xì)節(jié)特征，只有這樣才能區(qū)分。實(shí)驗(yàn)中采用了近年來細(xì)節(jié)抽取中運(yùn)用比較多的Gabor小波算法。在實(shí)驗(yàn)的特征抽取中，各類投影軸可以得到不同的識(shí)別率，對于抽取特征量后的Gabor系數(shù)采用PCA降維處理能達(dá)到較好的效果。本文的算法是Gabor小波算法以及PCA算法，最后用極限學(xué)習(xí)機(jī)訓(xùn)練，為了突出極限學(xué)習(xí)機(jī)對于海量圖片處理的優(yōu)勢，我們將它與支持向量進(jìn)行了對比，對比發(fā)現(xiàn)，極限學(xué)習(xí)機(jī)的分類效果比支持向量機(jī)要有很多的優(yōu)勢，表明極限學(xué)習(xí)機(jī)能夠有效的用于分類。5.3 本章小結(jié)

41、本章主要闡述本論文的實(shí)驗(yàn)仿真，闡述仿真結(jié)果，以及一些誤差分析，對一些誤差分析其原因。參考文獻(xiàn)1 羅亮, 金文表, 龔勛. 基于Gabor 小波和支持向量機(jī)的人臉識(shí)別J. 重慶大學(xué)學(xué)報(bào)（自然科學(xué)版），2008，20(1)：230-2352 葉敬福, 詹永照. 基于Gabor 小波變換的人臉表情識(shí)別J.計(jì)算機(jī)程,2005,31(2):173-1743 朱健翔, 蘇光大, 李迎春. 結(jié)合Gabor 特征與Adaboost 的人臉表情識(shí)別 J . 光電子激光, 2006, 8(3): 993-9984 羅飛, 王國胤, 楊勇. 一種基于Gabor小波特征的人臉表情識(shí)別新方法 J . 計(jì)算機(jī)科學(xué), 20

42、09, 36 (4) : 181- 1835 MATLAB在數(shù)字圖像處理中的應(yīng)用_涂望明，2007,2（5）：2-106 MATLAB在圖像處理和分析中的應(yīng)用_鄧巍，2005,6（6）:4-67 基于Gabor變換和極限學(xué)習(xí)機(jī)的貝類圖像種類識(shí)別_楊靖堯，2013,7（7）:10-308 在線極限學(xué)習(xí)機(jī)及其在圖像識(shí)別中的應(yīng)用，楊晶晶，2012,4（8）:20-309 一種基于局部Gabor濾波器組及PCA_LDA的人臉表情識(shí)別方法_鄧洪波,2007,2(9)：15-3510 A. W. M. Smeulders, M. Worring, S. Santini, A. Gupta,R. Jain.

43、 Content-based image retrieval at the end of theearly yearsJ.IEEE Transactions on Pattern Analysis andMachince Intelligence, 2000, 22(10):1349 138011 董紹江，湯寶平，宋濤改進(jìn)投票策略的morlet小波核支持向量機(jī)及應(yīng)用震動(dòng)、測試與診斷，2011.3(11):50-10012 焦李成，周偉達(dá)，張莉，等智能目標(biāo)識(shí)別與分類北京：科學(xué)出版社2010(12)：196-20213 鄧萬宇，鄭慶華，陳琳。神經(jīng)網(wǎng)絡(luò)急速學(xué)習(xí)方法研究J。計(jì)算機(jī)學(xué)習(xí)報(bào)，2010，33

44、（7）：279-28714 程建，應(yīng)自爐，基于二維主分量分析的面部表情識(shí)別J。計(jì)算機(jī)工程，2006,31（4）：32-3915 章品正，王征，趙宏玉，面部表情特征抽取的研究進(jìn)展J,計(jì)算機(jī)工程與應(yīng)用，2006,38（4）：38-4216 楊智勇，許愛強(qiáng)，牛雙誠?；诙嘈盘?hào)模型的系統(tǒng)測試性建模與分析J。工程設(shè)計(jì)學(xué)報(bào)，2007,14（5）：222-22417 彭輝，張長水，榮鋼?；贙-L變換的人臉自動(dòng)識(shí)別方法J.清華大學(xué)學(xué)報(bào)（自然科學(xué)版），2007,37（6）：67-7018 陳陪俊?；陟o態(tài)圖像的人臉表情識(shí)別研究M。成都：西南交通大學(xué)，2007（5）：20-3019 李云霞，李治柱，吳亞棟?；贖MM的關(guān)鍵詞識(shí)別系統(tǒng)J。計(jì)算機(jī)工程，2004，30（7）：130-13220 黃劍玲。利用MATLAB進(jìn)行數(shù)字圖像的分析和處理J.計(jì)算機(jī)現(xiàn)代化，2000,70（6）：104-10721 李了了，鄧善熙。MATLAB在圖像處理技術(shù)方面的應(yīng)用J.微計(jì)算機(jī)信息，2003,19（6）：65-66致謝通過完成這篇論文，我學(xué)到了