利用粒子群優(yōu)化的人臉特征提取識(shí)別算法

1、第44卷第4期 2010年4月西 安 交通 大 學(xué) 學(xué)報(bào)JOURNAL OF XI 7AN J IA(T(NG UNIVERSITYV01.444 Apr.2010利用粒子群優(yōu)化的人臉特征提取識(shí)別算法溫浩1,郭崇慧2(1.西安電子科技大學(xué)綜合業(yè)務(wù)網(wǎng)理論及關(guān)鍵技術(shù)國家重點(diǎn)實(shí)驗(yàn)宦,710071,西安;摘要:針對如何提高人臉圖像識(shí)別率問題,提出了利用粒子群優(yōu)化(PSO的人臉特征提取識(shí)別算 法.采用小波變換和張量主成分分析(PCA方法對人臉圖像進(jìn)行特征提取,利用PS(對提取的特 征進(jìn)行加權(quán)處理,根據(jù)特征的每一維元素的聚類正確率進(jìn)行優(yōu)化選擇,從而達(dá)到對人臉提取關(guān)鍵性 特征的目的.實(shí)驗(yàn)結(jié)果表明,所提算法能

2、減小光照、表情和姿態(tài)變化的影響,在英國曼徹斯特科技大 學(xué)人臉數(shù)據(jù)庫上的識(shí)別率比張量PCA方法提高了12.75%.關(guān)鍵詞:小波變換;張量主成分分析;粒子群優(yōu)化;人臉識(shí)別中圖分類號(hào):TP391.41文獻(xiàn)標(biāo)志碼:A文章編號(hào):0253-987X(2010040048-04Face Recognition with Features Extraction Based onParticle Swarm OptimizationWEN Ha01。GUO Chonghui2(1.State Key Laboratory of Integrated Service Networks。Xidian Univers

3、ity,Xian 710071,China,2.Institute ofSystems Engineering.Dalian University of Technology,Dalian.Liaoning 116024,ChinaAbstract:A face recognition algorithm with optimal features extraction based on particle swami optimization(PSOis proposed to enhance the recognition rate.Features of each face image a

4、re extracted by using the wavelet transformation and the tensor principal component analysis(PCA algorithm.Weights of the featureselements are then determined using PSO according to the right clustering rate of each element,SO that the object tO extract the key features of the faces can be realized.

5、Experimental results on the UMIST database show that the impact of changes in ex pression,light and posture can be reduced by the proposed algorithm,and that the recognition ratio is increased by 12.7s%compared with tensor PCA.Keywords:wavelet transforms tensor principaI component analysis;particle

6、swarm optimiza+ tion;face recognition人臉識(shí)別是模式識(shí)別領(lǐng)域的一個(gè)研究熱點(diǎn)1吧, 并且具有廣泛的應(yīng)用前景.如何提取人臉圖像的特 征是人臉識(shí)別的關(guān)鍵岡素.常用的人臉特征提取方 法是基于統(tǒng)計(jì)特征的【2j,其經(jīng)典算法是主成分分析 (PCA方法3.文獻(xiàn)45針對PCA提出了二維 PCA(2DPCA方法,近年來又出現(xiàn)了其他基于PCA 的改進(jìn)方法,其中張量PCA(Tensor PCA是一種 效果較好的方法6。7,文獻(xiàn)63還證明了2DPCA是 張量PCA的一種特例.如果直接對人臉圖像進(jìn)行特 征提取,會(huì)受到光照不均、表情變化等因素的干擾, 人臉圖像的維數(shù)較高,還需做降維預(yù)處理

7、.小波變換 具有良好的局部時(shí)(空頻分析特性,具有下二采樣 性質(zhì)8,能夠消除圖像中的十?dāng)_,進(jìn)行降維維護(hù),所 以被廣泛應(yīng)用于人臉圖像的特征提取睜m.研究發(fā)現(xiàn)。對所提特征的每一維元素賦予適當(dāng) 的權(quán)值,亦即進(jìn)行優(yōu)化選擇,會(huì)進(jìn)一步提高識(shí)別率,收稿口期:2009-0902. 作者簡介:溫浩(1979一,男,博士生;郭崇慧(聯(lián)系人,男。教授。博士生導(dǎo)師. 基金項(xiàng)目:國 家自然科學(xué)基金資助項(xiàng)目(60802075.第4期 溫浩.等:利用粒子群優(yōu)化的人臉特征提取識(shí)別算法然而需要優(yōu)化的權(quán)值較多,權(quán)值的數(shù)值變化規(guī)律難 以用數(shù)學(xué)模型準(zhǔn)確描述.如果采用人工試湊法或網(wǎng) 格搜索法確定權(quán)值,計(jì)算量會(huì)很大,而且很難逼近最 優(yōu)解L

8、11.粒子群優(yōu)化算法(Ps(是一種全局搜索方 法,它需要調(diào)節(jié)的參數(shù)少,無需考慮數(shù)據(jù)的維數(shù)和搜 索模型的形式,能獲得最優(yōu)解L11|.因此,本文提出基 于PS(的有效人臉特征提取方法,即首先用小波和 張量PCA提取人臉圖像特征,然后用PS(對已提 取的特征進(jìn)行處理,以確定權(quán)值,從而達(dá)到人臉識(shí)別 的目的.1人臉圖像特征提取原始人臉圖像存在著光照、表情、飾物變化等因 素的干擾1,而且圖像的維數(shù)比較高,要進(jìn)行預(yù)處 理,以降低圖像的維數(shù)、消除干擾,因此需選用小波 變換作為預(yù)處理工具.圖像經(jīng)過小波變換后得到4個(gè)子圖:低頻(I上子圖、垂直方向高頻(LH子圖、 水平方向高頻(HL子圖和對角方向高頻(HH子 圖.

9、每個(gè)子圖的長寬為原圖的1/2.后續(xù)的若干層小 波變換都是基于上一層的LL子圖進(jìn)行的.圖1給 出了一個(gè)人的2幅人臉圖像的原圖和其一層小波變 換的子圖.圖1一個(gè)人臉2幅圖像及其上一層小波變換子圖從圖1可以看出,這2幅原圖有明顯的飾物差 別和細(xì)微的表情差異,但在LL子圖中這些差別不 明顯.LL子圖對原始圖像的預(yù)處理效果比較好,所 以本文只對LL子圖做進(jìn)一步的特征提取.為了得 到有效的特征,可采用張量PCA方法提取LL子圖 的特征.張量PCA方法能夠提取出圖像的低維張量 子空間特征,而在特征提取過程中卻未破壞圖像的 幾何空間結(jié)構(gòu),所以能獲得比PCA方法和2DPCA 方法更好的特征提取效果6】.對于灰度

10、圖像的特征提取,張量PCA方法的基 本思想可概括為:求解打個(gè)大小均為x,阱×H的圖 像(C和H分別表示圖像Xi的長和寬投影矩陣U 和V(UE Rtx,RHx”,并通過投影矩陣對X進(jìn) 行計(jì)算,得到一個(gè)新的二階張量Yi=UTXiT,rRtXm (1 E尉×坍(Z和m分別表示矩陣yi的行數(shù)和列數(shù). 設(shè)yj的均值YM=:yi,則yi和yM滿足 丌lmax、lI KyM 0一i。=。10uTxV一去【,TxVl (2 i=I II ¨i=1II其中【,、,的最佳解為U。、y。,【,、,可通過迭代 計(jì)算得到(文獻(xiàn)6,1213給出了【,、,。的求解 過程.設(shè)XTR,I i一1,

11、行為經(jīng)過預(yù)處理的訓(xùn)練樣本 圖像集,行為訓(xùn)練樣本數(shù);xTEj IJ一1,研為經(jīng)過 預(yù)處理的測試樣本圖像集,m為測試樣本數(shù).據(jù)此, 本文張量PCA方法的特征提取過程可概括為:根據(jù) XmIi一1,竹,得到投影矩陣【,。、V。;按照式 (1x,-tX哺I i一1,行中的每一幅圖像進(jìn)行計(jì)算, 得到訓(xùn)練樣本特征矩陣集合y俯I i=1,行;對 x,lj一1,m,利用【,、V按照式(1進(jìn)行相 應(yīng)計(jì)算,得到測試樣本特征矩陣集合YTE,l J一 1,m.2基于PSO的特征優(yōu)化選擇經(jīng)過特征提取后得到的特征中的每一維元素在 識(shí)別中所起的作用有所不同,對這些元素賦予適當(dāng) 的權(quán)值可以進(jìn)一步提高識(shí)別率.由于權(quán)值的個(gè)數(shù)與 任

12、意特征矩陣中的元素個(gè)數(shù)相同,所以權(quán)值可以矩 陣形式記為w,而W的最優(yōu)解為W。.W中的元素 個(gè)數(shù)很多,w和w。之間也沒有確切的數(shù)學(xué)模型來 描述,所以利用傳統(tǒng)的人工試湊法和網(wǎng)格搜索法很 難找到最優(yōu)解,為此本文采用粒子群優(yōu)化算法 (PS(來獲得W.PSO算法確定W。的基本思想為:設(shè)優(yōu)個(gè)粒子 Z。,z2,Zm在與w的維數(shù)相同的空間中進(jìn)行 搜索,每個(gè)粒子Z的位置為W的一個(gè)解,即Z的 位置是和W的維數(shù)相同的矩陣;根據(jù)每個(gè)粒子的位 置來確定該粒子的適應(yīng)度函數(shù)值.粒子適應(yīng)度函數(shù) 值的確定方法如下:首先用y珊Ii=1,竹的每一 西安交通大學(xué)學(xué)報(bào) 第44卷個(gè)元素和對應(yīng)Z位置的每一維元素相乘,記為w xYTRs(“

13、×”表示矩陣w的每一維元素和YTRi中 的每一維元素相乘,w×y俯的維數(shù)與l,珊的維數(shù) 相同;然后對此時(shí)的W×進(jìn)行聚類,得到訓(xùn)練樣本的聚類正確率.其實(shí),粒子Z,的適應(yīng)度函數(shù) 值就是聚類正確率,每個(gè)粒子在自身求解過程中得 到的最好適應(yīng)度所對應(yīng)的粒子的位置為局部最優(yōu)解 (記為Pd,所有粒子在局部最優(yōu)解中的最高適應(yīng)度 值所對應(yīng)的解為全局最優(yōu)解(記為P。,每個(gè)粒子的 運(yùn)動(dòng)速度為y。,V2,.,V。(y,也是與w的維數(shù)相 同的矩陣.傳統(tǒng)的粒子群算法一般通過迭代來調(diào)整 每個(gè)粒子的速度和位置,即%(z+1一刪甜(+哺rl(戶d一%(+ rkrz(九一%( (3 %(+1=%(+

14、V/d(f+1 (4 式中:73/d(f+1為第i個(gè)粒子的速度在t+1次迭代 中的第d維的元素值;%(+1為第i個(gè)粒子的位 置在t+1次迭代中第d維的元素值;伽為慣性權(quán) 重;確、rk為常數(shù);r1、r2為0"-1之間的隨機(jī)數(shù). 為防止PSO算法出現(xiàn)早熟或陷入局部極小化, 本文參照文獻(xiàn)1-143給出PSO粒子速度更新公式,即 %(f+1一伽d(f+吼1(戶bPd(+ rkrz(以一P甜(f+rhr3(九一P村(f (5 例一一當(dāng)生產(chǎn)畦 (6 式(5中:P。項(xiàng)為粒子當(dāng)前局部最優(yōu)解的平均值14, 利用它可防止PSO算法出現(xiàn)早熟或陷入局部極小 化;P。為粒子當(dāng)前局部最優(yōu)解.本文設(shè)置。為l, W

15、mi。為o,這樣可以使粒子初始時(shí)在較大的數(shù)值范圍 進(jìn)行搜索,接近最優(yōu)解時(shí)在較小的數(shù)值范圍進(jìn)行搜 索.根據(jù)經(jīng)驗(yàn),r/,璃為2,1r2為0l的隨機(jī) 數(shù).W的范嗣為O,1,如果W的某一維值在迭代過 程中大于1或小于0,則置為1或0.當(dāng)所有粒子迭代完成后,或者其位置不再發(fā)生 變化,此時(shí)得到的P。即為所求的最優(yōu)解W.最優(yōu)權(quán)值w。確定后,Ii=l,7"/的每一維值和對應(yīng)權(quán)值相乘便得到w×l,喇,同樣利用 yTE一歹一l.,Tn可得到w。×.訓(xùn)練樣本圖像特征矩陣與測試樣本圖像特征矩陣之間的距離為 D=dis(W。×YTE,W×F嘞 (7 其中dis(算子的計(jì)

16、算方法如下.假設(shè)xRcxH,YRcXH,則有C Hdis(X.1,一(確一yd2“2(8 根據(jù)式(8采用最近鄰方法便可進(jìn)行圖像特征識(shí)別. 3實(shí)驗(yàn)結(jié)果與分析本文在ORL、UMIST和自建庫上進(jìn)行了對比 實(shí)驗(yàn),對比的算法包括:本文算法(算法1、張量 PCA算法(算法2、結(jié)合小波變換和張量的PCA算 法(算法3.實(shí)驗(yàn)環(huán)境:IBMR51e筆記本電腦.編程 語言:MATLABoI也庫上的實(shí)驗(yàn)結(jié)果與分析(RL庫是英國劍橋大學(xué)制作的,其中包含40個(gè)人,每人10幅n2×92像素的人臉圖像,每張圖 像有表情、姿態(tài)、光照和角度的變化.本文從每個(gè)人 中隨機(jī)選取5幅或8幅圖像組成訓(xùn)練樣本集,余

17、下 的圖像作為測試樣本集.實(shí)驗(yàn)進(jìn)行了10次,最后的 識(shí)別率為10次實(shí)驗(yàn)結(jié)果的平均值,如表1所示. 表1ORL庫上不同算法的識(shí)別率比較由表1可見.本文算法的識(shí)別率大于其他2種 相關(guān)算法,算法3的識(shí)別率高于算法2的識(shí)別率.可 見,對圖像進(jìn)行小波變換能起到良好的預(yù)處理效果, 而在此基礎(chǔ)上進(jìn)行PSO調(diào)節(jié)權(quán)值可進(jìn)一步提高識(shí) 別率.當(dāng)訓(xùn)練樣本為5時(shí),本文方法的識(shí)別率達(dá)到了 96.73%;當(dāng)訓(xùn)練樣本為8時(shí),本文方法的識(shí)別率接 近100%.3.2UMIsT庫上的實(shí)驗(yàn)結(jié)果與分析UMIST庫由英國曼徹斯特科技大學(xué)制作,該 庫包含20個(gè)人的信息.本文把每個(gè)人中的前20幅 圖像歸一化為112×92像素進(jìn)行實(shí)

18、驗(yàn),并隨機(jī)選取 前20幅圖像中的10幅或16幅進(jìn)行訓(xùn)練,剩余的圖 像作為測試所用,最終的識(shí)別率為10次實(shí)驗(yàn)結(jié)果的 平均值,如表2所示.可以看出,表2中的識(shí)別率比表1中的低,尤其 是在訓(xùn)練樣本數(shù)較少的情況下.這是因?yàn)?UMIST 庫中的圖像角度變化非常大,每個(gè)人的前10幅圖像 可以看作是人臉正面圖像,而后10幅圖像可以看作 是人臉側(cè)面圖像.從表2還可以看出,算法1在10個(gè)訓(xùn)練樣本時(shí)的識(shí)別率仍然比其他2種算法高,比第4期 沮浩,等:利用粒子群優(yōu)化的人臉特征提取識(shí)別算法 51算法2提高了12.78%,比算法3提高了8.28%,可 見本文算法能較好地抗角度變化的干擾.3.3自建庫上的實(shí)驗(yàn)結(jié)果與分析自建

19、庫是筆者從所在的實(shí)驗(yàn)室采集制作的,共 n個(gè)人,每個(gè)人有6幅520X400像素的人臉圖像, 每張圖像的表情、角度和飾物都有變化.本文采用2折交叉驗(yàn)證算法進(jìn)行實(shí)驗(yàn),結(jié)果如表3所示.表2UMIST庫上不同算法的實(shí)驗(yàn)結(jié)果 表3自建庫上不同算法的實(shí)驗(yàn)結(jié)果從表3可以看出,在自建庫上算法的識(shí)別率較 低.這是因?yàn)?自建庫中人臉圖像的表情、姿勢、角 度、飾物變化很大,而且訓(xùn)練樣本數(shù)比較少.但是,算 法1的識(shí)別率仍然比其他2種算法高,相對于算法 2、算法3識(shí)別率分別提高了7.07%和4.54%.4結(jié)束語人臉識(shí)別是模式識(shí)別學(xué)科中的研究熱點(diǎn).如何 有效地對人臉圖像進(jìn)行特征提取是人臉識(shí)別的關(guān) 鍵.本文提出了一種新的人臉

20、識(shí)別方法,其結(jié)合了小 波變換、PSO算法、張量PCA算法,對人臉圖像能 夠提取出可有效識(shí)別的關(guān)鍵特征.在(RL庫、 UMIST庫和自建庫上的實(shí)驗(yàn)表明,本文算法獲得 了比較高的識(shí)別率,特別是在UMIST庫上,識(shí)別率 比算法2提高了12.75%.參考文獻(xiàn):1CHEl。LAPPA R,WISON C L,SROHEY&Human and machine recognition of faces:a survey IJ-I.Proc IEEE,1995,83(5:705-740.22劉青山.盧漢青,馬頌德.綜述人臉識(shí)別中的子空間方 法J.自動(dòng)化學(xué)報(bào),2003,29(16:900911.LlU

21、Qingshan,LU Hanqing,MA Songde.A survey: subspaee analysis for face recognition I-J-I.Acta Auto-matica Sinica,2003。29(16:900-911.4YANG Jian.ZHANG D,ALEJAND F,et aL Two-dimensional PCA:a new approach tO appearance-based face representation and recognitionJ.IEEE Tram on Pattern Analysis and Machine Int

22、elligence,2004。 26(1:131137.7ZHANG Xinaheng。GAO Xinbo。WANG Ying.Mi-erocalcification clusters detection with tensor subspace learning and twin SVMsel/IEEE Proceedings of the 7th World Congress on Intelligent Control and Au tomation.Piscataway,NJ,USA:IEEE,2008:1758 1763.8MAI LAT S G A theory for multi

23、resolution signal de-composition the wavelet representationJ.IEEE Trana on Pattern Analysis and Machine Intelligence, 1989.11(7:674-693.9ZHANG Guoyun,PENG Shiyu,LI Hongmin.Combi nation of dualtree complex wavelet and SVM for face recognitioncIEEE Proceedings of the 7th Interna tional Conference on M

24、achine【七aruing and Cybemet ies.Piscataway,NJ。UsA:IEEE。2008:28152819. 10ZHOU Xiaofei,SHI Yong.Affine subspace nearest points classification algorithm for wavelet face reeogni tionCIEEE world Congress on Computer Science and Information Engineering.Piseataway,N3,USA: IEEE。2009:684-688.11EBERHART R C,K

25、ENNEY J.A new optimizerusing particle 8warm theoryCProceeding of the 6th InternationaI Symposium on Micro Machine andHuman Science.Piscataway,NJ,UsA:IEEE,1995: 39-43.(下轉(zhuǎn)第118頁http:w帆118西安交通大學(xué)學(xué)報(bào) 第44卷除眼電偽差效果比較好的方法進(jìn)一步去除眼電偽差 干擾,這也是今后的研究內(nèi)容之一.參考文獻(xiàn):2高軍峰.鄭崇勛,王沛.基于獨(dú)立成分分析和流形學(xué) 習(xí)的眼電偽差去除I-J.西安交通大學(xué)學(xué)報(bào),2010。44 (2:11

26、3-118.GAO Junfeng。ZHENG Chongxun。WANG P甌ICA and manifoldbased ocular artifacts removalJ 1.Jour nal of Xian Jiaotong University,2010,44(2:113 118.33uRRE盯ARAzu E。IRIARTE J。AI,EGRE M,et aL Independent component analysis removing artifacts in ictal recordingsJ.Epilepsia,2004,45(9:1071 1078.1-41AMARI S,C

27、1CHOCKl A。YANG H H.A new learning algorithm for blind signal separation亡M1. Cambridge,MA,USA:MlT Press,1996:757763. 5MAKEIG S.BELL A J,JUNG T P,et aL Independ ent component analysis of electroencephalgraphic data M.Cambridge。MA,USA:MIT Press,1996:145 151.6VERGUI.T A,CI。ERCQ W D.PAI,MINI A,et a1. Improving the interpretation of ictal scalp EEG:BSS (CA algorithm for mu￥cle artifact removalJ.Epilepsia200748(5:950958.ZHOU Zhongxing。MING Dong。ZHU Yuhuan,et aL EEG feature extraction for imaginary standing up based on extended lnformax independent component analysisJ.Chinese Journal of S