基于SOM的數(shù)據(jù)分類.pptVIP

第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,第29章 基于SOM的數(shù)據(jù)分類,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.1 SOM原理分析,在網(wǎng)絡(luò)結(jié)構(gòu)上，自組織競爭網(wǎng)絡(luò)一般是有輸入和競爭層構(gòu)成的單層網(wǎng)絡(luò)，網(wǎng)絡(luò)沒有掩藏層，輸入和競爭層之間的神經(jīng)元實(shí)現(xiàn)雙向鏈接，同時(shí)競爭層各神經(jīng)元之間還存在橫向連接。 自組織競爭網(wǎng)絡(luò)的基本思想是網(wǎng)絡(luò)競爭層各個(gè)神經(jīng)元競爭對(duì)輸入模式的響應(yīng)機(jī)會(huì)，最后僅一個(gè)神經(jīng)元成為競爭的勝者，并對(duì)那些與獲勝神經(jīng)元有關(guān)的各連接權(quán)值朝向更有利于競爭的方向調(diào)整。獲勝神經(jīng)元表示輸入模式的分類。 除了競爭方法外，還有通過抑制方法獲勝的，即網(wǎng)絡(luò)競爭層各層神經(jīng)元都能抑制所有其他神經(jīng)元對(duì)輸入模式的響應(yīng)機(jī)會(huì)，從而使自己成為勝利者。 此外，還有一種抑制的方法，即每個(gè)神經(jīng)元只抑制與自己臨近的神經(jīng)元，而對(duì)遠(yuǎn)離自己的神經(jīng)元?jiǎng)t不抑制。因此，自組織競爭網(wǎng)絡(luò)自組織自適應(yīng)的學(xué)習(xí)能力進(jìn)一步拓寬了神經(jīng)網(wǎng)絡(luò)在模式識(shí)別分類方面的應(yīng)用。,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.1 SOM原理分析,1981年芬蘭Helsink大學(xué)的T.Kohonen教授提出一種自組織特征映射網(wǎng)，簡稱SOM網(wǎng)，又稱Kohonen網(wǎng)。生物神經(jīng)系統(tǒng)中，存在一種“側(cè)抑制”現(xiàn)象，即一個(gè)神經(jīng)細(xì)胞興奮后，通過它的分支會(huì)對(duì)周圍其他神經(jīng)細(xì)胞產(chǎn)生抑制。由于側(cè)抑制的作用，各細(xì)胞之間相互競爭的最終結(jié)果是：興奮作用最強(qiáng)的神經(jīng)細(xì)胞所產(chǎn)生的抑制作用戰(zhàn)勝了周圍所有其他細(xì)胞的抑制作用而“贏”了，其周圍的其他神經(jīng)細(xì)胞則全“輸”了。,Kohonen認(rèn)為：一個(gè)神經(jīng)網(wǎng)絡(luò)接受外界輸入模式時(shí)，將會(huì)分為不同的對(duì)應(yīng)區(qū)域，各區(qū)域?qū)斎肽Ｊ骄哂胁煌捻憫?yīng)特征，而且這個(gè)過程是自動(dòng)完成的。 自組織競爭人工神經(jīng)網(wǎng)絡(luò)正是基于上述生物系統(tǒng)結(jié)構(gòu)和現(xiàn)象形成的。它是一種以無導(dǎo)師學(xué)習(xí)學(xué)習(xí)方式進(jìn)行網(wǎng)絡(luò)，具有自組織功能的神經(jīng)網(wǎng)絡(luò)。網(wǎng)絡(luò)通過自身訓(xùn)練，自動(dòng)對(duì)輸入模式進(jìn)行分類。,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.2 SOM拓?fù)浣Y(jié)構(gòu)分析,自組織特征映射神經(jīng)網(wǎng)絡(luò)（Self-organizing Feature Maps）簡稱SOFM或者SOM，也是一種無導(dǎo)師學(xué)習(xí)的網(wǎng)絡(luò)，主要用于對(duì)輸入向量進(jìn)行區(qū)域分類。和自組織競爭網(wǎng)絡(luò)不同的是，它不但識(shí)別輸入?yún)^(qū)域臨近的區(qū)域，還研究輸入向量的分布特性和拓?fù)涮匦越Y(jié)構(gòu)。 SOM網(wǎng)絡(luò)模擬大腦神經(jīng)系統(tǒng)自組織特征映射的功能，是一種競爭型網(wǎng)絡(luò)，并在學(xué)習(xí)中能無導(dǎo)師進(jìn)行自組織學(xué)習(xí)。 腦神經(jīng)學(xué)研究結(jié)果表明：神經(jīng)元之間的信息交互具有的共同特征是：最近鄰的兩個(gè)神經(jīng)元互相激勵(lì)，較遠(yuǎn)的神經(jīng)元互相抑制，更遠(yuǎn)的則又具有較弱的激勵(lì)作用。,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.2 SOM拓?fù)浣Y(jié)構(gòu)分析,SOM網(wǎng)絡(luò)模型層結(jié)構(gòu)圖如圖29-1所示。,圖29-1 SOM模型結(jié)構(gòu)圖,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.2 SOM拓?fù)浣Y(jié)構(gòu)分析,由于SOM算法是一種無導(dǎo)師的聚類法，它能將任意維輸入模式在輸出層映射成一維或者二維離散圖形，并保持其拓?fù)浣Y(jié)構(gòu)不變，即在無導(dǎo)師的情況下，通過對(duì)輸入模式的自組織學(xué)習(xí)，在競爭層將分類結(jié)果表示出來，此外，網(wǎng)絡(luò)通過對(duì)輸入模式的反復(fù)學(xué)習(xí)，可以使連接權(quán)值空間分布密度與輸入模式的概率分布趨于一致，即鏈接權(quán)向量分布能反映輸入模式的統(tǒng)計(jì)特征。,和自組織競爭網(wǎng)絡(luò)一樣，SOM網(wǎng)絡(luò)可以用來識(shí)別獲勝神經(jīng)元 ，不同的是，自組織競爭網(wǎng)絡(luò)只修正獲勝神經(jīng)元，而SOM網(wǎng)絡(luò)依據(jù)Kohonen學(xué)習(xí)規(guī)則，要同時(shí)修正獲勝神經(jīng)元附近區(qū)域Ni(d)內(nèi)所有神經(jīng)元。,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.2 SOM拓?fù)浣Y(jié)構(gòu)分析,對(duì)于輸入向量 p ，一旦獲勝神經(jīng)元以及臨近神經(jīng)元的權(quán)值被修正后接近p ，多次循環(huán)后，臨近神經(jīng)元會(huì)彼此接近。SOM神經(jīng)元競爭二維臨域示意圖如圖29-2所示。,圖29-2 二維臨域示意圖,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.2 SOM拓?fù)浣Y(jié)構(gòu)分析,如圖29-2所示臨域可以用集合表示：,（1）Gridtop()網(wǎng)格拓?fù)浣Y(jié)構(gòu),第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.2 SOM拓?fù)浣Y(jié)構(gòu)分析,（2）Hextop()六角形拓?fù)浣Y(jié)構(gòu),圖29-4 六角形拓?fù)浣Y(jié)構(gòu),第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.2 SOM拓?fù)浣Y(jié)構(gòu)分析,（2）Hextop()六角形拓?fù)浣Y(jié)構(gòu),圖29-4 六角形拓?fù)浣Y(jié)構(gòu),增加神經(jīng)元拓?fù)浣Y(jié)構(gòu)節(jié)點(diǎn)個(gè)數(shù),第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.2 SOM拓?fù)浣Y(jié)構(gòu)分析,（3）Randtop()隨機(jī)拓?fù)浣Y(jié)構(gòu),圖29-6 隨機(jī)拓?fù)浣Y(jié)構(gòu),第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.2 SOM拓?fù)浣Y(jié)構(gòu)分析,（3）Randtop()隨機(jī)拓?fù)浣Y(jié)構(gòu),增加神經(jīng)元隨機(jī)拓?fù)浣Y(jié)構(gòu)節(jié)點(diǎn)個(gè)數(shù),圖29-7 隨機(jī)拓?fù)浣Y(jié)構(gòu),第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.3 SOM的癌癥樣本分類預(yù)測,SOM是一類采用無教師學(xué)習(xí)方式的神經(jīng)網(wǎng)絡(luò)模型，它無須期望輸出，只是根據(jù)數(shù)據(jù)樣本進(jìn)行學(xué)習(xí)，并調(diào)整自身的權(quán)重以達(dá)到學(xué)習(xí)的目的。自組織神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則大都采用競爭型的學(xué)習(xí)規(guī)則。 競爭型神經(jīng)網(wǎng)絡(luò)的基本思想是網(wǎng)絡(luò)競爭層的各神經(jīng)元通過競爭來獲取對(duì)輸入模式的響應(yīng)機(jī)會(huì)，最后僅由一個(gè)神經(jīng)元成為勝利者，并將與獲勝神經(jīng)元有關(guān)的各連接權(quán)值朝向這更有利于的方向調(diào)整。 自組織映射神經(jīng)網(wǎng)絡(luò)用途：模式分類和模式識(shí)別。其具體網(wǎng)絡(luò)層結(jié)構(gòu)圖如圖29-8所示。,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.3 SOM的癌癥樣本分類預(yù)測,圖29-8 自組織映射神經(jīng)網(wǎng)絡(luò)層結(jié)構(gòu)圖,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.3 SOM的癌癥樣本分類預(yù)測,% 將原數(shù)據(jù)回帶，測試網(wǎng)絡(luò)效果： % a=sim(net,P); a=sim(net,Pn); % 使用變換函數(shù)vec2ind()，將單值向量組變換成下標(biāo)向量 % a：為n個(gè)元素值為1所在的行下標(biāo)值構(gòu)成的一個(gè)行向量。 % ac：為m行n列的向量矩陣x，x中的每個(gè)列向量i，除包含一個(gè)1外，其余元素均為0。 ac=vec2ind(a) % 分類標(biāo)記 % 網(wǎng)絡(luò)作分類的預(yù)測 % 下面將后20個(gè)數(shù)據(jù)帶入神經(jīng)網(wǎng)絡(luò)模型中，觀察網(wǎng)絡(luò)輸出： % sim( )來做網(wǎng)絡(luò)仿真 % Y=sim(net,T) Y=sim(net,Tn) % 得到預(yù)測的可能性結(jié)果 Yc=vec2ind(Y),第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.4 柴油機(jī)故障分類,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.4 柴油機(jī)故障分類,應(yīng)用SOM神經(jīng)診斷網(wǎng)絡(luò)柴油機(jī)故障的步驟如下： （1）選取標(biāo)準(zhǔn)故障樣本； （2）對(duì)每一種標(biāo)準(zhǔn)故障樣本進(jìn)行學(xué)習(xí)，學(xué)習(xí)結(jié)束后，對(duì)具有最大輸出的神經(jīng)元標(biāo)以該故障的記號(hào)； （3）將待檢樣本輸人到SOM神經(jīng)網(wǎng)絡(luò)中； （4）若輸出神經(jīng)元在輸出層的位置與某標(biāo)準(zhǔn)故障樣本的位置相同，說明待檢樣本發(fā)生了相應(yīng)的故障；若輸出神經(jīng)元在輸出層的位置介于很多標(biāo)準(zhǔn)故障之間，說明這兒種標(biāo)準(zhǔn)故障都有可能發(fā)生，且各故障的程度由該位置與相應(yīng)標(biāo)準(zhǔn)故障樣本位置的歐氏距離確定。,newsom()用于創(chuàng)建一個(gè)自組織特征映射其調(diào)用格式為： net = newsom(PR,d1,d2,d3,tfcn,dfcd,olr,osteps,tlr,tns),第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.4 柴油機(jī)故障分類,% 訓(xùn)練次數(shù)為1000次 net.trainparam.epochs=a(7); % 訓(xùn)練網(wǎng)絡(luò)和查看分類 net=train(net,P); y=sim(net,P); yc(7,:)=vec2ind(y); plotsom(net.IW1,1,net.layers1.distances) yc % 網(wǎng)絡(luò)作分類的預(yù)測 % 測試樣本輸入 t=0.9512 1.0000 0.9458 -0.4215 0.4218 0.9511 0.9645 0.8941; % sim( )來做網(wǎng)絡(luò)仿真 r=sim(net,t); % 變換函數(shù) 將單值向量轉(zhuǎn)變成下標(biāo)向量。 rr=vec2ind(r),第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.4 柴油機(jī)故障分類,圖29-9 SOM網(wǎng)絡(luò)拓?fù)鋵W(xué)結(jié)構(gòu),第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.4 柴油機(jī)故障分類,圖29-10 臨近神經(jīng)元之間的距離情況,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.4 柴油機(jī)故障分類,圖29-11 每個(gè)神經(jīng)元分類情況,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.