人工神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)課程報(bào)告byHHU

1、人工神經(jīng)網(wǎng)絡(luò)課程報(bào)告姓名：張進(jìn) 學(xué)號(hào)：151307040035 專業(yè)：計(jì)算機(jī)科學(xué)與技術(shù)指導(dǎo)老師：曾曉勤 2015年12月基于BP神經(jīng)網(wǎng)絡(luò)的英文字母識(shí)別技術(shù)報(bào)告摘要：本技術(shù)報(bào)告主要介紹了利用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行英文字母的識(shí)別主要過程，為了檢測(cè)網(wǎng)絡(luò)的容錯(cuò)性能和抗干擾能力，試驗(yàn)中我還準(zhǔn)備了隱藏16%和33%樣本數(shù)據(jù)，因?yàn)轭}目中沒有特別要求，故本次實(shí)驗(yàn)程序的編寫主要使用了作者較為熟悉的JAVA語言。關(guān)鍵詞：BP神經(jīng)網(wǎng)絡(luò)；噪聲干擾；模式識(shí)別；JAVA語言一、項(xiàng)目設(shè)計(jì)題目用多層感知機(jī)網(wǎng)絡(luò)實(shí)現(xiàn)對(duì)樣本圖像A-Z的識(shí)別，輸出相應(yīng)的數(shù)值0-25，通過分析實(shí)驗(yàn)結(jié)果討論感知機(jī)網(wǎng)絡(luò)的識(shí)別和容錯(cuò)性能。二、實(shí)驗(yàn)設(shè)計(jì)概要1、 實(shí)

2、驗(yàn)數(shù)據(jù)預(yù)處理模式識(shí)別應(yīng)用的領(lǐng)域非常廣泛，其中字母的識(shí)別是一個(gè)經(jīng)常研究的課題。由于在不同的課題中，由于具體的條件不同，解決的方法也不盡相同，因而字符識(shí)別的研究仍具有理論和實(shí)踐意義。這里討論的是用BP神經(jīng)網(wǎng)絡(luò)對(duì)26個(gè)英文字母的識(shí)別，BP網(wǎng)絡(luò)算法是學(xué)者Rumelhart、McClelland和他們的同事在20世紀(jì)80年代中期提出的多層前饋網(wǎng)絡(luò)MFNN(MutltilayerFeedforward Neural Networks)的反向傳播學(xué)習(xí)算法。BP網(wǎng)絡(luò)是對(duì)非線性可微分函數(shù)進(jìn)行權(quán)值訓(xùn)練的多層前向網(wǎng)絡(luò)。在對(duì)字母進(jìn)行識(shí)別之前，需要將字母進(jìn)行預(yù)處理，即將待識(shí)別的26個(gè)字母中的每一個(gè)字

3、母都通過的方格形式進(jìn)行數(shù)字化處理，其有數(shù)據(jù)的位置設(shè)為1，其他位置設(shè)為-1。如圖1給出了字母A、B和C的數(shù)字化過程。下面給出了字母A的數(shù)字化處理結(jié)果，是用一個(gè)1*30向量表示，其結(jié)果為：P030=-1,-1,1,1,1,1,-1,1,-1,1,-1,-1,1,-1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,-1,1,1,1,1；其他字母對(duì)應(yīng)的向量也做類似的處理。最終的標(biāo)準(zhǔn)輸入矩陣P2630,包含26個(gè)字母向量。-1-11-1-1-11-11-11-1-1-11111111-1-1-111-1-1-11-1111-11-1-1-111-1-1-1-11-1-1-1-11-1-1-

4、11-1111-11111-11-1-1-111111-11-1-1-111-1-1-111111-1 A B C圖1 字母數(shù)字化樣式2、 網(wǎng)絡(luò)的初始設(shè)計(jì)本次網(wǎng)絡(luò)主要選擇如圖2所示的網(wǎng)絡(luò)結(jié)構(gòu)，其中有一個(gè)輸入層，一個(gè)隱含層，一個(gè)輸出層，網(wǎng)絡(luò)結(jié)構(gòu)為30-30-1，其中，。圖2 網(wǎng)絡(luò)結(jié)構(gòu)本次如圖2所示的網(wǎng)絡(luò)中，p為待輸入的學(xué)習(xí)（識(shí)別）向量，因?yàn)槊總€(gè)字母都有30個(gè)元素的向量表示，所以p的維數(shù)為30*1，w1為第一層權(quán)值，維數(shù)30*30，w2為第二層權(quán)值，維數(shù)30*1，b1為第一層偏值，維數(shù)30*1，b2為第二層偏值，維數(shù)1*1，a1為第一層輸出，維數(shù)30*1，a2為網(wǎng)絡(luò)最后的輸出，至此基本的網(wǎng)絡(luò)結(jié)構(gòu)初

5、始設(shè)計(jì)完畢。3、 初始化各項(xiàng)參數(shù)本次初始化參數(shù)主要包括初始化隱含層第一層的權(quán)值w13030和偏置值b130，初始換隱含層第二層的權(quán)值w230和偏置值b2，本次實(shí)驗(yàn)選取的初始值為0-0.5之間的隨機(jī)實(shí)數(shù)。其中隨機(jī)實(shí)數(shù)可以通過調(diào)用JAVA語言的random()方法得到。對(duì)于學(xué)習(xí)速度可以先設(shè)置為：=0.01，當(dāng)然，也可以在后面的實(shí)驗(yàn)過程中不斷的調(diào)節(jié)的值使得學(xué)習(xí)的更快更好，具體代碼實(shí)現(xiàn)見附錄。4、 前向傳播設(shè)計(jì)在前面工作完成的基礎(chǔ)上，首先需要根據(jù)BP算法的公式和計(jì)算第一層網(wǎng)絡(luò)的輸出a1，然后根據(jù)公式計(jì)算出最后輸出層的a2，這就是BP神經(jīng)網(wǎng)絡(luò)的前向傳播過程。最后根據(jù)計(jì)算出誤差e，具體代碼實(shí)現(xiàn)見附錄。5、

6、 敏感性計(jì)算由于在計(jì)算敏感性之前需要用到傳輸函數(shù)的導(dǎo)數(shù)，故需要提前計(jì)算出來。具體導(dǎo)數(shù)推導(dǎo)如式（5.1）和式（5.2）所示： （5.1） （5.2)然后根據(jù)式（5.1）和式（5.2）可以得到s2的計(jì)算公式和第一層敏感性s1的計(jì)算公式，具體代碼實(shí)現(xiàn)見附錄。6、 權(quán)值和偏值的更新這里需要用到我之前設(shè)置的學(xué)習(xí)速度，實(shí)驗(yàn)中可以嘗試修改的值，觀察實(shí)驗(yàn)效果。具體的權(quán)值偏值計(jì)算可以根據(jù)公式（6.1）、公式（6.2）、公式（6.3）、公式（6.4）計(jì)算得到，具體代碼實(shí)現(xiàn)見附錄。 （6.1） （6.2） （6.3） （6.4）7、 測(cè)試網(wǎng)絡(luò)性能BP算法需要不停地迭代去更新權(quán)值和偏置直至某次迭代后誤差e滿足了實(shí)驗(yàn)的

7、要求或者達(dá)到了最大的迭代次數(shù)。學(xué)習(xí)后預(yù)期的效果應(yīng)當(dāng)是當(dāng)使用訓(xùn)練樣本給BP網(wǎng)絡(luò)識(shí)別時(shí)，它能夠識(shí)別出字母A-Z，輸出對(duì)應(yīng)的數(shù)字0-25；當(dāng)使用隱藏部分?jǐn)?shù)據(jù)的樣本給它識(shí)別時(shí)，如果它能夠識(shí)別多數(shù)A-Z破損數(shù)據(jù)，說明該BP網(wǎng)絡(luò)的抗干擾、容錯(cuò)能力較強(qiáng)，反之如果大部分無法識(shí)別，則說明本網(wǎng)絡(luò)容錯(cuò)能力較差。3、 實(shí)驗(yàn)結(jié)果展示1、實(shí)驗(yàn)一學(xué)習(xí)速度a=0.1，誤差e=0.01，迭代次數(shù)m=2000，學(xué)習(xí)結(jié)束效果如圖3所示。圖3 實(shí)驗(yàn)一結(jié)果部分展示2、實(shí)驗(yàn)二學(xué)習(xí)速度a=0.01，誤差e=0.01，迭代次數(shù)m=2000，實(shí)驗(yàn)結(jié)果如圖4所示。圖4 實(shí)驗(yàn)二結(jié)果部分展示3、實(shí)驗(yàn)三學(xué)習(xí)速度a=0.01，誤差e=0.0001，迭代

8、次數(shù)m=2000，實(shí)驗(yàn)結(jié)果如圖5所示。圖5 實(shí)驗(yàn)三結(jié)果部分展示4、實(shí)驗(yàn)四學(xué)習(xí)速度a=0.015，誤差e=0.0001，迭代次數(shù)m=3000，實(shí)驗(yàn)結(jié)果如圖6所示。圖6 實(shí)驗(yàn)四結(jié)果部分展示通過觀察四次實(shí)驗(yàn)的效果圖可以清楚的發(fā)現(xiàn)，學(xué)習(xí)速度，誤差標(biāo)準(zhǔn)和迭代次數(shù)對(duì)識(shí)別的效果都有影響。顯然本次實(shí)驗(yàn)最合適的學(xué)習(xí)速度a=0.015，可以發(fā)現(xiàn)當(dāng)學(xué)習(xí)速度不變時(shí)，誤差選取的越小，迭代次數(shù)越大，則識(shí)別的效果越好。5、實(shí)驗(yàn)五為了簡(jiǎn)單的驗(yàn)證一下BP網(wǎng)絡(luò)的容錯(cuò)能力，下面進(jìn)行實(shí)驗(yàn)五，在原始數(shù)據(jù)p基礎(chǔ)上隱藏最后一行（隱藏16%）進(jìn)行識(shí)別，具體參數(shù)為：a=0.015，e=0.0001，m=3000，實(shí)驗(yàn)結(jié)果如圖7所示。圖7 實(shí)驗(yàn)

9、五結(jié)果部分展示由圖7可以發(fā)現(xiàn)，絕大部分破碎的數(shù)據(jù)無法被正確識(shí)別，小部分字母可以被識(shí)別。因此可以說明本次實(shí)驗(yàn)構(gòu)造的BP網(wǎng)絡(luò)的容錯(cuò)性較差。4、 實(shí)驗(yàn)總結(jié)本次實(shí)驗(yàn)主要實(shí)現(xiàn)基于BP網(wǎng)絡(luò)的字母識(shí)別功能，通過實(shí)驗(yàn)我深入了解了BP算法的原理，能夠通過編程搭建一個(gè)簡(jiǎn)單的BP網(wǎng)絡(luò)。在實(shí)驗(yàn)中通過調(diào)整學(xué)習(xí)速度，迭代次數(shù)，誤差大小，實(shí)現(xiàn)了對(duì)BP網(wǎng)絡(luò)性能的優(yōu)化。通過本次實(shí)驗(yàn)，我也體會(huì)到了BP算法還有有它很大的局限性的，比如：訓(xùn)練次數(shù)多使得學(xué)習(xí)效率較低，算法的收斂速度較慢，易形成局部極小而得不到全局最優(yōu)等。在實(shí)驗(yàn)中，我發(fā)現(xiàn)當(dāng)學(xué)習(xí)速度設(shè)為0.1的時(shí)候，算法的震蕩較為驗(yàn)證，結(jié)果不好，并且需要的迭代次數(shù)大，但是當(dāng)學(xué)習(xí)速度設(shè)為0

10、.01時(shí)。算法明顯穩(wěn)定很多，結(jié)果處理的好，需要的迭代次數(shù)少，能較快的給出相應(yīng)的正確的結(jié)果。附錄public class BP_Algorithm public static void main(String args) /BP主方法Data data = new Data();show(data.p);/輸出元數(shù)據(jù)BP_init(data);/初始化參數(shù)BP_learn(data, 3000); /調(diào)用BP學(xué)習(xí)算法，5200為學(xué)習(xí)迭代次數(shù)，可以調(diào)節(jié)BP_test(data,data.p); /測(cè)試BP算法的正確性BP_test(data,data.p_test_16); /測(cè)試隱藏了16%數(shù)據(jù)

11、的正確性BP_test(data,data.p_test_33); /測(cè)試隱藏了33%數(shù)據(jù)的正確性static void show(float p) /根據(jù)矩陣用*打印出字幕圖像 的方法 int i,j,k; for(i=0;i<26;i+)for(j=0;j<6;j+) for(k=0;k<5;k+) if(pij+6*k=1) System.out.print("*"); else System.out.print(" "); System.out.println(); System.out.println(); static vo

12、id BP_init(Data data) /初始化參數(shù)方法，給權(quán)值和偏值賦初值(w1,w2,b1,b2)int i,j;for(i=0;i<30;i+) for(j=0;j<30;j+) /調(diào)用java的random方法生成00.5之間的實(shí)數(shù) data.w1ij=(float) (Math.random()/2.0); data.w2i=(float) (Math.random()/2.0); data.b1i=(float) (Math.random()/2.0);data.b2=0.48f;static void BP_learn(Data data,int count) /

13、BP算法的學(xué)習(xí)過程,其中m為迭代次數(shù) int i,j,m;for(m=0;m<count;m+)/BP算法的學(xué)習(xí)過程 for(i=0;i<30;i+) /對(duì)于某一個(gè)字母 一輪結(jié)束初始化a1,a2,s1,s2 data.a1i=0; data.s1i=0;data.a2=0;data.s2=0;if(m%26=0&&m!=0&&(data.e/26)>=0&&(data.e/26)<=0.0001) /滿足誤差要求，結(jié)束迭代 System.out.println("OK,誤差為: "+data.e); b

14、reak;else if(m%26=0&&m!=0) /一輪結(jié)束，重置均誤差data.e=0;for(i=0;i<30;i+) /前向傳播for(j=0;j<30;j+) data.a1i+=data.w1ij*data.pm%26j; for(i=0;i<30;i+) /使用s型函數(shù) 計(jì)算第一層結(jié)果值 data.a1i=data.a1i+data.b1i; data.a1i=(float)(1/(1+Math.pow(Math.E, -data.a1i);for(i=0;i<30;i+) /使用線性函數(shù)計(jì)算第二層結(jié)果值 data.a2=data.a2+

15、data.w2i*data.a1i;data.a2=data.a2+data.b2;data.e_true=(m%26)-data.a2;data.e=data.e+data.e_true; /累加一次迭代的真實(shí)誤差data.s2=(-2)*data.e_true; /計(jì)算s2敏感性 for(i=0;i<30;i+)/針對(duì)計(jì)算第一層敏感性初始化F（n） for(j=0;j<30;j+) if(i=j) data.tempij=(1-data.a1i)*data.a1i; for(i=0;i<30;i+) /計(jì)算s1 敏感性 data.s1i=data.tempii*data.

16、w2i;data.s1i=data.s1i*data.s2;for(i=0;i<30;i+) /第二層權(quán)值偏置值修正data.w2i=data.w2i-data.a*data.s2*data.a1i;data.b2=data.b2-data.a*data.s2;for(i=0;i<30;i+) /計(jì)算s2* a1 for(j=0;j<30;j+) data.tempij=data.s1i*data.pm%26j;for(i=0;i<30;i+) /第一層權(quán)值偏置值修正 for(j=0;j<30;j+) data.w1ij=data.w1ij-data.a*data

17、.tempij; for(i=0;i<30;i+)data.b1i=data.b1i-data.a*data.s1i;/BP測(cè)試方法，輸出結(jié)果static void BP_test(Data data,float p) int i,j,k; for(i=0;i<26;i+) for(j=0;j<6;j+) /展示測(cè)試數(shù)據(jù) for(k=0;k<5;k+) if(pij+6*k=1) System.out.print("*"); else System.out.print(" "); System.out.println(); for

18、(j=0;j<30;j+) /初始化網(wǎng)絡(luò)第一層第二層輸出 data.a1j=0; data.a2=0; for(j=0;j<30;j+) /前向傳播 for(k=0;k<30;k+) data.a1j+=data.w1jk*pik; for(j=0;j<30;j+) data.a1j=data.a1j+data.b1j; data.a1j=(float)(1/(1+Math.pow(Math.E, -data.a1j); for(j=0;j<30;j+) data.a2+=data.w2j*data.a1j; data.a2=data.a2+data.b2; Sy

19、stem.out.println("對(duì)應(yīng)數(shù)字:"+data.a2); public class Data /原始A-Z數(shù)據(jù)protected float p= -1,-1,1,1,1,1,-1,1,-1,1,-1,-1,1,-1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,-1,1,1,1,1/A,1,1,1,1,1,1,1,-1,1,-1,-1,1,1,-1,1,-1,-1,1,1,-1,1,-1,-1,1,-1,1,-1,1,1,-1 /B ,-1,1,1,1,1,-1,1,-1,-1,-1,-1,1,1,-1,-1,-1,-1,1,1,-1,-1,-1

20、,-1,1,-1,1,-1,-1,1,-1 /C,1,1,1,1,1,1,1,-1,-1,-1,-1,1,1,-1,-1,-1,-1,1,1,-1,-1,-1,-1,1,-1,1,1,1,1,-1 /D,1,1,1,1,1,1,1,-1,1,-1,-1,1,1,-1,1,-1,-1,1,1,-1,1,-1,-1,1,1,-1,1,-1,-1,1 /E,1,1,1,1,1,1,1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,1,-1,-1,-1,-1,-1 /F,-1,1,1,1,1,-1,1,-1,-1,-1,-1,1,1,-1,-1,1,-1,

21、1,1,-1,-1,1,1,-1,-1,1,-1,1,1,1 /G,1,1,1,1,1,1,-1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,1,1,1,1,1,1 /H,-1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,1,1,1,1,1,1,1,1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1 /I,-1,-1,-1,-1,1,-1,1,-1,-1,-1,-1,1,1,1,1,1,1,-1,1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1 /J,1,1,1,1,1,1,-1,-1,1,1

22、,-1,-1,-1,1,-1,-1,1,-1,1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1 /K,1,1,1,1,1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,1 /L,1,1,1,1,1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,1,-1,-1,-1,-1,1,1,1,1,1,-1 /M,1,1,1,1,1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,-1,-1,1,1,1,1,1,-1

23、/N,-1,1,1,1,1,-1,1,-1,-1,-1,-1,1,1,-1,-1,-1,-1,1,1,-1,-1,-1,-1,1,-1,1,1,1,1,-1 /O,1,1,1,1,1,1,1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,-1,1,-1,-1,-1,-1 /P,-1,1,1,1,1,-1,1,-1,-1,-1,-1,1,1,-1,-1,1,-1,1,1,-1,-1,-1,1,1,-1,1,1,1,1,1 /Q,1,1,1,1,1,1,1,-1,1,1,-1,-1,1,-1,1,-1,1,-1,-1,1,-1,-1,-1,1,-1,-

24、1,-1,-1,-1,-1 /R,-1,1,1,-1,-1,1,1,-1,-1,1,-1,1,1,-1,-1,1,-1,1,1,-1,-1,1,-1,1,-1,-1,-1,-1,1,-1 /S,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,1,1,1,1,1,1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1 /T,1,1,1,1,1,-1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,1,1,1,1,1,1,-1 /U,1,1,1,1,-1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,

25、-1,-1,1,-1,-1,-1,-1,1,-1,1,1,1,1,-1,-1 /V,1,1,1,1,1,-1,-1,-1,-1,1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,-1,-1,1,1,1,1,1,-1 /W,1,-1,-1,-1,1,-1,-1,1,-1,1,-1,-1,-1,-1,1,-1,-1,-1,-1,1,-1,1,-1,-1,1,-1,-1,-1,1,-1 /X,1,-1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,1,1,1,-1,1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1 /Y,1,-1,-1,-

26、1,1,1,1,-1,-1,1,-1,1,1,-1,1,-1,-1,1,1,1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1; /Z/隱去33%的A-Z數(shù)據(jù) protected float p_test_33=-1,-1,1,1,-1,-1,-1,1,-1,1,-1,-1,1,-1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,-1,1,1,-1,-1 /A,1,1,1,1,-1,-1,1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,-1,1,-1,1,-1,-1 /B,-1,1,1,1,-1,-1,1,-1,-1,-1

27、,-1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1 /C,1,1,1,1,-1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,1,1,-1,-1 /D,1,1,1,1,-1,-1,1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1 /E,1,1,1,1,-1,-1,1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,1,-1,-1,-1,-1

28、,-1 /F,-1,1,1,1,-1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,1,-1,-1,1,-1,-1,1,-1,-1,-1,1,-1,1,-1,-1 /G,1,1,1,1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,1,1,1,1,-1,-1 /H,-1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,1,1,1,1,-1,-1,1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1 /I,-1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,1,1,1,

29、1,-1,-1,1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1 /J,1,1,1,1,-1,-1,-1,-1,1,1,-1,-1,-1,1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1 /K,1,1,1,1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1 /L,1,1,1,1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,1,-1,-1,-1,-1,1,1,1,1,-1,-1 /

30、M,1,1,1,1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,-1,-1,1,1,1,1,-1,-1 /N,-1,1,1,1,-1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,1,1,-1,-1 /O,1,1,1,1,-1,-1,1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,-1,1,-1,-1,-1,-1 /P,-1,1,1,1,-1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,1,-1,-1,1,

31、-1,-1,-1,-1,-1,-1,1,1,1,-1,-1 /Q,1,1,1,1,-1,-1,1,-1,1,1,-1,-1,1,-1,1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1 /R,-1,1,1,-1,-1,-1,1,-1,-1,1,-1,-1,1,-1,-1,1,-1,-1,1,-1,-1,1,-1,-1,-1,-1,-1,-1,-1,-1 /S,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,1,1,1,1,-1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1 /T,1,1,1,1,-1,-1,

32、-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,1,1,1,1,-1,-1 /U,1,1,1,1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,1,1,1,1,-1,-1 /V,1,1,1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,-1,-1,1,1,1,1,-1,-1 /W,1,-1,-1,-1,-1,-1,-1,1,-1,1,-1,-1,-1,-1,1,-1,-1,-1,-1,1,-1,1,-1

33、,-1,1,-1,-1,-1,-1,-1 /X,1,-1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,1,-1,-1,-1,1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1 /Y,1,-1,-1,-1,-1,-1,1,-1,-1,1,-1,-1,1,-1,1,-1,-1,-1,1,1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1; /Z/隱去16的A-Z的數(shù)據(jù) protected float p_test_16= -1,-1,1,1,1,-1,-1,1,-1,1,-1,-1,1,-1,-1,1,-1,-1,-1,1,-1,1,-1,-1,

34、-1,-1,1,1,1,-1/A,1,1,1,1,1,-1,1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,-1,1,-1,1,1,-1 /B,-1,1,1,1,1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,-1,-1,1,-1 /C,1,1,1,1,1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,1,1,1,-1 /D,1,1,1,1,1,-1,1,-1,1,-1,-1,-1,1,-1,1,-1,

35、-1,-1,1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1 /E,1,1,1,1,1,-1,1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,1,-1,-1,-1,-1,-1 /F,-1,1,1,1,1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,1,-1,-1,1,-1,-1,1,1,-1,-1,1,-1,1,1,-1 /G,1,1,1,1,1,-1,-1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,1,1,1,1,1,-1 /H,-1,-1,-1,-1,-1,-1,

36、1,-1,-1,-1,-1,-1,1,1,1,1,1,-1,1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1 /I,-1,-1,-1,-1,1,-1,1,-1,-1,-1,-1,-1,1,1,1,1,1,-1,1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1 /J,1,1,1,1,1,-1,-1,-1,1,1,-1,-1,-1,1,-1,-1,1,-1,1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1 /K,1,1,1,1,1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,

37、-1,-1,-1,-1,-1,-1,-1 /L,1,1,1,1,1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,1,-1,-1,-1,-1,1,1,1,1,1,-1 /M,1,1,1,1,1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,-1,-1,1,1,1,1,1,-1 /N,-1,1,1,1,1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,1,1,1,-1 /O,1,1,1,1,1,-1,1,-1,1,-1,-1,-1,1,-1,

38、1,-1,-1,-1,1,-1,1,-1,-1,-1,-1,1,-1,-1,-1,-1 /P,-1,1,1,1,1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,1,-1,-1,1,-1,-1,-1,1,-1,-1,1,1,1,1,-1 /Q,1,1,1,1,1,-1,1,-1,1,1,-1,-1,1,-1,1,-1,1,-1,-1,1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1 /R,-1,1,1,-1,-1,-1,1,-1,-1,1,-1,-1,1,-1,-1,1,-1,-1,1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,-1 /S,1,-1,-1,

39、-1,-1,-1,1,-1,-1,-1,-1,-1,1,1,1,1,1,-1,1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1 /T,1,1,1,1,1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,1,1,1,1,1,-1 /U,1,1,1,1,-1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,1,-1,1,1,1,1,-1,-1 /V,1,1,1,1,1,-1,-1,-1,-1,1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,

40、-1,-1,1,1,1,1,1,-1 /W,1,-1,-1,-1,1,-1,-1,1,-1,1,-1,-1,-1,-1,1,-1,-1,-1,-1,1,-1,1,-1,-1,1,-1,-1,-1,1,-1 /X,1,-1,-1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1,-1,1,1,1,-1,-1,1,-1,-1,-1,-1,1,-1,-1,-1,-1,-1 /Y,1,-1,-1,-1,1,-1,1,-1,-1,1,-1,-1,1,-1,1,-1,-1,-1,1,1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1; /Zfloat w1 = new float303

41、0; /網(wǎng)絡(luò)第一層權(quán)值矩陣w1float w2=new float30; /網(wǎng)絡(luò)第二層權(quán)值矩陣w2float a1=new float30; /網(wǎng)絡(luò)第一層輸出a1float a2=0; /網(wǎng)絡(luò)最終輸出a2float b1=new float30; /網(wǎng)絡(luò)第一層偏值b1float b2=0; /網(wǎng)絡(luò)第二層偏值b2float s1=new float30; /網(wǎng)絡(luò)第一層敏感性s1float s2=0; /網(wǎng)絡(luò)第二層敏感性s2float e_true=1; /一次迭代真實(shí)誤差e_truefloat a=0.015f; /學(xué)習(xí)速度afloat e=0; /一輪迭代的平均誤差efloat temp=ne

42、w float3030; /第一層輸出導(dǎo)數(shù)的對(duì)角矩陣tempint num = 0; /用于接收一個(gè)10以內(nèi)隨機(jī)正整數(shù) 自聯(lián)想與異聯(lián)想技術(shù)報(bào)告摘要：本次技術(shù)報(bào)告主要介紹了兩個(gè)實(shí)驗(yàn)，第一個(gè)實(shí)驗(yàn)是驗(yàn)證02的線性自聯(lián)想的可行性，第二個(gè)實(shí)驗(yàn)是實(shí)現(xiàn)AJ到09的異聯(lián)想。本次實(shí)現(xiàn)主要使用JAVA語言編程實(shí)現(xiàn)，最后通過實(shí)驗(yàn)結(jié)果分析基于有監(jiān)督的Hebb學(xué)習(xí)的線性聯(lián)想器的聯(lián)想和容錯(cuò)性能，因?yàn)轭}目中沒有特別要求，故本次實(shí)驗(yàn)程序的編寫主要使用了作者較為熟悉的JAVA語言。關(guān)鍵詞：Hebb學(xué)習(xí)；自聯(lián)想；異聯(lián)想；JAVA語言一、項(xiàng)目設(shè)計(jì)題目1、編程實(shí)現(xiàn)書中第7章7.2.4節(jié)中的例題的聯(lián)想器，驗(yàn)證書中給出的結(jié)果（即實(shí)現(xiàn)02

43、的線性自聯(lián)想器）2、把輸入圖像的樣本從02擴(kuò)大到09，實(shí)現(xiàn)從圖像09到圖像AJ的異聯(lián)想器，利用實(shí)驗(yàn)結(jié)果分析線性聯(lián)想器的聯(lián)想和容錯(cuò)性能。二、實(shí)驗(yàn)設(shè)計(jì)概要8、 驗(yàn)證02的自聯(lián)想自聯(lián)想神經(jīng)網(wǎng)絡(luò)(Auto-Associative Neural Network , 縮寫為AANN)是1992年Kramer提出的，是BP神經(jīng)網(wǎng)絡(luò)的一種特殊情形。其特點(diǎn)是有對(duì)稱拓?fù)浣Y(jié)構(gòu)，即輸出量等于輸入量。1.1數(shù)據(jù)預(yù)處理和網(wǎng)絡(luò)初始設(shè)計(jì)數(shù)據(jù)預(yù)處理主要是將02數(shù)字向量話，轉(zhuǎn)化為程序可以處理的數(shù)據(jù)。如圖1所示，本實(shí)驗(yàn)將每個(gè)數(shù)字用一個(gè)6*5的表格表示。為了方便程序的處理，再將數(shù)字向量化，比如

44、數(shù)字0對(duì)應(yīng)的向量形式為：P030=-1，1，1，1，1，-1，1，-1，-1，-1，-1，1，1，-1，-1，-1，-1，1，1，-1，-1，-1，-1，-1，1，-1，1，1，1，1，-1。-1111-11-1-111-1-1-111-1-1-111-1-1-11-1111-1111-1-1-1-1-11-1-1-1-11-1-111-1-1-11-1-1-1-11111-111-1-1-1-11-1-1-1-11-1-1-1-11-1-1-1-11-1-1-1-11-1-1 A B C圖1 02圖像表格表示自聯(lián)想的網(wǎng)絡(luò)設(shè)計(jì)圖如2所示。p為待輸入的學(xué)習(xí)（識(shí)別）向量，因?yàn)槊總€(gè)字母都有30圖2 自聯(lián)想網(wǎng)絡(luò)設(shè)計(jì)圖個(gè)元素的向量表示，所以p的維數(shù)