MATLAB 神經(jīng)網(wǎng)絡(luò)工具箱

1、MATLAB神經(jīng)網(wǎng)絡(luò)工具箱神經(jīng)元模型Neuron Model： 多輸入，單輸出，帶偏置輸入:R維列向量1,TRppp權(quán)值:R維行向量111,Rwwwb閥值:標(biāo)量求和單元11Riiinp wb傳遞函數(shù)f輸出()afbwp常用傳遞函數(shù)aWp-b1-1u閾值函數(shù)1(0)( )hardlim( )0(0)naf nnnMATLAB函數(shù): hardlim1(0)( )hardlim ( )1(0)naf ns nnMATLAB函數(shù): hardlims線性函數(shù)uPurelin Transfer Function ：( )af nnanMATLAB函數(shù): purelinSigmoid函數(shù)uSigmoid F

2、unction ：u特性：值域a(0,1)非線性，單調(diào)性無限次可微|n|較小時(shí)可近似線性函數(shù)|n|較大時(shí)可近似閾值函數(shù)1( )1naf neMATLAB函數(shù): logsig(對數(shù)), tansig(正切)對數(shù)Sigmoid函數(shù)正切Sigmoid函數(shù)1tanh( )1nneane單層神經(jīng)網(wǎng)絡(luò)模型R維輸入, S個(gè)神經(jīng)元的單層神經(jīng)網(wǎng)絡(luò)模型111212121211RRSSSRwwwwwwwwwW12Sbbbb()faWp+b多層神經(jīng)網(wǎng)絡(luò)模型 前饋神經(jīng)網(wǎng)絡(luò)u前饋神經(jīng)網(wǎng)絡(luò)(feed forward NN)：各神經(jīng)元接受前級輸入，并輸出到下一級，無反饋，可用一有向無環(huán)圖表示。u前饋網(wǎng)絡(luò)通常分為不同的層(la

3、yer)，第i層的輸入只與第i-1層的輸出聯(lián)結(jié)。u可見層：輸入層(input layer)和輸出層(output layer)u隱藏層(hidden layer) ：中間層感知器u感知器(perceptron):單層網(wǎng)絡(luò), 傳遞函數(shù)為閥值函數(shù)u主要功能是模式分類感知器的生成函數(shù)newp用來生成一個(gè)感知器神經(jīng)網(wǎng)絡(luò)net = newp( pr, s, tf, lf ) net: 函數(shù)返回參數(shù),表示生成的感知器網(wǎng)絡(luò) pr: 一個(gè)R2矩陣, 由R維輸入向量的每維最小值和最 大值組成 s: 神經(jīng)元的個(gè)數(shù) tf: 感知器的傳遞函數(shù), 默認(rèn)為hardlim, 可選hardlims lf: 感知器的學(xué)習(xí)函數(shù),

4、默認(rèn)為learnp, 可選learnpnnet = newp(-2,+2;-2,+2,2) %生成一個(gè)二維輸入,兩個(gè)神經(jīng)元的感知器感知器的權(quán)值和閥值初始化p newp默認(rèn)權(quán)值和閥值為零(零初始化函數(shù)initzero).net = newp(-2,+2;-2,+2,2); W=net.IW1,1 %顯示網(wǎng)絡(luò)的權(quán)值b=net.b1 %顯示網(wǎng)絡(luò)的閥值W =0 00 0b =0 0 p 改變默認(rèn)初始化函數(shù)為隨機(jī)函數(shù)randsnet.inputweights1,1.InitFcn = rands;net.biases1.InitFcn = rands;net =init(net); %重新初始化p 直接

5、初始化定義權(quán)值和閥值net.IW1,1=1 2; net.b1=1感知器學(xué)習(xí)u感知器學(xué)習(xí)算法權(quán)值增量: ()TTWta pep閥值增量: btae 權(quán)值更新: newoldWWW閥值更新: newoldbbbu算法改進(jìn)()TTta pepWpp輸入樣本歸一化權(quán)值和閥值訓(xùn)練與學(xué)習(xí)函數(shù)trainnet=train(net, P, T) 設(shè)計(jì)好的感知器并不能馬上投入使用. 通過樣本訓(xùn)練, 確定感知器的權(quán)值和閥值.輸入向量目標(biāo)向量被訓(xùn)練網(wǎng)絡(luò)net.tranParam.epochs=10 ; %預(yù)定的最大訓(xùn)練次數(shù)為10, 感知器經(jīng)過最多訓(xùn)練10次后停止,adaptnet=adapt(net, P, T)

6、自適應(yīng)訓(xùn)練函數(shù)權(quán)值和閥值學(xué)習(xí)函數(shù)learnpdW=learnp(W,P,Z,N,A,T,E,D,gW,gA,LP,LS)dW:權(quán)值或閥值的變化矩陣W:權(quán)值矩陣或閥值向量P:輸入向量T:目標(biāo)向量E:誤差向量其他可以忽略,設(shè)為 learnpn歸一化學(xué)習(xí)函數(shù)網(wǎng)絡(luò)仿真函數(shù)sima = sim(net, P)輸入向量網(wǎng)絡(luò)輸出分類結(jié)果顯示繪圖函數(shù)plotpvplotpv(P,T)plotpcplotpc(W,b)畫輸入向量的圖像畫分類線 根據(jù)給定的樣本輸入向量P和目標(biāo)向量T, 以及需分類的向量組Q, 創(chuàng)建一個(gè)感知器, 對其進(jìn)行分類. 例: 創(chuàng)建一個(gè)感知器P=-0.5 -0.6 0.7;0.8 0 0.1;

7、 %已知樣本輸入向量T=1 1 0; %已知樣本目標(biāo)向量net=newp(-1 1;-1 1,1); %創(chuàng)建感知器handle=plotpc(net.iw1,net.b1); %返回劃線的句柄net.trainParam.epochs=10; % 設(shè)置訓(xùn)練最大次數(shù)net=train(net,P,T); %訓(xùn)練網(wǎng)絡(luò)Q=0.6 0.9 -0.1;-0.1 -0.5 0.5; %已知待分類向量Y=sim(net,Q); %二元分類仿真結(jié)果 figure; %新建圖形窗口plotpv(Q,Y); %畫輸入向量handle=plotpc(net.iw1,net.b1,handle) %畫分類線實(shí)驗(yàn)一 利

8、用感知器進(jìn)行分類(1) 一個(gè)經(jīng)過訓(xùn)練的感知器對5個(gè)輸入向量進(jìn)行分類(2類)。 Step 1 兩個(gè)長度為5的向量構(gòu)成輸入樣本矩陣P，行向量T為目標(biāo)向量。利用PLOTPV畫出這個(gè)向量的圖像。例如：P = -0.5 -0.5 +0.3 -0.1 -4; -0.5 +0.5 -0.5 +1.0 5;T = 1 1 0 0 1;plotpv(P,T); % plotpv函數(shù)利用感知器的輸入向量和目標(biāo)向量來畫輸入向量的圖像Step 2建立神經(jīng)網(wǎng)絡(luò) 畫輸入向量的圖像 MATLAB提供函數(shù)newp來創(chuàng)建一個(gè)指定的感知器。第一個(gè)參數(shù)指定了期望的兩個(gè)輸入向量的取值范圍，第二個(gè)參數(shù)指定了只有一個(gè)神經(jīng)元。net =

9、newp(-40 1;-1 50,1);注意：這個(gè)神經(jīng)元的傳遞函數(shù)是hardlim函數(shù)，也就是階躍函數(shù)。取0，1兩個(gè)值。Hardlims函數(shù)，取-1，1兩個(gè)值。實(shí)驗(yàn)一 利用感知器進(jìn)行分類(2) 添加神經(jīng)元的初始化值到分類圖添加神經(jīng)元的初始化值到分類圖 Step3 初始化的權(quán)值被設(shè)為0，因此任何輸入都會給出同樣的輸出，并且分類線不會出現(xiàn)在這個(gè)圖中，不用害怕，我們會繼續(xù)訓(xùn)練這個(gè)神經(jīng)網(wǎng)。hold on linehandle = plotpc(net.IW1,net.b1); /plotpc函數(shù)用來畫分類線訓(xùn)練神經(jīng)網(wǎng)絡(luò)訓(xùn)練神經(jīng)網(wǎng)絡(luò) Step4 Matlab提供了adapt函數(shù)來訓(xùn)練感知器，adapt函

10、數(shù)返回一個(gè)新的能更好的執(zhí)行分類、網(wǎng)絡(luò)的輸出、和誤差的神經(jīng)網(wǎng)絡(luò)，這個(gè)劃線函數(shù)允許網(wǎng)絡(luò)從3個(gè)角度去調(diào)整，畫分類線一直到誤差為0為止。E = 1; /E為誤差net.adaptParam.passes = 3; /決定在訓(xùn)練過程中重復(fù)次數(shù)while (sse(E) /sse函數(shù)是用來判定誤差E的函數(shù)net,Y,E = adapt(net,P,T); /利用輸入樣本調(diào)節(jié)神經(jīng)網(wǎng)netlinehandle = plotpc(net.IW1,net.b1,linehandle);/ /畫出調(diào)整以后的分類線drawnow; /延遲一段時(shí)間end實(shí)驗(yàn)一 利用感知器進(jìn)行分類(3) Step 5 模擬模擬sim sim函數(shù)能被用來劃分任何別的輸入向量，例如劃分一個(gè)輸入向量0.7; 1.2.這個(gè)新點(diǎn)的圖像為紅色，他將用來顯示這個(gè)感知器如何把這個(gè)新點(diǎn)從最初的訓(xùn)練集取分開來。p = 0.7; 1.2;a = sim(net,p); /利用模擬函數(shù)sim計(jì)算出新輸入p的神經(jīng)網(wǎng)絡(luò)的輸出plotpv(p,a);circle = findobj(gca,type, line);set(circle,Color,red);打開hold,以便于以前的圖像不被刪除。增加訓(xùn)練裝置和分類線在圖中