基于MATLAB的BP神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)

1、課程名稱：matlab/simulink建模與仿真課程編號：課程類型：非學(xué)位課考核方式:考查學(xué)科專業(yè)：計(jì)算機(jī)技術(shù) 年 級： 2012級姓 名： 號：xxxx大學(xué)20122013學(xué)年第二學(xué)期研究生課程論文報(bào)告課程論文評語：成績評閱教師簽名評閱日期年 月曰基于matlab的bp神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)xxx摘 要：bp神經(jīng)網(wǎng)絡(luò)己廣泛應(yīng)用于非線性建摸、函數(shù)逼近、系統(tǒng)辨識等方面，但對實(shí)際問題，其模 型結(jié)構(gòu)需由實(shí)驗(yàn)確定，無規(guī)律可尋。簡要介紹利用matlab語言進(jìn)行bp網(wǎng)絡(luò)建立、訓(xùn)練、仿真的 方法及注意事項(xiàng)。關(guān)鍵詞：bp；神經(jīng)網(wǎng)絡(luò)；matlab1引言人工神經(jīng)網(wǎng)絡(luò)(artificial neural networks,

2、 ann)是近年來發(fā)展起來的模擬人腦生物過程的人工智 能技術(shù)。它由大量的、同時(shí)也是很簡單的神經(jīng)元廣泛互連形成復(fù)雜的非線性系統(tǒng)，已經(jīng)在信息處理 模式識別、智能控制及系統(tǒng)建模等領(lǐng)域得到越來越廣泛的應(yīng)用。尤其是基于誤差反向傳播(enor back propagation)算法的多層前饋網(wǎng)絡(luò)(multiple layer feed forward network)(簡稱bp網(wǎng)絡(luò))，可以以任意精 度逼近任意的連續(xù)函數(shù)，所以廣泛應(yīng)用于非線性建模、函數(shù)逼近、模式分類等方面。雖然bp神經(jīng) 網(wǎng)絡(luò)是目前應(yīng)用最廣泛、研究較多的一種網(wǎng)絡(luò)。但是關(guān)于它的開發(fā)設(shè)計(jì)目前為止還沒有一套完整的 理論。本文在參考其他文獻(xiàn)11j43

3、j的基礎(chǔ)上，給出bp神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)的一些共性的原則。2 bp神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)步驟bp網(wǎng)絡(luò)的設(shè)計(jì)主要包括輸入層，隱層，輸出層及各層之間的傳輸函數(shù)兒個(gè)方面。2.1網(wǎng)絡(luò)層數(shù)大多數(shù)通用的神經(jīng)網(wǎng)絡(luò)都預(yù)先預(yù)定了網(wǎng)絡(luò)的層數(shù)，而bp網(wǎng)絡(luò)可以包含不同的隱層。但理論上己經(jīng)證明，在不限制隱含節(jié)點(diǎn)數(shù)的情況下，兩層(只有一個(gè)隱層)的bp網(wǎng)絡(luò)可以實(shí)現(xiàn)任意非線性映射。在模式樣本相對較少的情況下，較少的隱層節(jié)點(diǎn)，可以實(shí)現(xiàn)模式樣本空間的超平而劃分，此時(shí)，選擇兩層bp網(wǎng)絡(luò)就可以了；當(dāng)模式樣本數(shù)很多時(shí)，減小網(wǎng)絡(luò)規(guī)模，增加一個(gè)隱層是有必要的，但是bp網(wǎng)絡(luò)隱含層數(shù)一般不超過兩層。22輸入層的節(jié)點(diǎn)數(shù)輸入層起起緩沖存儲(chǔ)器的作用，它接收外部的輸入

4、數(shù)據(jù)，因此其節(jié)點(diǎn)數(shù)取決于輸入矢量的維數(shù)。 當(dāng)把大小的圖像的像素作為輸入數(shù)據(jù)時(shí)，輸入節(jié)點(diǎn)數(shù)將為256個(gè)。一般來說，網(wǎng)絡(luò)的輸入個(gè)數(shù)應(yīng)等 于應(yīng)用問題的輸入數(shù)，matlab的bp網(wǎng)絡(luò)的建立是通過慚數(shù)newff實(shí)現(xiàn)的。2.3網(wǎng)絡(luò)數(shù)據(jù)的預(yù)處理為使網(wǎng)絡(luò)訓(xùn)練更加有效，對神經(jīng)網(wǎng)絡(luò)的輸入、輸出數(shù)據(jù)進(jìn)行一定的預(yù)處理可以加快網(wǎng)絡(luò)的訓(xùn)練 速度。matlab提供的預(yù)處理方法有歸一化處理、標(biāo)準(zhǔn)化處理和主成分分析。常采用的是歸一化處理, 即將輸入、輸出數(shù)據(jù)映射到1, 1范圍內(nèi)，訓(xùn)練結(jié)束后再反映射到原數(shù)據(jù)范圍。2.4輸出層的節(jié)點(diǎn)數(shù)輸出層節(jié)點(diǎn)數(shù)取決于兩個(gè)方面，輸出數(shù)據(jù)類型和表示該類型所需要的數(shù)據(jù)大小。當(dāng)bp網(wǎng)絡(luò)用 于模式分類時(shí)，

5、以二進(jìn)制形式來表示不同模式輸出結(jié)杲，輸出層的節(jié)點(diǎn)數(shù)可根據(jù)待分類模式數(shù)確定。2.5隱層的節(jié)點(diǎn)數(shù)一個(gè)具有無限隱層節(jié)點(diǎn)的兩層bp網(wǎng)絡(luò)可以實(shí)現(xiàn)任意從輸入到輸出的非線性映射。但對于有限 個(gè)輸入模式到輸出模式的映射，并不礙要無限個(gè)隱層節(jié)點(diǎn)，這就涉及到如何選擇隱層節(jié)點(diǎn)數(shù)的問題, 而這一問題的復(fù)雜性，使得至今為止，尚未找到一個(gè)很好的解析式，隱層節(jié)點(diǎn)數(shù)與求解問題的耍求、 輸入輸出單元數(shù)多少都有直接的關(guān)系。另外，隱層節(jié)點(diǎn)數(shù)太多會(huì)導(dǎo)致學(xué)習(xí)時(shí)間過長；而隱層節(jié)點(diǎn)數(shù) 太少，容錯(cuò)性差，識別未經(jīng)學(xué)習(xí)的能力樣本低，所以必須綜合多方面的因素進(jìn)行設(shè)計(jì)。(1)根據(jù)前人經(jīng)驗(yàn)，可以參考以下公式進(jìn)行設(shè)計(jì)：n = vnt + +a(1)式中

6、:n為隱層節(jié)點(diǎn)數(shù)；山為輸入節(jié)點(diǎn)數(shù)；恥為輸出節(jié)點(diǎn)數(shù)；a為110之間的常數(shù)。改變n,用 同一樣本集訓(xùn)練，從中確定網(wǎng)絡(luò)誤差最小時(shí)對應(yīng)的隱層節(jié)點(diǎn)數(shù)。2.6傳輸函數(shù)bp網(wǎng)絡(luò)中傳輸函數(shù)常采用s(sigmoid)型函數(shù)：血=診；(2)在某些特定情況下，還可能采用純線性(pureline)函數(shù)。如杲bp函數(shù)最后一層是sigmoid函數(shù)， 那么整個(gè)網(wǎng)絡(luò)的輸出就限制在一個(gè)較小的范圍內(nèi)(01之間的連續(xù)量)；如果bp網(wǎng)絡(luò)最后一層是 pureline函數(shù)，那么整個(gè)網(wǎng)絡(luò)的輸入可以取任意值。2.7訓(xùn)練方法及其參數(shù)選擇針對不同的應(yīng)用，bp網(wǎng)絡(luò)提供了多種訓(xùn)練，學(xué)習(xí)方法，通常對于包含數(shù)百個(gè)權(quán)值的函數(shù)逼近網(wǎng) 絡(luò)，訓(xùn)練函數(shù)minim

7、收斂速度最快。將rprop算法的訓(xùn)練函數(shù)trainrp應(yīng)用于模式識別時(shí)，其速度 是最快的。用變梯度算法的訓(xùn)練函數(shù)traincgf在網(wǎng)絡(luò)規(guī)模比較大的場合，其性能都很好。2.8初始權(quán)值的設(shè)計(jì)網(wǎng)絡(luò)權(quán)值的初始化決泄了網(wǎng)絡(luò)的訓(xùn)練從誤差曲面的哪一點(diǎn)開始，因此初始化方法對網(wǎng)絡(luò)的訓(xùn)練 吋間至關(guān)重要。通常使用如下兩種方法：(1) 取足夠小的初始權(quán)值；(2) 使初始值為+1和的權(quán)值數(shù)相等。3 matlab仿真程序設(shè)計(jì)實(shí)例下面是一個(gè)函數(shù)逼近的實(shí)例。clear allp=-0.6 -0.5 -0.4 -0.3 -0.2 -0.1 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8;t= 1.216 2

8、.321 1.235 2.345 1.453 2.345 1.234 3.222 1.343 1.234 2.443 2.334 2.413 2.347 3.125;net= newff ( - 1, 1, 15, 1, 'tansig', 'purelin'), 'trainlm' /leamgdm*)net.trainparam.show= 100; %設(shè)置訓(xùn)練顯示間隔次數(shù)n e t. trai n param. epoc hs=20000; %設(shè)置最大訓(xùn)練循環(huán)次數(shù)net.trainparam.goal=0.0001;% 設(shè)置性能目標(biāo)值net

9、.trainparam.lr=0.05; %設(shè)置學(xué)習(xí)系數(shù)net= train( net, p, t);save bp_net netfigure(l);plot(p, t； *');%繪制原輸入輸出曲線load bp_net netp二-0.6 -0.5 -0.4 -0.3 -0.2 -0.1 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8;r= sim( net, p);plot( p, r,)hold off仿真結(jié)果如下：圖1函數(shù)迭代次數(shù)3.5圖2原輸入輸出曲線可以看出，運(yùn)算速度非?？?，只迭代了 209次，就達(dá)到了誤差為0.0001,可以看到達(dá)到了非常 好的仿真效果，基本符合函數(shù)逼近的需要。4結(jié)語利用bp神經(jīng)網(wǎng)絡(luò)可以解決很多有關(guān)非線性系統(tǒng)的問題，如函數(shù)逼近、系統(tǒng)辨識等。但要注意 傳輸函數(shù)的選擇和樣本預(yù)處理。matlab神經(jīng)網(wǎng)絡(luò)工具箱功能強(qiáng)大，它提供了許多有關(guān)神經(jīng)網(wǎng)絡(luò)設(shè) 計(jì)訓(xùn)練和仿真的函數(shù)，用戶只要根據(jù)自己的需要調(diào)用相關(guān)函數(shù)，就能方便進(jìn)行神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)與仿真, 從而免除了編寫復(fù)雜而龐大的算法程序的困擾。本文較為系統(tǒng)的