遺傳算法在BP神經(jīng)網(wǎng)絡(luò)優(yōu)化中的應(yīng)用

遺傳算法在BP神經(jīng)網(wǎng)絡(luò)優(yōu)化中的應(yīng)用2O世紀(jì)80年代后期，多機(jī)器人協(xié)作成為一種新的機(jī)器人應(yīng)用形式日益引起國內(nèi)外學(xué)術(shù)界的興趣與關(guān)注。一方面，由于任務(wù)的復(fù)雜性，在單機(jī)器人難以完成任務(wù)時(shí)，人們希望通過多機(jī)器人之間的協(xié)調(diào)與合作來完成。另一方面，人們也希望通過多機(jī)器人間的協(xié)調(diào)與合作，來提高機(jī)器人系統(tǒng)在作業(yè)過程中的效率。1943年，Maeullocu和Pitts融合了生物物理學(xué)和數(shù)學(xué)提出了第一個(gè)神經(jīng)元模型。從這以后，人工神經(jīng)網(wǎng)絡(luò)經(jīng)歷了發(fā)展、停滯、再發(fā)展的過程，時(shí)至今日正走向成熟，在廣泛領(lǐng)域里得到了應(yīng)用，其中將人工神經(jīng)網(wǎng)絡(luò)技術(shù)應(yīng)用到多機(jī)器人協(xié)作成為新的研究領(lǐng)域。本文研究通過人工神經(jīng)網(wǎng)絡(luò)控制多機(jī)器人完成協(xié)作搬運(yùn)的任務(wù)-3J，并應(yīng)用遺傳算法來對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化。仿真結(jié)果表明，經(jīng)過遺傳算法優(yōu)化后的搬運(yùn)工作效率顯著提高，誤差降低。1人工神經(jīng)網(wǎng)絡(luò)ANN)的基本原理和結(jié)構(gòu)人工神經(jīng)網(wǎng)絡(luò)(ArtiifcialNeuralNetwork，ANN))是抽象、簡(jiǎn)化與模擬大腦神經(jīng)結(jié)構(gòu)的計(jì)算模型，又稱并行分布處理模型J。ANN由大量功能簡(jiǎn)單且具有自適應(yīng)能力的信息處理單元——人工神經(jīng)元按照大規(guī)模并行的方式通過一定的拓?fù)浣Y(jié)構(gòu)連接而成。ANN拓?fù)浣Y(jié)構(gòu)很多，其中采用反向傳播(Back-Propa-gation，BP)算法的前饋型神經(jīng)網(wǎng)絡(luò)(如下圖1所示)，即BP人工神經(jīng)網(wǎng)絡(luò)，是人工神經(jīng)網(wǎng)絡(luò)中最常用、最成熟的神經(jīng)網(wǎng)絡(luò)之一。BP網(wǎng)絡(luò)模型處理信息的基本原理是：輸入信號(hào)x；通過中間節(jié)點(diǎn)(隱層點(diǎn))作用于出節(jié)點(diǎn)，經(jīng)過非線形變換，產(chǎn)生輸出信Yk，網(wǎng)絡(luò)訓(xùn)練的每個(gè)樣本包括輸入向量x和期望輸出量T，網(wǎng)絡(luò)輸出值Y與期望輸出值T之間的偏差，通過調(diào)整輸入節(jié)點(diǎn)與隱層節(jié)點(diǎn)的聯(lián)接強(qiáng)度取值w；；和隱層節(jié)點(diǎn)與輸出節(jié)點(diǎn)之間的聯(lián)接強(qiáng)度Y以及閾值，使誤差沿梯度方向下降，經(jīng)過反復(fù)學(xué)習(xí)訓(xùn)練，確定與最小誤差相對(duì)應(yīng)的網(wǎng)絡(luò)參數(shù)(權(quán)值和閾值)，訓(xùn)練即告停止。此時(shí)經(jīng)過訓(xùn)練的神經(jīng)網(wǎng)絡(luò)即能對(duì)類似樣本的輸入信息，自行處理輸出誤差最小的經(jīng)過非線形轉(zhuǎn)換的信息。2遺傳算法的基本原理和步驟遺傳算法(GeneitcAlgoirthm，GA)類似于自然進(jìn)化，通過作用于染色體上的基因?qū)ふ液玫娜旧w來求解問題J。與自然界相似，遺傳算法對(duì)求解問題的本身一無所知，它所需要的僅是對(duì)算法所產(chǎn)生的每個(gè)染色體進(jìn)行評(píng)價(jià)，并基于適應(yīng)值來選擇染色體，使適應(yīng)性好的染色體有更多的繁殖機(jī)會(huì)。在遺傳算法中，通過隨機(jī)方式產(chǎn)生若干個(gè)所求解問題的數(shù)字編碼，即染色體，形成初始群體；通過適應(yīng)度函數(shù)給每個(gè)個(gè)體一個(gè)數(shù)值評(píng)價(jià)，淘汰低適應(yīng)度的個(gè)體，選擇高適應(yīng)度的個(gè)體參加遺傳操作，經(jīng)過遺傳操作后的個(gè)體集合形成下一代新的種群。對(duì)這個(gè)新種群進(jìn)行下一輪進(jìn)化。這就是遺傳算法的基思想。遺傳算法的步驟為：(1)初始化群體；(2)計(jì)算群體上每個(gè)個(gè)體的適應(yīng)度值；(3)按由個(gè)體適應(yīng)度值所決定的某個(gè)規(guī)則選擇將進(jìn)入下一代的個(gè)體；(4)按概率P。進(jìn)行交叉操作；(5)按概率P進(jìn)行突變操作；(6)沒有滿足某種停止條件，則轉(zhuǎn)第(2)步，否則進(jìn)入第(7)步；(7)輸出種群中適應(yīng)度值最優(yōu)的染色體作為問題的滿意解或最優(yōu)解。程序的停止條件最簡(jiǎn)單的有如下兩種情況：(1)完成了預(yù)先給的進(jìn)化代數(shù)則停止；(2)種群中的最優(yōu)個(gè)體在連續(xù)若干代沒有改進(jìn)或平均適應(yīng)度在連續(xù)若干代基本沒有改進(jìn)時(shí)停止。為了改善BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法易陷入局部極小的缺陷，本文采用遺傳算法來優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的性能。首先采用遺傳算法來優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值，然后將這些優(yōu)化值賦給網(wǎng)絡(luò)得到優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)，最后用仿真數(shù)據(jù)評(píng)估該優(yōu)化網(wǎng)絡(luò)的性能。數(shù)值仿真結(jié)果表明：經(jīng)遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)能有效地避免原始BP神經(jīng)網(wǎng)絡(luò)容易出現(xiàn)的局部極小，且具有收斂速度快和精度高等優(yōu)點(diǎn)。前饋神經(jīng)網(wǎng)絡(luò)（BP模型）是目前神經(jīng)網(wǎng)絡(luò)領(lǐng)域研究最多應(yīng)用最廣的網(wǎng)絡(luò)模型。其非線性逼近能力是它博得青睞的主要原因，而BP算法作為前饋網(wǎng)絡(luò)的主要學(xué)習(xí)算法，則無可爭(zhēng)議的對(duì)其推廣應(yīng)用起了舉足輕重的促進(jìn)作用。BP算法因其簡(jiǎn)單、易行、計(jì)算量小、并行性強(qiáng)等優(yōu)點(diǎn)，是目前神經(jīng)網(wǎng)絡(luò)訓(xùn)練采用最多也是最為成熟的訓(xùn)練算法之一。然而，由BP算法是一種梯度下降搜索方法，因而不可避免地存在固有的不足，如易陷入誤差函數(shù)的局部極值點(diǎn)，而且對(duì)于較大搜索空間、多峰值和不可微函數(shù)也不能有效搜索到全局極小點(diǎn)，而遺傳算法則是克服這一不足的有效解決方法，主要是因?yàn)檫z傳算法是一種全局優(yōu)化搜索算法，因而能夠避開我們選取了神經(jīng)網(wǎng)絡(luò)應(yīng)用比較廣泛的函數(shù)逼近來驗(yàn)證算法的可行性及有效性，選取下面的函數(shù)作為仿真對(duì)象：用單一的梯度下降法或者遺傳算法只能以較低的精度來逼近，如果要提高逼近的精度，梯度下降法很容易陷入局部極小值，遺傳算法能夠迅速收斂到精度誤差最優(yōu)點(diǎn)的鄰域內(nèi)，實(shí)現(xiàn)最終收斂比較困難。本文分別采用梯度下降法BP神經(jīng)網(wǎng)絡(luò)和本文提出的混合算法神經(jīng)網(wǎng)絡(luò)來逼近此函數(shù)，遺傳算法優(yōu)化得到的BP神經(jīng)網(wǎng)絡(luò)最優(yōu)初始權(quán)值和閾值如表1所示，遺傳算法優(yōu)化得到的BP神經(jīng)網(wǎng)絡(luò)最優(yōu)個(gè)體適應(yīng)度值如圖1所示，把初始權(quán)值和閾值賦給神經(jīng)網(wǎng)絡(luò)，用訓(xùn)練數(shù)據(jù)訓(xùn)練100次后預(yù)測(cè)函數(shù)輸出，未優(yōu)化的網(wǎng)絡(luò)預(yù)測(cè)誤差和優(yōu)化后的網(wǎng)絡(luò)預(yù)測(cè)誤差對(duì)比曲線如圖2所示。從圖2可以看出，遺傳算法優(yōu)化的BP網(wǎng)絡(luò)預(yù)測(cè)更加精確，并且遺傳算法優(yōu)化BP網(wǎng)絡(luò)的均方差為5.3806×10-5,而未優(yōu)化的BP網(wǎng)絡(luò)的均方誤差為1.8876×10-4，預(yù)測(cè)均方誤差也得到了很大的改善。4．結(jié)論為了改善BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法易陷入局部極小的缺陷，結(jié)合遺傳算法和梯度下降法，本文提出了一種新的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練算法。該算法能夠充分發(fā)揮兩種算法的優(yōu)點(diǎn)，有效地避免了局部極小，同時(shí)能以較快的速度收斂到神經(jīng)網(wǎng)絡(luò)權(quán)值學(xué)習(xí)的目標(biāo)精度。仿真研究表明，該算法能夠有效解決神經(jīng)網(wǎng)