BP神經(jīng)網(wǎng)絡(luò)原理

BP神經(jīng)網(wǎng)絡(luò)原理

BP網(wǎng)絡(luò)模型處理信息的基本原理是：輸入信號Xi通過中間節(jié)點（隱層點）作用于輸出節(jié)點，經(jīng)過非線形變換，產(chǎn)生輸出信號Yk，網(wǎng)絡(luò)訓(xùn)練的每個樣本包括X輸入向量和期望輸出量t，網(wǎng)絡(luò)輸出值Y與期望輸出值t之間的偏差，通過調(diào)整輸入節(jié)點與隱層節(jié)點的聯(lián)接強度取值和隱層節(jié)點與輸出節(jié)點之間的聯(lián)接強度Tjk以及閾值，使誤差沿梯度方向下降，經(jīng)過反復(fù)學(xué)習(xí)訓(xùn)練，確定與最小誤差相對應(yīng)的網(wǎng)絡(luò)參數(shù)（權(quán)值和閾值），訓(xùn)練即告停止。此時經(jīng)過訓(xùn)練的神經(jīng)網(wǎng)絡(luò)即能對類似樣本的輸入信息，自行處理輸出誤差最小的經(jīng)過非線形轉(zhuǎn)換的信息。BP神經(jīng)網(wǎng)絡(luò)模型

BP網(wǎng)絡(luò)模型包括其輸入輸出模型、作用函數(shù)模型、誤差計算模型和自學(xué)習(xí)模型。（1）節(jié)點輸出模型隱節(jié)點輸出模型：Oj=f(∑Wij×Xi-qj)

(1)輸出節(jié)點輸出模型：Yk=f(∑Tjk×Oj-qk)(2)f-非線形作用函數(shù)；q-神經(jīng)單元閾值。

2作用函數(shù)模型作用函數(shù)是反映下層輸入對上層節(jié)點刺激脈沖強度的函數(shù)又稱刺激函數(shù)，一般取為(0,1)內(nèi)連續(xù)取值Sigmoid函數(shù)：

f(x)=1/(1+e-x)

（3）誤差計算模型誤差計算模型是反映神經(jīng)網(wǎng)絡(luò)期望輸出與計算輸出之間誤差大小的函數(shù)：

Ep=1/2×∑(tpi-Opi)2

tpi-i節(jié)點的期望輸出值；Opi-i節(jié)點計算輸出值。（4）自學(xué)習(xí)模型神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程，即連接下層節(jié)點和上層節(jié)點之間的權(quán)重拒陣Wij的設(shè)定和誤差修正過程。BP網(wǎng)絡(luò)有師學(xué)習(xí)方式-需要設(shè)定期望值和無師學(xué)習(xí)方式-只需輸入模式之分。自學(xué)習(xí)模型為

△Wij(n+1)=h×Фi×Oj+a×△Wij(n)h-學(xué)習(xí)因子；Фi-輸出節(jié)點i的計算誤差；Oj-輸出節(jié)點j的計算輸出；a-動量因子。BP網(wǎng)絡(luò)模型的缺陷分析及優(yōu)化策略

（1）學(xué)習(xí)因子h的優(yōu)化采用變步長法根據(jù)輸出誤差大小自動調(diào)整學(xué)習(xí)因子，來減少迭代次數(shù)和加快收斂速度。h=h+a×(Ep(n)-Ep(n-1))/Ep(n)a為調(diào)整步長，0~1之間取值（2）隱層節(jié)點數(shù)的優(yōu)化隱節(jié)點數(shù)的多少對網(wǎng)絡(luò)性能的影響較大，當(dāng)隱節(jié)點數(shù)太多時，會導(dǎo)致網(wǎng)絡(luò)學(xué)習(xí)時間過長，甚至不能收斂；而當(dāng)隱節(jié)點數(shù)過小時，網(wǎng)絡(luò)的容錯能力差。利用逐步回歸分析法并進(jìn)行參數(shù)的顯著性檢驗來動態(tài)刪除一些線形相關(guān)的隱節(jié)點，節(jié)點刪除標(biāo)準(zhǔn)：當(dāng)由該節(jié)點出發(fā)指向下一層節(jié)點的所有權(quán)值和閾值均落于死區(qū)（通常取±0.1、±0.05等區(qū)間）之中，則該節(jié)點可刪除。最佳隱節(jié)點數(shù)L可參考下面公式計算：L=(m+n)1/2+c(7)m-輸入節(jié)點數(shù)；n-輸出節(jié)點數(shù)；c-介于1～10的常數(shù)。（3）輸入和輸出神經(jīng)元的確定利用多元回歸分析法對神經(jīng)網(wǎng)絡(luò)的輸入?yún)?shù)進(jìn)行處理，刪除相關(guān)性強的輸入?yún)?shù)，來減少輸入節(jié)點數(shù)。（4）算法優(yōu)化由于BP算法采用的是剃度下降法，因而易陷于局部最小并且訓(xùn)練時間較長。用基于生物免疫機制地既能全局搜索又能避免未成熟收斂的免疫遺傳算法IGA取代傳統(tǒng)BP算法來克服此缺點。優(yōu)化BP神經(jīng)網(wǎng)絡(luò)在系統(tǒng)安全評價中的應(yīng)用

系統(tǒng)安全評價包括系統(tǒng)固有危險性評價、系統(tǒng)安全管理現(xiàn)狀評價和系統(tǒng)現(xiàn)實危險性評價三方面內(nèi)