建模與仿真神經(jīng)網(wǎng)絡(luò)課件

什么是神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)方法在生物信息學(xué)中的應(yīng)用神經(jīng)網(wǎng)絡(luò)在matlab中的實(shí)現(xiàn)2/352023/7/24神經(jīng)網(wǎng)絡(luò)知識人工神經(jīng)網(wǎng)絡(luò)對人腦或自然神經(jīng)網(wǎng)絡(luò)若干基本特性的抽象和模擬

非局域性非線性性非定常性非凸性神經(jīng)網(wǎng)絡(luò)的基本性質(zhì)3/352023/7/24神經(jīng)元神經(jīng)網(wǎng)絡(luò)知識4/352023/7/24傳遞（激活）函數(shù)類型閾值函數(shù)線性函數(shù)對數(shù)函數(shù)正切函數(shù)神經(jīng)網(wǎng)絡(luò)知識5/352023/7/24神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)知識6/352023/7/24神經(jīng)網(wǎng)絡(luò)分類前向網(wǎng)絡(luò)反饋網(wǎng)絡(luò)互聯(lián)網(wǎng)絡(luò)層內(nèi)互聯(lián)前向網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)知識7/352023/7/24神經(jīng)網(wǎng)絡(luò)知識神經(jīng)網(wǎng)絡(luò)模型感知器網(wǎng)絡(luò)線性神經(jīng)網(wǎng)絡(luò)BP網(wǎng)絡(luò)徑向基函數(shù)網(wǎng)絡(luò)反饋網(wǎng)絡(luò)自組織網(wǎng)絡(luò)神經(jīng)元傳遞函數(shù)、網(wǎng)絡(luò)學(xué)習(xí)函數(shù)、激活函數(shù)不同net=newp()net=newlind()net=newff()net=newrbe()8/352023/7/24網(wǎng)絡(luò)訓(xùn)練函數(shù)神經(jīng)網(wǎng)絡(luò)知識trainbfgBFGS擬牛頓法trainbr貝葉斯方法traincgbPowell-Beale共軛梯度法traincgfFletcher-Powell共軛梯度法traincgpPolak-Ribiere共軛梯度法traingd梯度下降法traingda自適應(yīng)速率梯度下降法traingdm動量梯度下降法trainlmLevenberg-Marquardt算法traingdx動量和自適應(yīng)速率梯度下降法9/352023/7/24學(xué)習(xí)算法適用問題類型收斂性能占用存儲空間其他特點(diǎn)trainlm函數(shù)擬合收斂快誤差小大性能隨網(wǎng)絡(luò)規(guī)模增大而變差trainrp模式分類收斂最快較小性能隨網(wǎng)絡(luò)訓(xùn)練誤差減小而變差trainscg函數(shù)擬合模式分類收斂較快性能穩(wěn)定中等尤其適用于網(wǎng)絡(luò)規(guī)模較大的情況trainbfg函數(shù)擬合收斂較快較大計算量隨網(wǎng)絡(luò)規(guī)模增大呈幾何增大traingdx模式分類收斂較慢較小適用于“提前停止”方法，可提高網(wǎng)絡(luò)推廣能力神經(jīng)網(wǎng)絡(luò)知識網(wǎng)絡(luò)訓(xùn)練函數(shù)10/352023/7/24網(wǎng)絡(luò)權(quán)值、誤差學(xué)習(xí)函數(shù)神經(jīng)網(wǎng)絡(luò)知識mae絕對平均誤差mse均方誤差msereg規(guī)則化均方誤差sse平方誤差和網(wǎng)絡(luò)性能函數(shù)learpn標(biāo)準(zhǔn)化感知器學(xué)習(xí)規(guī)則learnwhLMS算法（近似梯度下降法）learngd梯度下降法learngdm動量梯度下降法11/352023/7/24以任意精度逼近任何函數(shù)魯棒性、容錯性強(qiáng)進(jìn)行快速、大量運(yùn)算學(xué)習(xí)和自適應(yīng)不確定的系統(tǒng)神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn)同時處理定性、定量知識12/352023/7/24神經(jīng)網(wǎng)絡(luò)知識神經(jīng)網(wǎng)絡(luò)主要應(yīng)用領(lǐng)域模式識別信號處理知識工程專家系統(tǒng)優(yōu)化組合機(jī)器人控制13/352023/7/24奶牛產(chǎn)奶量預(yù)測研究意義研究進(jìn)展神經(jīng)網(wǎng)絡(luò)方法神經(jīng)網(wǎng)絡(luò)應(yīng)用實(shí)例農(nóng)場主關(guān)心什么先輩（競爭對手）做了什么14/352023/7/24初產(chǎn)奶牛產(chǎn)奶量預(yù)測研究問題研究數(shù)據(jù)神經(jīng)網(wǎng)絡(luò)方法神經(jīng)網(wǎng)絡(luò)應(yīng)用實(shí)例初產(chǎn)奶牛產(chǎn)奶量《》親代奶牛產(chǎn)奶量親代奶牛30d、60d、90d、…、305d產(chǎn)奶量初產(chǎn)奶牛305d產(chǎn)奶量初產(chǎn)奶牛產(chǎn)奶量《》初產(chǎn)奶牛營養(yǎng)量初產(chǎn)奶牛30d、60d、90d、…、305d營養(yǎng)量15/352023/7/24神經(jīng)網(wǎng)絡(luò)預(yù)測訓(xùn)練集、測試集交互檢驗(yàn)Jackknife檢驗(yàn)采用標(biāo)準(zhǔn)集隨機(jī)選取GB126，CB25876個訓(xùn)練，12或1個預(yù)測方法檢驗(yàn)16/352023/7/24模型建立依據(jù)原則（1）網(wǎng)絡(luò)規(guī)模持平于樣本集大?。?）輸入層、隱層的結(jié)點(diǎn)數(shù)比例為2:1

（3）運(yùn)算簡單、易于理解神經(jīng)網(wǎng)絡(luò)方法17/352023/7/24神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)模型結(jié)構(gòu)步驟一三層BP網(wǎng)絡(luò)結(jié)構(gòu)輸出節(jié)點(diǎn)數(shù)為1模型結(jié)構(gòu)步驟二訓(xùn)練樣本數(shù)76輸入節(jié)點(diǎn)數(shù)為7隱層采用S型傳遞函數(shù)采用標(biāo)準(zhǔn)訓(xùn)練、權(quán)值、性能函數(shù)18/352023/7/24網(wǎng)絡(luò)模型結(jié)構(gòu)網(wǎng)絡(luò)結(jié)構(gòu)模型網(wǎng)絡(luò)模型層數(shù)節(jié)點(diǎn)數(shù)傳遞函數(shù)輸入層7正切函數(shù)線性函數(shù)隱含層10輸出層1訓(xùn)練函數(shù)：traingdx網(wǎng)絡(luò)權(quán)值、誤差學(xué)習(xí)函數(shù)：learngdm網(wǎng)絡(luò)性能函數(shù)：mse是否是最好的選擇方式19/352023/7/24神經(jīng)網(wǎng)絡(luò)預(yù)測工作步驟初始化網(wǎng)絡(luò)權(quán)值矩陣和神經(jīng)元閾值矩陣提供學(xué)習(xí)樣本計算網(wǎng)絡(luò)實(shí)際輸出和隱層神經(jīng)元輸出計算誤差對各層的影響修正權(quán)值和閾值計算網(wǎng)絡(luò)輸出誤差判斷誤差是否滿足要求結(jié)束訓(xùn)練20/352023/7/24神經(jīng)網(wǎng)絡(luò)程序?qū)崿F(xiàn)MATLAB神經(jīng)網(wǎng)絡(luò)工具箱主要程序設(shè)計Net=newff(PR,[S1,S2],{TF1,TF2},BTF,BLF,PF);PR=minmax(Original_data);%確定輸入層輸入數(shù)據(jù)的大小范圍S1、S2;%分別為網(wǎng)絡(luò)隱層、輸出層神經(jīng)元個數(shù)TF1、TF2;%分別為隱層、輸出層傳遞函數(shù)BTF、BLF、PF;%分別為網(wǎng)絡(luò)訓(xùn)練函數(shù)、學(xué)習(xí)函數(shù)和性能函數(shù)21/352023/7/24MATLAB神經(jīng)網(wǎng)絡(luò)工具箱net.performFcn=‘mse’;%設(shè)置性能函數(shù)為均方誤差net.trainParam.goal=0.01;%設(shè)置性能目標(biāo)值net.trainParam.epochs=25000;%設(shè)置最大訓(xùn)練步數(shù)net.trainParam.lr=0.02;%設(shè)置學(xué)習(xí)率設(shè)置各性能目標(biāo)值如下神經(jīng)網(wǎng)絡(luò)程序?qū)崿F(xiàn)22/352023/7/24神經(jīng)網(wǎng)絡(luò)程序?qū)崿F(xiàn)MATLAB神經(jīng)網(wǎng)絡(luò)工具箱主要程序設(shè)計Original_data=textread(‘original.txt’);net=train(net,Train_data,Train_target_data)；%網(wǎng)絡(luò)訓(xùn)練Out_data(i)=sim(net,Test_data)；%網(wǎng)絡(luò)仿真Target_data=textread(‘target.txt’);[R,P]=corrcoef(Target_data,Out_data)；%精度驗(yàn)證23/352023/7/2424/352023/7/2425/352023/7/2426/352023/7/2427/352023/7/2428/352023/7/2429/352023/7/24130/352023/7/247101131/352023/7/2432/352023/7/2433/352023/7/24預(yù)測結(jié)果最后預(yù)測結(jié)果真實(shí)產(chǎn)奶量預(yù)測奶量34/352023/7/24對初始權(quán)重敏感，易收斂于局部極小收斂緩慢甚至不收斂隱層節(jié)點(diǎn)數(shù)不好確定過擬合/過訓(xùn)練問題BP神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)35/352023/7/24動量法和自適應(yīng)學(xué)習(xí)率調(diào)整共軛梯度法遺傳算法優(yōu)化解決方案其他網(wǎng)絡(luò)：多層感知器網(wǎng)絡(luò)、徑向多層感知器網(wǎng)絡(luò)、徑向基函數(shù)網(wǎng)絡(luò)后面內(nèi)容直接刪除就行資料可以編輯修改使用資料可以編輯修改使用資料僅供參考，實(shí)際情況實(shí)際分析主要經(jīng)營：課件設(shè)計，文檔制作，網(wǎng)絡(luò)軟件設(shè)計、圖文設(shè)計制作、發(fā)布廣告等秉著以優(yōu)質(zhì)的服務(wù)對待每一位客戶，做到讓客戶滿意！致力于數(shù)據(jù)挖掘，合同簡歷、論文寫作、PPT設(shè)