神經(jīng)網(wǎng)絡理論與應用-基礎BP課件

神經(jīng)網(wǎng)絡理論與應用神經(jīng)網(wǎng)絡理論與應用-基礎BP第一部分生物神經(jīng)元神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)元電位活動神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)元結(jié)構神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP突觸的類型神經(jīng)網(wǎng)絡理論與應用-基礎BP各種神經(jīng)細胞神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)元之間的聯(lián)系神經(jīng)網(wǎng)絡理論與應用-基礎BP第二部分人工神經(jīng)元與神經(jīng)網(wǎng)絡神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP常用的激活函數(shù)神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP人工神經(jīng)網(wǎng)絡模型(a)簡單的前向神經(jīng)網(wǎng)絡(b)具有反饋的前向神經(jīng)網(wǎng)絡(c)具有層內(nèi)互聯(lián)的神經(jīng)網(wǎng)絡神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP人工神經(jīng)網(wǎng)絡發(fā)展歷史神經(jīng)網(wǎng)絡理論與應用-基礎BP幾種常見的神經(jīng)網(wǎng)絡神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡的學習過程模仿人類的學習過,神經(jīng)網(wǎng)絡的學習可以分為:(1)有導師學習(有監(jiān)督式學習):(2)無導師學習(無監(jiān)督式學習)(3)強化學習神經(jīng)網(wǎng)絡理論與應用-基礎BP有導師學習神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP無導師學習

對于無監(jiān)督學習,由于沒有現(xiàn)成的信息作為響應用的校正,學習是靠對信息的觀察來實現(xiàn)的。這種學習常用于輸入模式的分類上。神經(jīng)網(wǎng)絡理論與應用-基礎BP學習規(guī)則神經(jīng)網(wǎng)絡理論與應用-基礎BP權值修正的一般表達式神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BPHebb規(guī)則舉例神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP感知器規(guī)則舉例神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BPDelta學習規(guī)則神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP第三部分

神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP模式前向傳輸神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP誤差反向傳播神經(jīng)網(wǎng)絡理論與應用-基礎BP輸出層權值,閾值的計算神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP隱層權值,閾值的計算神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BPBP算法的缺點神經(jīng)網(wǎng)絡理論與應用-基礎BPBP網(wǎng)絡的兩種學習方式1.串行方式(Sequentialmode):也稱為在線方式或隨機方式.

每個樣本(ExampleorPattern)經(jīng)過前向計算后,都要根據(jù)其誤差修改權值.

2.批方式(Batchmode):當樣本集中的所有樣本都經(jīng)過前向計算后,再根據(jù)誤差進行權值修正.每修正一次稱為(Epoch)神經(jīng)網(wǎng)絡理論與應用-基礎BPBP網(wǎng)絡的應用舉例-圖形識別問題神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BP神經(jīng)網(wǎng)絡理論與應用-基礎BPBP算法總結(jié)1.隱層到輸出層的權值和閾值校正其中:Yj為隱層第j個神經(jīng)元的輸出2.輸入層到隱層的權值和閾值校正其中:xi為輸入層第i個神經(jīng)元的輸出神經(jīng)網(wǎng)絡理論與應用-基礎BPBP網(wǎng)絡的改進方案一、神經(jīng)網(wǎng)絡理論與應用-基礎BP

從BP算法可以知道,隱層與輸出層權值與閾值的修正均需要用到隱層的神經(jīng)元輸出yj,如果隱層的輸出yj接近0或1都會使權值的修正不起作用,因此,為了加快收斂過程,可以限制S函數(shù)的輸出:即當:yj<0.01時,可以取:yj=0.01