神經(jīng)網(wǎng)絡(luò)模擬試題

1、神經(jīng)網(wǎng)絡(luò)模擬試題葉偉、朱宇濤、雙銀鋒一填空：1. 神經(jīng)元（即神經(jīng)細(xì)胞）是由 細(xì)胞體、樹突、軸突和突 四部分構(gòu)成。2. 按網(wǎng)絡(luò)結(jié)構(gòu)分，人工神經(jīng)元細(xì)胞可分為 前饋型和反饋型 亠按照學(xué)習(xí)方式分可 分為： 有導(dǎo)師和無(wú)導(dǎo)師 學(xué)習(xí)。3. 前饋型網(wǎng)絡(luò)可分為可見層和隱含層，節(jié)點(diǎn)有輸入結(jié)點(diǎn)、輸出節(jié)點(diǎn)、計(jì)算單元。4. 反饋網(wǎng)絡(luò)歷經(jīng)狀態(tài)轉(zhuǎn)移，直到它可能找到一個(gè)平衡狀態(tài)，這個(gè)平衡狀態(tài)稱為吸引 子。5. 神經(jīng)網(wǎng)絡(luò)工作過(guò)程主要由 工作期和學(xué)習(xí)期 一兩個(gè)階段組成。6. 在ANN中HEBB算法最簡(jiǎn)單可描述為：如果一個(gè)處理單元從另一處理單元接收輸 入激勵(lì)信號(hào)，而且兩者都處于 高激勵(lì) 電平，那么處理單元間的加權(quán)就應(yīng)當(dāng)增強(qiáng)。 HE

2、BB網(wǎng)絡(luò)代表了一種純 前向式無(wú)導(dǎo)師 學(xué)習(xí)。7. S學(xué)習(xí)規(guī)則又稱 最小均方規(guī)則，它利用目標(biāo)激活值與所得激活值 之 差進(jìn)行學(xué)習(xí)。其方法是：調(diào)整 聯(lián)系 強(qiáng)度，使其差最小。8. 常見的七種學(xué)習(xí)規(guī)則中，無(wú)導(dǎo)師學(xué)習(xí)的規(guī)則是指 HEB 學(xué)習(xí) 和勝者為王學(xué) 習(xí)規(guī)則。9. 誤差反傳訓(xùn)練算法的主要思想是學(xué)習(xí)過(guò)程分為兩個(gè)階段：正向傳播過(guò)程和 反 向過(guò)程。10. 網(wǎng)絡(luò)吸引子分為穩(wěn)定和非穩(wěn)定兩種，非穩(wěn)定吸引子又有兩種情況： 有限狀態(tài)指網(wǎng)絡(luò)狀態(tài) 有規(guī)律地在某些狀態(tài)之間 _振蕩；而混沌狀態(tài)是指網(wǎng)絡(luò) 無(wú)規(guī) 律地某些狀態(tài)之間振蕩。1 對(duì)反饋網(wǎng)絡(luò)而言，穩(wěn)定點(diǎn)越多，網(wǎng)絡(luò)的聯(lián)想與識(shí)別能力越強(qiáng)，因此，穩(wěn)定點(diǎn)的數(shù)據(jù)目越多聯(lián)想功能越好。

3、(X)2 簡(jiǎn)單感知器僅能解決一階謂詞邏輯和線性分類問(wèn)題，不能解決高階謂詞和非線分類問(wèn)題。(V)3 BP 算法是在無(wú)導(dǎo)師作用下，適用于多層神經(jīng)元的一種學(xué)習(xí)，它是建立在相關(guān)規(guī)則的基礎(chǔ)上的。 (X)4. 在誤差反傳訓(xùn)練算法中，周期性函數(shù)已被證明收斂速度比 S型函數(shù)慢。(X)5. 基于BP算法的網(wǎng)絡(luò)的誤差曲面有且僅有一個(gè)全局最優(yōu)解 。(X)6. 對(duì)于前饋網(wǎng)絡(luò)而言， 一旦網(wǎng)絡(luò)的用途確定了， 那么隱含層的數(shù)目也就確定了。(X)7. 對(duì)離散型 HOPFIELD 網(wǎng)絡(luò)而言，如權(quán)矩陣為對(duì)稱陣，而且對(duì)角線元素非負(fù)，那么網(wǎng)絡(luò)在異步方式下必收斂于下一個(gè)穩(wěn)定狀態(tài)。(V)8. 對(duì)連續(xù) HOPFIELD 網(wǎng)絡(luò)而言，無(wú)論網(wǎng)絡(luò)

4、結(jié)構(gòu)是否對(duì)稱，都能保證網(wǎng)絡(luò)穩(wěn)定。(X)9. 競(jìng)爭(zhēng)學(xué)習(xí)的實(shí)質(zhì)是一種規(guī)律性檢測(cè)器，即是基于刺激集合和哪個(gè)特征是重要 的先驗(yàn)概念所構(gòu)造的裝置，發(fā)現(xiàn)有用的部特征。 (V)10. 人工神經(jīng)元網(wǎng)絡(luò)和模糊系統(tǒng)的共同之處在于，都需建立對(duì)象的精確的數(shù)學(xué)模 型，根據(jù)輸入采樣數(shù)據(jù)去估計(jì)其要求的決策， 這是一種有模型的估計(jì)。 ( X)三、論述題：1 、 對(duì)誤差反傳訓(xùn)練算法而言， 如何有效提高訓(xùn)練速 度？ 答：可通過(guò)四個(gè)方面來(lái)提高訓(xùn)練速度：一、通過(guò)全局自 適應(yīng)技術(shù)修改全局參數(shù)，即對(duì)每個(gè)可調(diào)參數(shù)根據(jù)學(xué)習(xí)情 況用同樣的學(xué)習(xí)速率改變；二、通過(guò)局部學(xué)習(xí)自適應(yīng)來(lái) 對(duì)每個(gè)可調(diào)節(jié)參數(shù)采用獨(dú)自的學(xué)習(xí)速率，對(duì)每個(gè)權(quán)錄求最優(yōu)學(xué)習(xí)速率。三、

5、采用新的激活函數(shù)來(lái)加快收斂速度； 四、采用組合激活函數(shù)來(lái)加快收斂速度。其中，全局學(xué) 習(xí)速率的自適應(yīng)又分為：加入動(dòng)量法；學(xué)習(xí)速率的經(jīng)驗(yàn) 公式法；學(xué)習(xí)速率漸小法；漸進(jìn)自適應(yīng)學(xué)習(xí)速率；共軛 梯度法；變步長(zhǎng)法；學(xué)習(xí)速率自調(diào)整的 BP算法。局部學(xué) 習(xí)自適應(yīng)又可分為：基于符號(hào)變換的學(xué)習(xí)速率自適應(yīng)；DELTA-BAR-DELTA 法；QUICKPROP 法；RPROP方法。2、簡(jiǎn)要地畫出簡(jiǎn)單神經(jīng)元的結(jié)構(gòu)示意圖，標(biāo)注清楚結(jié)構(gòu)模型每一部分代表符號(hào)和符號(hào)代表的意義，并分別寫出膜電位和激發(fā)函數(shù)的統(tǒng)一表達(dá)式。神經(jīng)元的結(jié)構(gòu)圖WijyiX1、X2 Xn為輸入信號(hào)，Ui為神經(jīng)元內(nèi)部狀態(tài)，9 i為閾值， 為Ui到Uj的連接權(quán)

6、，si表示外部輸入信號(hào)，f(.)為激發(fā)函數(shù)， 為輸出。a i為膜電位。a i = Wij Xi +Siw=f( a i- oi)=f(藝Wij Xi + s-,)3、 簡(jiǎn)要地描述 BP 算法過(guò)程和用 MATLAB 軟件進(jìn)行仿真 的總體步驟，并列出五個(gè)仿真過(guò)程中必不可少的函數(shù)。 答： BP 算法是一種 ANN 的誤差反向傳播訓(xùn)練算法，這 種網(wǎng)絡(luò)不僅有輸入節(jié)點(diǎn)、輸出節(jié)點(diǎn)，還有一層或多層隱 含節(jié)點(diǎn)。對(duì)于輸入信息要先向前傳播到隱含層的節(jié)點(diǎn)上， 經(jīng)過(guò)各單元的特性為 SIGMOID 型的激活函數(shù)運(yùn)算后， 把 隱含節(jié)點(diǎn)的輸出信息傳播到輸出節(jié)點(diǎn)，最后給出輸出結(jié) 結(jié)果。網(wǎng)絡(luò)學(xué)習(xí)過(guò)程由正向和反向傳播兩部分組成。在 正向傳播過(guò)程中，每一層神經(jīng)元的狀態(tài)只影響下一層神 經(jīng)元網(wǎng)絡(luò)。如果輸出層不能得到期望輸出，就是實(shí)際輸 出值與期望輸出值之間有誤差，那么轉(zhuǎn)入反向傳播過(guò)程， 將誤差信號(hào)沿原來(lái)的連接通路返回，通過(guò)修改各層神經(jīng) 元的權(quán)值，逐次地向輸入層傳播去進(jìn)行計(jì)算，再經(jīng)過(guò)正 向傳播過(guò)程，這兩個(gè)過(guò)程的反復(fù)運(yùn)用，使得誤差信號(hào)最 小，實(shí)際上，誤差達(dá)到所希望的要求時(shí)，網(wǎng)絡(luò)的學(xué)習(xí)過(guò) 程就結(jié)束。應(yīng)用 MATLAB 進(jìn)行仿真時(shí)，有四個(gè)必要過(guò)程： 問(wèn)題描述，網(wǎng)絡(luò)初始化，網(wǎng)絡(luò)訓(xùn)練，性能測(cè)試。相關(guān)函 數(shù)：newff