人工智能原理及MATLAB實現(xiàn) 教案 第3章 人工神經(jīng)網(wǎng)絡

《人工智能算法》課程教案教學目的、要求：1.掌握人工神經(jīng)網(wǎng)絡的基本原理2.掌握人工神經(jīng)網(wǎng)絡的結(jié)構形式3.了解神經(jīng)網(wǎng)絡模型的分類4.了解人工神經(jīng)網(wǎng)絡學習算法，掌握典型的人工神經(jīng)網(wǎng)絡5.掌握人工神經(jīng)網(wǎng)絡的matlab實戰(zhàn)的基本技巧與方法教學重點及難點：重點：人工神經(jīng)網(wǎng)絡的基本原理與結(jié)構形式難點：人工神經(jīng)網(wǎng)絡的matlab實戰(zhàn)的基本技巧與方法教學基本內(nèi)容教學過程設計§3人工神經(jīng)網(wǎng)絡§3.1人工神經(jīng)網(wǎng)絡的基本原理ANN是在人類對其大腦神經(jīng)網(wǎng)絡認識理解的基礎上，人工構造的能夠?qū)崿F(xiàn)某種功能的網(wǎng)絡系統(tǒng)，它對人腦進行了簡化、抽象和模擬，是大腦生物結(jié)構的數(shù)學模型。ANN由大量功能簡單而具有自適應能力的信息處理單元即人工神經(jīng)元按照大規(guī)模并行的方式，通過的拓撲結(jié)構連接而成。在人工神經(jīng)元系統(tǒng)中，其輸出是通過傳遞函數(shù)f來完成的。傳遞函數(shù)的作用是控制輸入對輸出的激活作用，把可能的無限域變換到給定范圍的輸出，對輸入、輸出進行函數(shù)轉(zhuǎn)換，以模擬生物神經(jīng)元線性或非線性轉(zhuǎn)移特性。f函數(shù)形式多樣，它反映了神經(jīng)元的線性特征，這些特征一般可分為3種類型：簡單的映射關系、動態(tài)系統(tǒng)方程和概率統(tǒng)計模型。人工神經(jīng)網(wǎng)絡具有一系列不同于其他計算方法的性質(zhì)和特點：（1）神經(jīng)網(wǎng)絡將信息分布貯存在大量的神經(jīng)元中，且具有內(nèi)在的知識索引功能，也即具有將大量信息存貯起來并具有以一種更為簡便的方式對其訪問的能力。（2）人工神經(jīng)網(wǎng)絡能模擬人類的學習過程，并且有很強的容錯能力。（3）人工神經(jīng)網(wǎng)絡是一種非線性的處理單元。人工神經(jīng)網(wǎng)絡涉及許多數(shù)學知識。限于篇幅，在此僅介紹最基本的數(shù)學基礎知識：(1)向量的內(nèi)積與外積：設向量V＝(v1,v2,…,vn)和矩陣W＝(w1,w2,…,wn)。向量可用兩種方法來相乘，一種是稱為點乘，又稱內(nèi)積，另一種為外積。（2）矩陣運算與層次結(jié)構網(wǎng)絡：設給定一個向量V和一個矩陣W，則它們的乘積為一向量：W·V=U這種運算又稱為映射，即V被W映射成U：U=WV；若用W-1表示W(wǎng)的逆矩陣，則類似地有映射：V=W－1U。§3.2人工神經(jīng)網(wǎng)絡的結(jié)構形式人工神經(jīng)網(wǎng)絡是由一組基本處理單元通過不同的連接模式所構成。人工神經(jīng)元輸出信號之間通過互相連接形成網(wǎng)絡，互相連接方式稱為連接模式。目前人工神經(jīng)網(wǎng)絡模型已有上百種，均是從生物神經(jīng)元抽象出的最基本生物學事實而衍生出來?；咎幚韱卧菍ι锷窠?jīng)元的近似仿真，因而稱為人工神經(jīng)元，它的主要功能是信號的輸入、處理和輸出?！?.3神經(jīng)網(wǎng)絡模型分類（1）按學習方式分類按學習方式分為有導師學習（有監(jiān)督訓練）、強化學習和無導師（無監(jiān)督訓練）3類網(wǎng)絡模型。（2）按網(wǎng)絡的活動方式分類按網(wǎng)絡的活動方式即按網(wǎng)絡的學習技術，可分為確定性活動方式和隨機性活動方式。（3）按神經(jīng)網(wǎng)絡的建立原理分類按神經(jīng)網(wǎng)絡的建立原理，可分為數(shù)學模型和認知模型。（4）按網(wǎng)絡的信息處理能力分類按網(wǎng)絡的信息處理能力可分為模型識別、模式分類、組合優(yōu)化問題求解、數(shù)據(jù)聚簇與組合、數(shù)學映射逼近和聯(lián)想記憶等?！?.4人工神經(jīng)網(wǎng)絡學習算法人工神經(jīng)網(wǎng)絡的學習算法有很多，其中較有代表性的是學習，誤差修正型學習、隨機學習、競爭型學習、基于記憶的學習以及結(jié)構修正學習?！?.5典型的人工神經(jīng)網(wǎng)絡（1）單層前向網(wǎng)絡：最簡單的人工神經(jīng)網(wǎng)絡，其網(wǎng)絡中的神經(jīng)元只有一層。最典型的單層前向網(wǎng)絡是感知機。（2）多層前向網(wǎng)絡及BP學習算法：為了解決非線性可分的問題，可以采用多層網(wǎng)絡，即在輸入層和輸出層之間加上隱層。這種由輸入層、隱層和輸出層組成的網(wǎng)絡就是多層前向神經(jīng)網(wǎng)絡。BP網(wǎng)絡就是一種單向的多層前向神經(jīng)網(wǎng)絡。（3）徑向基函數(shù)神經(jīng)網(wǎng)絡（RBF）：RBF網(wǎng)絡是20世紀80年代提出的一種人工神經(jīng)網(wǎng)絡結(jié)構，是具有單隱層的前向網(wǎng)絡。它不僅可以用來函數(shù)逼近，也可以進行預測。（4）自組織競爭人工神經(jīng)網(wǎng)絡：在生物神經(jīng)系統(tǒng)中，存在著一種“側(cè)抑制”現(xiàn)象，即一個神經(jīng)細胞興奮后，通過它的分支會對周圍其他神經(jīng)細胞產(chǎn)生抑制。（5）對向傳播神經(jīng)網(wǎng)絡（CPN）：對向傳播（CounterPropagation，CPN）網(wǎng)絡是將自組織競爭網(wǎng)絡與Grossberg基本競爭型網(wǎng)絡相結(jié)合，發(fā)揮各自的特長的一種新型特征映射網(wǎng)絡。（6）反饋型神經(jīng)網(wǎng)絡（Hopfield）：Hopfield網(wǎng)絡由相同的神經(jīng)網(wǎng)絡元構成的單層，并且具有學習功能的自聯(lián)想網(wǎng)絡，可以完成制約優(yōu)化和聯(lián)想記憶等功能，是目前人們研究最多的模型之一?！?.6人工神經(jīng)網(wǎng)絡的matlab實戰(zhàn)人工神經(jīng)網(wǎng)絡在故障診斷、特征的提取和預測、非線性系統(tǒng)的自適應控制、不能用規(guī)則或公式描述的大量原始數(shù)據(jù)的處理等方面具有比經(jīng)典計算方法優(yōu)越的性能、且有極大的靈活性和自適應性。在實際應用中，面對一個實際問題，如要用人工神經(jīng)網(wǎng)絡求解，首先應根據(jù)問題的特點，確定網(wǎng)絡模型，再通過網(wǎng)絡仿真分析，分析確定網(wǎng)絡是否適合實際問題的特點。3min引入：類比人類對其大腦神經(jīng)網(wǎng)絡的認識理解，引入人工神經(jīng)網(wǎng)絡的基本原理。內(nèi)容設計思路：對課堂內(nèi)容進行分析，引導學生了解內(nèi)容之間的相互聯(lián)系，并指出本節(jié)課的重點難點以及教學目的。核心是給學員講清楚基本原理和結(jié)構形式。10min強調(diào)：引導學生思考模擬的原理，觸類旁通。分析：神經(jīng)網(wǎng)絡模型分類方式的異同。注意過渡：動畫演示：課堂互動：對先修的基礎知識進行提問、回顧、引導。20min舉例分析：分析要點：對典型的人工神經(jīng)網(wǎng)絡進行分析講解其來源與適用范圍。、讓學生進行總結(jié)：深刻理解人工神經(jīng)網(wǎng)絡學習算法。實