【浙大名師課件】智能控制技術(shù)第3章-神經(jīng)網(wǎng)絡(luò)控制

智能控制技術(shù)第3章

神經(jīng)網(wǎng)絡(luò)控制

二零一一年三月智能控制技術(shù)第3章神經(jīng)網(wǎng)絡(luò)控制1神經(jīng)網(wǎng)絡(luò)控制

人工神經(jīng)網(wǎng)絡(luò)（ANN）是智能控制領(lǐng)域研究歷史比較長但發(fā)展曲折的交叉學(xué)科?；谌斯ど窠?jīng)網(wǎng)絡(luò)的控制簡稱神經(jīng)控制（NeuralControl）。神經(jīng)網(wǎng)絡(luò)具有很強(qiáng)的學(xué)習(xí)能力、非線性映射能力、魯棒性和容錯(cuò)能力，充分地將這些神經(jīng)網(wǎng)絡(luò)特性應(yīng)用于控制領(lǐng)域，可使控制系統(tǒng)的智能化向前邁進(jìn)一大步。隨著控制系統(tǒng)的復(fù)雜性增強(qiáng)，人們對控制系統(tǒng)的要求增高，特別是要求控制系統(tǒng)能適應(yīng)不確定性、時(shí)變的對象與環(huán)境。傳統(tǒng)的基于精確模型的控制方法難以適應(yīng)要求，現(xiàn)在關(guān)于控制的概念也已更加廣泛，它要求包括一些決策、規(guī)劃以及學(xué)習(xí)功能。神經(jīng)網(wǎng)絡(luò)由于具有這些優(yōu)點(diǎn)而越來越受到人們的重視。神經(jīng)網(wǎng)絡(luò)控制 人工神經(jīng)網(wǎng)絡(luò)（ANN）是智能控制領(lǐng)域研究歷史2第3章主要內(nèi)容3.1神經(jīng)網(wǎng)絡(luò)的理論概述3.2前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)3.5模糊神經(jīng)網(wǎng)絡(luò)控制及其應(yīng)用3.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用3.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例3.8本章小結(jié)第3章主要內(nèi)容3.1神經(jīng)網(wǎng)絡(luò)的理論概述33.1神經(jīng)網(wǎng)絡(luò)的理論概述3.1.1生物神經(jīng)元模型3.1.2人工神經(jīng)元模型3.1.3神經(jīng)網(wǎng)絡(luò)模型3.1.4神經(jīng)網(wǎng)絡(luò)分類3.1.5神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則3.1.6用于控制的神經(jīng)網(wǎng)絡(luò)3.1.7神經(jīng)網(wǎng)絡(luò)控制的研究內(nèi)容3.1神經(jīng)網(wǎng)絡(luò)的理論概述3.1.1生物神經(jīng)元模型43.1 神經(jīng)網(wǎng)絡(luò)的理論概述3.1.1生物神經(jīng)元模型 人工神經(jīng)網(wǎng)絡(luò)是參照生物神經(jīng)網(wǎng)絡(luò)發(fā)展起來的，本書若不作特別說明，神經(jīng)網(wǎng)絡(luò)均指人工神經(jīng)網(wǎng)絡(luò)。為了深入學(xué)習(xí)和研究人工神經(jīng)網(wǎng)絡(luò)，了解生物神經(jīng)網(wǎng)絡(luò)的基本原理是很有必要的。 人腦神經(jīng)系統(tǒng)的基本單元是神經(jīng)細(xì)胞，即生物神經(jīng)元，人腦神經(jīng)系統(tǒng)約由個(gè)神經(jīng)元構(gòu)成，每個(gè)神經(jīng)元與約個(gè)其他神經(jīng)元相連接。神經(jīng)細(xì)胞與人體中其他細(xì)胞的關(guān)鍵區(qū)別在于，神經(jīng)細(xì)胞具有產(chǎn)生、處理和傳遞信號的能力。3.1 神經(jīng)網(wǎng)絡(luò)的理論概述3.1.1生物神經(jīng)元模型53.1 神經(jīng)網(wǎng)絡(luò)的理論概述

一個(gè)生物神經(jīng)元的結(jié)構(gòu)如圖所示，主要包括細(xì)胞體、樹突和軸突。每一部分雖具有各自的功能，但相互之間是互補(bǔ)的。

在生物神經(jīng)細(xì)胞中，除了特殊的無“軸突”神經(jīng)元外，一般每個(gè)神經(jīng)元從細(xì)胞體伸出一根粗細(xì)均勻、表面光滑的突起，稱為軸突，它的功能是細(xì)胞的輸出端，用于傳出神經(jīng)沖動。從細(xì)胞體延伸出像樹枝一樣向四處分散開來的許多突起，稱之為樹突，起作用是細(xì)胞的輸入端，通過“突觸”接受四周細(xì)胞傳來的神經(jīng)沖動。軸突末端有許多細(xì)的分枝，稱之為神經(jīng)末梢，每一根神經(jīng)末梢可以與其他神經(jīng)元連接，其連接的末端稱之為突觸。圖3-1生物神經(jīng)元3.1 神經(jīng)網(wǎng)絡(luò)的理論概述 一個(gè)生物神經(jīng)元的結(jié)構(gòu)如圖63.1 神經(jīng)網(wǎng)絡(luò)的理論概述

神經(jīng)元之間的連接是靠突觸實(shí)現(xiàn)的。當(dāng)傳入的神經(jīng)元沖動使細(xì)胞膜電位升高并超過閾值時(shí)，細(xì)胞進(jìn)入興奮狀態(tài)，產(chǎn)生神經(jīng)沖動，由軸突輸出；相反，若傳入的神經(jīng)沖動使細(xì)胞膜電位下降到低于閾值時(shí)，進(jìn)入抑制狀態(tài)，則軸突沒有神經(jīng)沖動輸出。根據(jù)突觸對下一個(gè)神經(jīng)細(xì)胞的功能活動的影響，突觸又可分為興奮性的和抑制性的兩種。興奮性的突觸可能引起下一個(gè)神經(jīng)細(xì)胞興奮，抑制性的突觸使下一個(gè)神經(jīng)細(xì)胞抑制。圖3-2人工神經(jīng)元結(jié)構(gòu)模型

3.1 神經(jīng)網(wǎng)絡(luò)的理論概述 神經(jīng)元之間的連接是73.1 神經(jīng)網(wǎng)絡(luò)的理論概述3.1.2人工神經(jīng)元模型

人工神經(jīng)元是生物神經(jīng)元的簡化和模擬，它是神經(jīng)網(wǎng)絡(luò)的基本處理單元。它是一個(gè)多輸入單輸出的非線性元件，其輸入輸出關(guān)系可描述為（3-1）（3-2）其中，是從其他細(xì)胞傳來的輸入信號，為閾值，表示從神經(jīng)元到神經(jīng)元的連接權(quán)值，稱為作用函數(shù)。從上面分析可以看出，人工神經(jīng)元反映了生物神經(jīng)元的基本功能。作用函數(shù)又稱為變換函數(shù)，它決定神經(jīng)元的輸出。作用函數(shù)可為線性函數(shù)，但通常為階躍函數(shù)或S狀曲線那樣的非線性函數(shù)。3.1 神經(jīng)網(wǎng)絡(luò)的理論概述3.1.2人工神經(jīng)元模型（3-83.1 神經(jīng)網(wǎng)絡(luò)的理論概述3.1.3神經(jīng)網(wǎng)絡(luò)模型

神經(jīng)網(wǎng)絡(luò)可分成兩大類：沒有反饋的前向網(wǎng)絡(luò)和相互結(jié)合型網(wǎng)絡(luò)。(a)前向網(wǎng)絡(luò)(b)相互連接型網(wǎng)絡(luò)3.1 神經(jīng)網(wǎng)絡(luò)的理論概述3.1.3神經(jīng)網(wǎng)絡(luò)模型(a)93.1 神經(jīng)網(wǎng)絡(luò)的理論概述3.1.4神經(jīng)網(wǎng)絡(luò)分類

神經(jīng)網(wǎng)絡(luò)發(fā)展幾十年來，形成了數(shù)十種網(wǎng)絡(luò)，包括多層感知器、自適應(yīng)共振理論、Kohomen自組織特征映射、Hopfield網(wǎng)絡(luò)、RBF網(wǎng)絡(luò)、小波神經(jīng)網(wǎng)絡(luò)、混沌神經(jīng)網(wǎng)絡(luò)、細(xì)胞神經(jīng)網(wǎng)絡(luò)、模糊神經(jīng)網(wǎng)絡(luò)等。這些網(wǎng)絡(luò)結(jié)構(gòu)不同，應(yīng)用范圍也各不相同。 神經(jīng)網(wǎng)絡(luò)中應(yīng)用較多的幾種主要的模型有：（1）多層前向神經(jīng)網(wǎng)絡(luò)MLFN（2）遞歸神經(jīng)網(wǎng)絡(luò)RNN（3）自組織神經(jīng)網(wǎng)絡(luò)（4）Hopfield神經(jīng)網(wǎng)絡(luò)（5）模糊神經(jīng)網(wǎng)絡(luò)3.1 神經(jīng)網(wǎng)絡(luò)的理論概述3.1.4神經(jīng)網(wǎng)絡(luò)分類103.1 神經(jīng)網(wǎng)絡(luò)的理論概述3.1.5神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則

學(xué)習(xí)功能是人工神經(jīng)網(wǎng)絡(luò)中最重要的特征之一。神經(jīng)網(wǎng)絡(luò)主要由三種因素決定：神經(jīng)元的特性，網(wǎng)絡(luò)的連接和學(xué)習(xí)算法規(guī)則。學(xué)習(xí)算法對網(wǎng)絡(luò)學(xué)習(xí)速度、收斂特性、泛化能力等有很大的影響。 學(xué)習(xí)方法歸根到底就是網(wǎng)絡(luò)連接權(quán)的調(diào)整方法。人工神經(jīng)網(wǎng)絡(luò)連接權(quán)的確定通常有兩種方法：一種是根據(jù)具體要求直接計(jì)算出來，如Hopfield網(wǎng)絡(luò)作優(yōu)化計(jì)算時(shí)就屬于這種情況；另一種是通過學(xué)習(xí)得到的，大多數(shù)人工神經(jīng)網(wǎng)絡(luò)都是采用這種方法。3.1 神經(jīng)網(wǎng)絡(luò)的理論概述3.1.5神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則113.1 神經(jīng)網(wǎng)絡(luò)的理論概述3.1.5神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則

人工神經(jīng)網(wǎng)絡(luò)中，常用的學(xué)習(xí)規(guī)則主要有：無監(jiān)督Hebb學(xué)習(xí)規(guī)則Perception學(xué)習(xí)規(guī)則學(xué)習(xí)規(guī)則內(nèi)星/外星學(xué)習(xí)規(guī)則3.1 神經(jīng)網(wǎng)絡(luò)的理論概述3.1.5神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則123.1 神經(jīng)網(wǎng)絡(luò)的理論概述3.1.6用于控制的神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)的下列特性適合于控制系統(tǒng)：并行性分布式自適應(yīng)學(xué)習(xí)非線性映射可硬件實(shí)現(xiàn)3.1 神經(jīng)網(wǎng)絡(luò)的理論概述3.1.6用于控制的神經(jīng)網(wǎng)絡(luò)133.1 神經(jīng)網(wǎng)絡(luò)的理論概述3.1.7神經(jīng)網(wǎng)絡(luò)控制的研究內(nèi)容1．基于神經(jīng)網(wǎng)絡(luò)的系統(tǒng)辨識將神經(jīng)網(wǎng)絡(luò)作為被辨識系統(tǒng)的模型，可在已知常規(guī)模型結(jié)構(gòu)的情況下，估計(jì)模型的參數(shù)。利用神經(jīng)網(wǎng)絡(luò)的線性、非線性特性，可建立線性、非線性系統(tǒng)的靜態(tài)、動態(tài)、逆動態(tài)及預(yù)測模型，實(shí)現(xiàn)系統(tǒng)的建模和辨識。2．神經(jīng)網(wǎng)絡(luò)控制器神經(jīng)網(wǎng)絡(luò)作為控制器，可對不確定、不確知系統(tǒng)及擾動進(jìn)行有效的控制，使控制系統(tǒng)達(dá)到所要求的動態(tài)、靜態(tài)特性。3．神經(jīng)網(wǎng)絡(luò)與其它智能技術(shù)的結(jié)合將神經(jīng)網(wǎng)絡(luò)與專家系統(tǒng)、模糊邏輯、遺傳算法等相結(jié)合，可設(shè)計(jì)新型智能控制系統(tǒng)。4．優(yōu)化計(jì)算在常規(guī)的控制系統(tǒng)中，常遇到求解約束優(yōu)化問題，神經(jīng)網(wǎng)絡(luò)為這類問題的解決提供了有效的途徑。3.1 神經(jīng)網(wǎng)絡(luò)的理論概述3.1.7神經(jīng)網(wǎng)絡(luò)控制的研究內(nèi)143.2前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.2.1感知器3.2.2徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)3.2.3BP網(wǎng)絡(luò)3.2.4BP學(xué)習(xí)算法3.2.5改進(jìn)型BP算法3.2.6BP網(wǎng)絡(luò)仿真實(shí)例3.2前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.2.1感知器15前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.2.1感知器

感知器（perceptron）是一個(gè)具有單層神經(jīng)元的神經(jīng)網(wǎng)絡(luò)，并由線性閾值元件組成，是最簡單的前向網(wǎng)絡(luò)，主要用于模式分類。單層的感知器網(wǎng)絡(luò)結(jié)構(gòu)如圖所示。x是輸入特性向量，y為輸出量，是按照不同特性分類的結(jié)果，w是x到y(tǒng)的連接權(quán)值，此權(quán)值是可調(diào)整的，因而有學(xué)習(xí)功能。前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.2.1感知器16前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.2.1感知器

感知器的輸入輸出關(guān)系可表示為

一種學(xué)習(xí)算法是：(1)隨機(jī)地給定一組連接權(quán)值（較小的非零值）；(2)輸入一組樣本和期望的輸出（亦稱為教師信號）；(3)計(jì)算感知器的實(shí)際輸出：(4)按下式修正權(quán)值：(5)選取另外一組樣本，重復(fù)上述(2)~(4)的過程，直到權(quán)值對一切樣本均穩(wěn)定不變?yōu)榇?，學(xué)習(xí)過程結(jié)束。前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.2.1感知器17前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.2.2徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)

徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)（RBF網(wǎng)絡(luò)）是一種前饋神經(jīng)網(wǎng)絡(luò)，一般分為三層結(jié)構(gòu)，其網(wǎng)絡(luò)結(jié)構(gòu)如圖3-8所示。前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.2.2徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)18前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.2.3BP網(wǎng)絡(luò)

誤差反向傳播神經(jīng)網(wǎng)絡(luò)，即BP網(wǎng)絡(luò)（BackPropagation），是一種單向傳播的多層前向網(wǎng)絡(luò)。在模式識別、系統(tǒng)辨識、函數(shù)擬合、優(yōu)化計(jì)算、最優(yōu)預(yù)測和自適應(yīng)控制等領(lǐng)域有著較為廣泛的應(yīng)用。如圖是其結(jié)構(gòu)示意圖。BP網(wǎng)絡(luò)是一種最為常用的前饋網(wǎng)絡(luò)，它有一個(gè)輸入層，一個(gè)輸出層，一個(gè)或多個(gè)隱含層。每一層上包含了若干個(gè)節(jié)點(diǎn)，每個(gè)節(jié)點(diǎn)代表一個(gè)神經(jīng)元。同一層上的各節(jié)點(diǎn)之間無耦合連接關(guān)系，信息從輸入層開始在各層之間單向傳播，依次經(jīng)過各隱含層節(jié)點(diǎn)，最后達(dá)到輸出層節(jié)點(diǎn)。

前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.2.3BP網(wǎng)絡(luò)19前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.2.4BP學(xué)習(xí)算法

BP算法的基本思想是最小二乘法。它應(yīng)用梯度搜索技術(shù)，以期使網(wǎng)絡(luò)的實(shí)際輸出值與期望值的誤差均方值為最小。學(xué)習(xí)過程由信號的正向傳播和誤差的反向傳播兩個(gè)過程組成。正向傳播時(shí)，輸入樣本從輸入層傳入，經(jīng)各隱層逐層處理后，傳向輸出層。若輸出層的實(shí)際輸出與期望輸出不符，則轉(zhuǎn)入誤差的反向傳播階段。誤差反傳是將輸出誤差以某種形式通過隱層向輸入層逐層反傳，并將誤差分?jǐn)偨o各層的所有單元，從而各層單元獲得誤差信號，此誤差信號即作為修正各單元權(quán)值的依據(jù)。這種信號正向傳播與誤差反向傳播的各層權(quán)值調(diào)整過程，是周而復(fù)始，權(quán)值不斷調(diào)整的過程，也就是網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練過程。此過程一直到網(wǎng)絡(luò)輸出的誤差減少到可接受的程度，或進(jìn)行到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止。前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.2.4BP學(xué)習(xí)算法20前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.2.4BP學(xué)習(xí)算法

計(jì)算步驟：（1）初始化：置所有的權(quán)值為較小的隨機(jī)數(shù)；（2）提供訓(xùn)練集：給定輸入向量X和期望的目標(biāo)輸出向量D；（3）計(jì)算實(shí)際輸出：按公式計(jì)算隱層、輸出層各神經(jīng)元的輸出；（4）計(jì)算目標(biāo)值與實(shí)際輸出的偏差；（5）計(jì)算輸出節(jié)點(diǎn)的連接權(quán)值調(diào)整；（6）再計(jì)算隱層節(jié)點(diǎn)連接權(quán)值調(diào)整；（7）返回步驟（2）重復(fù)計(jì)算，直到誤差滿足要求為止。前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.2.4BP學(xué)習(xí)算法21前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.2.5改進(jìn)型BP算法

由于BP算法的實(shí)質(zhì)是梯度下降法，因此它不可避免的存在著以下幾個(gè)問題：（1）由于采用非線性優(yōu)化，易形成局部極小而得不到全局最優(yōu)值；（2）待尋優(yōu)的參數(shù)多，收斂速度慢；（3）網(wǎng)絡(luò)的結(jié)構(gòu)設(shè)計(jì)，即隱層和節(jié)點(diǎn)數(shù)的選擇尚無理論指導(dǎo)；（4）新加入的樣本會影響到已學(xué)好的樣本。為了解決上述問題，許多研究人員提出了許多BP的改進(jìn)算法，主要有：（1）擬牛頓法（2）共軛梯度法（3）Levenberg-Marquardt法（4）附加動量法（5）自適應(yīng)學(xué)習(xí)速率前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.2.5改進(jìn)型BP算法22前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.2.6BP網(wǎng)絡(luò)仿真實(shí)例取標(biāo)準(zhǔn)樣本為三輸入兩輸出樣本，樣本數(shù)據(jù)如下表：BP網(wǎng)絡(luò)采用3-6-2結(jié)構(gòu)，權(quán)值、的初始值取之間的隨機(jī)值，學(xué)習(xí)參取，。運(yùn)行程序，取網(wǎng)絡(luò)訓(xùn)練的最終指標(biāo)為，網(wǎng)絡(luò)訓(xùn)練曲線如圖3-11所示。將網(wǎng)絡(luò)訓(xùn)練的最終權(quán)值為用于模式識別的知識庫，將其保存在文件中。取一組實(shí)際樣本進(jìn)行測試，測試樣本及測試結(jié)果見表3-2。有仿真結(jié)果可見，BP網(wǎng)絡(luò)具有很好的模式識別能力。前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.2.6BP網(wǎng)絡(luò)仿真實(shí)例23前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.2.6BP網(wǎng)絡(luò)仿真實(shí)例前饋網(wǎng)絡(luò)及其BP學(xué)習(xí)算法3.2.6BP網(wǎng)絡(luò)仿真實(shí)例243.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)

3.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.1Hopfield網(wǎng)絡(luò)

3.3.2Boltzmann機(jī)網(wǎng)絡(luò)

3.3.3雙向聯(lián)想記憶網(wǎng)絡(luò)

3.3.4Hamming網(wǎng)絡(luò)

3.3.5Kohonen網(wǎng)絡(luò)

3.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3反饋網(wǎng)絡(luò)及其它網(wǎng)253.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.1Hopfield網(wǎng)絡(luò)1.結(jié)構(gòu)Hopfield網(wǎng)絡(luò)結(jié)構(gòu)如圖所示，它是一種單層反饋性非線性網(wǎng)絡(luò)，每一個(gè)結(jié)點(diǎn)的輸出均反饋到其他結(jié)點(diǎn)的輸入，整個(gè)網(wǎng)絡(luò)都不存在自反饋。

Hopfield網(wǎng)絡(luò)結(jié)構(gòu)3.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.1Hopfiel263.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.1Hopfield網(wǎng)絡(luò)J.J.Hoplield利用模擬電路（電阻、電容和運(yùn)算放大器）實(shí)現(xiàn)了對網(wǎng)絡(luò)的結(jié)點(diǎn)（神經(jīng)元）的描述，如圖所示。假設(shè)網(wǎng)絡(luò)共有n個(gè)這樣的神經(jīng)元組成，可得到:

由此可見，Ri，Ci的并聯(lián)模擬了生物神經(jīng)元的時(shí)間常數(shù)，模擬了神經(jīng)元間的突觸特性即權(quán)值，運(yùn)算放大器模擬了神經(jīng)元的非線性特征，偏置電流相當(dāng)于閾值。

Hopfield神經(jīng)元的模擬電路

3.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.1Hopfiel273.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.1Hopfield網(wǎng)絡(luò)2．學(xué)習(xí)過程

網(wǎng)絡(luò)的學(xué)習(xí)過程實(shí)際上就是權(quán)值調(diào)整過程，學(xué)習(xí)目的就是調(diào)整連接權(quán)值，以使得網(wǎng)絡(luò)的穩(wěn)定平衡狀態(tài)就是所要求的狀態(tài)。采用的學(xué)習(xí)算法是Hebb學(xué)習(xí)規(guī)則，即權(quán)值調(diào)整規(guī)則為：若第i個(gè)和第j個(gè)神經(jīng)元同時(shí)處于興奮狀態(tài)，那么他們之間的連接應(yīng)該增強(qiáng)，權(quán)值增大:假設(shè)要求網(wǎng)絡(luò)要有個(gè)正交穩(wěn)態(tài)，則若增加新的穩(wěn)態(tài)，則3.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.1Hopfiel283.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.1Hopfield網(wǎng)絡(luò)3．應(yīng)用

（1）聯(lián)想記憶功能：

由于網(wǎng)絡(luò)可以收斂于穩(wěn)定狀態(tài)，因此可用于聯(lián)想記憶。若將穩(wěn)態(tài)視為一個(gè)記憶，則由初始狀態(tài)向穩(wěn)態(tài)收斂的過程，初態(tài)可認(rèn)為是給定的部分消息，收斂過程可認(rèn)為是從部分信息找到了全部信息，則實(shí)現(xiàn)了聯(lián)想記憶的功能。聯(lián)想記憶的一個(gè)重要特性是由噪聲輸入模式反映出訓(xùn)練模式。

（2）優(yōu)化計(jì)算：若將穩(wěn)態(tài)視為某一優(yōu)化問題目標(biāo)函數(shù)的極小點(diǎn)，則由初態(tài)向穩(wěn)態(tài)收斂的過程就是優(yōu)化計(jì)算過程。網(wǎng)絡(luò)逐漸穩(wěn)定的前提是。（3）網(wǎng)絡(luò)的應(yīng)用：Hopfield網(wǎng)絡(luò)多于在控制系統(tǒng)的設(shè)計(jì)中求解約束優(yōu)化問題，另外在系統(tǒng)辨識中也有應(yīng)用。

3.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.1Hopfiel293.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.2Boltzmann機(jī)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)是由大量神經(jīng)元組成的動力學(xué)系統(tǒng)。從宏觀上講，各神經(jīng)元的狀態(tài)可看做是一個(gè)隨機(jī)變量。從統(tǒng)計(jì)的觀點(diǎn)分析，也可以尋找神經(jīng)網(wǎng)絡(luò)系統(tǒng)中某神經(jīng)元的狀態(tài)的概率分布，分布的形式與網(wǎng)絡(luò)的結(jié)構(gòu)有關(guān)，其參數(shù)則是權(quán)系數(shù)。Boltzmann是由Hinton和Sejnowski等人借助統(tǒng)計(jì)物理學(xué)的方法提出的一種基于約束傳播的并行計(jì)算網(wǎng)絡(luò)，其中網(wǎng)絡(luò)中狀態(tài)的概率具有統(tǒng)計(jì)力學(xué)中的Boltzmann分布規(guī)律。Boltzmann機(jī)網(wǎng)絡(luò)可以看成是引入了隱單元的Hopfield模型的推廣。Boltzmann機(jī)現(xiàn)常用于模式分類、預(yù)測、組合優(yōu)化及規(guī)劃等方面。3.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.2Boltzma303.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.2Boltzmann機(jī)網(wǎng)絡(luò)1．Boltzmann機(jī)網(wǎng)絡(luò)的結(jié)構(gòu)

Boltzmann機(jī)網(wǎng)絡(luò)是一個(gè)相互連接的神經(jīng)網(wǎng)絡(luò)模型，如圖3-14所示，單元之間的連接可以是完全連接，也可以是按某種方便的形式結(jié)構(gòu)化的，但必須具有對稱的連接權(quán)系數(shù)，即，且每個(gè)單元節(jié)點(diǎn)只取1或者0兩種狀態(tài)，1代表接通或接受，0代表斷開或拒絕。圖3-14Boltzmann機(jī)網(wǎng)絡(luò)的結(jié)構(gòu)示意圖

3.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.2Boltzma313.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.2Boltzmann機(jī)網(wǎng)絡(luò)在Boltzmann機(jī)網(wǎng)絡(luò)中，每個(gè)神經(jīng)元都根據(jù)自己的能量差隨機(jī)地改變自己的或?yàn)?或?yàn)?的狀態(tài)，即當(dāng)神經(jīng)元的輸入加權(quán)和發(fā)生變化時(shí)神經(jīng)元的狀態(tài)隨之更改，各單元之間狀態(tài)的更新是異步的，可以用概率來描述。神經(jīng)元i的輸出取值為1的概率為：神經(jīng)元i的輸出取值為0的概率為：3.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.2Boltzma323.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.2Boltzmann機(jī)網(wǎng)絡(luò)Boltzmann機(jī)網(wǎng)絡(luò)一個(gè)神經(jīng)元節(jié)點(diǎn)的示意圖如圖3-15所示：神經(jīng)元i的前狀態(tài)：能量差：假設(shè)網(wǎng)絡(luò)的連接權(quán)是對稱的，則網(wǎng)絡(luò)的能量函數(shù)可以表示為：圖3-15Boltzmann機(jī)網(wǎng)絡(luò)神經(jīng)元節(jié)點(diǎn)

3.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.2Boltzma333.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.2Boltzmann機(jī)網(wǎng)絡(luò)2．Boltzmann機(jī)網(wǎng)絡(luò)的訓(xùn)練和學(xué)習(xí)規(guī)則

加拿大多倫多大學(xué)教授Hinton等人基于統(tǒng)計(jì)物理學(xué)和Boltzmann提出概率分布模擬退火訓(xùn)練，提出了Boltzmann機(jī)的學(xué)習(xí)算法，具體算法如下：①設(shè)定初始網(wǎng)絡(luò)隨機(jī)給定全部權(quán)值；②給定一輸入樣本x，按照概率，用隨機(jī)給定全部權(quán)值計(jì)算；③若，則x將置為新的狀態(tài)，否則，以概率接受x；其中為Boltzmann常數(shù)；④重復(fù)②，③直到系統(tǒng)達(dá)到平衡狀態(tài)，并計(jì)算（網(wǎng)絡(luò)在有樣本學(xué)習(xí)的條件下且系統(tǒng)達(dá)到平衡狀態(tài)時(shí)第i個(gè)和第j個(gè)神經(jīng)元同時(shí)為1的概率）；

3.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.2Boltzma343.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.2Boltzmann機(jī)網(wǎng)絡(luò)⑤不給定學(xué)習(xí)樣本，重復(fù)①~④，并計(jì)算（網(wǎng)絡(luò)在無樣本學(xué)習(xí)的條件下且系統(tǒng)達(dá)到平衡狀態(tài)時(shí)第i個(gè)和第j個(gè)神經(jīng)元同時(shí)為1的概率）；⑥按照梯度下降法來計(jì)算修正權(quán)值：⑦反復(fù)調(diào)整，直至，即。

3.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.2Boltzma353.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.3雙向聯(lián)想記憶網(wǎng)絡(luò)

雙向聯(lián)想記憶（bidirectionalassociativememory，BAM)是由Kosko提出的一種雙層反饋神經(jīng)網(wǎng)絡(luò)，用它可以實(shí)現(xiàn)異聯(lián)想記憶功能，可以將這兩層分別定義成X層和Y層，其結(jié)構(gòu)如圖3-16所示：

圖3-16雙向聯(lián)想記憶模型3.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.3雙向聯(lián)想記憶網(wǎng)363.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.3雙向聯(lián)想記憶網(wǎng)絡(luò)BAM網(wǎng)絡(luò)中兩層之間的連接是全互聯(lián)及雙向的，將從X層到Y(jié)層的權(quán)值矩陣定義成，其學(xué)習(xí)算法如下：（1）首先將每一個(gè)二值向量對轉(zhuǎn)換為雙極性向量對，即用-1取代模式對中的0。（2）計(jì)算雙極性伴隨矩陣，最后將全部m個(gè)雙極性伴隨矩陣相加，即得到權(quán)矩陣W，即。3.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.3雙向聯(lián)想記憶網(wǎng)373.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.4Hamming網(wǎng)絡(luò)

Hamming網(wǎng)絡(luò)是最簡單的競爭網(wǎng)絡(luò)之一，用于從已存向量中選出與輸入最近的向量，它由兩部分組成，第一部分是一個(gè)線性前饋層，第二部分是一個(gè)遞歸層。其結(jié)構(gòu)圖如圖3-17所示：圖3-17Hamming網(wǎng)絡(luò)3.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.4Hamming383.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.4Hamming網(wǎng)絡(luò)1.線性前饋層線性前饋層的權(quán)值和偏移存儲了已存的信息：對輸入，該層完成以下運(yùn)算：線性前饋層的作用是實(shí)現(xiàn)已存矢量與輸入的內(nèi)積（加上標(biāo)量），即實(shí)現(xiàn)向量學(xué)習(xí)規(guī)則。3.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.4Hamming393.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.4Hamming網(wǎng)絡(luò)2.遞歸層遞歸層這一層是競爭層，其作用是找出第一層中哪一個(gè)原型矢量最接近于輸入，該層的工作過程如下：（1）第一層的輸出作為第二層的輸出的初始值：（2）該層的輸出按下式迭代：反饋層第i個(gè)神經(jīng)元的輸出為：3.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.4Hamming403.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.5Kohonen網(wǎng)絡(luò)

Kohonen網(wǎng)絡(luò)或自組織特征映射網(wǎng)絡(luò)含有兩層，一個(gè)輸入緩沖層用于接收輸入模式，另一個(gè)為輸出層，如圖3-18所示：

圖3-18Kohonen網(wǎng)絡(luò)

3.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.5Kohonen413.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.5Kohonen網(wǎng)絡(luò)訓(xùn)練一個(gè)Kohonen網(wǎng)絡(luò)包含下列步驟：（1）對所有輸出神經(jīng)元的參考矢量預(yù)置小的隨機(jī)初值。（2）提供給網(wǎng)絡(luò)一個(gè)訓(xùn)練輸入模式。（3）確定獲勝的輸出神經(jīng)元，即參考矢量最接近輸入模式的神經(jīng)元。參考矢量與輸入矢量間的Euclidean距離通常被用做距離測量。（4）更新獲勝神經(jīng)元的參考矢量及其近鄰參考矢量。3.3反饋網(wǎng)絡(luò)及其它網(wǎng)絡(luò)結(jié)構(gòu)3.3.5Kohonen423.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)3.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)3.4.1概述

3.4.2神經(jīng)網(wǎng)絡(luò)控制的結(jié)構(gòu)

3.4.3基于單神經(jīng)元PID控制

3.4.4仿真實(shí)例

3.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)3.4神經(jīng)網(wǎng)絡(luò)控制器433.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)3.4.1概述由于神經(jīng)網(wǎng)絡(luò)本身具備傳統(tǒng)的控制手段無法實(shí)現(xiàn)的一些優(yōu)點(diǎn)和特征，使得神經(jīng)網(wǎng)絡(luò)控制器的研究迅速發(fā)展，并取得了大量的研究成果。神經(jīng)網(wǎng)絡(luò)控制所取得的進(jìn)展為：（1）基于神經(jīng)網(wǎng)絡(luò)的系統(tǒng)辨識。（2）神經(jīng)網(wǎng)絡(luò)控制器。（3）神經(jīng)網(wǎng)絡(luò)與其他算法相結(jié)合。（4）優(yōu)化計(jì)算。（5）控制系統(tǒng)的故障診斷。3.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)3.4.1概述443.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)3.4.2神經(jīng)網(wǎng)絡(luò)控制的結(jié)構(gòu)

綜合目前的各種分類方法，可將神經(jīng)網(wǎng)絡(luò)控制的結(jié)構(gòu)歸結(jié)為以下七類：1．神經(jīng)網(wǎng)絡(luò)監(jiān)督控制2．神經(jīng)網(wǎng)絡(luò)直接逆控制3．神經(jīng)網(wǎng)絡(luò)自適應(yīng)控制4．神經(jīng)網(wǎng)絡(luò)內(nèi)?？刂?．神經(jīng)網(wǎng)絡(luò)預(yù)測控制6．神經(jīng)網(wǎng)絡(luò)自適應(yīng)評判控制7.神經(jīng)網(wǎng)絡(luò)混合控制3.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)3.4.2神經(jīng)網(wǎng)絡(luò)控制453.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)1.神經(jīng)網(wǎng)絡(luò)監(jiān)督控制

神經(jīng)網(wǎng)絡(luò)監(jiān)督控制通過對傳統(tǒng)控制器進(jìn)行學(xué)習(xí)，然后用神經(jīng)網(wǎng)絡(luò)控制器逐漸取代傳統(tǒng)控制器的方法，其結(jié)構(gòu)如圖3-19所示：

圖3-19神經(jīng)網(wǎng)絡(luò)監(jiān)督控制

3.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)1.神經(jīng)網(wǎng)絡(luò)監(jiān)督控制圖3463.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)2.神經(jīng)網(wǎng)絡(luò)直接逆控制

神經(jīng)網(wǎng)絡(luò)直接逆控制就是被控制對象的神經(jīng)網(wǎng)絡(luò)逆模型直接與被控對象串聯(lián)起來，以使得期望輸出(即網(wǎng)絡(luò)輸入）與對象實(shí)際輸出之間的傳遞函數(shù)等于1。圖3-20給出了兩種結(jié)構(gòu)方案：

圖3-20神經(jīng)網(wǎng)絡(luò)直接逆控制

3.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)2.神經(jīng)網(wǎng)絡(luò)直接逆控制473.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)3.神經(jīng)網(wǎng)絡(luò)自適應(yīng)控制神經(jīng)網(wǎng)絡(luò)自適應(yīng)控制有神經(jīng)網(wǎng)絡(luò)自校正控制和神經(jīng)網(wǎng)絡(luò)模型參考自適應(yīng)控制兩種。兩者的區(qū)別在于：自校正控制將根據(jù)對系統(tǒng)正向或逆模型建模的結(jié)果，直接調(diào)節(jié)控制器的內(nèi)部參數(shù)，使系統(tǒng)滿足給定的性能指標(biāo)。而在模型參考控制中，閉環(huán)控制系統(tǒng)的期望性能由一個(gè)穩(wěn)定的參考模型描述，控制的目的是使被控對象的輸出漸進(jìn)地趨于參考模型的輸出。3.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)3.神經(jīng)網(wǎng)絡(luò)自適應(yīng)控制483.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)（1）神經(jīng)網(wǎng)絡(luò)自校正控制

神經(jīng)網(wǎng)絡(luò)自校正控制可分為直接控制和間接控制兩種。他們的根本區(qū)別是：神經(jīng)網(wǎng)絡(luò)直接自校正控制由一個(gè)神經(jīng)網(wǎng)絡(luò)控制器和一個(gè)可進(jìn)行在線修正的神經(jīng)網(wǎng)絡(luò)辨識器組成；神經(jīng)網(wǎng)絡(luò)間接自校正控制由一個(gè)常規(guī)控制器和一個(gè)具有離線辨識能力的神經(jīng)網(wǎng)絡(luò)辨識器組成，神經(jīng)網(wǎng)絡(luò)辨識器需要具有很高的建模精度。神經(jīng)網(wǎng)絡(luò)間接自校正控制結(jié)構(gòu)如圖3-21所示：

圖3-21神經(jīng)網(wǎng)絡(luò)間接自校正控制

3.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)（1）神經(jīng)網(wǎng)絡(luò)自校正控制圖493.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)(2)神經(jīng)網(wǎng)絡(luò)模型參考自適應(yīng)控制

基于神經(jīng)網(wǎng)絡(luò)模型參考自適應(yīng)控制分為直接模型參考自適應(yīng)控制和間接模型參考自適應(yīng)控制兩種，如圖3-22所示：

圖3-22神經(jīng)網(wǎng)絡(luò)模型參考自適應(yīng)控制

（a）直接模型參考自適應(yīng)控制（b）間接模型參考自適應(yīng)控制3.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)(2)神經(jīng)網(wǎng)絡(luò)模型參考自503.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)4.神經(jīng)網(wǎng)絡(luò)內(nèi)?？刂?/p>

內(nèi)?？刂茖⒈豢叵到y(tǒng)的正向模型和逆模型直接加入反饋回路，系統(tǒng)的正向模型作為被控對象的近似模型與實(shí)際對象并聯(lián)，兩者輸出之差被用做反饋信號，該反饋信號又經(jīng)過前向通道的濾波器及控制器進(jìn)行處理。圖3-23所示為神經(jīng)網(wǎng)絡(luò)內(nèi)?？刂疲簣D3-23神經(jīng)網(wǎng)絡(luò)內(nèi)?？刂?/p>

3.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)4.神經(jīng)網(wǎng)絡(luò)內(nèi)?？刂茍D513.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)5.神經(jīng)網(wǎng)絡(luò)預(yù)測控制

預(yù)測控制又稱為基于模型的控制，這種算法的特征是預(yù)測模型，滾動優(yōu)化和反饋校正。神經(jīng)網(wǎng)絡(luò)預(yù)測控制的結(jié)構(gòu)如圖3-24所示：圖3-24神經(jīng)網(wǎng)絡(luò)預(yù)測控制3.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)5.神經(jīng)網(wǎng)絡(luò)預(yù)測控制圖523.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)6.神經(jīng)網(wǎng)絡(luò)自適應(yīng)評判控制神經(jīng)網(wǎng)絡(luò)自適應(yīng)評判控制通常由兩個(gè)網(wǎng)絡(luò)組成，如圖3-25所示：圖3-25神經(jīng)網(wǎng)絡(luò)自適應(yīng)評判控制

3.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)6.神經(jīng)網(wǎng)絡(luò)自適應(yīng)評判533.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)7.神經(jīng)網(wǎng)絡(luò)混合控制神經(jīng)網(wǎng)絡(luò)專家控制神經(jīng)網(wǎng)絡(luò)模糊控制基因神經(jīng)網(wǎng)絡(luò)模糊控制3.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)7.神經(jīng)網(wǎng)絡(luò)混合控制543.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)3.4.3基于單神經(jīng)元PID控制

單神經(jīng)元PID控制結(jié)構(gòu)如圖3-26所示：單神經(jīng)元優(yōu)點(diǎn)：（1）良好的自適應(yīng)性和魯棒性（2）易于調(diào)試（3）控制品質(zhì)良好（4）響應(yīng)速度快

圖3-26單神經(jīng)元PID控制結(jié)構(gòu)

3.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)3.4.3基于單神經(jīng)元553.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)3.4.3基于單神經(jīng)元PID控制單神經(jīng)元控制器是通過對加權(quán)系數(shù)的調(diào)整來實(shí)現(xiàn)自適應(yīng)、自組織功能的，權(quán)系數(shù)的調(diào)整是按有監(jiān)督的Hebb學(xué)習(xí)規(guī)則實(shí)現(xiàn)的?？刂扑惴皩W(xué)習(xí)算法為：

3.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)3.4.3基于單神經(jīng)元563.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)3.4.3基于單神經(jīng)元PID控制單神經(jīng)元自適應(yīng)PID學(xué)習(xí)算法的運(yùn)行效果與可調(diào)參數(shù)，，，的選取有關(guān)，選取規(guī)則歸納如下：（1）增益是系統(tǒng)最敏感的參數(shù)。對階躍輸入，若輸出有大的超調(diào)，甚至出現(xiàn)震蕩，應(yīng)減小，維持，，不變，若上升時(shí)間長，無超調(diào)，應(yīng)增大，、、不變。（2）對階躍輸入，若被控對象產(chǎn)生多次正弦衰減現(xiàn)象，應(yīng)減少，其它參數(shù)不變。3.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)3.4.3基于單神經(jīng)元573.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)（3）若被控對象響應(yīng)特性出現(xiàn)上升時(shí)間短，有過大超調(diào)，應(yīng)減少，其它參數(shù)不變。（4）若被控對象上升時(shí)間長，增大，又導(dǎo)致超調(diào)過大，可適當(dāng)增加，其它參數(shù)不變。（5）在開始調(diào)整時(shí)，選擇較小值，當(dāng)調(diào)整，和使被控對象具有良好特性時(shí)，再逐漸增加，而其它參數(shù)不變，使系統(tǒng)穩(wěn)態(tài)輸出基本無波紋。3.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)（3）若被控對象響應(yīng)特性出583.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)3.4.4仿真實(shí)例

被控對象為

輸入指令為一方波信號：，采樣時(shí)間為1ms，=0.40，=0.35，=0.40，采用有監(jiān)督Hebb學(xué)習(xí)實(shí)現(xiàn)權(quán)值的學(xué)習(xí)，初始權(quán)值取，。仿真結(jié)果如圖3-27至3-29所示。3.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)3.4.4仿真實(shí)例593.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)圖3-27輸入曲線圖3-28誤差曲線圖3-29基于無監(jiān)督Hebb學(xué)習(xí)規(guī)則的位置跟蹤3.4神經(jīng)網(wǎng)絡(luò)控制器原理及設(shè)計(jì)圖3-27輸入曲線圖603.5模糊神經(jīng)網(wǎng)絡(luò)控制及其應(yīng)用神經(jīng)網(wǎng)絡(luò)和模糊系統(tǒng)有各自的優(yōu)缺點(diǎn)，如何將它們結(jié)合起來，充分發(fā)揮它們各自的優(yōu)缺點(diǎn)，是神經(jīng)網(wǎng)絡(luò)和模糊控制的一個(gè)共同發(fā)展研究方向。模糊神經(jīng)網(wǎng)絡(luò)（FNN）就是模糊理論同神經(jīng)網(wǎng)絡(luò)結(jié)合的產(chǎn)物，它匯聚了神經(jīng)網(wǎng)絡(luò)與模糊理論的優(yōu)點(diǎn)，集學(xué)習(xí)、聯(lián)想、識別、自適應(yīng)及模糊信息處理于一體。3.5模糊神經(jīng)網(wǎng)絡(luò)控制及其應(yīng)用神經(jīng)網(wǎng)絡(luò)和模糊系統(tǒng)有各自的613.5模糊神經(jīng)網(wǎng)絡(luò)控制及其應(yīng)用3.5、模糊神經(jīng)網(wǎng)絡(luò)控制及其應(yīng)用3.5.1、模糊神經(jīng)元3.5.2、模糊神經(jīng)網(wǎng)絡(luò)3.5.3、模糊神經(jīng)網(wǎng)絡(luò)控制器3.5模糊神經(jīng)網(wǎng)絡(luò)控制及其應(yīng)用3.5、模糊神經(jīng)網(wǎng)絡(luò)控制623.5模糊神經(jīng)網(wǎng)絡(luò)控制及其應(yīng)用3.5.1模糊神經(jīng)元

所謂模糊神經(jīng)元是指一類可進(jìn)行模糊信息處理或模糊邏輯運(yùn)算的人工神經(jīng)元。有下面三種模型：（1）模糊化神經(jīng)元這類模糊化神經(jīng)元是指可將觀測值或輸入值定量化或標(biāo)準(zhǔn)化的神經(jīng)元。常采用單輸入單輸出形式，其輸入輸出關(guān)系為：（2）去模糊化神經(jīng)元這是一類將模糊值形式的輸出結(jié)果變?yōu)榇_定值形式的輸出結(jié)果的信息處理單元。去模糊化神經(jīng)元所表達(dá)的輸入輸出關(guān)系為3.5模糊神經(jīng)網(wǎng)絡(luò)控制及其應(yīng)用3.5.1模糊神經(jīng)元633.5模糊神經(jīng)網(wǎng)絡(luò)控制及其應(yīng)用（3）模糊邏輯神經(jīng)元這類模糊邏輯神經(jīng)元是指可進(jìn)行模糊邏輯運(yùn)算的神經(jīng)元。這是一類多輸入單輸出類型的神經(jīng)元，其輸入輸出關(guān)系為：3.5模糊神經(jīng)網(wǎng)絡(luò)控制及其應(yīng)用（3）模糊邏輯神經(jīng)元643.5模糊神經(jīng)網(wǎng)絡(luò)控制及其應(yīng)用3.5.2模糊神經(jīng)網(wǎng)絡(luò)可進(jìn)行模糊信息處理的神經(jīng)網(wǎng)絡(luò)，稱為模糊神經(jīng)網(wǎng)絡(luò)。它們通常是一類由大量模糊的或非模糊的神經(jīng)元相互聯(lián)結(jié)構(gòu)成的網(wǎng)絡(luò)系統(tǒng)。通常將最基本的神經(jīng)網(wǎng)絡(luò)劃分為前向型模糊神經(jīng)網(wǎng)絡(luò)和反饋型模糊神經(jīng)網(wǎng)絡(luò)兩大類。（1）前向型模糊神經(jīng)網(wǎng)絡(luò)是一類可實(shí)現(xiàn)模糊映射關(guān)系的模糊神經(jīng)網(wǎng)絡(luò)。這類網(wǎng)絡(luò)通常由模糊化網(wǎng)層、模糊關(guān)系映射網(wǎng)層和去模糊化網(wǎng)層構(gòu)成，如下圖所示：3.5模糊神經(jīng)網(wǎng)絡(luò)控制及其應(yīng)用3.5.2模糊神經(jīng)網(wǎng)絡(luò)653.5模糊神經(jīng)網(wǎng)絡(luò)控制及其應(yīng)用

前向型模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

3.5模糊神經(jīng)網(wǎng)絡(luò)控制及其應(yīng)用前向型模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)663.5模糊神經(jīng)網(wǎng)絡(luò)控制及其應(yīng)用模糊化網(wǎng)層是對模糊信息進(jìn)行預(yù)處理的網(wǎng)層，主要由模糊化神經(jīng)元組成。其主要功能是對觀測值和輸入值（包括模糊的和非模糊的信息、數(shù)據(jù)）進(jìn)行規(guī)范化處理，使之適應(yīng)后面的網(wǎng)絡(luò)化處理。模糊關(guān)系映射網(wǎng)層是前向型模糊神經(jīng)網(wǎng)絡(luò)的核心，可模擬執(zhí)行模糊關(guān)系的映射，以實(shí)現(xiàn)模糊模式識別、模糊推理和模糊聯(lián)想等。去模糊化網(wǎng)層可對映射網(wǎng)層的輸出結(jié)果進(jìn)行非模糊化處理。這在識別與控制領(lǐng)域有時(shí)十分必要，因?yàn)橄到y(tǒng)有時(shí)要求給出確定性的結(jié)果以供執(zhí)行器去執(zhí)行。3.5模糊神經(jīng)網(wǎng)絡(luò)控制及其應(yīng)用模糊化網(wǎng)層是對模糊信息進(jìn)行673.5模糊神經(jīng)網(wǎng)絡(luò)控制及其應(yīng)用（2）反饋型模糊神經(jīng)網(wǎng)絡(luò)主要是一類可實(shí)現(xiàn)模糊聯(lián)想存儲與映射的網(wǎng)絡(luò)，有時(shí)也稱其為模糊聯(lián)想存儲器。與一般反饋型神經(jīng)網(wǎng)絡(luò)所不同的是，反饋型模糊神經(jīng)網(wǎng)絡(luò)中的信息處理單元——神經(jīng)元，不是普通的閾值神經(jīng)元，而是模糊神經(jīng)元。因而其所實(shí)現(xiàn)的聯(lián)想與映射是一種模糊聯(lián)想與映射。這種模糊聯(lián)想與映射比一般的聯(lián)想與映射具有更大的吸引域和容錯(cuò)能力。3.5模糊神經(jīng)網(wǎng)絡(luò)控制及其應(yīng)用（2）反饋型模糊神經(jīng)網(wǎng)絡(luò)主683.5模糊神經(jīng)網(wǎng)絡(luò)控制及其應(yīng)用3.5.3模糊神經(jīng)網(wǎng)絡(luò)控制器模糊神經(jīng)元網(wǎng)絡(luò)可以用一般的多層前向BP網(wǎng)絡(luò)實(shí)現(xiàn)，但由于涉及到模糊成分的方式不同，可得到多種類型的模糊神經(jīng)元網(wǎng)絡(luò)。一個(gè)具有個(gè)輸入單輸出的模糊推理系統(tǒng)可描述為：3.5模糊神經(jīng)網(wǎng)絡(luò)控制及其應(yīng)用3.5.3模糊神經(jīng)網(wǎng)絡(luò)693.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用神經(jīng)網(wǎng)絡(luò)工具箱幾乎包括了現(xiàn)有神經(jīng)網(wǎng)絡(luò)的最新成果，涉及的神經(jīng)網(wǎng)絡(luò)模型包括：（1）感知器；（2）線性網(wǎng)絡(luò)；（3）BP網(wǎng)絡(luò)；（4）徑向基函數(shù)網(wǎng)絡(luò)；（5）競爭型神經(jīng)網(wǎng)絡(luò)；（6）自組織網(wǎng)絡(luò)和學(xué)習(xí)向量量化網(wǎng)絡(luò)；（7）反饋網(wǎng)絡(luò)。3.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用神經(jīng)網(wǎng)絡(luò)工具箱幾乎703.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用3.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用3.6.1MATLAB工具箱的神經(jīng)元模型3.6.2

MATLAB工具箱中的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)3.6.3MATLAB工具箱函數(shù)3.6.4仿真實(shí)例3.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用713.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用3.6.1MATLAB工具箱的神經(jīng)元模型神經(jīng)元的輸出可表示為寫成矩陣形式3.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用3.6.1M723.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用

MATLAB中人工神經(jīng)元的一般模型

3.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用MATLAB中733.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用

單層神經(jīng)網(wǎng)絡(luò)的向量模型3.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用單層神經(jīng)網(wǎng)絡(luò)的743.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用3.6.2、MATLAB工具箱中的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)以兩層前饋神經(jīng)網(wǎng)絡(luò)模型為例，MATLAB工具箱中的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖所示3.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用3.6.2、MAT753.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用

多層神經(jīng)網(wǎng)絡(luò)的向量模型3.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用多層神經(jīng)網(wǎng)絡(luò)的向763.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用在輸入向量和輸出向量之間的網(wǎng)絡(luò)層稱之為隱層，網(wǎng)絡(luò)的層數(shù)為神經(jīng)元網(wǎng)絡(luò)的數(shù)目，即隱層數(shù)加1（注意輸入向量不是神經(jīng)元網(wǎng)絡(luò)層）。若用向量表示網(wǎng)絡(luò)的各個(gè)參數(shù)，則為神經(jīng)網(wǎng)絡(luò)的輸入向量，維數(shù)為：為第一層神經(jīng)元的閾值向量，維數(shù)為：3.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用在輸入向量和輸出向773.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用為第一層（輸入層）神經(jīng)元與輸入量的連接權(quán)向量，維數(shù)為為第一層神經(jīng)元的中間運(yùn)算結(jié)果，即連接權(quán)向量與閾值向量的加權(quán)和，維數(shù)為，即3.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用為第一783.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用為第一層神經(jīng)元的輸出向量，維數(shù)為。按照同樣的方法，可寫出第二層（即輸出層）的權(quán)值、閾值、輸出向量等。輸出向量（維數(shù)為）：3.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用為第一層神經(jīng)793.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用當(dāng)現(xiàn)有網(wǎng)絡(luò)模型滿足不了用戶的要求時(shí)，用戶可以自定義網(wǎng)絡(luò)模型。MATLAB沒有提供現(xiàn)成的自定義網(wǎng)絡(luò)模型的函數(shù)，但MATLAB提供了通過自定義網(wǎng)絡(luò)對象屬性來創(chuàng)建網(wǎng)絡(luò)的方法，從而用戶可以隨心所欲地創(chuàng)建自己的網(wǎng)絡(luò)模型。3.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用當(dāng)現(xiàn)有網(wǎng)絡(luò)模型滿足803.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用3.6.3MATLAB工具箱函數(shù)MATLAB6.5神經(jīng)網(wǎng)絡(luò)NNET4.0.2包含了170多種工具箱函數(shù)，若需要詳細(xì)的說明，可參閱MATLAB的幫助文檔。例如：網(wǎng)絡(luò)創(chuàng)建函數(shù)、學(xué)習(xí)函數(shù)、訓(xùn)練函數(shù)等。3.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用3.6.3MA813.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用（1）網(wǎng)絡(luò)創(chuàng)建函數(shù)newp 創(chuàng)建感知器網(wǎng)絡(luò)newlind 設(shè)計(jì)一線性層newlin 創(chuàng)建一線性層newff 創(chuàng)建一前饋BP網(wǎng)絡(luò)newcf 創(chuàng)建一多層前饋BP網(wǎng)絡(luò)newfftd 創(chuàng)建一前饋輸入延遲BP網(wǎng)絡(luò)newrb 設(shè)計(jì)一徑向基網(wǎng)絡(luò)newrbe 設(shè)計(jì)一嚴(yán)格的徑向基網(wǎng)絡(luò)newgrnn 設(shè)計(jì)一廣義回歸神經(jīng)網(wǎng)絡(luò)newpnn 設(shè)計(jì)一概率神經(jīng)網(wǎng)絡(luò)newhop 創(chuàng)建一Hopfield遞歸網(wǎng)絡(luò)newsom 創(chuàng)建一自組織特征映射newelm 創(chuàng)建一Elman遞歸網(wǎng)絡(luò)newc 創(chuàng)建一競爭層3.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用（1）網(wǎng)絡(luò)創(chuàng)建函數(shù)823.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用3.6.4仿真實(shí)例例3-3采用單一感知器神經(jīng)元解決一個(gè)簡單分類問題：將四個(gè)輸入矢量分為兩類，其中兩個(gè)矢量對應(yīng)的目標(biāo)值為1，另兩個(gè)矢量對應(yīng)的目標(biāo)值為0，即輸入矢量為：P=[-0.5-0.50.30;-0.50.5-0.51]；目標(biāo)分類矢量：T=[1100]。3.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用3.6.4仿真833.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用MATLAB代碼如下：P=[-0.5-0.50.30;-0.50.5-0.51];T=[1100];net=newp([-11;-11],1);handle=plotpc(net.iw{1},net.b{1});%返回畫線的句柄，下一次繪制分類線時(shí)將舊的刪除net.trainParam.epochs=20; %設(shè)置訓(xùn)練次數(shù)最大為20net=train(net,P,T);Y=sim(net,P);figure;plotpv(P,Y); %繪制分類線handle=plotpc(net.iw{1},net.b{1},handle);3.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用MATLAB代碼如843.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用例3-4通過對函數(shù)進(jìn)行采樣得到了網(wǎng)絡(luò)的輸入向量P和目標(biāo)向量T，分別為：P=-1:0.1:1，T=[-0.9602-0.5770-0.07290.37710.64050.66000.46090.1336-0.2013-0.4344-0.5000-0.3930-0.16470.09880.30720.39600.34490.1816-0.0312-0.2189-0.3201]。設(shè)計(jì)一個(gè)單隱層神經(jīng)網(wǎng)絡(luò)來逼近該函數(shù)。解：繪圖顯示：plot(P,T,'r+');xlabel('P');label('T');3.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用例3-4通過對853.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用該網(wǎng)絡(luò)輸入層和輸出層的神經(jīng)元個(gè)數(shù)為1，根據(jù)隱層設(shè)計(jì)經(jīng)驗(yàn)公式，取該隱含層神經(jīng)元個(gè)數(shù)為7，網(wǎng)絡(luò)的隱含層神經(jīng)元的傳遞函數(shù)為logsig，輸出層神經(jīng)元的傳遞函數(shù)為purelin，則網(wǎng)絡(luò)設(shè)計(jì)及訓(xùn)練代碼如下：

net=newff(minmax(P),[7,1],{'logsig','purelin'},'trainlm');net.trainParam.epochs=1000;net.trainParam.goal=0.001;

net=train(net,P,T);Y=sim(net,P);plot(P,T,'r+');holdon;plot(P,Y,'.');3.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用該網(wǎng)絡(luò)輸入層和輸出863.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用神經(jīng)網(wǎng)絡(luò)逼近結(jié)果神經(jīng)網(wǎng)絡(luò)訓(xùn)練誤差曲線3.6MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的使用神經(jīng)網(wǎng)絡(luò)逼近結(jié)果神873.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例3.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例3.7.1神經(jīng)網(wǎng)絡(luò)在故障模式識別中的應(yīng)用3.7.2基于BP網(wǎng)絡(luò)的電力電子電路故障診斷3.7.3洗衣機(jī)的神經(jīng)網(wǎng)絡(luò)模糊控制器的設(shè)計(jì)3.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例3.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)883.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例3.7.1神經(jīng)網(wǎng)絡(luò)在故障模式識別中的應(yīng)用神經(jīng)網(wǎng)絡(luò)由于自身的特性，在故障模式識別領(lǐng)域中有著越來越廣泛的應(yīng)用。下面以單隱層BP網(wǎng)絡(luò)為例，介紹基于神經(jīng)網(wǎng)絡(luò)診斷的方法和特點(diǎn)。其中，網(wǎng)絡(luò)的輸入結(jié)點(diǎn)對應(yīng)著故障征兆，輸出結(jié)點(diǎn)對應(yīng)著故障原因。首先利用一組故障樣本對網(wǎng)絡(luò)進(jìn)行訓(xùn)練，以確定網(wǎng)絡(luò)的結(jié)構(gòu)（中間層的傳遞函數(shù)和神經(jīng)元數(shù)目)和參數(shù)（神經(jīng)元之間的連接權(quán)值和閾值）。網(wǎng)絡(luò)訓(xùn)練完畢后，故障的模式分類就是根據(jù)給定的一組征兆，實(shí)現(xiàn)征兆集到故障集之間的非線性映射的過程。3.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例3.7.1神經(jīng)網(wǎng)絡(luò)在故893.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例利用神經(jīng)網(wǎng)絡(luò)進(jìn)行的故障模式識別具有以下特點(diǎn)：（1）可用于系統(tǒng)模型未知或系統(tǒng)模型較為復(fù)雜，以及非線性系統(tǒng)的故障模式識別。（2）兼有故障信號的模式變換和特征提取功能。（3）對系統(tǒng)含有不確定因素、噪聲及輸入模式不完備的情況下不太敏感。（4）可用于復(fù)雜多模式的故障診斷。（5）可用于離線診斷，也能適應(yīng)實(shí)時(shí)監(jiān)測的要求。3.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例利用神經(jīng)網(wǎng)絡(luò)進(jìn)行的故障模式903.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例

基于神經(jīng)網(wǎng)絡(luò)模式識別功能的診斷系統(tǒng)結(jié)構(gòu)3.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例基于神經(jīng)網(wǎng)絡(luò)模式識913.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例在上圖中，基于神經(jīng)網(wǎng)絡(luò)的診斷過程分為兩步。首先，基于一定數(shù)量的訓(xùn)練樣本集（通常稱為“征兆-故障”數(shù)據(jù)集）對神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，得到期望的診斷網(wǎng)絡(luò)；其次，根據(jù)當(dāng)前診斷輸入對系統(tǒng)進(jìn)行診斷，診斷的過程即為利用神經(jīng)網(wǎng)絡(luò)進(jìn)行前向計(jì)算的過程。在學(xué)習(xí)和診斷之前，通常需要對診斷原始數(shù)據(jù)和訓(xùn)練樣本數(shù)據(jù)進(jìn)行適當(dāng)?shù)奶幚?，包括預(yù)處理和特征選取/提取等，目的是為診斷網(wǎng)絡(luò)提供合適的診斷輸入和訓(xùn)練樣本。此外，盡管神經(jīng)網(wǎng)絡(luò)和傳統(tǒng)的故障診斷是兩種不同的診斷方法，但兩者緊密聯(lián)系在一起的。如采用小波分析等數(shù)據(jù)處理方法，可以為神經(jīng)網(wǎng)絡(luò)診斷提供可以利用的特征向量。3.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例在上圖中，基于神經(jīng)網(wǎng)絡(luò)的診923.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例利用BP網(wǎng)絡(luò)進(jìn)行故障診斷的一般步驟和注意事項(xiàng)如下：（1）確定合理的網(wǎng)絡(luò)結(jié)構(gòu)和規(guī)模，尤其是網(wǎng)絡(luò)中間層神經(jīng)元個(gè)數(shù)的選擇是網(wǎng)絡(luò)結(jié)構(gòu)確定和網(wǎng)絡(luò)性能的關(guān)鍵。（2）確定訓(xùn)練樣本集和測試集。訓(xùn)練樣本集用于對網(wǎng)絡(luò)進(jìn)行訓(xùn)練，而測試集用于監(jiān)測網(wǎng)絡(luò)訓(xùn)練的效果和推廣能力。一般來說，訓(xùn)練樣本集不僅應(yīng)全面涵蓋所有故障模式類的數(shù)據(jù)，還應(yīng)具有一定的代表性，同時(shí)還必須保證學(xué)習(xí)的有效性。測試樣本集的選擇應(yīng)該滿足“交叉檢驗(yàn)（crossvalidation）”的原則。（3）根據(jù)訓(xùn)練樣本集對網(wǎng)絡(luò)進(jìn)行訓(xùn)練，經(jīng)過測試的訓(xùn)練結(jié)果即為神經(jīng)網(wǎng)絡(luò)故障診斷知識庫。（4）根據(jù)診斷輸入，利用BP網(wǎng)絡(luò)進(jìn)行診斷。3.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例利用BP網(wǎng)絡(luò)進(jìn)行故障診斷的933.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例3.7.2

基于BP網(wǎng)絡(luò)的電力電子電路故障診斷電力電子電路的診斷具有相當(dāng)?shù)膹?fù)雜性，主要原因之一是由于功率器件的損壞造成主電路結(jié)構(gòu)的改變。因此，功率元件的故障診斷成為電力電子電路故障診斷的首要重點(diǎn)。對電路發(fā)生故障時(shí)輸出的波形進(jìn)行分析，用故障波形的采樣數(shù)據(jù)制作的樣本對神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，將訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)用于故障診斷，從而實(shí)現(xiàn)故障的在線診斷。3.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例3.7.2基于BP網(wǎng)絡(luò)943.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例1、用于診斷的神經(jīng)網(wǎng)絡(luò)模型3.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例1、用于診斷的神經(jīng)網(wǎng)絡(luò)模型953.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例若網(wǎng)絡(luò)輸出與期望輸出值不一致，則將其誤差信號從輸出端反向傳播，并在傳播過程中對加權(quán)系數(shù)不斷修正，使在輸出層節(jié)點(diǎn)上得到的輸出結(jié)果盡可能接近期望輸出值。對樣本(=1，2……，P)完成網(wǎng)絡(luò)加權(quán)系數(shù)的調(diào)整后，再送入另一樣本模式時(shí)，進(jìn)行類似學(xué)習(xí)，直到完成P個(gè)樣本的訓(xùn)練學(xué)習(xí)為止。3.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例若網(wǎng)絡(luò)輸出與期望輸出值不一963.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例BP神經(jīng)網(wǎng)絡(luò)故障診斷模型主要包括三層：1)輸入層，即從實(shí)際系統(tǒng)接受的各種故障信息及現(xiàn)象；2)中間層，是把輸入層得到的故障信息，經(jīng)內(nèi)部的學(xué)習(xí)和處理，轉(zhuǎn)化為針對性的解決辦法；3)輸出層，是針對輸入的故障形式，經(jīng)過調(diào)整權(quán)系數(shù)后，得到的處理故障方法。簡而言之，基于神經(jīng)網(wǎng)絡(luò)模型的故障診斷就是利用樣本訓(xùn)練收斂穩(wěn)定后的節(jié)點(diǎn)連接權(quán)值，向網(wǎng)絡(luò)輸入待診斷的樣本征兆參數(shù)，計(jì)算網(wǎng)絡(luò)的實(shí)際輸出值，根據(jù)輸出的大小排序，從而確定故障類別。3.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例BP神經(jīng)網(wǎng)絡(luò)故障診斷模型主973.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例3.7.3洗衣機(jī)的神經(jīng)網(wǎng)絡(luò)模糊控制器的設(shè)計(jì)在洗滌衣物過程中，衣物的多少，面料的軟硬等都是模糊量，所以首先做大量的實(shí)驗(yàn)，總結(jié)出人為洗滌方式，從而形成模糊控制規(guī)則。根據(jù)傳感器接收的信息，洗衣機(jī)判斷出衣物多少，面料軟硬和臟污程度、臟污性質(zhì)、推理做出模糊決策。從而完成注水量、洗滌時(shí)間、水流強(qiáng)弱、洗滌方式、脫水時(shí)間、排水等所有功能。3.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例3.7.3洗衣機(jī)的神經(jīng)983.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例

確定洗滌時(shí)間的模糊推理框圖3.7神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)應(yīng)用實(shí)例確定洗滌