智能診斷技術(shù)人工神經(jīng)網(wǎng)絡(luò)

智能診斷技術(shù)人工神經(jīng)網(wǎng)絡(luò)第1頁，共39頁，2023年，2月20日，星期五智能診斷發(fā)展背景及歷史以經(jīng)典控制理論和現(xiàn)代控制理論為基礎(chǔ)的診斷技術(shù)被稱為傳統(tǒng)(或常規(guī))的診斷技術(shù)，傳統(tǒng)診斷技術(shù)的共同特點是：各種理論與方法都是建立在對象的數(shù)學(xué)模型基礎(chǔ)上的，或者說，傳統(tǒng)診斷技術(shù)的前提條件是必須能夠在常規(guī)理論指定的框架下，用數(shù)學(xué)公式嚴(yán)格地描繪出被控對象的動態(tài)行為。第2頁，共39頁，2023年，2月20日，星期五3診斷技術(shù)的發(fā)展

故障診斷技術(shù)是醫(yī)學(xué)診斷的基本思想在工程領(lǐng)域的推廣和應(yīng)用，其發(fā)展過程可分為兩個階段，

第一階段：常規(guī)診斷技術(shù)基礎(chǔ)：傳感器技術(shù)和自動測試技術(shù)。方法：診斷方法包括單信號處理方法、單信號濾波診斷、多信號模型診斷以及機內(nèi)測試技術(shù)(build—intest，BIT)（1）單信號處理方法較少考慮信號間的耦合，主要采用閥值模型。當(dāng)系統(tǒng)的輸入輸出超出一定范圍時，就認(rèn)為故障已經(jīng)發(fā)生或?qū)⒁l(fā)生，信號也主要是由人工通過各種儀器儀表進(jìn)行采集（2）單信號濾波診斷的基本原理是對時間序列信號進(jìn)行濾波變換，得到信號的特征信息后，再對此特征信息進(jìn)行閥值診斷第3頁，共39頁，2023年，2月20日，星期五診斷技術(shù)的發(fā)展（3）多信號模型診斷的特點是考慮了信號間的融合關(guān)系，且通過定量和定性的分析方法實現(xiàn)診斷。（4）機內(nèi)測試技術(shù)是利用設(shè)備內(nèi)部具有自檢能力的硬件和軟件來實現(xiàn)對設(shè)備檢測的一種方法，可為系統(tǒng)和設(shè)備內(nèi)部提供檢測、故障隔離的能力。傳統(tǒng)診斷技術(shù)特點：以數(shù)據(jù)處理為核心，側(cè)重信號的檢測和分析;發(fā)展比較成熟，但診斷功能較弱。第4頁，共39頁，2023年，2月20日，星期五診斷技術(shù)的發(fā)展

隨著計算機技術(shù)的發(fā)展及智能技術(shù)的應(yīng)用，近代工業(yè)控制系統(tǒng)和航空航天控制系統(tǒng)正日趨復(fù)雜，系統(tǒng)中任一元部件的失效都可能使系統(tǒng)性能降低，甚至造成重大事故。面對現(xiàn)實情況，人們已開始思考傳統(tǒng)診斷技術(shù)的局限性了。第二階段：智能診斷技術(shù)=AI+常規(guī)診斷技術(shù)

智能診斷技術(shù)是在計算機和人工智能的基礎(chǔ)上發(fā)展起來的，是一門集數(shù)學(xué)、物理、化學(xué)、電子技術(shù)、計算機技術(shù)、通訊技術(shù)、信息處理、模式識別和人工智能等多學(xué)科于一體的綜合性技術(shù)特點：以知識處理為核心，運用人工智能(AI)技術(shù)實現(xiàn)診斷過程的自動化和智能化。研究重點：智能診斷方法。第5頁，共39頁，2023年，2月20日，星期五智能診斷方法智能診斷技術(shù)是在計算機和人工智能的基礎(chǔ)上發(fā)展起來的，所以其在工程實現(xiàn)中主要是組成以計算機為主體的智能診斷系統(tǒng)，他有單機模式、分布式模式、網(wǎng)絡(luò)化模式3種結(jié)構(gòu)模式。其方法主要有：基于專家系統(tǒng)的診斷方法和基于神經(jīng)網(wǎng)絡(luò)的診斷方法。此外還有基于模糊邏輯的診斷方法以及基于模糊粗糙集的診斷方法第6頁，共39頁，2023年，2月20日，星期五7

故障診斷技術(shù)是醫(yī)學(xué)診斷的基本思想在工程領(lǐng)域的推廣和應(yīng)用，其發(fā)展過程可分為兩個階段，

第一階段：常規(guī)診斷技術(shù)基礎(chǔ)：傳感器技術(shù)和自動測試技術(shù)。特點：以數(shù)據(jù)處理為核心，側(cè)重信號的檢測和分析;發(fā)展比較成熟，但診斷功能較弱。

第二階段：智能診斷技術(shù)=AI+常規(guī)診斷技術(shù)特點：以知識處理為核心，運用人工智能(AI)技術(shù)實現(xiàn)診斷過程的自動化和智能化。研究重點：智能診斷方法。第7頁，共39頁，2023年，2月20日，星期五智能診斷技術(shù)人工神經(jīng)網(wǎng)絡(luò)診斷原理第8頁，共39頁，2023年，2月20日，星期五9神經(jīng)網(wǎng)絡(luò)診斷原理

什么是人工神經(jīng)網(wǎng)絡(luò)人工神經(jīng)網(wǎng)絡(luò)（ArtificialNeuralNetworks，簡稱ANN）是在神經(jīng)生理學(xué)研究的基礎(chǔ)上，模仿人腦神經(jīng)元結(jié)構(gòu)特性而建立的一種網(wǎng)絡(luò)系統(tǒng)。它由大量處理單元高度互聯(lián)而成，具有對人腦某些基本特性的簡單模擬能力。ANN是一種模仿人腦結(jié)構(gòu)及其功能的信息處理系統(tǒng)。簡單地講，它是一個數(shù)學(xué)模型，可以用電子線路來實現(xiàn)，也可以用計算機程序來模擬。別名：并行分布處理系統(tǒng)(PDP)、人工神經(jīng)系統(tǒng)(ANS)、神經(jīng)網(wǎng)絡(luò)(NN)、神經(jīng)計算機(Neurocomputer)第9頁，共39頁，2023年，2月20日，星期五10神經(jīng)網(wǎng)絡(luò)診斷原理

生物神經(jīng)系統(tǒng)腦組織的基本單元是神經(jīng)細(xì)胞，也稱神經(jīng)元(Neuron)；人腦由約1011個神經(jīng)元組成，神經(jīng)元互連構(gòu)成神經(jīng)網(wǎng)絡(luò)第10頁，共39頁，2023年，2月20日，星期五11神經(jīng)網(wǎng)絡(luò)診斷原理

生物神經(jīng)元結(jié)構(gòu)軸突(Axon)：由細(xì)胞體伸出的最長一條神經(jīng)纖維，相當(dāng)于神經(jīng)元的輸出電纜，其端部神經(jīng)末稍為信號的輸出端。樹突(Dendrite)：由細(xì)胞體向外伸出的較短的神經(jīng)纖維，相當(dāng)于神經(jīng)元的輸入端，接受其他神經(jīng)元的輸入信息。

生物神經(jīng)元結(jié)構(gòu)圖

第11頁，共39頁，2023年，2月20日，星期五12神經(jīng)網(wǎng)絡(luò)診斷原理

生物神經(jīng)元結(jié)構(gòu)突觸(Synapse)：一個神經(jīng)元的軸突末梢與另一個神經(jīng)元的樹突相接觸的部位,相當(dāng)于神經(jīng)元之間的輸入輸出接口同一神經(jīng)元輸出的信號是相同的，但對不同接受神經(jīng)元的影響效果不同，這主要由突觸的連接強度決定?？伤苄裕和挥|的連接強度可以通過訓(xùn)練而改變，即具有學(xué)習(xí)功能；突觸有兩種類型：刺激型和抑制型第12頁，共39頁，2023年，2月20日，星期五13

神經(jīng)網(wǎng)絡(luò)診斷原理

生物神經(jīng)系統(tǒng)的基本特征神經(jīng)元及其聯(lián)接：多輸入，單輸出；神經(jīng)元之間的聯(lián)接強度決定信號傳遞的強弱神經(jīng)元之間的聯(lián)接強度可以通過訓(xùn)練改變信號可以起刺激作用，也可以起抑制作用神經(jīng)元接受信號的累積決定該神經(jīng)元的狀態(tài)每個神經(jīng)元可以有一個“閾值”。第13頁，共39頁，2023年，2月20日，星期五14

神經(jīng)網(wǎng)絡(luò)診斷原理

人工神經(jīng)元模型多輸入：X=(x1，x2，…，xn)單輸出：y聯(lián)接強度：權(quán)值wi正負(fù)：突觸的興奮與抑制大?。和挥|的連接強度信號累積：求和函數(shù)神經(jīng)元閾值(偏置)：當(dāng)神經(jīng)元的網(wǎng)絡(luò)輸入

s>b時，它處于激發(fā)狀態(tài)，應(yīng)給出適當(dāng)?shù)妮敵?。b也相當(dāng)于固定輸入

x0=-1的權(quán)值；第14頁，共39頁，2023年，2月20日，星期五15

神經(jīng)網(wǎng)絡(luò)診斷原理人工神經(jīng)元模型f：激活函數(shù)，它是一個變換函數(shù)，將神經(jīng)元的網(wǎng)絡(luò)輸入變換到指定的有限范圍內(nèi)輸出。f是神經(jīng)元的核心，影響神經(jīng)網(wǎng)絡(luò)解決問題的能力。第15頁，共39頁，2023年，2月20日，星期五16

神經(jīng)網(wǎng)絡(luò)診斷原理激活函數(shù)（ActivationFunction）（1）階躍函數(shù)也稱為閾值函數(shù)作用：用于判定網(wǎng)絡(luò)輸入是否超過閾值b；y1.0

0x第16頁，共39頁，2023年，2月20日，星期五17

神經(jīng)網(wǎng)絡(luò)診斷原理1y0.5x0激活函數(shù)（ActivationFunction）（2）Sigmoid函數(shù)它是非線性函數(shù)，且處處連續(xù)可導(dǎo)；對信號有很好的增益控制應(yīng)用廣泛第17頁，共39頁，2023年，2月20日，星期五

神經(jīng)網(wǎng)絡(luò)診斷流程

故障診斷流程標(biāo)準(zhǔn)模式

信號預(yù)處理

診斷結(jié)果特征提取

故障分類器

訓(xùn)練樣本

待診斷樣本診斷自學(xué)習(xí)第18頁，共39頁，2023年，2月20日，星期五19

神經(jīng)網(wǎng)絡(luò)診斷原理

人工神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)神經(jīng)元的模型確定之后，一個神經(jīng)網(wǎng)絡(luò)的特性及能力主要取決于網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)及學(xué)習(xí)方法網(wǎng)絡(luò)結(jié)構(gòu)表示方法：（1）結(jié)點：代表神經(jīng)元；（2）加權(quán)有向邊：代表神經(jīng)元之間的有向連接。 其中：權(quán)代表連接強度，箭頭代表信號的傳遞方向根據(jù)神經(jīng)元連接方式的不同，分為如下兩種：（1）前饋網(wǎng)絡(luò)：應(yīng)用最廣泛（2）反饋網(wǎng)絡(luò)：第19頁，共39頁，2023年，2月20日，星期五20

神經(jīng)網(wǎng)絡(luò)診斷原理

多層前饋網(wǎng)絡(luò)神經(jīng)元分層排列，構(gòu)成輸入層、隱層和輸出層；每一層神經(jīng)元只接受前一層神經(jīng)元的輸出作為輸入；第20頁，共39頁，2023年，2月20日，星期五21

神經(jīng)網(wǎng)絡(luò)診斷原理

人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)ANN最有價值的特點是它的學(xué)習(xí)能力；學(xué)習(xí)過程就是訓(xùn)練過程；學(xué)習(xí)過程：將訓(xùn)練樣本輸入ANN,按規(guī)定的算法調(diào)整神經(jīng)元之間的連接權(quán)值，使網(wǎng)絡(luò)將樣本集中包含的知識存儲在聯(lián)接權(quán)矩陣中，當(dāng)網(wǎng)絡(luò)接受輸入時，能給出適當(dāng)?shù)妮敵觥W(xué)習(xí)方法分類：（1）有導(dǎo)師學(xué)習(xí)：按期望輸出與實際輸出的誤差調(diào)整權(quán)值（2）無導(dǎo)師學(xué)習(xí)：抽取訓(xùn)練樣本集的統(tǒng)計特性第21頁，共39頁，2023年，2月20日，星期五人工神經(jīng)網(wǎng)絡(luò)診斷的優(yōu)缺點

優(yōu)點：人工神經(jīng)網(wǎng)絡(luò)法的豐要優(yōu)點在于其具有自動學(xué)習(xí)、聯(lián)想、記憶和推測的功能：該方法是分布處理的．同時有并行處理復(fù)雜問題的強大功能：其非線性的映射很強．可以處理多故障的問題：其有能夠進(jìn)行多種因素預(yù)報的能力且其預(yù)測準(zhǔn)確度非常高。

缺點：人工神經(jīng)網(wǎng)絡(luò)法的主要缺點為：算法相當(dāng)復(fù)雜，需要預(yù)測的模型有一部分是無法用公式表達(dá)出來的：在訓(xùn)練的過程中需要樣本數(shù)量較大，并且當(dāng)樣本不足時，診斷的效果會大打折扣：應(yīng)用之前所需訓(xùn)練的時間過長。第22頁，共39頁，2023年，2月20日，星期五神經(jīng)網(wǎng)絡(luò)診斷原理人工神經(jīng)剛絡(luò)法是根據(jù)生物神經(jīng)學(xué)方面的研究成果而提出的一個人工智能方面的概念．其主要含義是對人腦中神經(jīng)結(jié)構(gòu)和行為進(jìn)行類似模擬。因為該法是高度并行的．所以在對故障的處理中速度極快．并且能夠根據(jù)環(huán)境自動辨識．以線性的方法處理問題。人工神經(jīng)網(wǎng)絡(luò)作為一種自適應(yīng)的模式識別技術(shù)，并不需要預(yù)先給出關(guān)于模式的先驗知識和判別函數(shù)，而是通過自身的學(xué)習(xí)機制自動形成所要求的決策區(qū)域，具有并行分布處理能力，以及自組織、自學(xué)習(xí)、自適應(yīng)能力和聯(lián)想記憶功能等。處理模糊的、隨機的、不完整的信息，并可通過故障實例和診斷經(jīng)驗知識進(jìn)行訓(xùn)練和學(xué)習(xí)，把故障診斷的知識存儲于網(wǎng)絡(luò)的連接權(quán)中。環(huán)境改變時還可進(jìn)行自適應(yīng)調(diào)整，實現(xiàn)輸入征兆與故障間的非線性映像，出色解決那些用傳統(tǒng)模式識別方法難以圓滿解決的問題第23頁，共39頁，2023年，2月20日，星期五24

神經(jīng)網(wǎng)絡(luò)診斷原理

BP算法的出現(xiàn)含有隱層的多級前饋網(wǎng)絡(luò)能大大提高網(wǎng)絡(luò)的分類能力，但一直沒有提出多級網(wǎng)絡(luò)的學(xué)習(xí)算法；如何估計網(wǎng)絡(luò)隱層神經(jīng)元的誤差是一個需要解決的問題。

1986年，Rumelhart領(lǐng)導(dǎo)的PDP小組給出了多級前饋網(wǎng)絡(luò)的學(xué)習(xí)算法-誤差反向傳播算法(BackPropagation,簡稱BP算法)清楚而簡單的描述。使用BP算法進(jìn)行學(xué)習(xí)的多級前饋網(wǎng)絡(luò)稱為BP網(wǎng)絡(luò)。BP算法是應(yīng)用最廣的多級網(wǎng)絡(luò)訓(xùn)練算法，對人工神經(jīng)網(wǎng)絡(luò)的推廣應(yīng)用發(fā)揮了重要作用；第24頁，共39頁，2023年，2月20日，星期五25

神經(jīng)網(wǎng)絡(luò)診斷原理

BP算法的基本思想BP算法的學(xué)習(xí)過程：包括信號的正向傳播和誤差反向傳播兩個過程。BP算法利用輸出層的誤差來估計輸出層的直接前導(dǎo)層的誤差，再用這個誤差估計更前一層的誤差。如此下去，就獲得了所有其他各層的誤差估計。這樣就形成了將輸出端表現(xiàn)出的誤差沿著與輸人信號傳送相反的方向逐級向網(wǎng)絡(luò)的輸入端傳遞的過程。根據(jù)各層節(jié)點的誤差估計即可調(diào)整各節(jié)點的權(quán)值。第25頁，共39頁，2023年，2月20日，星期五BP網(wǎng)絡(luò)的標(biāo)準(zhǔn)學(xué)習(xí)算法-算法思想學(xué)習(xí)的類型：有導(dǎo)師學(xué)習(xí)核心思想：將輸出誤差以某種形式通過隱層向輸入層逐層反傳學(xué)習(xí)的過程：信號的正向傳播誤差的反向傳播將誤差分?jǐn)偨o各層的所有單元－－－各層單元的誤差信號修正各單元權(quán)值

神經(jīng)網(wǎng)絡(luò)診斷原理第26頁，共39頁，2023年，2月20日，星期五27

神經(jīng)網(wǎng)絡(luò)診斷原理

BP網(wǎng)絡(luò)模型BP網(wǎng)絡(luò)是多級前饋網(wǎng)絡(luò)，一般都選用二級網(wǎng)絡(luò)，包括輸入層、隱層和輸出層。第27頁，共39頁，2023年，2月20日，星期五28

神經(jīng)網(wǎng)絡(luò)診斷原理

BP網(wǎng)絡(luò)模型輸出層輸出：隱層輸出：激活函數(shù)：第28頁，共39頁，2023年，2月20日，星期五學(xué)習(xí)的過程：神經(jīng)網(wǎng)絡(luò)在外界輸入樣本的刺激下不斷改變網(wǎng)絡(luò)的連接權(quán)值,以使網(wǎng)絡(luò)的輸出不斷地接近期望的輸出。學(xué)習(xí)的本質(zhì)：對各連接權(quán)值的動態(tài)調(diào)整學(xué)習(xí)規(guī)則：權(quán)值調(diào)整規(guī)則，即在學(xué)習(xí)過程中網(wǎng)絡(luò)中各神經(jīng)元的連接權(quán)變化所依據(jù)的一定的調(diào)整規(guī)則。

神經(jīng)網(wǎng)絡(luò)診斷原理第29頁，共39頁，2023年，2月20日，星期五BP網(wǎng)絡(luò)的標(biāo)準(zhǔn)學(xué)習(xí)算法-學(xué)習(xí)過程正向傳播：輸入樣本－－－輸入層－－－各隱層－－－輸出層判斷是否轉(zhuǎn)入反向傳播階段：若輸出層的實際輸出與期望的輸出（教師信號）不符誤差反傳誤差以某種形式在各層表示－－－－修正各層單元的權(quán)值網(wǎng)絡(luò)輸出的誤差減少到可接受的程度進(jìn)行到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止

神經(jīng)網(wǎng)絡(luò)診斷原理第30頁，共39頁，2023年，2月20日，星期五31

神經(jīng)網(wǎng)絡(luò)診斷原理BP網(wǎng)絡(luò)訓(xùn)練過程訓(xùn)練過程是根據(jù)樣本集對權(quán)值進(jìn)行調(diào)整的過程；BP網(wǎng)絡(luò)訓(xùn)練是有導(dǎo)師訓(xùn)練，所以訓(xùn)練樣本為：（輸入向量，目標(biāo)輸出向量）權(quán)值初始化：不相同的小隨機數(shù)。BP網(wǎng)絡(luò)的訓(xùn)練過程分為如下兩個階段：（1）向前傳播階段：從樣本集中取一個樣本(Xp，Dp)，將Xp輸入網(wǎng)絡(luò)；計算相應(yīng)的實際輸出Op：

Op=Fl(…(F2(F1(XpW(1))W(2))…)W(L))第31頁，共39頁，2023年，2月20日，星期五32

神經(jīng)網(wǎng)絡(luò)診斷原理（2）向后傳播階段：計算實際輸出

Op與相應(yīng)的理想輸出

Dp的差；按極小化誤差的方式調(diào)整權(quán)矩陣：網(wǎng)絡(luò)關(guān)于第

p個樣本的誤差測度：網(wǎng)絡(luò)關(guān)于整個樣本集的誤差測度：第32頁，共39頁，2023年，2月20日，星期五33

神經(jīng)網(wǎng)絡(luò)診斷原理

輸出層權(quán)值的調(diào)整

yj是隱層的第

j個節(jié)點，ok是輸出層的第

k個節(jié)點；Wjk是神經(jīng)元

yj到

ok的聯(lián)接權(quán)；wjkyjok隱層輸出層?wjk

輸出層權(quán)值wjk的調(diào)整計算公式為：

第33頁，共39頁，2023年，2月20日，星期五34

神經(jīng)網(wǎng)絡(luò)診斷原理

隱層權(quán)值的調(diào)整

隱層節(jié)點的輸出誤差可根據(jù)輸出層的權(quán)值和誤差來估算隱層權(quán)值vij的調(diào)整計算公式為：

wjkyjok隱層輸出層輸入層xio1olw