模糊神經(jīng)網(wǎng)絡(luò)資料課件

1、模糊神經(jīng)網(wǎng)絡(luò)資料第十一講混合(hnh)智能控制第一頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料模糊(m hu)神經(jīng)網(wǎng)絡(luò)ANN（Artificial Neural Network）和 FLS（Fuzzy Logical Network）的比較(bjio)：相同之處 1） 都是非數(shù)值型的非線性函數(shù)的逼近器、估計(jì)器、和動態(tài)系統(tǒng)； 2） 不需要數(shù)學(xué)模型進(jìn)行描述，但都可用 數(shù)學(xué)工具(gngj)進(jìn)行處理； 3）都適合于VLSI、光電器件等硬件實(shí)現(xiàn)。不同之處： 工作機(jī)制方面： ANN大量、高度連接，按樣本進(jìn)行學(xué)習(xí) FLS 按語言變量、通過隱含、推理和去 模糊獲得結(jié)果。 第二頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料 應(yīng)用上： A

2、NN偏重于模式識別(m sh sh bi)，分類 FLN 偏重于控制神經(jīng)模糊網(wǎng)絡(luò)把ANN的學(xué)習(xí)機(jī)制和FLN的人類思維和推理結(jié)合(jih)起來。 信息處理基本單元(dnyun)方面： ANN數(shù)值點(diǎn)樣本，xi yi FLN模糊集合（Ai，Bi） 運(yùn)行模式方面： ANN學(xué)習(xí)過程透明，不對結(jié)構(gòu)知識編碼 FLN不透明，對結(jié)構(gòu)知識進(jìn)行編碼，推理過程外界 可知第三頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料結(jié)合方式有3種： 1）神經(jīng)模糊系統(tǒng)用神經(jīng)元網(wǎng)絡(luò)來實(shí)現(xiàn)模糊隸屬函數(shù)、 模糊推理，基本上（本質(zhì)上）還是(hi shi)FLN。 2）模糊神經(jīng)系統(tǒng)神經(jīng)網(wǎng)絡(luò)模糊化，本質(zhì)上還是ANN。 3）模糊-神經(jīng)混合系統(tǒng)二者有機(jī)結(jié)合?；?/p>

3、(jy)神經(jīng)網(wǎng)絡(luò)的模糊邏輯運(yùn)算用神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)(shxin)隸屬函數(shù)神經(jīng)網(wǎng)絡(luò)驅(qū)動模糊推理神經(jīng)網(wǎng)絡(luò)的模糊建模用神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)隸屬函數(shù))(exp11)(1cgswxwxy第四頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料wc 和 wg 分別確定Sigmoid函數(shù)的中心(zhngxn)和寬度,S(x),M(x),L(x)組成大、中、小三個(gè)論域的隸屬函數(shù)。邏輯(lu j)“與”可以用Softmin 來實(shí)現(xiàn)：kbkakbkaeebeaebaba),min(soft)（b)Min(a,b)Softmin(a,時(shí)，當(dāng)k函數(shù)。是非線性函數(shù)，生成sigmoida第五頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料神經(jīng)網(wǎng)絡(luò)驅(qū)動(q dn)模糊推理

4、（NDF）), z , :yxfThenBYAXIfRiiii（是是和是rsxxxNNyThenAxxxXIfRnsssns,.,2 , 1 ),.,( , ),.,( : 2121是 解決模糊推理中二個(gè)問題：缺乏確定的方法選擇隸屬函數(shù)(hnsh)；缺乏學(xué)習(xí)功能校正推理規(guī)則。 用神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)TS模型(mxng)，稱為神經(jīng)網(wǎng)絡(luò)驅(qū)動模糊推理(NDF).網(wǎng)絡(luò)由二部分組成: r為規(guī)則數(shù), As是前提的模糊集合.NNs是模型的函數(shù)結(jié)構(gòu),由BP網(wǎng)絡(luò)實(shí)現(xiàn).第六頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料學(xué)習(xí)的網(wǎng)絡(luò)(wnglu)和訓(xùn)練的步驟第七頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料2) 將數(shù)據(jù)(shj)聚類.分成r 類.即有r

5、 條規(guī)則.TRD的數(shù)據(jù)有N t 個(gè).3) 訓(xùn)練規(guī)則的前提部分(b fen)網(wǎng)絡(luò)NNm.。4）訓(xùn)練(xnlin)對應(yīng)于規(guī)則R s的后件部分（Then部分）NN s第八頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料（加權(quán)）或 )()()( )()(2121iAisNiiiAsmiAisNiismxxyxExxyEscssc5）簡化(jinhu)后件部分在NN S的輸入(shr)端，任意消去x p ，比較誤差：6）最終(zu zhn)輸出第九頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料神經(jīng)網(wǎng)絡(luò)的模糊(m hu)建模有三種(sn zhn)模型： 后件(hu jin)為恒值：iniiniiiniiiiiiffnifyThenAx

6、AxIfR111*2211/y ),.,2 , 1( , :21是和是3 , 2 , 1,21ii 后件為一階線性方程 0,1,2)(j ),( ),(),( ,.,2 , 1 ),( , :22110212111211*21221121是常數(shù)是和是ijiiiiniiiniiniiiiiiiaxaxaaxxfxxfxxfynixxfyThenAxAxIfRniiiiiiixxx1)(/ )()(第十頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料第十一頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料第十二頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料后件(hu jin)為模糊變量)()( 2 , 1 . ,.,2 , 1 ) , ( :1

7、2121211*1221121kBkkkkkkBkRniikRkiiikkkikikykniByThenAxAxIfR是是是和是第十三頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料第十四頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料第十五頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料應(yīng)用(yngyng)假定要辨識(bin sh)的系統(tǒng)為25 .13125 .01)1 (xxxg數(shù)據(jù)(shj)40 對，見表6.1評判指標(biāo):UCEECyyyyUCyyEyyEBAniBBiBAiniAAiABiniBBiBiAniAAiAiABABA2212121212)()()()(第十六頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料常 數(shù) 模 型第十七頁，共四十五頁

8、。模糊神經(jīng)網(wǎng)絡(luò)資料常 數(shù) 模 型 隸屬函數(shù)(hnsh)的變化第十八頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料非 線 性 模 型第十九頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料非線性模型隸屬函數(shù)(hnsh)的變化第二十頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料語 言 輸 出 模 型第二十一頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料語 言 輸 出 模 型隸屬(lsh)函數(shù)的變化第二十二頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料I IIIII 神經(jīng)網(wǎng)絡(luò)模糊化模糊(m hu)感知器 精確劃分的問題：每個(gè)分量都有同樣的“重要性”，用在分類時(shí)，當(dāng)分類有重疊(chngdi)時(shí)（如圖），得不到很好的結(jié)果。 模糊感知器的基本思想：給隸屬函數(shù)以一定的修正量，對隸

9、屬度接近0.5的樣本(yngbn),在確定權(quán)值向量時(shí),給予較小的影響:是分類的數(shù)目。的維數(shù)。是向量迭代次數(shù)）ixpxxixnjxyyxxWWkipkkiikijkkdkmkkjkjk 1 , 0)( ),(0 . 2 , 1 , 1)( 11 ,)()(121211第二十三頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料模糊感知器算法的問題:如何選擇 m?如何給向量賦與模糊隸屬函數(shù)(hnsh)?3) 算法的終止判據(jù).回答：1）m 1; 如隸屬函數(shù)接近0.5. m 1；如隸屬函數(shù)大于0.5. 2) 給向量(xingling)賦與模糊隸屬函數(shù)的規(guī)則:)1)( )(25 .0) )1)( )(25 .0) 21/)

10、(212/)(12112kkfffdddfkkkfffdddfkxxeeeexIIxxeeeexI（：對類別（：對類別第二十四頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料其中(qzhng): .5 .0 )( )( 21的速率控制隸屬函數(shù)下降到是正常數(shù)，均值之間的距離；和是類別的距離；相當(dāng)于離聚類中心均值是屬于向量類別的距離；相當(dāng)于離聚類中心均值是屬于向量類別fIIIdIIdId第二十五頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料3) 算法(sun f)停止的判據(jù):.5 .0 0.02,0 )(21 5 .0) 5 .0)(21附近在（或BetaeeeBetaBetaxBetaxfffkk產(chǎn)生(chnshng)良好的

11、結(jié)果. 模糊(m hu)聯(lián)想存儲器（FAM） 雙向聯(lián)想存貯器的模糊化。把雙向聯(lián)想存貯器的權(quán)矩陣變換成模糊集合的關(guān)系（關(guān)聯(lián)）矩陣。（當(dāng)分類錯(cuò)誤，不確定向量不再產(chǎn)生另一迭代）第二十六頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料BAMT6 . 05 . 09 . 06 . 05 . 09 . 05 . 05 . 05 . 02 . 02 . 02 . 06 . 05 . 09 . 00 . 19 . 05 . 02 . 0BAMTjiijTbamBAM6 . 05 . 09 . 045. 045. 081. 03 . 025. 045. 012. 01 . 018. 0BAMT模糊關(guān)聯(lián)矩陣M確定(qudng)有

12、二種方法：1）相關(guān)最小編碼m i j= Min（a i ,b j）假定(jidng)A= (0.2 0.5 0.9 1.0), B= (0.9 0.5 0.6),則：2）相關(guān)乘積(chngj)編碼現(xiàn)在看，如果有A能否“回憶”起B(yǎng)？AM = B； BMT = 0.2 0.5 0.9 0.9= A A.第二十七頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料mkkkBWB1.,.,2 , 1 )(mkBAAMABkTkkk)(/ )(11ipiBiBpiiyyyB現(xiàn)在(xinzi)看，如果有A能否“回憶”起B(yǎng)？如果(rgu)AT = (0 0 0 1), 則ATM = B；如果AT = （1 0 0 0）則ATM

13、 = （0.18 0.1 0.12) 只回憶起B(yǎng)的20%。由m個(gè)FAM組成(z chn)的FAM系統(tǒng)。 把m個(gè)關(guān)聯(lián)（A k，B k）分別存到存貯庫中，把m 個(gè)記憶向量疊加起來。即：所記憶的隸屬向量，等于各記憶向量的加權(quán)和： 如在輸出論域Y=（y1,y2,y p)需要一個(gè)單獨(dú)的輸出，則要去模糊：第二十八頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料A并行(bngxng)地加于各聯(lián)想存貯器上。第二十九頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料神經(jīng)模糊(m hu)網(wǎng)絡(luò)神經(jīng)模糊控制器第三十頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料對任一節(jié)點(diǎn)對任一節(jié)點(diǎn)i 輸入輸入(shr)與輸出的關(guān)系：與輸出的關(guān)系：輸入(shr)：kpkkkpkkiw

14、wwuuufnet2121,代表組合代表層次fk,輸出(shch)： fanetaoOutputiki 模糊自適應(yīng)學(xué)習(xí)控制網(wǎng)絡(luò)模糊自適應(yīng)學(xué)習(xí)控制網(wǎng)絡(luò)(FALCON)(FALCON)第三十一頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料第三十二頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料第5層：一樣，產(chǎn)生隸屬函數(shù)2）自上至下與第2層 . : 5555與第1層一樣 上而下由2)權(quán)值 輸出：隸屬函數(shù)為鐘形 輸入：決策、去模糊 :由下至上1) ijijijijijijijjjijijijijmwyufaumuwf第三十三頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料第三十四頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料學(xué)習(xí)(xux)（訓(xùn)練）目的(md)：

15、1）決定第2層和第4層中的隸屬函數(shù)中心mij和寬度ij 2）決定第3層和第4層中的規(guī)則自組織(zzh)學(xué)習(xí)a ) 輸入變量輸入變量x x1 1空間的劃分空間的劃分T(x1)T(x2) T(x n)=T(x)T(y i)b)b)第第4 4層處在自上至下的模式層處在自上至下的模式第三十五頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料clostiiiclostclostclostikiclostmmtmtmtmtxttmtmtmtxtmtx對 ),() 1( )()()()() 1()()(min)()(1的任意一個(gè)量代表輸入、輸出語言變 ,.,.,)(2121mnyyyxxxtx第三十六頁，共四十五頁。模糊神經(jīng)

16、網(wǎng)絡(luò)資料21221NiNjijinrmmE3r第三十七頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料d) 確定連接和模糊(m hu)規(guī)則e) 規(guī)則合并(hbng),減少規(guī)則1) 有完全相同的結(jié)果2) 前提一樣的規(guī)則3) 其它(qt)前提的并,組成了某些輸入變量的整個(gè)術(shù)語的集合第三十八頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料監(jiān)督(jind)學(xué)習(xí)階段 221tytyEd第三十九頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料imE=)5(aEima)5(= -dy(t)-y(t)iiiiuu)5()5( im(t+1)=im(t)+dy(t)-y(t)iiiiiuu)5()5( iE=)5(aEia)5(= -dy(t)-y(t)ii

17、iiiiiiiiiiiuuumuum2)5()5()5()5()5()()()( i(t+1)=i(t)+dy(t)-y(t)iiiiiiiiiiiiiuuumuum2)5()5()5()5()5()()()( )(/)5()5(tyyyEaEd第四十頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料神經(jīng)(shnjng)-模糊網(wǎng)絡(luò)（控制器）的參數(shù)學(xué)習(xí)（ANFIS）22212120122221122121111011221111 : :xaxaafyThenAxAxIfRxaxaafyThenAxAxIfR，是和是，是和是)()( 2 , 1 )()( 222121202212111101221121212211

18、*21xaxaaxaxaaffjxxffyjjAAj，相應(yīng)(xingyng)的ANFIS網(wǎng)絡(luò)如圖示。隸屬函數(shù)為鐘形：第四十一頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料 111xA 222xA 212xA 121xA)/ )(1 (1)(2jijibjijiiiAmxx)()(/2121xxjjAAjj)(22110 xaxaafjjjj第四十二頁，共四十五頁。模糊神經(jīng)網(wǎng)絡(luò)資料要調(diào)節(jié)(tioji)的參數(shù)：a,a,a ,j2j1j0和jijijibm對后件參數(shù)，可以(ky)用Kalman濾波方法進(jìn)行計(jì)算，此時(shí)，把后件參數(shù)排列成向量：222120121110,aaaaaa)()(222)(121202)(212)(111101)2()2(222)2(121202)2(212)2(111101) 1 ()