第07講反饋網絡

1、第07講 反饋網絡 鄒江反饋網絡(Recurrent Network)，又稱自聯想記憶網絡，其目的是為了設計一個網絡，儲存一組平衡點，使得當給網絡一組初始值時，網絡通過自行運行而最終收斂到這個設計的平衡點上。 1982年，美國加州工學院物理學家霍普菲爾德(JHopfield)發(fā)表了一篇對人工神經網絡研究頗有影響的論文。 反饋網絡能夠表現出非線性動力學系統的動態(tài)特性。它所具有的主要特性為以下兩點：第一、網絡系統具有若干個穩(wěn)定狀態(tài)。當網絡從某一初始狀態(tài)開始運動，網絡系統總可以收斂到某一個穩(wěn)定的平衡狀態(tài)；第二，系統穩(wěn)定的平衡狀態(tài)可以通過設計網絡的權值而被存儲到網絡中。 在本章中，我們將集中討論反饋網

2、絡，通過網絡神經元狀態(tài)的變遷而最終穩(wěn)定于平衡狀態(tài)，得到聯想存儲或優(yōu)化計算的結果。在這里，著重關心的是網絡的穩(wěn)定性問題，研究的重點是怎樣得到和利用穩(wěn)定的反饋網絡。 霍普菲爾德網絡是單層對稱全反饋網絡，根據其激活函數的選取不同，可分為離散型的霍普菲爾德網絡(Discrete Hopfield Neural Network，簡稱DHNN)和連續(xù)型的霍普菲爾德網絡(Continuous Hopfield Neural Network，簡稱CHNN)。DHNN的激活函數為二值型的，其輸入、輸出為0，1的反饋網絡，主要用于聯想記憶。CHNN的激活函數的輸入與輸出之間的關系為連續(xù)可微的單調上升函數，主要用于

3、優(yōu)化計算。 71 霍普菲爾德網絡模型 圖71 反饋網絡結構圖 在反饋網絡中如果其激活函數f()是一個二值型的硬函數，如圖72所示，即aisgn(ni)，il, 2, r，則稱此網絡為離散型反饋網絡；如果ai=f(ni)中的f()為一個連續(xù)單調上升的有界函數，這類網絡被稱為連續(xù)型反饋網絡。圖73中所示為一個具有飽和線性激活函數，它滿足連續(xù)單調上升的有界函數的條件，常作為連續(xù)型的激活函數。 圖72 DHNN中的激活函數 圖73 CHNN中的激活函數 72 狀態(tài)軌跡 設狀態(tài)矢量N=n1, n2, ，nr，網絡的輸出矢量為Aa1，a2，asT ，在一個r維狀態(tài)空間上，可以用一條軌跡來描述狀態(tài)變化情況。

4、從初始值N(t0)出發(fā)，N(t0+t)N(t0+2t)N(t0+mt)，這些在空間上的點組成的確定軌跡，是演化過程中所有可能狀態(tài)的集合，我們稱這個狀態(tài)空間為相空間。 圖74 三維空間中的狀態(tài)軌跡 對于DHNN，因為N(t)中每個值只可能為1，或0，1，對于確定的權值wij，其軌跡是跳躍的階梯式，如圖中A所示。對于CHNN，因為f()是連續(xù)的，因而，其軌跡也是連續(xù)的。如圖中B、C所示。 對于不同的連接權值wij和輸入Pj(i, j=1, 2, r)，反饋網絡狀態(tài)軌跡可能出現以下幾種情況。 721 狀態(tài)軌跡為穩(wěn)定點 狀態(tài)軌跡從系統在t0時狀態(tài)的初值N(t0)開始，經過一定的時間t(t0)后，到達N

5、(t0+t)。如果N(t0+t+t)=N(t0+t)，t0，則狀態(tài)N(t0+t)稱為網絡的穩(wěn)定點，或平衡點。 即反饋網絡從任一初始態(tài)P(0)開始運動，若存在某一有限時刻t，從t以后的網絡狀態(tài)不再發(fā)生變化：P(t+t)= P(t)，t0，則稱該網絡是穩(wěn)定的。 處于穩(wěn)定時的網絡狀態(tài)叫做穩(wěn)定狀態(tài)，又稱為定吸引子。 在一個反饋網絡中，存在很多穩(wěn)定點，根據不同情況，這些穩(wěn)定點可以分為：1)漸近穩(wěn)定點：如果在穩(wěn)定點Ne周圍的N()區(qū)域內，從任一個初始狀態(tài)N(t0)出發(fā)的每個運動，當t時都收斂于Ne，則稱Ne為漸近穩(wěn)定點。 2)不穩(wěn)定平衡點Nen：在某些特定的軌跡演化過程中，網絡能夠到達穩(wěn)定點Nen，但對于

6、其它方向上的任意一個小的區(qū)域N()，不管N()取多么小，其軌跡在時間t以后總是偏離Nen； 3)網絡的解：如果網絡最后穩(wěn)定到設計人員期望的穩(wěn)定點，且該穩(wěn)定點又是漸近穩(wěn)定點，那么這個點稱為網絡的解； 4)網絡的偽穩(wěn)定點：網絡最終穩(wěn)定到一個漸近穩(wěn)定點上，但這個穩(wěn)定點不是網絡設計所要求的解，這個穩(wěn)定點為偽穩(wěn)定點。 722 狀態(tài)軌跡為極限環(huán)如果在某些參數的情況下，狀態(tài)N(t)的軌跡是一個圓，或一個環(huán)，狀態(tài)N(t)沿著環(huán)重復旋轉，永不停止，此時的輸出A(t)也出現周期變化，即出現振蕩，如圖74中C的軌跡即是極限環(huán)出現的情形。對于DHNN，軌跡變化可能在兩種狀態(tài)下來回跳動，其極限環(huán)為2。如果在r種狀態(tài)下循

7、環(huán)變化，稱其極限環(huán)為r。 723 混沌現象如果狀態(tài)N(t)的軌跡在某個確定的范圍內運動，但既不重復，又不能停下來，狀態(tài)變化為無窮多個，而軌跡也不能發(fā)散到無窮遠，這種現象稱為混沌(chaos)。在出現混沌的情況下，系統輸出變化為無窮多個，并且隨時間推移不能趨向穩(wěn)定，但又不發(fā)散。 724 狀態(tài)軌跡發(fā)散如果狀態(tài)N(t)的軌跡隨時間一直延伸到無窮遠，此時狀態(tài)發(fā)散，系統的輸出也發(fā)散。在人工神經網絡中，由于輸入、輸出激活函數上一個有界函數，雖然狀態(tài)N(t)是發(fā)散的，但其輸出A(t)還是穩(wěn)定的，而A（t）的穩(wěn)定反過來又限制了狀態(tài)的發(fā)散。一般非線性人工神經網絡中發(fā)散現象是不會發(fā)生的，除非神經元的輸入輸出激活函

8、數是線性的。 目前的人工神經網絡是利用第一種情況即穩(wěn)定的專門軌跡來解決某些問題的。如果把系統的穩(wěn)定點視做一個記憶的話，那么從初始狀態(tài)朝這個穩(wěn)定點移動的過程就是尋找該記憶的過程。 狀態(tài)的初始值可以認為是給定的有關該記憶的部分信息，狀態(tài)N(t)移動的過程，是從部分信息去尋找全部信息，這就是聯想記憶的過程。 如果把系統的穩(wěn)定點考慮為一個能量函數的極小點，在狀態(tài)空間中，從初始狀態(tài)N(t0)N(t0+t)，最后到達N*。若N*為穩(wěn)定點，則可以看作是N*把N(t0)吸引了過去，在N(t0)時能量比較大，而吸引到N*時能量已為極小了。 根據這個道理，可以把這個能量的極小點作為一個優(yōu)化目標函數的極小點，把狀態(tài)

9、變化的過程看成是優(yōu)化某一個目標函數的過程。因此反饋網絡的狀態(tài)移動的過程實際上是一種計算聯想記憶或優(yōu)化的過程。它的解并不需要真的去計算，只需要去形成一類反饋神經網絡，適當地討論其權重值wij，使其初始輸入A(t0)向穩(wěn)定吸引子狀態(tài)的移動就可以達到這個目的。 霍普菲爾德網絡是利用穩(wěn)定吸引子來對信息進行儲存的，利用從初始狀態(tài)到穩(wěn)定吸引子的運行過程來實現對信息的聯想存取的。 通過對神經元之間的權和閾值的設計，要求單層的反饋網絡達到下列目標：(1)網絡系統能夠達到穩(wěn)定收斂 (2)網絡的穩(wěn)定點 (3)吸引域的設計 73 離散型霍普菲爾德網絡（DHNN） 731 DHNN模型結構 其輸出類似于MP神經元，可

10、表示為： 在上式中，取b0，權矩陣中有wijwji，且取wii0。即DHNN采用對稱聯接。因此，其網絡結構可以用一個加權元向量圖表示。 圖75 霍普菲爾德網絡圖 由圖75(a)，考慮到DHNN的權值特性wijwji，網絡各節(jié)點加權輸入和分別為： 對于以符號函數為激活函數的網絡，網絡的方程可寫為： 732 聯想記憶 聯想記憶功能是DHNN的一個重要應用范圍。要想實現聯想記憶，反饋網絡必須具有兩個基本條件：網絡能收斂到穩(wěn)定的平衡狀態(tài)，并以其作為樣本的記憶信息；具有回憶能力，能夠從某一殘缺的信息回憶起所屬的完整的記憶信息。 DHNN實現聯想記憶的過程分為兩個階段：學習記憶階段和聯想回憶階段。在學習記

11、憶階段中，設計者通過某一設計方法確定一組合適的權值，使網絡記憶期望的穩(wěn)定平衡點。聯想回憶階段則是網絡的工作過程。 反饋網絡有兩種基本的工作方式：串行異步和并行同步方式。 1)串行異步方式： 2)并行同步方式： 在狀態(tài)更新過程中，包括三種情況：由-1變?yōu)?；由1變?yōu)?1及狀態(tài)保持不變。在任一時刻，網絡中只有一個神經元被選擇進行狀態(tài)更新或保持，所以異步狀態(tài)更新的網絡從某一初態(tài)開始需經過多次更新狀態(tài)后才可以達到某種穩(wěn)態(tài)。這種更新方式的特點是： 實現上容易，每個神經元有自己的狀態(tài)更新時刻，不需要同步機制； 功能上的串行狀態(tài)更新可以限制網絡的輸出狀態(tài)，避免不同穩(wěn)態(tài)等概率的出現； 異步狀態(tài)更新更接近實際的

12、生物神經系統的表現。 733 DHNN的海布(Hebb)學習規(guī)則 在DHNN的網絡訓練過程中，運用的是海布調節(jié)規(guī)則：當神經元輸入與輸出節(jié)點的狀態(tài)相同(即同時興奮或抑制)時，從第j個到第i個神經元之間的連接強度則增強，否則則減弱。海布法則是一種無指導的死記式學習算法。 離散型霍普菲爾德網絡的學習目的：對具有q個不同的輸入樣本組PrqP1, P2 Pq，希望通過調節(jié)計算有限的權值矩陣W，使得當每一組輸入樣本Pk，k=1，2，q，作為系統的初始值，經過網絡的工作運行后，系統能夠收斂到各自輸入樣本矢量本身。 當k1時，對于第i個神經元，由海布學習規(guī)則可得網絡權值對輸入矢量的學習關系式為： 其中，0，i

13、1，2，r；j=1，2，r。在實際學習規(guī)則的運用中，一般取1或1/r。 那么由(72)式求出的權值wij是否能夠保證aipi？ 取l，我們來驗證一下，對于第i個輸出節(jié)點，有： 根據海布規(guī)則的權值設計方法，當k由1增加到2，直至q時，則是在原有己設計出的權值的基礎上，增加一個新量pjkpik，k2, q，所以對網絡所有輸入樣本記憶權值的設計公式為： (7.3)式中矢量T為記憶樣本，TP。上式稱為推廣的學習調節(jié)規(guī)則。當系數1時，稱(73)式為T的外積和公式。 DHNN的設計目的是使任意輸入矢量經過網絡循環(huán)最終收斂到網絡所記憶的某個樣本上。因為霍普菲爾德網絡有wijwji，所以完整的霍普菲爾德網絡權

14、值設計公式應當為：用向量形式表示為： 當1時有：其中，I為單位對角矩陣。 （7.4） （7.5） （7.6） 在神經網絡工具箱中有關采用海布公式求解網絡權矩陣變化的函數為learnh.m和learnhd.m，后者為帶有衰減學習速率的函數：dW1earnh(P，A，lr)；或 dWlearnhd(W，P，A，lr，dr)；對于簡單的情況，lr可以選擇1；對于復雜的應用，可取lr0.10.5，drlr3。 734 影響記憶容量的因素設計DHNN網絡的目的，是希望通過所設計的權值矩陣W儲存多個期望模式。從海布學習公式的推導過程中可以看出：當網絡只記憶一個穩(wěn)定模式時，該模式肯定被網絡準確無誤地記憶住，

15、即所設計的W值一定能夠滿足正比于輸入和輸出矢量的乘積關系。但當需要記憶的模式增多時，情況則發(fā)生了變化，主要表現在下面兩點上：(1)權值移動 當k=1時，有：此時，網絡準確的記住了樣本T1，當k=2時，為了記憶樣本T2，需要在記憶了樣本Tl的權值上加上對樣本T2的記憶項T2T2T-I，將權值在原來值的基礎上產生了移動。 另一方面，由于在學習樣本T2時，權矩陣W是在已學習了T1的基礎上進行修正的。此時，因W起始值不再為零，所以由此調整得出的新的W值，對記憶樣本T2來說，也未必對所有的s個輸出同時滿足符號函數的條件，即難以保證網絡對T2的精確的記憶。 隨著學習樣本數k的增加，權值移動現象將進一步發(fā)生

16、，當學習了第q個樣本Tq后，權值又在前q1個樣本修正的基礎上產生了移動，這也是網絡在精確的學習了第一個樣本后的第q-1次移動。 對已記憶的樣本發(fā)生遺忘，這種現象成為“疲勞”。 (2)交叉干擾設輸入矢量P維數為rq，取=1/r，因為對于DHNN有Pk-1，1，k=1，2，q，所以有pik*pjkpjk*pjk1。當網絡某個矢量Pl，l1,q，作為網絡的輸入矢量時，可得網絡的加權輸入和nil為： 上式右邊中第一項為期望記憶的樣本，而第二項則是當網絡學習多個樣本時，在回憶階段即驗證該記憶樣本時，所產生的相互干擾，稱為交叉干擾項。 735 網絡的記憶容量確定只要滿足rq，則有sgn(Nl)Pl，保證P

17、l為網絡的穩(wěn)定解。DHNN用于聯想記憶有兩個突出的特點：即記憶是分布式的，而聯想是動態(tài)的。DHNN局限性，主要表現在以下幾點：記憶容量的有限性；偽穩(wěn)定點的聯想與記憶；當記憶樣本較接近時，網絡不能始終回憶出正確的記憶等。另外網絡的平衡穩(wěn)定點并不可以任意設置的，也沒有一個通用的方式來事先知道平衡穩(wěn)定點。 所以真正想利用好霍普菲爾德網絡并不是一件容易的事情。 736DHNN權值設計的其他方法(1)學習規(guī)則：(2)偽逆法 WNP* （7. 9）其中P*為P的偽逆，有P*(PTP)-1PT，如果樣本之間是線性無關的，則PTP滿秩，其逆存在，則可求出(79)式求權矩陣W來。由于存在求逆等運算，偽逆法較為繁

18、瑣，而海布法則要容易求得多。 (3)正交化的權值設計這一方法的基本思想和出發(fā)點是為了滿足下面四個要求： 1)保證系統在異步工作時的穩(wěn)定性；2)保證所有要求記憶的穩(wěn)定平衡點都能收斂到自己；3)使偽穩(wěn)定點的數目盡可能的少；4)使穩(wěn)定點的吸引域盡可能的大。 雖然正交化設計方法的數學設計較為復雜，但與外積和法相比較，所設計出的平衡穩(wěn)定點能夠保證收斂到自己并且有較大的穩(wěn)定域。更主要的是在MATLAB工具箱中已將此設計方法寫進了函數solvehop.m中： W，bsolvehop(T)； 例71考慮一個具有兩個神經元的霍普菲爾德網絡，每個神經元具有兩個權值和一個偏差。網絡所要存儲的目標平衡點為一個列矢量T

19、：T1 -1； -1 1；W,b=solvehop(T); 設計Hopfield網絡。用來進行測試的函數為simuhop.m； 74 連續(xù)型霍普菲爾德網絡 霍普菲爾德網絡可以推廣到輸入和輸出都取連續(xù)數值的情形。這時網絡的基本結構不變，狀態(tài)輸出方程形式上也相同。若定義網絡中第i個神經元的輸入總和為ni，輸出狀態(tài)為ai，則網絡的狀態(tài)轉移方程可寫為：其中神經元的激活函數f為S型的函數(或線性飽和函數)： 或 圖78 連續(xù)霍普菲爾德網絡激活函數 例72TSP問題。所謂TSP(Traveling Salesman Problem)問題，即“旅行商問題”是一個十分有名的難以求解的優(yōu)化問題，其要求很簡單：在

20、n個城市的集合中，找出一條經過每個城市各一次，最終回到起點的最短路徑。如果已知城市A，B，C，D，之間的距離為dAB，dBC，dCD；那么總的距離ddAB+dBC+dCD+，對于這種動態(tài)規(guī)化問題，要去求其min(d)的解。因為對于n個城市的全排列共有n!種，而TSP并沒有限定路徑的方向，即為全組合，所以對于固定的城市數n的條件下，其路徑總數Sn為Snn!2n (n4) 圖7. 9 n4時的TSP路徑圖 表7. 2 城市數和對應的旅行方案數 采用連續(xù)時間的霍普菲爾德網絡模型來求解TSP，開辟了一條解決這一問題的新途徑。其基本思想是把TSP映射到CHNN上，通過網絡狀態(tài)的動態(tài)演化逐步趨向穩(wěn)態(tài)而自動地搜索出優(yōu)化解。 TSP的解是若干城市的有序排列，任何一個城市在最終路徑上的位置