混沌神經(jīng)網(wǎng)絡(luò)的研究報(bào)告及其應(yīng)用

1、.上海大學(xué) 2010 2011 學(xué)年冬季學(xué)期研究生課程論文課程名稱： 動(dòng)力系統(tǒng)基礎(chǔ) 課程 011201907 論文題目: 混沌神經(jīng)網(wǎng)絡(luò)的研究及其應(yīng)用作者姓名: 王敏瑞 學(xué) 號(hào): 10720072 成 績(jī): 論文評(píng)語:評(píng)閱人簽名: 批閱日期: 混沌神經(jīng)網(wǎng)絡(luò)的研究及其應(yīng)用王敏瑞（上海大學(xué) 理學(xué)院，上海200444）摘要：本文通過保持暫態(tài)混沌神經(jīng)元的混沌搜索機(jī)制，產(chǎn)生了一類新的混沌動(dòng)力學(xué)系統(tǒng)。首先分析了該混沌動(dòng)力系統(tǒng)的參數(shù)對(duì)系統(tǒng)的影響；其次分析了其混沌時(shí)間序列的Lyapunov指數(shù)、關(guān)聯(lián)維、熵等動(dòng)力學(xué)特性。舉例通過試驗(yàn)分析驗(yàn)證了該混沌動(dòng)力系統(tǒng)在密碼學(xué)上應(yīng)用。關(guān)鍵詞：混沌動(dòng)力系統(tǒng) 混沌神經(jīng)元 Lyap

2、unov指數(shù)The Research And Application Of Chaotic Neural NetworkWang Minrui (College of science, Shanghai University, Shanghai 200444. China)Abstract：This paper presents a kind of novel chaotic dynamic system by maintaining the chaotic searching mechanism of TCNN. First, we make an analysis of the param

3、eters effects to the system; second, we make an analysis of the Lyapunov exponent, correlation dimension, entropy of the chaotic time series. The test proves that the chaotic dynamic system in encrypt is valid.Key Words: chaotic dynamic system chaotic neural unit Lyapunov exponent0. 引言目前廣泛研究的混沌神經(jīng)網(wǎng)絡(luò)模

4、型是在Hopfield神經(jīng)網(wǎng)絡(luò)中引入了一個(gè)具有混沌特性的負(fù)反饋項(xiàng)，進(jìn)而得到了混沌神經(jīng)網(wǎng)絡(luò)模型，因此在深入研究混沌神經(jīng)網(wǎng)絡(luò)之前，有必要先介紹一下Hopfield神經(jīng)網(wǎng)絡(luò)。美國物理學(xué)家J.J.Hopfield首先提出一種單層反饋網(wǎng)絡(luò)系統(tǒng)，這種單層反饋網(wǎng)絡(luò)就稱為Hopfield網(wǎng)絡(luò)。反饋神經(jīng)網(wǎng)絡(luò)的非線性和高維數(shù)，使得現(xiàn)有工具難以確定其狀態(tài)軌跡，甚至可能出現(xiàn)混沌現(xiàn)象。由于具有混沌特性的神經(jīng)網(wǎng)絡(luò)其動(dòng)力學(xué)特性十分復(fù)雜，因此獲得了廣泛研究。暫態(tài)混沌神經(jīng)網(wǎng)絡(luò)利用混沌的遍歷性搜索對(duì)解決例如TSP(旅行商)等NP問題有很好的效果，這是因?yàn)榛煦缟窠?jīng)網(wǎng)絡(luò)是一非線性巨復(fù)雜動(dòng)力系統(tǒng)。如果消除混沌神經(jīng)網(wǎng)絡(luò)的暫態(tài)混沌而使混沌

5、一直存在，那么被改進(jìn)的系統(tǒng)就是一個(gè)非線性巨復(fù)雜的混沌動(dòng)力系統(tǒng)。1.混沌神經(jīng)網(wǎng)絡(luò)及混沌神經(jīng)元模型暫態(tài)混沌神經(jīng)網(wǎng)絡(luò)模型如下： (1) (2) (3)其中，式(1) 神經(jīng)元的激勵(lì)函數(shù)(activation function)；第神經(jīng)元的輸出；第神經(jīng)元的輸入；從第神經(jīng)元到第神經(jīng)元的連接權(quán)值；第神經(jīng)元的偏置； 正常數(shù)；神經(jīng)元之間的聯(lián)接強(qiáng)度，也稱耦合因子；k神經(jīng)隔膜的阻尼因子，0k1；(01) 模擬退火參數(shù)，(t)模擬退火的初始值，式(3)類似于模擬退火算法函數(shù),隨著迭代次數(shù)的增加，該式會(huì)逐漸趨于0。式(1)作為激勵(lì)函數(shù)不是固定不變的，它可以是Sigmoid函數(shù)，也可以是其它與Sigmoid相合的函數(shù)。本

6、文采用Sigmoid函數(shù)，該模型就是Chen和Aihara提出的模型1，Sigmoid函數(shù)如下式所示 (4)其中增益參數(shù)。當(dāng)=0時(shí)，以上三個(gè)方程就演化為混沌神經(jīng)元模型： (5) (6) (7)2.混沌神經(jīng)元的動(dòng)力學(xué)研究首先，暫態(tài)混沌神經(jīng)元之所以出現(xiàn)暫態(tài)混沌現(xiàn)象，與式(7)模擬退火參數(shù)的關(guān)系很大。取=0.004,k=0.6, =0.008,I0=0.1,y(1)=0.283，z=0.1,暫態(tài)混沌神經(jīng)元x演化相圖如圖1所示：圖1 x相圖從圖1看出x首先進(jìn)入了混沌搜索，然后通過倒分岔消除了混沌現(xiàn)象，進(jìn)入了類似Hopfield網(wǎng)絡(luò)的梯度下降域。其次，為了產(chǎn)生混沌系統(tǒng)，就要保持混沌搜索一直持續(xù)下去。于是

7、，本文去掉混沌神經(jīng)元的模擬退火策略。取=0.004,k=0.6,=0,I0=0.1,y(1)=0.283，z=0.1，暫態(tài)混沌神經(jīng)元演化為混沌動(dòng)力系統(tǒng)： (8) (9)此時(shí)x的相位圖見圖2(下圖）。為了驗(yàn)證該相圖的時(shí)間序列是混沌的，本文對(duì)其進(jìn)行了如下研究：3.Lyapunov指數(shù)在以上參數(shù)下，本文計(jì)算了最大Lyapunov指數(shù)的時(shí)間演化圖，如圖3示： 圖3 最大Lyapunov指數(shù)時(shí)間演化圖通過上圖可以看到，由于消除了模擬退火，動(dòng)力系統(tǒng)的最大Lyapunov指數(shù)一直大于零。4.功率譜本文采用韋爾奇法2進(jìn)行功率譜估計(jì)。功率譜若無明顯的峰值或峰值連成一片，則對(duì)應(yīng)于湍流或混沌序列3。由圖4所示，峰值

8、連成一片，說明是混沌時(shí)間序列。圖4 時(shí)間序列的功率譜5.關(guān)聯(lián)維及熵關(guān)聯(lián)維是判斷分形的重要工具，圖中存在直線的區(qū)域，說明此區(qū)域內(nèi)客體具有自相似性，并可視為分形4。本文采用C-C方法5，計(jì)算出該混沌時(shí)間序列的嵌入維數(shù)10，時(shí)間延遲=4。為了計(jì)算Kolmogorov熵，本文采用了文獻(xiàn)6從混沌時(shí)間序列同時(shí)計(jì)算關(guān)聯(lián)維和Kolmogorov熵的方法，即嵌入維以等間隔m不斷增加，但選擇的嵌入維是大于關(guān)聯(lián)維的整數(shù)。以=4為延遲，對(duì)時(shí)間序列從嵌入維10,11,12(m=1)計(jì)算的log2C(r)log2r的關(guān)系圖5所示。圖5 時(shí)間序列的關(guān)聯(lián)維算得關(guān)聯(lián)維約為1.5058和Kolmogorov熵約為0.5609。6

9、.參數(shù)研究通過以上研究可知，混沌神經(jīng)元在保持混沌搜索的情況下是復(fù)雜的混沌動(dòng)力系統(tǒng)。為了進(jìn)一步研究該混沌動(dòng)力系統(tǒng)，本文對(duì)其各個(gè)參數(shù)進(jìn)行了深入研究。首先研究k的影響。取=0.004,I0=0.1, y(1)=0.283，z=0.1k0,2。圖6是k對(duì)x的相位圖，橫坐標(biāo)是把k分成n等份。 圖6 k對(duì)x的相位圖從圖6中看到，k在0，2內(nèi)對(duì)x的影響。從圖中可以看出，k=0時(shí)系統(tǒng)有兩個(gè)周期，隨著k的增加，系統(tǒng)由兩個(gè)周期進(jìn)入了四周期，以后隨著k的增加系統(tǒng)進(jìn)入了混沌域，k增加到一定程度的時(shí)候，系統(tǒng)又從混沌域演化到周期域，最后系統(tǒng)進(jìn)入一周期域。由此可以，k對(duì)該混沌動(dòng)力系統(tǒng)的影響很復(fù)雜，與Logistic有著明顯

10、的區(qū)別。其次研究的影響。取k=0.6，I0=0.1, y(1)=0.283，z=0.11/300,1。圖7是對(duì)x的相位圖。 圖7 對(duì)x的相位圖圖7表明對(duì)系統(tǒng)也有著深刻的影響：隨著得增加，系統(tǒng)由1周期進(jìn)入2周期，進(jìn)入4周期，最后進(jìn)入混沌域?？梢?，該混沌動(dòng)力系統(tǒng)除了k的影響，還有的影響能使系統(tǒng)進(jìn)入混沌域。再次研究I0的影響。取=0.005,y(1)=0.283，z=0.1，k=0.5，I0-0.2,1.2。圖8是I0對(duì)x的相位圖。 圖8 I0對(duì)x的相位圖圖8表明I0也對(duì)系統(tǒng)有著重要的影響。這說明I0的重要性，I0是系統(tǒng)的一個(gè)重要因素。I0對(duì)系統(tǒng)的影響也是通過分岔進(jìn)入混沌，又通過倒分岔推出混沌。最后

11、研究z的影響。取=0.004,I0=0.1,y(1)=0.283，k=0.5，z0,0.3。圖9是z對(duì)x的影響。 圖9 z對(duì)x的相位圖 圖9表明z同樣對(duì)系統(tǒng)有著重要的影響，同樣是通過倍周期進(jìn)入混沌。 通過參數(shù)研究表明，該混沌動(dòng)力系統(tǒng)的每一個(gè)參數(shù)都對(duì)系統(tǒng)能否進(jìn)入混沌有著一定的影響，也同時(shí)說明了系統(tǒng)對(duì)參數(shù)的敏感性，也即只要其中的一個(gè)參數(shù)有微小變化，由系統(tǒng)產(chǎn)生的混沌時(shí)間序列就會(huì)截然不同。因此該混沌動(dòng)力系統(tǒng)可以刻畫為如下的模型： (10)7.該混沌動(dòng)力系統(tǒng)的應(yīng)用目前國內(nèi)外已提出一些基于混沌的密碼算法及相應(yīng)的密碼分析。Habutsu T提出用帳篷影射(Tent Map)迭代進(jìn)行加密的算法；Baptist

12、a M S和Wai-kit W提出把明文與混沌吸引域一一對(duì)應(yīng)，把混沌映射進(jìn)入明文所對(duì)應(yīng)的混沌域子域的迭代次數(shù)作為密文；還有根據(jù)Logistic映射和Henon映射在混沌域上遍歷性和有限置換群上的隨機(jī)行走性質(zhì)設(shè)計(jì)的流密碼體制。由于混沌時(shí)間序列的無窮大周期和偽隨機(jī)性，因此在密碼學(xué)上有很好的應(yīng)用。為了進(jìn)一步驗(yàn)證混沌時(shí)間序列的偽隨機(jī)性，現(xiàn)對(duì)該系統(tǒng)的混沌二值時(shí)間序列的偽隨機(jī)性進(jìn)行了研究。7.1 混沌二值時(shí)間序列的偽隨機(jī)性研究采用十進(jìn)制小數(shù)映射到二進(jìn)制整數(shù)的算法，把混沌時(shí)間序列映射為二值序列。具體算法描述如下： (11) (12) 由于Sigmoid激勵(lì)函數(shù)的特性，能保持混沌時(shí)間序列中的元素值在0,1范圍

13、內(nèi)。然而由于其中的大量值趨于0時(shí)，導(dǎo)致當(dāng)L很大時(shí)，這些值的二進(jìn)制的左邊的無效0增多，破壞了0、1平衡；而當(dāng)L取的較小時(shí)，將導(dǎo)致那些趨于0的數(shù)的信息損失很大?；谝陨峡紤]，本文折中處理，取L=24，轉(zhuǎn)換后，只取所有二進(jìn)制的前16位，即相當(dāng)于把混沌時(shí)間序列的十進(jìn)制數(shù)對(duì)應(yīng)成兩個(gè)密鑰字節(jié)。根據(jù)以上算法，本文進(jìn)行了Golomb的三個(gè)隨機(jī)假設(shè)試驗(yàn)：首先，根據(jù)Golomb假設(shè)，偽隨機(jī)二值序列的0、1比是1：1。表1是多次試驗(yàn)的0、1數(shù)及比值，取=0.004,I0=0.1, k=0.6，y(1)=0.2，z=0.1，通過表1可以看出，0、1比值基本上趨于1。 表1 0、1數(shù)及比值迭代次數(shù)0的個(gè)數(shù)1的個(gè)數(shù)0、1

14、比值200015884161160.9856500039502404980.9754800063047649530.9707其次，游程特性，即長(zhǎng)為L(zhǎng)的游程數(shù)占總游程數(shù)的1/2L。表2是在如上參數(shù)取值，迭代次數(shù)為2000時(shí)的試驗(yàn)數(shù)據(jù)：表2 游程特性游程N(yùn)0N1N0/N1實(shí)際比理論比1428342321.0120.51180.50000002216820171.0740.25150.25000003101410590.9570.12460.125000045164771.0810.05960.062500052362291.0300.02790.0312500 由表2可以看出，由于統(tǒng)計(jì)的時(shí)間序列有

15、限，因此實(shí)際比接近于理論比，可以認(rèn)為該混沌二值序列符合游程特性。再次，自相關(guān)性和互相關(guān)性。令 (13) 則自相關(guān)函數(shù)為 (14)互相關(guān)函數(shù)為 (15)其中， 表示從兩個(gè)不同初始值開始迭代產(chǎn)生的混沌時(shí)間序列對(duì)應(yīng)的二值序列；m表示相關(guān)間隔。對(duì)量化后的混沌二值序列進(jìn)行相關(guān)特性檢測(cè)，取序列長(zhǎng)度為 2000，相關(guān)間隔為-500500，其非周期自相關(guān)與互相關(guān)特性如圖10和圖11，由實(shí)驗(yàn)結(jié)果看出，混沌序列具有尖銳的自相關(guān)特性和很小的互相關(guān)值。 圖10 自相關(guān)特性圖圖11 互相關(guān)特性圖通過以上的分析可知，該混沌二值時(shí)間序列是偽隨機(jī)的，可以應(yīng)用于流密碼加密上。7.2 密碼學(xué)仿真采用上述參數(shù)值及算法產(chǎn)生的混沌二值

16、序列對(duì)數(shù)據(jù)進(jìn)行異或加密，實(shí)驗(yàn)的明文數(shù)據(jù)如下：Cryptologist the science of overt writing(cryptography),of its authorized decryption (cryptanalysis),and of the rules which are in turn intended to make that unauthorized decryption difficult(encryption security).通過對(duì)上述的明文的實(shí)驗(yàn)，得到如下概率統(tǒng)計(jì)數(shù)據(jù)，如圖12、圖13所示。圖13 明文字符統(tǒng)計(jì)概率(最大值0.1048)圖 14 密文字

17、符統(tǒng)計(jì)概率(最大值0.0190)從圖12、圖13可以看出，明文字符出現(xiàn)的頻率最高為0.1048，加密后，密文字符概率平均化，最高頻率僅為0.0190。因此可以認(rèn)為明文隨機(jī)擴(kuò)散到整個(gè)密文中，密文中沒有保留明文的信息。同時(shí)異或加密算法是可逆的，得到密鑰后很容易正確解密，得到原來的數(shù)據(jù)。從理論上講，混沌系統(tǒng)的密鑰可以在實(shí)數(shù)范圍內(nèi)選取，但是由于計(jì)算機(jī)系統(tǒng)的計(jì)算精度的限制，實(shí)際使用的密鑰只能在一定范圍內(nèi)選取，即實(shí)際是無法真正達(dá)到“一次一密”的。因此，基于混沌二值序列的密碼加密算法還有待于改善和提高。例如文獻(xiàn)7提出把明文分成M段，每段采用不同軌跡的混沌二值序列的方法，有效地提高了解密的難度。8.結(jié)論本文通過對(duì)暫態(tài)混沌神經(jīng)元的保持混沌搜索，產(chǎn)生了一類新穎的混沌動(dòng)力系統(tǒng)，通過試驗(yàn)可知，該混沌動(dòng)力系統(tǒng)具有很好的偽隨機(jī)特性，能夠很好的應(yīng)用于流密碼加密上。由于該混沌動(dòng)力系統(tǒng)參數(shù)復(fù)雜，動(dòng)力學(xué)行為受參數(shù)影響敏感，因此在加密上有很好的應(yīng)用前景。參考文獻(xiàn)1 Chen L, Aihara K. Chaotic Simulated Annealing by a Neural Network Model with Transient Chaos J. Neural Networks. 1995,8(6):915-930.2 羅軍輝等. Matlab7.0 在數(shù)字信號(hào)處理中的應(yīng)用. 機(jī)械工業(yè)出版社, 2005, 14