一種用于混沌時(shí)間序列預(yù)測的少參數(shù)非線性自適應(yīng)濾波預(yù)測模型

一種用于混沌時(shí)間序列預(yù)測的少參數(shù)非線性自適應(yīng)濾波預(yù)測模型

1混沌序列自適應(yīng)非線性濾波預(yù)測模型隨著混凝土理論和應(yīng)用技術(shù)的深入研究，以及混凝土?xí)r間序列的建模和預(yù)測已成為近年來混凝土數(shù)據(jù)處理研究領(lǐng)域的一個(gè)重要熱點(diǎn)[1、2、3、4、5、6、7、8、9、10]。令人驚嘆的是，混合現(xiàn)象是一種完全確定的非線性模型，具有復(fù)雜的行為特征?；陔S機(jī)過程的隨機(jī)模擬，這些相對簡單的模型可以預(yù)測未來的不均勻預(yù)測。基于ton的嵌入理論和相空間重建思想，提出了許多預(yù)測混淆時(shí)間序列的非線性預(yù)測方法。這些方法大致可分為全球預(yù)測法、局域預(yù)測法和自適應(yīng)非線性濾波預(yù)測法。其中，基于相空間重建的基本思想和混合時(shí)代的混沌時(shí)序列產(chǎn)生的線性非線性機(jī)制，可以精確預(yù)測低維混合序列。由于各類神經(jīng)網(wǎng)絡(luò)如小波網(wǎng)絡(luò)、模湖神經(jīng)網(wǎng)絡(luò)、徑向基函數(shù)網(wǎng)絡(luò)、遞歸神經(jīng)網(wǎng)絡(luò)等具有普遍的非線性函數(shù)逼近能力,因而它們是用于混沌時(shí)間序列預(yù)測的主要工具之一.然而,對混沌時(shí)間序列而言,如果只是就輸入-輸出對神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,事實(shí)上只是調(diào)節(jié)神經(jīng)網(wǎng)絡(luò)去模擬混沌系統(tǒng)行為的個(gè)特定軌跡,即得到的只是個(gè)給定激勵(lì)的特定解,當(dāng)一個(gè)新的激勵(lì)輸入系統(tǒng)時(shí),這類預(yù)測模型就可能得不到正確的系統(tǒng)行為.基于Volterra級數(shù)展式的自適應(yīng)非線性濾波預(yù)測模型由于綜合利用了線性和非線性項(xiàng),其本質(zhì)上屬于參數(shù)辯識模型,因而較之神經(jīng)網(wǎng)絡(luò)對特定的低維混沌序列具有較好的預(yù)測能力,但由于二階Volterra濾波器逼近非線性函數(shù)的能力有限,使其在預(yù)測高階混沌序列和時(shí)變混沌序列方面有一定的局限性;自適應(yīng)高階非線性濾波器在逼近能力方面有較大的提高,能夠?qū)Πǜ呔S耦合混沌在內(nèi)的混沌時(shí)間序列進(jìn)行有效地預(yù)測,但是,這兩種自適應(yīng)非線性濾波預(yù)測模型的共同缺點(diǎn)是當(dāng)輸入維數(shù)較大時(shí),其計(jì)算復(fù)雜性問題就是一個(gè)不可回避的問題.為此本文在二階Volterra自適應(yīng)預(yù)測濾波器基礎(chǔ)上,提出了引入sigmoid函數(shù)來構(gòu)造非線性濾波預(yù)測模型,以期達(dá)到減少其待定參數(shù)和提高其逼近非線性函數(shù).2基于sigmity算法的非線性自適應(yīng)濾波器混沌序列預(yù)測的基礎(chǔ)是狀態(tài)空間的重構(gòu)理論.假設(shè)觀測到的混沌時(shí)間序列為{x(t),t=1,2,…,N},則在狀態(tài)空間中重構(gòu)的一點(diǎn)狀態(tài)矢量可表示為x(t)=(x(t),x(t+τ),…,x(t+(m-1)τ))T,其中m為嵌入維數(shù),τ為延遲時(shí)間.由Takens定理可知,混沌序列的預(yù)測重構(gòu)本質(zhì)上是一個(gè)動力系統(tǒng)的逆問題.既通過動力系統(tǒng)的狀態(tài)反過來去構(gòu)造系統(tǒng)的模型,也就是建立x(t+Τ)=F(x(t))˙t=1,2,?,Ν,(1)其中T為前向預(yù)測步長(T>0),F(·)為重構(gòu)的預(yù)測模型.由于時(shí)間序列不可能全為原動力系統(tǒng)產(chǎn)生的干凈序列值,它還疊加有測量誤差等各種噪聲,則一個(gè)實(shí)際的預(yù)測模型應(yīng)為x(t+Τ)=?F(x(t))+ε(t),(2)其中ε(t)為噪聲或擬合誤差.這就變成了一個(gè)預(yù)測模型的構(gòu)建問題.眾所周知,線性自適應(yīng)濾波能夠處理一些時(shí)變和非線性、非平穩(wěn)信號,其原因在于:自適應(yīng)濾波技術(shù)利用前一時(shí)刻已獲得的濾波器參數(shù)等結(jié)果,自動地調(diào)節(jié)現(xiàn)時(shí)時(shí)刻的濾波器參數(shù),以適應(yīng)信號和噪聲未知的或隨時(shí)間變化的統(tǒng)計(jì)特性,從而實(shí)現(xiàn)最優(yōu)濾波.但是,由于線性自適應(yīng)濾波器本質(zhì)上的線性性,限制了它們在探究混沌信號的高階統(tǒng)計(jì)冗余性方面的能力和逼近非線性函數(shù)的能力.人們已在這方面作了大量的工作,主要有神經(jīng)網(wǎng)絡(luò)模型和基于Volterra級數(shù)展式的非線性多項(xiàng)式濾波預(yù)測模型.由于各類神經(jīng)網(wǎng)絡(luò)如小波網(wǎng)絡(luò)、模糊神經(jīng)網(wǎng)絡(luò)、徑向基函數(shù)網(wǎng)絡(luò)、遞歸神經(jīng)網(wǎng)絡(luò)等具有普遍的非線性函數(shù)逼近能力,因而它們是用于混沌時(shí)間序列預(yù)測的主要工具之一.基于Volterra級數(shù)展式的非線性多項(xiàng)式濾波預(yù)測模型由于綜合利用了線性和非線性項(xiàng),其本質(zhì)上屬于參數(shù)辨識模型,比神經(jīng)網(wǎng)絡(luò)對特定的低維混沌序列具有較好的預(yù)測能力.其中一個(gè)原因在于:如果只是就輸入-輸出對神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,事實(shí)上只是調(diào)節(jié)神經(jīng)網(wǎng)絡(luò)去模擬混沌系統(tǒng)行為的個(gè)特定軌跡,即得到的只是個(gè)給定激勵(lì)的特定解,當(dāng)一個(gè)新的激勵(lì)輸入系統(tǒng)時(shí),這類預(yù)測模型就可能得不到正確的系統(tǒng)行為,顯然,自適應(yīng)技術(shù)是提高預(yù)測性能的原因之一.具有非線性表達(dá)能力的二階Volterra自適應(yīng)濾波器對8種低維混沌序列已進(jìn)行了較好地預(yù)測,相應(yīng)的二階Volterra預(yù)測濾波器為?x(n+1)=h0+m-1∑i=0h(i)x(n-i)+m-1∑i=0m-1∑j=ih2(i,j)x(n-i)x(n-j).(3)對應(yīng)的濾波系數(shù)總個(gè)數(shù)為M=1+m+m(m+1)/2.由于二階Volterra自適應(yīng)預(yù)測濾波器同時(shí)包含有線性和非線性項(xiàng),符合混沌動力系統(tǒng)的本質(zhì).當(dāng)m等于最小嵌入維數(shù)時(shí),其預(yù)測性能最佳.不過,二階Volterra預(yù)測濾波器逼近非線性函數(shù)的能力有限,使其在預(yù)測高階非線性混沌序列和時(shí)變混沌序列方面有一定的局限性,同時(shí),當(dāng)預(yù)測濾波器的階數(shù)較大時(shí),濾波器的系數(shù)呈幾何級數(shù)增長,使其硬件實(shí)現(xiàn)困難.由于神經(jīng)網(wǎng)絡(luò)的非線性表達(dá)能力來自有界的sigmoid函數(shù),因此,我們在(3)式的基礎(chǔ)上,引入sigmoid函數(shù)來構(gòu)造非線性濾波預(yù)測模型,以期提高二階Volterra預(yù)測濾波器的逼近非線性函數(shù)和減少待定參數(shù),這種非線性預(yù)測濾波器定義如下:?y(t)=a0+n1∑i=0ai(t)x(t-i)+(b0+n1∑i=0bi(t)x(t-i))sigm(c0+n1∑i=0ci(t)x(t-i))+ε(t),(4)sigm(c0+n1∑i=0ci(t)x(t-i))=1-exp[c0+n1∑i=0ci(t)x(t-i)]1+exp[c0+n1∑i=0ci(t)x(t-i)]?(5)其中?y(t)=x(t+Τ)為非線性自適應(yīng)系統(tǒng)的輸出,ε(t)為輸出誤差.相應(yīng)的濾波系數(shù)總個(gè)數(shù)為M=3m+3.我們將(4),(5)兩式描述的這種非線性模型稱為基于sigmoid函數(shù)的少參數(shù)二次濾波器模型,圖1給出了相應(yīng)的實(shí)現(xiàn)結(jié)構(gòu).在現(xiàn)有的各種自適應(yīng)算法中,歸一化最小均方(NLMS)自適應(yīng)算法具有良好的自適應(yīng)性能,且控制收斂的參數(shù)選擇范圍大,能夠直接應(yīng)用于非線性自適應(yīng)濾波器.為了(4),(5)兩式能夠利用NLMS算法來調(diào)整其待定參數(shù),重新定義濾波器的參數(shù)和輸入矢量為X=[x(t),x(t)sigm(CΤx(t))]Τ,(6)AB=[a0,a1,?,am,b0,b1,?,bm]Τ?C=[c0,c1,?,cm]Τ.(7)基于最小均方誤差準(zhǔn)則,minJ(t)=minE{e2(t)}=minE{[x(t+Τ)-ABΤX]2},(8)根據(jù)歸一化的LMS(NLMS)算法,則有σX2(t)=ρσX2(t-1)+(1-ρ)∥X∥2,(9)AB(t+1)=AB(t)+μ1e(t)μ1+σX2(t)X?(10)σx2(t)=ρσx2(t-1)+(1-ρ)∥x(t)∥2?(11)C(t+1)=C(t)+μ2e(t)μ2+σx2(t)?(1-sigm2(?))x(t).(12)其中μ1和μ2分別為控制學(xué)習(xí)收斂的步長參數(shù),ρ=0.1.3基于sigmity函數(shù)的多參數(shù)自適應(yīng)濾波預(yù)測模型下面就這種少參數(shù)非線性自適應(yīng)濾波器對混沌時(shí)間序列的預(yù)測性能進(jìn)行實(shí)驗(yàn)研究.實(shí)驗(yàn)中,每一種連續(xù)混沌序列分別用四階Runge-Kutta算法求解獲得8000點(diǎn)數(shù)據(jù),取其后2000點(diǎn)數(shù)據(jù)作為實(shí)驗(yàn)數(shù)據(jù),然后按下式對混沌序列進(jìn)行歸一化處理:x(i)=[y(i)-1ΝΝ∑k=1y(k)]/[max(y)-min(y)],(13)其中{y(i)}為原始的混沌序列,{x(i)}為歸一化的混沌序列,N為混沌序列的總長度.取{x(i)}前50個(gè)點(diǎn)作為訓(xùn)練樣本用于訓(xùn)練這種少參數(shù)非線性自適應(yīng)濾波預(yù)測模型,經(jīng)20次預(yù)訓(xùn)練后來預(yù)測最后1800點(diǎn)歸一化的混沌時(shí)間序列.以預(yù)測均方誤差和相對誤差作為評測標(biāo)準(zhǔn),其預(yù)測的均方誤差和相對誤差定義為ΜSE=1ΝΝ∑k=1|x(k)-?x(k)|2?(14)Ρerr=Νp∑k=1[?x(k)-x(k)]2/Νp∑k=1x2(k).(15)下面給出采用這種少參數(shù)自適應(yīng)濾波預(yù)測模型對混沌序列進(jìn)行預(yù)測的具體實(shí)驗(yàn)研究結(jié)果,其中,真實(shí)值為x(n)---○,預(yù)測值為xp(n)---×.其預(yù)測的均方誤差和相對誤差分別按(14)和(15)進(jìn)行計(jì)算.例1少參數(shù)自適應(yīng)濾波預(yù)測模型對Lorenz系統(tǒng)x分量混沌序列的預(yù)測結(jié)果見圖2.˙x=a(y-x),˙y=rx-xz-y,a=10,b=8/3,r=34.0,˙z=xy-bz.例2少參數(shù)自適應(yīng)濾波預(yù)測模型對Lǒsser系統(tǒng)x分量混沌序列的預(yù)測結(jié)果見圖3.x=-y-z,y=x+ay,a=0.15,b=0.20,c=10.0,z=b+z(x-c).例3少參數(shù)自適應(yīng)濾波預(yù)測模型對一個(gè)四維系統(tǒng)x分量混沌序列的預(yù)測結(jié)果見圖4.˙x=ax-y,˙y=x-yz2,˙z=-b1y-b2z-b3w,˙w=z+cw,a=0.56?b1=1.0,b2=1.0,b3=6.0,c=0.80.例4少參數(shù)自適應(yīng)濾波預(yù)測模型對Chua混沌電路系統(tǒng)x分量混沌序列的預(yù)測結(jié)果見圖5.˙x=α(y-x-f(x)),˙y=x-y-z,α=10.0,β=14.87,a=-1.27,b=-0.68,˙z=-βy,f(x)=b(x)+0.5(a-b)(|x+1|-|x-1|).上述實(shí)驗(yàn)結(jié)果表明,用本文提出的這種基于sigmoid函數(shù)的少參數(shù)非線性自適應(yīng)濾波預(yù)測模型對四種連續(xù)混沌時(shí)間序列1步預(yù)測的均方誤差,相對誤差;所作超前6步預(yù)測的均方誤差MSE,相對誤差.這些結(jié)果表明,本文提出的這種基于sigmoid函數(shù)的少參數(shù)非線性自適應(yīng)濾波預(yù)測模型能夠有效地預(yù)測這些連續(xù)混沌時(shí)間序列.尤其值得一提的是,本文的實(shí)驗(yàn)僅用50個(gè)樣本對這種預(yù)測模型進(jìn)行20次預(yù)訓(xùn)練即能對這些混沌序列作出有效預(yù)測,這一結(jié)果不僅是目前所有預(yù)測模型所不具備的,更符合工程實(shí)際情況.其原因可能是這種模型本身同時(shí)具備線性和非線性,符合混沌產(chǎn)生的本質(zhì),且sigmoid函數(shù)的引入對非線性表達(dá)能力比二階Volterra濾波器有進(jìn)一步提高;最優(yōu)NLMS自適應(yīng)算法本身具有一定的非線性和最佳地自適應(yīng)跟蹤混沌的運(yùn)動軌跡而不是重構(gòu)混沌系統(tǒng)的全局或局部運(yùn)動軌跡.另一方面,從工程實(shí)現(xiàn)的角度來看,本文提出的這種基于sigmoid函數(shù)的少參數(shù)非線性自適應(yīng)濾波預(yù)測模型僅需三個(gè)FIR自適應(yīng)預(yù)測濾波器和簡單的非線性變換(即sigmoid函數(shù)變換)、一次乘法與加法即可實(shí)現(xiàn)預(yù)測(見圖1),比二次Volterra自適應(yīng)濾波預(yù)測器的非線性狀態(tài)擴(kuò)展的復(fù)雜性大大減少,在工程應(yīng)用領(lǐng)域具有現(xiàn)實(shí)意義.4基于sigmctory的少參數(shù)非線性自適應(yīng)濾波預(yù)測模型基于混沌動力系統(tǒng)的相空間延遲坐標(biāo)重構(gòu),利用混沌序列固有的確定性和非線性,提出了用于混沌時(shí)間序列預(yù)測的一種少參數(shù)非線性自適應(yīng)濾波預(yù)測模型.該預(yù)測模型在Volterra自適應(yīng)濾波器的基礎(chǔ)上引入sigmoid函數(shù)來減少待定參數(shù).由于最優(yōu)歸一化的LMS自適應(yīng)算法來自適應(yīng)地跟蹤混沌的運(yùn)動軌跡而不是重構(gòu)混沌系統(tǒng)的全局或局部運(yùn)動軌跡,致使這種基于sigmoid函數(shù)的少參數(shù)非線性自適應(yīng)濾波預(yù)測模型能夠有