（管理科學(xué)與工程專業(yè)論文）神經(jīng)網(wǎng)絡(luò)在股票市場預(yù)測中的應(yīng)用研究.pdf

山東師范大學(xué)硬士學(xué)位論文 摘要 股票市場作為一個高風(fēng)險(xiǎn)商收益的投資領(lǐng)域，其運(yùn)作是一個復(fù)雜的非線性的 系統(tǒng)，容易受到多方面的影響。但是股票市場的價(jià)格走勢實(shí)質(zhì)上是一種復(fù)雜時序 函數(shù)，因此是可以預(yù)測的。 人工神經(jīng)網(wǎng)絡(luò)是一個非線性的動態(tài)系統(tǒng)，可在任意精度內(nèi)實(shí)現(xiàn)變量間的非線 性關(guān)系的映像，具備解決非線性問題能力、網(wǎng)絡(luò)學(xué)習(xí)能力和系統(tǒng)擬合能力，能夠 滿足經(jīng)濟(jì)預(yù)測要求，使系統(tǒng)具有處理非線性、不確定性問題的能力，從而提高預(yù) 測精度。利用人工神經(jīng)網(wǎng)絡(luò)的非線性及動態(tài)的特點(diǎn)，通過調(diào)節(jié)連接權(quán)值可以任意 精度逼近任何連續(xù)函數(shù)，因此也可以逼近證券價(jià)格隨時間變換這種函數(shù)。從而對 股票市場的交易模式進(jìn)行模仿和學(xué)習(xí)。 本文即在相關(guān)經(jīng)濟(jì)理論指導(dǎo)下。分析了股票市場系統(tǒng)的特點(diǎn)，根據(jù)其非線性、 不確定性等特點(diǎn)，運(yùn)用人工神經(jīng)網(wǎng)絡(luò)理論，構(gòu)建了股票價(jià)格預(yù)測模型體系，提出 了基于遺傳算法的神經(jīng)網(wǎng)絡(luò)和基于粒子群算法的神經(jīng)網(wǎng)絡(luò)的系統(tǒng)建模方法，提高 系統(tǒng)預(yù)測準(zhǔn)確度，并對實(shí)驗(yàn)結(jié)果進(jìn)行了比較。 本文的第一章介紹了預(yù)測、預(yù)測的研究背景，國內(nèi)外研究的狀況，預(yù)測的方 法，神經(jīng)網(wǎng)絡(luò)的發(fā)展與其在經(jīng)濟(jì)領(lǐng)域中的應(yīng)用，評價(jià)預(yù)測效果的幾項(xiàng)誤差指標(biāo)等； 第二章提出了神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)、算法，以及b p 網(wǎng)絡(luò)收斂速度慢，不易收斂到全 局最小，泛化能力差等問題；第三章用具體的時間序列數(shù)據(jù)為例來研究了b p 神 經(jīng)網(wǎng)絡(luò)的逼近能力，第四章利用基于遺傳算法的神經(jīng)網(wǎng)絡(luò)對股票市場的數(shù)據(jù)進(jìn)行 了優(yōu)化，對逼近的結(jié)果進(jìn)行了比較。第五章利用基于粒子群算法的神經(jīng)網(wǎng)絡(luò)對股 票市場進(jìn)行預(yù)測，并對結(jié)果進(jìn)行比較。 本論文總結(jié)了前人研究成果，針對前人研究的不足，提出了作者自己的觀點(diǎn) 和想法，并把它們付諸實(shí)踐，力求為我國進(jìn)行基于神經(jīng)網(wǎng)絡(luò)的股票市場預(yù)測提供 有效的手段，為推廣人工神經(jīng)網(wǎng)絡(luò)技術(shù)做出努力。 關(guān)鍵詞：預(yù)測；非線性；人工神經(jīng)網(wǎng)絡(luò)：遺傳算法；粒子群算法 山東師范大學(xué)碩 ? 學(xué)位論文 a b s t r a c t f o r e c a s ti sn e c e s s a r i l ya ni m p o r t a n tl i n ki ns c i e n t i f i cm a n a g e m e n ta n d p r e m i s eb e f o r e p o l i c y - m a k i n ga n dl a y o u t i ti sn e c e s s a r yt of o r e c o s ta n da n a l y z ee v o l u t i o n 缸e n do f s o m es y s t e m o n eo ft h ec u r r e n tf o r e c a s tm e t h o d si st i m es e r i e sf o r e c a s tw h i c h c o n s t r u c t sm o d e l sa c c o r d i n gt ot h eh i s t o r i c a ld a t ab e f o r eu s i n gi tt of o r e c a s tt h ef u t u r e a r t i f i c i a ln e u r a ln e t w o r ki s 姐e m b r a n c h r a e mo fa r t i f i c i a li n t e l l i g e n t , o r i g i n a t e di n 1 9 4 0 sa n di sw i d e l ya p p l i e dt om a n yf i e l d sn o w n e u r a ln e t w o r kc a l l as t u d ya n d r e s e r v ep r e v e n i e n ti n f o r m a t i o na n dk n o w l e d g e ，w h i c hi st h et h e o r e t i c a lb a s i sw h e n u s e dt of o r e c a s tt h ef u t u r e a sf o rn o n l i n e a rt i m es e r i e sf o r e c a s t , n e u r a ln e t w o r ki s m o r ee f f i c i e n ta n dp r e c i s et h a nm a t h e m a t i c a lm o d e l s a r t i f i c i a ln e u r a ln e t w o r ki san o n l i n e a rd y n a m i cs y s t e m , w h i c hc a nr e a l i z et h e r e f l e c t i o no fn o n l i n e a rr e l a t i o n sa m o n gc o n s t a n t s 嘶n l i nt h er a n g eo fa n ya c c u r a c y , c a p a b l eo fs o l v i n gn o n l i n e a rp r o b l e m s , l e a r n i n gn e t w o r kt e c h n o l o g ya n di n t e g r a t i n g s y s t e m s i ti sa b l et os a t i s f yt h en e e d sf o rt h ep r e d i c t i o no fe c o n o m yi n d e x , e n a b l i n g t h es y s t e mt os o l v et h en o n l i n e a ra n du n f i x e dp r o b l e m s ，a n dh e n c ei m p r o v i n gt h e a c c u r a c yo fp r e d i c t i o n i nt h i sp a p e r , u n d e rt h eg u i d a n c eo fe c o n o m i ct h e o r y , w e a n a l y z et h ec h a r a c t e r i s t i c so fe c o n o m ys y s t e m ，b a s e do nt h en o n l i n e a ra n du n f i x e d f e a t u r e so fe c o n o m ys y s t e m , t h et h e o r yo na r t i f i c i a ln e u r a ln e t w o r ki sa p p l i e dt o c o n s t r u c tt h em o d e l i n gs y s t e mo fe c o n o m yp r e d i c t i o n t h e nt h em o d e l i n gm e t h o dt o c o m b i n et h em u l t ie v o l u t i o n a r yc o m p u t a t i o na n dn e u r a ln e t w o r kh a sb e e np u t f o r w o r c l s ，w h i c hi m p r o v e st h ea c c u r a c yo f t h es y s t e mp r o d i c t i o m i nt h i sp a p e r , d e f i n i t i o n , b a c k g r o u n d , s i g n i f i c a n c e ，s e v e r a lr e s e a r c hs i t u a t i o no f f o r e c a s ta n d5 0 m eu s u a lf o r e c a s tm e t h o d sw e r ec o m m e n t e di nc h a p t e r1 ，a l s of i v e e l y o rt a r g e t si no r d e rt oe v a l u a t ef o r e c a s tp r e c i s i o nw e r ei n t r o d u c e di nc h a p t e r1 c h a p t e r2s u m m a r i z e db a s i cs 燈u c t u r e s ，a l g o r i t h m sa n ds o m eb pn e t w o r k se x i s t i n g p r o b l e m s ，s u c ha sc o n v e r g e n c er a t e , t h eg l o b a lc o n v e r g e n c ea n dg e n e r a l i z a t i o n i n c h a p t e r3 ，i n s t a n c e sw c r eu s e dt or e s e a r c ho p t i m i z e db yb pn e u r a ln e t w o r k s i n c h a p t e r4 e x p e r i e n c ed a t aw e 托w o r k e db yn e u r a ln e t w o r k sb a s e do ng e n e t i c 4 山東師范人學(xué)碩t 學(xué)位論文 a l g o r i t h m ，a n dt h er e s u l t sw e r ec o m p a r e d a l s o ，i ne h a p t c r5 ，t h en e u r a ln e t w o r k s b a s e do np a r t i c l es w a r mo p t i m i z a t i o na l g o r i t h mf o r e c a s tt h ed a t aa n dt h er e s u l t sw e r e r e c o r d e da n dc o m p a r e d p r e d e c e s s o r s r e s e a r c hf i u i ti ss u m m e du pi nt h i sp a p e r , a n dp r o p o s e st h ec o n c e p t a n dt h eo p i n i o no f w r i t e rs e l f a i m e da lt h ed e f e c t , a n dt h r o w i n gt h e mi n t ot h ep r a c t i c e a n dd o e so n e sb e s tt os u p p l yv a l i dm e a s u r ef o rs t o c km a r k e tf o r e c a s t i n gb a s e do n a r t i f i c i a ln e u r a ln e t w o r k s ，a n dm a k i n gg r e a te f f o r t si nt h ei n t e r e s to fs p r e a d i n gt h e a r t i f i c i a ln e u r a ln e t w o r k t e c h n i q u e k e yw o r d s ：f o r e c a s t ；t u n es e r i e s ；a r t i f i c i a ln e u r a ln e t w o r k s ；n u m e r i c a lv a l u e p r e p r o c e s s i n g le v o l u t i o n a r yc o m p u t a t i o n s 獨(dú)創(chuàng)聲明 本人聲明所呈交的學(xué)位論文是本人在導(dǎo)師指導(dǎo)下進(jìn)行的研究工作及取得的研究成 果。據(jù)我所知，除了文中特別加以標(biāo)注和致謝的地方外，論文中不包含其他人已經(jīng)發(fā)表 或撰寫過的研究成果，也不包含為獲得( 注：如沒有其他需要特別聲 明的，本欄可空) 或其他教育機(jī)構(gòu)的學(xué)位或證書使用過的材料。與我一同工作的同志對 本研究所做的任何貢獻(xiàn)均已在論文中作了明確的說明并表示謝意。 學(xué)位論文作者簽名： 創(chuàng)碼 導(dǎo)師簽字： 學(xué)位論文版權(quán)使用授權(quán)書 冢8 碉 l 本學(xué)位論文作者完全了解堂撞有關(guān)保留、使用學(xué)位論文的規(guī)定，有權(quán)保留并向 國家有關(guān)部門或機(jī)構(gòu)送交論文的復(fù)印件和磁盤，允許論文被查閱和借閱。本人授權(quán)堂 監(jiān)可以將學(xué)位論文的全部或部分內(nèi)容編入有關(guān)數(shù)據(jù)庫進(jìn)行檢索，可以采用影印、縮印 或掃描等復(fù)制手段保存匯編學(xué)位論文。( 保密的學(xué)位論文在解密后適用本授權(quán)書) 學(xué)位論文作者躲州 導(dǎo)師簽字： 泛f 7 嘲鳥 簽字e t 期：2 0 0 年月日簽字e t 期：2 0 0年月日 山東師范大學(xué)碩士學(xué)位論文 1 1 課題的研究背景 第1 章緒論 預(yù)測作為一種探索未來的活動在古代已經(jīng)出現(xiàn)“預(yù)測”一詞是來自古希臘 的術(shù)語，我國也有兩句古語：“凡事預(yù)則立，不預(yù)則廢”，“人無遠(yuǎn)慮，必有近憂”， 這充分說明人類很早就己意識到預(yù)測的重要性。古代的預(yù)測僅是一種藝術(shù)，主要 依靠預(yù)言家的經(jīng)驗(yàn)估計(jì)和直觀判斷，有時也借助于先兆、推測和某些技術(shù)根據(jù)。 但作為一門科學(xué)的預(yù)測學(xué)，直至科學(xué)技術(shù)高度發(fā)達(dá)的2 0 世紀(jì)才產(chǎn)生。預(yù)測是綜 合研究事物內(nèi)在聯(lián)系延續(xù)與突變的過程的- - n 學(xué)科l l l 。這個過程實(shí)際上是在掌握 相關(guān)信息的基礎(chǔ)上，從過去和現(xiàn)在已知的情況出發(fā)，綜合運(yùn)用哲學(xué)、社會學(xué)、經(jīng) 濟(jì)學(xué)、統(tǒng)計(jì)學(xué)、數(shù)學(xué)、計(jì)算機(jī)、工程技術(shù)及經(jīng)驗(yàn)分析等定性定量的方法，研究事 物未來發(fā)展及其運(yùn)行規(guī)律，并對其各要素的變動趨勢做出估計(jì)、描述與分析1 2 1 1 甜。 管理與決策活動中往往也需要對大量的數(shù)據(jù)進(jìn)行分析，在經(jīng)濟(jì)、工程、自然科學(xué) 和社會科學(xué)等領(lǐng)域的實(shí)際工作者和研究人員，都不可避免地要和一系列的歷史觀 察、統(tǒng)計(jì)數(shù)據(jù)打交道，我們把按時間順序產(chǎn)生和排列的觀察數(shù)據(jù)序列稱為時間序 列。而對時間序列進(jìn)行預(yù)測則成為一個具有相當(dāng)實(shí)際價(jià)值的應(yīng)用研究領(lǐng)域。股票 市場作為高風(fēng)險(xiǎn)高收益的投資領(lǐng)域，一直倍受投資者的關(guān)注，國外的研究者也先 后提出了一系列的定價(jià)理論和投資組合模型，如馬柯威茨的投資組合理論，夏普 等人的c a p m ，以及羅斯的a p t 。然而，投資者們發(fā)現(xiàn)，雖然這些理論極大地開 闊和提高了投資者的思想理念及其對風(fēng)險(xiǎn)和收益的辨證理解，但對實(shí)際操作卻缺 乏明確的指導(dǎo)例如a p t 模型給出了風(fēng)險(xiǎn)資產(chǎn)回報(bào)率與套利組合回報(bào)率之間的相 互關(guān)系，但對于如何尋找滿意的套利組合卻沒有明確的方案。隨后的研究者將計(jì) 量統(tǒng)計(jì)方法應(yīng)用于股市建模，如多元回歸、a r m a 以及g a r c h 等時間序列預(yù)測 模型。 從預(yù)測方法本身而言，股票價(jià)格預(yù)測模型可以分為兩類，即定性預(yù)測模型和 定量預(yù)測模型。定性預(yù)測模型中以d e l p h i 法為代表，其在股票市場也有相近的用 法，如投資者在媒體上聽各類股評家及機(jī)構(gòu)對后市的預(yù)測，對投資者而言就相當(dāng) 于作了一個d e l p h i 法的調(diào)查。定量預(yù)測模型中又可分為因果回歸預(yù)測模型、時間 序列預(yù)測模型、非線性動力學(xué)預(yù)測模型、以時間序列驅(qū)動的各類人工智能技術(shù)預(yù) 山東師范人學(xué)頌i 二學(xué)位論文 測模型及智能預(yù)測支持系統(tǒng)等。其中時間序列預(yù)測模型、非線性決定性預(yù)測模型 以及以時間序列驅(qū)動的各類人工智能技術(shù)預(yù)測模型及智能預(yù)測支持系統(tǒng)等在股 票市場上最為常用。 從股票市場價(jià)格行為的特定對象而言，股票價(jià)格預(yù)測模型又可分為基本面預(yù) 測模型與技術(shù)面預(yù)測模型?；久骖A(yù)測模型是指建立公司的股價(jià)與基本面因素如 利潤、現(xiàn)金流、賬面價(jià)值與市場價(jià)值比、公司規(guī)模等之間的因果關(guān)系預(yù)測模型。 這種預(yù)測模型基于因果辯證關(guān)系的哲學(xué)思想，認(rèn)為事件之間總是存在著某種因果 關(guān)系。因此，要想知道結(jié)果的變化就得從原因變化入手，并且建立兩者之間的聯(lián) 系方程據(jù)此進(jìn)行預(yù)測。技術(shù)面預(yù)測模型是指從歷史的股價(jià)或成交量以及兩者之 間的關(guān)系來預(yù)測未來股價(jià)的變化。主要有時問序列預(yù)測模型、非線性動力學(xué)預(yù)測 模型、以時間序列為驅(qū)動的人工智能技術(shù)以及智能預(yù)測支持系統(tǒng)等，具體如下所 述。 1 時間序列預(yù)測模型 時間序列是指按時間順序排列的預(yù)測數(shù)據(jù)集?？煞譃閱巫兞繒r間序列和多變 量時間序列兩種。時間序列預(yù)測模型的基本思想是事物發(fā)展本身存在著一個延續(xù) 的發(fā)展過程，正確地識別這種發(fā)展模式可以用來預(yù)測事物未來的變化途徑。在預(yù) 測時，依據(jù)表示事物狀態(tài)的主要變量的歷史數(shù)據(jù)，用統(tǒng)計(jì)學(xué)方法或系統(tǒng)辨識的方 法建立起描述事物迄今為止的變化規(guī)律的數(shù)學(xué)模型，并以此來推測未來。以單變 量時間序列為例，設(shè)x 是變量的當(dāng)前值，則預(yù)測模型應(yīng)為 x ( t ) = f ( x ( t - 1 ) , x ( t - 2 ) ，) ( ( t m ) )( 1 - 1 ) 時間序列預(yù)測模型還可分傳統(tǒng)時間序列預(yù)測模型與現(xiàn)代時間序列預(yù)測模型。 傳統(tǒng)時間序列預(yù)測模型有移動平均與分解模型、指數(shù)平滑模型等；現(xiàn)代時間序列 預(yù)鋇9 模型則包括a r i m a 模型族、a r f i m a 模型、a r c h g a r c h 族、s v 模型等。 這類方法在中國股票市場預(yù)測問題研究中的應(yīng)用也比較多。 2 非線性決定性預(yù)測模型 非線性決定性預(yù)測模型的建模方式亦是從時間序列中重構(gòu)系統(tǒng)，但其預(yù)測思 想與時間序列預(yù)測模型截然不同。時間序列預(yù)測模型假設(shè)序列只具有線性相關(guān)的 隨機(jī)序列，對未來的預(yù)測是根據(jù)相關(guān)性進(jìn)行外推。而非線性決定性預(yù)測模型則認(rèn) 為時序是由決定性動力學(xué)方程產(chǎn)生，下一時刻系統(tǒng)的狀態(tài)是前一時刻的函數(shù)，因 2 山東師范大學(xué)碩l 學(xué)位論文 此只要找到這個函數(shù)，預(yù)測就能實(shí)現(xiàn)。由于觀察值常常是系統(tǒng)的狀態(tài)變量的時序 值，因此，預(yù)測的首要任務(wù)就是從時間序列中重構(gòu)出系統(tǒng)動力學(xué)方程。近年來這 種預(yù)測方法在金融時問序列預(yù)側(cè)上有不少應(yīng)用，尤其是對匯率時序的預(yù)測。 3 神經(jīng)網(wǎng)絡(luò)預(yù)測模型 神經(jīng)網(wǎng)絡(luò)由于能夠擬合任意的非線性曲線，并且具有較好的泛化能力，因此 自從它被引入到預(yù)測方法中，就一直是預(yù)測模型中一顆耀眼的星星。神經(jīng)網(wǎng)絡(luò)預(yù) 測模型的思想是在給定的預(yù)側(cè)精度下通過給定的訓(xùn)練樣本進(jìn)行機(jī)器訓(xùn)練，建立輸 出與輸入之間的函數(shù)關(guān)系，即為預(yù)測方程。m a t s u b a 率先將神經(jīng)網(wǎng)絡(luò)引入股票市 場的價(jià)格預(yù)測上。 4 k 階近鄰預(yù)測模型( k - n e a r e s tn e i g h b o r ) 采用k 階近鄰預(yù)測模型進(jìn)行預(yù)測是基于這樣的基本思想，即歷史在某種程度 上會重演。其具體做法為：把最后一些數(shù)據(jù)點(diǎn)作為參考集，它的長度定義為窗口 尺寸。把去掉最后一個數(shù)據(jù)時間序列稱為截短時間序列( s h o r t e n e dd a t as 兩c s ) 。為 了預(yù)測時序的下一點(diǎn)值，首先拿參考集與截短時序中同樣長度的第一組數(shù)據(jù)集一 一稱為侯選集進(jìn)行比較，并計(jì)算出誤差。然后，把侯選集向后平移一位，并與參 考集進(jìn)行比較，得出第二個誤差值，以此類推。接著把誤差分類，這樣就會得到 k 個誤差最小的侯選集。最后把每個最小誤差的侯選集后面的一個數(shù)據(jù)取到一 起，共有k 個數(shù)據(jù)點(diǎn)取其平均值即為最后預(yù)測值。 到目前為止，這種方法在股票市場預(yù)測中的應(yīng)用還不多見。 5 智能化預(yù)測支持系統(tǒng) 預(yù)測支持系統(tǒng)是將計(jì)算機(jī)技術(shù)、人工智能技術(shù)與預(yù)m 技術(shù)相結(jié)合，能幫助人 們進(jìn)行預(yù)測的軟件系統(tǒng)。到目前為止，人們對預(yù)測支持系統(tǒng)進(jìn)行了大量的研究并 取得了一些成就，智能化預(yù)測支持系統(tǒng)就是其中之一。智能化預(yù)測支持系統(tǒng)由智 能化問題定義、智能化模型選擇、智能化預(yù)測結(jié)果調(diào)整三大智能子系統(tǒng)構(gòu)成，并 可在系統(tǒng)中引入案例推理的方法來幫助完成問題定義，模型選擇和結(jié)果調(diào)整通 用的智能化預(yù)測支持系統(tǒng)已經(jīng)研制出來 時間序列關(guān)系模型與結(jié)構(gòu)關(guān)系模型一般對被預(yù)測對象都有具體而且嚴(yán)格的 要求。這就要求我們在做預(yù)測之前，必須對被預(yù)測對象做深入系統(tǒng)的分析。只有 在確認(rèn)某類預(yù)測模型的前提條件得到滿足的情況下，才可以使用該模型進(jìn)行預(yù) 山東師范大學(xué)碩j ：學(xué)位論文 測，否則預(yù)測結(jié)果是不可靠的。股票市場作為現(xiàn)實(shí)經(jīng)濟(jì)運(yùn)行狀況的直接體現(xiàn)。其 影響因素如g d p 增長率、匯率及國內(nèi)外政治形勢等時常發(fā)生較大的變動，所以要 確定和修改模型的結(jié)構(gòu)確非易事。另一方面，一般計(jì)量統(tǒng)計(jì)的時間序列模型很難 處理高度非線性的問題，而實(shí)際上股票市場與其影響因素之間存在著復(fù)雜的非線 性關(guān)系已有大量的實(shí)際數(shù)據(jù)表明，股票市場是一個具有混沌現(xiàn)象的非線性動力 系統(tǒng)?；谝陨戏治霾⒖紤]到傳統(tǒng)模型的缺陷，本文采用神經(jīng)網(wǎng)絡(luò)這一處理工具 對股票市場進(jìn)行預(yù)測分析，以期進(jìn)一步拓展神經(jīng)網(wǎng)絡(luò)方法在股票市場上的應(yīng)用。 1 2 國內(nèi)外研究動態(tài) 計(jì)算智能技術(shù)的發(fā)展讓研究者找到了新的問題解決思路，神經(jīng)網(wǎng)絡(luò)和進(jìn)化計(jì) 算逐漸成為研究熱點(diǎn)并不乏成功應(yīng)用的例子，但由于其自身算法的一些缺陷，還 在不斷完善和發(fā)展之中。在7 0 年代和8 0 年代對各種時間序列預(yù)測模型進(jìn)行了大 量的實(shí)證研究，將預(yù)測目標(biāo)的歷史資料按照時間的順序捧列成為時間序列，然后 分析它隨時間的變化趨勢，外推預(yù)測目標(biāo)的未來值。這樣，就把影響預(yù)測目標(biāo)變 化的一切因素由“時間”綜合描述。近年來時間序列研究的最新動態(tài)主要表現(xiàn)在 以下幾個方面：對傳統(tǒng)方法的改進(jìn)，譜密度分析，小波分析和神經(jīng)網(wǎng)絡(luò)等方法越 來越受重視。由于時間序列預(yù)測是一種外推預(yù)測方法，它需要先對給定數(shù)據(jù)集建 立一個模型，然后利用該模型，對數(shù)據(jù)進(jìn)行外推，所以當(dāng)預(yù)測時間序列的將來值 時，必然要進(jìn)行外推。因此，通常預(yù)測對將來的依賴就像它對過去的依賴一樣， 我們應(yīng)該根據(jù)新的信息，隨時修正我們的結(jié)果，最好是根據(jù)不同的先驗(yàn)知識或條 件假設(shè)，得到一些不同的預(yù)測值，然后對這些結(jié)果進(jìn)行分析。當(dāng)然，當(dāng)數(shù)據(jù)性質(zhì) 突然發(fā)生交化或原來的結(jié)構(gòu)遭到破壞時，短期預(yù)測可能會出現(xiàn)可怕的錯誤。相對 于傳統(tǒng)方法，神經(jīng)網(wǎng)絡(luò)和進(jìn)化計(jì)算的方法在這方面表現(xiàn)要好得多。 1 9 8 7 年l a p e d e s 等人首先應(yīng)用神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測，他們用非線性神經(jīng)網(wǎng)絡(luò) 對由計(jì)算機(jī)生成的時間序列仿真資料進(jìn)行了學(xué)習(xí)和預(yù)測。由于人工神經(jīng)網(wǎng)絡(luò)是由 簡單單元構(gòu)成，具有良好的非線性品質(zhì)，靈活有效的學(xué)習(xí)方式，對非線性系統(tǒng)具 有較強(qiáng)的模擬能力，所以，一經(jīng)提出，人工神經(jīng)網(wǎng)絡(luò)預(yù)測方法就受到了高度的重 視。隨后，w e r b o s 、v a r f i s 分別對實(shí)際的經(jīng)濟(jì)時間序列資料進(jìn)行了預(yù)測研究。 w e i g e n d 等人將神經(jīng)網(wǎng)絡(luò)與回歸方法作了比較，表明了神經(jīng)網(wǎng)絡(luò)預(yù)測優(yōu)于統(tǒng)計(jì)預(yù) 4 山東師范夫?qū)W碩上學(xué)位論文 測。1 9 9 1 年，m a t s u b a 等人發(fā)表了有關(guān)應(yīng)用神經(jīng)網(wǎng)絡(luò)進(jìn)行股票預(yù)測的文章。 c h a k r a b o r t y 等人關(guān)于神經(jīng)網(wǎng)絡(luò)多變量時間序列預(yù)測的文章中，用簡單的神經(jīng)網(wǎng)絡(luò) 模型進(jìn)行了預(yù)測，結(jié)果比統(tǒng)計(jì)學(xué)方法好得多。基于樹型結(jié)構(gòu)的遺傳編程( g e n e t i c p r o g r a m m i n g , g p ) s t 5 2 1 ，s 觚t i n i 等人關(guān)于預(yù)測領(lǐng)域的文章中也取得了很好的效 果，基因表達(dá)式編程( g e n ee x p r e s s i o np r o g r a m m i n g ，g e p ) 在結(jié)合了遺傳算法 ( g e n e t i ca l g o r i t h m ，g a ) 和遺傳編程( g e n ep r o g r a 咖i n g ，g p ) 思想的基礎(chǔ)上正 式提出來的，它融合了遺傳算法和遺傳編程的優(yōu)點(diǎn)，在表現(xiàn)形式上，g e p 繼承了 遺傳算法的定長線性編碼簡單快捷的特點(diǎn)和遺傳編程的樹型結(jié)構(gòu)靈活多能的特 點(diǎn)，已有的研究成果表明在預(yù)測等方面都取得了比傳統(tǒng)算法更好的結(jié)果；同時， 柔性神經(jīng)樹( f l e x i b l en e u r a lt r e e ，e q t ) 咖模型，憑借其較強(qiáng)的函數(shù)逼近能 力逐漸得到廣泛應(yīng)用，已有的研究成果表明在預(yù)測等方面取得了比其他算法更好 的結(jié)果。在優(yōu)化算法上，遺傳算法( g e n e t i ca l g o f i t h m ，g a ) ，免疫算法( i m m e n e p r o g r a m m i n g , i p ) ，粒子群優(yōu)化算法( p a n i c l es w a r mo p t i m i z a t i o n , p s o ) ，禁忌搜 索算法( t a b us e a r c h ，t s ) 等。由于其不同的優(yōu)化方法，在優(yōu)化不同的結(jié)構(gòu)時，也 會取得各自不同的效果。我們把神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)與多種不同的優(yōu)化算法進(jìn)行了結(jié)合 并對結(jié)果進(jìn)行比較。 囂 1 3 常見幾種預(yù)測法 人類的預(yù)測活動發(fā)展至今已有數(shù)千年的歷史，有預(yù)測活動，就存在預(yù)測方法 的選擇問題，預(yù)測方法多種多樣，廣義上可以分為定性預(yù)測和定量預(yù)測【6 】。 t 3 1 定性預(yù)測 定性預(yù)測指預(yù)測者利用以往的經(jīng)驗(yàn)，憑借直覺做出的預(yù)感和猜測，其結(jié)果的 準(zhǔn)確與否取決于預(yù)測者的知識和經(jīng)驗(yàn)，帶有較大的主觀性，它主要包括專家調(diào)查 法、主觀概率法、交叉影響法等，其中較為普遍采用的是美國蘭德( r a n d ) 公司 于1 9 “年創(chuàng)造的德爾菲( d c l p h i ) 預(yù)測法，這是一種專家集體預(yù)測法，其在長 期預(yù)測中有著較好的效果。這種方法最后采用經(jīng)典的統(tǒng)計(jì)方法處理專家們的意 見，專家意見的概率分布符合或接近正態(tài)分布。通常用于對社會和經(jīng)濟(jì)等領(lǐng)域內(nèi) 山東師范大學(xué)碩l 學(xué)位論文 的一些大型復(fù)雜系統(tǒng)，以及一些關(guān)于未來發(fā)展趨勢的長期預(yù)測在人們尚未完全 認(rèn)識系統(tǒng)的運(yùn)動規(guī)律之前，常使用定性預(yù)測方法。 1 3 2 定量預(yù)測 定量預(yù)測則是指將預(yù)測信息( 數(shù)據(jù)) ，按一定的數(shù)學(xué)模型，進(jìn)行形式化的計(jì) 算，從而求出預(yù)測結(jié)果。由于定量預(yù)測通過建立數(shù)學(xué)或統(tǒng)計(jì)模型，利用模型對于 歷史數(shù)據(jù)的擬合性來反映系統(tǒng)運(yùn)行的規(guī)律性，并以此為基礎(chǔ)預(yù)測今后的發(fā)展趨 勢，因而在整個預(yù)測跨度區(qū)間內(nèi)，系統(tǒng)的運(yùn)行相對于既定的模型不發(fā)生大的結(jié)構(gòu) 性變動是預(yù)測成功的先決條件。當(dāng)預(yù)測時限較短，各種經(jīng)濟(jì)的、社會的、政治的、 技術(shù)的等等因素變化不大時，這時定量預(yù)測的準(zhǔn)確性較高。常見預(yù)測方法有t 滑動平均法 用過去幾期的平均值作為下一期的預(yù)測值。數(shù)學(xué)模型是： = ( s 卜l + 善。一2 + + 3 t - n ) n ( 1 - 2 ) 式中，s i 為t 時期的預(yù)測值，s 。l ，s 卜n 分別為t 1 時期，。t - n 時期的實(shí) 際值，n 是求平均值時所取實(shí)際值的個數(shù)。 指數(shù)平滑法 指數(shù)平滑法【7 】以滑動平均法為基礎(chǔ)，分為一次平滑，二次平滑，三次平滑。 ( 1 ) 一次平滑，數(shù)學(xué)模型為： j j l = c z _ + ( 1 一口、j e t - 1 i( 1 - 3 ) 一d i ( i ) = s 盤 ( 1 - 4 ) 臥1 為t 時段指數(shù)平滑平均數(shù)( 右上角( 1 ) 表示一次平滑。下同) ，o ( o ，1 ) 為指數(shù) 平滑系數(shù)，兩為t 時段的實(shí)際觀察值，d ”i ( 1 為t + l 時段的預(yù)測值 6 山東師范大學(xué)碗l 學(xué)位論文 ( 2 ) 二次平滑，考慮預(yù)測是線性趨勢時，數(shù)學(xué)模型為 s j 2 = c 囂? + ( 1 一口) s 瘩 ( 1 - 5 ) a ，= 2 j j ”一s ：2 ( 1 - 6 ) e = 口( j j “一砧) o - a ) ( 1 7 ) 科0 = 4 + e ( 1 8 ) 回歸分析法 回歸分析法又叫因果分析法【7 ) 1 1 1 ，即認(rèn)為一個系統(tǒng)的發(fā)展演變主要由一個或 決定，通過觀察這些因素的變化，來分析整個系統(tǒng)的演變和發(fā)展。其基本思想是： 雖然自變量和因變量之間沒有嚴(yán)格的確定性的函數(shù)關(guān)系，但可設(shè)法找出最能代表 它們之間近似關(guān)系的數(shù)學(xué)模型即回歸方程式，然后根據(jù)回歸方程式計(jì)算所要求的 預(yù)測值。主要有一元回歸和多元回歸 一元回歸法認(rèn)為自變量和因變量之間是線性關(guān)系，設(shè)y = a + b x ，其中y 為預(yù)測目 標(biāo)，x 為影響因素。據(jù)采集到的數(shù)據(jù)x i 、y i ，據(jù)最小二乘法，可求得： | ， a 每一乃( 1 - 9 ) d d 拂嵯杠t 其中，；= 二1 。x ，歹= 丟只代入a ， 由此還可推廣到多元回歸。 ( 1 - 1 m b 可求得回歸估計(jì)值y 。 除此以外，常用的還有灰色預(yù)測法、b o x - j e n k i n s 方法、馬爾可夫預(yù)測法、 投入產(chǎn)出法【3 1 等。 1 4 神經(jīng)網(wǎng)絡(luò)的發(fā)展及其在經(jīng)濟(jì)領(lǐng)域中的應(yīng)用 人工神經(jīng)網(wǎng)絡(luò)就是指為了模擬生物大腦的結(jié)構(gòu)和功能而構(gòu)成的一種信息處 理系統(tǒng)或計(jì)算機(jī)。它是由大量類似于神經(jīng)元的處理單元互相聯(lián)接而成的非線性復(fù) 雜網(wǎng)絡(luò)系統(tǒng)。它在現(xiàn)代神經(jīng)科學(xué)研究成果的基礎(chǔ)上提出的，試圖通過模擬大腦神 7 山東師范大學(xué)碩j 。學(xué)位論文 經(jīng)網(wǎng)絡(luò)處理、記憶信息的方式完成人腦那樣的信息處理功能。神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)是 由基本處理單元及其互連方法決定的。 人工神經(jīng)網(wǎng)絡(luò)的研究始于2 0 世紀(jì)4 0 年代，經(jīng)歷了由興起到衰退、又由衰 退到興盛的曲折發(fā)展過程，這一發(fā)展過程大致可以分為以下四個階段。 1 初始發(fā)展階段( 2 0 世紀(jì)5 0 6 0 年代) 1 9 4 3 年心理學(xué)家w s m c c u l l o c h 和數(shù)學(xué)家w p i t t s 在研究生物神經(jīng)元的 基礎(chǔ)上提出了一種簡單的人工神經(jīng)元模型，即后來的m p 模型。在該模型中， 神經(jīng)元的活動表現(xiàn)為興奮和抑制兩個狀態(tài)雖然m p 模型過于簡單。只能完成 一些簡單的邏輯運(yùn)算，但它的出現(xiàn)開創(chuàng)了神經(jīng)網(wǎng)絡(luò)研究的先河，為以后的研究提 供了依據(jù)。 2 低潮時期( 2 0 世紀(jì)6 0 7 0 年代) 由于受當(dāng)時神經(jīng)網(wǎng)絡(luò)的理論研究水平所限及應(yīng)用前景不明朗，加之受馮諾依 曼型計(jì)算機(jī)大發(fā)展的沖擊等因素的影響，神經(jīng)網(wǎng)絡(luò)研究陷入了低谷。 3 復(fù)興時期( 2 0 世紀(jì)8 0 年代) 美國加州理工學(xué)院生物物理學(xué)家j o h n j h o p p i e l d 教授在1 9 8 2 年和1 9 8 4 年先 后發(fā)表了兩篇十分重要的論文，提出了h o p p i e l d 神經(jīng)網(wǎng)絡(luò)模型，引入能量函數(shù) 概念，這一成果的取得使得神經(jīng)網(wǎng)絡(luò)的研究取得了突破性進(jìn)展，從而掀起了神經(jīng) 網(wǎng)絡(luò)研究的熱潮。 4 發(fā)展高潮期 2 0 世紀(jì)8 0 年代中期以來，神經(jīng)網(wǎng)絡(luò)的應(yīng)用研究取得了很大成績，涉及面 非常廣泛。為了適應(yīng)人工神經(jīng)網(wǎng)絡(luò)的發(fā)展，1 9 8 7 年6 月在美國加州舉行了第一 屆神經(jīng)網(wǎng)絡(luò)國際會議，有一千多名學(xué)者參加，并成立了國際神經(jīng)網(wǎng)絡(luò)學(xué)會，后來 確定每年召開兩次國際聯(lián)合神經(jīng)網(wǎng)絡(luò)大會。進(jìn)入9 0 年代后，隨著i e e e 神經(jīng) 網(wǎng)絡(luò)會刊的問世，各種論文專著逐年增加，全世晃范圍內(nèi)逐步形成了研究神經(jīng)網(wǎng) 絡(luò)前所未有的新高潮。 我國學(xué)術(shù)界大約在8 0 年代中期關(guān)注神經(jīng)網(wǎng)絡(luò)領(lǐng)域，有一些科學(xué)家起到先導(dǎo) 作用，如中科院生物物理所科學(xué)家汪云九、齊翔林和姚國正等。1 9 8 9 年召開了 全國一個非正式神經(jīng)網(wǎng)絡(luò)會議，1 9 9 0 年我國的8 個學(xué)會聯(lián)合在北京召開了神經(jīng) 網(wǎng)絡(luò)首屆學(xué)術(shù)大會，這是我國神經(jīng)網(wǎng)絡(luò)發(fā)展以及走向世界的良好開端。我國“8 6 3 ” 3 山東師范人學(xué)碩| 。學(xué)位論文 高技術(shù)研究計(jì)劃和“攀登”計(jì)劃于1 9 9 0 年批準(zhǔn)了人工神經(jīng)網(wǎng)絡(luò)的3 項(xiàng)課題 自然科學(xué)基金和國防科技預(yù)研基金也把神經(jīng)網(wǎng)絡(luò)的研究列入選題指南，許多全國 性學(xué)術(shù)年會和一些學(xué)術(shù)刊物把神經(jīng)網(wǎng)絡(luò)理論及其應(yīng)用方面的論文列為重要，為神 經(jīng)網(wǎng)絡(luò)在我國發(fā)展創(chuàng)造了良好的條件。 實(shí)際上，股票市場作為高風(fēng)險(xiǎn)高收益的投資領(lǐng)域，一直倍受投資者的關(guān)注， 國外的研究者也先后提出了一系列的定價(jià)理論和投資組合模型，如馬柯威茨的投 資組合理論，夏普等人的c a p m ，以及羅斯的a p t 。然而，投資者們發(fā)現(xiàn)，雖然 這些理論極大地開闊和提高了投資者的思想理念及其對風(fēng)險(xiǎn)和收益的辨證理解， 但對實(shí)際操作卻缺乏明確的指導(dǎo)。例如a p t 模型給出了風(fēng)險(xiǎn)資產(chǎn)回報(bào)率與套利組 合回報(bào)率之間的相互關(guān)系，但對于如何尋找滿意的套利組合卻沒有明確的方案。 隨后的研究者將計(jì)量統(tǒng)計(jì)方法應(yīng)用于股市建模，如多元回歸、a r m a 以及g a r c h 等時間序列預(yù)測模型。綜觀以往的預(yù)測模型，我們大致可以將它們分為如下兩類： 1 時間序列關(guān)系模型，在這類的模型中，被預(yù)測的對象的演變過程為一時間的 函數(shù)。 2 結(jié)構(gòu)關(guān)系模型，這類模型的特點(diǎn)是，被預(yù)測的事物與其影響因素之間在一定 的時間內(nèi)保持著某種固定的函數(shù)結(jié)構(gòu)關(guān)系。 時間序列關(guān)系模型與結(jié)構(gòu)關(guān)系模型一般對被預(yù)測對象都有具體而且嚴(yán)格的要求。 這就要求我們在做預(yù)測之前，必須對被預(yù)測對象做深入系統(tǒng)的分析。只有在確認(rèn) 某類預(yù)測模型的前提條件得到滿足的情況下，才可以使用該模型進(jìn)行預(yù)測，否則 預(yù)測結(jié)果是不可靠的。股票市場作為現(xiàn)實(shí)經(jīng)濟(jì)運(yùn)行狀況的直接體現(xiàn)，其影響因素 如g d p 增長率，匯率及國內(nèi)外政治形勢等時常發(fā)生較大的變動，所以要確定和 修改模型的結(jié)構(gòu)確非易事另一方面，一般計(jì)量統(tǒng)計(jì)的時間序列模型很難處理高 度非線性的問題，而實(shí)際上股票市場與其影響因素之間存在著復(fù)雜的非線性關(guān) 系。己有大量的實(shí)際數(shù)據(jù)表明，股票市場是一個具有混沌現(xiàn)象的非線性動力系統(tǒng)。 面對自然和社會經(jīng)濟(jì)現(xiàn)象中大量存在的非線性、非平穩(wěn)的復(fù)雜動力系統(tǒng)問題，傳 統(tǒng)的統(tǒng)計(jì)學(xué)預(yù)測方法解決這類問題效果欠佳。經(jīng)濟(jì)學(xué)家一直致力于研究股票市場 價(jià)格的變化，希望能從中找出一些規(guī)律，避免諸如股災(zāi)這種大的股市波動，從而保 持經(jīng)濟(jì)穩(wěn)定。股票市場是一個復(fù)雜的非線性系統(tǒng)，同時受多種因素的交互影響， 對于股票未來價(jià)格的精確預(yù)測是非常困難的。股市預(yù)測被認(rèn)為是當(dāng)前時間序列預(yù) 9 山東師范人學(xué)碩 學(xué)位論文 測中最富挑戰(zhàn)性的應(yīng)用之一，受到了廣泛關(guān)注。 以神經(jīng)網(wǎng)絡(luò)為代表的智能計(jì)算方法中，單個神經(jīng)元有較簡單卻又反映非線性 本質(zhì)特征的非線性核，通過這些基本的非線性核自組織復(fù)合，使其能夠重建任意 的非線性連續(xù)函數(shù)。通過學(xué)習(xí)這一歸納過程，使得網(wǎng)絡(luò)學(xué)習(xí)到序列的內(nèi)在規(guī) 律，并用其較好的推廣能力對未來進(jìn)行預(yù)測。使用神經(jīng)網(wǎng)絡(luò)方法避免了繁瑣的常 規(guī)建模過程，且神經(jīng)網(wǎng)絡(luò)模型有良好的適應(yīng)和自學(xué)習(xí)能力、較強(qiáng)的抗干擾能力。 這使得神經(jīng)網(wǎng)絡(luò)在時間序列預(yù)測中頗受關(guān)注。自從1 9 8 7 年l a p e d e s 和f a t h e r 首 先應(yīng)用神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測以來，神經(jīng)網(wǎng)絡(luò)預(yù)測時聞序歹l j 方法受到重視。目前，己 有多種不同形式的神經(jīng)網(wǎng)絡(luò)被用于工業(yè)，經(jīng)濟(jì)等的預(yù)測中。研究結(jié)果表明，神經(jīng) 網(wǎng)絡(luò)用于預(yù)測效果較好，為一類高度非線性動態(tài)關(guān)系的時間序列預(yù)測提供了一條 有效途徑。 基于以上分析并考慮到傳統(tǒng)模型的缺陷，本文采用神經(jīng)網(wǎng)絡(luò)這一處理工具對 中國的股票市場進(jìn)行預(yù)測分析，以期進(jìn)一步拓展神經(jīng)網(wǎng)絡(luò)方法在股票市場上的應(yīng) 用。 1 4 1 神經(jīng)元及其特性 連接機(jī)制結(jié)構(gòu)的基本處理單元與神經(jīng)生理學(xué)模擬往往稱為神經(jīng)元。神經(jīng)元是 神經(jīng)網(wǎng)絡(luò)操作的基本信息處理單位，每個構(gòu)造起網(wǎng)絡(luò)的神經(jīng)元模型模擬一個生物 神經(jīng)元，如圖2 1 所示，它是人工神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)基礎(chǔ)，具有三個基本要素： 一 圖1 1 神經(jīng)元模型 1 ) 突觸或連接鏈：每一個都由其權(quán)值或強(qiáng)度作為特征，連接強(qiáng)度由各連接上的 權(quán)值表示。權(quán)值為正表示激活，為負(fù)表示抑制。 2 1 加法器：用于求輸入信號被神經(jīng)元的相應(yīng)突觸加權(quán)的和。 3 1 激活函數(shù)：用來限制神經(jīng)元輸出振幅，它將輸出信號限制到允許范圍之內(nèi)的 一定值。通常，一個神經(jīng)元輸出的正常幅度范圍可寫成單位閉區(qū)間f o ，l 】或i - l ， l 】 1 0 山東師范人學(xué)碩士學(xué)位論文 神經(jīng)元模型也包括一個外部偏置，記為0 。偏置的作用是根據(jù)其為正或?yàn)?負(fù)。相應(yīng)也增加或降低激活函數(shù)的網(wǎng)絡(luò)輸入 該神經(jīng)元單元由多個輸入，i _ l ，2 ，n 和一個輸出y j 組成。中間狀態(tài)由輸入信號 的權(quán)和表示，而輸出為： y j = ，【一夠j i = i 其中， o j 為神經(jīng)元單元的偏置( 閾值) ，i 為連接權(quán)系數(shù)( 對于激發(fā)狀態(tài)，、 】：i i 取 正值，對于抑制狀態(tài)，啊i 取負(fù)值) ，n 為輸入信號數(shù)目，y i 為神經(jīng)元輸出，t 為 時間，f c ) 為輸出變換函數(shù)，也稱激發(fā)或激勵函數(shù)。 q 4 2 激勵函數(shù) 激勵函數(shù)f ( ) ( a c t i v a t i o nf u n c t i o n ) ，其作用是是模擬生物神經(jīng)元所具有的 非線性轉(zhuǎn)移特性，用來限制神經(jīng)元輸出振幅。常用的激勵函數(shù)； 1 ) 閾值函數(shù) 似，= 囂意 如圖1 2 ( a ) 所示 2 1 分段函數(shù) “x ) = lx 2 1 圭( 1 + 曲一l x l ( 3 ) 0 x s - 1 一種常規(guī)的s 形函數(shù)如圖1 刪示，為：廠( 善) = r 告 o ( 1 【x f l 山東師范大學(xué)碩士學(xué)位論文 ，( 力 0 而 ( a ) - ，( 力 ( 砷 圖1 2 激勵函數(shù) ji 1 f 0凈 、 另一種是常用雙曲正切函數(shù)如圖1 2 ( c ) 所示，廠( d = 等1 墳x ) 學(xué)習(xí)速率漸小法 1 9 9 0 年由d a r k e nc h r i s t i a n 和m o o d yj o h n 提出的在訓(xùn)練期間減小學(xué)習(xí)速率p q 的方法。它適用于每個訓(xùn)練模式更新的b p 網(wǎng)絡(luò)，因?yàn)槿藗冎篱_始學(xué)習(xí)時， 學(xué)習(xí)速率比較大，有利于加快學(xué)習(xí)速度，而快到極值點(diǎn)時，學(xué)習(xí)速率減小有利于 收斂。他們給出的學(xué)習(xí)速率變化規(guī)則為： 刁( 療) = 叩( o ) “1 + ( 玎，) ) 常值參數(shù)r 能夠被用于調(diào)節(jié)相對于整個訓(xùn)練周期的學(xué)習(xí)速率( 進(jìn)度裹) 。在前r 學(xué) 習(xí)步之后，學(xué)習(xí)速率被這個更新規(guī)則減半。通過在訓(xùn)練期間用實(shí)行減小的學(xué)習(xí)速 率，大值和小值的優(yōu)點(diǎn)能夠通過對r 選合適的值被結(jié)合在一起，遺憾的是好的r ， 只能夠通過試湊尋找到。 ( 2 ) 自適應(yīng)學(xué)習(xí)速率【3 1 l 1 9 8 9 年和1 9 9 0 年r s a l o m o n 用一種簡單的進(jìn)化策略來調(diào)節(jié)學(xué)習(xí)速率。其基本 指導(dǎo)思想是：在學(xué)習(xí)收斂的情況下，增大q ，以縮短學(xué)習(xí)時間；而當(dāng)r l 偏大致使 全局誤差不能收斂時，要及時減小i i ，直到收斂為止。 2 。4 2 附加動量法 當(dāng)用b p 算法訓(xùn)練網(wǎng)絡(luò)時，f i 越大，權(quán)重改變越大，但是，如果權(quán)重改變 過大，學(xué)習(xí)過程中會出現(xiàn)振蕩而不收斂，權(quán)重過小，可能使網(wǎng)絡(luò)不能收斂到全局 最小。為了避免這一現(xiàn)象，可采用附加動量項(xiàng)的方法 3 2 1 ，其具體做法是：將上一 山東師范人學(xué)碩e 學(xué)位論文 次權(quán)值調(diào)整量的一部分迭加到按本次誤差計(jì)算所得的權(quán)值調(diào)整量上，以作為本次 的實(shí)際權(quán)值調(diào)整量，即： ，( 一) = 一叩v e ( ，1 ) + a a w ( n 1 ) 式中n 為動量系數(shù)，通常o a 0 9 。 2 5b p 神經(jīng)網(wǎng)絡(luò)的泛化能力 學(xué)習(xí)不是簡單的記憶已學(xué)過的輸入，而是通過訓(xùn)練樣本學(xué)習(xí)隱含在樣本中的 有關(guān)系統(tǒng)本身的內(nèi)在規(guī)律性，從而對未出現(xiàn)在訓(xùn)練集中的輸入也能給出正確反 應(yīng)。泛化( g e n e r a l i z a t i o n ) 能力( 推廣能力) 是指經(jīng)訓(xùn)練( t r a i n ) 后的網(wǎng)絡(luò)對同一樣本 集中非訓(xùn)練樣本仍能給出正確的輸入輸出關(guān)系的能力田，一個“過度擬合” ( o v e m t t i n g ) 的神經(jīng)網(wǎng)絡(luò)雖然會對訓(xùn)練樣本集達(dá)到好的擬合，但對于一個新的輸入 樣本卻會產(chǎn)生與目標(biāo)輸出矢量差別較大的輸出。在應(yīng)用神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測時，我 們的目的是使神經(jīng)網(wǎng)絡(luò)不僅能對己訓(xùn)練過的樣本有好的擬合性，更重要的是當(dāng)輸 入新樣本時，其輸出的預(yù)測值與真實(shí)的觀察值之間的誤差要盡可能的小，即既能 擬合訓(xùn)練樣本，又能對新數(shù)據(jù)進(jìn)行預(yù)測。神經(jīng)網(wǎng)絡(luò)的泛化能力是人們最關(guān)心的問 題，沒有泛化能力的神經(jīng)網(wǎng)絡(luò)是沒有價(jià)值的由于泛化問題的重要性，它己經(jīng)成 為近年來國際上十分關(guān)注的理論問題，也引起了國內(nèi)一些學(xué)者的注意【3 ”目前， 已經(jīng)出現(xiàn)了一些提高神經(jīng)網(wǎng)絡(luò)的泛化能力的算法?？诹?xí) 山東i 1 1 i 范人學(xué)碩i ：學(xué)位論文 預(yù)測 第3 章基于b p 神經(jīng)網(wǎng)絡(luò)的股票市場 神經(jīng)網(wǎng)絡(luò)具有并行處理、自適應(yīng)、自組織、聯(lián)想；己憶及容錯和魯捧性等特點(diǎn)。 任何一個時間序列都可以看成是一個由非線性機(jī)制確定的輸入輸出系統(tǒng)，神經(jīng)網(wǎng) 絡(luò)理論中的k o t m o g o r o v 連續(xù)性定理1 4 ，從數(shù)學(xué)上保證了神經(jīng)網(wǎng)絡(luò)用于時間序 列預(yù)測的可行性。用神經(jīng)網(wǎng)絡(luò)對時間序列預(yù)測，容許數(shù)據(jù)中帶有較強(qiáng)的噪聲，這 是其它方法所不能比擬的。 總的來說，人工神經(jīng)網(wǎng)絡(luò)是一個具有高度非線性時間動力系統(tǒng)。較其他預(yù)測 方法而言，神經(jīng)網(wǎng)絡(luò)能從數(shù)據(jù)樣本中自動地學(xué)習(xí)以前的經(jīng)驗(yàn)而無需繁復(fù)的查詢和 表述過程，并自動地逼近那些最佳刻畫了樣本數(shù)據(jù)規(guī)律的函數(shù)，而不論這些函數(shù) 具有怎樣的形式，且所考慮的系統(tǒng)表現(xiàn)的函數(shù)形式越復(fù)雜，非線性程度越高，神 經(jīng)網(wǎng)絡(luò)這種特性的作用就越明顯。 3 1 基于b p 神經(jīng)網(wǎng)絡(luò)的預(yù)測 采用b p 神經(jīng)網(wǎng)絡(luò)用于非線性時間序列預(yù)測的特點(diǎn)是：學(xué)習(xí)過程由信號的 正向傳播與誤差的逆向傳播兩個過程組成，它較好地揭示了非線性時間序列的內(nèi) 在相關(guān)性，信息損失較少，易于達(dá)到預(yù)測目的。又由于預(yù)測中，所有的信息均來 自單一的序列，所以在應(yīng)用中一般使用反向傳播方向來進(jìn)行有記憶地訓(xùn)練和預(yù) 測，可以較好地揭示非線性時間序列在時延狀態(tài)空問中的相關(guān)性，從而達(dá)到預(yù)測 目的。 神經(jīng)網(wǎng)絡(luò)用于時間序列預(yù)測，是指利用神經(jīng)網(wǎng)絡(luò)去逼近一個時間序列或者一 個時間序列的變形，可用時間序列的前m 個值( ) ( ( t o , x 0 - 2 ) ，) ( ( c - m ) ) 去預(yù)測 下s 個值x ( t ) ，x ”1 ) ，, x ( t + s - 1 ) 。具體說來，就是用一個結(jié)構(gòu)為：m 巾s 的神經(jīng) 網(wǎng)絡(luò)來擬合或逼近函數(shù)： t ( ) ( ( t ) ，) ( ( t + 1 ) ，x ( t + s - i ) ) - 2 f ( x ( t - 1 )