（計(jì)算機(jī)應(yīng)用技術(shù)專業(yè)論文）支持向量機(jī)在地層原油高壓物性參數(shù)預(yù)測中的研究與應(yīng)用.pdf

中文摘要 論文題目 專業(yè) 碩士生 指導(dǎo)教師 支持向量機(jī)在地層原油高壓物性參數(shù)預(yù)測中的研究與應(yīng)用 計(jì)算機(jī)應(yīng)用技 潘華賢 簽名 程國建 簽名 地層原油的高壓物性參數(shù) p v t 參數(shù) 如原油的泡點(diǎn)壓力 地層體積系數(shù) 溶解氣 油比 油藏溫度 原油比重和天然氣比重等 在油氣藏的儲量計(jì)算以及確定油藏的特性 等工作中起到了關(guān)鍵作用 為了確定原油的高壓物性參數(shù) 一般情況下 通過使用巖心 或者地表收集的樣本數(shù)據(jù)計(jì)算那些難以獲得的原油物性參數(shù) 然而 為了得到這些樣本 數(shù)據(jù) 需要花費(fèi)大量資金 成本較高 因此 研究人員推導(dǎo)出用于計(jì)算地層原油高壓物 性參數(shù)的經(jīng)驗(yàn)公式 利用這些公式確定物性參數(shù) 目前 在油氣工業(yè)領(lǐng)域 已經(jīng)出現(xiàn)了 大量這樣的經(jīng)驗(yàn)關(guān)系式 但是 由于經(jīng)驗(yàn)公式的使用范圍限制在特定的地層條件下 因 此 這些經(jīng)驗(yàn)公式不能通用于不同地層條件下油藏的原油高壓物性參數(shù)計(jì)算 人工神經(jīng)網(wǎng)絡(luò) a r t i f i c i a ln e u r a ln e t w o r k s 砧州 通過自調(diào)整參數(shù)學(xué)習(xí)數(shù)據(jù)的模式 訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)可以準(zhǔn)確的與真實(shí)數(shù)據(jù)相匹配 并且它可以快速 準(zhǔn)確的預(yù)測未知樣 本數(shù)據(jù) 可以說 人工神經(jīng)網(wǎng)絡(luò)最重要的一個特點(diǎn)是它能夠挖掘出通過一般觀測以及某 些標(biāo)準(zhǔn)的統(tǒng)計(jì)方法無法發(fā)現(xiàn)的數(shù)據(jù)內(nèi)部規(guī)律和模式 特別是在處理非線性問題時 該特 點(diǎn)尤為明顯 許多研究人員認(rèn)識到 通過使用人工神經(jīng)網(wǎng)絡(luò) 可以在石油工程領(lǐng)域建立 較準(zhǔn)確的預(yù)測地層原油高壓物性參數(shù)的模型 但是 神經(jīng)網(wǎng)絡(luò)自身存在模型結(jié)構(gòu)復(fù)雜 參數(shù)選擇困難 易出現(xiàn)過擬合且精確度較 低等問題 而支持向量機(jī) s u p p o r tv e c t o rm a c h i n e s v m 能夠較好地解決神經(jīng)網(wǎng)絡(luò)出 現(xiàn)的問題 并且它是一種較有效的機(jī)器學(xué)習(xí)以及數(shù)據(jù)挖掘算法 在分類問題和回歸問題 中得到廣泛應(yīng)用 具有模型結(jié)構(gòu)選擇簡單 處理速度快 學(xué)習(xí)精度高的優(yōu)點(diǎn) 基于支持 向量機(jī)的這些優(yōu)點(diǎn) 因此 本文將支持向量機(jī)算法引入到我國油田的地層原油高壓物性 參數(shù)的預(yù)測中 分析了支持向量機(jī)的理論基礎(chǔ) 統(tǒng)計(jì)學(xué)習(xí)理論 支持向量機(jī)算法以及 用于回歸估計(jì)的支持向量算法原理 支持向量回歸 s u p p o r tv e c t o rr e g r e s s i o n s v r 并且研究了核函數(shù) 以及支持向量機(jī)模型參數(shù)與核函數(shù)對支持向量機(jī)性能的影響和作用 同時 通過將s v r 算法與b p 神經(jīng)網(wǎng)絡(luò)算法 b a c kp r o p a g a t i o n b p 的預(yù)測結(jié)果進(jìn)行對 比分析 驗(yàn)證s v r 在預(yù)測我國油田原油高壓物性參數(shù)中的可行性和有效性 實(shí)驗(yàn)結(jié)果表 明 支持向量回歸模型具有較好的預(yù)測效果以及實(shí)際應(yīng)用價值 所設(shè)計(jì)的模型以較小的 誤差比較準(zhǔn)確地確定了原油泡點(diǎn)壓力下的體積系數(shù) 關(guān)鍵詞 支持向量機(jī)高壓物性參數(shù)體積系數(shù)泡點(diǎn)壓力神經(jīng)網(wǎng)絡(luò) 論文類型 應(yīng)用研究 a t 文得到國家自然科學(xué)基金的資助 h 英文摘要 s u b j e c t s p e c i a l i t y n a m e in s t r u c t o r a s t u d ya n da p p l i c a t i o no fs u p p o r tv e c t o rm a c h i n ef o rp r e d i c t i o no fp v t p r o p e r t i e so fc r u d e o i l c o m p u t e ra p p l i c a t i o nt e c h n o l o g y p a nh c h e n g a b s t r a c t t h ep v t p r o p e r t i e so fc r u d e o i l s u c ha sb u b b l ep o i n tp r e s s u r e f o r m a t i o nv o l u m ef a c t o r d i s s o l v e dg a s o i lr a t i o r e s e r v o i rt e m p e r a t u r e c r u d e o i la p ig r a v i t ya n dg a sr e l a t i v ed e n s i t y p l a y e dak e yr o l ei nt h ec a l c u l a t i o no f r e s e r v e so ft h eo i la n dg a sr e s e r v o i r sa sw e l la sf o rt h e i d e n t i f i c a t i o no ft h er e s e r v o i rc h a r a c t e r i s t i c s t y p i c a l l y i no r d e rt od e t e r m i n et h ep v t p r o p e r t i e so fc r u d e o i l t h es a m p l e sw h i c hc o l l e c t e df o r mc o r e so rs u r f a c e a r eu s e dt o c a l c u l a t et h ep v t p r o p e r t i e sw h i c ha r ed i f f i c u l tt oo b t a i n h o w e v e r t h i sp r o c e s ss p e n d sal o t o fm o n e y a n dt h ec o s t sa r ea l s oh i g h t h e r e f o r e t h er e s e a r c h e r sd e d u c e dm a n ye m p i r i c a l f o r m u l a sw h i c ha r eu s e dt oc a l c u l a t et h ep v t p r o p e r t i e so fc r u d e o i l a tp r e s e n t t h e r ea r eal o t o fe m p i r i c a lf o r m u l a si nt h eo i la n dg a si n d u s t r y b e c a u s eo ft h et r a d i t i o n a le x p e r i e n c e f o r m u l a sa r eo n l ys u i t a b l ef o rs p e c i f i cp r o p e r t yr e s e r v o i r t h e r e f o r e t h ee m p i r i c a lf o r m u l a sa r e n o ts u i t a b l ef o rc a l c u l a t i n go fp v t p r o p e r t i e so f a l lt y p e so fc r u d e o i l a r t i f i c i a ln e u r a ln e t w o r k s a n n c a nl e a r nt h em o d e lo fd a t ab ys e l f a d j u s t i n gi t s p a r a m e t e r s a f t e rt r a i n e d a n nc a na c c u r a t e l ym a t c h 嘶廿lt h ee x p e c t e dd a t a a n di tc a nb e q u i c k l ya n da c c u r a t e l yp r e d i c tt h eu n k n o w ns a m p l ed a t a i tc a nb es a i dt h a to n eo ft h em o s t i m p o r t a n tf e a t u r eo fa n n i si t sa b i l i t yt od i s c o v e r yt h er u l e sa n dp a t t e r n si nt h ed a t aw h i c ht h e g e n e r a lo b s e r v a t i o na n ds o m es t a n d a r ds t a t i s t i c a lm e t h o d sc a nn o tf i n d e s p e c i a l l y w h e n d e a l i n g i mt h en o n l i n e a rp r o b l e m s t h i sc h a r a c t e r i s t i c so fa n n i so b v i o u s m a n yr e s e a r c h e r s r e c o g n i z e dt h a tt h r o u g ht h eu s eo fa n n w ec a ne s t a b l i s ht h ea p p r o p r i a t em o d e lw h i c hc a n a c c u r a t e l yp r e d i c tt h ep v tp r o p e r t i e so f c r u d e o i li nt h ep e t r o l e u me n g i n e e r i n g h o w e v e r a n ns u f f e r sf r o mt h ec o m p l i c a t e dm o d e ls t r u c t u r e p a r a m e t e rs e l e c t i o n d i f f i c u l t p r o n et oo v e r f i ta n dl o wa c c u r a c yp r o b l e m s b u tt h es u p p o r tv e c t o rm a c h i n e s v m c a l ls o l v et h ep r o b l e m se x i s t e di na n n s v mi so n eo ft h ee f f e c t i v ea l g o r i t h m si nm a c h i n e l e a r n i n ga n dd a t am i n i n g w i t ht h ea d v a n t a g e s o fs i m p l em o d e ls t r u c t u r es e l e c t i o n f a s t p r o c e s s i n gs p e e d a n dh i g l ll e a r n i n gp r e c i s i o n i ti sw i d e l yu s e di nh a n d l i n gc l a s s i f i c a t i o na n d r e g r e s s i o np r o b l e m s t h e r e f o r e b a s e do nt h e s ea d v a n t a g e so fs v m i ti si n t r o d u c e di nt h i s p a p e rt op r e d i c tt h ep v tp r o p e r t i e so f c r u d e o i lo fc h i n a t h e ni ta n a l y z e st h eb a s i st h e o r e t i c a l o fs v m t h es t a t i s t i c a ll e a r n i n gt h e o r y t h es v ma l g o r i t h ma n dt h et h e o r yo fs v mf o r i i i 英文摘要 r e g r e s s i o n s v r a tt h es a l t l et i m e s v ra l g o d t h mi sa n a l y z e d 謝t l lt h er e s u l t so ft h eb p a l g o r i t h mi na n nf o rp r e d i c t i n gt h eo i lf o r m a t i o nv o l u m ef a c t o ru n d e rb u b b l ep o i n tp r e s s u r e t ov a l i d a t et h ef e a s i b i l i t ya n de f f e c t i v e n e s so fs v ri na p p l i c a t i o no fo b t a i n i n gt h ep v t p r o p e r t i e so fc r u d e o i li nc h i n a 1 1 1 ee x p e r i m e n t a lr e s u l t ss h o wt h a tt h es v mm o d e lh a sa g o o dp r e d i c t i o ne f f e c ta sw e l la sb e t t e rv a l u eo fp r a c t i c a la p p l i c a t i o n 刀圮d e s i g n e ds v r m o d e lc a l la l s oa c c u r a t e l yi d e n t i f yt h eo i lf o r m a t i o nv o l u m ef a c t o ru n d e rb u b b l ep o i n tp r e s s u r e i nas m a l l e re r r o r k e yw o r d s s u p p o r tv e c t o rm a c h i n e p v tp r o p e r t i e s f o r m a t i o nv o l u m ef a c t o r b u b b l e p o i n tp r e s s u r e a r t i f i c i a ln e u r a ln e t w o r k s t h ep a p e ri ss u p p o r t e db yn a t i o n a ln a t u r e s c i e n c ef o u n d a t i o no fc h i n a i v 學(xué)位論文創(chuàng)新性聲明 本人聲明所呈交的學(xué)位論文是我個人在導(dǎo)師指導(dǎo)下進(jìn)行的研究工作及取得的研究成 果 盡我所知 除了文中特別加以標(biāo)注和致謝中所羅列的內(nèi)容以外 論文中不包含其他 人已經(jīng)發(fā)表或撰寫過的研究成果 也不包含為獲得西安石油大學(xué)或其它教育機(jī)構(gòu)的學(xué)位 或證書而使用過的材料 與我一同工作的同志對本研究所做的任何貢獻(xiàn)均已在論文中做 了明確的說明并表示了謝意 申請學(xué)位論文與資料若有不實(shí)之處 本人承擔(dān)一切相關(guān)責(zé)任 論文作者簽名 溘壘亟 日期 枷 6 1 1 i 學(xué)位論文使用授權(quán)的說明 本人完全了解西安石油大學(xué)有關(guān)保留和使用學(xué)位論文的規(guī)定 即 研究生在校攻讀 學(xué)位期間論文工作的知識產(chǎn)權(quán)單位屬西安石油大學(xué) 學(xué)校享有以任何方法發(fā)表 復(fù)制 公開閱覽 借閱以及申請專利等權(quán)利 同時授權(quán)中國科學(xué)技術(shù)信息研究所將本論文收錄 到 中國學(xué)位論文全文數(shù)據(jù)庫 并通過網(wǎng)絡(luò)向社會公眾提供信息服務(wù) 本人離校后發(fā)表 或使用學(xué)位論文或與該論文直接相關(guān)的學(xué)術(shù)論文或成果時 署名單位仍然為西安石油大 學(xué) 論文作者簽名 蛆 導(dǎo)師簽名 日期 窆f 6 f i 日期噬臣 石釤 注 如本論文涉密 請?jiān)谑褂檬跈?quán)的說明中指出 含解密年限等 第一章緒論 第一章緒論 1 1 研究背景 地層原油的密度 粘度 氣油體積比 體積系數(shù)等高壓物性參數(shù)是油藏工程計(jì)算和 石油儲量評價中不可缺少的重要參數(shù) 同時也是油藏圈閉評價的一種依據(jù) 通常情況下 地層原油物性的各項(xiàng)參數(shù)是通過高壓物性取樣分析獲得 但對于新探區(qū) 在勘探初期 因各方面原因 可供參考的資料只限于地面原油常規(guī)物性分析資料 而沒有地層原油物 性資料 這就給勘探 儲量計(jì)算 開發(fā)方案編制造成一定的難度 為此 有必要針對如 何確定p v t 參數(shù)進(jìn)行研究 p v t 參數(shù)的經(jīng)驗(yàn)公式一直是油藏工程和化工工程領(lǐng)域的研究熱點(diǎn) 該領(lǐng)域的研究人 員發(fā)表了一些來自世界各地不同原油樣品的p v t 關(guān)系式 其中 應(yīng)用最為廣泛的是 s t 鋤d i n g 1 1 模型和v a z q u e z b e g g s t u 模型 s t a l l d m g 1 1 在1 9 4 7 年利用1 0 5 個樣本數(shù)據(jù) 建立 了s t a n d i n g 圖版及相關(guān)經(jīng)驗(yàn)公式 盡管這些關(guān)系式不夠準(zhǔn)確 尤其在計(jì)算輕質(zhì)原油溶解 氣時 其計(jì)算誤差較大 但該經(jīng)驗(yàn)公式仍然在油藏工程中被廣泛使用 v a z q u e z b e g g s 2 1 模型被認(rèn)為是最為準(zhǔn)確的模型 2 0 世紀(jì)8 0 年代初期 v a s q u e z 和b e g g s t 2 1 利用5 0 0 8 個樣 本數(shù)據(jù)進(jìn)行回歸分析 提出了預(yù)測溶解氣的改進(jìn)模型 該模型提高了預(yù)測準(zhǔn)確度 被認(rèn) 為是目前最準(zhǔn)確的模型 但是這些經(jīng)驗(yàn)公式模型存在一些問題 由于v a z q u e z b e g g s 模 型采用了兩套常系數(shù) 在原油比重a p i 為3 0 時體積系數(shù)發(fā)生了不連續(xù)現(xiàn)象 e l s l l r k a w y 例 用于計(jì)算原油體積系數(shù)的模型也有同樣的問題 s t a n d i n g 和v a z q u e z b e g g s 模型均不適用 于多組分的天然氣以及純甲烷 另外 上述模型都是由海相原油的物性參數(shù)建立起來的經(jīng)驗(yàn)?zāi)Ｐ?對我國陸相原油 的適用性較差 并且地層原油的密度預(yù)測模型只有一種 同時 由于經(jīng)驗(yàn)公式是在特定 油品性質(zhì)的條件下建立起來的 因此 它們不能通用于所有油品性質(zhì)的原油高壓物性參 數(shù)的計(jì)算中 如果忽略經(jīng)驗(yàn)公式的適用范圍 則會產(chǎn)生偏差 造成嚴(yán)重后果 使用經(jīng)驗(yàn) 公式計(jì)算不同油品性質(zhì)的高壓物性參數(shù)產(chǎn)生偏差的原因如下 1 由于原油是成分極為復(fù)雜的多組分混合體系 不同地區(qū)的原油組成有較大差 別 尤其是陸相原油與海相原油的差別更大 2 不同地區(qū)天然氣的組成有顯著差別 天然氣含有的氮?dú)?和二氧化碳 c 0 2 體積不同 與c d 對天然氣的相對密度會產(chǎn)生重要影響 這也是產(chǎn)生偏差的 重要原因之一 3 s t a n d i n g t l 模型是建立在有限數(shù)據(jù)樣本基礎(chǔ)上 不適用于世界上其他油田的 油氣系統(tǒng) 4 v a s q u e z b e g g s l 2 模型建立在較為廣泛的實(shí)測數(shù)據(jù)基礎(chǔ)之上 可信度較大 但 模型中采用了兩套常系數(shù) 模型計(jì)算值在原油比重a p i 為3 0 時出現(xiàn)不連續(xù) 造成計(jì)算 西安石油大學(xué)碩 t 學(xué)位論文 誤差 隨著現(xiàn)代應(yīng)用數(shù)學(xué)的不斷發(fā)展 地質(zhì)研究中也不斷引進(jìn)大量的現(xiàn)代數(shù)學(xué)方法 如模 糊數(shù)學(xué) 模式識別 統(tǒng)計(jì)學(xué) 人工神經(jīng)網(wǎng)絡(luò) 4 吲等 由于神經(jīng)網(wǎng)絡(luò)的自適應(yīng) 自組織 自 學(xué)習(xí)和容錯性等性能 研究人員將神經(jīng)網(wǎng)絡(luò)應(yīng)用于石油工程領(lǐng)域和地質(zhì)研究的多個方面 如利用人工神經(jīng)網(wǎng)絡(luò)預(yù)測采油指數(shù) 油層滲透率 孔隙度 飽和度 儲層產(chǎn)能等 國內(nèi) 外學(xué)者研究表明 應(yīng)用人工神經(jīng)網(wǎng)絡(luò)模型建立地層原油高壓物性參數(shù)的預(yù)測模型 是地 質(zhì)參數(shù)研究的一種較為成功的方法 但是 人工神經(jīng)網(wǎng)絡(luò)存在顯著的缺點(diǎn) 7 1 神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)難以確定 2 由于沒有正確 明確選擇各參數(shù)的方法 使用者通常根據(jù)個人主見反復(fù)實(shí)驗(yàn) 選擇模型的訓(xùn)練參數(shù) 包括隱層數(shù) 隱層節(jié)點(diǎn)個數(shù) 初始權(quán)值 傳遞函數(shù)等 3 易出現(xiàn)過擬合問題 4 當(dāng)模型訓(xùn)練好以后 應(yīng)用于實(shí)際問題時就會出現(xiàn)誤差 5 黑盒特性造成其結(jié)果很難解釋 6 容易陷入局部最優(yōu) 7 優(yōu)化的目標(biāo)函數(shù)不是結(jié)構(gòu)風(fēng)險最小化準(zhǔn)則等缺陷 因此 針對人工神經(jīng)網(wǎng)絡(luò)存在的這些缺點(diǎn) 研究人員開始將支持向量機(jī)算法應(yīng)用于 地層原油高壓物性參數(shù)的預(yù)測 研究該算法的可行性和有效性 1 2 國內(nèi)外研究現(xiàn)狀 1 2 1 國外現(xiàn)狀 通常情況下 地層原油高壓物性的各項(xiàng)參數(shù)是通過高壓物性取樣分析獲得 但對于 新探區(qū) 在勘探初期 因各方面原因 只能獲得地面原油常規(guī)物性分析資料 而沒有地 層原油物性資料 因此對勘探 儲量計(jì)算 開發(fā)方案編制造成一定的難度 為此 需要 針對地層原油高壓物性參數(shù)如何確定進(jìn)行研究 p v t 的經(jīng)驗(yàn)關(guān)系式一直是油氣藏工程和 化工工程領(lǐng)域的研究熱點(diǎn) 來自世界各地的不同原油樣品的p v t 關(guān)系式紛紛涌現(xiàn)出來 用于計(jì)算油氣藏不同地 層 壓力下的p v t 參數(shù) 但是 如果僅套用這些經(jīng)驗(yàn)公式 則計(jì)算出的p v t 參數(shù)值誤 差較大 由于經(jīng)驗(yàn)公式使用條件的限制 世界各地的學(xué)者開始研究使用人工神經(jīng)網(wǎng)絡(luò)模 型來預(yù)測地層原油高壓物性參數(shù) 研究表明 使用神經(jīng)網(wǎng)絡(luò)模型預(yù)測p v t 參數(shù)比套用經(jīng) 驗(yàn)公式計(jì)算得到的p v t 參數(shù)值精確度相對要高 并且所建立的神經(jīng)網(wǎng)絡(luò)預(yù)測模型適用于 不同地區(qū)的油氣藏特征 但是神經(jīng)網(wǎng)絡(luò)模型存在一些難以克服的缺點(diǎn) 不能滿足油氣藏工程領(lǐng)域中對地層原 油高壓物性參數(shù)值的精度要求 因此 隨著支持向量機(jī)在醫(yī)學(xué)以及商業(yè)等各種領(lǐng)域呈現(xiàn) 的種種優(yōu)越性 近幾年來 國外學(xué)者開始投入到利用支持向量機(jī)來預(yù)測地層原油高壓物 性參數(shù)的研究中來 并將支持向量機(jī)的預(yù)測結(jié)果與傳統(tǒng)的經(jīng)驗(yàn)公式以及神經(jīng)網(wǎng)絡(luò)模型的 2 第一章緒論 預(yù)測結(jié)果進(jìn)行對以引 研究表明 支持向量機(jī)在預(yù)測地層原油高壓物性參數(shù)中呈現(xiàn)出明 顯的優(yōu)勢 1 2 2 國內(nèi)現(xiàn)狀 在國內(nèi) 通常采用實(shí)驗(yàn)室測定法或者按流體的組成成分 使用p v t 原始的計(jì)算公式 得到參數(shù)值 當(dāng)采用制樣技術(shù) 實(shí)驗(yàn)室設(shè)備獲得p v t 參數(shù)值時 由于在實(shí)驗(yàn)過程中對技 術(shù)人員的技術(shù)要求較高 因此所得的參數(shù)值仍存在較高的誤差 在國內(nèi) 傳統(tǒng)的用于獲 得p v t 參數(shù)的方法主要有桫j 1 實(shí)測法 即使用室內(nèi)p v t 實(shí)驗(yàn)裝置測量地層原油高壓物性參數(shù) 該方法是 獲得高壓物性參數(shù)的最直接方法 2 圖版法 它是基于實(shí)測數(shù)據(jù)或現(xiàn)場資料的方法 根據(jù)地面油氣的物性參數(shù) 原 油相對密度 天然氣相對密度 溶解氣油比 脫氣原油粘度及地層溫度等 利用圖版法 推測地下原油的高壓物性參數(shù) 圖版是根據(jù)大量實(shí)際油田樣本數(shù)據(jù)統(tǒng)計(jì)得到 3 經(jīng)驗(yàn)公式法 根據(jù)各參數(shù)間的相關(guān)關(guān)系經(jīng)驗(yàn)公式計(jì)算原油的高壓物性參數(shù) 利用室內(nèi)試驗(yàn)法獲得原油的高壓物性參數(shù)時 由于采集的樣本與地下原油實(shí)際的特 性存在差異 所以準(zhǔn)確度難以控制 而且樣本數(shù)據(jù)的采集費(fèi)用非常昂貴 而采用圖版法 和經(jīng)驗(yàn)公式時 由于經(jīng)驗(yàn)公式和圖版主要來源于歐美油田的統(tǒng)計(jì)資料 而這些歐美油田 的油品性質(zhì)與我國的高含蠟油油品性質(zhì)有一定差距 國內(nèi)學(xué)者薛海濤等人研究發(fā)現(xiàn)l l u 國外學(xué)者所提出的經(jīng)驗(yàn)公式都是由海相原油的高壓物性參數(shù)建立起來的經(jīng)驗(yàn)?zāi)Ｐ?對我 國陸相原油的適用性較差 通過套用這些經(jīng)驗(yàn)公式計(jì)算得來的原油高壓物性參數(shù)值精確 度不高 我國許多學(xué)者在近些年來開始著手于利用神經(jīng)網(wǎng)絡(luò)模型來預(yù)測原油的高壓物性 參數(shù) 1 1 1 取得了一定的進(jìn)展 同時 隨著支持向量機(jī)的廣泛應(yīng)用 在國內(nèi) 將支持向量 機(jī)應(yīng)用于油 氣工業(yè)領(lǐng)域的例子也很多 但是很少有人利用支持向量機(jī)來預(yù)測原油的高 壓物性參數(shù) 以幫助研究者進(jìn)行準(zhǔn)確的油氣藏計(jì)算以及油氣藏動態(tài)分析 1 3 支持向量機(jī) 現(xiàn)今 存在很多標(biāo)準(zhǔn)的分類技術(shù) 例如 基于一些簡單規(guī)則的方法 近鄰分類器 貝葉斯分類器 人工神經(jīng)網(wǎng)絡(luò) 決策樹 支持向量機(jī)等 在這些技術(shù)中 支持向量機(jī)是 其中一種最著名的用于求解優(yōu)化問題的技術(shù) 支持向量機(jī)起源于v a p n i k 的結(jié)構(gòu)風(fēng)險最小 化原則 s t r u c t u r a lr i s km i n i m i z a t i o n s i 被用于解決復(fù)雜的分類和回歸問題 它被 認(rèn)為是神經(jīng)網(wǎng)絡(luò)或者徑向基函數(shù)分類器的一種新方法 大多數(shù)用于訓(xùn)練上述分類器的技 術(shù)都基于最小化訓(xùn)練誤差的思想 即經(jīng)驗(yàn)風(fēng)險最小化 e m p i r i c a lr i s km i n i m i z a t i o n e r m 思想 而支持向量機(jī)基于結(jié)構(gòu)風(fēng)險最小化原則 即最小化泛化誤差的上邊界 從算法的 執(zhí)行角度來看 訓(xùn)練一個支持向量機(jī)等同于解決一個線性約束的二次規(guī)劃問題 q u a d r a t i c p r o g r a m m i n g q p 該問題的變量數(shù)量等于數(shù)據(jù)樣本點(diǎn)的數(shù)量 在許多方面 支持向量 西安石油人學(xué)碩 卜學(xué)位論文 機(jī)執(zhí)行與人工神經(jīng)網(wǎng)絡(luò)相同的功能 例如 當(dāng)輸入樣本和輸出樣本都已知時 對應(yīng)神經(jīng) 網(wǎng)絡(luò)中的監(jiān)督學(xué)習(xí) 利用支持向量機(jī)可以解決分類問題和回歸問題 當(dāng)只有輸入樣本已 知時 利用支持向量機(jī)可以進(jìn)行聚類 密度估計(jì)以及主成分分析 支持向量機(jī)相對于神 經(jīng)網(wǎng)絡(luò)具有以下優(yōu)點(diǎn) 1 它可以得到全局最優(yōu)解 2 能夠很好地控制過學(xué)習(xí)問題 3 以往的經(jīng)驗(yàn)以及實(shí)驗(yàn)表明 支持向量機(jī)在解決分類問題和回歸問題中的性能 優(yōu)越于人工神經(jīng)網(wǎng)絡(luò) 支持向量機(jī)通過將輸入數(shù)據(jù)映射到高維特征空間中來處理分類問題和回歸問題 它 的核心是 由一部分樣本數(shù)據(jù)點(diǎn)的集合 稱為支持向量 s u p p o r tv e c t o r s s v s 確定回 歸面 而其他樣本數(shù)據(jù)點(diǎn)在確定回歸面時并不重要 因此不考慮這些樣本點(diǎn) v a p n i k 將 占不敏感區(qū)引入到誤差損失函數(shù)中 相鄰于不敏感區(qū)中的訓(xùn)練向量被認(rèn)為是正確的 而 那些在不敏感區(qū)外的訓(xùn)練向量則被認(rèn)為是不正確的 對于分類問題 這些不正確的向量 構(gòu)成支持向量集合 目前 支持向量機(jī)已成功地應(yīng)用于許多領(lǐng)域 如人臉檢測 手寫數(shù)字識別 數(shù)據(jù)挖 掘等 1 2 1 然而 支持向量機(jī)存在兩個缺點(diǎn) 首先 因?yàn)樗臼且粋€二類分類器 當(dāng)需 要解決多分類問題時 只能將二類分類器進(jìn)行組合以構(gòu)成多類分類器 用于組合二類分 類器而構(gòu)成多類分類器的方法有許多 但是 這種組合方法并沒有達(dá)到像二類分類器所 得到的分類性能 分類效果較差 支持向量機(jī)的另一個缺點(diǎn)是 對于大規(guī)模數(shù)據(jù) 支持 向量機(jī)的學(xué)習(xí)是一個非常耗時的過程 為了克服這個缺陷 將一些近似算法 如分解方 法 序列最小優(yōu)化算法 1 3 引入到s v m 的學(xué)習(xí)過程中 利用這些近似算法可以減少支 持向量機(jī)的學(xué)習(xí)時間 但是不足的是 學(xué)習(xí)時間減少的同時 支持向量機(jī)的分類性能相 對卻被減弱 1 4 課題的目的和意義 原油所處的地下條件與地面條件不同 地層原油一般溶有天然氣 因此 地層原油 的體積 壓縮性 原油粘度等物性與地面不同 而且原油由地下開采到地面的過程中 原油會脫氣 體積縮小 并且油質(zhì)變稠 石油工程中引入了一套高壓物性參數(shù) 如原油 的泡點(diǎn)壓力 溶解油氣比 體積系數(shù) 壓縮系數(shù)和粘度等 能更清楚地描述地下 地面 參數(shù)的關(guān)系及變化 地層原油p v t 參數(shù)用途很廣 無論是在油氣藏模擬 儲量計(jì)算 油 氣層評價 油田開發(fā)設(shè)計(jì) 動態(tài)分析 提高原油采收率 油氣藏工程中的各種計(jì)算等 這些參數(shù)都是必不可少的資料 在試井測試資料中 原油壓力和油氣井高壓物性是研究油田驅(qū)動類型 確定油田開 采方式 計(jì)算油田儲量的基礎(chǔ) 在測量手段不斷精確的今天 由以往的傳統(tǒng)機(jī)械壓力計(jì) 發(fā)展到高精度電子壓力計(jì) 這些基本參數(shù)將直接影響正確認(rèn)識油層 評價油層 在實(shí)踐 4 第一章緒論 中用來計(jì)算地層原油高壓物性參數(shù)的經(jīng)驗(yàn)公式很多 如s t a n d i n g 經(jīng)驗(yàn)公式 k a t z 經(jīng)驗(yàn)公 式 a 1 m a r h o u n 經(jīng)驗(yàn)公式 o m a r 和t o d d 經(jīng)驗(yàn)公式 g h e t t o 經(jīng)驗(yàn)公式等 由于這些經(jīng)驗(yàn) 公式是在不同的油氣藏特征下建立起來的 因此有不同的適用條件 如果應(yīng)用不當(dāng)會造 成很大的誤差 將直接影響油氣藏評價的效果 因此如果僅僅套用經(jīng)驗(yàn)公式來計(jì)算某個 油田的地層原油高壓物性參數(shù) 必定會產(chǎn)生較高的誤差 近些年來 在油氣藏工程領(lǐng)域中引入了回歸模型 如利用神經(jīng)網(wǎng)絡(luò)模型來預(yù)測地層 原油p v t 參數(shù) 神經(jīng)網(wǎng)絡(luò)的引入將機(jī)器學(xué)習(xí)與數(shù)據(jù)挖掘技術(shù)應(yīng)用到了油氣藏工程中 在 油氣藏工程中起到了關(guān)鍵作用 但是 利用神經(jīng)網(wǎng)絡(luò)模型預(yù)測p v t 參數(shù)時出現(xiàn)很多不足 如精確度不高 出現(xiàn)局部最優(yōu)解等問題 為此 一種新型智能算法出現(xiàn)在了油氣藏工程 領(lǐng)域中 這種新型算法就是基于結(jié)構(gòu)風(fēng)險最小化理論的支持向量機(jī)算法 它解決了神經(jīng) 網(wǎng)絡(luò)算法容易出現(xiàn)局部最優(yōu)解 精確度低 可靠性差等缺點(diǎn) 隨著近年來智能化研究的熱潮來臨 支持向量機(jī)及其理論不斷得到完善 該算法在 油氣藏工程中也得到廣泛的應(yīng)用 本文主要就傳統(tǒng)經(jīng)驗(yàn)公式以及神經(jīng)網(wǎng)絡(luò)方法的不足 提出使用支持向量機(jī)對我國油田進(jìn)行地層原油高壓物性參數(shù)的預(yù)測 大大降低了套用源 自歐美國家油田的經(jīng)驗(yàn)公式所帶來的誤差 解決了使用神經(jīng)網(wǎng)絡(luò)模型階段中模型建立復(fù) 雜 計(jì)算時間長以及出現(xiàn)過擬合和局部最優(yōu)解的問題 為研究者進(jìn)行儲量計(jì)算 油氣層 評價 油田開發(fā)設(shè)計(jì) 動態(tài)分析以及提高原油采收率等工作開辟了一種新思路 因此 針對我國的地層特點(diǎn)以及油品性質(zhì) 本文對支持向量機(jī)在預(yù)測我國油田的地 層原油高壓物性參數(shù)中的應(yīng)用進(jìn)行深入研究 分析特定條件下支持向量機(jī)應(yīng)用于該領(lǐng)域 的可行性和適用性 1 5 本文的主要工作和內(nèi)容安排 本文的研究內(nèi)容如下 1 通過了解獲得地層原油高壓物性參數(shù)各種基本方法以及神經(jīng)網(wǎng)絡(luò) 支持向量 機(jī)的現(xiàn)狀和未來的發(fā)展?fàn)顩r 掌握支持向量機(jī)的基本原理 包括支持向量回歸的方法和 原理 2 分析神經(jīng)網(wǎng)絡(luò)模型用于預(yù)測我國油田的地層原油高壓物性參數(shù)的性能 3 利用我國油田的地層原油高壓物性參數(shù)數(shù)據(jù) 油藏溫度 溶解氣油比 天然 氣相對密度 原油相對密度 進(jìn)行支持向量機(jī)模型訓(xùn)練 并根據(jù)訓(xùn)練后的模型進(jìn)行原油 泡點(diǎn)壓力下的體積系數(shù)的預(yù)測 因而本文通過對支持向量機(jī)算法的研究 實(shí)現(xiàn)我國特定地層條件下的地層原油高壓 物性參數(shù)的預(yù)測過程 文章分五個部分展開論述 論文的內(nèi)容安排如下 第一章緒論中 主要對課題的研究背景 國內(nèi)外的研究現(xiàn)狀 支持向量機(jī)的概況 以及課題的目的和意義進(jìn)行了簡要概述 在第二章中介紹了b p 神經(jīng)網(wǎng)絡(luò) 首先介紹了b p 網(wǎng)絡(luò)的算法 包括前饋算法和b p 西安石油人學(xué)碩 學(xué)位論文 算法 其次 介紹了b p 神經(jīng)網(wǎng)絡(luò)模型的構(gòu)建 包括模型參數(shù)的選擇以及b p 神經(jīng)網(wǎng)絡(luò)模 型的訓(xùn)練 最后 指出b p 神經(jīng)網(wǎng)絡(luò)的缺點(diǎn) 在第三章部分詳細(xì)地逐級介紹了支持向量機(jī)的原理 概述支持向量機(jī)的理論基礎(chǔ) 即統(tǒng)計(jì)學(xué)習(xí)理論 以及有關(guān)統(tǒng)計(jì)學(xué)習(xí)理論的基本知識 并且 本章詳細(xì)介紹v c 維算法 的原理以及如何確定v c 維 系統(tǒng)地介紹經(jīng)驗(yàn)風(fēng)險最小化原則的基本理論 在分析e r m 的基礎(chǔ)上 引入結(jié)構(gòu)風(fēng)險最小化原則 比較s r m 和e r m 指出s r m 的優(yōu)越性 并且 給出s r m 算法的執(zhí)行過程 在統(tǒng)計(jì)學(xué)理論的基礎(chǔ)上 介紹支持向量機(jī)分類的基本原理 和方法 分析二元線性分類問題和非線性問題的思想 其次 介紹支持向量回歸算法的 基本原理和方法 包括詳細(xì)的算法以及核函數(shù)的選擇和支持向量回歸模型參數(shù)的確定方 法 第四章介紹支持向量機(jī)在預(yù)測地層原油的高壓物性參數(shù)中的應(yīng)用 首先 對地層原 油的高壓物性參數(shù)特征進(jìn)行評價 指出用于確定泡點(diǎn)壓力下的體積系數(shù)這個重要參數(shù)的 p v t 參數(shù)的影響因素為油藏溫度 溶解氣油比 天然氣相對密度和原油相對密度 其次 介紹常規(guī)的用于確定地層原油高壓物性參數(shù)的方法 室內(nèi)試驗(yàn)法 圖版法 經(jīng)驗(yàn)公式法 以及利用神經(jīng)網(wǎng)絡(luò)預(yù)測原油p v t 參數(shù)的方法流程 在此基礎(chǔ)上 第三小節(jié)介紹基于s v r 的地層原油高壓物性參數(shù)的預(yù)測系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn) 系統(tǒng)模塊具體包括p v t 參數(shù)的數(shù)據(jù) 統(tǒng)計(jì)分析模塊 s v r 預(yù)測模塊 b p n n 預(yù)測模塊 s v r 與b p n n 預(yù)測結(jié)果對比分析模塊 s v r 預(yù)測模型的訓(xùn)練部分包括數(shù)據(jù)預(yù)處理 s v r 模型參數(shù) 包括s v r 算法參數(shù)以及核 函數(shù)參數(shù) 的選擇 通過模型的訓(xùn)練結(jié)果與參數(shù)真實(shí)值的交繪圖 曲線擬合圖以及預(yù)測 結(jié)果的均方差和相關(guān)系數(shù)評估所建立的預(yù)測模型的性能 最后 運(yùn)用訓(xùn)練后的s v r 預(yù)測 模型對測試樣本進(jìn)行預(yù)測 最后一章將對本課題的研究結(jié)果進(jìn)行總結(jié)并對其前景進(jìn)行展望 總之 本文主要研究基于s v r 的地層原油高壓物性參數(shù)預(yù)測 最終的目的就是實(shí)現(xiàn) 針對于我國地層條件的地層原油p v t 參數(shù)預(yù)測系統(tǒng) 使用戶能有效地觀察地層原油的高 壓物性參數(shù)數(shù)據(jù)的分布規(guī)律和特點(diǎn) 并且根據(jù)己知的地層原油p v t 參數(shù) 利用預(yù)測系統(tǒng) 計(jì)算出采用常規(guī)方法難以準(zhǔn)確獲得的地層原油p v t 參數(shù)值 從而幫助石油工程師進(jìn)行物 料平衡計(jì)算 試井資料分析 儲量估算以及油藏模擬等工作 6 第二章b p 神經(jīng)網(wǎng)絡(luò) 第二章b p 神經(jīng)網(wǎng)絡(luò) 2 1 概述 神經(jīng)網(wǎng)絡(luò)是一種由簡單的處理單元構(gòu)成的大規(guī)模并行分布式處理器 它用于存儲經(jīng) 驗(yàn)知識 并且使這些知識易于使用 提供了輸入輸出間的映射特性和能力 1 舢1 9 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法有兩種 監(jiān)督學(xué)習(xí) s u p e r v i s e dl e a r n i n g 或稱為關(guān)聯(lián)學(xué)習(xí)以及 非監(jiān)督學(xué)習(xí) u n s u p e r v i s e dl e a r n i n g 或自組織學(xué)習(xí) 監(jiān)督學(xué)習(xí)是在目標(biāo)值或期望值已知 的基礎(chǔ)上進(jìn)行學(xué)習(xí) 在訓(xùn)練過程中 神經(jīng)網(wǎng)絡(luò)使輸出值盡可能與期望的目標(biāo)值相匹配 網(wǎng)絡(luò)從訓(xùn)練樣本集中隨機(jī)選擇一個訓(xùn)練樣本 將其輸入到網(wǎng)絡(luò)中 網(wǎng)絡(luò)根據(jù)期望輸出與 實(shí)際輸出之間的差異 以適當(dāng)?shù)慕y(tǒng)計(jì)學(xué)標(biāo)準(zhǔn) 調(diào)整權(quán)值 通過利用訓(xùn)練樣本集中的樣本 重復(fù)進(jìn)行訓(xùn)練 直到網(wǎng)絡(luò)達(dá)到穩(wěn)定狀態(tài) 即網(wǎng)絡(luò)的權(quán)值沒有顯著變化為止 先前使用過 的訓(xùn)練樣本可能在訓(xùn)練過程中重復(fù)使用 但是樣本的順序不同 因此 神經(jīng)網(wǎng)絡(luò)根據(jù)實(shí) 際問題 通過構(gòu)建輸入與輸出間的映射關(guān)系 利用訓(xùn)練樣本進(jìn)行學(xué)習(xí) 無監(jiān)督學(xué)習(xí)方法 并沒有任何已知的目標(biāo)值和網(wǎng)絡(luò)的期望輸出值 在訓(xùn)練過程中 神經(jīng)網(wǎng)絡(luò)進(jìn)行某種類型 的數(shù)據(jù)壓縮 如維數(shù)縮減或聚類 然后對模式分布進(jìn)行學(xué)習(xí) 并且對模式進(jìn)行分類 相 似的模式被分配到同一類中 k o h o n e n 自組織映射 s e l f o r g a n i z i n gm a p s o m 網(wǎng)絡(luò) 是無監(jiān)督學(xué)習(xí)最好的例子 2 0 世紀(jì)7 0 年代以前 單層感知器只能解決簡單的異或問題 而b p 算法的引入克服了當(dāng)時神經(jīng)網(wǎng)絡(luò)算法的缺點(diǎn) b p 神經(jīng)網(wǎng)絡(luò)本質(zhì)是利用簡單的處理 單元 這些處理單元相互間合作 產(chǎn)生復(fù)雜輸出的網(wǎng)絡(luò) 從而處理較為復(fù)雜的學(xué)習(xí)問題 2 2b p 網(wǎng)絡(luò)算法 b p 神經(jīng)網(wǎng)絡(luò) b a c kp r o p a g a t i o nn e u r a ln e t w o r k b p n n 是一種應(yīng)用十分廣泛的監(jiān) 督學(xué)習(xí)型神經(jīng)網(wǎng)絡(luò)模型 模型采用反向傳播學(xué)習(xí)算法 它是神經(jīng)網(wǎng)絡(luò)最有效的學(xué)習(xí)算法 之一 前饋神經(jīng)網(wǎng)絡(luò)能夠以較高的精確度以及良好的泛化性能處理大多數(shù)問題 它的模 型結(jié)構(gòu)見圖2 1 反向傳播算法基于糾錯學(xué)習(xí)規(guī)則 通過網(wǎng)絡(luò)各層的誤差傳播有兩種方 式 前向傳播和反向傳播 誤差向前傳播時 輸入向量輸入到網(wǎng)絡(luò)的輸入層 它產(chǎn)生的 影響逐層傳遞 最終產(chǎn)生網(wǎng)絡(luò)的一組輸出值 即網(wǎng)絡(luò)的實(shí)際輸出 在前向傳遞過程中 網(wǎng)絡(luò)的權(quán)值始終保持不變 而在反向傳播過程中 網(wǎng)絡(luò)的權(quán)值根據(jù)錯誤糾正原則進(jìn)行調(diào) 整 網(wǎng)絡(luò)的期望輸出值減去實(shí)際輸出值得到錯誤信號 即誤差值 誤差值從輸出層反向 傳播到輸入層 在這個過程中不斷調(diào)整網(wǎng)絡(luò)的權(quán)值 使得網(wǎng)絡(luò)的實(shí)際輸出值逐漸逼近期 望輸出值 7 西安石油大學(xué)碩 學(xué)位論文 圖2 1 前饋神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) b p 網(wǎng)絡(luò)的輸出結(jié)果通過向前傳播過程得到 該過程如下 1 輸入層將輸入向量的分量傳播到隱層的每一個節(jié)點(diǎn) 2 隱層節(jié)點(diǎn)計(jì)算輸出值 這些輸出值成為輸出層節(jié)點(diǎn)的輸入值 3 輸出層節(jié)點(diǎn)為每一個特定的輸入向量計(jì)算網(wǎng)絡(luò)的最終輸出值 前向傳播在神經(jīng)網(wǎng)絡(luò)當(dāng)前的網(wǎng)絡(luò)權(quán)值基礎(chǔ)上 為給定的輸入向量產(chǎn)生輸出向量值 由于網(wǎng)絡(luò)權(quán)值的初始值為隨機(jī)值 因此在網(wǎng)絡(luò)訓(xùn)練前 不可能產(chǎn)生合理的輸出結(jié)果 通 過權(quán)值調(diào)整減小通過網(wǎng)絡(luò)反向傳播的誤差 這個過程就是反向傳播 b p 神經(jīng)網(wǎng)絡(luò)的得 名 反向傳播的過程描述如下 1 由于每一個輸出層節(jié)點(diǎn)的期望輸出值是已知的 因此對每一個輸出層節(jié)點(diǎn)計(jì) 算誤差 2 計(jì)算隱層節(jié)點(diǎn)的誤差 由于輸出層節(jié)點(diǎn)的誤差對隱層節(jié)點(diǎn)產(chǎn)生影響 從而產(chǎn) 生隱層節(jié)點(diǎn)誤差 每一個隱層節(jié)點(diǎn)產(chǎn)生的誤差和取決于連接兩個節(jié)點(diǎn)的連接權(quán)值的大小 3 根據(jù)d e l t a 規(guī)則 調(diào)整權(quán)值以提高網(wǎng)絡(luò)性能 4 計(jì)算總誤差 測試網(wǎng)絡(luò)性能 訓(xùn)練樣本集被反復(fù)輸入網(wǎng)絡(luò) 權(quán)值不斷調(diào)整直到整體誤差達(dá)到預(yù)定的界限 由于 d e l t a 規(guī)則沿著誤差表面的最大距離路徑 從而產(chǎn)生局部最小問題 這將阻礙網(wǎng)絡(luò)的訓(xùn)練 因此 將動量引入到網(wǎng)絡(luò)訓(xùn)練中 以彌補(bǔ)局部最小問題 神經(jīng)網(wǎng)絡(luò)經(jīng)過訓(xùn)練后 網(wǎng)絡(luò)的 權(quán)值保持不變 并且利用訓(xùn)練后的網(wǎng)絡(luò)可以用來計(jì)算新的輸入樣本的輸出 2 1 1 前饋算法 若 代表輸入層神經(jīng)元的個數(shù) 即輸入向量的長度 代表輸出層神經(jīng)元的個數(shù) 即 輸出向量的長度 神經(jīng)網(wǎng)絡(luò)的樣本為 五 x 五 k 以 匕 m 為總樣本數(shù) 置 江1 2 朋 為輸入向量 z f 1 2 肌 為輸出向量 1 第f 個神經(jīng)元在輸入層的輸入值為x i 其對應(yīng)的輸出值為o i 2 第一個隱層中的第 個神經(jīng)元的輸入為 n e t y w q 9 輸出為 0 i f n e t j 其中 w j 是隱層中第 個神經(jīng)元與輸入層第f 個神經(jīng)元的連接權(quán)值 只是 隱層第 個神經(jīng)元的閾值 廠是隱層的激勵函數(shù) 3 輸出層中第z 個神經(jīng)元的輸入為刀p f 坳乃 島 輸出為d f c n e t j 其中 8 第二章b p 神經(jīng)網(wǎng)絡(luò) 是輸出層第z 個神經(jīng)元與隱層第 個神經(jīng)元間的連接權(quán)值 q 為輸出層第 個神經(jīng)元的 閾值 廠為輸出層神經(jīng)元的激勵函數(shù) 2 2 2b p 算法 為了對神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練 必須在減小網(wǎng)絡(luò)的期望輸出值與實(shí)際輸出值之間的誤差 的目的下 調(diào)整每個神經(jīng)元間的連接權(quán)值 這個過程通過計(jì)算權(quán)值的誤差導(dǎo)數(shù)實(shí)現(xiàn) 也 就是說 神經(jīng)網(wǎng)絡(luò)必須計(jì)算出權(quán)值在發(fā)生微小變化時 誤差的變化情況 反向傳播算法 即b p 算法 是使用最廣泛的一種確定權(quán)值誤差導(dǎo)數(shù)的方法 下面是b p 算法的數(shù)學(xué)表述 首先定義誤差函數(shù) e 去 乃一d 2 2 1 根據(jù)最小梯度原則 得到 要 旦 onetu 旦 2 2 a一 一 一 a n e t a o n e t 在表達(dá)式中 u 和 是相互連接的兩個神經(jīng)元的下標(biāo) 如果甌 當(dāng) 為輸出層神經(jīng)元時 o n e l u 甌 罷善 罷廠 乙 y o t 廠 n e t 2 3 0 0 uo n e t 1 7 0 當(dāng) 不是輸出層神經(jīng)元時 色 旦a n e t 囂篆 慨 2 4 吃2 2 面贏2 吒q u 4 表達(dá)式中 第n 個神經(jīng)元在第材個神經(jīng)元所在層附近 且第u 個神經(jīng)元與輸出層相鄰 權(quán)值的調(diào)整值表示如下 其中 r l 為學(xué)習(xí)率 k 七 1 k 七 叩皖d 2 5 2 3b p 網(wǎng)絡(luò)模型的構(gòu)建 2 3 1 模型結(jié)構(gòu) b p n n 由一個輸入層 若干個隱層和一個輸出層組成 每一層由若干個神經(jīng)元構(gòu)成 三層b p 神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)以及神經(jīng)元模型結(jié)構(gòu)如圖2 2 a 和圖2 2 b 所示 其中 網(wǎng)絡(luò) 的每一個神經(jīng)元都有若干個輸入 輸入向量利用權(quán)值嵋 江1 2 與神經(jīng)元連接 圖 2 2 b q h f 為激勵函數(shù) p 為神經(jīng)元的閾值 y 表示神經(jīng)元的輸出 9 兩安彳i 油人學(xué)碩七學(xué)位論文 j r l 也 x a 三層b p 神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu) 輸出層 隱層 b b p n n 的神經(jīng)元模型 圖2 2b p n n 模型結(jié)構(gòu) 2 3 2 模型參數(shù)選擇 利用b p 神經(jīng)網(wǎng)絡(luò)解決實(shí)際問題的前提是 首先必須確定b p 神經(jīng)網(wǎng)絡(luò)模型的參數(shù) 這些參數(shù)包括隱層個數(shù) 輸入層 隱層和輸出層的神經(jīng)元個數(shù)和以及每層神經(jīng)元的激勵 函數(shù) 這些參數(shù)決定了b p 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)精度 泛化能力和網(wǎng)絡(luò)的復(fù)雜性 隱層個數(shù)越多 網(wǎng)絡(luò)模型的學(xué)習(xí)誤差越小 學(xué)習(xí)精度越高 并且網(wǎng)絡(luò)的權(quán)值對神經(jīng) 網(wǎng)絡(luò)的輸出值產(chǎn)生較小影響 但是網(wǎng)絡(luò)的訓(xùn)練時間反而會變長 并且增大了過擬合現(xiàn)象 出現(xiàn)的可能性 隱層個數(shù)根據(jù)實(shí)際要解決的問題確定 一般情況下 只需一至三個隱層 h e c h tn i e l s o n 2 0 曾經(jīng)證明 僅有一個隱層的b p 神經(jīng)網(wǎng)絡(luò)可以被用來逼近任何閉區(qū)間的 連續(xù)函數(shù) 并且三隱層的b p 神經(jīng)網(wǎng)絡(luò)可以實(shí)現(xiàn)從低維空間到高維空間的任何映射 當(dāng)確定b p 神經(jīng)網(wǎng)絡(luò)的每一層中的神經(jīng)元個數(shù)時 需要注意一個原則是 輸入層和輸 出層神經(jīng)元的數(shù)量與實(shí)際要解決的特定問題相關(guān) 即實(shí)際應(yīng)用不同 也就是用戶的需求 不同時 輸入層和輸出層的神經(jīng)元個數(shù)不同 輸入層神經(jīng)元個數(shù)由輸入特征的個數(shù)決定 例如 如果要逼近一個函數(shù) 函數(shù)有幾個輸入變量 對應(yīng)b p 神經(jīng)網(wǎng)絡(luò)的輸入層就有幾 個神經(jīng)元 若逼近的函數(shù)只有一個輸出變量 則b p 神經(jīng)網(wǎng)絡(luò)輸出層的神經(jīng)元個數(shù)為1 如何確定隱層神經(jīng)元的個數(shù)是b p 神經(jīng)網(wǎng)絡(luò)是否能夠準(zhǔn)確學(xué)習(xí)問題的關(guān)鍵 也是難點(diǎn) 所在 隱層神經(jīng)元個數(shù)不僅與輸入層和輸出層神經(jīng)元數(shù)量有關(guān) 而且與需要解決的實(shí)際 問題的復(fù)雜度 學(xué)習(xí)樣本的特點(diǎn)以及隱層的激勵函數(shù)相關(guān) 當(dāng)神經(jīng)網(wǎng)絡(luò)僅有一個隱層時 可以通過不斷增加隱層神經(jīng)元的數(shù)量來提高神經(jīng)網(wǎng)絡(luò)的訓(xùn)練精度 相對于增加隱層的個 數(shù) 這種方法要相對簡單 然而 由于要解決的問題的復(fù)雜性無法量化 我們無法通過 1 0 第二章b p 神經(jīng)網(wǎng)絡(luò) 分析公式計(jì)算出合適的隱層神經(jīng)元數(shù)引2 1 但是對于一些簡單問題 通?？梢酝ㄟ^下列 經(jīng)驗(yàn)公式計(jì)算隱層神經(jīng)元個數(shù) 并且可以將它作為參考 以選擇合適的隱層神經(jīng)元個數(shù) 石磊 口 2 6 其中 為隱層神經(jīng)元個數(shù) 刀為輸入層神經(jīng)元個數(shù) 聊為輸出層神經(jīng)元個數(shù) a 為 1 l o 的常量 另一種用于確定隱層神經(jīng)元個數(shù)的方法是 根據(jù)輸入層和輸出層神經(jīng)元個數(shù) 確定隱 層神經(jīng)元個數(shù) 針對不同的隱層神經(jīng)元個數(shù) 對b p 神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練 測試對應(yīng)的誤 差 如總體樣本的平均誤差 對比誤差值 選擇誤差最小時的隱層神經(jīng)元個數(shù)作為最終 的b p 神經(jīng)網(wǎng)絡(luò)隱層神經(jīng)元個數(shù) 對于隱層神經(jīng)元激勵函數(shù)的選擇 一般情況下 選擇s i g m o i d 激勵函數(shù)作為神經(jīng)元的 激勵函數(shù) 它是b p 神經(jīng)網(wǎng)絡(luò)最常用的一種隱層激勵函數(shù) 當(dāng)它用在輸出層時 需要對 學(xué)習(xí)樣本進(jìn)行歸一化處理 選擇初始權(quán)值時 權(quán)值應(yīng)是均勻分布的較小經(jīng)驗(yàn)值 并且是 1 1 之間的隨機(jī)數(shù) 而對于網(wǎng)絡(luò)的學(xué)習(xí)速率 一般情況下 為了保證網(wǎng)絡(luò)的穩(wěn)定性 選 擇較小的學(xué)習(xí)速率 通常將學(xué)習(xí)速率限制