基于非線性降維特征映射的煤與瓦斯突出序貫最小優(yōu)化算法

基于非線性降維特征映射的煤與瓦斯突出序貫最小優(yōu)化算法

煤和嚴肅的風險預測受到煤和氣的嚴重威脅，制約著礦山經(jīng)濟效益的提高。預測阿德爾和煤和嚴肅的風險是確保煤和硬件安全生產(chǎn)的重要前提。煤和嚴肅的發(fā)生是由多因素引起的。例如，地應力、高壓氧和壞煤結構性能、地質(zhì)結構、煤厚變化、煤結構和圍巖特征。它的生成機制是復雜的、模糊性和不確定性，這給煤炭和莊重的預測帶來了很大困難。1煤與瓦斯突出危險性預測模型的改進隨著現(xiàn)代科技的發(fā)展,特別是數(shù)學方法和計算機技術的應用,煤與瓦斯突出的分析方法有了長足的發(fā)展,目前已有許多先進理論和復合方法如灰色系統(tǒng)理論、支持向量機、層次分析、模糊識別理論和神經(jīng)網(wǎng)絡等應用于其分析與預測中,并取得了一定的研究成果.不同預測方法使用的參數(shù)不同,有的只有幾個,有的多達十幾個,甚至更多.高維特性帶來的維數(shù)災難問題和非線性特征引起的線性模型失效問題,使得現(xiàn)有的煤與瓦斯突出預測方法在實際應用中受到限制,預測結果的準確性存在一定的偏差.等距特征映射(Isometricfeaturemapping,Isomap)是一種新的非線性降維技術,它從樣本局部出發(fā),用標準多維尺度變換算法獲得保持樣本間測地距離不變的低維流型.序貫最小優(yōu)化(SequentialMinimalOptimization,SMO)算法是一種改進的SVM訓練算法,能夠快速有效地解決二次規(guī)劃問題.本文在前人研究的基礎上,提出一種將Isomap和SMO相結合的方法,記為Isomap-SMO,并利用該方法對煤與瓦斯突出危險性預測研究做了一些有益的探索.該方法先對煤與瓦斯突出的各影響因素進行Isomap變換,降低其維數(shù)并突出有效特征信息,然后再利用SMO算法建立煤與瓦斯突出的危險性狀態(tài)預測的數(shù)學模型,并通過該模型對煤與瓦斯突出的危險性狀態(tài)進行預測,取得了較好的效果.實驗同時將所得的結果和廣泛使用的線性降維主成份分析(PrincipalComponentAnalysis,PCA)方法降維后的預測結果相比較,發(fā)現(xiàn)Isomap具有更好的降維能力,這說明了非線性降維技術在地學數(shù)據(jù)分析中具有一定的應用潛力.2自主模式算法2.1多—Isomap算法2000年Tenenbaum等學者首次在science提出Isomap算法,它是針對非線性數(shù)據(jù)的一種新的無監(jiān)督降維方法,來源于傳統(tǒng)的降維算法多—維標度法(multi-dimensionalscaling,MDS),結合了PCA和MDS算法的主要特征:計算有效性、全局的優(yōu)化性和漸近收斂性,且比較靈活地學習到數(shù)據(jù)點的非線性結構.用測量距離代替?zhèn)鹘y(tǒng)方法的歐式距離,較好地揭示了高維數(shù)據(jù)集的自由度.該算法核心是估計兩點間的測地距離:距離近的點間測地距離用歐氏距離代替,距離較遠的點間測地距離用最短路徑來逼近,這種方法更有效地在低維空間表達高維空間的數(shù)據(jù),減少降維后損失的數(shù)據(jù)信息.2.2采用了二次規(guī)劃優(yōu)化方法SMO算法基本思想是將工作樣本集的規(guī)模減到最小,僅有兩個樣本.由于子問題的優(yōu)化只涉及兩個變量,它在每一步迭代過程中選擇兩個變量進行調(diào)整,固定其他變量,通過求解最優(yōu)化問題,得到這兩個變量的最優(yōu)值,來更新相應的Lagrange乘子,所以迭代過程中每一步子問題的最優(yōu)解可以直接用解析的方法求出來,而不用在算法的迭代中求解二次規(guī)劃問題.SMO算法設計一個兩層嵌套循環(huán):外層循環(huán)首先遍歷非邊界樣本,確定哪些樣本違反Karush-Kuhn-Tucker(KKT)條件并以此來進行調(diào)整,當所有的非邊界樣本都滿足KKT條件后,再在整個樣本空間循環(huán)一遍,來檢驗所有的樣本是否都滿足KKT條件,直到所有的樣本點都滿足該條件.而內(nèi)層循環(huán)則是針對以上違反KKT條件的樣本來選擇另一個樣本與它配對優(yōu)化,其選擇的準則是使所選擇的樣本能夠對決策函數(shù)得到最大的優(yōu)化步長.SMO算法最大特色在于它采用的解析方法避免了二次規(guī)劃數(shù)值解法的迭代過程,因此避開了復雜的數(shù)值求解優(yōu)化問題,大大減少了計算復雜度,在速度和精度方面都得以保證,在內(nèi)存方面它也頗具特色,SMO使用的內(nèi)存是和樣本集大小成線性增長,這使存儲空間問題不再是瓶頸.2.3自主模式算法的結構本文提出的Isomap-SMO算法框架描述如下:2.4煤與瓦斯突出的預測模型煤與瓦斯突出是一種典型的復雜非線性動力系統(tǒng),受到很多因素的影響,給煤與瓦斯突出預測帶來極大的困難.控制煤與瓦斯突出的因素眾多,其中地質(zhì)構造因素是控制瓦斯突出發(fā)生的主導地質(zhì)因素.地質(zhì)構造類型、規(guī)模、性質(zhì)、疏密程度、排列組合以及構造部位等的差異,對瓦斯突出均有不同程度的影響.煤層因素包括煤層厚度、煤層傾角、軟分層厚度和煤層埋藏深度,煤層越厚特別是軟分層越厚突出越頻繁,突出次數(shù)和突出強度也相應增多.受煤自重影響,傾角越大的煤層越容易發(fā)生突出,突出的次數(shù)隨著煤層傾角增大有增多的趨勢.強烈破壞的松軟煤層,由于強度低,極易發(fā)生煤與瓦斯突出.地應力由巖層自重應力和構造應力組成,構造應力在突出中起重要作用,是構造帶發(fā)生瓦斯突出能量的重要組成部分.煤與瓦斯突出前總是伴隨一些特征,這些特征是預測煤與瓦斯突出的依據(jù)之一.突出特征主要有巷道頂板來壓、掉渣、片幫、響煤炮、悶雷聲、瓦斯壓力增大、噴孔、頂鉆、卡鉆等.發(fā)生突出前并非所有特征同時出現(xiàn),而是出現(xiàn)其中一種或某幾種預兆.人們提出了很多假說來探討煤與瓦斯突出的機理,但大都認為:煤與瓦斯突出是地應力、瓦斯和煤層因素以及地質(zhì)構造因素等綜合作用的結果.從上述影響因素中取n個因素研究,把每一個因素看作一個向量的元素,那么,n個因素就組成一個n維向量,n個因素的每一種組合就是一個n維向量樣本,在n維特征(即影響因素)空間唯一對應一個位置.理論上同類樣本在特征空間相距較近,不同類的樣本相距較遠.如果用某種方法分割空間,使得同一類樣本大體在特征空間的同一個區(qū)域中,則可實現(xiàn)類別劃分.用SMO方法劃分特征空間,使得煤與瓦斯突出危險類與非突出危險類的樣本位于兩個不同的區(qū)域.對于預測樣本,就可根據(jù)它的特征向量位于特征空間的哪一個區(qū)域而判定它屬于突出危險類或非突出危險類.由于影響煤與瓦斯突出的因素眾多,突出機理和各因素之間的相互制約關系錯綜復雜,影響因素具有高度的不確定性,若直接將這些影響因素作為模型的輸入,必然包含大量的冗余信息,所以本文先將這些影響因素用Isomap方法進行壓縮,然后再將壓縮后的變量作為SMO模型的輸入.結合前文介紹的Isomap和SMO算法,即可建立Isomap-SMO的煤與瓦斯突出危險性狀態(tài)預測模型.建模原理如圖1所示.本文以降維后的I1,I2,…,Im來代替樣本中的原始輸入變量x1,x2,…,xn,進行支持向量機SMO的訓練,降低了樣本空間的維數(shù),且消除了原樣本空間的自相關性.3自主模式算法和smo3.1輸入?yún)?shù)選取本模型采用與文獻相同的數(shù)據(jù)進行建模和預測,該數(shù)據(jù)選取礦井歷年煤與瓦斯突出記載資料,該資料來源于1995年的漣邵礦務局煤與瓦斯突出評價.包括突出點地質(zhì)特征、突出預兆、突出位置(煤巷、上山、石門揭煤)、預測指標值等.輸入?yún)?shù)是指影響突出的主要因素,由于突出本身是一個復雜的動力學過程,影響因素多且因地區(qū)而異,為了減少系統(tǒng)規(guī)模,使系統(tǒng)學習難度和復雜性減小,在建立預測模型時,先剔除一些不可靠的數(shù)據(jù)源,采用煤層地質(zhì)特征、鉆孔瓦斯動力特征、突出敏感性指標等來綜合判斷,最終選取地質(zhì)構造、煤層傾角變化、K1、Smax、D、K等17個指標作為本模型的輸入,建模數(shù)據(jù)如表1.3.2基于smo算法的數(shù)據(jù)降維優(yōu)化本實驗使用平臺是PC(PentiumⅣ,3.06GHz中央處理器,512Mb內(nèi)存),操作系統(tǒng)是WindowsXP.Isomap程序用Matlab語言編制,在Matlab7.0平臺上運行,SMO程序在WEKA平臺上運行.在煤與瓦斯突出影響因素屬性進行數(shù)據(jù)降維處理過程中,Isomap算法近鄰點k的選取起了關鍵的作用,k值過小,會使圖不連通,過大會使Isomap算法趨于MDS算法,k值的選取直接影響預測精度的高低.近鄰點k的最優(yōu)值是能夠保證圖連通的最小值,本實驗經(jīng)過參數(shù)選擇,最終確定用k=6構造近鄰圖.SMO算法選擇多項式核函數(shù):K(x,xi)=[(x·xi)+c]q,c取1.0,其它參數(shù)都選擇默認參數(shù).3.3實驗結果及分析如果對訓練數(shù)據(jù)不做降維預處理,用SMO算法訓練樣本實例1—12條數(shù)據(jù),并用樣本實例13—15來測試煤與瓦斯突出危險性,實驗結果預測錯誤2個,預測正確1個,當對原始輸入數(shù)據(jù)進行非線性降維,只剩下七維輸入變量屬性時,再對測試數(shù)據(jù)重新進行預測,分類的結果如下:預測值的詳細分類結果如表2所示,13、14工作面為有突出危險,15工作面無突出危險.分類結果的預測值與實際情況完全一致,可見該模型識別與實際是完全符合的.為客觀地比較PCA降維和Isomap降維后SMO的分類結果,再對表1的所有數(shù)據(jù)采用十折交叉驗證法進行實驗,即將表1數(shù)據(jù)隨機分成10份,從一組數(shù)據(jù)中取出一份作為測試集,其余的樣本作為訓練集,然后取下一份作為測試集,剩余的作為訓練集,重復運算直至計算完所有的數(shù)據(jù)樣本,本文對表1的數(shù)據(jù)重復做十次實驗,取十次實驗預測精度的平均值做為最終預測精度.采用SMO算法對Isomap和PCA兩種降維的結果分別進行預測,實驗結果如圖2所示.圖2的橫軸表示對原始數(shù)據(jù)經(jīng)過Isomap非線性降維和PCA線性降維的維數(shù),縱軸表示對降維后的數(shù)據(jù)用SMO算法進行十折交叉驗證后的分類精度.由圖2可知,原始數(shù)據(jù)用SMO算法經(jīng)過十折交叉驗證后,分類的精確度是89%.當經(jīng)Isomap算法將煤與瓦斯突出的影響因素降維后,分類精度有了較大的變化,隨著主分量的增加,經(jīng)過Isomap-SMO方法降維后十折交叉驗證后的分類精度從3維變量的85%增加到5維變量的93%,至7個變量時,分類精度高達96%.隨著次分量的增加所引入的噪聲會反映到某些獨立分量中,使識別性能下降,分類精度略有下降.當特征值較小的主分量(即次分量)增加到接近未降維的原始數(shù)據(jù)時,Isomap-SMO方法的分類識別率反而要略低于PCA-SMO方法.根據(jù)圖2比較可以得出Isomap-SMO的分類預測結果大都高于PCA-SMO的預測結果,其預測精度明顯優(yōu)于PCA-SMO方法,從而檢驗了在煤與瓦斯突出預測方面Isomap非線性降維的有效性與可適性.4基于isomak的煤與瓦斯突出危險狀態(tài)識別方法目前有很多降維方法,但大部分是基于線性的方法,這些方法并不能很好地保證樣本的非線性特征.Isomap來源于傳統(tǒng)的MDS,該方法利用樣本向量之間的最短距離計算出用于取代傳統(tǒng)歐式距離的測地線距離,然后運用經(jīng)典的MDS算法構造新的低維空間,最大限度地保證樣本之間的距離,以達到降維的目的.該方法真實地再現(xiàn)了高維數(shù)據(jù)內(nèi)在的非線性幾何特征,是一種十分有效的降維方法.對于煤與瓦斯突出的各種影響因素這種高維數(shù)據(jù),Isomap非線性降維算法具有獨特的優(yōu)點,它將樣本向量之間的歐式距離轉換為測地距離,重現(xiàn)樣本空間內(nèi)在的幾何結構.筆者提出的基于Isomap的SMO煤與瓦斯突出危險狀態(tài)識別方法,利用了Isomap在特征提取方面的非線性優(yōu)勢,能很好地保留各類煤與瓦斯突出影響狀態(tài)的拓撲結構,減小了識別誤差.在識別方法方面,筆