小波神經(jīng)網(wǎng)絡(luò)在腫瘤預(yù)后中的應(yīng)用研究

1、小波神經(jīng)網(wǎng)絡(luò)在腫瘤預(yù)后中的應(yīng)用研究    【摘要】 介紹了小波神經(jīng)網(wǎng)絡(luò)模型，給出了相應(yīng)的算法和公式。將小波神經(jīng)網(wǎng)絡(luò)模型用于腫瘤患者預(yù)后研究。結(jié)果表明，與傳統(tǒng)BP網(wǎng)絡(luò)相比，小波神經(jīng)網(wǎng)絡(luò)具有較快的學(xué)習(xí)收斂速率，在腫瘤患者預(yù)后方面具有良好的應(yīng)用前景。    【關(guān)鍵詞】 小波變換； 神經(jīng)網(wǎng)絡(luò)； 模型； 預(yù)后 腫瘤患者預(yù)后是一個(gè)多因素相互作用的復(fù)雜問題，各因素之間一般為非線性關(guān)系。由于其間的函數(shù)關(guān)系解析形式難以把握腫瘤的多種類型以及多種相關(guān)因素，使得現(xiàn)有的預(yù)測(cè)在準(zhǔn)確性和實(shí)用性方面都存在著局限性。人工神經(jīng)網(wǎng)絡(luò)的成就表明它特別適

2、合于處理不確定性和非結(jié)構(gòu)化信息，和統(tǒng)計(jì)模式識(shí)別方法相比，具有抗干擾能力強(qiáng)、能自適應(yīng)學(xué)習(xí)、能把識(shí)別處理和若干預(yù)處理融為一體來(lái)完成等優(yōu)點(diǎn)，因此其應(yīng)用非常廣泛。P.B.Snow等用BP神經(jīng)網(wǎng)絡(luò)對(duì)結(jié)腸癌患者治療后的存活期進(jìn)行預(yù)測(cè)1，其算法主要是利用梯度搜索技術(shù)使代價(jià)函數(shù)最小化。此類網(wǎng)絡(luò)存在一些局限性，如隱層單元數(shù)目難以確定、收斂速度較慢且有可能收斂于局部極小點(diǎn)等等。近年來(lái)，將小波變換與神經(jīng)網(wǎng)絡(luò)相結(jié)合構(gòu)成的小波神經(jīng)網(wǎng)絡(luò)(Wavelet neural networks, WNN)展示了良好的網(wǎng)絡(luò)性能25。利用WNN研究腸癌患者術(shù)后存活期預(yù)測(cè)問題，仿真結(jié)果表明該模型能較好地反映疾病程度與術(shù)后存活期之間的關(guān)系

3、，因此在腫瘤患者術(shù)后存活期預(yù)測(cè)方面具有良好的應(yīng)用前景。 1 小波神經(jīng)網(wǎng)絡(luò)模型 WNN是近年來(lái)神經(jīng)網(wǎng)絡(luò)研究中的一個(gè)新的分支，是將小波變換理論與人工神經(jīng)網(wǎng)絡(luò)理論相結(jié)合而構(gòu)造的一種新的神經(jīng)網(wǎng)絡(luò)模型。WNN中第n個(gè)樣本的輸入為Xn=xni，i=1,2,L，網(wǎng)絡(luò)的輸入為Yn=ynk，k=1,2,S，對(duì)應(yīng)的目標(biāo)輸出為Dn=Dnk，k=1,2,S，n=1,2,N，N為樣本總數(shù)。輸出層單元數(shù)為S輸入層單元數(shù)為L(zhǎng)，中間層為小波變換層(單元數(shù)目為M)，Vji表示中間層第j單元與輸入層第i單元之間的連接權(quán)，Ukj表示輸出層第k單元與中間層第j單元之間的連接權(quán)。利用當(dāng)前網(wǎng)絡(luò)參數(shù)計(jì)算的輸出為：Ynk=M &#

4、160;  j=1UkjL    i=1VjiXni-bj    aj(1)誤差函數(shù)E：E=1    2NN    n=1 S    k=1(Ynk-Dnk)2(2)可以求出誤差函數(shù)E的各種導(dǎo)數(shù)：?E    ?Ukj=1    N N    n=1(Ynk-D

5、nk)L    i=1VjiXni-bj    aj(3)?E    ?Vji=1    N N    n=1 S    k=1(Ynk-Dnk) Ukj?(T)    ?T Xni    aj(4)其中 T=L    i=1VjiXni-

6、bj    aj?E    ?aj=1    N N    n=1 S    k=1(Ynk-Dnk) Ukj?(T)    ?T (-L    i=1VjiXni-bj    a2j)(5)?E    ?bj=1  &

7、#160; N N    n=1 S    k=1(Ynk-Dnk) Ukj?(T)    ?T (-1    aj)(6)取(x)為Morlet小波，該小波為余弦調(diào)制的高斯波，時(shí)域頻域同時(shí)具有較高分辨率。(x)=cos(1.75x)exp(-x2    2)(7)則?(x)    ?x=-xcos(1.75x) 1.75sin(1.75x)exp

8、(-x2    2)(8)按共軛梯度下降學(xué)習(xí)算法有：Uii 1kj=Uiikj-?E    ?Uiikj (Uiikj-Uii-1kj)(9)或?qū)懗桑篣ii 1kj=-?E    ?Uikj Uiikj(10)Uii 1kj=Uiikj Uii 1kj(11)類似地可以給出Vii 1ji、aii 1j和bii 1j的迭代公式，按這些迭代公式逐次學(xué)習(xí)，直至滿足誤差要求(或達(dá)到最大學(xué)習(xí)次數(shù))。 2 數(shù)據(jù)處理和結(jié)果 2?1 資料收集及處理病例資料取自徐州醫(yī)學(xué)院病理教研室198719

9、97年外檢檔案中手術(shù)切除的結(jié)直腸癌標(biāo)本195例，對(duì)其進(jìn)行隨訪研究，獲得具有完整隨訪研究結(jié)果的病例資料65例。根據(jù)全國(guó)大腸癌病理研究統(tǒng)一規(guī)范的標(biāo)準(zhǔn)復(fù)查全部HE切片，觀察結(jié)直腸癌的組織學(xué)類型、生長(zhǎng)方式、間質(zhì)纖維組織增生(有或無(wú))和淋巴細(xì)胞浸潤(rùn)等，進(jìn)行免疫組織化學(xué)實(shí)驗(yàn)，檢測(cè)大腸癌患者的多種免疫組化因素。在此基礎(chǔ)上，建立患者病情診斷資料及手術(shù)標(biāo)本病理分析資料數(shù)據(jù)庫(kù)。包括患者的一般情況、部位、腫瘤大小、分期、組織學(xué)類型、生長(zhǎng)方式、浸潤(rùn)范圍、淋巴結(jié)轉(zhuǎn)移、免疫組化實(shí)驗(yàn)結(jié)果、其它病變等。對(duì)應(yīng)的輸出結(jié)果為隨訪所得的存活期。 2?2 WNN訓(xùn)練集的選擇按照用于訓(xùn)練WNN的數(shù)據(jù)集應(yīng)該能最大限度地兼顧各種病例的原則。

10、經(jīng)過仔細(xì)篩選，取含有55個(gè)病例的集合構(gòu)成WNN的訓(xùn)練集，含有10個(gè)病例的集合構(gòu)成測(cè)試集。WNN輸入層有14個(gè)單元，具體的取值是通過數(shù)據(jù)編碼(對(duì)應(yīng)于無(wú)或有，陰性或陽(yáng)性)和實(shí)驗(yàn)測(cè)試所得數(shù)據(jù)的歸一化處理將輸入數(shù)據(jù)變換到(0，1)區(qū)間。將隨訪所得存活期按是否超過5年為標(biāo)準(zhǔn)分為兩類，輸出為1個(gè)單元，輸出值分別為0(否)和1(是)。這樣就可以建立輸入輸出模式對(duì)，構(gòu)成網(wǎng)絡(luò)的訓(xùn)練集。 2?3 結(jié)果取WNN的各初始連接權(quán)、伸縮和平移參數(shù)為-0.5,0.5之間的隨機(jī)數(shù)，學(xué)習(xí)參數(shù)為0?9，動(dòng)量參數(shù)為0?7，按WNN模型算法編程。輸入層有14個(gè)單元，輸出層有1個(gè)單元。取小波變換層單元個(gè)數(shù)為12時(shí)學(xué)習(xí)效果較好。根據(jù)計(jì)算

11、結(jié)果，可以作出誤差函數(shù)E與學(xué)習(xí)次數(shù)K關(guān)系曲線，如圖1所示。經(jīng)260次學(xué)習(xí)訓(xùn)練，誤差降為0?00004997。    圖1 WNN網(wǎng)絡(luò)誤差函數(shù)E與學(xué)習(xí)次數(shù)K關(guān)系曲線（略） 對(duì)同樣的數(shù)據(jù)樣本集，用傳統(tǒng)BP網(wǎng)絡(luò)進(jìn)行對(duì)比研究，輸入層、隱層和輸出層單元數(shù)目分別為14、10、1。其誤差與學(xué)習(xí)次數(shù)關(guān)系曲線如圖2所示，誤差曲線中會(huì)存在較強(qiáng)震蕩和較長(zhǎng)的平臺(tái)，即網(wǎng)絡(luò)誤差的局部極小點(diǎn)。經(jīng)10000次學(xué)習(xí)訓(xùn)練，誤差為0?0124866。利用經(jīng)過如上所列學(xué)習(xí)訓(xùn)練過程后所得WNN模型進(jìn)行測(cè)試。首先對(duì)已學(xué)習(xí)過的55例訓(xùn)練樣本進(jìn)行測(cè)試，結(jié)果表明，對(duì)已學(xué)習(xí)過的樣本集，WNN模型預(yù)測(cè)成功率

12、為100%；而對(duì)未經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的10例樣本，分別用WNN模型和BP網(wǎng)絡(luò)模型進(jìn)行測(cè)試，其結(jié)果如表1所示。如果以網(wǎng)絡(luò)輸出的最大絕對(duì)誤差不超過0?25為標(biāo)準(zhǔn)，WNN模型有8例預(yù)測(cè)成功，準(zhǔn)確率為80%。BP網(wǎng)絡(luò)模型有7例預(yù)測(cè)成功，準(zhǔn)確率為70%。 圖2 BP網(wǎng)絡(luò)誤差與學(xué)習(xí)次數(shù)關(guān)系曲線（略） 表1 WNN模型和BP網(wǎng)絡(luò)模型對(duì)10例樣本的測(cè)試結(jié)果（略） 從上述結(jié)果可知，在人工神經(jīng)網(wǎng)絡(luò)腫瘤患者預(yù)后應(yīng)用方面，WNN模型學(xué)習(xí)收斂速率、預(yù)測(cè)成功率明顯優(yōu)于傳統(tǒng)BP模型。 3 討論 WNN能夠較好地綜合處理腸癌患者各項(xiàng)診斷指標(biāo)對(duì)其術(shù)后存活期的影響。利用該模型進(jìn)行腸癌患者術(shù)后存活期的預(yù)測(cè)，較好地符合了已知數(shù)據(jù)，能反映

13、疾病程度與術(shù)后存活期之間的關(guān)系。比起傳統(tǒng)的BP網(wǎng)絡(luò)來(lái)，WNN學(xué)習(xí)收斂速率快，并且可以自適應(yīng)地確定隱層單元數(shù)目。因此WNN為癌癥患者存活期預(yù)測(cè)提供了新的途徑。在傳統(tǒng)BP網(wǎng)絡(luò)中，存在隱層單元難以確定的不足，而WNN中間單元數(shù)目可以根據(jù)具體的問題自適應(yīng)地確定小波變換單元個(gè)數(shù)，從而克服傳統(tǒng)網(wǎng)絡(luò)的不足。要進(jìn)一步提高預(yù)測(cè)精度，就應(yīng)該注意收集更多更全面的病例數(shù)據(jù)。如果我們所使用的數(shù)據(jù)越多越全面，其中所蘊(yùn)含的事物本身的規(guī)律性就越強(qiáng)，利用WNN從中所抽取的函數(shù)關(guān)系就越具有普遍性，預(yù)測(cè)就更準(zhǔn)確。    【參考文獻(xiàn)】 1 P.B.Snow, D.J.Kerr, J.M.Bra

14、ndt, et al. Neural network and regression predictions of 5?year survival after colon carcinoma treatment. Cancer Supplement, 2001,91(8):16731678.2 Pati Y, Krishnaprasad P. Analysis and synthesis of ef feedforward neural networks using discrete affine wavelet forms. IEEE Trans. On Neural Networks, 1993,4(1):7385.3 Zhang Q, Benveniste A. Wavelet networks. IEEE Trans. On Neural networks, 1992,3(6):889898.4 Delgon B, Judit