深度學(xué)習(xí)方法在圖像處理中的應(yīng)用及研究報告總結(jié)

1、-. z.深度學(xué)習(xí)方法在圖像處理中的應(yīng)用與研究TOC o 1-3 h u HYPERLINK l _Toc3051 1. 概述和背景 PAGEREF _Toc3051 1 HYPERLINK l _Toc6811 2.人腦視覺機理 PAGEREF _Toc6811 3 HYPERLINK l _Toc12311 3.深度學(xué)習(xí)的根本思想 PAGEREF _Toc12311 6 HYPERLINK l _Toc25966 4.深度學(xué)習(xí)的常用方法 PAGEREF _Toc25966 7 HYPERLINK l _Toc29875 5. 總結(jié)與展望 PAGEREF _Toc29875 9-. z.深度

2、學(xué)習(xí)方法在圖像處理中的應(yīng)用與研究1. 概述和背景 Artificial Intelligence，也就是人工智能，就像長生不老和星際漫游一樣，是人類最美好的夢想之一。雖然計算機技術(shù)已經(jīng)取得了長足的進步，但是到目前為止，還沒有一臺電腦能產(chǎn)生自我的意識。是的，在人類和大量現(xiàn)成數(shù)據(jù)的幫助下，電腦可以表現(xiàn)的十分強大，但是離開了這兩者，它甚至都不能分辨一個喵星人和一個汪星人。 圖靈圖靈，大家都知道吧。計算機和人工智能的鼻祖，分別對應(yīng)于其著名的圖靈機和圖靈測試在 1950 年的論文里，提出圖靈試驗的設(shè)想，即，隔墻對話，你將不知道與你談話的，是人還是電腦。這無疑給計算機，尤其是人工智能，預(yù)設(shè)了一個很高的期望

3、值。但是半個世紀過去了，人工智能的進展，遠遠沒有到達圖靈試驗的標準。這不僅讓多年翹首以待的人們，心灰意冷，認為人工智能是忽悠，相關(guān)領(lǐng)域是偽科學(xué)。 但是自 2006 年以來，機器學(xué)習(xí)領(lǐng)域，取得了突破性的進展。圖靈試驗，至少不是則可望而不可及了。至于技術(shù)手段，不僅僅依賴于云計算對大數(shù)據(jù)的并行處理能力，而且依賴于算法。這個算法就是，Deep Learning。借助于 Deep Learning 算法，人類終于找到了如何處理抽象概念這個亙古難題的方法。 在實際應(yīng)用中，例如對象分類問題如對象的分類(對象可是文檔、圖像、音頻等)，我們不得不面對的一個是問題是如何用數(shù)據(jù)來表示這個對象，當(dāng)然這里的數(shù)據(jù)并非初始

4、的像素或者文字，也就是這些數(shù)據(jù)是比初始數(shù)據(jù)具有更為高層的含義，這里的數(shù)據(jù)往往指的就是對象的特征。例如人們常常將文檔、網(wǎng)頁等數(shù)據(jù)用詞的集合來表示，根據(jù)文檔的詞集合表示到一個詞組短語的向量空間 (vector space model, VSM模型)中，然后才能根抓不同的學(xué)習(xí)方法設(shè)計出適用的分類器來對目標對象進展分類;又如在圖像處理中，像素強度的集合的表示方法可以最初淺的表示一幅圖像，這也是我們視覺意義上的圖像，一可是由于各種原因人們提出了更高層的語義的特征，如SIFT為經(jīng)典的幾何特征、以LBP為經(jīng)典的紋理特征、以特征臉為經(jīng)典的統(tǒng)計特征等，像SIFT，特征在很多圖像處理的應(yīng)用中突顯出其優(yōu)越性，因此特

5、征選取得好壞對于實際應(yīng)用的影響是很深刻的。因此，選取什么特征或者用什么特征來表示*一對象對于解決一個實際問題非常的重要。然而，人為地選取特征的時間代價是非常昂貴，另外勞動本錢也高，而所謂的啟發(fā)式的算法得到的結(jié)果往往不穩(wěn)定，結(jié)果好壞經(jīng)常是依靠經(jīng)歷和運氣。既然如此，人們自然考慮到自動學(xué)習(xí)來完成特征抽取這一任務(wù)。Deep Learning的產(chǎn)生就是緣于此任務(wù)，它又被稱為無監(jiān)視的特征學(xué)習(xí)(Unsupervised Feature Learning )，一顯然從這個名稱就可以知道這是一個沒有人為參與的特征選取方法。 深度學(xué)習(xí)(Deep Learning)的概念是2006年左右由 Geoffrey Hin

6、ton等人在science上發(fā)表的一篇文章(Reducing the dimensionality of data with neural networks提出來的，主要通過神經(jīng)網(wǎng)絡(luò)(Neural Network NN)來模擬人的大腦的學(xué)習(xí)過程，希望借鑒人腦的多層抽象機制來實現(xiàn)對現(xiàn)實對象或數(shù)抓(圖像、語音及文木等)的抽象表達，整合特征抽取和分類器到一個學(xué)習(xí)框架下，特征的抽取過程中應(yīng)該盡量少地減少人為的干預(yù)。 深度學(xué)習(xí)是通過大量的簡單神經(jīng)元組成，每層的神經(jīng)元接收更低層的神經(jīng)元的輸入，通過輸入與輸出之間的非線性關(guān)系，將低層特征組合成更高層的抽象表示，并發(fā)現(xiàn)觀測數(shù)據(jù)的分布式特征。通過自下而上的學(xué)習(xí)形

7、成多層的抽象表示，并多層次的特征學(xué)習(xí)是*理卜大學(xué)碩十學(xué)位論文一個自動地?zé)o人工干預(yù)的過程。根據(jù)學(xué)習(xí)到的網(wǎng)絡(luò)構(gòu)造，系統(tǒng)將輸入的樣本數(shù)據(jù)映射到各種層次的特征，并利用分類器或者匹配算法對頂層的輸出單元進展分類識別等。2.人腦視覺機理研究說明，哺乳動物的大腦皮層，處理輸入信息時是采用了一種分層機制，信息從感知器官輸入后，經(jīng)過多層的神經(jīng)元，在經(jīng)過每一層神經(jīng)元時，神經(jīng)元會將能夠表達對象本質(zhì)的特征抽取出來，然后將這些特征繼續(xù)傳遞到下一層神經(jīng)元上，同樣地，后繼的各層神經(jīng)元都是以類似的方式處理和傳遞信息，最后傳至大腦。深層的人工神經(jīng)網(wǎng)絡(luò)的誕生很大程度上受這一發(fā)現(xiàn)的啟示，即構(gòu)建一種包含多層結(jié)點，并且使得信息、得以逐

8、層處理抽象的神經(jīng)網(wǎng)絡(luò)。換言之，哺乳動物的大腦是以深度方式組織的，這一類深層的構(gòu)造組織里的每一層會對于輸入進展不同層次的信息處理或者抽象表示，因此，實際生活中，層次化的方法經(jīng)常被用于表示一些抽象的語義概念。與哺乳動物一樣，人類的大腦處理信矛息時也是采用逐層傳輸和表達的方式，人腦的初級視覺系統(tǒng)，首先利用*些神經(jīng)元探測物體邊界、元形狀，然后又利用其他的神經(jīng)元組織，逐步向上處理形成更復(fù)雜的視覺形狀。人腦識別物體的原理是:外部世界中的物體先在視網(wǎng)膜上進展投影，然后大腦的視皮層對于聚集在視網(wǎng)膜上的投影進展分解處理，最后利用這些分解處理后的信息進展物體識別。因此視皮層的功能不是僅限于簡單的重現(xiàn)視網(wǎng)膜圖像，而

9、是提取和計算感知信號。視覺系統(tǒng)的輸入數(shù)據(jù)量在人類感知系統(tǒng)的層次構(gòu)造進展了維數(shù)減約，并剔除了與物體個性無關(guān)的信息;例如對于處理潛在構(gòu)造是復(fù)雜的豐富數(shù)據(jù)(如圖像、視頻、主意等)，深度學(xué)習(xí)應(yīng)該與人類視覺系統(tǒng)一樣可以精準地獲取對象的本質(zhì)特征。深度學(xué)習(xí)的設(shè)想是借鑒大腦的分層組織方式，通過由下向上、由簡單到高級的逐層抽象的特征學(xué)習(xí)，研究者們期望深度網(wǎng)絡(luò)構(gòu)造能通過模擬大腦來解決復(fù)雜的模式識別難題。因此，深層的人工神經(jīng)網(wǎng)絡(luò)是一種人工定義用于模擬人腦組織形式的多層神經(jīng)網(wǎng)絡(luò)。從文本來說，一個doc表示什么意思？我們描述一件事情，用什么來表示比擬適宜？用一個一個字嘛，我看不是，字就是像素級別了，起碼應(yīng)該是term，

10、換句話說每個doc都由term構(gòu)成，但這樣表示概念的能力就夠了嘛，可能也不夠，需要再上一步，到達topic級，有了topic，再到doc就合理。但每個層次的數(shù)量差距很大，比方doc表示的概念-topic千-萬量級-term10萬量級-word百萬量級。 一個人在看一個doc的時候，眼睛看到的是word，由這些word在大腦里自動切詞形成term，在按照概念組織的方式，先驗的學(xué)習(xí)，得到topic，然后再進展高層次的learning。那我們需要有多少個特征呢？我們知道需要層次的特征構(gòu)建，由淺入深，但每一層該有多少個特征呢？任何一種方法，特征越多，給出的參考信息就越多，準確性會得到提升。但特征多意味

11、著計算復(fù)雜，探索的空間大，可以用來訓(xùn)練的數(shù)據(jù)在每個特征上就會稀疏，都會帶來各種問題，并不一定特征越多越好。一些淺層的算法(指僅含一個隱層的神經(jīng)網(wǎng)絡(luò)、核回歸、支撐向量機等)，當(dāng)給定有限數(shù)量的樣本和計算單元時，淺層構(gòu)造難以有效地表示復(fù)雜函數(shù)，并且對于復(fù)雜分類問題表現(xiàn)性能及泛化能力針均有明顯的缺乏，尤其當(dāng)目標對象具有豐富的含義。深度學(xué)習(xí)通過大量的簡單神經(jīng)元組成的網(wǎng)絡(luò)，利用輸入與輸出之間的非線性關(guān)系，對復(fù)雜函數(shù)進展近似，對觀測樣本進展擬合，并在學(xué)習(xí)輸入樣本本質(zhì)特征的抽取上表達了強大的能力。有文獻中就列舉出一系列無法使用淺層網(wǎng)絡(luò)表示的函數(shù)，這些研究成果提醒了淺層網(wǎng)絡(luò)的局限性，從而也激發(fā)了人們探尋深度網(wǎng)絡(luò)

12、在一些復(fù)雜函數(shù)表示和復(fù)雜分類的應(yīng)用前景。指出深度學(xué)習(xí)構(gòu)造在對于復(fù)雜函數(shù)的表示問題上具有非常高的效率及效果，而一個不適用的構(gòu)造模型否(如淺層網(wǎng)絡(luò))對數(shù)據(jù)建模時可能需要數(shù)目非常大的計算單元。3.深度學(xué)習(xí)的根本思想假設(shè)一個系統(tǒng)S，它是一個n層(S1，Sn)的構(gòu)造，I是系統(tǒng)的輸入，O是系統(tǒng)輸出，形象地表示為:I =S1=S2=.=Sn=O，如果輸出O等于輸入I，物理意義也就是說明在經(jīng)過系統(tǒng)變化之后，輸入I的信息量沒有任何損失，和原始的輸入保持了不變，這說明了輸入I經(jīng)過每一層S;均沒有喪失任何信息,，即在任何一層S;，它都是輸入I也就是原始信息的另外一種表示。簡單說，深度學(xué)習(xí)的精華也就是，在一個n層的神

13、經(jīng)網(wǎng)絡(luò)中，任何一層的輸入I和輸出O是相等.的。學(xué)習(xí)過程中，我們希望它是不需要人為干預(yù)的，它能夠自動地學(xué)習(xí)對象的特征。在給定一組原始的輸入I(可以理解為是一堆圖像或者文本、一段語音之類)，經(jīng)過一個包含n層的系統(tǒng)S時，我們通過調(diào)整系統(tǒng)中參數(shù)，使得輸出與輸出相等，即輸出O仍然是輸入I，這樣，我們就獲取了輸入I(原始數(shù)據(jù))的一系列的層次特征，記為S, .Sn。另外，前面是假設(shè)輸出嚴格地等于輸入，即這個地方相等有兩個含義在里面:第一個是說O和I不是在絕對形式上的相等，而是在抽象意義上的相等;另外一點指的是限制的約束的程度，比方說是不會造成歧義的完全相等還是有適當(dāng)寬松條件的相等。而絕對意義上的相等這個限制

14、太嚴格，我們可以略微地放松這個限制，例如我們只要使得輸入與輸出的差異盡可能地小即可，這個放松會形成另外一類不同的深度學(xué)習(xí)的方法。舉個不太恰當(dāng)?shù)睦樱确秸f對交通工具這個概念上，I是可以駕駛的四個輪子，O是車，這樣雖然對兩者的描述不一致，但是我們都一可以理解為交通工具了。上述就是深度學(xué)習(xí)的根本思想，而上述中的兩個思想也對應(yīng)了深度學(xué)習(xí)中的兩個經(jīng)典的方法AutoEncoder和Sparse Coding，還有一個很常用的方法就是受限玻爾茲曼機(Restrict Boltzmann Machine， RBM )。深度學(xué)習(xí)的常用方法4.1AutoEncoder自動編碼器最簡單的一種方法是利用人工神經(jīng)網(wǎng)絡(luò)

15、的特點，人工神經(jīng)網(wǎng)絡(luò)(ANN)本身就是具有層次構(gòu)造的系統(tǒng)，如果給定一個神經(jīng)網(wǎng)絡(luò)，我們假設(shè)其輸出與輸入是一樣的，然后訓(xùn)練調(diào)整其參數(shù)，得到每一層中的權(quán)重，自然地，我們就得到了輸入I的兒種不同表示(每一層是輸入的一種表示)，這些表示就是特征，在研究中可以發(fā)現(xiàn)，如果在原有的特征中參加這些自動學(xué)習(xí)得到的特t正可以大大提高準確度，甚至在分類問題中比前址好的分類算法效果還要好，這種方法稱為自動編碼(AutoEncoder )。4.2、Sparse Coding稀疏編碼如果我們把輸出必須和輸入相等的限制放松，同時利用線性代數(shù)中基的概念，即O=W* B, +硯* B, +.+W,* B, , B是基，W;是系數(shù)

16、，我們可以得到這樣一個優(yōu)化問題:Min 11一Olo通過求解這個最優(yōu)化式子，我們可以求得系數(shù)W和基B;，這些系數(shù)和根底就是輸入的另外一種近似表達，因此，它們可以被當(dāng)成特征來表達輸入I，這個過程也是自動學(xué)習(xí)得到的。如果我們在上述式子上加上L1的Regularity限制，得到: MinI一O+u*(IW卜硯I+W，)。(2. 1)種方法被稱為Sparse Coding，它是一種對對象的簡潔表征的方法，這種方法可以自動地學(xué)習(xí)到隱藏在對象數(shù)據(jù)潛在的基函數(shù)。4.3、Restricted Boltzmann Machine(RBM)限制波爾茲曼機假設(shè)有一個二部圖，每一個一樣層的節(jié)點之間沒有，一層是可視層，

17、即輸入數(shù)據(jù)層(v)，一層是隱層(h)，如果假設(shè)所有的節(jié)點都是二值變量節(jié)點(只能取0或者1值)，同時假設(shè)聯(lián)合概率分布p(v, h)滿足Boltzmann分布，我們稱這個模型是受限玻爾茲曼機(RBM)。下面我們來看看為什么它是Deep Learning方法。首先，這個模型因為是二部圖，所以在己知v的情況下，所有的隱藏節(jié)點之間是條件獨立的，即p(hIv卜p(h, I 1,) . p(h I v)。同理，在己知隱藏層h的情況下，所有的可視節(jié)點都是條件獨立的，同時又由于所有的v和h滿足Boltzmann分布，因此，當(dāng)輸入v的時候，通過p(hlv)可以得到隱藏層h，而得到隱藏層h之后，通過p(vlh)又能

18、重構(gòu)可視層，通過調(diào)整參數(shù)，我們就是要使得從隱藏層得到的可視層VI與原來的可視層v如果一樣，則得到的隱藏層就是可視層的另外一種表達，因此隱藏層可以作為可視層輸入數(shù)據(jù)的特征，所以它就是一種Dcep Learning方法。文獻*32從理論一上證明，當(dāng)隱層節(jié)點足夠多時，深度網(wǎng)絡(luò)就可以表示任意離散分布;文獻33指出受限玻爾茲曼機中的隱層節(jié)點與可視節(jié)點可以為任意的指數(shù)族單元(即給定隱單元(可見單元)，可見單元(隱單元)的分布的形式一可以為任意的指數(shù)族分布)，如高斯單元、softma*單元、泊松單元等等。4.4、Deep BeliefNetworks深信度網(wǎng)絡(luò) DBNs是一個概率生成模型，與傳統(tǒng)的判別模型的

19、神經(jīng)網(wǎng)絡(luò)相對，生成模型是建立一個觀察數(shù)據(jù)和標簽之間的聯(lián)合分布，對P(Observation|Label)和 P(Label|Observation)都做了評估，而判別模型僅僅而已評估了后者，也就是P(Label|Observation)。對于在深度神經(jīng)網(wǎng)絡(luò)應(yīng)用傳統(tǒng)的BP算法的時候，DBNs遇到了以下問題：1需要為訓(xùn)練提供一個有標簽的樣本集；2學(xué)習(xí)過程較慢；不適當(dāng)?shù)膮?shù)選擇會導(dǎo)致學(xué)習(xí)收斂于局部最優(yōu)解。目前，和DBNs有關(guān)的研究包括堆疊自動編碼器，它是通過用堆疊自動編碼器來替換傳統(tǒng)DBNs里面的RBMs。這就使得可以通過同樣的規(guī)則來訓(xùn)練產(chǎn)生深度多層神經(jīng)網(wǎng)絡(luò)架構(gòu)，但它缺少層的參數(shù)化的嚴格要求。與DB

20、Ns不同，自動編碼器使用判別模型，這樣這個構(gòu)造就很難采樣輸入采樣空間，這就使得網(wǎng)絡(luò)更難捕捉它的內(nèi)部表達。但是，降噪自動編碼器卻能很好的防止這個問題，并且比傳統(tǒng)的DBNs更優(yōu)。它通過在訓(xùn)練過程添加隨機的污染并堆疊產(chǎn)生場泛化性能。訓(xùn)練單一的降噪自動編碼器的過程和RBMs訓(xùn)練生成模型的過程一樣。4.5 Networks卷積神經(jīng)網(wǎng)絡(luò) 卷積神經(jīng)網(wǎng)絡(luò)是人工神經(jīng)網(wǎng)絡(luò)的一種，已成為當(dāng)前語音分析和圖像識別領(lǐng)域的研究熱點。它的權(quán)值共享網(wǎng)絡(luò)構(gòu)造使之更類似于生物神經(jīng)網(wǎng)絡(luò)，降低了網(wǎng)絡(luò)模型的復(fù)雜度，減少了權(quán)值的數(shù)量。該優(yōu)點在網(wǎng)絡(luò)的輸入是多維圖像時表現(xiàn)的更為明顯，使圖像可以直接作為網(wǎng)絡(luò)的輸入，防止了傳統(tǒng)識別算法中復(fù)雜的特征

21、提取和數(shù)據(jù)重建過程。卷積網(wǎng)絡(luò)是為識別二維形狀而特殊設(shè)計的一個多層感知器，這種網(wǎng)絡(luò)構(gòu)造對平移、比例縮放、傾斜或者共他形式的變形具有高度不變性。 Ns是受早期的延時神經(jīng)網(wǎng)絡(luò)TDNN的影響。延時神經(jīng)網(wǎng)絡(luò)通過在時間維度上共享權(quán)值降低學(xué)習(xí)復(fù)雜度，適用于語音和時間序列信號的處理。 Ns是第一個真正成功訓(xùn)練多層網(wǎng)絡(luò)構(gòu)造的學(xué)習(xí)算法。它利用空間關(guān)系減少需要學(xué)習(xí)的參數(shù)數(shù)目以提高一般前向BP算法的訓(xùn)練性能。Ns作為一個深度學(xué)習(xí)架構(gòu)提出是為了最小化數(shù)據(jù)的預(yù)處理要求。在N中，圖像的一小局部局部感受區(qū)域作為層級構(gòu)造的最低層的輸入，信息再依次傳輸?shù)讲煌膶?，每層通過一個數(shù)字濾波器去獲得觀測數(shù)據(jù)的最顯著的特征。這個方法能夠獲

22、取對平移、縮放和旋轉(zhuǎn)不變的觀測數(shù)據(jù)的顯著特征，因為圖像的局部感受區(qū)域允許神經(jīng)元或者處理單元可以訪問到最根底的特征，例如定向邊緣或者角點?？偨Y(jié)與展望1Deep learning總結(jié) 深度學(xué)習(xí)是關(guān)于自動學(xué)習(xí)要建模的數(shù)據(jù)的潛在隱含分布的多層復(fù)雜表達的算法。換句話來說，深度學(xué)習(xí)算法自動的提取分類需要的低層次或者高層次特征。高層次特征，一是指該特征可以分級層次地依賴其他特征，例如：對于機器視覺，深度學(xué)習(xí)算法從原始圖像去學(xué)習(xí)得到它的一個低層次表達，例如邊緣檢測器，小波濾波器等，然后在這些低層次表達的根底上再建立表達，例如這些低層次表達的線性或者非線性組合，然后重復(fù)這個過程，最后得到一個高層次的表達。 Deep learning能夠得到更好地表示數(shù)據(jù)的feature，同時由于模型的層次、參數(shù)很多，capacity足夠，因此，模型有能力表示大規(guī)模數(shù)據(jù)，所以對于圖像、語音這種特征不明顯需要手工設(shè)計且很多沒有直觀物理含義的問題，能夠在大規(guī)模訓(xùn)練數(shù)據(jù)上取得更好的效果。此外，從模式識別特征和分類器的角度，deep learning框架將feature和分類器結(jié)合到一個框架中，用數(shù)據(jù)去學(xué)習(xí)feature，在使用中減少了手工設(shè)計feature的巨大工作量這是目前工業(yè)界工程師付出努力最多的方面，因此，不僅僅效果