自組織神經網絡(SOM)方法及其應用

自組織神經網絡的典型結構第四章自組織神經網絡競爭層輸入層本文檔共66頁；當前第1頁；編輯于星期一\1點48分第四章自組織神經網絡自組織學習(self-organizedlearning)：

通過自動尋找樣本中的內在規(guī)律和本質屬性，自組織、自適應地改變網絡參數與結構。自組織網絡的自組織功能是通過競爭學習（competitivelearning）實現的。

本文檔共66頁；當前第2頁；編輯于星期一\1點48分4.1競爭學習的概念與原理4.1.1基本概念分類——分類是在類別知識等導師信號的指導下，將待識別的輸入模式分配到各自的模式類中去。聚類——無導師指導的分類稱為聚類，聚類的目的是將相似的模式樣本劃歸一類，而將不相似的分離開。本文檔共66頁；當前第3頁；編輯于星期一\1點48分相似性測量＿歐式距離法4.1.1基本概念本文檔共66頁；當前第4頁；編輯于星期一\1點48分相似性測量＿余弦法4.1.1基本概念本文檔共66頁；當前第5頁；編輯于星期一\1點48分4.1.2競爭學習原理競爭學習規(guī)則——Winner-Take-All網絡的輸出神經元之間相互競爭以求被激活，結果在每一時刻只有一個輸出神經元被激活。這個被激活的神經元稱為競爭獲勝神經元，而其它神經元的狀態(tài)被抑制，故稱為WinnerTakeAll。本文檔共66頁；當前第6頁；編輯于星期一\1點48分競爭學習規(guī)則——Winner-Take-All1.向量歸一化

首先將當前輸入模式向量X和競爭層中各神經元對應的內星向量Wj全部進行歸一化處理；(j=1,2,…,m)本文檔共66頁；當前第7頁；編輯于星期一\1點48分向量歸一化之前本文檔共66頁；當前第8頁；編輯于星期一\1點48分向量歸一化之后本文檔共66頁；當前第9頁；編輯于星期一\1點48分競爭學習原理競爭學習規(guī)則——Winner-Take-All2.尋找獲勝神經元

當網絡得到一個輸入模式向量時，競爭層的所有神經元對應的內星權向量均與其進行相似性比較，并將最相似的內星權向量判為競爭獲勝神經元。欲使兩單位向量最相似，須使其點積最大。即：本文檔共66頁；當前第10頁；編輯于星期一\1點48分從上式可以看出，欲使兩單位向量的歐式距離最小，須使兩向量的點積最大。即：競爭學習規(guī)則——Winner-Take-All本文檔共66頁；當前第11頁；編輯于星期一\1點48分競爭學習規(guī)則——勝者為王(Winner-Take-All)3.網絡輸出與權值調整jj*

步驟3完成后回到步驟1繼續(xù)訓練，直到學習率衰減到0。本文檔共66頁；當前第12頁；編輯于星期一\1點48分競爭學習的幾何意義?本文檔共66頁；當前第13頁；編輯于星期一\1點48分競爭學習的幾何意義

*

1W?

*?jW

*

)](?)(?)[()(*ttttjpWXW-=hD

*┆

)(?*1tj+W

)(?tpX

jW?

mW?

*

…

***本文檔共66頁；當前第14頁；編輯于星期一\1點48分競爭學習游戲將一維樣本空間的12個樣本分為3類本文檔共66頁；當前第15頁；編輯于星期一\1點48分競爭學習游戲w1w2w3x訓練樣本集o1o1o1本文檔共66頁；當前第16頁；編輯于星期一\1點48分例4.1用競爭學習算法將下列各模式分為2類：解：為作圖方便，將上述模式轉換成極坐標形式：競爭層設兩個權向量，隨機初始化為單位向量：本文檔共66頁；當前第17頁；編輯于星期一\1點48分本文檔共66頁；當前第18頁；編輯于星期一\1點48分本文檔共66頁；當前第19頁；編輯于星期一\1點48分本文檔共66頁；當前第20頁；編輯于星期一\1點48分本文檔共66頁；當前第21頁；編輯于星期一\1點48分本文檔共66頁；當前第22頁；編輯于星期一\1點48分本文檔共66頁；當前第23頁；編輯于星期一\1點48分本文檔共66頁；當前第24頁；編輯于星期一\1點48分本文檔共66頁；當前第25頁；編輯于星期一\1點48分本文檔共66頁；當前第26頁；編輯于星期一\1點48分本文檔共66頁；當前第27頁；編輯于星期一\1點48分本文檔共66頁；當前第28頁；編輯于星期一\1點48分4.2自組織特征映射神經網絡

（Self-OrganizingfeatureMap）1981年芬蘭Helsink大學的T.Kohonen教授提出一種自組織特征映射網，簡稱SOM網，又稱Kohonen網。Kohonen認為：一個神經網絡接受外界輸入模式時，將會分為不同的對應區(qū)域，各區(qū)域對輸入模式具有不同的響應特征，而且這個過程是自動完成的。自組織特征映射正是根據這一看法提出來的，其特點與人腦的自組織特性相類似。本文檔共66頁；當前第29頁；編輯于星期一\1點48分SOM網的生物學基礎

生物學研究的事實表明，在人腦的感覺通道上，神經元的組織原理是有序排列。因此當人腦通過感官接受外界的特定時空信息時，大腦皮層的特定區(qū)域興奮，而且類似的外界信息在對應區(qū)域是連續(xù)映象的。對于某一圖形或某一頻率的特定興奮過程，神經元的有序排列以及對外界信息的連續(xù)映象是自組織特征映射網中競爭機制的生物學基礎。本文檔共66頁；當前第30頁；編輯于星期一\1點48分SOM網的拓撲結構

SOM網共有兩層，輸入層模擬感知外界輸入信息的視網膜，輸出層模擬做出響應的大腦皮層。

本文檔共66頁；當前第31頁；編輯于星期一\1點48分SOM網的權值調整域

SOM網的獲勝神經元對其鄰近神經元的影響是由近及遠，由興奮逐漸轉變?yōu)橐种?，因此其學習算法中不僅獲勝神經元本身要調整權向量，它周圍的神經元在其影響下也要程度不同地調整權向量。這種調整可用三種函數表示：本文檔共66頁；當前第32頁；編輯于星期一\1點48分本文檔共66頁；當前第33頁；編輯于星期一\1點48分SOM網的權值調整域

以獲勝神經元為中心設定一個鄰域半徑，該半徑圈定的范圍稱為優(yōu)勝鄰域。在SOM網學習算法中，優(yōu)勝鄰域內的所有神經元均按其離開獲勝神經元的距離遠近不同程度地調整權值。

優(yōu)勝鄰域開始定得很大，但其大小隨著訓練次數的增加不斷收縮，最終收縮到半徑為零。本文檔共66頁；當前第34頁；編輯于星期一\1點48分SOM網的運行原理訓練階段w1w2w3

w4

w5本文檔共66頁；當前第35頁；編輯于星期一\1點48分SOM網的運行原理工作階段本文檔共66頁；當前第36頁；編輯于星期一\1點48分SOM網的學習算法(1)初始化對輸出層各權向量賦小隨機數并進行歸一化處理，得到，j=1,2,…m；建立初始優(yōu)勝鄰域Nj*(0)；學習率

賦初始值。(2)接受輸入從訓練集中隨機選取一個輸入模式并進行歸一化處理，得到，p{1,2,…,P}。(3)尋找獲勝節(jié)點計算與的點積，j=1,2,…m，從中選出點積最大的獲勝節(jié)點j*。(4)定義優(yōu)勝鄰域Nj*

(t)以j*為中心確定t時刻的權值調整域，一般初始鄰域Nj*

(0)較大，訓練過程中Nj*

(t)隨訓練時間逐漸收縮。Kohonen學習算法本文檔共66頁；當前第37頁；編輯于星期一\1點48分Kohonen學習算法SOM網的學習算法本文檔共66頁；當前第38頁；編輯于星期一\1點48分(5)調整權值對優(yōu)勝鄰域Nj*(t)內的所有節(jié)點調整權值：

i=1,2,…n

jNj*(t)式中，是訓練時間t和鄰域內第j個神經元與獲勝神經元j*之間的拓撲距離N

的函數，該函數一般有以下規(guī)律：Kohonen學習算法SOM網的學習算法本文檔共66頁；當前第39頁；編輯于星期一\1點48分(5)調整權值(6)結束檢查學習率是否衰減到零或某個預定的正小數？Kohonen學習算法SOM網的學習算法本文檔共66頁；當前第40頁；編輯于星期一\1點48分Kohonen學習算法程序流程本文檔共66頁；當前第41頁；編輯于星期一\1點48分功能分析(1)保序映射——將輸入空間的樣本模式類有序地映射在輸出層上。例1：動物屬性特征映射。本文檔共66頁；當前第42頁；編輯于星期一\1點48分功能分析本文檔共66頁；當前第43頁；編輯于星期一\1點48分(2)數據壓縮——將高維空間的樣本在保持拓撲結構不變的條件下投影到低維空間。(3)特征抽取——高維空間的向量經過特征抽取后可以在低維特征空間更加清晰地表達。例2：SOM網用于字符排序。功能分析本文檔共66頁；當前第44頁；編輯于星期一\1點48分本文檔共66頁；當前第45頁；編輯于星期一\1點48分SOM網在皮革配皮中的應用

要生產出優(yōu)質皮衣，必須保證每件皮衣所用皮料在顏色和紋理方面的相似性。在生產中，通常由有經驗的工人根據皮料顏色、紋理的相近程度進行分類。這道稱為“配皮”的工序，因光照條件、工人經驗不同以及情緒、體力等因素變化的影響，質量難于保證。計算機皮革檢測與分類系統(tǒng)可對成批皮革的顏色及紋理進行在線檢測、特征值提取及快速分類，從而代替了傳統(tǒng)的手工操作，取得了良好的效果。

本文檔共66頁；當前第46頁；編輯于星期一\1點48分系統(tǒng)硬件組成CCD彩色攝像機解碼器（PAL)圖像采集卡及幀存儲器計算機486/66彩色監(jiān)視器打印機標準燈箱

皮革皮料傳送帶D65光源本文檔共66頁；當前第47頁；編輯于星期一\1點48分基于SOM神經網絡的皮革聚類1.顏色紋理特征提取顏色參數:CIE1996均勻顏色空間值

l*,a*,b*紋理參數:梯度均值μ2,梯度標差σ2,及梯度墑T8。皮革外觀由６維輸入矢量

I=[l*,a*,b*,

μ2,σ2,T8]描述

本文檔共66頁；當前第48頁；編輯于星期一\1點48分2.SOM神經網絡的設計網絡結構:6輸入1維線陣輸出。聚類時每批100張皮，平均每件皮衣需要5～6張皮，因此將輸出層設置20個神經元。每個神經元代表一類外觀效果相似的皮料，如果聚為一類的皮料不夠做一件皮衣，可以和相鄰類歸并使用。

基于SOM神經網絡的皮革聚類本文檔共66頁；當前第49頁；編輯于星期一\1點48分3.網絡參數設計

Nj*

(t)優(yōu)勝鄰域在訓練開始時覆蓋整個輸出線陣，以后訓練次數每增加Δt=tm/P，Nj*(t)鄰域兩端各收縮一個神經元直至鄰域內只剩下獲勝神經元。

對η(t)采用了以下模擬退火函數：η0＝0.95tm＝5000tp＝1500本文檔共66頁；當前第50頁；編輯于星期一\1點48分4.皮革紋理分類結果

基于SOM神經網絡的皮革聚類本文檔共66頁；當前第51頁；編輯于星期一\1點48分SOM網用于物流中心城市分類評價

(1)物流中心城市評價指標與數據樣本簡單選取5個評價指標作為網絡輸入：x1—人均GDP(元)，x2—工業(yè)總產值(億元)，x3—社會消費品零售總額(億元)，x4—批發(fā)零售貿易總額(億元)，x5—貨運總量(萬噸)。

本文檔共66頁；當前第52頁；編輯于星期一\1點48分44個物流中心城市分類評價樣本

本文檔共66頁；當前第53頁；編輯于星期一\1點48分SOM網用于物流中心城市分類評價

(2)物流中心城市的分類和評價分析

物流中心城市

全國性物流中心城市區(qū)域性物流中心城市地區(qū)性物流中心城市綜合型貨運型本文檔共66頁；當前第54頁；編輯于星期一\1點48分SOM網用于物流中心城市分類評價

(2)物流中心城市的分類和評價分析

按照SOM算法步驟，取開始的1000次迭代為排序階段，學習率=0.9；其后為收斂階段，學習率為