感知準(zhǔn)則函數(shù)(共7頁(yè))

1、精選優(yōu)質(zhì)文檔-傾情為你奉上模式識(shí)別實(shí)驗(yàn)報(bào)告1 實(shí)驗(yàn)?zāi)康?. 學(xué)習(xí)和掌握關(guān)于感知準(zhǔn)則函數(shù)的知識(shí)；2. 應(yīng)用感知準(zhǔn)則函數(shù)求解判決面，解決模式識(shí)別的分類(lèi)問(wèn)題；2 實(shí)驗(yàn)內(nèi)容利用感知準(zhǔn)則函數(shù)用感知準(zhǔn)則函數(shù)的方法求解以下數(shù)據(jù)的判決面，學(xué)習(xí)率為 t=0.1，畫(huà)出每次迭代法向量的變化軌跡，并畫(huà)出最終的判決曲線。樣本12樣本12x1x2x1x2x1x2x1x210.11.1-3.0-2.963.15.0-1.33.726.87.10.58.77-0.8-1.3-3.46.23-3.5-4.12.92.180.91.2-4.13.442.02.7-0.15.295.06.4-5.11.654.12.8-4.02.

2、2103.94.01.95.13 實(shí)驗(yàn)原理或步驟初始的線性判別函數(shù)為 g(x) = wTx + w0為了討論方便，把向量 x 增加一維，但取其值為常數(shù)，即定義y = 1,x1,x2,···,xdT其中，x1 為樣本 x 的第 i 維分量。我們稱(chēng) y 為增廣的樣本向量。相應(yīng)地，定義增廣的權(quán)向量為 = w0,w1,w2,···,wdT線性判別函數(shù)變?yōu)間(y) = Ty決策規(guī)則是：如果 g(y) > 0，則 y 1；如果 g(y) < 0，則 y 2。設(shè)一組樣本為 y1···,yN，若存在權(quán)向量 ，

3、使得對(duì)于樣本集中的任意一個(gè)樣本 yi，i=1，···，N，若 y 1 則 Tyi > 0，若 y 2 則 Tyi < 0，那么稱(chēng)這組樣本或這個(gè)樣本集是線性可分的。即在樣本的特征空間中，至少存在一個(gè)線性分類(lèi)面能夠把兩類(lèi)樣本沒(méi)有錯(cuò)誤地分開(kāi)。如果定義一個(gè)新的變量 y，使對(duì)于第一類(lèi)的樣本 y=y，而對(duì)第二類(lèi)樣本則 y=y，即其中 i = 1,2,···,N則樣本可分性條件就變成了存在 ，使這樣定義的 y 稱(chēng)作規(guī)范化增廣樣本向量。為了討論方便，都采用規(guī)范化增廣樣本向量，并且把 y 仍然記作 y。對(duì)于權(quán)向量 ，如果某個(gè)樣本 yk 被錯(cuò)

4、誤分類(lèi)，則 Tyk 0。我們可以用對(duì)所有錯(cuò)分樣本的求和來(lái)表示對(duì)錯(cuò)分樣本的懲罰這就是 Rosenblatt 提出的感知器準(zhǔn)則函數(shù)。顯然，當(dāng)且僅當(dāng) JP() = minJP() = 0 時(shí) 是解向量。感知器準(zhǔn)則函數(shù)式的最小化可以用梯度下降方法迭代求解(t + 1) = (t) tJP()即，下一時(shí)刻的權(quán)向量是把當(dāng)前時(shí)刻的權(quán)向量向目標(biāo)函數(shù)的負(fù)梯度方向調(diào)整一個(gè)修正量，其中 t 為調(diào)整的步長(zhǎng)。目標(biāo)函數(shù) Jp 對(duì)權(quán)向量 的梯度是yk)因此，迭代修正的公式就是(t + 1) = (t) + t Tk (yk) y 0即在每一步迭代時(shí)把錯(cuò)分的樣本按照某個(gè)系數(shù)加到權(quán)向量上。算法步驟如下：(1) 任意選擇初始的權(quán)

5、向量 (0)，置 t=0；(2) 考察樣本 yj，若 (t)Tyj 0，則 (t + 1)=(t) + yj，否則繼續(xù)；(3) 考察另一個(gè)樣本，重復(fù) (2)，直至對(duì)所有樣本都有 (t)Tyj > 0，即 JP() = 0。4 運(yùn)行結(jié)果和分析原始數(shù)據(jù)的分布，如圖：圖像中可以清晰的發(fā)現(xiàn)有兩個(gè)藍(lán)色樣本摻雜到紅色中了，被錯(cuò)誤分類(lèi)。于是我把這兩個(gè)樣本坐標(biāo)點(diǎn)進(jìn)行了更改，由（-3.0，-2.9）和（2.9,2.1）分別改為（-3.0,6）和（2.9,8）。圖中可以看到?jīng)Q策線很好的將兩類(lèi)樣本分開(kāi)，下方的線代表每次迭代的法向量，長(zhǎng)短代表迭代的先后。分析：5 實(shí)驗(yàn)總結(jié)這次做感知實(shí)驗(yàn)的函數(shù)是我大學(xué)以來(lái)第一次把

6、課上學(xué)到的算法運(yùn)用到解決一個(gè)實(shí)際問(wèn)題上，雖然只是把兩類(lèi)樣本分類(lèi)。我從中獲益很多，在做這個(gè)實(shí)驗(yàn)之前，雖然大概懂了感知準(zhǔn)則函數(shù)這個(gè)算法，但總感覺(jué)模模糊糊，似懂非懂，但做實(shí)驗(yàn)時(shí)，真的是要把每個(gè)需要掌握的點(diǎn)都要挖透，一個(gè)點(diǎn)不懂，這整個(gè)實(shí)驗(yàn)就會(huì)導(dǎo)致失敗，有的數(shù)學(xué)公式一大串，看似明白，但理解不深，在實(shí)際動(dòng)手時(shí)，馬上讓我吃到苦頭，在如何畫(huà)出每次迭代的法向量上，想了好久好久，才發(fā)現(xiàn)原來(lái)自己對(duì)法向量的幾何意義沒(méi)有搞懂，這次實(shí)驗(yàn)真的讓我知道了學(xué)好數(shù)學(xué)的重要性和優(yōu)越性。通過(guò)此次實(shí)驗(yàn)，我還加深了對(duì) matlab 的畫(huà)圖的理解，整個(gè)過(guò)程雖然煩，但成果出現(xiàn)時(shí)，還是有點(diǎn)小興奮的。6 附：matlab 源碼w1=0.16.8

7、3.5 2.04.13.10.8 0.95.03.9;1.17.14.1 2.72.85.01.3 1.26.44 .0 ;5.1 1.9;%分別產(chǎn)生第一類(lèi)和第二類(lèi)增廣樣本向量集ww1、ww2 ww1=ones (1 , size (w1,2) );w1 ; ww2=ones (1 , size (w2,2) );w2 ;%產(chǎn)生第一類(lèi)和第二類(lèi)樣本向量的規(guī)范化增廣樣本向量集w12 w12=ww1,ww2 ;y=zeros (1 , size (w12 ,2 ); % 產(chǎn)生1x20的行向量，賦給y，初值全為0 a =1;1;1;%給權(quán)向量a賦初值 k=0;figure (1) while any(

8、y<=0) for i =1:size (y ,2) y( i)=a *w12(: , i ); end a=a+0.1*(sum(w12(: , find (y<=0) ) ; a=a/sqrt(sum(a .2); k=k+1; a=a*k ;m=0,a (2 ) ; n=0,a ( 3) ;plot(m,n ); hold on enda%顯示最終求得的權(quán)向量a的值 k%迭代次數(shù)值plot(w1(1 ,:) ,w1(2 ,:) , r+ ); hold on plot(w2(1 ,:) ,w2(2 ,:) , * ); xmin=min(min(w1(1 ,:) ,min(w2(1 ,:); xmax=max(max(w1(1 ,:) ,max(w2(1 ,:); ymin=min(min(w1(2 ,:) ,min(w2(2 ,:); ymax=max(max(w1(2 ,:) ,max(w2(2 ,:); xindex=xmin1:(xmaxxmin)