模糊K均值算法及其matlab實(shí)現(xiàn)

1、模糊K-均值算法及其matlab實(shí)現(xiàn)模糊K-均值算法由K-均值算法派生而來(lái)。K-均值算法在聚類過(guò)程中，每次得到的結(jié)果雖然不一定是預(yù)期的結(jié)果，但類別之間的邊界是明確的，聚類中心根據(jù)各類當(dāng)前具有的樣本進(jìn)行修改。模糊K-均值算法在聚類過(guò)程中，每次得到的類別邊界仍是模糊的，每類聚類中心的修改都需要用到所有樣本，此外聚類準(zhǔn)則也體現(xiàn)了模糊性。模糊K-均值算法聚類的結(jié)果仍是模糊集合，但是如果實(shí)際問(wèn)題希望有一個(gè)明確的界限,也可以對(duì)結(jié)果進(jìn)行去模糊化，通過(guò)一定的規(guī)則將模糊聚類轉(zhuǎn)化為確定性分類。模糊K-均值算法基本思想是首先設(shè)定一些類及每個(gè)樣本對(duì)各類的隸屬度；然后通過(guò)迭代，不斷調(diào)整隸屬度至收斂。收斂條件是隸屬度的變

2、化量小于規(guī)定的閾值。具體步驟如下：確定模式類數(shù)K，1KN，N為樣本個(gè)數(shù)。根據(jù)先驗(yàn)知識(shí)確定樣本從屬于各類的隸屬度，建立初始隸屬度矩陣U，其中i為類別編號(hào)、矩陣的行號(hào)，j為樣本編號(hào)、矩陣的列號(hào)。表示第j個(gè)元素對(duì)第i個(gè)類的隸屬度。對(duì)隸屬度矩陣的第j列而言，它表示第j個(gè)元素分別對(duì)各模式類的隸屬度，因此矩陣的每列元素之和為1。求各類的聚類中心ZL為迭代次數(shù)。imxZ淬i1,2,，K;m2mij式中，參數(shù)m2，是一個(gè)控制聚類結(jié)果模糊程度的參數(shù)?？梢钥闯龈骶垲愔行牡挠?jì)算必須用到全部的N個(gè)樣本，這是與一般(非模糊)K-均值算法的區(qū)別之一。在一般(非模糊)K-均值算法中，某一類的聚類中心僅由該類樣本決定，不涉及

3、其他類。計(jì)算新的隸屬度矩陣U(L+1)，矩陣元素計(jì)算如下：1，i1,2,K,j1,2,N,m2ijKd(-j)2囑d式中，d是第L次迭代完成時(shí)，第j個(gè)樣本到第i類聚類中心Z勺距離。為避免分母為iji零，特別的若d0，則1Vh1,H1oiijijpj可見(jiàn)，d越大，1越小。ijij回到(3)求聚類中心，重復(fù)至收斂。收斂條件：max1，其中為規(guī)定的參數(shù)。jiji,j當(dāng)算法收斂時(shí)，就得到了各類的聚類中心以及表示個(gè)樣本對(duì)各類隸屬程度的隸屬度矩陣，模糊聚類到此結(jié)束。這時(shí)，準(zhǔn)則函數(shù)JKN(L1)m|XZ|2ijjiij達(dá)到最小。根據(jù)隸屬度矩陣D(L+1)進(jìn)行聚類，按照隸屬原則進(jìn)行劃分，即若lmaxlVfao

4、,j12,Nj1pKPp則X類。ji例設(shè)有4個(gè)二維樣本，分別是Xo,X舉1,X，,X嚶21234去參數(shù)m2,利用模糊K-均值算法把它們聚為兩類。解：(1)根據(jù)要求N=4，K=2。(2)根據(jù)先驗(yàn)知識(shí)確定初始隸屬度矩陣X10.9U0.1X20.80.2X30.70.3X40.10.9討2為一類，X為一類1234計(jì)算聚類中心ZZ取m=2，有12由U(0)可知，傾向于X，X，XS卜；卜洋02；BS.59S0.120.222Zf%20120.220.320.92S184計(jì)算新的隸屬度矩陣U(1)。取m=2，分別計(jì)算，以X為例有ij3d2(30.77)2,(10.59)5.14130.920.820.72

5、0.1202d2(384)2,(1-1.84)20.7323113d2d21313d2d2132323d2d22323d2d21323空辺25.140.73(0.73.0.73)0.88(5.140.73)類似地，可得到U(1)中其它元素，有.).920.920.120.011ij(1)0.080.080.880.99若滿足收斂條件max，則迭代結(jié)束，否則返回(3)計(jì)算聚類中心。i,jijij假設(shè)此時(shí)滿足收斂條件，迭代結(jié)束，則根據(jù)51)進(jìn)行聚類。(1)(1)，(1)(1)，X,X112112221121(1)(1)，(1)(1)，X,X231324143242Matlab代碼實(shí)現(xiàn)如下：func

6、tiony=fuzzy_Kmeans(X,k,m,U,e)k=2;%自定義k個(gè)類中心數(shù)X=00;01;31;32;%樣本測(cè)試數(shù)U=0.90.80.70.1;0.10.20.30.9;%隸屬度初始值%loadfisheriris;X=meas;M,N=size(X);U=1/k*ones(k,M);U(1,1)=U(1,1)-0.1;U(k,1)=U(k,1)+0.1;%Iris據(jù)集,目的是讓U的值不全為1/k%初始化m=2;%控制模糊程度的參數(shù)e=0.0001;%達(dá)到收斂時(shí)最小誤差UL=membership(U,X,m);%求隸屬度err=abs(UL-U);%誤差while(max(err(

7、1,:)e)%收斂條件沒(méi)達(dá)到要求，則繼續(xù)迭代temp=UL;%保存先前的隸屬度UL=membership(UL,X,m);%更新隸屬度err=abs(UL-temp);%更新誤差endUL%輸出最終的隸屬度矩陣%通過(guò)最終所獲得的隸屬度矩陣，判斷樣本所屬類別class=cell(k,1);%初始化類樣本classfori=1:size(X,1);MAX,index=max(UL(:,i);classindex=cat(1,classindex,i);endcelldisp(class);%顯示Kmeans聚類結(jié)果%子函數(shù)部分functiony=membership(U0,X,m)%U0初始隸屬度

8、矩陣，X為需聚類樣本，m為控制聚類結(jié)果的模糊程度，y為返回的新的隸屬度classNum=size(U0,1);%求出類別數(shù)fori=1:classNumUO(i,:)=UO(i,:).F;%隸屬度各值平方endZ=zeros(classNum,size(X,2);%聚類中心初始化fori=1:classNumforj=1:size(X,1)Z(i,:)=Z(i,:)+U0(i,j)*X(j,:);endZ(i,:)=Z(i,:)/sum(U0(i,:);%計(jì)算聚類中心endfori=1:size(X,1)forj=1:size(Z,1)d(i,j)=dist(X(i,:),Z(j,:)F(2/(m-l);%求距離end