系統(tǒng)聚類分析

聚類分析聚類分析是研究“物以類聚”的一種多元統(tǒng)計(jì)方法。國內(nèi)有人稱它為群分析、點(diǎn)群分析、簇群分析等。聚類分析的基本概念聚類分析是研究對(duì)樣品或指標(biāo)進(jìn)行分類的一種多元統(tǒng)計(jì)方法，是依據(jù)研究對(duì)象的個(gè)體的特征進(jìn)行分類的方法。它把分類對(duì)象按一定規(guī)則分成若干類，這些類非事先給定的，而是根據(jù)數(shù)據(jù)特征確定的。在同一類中這些對(duì)象在某種意義上趨向于彼此相似，而在不同類中趨向于不相似。它職能是建立一種能按照樣品或變量的相似程度進(jìn)行分類的方法。聚類分析的基本思想是認(rèn)為我們所研究的樣本或指標(biāo)（變量）之間存在著程度不同的相似性（親疏關(guān)系）。于是根據(jù)一批樣本的多個(gè)觀測(cè)指標(biāo)，具體找出一些彼此之間相似程度較大的樣本（或指標(biāo)）聚合為一類，把另外一些彼此之間相似程度較大的樣本（或指標(biāo)）又聚合為另一類，關(guān)系密切的聚合到一個(gè)小的分類單位，關(guān)系疏遠(yuǎn)的聚合到一個(gè)大的分類單位，直到把所有樣本（或指標(biāo)）都聚合完畢，把不同的類型一一劃分出來，形成一個(gè)由小到大的分類系統(tǒng)。最后把整個(gè)分類系統(tǒng)畫成一張譜系圖，用它把所有樣本（或指標(biāo)）間的親疏關(guān)系表示出來。這種方法是最常用的、最基本的一種，稱為系統(tǒng)聚類分析。聚類分析有兩種：一種是對(duì)樣本的分類，稱為Q型，另一種是對(duì)變量（指標(biāo)）的分類，稱為R型。聚類分析給人們提供了豐富多彩的方法進(jìn)行分類，這些方法大致可以歸納為：（1）系統(tǒng)聚類法。首先將n個(gè)也樣品看成n類（一個(gè)類包含一個(gè)樣品），然后將性質(zhì)最接近的兩類合并成一個(gè)新類，我們得到n-1類，再從中找出最接近的兩類加以合并成了n-2類，如此下去，最后所有的樣品均在一類，將上述并類過程畫成一張圖（稱為聚類圖）便可決定分多少類，每類各有什么樣品。（2）模糊聚類法。將模糊數(shù)學(xué)的思想觀點(diǎn)用到聚類分析中產(chǎn)生的方法。該方法多用于定型變量的分類。（3）K—均值法。K—均值法是一種非譜系聚類法，它是把樣品聚集成k個(gè)類的集合。類的個(gè)數(shù)k可以預(yù)先給定或者在聚類過程中確定。該方法可用于比系

統(tǒng)聚類法大得多的數(shù)據(jù)組。系統(tǒng)聚類分析一、距離和相似系數(shù)為了對(duì)樣品進(jìn)行分類，需要研究樣品之間的關(guān)系，而目前用得最多的方法是：相似系數(shù)：根據(jù)相似系數(shù)把相似的樣品歸為一類，不怎么相似的系數(shù)歸為不同的類。性質(zhì)接近的樣品，它們相似系數(shù)的絕對(duì)值越接近于1，而彼此五官的樣品，它們的相似系數(shù)接近于0。空間距離：將所有的樣本（有P項(xiàng)指標(biāo)表示）看作P維空間中的點(diǎn)，距離越接近的點(diǎn)歸為一類，距離較遠(yuǎn)的點(diǎn)歸為不同的類。由于指標(biāo)數(shù)據(jù)表示不同的度量，有的是表示數(shù)量的定量數(shù)據(jù)，有的是表示排序的順序數(shù)據(jù)，而有的是表示類別的定性數(shù)據(jù)。這里討論定量數(shù)據(jù)的距離和相似系數(shù)。1.距離每個(gè)樣本有p個(gè)指標(biāo)，因此每個(gè)樣本可以看成p維空間中的一個(gè)點(diǎn)，n個(gè)樣本就組成p維空間中的n個(gè)點(diǎn)，這時(shí)很自然想到用距離來度量n個(gè)樣本間的接近程度。用』,表示第i個(gè)樣本與第j個(gè)樣本之間的距離。一切距離應(yīng)滿足以下條件：d>0對(duì)于一切i，j氣=0等價(jià)于樣品i和樣品j的指標(biāo)相同d=d對(duì)于一切i，jdj<d+d對(duì)于一切i，j，k常見的距離有：絕對(duì)值距離：d=pxt=1it-Xjt歐式距離：d=(x-xJ2itjt*t=1

平方歐式距離：d=^(x^-xyt=1切比雪夫距離：d=絕對(duì)值距離：d=pxt=1it-Xjtitjtt明考斯基距離：d=當(dāng)q=1,2時(shí)，為絕對(duì)值、歐式距離；若趨近無窮時(shí)，則為切比雪夫距離明氏距離在實(shí)際的運(yùn)用很多，但有一些缺點(diǎn)。例如觀測(cè)值的單位問題；指標(biāo)間的相關(guān)問題，因此改進(jìn)得到以下兩種距離：蘭氏距離：d(L)=—$—it」ijp1(xt+x,)馬氏距離：d,(M)=(X(.)-X(.ys-1(X(.)-X(.))以上都是樣本間距離的定義。2.相似系數(shù)(1)相似系數(shù)設(shè)x=(x,x,…，xJ和x=(x,x，…,x)是第i和j個(gè)樣品的觀測(cè)值，則ii1i2ipjj1j2jp二者之間的相似系數(shù)為：C=ij$(x-x)(x-x)C=ijk=1[$(x-x)2][$(x-x)2]k=1k=1(2)夾角余弦夾角余弦時(shí)從向量集合的角度所定義的一種測(cè)度變量之間親疏程度的相似系數(shù)。設(shè)在n維空間的向量x=(x,x,?..,x)，x=(x,x，…,xJi1i21nij1j2jnj

乙，kikjd2—1-C2ijijc—cosa=k=1ijijiZXd2—1-C2ijij\lkikj\k=1k=1二、系統(tǒng)聚類法基本步驟選擇樣本間距離的定義及類間距離的定義；計(jì)算n個(gè)樣本兩兩之間的距離，得到距離矩陣；構(gòu)造個(gè)類，每類只含有一個(gè)樣本；合并符合類間距離定義要求的兩類為一個(gè)新類；計(jì)算新類與當(dāng)前各類的距離。若類的個(gè)數(shù)為1，則轉(zhuǎn)到步驟6,否則回到步驟4；畫出聚類圖；決定類的個(gè)數(shù)和類。三、系統(tǒng)聚類分析的方法系統(tǒng)聚類法的聚類原則決定于樣品間的距離以及類間距離的定義，類間距離的不同定義就產(chǎn)生了不同的系統(tǒng)聚類分析方法。以下用』〃表示樣品X①和X①之間的距離，當(dāng)樣品間的親疏關(guān)系采用相似系數(shù)C時(shí)，令dj=1-Cj以下用D(p,q)表示類Gp和Gq之間的距離。最短距離法定義距離：D=Minb..：xGG，xGG}pqiipjq等于Gp和Gq最為鄰近的兩個(gè)樣品之間的距離最長距離法定義距離：d=Max^d:xgG，xgG}pqijipjq等于Gp和Gq最遠(yuǎn)的兩個(gè)樣品之間的距離3.重心法定義距離：D2/q)=d2XXcXX等于Gp和Gq兩個(gè)重心之間的距離4.類平均法定義距離：氣等于Gp和Gq中任意兩個(gè)樣品距離的平均5.離差平方和法用Dp和Dq分別表示Gp和Gq的直徑，用Dp+，表