第五章 聚類分析

第五章6 5、聚類預(yù)報(bào)法。是利用聚類方法處理預(yù)報(bào)問題的方法。主要應(yīng)用于處理一些出現(xiàn)異常（二）按照分析對(duì)象不同，可以分為QRQR型聚類R型聚類的結(jié)果，可以選擇最佳的變量組合進(jìn)行回歸分析或者Qr2。rr2 kr2k為該類中變量的r2x作為該類的典型變量。X

x1p x2p

xn

xnp則

xijx

i

j1,21其 x

j1,2

x

min max

i j1,20，1之間。xxijx

i

j1,21其 x

j1,2 1 n

ijx

21

xiji j1,2pnp個(gè)變量，故每個(gè)樣品都可以行分類時(shí)，通常采用距離來表示樣品之間的親疏程度。因此需定義樣品之間的距離，即第jdij①dij

對(duì)于一切i,j②dij

當(dāng)且僅當(dāng)ij③

d

對(duì)于一切i,④dijdik

對(duì)于一切i,j第ij qdijqxikx qq1

dij1xikxjk

q2dij

xikx

qdijmaxxikx1k

i,j由明氏距離公式可知，當(dāng)各變量的單位不同或雖單位相同但各變量的測(cè)量值相差很大的數(shù)據(jù)計(jì)算距離。

0時(shí)，可以定義第ijxikxikx

ikxi,j馬氏距離第ijd2

XXS1XX XX分別為第ijp個(gè)指標(biāo)所組成的向量， nn1k

x

xj

i,j1,2,距離，第i個(gè)樣品與第j個(gè)樣品之間的斜交空間距離定義為，1

p d

m2xikxjkxilxjlrkl k1l rklxkxl3設(shè)Cijxiyi之間的相似系數(shù)，則Cij

1xiaxjC

對(duì)一切i,j成立對(duì)一切i,j成立

1xiyi

xiyi之間關(guān)系越疏遠(yuǎn)。聚類時(shí)，關(guān)系密切的變量應(yīng)歸于一類，反之關(guān)系疏遠(yuǎn)的變pxixj的夾角為ijcos

xki k 2 2xkixkjk k 它是ij兩個(gè)指標(biāo)向量在原點(diǎn)處的夾角的余弦，當(dāng)i=j時(shí)，夾角為0，故夾角余rijxixj

x

xj

k n

2n

2k

k

x 當(dāng)i=jrij=1；當(dāng)ijrij的取值在-1~1之1，表示兩變量之間的相關(guān)程度越大。S1S2Spx1x2xpxixj3xikxjk

1

k①rgk k

,xjk②rck 1k

xjkminxik,xjk③

xikxikxk

i,j第二節(jié)系統(tǒng)聚類分析(HierachicalC1usterAnalysis)是在樣品距離的基礎(chǔ)上，定義類與類之間的系統(tǒng)聚類分析的基本思想是，把np維（p個(gè)指標(biāo)）p個(gè)類和其余n2個(gè)樣品之間的距離，這樣一直持續(xù)下去，并類過程中，每一步所做的并31，8種。即最短距離法、最長(zhǎng)距離法、中間距離法、dijxixjDij表示類Gi與Gj之間距離中最近者。即類Gp與GqDpq定義為；Dpq

xiGp,xj

1、計(jì)算樣品之間的距離，得到nD0，這時(shí)每一個(gè)樣品自成Dpqdij，顯然該距離矩陣是一個(gè)對(duì)稱矩陣；2D0Dpq，則將對(duì)應(yīng)的兩個(gè)樣品Gp與Gq一個(gè)新類，記為類Gr，即

3、計(jì)算新類Gr與其他類Gk（kr）D1。其中新類Gr與其他類Gk（k

xrGr,xj

dij

dijxiGp,xj =minD,D

xiGq,xj D3……這樣一直下去，直到所有的樣品都?xì)w為一類為止。5表 515dij（采用絕對(duì)值距離5.2距離矩陣表（D02、D0D121，于是我們將G1與G2記為G6G1G2。計(jì)算新類G6

3D1D342，于是我們將G3與G4同樣計(jì)算新類G7

5.4距離矩陣表（D24D2D573，將G5與G75.5距離矩陣表（D35、最后將G6和G85個(gè)樣品分為G1G2、G3G4和G5三類；也可以把5G1G25.1相反的，類與類之間的距離定義為兩類之間所有樣品間距離最大者，即類Gp與Gq

Dpq

xiGp,xj

D0D121，于是我們將G1與G2合并成新的一類，記為G6G1G2。計(jì)算新類G6與當(dāng)前各類的距離：

3、D1D342，于是我們將G3與G4計(jì)算新類G7

5.7距離矩陣表（D24D2D575，將G5與G7計(jì)算類G8D68maxd56d765、最后將G6和G85.25.2為G1G2和G3G4G5兩類。樣品之間最遠(yuǎn)距離，而是采用介于兩者之間的中間距離，即當(dāng)類Gp與Gq GGG，任一類 DD D DipDiqDpqDpqDir，具體如圖5.3圖 具體分類過程與前面最短和最長(zhǎng)距離分類方法步驟相同，只是在定義的距離為中間距離。設(shè)Gp與Gq合并為一新類Gr

GG，它們各含有

nn x、xx

1nxnx。任一類Gx

p q 它與GrDir

D2npD2nqD2npnqD

設(shè)Gp與Gq合并為一新類

GG，它們各含有nnn

nn 樣品。任一類Gknk d2 d n riGk, dij dijnknriG, q

2 由于類平均法公式中沒有反映Gp與GqDpq的影響，所以又給出可變類平均法。此法定義兩類之間的距離同上，只是將任一類Gk與GrDir定義改為：D2np1

nq1

使分辨能力提高，一般選取此法定義兩類之間的距離同上，只是將任一類Gk與GrDirD21D2D2D 其中是可變的且1，一般選取nk類，表示為G1，G2Gkxit表示第Gt類中的第i表示類Gtxt表示Gt則Gt

i

xtkS

kS

x

xt

t1i

WardnD2表示類G與G

任一類G與新類GG,G D2ninpD2ninqD2 r nr nr式有不同的定義，所以可得到不同的遞推公式。1969年維希特提出了統(tǒng)一的公式，這為編設(shè)G與G合并為一新類

GG，任一類G與新類GG,G D2D2

D2

D2 p

q

其中系數(shù)p、q、表 pqpqpqnnrpqnnrnnpq110pq0 ninpni ninini DkkD1D2DADBDD0。如果DA0DB0D2A表示將DA的每個(gè)元素進(jìn)行平方，則DABD2AD2B則DAB0DADBABDAB0AB使空間擴(kuò)BA使空間收縮。1準(zhǔn)則B，確定的類中，各類所包含的元素都不要過分地多；準(zhǔn)則C準(zhǔn)則5.9圖 根據(jù)數(shù)據(jù)情況將全部樣品人為地憑經(jīng)驗(yàn)分成k用密度法選擇凝聚點(diǎn)。這里的密度是指以每個(gè)樣品為球心，以某個(gè)正數(shù)d作為半徑D，然后選出密度次之的樣品點(diǎn)，并且它與D，則將其作為第二凝聚點(diǎn)，否則該樣品點(diǎn)被取消。這樣，按密度4、用前k4xij表示已標(biāo)準(zhǔn)化后的第ijjMAmaxSUMMIminSUMKxiK1SUMiMIMAk，則將第i個(gè)樣品歸入到第k類中去（1kK。x1x2,xnn個(gè)樣品點(diǎn)，初始KG1,G2GKx1x2,xnn1n2nK。用lixixi與GjDijD2

x

xj

,,

iliSSjjS1S2,SK分別是類G1G2GK ilii1li

xt

,,

ilinil=D2ili1j1li ilD2silji1i1li

j3 AxAxAxA兩x=

xAx

0，則可用特征函數(shù)表述即為：x=

xAx

0Ax0.8。0、1兩值推廣到模糊集合A為模糊集合，簡(jiǎn)稱模糊集。A的程度很低。模糊集轉(zhuǎn)換為普通集的方法AX上的任一模糊集，對(duì)任意01，記（01A是一個(gè)具有游移邊界的集合，它隨值的變小而增大，即當(dāng)12,A1A2

AXA

1 0 1對(duì)于給定置信水平=0.6

A0.6=

1（1）AB＝maxAx（2）AB＝minAxAc11的矩陣。ABnppm階的模糊矩陣，則模糊矩陣乘積運(yùn)算C=A·Bnm階矩陣，其元素為： Cij=k

，

0

A=

B=

= XYX分類關(guān)系。RXXYR滿足反身性、對(duì)稱R為一分類關(guān)系。這里，R；RRX上的一個(gè)分類關(guān)系的充分必要條件是

1

（3R模糊分類關(guān)系。RX上的一個(gè)模糊分類關(guān)系的充分必要條件是對(duì)每一個(gè)當(dāng)模糊分類關(guān)系確定之后，對(duì)于給定的01，便可以相應(yīng)地得到一個(gè)普通的分R，也就是說可以決定一個(gè)水平的分類。根據(jù)一定的來確定其分類關(guān)系，進(jìn)而來實(shí)現(xiàn)分類的。例設(shè)X=x1x2x3x4x5

R

1RX （1）當(dāng)=1R1

0 0 1x1x2x3x4 （2）當(dāng)=0.8R0.8

0 0 1x1、x2,x3和x4 （3）當(dāng)=0.6R0.6

0 1 1（4）當(dāng)=0.4111 =111

1

15.13圖 動(dòng)態(tài)聚類譜系由動(dòng)態(tài)聚類譜系圖可知，選取不同的值可對(duì)樣品進(jìn)行不同的分類，得到合理的分類。1根據(jù)實(shí)際情況確定xx,xp

x1p x2p

2

xn

xnp

1r R，不一定具有傳遞性，為了獲得模糊RR2R3Rn這樣經(jīng)過有限次自乘（褶積計(jì)算）RnRRnRn。RR2R4R8R2n。=1值的降低，由細(xì)到粗逐漸合并類，最后得 Zahnpn個(gè)樣品點(diǎn)間形成的一切可能的聯(lián)接圖中，存在著一（MST（MSTMST上相互以較短的邊長(zhǎng)相聯(lián)結(jié)，而不MST上則被較長(zhǎng)的邊所分開。長(zhǎng)邊的定