距離與相似系數(shù)

1、 聚類分析和判別分析是兩種不同目的的分類方聚類分析和判別分析是兩種不同目的的分類方法，它們所起的作用是不同的。法，它們所起的作用是不同的。 第六章第六章 聚類分析聚類分析(Classify Analysis) 聚類分析方法是按樣品（或變量）的數(shù)據(jù)特征，聚類分析方法是按樣品（或變量）的數(shù)據(jù)特征，把相似的樣品（或變量）傾向于分在同一類中，把把相似的樣品（或變量）傾向于分在同一類中，把不相似的樣品（或變量）傾向于分在不同類中。不相似的樣品（或變量）傾向于分在不同類中。 聚類分析的研究對(duì)象是大樣本數(shù)據(jù)聚類分析的研究對(duì)象是大樣本數(shù)據(jù), , 先先找出能夠度量樣品找出能夠度量樣品( (或變量或變量) )之間

2、之間相似相似程度的程度的統(tǒng)計(jì)量。統(tǒng)計(jì)量。聚類分析的基本思想聚類分析的基本思想 以這個(gè)統(tǒng)計(jì)量作為劃分類型的依據(jù). 把一些相似程度較大的樣品(或變量)聚合為一類, 形成不同的小類, 再根據(jù)相似程度的統(tǒng)計(jì)量, 把一些相似程度較大的小類聚合為較大的類. 再把相似程度較大的類聚合成更大的, , 直到把所有樣品(或變量)都聚合為一類為止.Q 樣品間的聚類稱為型聚類 常用距離作為樣品間相似程度的度量.R 變量間的聚類稱為 型聚類 常用相似系數(shù)作為樣品間相似程度的度量設(shè)12( ,)Tpx xxx與12(,)Tpy yyy,( , )x yd x y的距離記為,滿足三性質(zhì)：3)不滿足，稱為廣義距離廣義距離。6.

3、1距離與相似系數(shù)距離與相似系數(shù)樣品間相似性的度量距離距離1. 歐氏距離歐氏距離 21(,)()pijikjkkdxx（） （）xx2. 絕對(duì)距離絕對(duì)距離 1(,)pijikjkkdxx（） （）xx11(,)pmmijikjkkdxx（） （）xx3. 明氏距離明氏距離 4.距離距離 1(,)maxijikjkkpdxx （） （）xx(Block)(Euclidean)(Minkowski)(Chebychev)5. 方差加權(quán)距離方差加權(quán)距離 221()(,)pikjkijkkxxds（） （）xx6. 馬氏距離馬氏距離 1(,)()()Tijijijd（） （）（）（）（）（）xxxxSx

4、x121212000nnnnddddDdd12=npnnppxxxxxxxxx212222111211設(shè)原始觀測(cè)數(shù)據(jù)矩陣為：(Mahalamobis)( )12(,).1,2, .Tiiiipxxxiinx是第個(gè)樣本觀測(cè)值，1,C 當(dāng)且僅當(dāng)兩變量之間為完全線性關(guān)系；| 1,C對(duì)一切的 和 成立；,CC對(duì)一切的 和 成立；用相似系數(shù)來衡量變量之間的相似程度用相似系數(shù)來衡量變量之間的相似程度,Cxx表示變量之間的相似系數(shù)，應(yīng)滿足：,Cxx越接近于1，表示變量之間的相似性越大。變量間間相近性的度量-相似系數(shù)相似系數(shù)12211()()() () niiinniiiiixxxxxxxx（1）相關(guān)系數(shù)）相

5、關(guān)系數(shù)(Pearson correlation )12,Tnxxx變量的觀測(cè)值為，x12,Tnxxx變量的觀測(cè)值為，x,變量的相關(guān)系數(shù)為：xx（2）夾角余弦）夾角余弦(Cosine) 12,Tnxxx變量的觀測(cè)值為，x12,Tnxxx變量的觀測(cè)值為，x,變量的夾角余弦定義為：xx12211niiinniiiix xcxx觀測(cè)向量在原點(diǎn)處的夾角的余弦，若變量之間的相關(guān)程度密切，則夾角接近0，其余弦接近1；反之接近0。,ijijc 表示的相似系數(shù)，得到相似系數(shù)矩陣C，x x2121211pppccccCcc121p1=說明：說明：.Spearman相似系數(shù)也可以取相關(guān)系數(shù)相似系數(shù)可以用來度量樣品間的相似性.距離也可以用來度量變量間的相似性.距離和相似系數(shù)可以相互轉(zhuǎn)化.npnnppxxxxxxxxx212222111211設(shè)原始觀測(cè)數(shù)據(jù)矩陣為：.