主成分分析法例子.ppt

一、主成分分析的基本原理,假定有n個樣本，每個樣本共有p個變量，構(gòu)成一個np階的數(shù)據(jù)矩陣,（1）,降維處理！,當(dāng)p較大時，在p維空間中考察問題比較麻煩。 降維是用較少的幾個綜合指標(biāo)代替原來較多的變量指標(biāo)，而且使這些較少的綜合指標(biāo)既能盡量多地反映原來較多變量指標(biāo)所反映的信息，同時它們之間又是彼此獨(dú)立的。,定義：記x1，x2，xP為原變量指標(biāo)，z1，z2，zm（mp）為新變量指標(biāo),(2),系數(shù)lij的確定原則： zi與zj（ ij；i，j=1，2，m ）相互無關(guān)； z1是x1，x2，xP的一切線性組合中方差最大者，z2是與z1不相關(guān)的x1，x2，xP的所有線性組合中方差最大者； zm是與z1，z2，zm1都不相關(guān)的x1，x2，xP， 的所有線性組合中方差最大者。 則新變量指標(biāo)z1，z2，zm分別稱為原變量指標(biāo)x1，x2，xP的第一，第二，第m主成分。,從以上的分析可以看出，主成分分析的實(shí)質(zhì)就是確定原來變量xj（j=1，2 ， p）在諸主成分zi（i=1，2，m）上的載荷 lij（ i=1，2，m； j=1，2 ，p）。 從數(shù)學(xué)上可以證明，載荷lij分別是相關(guān)矩陣的m個較大的特征值所對應(yīng)的特征向量。,二、計(jì)算步驟,（一）計(jì)算相關(guān)系數(shù)矩陣 rij（i，j=1，2，p）為原變量xi與xj的相關(guān)系數(shù)， rij=rji，其計(jì)算公式為：,（3）,（4）,（二）計(jì)算特征值與特征向量： 解特征方程 ，求出特征值，并使其按大小順序排列 ；, 分別求出對應(yīng)于特征值 的特征向量 ，要求 =1，即 ，其中 表示向量 的第j個分量。, 計(jì)算主成分貢獻(xiàn)率及累計(jì)貢獻(xiàn)率 貢獻(xiàn)率:,累計(jì)貢獻(xiàn)率:,一般取累計(jì)貢獻(xiàn)率達(dá)8595%的特征值 所對應(yīng)的第一、第二、第m（mp）個主成分。,（6）,各主成分的得分,三、 主成分分析方法應(yīng)用實(shí)例,表1 某農(nóng)業(yè)生態(tài)經(jīng)濟(jì)系統(tǒng)各區(qū)域單元的有關(guān)數(shù)據(jù),步驟如下： （1）將表1中的數(shù)據(jù)作標(biāo)準(zhǔn)差標(biāo)準(zhǔn)化處理，然后將它們代入公式（4）計(jì)算相關(guān)系數(shù)矩陣（見表2）。,表2 相關(guān)系數(shù)矩陣,（2）由相關(guān)系數(shù)矩陣計(jì)算特征值，以及各個主成分的貢獻(xiàn)率與累計(jì)貢獻(xiàn)率（見表3）。由表3可知，第一，第二，第三主成分的累計(jì)貢獻(xiàn)率已高達(dá)86.596%（大于85%），故只需要求出第一、第二、第三主成分z1，z2，z3即可。,表3 特征值及主成分貢獻(xiàn)率,（3）對于特征值=4.6610，=2.0890，=1.0430分別求出其特征向量l1，l2，l3。,表4 主成分載荷,第一主成分z1與x1，x5，x6，x7，x9呈顯出較強(qiáng)的正相關(guān)，與x3呈顯出較強(qiáng)的負(fù)相關(guān)，而這幾個變量則綜合反映了生態(tài)經(jīng)濟(jì)結(jié)構(gòu)狀況，因此可以認(rèn)為第一主成分z1是生態(tài)經(jīng)濟(jì)結(jié)構(gòu)的代表。 第二主成分z2與x2，x4，x5呈顯出較強(qiáng)的正相關(guān)，與x1呈顯出較強(qiáng)的負(fù)相關(guān)，其中，除了x1為人口總數(shù)外，x2，x4，x5都反映了人均占有資源量的情況，因此可以認(rèn)為第二主成分z2代表了人均資源量。,分析：,顯然，用三個主成分z1、z2、z3代替原來9個變量（x1，x2，x9），描述農(nóng)業(yè)生態(tài)經(jīng)濟(jì)系統(tǒng)，可以使問題更進(jìn)一步簡化、明了。,第三主