多元統(tǒng)計分析-喀什師范學院筆記-第八章-因子分析PPT優(yōu)秀課件

1、1l【教學目的】通過本章教學應使學生了【教學目的】通過本章教學應使學生了解因子分析模型，理解因子載荷陣的統(tǒng)解因子分析模型，理解因子載荷陣的統(tǒng)計意義，了解方差旋轉(zhuǎn)的作用，掌握用計意義，了解方差旋轉(zhuǎn)的作用，掌握用因子分析模型分析研究實際問題的能力。因子分析模型分析研究實際問題的能力。 【教學重點】本章重點是要使學生了解【教學重點】本章重點是要使學生了解因子模型及因子載荷陣的統(tǒng)計意義，掌因子模型及因子載荷陣的統(tǒng)計意義，掌握因子分析的方法。握因子分析的方法。 2l因子分析是主成分分析的推廣和發(fā)展，它也是從研究相關矩陣內(nèi)部的依賴關系出發(fā)，把一些具有錯綜復雜關系的變量歸結為少數(shù)幾個綜合因子的一種多變量統(tǒng)計

2、分析方法。它是多元分析中一種降維和分析、簡化數(shù)據(jù)結構的方法。 3l根據(jù)相關性大小把變量分組，使得同組內(nèi)的變量間相關關系強，不同組的變量間相關性較低，每組變量代表一個基本結構，這個基本結構稱為公共因子，可用最少個數(shù)的不可測的所謂公共因子的線性函數(shù)與特殊因子之和來描述原來觀測的每一變量。l因子分析的前提是觀測變量間有較強的相關性。 4lQ型因子分析（對樣品作因子分析）型因子分析（對樣品作因子分析）lX1=a11 F1+a12 F2+a1m Fm+1lX2=a21 F1+a22 F2+a2m Fm+2l.lXn=an1 F1+an2 F2+anm Fm+nlx1,x2.xn表示表示n個樣品；個樣品；

3、5R型因子分析型因子分析(對變量作因子分析對變量作因子分析)lX1=a11 F1+a12 F2+a1m Fm+1lX2=a21 F1+a22 F2+a2m Fm+2l.lXp=ap1 F1+ap2 F2+apm Fm+p X1,x2.xp表示表示p個指標。個指標。 6l1 mp；l2模型為線性模型;l3特殊因子之間是相互獨立的;l4公因子與特殊因子之間是相互獨立的;l5各公因子都是均值為0，方差為1的獨立正態(tài)隨機變量。其協(xié)方差矩陣為單位矩陣。7l因子的含義因子的含義因子分析法中提到兩種因子：公共因子和特殊因子。這兩種因子都是指一個（或一組）假設的抽象的變量。 8l公共因子F1,F2.Fm，指一

4、組假設的抽象的潛在變量，在各個原觀測變量的表達式中都共同出現(xiàn)的因子,是相互獨立的不可觀測的理論變量,可以理解為它們是在高維空間中互相垂直的m個坐標軸。 9l特殊因子,則指一個假設的抽象的變量，它只能用來解釋一個原始的變量，與其它變量完全無關,各特殊因子之間以及特殊因子與所有公共因子之間都是互相獨立的。它表示變量X不能被公共因子解釋的部分。 10l模型中各公共因子的系數(shù)aij稱為因子載荷，是連接觀測變量和公共因子之間的紐帶，其統(tǒng)計意義就是第i個變量與第j個公共因子的相關系數(shù)，即表示變量xi依賴公共因子Fj的分量，反映了第i個變量在第j個公共因子上的相對重要性。|aij|1，aij的絕對值越大，表

5、明xi與Fj的相依程度越大。11l因子載荷矩陣中第i行元素的平方和，稱為變量xi的共同度。它反映全部公共因子對變量xi的影響，是全部公共因子對變量xi的方差所做的貢獻。此值越接近1，表明該變量的幾乎全部原始信息都被所選擇的公共因子說明了。此值接近于0，說明公共因子對xi的影響很小，主要由特殊因子來描述。這個指標以觀測變量為中心，它的意義在于說明如果用公共因子代替原變量后，原來每個變量的信息被保留的程度。例如，此值等于0.9548，說明公共因子提取了原變量95.48%的信息。12 因子載荷矩陣中各列元素的平方和，叫做公共因子Fj對x的貢獻，它反映每個公共因子對數(shù)據(jù)的解釋能力，是衡量公共因子相對重

6、要性的指標。此值越大，表明公共因子Fj對x的影響和作用越大，計算出所有的指標，按其大小排序，就可以提煉出最有影響的公共因子。 13 1 模型不受量綱的影響; 2 因子載荷是不唯一的，這種不唯一性從表面上看是不利的，但通過因子的變換（即因子軸的旋轉(zhuǎn)），可使新的因子更具有鮮明的實際意義。 14l建立因子模型的關鍵是要求出因子載荷矩陣，估計因子載荷矩陣的方法很多，有主成分法，極大似然法等，其中主成分法的使用較普遍。l計算因子載荷陣可以從樣本的協(xié)方差陣出發(fā)，也可以從樣本相關陣出發(fā)。 l公共因子與變量個數(shù)一樣多，且特殊因子方差為0時，因子載荷陣的第j列應該是ej與相應特征值平方根的乘積，而ej恰是第j個

7、主成分的系數(shù)，故而得名主成分法。 15l在因子分析模型中,公共因子與因子載荷陣的解不是唯一的。因子分析的目的不僅是找出主因子，更重要的是知道每個主因子的意義，以利于對公共因子命名和解釋結果，若每個公共因子的涵義不清，難以找到合理的解釋，可對因子載荷矩陣實行旋轉(zhuǎn)，使每個變量僅在一個公共因子上有較大的載荷，而在其他公共因子上的載荷較小。 16l求得初始因子模型后，一般來說，載荷矩陣的結構比較復雜，倘若能進一步簡化，用公因子來線性表達標準化指標時就更容易作出有實際意義的解釋，即使得矩陣中各列元素向0和1兩極分化，但保持同一行中各元素平方和（各指標的公因子方差）不變，實現(xiàn)這一目的的變換方法叫因子軸的旋

8、轉(zhuǎn)。經(jīng)常使用方差最大正交旋轉(zhuǎn)，使得容易對公共因子命名和解釋。17l目前還沒有一個準則能幫助使用者選定一種特定的旋轉(zhuǎn)技術，沒有可以另人信服的理由能夠說某種旋轉(zhuǎn)方法優(yōu)于其他的方法。因此，旋轉(zhuǎn)方法的選擇主要是根據(jù)研究問題的需要。因為現(xiàn)實中很少有完全不相關的變量，所以，理論上斜交旋轉(zhuǎn)優(yōu)于正交旋轉(zhuǎn)，但斜交旋轉(zhuǎn)中因子間的斜交程度受使用者定義的參數(shù)的影響，而且斜交旋轉(zhuǎn)中所允許的因子間的相關程度是很小的，因為沒有人會接受兩個高度相關的公因子，致使斜交旋轉(zhuǎn)優(yōu)越性大打折扣，正交旋轉(zhuǎn)應用更廣泛。最常用的是方差最大正交旋轉(zhuǎn)，它是系統(tǒng)的默認值。 18l無論是初始因子模型還是旋轉(zhuǎn)后的因子模型，都是將指標表示為公因子的線性

9、組合。l在因子分析中，還可以將公因子表示為指標的線性組合，此組合被稱為因子得分函數(shù)，這樣就可以從指標的觀測值估計各個公因子的值，這種值叫做因子得分。l由于因子得分函數(shù)中方程的個數(shù)小于變量的個數(shù)，因此不能精確的計算出因子得分，只能對因子得分進行估計。估計的方法很多，有加權最小二乘法，回歸法等，常用的是湯姆森回歸法。19l計算出因子得分，可將因子得分作為變量來用，進行其他的分析。 l用因子得分還可以計算因子總分，l因子總分因子總分F= Fj * Fj的方差貢獻率的方差貢獻率 根據(jù)因子總分F可對樣品（變量）進行排序或歸類，作為評價的依據(jù)。 20l求出因子模型和因子得分函數(shù)中的全部系數(shù)，利用旋轉(zhuǎn)后的因

10、子模型并結合具體問題給公因子以恰當?shù)慕忉?，利用因子得分函?shù)樣品的因子得分，對樣品進行分類或排序。 21l1 將原始數(shù)據(jù)標準化；l2建立變量或樣品的相關（似）系數(shù)陣R（Q）；l3 求R（Q）的特征值及相應的單位特征向量，根據(jù)累計貢獻率的要求取前m個特征值及相應的特征向量，寫出因子載荷矩陣；l4 對因子載荷矩陣施行方差最大正交旋轉(zhuǎn)； 5 計算因子得分，然后將它們用于各種進一步的分析中。 22l區(qū)別：區(qū)別：主成分分析只是一般的變量變換，主成分是可觀測的原始變量的線性組合，功能在于簡化原有的變量群；因子分析則構造一個因子模型，公因子一般不能表示成原始變量的線性組合，因子的功能在于詮釋原始變量之間的關系

11、或結構。l主成分分析中每個主成分的系數(shù)是唯一確定的；因子分析中因子載荷矩陣不是唯一的。 23l聯(lián)系：聯(lián)系：因子分析數(shù)學模型的特殊因子方差為0的時候，就形成特殊形式的因子分析，即主成分分析。兩種方法均可在SPSS FOR WINDOWS的因子分析過程FACTOR中實現(xiàn)，但用FACTOR過程實現(xiàn)主成分分析時，產(chǎn)生的因子載荷矩陣表，不能直接依據(jù)表的數(shù)據(jù)，寫出各主成分與原變量的線性組合，需對各主成分上的載荷值分別除以相應主成分的特征值的平方根。 24l1 因子分析在因子分析在SPSS中的實現(xiàn)中的實現(xiàn)l在SPSS主菜單中選擇AnalyzeData ReductionFactor，可實現(xiàn)因子分析。l2主成

12、分分析在主成分分析在SAS中的實現(xiàn)中的實現(xiàn)l在SAS/ASSIST模塊中沒有現(xiàn)成的菜單操作，須通過編程來實現(xiàn)因子分析。SAS/STAT模塊中的Factor過程可實現(xiàn)因子分析。 25l因子分析的前提是觀測變量間應該有較強的相關關系，如果變量間的相關程度小，它們不可能共享公因子，所以計算出相關矩陣后，可先對其進行檢驗，如果其中大部分相關系數(shù)都小于0.3，則不適合做因子分析。 26lSPSS軟件中提供了三個統(tǒng)計量幫助判斷數(shù)據(jù)是否適合作因子分析：l1 反映象相關矩陣（反映象相關矩陣（Anti-image correlation matrix）l此矩陣中元素等于負的偏相關系數(shù)。偏相關是控制其他變量不變，

13、一個自變量對因變量的獨特解釋作用。如果有公因子存在，則變量之間的偏相關系數(shù)應該很小，因為它與其他變量重疊的解釋影響被扣除掉了。若反映象相關矩陣中很多元素的值比較大的話（對角線上的元素除外），可能該數(shù)據(jù)不適合做因子分析。27l2 KMO測度測度l包括整個樣本的和每個變量的，是對與普通相關相聯(lián)系的偏相關小到何種程度的概括，它從比較觀測變量之間的簡單相關系數(shù)和偏相關系數(shù)相對大小出發(fā)，其值變化范圍從0到1。當偏相關系數(shù)平方和遠小于簡單相關系數(shù)平方和時，KMO接近于1；KMO較小時，則表明不適合做因子分析。KMO0.5，不能接受。 28l3 BARTLETT檢驗檢驗 lH0：相關矩陣為單位陣，是單位陣則適合做因子分析。 29特征值準則特征值準則l即取特征值大于等于1的主成分作為初始因子，放棄特征值小于1的主成分。因為每個變量的方差為1，該準則認為每個保留下來的因子至少應該能解釋一個變量的方差，否則達不到精簡目的。 30 碎石檢驗準則碎石檢驗準則l按照因子被提取的順序，畫出因子的特征值隨因子個數(shù)變化的散點圖，根據(jù)圖的形狀來判斷因子的個數(shù)。圖形由陡變平，曲線開始變平的前一個點被認為是提取的最大因子數(shù) 31累積方差貢獻率累積方差貢獻率 因子累積解釋的方差比例也是確定因子因子累積解釋的方差比例也是確定因子個數(shù)時可以參考的指標，一般應達到個數(shù)時可以參考的指標，一般應