多元統(tǒng)計分析課后練習答案

1、第1章 多元正態(tài)分布1、在數(shù)據(jù)處理時，為什么通常要進行標準化處理？ 數(shù)據(jù)的標準化是將數(shù)據(jù)按比例縮放，使之落入一個小的特定區(qū)間。在某些比較和評價的指標處理中經(jīng)常會用到，去除數(shù)據(jù)的單位限制，將其轉化為無量綱的純數(shù)值，便于不同單位或量級的指標能夠進行比較和加權。其中最典型的就是0-1標準化和Z標準化。2、歐氏距離與馬氏距離的優(yōu)缺點是什么？ 歐氏距離也稱歐幾里得度量、歐幾里得度量，是一個通常采用的距離定義，它是在m維空間中兩個點之間的真實距離。在二維和三維空間中的歐氏距離的就是兩點之間的距離。 缺點：就大部分統(tǒng)計問題而言，歐氏距離是不能令人滿意的。每個坐標對歐氏距離的貢獻是同等的。當坐標表示測量值時，

2、它們往往帶有大小不等的隨機波動，在這種情況下，合理的方法是對坐標加權，使變化較大的坐標比變化較小的坐標有較小的權系數(shù)，這就產(chǎn)生了各種距離。當各個分量為不同性質的量時，“距離”的大小與指標的單位有關。它將樣品的不同屬性之間的差別等同看待，這一點有時不能滿足實際要求。沒有考慮到總體變異對距離遠近的影響。 馬氏距離表示數(shù)據(jù)的協(xié)方差距離。為兩個服從同一分布并且其協(xié)方差矩陣為的隨機變量與的差異程度:如果協(xié)方差矩陣為單位矩陣,那么馬氏距離就簡化為歐氏距離,如果協(xié)方差矩陣為對角陣,則其也可稱為正規(guī)化的歐氏距離。 優(yōu)點：它不受量綱的影響，兩點之間的馬氏距離與原始數(shù)據(jù)的測量單位無關。由標準化數(shù)據(jù)和中心化數(shù)據(jù)計算

3、出的二點之間的馬氏距離相同。馬氏距離還可以排除變量之間的相關性的干擾。 缺點：夸大了變化微小的變量的作用。受協(xié)方差矩陣不穩(wěn)定的影響，馬氏距離并不總是能順利計算出。3、當變量X1和X2方向上的變差相等，且與互相獨立時，采用歐氏距離與統(tǒng)計距離是否一致？統(tǒng)計距離區(qū)別于歐式距離，此距離要依賴樣本的方差和協(xié)方差，能夠體現(xiàn)各變量在變差大小上的不同，以及優(yōu)勢存在的相關性，還要求距離與各變量所用的單位無關。如果各變量之間相互獨立,即觀測變量的協(xié)方差矩陣是對角矩陣, 則馬氏距離就退化為用各個觀測指標的標準差的倒數(shù)作為權數(shù)的加權歐氏距離。4、如果正態(tài)隨機向量的協(xié)方差陣S為對角陣，證明X的分量是相互獨立的隨機變量。

4、解： 因為的密度函數(shù)為又由于則則其分量是相互獨立。5. 和是相互獨立的隨機變量，且，。（a） 求的分布。（b） 如果，寫出關于與的表達式，并寫出的分布。（c） 如果且，寫出關于與的表達式，并寫出的分布。解：（a）由于，所以。 （b）由于，； 所以； 故，且第2章 均值向量和協(xié)方差陣的檢驗1、 略2、試談Wilks統(tǒng)計量在多元方差分析中的重要意義。3、題目此略多元均值檢驗,從題意知道，容量為9的樣本 ，總體協(xié)方差未知 假設H0： ， H1： (n=9 p=5)檢驗統(tǒng)計量/(n-1)服從P，n-1的分布統(tǒng)計量實際上是樣本均值與已知總體均值之間的馬氏距離再乘以n*（n-1）,這個值越大，相等的可能性

5、越小，備擇假設成立時，有變大的趨勢，所以拒絕域選擇值較大的右側部分，也可以轉變?yōu)镕統(tǒng)計量零假設的拒絕區(qū)域 （n-p）/(n-1)*p* 1/10* F5,4(5)0=（ 6212.01 32.87 2972 9.515.78）樣本均值（4208.7835.121965.8912.2127.79）（樣本均值-0）=(-2003.23 2.25 -1006.11 2.71 12.01)協(xié)方差矩陣(降維因子分析抽取)Inter-Item Covariance Matrix人均GDP(元）三產(chǎn)比重（%）人均消費(元）人口增長(%)文盲半文盲（%)人均GDP(元）1020190.840582.46033

6、1693.531-599.784-6356.325三產(chǎn)比重（%）582.46019.480-105.4646.62543.697人均消費(元）331693.531-105.464125364.321-213.634-3130.038人口增長(%)-599.7846.625-213.6346.09925.410文盲半文盲（%)-6356.32543.697-3130.03825.410196.884協(xié)方差的逆矩陣1.88034E-05-0.000440368-6.09781E-050.00279921-0.000625893-0.000440370.207023949-0.000210374-0

7、.0237044-0.06044981-6.0978E-05-0.0002103740.00022733-0.01050190.0030474740.002799208-0.023704352-0.0105018810.85288927-0.18139981-0.00062589-0.060449810.003047474-0.18139980.070148804計算：邊遠及少數(shù)民族聚居區(qū)社會經(jīng)濟發(fā)展水平的指標數(shù)據(jù).xls=9* (-2003.23 2.25 -1006.11 2.71 12.01)*s-1* (-2003.23 2.25 -1006.11 2.71 12.01)=9*50.1

8、1793817=451,06144353F統(tǒng)計量=45.26.2 拒絕零假設，邊緣及少數(shù)民族聚居區(qū)的社會經(jīng)濟發(fā)展水平與全國平均水平有顯著差異。4、略第3章 聚類分析1.、聚類分析的基本思想和功能是什么？ 聚類分析的基本思想是研究的樣品或指標之間存著程度不同的相似性，于是根據(jù)一批樣品的多個觀測指標，具體找出一些能夠度量樣品或指標之間的相似程度的統(tǒng)計量，以這些統(tǒng)計量作為劃分類型的依據(jù)，把一些相似程度較大的樣品聚合為一類，把另外一些彼此之間相似程度較大的樣品又聚合為另外一類，直到把所有的樣品聚合完畢，形成一個有小到大的分類系統(tǒng)，最后再把整個分類系統(tǒng)畫成一張分群圖，用它把所有樣品間的親疏關系表示出來。

9、功能是把相似的研究對象歸類。2、試述系統(tǒng)聚類法的原理和具體步驟。系統(tǒng)聚類是將每個樣品分成若干類的方法，其基本思想是先將各個樣品各看成一類，然后規(guī)定類與類之間的距離，選擇距離最小的一對合并成新的一類，計算新類與其他類之間的距離，再將距離最近的兩類合并，這樣每次減少一類，直至所有的樣品合為一類為止。具體步驟：1、對數(shù)據(jù)進行變換處理；（不是必須的，當數(shù)量級相差很大或指標變量具有不同單位時是必要的） 2、構造n個類，每個類只包含一個樣本；3、計算n個樣本兩兩間的距離ijd；4、合并距離最近的兩類為一新類； 5、計算新類與當前各類的距離，若類的個數(shù)等于1，轉到6；否則回4； 6、畫聚類圖； 7、決定類的

10、個數(shù)，從而得出分類結果。3、試述K-均值聚類的方法原理。K-均值法是一種非譜系聚類法，把每個樣品聚集到其最近形心（均值）類中，它是把樣品聚集成K個類的集合，類的個數(shù)k可以預先給定或者在聚類過程中確定，該方法應用于比系統(tǒng)聚類法大得多的數(shù)據(jù)組。步驟是把樣品分為K個初始類，進行修改，逐個分派樣品到期最近均值的類中（通常采用標準化數(shù)據(jù)或非標準化數(shù)據(jù)計算歐氏距離）重新計算接受新樣品的類和失去樣品的類的形心。重復這一步直到各類無元素進出。4、試述模糊聚類的思想方法。模糊聚類分析是根據(jù)客觀事物間的特征、親疏程度、相似性，通過建立模糊相似關系對客觀事物進行聚類的分析方法，實質是根據(jù)研究對象本身的屬性構造模糊矩

11、陣，在此基礎上根據(jù)一定的隸屬度來確定其分類關系?；舅枷胧且研枰R別的事物與模板進行模糊比較，從而得到所屬的類別。簡單地說，模糊聚類事先不知道具體的分類類別，而模糊識別是在已知分類的情況下進行的。模糊聚類分析廣泛應用在氣象預報、地質、農(nóng)業(yè)、林業(yè)等方面。它有兩種基本方法:系統(tǒng)聚類法和逐步聚類法。該方法多用于定性變量的分類。5、略第4章 判別分析1、應用判別分析應該具備什么樣的條件？答：判別分析最基本的要求是，分組類型在兩組以上，每組案例的規(guī)模必須至少在一個以上，解釋變量必須是可測量的，才能夠計算其平均值和方差。 對于判別分析有三個假設：（1）每一個判別變量不能是其他判別變量的線性組合。有時一個

12、判別變量與另外的判別變量高度相關，或與其的線性組合高度相關，也就是多重共線性。（2）各組變量的協(xié)方差矩陣相等。判別分析最簡單和最常用的的形式是采用現(xiàn)行判別函數(shù)，他們是判別變量的簡單線性組合，在各組協(xié)方差矩陣相等的假設條件下，可以使用很簡單的公式來計算判別函數(shù)和進行顯著性檢驗。（3）各判別變量之間具有多元正態(tài)分布，即每個變量對于所有其他變量的固定值有正態(tài)分布，在這種條件下可以精確計算顯著性檢驗值和分組歸屬的概率。2、試述貝葉斯判別法的思路。答：貝葉斯判別法的思路是先假定對研究的對象已有一定的認識，常用先驗概率分布來描述這種認識，然后我們?nèi)〉靡粋€樣本，用樣本來修正已有的認識（先驗概率分布），得到后

13、驗概率分布，各種統(tǒng)計推斷都通過后驗概率分布來進行。將貝葉斯判別方法用于判別分析，就得到貝葉斯判別。3、試述費歇判別法的基本思想。答：費歇判別法的基本思想是將高維數(shù)據(jù)點投影到低維空間上來，然而利用方差分析的思想選出一個最優(yōu)的投影方向。因此，嚴格的說費歇判別分析本身不是一種判別方法，只是利用費歇統(tǒng)計量進行數(shù)據(jù)預處理的方法，以使更有利于用判別分析方法解決問題。為了有利于判別，我們選擇投影方向a應使投影后的k個一元總體能盡量分開（同一總體中的樣品的投影值盡量靠近）。k要做到這一點，只要投影后的k個一元總體均值有顯著差異，即可利用方差分析的方法使組間平方和盡可能的大。則選取投影方向a使(a)達極大即可。

14、4、什么是逐步判別分析？答：具有篩選變量能力的判別方法稱為逐步判別分析法。逐步判別分析法就是先從所有因子中挑選一個具有最顯著判別能力的因子，然后再挑選第二個因子，這因子是在第一因子的基礎上具有最顯著判別能力的因子，即第一個和第二個因子聯(lián)合起來有顯著判別能力的因子；接著挑選第三個因子，這因子是在第一、第二因子的基礎上具有最顯著判別能力的因子。由于因子之間的相互關系，當引進了新的因子之后，會使原來已引入的因子失去顯著判別能力。因此，在引入第三個因子之后就要先檢驗已經(jīng)引入的因子是否還具有顯著判別能力，如果有就要剔除這個不顯著的因子；接著再繼續(xù)引入，直到再沒有顯著能力的因子可剔除為止，最后利用已選中的

15、變量建立判別函數(shù)。5、簡要敘述判別分析的步驟及流程答：（1）研究問題：選擇對象，評估一個多元問題各組的差異，將觀測個體歸類，確定組與組之間的判別函數(shù)。（2）設計要點：選擇解釋變量，樣本量的考慮，建立分析樣本的保留樣本。（3）假定：解釋變量的正態(tài)性，線性關系，解釋變量間不存在多重共線性，協(xié)方差陣相等。（4）估計判別函數(shù)：聯(lián)立估計或逐步估計，判別函數(shù)的顯著性。（5）使用分類矩陣評估預測的精度：確定最優(yōu)臨界得分，確定準則來評估判對比率，預測精確的統(tǒng)計顯著性。（6）判別函數(shù)的解釋：需要多少個函數(shù)。評價單個函數(shù)主要從判別權重、判別載荷、偏F值幾個方面；評價兩個以上的判別函數(shù)，分為評價判別的函數(shù)和評價合并

16、的函數(shù)。（7）判別結果的驗證：分開樣本或交叉驗證，刻畫組間的差異。6、略第5章 主成分分析1、主成分的基本思想是什么？在對某一事物進行實證研究時，為更全面、準確地反映事物的特征及其發(fā)展規(guī)律，往往考慮與其有關的多個指標，在多元統(tǒng)計中也稱為變量。一方避免遺漏重要信息而考慮盡可能多的指標看，另一方面考慮指標的增多，又難以避免信息重疊。希望涉及的變量少，而得到的信息量有較多。主成分的基本思想是研究如何通過原來的少數(shù)幾個線性組合來解釋原來變量絕大多數(shù)信息的一種多元統(tǒng)計方法。研究某一問題涉及的眾多變量之間有一定的相關性，必然存在著支配作用的公共因素。通過對原始變量相關矩陣或協(xié)方差矩陣內(nèi)部結構關系的研究，利

17、用原始變量的線性組合形成幾個無關的綜合指標（主成分）來代替原來的指標。通常數(shù)學上的處理就是將原來P個指標作線性組合，作為新的綜合指標。最經(jīng)典的做法就是用F1（選取的第一個線性組合，即第一個綜合指標）的方差來表達，即Var（F1）越大，表示F1包含的信息越多。因此在所有的線性組合中選取的F1應該是方差最大的，故稱F1為第一主成分，如果第一主成分不足以代表原來P個指標的信息，再考慮選取F2即選第二個線性組合，為了有效地反映原來信息，F(xiàn)1已有的信息就不需要再出現(xiàn)在F2中，用數(shù)學語言表達就是要求Cov（F1，F(xiàn)2）=0則稱F2為第二主成分，依此類推可以構造出第三、第四，第P個主成分。2、主成分在應用中

18、的主要作用是什么？作用：利用原始變量的線性組合形成幾個綜合指標（主成分），在保留原始變量主要信息的前提下起到降維與簡化問題的作用，使得在研究復雜問題時更容易抓住主要矛盾。通過主成分分析，可以從事物之間錯綜復雜的關系中找出一些主要成分，從而能有效利用大量數(shù)據(jù)進行定量分析，解釋變量之間的內(nèi)在關系，得到對事物特征及其發(fā)展規(guī)律的一些深層次的啟發(fā)，把研究工作引向深入。主成分分析能降低所研究的數(shù)據(jù)空間的維數(shù)，有時可通過因子載荷aij的結論，弄清X變量間的某些關系，多維數(shù)據(jù)的一種圖形表示方法，用主成分分析篩選變量，可以用較少的計算量來選擇，獲得選擇最佳變量子集合的效果。3.由協(xié)方差陣出發(fā)和由相關陣出發(fā)求主成

19、分有什么不同？（1）由協(xié)方差陣出發(fā)設隨即向量X=（X1，X2，X3,Xp） 的協(xié)方差矩陣為，l1l2lp為的特征值，1，2，p為矩陣A各特征值對應的標準正交特征向量，則第i個主成分為Yi=1i*X1+2i*X2+pi*Xp,i=1,2,p此時VAR（Yi）=li，（，），我們把X1，X2，X3,Xp的協(xié)方差矩陣的非零特征根l1l2lp0向量對應的標準化特征向量1，2，p分別作為系數(shù)向量，Y1=1*X, Y2=2*X,， Yp=p*X分別稱為隨即向量X的第一主成分，第二主成分第p主成分。Y的分量Y1，Y2，Yp依次是X的第一主成分、第二主成分第p主成分的充分必要條件是：（1）Y=P*X，即P為p

20、階正交陣，（2）Y的分量之間互不相關，即D（Y）=diag(l1,l2,lp),(3)Y的p個分量是按方差由大到小排列，即l1l2lp。（2）由相關陣出發(fā)對原始變量X進行標準化，Z=(1/2)-1*(X-) cov（Z）=R原始變量的相關矩陣實際上就是對原始變量標準化后的協(xié)方差矩陣，因此，有相關矩陣求主成分的過程與主成分個數(shù)的確定準則實際上是與由協(xié)方差矩陣出發(fā)求主成分的過程與主成分個數(shù)的確定準則相一致的。i，i 分別表示相關陣R的特征根值與對應的標準正交特征向量，此時，求得的主成分與原始變量的關系式為：Yi=i*Z=i*(1/2)-1*(X-)在實際研究中,有時單個指標的方差對研究目的起關鍵作

21、用,為了達到研究目的，此時用協(xié)方差矩陣進行主成分分析恰到好處。有些數(shù)據(jù)涉及到指標的不同度量尺度使指標方差之間不具有可比性,對于這類數(shù)據(jù)用協(xié)方差矩陣進行主成分分析也有不妥。相關系數(shù)矩陣計算主成分其優(yōu)勢效應僅體現(xiàn)在相關性大、相關指標數(shù)多的一類指標上。避免單個指標方差對主成分分析產(chǎn)生的負面影響，自然會想到把單個指標的方差從協(xié)方差矩陣中剝離，而相關系數(shù)矩陣恰好能達到此目的。4、略第6章 因子分析1、因子分析與主成分分析有什么本質不同？答：（1）因子分析把諸多變量看成由對每一個變量都有作用的一些公共因子和一些僅對某一個變量有作用的特殊因子線性組合而成，因此，我們的目的就是要從數(shù)據(jù)中探查能對變量起解釋作用

22、的公共因子和特殊因子，以及公共因子和特殊因子的線性組合。主成分分析則簡單一些，它只是從空間生成的角度尋找能解釋諸多變量絕大部分變異的幾組彼此不相關的新變量（2）因子分析中，把變量表示成各因子的線性組合，而主成分分析中，把主成分表示成各變量的線性組合（3）主成分分析中不需要有一些專門假設，因子分析則需要一些假設，因子分析的假設包括：各個因子之間不相關，特殊因子之間不相關，公共因子和特殊因子之間不相關。（4）在因子分析中，提取主因子的方法不僅有主成分法，還有極大似然法等，基于這些不同算法得到的結果一般也不同。而主成分分析只能用主成分法提取。（5）主成分分析中，當給定的協(xié)方差矩陣或者相關矩陣的特征根

23、唯一時，主成分一般是固定；而因子分析中，因子不是固定的，可以旋轉得到不同的因子。 （6）在因子分析中，因子個數(shù)需要分析者指定，結果隨指定的因子數(shù)不同而不同。在主成分分析中，主成分的數(shù)量是一定的，一般有幾個變量就有幾個主成分。 （7）與主成分分析相比，由于因子分析可以使用旋轉技術幫助解釋因子，在解釋方面更加有優(yōu)勢。而如果想把現(xiàn)有的變量變成少數(shù)幾個新的變量（新的變量幾乎帶有原來所有變量的信息）來進行后續(xù)的分析，則可以使用主成分分析。2、因子載荷的統(tǒng)計定義是什么？它在實際問題的分析中的作用是什么？答：（1）因子載荷的統(tǒng)計定義：是原始變量與公共因子的協(xié)方差，與都是均值為0，方差為1的變量，因此同時也是

24、與的相關系數(shù)。（2） 記則表示的是公共因子對于的每一分量所提供的方差的總和，稱為公共因子對原始變量的方貢獻，它是衡量公共因子相對重要性的指標。越大，表明公共因子對的貢獻越大，或者說對的影響作用就越大。如果因子載荷矩陣對的所有的都計算出來，并按大小排序，就可以依此提煉出最有影響的公共因子。3、略 第7章 對應分析1、試述對應分析的思想方法及特點。思想：對應分析又稱為相應分析，也稱RQ分析。是因子分子基礎發(fā)展起來的一種多元統(tǒng)計分析方法。它主要通過分析定性變量構成的列聯(lián)表來揭示變量之間的關系。當我們對同一觀測數(shù)據(jù)施加R和Q型因子分析，并分別保留兩個公共因子，則是對應分析的初步。對應分析的基本思想是將

25、一個聯(lián)列表的行和列中各元素的比例結構以點的形式在較低維的空間中表示出來。它最大特點是能把眾多的樣品和眾多的變量同時作到同一張圖解上，將樣品的大類及其屬性在圖上直觀而又明了地表示出來，具有直觀性。另外，它還省去了因子選擇和因子軸旋轉等復雜的數(shù)學運算及中間過程，可以從因子載荷圖上對樣品進行直觀的分類，而且能夠指示分類的主要參數(shù)（主因子）以及分類的依據(jù)，是一種直觀、簡單、方便的多元統(tǒng)計方法。特點：對應分析的基本思想是將一個聯(lián)列表的行和列中各元素的比例結構以點的形式在較低維的空間中表示出來。它最大特點是能把眾多的樣品和眾多的變量同時作到同一張圖解上，將樣品的大類及其屬性在圖上直觀而又明了地表示出來，具

26、有直觀性。另外，它還省去了因子選擇和因子軸旋轉等復雜的數(shù)學運算及中間過程，可以從因子載荷圖上對樣品進行直觀的分類，而且能夠指示分類的主要參數(shù)（主因子）以及分類的依據(jù)，是一種直觀、簡單、方便的多元統(tǒng)計方法。2、試述對應分析中總慣量的意義?？倯T量不僅反映了行剖面集定義的各點與其重心加權距離的總和,同時與統(tǒng)計量僅相差一個常數(shù),而統(tǒng)計量反映了列聯(lián)表橫聯(lián)與縱聯(lián)的相關關系,因此總慣量也反映了兩個屬性變量各狀態(tài)之間的相關關系。對應分析就是在對總慣量信息損失最小的前提下，簡化數(shù)據(jù)結構以反映兩屬性變量之間的相關關系。3、略第8章 典型相關分析1、試述典型相關分析的統(tǒng)計思想及該方法在研究實際問題中的作用。答： 典

27、型相關分析是研究兩組變量之間相關關系的一種多元統(tǒng)計方法。用于揭示兩組變 量之間的內(nèi)在聯(lián)系。典型相關分析的目的是識別并量化兩組變量之間的聯(lián)系。將兩組變量相 關關系的分析轉化為一組變量的線性組合與另一組變量線性組合之間的相關關系?；舅枷耄海?）在每組變量中找出變量的線性組合，使得兩組的線性組合之間具有最大的相關系數(shù)。 即：X = ( X1, X 2, , , X p) 、X= ( X1, X 2, , , X q) 是兩組相互關聯(lián)的隨機變量，分別在兩組變量中選取若干有代表性的綜合變量 Ui、Vi，使是原變量的線性組合。Ui = a1X1+ a2 X 2+ . + aP X P aXVi = b1Y1 + b2 Y 2 + . + bq Y q b Y在 D(aX ) = D(bX ) = 1 的條件下，使得 r (aX , bX ) 達到最大。 （2）選取和最初挑選的這對線性組合不相關的線性組合，使其配對，并選取相關系數(shù)最大的一對。（3） 如此繼續(xù)下去，直到兩組變