(完整版)應(yīng)用多元統(tǒng)計分析課后答案-朱建平版

2.1.試敘述多元聯(lián)合分布和邊際分布之間的關(guān)系。解：多元聯(lián)合分布討論多個隨機變量聯(lián)合到一起的概率分布狀況，的聯(lián)合分布密度函數(shù)是一個p維的函數(shù)，而邊際分布討論是的維數(shù)小于p。的子向量的概率分布，其概率密度函數(shù)2.2設(shè)二維隨機向量服從二元正態(tài)分布，寫出其聯(lián)合分布。解：設(shè)的均值向量為，協(xié)方差矩陣為，則其聯(lián)合分布密度函數(shù)為。2.3已知隨機向量的聯(lián)合密度函數(shù)為其中，。求（1）隨機變量（2）隨機變量和和的邊緣密度函數(shù)、均值和方差；的協(xié)方差和相關(guān)系數(shù)；（3）判斷和是否相互獨立。（1）解：隨機變量和的邊緣密度函數(shù)、均值和方差；所以由于同理，由于服從均勻分布，則均值為服從均勻分布，方差為。，則均值為，方差為。（2）解：隨機變量和的協(xié)方差和相關(guān)系數(shù)；（3）解：判斷和是否相互獨立。和由于，所以不獨立。2.4設(shè)服從正態(tài)分布，已知其協(xié)方差矩陣為對角陣，證明其分量是相互獨立的隨機的密度函數(shù)為變量。解：因為又由于則則其分量是相互獨立。2.6漸近無偏性、有效性和一致性；2.7設(shè)總體服從正態(tài)分布，，有樣本。由于是相互獨立的正態(tài)分布隨機向量之和，所以也服從正態(tài)分布。又所以。2.8方法1：。方法2：。故為的無偏估計。2.9.設(shè)是從多元正態(tài)分布抽出的一個簡單隨機樣本，試求的分布。證明：設(shè)令為一正交矩陣，即。，所以。且有，，。所以因為獨立同分布。又因為又因為所以原式故，由于獨立同正態(tài)分布，所以2.10.設(shè)是來自的簡單隨機樣本，，（1）已知（2）已知且，求和的估計。求和的估計。解：（1），(2)解之，得，第三章3.1試述多元統(tǒng)計分析中的各種均值向量和協(xié)差陣檢驗的基本思想和步驟。其基本思想和步驟均可歸納為：第一，提出待檢驗的假設(shè)和H1；第二，給出檢驗的統(tǒng)計量及其服從的分布；第三，給定檢驗水平，查統(tǒng)計量的分布表，確定相應(yīng)的臨界值，從而得到否定域；第四，根據(jù)樣本觀測值計算出統(tǒng)計量的值，看是否落入否定域中，以便對待判假設(shè)做出決策（拒絕或接受）。均值向量的檢驗：統(tǒng)計量拒絕域均值向量的檢驗：在單一變量中當(dāng)當(dāng)已知未知（作為的估計量）一個正態(tài)總體協(xié)差陣已知協(xié)差陣未知（）兩個正態(tài)總體有共同已知協(xié)差陣有共同未知協(xié)差陣（其中）協(xié)差陣不等協(xié)差陣不等多個正態(tài)總體單因素方差多因素方差協(xié)差陣的檢驗檢驗檢驗統(tǒng)計量3.2試述多元統(tǒng)計中霍特林分布和威爾克斯分布分別與一元統(tǒng)計中t分布和F分布的關(guān)系。答：（?。┗籼亓址植际莟分布對于多元變量的推廣。而若設(shè)，且與相互獨立，，則稱統(tǒng)計量，則的分布為非中心霍特林T2分布。若，且與相互獨立，令。（2）威爾克斯分布在實際應(yīng)用中經(jīng)常把統(tǒng)計量化為統(tǒng)計量進而化為統(tǒng)計量，利用統(tǒng)計量來解決多元統(tǒng)計分析中有關(guān)檢驗問題。與統(tǒng)計量的關(guān)系統(tǒng)計量及分別任意任意1任意任意任意21任意3.3試述威爾克斯統(tǒng)計量在多元方差分析中的重要意義。答：威爾克斯統(tǒng)計量在多元方差分析中是用于檢驗均值的統(tǒng)計量。用似然比原則構(gòu)成的檢驗統(tǒng)計量為給定檢驗水平，查。則歐幾里得距離為Wilks分布表，確定臨界值，然后作出統(tǒng)計判斷。第四章4.1簡述歐幾里得距離與馬氏距離的區(qū)別和聯(lián)系。答：設(shè)p維歐幾里得空間中的兩點X=和Y=。歐幾里得距離的局限有在多元數(shù)據(jù)分析中，其度量不合理。會受到實際問題中量綱的影響。設(shè)X,Y是來自均值向量為，協(xié)方差為的總體G中的p維樣本。則馬氏距離為D(X,Y)=。當(dāng)即單位陣時，D(X,Y)==即歐幾里得距離。因此，在一定程度上，歐幾里得距離是馬氏距離的特殊情況，馬氏距離是歐幾里得距離的推廣。4.2試述判別分析的實質(zhì)。答：判別分析就是希望利用已經(jīng)測得的變量數(shù)據(jù)，找出一種判別函數(shù)，使得這一函數(shù)具有某種最優(yōu)性質(zhì)，能把屬于不同類別的樣本點盡可能地區(qū)別開來。設(shè)R1，R2，…，Rk是p維空間Rp的k個子集，如果它們互不相交，且它們的和集為，則稱為的一個劃分。判別分析問題實質(zhì)上就是在某種意義上，以最優(yōu)的性質(zhì)對p維空間構(gòu)造一個“劃分”，這個“劃分”就構(gòu)成了一個判別規(guī)則。4.3簡述距離判別法的基本思想和方法。答：距離判別問題分為兩個總體的距離判別問題和多個總體的判別問題。其基本思想都是分別計算樣本與各個總體的距離（馬氏距離），將距離近的判別為一類。兩個總體的距離判別問題設(shè)有協(xié)方差矩陣∑相等的兩個總體G1和G2，其均值分別是1和2，對于一個新的樣品X，要判斷它來自哪個總體。計算新樣品X到兩個總體的馬氏距離D2（X，G1）和D2（X，G2），則X，D2（X，G1）D2（X，G2），D2（X，G1）>D2（X，G2，X具體分析，記則判別規(guī)則為X，W(X)，W(X)<0X多個總體的判別問題。設(shè)有個總體具體分析，，其均值和協(xié)方差矩陣分別是和，且。計算樣本到每個總體的馬氏距離，到哪個總體的距離最小就屬于哪個總體。取，，。可以取線性判別函數(shù)為相應(yīng)的判別規(guī)則為，若4.4簡述貝葉斯判別法的基本思想和方法。基本思想：設(shè)k個總體，其各自的分布密度函數(shù)，假設(shè)k個總體各自出現(xiàn)的概率分別為造成的損失為，，。設(shè)將本來屬于?？傮w的樣品錯判到總體時，。設(shè)個總體相應(yīng)的維樣本空間為在規(guī)則下，將屬于的樣品錯判為的概率為則這種判別規(guī)則下樣品錯判后所造成的平均損失為則用規(guī)則來進行判別所造成的總平均損失為貝葉斯判別法則，就是要選擇一種劃分，使總平均損失達到極小?；痉椒ǎ毫?，則若有另一劃分，則在兩種劃分下的總平均損失之差為因為在上對一切成立，故上式小于或等于零，是貝葉斯判別的解。為從而得到的劃分4.5簡述費希爾判別法的基本思想和方法。答：基本思想：從個總體中抽取具有個指標(biāo)的樣品觀測數(shù)據(jù)，借助方差分析的思想構(gòu)造一個線性判別函數(shù)系數(shù)可使得總體之間區(qū)別最大，而使每個總體內(nèi)部的離差最小。將新樣品的個指標(biāo)值代入線性判別函數(shù)式中求出總體。值，然后根據(jù)判別一定的規(guī)則，就可以判別新的樣品屬于哪個4.6試析距離判別法、貝葉斯判別法和費希爾判別法的異同。答：費希爾判別與距離判別對判別變量的分布類型無要求。二者只是要求有各類母體的兩階矩存在。而貝葉斯判別必須知道判別變量的分布類型。因此前兩者相對來說較為簡單。當(dāng)k=2時，若則費希爾判別與距離判別等價。當(dāng)判別變量服從正態(tài)分布時，二者與貝葉斯判別也等價。當(dāng)時，費希爾判別用作為共同協(xié)差陣，實際看成等協(xié)差陣，此與距離判別、貝葉斯判別不同。距離判別可以看為貝葉斯判別的特殊情形。貝葉斯判別的判別規(guī)則是X，W(X)<lnd，W(X)X距離判別的判別規(guī)則是XX，W(X)，W(X)<0二者的區(qū)別在于閾值點。當(dāng)，時，，。二者完全相同。4.7設(shè)有兩個二元總體和，從中分別抽取樣本計算得到,,假設(shè)，試用距離判別法建立判別函數(shù)和判別規(guī)則。樣品X=（6，0）’應(yīng)屬于哪個總體？解：=，=，==，，即樣品X屬于總體第五章5.1判別分析和聚類分析有何區(qū)別？答：即根據(jù)一定的判別準(zhǔn)則，判定一個樣本歸屬于哪一類。具體而言，設(shè)有n個樣本，對每個樣本測得p項指標(biāo)（變量）的數(shù)據(jù)，已知每個樣本屬于k個類別（或總體）中的某一類，通過找出一個最優(yōu)的劃分，使得不同類別的樣本盡可能地區(qū)別開，并判別該樣本屬于哪個總體。聚類分析是分析如何對樣品（或變量）進行量化分類的問題。在聚類之前，我們并不知道總體，而是通過一次次的聚類，使相近的樣品（或變量）聚合形成總體。通俗來講，判別分析是在已知有多少類及是什么類的情況下進行分類，而聚類分析是在不知道類的情況下進行分類。5.2試述系統(tǒng)聚類的基本思想。答：系統(tǒng)聚類的基本思想是：距離相近的樣品（或變量）先聚成類，距離相遠的后聚成類，過程一直進行下去，每個樣品（或變量）總能聚到合適的類中。5.3對樣品和變量進行聚類分析時，所構(gòu)造的統(tǒng)計量分別是什么？簡要說明為什么這樣構(gòu)造？答：對樣品進行聚類分析時，用距離來測定樣品之間的相似程度。因為我們把n個樣本看作p維空間的n個點。點之間的距離即可代表樣品間的相似度。常用的距離為（一）閔可夫斯基距離：q取不同值，分為（1）絕對距離（（2）歐氏距離（），），（3）切比雪夫距離（），（二）馬氏距離（三）蘭氏距離對變量的相似性，我們更多地要了解變量的變化趨勢或變化方向，因此用相關(guān)性進行衡量。將變量看作p維空間的向量，一般用（一）夾角余弦（二）相關(guān)系數(shù)5.4在進行系統(tǒng)聚類時，不同類間距離計算方法有何區(qū)別？選擇距離公式應(yīng)遵循哪些原則？答：設(shè)dij表示樣品Xi與Xj之間距離，用Dij表示類Gi與Gj之間的距離。（1）.最短距離法（2）最長距離法（3）中間距離法其中（4）重心法（5）類平均法（6）可變類平均法其中是可變的且<1（7）可變法其中是可變的且<1（8）離差平方和法通常選擇距離公式應(yīng)注意遵循以下的基本原則：（1）要考慮所選擇的距離公式在實際應(yīng)用中有明確的意義。如歐氏距離就有非常明確的空間距離概念。馬氏距離有消除量綱影響的作用。（2）要綜合考慮對樣本觀測數(shù)據(jù)的預(yù)處理和將要采用的聚類分析方法。如在進行聚類分析之前已經(jīng)對變量作了標(biāo)準(zhǔn)化處理，則通常就可采用歐氏距離。（3）要考慮研究對象的特點和計算量的大小。樣品間距離公式的選擇是一個比較復(fù)雜且?guī)в幸欢ㄖ饔^性的問題，我們應(yīng)根據(jù)研究對象的特點不同做出具體分折。實際中，聚類分析前不妨試探性地多選擇幾個距離公式分別進行聚類，然后對聚類分析的結(jié)果進行對比分析，以確定最合適的距離測度方法。5.5試述K均值法與系統(tǒng)聚類法的異同。答：相同：K—均值法和系統(tǒng)聚類法一樣，都是以距離的遠近親疏為標(biāo)準(zhǔn)進行聚類的。不同：系統(tǒng)聚類對不同的類數(shù)產(chǎn)生一系列的聚類結(jié)果，而K—均值法只能產(chǎn)生指定類數(shù)的聚類結(jié)果。具體類數(shù)的確定，離不開實踐經(jīng)驗的積累；有時也可以借助系統(tǒng)聚類法以一部分樣品為對象進行聚類，其結(jié)果作為K—均值法確定類數(shù)的參考。5.6試述K均值法與系統(tǒng)聚類有何區(qū)別？試述有序聚類法的基本思想。答：K均值法的基本思想是將每一個樣品分配給最近中心（均值）的類中。系統(tǒng)聚類對不同的類數(shù)產(chǎn)生一系列的聚類結(jié)果，而K—均值法只能產(chǎn)生指定類數(shù)的聚類結(jié)果。具體類數(shù)的確定，有時也可以借助系統(tǒng)聚類法以一部分樣品為對象進行聚類，其結(jié)果作為K均值法確定類數(shù)的參考。有序聚類就是解決樣品的次序不能變動時的聚類分析問題。如果用表示個有序的樣品，則每一類必須是這樣的形式，即，其中且，簡記為。在同一類中的樣品是次序相鄰的。一般的步驟是（1）計算直徑{D（i,j）}。（2）計算最小分類損失函數(shù){L[p(l,k)]}。(3)確定分類個數(shù)k。（4）最優(yōu)分類。5.7檢測某類產(chǎn)品的重量，抽了六個樣品，每個樣品只測了一個指標(biāo)，分別為1，2，3，6，9，11.試用最短距離法，重心法進行聚類分析。（1）用最短距離法進行聚類分析。采用絕對值距離，計算樣品間距離陣0102105438761098030520由上表易知計算距離陣中最小元素是于是將，，聚為一類，記為0306385020中最小元素是=2于是將，聚為一類，記為計算樣本距離陣030630中最小元素是于是將，聚為一類，記為因此，（2）用重心法進行聚類分析計算樣品間平方距離陣0140102516906449369010081642540易知中最小元素是于是將，，聚為一類，記為計算距離陣01604990812540注：計算方法,其他以此類推。中最小元素是=4于是將，聚為一類，記為計算樣本距離陣016064160中最小元素是于是將，聚為一類，記為因此，第六章6.1試述主成分分析的基本思想。答：我們處理的問題多是多指標(biāo)變量問題，由于多個變量之間往往存在著一定程度的相關(guān)性，人們希望能通過線性組合的方式從這些指標(biāo)中盡可能快的提取信息。當(dāng)?shù)谝粋€組合不能提取更多信息時，再考慮第二個線性組合。繼續(xù)這個過程，直到提取的信息與原指標(biāo)差不多時為止。這就是主成分分析的基本思想。6.2主成分分析的作用體現(xiàn)在何處？答：一般說來，在主成分分析適用的場合，用較少的主成分就可以得到較多的信息量。以各個主成分為分量，就得到一個更低維的隨機向量；主成分分析的作用就是在降低數(shù)據(jù)“維數(shù)”的同時又保留了原數(shù)據(jù)的大部分信息。6.3簡述主成分分析中累積貢獻率的具體含義。答：主成分分析把個原始變量的總方差分解成了個相互獨立的變量的方差之和。主成分分析的目的是減少變量的個數(shù)，所以一般不會使用所有個主成分的，忽略一些帶有較小方差的主成分將不會給總方差帶來太大的影響。這里我們稱為第個主成分的能力最強，而的貢獻率。第一主成分的貢獻率最大，這表明的綜合能力依次遞減。若只取綜合原始變量稱個主成分，則為主成分的累計貢獻率，累計貢獻率表明綜合的能力。通常取，使得累計貢獻率達到一個較高的百分數(shù)（如85％以上）。6.4在主成分分析中“原變量方差之和等于新的變量的方差之和”是否正確？說明理由。答：這個說法是正確的。，即原變量方差之和等于新的變量的方差之和6.5試述根據(jù)協(xié)差陣進行主成分分析和根據(jù)相關(guān)陣進行主成分分析的區(qū)別。答：從相關(guān)陣求得的主成分與協(xié)差陣求得的主成分一般情況是不相同的。從協(xié)方差矩陣出發(fā)的，其結(jié)果受變量單位的影響。主成分傾向于多歸納方差大的變量的信息，對于方差小的變量就可能體現(xiàn)得不夠，也存在“大數(shù)吃小數(shù)”的問題。實際表明，這種差異有時很大。我們認為，如果各指標(biāo)之間的數(shù)量級相差懸殊，特別是各指標(biāo)有不同的物理量綱的話，較為合理的做法是使用R代替∑。對于研究經(jīng)濟問題所涉及的變量單位大都不統(tǒng)一，采用R代替∑后，可以看作是用標(biāo)準(zhǔn)化的數(shù)據(jù)做分析，這樣使得主成分有現(xiàn)實經(jīng)濟意義，不僅便于剖析實際問題，又可以避免突出數(shù)值大的變量。6.6已知X=()’的協(xié)差陣為試進行主成分分析。解：=0計算得，當(dāng)時，同理，計算得易知，時，相互正交單位化向量得，,綜上所述，第一主成分為第二主成分為第三主成分為6.7設(shè)X=()’的協(xié)方差陣(p為,0<p<1證明：為最大特征根，其對應(yīng)的主成分為。證明：==,為最大特征根時，，當(dāng)=，，所以，第七章7.1試述因子分析與主成分分析的聯(lián)系與區(qū)別。答：因子分析與主成分分析的聯(lián)系是：兩種分析方法都是一種降維、簡化數(shù)據(jù)的技術(shù)。兩種分析的求解過程是類似的，都是從一個協(xié)方差陣出發(fā)，利用特征值、特征向量求解。因子分析可以說是主成分分析的姐妹篇，將主成分分析向前推進一步便導(dǎo)致因子分析。因子分析也可以說成是主成分分析的逆問題。如果說主成分分析是將原指標(biāo)綜合、歸納，那么因子分析可以說是將原指標(biāo)給予分解、演繹。因子分析與主成分分析的主要區(qū)別是：主成分分析本質(zhì)上是一種線性變換，將原始坐標(biāo)變換到變異程度大的方向上為止，突出數(shù)據(jù)變異的方向，歸納重要信息。而因子分析是從顯在變量去提煉潛在因子的過程。此外，主成分分析不需要構(gòu)造分析模型而因子分析要構(gòu)造因子模型。7.2因子分析主要可應(yīng)用于哪些方面？答：因子分析是一種通過顯在變量測評潛在變量，通過具體指標(biāo)測評抽象因子的統(tǒng)計分析方法。目前因子分析在心理學(xué)、社會學(xué)、經(jīng)濟學(xué)等學(xué)科中都有重要的應(yīng)用。具體來說，因子分析可以用于分類。如用考試分數(shù)將學(xué)生的學(xué)習(xí)狀況予以分類；用空氣中各種成分的比例對空氣的優(yōu)劣予以分類等等因子分析可以用于探索潛在因素。即是探索未能觀察的或不能觀測的的潛在因素是什么，起的作用如何等。對我們進一步研究與探討指示方向。在社會調(diào)查分析中十分常用。因子分析的另一個作用是用于時空分解。如研究幾個不同地點的不同日期的氣象狀況，就用因子分析將時間因素引起的變化和空間因素引起的變化分離開來從而判斷各自的影響和變化規(guī)律。7.3簡述因子模型中載荷矩陣A的統(tǒng)計意義。答：對于因子模型因子載荷陣為與的協(xié)方差為：==若對作標(biāo)準(zhǔn)化處理，=,因此一方面表示對的依賴程度；另一方面也反映了變量對公共因子的相對重要性。變量共同度說明變量的方差由兩部分組成：第一部分為共同度，它描述了全部公共因子對變量的總方差所作的貢獻，反映了公共因子對變量的貢獻，通常稱為個性方差。的影響程度。第二部分為特殊因子對變量的方差而公共因子對的貢獻表示同一公共因子對各變量所提供的方差貢獻之總和，它是衡量每一個公共因子相對重要性的一個尺度。7.4在進行因子分析時，為什么要進行因子旋轉(zhuǎn)？最大方差因子旋轉(zhuǎn)的基本思路是什么？答：因子分析的目標(biāo)之一就是要對所提取的抽象因子的實際含義進行合理解釋。但有時直接根據(jù)特征根、特征向量求得的因子載荷陣難以看出公共因子的含義。這種因子模型反而是不利于突出主要矛盾和矛盾的主要方面的，也很難對因子的實際背景進行合理的解釋。這時需要通過因子旋轉(zhuǎn)的方法，使每個變量僅在一個公共因子上有較大的載荷，而在其余的公共因子上的載荷比較小。最大方差旋轉(zhuǎn)法是一種正交旋轉(zhuǎn)的方法，其基本思路為：A其中令的第列元素平方的相對方差可定義為最大方差旋轉(zhuǎn)法就是選擇正交矩陣，使得矩陣所有m個列元素平方的相對方差之和達到最大。7.5試分析因子分析模型與線性回歸模型的區(qū)別與聯(lián)系。答：因子分析模型是一種通過顯在變量測評潛在變量，通過具體指標(biāo)測評抽象因子的統(tǒng)計分析方法的模型。而線性回歸模型回歸分析的目的是設(shè)法找出變量間的依存(數(shù)量)關(guān)系,用函數(shù)關(guān)系式表達出來。因子分析模型中每一個變量都可以表示成公共因子的線性函數(shù)與特殊因子之和。即，（）該模型可用矩陣表示為：而回歸分析模型中多元線性回歸方程模型為：其中是常數(shù)項，是偏回歸系數(shù)，是殘差。因子模型滿足：（1）（3）；（2），即公共因子與特殊因子是不相關(guān)的；，即各個公共因子不相關(guān)且方差為1；（4），即各個特殊因子不相關(guān)，方差不要求相等。而回歸分析模型滿足（1）正態(tài)性：隨機誤差（即殘差）e服從均值為0，方差為２的正態(tài)分布；（2）等方差：對于所有的自變量x，殘差e的條件方差為２，且為常數(shù)；（3）獨立性：在給定自變量x的條件下，殘差e的條件期望值為0（本假設(shè)又稱零均值假設(shè)）；（4）無自相關(guān)性：各隨機誤差項e互不相關(guān)。兩種模型的聯(lián)系在于都是線性的。因子分析的過程就是一種線性變換。7.6設(shè)某客觀現(xiàn)象可用X=()’來描述，在因子分析時，從約相關(guān)陣出發(fā)計算出特征值為由于,所以找前兩個特征值所對應(yīng)的公共因子即可，又知要求：對應(yīng)的正則化特征向量分別為(0.707,-0.316,0.632)’及（0，0.899，0.4470）’，（1）計算因子載荷矩陣A，并建立因子模型。（2）計算共同度（3）計算第一公因子對X的“貢獻”。。解：（1）根據(jù)題意，A==建立因子模型為，，（2），，（3）因為是從約相關(guān)陣計算的特征值，所以公共因子對X的“貢獻”為第八章相應(yīng)分析。8.1什么是相應(yīng)分析？它與因子分析有何關(guān)系？答：相應(yīng)分析也叫對應(yīng)分析，通常意義下，是指兩個定性變量的多種水平進行相應(yīng)性研究。其特點是它所研究的變量可以是定性的。相應(yīng)分析與因子分析的關(guān)系是：在進行相應(yīng)分析過程中，計算出過渡矩陣后，要分別對變量和樣本進行因子分析。因此，因子分析是相應(yīng)分析的基礎(chǔ)。具體而言，式表明Zuj為相對于特征值的關(guān)于因素A各水平構(gòu)成的協(xié)差陣的特征向量。從而建立了相應(yīng)分析中R型因子分析和Q型因子分析的關(guān)系。8.2試述相應(yīng)分析的基本思想。答：相應(yīng)分析，