方差分析、主成分分析、相關(guān)與回歸分析

主成分分析方差分析相關(guān)與回歸分析目錄頁方差分析主成分分析相關(guān)與回歸分析方差分析的應(yīng)用條件（1）獨(dú)立，各組數(shù)據(jù)相互獨(dú)立，互不相關(guān)（2）正態(tài)，即各組數(shù)據(jù)符合正態(tài)分布（3）方差齊性，即各組方差相等

統(tǒng)計學(xué)上的因素是指研究者所關(guān)心的實(shí)驗(yàn)條件，而水平是指因素的具體表現(xiàn)形式。如，溫度（30、60、90）℃、藥物種類（A、B、C）和產(chǎn)地（山東、安徽、江蘇）。溫度、藥物種類和產(chǎn)地就是因素，而每個因素里具體的不同形式就稱為水平單因素方差分析例:一共有4種不同的飼料喂豬，共有19頭豬分為4組，每組一種飼料，一段時間后稱重。比較4種飼料對豬的體重影響是否顯著不同。飼料的類型增加的體重單擊“兩兩比較”主成分分析

是考察多個變量間相關(guān)性的一種多元統(tǒng)計方法，其主要目的是用較少的變量去解釋原始數(shù)據(jù)中的大部分變異。它通常用來尋找判斷某種事物或現(xiàn)象的綜合指標(biāo)，并且給綜合指標(biāo)所包含的信息以適當(dāng)?shù)慕忉?，從而更好的揭示事物?nèi)在的規(guī)律。但在實(shí)際的應(yīng)用當(dāng)中，主成分分析只是一種達(dá)到目的的中間手段，而不是最終目的，而要結(jié)合其他的統(tǒng)計方法來處理問題。2023/2/416第二章主成分分析

主成分分析（principalcomponentsanalysis）。主成分分析是利用降維的思想，在損失很少信息的前提下把多個指標(biāo)轉(zhuǎn)化為幾個綜合指標(biāo)的多元統(tǒng)計方法。通常把轉(zhuǎn)化生成的綜合指標(biāo)稱之為主成分，其中每個主成分都是原始變量的線性組合，且各個主成分之間互不相關(guān)，這就使得主成分比原始變量具有某些更優(yōu)越的性能。這樣在研究復(fù)雜問題時就可以只考慮少數(shù)幾個主成分而不至于損失太多信息，從而更容易抓住主要矛盾，揭示事物內(nèi)部變量之間的規(guī)律性，同時使問題得到簡化，提高分析效率。2023/2/417主成分分析的基本思想

既然研究某一問題涉及的眾多變量之間有一定的相關(guān)性，就必然存在著起支配作用的共同因素，根據(jù)這一點(diǎn)，通過對原始變量相關(guān)矩陣或協(xié)方差矩陣內(nèi)部結(jié)構(gòu)關(guān)系的研究，利用原始變量的線性組合形成幾個綜合指標(biāo)（主成分），在保留原始變量主要信息的前提下起到降維與簡化問題的作用，使得在研究復(fù)雜問題時更容易抓住主要矛盾。一般地說，利用主成分分析得到的主成分與原始變量之間有如下基本關(guān)系：1.每一個主成分都是各原始變量的線性組合；2.主成分的數(shù)目大大少于原始變量的數(shù)目2023/2/418

目錄上頁下頁返回結(jié)束

3.主成分保留了原始變量絕大多數(shù)信息4.各主成分之間互不相關(guān)

通過主成分分析，可以從事物之間錯綜復(fù)雜的關(guān)系中找出一些主要成分，從而能有效利用大量統(tǒng)計數(shù)據(jù)進(jìn)行定量分析，揭示變量之間的內(nèi)在關(guān)系，得到對事物特征及其發(fā)展規(guī)律的一些深層次的啟發(fā)，把研究工作引向深入。主成分分析的任務(wù)1計算主成分首先將原有的變量標(biāo)準(zhǔn)化，然后計算各變量之間的相關(guān)矩陣、該矩陣的特征根和特征向量，最后將特征根由大到小排列，分別計算出對應(yīng)的主成分。2確定主成分個數(shù)（1）累計貢獻(xiàn)率：當(dāng)前k個主成分的累計貢獻(xiàn)率達(dá)到某一特定值（一般采用70%以上）時，則保留前k個主成分。（2）特征根：一般選取特征根≥1的主成分。

表示主成分影響力度大小的指標(biāo)，即引入該主成分后可以解釋平均多少原始變量的信息，如果特征根小于1，說明該主成分的解釋程度還不如直接引入一個原始變量的平均解釋程度大。

表示前k個主成分累計提取了原始變量多少的信息。2023/2/420注意的問題1.首先應(yīng)當(dāng)認(rèn)識到主成分分析方法適用于變量之間存在較強(qiáng)相關(guān)性的數(shù)據(jù)，如果原始數(shù)據(jù)相關(guān)性較弱，運(yùn)用主成分分析后不能起到很好的降維作用，即所得的各個主成分濃縮原始變量信息的能力差別不大。一般認(rèn)為當(dāng)原始數(shù)據(jù)大部分變量的相關(guān)系數(shù)都小于0.3時，運(yùn)用主成分分析不會取得很好的效果。2.主成分分析不能有效地剔除重疊信息，但它至少可以發(fā)現(xiàn)原始變量是否存在著重疊信息，這對我們減少分析中的失誤是有幫助的。2023/2/421主成分分析步驟1.根據(jù)研究問題選取初始分析變量；2.根據(jù)初始變量特性判斷由協(xié)方差陣求主成分還是由相關(guān)陣求主成分；3.求協(xié)差陣或相關(guān)陣的特征根與相應(yīng)標(biāo)準(zhǔn)特征向量；4.判斷是否存在明顯的多重共線性，若存在，則回到第一步；5.得到主成分的表達(dá)式并確定主成分個數(shù)，選取主成分；6.結(jié)合主成分對研究問題進(jìn)行分析并深入研究。例：1980年某汽車制造商從競爭對手中選擇了17種車型，訪問了25名顧客，要求他們根據(jù)自己的偏好對這17種車型打分，打分范圍0-9.9分。如下表：點(diǎn)擊“繼續(xù)”，回到主頁點(diǎn)擊”確定“

相關(guān)關(guān)系的常見類型：線性相關(guān)：正線性相關(guān)、負(fù)線性相關(guān)非線性相關(guān)相關(guān)關(guān)系不象函數(shù)關(guān)系那樣直接,但卻普遍存在,且有強(qiáng)有弱.如何測度?相關(guān)分析和回歸分析的任務(wù)研究對象:相關(guān)關(guān)系相關(guān)分析旨在測度變量間線性關(guān)系的強(qiáng)弱程度.回歸分析側(cè)重考察變量之間的數(shù)量變化規(guī)律,并通過一定的數(shù)學(xué)表達(dá)式來描述這種關(guān)系,進(jìn)而確定一個或幾個變量的變化對另一個變量的影響程度.回歸分析基本步驟(1)確定自變量和因變量(2)從樣本數(shù)據(jù)出發(fā)確定變量之間的數(shù)學(xué)關(guān)系式,并對回歸方程的各個參數(shù)進(jìn)行估計.(3)對回歸方程進(jìn)行各種統(tǒng)計檢驗(yàn).(4)利用回歸方程進(jìn)行預(yù)測.相關(guān)分析(一)目的通過樣本數(shù)據(jù),研究兩變量間線性相關(guān)程度的強(qiáng)弱.(例如:投資與收入之間的關(guān)系、GDP與通信需求之間的數(shù)量關(guān)系）(二)基本方法繪制散點(diǎn)圖、計算相關(guān)系數(shù)繪制散點(diǎn)圖基本操作步驟(1)菜單選項(xiàng):graphs->scatter(2)選擇散點(diǎn)圖類型:(3)選擇x軸和y軸的變量(4)選擇分組變量(setmarkersby):分別以不同顏色點(diǎn)的表示(5)選擇標(biāo)記變量(labelcaseby):散點(diǎn)圖上可帶有標(biāo)記變量的值(如:省份名稱)計算相關(guān)系數(shù)(1)作用:以精確的相關(guān)系數(shù)(r)體現(xiàn)兩個變量間的線性關(guān)系程度.r:[-1,+1];r=1:完全正相關(guān);r=-1:完全負(fù)相關(guān);r=0:無線性相關(guān);|r|>0.8:強(qiáng)相關(guān);|r|<0.3:弱相關(guān)(2)說明:相關(guān)系數(shù)只是較好地度量兩變量間的線性相關(guān)程度,不能描述非線性關(guān)系.基本操作步驟(1)菜單選項(xiàng):analyze->correlate->bivariate...(2)選擇計算相關(guān)系數(shù)的變量到variables框.(3)選擇相關(guān)系數(shù)(correlationcoefficients).(4)顯著性檢驗(yàn)(testofsignificance)tow-tailed:輸出雙尾概率P.one-tailed:輸出單尾概率P(一)一元回歸方程:

y=β0+β1xβ0為常數(shù)項(xiàng)；β1為y對x回歸系數(shù)，即:x每變動一個單位所引起的y的平均變動(二)一元回歸分析的步驟利用樣本數(shù)據(jù)建立回歸方程回歸方程的擬和優(yōu)度檢驗(yàn)回歸方程的顯著性檢驗(yàn)(t檢驗(yàn)和F檢驗(yàn))殘差分析預(yù)測