第9章spss的相關(guān)分析和線(xiàn)性回歸分析

第9章spss的相關(guān)分析和線(xiàn)性回歸分析相關(guān)分析和回歸分析是統(tǒng)計(jì)分析方法中最重要內(nèi)容之一，是多元統(tǒng)計(jì)分析方法的基礎(chǔ)。相關(guān)分析和回歸分析主要用于研究和分析變量之間的相關(guān)關(guān)系，在變量之間尋求合適的函數(shù)關(guān)系式，特別是線(xiàn)性表達(dá)式。本章主要內(nèi)容：對(duì)變量之間的相關(guān)關(guān)系進(jìn)行分析（Correlate）。其中包括簡(jiǎn)單相關(guān)分析（Bivariate）和偏相關(guān)分析（Partial）。建立因變量和自變量之間回歸模型（Regression），其中包括線(xiàn)性回歸分析（Linear）和曲線(xiàn)估計(jì)（CurveEstimation）。數(shù)據(jù)條件：參與分析的變量數(shù)據(jù)是數(shù)值型變量或有序變量。本章內(nèi)容9.1相關(guān)分析9.2偏相關(guān)分析9.3線(xiàn)性回歸分析9.4曲線(xiàn)估計(jì)9.5二項(xiàng)Logistic回歸相關(guān)分析用于測(cè)量了解變量之間的密切程度。如：教育事業(yè)的發(fā)展與科學(xué)技術(shù)的發(fā)展存在著一定的關(guān)系，學(xué)生的數(shù)學(xué)成績(jī)與物理成績(jī)存在著一定的關(guān)系，相關(guān)分析就是要分析這種密切程度。相關(guān)類(lèi)型：1、直線(xiàn)相關(guān)：兩變量呈線(xiàn)性共同增大，或一增一減。2、曲線(xiàn)相關(guān)：兩變量存在相關(guān)趨勢(shì)，但非線(xiàn)性。此時(shí)若進(jìn)行直線(xiàn)相關(guān)，有可能出現(xiàn)無(wú)相關(guān)性的結(jié)論，曲線(xiàn)相關(guān)分析是一般都先將變量進(jìn)行變量變換，以將趨勢(shì)變換為直線(xiàn)分析，或者采用曲線(xiàn)回歸方法來(lái)分析。相關(guān)的方向

依照兩種變量變動(dòng)的方向分，有正相關(guān)、負(fù)相關(guān)和無(wú)相關(guān)（零相關(guān)）。相關(guān)分析基本步驟：1.繪制散點(diǎn)圖2.計(jì)算相關(guān)系數(shù)3.進(jìn)行相關(guān)系數(shù)檢驗(yàn)如果兩個(gè)定量變量沒(méi)有關(guān)系，就談不上建立模型或進(jìn)行回歸。但怎樣才能發(fā)現(xiàn)兩個(gè)變量有沒(méi)有關(guān)系呢？最簡(jiǎn)單的直觀(guān)辦法就是畫(huà)出它們的散點(diǎn)圖。下面是四組數(shù)據(jù)的散點(diǎn)圖；每一組數(shù)據(jù)表示了兩個(gè)變量x和y的樣本。第1點(diǎn)不相關(guān)正線(xiàn)性相關(guān)負(fù)線(xiàn)性相關(guān)相關(guān)但非線(xiàn)性相關(guān)但如何在數(shù)量上描述相關(guān)呢？下面引進(jìn)幾種對(duì)相關(guān)程度的度量。Pearson相關(guān)系數(shù)Spearman秩相關(guān)系數(shù)Kendallt

相關(guān)系數(shù)Pearson相關(guān)系數(shù)（Pearson’scorrelationcoefficient）又叫相關(guān)系數(shù)或線(xiàn)性相關(guān)系數(shù)。它一般用字母r表示。

它是由兩個(gè)變量的樣本取值得到，這是一個(gè)描述線(xiàn)性相關(guān)強(qiáng)度的量，取值于-1和1之間。當(dāng)兩個(gè)變量有很強(qiáng)的線(xiàn)性相關(guān)時(shí)，相關(guān)系數(shù)接近于1（正相關(guān)）或-1（負(fù)相關(guān)），而當(dāng)兩個(gè)變量不那么線(xiàn)性相關(guān)時(shí)，相關(guān)系數(shù)就接近0。Pearson相關(guān)系數(shù)的局限性：①要求變量服從正態(tài)分布②只能度量線(xiàn)性相關(guān)性，對(duì)于曲線(xiàn)相關(guān)等更為復(fù)雜的情形，該相關(guān)系數(shù)的大小并不能代表相關(guān)性的強(qiáng)弱。如果Pearson系數(shù)很低，只能說(shuō)明兩變量之間沒(méi)有線(xiàn)性關(guān)系，并不能說(shuō)明兩者之間沒(méi)有相關(guān)關(guān)系。也就是說(shuō)，該指標(biāo)只能度量線(xiàn)性相關(guān)性，而不是相關(guān)性。（線(xiàn)性相關(guān)性隱含著相關(guān)性，而相關(guān)性并不隱含著線(xiàn)性相關(guān)性）另外：樣本中存在的極端值對(duì)Pearson相關(guān)系數(shù)的影響極大，因此要慎重考慮和處理，必要時(shí)可以對(duì)其進(jìn)行剔出，或者加以變量變換，以避免因?yàn)橐粌蓚€(gè)數(shù)值導(dǎo)致出現(xiàn)錯(cuò)誤的結(jié)論。Spearman秩相關(guān)系數(shù)

它和Pearson相關(guān)系數(shù)定義有些類(lèi)似，只不過(guò)在定義中把點(diǎn)的坐標(biāo)換成各自樣本的秩（即樣本點(diǎn)大小的“座次”）。,為兩變量各自對(duì)應(yīng)的秩，為對(duì)應(yīng)的秩之差。Spearman相關(guān)系數(shù)也是取值在-1和1之間，也有類(lèi)似的解釋。Spearman秩相關(guān)系數(shù)適用范圍：Spearman相關(guān)系數(shù)更多用于測(cè)量?jī)蓚€(gè)有序分類(lèi)變量之間的相關(guān)程度。對(duì)于適合Pearson相關(guān)系數(shù)的數(shù)據(jù)亦可計(jì)算Spearman相關(guān)系數(shù)，但統(tǒng)計(jì)效能要低一些。通過(guò)它也可以進(jìn)行不依賴(lài)于總體分布的非參數(shù)檢驗(yàn)。側(cè)重于兩個(gè)分類(lèi)變量均為有序分類(lèi)的情況。這里的度量原理是把所有的樣本點(diǎn)配對(duì)（如果每一個(gè)點(diǎn)由x和y的秩組成的坐標(biāo)(x,y)代表，一對(duì)點(diǎn)就是諸如(x1,y1)和(x2,y2)的點(diǎn)對(duì)），然后看每一對(duì)中的x和y的的秩的觀(guān)測(cè)值是否同時(shí)增加（或減少）。比如由點(diǎn)對(duì)(x1,y1)和(x2,y2)，可以算出乘積(x2-x1)(y2-y1)是否大于0；如果大于0，則說(shuō)明x和y同時(shí)增長(zhǎng)或同時(shí)下降，稱(chēng)這兩點(diǎn)協(xié)同（concordant）；否則就是不協(xié)同。如果樣本中協(xié)同的點(diǎn)數(shù)目多，兩個(gè)變量就更加正相關(guān)一些否則就更負(fù)相關(guān)些；如果樣本中不協(xié)同（discordant）與協(xié)同的點(diǎn)數(shù)差不過(guò)一樣多，兩個(gè)變量相關(guān)性就弱。Kendallτ

相關(guān)系數(shù)（Kendall’sτ

）Kendall’sτ統(tǒng)計(jì)量的數(shù)學(xué)定義為：Kendallτ

相關(guān)系數(shù)（Kendall’sτ

）U、V分別為協(xié)同和不協(xié)同的數(shù)目大樣本下采用的檢驗(yàn)統(tǒng)計(jì)量為：Z統(tǒng)計(jì)量近似服從標(biāo)準(zhǔn)正態(tài)分布人們可能會(huì)問(wèn)，上面的三種對(duì)相關(guān)的度量都是在其值接近1或-1時(shí)相關(guān)，而接近于0時(shí)不相關(guān)。到底如何才能夠稱(chēng)為“接近”呢？這很難一概而論。但在計(jì)算機(jī)輸出中都有和這些相關(guān)度量相應(yīng)的檢驗(yàn)和p-值；因此可以根據(jù)這些結(jié)果來(lái)判斷是否相關(guān)畫(huà)散點(diǎn)圖Graphs→Scatter選擇散點(diǎn)圖的類(lèi)型根據(jù)所選擇的散點(diǎn)圖類(lèi)型，單擊Define對(duì)散點(diǎn)圖作具體定義。計(jì)算相關(guān)系數(shù)Analyze→Correlate→Bivariate選擇參加計(jì)算的變量到Variable中在CorrelationCoefficents框中選擇計(jì)算哪種相關(guān)系數(shù)在TestofSignificance框中選擇輸出單尾還是雙尾p值選擇Flagsignificancecorrelations輸出星號(hào)標(biāo)記在Options中選擇其他描述統(tǒng)計(jì)量簡(jiǎn)單相關(guān)分析菜單簡(jiǎn)單相關(guān)分析實(shí)例：有50個(gè)從初中升到高中的學(xué)生。有他們?cè)诔跞透咭坏母骺破骄煽?jī)(數(shù)據(jù)在highschool.sav)。要求比較初三的成績(jī)是否和高中的成績(jī)相關(guān)。練習(xí)：利用數(shù)據(jù)SY-8.sav，對(duì)城鎮(zhèn)居民消費(fèi)額與人均國(guó)內(nèi)生產(chǎn)總值兩變量進(jìn)行相關(guān)分析。分析結(jié)果從運(yùn)行結(jié)果看,城鎮(zhèn)居民消費(fèi)額與人均國(guó)內(nèi)生產(chǎn)總值有很強(qiáng)的線(xiàn)形相關(guān)關(guān)系.本章內(nèi)容9.1相關(guān)分析9.2偏相關(guān)分析9.3線(xiàn)性回歸分析9.4曲線(xiàn)估計(jì)9.5二項(xiàng)Logistic回歸偏相關(guān)分析

簡(jiǎn)單相關(guān)分析計(jì)算兩個(gè)變量間的相關(guān)系數(shù)，分析兩個(gè)變量間線(xiàn)性關(guān)系的程度。往往因?yàn)榈谌齻€(gè)變量的作用，使相關(guān)系數(shù)不能真正反應(yīng)兩個(gè)變量間的線(xiàn)性程度。例如用簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)，可以得到肺活量與身高、體重均存在較強(qiáng)的線(xiàn)性關(guān)系，如果對(duì)體重相同的人，分析身高和肺活量，是否身高越高肺活量越大呢？因?yàn)樯砀吲c體重有線(xiàn)性關(guān)系，體重又與肺活量存在線(xiàn)性關(guān)系，因此，很容易得出身高與肺活量存在較強(qiáng)線(xiàn)性關(guān)系的錯(cuò)誤結(jié)論。

偏相關(guān)分析的任務(wù)就是在研究?jī)蓚€(gè)變量之間的線(xiàn)性相關(guān)關(guān)系時(shí)控制可能對(duì)其產(chǎn)生影響的變量。分析身高與肺活量之間的相關(guān)性，就要控制體重在相關(guān)分析中的影響。正確運(yùn)用偏相關(guān)分析，可以解釋變量間的真實(shí)關(guān)系，識(shí)別干擾變量并尋找隱含的相關(guān)性。偏相關(guān)系數(shù)的計(jì)算

控制了變量z，變量x、y之間的偏相關(guān)系數(shù)和控制了兩個(gè)變量，變量x、y之間的偏相關(guān)系數(shù)分別為

是控制了z的條件下，x、y之間的偏相關(guān)系數(shù)。是變量x、y間的簡(jiǎn)單相關(guān)系數(shù)。偏相關(guān)系數(shù)的檢驗(yàn)

檢驗(yàn)的零假設(shè)：兩個(gè)變量間的偏相關(guān)系數(shù)為0。使用t檢驗(yàn)，公式如下：r是相應(yīng)的偏相關(guān)系數(shù)。n是觀(guān)測(cè)個(gè)數(shù)，k是控制變量的數(shù)目，n-k-2是自由度。在SPSS的偏相關(guān)分析過(guò)程的輸出中只給出偏相關(guān)系數(shù)和假設(shè)成立的概率p值。偏相關(guān)分析的操作

與簡(jiǎn)單相關(guān)分析操作類(lèi)似，只不過(guò)菜單為Analyze→Correlate→Partial實(shí)例：利用數(shù)據(jù)相關(guān)回歸分析（高校科研研究）.sav，分析發(fā)表立項(xiàng)課題數(shù)與論文數(shù)之間的偏相關(guān)關(guān)系，其中投入高級(jí)職稱(chēng)的人數(shù)為控制變量。練習(xí)：利用數(shù)據(jù)data10-03.sav，分析中山柏月生長(zhǎng)量與4個(gè)氣候因素哪個(gè)因素有關(guān)。本章內(nèi)容9.1相關(guān)分析9.2偏相關(guān)分析9.3線(xiàn)性回歸分析9.4曲線(xiàn)估計(jì)9.5二項(xiàng)Logistic回歸線(xiàn)性回歸分析

線(xiàn)性回歸是統(tǒng)計(jì)分析方法中最常用的方法之一。如果所研究的現(xiàn)象有若干個(gè)影響因素，且這些因素對(duì)現(xiàn)象的綜合影響是線(xiàn)性的，則可以使用線(xiàn)性回歸的方法建立現(xiàn)象（因變量）與影響因素（自變量）之間的線(xiàn)性函數(shù)關(guān)系式。由于多元線(xiàn)性回歸的計(jì)算量比較大，所以有必要應(yīng)用統(tǒng)計(jì)分析軟件實(shí)現(xiàn)。這一節(jié)將專(zhuān)門(mén)介紹SPSS軟件的線(xiàn)性回歸分析的操作方法，包括求回歸系數(shù)，給出回歸模型的各項(xiàng)檢驗(yàn)統(tǒng)計(jì)量值及相應(yīng)的概率，對(duì)輸出結(jié)果的分析等相關(guān)內(nèi)容。線(xiàn)性回歸模型假設(shè)條件與模型的各種檢驗(yàn)1、線(xiàn)性回歸的假設(shè)理論（1）正態(tài)性假設(shè)：即所研究的變量均服從正態(tài)分布；（2）等方差假設(shè)：即各變量總體的方差是相等的；（3）獨(dú)立性假設(shè),即各變量之間是相互獨(dú)立的；（4）殘差項(xiàng)無(wú)自相關(guān)性，即誤差項(xiàng)之間互不相關(guān)，

Cov(i，j）=02、線(xiàn)性回歸模型的檢驗(yàn)項(xiàng)目（1）回歸系數(shù)的檢驗(yàn)（t檢驗(yàn)）。（2）回歸方程的檢驗(yàn)（F檢驗(yàn)）。（3）擬合程度判定（可決系數(shù)R2

）。（4）D.W檢驗(yàn)（殘差項(xiàng)是否自相關(guān)）。（5）共線(xiàn)性檢驗(yàn)（多元線(xiàn)性回歸）。（6）殘差圖示分析（判斷異方差性和殘差序列自相關(guān)）。

對(duì)初三和高一的各科平均成績(jī)這兩個(gè)變量的數(shù)據(jù)進(jìn)行線(xiàn)性回歸，就是要找到一條直線(xiàn)來(lái)適當(dāng)?shù)卮韴D中的那些點(diǎn)的趨勢(shì)。首先需要確定選擇這條直線(xiàn)的標(biāo)準(zhǔn)。這里介紹最小二乘回歸（leastsquaresregression）。古漢語(yǔ)“二乘”是平方的意思。這就是尋找一條直線(xiàn)，使得所有點(diǎn)到該直線(xiàn)的豎直距離的平方和最小。用數(shù)據(jù)尋找一條直線(xiàn)的過(guò)程也叫做擬合（fit）一條直線(xiàn)。根據(jù)計(jì)算，找到初三成績(jī)和高一成績(jī)的回歸直線(xiàn)。計(jì)算機(jī)輸出給出來(lái)截距（Constant）26.444和斜率(變量j3的系數(shù))0.651。截距=26.444;斜率=0.651這個(gè)直線(xiàn)實(shí)際上是對(duì)所假設(shè)的下面線(xiàn)性回歸模型的估計(jì)（這里的e

是隨機(jī)誤差）：我們得到的截距和斜率（26.444和0.651）是對(duì)b0和b1的估計(jì)。由于不同的樣本產(chǎn)生不同的估計(jì)，所以估計(jì)量是個(gè)隨機(jī)變量，它們也有分布，也可以用由他們構(gòu)造檢驗(yàn)統(tǒng)計(jì)量來(lái)檢驗(yàn)b0和b1是不是顯著。拿回歸主要關(guān)心的來(lái)說(shuō)，假設(shè)檢驗(yàn)問(wèn)題是計(jì)算機(jī)輸出也給出了這個(gè)檢驗(yàn)：t檢驗(yàn)統(tǒng)計(jì)量為9.089，而p-值為0.000。除了對(duì)b1的檢驗(yàn)之外，還有一個(gè)說(shuō)明自變量解釋因變量變化百分比的度量，叫做決定系數(shù)（coefficientofdetermination，也叫測(cè)定系數(shù)或可決系數(shù)），用R2表示。R2=0.632；這說(shuō)明這里的自變量可以大約解釋63％的因變量的變化。R2越接近1，回歸就越成功。由于R2有當(dāng)變量數(shù)目增加而增大的缺點(diǎn)，人們對(duì)其進(jìn)行修改；有一修正的R2（adjustedRsquare）。此外，計(jì)算機(jī)還計(jì)算了一個(gè)在零假設(shè)下有F分布的檢驗(yàn)統(tǒng)計(jì)量，它是用來(lái)檢驗(yàn)回歸擬合好壞的（零假設(shè)是因變量和自變量沒(méi)有關(guān)系）。和剛才簡(jiǎn)單的回歸模型類(lèi)似，一般的有k個(gè)（定量）自變量x1,x2…,xk的對(duì)因變量y的線(xiàn)性回歸模型為（稱(chēng)為多元回歸）這里b0,b1,…,bk稱(chēng)為回歸系數(shù)。對(duì)計(jì)算機(jī)來(lái)說(shuō)，計(jì)算多個(gè)自變量的回歸和計(jì)算一個(gè)自變量的情況類(lèi)似，計(jì)算機(jī)也會(huì)自動(dòng)輸出相應(yīng)的檢驗(yàn)結(jié)果。

用數(shù)據(jù)來(lái)擬合所選的一個(gè)模型時(shí)，并不一定所有的變量都顯著(并不一定所有的系數(shù)都有意義)。在多元回歸分析中，自變量的篩選一般有三種的策略和方法：

1.向前篩選法（Forward）。

2.向后篩選法（Backward）。

3.逐步回歸法（Stepwise）。各種方法的思路見(jiàn)課本P203。多元回歸中變量篩選問(wèn)題畫(huà)散點(diǎn)圖先做數(shù)據(jù)散點(diǎn)圖,觀(guān)測(cè)因變量與自變量之間關(guān)系是否有線(xiàn)性特點(diǎn)若散點(diǎn)圖的趨勢(shì)大概呈線(xiàn)性關(guān)系，可以建立線(xiàn)性回歸模型Analyze→Regression→Linear選擇因變量變量到Dependent中,因變量選入Independent.在Method框中選擇回歸分析自變量篩選策略。選擇一個(gè)變量作為條件變量放到SelectionVariable中，并單擊Rule給定一個(gè)判斷條件，只有變量值滿(mǎn)足給定條件才參與回歸分析。在CaseLables框中指定哪個(gè)變量作為樣本數(shù)據(jù)點(diǎn)的標(biāo)志變量，該變量的值將標(biāo)在回歸分析的輸出圖形中?；貧w分析基本操作線(xiàn)性回歸分析實(shí)例：利用數(shù)據(jù)相關(guān)回歸分析（高?？蒲醒芯浚?sav，分析發(fā)表立項(xiàng)課題數(shù)受那些因素的影響。練習(xí)：利用美國(guó)收入消費(fèi)數(shù)據(jù).sav，建立用消費(fèi)來(lái)預(yù)測(cè)收入的回歸方程。利用數(shù)據(jù)A商品需求多元回歸.sav

建立一個(gè)以居民人均收入、A商品單價(jià)為自變量，銷(xiāo)售量為因變量的回歸模型。A商品需求多元回歸要注意的值有3個(gè):adjustedRsquare,F,t由此得,回歸方程為Y=4.588+1.868X1-1.8X2t值(1.82)(6.93)(-2.455)本章內(nèi)容9.1相關(guān)分析9.2偏相關(guān)分析9.3線(xiàn)性回歸分析9.4曲線(xiàn)估計(jì)9.5二項(xiàng)Logistic回歸對(duì)于一元回歸，若散點(diǎn)圖的趨勢(shì)不呈線(xiàn)性分布，可以利用曲線(xiàn)估計(jì)方便地進(jìn)行線(xiàn)性擬合(liner)、二次擬合(Quadratic)、三次擬合(Cubic)等。不同模型的表示模型名稱(chēng)回歸方程相應(yīng)的線(xiàn)性回歸方程Linear(一元線(xiàn)性)Y=b0+b1tQuadratic(二次曲線(xiàn))Y=b0+b1t+b2t2Compound(復(fù)合曲線(xiàn))Y=b0(b1t)Ln(Y)=ln(b0)+ln(b1)tGrowth(增長(zhǎng)曲線(xiàn))Y=eb0+b1tLn(Y)=b0+b1tLogarithmic(對(duì)數(shù)曲線(xiàn))Y=b0+b1ln(t)Cubic(三次曲線(xiàn))Y=b0+b1t+b2t2+b3t3S曲線(xiàn)Y=eb0+b1/tLn(Y)=b0+b1/

tExponential(指數(shù)曲線(xiàn))Y=b0*

eb1*tLn(Y)=ln(b0)+b1tInverse(逆函數(shù))Y=b0+b1/tPower(冪函數(shù))Y=b0(tb1)Ln(Y)=ln(b0)+b1ln(t)Logistic(邏輯函數(shù))Y=1/(1/u+b0b1t)Ln(1/Y-1/u)=ln(b0+ln(b1)t)采用哪種擬合方式，可以畫(huà)散點(diǎn)圖判斷，但更主要的是取決于各種擬合模型對(duì)數(shù)據(jù)的充分描述(看修正AdjustedR2)曲線(xiàn)估計(jì)的基本操作Analyze→Regression→CurveEstimation選擇因變量變量到Dependent中。曲線(xiàn)估計(jì)的自變量可以是相關(guān)因素變量也可以是時(shí)間變量。如果自變量是相關(guān)因素變量，則選擇Variable選項(xiàng)，并把一個(gè)自變量指定到Independt里，如果是時(shí)間變量則選擇Time選項(xiàng)。在Models中選擇模型。選擇PlotModels選項(xiàng)繪制回歸線(xiàn)；選擇DisplayANOVAtable輸出各個(gè)模型的方差分析表和各回歸系數(shù)顯著性檢驗(yàn)結(jié)果。在Save中選擇要保存的數(shù)據(jù)。實(shí)例：數(shù)據(jù)相關(guān)回歸分析（年人均消費(fèi)支出和教育）.sav1.利用1990～2002年的數(shù)據(jù)，以年人均消費(fèi)性支出為自變量，教育支出為因變量擬合回歸模型。2.利用1981～2002年居民在外就餐消費(fèi)的數(shù)據(jù)，對(duì)居民未來(lái)在外就餐的趨勢(shì)進(jìn)行分析和預(yù)測(cè)。練習(xí)：利用數(shù)據(jù)居民收入支出情況，以人均生活費(fèi)收入為自變量，人均生活費(fèi)支出為因變量擬合回歸模型。曲線(xiàn)估計(jì)本章內(nèi)容9.1相關(guān)分析9.2偏相關(guān)分析9.3線(xiàn)性回歸分析9.4曲線(xiàn)估計(jì)9.5二項(xiàng)Logistic回歸在現(xiàn)實(shí)中，經(jīng)常需要判斷一些事情是否將要發(fā)生，候選人是否會(huì)當(dāng)選？為什么一些人易患冠心??？為什么一些人的生意會(huì)獲得成功？此問(wèn)題的特點(diǎn)是因變量只有兩個(gè)值，不發(fā)生(0)和發(fā)生(1)。這時(shí)，就無(wú)法直接采用一般線(xiàn)性回歸模型來(lái)分析了。Logistic（邏輯）回歸模型

設(shè)某一事件