第八章相關分析和回歸分析

第八章SPSS相關分析與回歸分析8.2.4相關分析應用舉例

為研究高等院校人文社會科學研究中立項課題數(shù)會受哪些因素的影響，收集1999年31個省市自治區(qū)部分高校有關社科研究方面的數(shù)據(jù)，研究立項課題數(shù)（當年）與投入的具有高級職稱的人年數(shù)（當年）、發(fā)表的論文數(shù)（上年）之間是否具有較強的線性關系。8.3偏相關分析8.3.1偏相關分析和偏相關系數(shù)

上節(jié)中的相關系數(shù)是研究兩變量間線性相關性的，若還存在其他因素影響，就相關系數(shù)本身來講，它未必是兩變量間線性相關強弱的真實體現(xiàn)，往往有夸大的趨勢。例如，在研究商品的需求量和價格、消費者收入之間的線性關系時，需求量和價格之間的相關關系實際還包含了消費者收入對價格和商品需求量的影響。在這種情況下，單純利用相關系數(shù)來評價變量間的相關性顯然是不準確的，而需要在剔除其他相關因素影響的條件下計算變量間的相關。偏相關的意義就在于此。偏相關分析也稱凈相關分析，它在控制其他變量的線性影響的條件下分析兩變量間的線性關系，所采用的工具是偏相關系數(shù)。控制變量個數(shù)為1時，偏相關系數(shù)稱一階偏相關；當控制兩個變量時，偏相關系數(shù)稱為二階偏相關；當控制變量的個數(shù)為0時，偏相關系數(shù)稱為零階偏相關，也就是簡單相關系數(shù)。利用偏相關系數(shù)進行分析的步驟第一，計算樣本的偏相關系數(shù)假設有三個變量y、x1和x2，在分析x1和y之間的凈相關時，當控制了x2的線性作用后，x1和y之間的一階偏相關定義為：

偏相關系數(shù)的取值范圍及大小含義與相關系數(shù)相同。第二，對樣本來自的兩總體是否存在顯著的凈相關進行推斷檢驗統(tǒng)計量為：其中，r為偏相關系數(shù)，n為樣本數(shù)，q為階數(shù)。T統(tǒng)計量服從n-q-2個自由度的t分布。8.3.2偏相關分析的基本操作1.選擇菜單Analyze－Correlate－Partial2.把參與分析的變量選擇到Variables框中。3.選擇一個或多個控制變量到Controllingfor框中。4.在TestofSignificance框中選擇輸出偏相關檢驗的雙尾概率p值或單尾概率p值。5.在Option按鈕中的Statistics選項中，選中Zero-orderCorrelations表示輸出零階偏相關系數(shù)。至此，SPSS將自動進行偏相關分析和統(tǒng)計檢驗，并將結果顯示到輸出窗口。8.3.3偏相關分析的應用舉例上節(jié)中研究高校立項課題總數(shù)影響因素的相關分析中發(fā)現(xiàn)，發(fā)現(xiàn)立項課題數(shù)與論文數(shù)之間有較強正線性相關關系，但應看到這種關系中可能摻入了投入高級職稱的人年數(shù)的影響，因此，為研究立項課題總數(shù)和發(fā)表論文數(shù)之間的凈相關系數(shù)，可以將投入高級職稱的人年數(shù)加以控制，進行偏相關分析。8.4線性回歸分析8.4.1線性回歸分析概述線性回歸分析的內容能否找到一個線性組合來說明一組自變量和因變量的關系如果能的話，這種關系的強度有多大，也就是利用自變量的線性組合來預測因變量的能力有多強整體解釋能力是否具有統(tǒng)計上的顯著性意義在整體解釋能力顯著的情況下，哪些自變量有顯著意義回歸分析的一般步驟確定回歸方程中的解釋變量（自變量）和被解釋變量（因變量）確定回歸方程對回歸方程進行各種檢驗利用回歸方程進行預測多元線性回歸模型多元線性回歸方程：y=β0+β1x1+β2x2+...+βkxkβ1、β2、βk為偏回歸系數(shù)。β1表示在其他自變量保持不變的情況下，自變量x1變動一個單位所引起的因變量y的平均變動。對于多元線性回歸方程：

在多元線性回歸分析中，引起判定系數(shù)增加的原因有兩個：一個是方程中的解釋變量個數(shù)增多，另一個是方程中引入了對被解釋變量有重要影響的解釋變量。如果某個自變量引入方程后對因變量的線性解釋有重要貢獻，那么必然會使誤差平方和顯著減小，并使平均的誤差平方和也顯著減小，從而使調整的判定系數(shù)提高。所以在多元線性回歸分析中，調整的判定系數(shù)比判定系數(shù)更能準確的反映回歸方程的擬合優(yōu)度。8.4.3.4殘差分析

殘差是指由回歸方程計算得到的預測值與實際樣本值之間的差距，定義為：

對于線性回歸分析來講，如果方程能夠較好的反映被解釋變量的特征和規(guī)律性，那么殘差序列中應不包含明顯的規(guī)律性。殘差分析包括以下內容：殘差服從正態(tài)分布，其平均值等于0；殘差取值與X的取值無關；殘差不存在自相關；殘差方差相等。

1、對于殘差均值和方差齊性檢驗可以利用殘差圖進行分析。如果殘差均值為零，殘差圖的點應該在縱坐標為0的中心的帶狀區(qū)域中隨機散落。如果殘差的方差隨著解釋變量值（或被解釋變量值）的增加呈有規(guī)律的變化趨勢，則出現(xiàn)了異方差現(xiàn)象。2、DW檢驗。DW檢驗用來檢驗殘差的自相關。檢驗統(tǒng)計量為：

DW=2表示無自相關，在0-2之間說明存在正自相關，在2-4之間說明存在負的自相關。一般情況下，DW值在1.5-2.5之間即可說明無自相關現(xiàn)象。8.4.3.5多重共線性分析

多重共線性是指解釋變量之間存在線性相關關系的現(xiàn)象。測度多重共線性一般有以下方式：1、容忍度：其中，是第i個解釋變量與方程中其他解釋變量間的復相關系數(shù)的平方，表示解釋變量之間的線性相關程度。容忍度的取值范圍在0-1之間，越接近0表示多重共線性越強，越接近1表示多重共線性越弱。2、方差膨脹因子VIF。方差膨脹因子是容忍度的倒數(shù)。VIF越大多重共線性越強，當VIF大于等于10時，說明存在嚴重的多重共線性。

8.4.3線性回歸分析的基本操作（1）選擇菜單Analyze－Regression－Linear，出現(xiàn)窗口：（2）選擇被解釋變量進入Dependent框。（3）選擇一個或多個解釋變量進入Independent(s)框。（4）在Method框中選擇回歸分析中解釋變量的篩選策略。其中Enter表示所選變量強行進入回歸方程，是SPSS默認的策略，通常用在一元線性回歸分析中；Remove表示從回歸方程中剔除所選變量；Stepwise表示逐步篩選策略；Backward表示向后篩選策略；Forward表示向前篩選策略。注：多元回歸分析中，變量的篩選一般有向前篩選、向后篩選、逐步篩選三種基本策略。向前篩選（Forward

）策略：解釋變量不斷進入回歸方程的過程。首先，選擇與被解釋變量具有最高線性相關系數(shù)的變量進入方程，并進行回歸方程的各種檢驗；然后，在剩余的變量中尋找與被解釋變量偏相關系數(shù)最高且通過檢驗的變量進入回歸方程，并對新建立的回歸方程進行各種檢驗；這個過程一直重復，直到再也沒有可進入方程的變量為止。向后篩選（Backward

）策略：變量不斷剔除出回歸方程的過程。首先，所有變量全部引入回歸方程，并對回歸方程進行各種檢驗；然后，在回歸系數(shù)顯著性檢驗不顯著的一個或多個變量中，剔除t檢驗值最小的變量，并重新建立回歸方程和進行各種檢驗；如果新建回歸方程中所有變量的回歸系數(shù)檢驗都顯著，則回歸方程建立結束。否則按上述方法再一次剔除最不顯著的變量，直到再也沒有可剔除的變量為止。逐步篩選（Stepwise

）策略：在向前篩選策略的基礎上結合向后篩選策略，在每個變量進入方程后再次判斷是否存在應該剔除出方程的變量。因此，逐步篩選策略在引入變量的每一個階段都提供了再剔除不顯著變量的機會。（5）第三和第四步中確定的解釋變量及變量篩選策略可放置在不同的塊（Block）中。通常在回歸分析中不止一組待進入方程的解釋變量和相應的篩選策略，可以單擊Next和Previous按鈕設置多組解釋變量和變量篩選策略并放置在不同的塊中。（6）選擇一個變量作為條件變量放到Selection

Variable框中，并單擊Rule按鈕給定一個判斷條件。只有變量值滿足判定條件的樣本才參與線性回歸分析。（7）在CaseLabels框中指定哪個變量作為樣本數(shù)據(jù)點的標志變量，該變量的值將標在回歸分析的輸出圖形中。8.4.4線性回歸分析的其他操作1、Statistics按鈕，出現(xiàn)的窗口可供用戶選擇更多的輸出統(tǒng)計量。（1）Estimates：SPSS默認輸出項，輸出與回歸系數(shù)相關的統(tǒng)計量。包括回歸系數(shù)（偏回歸系數(shù)）、回歸系數(shù)標準誤差、標準化回歸系數(shù)、回歸系數(shù)顯著性檢驗的t統(tǒng)計量和概率p值，各解釋變量的容忍度。（2）ConfidenceIntervals：輸出每個非標準化回歸系數(shù)95％的置信區(qū)間。（3）Descriptive：輸出各解釋變量和被解釋變量的均值、標準差、相關系數(shù)矩陣及單側檢驗概率p值。（4）Modelfit：SPSS默認輸出項，輸出判定系數(shù)、調整的判定系數(shù)、回歸方程的標準誤差、回歸方程顯著F檢驗的方程分析表。（5）Rsquaredchange：輸出每個解釋變量進入方程后引起的判定系數(shù)的變化量和F值的變化量。（6）Partandpartialcorrelation：輸出方程中各解釋變量與被解釋變量之間的簡單相關、偏相關系數(shù)。（7）Covariancematrix：輸出方程中各解釋變量間的相關系數(shù)、協(xié)方差以及各回歸系數(shù)的方差。（8）CollinearityDiagnostics：多重共線性分析，輸出各個解釋變量的容忍度、方差膨脹因子、特征值、條件指標、方差比例等。（9）在Residual框中：Durbin-waston表示輸出DW檢驗值；CasewiseDiagnostic表示輸出標準化殘差絕對值大于等于3（SPSS默認值）的樣本數(shù)據(jù)的相關信息，包括預測值、殘差、杠桿值等。2、Options選項，出現(xiàn)的窗口可供用戶設置多元線性回歸分析中解釋變量篩選的標準以及缺失值的處理方式。3、Plot選項，出現(xiàn)的窗口用于對殘差序列的分析。（1）窗口左邊框中各變量名的含義是：DEPENDNT表示被解釋變量，*ZPRED表示標準化預測值，*ZRESID表示標準化殘差，*DRESID表示剔除殘差，*ADJPRED表示調整的預測值，*SRESID表示學生化殘差，*SDRESID表示剔除學生化殘差。（2）繪制多對變量的散點圖，可根據(jù)需要在scatter框中定義散點圖的縱坐標和橫坐標變量。（3）在StandardizedResidualPlots框中選擇Histogram選項繪制標準化殘差序列的直方圖；選擇Normalprobabilityplot繪制標準化殘差序列的正態(tài)分布累計概率圖。選擇Produceallpartial

plots選項表示依次繪制被解釋變量和各個解釋變量的散點圖。4、Save選項，該窗口將回歸分析的某些結果以SPSS變量的形式保存到數(shù)據(jù)編輯窗口中，并可同時生成XML格式的文件，便于分析結果的網(wǎng)絡發(fā)布。（1）PredictedValues框中：保存非標準化預測值、標準化預測值、調整的預測值和預測值的均值標準誤差。（2）Distance框中：保存均值或個體預測值95％（默認）置信區(qū)間的下限值和上限值。（3）Residual框中：保存非標準化殘差、標準化殘差等。（4）InfluenceStatistics框中：保存剔除第i個樣本后統(tǒng)計量的變化量。5、WSL選項，采用加權最小二乘法替代普通最小二乘法估計回歸參數(shù)，并指定一個變量作為權重變量。以高?？蒲醒芯繑?shù)據(jù)為例，建立回歸方程研究

1、課題總數(shù)受論文數(shù)的影響2、以課題總數(shù)為被解釋變量，解釋變量為投入人年數(shù)（X2）、受投入高級職稱的人年數(shù)（X3）、投入科研事業(yè)費（X4）、專著數(shù)（X6）、論文數(shù)（X7）、獲獎數(shù)（X8）。（1）解釋變量采用強制進入策略（Enter），并做多重共線性檢測。（2）解釋變量采用向后篩選策略讓SPSS自動完成解釋變量的選擇。（3）解釋變量采用逐步篩選策略讓SPSS自動完成解釋變量的選擇。

8.4.5應用舉例1、為研究收入和支出的關系，收集1978-2002年我國的年人均可支配收入和年人均消費性支出數(shù)據(jù)，研究收入與支出之間是否具有較強的線性關系。2、以年人均支出和教育數(shù)據(jù)為例，建立回歸方程研究年人均消費支出、恩格爾系數(shù)、在外就餐、教育支出、住房人均使用面積受年人均可支配收入的影響。練習8.5曲線估計8.5.1曲線估計概述變量間的相關關系中，并不總是表現(xiàn)出線性關系，非線性關系也是極為常見的。變量之間的非線性關系可以劃分為本質線性關系和本質非線性關系。本質線性關系是指變量關系形式上雖然呈非線性關系，但可通過變量變換為線性關系，并最終可通過線性回歸分析建立線性模型。本質非線性關系是指變量關系不僅形式上呈非線性關系，而且也無法變換為線性關系。本節(jié)的曲線估計是解決本質線性關系問題的。常見的本質線性模型有：1、二次曲線（Quadratic），方程為，變量變換后的方程為2、復合曲線（Compound），方程為，變量變換后的方程為3、增長曲線（Growth），方程為，變量變換后的方程為4、對數(shù)曲線（Logarithmic），方程為，變量變換后的線性方程為5、三次曲線（Cubic），方程為，變量變換后的方程為6、S曲線（S），方程為，變量變換后的方程為7、指數(shù)曲線（Exponential），方程為，變量變換后的線性方程為8、逆函數(shù)（Inverse），方程為變量變換后的方程為9、冪函數(shù)（Power），方程為變量變換后的方程為10、邏輯函數(shù)（Logistic），方程為變量變換后的線性方程為

SPSS曲線估計中，首先，在不能明確究竟哪種模型更接近樣本數(shù)據(jù)時，可在多種可選擇的模型中選擇幾種模型；然后SPSS自動完成模型的參數(shù)估計，并輸出回歸方程顯著性檢驗的F值和概率p值、判定系數(shù)R2等統(tǒng)計量；最后，以判定系數(shù)為主要依據(jù)選擇其中的最優(yōu)模型，并進行預測分析等。另外，SPSS曲線估計還可以以時間為解釋變量實現(xiàn)時間序列的簡單回歸分析和趨勢外推分析。8.5.2曲線估計的基本操作可通過繪制并觀察樣本數(shù)據(jù)的散點圖粗略確定被解釋變量和解釋變量之間的相關關系，為曲線擬合中的模型選擇提供依據(jù)。SPSS曲線估計的基本操作步驟是：（1）選擇菜單Analyze－Regression－CurveEstimation，出現(xiàn)窗口如下頁所示。（2）把被解釋變量選到Dependent框中。（3）曲線估計中的解釋變量可以是相關因素變量也可是時間變量。如果解釋變量為相關因素變量，則選擇Variable選項，并把一個解釋變量指定到Independent框；如果選擇Time參數(shù)則表示解釋變量為時間變量。（4）在Models中選擇幾種模型。（5）選擇PlotModels選項繪制回歸線；選擇DisplayANOVAtable輸出各個模型的方差分析表和各回歸系數(shù)顯著性檢驗結果。至此，完成了曲線估計的操作，SPSS將根據(jù)選擇的模型自動進行曲線估計，并將結果顯示到輸出窗口中。8.5.3應用