實驗四直線回歸與相關1

1、精品文檔試驗四一元線性相關與回歸分析試驗目的：1 .了解相關與回歸的概念。2 .熟悉散點圖的繪制并判斷兩變量間的線性趨勢、直線相關分析。3 .掌握簡單線性回歸分析?；疽螅赫莆战⒅本€回歸方程的方法?；驹恚焊鶕本€回歸方程，將依變量y的總變異分解為由x變異引起的變異和誤差所引起的變異兩部分，分別計算各變異的平方和與自由度。試驗內容：1 .兩個變量間的相關分析2 .多個變量間的相關分析3 .一元線性回歸分析重點：本章重點是掌握建立一元線性回歸方程的方法，理解方差分析與t檢驗對方程及回歸系數進行假設檢驗的基本思想。難點：本章難點是直線相關的概念、相關系數的意義，相關系數的計算。1 .相關分析

2、的基本原理一般來說現象之間的相互關系可以分為兩種，一種是函數關系，另一種是相關關系。函數關系是指變量之間存在的相互依存的關系，它們之間的關系值是確定的。相關關系是兩個現象數值變化不完全確定的依存關系。兩變量間的相關分析就是研究兩變量間線性相關程度并用適當的統(tǒng)計指標表示出來的一種常用統(tǒng)計方法。按相關的程度分，有完全相關、不完全相關和不相關；按相關的性質分，有正相關和負相關。測定變量之間線性相關程度和相關方向的統(tǒng)計指標是相關系數，同時要對相關系數的顯著性檢驗。2 .SPSS實現過程例12-10為研究某種化肥對農作物產量的影響，選取了10塊條件基本相同的地塊進行試驗得到施肥量與農作物的畝產量，試求農

3、作物畝產量對施肥量的回歸直線方程。數據（如表12-6所示）。表12-6地塊編號12345678910施肥量x（kg）245881011131415畝產量y（kg）253294298360348366410401443437（1）把“畝產量”設為因變量y,“施肥量”設為自變量x。在Analyze（分析）菜單中選擇Correlate（相關分析）中的Bivariate（兩個變量相關分析）命令。彈出BivariateCorrelations（兩個變量相關）對話框（如圖12-56所示）。圖12-56（2）選擇進行相關分析的變量?，F欲分析畝產量與施肥量的相關關系，故在BivariateCorrelatio

4、ns（兩個變量相關）對話框左側的變量列表中選“畝產量”和“施肥量”，使之進入Variables（變量）框。1）設定相關系數的類型。CorrelationCoefficient（相關系數）復選框組包含了3個復選框，對應3種相關系數的類型。Pearson儂爾遜）復選框：此項為默認設置。本例中的畝產量與施肥量兩個變量為等距變量，其數據可進行加減運算，因此采用該設置，計算相關系數，Kendall'stua-b（肯德爾）復選框：等級相關系數，是一個用反映分類變量一致性的指標，只能在兩個變量均屬于有序分類時使用：Spearman撕皮爾曼）復選框：是最常用的無參數相關分析。2）確定雙尾檢驗還是單尾檢

5、驗。在TestofSignificance（顯著性檢驗）框中，選擇單選鈕Tow-tailed（雙側）表示選擇雙尾檢驗，選擇單選鈕One-tailed（單側）表示選擇單尾檢驗。默認設置將對相關顯著性進行雙尾檢驗，本例采用默認設置。3）是否突出顯示相關是否顯著。選擇復選框Flagsignificantcorrelations（標識顯著相關），在輸出結果中將用“*”號標記有統(tǒng)計學意義的相關系數，P<0.05的系數值旁會標記一個星號，P<O.01的則標記兩個星號。默認設置選中該項，本例采用默認設置。（3）指定輸出內容和缺失值處理方法。單擊BivariateCorrelations（兩個變量

6、相關）對話框中的Options（選項）按鈕，彈出BivariateCorrelationsOptions（兩個變量相關選項）對話框。1） Statistics（統(tǒng)計）復選框組：選擇要輸出的統(tǒng)計量。Meansandstandarddeviations（平均值和標準差）：Cross-productdeviationsandcovariances（產品交叉離差和協方差）復選框：輸出各對變量的離均差平方和以及協方差陣。2） MissingValues（缺失值）單選框組：指定對缺失值的處理方法。本例采用默認設置。Excludescasespairwise（排除因變量和自變量均有缺失值觀測量）單選鈕：在分

7、析過程中遇到缺失值時將缺失值排除在數據分析之外；Excludescaseslistwise（排除因變量或自變量有缺失值觀測量）單選鈕：只要相關變量有缺失值，則在所有分析中都將該記錄去除（如圖12-57所示）。圖12-573）最后單擊Continue（繼續(xù)）按鈕，返回BivariateCorrelations（兩個變量相關）對話框。（4）所有設置確認無誤后，單擊OK按鈕，得到輸出結果。4.結果解讀SPSS的兩變量間的相關分析（Bivariate）的結果比較簡單，輸出結果中只有一個描述性統(tǒng)計量表和一個各變量間的相關關系表。如果進行相關分析的變量是兩個以上，輸出時會分別顯示兩兩變量間的相關關系（如圖

8、12-58所示）。FM_|-VIWI巳Notes南DescriptiveStatistics國Correlations田產里施肥量田產室PearsanCorrelationSig.(2-taiied)SunnofSquaresandCross-praductsCovarianceN施肥量PearconCorrelationSig.tailed)Sum討SquaresandCross-praductsCovariantsN.00024B6.000276.22210*.Correlationissignificantatthe0.01levelJdI觴標推?5P55處理器淮備就緒2J圖12-58(

9、1)輸出結果文件中的第一個表格：描述性統(tǒng)計量表。從表中可知，參與分析的兩個變量的樣本數都為10,畝產量的均值為361(kg),標準差為63.96;施肥量的均值為9(kg),標準差為4.397。(2)輸出結果文件中的第二個表格：相關系數及顯著性檢驗結果表。從表中可知，畝產量和施肥量的相關系數r=0.982顯著性水平為0.000(Sig.(2-tailed),因此在相關系數旁以兩個“*”號進行標識，畝產量和施肥量的相關性十分顯著。SPSS回歸實例講解例12-12以例12-10為例，為研究某種化肥對農作物產量的影響，選取了10塊條件基本相同的地塊進行試驗得到施肥量與農作物的畝產量，試求農作物畝產量對

10、施肥量的回歸直線方程。數據(如表12-8所示)。表12-8某種化肥對農作物產量影響表地塊編號12345678910施肥量x(kg)245881011131415畝產量y(kg)253294298360348366410401443437(1)在Analyze(分析)菜單中選擇Regression(回歸分析)中的Linear(線性)命令(如圖12-62所示)。圖12-62（2）在彈出的linearRegression（線性回歸）對話框中，從對話框左側的變量列表中選擇“畝產量”，單擊“一”按鈕使之添加到Dependent（因變量）框中，表示該變量是因變量V；選擇“施肥量”，單擊“一”按鈕使之添加到

11、Independent（s）（自變量）框中，表示其為自變量X。1） SPST般默認在回歸分析中只有一組可進入回歸方程的自變量和相應的篩選方法。當有多組自變量和與其相對應的多種不同的變量篩選方法時，可以通過使用Previous（先前的）和Next（下一步）按鈕將它們放置在不同的Block（塊）中。具體操作執(zhí)行的步驟如下：SPSS從當前Block（塊）（默認為1）開始，提取自變量和相應的變量篩選方法對回歸方程進行擬合；自動提取下一塊中的自變量組和相應的變量篩選方法，在上一個回歸方程的基礎上再次進行擬合，直到結束。在Method（方法）框中可以選擇多元線性回歸分析的自變量篩選方法選項如下（如圖12-

12、63所示）。圖12-63Enter選項：強行進入法，表示所選自變量全部進入回歸模型，該選項是SPSS默認的方式。 Stepwise選項：逐步進入法，表示向前選擇變量法和向后剔除變量法的結合。根據在Option對話框中所設定的判據，首先根據方差分析結果選擇符合判據的自變量且與因變量相關程度最高的進入回歸方程。根據向前選擇變量法選入自變量，然后根據向后剔除法，將模型中F值最小的且符合剔除判據的變量剔除出模型，重復進行直到回歸方程中的自變量均符合進入模型的判據，模型外的自變量都不符合進入模型的判據為止。 Remove選項：消去法，表示建立回歸方程時，根據設定的條件從回歸方程中剔除部分自變量。 Bac

13、kward選項：向后剔除法，根據在Option（選項）對話框中所設定的判據，先建立全模型，然后根據設置的判據，每次剔除一個使方差分析中的F值最小的自變量，直到回歸方程中不再含有不符合判據的自變量為止。 Forward選項：向前選擇法，根據在Option（選項）對話框中所設定的判據，從無自變量開始，在擬合過程中，對被選擇的自變量進行方差分析，每次加入一個F值最大的變量，直至所有符合判據的變量都進入模型為止（第一個引入模型的自變量應該與因變量間相關系數的絕對值最大）。2） SelectionVariable（選擇變量）框用來對樣本數據進行篩選，挑選滿足一定條件的樣本數據進行線性回歸分析。3） Ca

14、seLabels（觀測量標簽）框用來表示作圖時，以哪個變量作各樣本數據點標志變量。4） WSLWeight（加權）選項是存在異方差時，利用加權最小二乘法替代普通最小二乘法估計回歸模型參數。通過WSL可以選定一個變量作為權重變量。在實際問題中，如果無法自行確定權重變量，可以用SPSS的權重估計來實現。（3）單擊Statistics（統(tǒng)計）按鈕將打開LinearRegression（線性回歸）：Statistics（統(tǒng)計）對話框，用來選擇輸出哪些統(tǒng)計量。選項（如圖12-64所示）。圖12-641） RegressionCoefficients（回歸系數）：Estimates（估計）輸出與回歸系數相

15、關統(tǒng)計量。如回歸系數、回歸系數的標準誤差、標準回歸系數、t統(tǒng)計量和相應的相伴概率值（Sig）、各自變量的容忍度等；Confidenceintervals（信賴區(qū)間）輸出每一個非標準化回歸系數95%的可信區(qū)間；Covariancematrix（協方差矩陣）輸出方程中各自變量間相關系數矩陣和各變量協方差矩陣；Modelfit（模型擬合）：輸出判定系數、調整的判定系數、回歸方程的標準誤差，F檢驗的ANOVA方差分析表。該選項為默認選項；Rsquaredchange：（R平方變化）表示當回歸方程中引入或剔除一個自變量后R2、F值產生的變化量；Descriptives（描述）輸出自變量和因變量的均值、標

16、準差、相關系數矩陣及單側檢驗概率；Partandpartialcorrelation（部分和偏相關）輸出方程中各自變量與因變量之間的簡單相關系數、偏相關系數與部分相關系數；Collinearitydiagnostics（共線形診斷）多重共線形分析，輸出各自變量的容限度、方差膨脹因子、最小容忍度、特征值、條件指標、方差比例等。據統(tǒng)計分析與SPSS應用2） Residuals（殘差）欄是有關殘差分析的選擇項：Durbin-Watson：輸出Durbin-Watson檢驗值；Casewisediagnostics（診斷）：輸出標準化殘差絕對值3（SPSS默認值）的樣本數據點的相關信息，包括：標準化殘

17、差、觀測值、預測值、殘差。另外，還輸出最小預測值、最小殘差、最大預測值、最大殘差、最小標準化預測值、最小標準化殘差、最大標準化預測值、最大標準化殘差以及關于預測值、殘差、標準預測值、標準殘差的均值和標準差。其中：Outliersoutsidestandarddevistion（分離到外部）用來設置奇異值判據。默認為3倍標準差。Allcase（所有觀測量）輸出所有樣本數據的有關殘差值。（4）單擊LinearRegression（線性回歸）對話框中的Plots（繪圖）按鈕，打開對話框。該對話框用來設置對殘差序列作圖形分析，從而檢驗殘差序列的正態(tài)性、隨機性和是否存在異方差現象（默認情況下，不輸出圖形

18、）。1）在左上角的變量框中，選擇DEPENDENT（因變量）使之添加到X或丫軸變量框，再選擇其他變量使之添加到Y或X軸變量框?？梢宰鳛檩S變量的，其余參數如以下：DEPENDENT選項：因變量；ZPRED選項：標準化預測值；ZRESID選項：標準化殘差；DRESID選項：剔除殘差；ADJPRED選項：修正后預測值；SRESID選項：學生化殘差；SDRESID選項：學生化剔除殘差。2） StandardizedResidualPlots（標準化殘差圖）欄中可選擇使用直方圖正態(tài)概率圖：Histogram（直方圖）輸出帶有正態(tài)曲線的標準化殘差的直方圖；Normalprobabilityplot（正態(tài)概

19、率圖）檢查殘差的正態(tài)性。3） Produceallpartialplots（產生所有的偏差圖）選項，輸出每個自變量殘差相對于因變量殘差散布圖（如圖12-65所示）。圖12-65（5）單擊LinearRegression（線性回歸）對話框中的Save（保存）按鈕，打開對話框。在該對話框中能夠設置將回歸分析的結果保存到SPSSa據編輯窗口的變量中，或是某個SPSS的數據文件中。1） PredictedValues（預測值）預測值欄中選項如下：Unstandardized（不標準化）保存非標準化預測值；Standardized（標準化）保存標準化預測值；Adjusted（調整）保存調節(jié)預測值；S.E

20、.ofmeanpredictions（平均標準誤差預測）保存預測值得標準誤差。2） Distances（距離）欄中選項如下：Mahalanobis：保存Mahalanobis距離；Cook's：保存Cook距離；Leveragevalues：保存中心點杠桿值。3） PredictionIntervals（預測區(qū)間）欄中選項如下：Mean（平均值）保存預測區(qū)間高低限的平均值；Individual（單值）保存一個觀測量上限與下限的預測區(qū)間；ConfidenceInterval（信賴區(qū)間）可確定置信區(qū)間，默認值為95%。4） Residuals（殘差）欄中選項如下：Unstandardize

21、d（不標準化）保存非標準化殘差；Stadardized（標準化）標準化殘差；Studentized（學生化）學生化殘差；Deleted（刪除）剔除殘差；Stundentizeddeleted（學生化刪除）學生剔除殘差。5） InfluenceStatistics（影響統(tǒng)計量）欄中選項如下：DfBeta（s）：因排除一個特定的觀測值所引起的回歸系數的變化。一般情況下，該值如果大于2,則被排除的觀測值有可能是影響點；StanardizedDfBeta（s）（標準化的DfBeta）值；DfFit：因排除一個特定的觀測值所引起的預測值的變化；StandardizedDfFit：標準化的DfFit值；C

22、ovarianceratio（協方差比率）：剔除一個影響點觀測量的協方差矩陣與全部觀測量的協方差矩陣比。6） SavetoNewFile（保存到新的文件）欄中，選中CoefficientsStatistics（系數統(tǒng)計）選項，可將回歸系數結果保存到一個指定的文件中。7） ExportmodelinformationtoXMLfile（輸出模型信息到XML文件）欄，表示將模型的有關信息輸出到一個XML型文件中（如圖12-66所示）。圖12-66（6）單擊LinearRegression（線性回歸）對話框中的Options（選項）命令，打開對話框。在該對話框中可以對多元線性回歸分析中與自變量的篩選

23、有關的參數進行設定，同時也可以設置對缺失值采用不同的處理方法。1） SteppingMethodCriteria（逐步方法標準）：用于設定與多元線性回歸分析中自變量的篩選有關的參數。UseprobalitlityofF（使用F分布的概率）：SPSS默認以回歸系數顯著性檢驗中各自變量的F統(tǒng)計量的相伴概率作為自變量是否引入模型或者從模型剔除的標準： Entry（進入）（默認值為0.05）表示當一個自變量的F統(tǒng)計量的相伴概率值Sig<0.05時，應拒絕H0,認為該變量對因變量影響是顯著的，應被引入回歸方程中。 Removal（移除）（默認值為0.10）表示如果當方程中一個自變量的F統(tǒng)計量的相伴

24、概率值Sig>0.10時，則不能拒絕H0,可以認為該變量對因變量影響是不顯著的，應從回歸方程剔除。注意：在實際應用中，用戶可以根據具體情況修改這兩個參數。但應使Entry（進入）值小于Remove（剔除）值。否則，自變量一進入方程就會被立即剔除。UseFvalue（使用F值）：表示以回歸系數顯著性檢驗中的各自變量的F統(tǒng)計量作為自變量進入模型或從模型剔除的標準： Entry（默認值為3.84）表示當一個變量的F值3.84時，該變量被選入模型中。 Removal（默認值為2.71）表示當一個變量F值2.71時，該變量從模型中被剔除。2） Includeconstantinequation（在

25、方程式中包含常量）：表示在回歸方程中將包含常數項，該選項為默認MissingValues（缺失值）欄是對缺失值的處理欄：Excludecaseslistwise（排除因變量或自變量有缺失值的觀測量）：表示刪除所有帶缺失值的樣本數據；Excludecasespairwise（排除因變量或自變量均有缺失值的觀測量）：表示如果計算過程涉及到某個有缺失值的變量，則暫時刪除那些在該變量上是缺失值的個案；Replacewithmean（用平均值替換）：表示將所有變量的缺失值都以相應變量的均值代替。由于本研究問題是簡單的一元線性回歸問題，因此在以上諸多選項中只選擇默認的選項和各選項的默認值即可。（如圖12-

26、67所示）。圖12-67（7）單擊OK按鈕，即可得到SPSS回歸分析的結果。5.結果解讀SPSS的一元線性回歸分析的輸出結果中共輸出七個表，有VariablesEntered/Removed（引入或被剔除的變量表）、ModelSummary（常用統(tǒng)計量表）、ANOVA方差分析表、Coefficients（回歸系數表）、ResidualsStatistics（殘差統(tǒng)計表卜標準化殘差的直方圖和正態(tài)分布圖（P-P圖）。我們重點解讀ModelSummary（常用統(tǒng)計量）、ANOVA方差分析表、Coefficients（回歸系數）和正態(tài)分布圖（P-P圖）（如圖12-68所示）。精品文檔Output1-S

27、PSSViewer文件（已編輯視耿數段目轉換m插入格式封折®困表工艮窗口（也幫助（由倒回圖畫里1則句111畫劇Jjijdsdnw回q|輸出國Ccr詞曲口口£的Notes闋PartialCorr±Sla島Ncias用DescriptiveStatistic京Conelalions回Regression*圉±ela島Ndas商Vpriflble?Etored而-PartialCoitDescriptiveStatisticsMeanStd.DeviationN田有效薄既面積施肥建3610050.909.0063.96010,7234.397101010-g|

28、x|一回Correlailorrs駐Ndtes國PartialCarr國iel5晝Nates商Descriislive竽制出:忙01Correlaiions圄Regression，固|±b15)NdtesVariablesErrtered/F心|ModelSummary哥ANOVAL&iCoefficients函Residues京式倒上3日曲Charte首士自諂而|*zresidHictogrcAzresidNornial/岔AITtiAtbyBzpi一回ParlialCorr-g±2詔gNotes1aDesripiiveStatisticCorrelations回

29、Regression©Ndles益VariabtesErrtered/F商ModielSummary|國ANOVACoefficient?gjlResidualsStsrtisiicsElChartsjj!"zresidHislogrt而JzresldNormalI.蠹|ATtiAiloy*zpiCorrelationsConirolVanables宙產量有敕灌冊面積施肥量-none-A畝產里Correiation1.000OS5,982Significance(2-taHe4.000.000df0sS有效灌叔面積Correlaliori98B1.000,966SiQnil

30、icanes(2-lailed)QQQ,000(if808施肥堂Correlation,982.966T.000Significance(2tailsd),000.000df860施肥里畝產量Correlatian1.000.770Signrtlc自neg(24ailed).01507有炊灌就面積Corn&latiDn,7701.000Signiflcanc?(2-lalle>d).015df70a.Celliscontainzero-order(Pearson)correlations.VariablesEnteredOemavetlbModelvariablesEntered

31、variablesRemwedMetliodi施肥量3Emer己AllrequesledvariablesenteredbDependentVariable:畝產罡ModelSummary6ModelRRSquareAdjustsdlRSquareSid.ErroroftheEstimate962J,965.960112746團Predidors:(Constanl),施肥里bDependentVariable:回CcrrelationBF1!Notes固PartialCorrj±ela史jNcrtes面DescriptiveStartistic|(Correlrtlians回R&a

32、mp;grewiun一蛭jic"lSBaNotes的Vairiabtesirrtered/F由IModtelsummary.ANOVA等CoefTicientjResidualsSlatlsllcs白一直Charts哈士自諂zre-sldHlstogrsjjiAzresldhlorwalIT；hAiptiiitiy*zprModelSumofSquaresdTMeanSquareF6lg.RegressionResiduallct：jl35518.3681299.63236618.00018935518.368102,454218,636.000sftNOVAba-Prediclor

33、s:(Constant),施肥量lxD叩已cd日ntYairi鼻七2:畝產量ModelUnstandardizedCoefficientsSl3nd3rdizedCoefficienttSig.Std.ErrorBeta(Conslanlj232.4149.58524.248.000施肥量14.287.鄒曰.9B214.78B.QQOCsiefTicieints31aDepehderhtvariable畝產量居Metes國PartialCorr±elagNdes陰DescriptiveStafctic蠢Conelaiions圓R&greslon±eliNotesVa

34、riablesErtered/FModelSummary園|Correlaljons建1Noles國PartialCorr囪士唯島Noles酉DescrlpiiveStatistic禽Cerrsleiian&國RfrBSSlDn置血的Ntia才商VoriabtesEntBredF通MpdqlSurnmary商ANOVA商Coefficients酉ResiduaisSltisiics之畫Charts圖土省者北*zre5idHistogre若*zresidNormalSSAlPiiAcby*ipiMinimumMaximumMeanStdDeviationNPredictedValue26

35、0.99-446：72361.0062.82110Residual-17.14920425.00012,01710Std.PredictedValue1.5921.365O0C1.00D10stdResidual1.34B1603.00094310DependentVariable'國產ResidualsStatistics3DependentVariable:前產量Auu力口WJXRegressionStandardizedResidual回*目NdesParlkalCorrg±函Nflts際Descripiivestaitstic巧|CQrrelalianF?egression土自詔ElNotesVariablesEntered/FModelSeminaryANOVACoeffiaentsResidualsSiedifiesCharts±el®*zr&sidHitogrcLjhl*zrMidNormalIIt.AIFuAiby*zpi