SPSS10.0高級(jí)教程十二：多元線性回歸與曲線擬合

1、SPSS 10.0高級(jí)教程十二：多元線性回歸與曲線擬回歸分析是處理兩個(gè)及兩個(gè)以上變量間線性依存關(guān)系的統(tǒng)計(jì)方法。在醫(yī)學(xué)領(lǐng)域中，此類問題很普遍，如人頭發(fā)中某種金屬元素的含量與血液中該元素的含量有關(guān)系，人的體表面積與身高、體重有關(guān)系；等等?；貧w分析就是用于說明這種依存變化的數(shù)學(xué)關(guān)系。引0.1 Linear過程10.1.1簡(jiǎn)單操作入門調(diào)用此過程可完成二元或多元的線性回歸分析。在多元線性回歸分析中，用戶還可根據(jù)需要，選用不同篩選自變量的方法（如：逐步法、向前法、向后法，等）。例10.1:請(qǐng)分析在數(shù)據(jù)集 Fat surfactant.sav中變量fat對(duì)變量spovl的大小有無影響？顯然，在這里spovl

2、是連續(xù)性變量，而fat是分類變量，我們可用用單因素方差分析來解決這個(gè)問題。但此處我們要采用和方差分析等價(jià)的分析方法-回歸分析來解決它?；貧w分析和方差分析都可以被歸入廣義線性模型中，因此他們?cè)谀Ｐ偷亩x、計(jì)算方法等許多方面都非常近似，下面大家很快就會(huì)看到。這里spovl是模型中的因變量，根據(jù)回歸模型的要求，它必須是正態(tài)分布的變量才可以，我們可以用直方圖來大致看一下，可以看到基本服從正態(tài)，因此不再檢驗(yàn)其正態(tài)性，繼續(xù)往下做。界面詳解在菜單中選擇Regression=>liner，系統(tǒng)彈出線性回歸對(duì)話框如下:除了大家熟悉的內(nèi)容以外，里面還出現(xiàn)了一些特色菜，讓我們來一一品嘗。【De

3、pe ndent框】用于選入回歸分析的應(yīng)變量?！綛lock按鈕組】由Previous和Next兩個(gè)按鈕組成，用于將下面Independent框中選入的自變量分 組。由于多元回歸分析中自變量的選入方式有前進(jìn)、后退、逐步等方法，如果對(duì) 不同的自變量選入的方法不同，則用該按鈕組將自變量分組選入即可。下面的例子會(huì)講解其用法?！綢n depe ndent 框】用于選入回歸分析的自變量【Method下拉列表】用于選擇對(duì)自變量的選入方法，有Enter （強(qiáng)行進(jìn)入法）、Stepwise （逐步法）、Remove （強(qiáng)制剔除法）、Backward （向后法）、Forward （向前法）五種。該選項(xiàng)對(duì)當(dāng)前Inde

4、pendent框中的所有變量均有效?！維election Variable 框】選入一個(gè)篩選變量，并利用右側(cè)的Rules鈕建立一個(gè)選擇條件，這樣，只有滿足 該條件的記錄才會(huì)進(jìn)入回歸分析。【Case Labels 框】選擇一個(gè)變量，他的取值將作為每條記錄的標(biāo)簽。最典型的情況是使用記錄ID號(hào)的變量?！網(wǎng)LS>>鈕】可利用該按鈕進(jìn)行權(quán)重最小二乘法的回歸分析。單擊該按鈕會(huì)擴(kuò)展當(dāng)前對(duì)話框, 出現(xiàn)WLS Weight框，在該框內(nèi)選入權(quán)重變量即可。【Statistics 鈕】彈出Statistics對(duì)話框，用于選擇所需要的描述統(tǒng)計(jì)量。有如下選項(xiàng):oRegression Coefficients復(fù)

5、選框組：定義回歸系數(shù)的輸出情況， 選中Estimates可輸出回歸系數(shù)B及其標(biāo)準(zhǔn)誤，t值和p值，還有標(biāo)準(zhǔn)化的回歸系數(shù)beta；選中Co nfide nee in tervals則輸出每個(gè)回歸系數(shù)的95%可信區(qū)間；選中covarianee matrix則會(huì)輸出各個(gè)自變量的相關(guān)矩陣和方差、協(xié)方差矩陣。以上選項(xiàng)默認(rèn)只選中Estimates。oResiduals復(fù)選框組：用于選擇輸出殘差診斷的信息，可選的有Durbin-Watson殘差序列相關(guān)性檢驗(yàn)、超出規(guī)定的n倍標(biāo)準(zhǔn)誤的殘差列表。oModel fit復(fù)選框：模型擬合過程中進(jìn)入、退出的變量的列表，以及一些有關(guān)擬合優(yōu)度的檢驗(yàn)：，R，R2和調(diào)整的R2,標(biāo)

6、準(zhǔn)誤及方差分析表。oR squared change復(fù)選框：顯示模型擬合過程中R2、F值和p值的改變情況。oDescriptives復(fù)選框：提供一些變量描述，如有效例數(shù)、均數(shù)、標(biāo)準(zhǔn)差等，同時(shí)還給出一個(gè)自變量間的相關(guān)矩陣。oPart and partial correlations復(fù)選框：顯示自變量間的相關(guān)、部分相關(guān)和偏相關(guān)系數(shù)。oCollinearity diagnostics復(fù)選框：給出一些用于共線性診斷的統(tǒng)計(jì)量，如特征根( Eigen values)、方差膨脹因子(VIF)等。以上各項(xiàng)在默認(rèn)情況下只有Estimates和Model fit復(fù)選框被選中?！綪lot鈕】彈出Plot對(duì)話框，用于

7、選擇需要繪制的回歸分析診斷或預(yù)測(cè)圖。可繪制的有標(biāo)準(zhǔn)化殘差的 直方圖和正態(tài)分布圖，應(yīng)變量、預(yù)測(cè)值和各自變量殘差間兩兩的散點(diǎn)圖等?！維ave鈕】許多時(shí)候我們需要將回歸分析的結(jié)果存儲(chǔ)起來，然后用得到的殘差、預(yù)測(cè)值等做進(jìn)一步的分析，Save鈕就是用來存儲(chǔ)中間結(jié)果的?？梢源鎯?chǔ)的有：預(yù)測(cè)值系列、殘差系列、距離(Distances)系列、預(yù)測(cè)值可信區(qū)間系列、波動(dòng)統(tǒng)計(jì)量系列。下方的按鈕可以讓我們選擇將這些 新變量存儲(chǔ)到一個(gè)新的SPSS數(shù)據(jù)文件或XML中。【Options鈕】設(shè)置回歸分析的一些選項(xiàng)，有：oStepping Method Criteria單選鈕組：設(shè)置納入和排除標(biāo)準(zhǔn)，可按P值或F值來設(shè)置。Incl

8、ude constant in equation復(fù)選框：用于決定是否在模型中包括常數(shù)項(xiàng)，默認(rèn)選中。oMissing Values單選鈕組：用于選擇對(duì)缺失值的處理方式，可以是不分析任一選入的變量有缺失值的記錄(Exclude cases listwise )而無論該缺失變量最終是否進(jìn)入模型； 不分析具體進(jìn)入某變量時(shí)有缺失值的記錄(Exclude cases pairwise);將缺失值用該變量的均數(shù)代替(Replace with mean)。輸出結(jié)果解釋根據(jù)題目的要求，我們只需要在Dependent框中選入spovl , Independent框中選入fat即可，其他的選項(xiàng)一律不

9、管。單擊OK后，系統(tǒng)很快給出如下結(jié)果：RegressionV<ii idbles EmeiVariables VariablesModel Entered Removed Method1怡護(hù)一 EntEa. AH requested variables entered.b. Dependent Variable:這里的表格是擬合過程中變量進(jìn)入/退出模型的情況記錄，由于我們只引入了一個(gè)自變量，所以只出現(xiàn)了一個(gè)模型1 (在多元回歸中就會(huì)依次出現(xiàn)多個(gè)回歸模型)，該模型中fat為進(jìn)入的變量，沒有移出的變量，具體的進(jìn)入/退出方法為enter。Model SuinniaiyAdjusted Std.

10、 Erroi ofModel R R Square R Square the Estimatea Predictors: (Constant), fatwniiw,上表為所擬合模型的情況簡(jiǎn)報(bào)，顯示在模型1中相關(guān)系數(shù)R為0.578，而決定系數(shù) R2為0.334,校正的決定系數(shù)為 0.307。ANOVAbModelSum ofSquaresdfMean SquareFSiQ.1Regression9.3061830612 059002aResidual16.630246S9Toial24.835-25a. Predictors: (ConstarO.fatb. DeRendentVariable:

11、 8PVOLwwwiaonxom這是所用模型的檢驗(yàn)結(jié)果， 可以看到這就是一個(gè)標(biāo)準(zhǔn)的方差分析表！ 有興趣的讀者可以自己 用方差分析模型做一下， 就會(huì)發(fā)現(xiàn)出了最左側(cè)的一列名字不太一樣外， 其他的各個(gè)參數(shù)值都 是相同的。從上表可見所用的回歸模型 F值為12.059, P值為0.002，因此我們用的這個(gè)回 歸模型是有統(tǒng)計(jì)學(xué)意義的，可以繼續(xù)看下面系數(shù)分別檢驗(yàn)的結(jié)果。3吏由于這里我們所用的回歸模型只有一個(gè)自變量， 因此模型的檢驗(yàn)就等價(jià)與系數(shù)的檢驗(yàn)， 在多元回歸中這兩者是不同的。Coefficieirts3Standard!zedUnstanidandizedCoefficienCoefficientsis

12、Model0 Std. Error BetatSig.-(Constant 59742711.923.000a. DependentVariatole: SPVOLwww.biogn.eQm上表給出了包括常數(shù)項(xiàng)在內(nèi)的所有系數(shù)的檢驗(yàn)結(jié)果，用的是t檢驗(yàn)，同時(shí)還會(huì)給出標(biāo)化/未標(biāo)化系數(shù)?？梢姵?shù)項(xiàng)和fat都是有統(tǒng)計(jì)學(xué)意義的，上表的內(nèi)容如果翻譯成中文則如下所示：未標(biāo)準(zhǔn)化系數(shù)標(biāo)準(zhǔn)化系數(shù)模型系數(shù)b系數(shù)標(biāo)準(zhǔn)誤系數(shù)3t值P值1常數(shù)5.0970.42711.9230.000fat0.7000.2020.5783.4730.00210.1.2復(fù)雜實(shí)例操作分析實(shí)例例 10.2 :請(qǐng)分析在數(shù)據(jù)集 pla

13、stic.sav 中變量 extrusn、additive、gloss 和 opacity 對(duì)變量 tear_r es的大小有無影響？已知 extrusn對(duì)tear_res的大小有影響。顯然，這里是一個(gè)多元回歸，由于除了extrusn確有影響以外，我們不知道另三個(gè)變量有無影響，因此這里我們將extrusn放在第一個(gè)block，進(jìn)入方法為enter （我們有把握 extrusn 一定有統(tǒng)計(jì)學(xué)意義）；另三個(gè)變量放在第二個(gè)block，進(jìn)入方法為stepwise （讓軟件自動(dòng)選擇判斷），操作如下：1. An alyze=>Regressi on=>L iner2. Dependent 框：

14、選入 tear_res3. Independent 框：選入 extrusn; 單擊 next 鈕4. Independent 框：選入 additive、gloss 禾口 opacity ； Method 歹U表框：選擇 stepwise5. 單擊OK鈕結(jié)果解釋最終的結(jié)果如下：RegressionVnria I ties 日 it ei ed -Remove dbMb delVariables EnteredVariablesRemovedMethod1Eirtnjsion3rEnter2Additive Amount-Stepwise (Criteria:P raba bi

15、 I of-F-to- ente r<= .050.P raba bi I ifip-irf-F-ta- re m ove >= 100).乳 All requested variables entered.b. Dependent variable: Tear Resistant'* 'oon ee)m上面的表格依次列出了模型的篩選過程，模型1用進(jìn)入法引入了extrusn,然后模型2用stepwise法引入了 additive，另兩個(gè)變量因沒有達(dá)到進(jìn)入標(biāo)準(zhǔn)，最終沒有進(jìn)入。上面的表格翻譯出來如下：模型進(jìn)入的變量移出的變量變量篩選方法1extrus n進(jìn)入法2addi

16、tivestepwise法（標(biāo)準(zhǔn)：進(jìn)入概率小于0.05，移岀概率大于 0.1）Model SummaryAdjusted Std. Error ofMod創(chuàng)R R Square R Square the Estimate639dJ75.3752756b.586.538322Predictors： (Constant), Erustori工 Predictors： (Constant), ExtrusiorWKSfiiWWWStfflm上表是兩個(gè)模型變異系數(shù)的改變情況，從調(diào)整的R2可見，從上到下隨著新變量的引入，模型可解釋的變異占總變異的比例越來越大。ANOVACSum ofModelSquar

17、esdfMean SquareFSiQ.1Regression1.7401174012.408,002JResidual2.52518.140Total4 266132Regression2.50121.2501 2 048.001 bResidual1.76517.104Total19a Predictors: tConstant), Extrusionb. Predictors: (Constant), Extrusion, Additive Amountc. Dependent Variable: Tear Resistancewww.bioon.coni上表是所用兩個(gè)模型的檢驗(yàn)結(jié)果，用

18、的方法是方差分析，可見二個(gè)模型都有統(tǒng)計(jì)學(xué)意義。Coefficiirts3ModelUnstandardizedCoefTrc tentsStandardizecf CcefTicientstSig.日Std. ErrorBeta1(Constant)5.90026522.278.000Extrusion500.167S393522.0022(Constan5.315,31416.926.000Extrusion590.144.0394 005001Additive Amount390.1444222.707.0153- De pend ent Variable: Tear Resii stan

19、ceMH上表仍然為三個(gè)模型中各個(gè)系數(shù)的檢驗(yàn)結(jié)果，用的是t檢驗(yàn)，可見在模型2中所有的系數(shù)都有統(tǒng)計(jì)學(xué)意義，上表的內(nèi)容翻譯如下：未標(biāo)化的系數(shù)標(biāo)化的系數(shù)模型B標(biāo)準(zhǔn)誤Betat值P值1（常數(shù)）5.900.26522.278.000extrusi on.590.167.6393.522.0002（常數(shù)）5.315.31416.926.000extrusi on.590.144.6394.905.000additive.390.144.4222.707.000Exclmled ViiblescPartialCorrelationCollinearity StatisticsMode

20、lBeta IntSig.Tolerance1Gloss207J.986.336.233.744Opacity- 062J-.332,744090,994Additive Amount2707.015.5491.0002Gloss.013b.062,952015S24Ooacik-.mL142,2ZD-.274.928a. Predictors in the Model： (Constant), Extrusionb- Predictors in the Model: (Constant), Extrusion Additive Amount Dependent Variable: Tear

21、ResistanceWMHW.biocn.eOffl這是新出現(xiàn)的一個(gè)表格，反映的是沒有進(jìn)入模型的各個(gè)變量的檢驗(yàn)結(jié)果，可見在模型1中,未引入模型的候選變量 additive還有統(tǒng)計(jì)學(xué)意義，可能需要引入，而模型2中沒有引入的兩個(gè)變量其P值均大于0.05，無需再進(jìn)行分析了。10.2 Curve Estimation 過程Curve Estimation過程可以用與擬合各種各樣的曲線，原則上只要兩個(gè)變量間存在某種可以被它所描述的數(shù)量關(guān)系，就可以用該過程來分析。但這里我們要指出，由于曲線擬合非常的 復(fù)雜，而該模塊的功能十分有限，因此最好采用將曲線相關(guān)關(guān)系通過變量變換的方式轉(zhuǎn)化為 直線回歸的形式來分析，或

22、者采用其他專用的模塊分析。10.2.1界面詳解Curve Estimation過程中有特色的對(duì)話框界面內(nèi)容如下：這是新出現(xiàn)的一個(gè)表格，反映的是沒有進(jìn)入模型的各個(gè)變量的檢驗(yàn)結(jié)果，可見在模型1中,這是新出現(xiàn)的一個(gè)表格，反映的是沒有進(jìn)入模型的各個(gè)變量的檢驗(yàn)結(jié)果，可見在模型1中,Inijependent兩 Include constant ir這是新出現(xiàn)的一個(gè)表格，反映的是沒有進(jìn)入模型的各個(gè)變量的檢驗(yàn)結(jié)果，可見在模型1中,Case Labels:Hf =ModelsLinear廠Quadraltc廠 Logarithmic I- Cubic 廠 Inverse 廠 Power兩 Plot models

23、r Compound 廠 Growth 廠 S丨 Exponenlia廠 LogisticUpper bound:這是新出現(xiàn)的一個(gè)表格，反映的是沒有進(jìn)入模型的各個(gè)變量的檢驗(yàn)結(jié)果，可見在模型1中,廠 Display ANOVA tablewww. bio on.earn這是新出現(xiàn)的一個(gè)表格，反映的是沒有進(jìn)入模型的各個(gè)變量的檢驗(yàn)結(jié)果，可見在模型1中,這是新出現(xiàn)的一個(gè)表格，反映的是沒有進(jìn)入模型的各個(gè)變量的檢驗(yàn)結(jié)果，可見在模型1中,F面我們分別解釋一下它們的具體功能?！綝epe ndent框】用于選入曲線擬和中的應(yīng)變量，可選入多個(gè)，如果這樣，則對(duì)各個(gè)應(yīng)變量分別擬合模型?！綢ndependent單選框組

24、】用于選入曲線擬和中的自變量，有兩種選擇，可以選入普通的自變量，也可以選 擇時(shí)間作為自變量，如果這樣做，貝U所用的數(shù)據(jù)應(yīng)為時(shí)間序列數(shù)據(jù)格式?！綧odels復(fù)選框組】是該對(duì)話框的重點(diǎn)，用于選擇所用的曲線模型，可用的有：* Linear：擬合直線方程，實(shí)際上與Lin ear過程的二元直線回歸相同；* Quadratic:擬合二次方程 Y = bO+b1X+b2X2 ;* Compound :擬合復(fù)合曲線模型 Y = b0 >b1X ;* Growth :擬合等比級(jí)數(shù)曲線模型Y = e(bO+b1X);* Logarithmic :擬合對(duì)數(shù)方程 Y = bO+b1lnX ;* Cubic:擬合

25、三次方程 Y = bO+b1X+b2X2+b3X3 ;* S:擬合 S 形曲線 Y = e(bO+b1/X);* Exponential :擬合指數(shù)方程 Y = bO eb1X;* Inverse：數(shù)據(jù)按 Y = b0+b1/X進(jìn)行變換；* Power:擬合乘幕曲線模型 Y = b0X b1;* Logistic :擬合Logistic曲線模型 Y = 1/ (1/u + b0 >b1X)，如選擇該線型則要求輸入上界。上面的幾種線型和其他的模塊有重復(fù)，如Logistic、Liner等，由于本模塊的功能有限，在重復(fù)的情況下建議用其它專用模塊來分析?！綢nclude constant in

26、equation 復(fù)選框 】確定是否在方程中包含常數(shù)項(xiàng)【Plot models復(fù)選框】要求對(duì)模型做圖，包括原始數(shù)值的連線圖和擬合模型的曲線圖?！緎ave鈕】彈出SAVE對(duì)話框，用于定義想要存儲(chǔ)的中間結(jié)果，如預(yù)測(cè)值、預(yù)測(cè)值可信區(qū)間、殘差等?！綝isplay ANOVA table 復(fù)選框】要求顯示模型檢驗(yàn)的方差分析表。10.2.2實(shí)例操作例10.3 :錫克試驗(yàn)陰性率（%）隨著年齡的增長(zhǎng)而增高，某地查得兒童年齡（歲） X與錫克試驗(yàn)陰性率Y的資料如下，試擬合曲線。年齡（歲）1234567錫克試驗(yàn)陰性率（%）57.1 76.0 90.9 93.0 96.7 95.6 96.2首先對(duì)年齡和陰性率作散點(diǎn)圖，發(fā)現(xiàn)兩者有斜率逐漸放緩的曲線趨勢(shì)，因此選擇二次曲線模型、三次曲線模型和對(duì)數(shù)曲線模型，最終取其中結(jié)果