多元線性回歸與曲線擬合(共13頁)

1、第十章：多元線性回歸與曲線擬合Regression菜單(ci dn)詳解（上）回歸分析是處理兩個及兩個以上變量間線性依存關(guān)系的統(tǒng)計(jì)方法。在醫(yī)學(xué)領(lǐng)域(ln y)中，此類問題很普遍，如人頭發(fā)中某種金屬元素的含量與血液中該元素的含量有關(guān)系，人的體表面積與身高、體重有關(guān)系；等等?；貧w分析就是用于說明這種依存變化的數(shù)學(xué)關(guān)系。10.1Linear過程(guchng)10.1.1 簡單操作入門調(diào)用此過程可完成二元或多元的線性回歸分析。在多元線性回歸分析中，用戶還可根據(jù)需要，選用不同篩選自變量的方法（如：逐步法、向前法、向后法，等）。例10.1：請分析在數(shù)據(jù)集Fat surfactant.sav中變量fat對

2、變量spovl的大小有無影響？顯然，在這里spovl是連續(xù)性變量，而fat是分類變量，我們可用用單因素方差分析來解決這個問題。但此處我們要采用和方差分析等價的分析方法-回歸分析來解決它。回歸分析和方差分析都可以被歸入廣義線性模型中，因此他們在模型的定義、計(jì)算方法等許多方面都非常近似，下面大家很快就會看到。這里spovl是模型中的因變量，根據(jù)回歸模型的要求，它必須是正態(tài)分布的變量才可以，我們可以用直方圖來大致看一下，可以看到基本服從正態(tài)，因此不再檢驗(yàn)其正態(tài)性，繼續(xù)往下做。10.1.1.1 界面詳解在菜單中選擇Regression=liner，系統(tǒng)彈出線性回歸對話框如下：除了大家熟悉的內(nèi)容以外，里

3、面還出現(xiàn)了一些(yxi)特色菜，讓我們來一一品嘗。【Dependent框】用于選入回歸(hugu)分析的應(yīng)變量?！綛lock按鈕組】由Previous和Next兩個按鈕組成(z chn)，用于將下面Independent框中選入的自變量分組。由于多元回歸分析中自變量的選入方式有前進(jìn)、后退、逐步等方法，如果對不同的自變量選入的方法不同，則用該按鈕組將自變量分組選入即可。下面的例子會講解其用法?！綢ndependent框】用于選入回歸分析的自變量?！綧ethod下拉列表】用于選擇對自變量的選入方法(fngf)，有Enter（強(qiáng)行進(jìn)入法）、Stepwise（逐步法）、Remove（強(qiáng)制剔除法）、Ba

4、ckward（向后法）、Forward（向前法）五種。該選項(xiàng)對當(dāng)前Independent框中的所有變量均有效。【Selection Variable框】選入一個篩選變量(binling)，并利用右側(cè)的Rules鈕建立一個選擇條件，這樣，只有滿足該條件的記錄才會進(jìn)入回歸分析?！綜ase Labels框】選擇一個(y )變量，他的取值將作為每條記錄的標(biāo)簽。最典型的情況是使用記錄ID號的變量?！網(wǎng)LS鈕】可利用該按鈕進(jìn)行權(quán)重最小二乘法的回歸分析。單擊該按鈕會擴(kuò)展當(dāng)前對話框，出現(xiàn)WLS Weight框，在該框內(nèi)選入權(quán)重變量即可?！維tatistics鈕】彈出Statistics對話框，用于選擇所需要的

5、描述統(tǒng)計(jì)量。有如下選項(xiàng)： Regression Coefficients復(fù)選框組：定義回歸系數(shù)的輸出情況，選中Estimates可輸出回歸系數(shù)B及其標(biāo)準(zhǔn)誤，t值和p值，還有標(biāo)準(zhǔn)化的回歸系數(shù)beta；選中Confidence intervals則輸出每個回歸系數(shù)的95%可信區(qū)間；選中covariance matrix則會輸出各個自變量的相關(guān)矩陣和方差、協(xié)方差矩陣。以上選項(xiàng)默認(rèn)只選中Estimates。 Residuals復(fù)選框組：用于選擇輸出殘差診斷的信息，可選的有Durbin-Watson殘差序列相關(guān)性檢驗(yàn)、超出規(guī)定的n倍標(biāo)準(zhǔn)誤的殘差列表。 Model fit復(fù)選框：模型擬合過程中進(jìn)入、退出的

6、變量的列表，以及一些有關(guān)擬合優(yōu)度的檢驗(yàn)：，R，R2和調(diào)整的R2, 標(biāo)準(zhǔn)誤及方差分析表。 R squared change復(fù)選框：顯示模型擬合過程中R2、F值和p值的改變情況。 Descriptives復(fù)選框：提供一些變量描述，如有效例數(shù)、均數(shù)、標(biāo)準(zhǔn)差等，同時還給出一個自變量間的相關(guān)矩陣。 Part and partial correlations復(fù)選框：顯示自變量間的相關(guān)、部分相關(guān)和偏相關(guān)系數(shù)。 Collinearity diagnostics復(fù)選框：給出一些用于共線性診斷的統(tǒng)計(jì)量，如特征根（Eigenvalues）、方差膨脹因子(VIF)等。以上(yshng)各項(xiàng)在默認(rèn)情況下只有Estima

7、tes和Model fit復(fù)選框被選中?！綪lot鈕】彈出Plot對話框，用于選擇需要繪制的回歸分析診斷或預(yù)測(yc)圖?？衫L制的有標(biāo)準(zhǔn)化殘差的直方圖和正態(tài)分布圖，應(yīng)變量、預(yù)測值和各自變量殘差間兩兩的散點(diǎn)圖等?！維ave鈕】許多時候我們需要將回歸分析的結(jié)果存儲起來，然后用得到的殘差、預(yù)測值等做進(jìn)一步的分析，Save鈕就是用來存儲中間結(jié)果的。可以存儲的有：預(yù)測值系列、殘差系列、距離（Distances）系列、預(yù)測值可信區(qū)間系列、波動統(tǒng)計(jì)量系列。下方(xi fn)的按鈕可以讓我們選擇將這些新變量存儲到一個新的SPSS數(shù)據(jù)文件或XML中。【Options鈕】設(shè)置回歸分析的一些選項(xiàng)，有： Steppi

8、ng Method Criteria單選鈕組：設(shè)置納入和排除標(biāo)準(zhǔn)，可按P值或F值來設(shè)置。Include constant in equation復(fù)選框：用于決定是否在模型中包括常數(shù)項(xiàng)，默認(rèn)選中。Missing Values單選鈕組：用于選擇對缺失值的處理方式，可以是不分析任一選入的變量有缺失值的記錄（Exclude cases listwise）而無論該缺失變量最終是否進(jìn)入模型；不分析具體進(jìn)入某變量時有缺失值的記錄（Exclude cases pairwise）；將缺失值用該變量的均數(shù)代替（Replace with mean）。10.1.1.2 輸出結(jié)果解釋根據(jù)題目的要求，我們只需要在Depe

9、ndent框中選入spovl，Independent框中選入fat即可，其他的選項(xiàng)一律不管。單擊OK后，系統(tǒng)很快給出如下結(jié)果：Regression這里的表格是擬合過程中變量進(jìn)入/退出模型(mxng)的情況記錄，由于我們只引入了一個自變量，所以只出現(xiàn)了一個模型1（在多元回歸中就會依次出現(xiàn)多個回歸模型），該模型中fat為進(jìn)入的變量，沒有移出的變量，具體的進(jìn)入/退出方法為enter。上表(shn bio)為所擬合模型的情況簡報，顯示在模型1中相關(guān)系數(shù)R為0.578，而決定系數(shù)R2為0.334，校正(jiozhng)的決定系數(shù)為0.307。這是所用模型的檢驗(yàn)結(jié)果，可以看到這就是一個標(biāo)準(zhǔn)的方差分析表！有

10、興趣的讀者可以自己用方差分析模型做一下，就會發(fā)現(xiàn)出了最左側(cè)的一列名字不太一樣外，其他的各個參數(shù)值都是相同的。從上表可見所用的回歸模型F值為12.059，P值為0.002，因此我們用的這個回歸模型是有統(tǒng)計(jì)學(xué)意義的，可以繼續(xù)看下面系數(shù)分別檢驗(yàn)的結(jié)果。由于這里我們所用的回歸模型只有一個自變量，因此模型的檢驗(yàn)就等價與系數(shù)的檢驗(yàn)，在多元回歸中這兩者是不同的。上表給出了包括常數(shù)項(xiàng)在內(nèi)的所有系數(shù)的檢驗(yàn)結(jié)果(ji gu)，用的是t檢驗(yàn)，同時還會給出標(biāo)化/未標(biāo)化系數(shù)?？梢姵?shù)項(xiàng)和fat都是有統(tǒng)計(jì)學(xué)意義的，上表的內(nèi)容如果翻譯成中文則如下所示：未標(biāo)準(zhǔn)化系數(shù)標(biāo)準(zhǔn)化系數(shù)模型系數(shù)b系數(shù)標(biāo)準(zhǔn)誤系數(shù)t值P值1常數(shù)5.0970

11、.42711.9230.000fat0.7000.2020.5783.4730.00210.1.2 復(fù)雜(fz)實(shí)例操作10.1.2.1 分析(fnx)實(shí)例例10.2：請分析在數(shù)據(jù)集plastic.sav中變量extrusn、additive、gloss和opacity對變量tear_res的大小有無影響？已知extrusn對tear_res的大小有影響。顯然，這里是一個多元回歸，由于除了extrusn確有影響以外，我們不知道另三個變量有無影響，因此這里我們將extrusn放在第一個block，進(jìn)入方法為enter（我們有把握extrusn一定有統(tǒng)計(jì)學(xué)意義）；另三個變量放在第二個block，進(jìn)

12、入方法為stepwise（讓軟件自動選擇判斷），操作如下：Analyze=Regression=LinerDependent框：選入tear_resIndependent框：選入extrusn；單擊next鈕Independent框：選入additive、gloss和opacity；Method列表框：選擇stepwise單擊OK鈕10.1.2.2 結(jié)果解釋最終的結(jié)果如下：Regression上面的表格依次(yc)列出了模型的篩選過程，模型1用進(jìn)入法引入了extrusn，然后模型2用stepwise法引入了additive，另兩個變量因沒有達(dá)到進(jìn)入標(biāo)準(zhǔn)，最終沒有進(jìn)入。上面的表格翻譯出來如下：模

13、型進(jìn)入的變量移出的變量變量篩選方法1extrusn進(jìn)入法2additivestepwise法（標(biāo)準(zhǔn)：進(jìn)入概率小于0.05，移出概率大于0.1）上表是兩個模型(mxng)變異系數(shù)的改變情況，從調(diào)整的R2可見，從上到下隨著新變量的引入，模型(mxng)可解釋的變異占總變異的比例越來越大。上表是所用兩個模型的檢驗(yàn)(jinyn)結(jié)果，用的方法是方差分析，可見二個模型都有統(tǒng)計(jì)學(xué)意義。上表仍然為三個模型中各個(gg)系數(shù)的檢驗(yàn)結(jié)果，用的是t檢驗(yàn)，可見在模型2中所有的系數(shù)都有統(tǒng)計(jì)學(xué)意義，上表的內(nèi)容翻譯如下：未標(biāo)化的系數(shù)標(biāo)化的系數(shù)模型B標(biāo)準(zhǔn)誤Betat值P值1(常數(shù))5.900.26522.278.000ex

14、trusion.590.167.6393.522.0002(常數(shù))5.315.31416.926.000extrusion.590.144.6394.905.000additive.390.144.4222.707.000這是新出現(xiàn)的一個表格，反映的是沒有進(jìn)入模型的各個變量的檢驗(yàn)結(jié)果，可見在模型1中，未引入模型的候選變量additive還有統(tǒng)計(jì)學(xué)意義，可能需要引入，而模型2中沒有引入的兩個變量其P值均大于0.05，無需再進(jìn)行(jnxng)分析了。10.2 Curve Estimation過程(guchng)Curve Estimation過程可以用與擬合各種各樣的曲線，原則上只要兩個變量間存在

15、某種可以被它所描述的數(shù)量關(guān)系，就可以用該過程來分析。但這里我們要指出，由于曲線擬合非常的復(fù)雜，而該模塊的功能十分有限，因此最好采用將曲線相關(guān)關(guān)系通過變量變換的方式轉(zhuǎn)化為直線回歸的形式(xngsh)來分析，或者采用其他專用的模塊分析。10.2.1 界面詳解Curve Estimation過程中有特色的對話框界面內(nèi)容如下：下面我們分別(fnbi)解釋一下它們的具體功能。【Dependent框】用于選入曲線擬和中的應(yīng)變量，可選入多個，如果(rgu)這樣，則對各個應(yīng)變量分別擬合模型。【Independent單選框組】用于選入曲線擬和中的自變量，有兩種選擇，可以選入普通(ptng)的自變量，也可以選擇時

16、間作為自變量，如果這樣做，則所用的數(shù)據(jù)應(yīng)為時間序列數(shù)據(jù)格式。【Models復(fù)選框組】是該對話框的重點(diǎn)，用于選擇所用的曲線模型，可用的有：Linear：擬合直線方程，實(shí)際上與Linear過程的二元直線回歸相同；Quadratic：擬合二次方程Y = b0+b1X+b2X2；Compound：擬合復(fù)合曲線模型Y = b0b1X；Growth：擬合等比級數(shù)曲線模型Y = e(b0+b1X)；Logarithmic：擬合對數(shù)方程Y = b0+b1lnX；Cubic：擬合三次方程Y = b0+b1X+b2X2+b3X3；S：擬合S形曲線Y = e(b0+b1/X)；Exponential：擬合指數(shù)方程Y

17、 = b0 eb1X；Inverse：數(shù)據(jù)按Y = b0+b1/X進(jìn)行變換；Power：擬合乘冪曲線模型Y = b0X b1；Logistic：擬合Logistic曲線(qxin)模型Y = 1/（1/u + b0b1X），如選擇該線型則要求輸入上界。上面的幾種線型和其他的模塊(m kui)有重復(fù)，如Logistic、Liner等，由于本模塊的功能有限，在重復(fù)的情況下建議用其它專用模塊來分析?！綢nclude constant in equation復(fù)選框】確定是否(sh fu)在方程中包含常數(shù)項(xiàng)?！綪lot models復(fù)選框】要求對模型做圖，包括原始數(shù)值的連線圖和擬合模型的曲線圖?！緎av

18、e鈕】彈出SAVE對話框，用于定義想要存儲的中間結(jié)果，如預(yù)測值、預(yù)測值可信區(qū)間、殘差等?！綝isplay ANOVA table復(fù)選框】要求顯示模型檢驗(yàn)的方差分析表。10.2.2 實(shí)例操作例10.3：錫克試驗(yàn)陰性率（%）隨著年齡的增長而增高，某地查得兒童年齡（歲）X與錫克試驗(yàn)陰性率Y的資料如下，試擬合曲線。年齡（歲）1234567錫克試驗(yàn)陰性率（%）57.176.090.993.096.795.696.2首先對年齡和陰性率作散點(diǎn)圖，發(fā)現(xiàn)兩者有斜率逐漸放緩的曲線趨勢，因此選擇二次曲線模型、三次曲線模型和對數(shù)曲線模型，最終取其中結(jié)果最優(yōu)者，做法如下：Analyze=Regression=Curve

19、 estimationDependant框：選入陰性率Independant框：選入年齡Models復(fù)選框組：選擇Quadratic、Curbe、Logarithmatic，取消對Liner的選擇。單擊OK結(jié)果如下：Curve FitMODEL:MOD_11.Independent:年齡DependentMthRsqd.f.FSigfb0b1b2b3陰性率LOG.913552.32.00161.325920.6704陰性率QUA.970465.20.00139.271421.8250-2.0036陰性率CUB.9943165.37.00125.571437.4278-6.5702.3806上表給出了所擬合