衛(wèi)生統(tǒng)計學課件第13章多元分析(04醫(yī)七)

Multiplelinearregression多元（重）線性回歸.多元（重）線性回歸.1三、多元線性回歸方程的

假設檢驗及其評價.三、多元線性回歸方程的

假設檢驗及其評價.（一）回歸方程的方差分析

（所有回歸系數(shù)為0）.（一）回歸方程的方差分析

（所有回歸系數(shù)為0）.有關計算公式.有關計算公式.（二）有關評價指標.（二）有關評價指標.1.殘差標準差（RootMSE）反映了回歸方程的精度，其值越小說明回歸效果越好

.1.殘差標準差（RootMSE）反映了回歸方程的精度，2.決定系數(shù)

（determinationcoefficient）說明所有自變量能解釋Y變化的百分比。取值（0，1），越接近1模型擬合越好

.2.決定系數(shù)

（determinationcoeffic決定系數(shù)含義：被解釋變量所解釋的部分占總體離差的大小。越大越好，但是不會超過1。缺點：如果在模型中增加一個解釋變量，模型的解釋功能增強了，就增大了。這就給人一個錯覺：要使得模型擬合得好，就必須增加解釋變量。.決定系數(shù)含義：被解釋變量所解釋的部分占總體離差的大小。越大越3.復相關系數(shù)

（multiplecorrelation

coefficient）說明所有自變量與Y間的線性相關程度。如果只有一個自變量，此時

.3.復相關系數(shù)

（multiplecorrelation4.校正的決定系數(shù)（Adjusteddeterminationcoefficient）

.4.校正的決定系數(shù)（Adjusteddeterminat校正的決定系數(shù).校正的決定系數(shù).四、各自變量貢獻大小的

假設檢驗及其評價.四、各自變量貢獻大小的

假設檢驗及其評價.（一）各回歸系數(shù)的t檢驗

ParameterStandardStandardizedVariableDFEstimateErrortValuePr>|t|Estimate

變量自由度回歸系數(shù)標準誤t值P值標準化回歸系數(shù)Intercept225.943272.828592.100.04730X1220.142450.365650.390.70060.07758X2220.351470.204201.720.09930.30931X322-0.270590.12139-2.230.0363-0.33948X4220.638200.243262.620.01550.39774.（一）各回歸系數(shù)的t檢驗

（二）標準化回歸系數(shù)

變量回歸系數(shù)bj標準化回歸系數(shù)b’j

標準差SX10.142450.077581.5934X20.351470.309312.5748X3-0.27059-0.339483.6706X40.63820.397741.8234Y2.9257.（二）標準化回歸系數(shù)

（三）偏回歸平方和（sumofsquaresforpartialregression）及其F檢驗

是在其它自變量存在于回歸方程中的條件下，考察某一自變量Xj對應變量Y的回歸效應

；j=1,2,…,m

.（三）偏回歸平方和（sumofsquaresforp實例計算

.實例計算第二節(jié)自變量的篩選1.變量多增加了模型的復雜度

2.計算量增大

3.估計和預測的精度下降

4.模型應用費用增加.第二節(jié)自變量的篩選1.變量多增加了模型的復雜度

一自變量的篩選的標準與原則1.殘差平方和縮小與決定系數(shù)增大2.殘差均方縮小與調整決定系數(shù)增大3.Cp統(tǒng)計量.一自變量的篩選的標準與原則1.殘差平方和縮小與決定系數(shù)增大二自變量篩選的常用方法(一)、全局擇優(yōu)法:

根據一些準則（criterion）建立“最優(yōu)”回歸模型校正決定系數(shù)（考慮了自變量的個數(shù)）Cp準則（C即criterion，p為所選模型中變量的個數(shù)；Cp接近（p+1）模型為最優(yōu)）AIC(Akaike’sInformationCriterion)準則；AIC越小越好.二自變量篩選的常用方法(一)、全局擇優(yōu)法:根據一些準則校正決定系數(shù)（Adjusteddeterminationcoefficient）

.校正決定系數(shù)（AdjusteddeterminationCp準則的計算公式.Cp準則的計算公式.AIC準則的計算公式.AIC準則的計算公式.全局擇優(yōu)法的局限性

如果自變量個數(shù)為4，則所有的回歸有24－1＝15個；當自變量數(shù)個數(shù)為10時，所有可能的回歸為210－1＝1023個；。。。。。。；當自變量數(shù)個數(shù)為50時，所有可能的回歸為250－1≈1015個。.全局擇優(yōu)法的局限性如果自變量個數(shù)為4，(二)、逐步選擇法

1.前進法（forwardselection）2.后退法（backwardelimination）3.逐步回歸法（stepwiseregression）。

它們的共同特點是每一步只引入或剔除一個自變量。決定其取舍則基于對偏回歸平方和的F檢驗.(二)、逐步選擇法1.前進法（forwar1.前進法

自變量從無到有、從少到多

Y對每一個自變量作直線回歸，對回歸平方和最大的自變量作F檢驗，有意義（P?。﹦t引入。在此基礎上，計算其它自變量的偏回歸平方和，選取偏回歸平方和最大者作F檢驗，…。

局限性：即后續(xù)變量的引入可能會使先進入方程的自變量變得不重要。.1.前進法自變量從無到有、從少到多Y對每一2.后退法

先將全部自變量放入方程，然后逐步剔除

偏回歸平方和最小的變量，作F檢驗及相應的P值，決定它是否剔除（P大）

。建立新的回歸方程。重復上述過程。

局限性：自變量高度相關時，可能得不出正確的結果

。.2.后退法先將全部自變量放入方程，然后逐步剔除3.逐步回歸法

雙向篩選；引入有意義的變量（前進法），剔除無意義變量（后退法）

小樣本檢驗水準a定為0.10或0.15，大樣本把值定為0.05。值越小表示選取自變量的標準越嚴。注意，引入變量的檢驗水準要小于或等于剔除變量的檢驗水準。.3.逐步回歸法雙向篩選；引入有意義的變量（前逐步回歸法實例(令α入＝α出＝0.10)

.逐步回歸法實例(令α入＝α出＝0.10).例15-3的方差分析結果

變異來源自由度SSMSFP總變異26222.5519回歸3133.09844.36611.410.0001殘差2389.4543.889.例15-3的方差分析結果變異來源自由度SSMSF例15-3的回歸系數(shù)及其檢驗

.例15-3的回歸系數(shù)及其檢驗.第三節(jié)多元線性回歸的應用及其注意事項.第三節(jié)多元線性回歸的應用及其注意事項.一、應用影響因素分析，控制混雜因素預測：由自變量值推出應變量Y的值控制：指定應變量Y的值查看自變量的改變量.一、應用影響因素分析，控制混雜因素.二、應用條件.二、應用條件.三、應用的注意事項.三、應用的注意事項.（一）變量的數(shù)量化（1）自變量為連續(xù)型變量：必要時作變換（2）自變量為有序變量：依次賦值，如療效好中差，可分別賦值3、2、1（3）自變量為二分類：如令男＝1，女＝0.（一）變量的數(shù)量化（1）自變量為連續(xù)型變量：必要時作變換（名義分類變量的啞變量化

假如職業(yè)分類為工、農、商、學、兵5類，則可定義比分類數(shù)少1個，即4個啞變量。編碼方法如下：.名義分類變量的啞變量化假如職業(yè)分類為工、農、商、學、（二）樣本含量

觀察個體數(shù)n與變量個數(shù)m的比例一般至少應為：n:m＝5～10.（二）樣本含量觀察個體數(shù)n與變量個數(shù)m的比例一般至少（三）統(tǒng)計“最優(yōu)”與專業(yè)的“最優(yōu)”不同準則、方法得出的“最優(yōu)”方程不同；不同的引入、剔除標準獲得的“最優(yōu)”方程不同；方程還受數(shù)據的正確性、共線性影響.（三）統(tǒng)計“最優(yōu)”與專業(yè)的“最優(yōu)”不同準則、方法得出的“最優(yōu)（四）多重共線性

自變量間存在著線性關系，使一個或幾個自變量可以由另外的自變量線性表示時，稱為該變量與另外的自變量間存在有共線性(collinearity)?；貧w系數(shù)的符號與由專業(yè)知識不符變量的重要性與專業(yè)不符.（四）多重共線性自變量間存在著線性關系，使一個或幾個多重共線性的識別與解決辦法

整個方程決定系數(shù)R2高，但各自變量對應的回歸系數(shù)均不顯著。解決共線性的主要方法：篩選自變量用主成分回歸嶺回歸。.多重共線性的識別與解決辦法整個方程決定系數(shù)R2高，但（五）交互作用

當某一自變量對應變量的作用大小與另一個自變量的取值有關時，則表示兩個變量有交互作用（interaction）。檢驗兩變量間有無交互作用，普遍的做法是在方程中加入它們的乘積項再做檢驗。如考察X1、X2間的交互作用，可在模型中加入X1X2項。.（五）交互作用當某一自變量對應變量的作用大小與（六）殘差分析(檢驗應用條件).（六）殘差分析(檢驗應用條件).（六）(用標準化殘差發(fā)現(xiàn)異常點)一般標準化殘差絕對值大于2考慮為異常點（outlier）（也稱離群值）.（六）(用標準化殘差發(fā)現(xiàn)異常點)一般標準化殘差絕對值大于2考（七）偏相關系數(shù).（七）偏相關系數(shù).幾個相關系數(shù)的區(qū)別.幾個相關系數(shù)的區(qū)別.Multiplelinearregression多元（重）線性回歸.多元（重）線性回歸.46三、多元線性回歸方程的

假設檢驗及其評價.三、多元線性回歸方程的

假設檢驗及其評價.（一）回歸方程的方差分析

（所有回歸系數(shù)為0）.（一）回歸方程的方差分析

（所有回歸系數(shù)為0）.有關計算公式.有關計算公式.（二）有關評價指標.（二）有關評價指標.1.殘差標準差（RootMSE）反映了回歸方程的精度，其值越小說明回歸效果越好

.1.殘差標準差（RootMSE）反映了回歸方程的精度，2.決定系數(shù)

（determinationcoefficient）說明所有自變量能解釋Y變化的百分比。取值（0，1），越接近1模型擬合越好

.2.決定系數(shù)

（determinationcoeffic決定系數(shù)含義：被解釋變量所解釋的部分占總體離差的大小。越大越好，但是不會超過1。缺點：如果在模型中增加一個解釋變量，模型的解釋功能增強了，就增大了。這就給人一個錯覺：要使得模型擬合得好，就必須增加解釋變量。.決定系數(shù)含義：被解釋變量所解釋的部分占總體離差的大小。越大越3.復相關系數(shù)

（multiplecorrelation

coefficient）說明所有自變量與Y間的線性相關程度。如果只有一個自變量，此時

.3.復相關系數(shù)

（multiplecorrelation4.校正的決定系數(shù)（Adjusteddeterminationcoefficient）

.4.校正的決定系數(shù)（Adjusteddeterminat校正的決定系數(shù).校正的決定系數(shù).四、各自變量貢獻大小的

假設檢驗及其評價.四、各自變量貢獻大小的

假設檢驗及其評價.（一）各回歸系數(shù)的t檢驗

ParameterStandardStandardizedVariableDFEstimateErrortValuePr>|t|Estimate

變量自由度回歸系數(shù)標準誤t值P值標準化回歸系數(shù)Intercept225.943272.828592.100.04730X1220.142450.365650.390.70060.07758X2220.351470.204201.720.09930.30931X322-0.270590.12139-2.230.0363-0.33948X4220.638200.243262.620.01550.39774.（一）各回歸系數(shù)的t檢驗

（二）標準化回歸系數(shù)

變量回歸系數(shù)bj標準化回歸系數(shù)b’j

標準差SX10.142450.077581.5934X20.351470.309312.5748X3-0.27059-0.339483.6706X40.63820.397741.8234Y2.9257.（二）標準化回歸系數(shù)

（三）偏回歸平方和（sumofsquaresforpartialregression）及其F檢驗

是在其它自變量存在于回歸方程中的條件下，考察某一自變量Xj對應變量Y的回歸效應

；j=1,2,…,m

.（三）偏回歸平方和（sumofsquaresforp實例計算

.實例計算第二節(jié)自變量的篩選1.變量多增加了模型的復雜度

2.計算量增大

3.估計和預測的精度下降

4.模型應用費用增加.第二節(jié)自變量的篩選1.變量多增加了模型的復雜度

一自變量的篩選的標準與原則1.殘差平方和縮小與決定系數(shù)增大2.殘差均方縮小與調整決定系數(shù)增大3.Cp統(tǒng)計量.一自變量的篩選的標準與原則1.殘差平方和縮小與決定系數(shù)增大二自變量篩選的常用方法(一)、全局擇優(yōu)法:

根據一些準則（criterion）建立“最優(yōu)”回歸模型校正決定系數(shù)（考慮了自變量的個數(shù)）Cp準則（C即criterion，p為所選模型中變量的個數(shù)；Cp接近（p+1）模型為最優(yōu)）AIC(Akaike’sInformationCriterion)準則；AIC越小越好.二自變量篩選的常用方法(一)、全局擇優(yōu)法:根據一些準則校正決定系數(shù)（Adjusteddeterminationcoefficient）

.校正決定系數(shù)（AdjusteddeterminationCp準則的計算公式.Cp準則的計算公式.AIC準則的計算公式.AIC準則的計算公式.全局擇優(yōu)法的局限性

如果自變量個數(shù)為4，則所有的回歸有24－1＝15個；當自變量數(shù)個數(shù)為10時，所有可能的回歸為210－1＝1023個；。。。。。。；當自變量數(shù)個數(shù)為50時，所有可能的回歸為250－1≈1015個。.全局擇優(yōu)法的局限性如果自變量個數(shù)為4，(二)、逐步選擇法

1.前進法（forwardselection）2.后退法（backwardelimination）3.逐步回歸法（stepwiseregression）。

它們的共同特點是每一步只引入或剔除一個自變量。決定其取舍則基于對偏回歸平方和的F檢驗.(二)、逐步選擇法1.前進法（forwar1.前進法

自變量從無到有、從少到多

Y對每一個自變量作直線回歸，對回歸平方和最大的自變量作F檢驗，有意義（P?。﹦t引入。在此基礎上，計算其它自變量的偏回歸平方和，選取偏回歸平方和最大者作F檢驗，…。

局限性：即后續(xù)變量的引入可能會使先進入方程的自變量變得不重要。.1.前進法自變量從無到有、從少到多Y對每一2.后退法

先將全部自變量放入方程，然后逐步剔除

偏回歸平方和最小的變量，作F檢驗及相應的P值，決定它是否剔除（P大）

。建立新的回歸方程。重復上述過程。

局限性：自變量高度相關時，可能得不出正確的結果

。.2.后退法先將全部自變量放入方程，然后逐步剔除3.逐步回歸法

雙向篩選；引入有意義的變量（前進法），剔除無意義變量（后退法）

小樣本檢驗水準a定為0.10或0.15，大樣本把值定為0.05。值越小表示選取自變量的標準越嚴。注意，引入變量的檢驗水準要小于或等于剔除變量的檢驗水準。.3.逐步回歸法雙向篩選；引入有意義的變量（前逐步回歸法實例(令α入＝α出＝0.10)

.逐步回歸法實例(令α入＝α出＝0.10).例15-3的方差分析結果

變異來源自由度SSMSFP總變異26222.5519回歸3133.09844.36611.410.0001殘差2389.4543.889.例15-3的方差分析結果變異來源自由度SSMSF例15-3的回歸系數(shù)及其檢驗

.例15-3的回歸系數(shù)及其檢驗.第三節(jié)多元線性回歸的應用及其注意事項.第三節(jié)多元線性回歸的應用及其注意事項.一、應用影響因素分析，控制混雜因素預測：由自變量值推出應變量Y的值控制：指定應變量Y的值查看自變量的改變量.一、應用影響因素分析，控制混雜因素.二、應用條件.二、應用條件.三、應用的注意事項.三、應用的注意事項.（一）變量的數(shù)量化（1）自