線性回歸王萬(wàn)榮講解

線性回歸主講：王萬(wàn)榮點(diǎn)擊添加文本點(diǎn)擊添加文本點(diǎn)擊添加文本點(diǎn)擊添加文本學(xué)習(xí)內(nèi)容回歸方程的估計(jì)線性回歸的假設(shè)檢驗(yàn)123線性回歸的概念線性回歸第二節(jié)線性回歸方程用于描述兩個(gè)變量間依存變化的數(shù)量關(guān)系。也稱簡(jiǎn)單回歸。一、線性回歸的概念FrancisGaltonX-自變量（independentvariable）；Y-因變量（dependentvariable）；-給定X

時(shí)Y

的估計(jì)值；a-截距（intercept）或常數(shù)項(xiàng)（constantterm）；b-回歸系數(shù)（regressioncoefficient）。線性回歸方程例1研究成人BMI（kg/m2）與肝臟硬度指數(shù)LSM間的關(guān)系，得到了表中所示的資料，試進(jìn)行線性回歸分析。表1成人BMI（kg/m2）與肝臟硬度指數(shù)LSM回歸分析數(shù)據(jù)調(diào)查對(duì)象BMI（X）LSM（Y）

XY

X2Y2132.068.37268.341,027.8470.06231.208.47264.26973.4471.74330.047.37221.39902.4054.32428.937.90228.55836.9462.41………………1920.035.13102.75401.2026.322019.686.00118.08387.3036.00合計(jì)499.29125.583213.0912731.62824.32實(shí)例由散點(diǎn)圖可見，BMI與肝臟硬度指數(shù)LSM之間存在著直線趨勢(shì)，可以考慮建立二者之間的線性回歸方程。圖1成人BMI（kg/m2）與肝臟硬度指數(shù)LSM間關(guān)系散點(diǎn)圖二、回歸方程的估計(jì)回歸系數(shù)

b和常數(shù)項(xiàng)

a是方程中需要估計(jì)的兩個(gè)量，估計(jì)的原理是最小二乘法（methodofleastsquares），該方法的原則是保證各實(shí)測(cè)點(diǎn)到回歸直線的縱向距離的平方和最小，即使

最小，從而使計(jì)算出的回歸直線最能代表實(shí)測(cè)數(shù)據(jù)所反映出的直線趨勢(shì)。Y0(xi,yi)X圖2雙變量線性回歸殘差示意圖依據(jù)最小二乘法推導(dǎo)出的結(jié)果：回歸方程的參數(shù)估計(jì)調(diào)查對(duì)象BMI（X）LSM（Y）XY

X2Y2132.068.37268.341,027.8470.06231.208.47264.26973.4471.74330.047.37221.39902.4054.32428.937.90228.55836.9462.41………………1920.035.13102.75401.2026.322019.686.00118.08387.3036.00合計(jì)499.29125.583213.0912731.62824.32回歸方程為：表2成人BMI（kg/m2）與肝臟硬度指數(shù)LSM回歸分析數(shù)據(jù)圖3成人BMI（kg/m2）與肝臟硬度指數(shù)LSM間關(guān)系散點(diǎn)圖回歸方程檢驗(yàn)的基本思想：（一）方差分析三、線性回歸的假設(shè)檢驗(yàn)如果

X

與Y

之間無線性回歸關(guān)系，則

SS回歸

與

SS殘差

都只包含隨機(jī)因素對(duì)Y

的影響，因此其均方

MS回歸與

MS殘差

應(yīng)近似相等，如果兩者差別較大，并超出能夠用隨機(jī)波動(dòng)解釋的程度，則認(rèn)為回歸方程具有統(tǒng)計(jì)學(xué)意義。圖4變異劃分示意圖回歸系數(shù)的假設(shè)檢驗(yàn)可用下面的簡(jiǎn)化公式計(jì)算變異來源SSMSFP

值總變異

SS總

回歸

SS回

殘差

SS殘差

表3方差分析表兩線基本重合對(duì)例1數(shù)據(jù)建立的回歸方程進(jìn)行假設(shè)檢驗(yàn)：2.計(jì)算各變異統(tǒng)計(jì)量實(shí)例1.建立檢驗(yàn)假設(shè)，確定檢驗(yàn)水準(zhǔn)：回歸系數(shù)，即BMI和LSM間無線性回歸關(guān)系

：回歸系數(shù)，即BMI和LSM間有線性回歸關(guān)系變異來源SSMSFP值總變異35.80319

回

歸22.807122.80731.589<0.01殘

差12.996180.722

3.列出方差分析表，得出統(tǒng)計(jì)分析結(jié)論表4回歸方程方差分析表

查

F

界值表（附表4），F(xiàn)0.01(1，18)=8.28，F(xiàn)＞F0.01(1，18)，P＜0.01，拒絕H0，可以認(rèn)為成人BMI與肝臟硬度指數(shù)LSM之間存在線性回歸關(guān)系。實(shí)際中最好給出更準(zhǔn)確的P值，如P<0.0001（二）t

檢驗(yàn)為樣本回歸系數(shù)的標(biāo)準(zhǔn)誤，反映樣本回歸系數(shù)的抽樣誤差；為剩余標(biāo)準(zhǔn)差，表示因變量Y值對(duì)于回歸直線的離散程度。回歸系數(shù)檢驗(yàn)也可以采用t

檢驗(yàn)的方法，即對(duì)例1數(shù)據(jù)建立的回歸方程后，進(jìn)行t

檢驗(yàn)，過程如下：2.計(jì)算各變異統(tǒng)計(jì)量實(shí)例1.建立檢驗(yàn)假設(shè)，確定檢驗(yàn)水準(zhǔn)：回歸系數(shù)，即BMI和LSM間無線性回歸關(guān)系

：回歸系數(shù)，即BMI和LSM間有線性回歸關(guān)系3.確定P值，作出結(jié)論根據(jù)，查t

界值表（附表2），,，拒絕H0，結(jié)論與方差分析相同?？梢钥闯?，統(tǒng)計(jì)量F

與t之間存在確定的數(shù)量關(guān)系，即，本例。圖5成人BMI（kg/m2）與肝臟硬度指數(shù)LSM間關(guān)系散點(diǎn)圖1.線性回歸分析常用于分析兩個(gè)變量之間是否存在線性依存關(guān)系，通過散點(diǎn)圖可以直觀描述兩個(gè)變量的數(shù)量變化關(guān)系，參數(shù)估計(jì)可以使用最小二乘法，回歸系數(shù)的假設(shè)檢驗(yàn)可以使用方差分析或者t檢驗(yàn)方法。2.在回歸分析中，因變量是隨機(jī)變量，自變量既可以是隨機(jī)變量，也可以是給定的量，在兩個(gè)變量都是隨機(jī)變量的情況，應(yīng)以變異小的變量作為自變量3.線性回歸則反映兩個(gè)變量之間單向的依存關(guān)系，更適合分析因果關(guān)系的數(shù)量變化。4.對(duì)同一資料進(jìn)行相關(guān)與回歸分析，r

與b

正負(fù)號(hào)相同，r