一元線性回歸分析基礎(chǔ)ppt課件

1、重點(diǎn)問(wèn)題重點(diǎn)問(wèn)題v 參數(shù)的最小二乘估計(jì)參數(shù)的最小二乘估計(jì)v 最小二乘估計(jì)的性質(zhì)最小二乘估計(jì)的性質(zhì)v 參數(shù)估計(jì)的檢驗(yàn)參數(shù)估計(jì)的檢驗(yàn)v 預(yù)測(cè)預(yù)測(cè)1、幾個(gè)概念、幾個(gè)概念條件分布條件分布Conditional distribution）：以）：以X取定值為條件的取定值為條件的Y的條件分的條件分布布條件概率條件概率Conditional probability）：給定）：給定X的的Y的概率，記為的概率，記為P(Y|X)。例如，例如，P(Y=55|X=80)=1/5；PY=150|X=260）=1/7。條件期望條件期望conditional Expectation）：給定）：給定X的的Y的期望值，記為的期

2、望值，記為E(Y|X)。例如，例如，E(Y|X=80)=551/5601/5651/5701/5751/565總體回歸曲線總體回歸曲線Popular Regression Curve）（總體回歸曲線的幾何意）（總體回歸曲線的幾何意義）：當(dāng)解釋變量給定值時(shí)因變量的條件期望值的軌跡。義）：當(dāng)解釋變量給定值時(shí)因變量的條件期望值的軌跡。2、總體回歸函數(shù)、總體回歸函數(shù)( Popular Regression Function，PRF)E(Y|Xi)=f(Xi)當(dāng)當(dāng)PRF的函數(shù)形式為線性函數(shù)，則有，的函數(shù)形式為線性函數(shù)，則有，E(Y|Xi)=1+2Xi其中其中1和和2為未知而固定的參數(shù)，稱為回歸系數(shù)。為未

3、知而固定的參數(shù)，稱為回歸系數(shù)。1和和2也分別稱也分別稱為截距和斜率系數(shù)。為截距和斜率系數(shù)。上述方程也稱為線性總體回歸函數(shù)。上述方程也稱為線性總體回歸函數(shù)。3、“線性的含義線性的含義 “線性可作兩種解釋：對(duì)變量為線性，對(duì)參數(shù)為線性。一般線性可作兩種解釋：對(duì)變量為線性，對(duì)參數(shù)為線性。一般“線性回歸線性回歸一詞總是指對(duì)參數(shù)一詞總是指對(duì)參數(shù)為線性的一種回歸即參數(shù)只以它的為線性的一種回歸即參數(shù)只以它的1次方出現(xiàn)）。次方出現(xiàn)）。 4、PRF的隨機(jī)設(shè)定的隨機(jī)設(shè)定 將個(gè)別的將個(gè)別的Yi圍繞其期望值的離差圍繞其期望值的離差(Deviation)表述如下：表述如下： ui=Yi-E(Y|Xi) 或或 Yi=E(Y

4、|Xi)+ui其中其中ui為隨機(jī)誤差項(xiàng)為隨機(jī)誤差項(xiàng)Stochastic error或隨機(jī)干擾項(xiàng)或隨機(jī)干擾項(xiàng)Stochastic disturbance）。線性總體回歸函數(shù)：）。線性總體回歸函數(shù)： PRF：Yi=1+2Xi+ui=E(Y|Xi)+ui5、隨機(jī)干擾項(xiàng)的意義、隨機(jī)干擾項(xiàng)的意義 隨機(jī)擾動(dòng)項(xiàng)是從模型中省略下來(lái)的而又集體地影響著隨機(jī)擾動(dòng)項(xiàng)是從模型中省略下來(lái)的而又集體地影響著Y的全部變量的全部變量的替代物。顯然的問(wèn)題是：為什么不把這些變量明顯地引進(jìn)到模型中來(lái)，的替代物。顯然的問(wèn)題是：為什么不把這些變量明顯地引進(jìn)到模型中來(lái)，而以隨即擾動(dòng)項(xiàng)來(lái)替代？理由是多方面的：而以隨即擾動(dòng)項(xiàng)來(lái)替代？理由是多方

5、面的：（1理論的含糊性：理論不能完全說(shuō)明影響因變量的所有影響因素。理論的含糊性：理論不能完全說(shuō)明影響因變量的所有影響因素。（2數(shù)據(jù)的欠缺：無(wú)法獲得有關(guān)數(shù)據(jù)。數(shù)據(jù)的欠缺：無(wú)法獲得有關(guān)數(shù)據(jù)。（3核心變量與周邊變量：希望能找到與有較大影響的核心變量的關(guān)系。核心變量與周邊變量：希望能找到與有較大影響的核心變量的關(guān)系。（4內(nèi)在隨機(jī)性：因變量具有內(nèi)在的隨機(jī)性。內(nèi)在隨機(jī)性：因變量具有內(nèi)在的隨機(jī)性。（5替代變量：用來(lái)代替不可觀測(cè)變量的替代變量選擇，造成一定誤差。替代變量：用來(lái)代替不可觀測(cè)變量的替代變量選擇，造成一定誤差。（6省略原則：研究中盡可能使回歸式簡(jiǎn)單。省略原則：研究中盡可能使回歸式簡(jiǎn)單。（7錯(cuò)誤的函數(shù)

6、形式：回歸式的的選擇是主觀的。錯(cuò)誤的函數(shù)形式：回歸式的的選擇是主觀的。6、樣本回歸函數(shù)、樣本回歸函數(shù)SRF） 由于在大多數(shù)情況下，我們只知道變量值得一個(gè)樣本，要用樣本信由于在大多數(shù)情況下，我們只知道變量值得一個(gè)樣本，要用樣本信息的基礎(chǔ)上估計(jì)息的基礎(chǔ)上估計(jì)PRF。 X（收入）80100120140160180200220240260Y（支出）55657980102110120135137150樣本1 X（收入）80100120140160180200220240260Y（支出）708094103116130144152165178樣本2iiiuXY21樣本回歸函數(shù)SRF：的估計(jì)量為的估計(jì)量為的估

7、計(jì)量為其中12211,Xi)|E(YY, 在回歸分析中，我們用SRF估計(jì)PRF。 估計(jì)量估計(jì)量Estimator）：一個(gè)估計(jì)量又稱統(tǒng)計(jì)量）：一個(gè)估計(jì)量又稱統(tǒng)計(jì)量(statistic)，是指一個(gè)，是指一個(gè)規(guī)則、公式或方法，以用來(lái)根據(jù)已知的樣本所提供的信息去估計(jì)總體參數(shù)。規(guī)則、公式或方法，以用來(lái)根據(jù)已知的樣本所提供的信息去估計(jì)總體參數(shù)。在應(yīng)用中，由估計(jì)量算出的數(shù)值稱為估計(jì)值）（在應(yīng)用中，由估計(jì)量算出的數(shù)值稱為估計(jì)值）（estimate)。樣本回歸函數(shù)樣本回歸函數(shù)SRF的隨機(jī)形式為：的隨機(jī)形式為：iiiiuYuX Y21i其中 表示樣本殘差項(xiàng)residual）。iu Xi X PRF:E(Y|Xi)

8、=1+2XiSRF：YE(Y|Xi)iiXY21iu iuiYiY SRF SRF是是PRFPRF的近似估計(jì)。的近似估計(jì)。 為了使二者更為接近，即為了使二者更為接近，即要使要使2211,盡可能接近盡可能接近主要內(nèi)容主要內(nèi)容v第一節(jié)第一節(jié) 模型的假定模型的假定 v第二節(jié)第二節(jié) 參數(shù)的最小二乘估計(jì)參數(shù)的最小二乘估計(jì) v第三節(jié)第三節(jié) 最小二乘估計(jì)量的性質(zhì)最小二乘估計(jì)量的性質(zhì)v第四節(jié)第四節(jié) 系數(shù)的顯著性檢驗(yàn)系數(shù)的顯著性檢驗(yàn)v第五節(jié)第五節(jié) 預(yù)測(cè)和預(yù)測(cè)區(qū)間預(yù)測(cè)和預(yù)測(cè)區(qū)間第一節(jié)第一節(jié) 模型的假定模型的假定第一節(jié)第一節(jié) 模型的假定模型的假定 或 Y=f(X1，X2，Xn，u) (15) 其中最簡(jiǎn)單的形式為一元

9、線性回歸模型 Y=1+2X+u (16) 計(jì)量經(jīng)濟(jì)學(xué)只討論變量之間不完全確定的關(guān)系，如式(14)或式(15)所表示的關(guān)系。 如式(16)所表示的關(guān)系式，稱為一元線性回歸模型。 “一元是指只有一個(gè)自變量X，這個(gè)自變量X可以解釋引起因變量Y變化的部分原因。因而，X稱為解釋變量，Y稱為被解釋變量，1和2為參數(shù)。第一節(jié)第一節(jié) 模型的假定模型的假定v “線性一詞在這里有兩重含義。它一方面指被解釋變量Y與解釋變量X之間為線性關(guān)系，另一方面也指Y與參數(shù)1、2之間為線性關(guān)系。v 在數(shù)理統(tǒng)計(jì)學(xué)中，“回歸通常指散布點(diǎn)分布在一條直線(或曲線)附近，并且越靠近該直線(或曲線)，點(diǎn)的分布越密集的情況。 v “模型一詞通

10、常指滿足某些假設(shè)條件的方程或方程組。第一節(jié)第一節(jié) 模型的假定模型的假定第一節(jié)第一節(jié) 模型的假定模型的假定假設(shè)假設(shè)3 3 不同的誤差項(xiàng)不同的誤差項(xiàng)utut和和usus之間互相獨(dú)立，即之間互相獨(dú)立，即 cov(ut,us)=E(ut-E(ut)(us-E(us)=0 cov(ut,us)=E(ut-E(ut)(us-E(us)=0 (110)(110)第一節(jié)第一節(jié) 模型的假定模型的假定 (ts; t=1, 2, , n; s=1, 2, , n) (ts; t=1, 2, , n; s=1, 2, , n)或或 E(utus)=0 (111) E(utus)=0 (111) 假設(shè)假設(shè)4 4 解釋變

11、量解釋變量XtXt與誤差項(xiàng)與誤差項(xiàng)utut不相關(guān)，即不相關(guān)，即 cov(Xt, ut)=E(Xt-E(Xt)(ut-E(ut) cov(Xt, ut)=E(Xt-E(Xt)(ut-E(ut) =E(Xt-E(Xt)ut) =E(Xt-E(Xt)ut) =0 (t=1, 2, =0 (t=1, 2, ， n) (112) n) (112) 假設(shè)假設(shè)5 ut5 ut為服從正態(tài)分布的隨機(jī)變量，即為服從正態(tài)分布的隨機(jī)變量，即 ut utN(0, u2)N(0, u2) 以上五個(gè)假設(shè)條件稱為經(jīng)典假設(shè)條件。以上五個(gè)假設(shè)條件稱為經(jīng)典假設(shè)條件。 綜上所述，一元線性回歸模型可以歸結(jié)為綜上所述，一元線性回歸模型可

12、以歸結(jié)為 Yt=1+2Xt+ut(t=1, 2, Yt=1+2Xt+ut(t=1, 2, ， n) (113) n) (113)第一節(jié)第一節(jié) 模型的假定模型的假定 E(ut)=0 cov(ut, us)=0 (ts； t, s=1, 2, , n) var(ut)=u2 (常數(shù)常數(shù)) cov(Xt, ut)=0 utN(0, u2) 第二節(jié)第二節(jié) 參數(shù)的最小二乘估計(jì)參數(shù)的最小二乘估計(jì)ntttYY1ntttYY1)(ttYYmax21)(ntttYY 第第4 4種準(zhǔn)則，由于逐項(xiàng)平方，不存在正負(fù)抵消的問(wèn)種準(zhǔn)則，由于逐項(xiàng)平方，不存在正負(fù)抵消的問(wèn)題。它不僅考慮了所有點(diǎn)的影響，而且具有無(wú)偏性，題。它不僅

13、考慮了所有點(diǎn)的影響，而且具有無(wú)偏性，是一個(gè)很好的準(zhǔn)則。這個(gè)準(zhǔn)則稱為最小二乘準(zhǔn)則。用是一個(gè)很好的準(zhǔn)則。這個(gè)準(zhǔn)則稱為最小二乘準(zhǔn)則。用最小二乘準(zhǔn)則尋找擬合直線的方法稱為最小二乘法。最小二乘準(zhǔn)則尋找擬合直線的方法稱為最小二乘法。第二節(jié)第二節(jié) 參數(shù)的最小二乘估計(jì)參數(shù)的最小二乘估計(jì)為簡(jiǎn)化表達(dá)式，從本節(jié)起，在不會(huì)發(fā)生誤解的情況下，為簡(jiǎn)化表達(dá)式，從本節(jié)起，在不會(huì)發(fā)生誤解的情況下，略去求和指標(biāo)略去求和指標(biāo)t t求和的上下限。只要求和符號(hào)沒(méi)有上下限，求和的上下限。只要求和符號(hào)沒(méi)有上下限，就表示為從就表示為從t=1t=1到到t=nt=n求和。即用求和符號(hào)求和。即用求和符號(hào)代替符號(hào)代替符號(hào)nt1假設(shè)估計(jì)直線：假設(shè)估計(jì)

14、直線：Y= Y= * * + + * *X X* *，* *為參數(shù)估計(jì)為參數(shù)估計(jì)當(dāng)當(dāng)X=XtX=XtYt= Yt= * * + + * *XtXt(Xt,Yt)(Xt, (Xt,Yt)(Xt, * * + + * *Xt)Xt)殘差：殘差：et= Yt-( et= Yt-( * * + + * *Xt)Xt)誤差：誤差：ut= Yt-( + Xt)ut= Yt-( + Xt)殘差平方和：殘差平方和：Q= et2= Yt-( Q= et2= Yt-( * * + + * *Xt)2Xt)2第二節(jié)第二節(jié) 參數(shù)的最小二乘估計(jì)參數(shù)的最小二乘估計(jì) 22()( ):0, 0: 20 20 tttttttt

15、OLSordinary least squaresQQQYXYXXYXX YnXYXnX 最小二乘法求出參數(shù)估計(jì)量使達(dá)到最小值.正規(guī)方程: 即第二節(jié)第二節(jié) 參數(shù)的最小二乘估計(jì)參數(shù)的最小二乘估計(jì) 222222: XXttYYttXYttttXXXYXYXXSXXXnXSYYYnYSXXYYX YnXYSSSS 定義 則式變?yōu)? YX第二節(jié)第二節(jié) 參數(shù)的最小二乘估計(jì)參數(shù)的最小二乘估計(jì)XYX-Y)XX()YY)(XX(*2ttt*估計(jì)的回歸方程：最小二乘估計(jì)第二節(jié)第二節(jié) 參數(shù)的最小二乘估計(jì)參數(shù)的最小二乘估計(jì)總體有限總體無(wú)限總體任何樣本都是有限的 第三節(jié)第三節(jié) 最小二乘估計(jì)量的性質(zhì)最小二乘估計(jì)量的性質(zhì)

16、 一、線性特性 是指參數(shù)估計(jì)值*1和*2分別為觀察值Yt或擾動(dòng)項(xiàng)ut的線性組合。 證： *2 =Xtyt/ Xt2 =Xt(Yt- )/X2t =（Xt/Xt2Yt 令 bt= （Xt/Xt2） 得 *2 = bt Yt 即*2 是Yt的線性組合Y第三節(jié)第三節(jié) 最小二乘估計(jì)量的性質(zhì)最小二乘估計(jì)量的性質(zhì) *2=btYt =bt(1+2Xt+ut) =1bt+2btXt+btut 其中： bt=(Xt/Xt2)=Xt / Xt2=0 btXt=(Xt/Xt2)Xt=(Xt(Xt+ )/Xt2)=1 所以 *2 =2+btut即*2也是ut的線性組合 X第三節(jié)第三節(jié) 最小二乘估計(jì)量的性質(zhì)最小二乘估計(jì)

17、量的性質(zhì) *1= - 1 =(1/n)Yt- btYt =(1/n)- btYt令 at= (1/n)- bt由于和bt均為非隨機(jī)變量，所以at也是非隨機(jī)變量。因而 *1 =atYt即*1是Yt的線性組合。 YXXXX第二節(jié)第二節(jié) 參數(shù)的最小二乘估計(jì)參數(shù)的最小二乘估計(jì) *1 =at(1+2Xt+ut) =1at+2atXt+atut其中：at=(1/n)- bt=1- bt=1atXt=1/n- btXt =(1/n)Xt- btXt =0所以*1 =1+atut即*1也是ut的線性組合XXXX第三節(jié)第三節(jié) 最小二乘估計(jì)量的性質(zhì)最小二乘估計(jì)量的性質(zhì)二、無(wú)偏性 指*1和*2 的期望值分別等于總體

18、參數(shù)1和2。 即E(*1)=1 E(*2 )=2 E(*2 )=E(2+btut) =2+btE(ut) =2 E(*1)=E(1+atut) =1 第三節(jié)第三節(jié) 最小二乘估計(jì)量的性質(zhì)最小二乘估計(jì)量的性質(zhì)三、最優(yōu)性 指最小二乘估計(jì)*1和*2在各種線性無(wú)偏估計(jì)中，具有最小方差。 1.先求*1和*2的方差 var(*2) = var(btYt) = bt2 var(1+2Xt+ut) = bt2 var(ut)= (Xt/Xt2)22 = 2 /Xt2 var(*1)= var(atYt) = at2 var(1+2Xt+ut) = at2 var(ut)= (1/n)- bt22 = 2 (1/

19、n+ 2/ Xt2)XX第三節(jié)第三節(jié) 最小二乘估計(jì)量的性質(zhì)最小二乘估計(jì)量的性質(zhì)2.2.證明最小方差性證明最小方差性 假設(shè)假設(shè)* * *2 2是其他方法得到的關(guān)于是其他方法得到的關(guān)于22的線性的線性無(wú)偏估計(jì)無(wú)偏估計(jì) * * *2=ctYt2=ctYt 其中，其中，ct=bt+dtct=bt+dt，dtdt為不全為零的常數(shù)為不全為零的常數(shù) 則容易證明則容易證明 var( var(* * *2) var(2) var(* *2) 2) 同理可證明同理可證明11的最小二乘估計(jì)量的最小二乘估計(jì)量* *1 1具有最具有最小方差。小方差。 高斯高斯馬爾可夫定理馬爾可夫定理(Gauss-Markov (Gau

20、ss-Markov theorem)theorem)： 滿足性質(zhì)滿足性質(zhì)1 1、2 2、3 3的最小二乘估計(jì)量是最優(yōu)線的最小二乘估計(jì)量是最優(yōu)線性無(wú)偏估計(jì)量性無(wú)偏估計(jì)量best linear unbiased best linear unbiased estimatorestimator：BLUEBLUE）第四節(jié)第四節(jié) 系數(shù)的顯著性檢驗(yàn)系數(shù)的顯著性檢驗(yàn)一、誤差項(xiàng)方差估計(jì) 對(duì)比總體回歸模型和樣本回歸模型，可以看出，殘差et可以看做誤差項(xiàng)ut的估計(jì)值。計(jì)算如下：22222222: , ,2 (1) (2) (3)tttttttttttttttYXueYYYYuubXXeuuuubXXbXX 的估計(jì)量

21、模型:包含三個(gè)未知參數(shù)第四節(jié)第四節(jié) 系數(shù)的顯著性檢驗(yàn)系數(shù)的顯著性檢驗(yàn) 2222222222222223,(2)2,(1)1(1),(2),(3)122:2,XXXXttESEEnSEenneSnE SS 由定義則即是的一個(gè)無(wú)偏估計(jì)第四節(jié)第四節(jié) 系數(shù)的顯著性檢驗(yàn)系數(shù)的顯著性檢驗(yàn)二、參數(shù)估計(jì)的顯著性檢驗(yàn)二、參數(shù)估計(jì)的顯著性檢驗(yàn) 在上一節(jié)中，已經(jīng)證明，由于最小二乘估在上一節(jié)中，已經(jīng)證明，由于最小二乘估計(jì)計(jì)*1和和*2 具有線性特性，所以具有線性特性，所以*1和和*2均均為為Yt的線性組合。的線性組合。 因?yàn)橐驗(yàn)閅t服從正態(tài)分布，所以作為服從正態(tài)分布，所以作為Yt的線性的線性組合的組合的*1和和*2也

22、服從正態(tài)分布。也服從正態(tài)分布。 由無(wú)偏性，證明了由無(wú)偏性，證明了*1和和*2的期望分別的期望分別為總體參數(shù)為總體參數(shù)1和和2。在證明最優(yōu)性的過(guò)程中。在證明最優(yōu)性的過(guò)程中又得到又得到*1和和*2的方差。的方差。第四節(jié)第四節(jié) 系數(shù)的顯著性檢驗(yàn)系數(shù)的顯著性檢驗(yàn)因而，可以得到*1和*2的抽樣分布為),(),(222*22221*1tuttuXNXnXN 由于真實(shí)的2不知，用它的無(wú)偏估計(jì)量S2=et2/(n-2)替代時(shí)，可構(gòu)造如下統(tǒng)計(jì)量：)2(*2222*222*ntSXStt 檢驗(yàn)步驟：（1對(duì)總體參數(shù)提出假設(shè) H0： 2=0， H1：20（2以原假設(shè)H0構(gòu)造t統(tǒng)計(jì)量，并由樣本計(jì)算其值*2*2St 第四

23、節(jié)第四節(jié) 系數(shù)的顯著性檢驗(yàn)系數(shù)的顯著性檢驗(yàn)（3給定顯著性水平給定顯著性水平，查，查t分布表，得臨界值分布表，得臨界值 t /2(n-2)(4) 比較，判斷比較，判斷 假設(shè)假設(shè) |t| t /2(n-2)，則拒絕，則拒絕H0 ，接受，接受H1 ； 假設(shè)假設(shè) |t| t /2(n-2)，則拒絕，則拒絕H1 ，接受，接受H0 ； 對(duì)于一元線性回歸方程中的對(duì)于一元線性回歸方程中的1 1，可構(gòu)造如下，可構(gòu)造如下t t統(tǒng)計(jì)量進(jìn)統(tǒng)計(jì)量進(jìn)行顯著性檢驗(yàn)：行顯著性檢驗(yàn)： )2()(*1*12221*1ntSXnXSttt第四節(jié)第四節(jié) 系數(shù)的顯著性檢驗(yàn)系數(shù)的顯著性檢驗(yàn)三、總體參數(shù)的置信區(qū)間 總體參數(shù)1和2的置信區(qū)間

24、分別為 *2*2*1*1)2()2()2()2(2/*222/*22/*112/*1SntSntSntSnt和第四節(jié)第四節(jié) 系數(shù)的顯著性檢驗(yàn)系數(shù)的顯著性檢驗(yàn)四、決定系數(shù))Y-(Y)Y-Y(Y-YYtttt，再求和得上式兩邊減去ttteYY 由樣本回歸模型和樣本回歸方程，可以得到由樣本回歸模型和樣本回歸方程，可以得到 這個(gè)恒等式把被解釋變量的總偏差分解成相應(yīng)的這個(gè)恒等式把被解釋變量的總偏差分解成相應(yīng)的可解釋偏差可解釋偏差( (回歸偏差回歸偏差) )和殘差和殘差( (隨機(jī)偏差兩部分之隨機(jī)偏差兩部分之和，如下圖：和，如下圖：第四節(jié)第四節(jié) 系數(shù)的顯著性檢驗(yàn)系數(shù)的顯著性檢驗(yàn)ttYY 圖15被解釋變量偏差

25、的分解 XXtOYXyttYY Yt第四節(jié)第四節(jié) 系數(shù)的顯著性檢驗(yàn)系數(shù)的顯著性檢驗(yàn)記2)(YYTSSt總體平方和總體平方和Total Sum of Squares）)(YYESSt回歸平方和回歸平方和Explained Explained Sum of SquaresSum of Squares）2)(ttYYRSS殘差平方和殘差平方和Residual Residual Sum of Squares Sum of Squares ）TSS=ESS+RSS可以證明第四節(jié)第四節(jié) 系數(shù)的顯著性檢驗(yàn)系數(shù)的顯著性檢驗(yàn)ttt2t1tt212222X)X()( )()( )(2)()()()()(YYYYY

26、YYYYYYYYYYYYYYYttttttttttttt其中：由正規(guī)方程組00tttX第四節(jié)第四節(jié) 系數(shù)的顯著性檢驗(yàn)系數(shù)的顯著性檢驗(yàn)所以0)()()(222ttttYYYYYY即TSS=ESS+RSS Y的觀測(cè)值圍繞其均值的總離差(total variation)可分解為兩部分：一部分來(lái)自回歸線(ESS)，另一部分則來(lái)自隨機(jī)勢(shì)力(RSS)。在給定樣本中，TSS不變， 如果實(shí)際觀測(cè)點(diǎn)離樣本回歸線越近，則ESS在TSS中占的比重越大。第四節(jié)第四節(jié) 系數(shù)的顯著性檢驗(yàn)系數(shù)的顯著性檢驗(yàn)因此定義：222)()(YYYYTSSESSRtt表示擬合的程度，因此稱為決定系數(shù)(coefficient of det

27、ermination)或擬合優(yōu)度。在相關(guān)分析中R2 也稱為復(fù)相關(guān)系數(shù)。 0R2 1第四節(jié)第四節(jié) 系數(shù)的顯著性檢驗(yàn)系數(shù)的顯著性檢驗(yàn)五、相關(guān)分析 通常把相關(guān)分析作為回歸分析的補(bǔ)充分析方法。相關(guān)分析分為線性相關(guān)與非線性相關(guān)，如果樣本點(diǎn)集中分布在一條直線附近，則兩變量的關(guān)系稱為線性相關(guān)。當(dāng)直線的斜率為正值，兩變量的關(guān)系稱為正線性相關(guān)。當(dāng)直線的斜率為負(fù)值，兩變量的關(guān)系稱為負(fù)線性相關(guān)。如果樣本點(diǎn)集中分布在一條曲線附近，則兩變量的關(guān)系稱為非線性相關(guān)。 第四節(jié)第四節(jié) 系數(shù)的顯著性檢驗(yàn)系數(shù)的顯著性檢驗(yàn)v線性相關(guān)：通常用相關(guān)系數(shù)表示X和Y的相關(guān)程度 2222)var()var(),(ttttttttXYyxyxn

28、ynxnyxyXYXCOVrrXY為X與Y的簡(jiǎn)單相關(guān)系數(shù)(只有兩個(gè)變量相關(guān)的相關(guān)系數(shù))，同時(shí)也是樣本相關(guān)系數(shù) 第四節(jié)第四節(jié) 系數(shù)的顯著性檢驗(yàn)系數(shù)的顯著性檢驗(yàn)總體相關(guān)系數(shù))var()var(),(YXYXCOVXY-1 1=0，表示總體，表示總體X與與Y不相關(guān)；不相關(guān)；0，表示總體，表示總體X與與Y在一定程度上相關(guān)；在一定程度上相關(guān)；=1，表示總體，表示總體X與與Y完全正相關(guān)或完全負(fù)相完全正相關(guān)或完全負(fù)相關(guān)。關(guān)。 第四節(jié)第四節(jié) 系數(shù)的顯著性檢驗(yàn)系數(shù)的顯著性檢驗(yàn)X與與Y總體是否相關(guān)的檢驗(yàn)總體是否相關(guān)的檢驗(yàn)提出假設(shè)：提出假設(shè)： H0 =0 H1 0 構(gòu)造統(tǒng)計(jì)量構(gòu)造統(tǒng)計(jì)量2n1)2(2rSntSrtr

29、r其中：第四節(jié)第四節(jié) 系數(shù)的顯著性檢驗(yàn)系數(shù)的顯著性檢驗(yàn)六、相關(guān)分析與回歸分析的聯(lián)系2RrYX 決定系數(shù)R2與相關(guān)分析中的簡(jiǎn)單相關(guān)系數(shù)rXY之間的關(guān)系 簡(jiǎn)單相關(guān)系數(shù)rXY與回歸分析中的參數(shù)估計(jì)*2的關(guān)系)var()var(*2XYrXY第五節(jié)第五節(jié) 預(yù)測(cè)和預(yù)測(cè)區(qū)間預(yù)測(cè)和預(yù)測(cè)區(qū)間一、預(yù)測(cè)的點(diǎn)估計(jì)根據(jù)樣本回歸方程ttXY21對(duì)原樣本外的任意解釋變量X0，可得到tXY210因?yàn)椋旱臒o(wú)偏估計(jì)值。是即)()()()(0000210210YEYYEXXEYE第五節(jié)第五節(jié) 預(yù)測(cè)和預(yù)測(cè)區(qū)間預(yù)測(cè)和預(yù)測(cè)區(qū)間的無(wú)偏估計(jì)值。不是可見(jiàn)00000210210)()(YYYXXEYE)(0)(0000YYYYE即二者之差值得注意：但是 在多次觀察中，平均值趨向于零，從這個(gè)意義上是合理的中心區(qū)來(lái)估計(jì)用0000間作為，并且用YYYY第五節(jié)第五節(jié) 預(yù)測(cè)和預(yù)測(cè)區(qū)間預(yù)測(cè)和預(yù)測(cè)區(qū)間二、預(yù)測(cè)的區(qū)間估計(jì) 1.E(Y0)的置信區(qū)間)()()(var(2000000YYEEYYEEYYE因?yàn)?)()()(0000YEYEYYEE 所以)(2)()()()()var()()(var(221102220211202211020000EXEXEXEYYYEEYYE第五節(jié)第五節(jié) 預(yù)測(cè)和預(yù)測(cè)區(qū)間預(yù)測(cè)和預(yù)測(cè)區(qū)間因?yàn)?2202022202221211)var()()v