一元線性回歸模型的置信區(qū)間與預(yù)測(cè)

§2.5一元線性回歸模型的置信區(qū)間與預(yù)測(cè)多元線性回歸模型的置信區(qū)間問(wèn)題包括參數(shù)估計(jì)量的置信區(qū)間和被解釋變量預(yù)測(cè)值的置信區(qū)間兩個(gè)方面，在數(shù)理統(tǒng)計(jì)學(xué)中屬于區(qū)間估計(jì)問(wèn)題。所謂區(qū)間估計(jì)是研究用未知參數(shù)的點(diǎn)估計(jì)值（從一組樣本觀測(cè)值算得的）作為近似值的精確程度和誤差范圍，是一個(gè)必須回答的重要問(wèn)題。一、參數(shù)估計(jì)量的置信區(qū)間在前面的課程中，我們已經(jīng)知道，線性回歸模型的參數(shù)估計(jì)量0是隨機(jī)變量y的函數(shù)，即：邛=￡k?,所以它也是隨機(jī)變量。在多次重復(fù)抽樣中，每次的樣本觀測(cè)值不可能完全相同，所以得到的點(diǎn)估計(jì)值也不可能相同?，F(xiàn)在我們用參數(shù)估計(jì)量的一個(gè)點(diǎn)估計(jì)值近似代表參數(shù)值，那么，二者的接近程度如何？以多大的概率達(dá)到該接近程度？這就要構(gòu)造參數(shù)的一個(gè)區(qū)間，以點(diǎn)估計(jì)值為中心的一個(gè)區(qū)間（稱為置信區(qū)間），該區(qū)間以一定的概率（稱為置信水平）包含該參數(shù)。即回答￡以何種置信水平位于a里+a）之中，以及如何求得a。在變量的顯著性檢驗(yàn)中已經(jīng)知道八P-Pt=-——L-t（n-k-1）S；1（2.5.1）這就是說(shuō)，如果給定置信水平，從t分布表中查得自由度為（n-k-1）的臨界值t%,那么t值處在（-t32%2的概率是1一。。表示為P（—t:t"）=1-1P(-t:2-Lt：)=1-二P(-t:2TOC\o"1-5"\h\zS人2-i2P（i-t.s：」「Ls，）=1一

2'i2'i于是得到：在（1-口）的置信水平下"的置信區(qū)間是，A（p「y,）22i=0,1（2.5.3）在某例子中，如果給定s=0.01,查表得t￡n-k-1)=to.oo5(13)=3.0122從回歸計(jì)算中得到院=102.3,用=0.21,S國(guó)=15,Sg=0.01根據(jù)(2.5.2)計(jì)算得到B0,B1的置信區(qū)間分別為(57.12,147.48)和（0.1799,0.2401）顯然，參數(shù)冏的置信區(qū)間要小在實(shí)際應(yīng)用中，我們當(dāng)然希望置信水平越高越好，置信區(qū)間越小越好。如何才能縮小置信區(qū)間？從（2.5.3）式中不難看出：（1）增大樣本容量n。t二在同樣的置信水平下，n越大，從t分布表中查得自由度為（n-k-1）的臨界值一2越??；同時(shí)，增大樣本容量，在一般情況下可使估計(jì)值的標(biāo)準(zhǔn)差Sp減小，因?yàn)槭街蟹帜傅脑龃笫强隙ǖ模肿硬⒉灰欢ㄔ龃?。?）更主要的是提高模型的擬合度，以減小殘差平方和￡e；。設(shè)想一種極端情況，如果模型完全擬合樣本觀測(cè)值，殘差平方和為0,則置信區(qū)間也為0。（3）提高樣本觀測(cè)值的分散度。在一般情況下，樣本觀測(cè)值越分散，標(biāo)準(zhǔn)差越小。置信水平與置信區(qū)間是矛盾的。置信水平越高，在其他情況不變時(shí)，臨界值E越大，置信區(qū)間越大。如果要求縮小置信區(qū)間，在其他情況不變時(shí)，就必須降低對(duì)置信水平的要求。二、預(yù)測(cè)值的置信區(qū)間點(diǎn)預(yù)測(cè)計(jì)量經(jīng)濟(jì)學(xué)模型的一個(gè)重要應(yīng)用是經(jīng)濟(jì)預(yù)測(cè)。對(duì)于模型yi=兒+BiX+5,i=1,2,…，n如果給定樣本以外的解釋變量的觀測(cè)值Xf,有y-0--Uf因Xf是前述樣本點(diǎn)以外的解釋變量值，所以Uf和Ui(i=1,2,…，n)是不相關(guān)的。引用已有的OLS的估計(jì)值，可以得到被解釋變量yf的點(diǎn)預(yù)測(cè)值：pf=?04Xf(2,5.4)但是，嚴(yán)格地說(shuō)，這只是被解釋變量的預(yù)測(cè)值的估計(jì)值，而不是預(yù)測(cè)值。原因在于兩方面：一是模型中的參數(shù)估計(jì)量是不確定的，正如上面所說(shuō)的；二是隨機(jī)項(xiàng)的影響。所以，我們得到的僅是預(yù)測(cè)值的一個(gè)估計(jì)值，預(yù)測(cè)值僅以某一個(gè)置信水平處于以該估計(jì)值為中心的一個(gè)區(qū)間中。于是，又是一個(gè)區(qū)間估計(jì)問(wèn)題。區(qū)間預(yù)測(cè)如果已經(jīng)知道實(shí)際的預(yù)測(cè)值yf,那么預(yù)測(cè)誤差為ef=yf-1顯然，ef是一隨機(jī)變量，可以證明

=E°iXfUf-E?o?Xf=-^o--iXf-：o--iXf=0Def)=Covef,ef)=Covyf-yf,yf-？f=Covyf,yf-2Covyf,yfCovyf,yf二町D%-2Covyf,7f因?yàn)椋縡由原樣本的OLS估計(jì)值求得，而yf與原樣本不相關(guān)，故有:Cov(yfCov(yf,?f)=0,Def=二：D?f可以計(jì)算出來(lái):Xf可以計(jì)算出來(lái):Xf-Xn2'Xi-Xi=1(2.5.5)Def=1XDef=1Xf-X1+一十^nkf-2￡(Xi-x)1)仃2u(2.5.6)因？f和ef均服從正態(tài)分布，可利用它們的性質(zhì)構(gòu)造統(tǒng)計(jì)量，求區(qū)間預(yù)測(cè)值。利用？f構(gòu)造統(tǒng)計(jì)量為:N?fN?f?N0,1將。:用估計(jì)值喏代入上式，有t?f1Xf-x—十nn2n￡(x-X)i」)這樣，可得顯著性水平a下E(yf)的置信區(qū)間為?f-t2Xft?f1Xf-x—十nn2n￡(x-X)i」)這樣，可得顯著性水平a下E(yf)的置信區(qū)間為?f-t2Xf-X+nS(x-xfi1(2.5.7)(2.5.7)式稱為yf的均值區(qū)間預(yù)測(cè)。同理，利用ef構(gòu)造統(tǒng)計(jì)量，有efyf-7fef11nXf-xnXi-X22PuXf-Xn“Xi-X2i1將仃:用估計(jì)值取代入上式，有:tefefyf-?fxf-xnXi-X2i11十1十nXf-XnXi-x2iZ?fXf-X力2?u根據(jù)置信區(qū)間的原理，得顯著性水平口下yf的置信區(qū)間:11---

n(2.5.8)上式稱為yf的個(gè)值區(qū)間預(yù)測(cè)，顯然，在同樣的口下，個(gè)值區(qū)間要大于均值區(qū)間。（2.5.7）和（2.5.8）也可表述為：yf的均值或個(gè)值落在置信區(qū)間內(nèi)的概率為1—口，1—a即為預(yù)測(cè)區(qū)間的置信度?；蛘哒f(shuō)，當(dāng)給定解釋變量值Xf后，只能得到被解釋變量yf或其均值E（yf）以（1一口）的置信水平處于某區(qū)間的結(jié)論。經(jīng)常聽(tīng)到這樣的說(shuō)法，“如果給定解釋變量值，根據(jù)模型就可以得到被解釋變量的預(yù)測(cè)值為……值”。這種說(shuō)法是不科學(xué)的，也是計(jì)量經(jīng)濟(jì)學(xué)模型無(wú)法達(dá)到的。如果一定要給出一個(gè)具體的預(yù)測(cè)值，那么它的置信水平則為0;如果一定要回答解釋變量以100%的置信水平處在什么區(qū)間中，那么這個(gè)區(qū)間是8。在實(shí)際應(yīng)用中，我們當(dāng)然也希望置信水平越高越好，置信區(qū)間越小越好，以增加預(yù)測(cè)的實(shí)用意義。如何才能縮小置信區(qū)間？從（2.5.5）和（2.5.6）式中不難看出：（1）增大樣本容量no在同樣的置信水平下，n越大，從t分布表中查得自由度為（n-k-1）的臨界值t%越小；同時(shí)，增大樣本容量，在一般情況下可使2e*2=減小，因?yàn)槭街蟹帜傅脑龃笫强隙ǖ模肿硬⒉灰欢ㄔ龃?。?）更n-2主要的是提高模型的擬合優(yōu)度，以減小殘差平方和Ze2。設(shè)想一種極端情況，如果模型完全擬合樣本觀測(cè)值，殘差平方和為0,則置信區(qū)間長(zhǎng)度也為0,預(yù)測(cè)區(qū)間就是一點(diǎn)。（3）提高樣本觀測(cè)值的分散度。在一般情況下，樣本觀測(cè)值越分散，作為分母的Z（為-X2的值越大，致使區(qū)間縮小。置信水平與置信區(qū)間是矛盾的。置信水平越高，在其他情況不變時(shí)，臨界值t%越大，置信區(qū)間越大。如果要求縮小置信區(qū)間，在其他情況不變時(shí)，就必須降低對(duì)置信水平的要求

四、一元線性回歸模型參數(shù)估計(jì)實(shí)例為了幫助讀者理解一元線性回歸模型參數(shù)估計(jì)的原理，下面以我國(guó)國(guó)家財(cái)政文教科學(xué)衛(wèi)生事業(yè)費(fèi)支出模型為例，不采用計(jì)量經(jīng)濟(jì)學(xué)應(yīng)用軟件，用手工計(jì)算，進(jìn)行模型的參數(shù)估計(jì)。經(jīng)分析得到，我國(guó)國(guó)家財(cái)政中用于文教科學(xué)衛(wèi)生事業(yè)費(fèi)的支出，主要由國(guó)家財(cái)政收入決定，二者之間具有線性關(guān)系。于是可以建立如下的模型：EDt+BFIt?」t其中，EDt為第t年國(guó)家文教科學(xué)衛(wèi)生事業(yè)費(fèi)支出額（億元），F(xiàn)1t為第t年國(guó)家財(cái)政收入額（億元），匕，為隨機(jī)誤差項(xiàng)，口和0為待估計(jì)的參數(shù)。選取1991-1997年的數(shù)據(jù)為樣'、ED'、EDt=8812t'、Fit=38500tED=1259FI=5500本，利用（2.2.6）和（2.2.7）的計(jì)算公式，分別計(jì)算參數(shù)估計(jì)值。表2.2.1有關(guān)數(shù)據(jù)表年份EDFI.ED.FI“ED“ED-ED(ED-ED)/ED19917083149-551-2351734-26-0.03719927933483-466-2017804-11-0.01419939584349-301-11511001-43-0.04519941278521819-2821196820.0641995146762422087421424430.02919961704740844519081685190.01119971904865164531511963-59-0.031有關(guān)中間計(jì)算結(jié)果如下:'FIt2=236869644t.'、'FI'FIt2=236869644t.'、'FIt=5612207t2

.vFI=2511964t由電腦計(jì)算的參數(shù)估計(jì)值為?=-39.65,7=0.24全部統(tǒng)計(jì)結(jié)果如下表。2從表中可看出，判定系數(shù)R=0.99,表示以國(guó)家財(cái)政收入額來(lái)解釋國(guó)家文教科學(xué)衛(wèi)生事業(yè)費(fèi)支出額，在1991至1997年間，擬合度相當(dāng)理想。截距項(xiàng)口的估計(jì)值對(duì)應(yīng)的t-統(tǒng)計(jì)量為0.47,不能通過(guò)顯著性檢驗(yàn)，即不能推翻口為0的假設(shè)；而一次系數(shù)P的估計(jì)值對(duì)應(yīng)的t-統(tǒng)計(jì)量為20.34,不用查表即可知通過(guò)顯著性檢驗(yàn)，即口顯著不為0,因果關(guān)系成立。F-統(tǒng)計(jì)量的值為413.58,也表示方程系數(shù)顯著不為0。表一：Eviews計(jì)算結(jié)果DependentVariable:EDMethod:LeastSquaresDate:09/21/02Time:16:22Sample:19911997Includedobservations:7VariableCoefficientStd.Errort-StatisticProb.C30.0523763.906910.470252!0.6580FI0.2234190.01098620.33659)0.0000R-squared0.988055Meandependentvar1258.857AdjustedR-squared0.985666S.D.dependentvar459.8972S.E.ofregression55.06160Akaikeinfocriterion11.08974Sumsquaredresid15158.90Schwarzcriterion11.07428Loglikelihood-36.81408F-statistic413.5768Durbin-Watsonstat1.644626Prob(F-statistic)0.000005表二：不含截距項(xiàng)的Eviews計(jì)算結(jié)果:DependentVariable:EDMethod:LeastSquaresDate:09/21/02Time:16:19

Date:09/21/02Time:16:19Sample:19911997Includedobservations:7VariableCoefficientStd.Errort-StatisticProb.FI0.2283040.00333768.408770.0000R-squared0.987526Meandependentvar1258.857AdjustedR-squared0.987526S.D.dependentvar459.8972S.E.ofregression51.36364Akaikeinfocriterion10.84730Sumsquaredresid15829.34Schwarzcriterion10.83957Loglikelihood-36.96556Durbin-Watsonstat1.630622DependentVariable:LEDMethod:LeastSquaresDate:09/21/02Time:16:21Sample:19911997Includedobservations:7VariableCoefficientStd.Errort-StatisticProb.C-1.5223290.383141-3.9732900.0106LFI1.0055630.04476422.463410.0000R-squared0.990188Meandependentvar7.077084AdjustedR-squared0.988226S.D.dependentvar0.382958S.E.ofregression0.041554Akaikeinfocriterion-3.288701Sumsquaredresid0.008634Schwarzcriterion-3.304156Loglikelihood13.51045F-statistic504.6048Durbin-Watsonstat1.930000Prob(F-statistic)0.000003

多元線性回歸模型的參數(shù)估計(jì)實(shí)例例2.3.1建立中國(guó)消費(fèi)模型。根據(jù)消費(fèi)模型的一般形式，選擇消費(fèi)總額為被解釋變量，國(guó)內(nèi)生產(chǎn)總值和前一年的消費(fèi)總額為解釋變量，變量之間關(guān)系為簡(jiǎn)單線性關(guān)系，選取1981年至1996年統(tǒng)計(jì)數(shù)據(jù)為樣本觀測(cè)值。樣本觀測(cè)值列于表2.3.1中。表2.3.1中國(guó)消費(fèi)數(shù)據(jù)表年份消費(fèi)總額國(guó)內(nèi)生產(chǎn)總值前一年消費(fèi)額年份消費(fèi)總額國(guó)內(nèi)生產(chǎn)總值前一年消費(fèi)額19813309490129761989105561646693601982363854893309199011362183210556198340216076363819911314621280113621984469471644021199215952258641314619855773879246941993201823450115952198665421013357731994272164711120182198774511178465421995345295940527216198893601470474511996401726849834529以y代表消費(fèi)總額，x1代表國(guó)內(nèi)生產(chǎn)總值，x2代表前一年消費(fèi)總額，應(yīng)用計(jì)量經(jīng)濟(jì)分析軟件包TSP6.5中普通最小二乘法借計(jì)模型，得到下列結(jié)果：y=540.5286+0.4809x1+0.1985x2\2.3.1