多元線性回歸方程的檢驗(yàn)、預(yù)測(cè)

1、 多元線性回歸模型 的檢驗(yàn)、預(yù)測(cè) 多元回歸的擬合優(yōu)度檢驗(yàn)（R2） 方程總體線性檢驗(yàn)顯著性檢驗(yàn)（F） 變量的顯著性（t）正確的態(tài)度為什么要學(xué)好計(jì)量經(jīng)濟(jì)學(xué)？為什么要學(xué)好計(jì)量經(jīng)濟(jì)學(xué)？ 你的人生會(huì)有所不同！你的人生會(huì)有所不同！l 獨(dú)立思考獨(dú)立思考避免人云亦云避免人云亦云l 掌握研究問(wèn)題的方法掌握研究問(wèn)題的方法實(shí)證分析實(shí)證分析l 提高學(xué)歷含金量提高學(xué)歷含金量同學(xué)存在問(wèn)題：同學(xué)存在問(wèn)題： 存在上課走神的現(xiàn)象 課后不看書(shū) 缺乏鉆研精神必要說(shuō)明計(jì)量經(jīng)濟(jì)學(xué)其實(shí)很簡(jiǎn)單！ 要有自信心自信心 正確的學(xué)習(xí)方法學(xué)習(xí)方法如何學(xué)好計(jì)量經(jīng)濟(jì)學(xué)？如何學(xué)好計(jì)量經(jīng)濟(jì)學(xué)？ 不要錯(cuò)過(guò)我的課堂！不要錯(cuò)過(guò)我的課堂！l 課堂的點(diǎn)撥很重要課堂的

2、點(diǎn)撥很重要l 自學(xué)起來(lái)是事倍功半自學(xué)起來(lái)是事倍功半 要有強(qiáng)烈的求知欲！要有強(qiáng)烈的求知欲！l 課后復(fù)習(xí)、練習(xí)（看其他參考書(shū)）課后復(fù)習(xí)、練習(xí)（看其他參考書(shū)）l 自己下載軟件學(xué)習(xí)自己下載軟件學(xué)習(xí)軟件學(xué)習(xí)很重要！軟件學(xué)習(xí)很重要！如何學(xué)習(xí)？知識(shí)體系本科計(jì)量經(jīng)濟(jì)學(xué)主要講什么？本科計(jì)量經(jīng)濟(jì)學(xué)主要講什么？ 統(tǒng)計(jì)檢驗(yàn)！統(tǒng)計(jì)檢驗(yàn)！l 擬合優(yōu)度檢驗(yàn)擬合優(yōu)度檢驗(yàn)R R2 2l 單變量顯著性檢驗(yàn)單變量顯著性檢驗(yàn)t t檢驗(yàn)檢驗(yàn)l 回歸方程的顯著性檢驗(yàn)回歸方程的顯著性檢驗(yàn)F F檢驗(yàn)檢驗(yàn) 計(jì)量經(jīng)濟(jì)學(xué)檢驗(yàn)！計(jì)量經(jīng)濟(jì)學(xué)檢驗(yàn)！l 多重共線性多重共線性l 異方差性異方差性l 自相關(guān)性自相關(guān)性則2222)()(2)()()()(YYY

3、YYYYYYYYYYYTSSiiiiiiiiii 總離差平方和的分解多元回歸的擬合優(yōu)度檢驗(yàn)多元回歸的擬合優(yōu)度檢驗(yàn))()(YYeYYYYiiiiikiikiiieYXeXee110=0所以有： ESSRSSYYYYTSSiii22)()(注： 222222YYYYYYYYYYYYYYYYYYiiiiiiiiiiii必要必要說(shuō)明說(shuō)明： 可決系數(shù)TSSRSSTSSESSR12該統(tǒng)計(jì)量越接近于1，模型的擬合優(yōu)度越高。 問(wèn)題：在應(yīng)用過(guò)程中發(fā)現(xiàn)，如果在模型中增加一個(gè)解釋變量， R2往往增大（Why?) 這就給人一個(gè)錯(cuò)覺(jué)一個(gè)錯(cuò)覺(jué)：要使得模型擬合得好，只要只要增加解釋變量增加解釋變量即可。 但是，現(xiàn)實(shí)情況往往

4、是，由增加解釋變量個(gè)數(shù)引起的R2的增大與擬合好壞無(wú)關(guān)，R2需調(diào)整。多元回歸的擬合優(yōu)度檢驗(yàn)多元回歸的擬合優(yōu)度檢驗(yàn) 調(diào)整的可決系數(shù)調(diào)整的可決系數(shù)（adjusted coefficient of determination） 在樣本容量一定的情況下，增加解釋變量必定使得自由度減少，所以調(diào)整的思路是調(diào)整的思路是:將殘差平方和與總離差平方和分別除以各自的自由度，以剔除變量個(gè)數(shù)對(duì)擬合優(yōu)度的影響:) 1/() 1/(12nTSSknRSSR其中：n-k-1為殘差平方和的自由度，n-1為總體平方和的自由度。多元回歸的擬合優(yōu)度檢驗(yàn)多元回歸的擬合優(yōu)度檢驗(yàn)22222()1()iiiiYTSYeESSRSSRTSSY

5、YTSSSy 222222(-1)11111(1)(1)11iiiienkennRRynnkynk 可決系數(shù)與調(diào)整的可決系數(shù)可決系數(shù)與調(diào)整的可決系數(shù) *赤池信息準(zhǔn)則和施瓦茨準(zhǔn)則赤池信息準(zhǔn)則和施瓦茨準(zhǔn)則 為了比較所含解釋變量個(gè)數(shù)不同的多元回歸模型的擬合優(yōu)度，常用的標(biāo)準(zhǔn)還有: 赤池信息準(zhǔn)則赤池信息準(zhǔn)則（Akaike information criterion, AIC）nknAIC) 1(2lnee施瓦茨準(zhǔn)則施瓦茨準(zhǔn)則（Schwarz criterion，SC） nnknAClnlnee 這兩準(zhǔn)則均要求這兩準(zhǔn)則均要求僅當(dāng)所增加的解釋變量能夠減少AIC值或AC值時(shí)才在原模型中增加該解釋變量。 如果計(jì)

6、算的F值大于臨界值，則拒絕原假設(shè)，說(shuō)明回歸模型有顯著意義；即所有解釋變量聯(lián)合起來(lái)對(duì)Y確有顯著影響。如果計(jì)算的F值小于臨界值，則不拒絕原假設(shè)，說(shuō)明回歸模型沒(méi)有顯著意義；即所有解釋變量聯(lián)合起來(lái)對(duì)Y沒(méi)有顯著影響。方程總體線性的顯著性檢驗(yàn)方程總體線性的顯著性檢驗(yàn)（F 檢驗(yàn)）檢驗(yàn)）方程總體線性的顯著性檢驗(yàn)方程總體線性的顯著性檢驗(yàn)（F 檢驗(yàn)）檢驗(yàn)） 方程的顯著性檢驗(yàn)，旨在對(duì)模型中被解釋變量方程的顯著性檢驗(yàn)，旨在對(duì)模型中被解釋變量與解釋變量之間的線性關(guān)系在總體上是否顯著成立與解釋變量之間的線性關(guān)系在總體上是否顯著成立作出推斷。作出推斷。 即檢驗(yàn)?zāi)Ｐ?Yi=0+1X1i+2X2i+ +kXki+i i=1,2

7、, ,n中的參數(shù)j是否顯著不為0。14總變差總變差 TSS= TSS= 自由度自由度 N1 模型解釋了的變差模型解釋了的變差 ESS= ESS= 自由度自由度 K剩余變差剩余變差 RSS= RSS= 自由度自由度 NK-1 變差來(lái)源變差來(lái)源 平平 方方 和和 自由度自由度 方方 差差歸于回歸模型歸于回歸模型 ESS= ESS= k歸于剩余歸于剩余 RSS= n-RSS= n-k-1k-1總變差總變差 TSS= TSS= n-1基本思想基本思想: : 如果多個(gè)解釋變量聯(lián)合起來(lái)對(duì)被解釋變量的影響不顯著如果多個(gè)解釋變量聯(lián)合起來(lái)對(duì)被解釋變量的影響不顯著, , “歸于回歸于回歸的方差歸的方差“ 比比“歸

8、于剩余的方差歸于剩余的方差”顯著地小應(yīng)是大概率事件。顯著地小應(yīng)是大概率事件。2()iYY2()iiYY2()iYY2)(YYi2()iYY2()iiYY 方差分析表2() /iYYk2() /(-1)iiYYnk2() /(1)iYYn方程總體線性的顯著性檢驗(yàn)方程總體線性的顯著性檢驗(yàn) 可提出如下原假設(shè)與備擇假設(shè)： H0： 0=1=2= =k=0 H1： j不全為0 F檢驗(yàn)的思想來(lái)自于總離差平方和的分解式： TSS=ESS+RSS由于回歸平方和2iyESS是解釋變量X的聯(lián)合體對(duì)被解釋變量Y的線性作用的結(jié)果，考慮比值 22/iieyRSSESS 如果這個(gè)比值較大，則X的聯(lián)合體對(duì)Y的解釋程度高，可認(rèn)

9、為總體存在線性關(guān)系，反之總體上可能不存在線性關(guān)系。 因此,可通過(guò)該比值的大小對(duì)總體線性關(guān)系進(jìn)行推斷。 根據(jù)數(shù)理統(tǒng)計(jì)學(xué)中的知識(shí)，在原假設(shè)H0成立的條件下，統(tǒng)計(jì)量 ) 1/(/knRSSkESSF服從自由度為(k , n-k-1)的F分布。 給定顯著性水平，可得到臨界值F(k,n-k-1)，由樣本求出統(tǒng)計(jì)量F的數(shù)值，通過(guò) F F(k,n-k-1) 或 FF(k,n-k-1) 來(lái)拒絕或接受原假設(shè)H0，以判定原方程總體上的線性關(guān)系是否顯著成立。 H0： 0=1=2= =k=0 H1： j不全為0方程總體線性的顯著性檢驗(yàn)方程總體線性的顯著性檢驗(yàn)關(guān)于擬合優(yōu)度檢驗(yàn)與方程顯著性檢驗(yàn)關(guān)系的討論關(guān)于擬合優(yōu)度檢驗(yàn)與

10、方程顯著性檢驗(yàn)關(guān)系的討論 由) 1/() 1/(12nTSSknRSSR) 1/(/knRSSkESSF可推出：kFknnR1112與或22/(1)/(1)RkFRnk變量的顯著性的假設(shè)檢驗(yàn)（變量的顯著性的假設(shè)檢驗(yàn)（t 檢驗(yàn)）檢驗(yàn)） 方程的總體線性總體線性關(guān)系顯著 每個(gè)解釋變量每個(gè)解釋變量對(duì)被解釋變量的影響都是顯著的。因此，必須對(duì)每個(gè)解釋變量進(jìn)行顯著性檢驗(yàn)，以決定是否作為解釋變量被保留在模型中。 這一檢驗(yàn)是由對(duì)變量的這一檢驗(yàn)是由對(duì)變量的 t 檢驗(yàn)完成的。檢驗(yàn)完成的。變量的顯著性的假設(shè)檢驗(yàn)（變量的顯著性的假設(shè)檢驗(yàn)（t 檢驗(yàn)）檢驗(yàn)） 由于12)()(XXCov 以cii表示矩陣(XX)-1 主對(duì)角

11、線上的第i個(gè)元素，于是參數(shù)估計(jì)量的方差為： iiicVar2)( 其中2為隨機(jī)誤差項(xiàng)的方差，在實(shí)際計(jì)算時(shí)，用它的估計(jì)量代替: 1122knkneiee變量的顯著性的假設(shè)檢驗(yàn)（變量的顯著性的假設(shè)檢驗(yàn)（t 檢驗(yàn)）檢驗(yàn)）),(2iiiicN因此，可構(gòu)造如下t統(tǒng)計(jì)量 ) 1(1kntkncStiiiiiiiee變量的顯著性的假設(shè)檢驗(yàn)（變量的顯著性的假設(shè)檢驗(yàn)（t 檢驗(yàn)）檢驗(yàn)）0:0jH0:1jH（j=1,2,k）* ()()1jjjjjjttSEnkc22(1)ienk變量的顯著性的假設(shè)檢驗(yàn)（變量的顯著性的假設(shè)檢驗(yàn)（t 檢驗(yàn)）檢驗(yàn)） 設(shè)計(jì)原假設(shè)與備擇假設(shè)： H1：i0 給定顯著性水平，可得到臨界值t/2

12、(n-k-1)，由樣本求出統(tǒng)計(jì)量t的數(shù)值，通過(guò) |t| t/2(n-k-1) 或 |t|t/2(n-k-1)來(lái)拒絕或接受原假設(shè)H0，從而判定對(duì)應(yīng)的解釋變判定對(duì)應(yīng)的解釋變量是否應(yīng)包括在模型中。量是否應(yīng)包括在模型中。 H0：i=0 （i=1,2k） 24注意：一元線性回歸中，t檢驗(yàn)與F檢驗(yàn)一致 一方面，t檢驗(yàn)與F檢驗(yàn)都是對(duì)相同的原假設(shè)H0：1=0 進(jìn)行檢驗(yàn); 另一方面，兩個(gè)統(tǒng)計(jì)量之間有如下關(guān)系： 222212221222122212212)2()2()2()2(txnexnexnenexneyFiiiiiiiiii對(duì)各回歸系數(shù)假設(shè)檢驗(yàn)的作法25給定顯著性水平給定顯著性水平 ，查，查t t分布表的臨

13、界值為分布表的臨界值為如果如果 就不拒絕就不拒絕 ，而拒絕，而拒絕 即認(rèn)為即認(rèn)為 所對(duì)應(yīng)的解釋變量所對(duì)應(yīng)的解釋變量 對(duì)被解釋變量對(duì)被解釋變量Y Y的影響不顯的影響不顯著。著。 如果如果 就拒絕就拒絕 而不拒絕而不拒絕 即認(rèn)為即認(rèn)為 所對(duì)應(yīng)的解釋變量所對(duì)應(yīng)的解釋變量 對(duì)被解釋變量對(duì)被解釋變量Y Y的影響是的影響是 顯著的。顯著的。2(-1)tnk*22(-1)(-1)tnkttnk0:0jH0:1jHjjX*22(-1)(-1)ttnkttnk 或0:1jHjjX0:0jH案例分析一案例分析一例3.5.1 建立中國(guó)城鎮(zhèn)居民食品消費(fèi)需求函數(shù)模型。 根據(jù)需求理論，居民對(duì)食品的消費(fèi)需求函數(shù)大致為: )

14、,(01PPXfQ Q:居民對(duì)食品的需求量，X：消費(fèi)者的消費(fèi)支出總額P1：食品價(jià)格指數(shù)，P0：居民消費(fèi)價(jià)格總指數(shù)。 （*)案例分析案例分析 零階齊次性，當(dāng)所有商品和消費(fèi)者貨幣支出總額按同一比例變動(dòng)時(shí)，需求量保持不變 )/,/(010PPPXfQ (*)為了進(jìn)行比較，將同時(shí)估計(jì)（為了進(jìn)行比較，將同時(shí)估計(jì)（* *）式與（）式與（* * *）式。）式。 案例分析案例分析 根據(jù)恩格爾定律恩格爾定律，居民對(duì)食品的消費(fèi)支出與居民的總支出間呈冪函數(shù)的變化關(guān)系: 首先,確定具體的函數(shù)形式32101PPAXQ 對(duì)數(shù)變換: 031210lnlnln)ln(PPXQ(*)案例分析案例分析考慮到零階齊次性零階齊次性時(shí)

15、)/ln()/ln()ln(012010PPPXQ(*)式也可看成是對(duì)（*）式施加如下約束而得:0321因此，對(duì)（*）式進(jìn)行回歸，就意味著原需求函數(shù)滿足零階齊次性條件。(*)案例分析案例分析對(duì)（*）式回歸結(jié)果案例分析案例分析對(duì)（*）式回歸結(jié)果案例分析案例分析中國(guó)城鎮(zhèn)居民對(duì)食品的消費(fèi)需求模型: 可改寫(xiě)為可改寫(xiě)為：（*）式回歸結(jié)果（*）式回歸結(jié)果案例分析二案例分析二研究的目的要求研究的目的要求 為了研究影響中國(guó)地方財(cái)政教育支出差異的主要原因，分為了研究影響中國(guó)地方財(cái)政教育支出差異的主要原因，分析地析地方財(cái)政教育支出增長(zhǎng)的數(shù)量規(guī)律，預(yù)測(cè)中國(guó)地方財(cái)政教育支出方財(cái)政教育支出增長(zhǎng)的數(shù)量規(guī)律，預(yù)測(cè)中國(guó)地方財(cái)

16、政教育支出的增長(zhǎng)趨勢(shì)，需要建立計(jì)量經(jīng)濟(jì)模型。的增長(zhǎng)趨勢(shì)，需要建立計(jì)量經(jīng)濟(jì)模型。研究范圍：研究范圍：20112011年年3131個(gè)省市區(qū)的數(shù)據(jù)為樣本個(gè)省市區(qū)的數(shù)據(jù)為樣本理論分析：理論分析：影響中國(guó)地方財(cái)政教育支出的主要的因素有：影響中國(guó)地方財(cái)政教育支出的主要的因素有：（1 1）由地區(qū)經(jīng)濟(jì)規(guī)模決定的地方整體財(cái)力；）由地區(qū)經(jīng)濟(jì)規(guī)模決定的地方整體財(cái)力；（2 2）地區(qū)人口數(shù)量不同決定各地教育規(guī)模不同；）地區(qū)人口數(shù)量不同決定各地教育規(guī)模不同；（3 3）人民對(duì)教育質(zhì)量的需求對(duì)以政府教育投入為代表的公共）人民對(duì)教育質(zhì)量的需求對(duì)以政府教育投入為代表的公共財(cái)政的需求會(huì)有相當(dāng)?shù)挠绊?。?cái)政的需求會(huì)有相當(dāng)?shù)挠绊?。?

17、4）物價(jià)水平，影響地方財(cái)政對(duì)教育的支出。）物價(jià)水平，影響地方財(cái)政對(duì)教育的支出。（5 5）地方政府對(duì)教育投入的能力與意愿）地方政府對(duì)教育投入的能力與意愿模型設(shè)定模型設(shè)定選擇地方財(cái)政教育支出為被解釋變量。選擇地方財(cái)政教育支出為被解釋變量。選擇選擇“地區(qū)生產(chǎn)總值（地區(qū)生產(chǎn)總值（GDP）”作為地區(qū)經(jīng)濟(jì)規(guī)模的代表；作為地區(qū)經(jīng)濟(jì)規(guī)模的代表；選擇各地區(qū)的選擇各地區(qū)的“年末人口數(shù)量年末人口數(shù)量”作為各地區(qū)居民對(duì)教育規(guī)模的作為各地區(qū)居民對(duì)教育規(guī)模的需求的代表；需求的代表；選擇選擇“居民平均每人教育現(xiàn)金消費(fèi)居民平均每人教育現(xiàn)金消費(fèi)”作為代表居民對(duì)教育質(zhì)量作為代表居民對(duì)教育質(zhì)量的需求；的需求；選擇居民教育消費(fèi)價(jià)格指

18、數(shù)作為價(jià)格變動(dòng)影響的因素；選擇居民教育消費(fèi)價(jià)格指數(shù)作為價(jià)格變動(dòng)影響的因素；由于地方政府教育投入的能力與意愿難以直接量化，選擇由于地方政府教育投入的能力與意愿難以直接量化，選擇“教教育支出在地方財(cái)政支出中的比重育支出在地方財(cái)政支出中的比重”作為其代表。作為其代表。i12233445566iiiiiiiYXXXXXu234562416.490.01120.03950.146022.8162866.4100iYXXXXX 模型估計(jì)的結(jié)果為：模型估計(jì)的結(jié)果為：經(jīng)濟(jì)意義檢驗(yàn)：經(jīng)濟(jì)意義檢驗(yàn)：在假定其它變量不變的情況下，在假定其它變量不變的情況下， 地區(qū)生產(chǎn)總值(GDP)每增長(zhǎng)1億元，平均說(shuō)來(lái)地方財(cái)政教育支出將增長(zhǎng)0.0112億元； 地區(qū)年末人口每增長(zhǎng)1萬(wàn)人，平均說(shuō)來(lái)地方財(cái)政教育支出會(huì)增長(zhǎng)0.0395億元； 當(dāng)居民平均每人教育現(xiàn)金消費(fèi)增加1元，平均說(shuō)來(lái)地方財(cái)