多元回歸模型估計(jì)與假設(shè)檢驗(yàn)

多元回歸模型估計(jì)與假設(shè)檢驗(yàn)第一頁(yè)，共三十頁(yè)，2022年，8月28日4.1

二元線性回歸模型：總體回歸函數(shù)

非隨機(jī)形式：隨機(jī)形式：其中，B1是截距，B2、B3稱(chēng)為偏回歸系數(shù)。B2

度量了在X3保持不變的情況下，X2變化1單位引起Y的平均變化量；B3

度量了在X2保持不變的情況下，X3變化1單位引起Y的平均變化量。

第二頁(yè)，共三十頁(yè)，2022年，8月28日例如，

當(dāng)X3保持不變時(shí)，X2每增加1單位，Y將平均地增加0.4單位；

當(dāng)X2保持不變時(shí)，X3每增加1單位，Y將平均地減少5單位。

4.1

二元線性回歸模型：總體回歸函數(shù)第三頁(yè)，共三十頁(yè)，2022年，8月28日也就是說(shuō)，在多元回歸中，偏回歸系數(shù)反映了當(dāng)模型中其他解釋變量保持不變時(shí)，某個(gè)解釋變量對(duì)被解釋變量的條件均值的影響。

多元回歸不但引入了多個(gè)解釋變量，而且能夠分離出每個(gè)解釋變量對(duì)被解釋變量的影響。

4.1

二元線性回歸模型：總體回歸函數(shù)第四頁(yè)，共三十頁(yè)，2022年，8月28日1.回歸模型是參數(shù)線性的，并且是正確設(shè)定的；2.隨機(jī)誤差項(xiàng)的條件均值為零；3.隨機(jī)誤差項(xiàng)的方差是常數(shù)（同方差）；4.所有解釋變量都與隨機(jī)誤差項(xiàng)不相關(guān)；5.隨機(jī)誤差項(xiàng)不存在自相關(guān)。4.2

多元線性回歸的若干假定進(jìn)一步以上這些假定全部與第三章提到的一元回歸模型的假定完全相同。第五頁(yè)，共三十頁(yè)，2022年，8月28日

不同的是，多元回歸有多個(gè)解釋變量X，因而就多了以下這條對(duì)解釋變量之間關(guān)系的假定：

6.解釋變量之間不存在完全共線性，

就是說(shuō)，解釋變量之間不存在嚴(yán)格的線性關(guān)系。

4.2

多元線性回歸的若干假定第六頁(yè)，共三十頁(yè)，2022年，8月28日

如果X2與X3存在完全共線性，就無(wú)法估計(jì)偏回歸系數(shù)B2、B3的值。換句話說(shuō)，不能估計(jì)解釋變量X2、X3各自對(duì)Y的影響，因?yàn)榇藭r(shí)X2和X3不是兩個(gè)獨(dú)立的變量。實(shí)踐中很難遇到完全共線性，但近似完全共線性的情況十分常見(jiàn)。如何處理這個(gè)問(wèn)題，將在第八章《多重共線性》詳細(xì)討論。4.2

多元線性回歸的若干假定第七頁(yè)，共三十頁(yè)，2022年，8月28日4.3

多元回歸參數(shù)的估計(jì)樣本回歸函數(shù)：

與一元回歸一樣，采用普通最小二乘法(OLS)去估計(jì)B1、B2、B3，從而得到它們的OLS估計(jì)量b1、b2、b3的值。

即最小化殘差平方和

通過(guò)求導(dǎo)，可以算出b1、b2、b3分別為：第八頁(yè)，共三十頁(yè)，2022年，8月28日特征1

b2和b3表達(dá)式的分母相同。特征2

b2和b3表達(dá)式是對(duì)稱(chēng)的，即x2，x3互換也可得到相應(yīng)的表達(dá)式。4.3

多元回歸參數(shù)的估計(jì)第九頁(yè)，共三十頁(yè)，2022年，8月28日繼而推導(dǎo)出各估計(jì)量的方差和標(biāo)準(zhǔn)差：其中，隨機(jī)誤差項(xiàng)的方差未知，因而采用其殘差項(xiàng)的方差自由度=樣本容量n-系數(shù)個(gè)數(shù)34.3

多元回歸參數(shù)的估計(jì)第十頁(yè)，共三十頁(yè)，2022年，8月28日多元回歸OLS估計(jì)量的性質(zhì)：與一元回歸一樣，在古典線性回歸模型的基本假定下，多元回歸OLS估計(jì)量也是最優(yōu)線性無(wú)偏估計(jì)量（BLUE）4.3

多元回歸參數(shù)的估計(jì)第十一頁(yè)，共三十頁(yè)，2022年，8月28日

從以上這些討論中不難發(fā)現(xiàn)，二元回歸模型在許多方面是一元回歸模型的直接推廣，只不過(guò)估計(jì)公式略顯復(fù)雜。

當(dāng)推廣到三元回歸、四元回歸…，那么計(jì)算公式將更加復(fù)雜。在這種情況下，必須使用矩陣代數(shù)，以簡(jiǎn)化各自表達(dá)式。

本課程不會(huì)涉及矩陣代數(shù)。4.3

多元回歸參數(shù)的估計(jì)第十二頁(yè)，共三十頁(yè)，2022年，8月28日4.4

估計(jì)多元回歸的擬合優(yōu)度：判定系數(shù)

與一元回歸一樣，多元回歸的判定系數(shù)依然為：

其中，ESS為解釋平方和，RSS為殘差平方和，TSS為總體平方和（變異）。

判定系數(shù)R2度量了多元回歸模型對(duì)Y變異的解釋比例。也就是各解釋變量X對(duì)被解釋變量Y變異的聯(lián)合解釋比例。第十三頁(yè)，共三十頁(yè)，2022年，8月28日一個(gè)例子:古董鐘的拍賣(mài)價(jià)格Y：拍賣(mài)價(jià)格；X2：鐘表年代；X3：競(jìng)標(biāo)人數(shù)回歸結(jié)果的解釋?zhuān)浩渌兞坎蛔?，鐘表年代每增?年，價(jià)格平均上升12.74馬克；其他變量不變，競(jìng)標(biāo)人數(shù)每增加1人，價(jià)格平均上升85.76馬克；負(fù)的截距沒(méi)有實(shí)際意義；判定系數(shù)R2相當(dāng)高，約為0.89，說(shuō)明兩個(gè)變量聯(lián)合解釋了拍賣(mài)價(jià)格89%的變異。樣本數(shù)據(jù)見(jiàn)課本38頁(yè)表2-14EVIEWS輸出結(jié)果見(jiàn)課本97頁(yè)附錄4A.4第十四頁(yè)，共三十頁(yè)，2022年，8月28日與一元回歸模型一樣，多元回歸模型也可以對(duì)每個(gè)參數(shù)分別進(jìn)行顯著性檢驗(yàn)（單邊或雙邊）。

當(dāng)｜t｜大于5%顯著水平所對(duì)應(yīng)的臨界值Z時(shí)，則拒絕H0，小于則不拒絕。

當(dāng)然，也可以在EVIEWS輸出結(jié)果里直接讀取相應(yīng)的p值，p值小于5%則拒絕H0，大于則不拒絕。4.7

參數(shù)的顯著性檢驗(yàn)—t檢驗(yàn)第十五頁(yè)，共三十頁(yè)，2022年，8月28日…4.7

參數(shù)的顯著性檢驗(yàn)—t檢驗(yàn)…第十六頁(yè)，共三十頁(yè)，2022年，8月28日4.8

模型的顯著性檢驗(yàn)—F檢驗(yàn)與古典線性回歸模型有關(guān)的一些檢驗(yàn)：統(tǒng)計(jì)檢驗(yàn)：利用統(tǒng)計(jì)原理對(duì)參數(shù)和模型的可靠性進(jìn)行檢驗(yàn)（擬合優(yōu)度檢驗(yàn)、參數(shù)的顯著性檢驗(yàn)、模型的顯著性檢驗(yàn)等）計(jì)量經(jīng)濟(jì)學(xué)檢驗(yàn)：

計(jì)量經(jīng)濟(jì)學(xué)所特有的檢驗(yàn)方法（多重共線性檢驗(yàn)、異方差檢驗(yàn)、自相關(guān)檢驗(yàn)等）第十七頁(yè)，共三十頁(yè)，2022年，8月28日與參數(shù)的顯著性檢驗(yàn)不同，模型的顯著性檢驗(yàn)的原假設(shè)H0是一個(gè)聯(lián)合假設(shè)：即，所有偏回歸系數(shù)同時(shí)為0（而不是單獨(dú)為0）

這個(gè)假設(shè)表示所有的解釋變量對(duì)被解釋變量沒(méi)有影響，等同于：4.8

模型的顯著性檢驗(yàn)—F檢驗(yàn)第十八頁(yè)，共三十頁(yè)，2022年，8月28日F分布,詳見(jiàn)357頁(yè)附錄C.4；F分布表,詳見(jiàn)388頁(yè)表E-3F統(tǒng)計(jì)量：方差分析ANOVA變異來(lái)源自由度來(lái)自回歸（ESS）k-1來(lái)自殘差（RSS）n-k總計(jì)（TSS）n-1F統(tǒng)計(jì)量服從分子自由度為k-1、分母自由度為n-k的F分布n：樣本容量；k：系數(shù)B的個(gè)數(shù)4.8

模型的顯著性檢驗(yàn)—F檢驗(yàn)第十九頁(yè)，共三十頁(yè)，2022年，8月28日F

分布n：分子自由度m：分母自由度第二十頁(yè)，共三十頁(yè)，2022年，8月28日檢驗(yàn)結(jié)果：

如果F值大于顯著水平α的所對(duì)應(yīng)的臨界值則拒絕

小于則不拒絕。也可以直接讀取p值，若p小于α，則拒絕H0

大于則不拒絕。F分布,詳見(jiàn)357頁(yè)附錄C.4；F分布表,詳見(jiàn)388頁(yè)表E-34.8

模型的顯著性檢驗(yàn)—F檢驗(yàn)第二十一頁(yè)，共三十頁(yè)，2022年，8月28日EViews

回歸結(jié)果第二十二頁(yè)，共三十頁(yè)，2022年，8月28日4.9設(shè)定誤差

從回歸結(jié)果中可以看出，X2和X3無(wú)論是單獨(dú)地、還是聯(lián)合地都對(duì)拍賣(mài)價(jià)格有重要影響。

如果從模型中刪除其中任何一個(gè)變量，都會(huì)導(dǎo)致模型的設(shè)定誤差。

第7章《模型選擇》將詳細(xì)討論模型的設(shè)定誤差。注：查F分布表可知，當(dāng)分子自由度為2、分母自由度為29時(shí)，5%顯著水平的F臨界值約為3.32Y：拍賣(mài)價(jià)格；X2：鐘表年代；X3：競(jìng)標(biāo)人數(shù)第二十三頁(yè)，共三十頁(yè)，2022年，8月28日區(qū)別：這3個(gè)回歸方程的截距都不同；一元回歸的斜率系數(shù)與二元回歸的斜率系數(shù)不同；二元回歸的R2明顯大于2個(gè)一元回歸的R24.9設(shè)定誤差Y：拍賣(mài)價(jià)格；X2：鐘表年代；X3：競(jìng)標(biāo)人數(shù)第二十四頁(yè)，共三十頁(yè)，2022年，8月28日

由于自由度的原因，當(dāng)增加回歸模型的解釋變量個(gè)數(shù)，判定系數(shù)R2就會(huì)越大。

因此，如果兩個(gè)回歸模型的解釋變量個(gè)數(shù)不同，直接比較它們的判定系數(shù)R2就如同拿蘋(píng)果和橘子比。那么，為了判斷各個(gè)多元回歸模型擬合優(yōu)度的大小，就需要一根“統(tǒng)一的標(biāo)尺”：校正的判定系數(shù)

（adjustedR-squared）4.10

校正的判定系數(shù)第二十五頁(yè)，共三十頁(yè)，2022年，8月28日性質(zhì)：如果,則

隨著解釋變量個(gè)數(shù)的增加，校正的判定系數(shù)越來(lái)越小于未校正的判定系數(shù)，這是對(duì)增加解釋變量的“懲罰”。雖然未校正的判定系數(shù)總為正，但校正的判定系數(shù)

可能為負(fù)。推導(dǎo)過(guò)程見(jiàn)課本97頁(yè)附錄4A.34.10

校正的判定系數(shù)第二十六頁(yè)，共三十頁(yè)，2022年，8月28日E