第四章多重共線性課件

第四章、多重共線性1為什么要放寬古典假定？為了不使問題復(fù)雜化，在此之前是從所有古典假定都滿足的條件下，去討論計(jì)量經(jīng)濟(jì)模型的估計(jì)與檢驗(yàn)的基本理論和方法。在這種情況下：我們幾乎可以直接運(yùn)用統(tǒng)計(jì)學(xué)中的現(xiàn)成方法去估計(jì)模型中的參數(shù)，并得到令人滿意的結(jié)果。我們也可以直接運(yùn)用統(tǒng)計(jì)學(xué)中的假設(shè)檢驗(yàn)方法對模型的顯著性作各種統(tǒng)計(jì)檢驗(yàn)。

然而，現(xiàn)實(shí)的經(jīng)濟(jì)活動是十分復(fù)雜的，這些古典假定經(jīng)常會違反，我們經(jīng)常不得不放寬古典假定條件，需要討論假定違反以后的一些專門的計(jì)量方法。2

基本假定的回顧與分析：●

零均值假定

(由于有正有負(fù)，一般說來，的假定是合理的。并且違背的話只是影響截距項(xiàng)，不影響斜率項(xiàng)。）

●同方差假定●無自相關(guān)假定●

解釋變量與u不相關(guān)的假定在某些單一方程模型和聯(lián)立方程模型的特殊情況下可能違反。●

無多重共線性假定●正態(tài)性假定（不影響OLS估計(jì)是BLUE）根據(jù)中心極限定理，樣本容量無限增大時(shí)，OLS趨于正態(tài)分布結(jié)論：需要著重加以討論的易于違反的主要是無多重共線性、同方差、無自相關(guān)等假定。3引子：案例1：發(fā)展農(nóng)業(yè)和建筑業(yè)會減少財(cái)政收入嗎？

為了分析各主要因素對國家財(cái)政收入的影響，建立財(cái)政收入模型:其中:CS財(cái)政收入(億元);

NZ農(nóng)業(yè)增加值(億元);

GZ工業(yè)增加值(億元);

JZZ建筑業(yè)增加值(億元);

TPOP總?cè)丝?萬人);

CUM最終消費(fèi)(億元);SZM受災(zāi)面積(萬公頃)

數(shù)據(jù)：樣本時(shí)期1978年-2003年（資料來源：《中國統(tǒng)計(jì)年鑒2004》，中國統(tǒng)計(jì)出版社2004年版）

采用普通最小二乘法得到以下估計(jì)結(jié)果4

VariableCoefficientStd.Errort-StatisticProb.農(nóng)業(yè)增加值NZ-1.5350900.129778-11.828610.0000工業(yè)增加值GZ0.8987880.2454663.6615580.0017建筑業(yè)增加值JZZ-1.5270891.206242-1.2659890.2208總?cè)丝赥POP0.1511600.0337594.4776460.0003最終消費(fèi)CUM0.1015140.1053290.9637830.3473受災(zāi)面積SZM-0.0368360.018460-1.9953820.0605截距項(xiàng)-11793.343191.096-3.6957040.0015R-squared0.995015Meandependentvar5897.824AdjustedR-squared0.993441S.D.dependentvar5945.854S.E.ofregression481.5380Akaikeinfocriterion15.41665Sumsquaredresid4405699.Schwarzcriterion15.75537Loglikelihood-193.4165F-statistic632.0999Durbin-Watsonstat1.873809Prob(F-statistic)0.000000財(cái)政收入模型的EViews估計(jì)結(jié)果特別關(guān)注：1、可決系數(shù)；2、F檢驗(yàn)；3、t檢驗(yàn)；4、參數(shù)符號5

●可決系數(shù)為0.995，校正的可決系數(shù)為0.993，模型擬合很好。模型對財(cái)政收入的解釋程度高達(dá)99.5%?！馞統(tǒng)計(jì)量為632.10，說明0.05水平下回歸方程整體上顯著。

◆t檢驗(yàn)結(jié)果表明，除了工農(nóng)業(yè)增加值和總?cè)丝谝酝?，其他因素對?cái)政收入的影響均不顯著，與預(yù)想不符合!◆農(nóng)業(yè)增加值和建筑業(yè)增加值的回歸系數(shù)是負(fù)數(shù),

農(nóng)業(yè)和建筑業(yè)的發(fā)展反而會使財(cái)政收入減少嗎？!這樣的結(jié)果顯然與理論分析和實(shí)踐經(jīng)驗(yàn)不相符。為什么會出現(xiàn)這樣的異常結(jié)果？如果模型設(shè)定和數(shù)據(jù)真實(shí)性沒有問題，問題出在哪里呢？模型估計(jì)檢驗(yàn)結(jié)果分析：6經(jīng)濟(jì)分析：天津市糧食銷售體制改革中糧食銷量逐年增長，分析糧食銷量的變化及原因。影響糧食銷量的主要因素可能是人口數(shù)量、居民收入，以及與糧食相關(guān)的肉、蛋、魚蝦銷售量等。變量選擇：被解釋變量Y糧食年銷售量（萬噸）解釋變量：常住人口X2（萬人）、人均收入X3（元）、肉銷售量X4（萬噸）、蛋銷售量X5（萬噸）、魚蝦銷售量X6（萬噸）模型設(shè)定：樣本選擇：選天津市糧食銷售體制改革前1974年—1987年的有關(guān)數(shù)據(jù)為樣本。數(shù)據(jù)收集：來源于《天津統(tǒng)計(jì)年鑒（1988）》（數(shù)據(jù)見下頁）

案例2：天津市糧食銷售量及影響因素分析78估計(jì)參數(shù)：用OLS估計(jì)9估計(jì)結(jié)果：取，查臨界值表得

分析：

樣本回歸方程的較大，F(xiàn)檢驗(yàn)也十分顯著但是所有參數(shù)的t統(tǒng)計(jì)量均小于臨界值（不顯著）X4、X5的參數(shù)為正，而X6的參數(shù)為負(fù)，如何解釋？

為什么也出現(xiàn)這種結(jié)果？事不過三,其中必有規(guī)律性!10一、多重共線性本章討論四個(gè)問題：●多重共線性的實(shí)質(zhì)與產(chǎn)生的原因●多重共線性的后果●多重共線性的檢測（判斷）方法●多重共線性的補(bǔ)救方法11（一）什么是多重共線性1、多重共線性的概念

在多元回歸模型中，各個(gè)解釋變量之間可能存在一定的線性相關(guān)關(guān)系?？赡軙腥N情況：能找到不全為0的數(shù)，使得（正交變量）完全的線性關(guān)系不完全的線性關(guān)系完全無線性關(guān)系多重共線性——指解釋變量間的線性關(guān)系，既包括完全的線性關(guān)系，又包括不完全的線性關(guān)系

12對多重共線性的理解應(yīng)注意：▲兩個(gè)或多個(gè)解釋變量之間出現(xiàn)線性相關(guān)性，都稱為存在多重共線性?！诙嘣貧w中，多重共線性幾乎總是存在的，因此值得關(guān)注的多重共線性，主要不是有無的問題，而是程度的問題。▲無多重共線性只排除解釋變量間的線性關(guān)系，并不排除相互之間的非線性關(guān)系。132、多重共線性產(chǎn)生的原因

◆時(shí)間序列數(shù)據(jù)在時(shí)間上常有共同變動的趨勢

如工業(yè)產(chǎn)值、商品零售額、固定資產(chǎn)投資常有共同趨勢◆經(jīng)濟(jì)變量之間本身具有內(nèi)在聯(lián)系

如截面數(shù)據(jù)中某行業(yè)企業(yè)的資本量、勞動投入等都與企業(yè)規(guī)模相關(guān)◆某些決定性因素可能使各變量呈同方向的變化

如經(jīng)濟(jì)景氣對各經(jīng)濟(jì)指標(biāo)的同方向影響◆滯后變量引入模型后，同一變量的逐次值很可能存在相互聯(lián)系

如：

14

（二）多重共線性產(chǎn)生的后果

1、OLS估計(jì)式變得不確定或不精確

（1）完全無多重共線性時(shí)各解釋變量都分別獨(dú)立地影響因變量，多元回歸是否必要?以兩個(gè)解釋變量模型為例：當(dāng)完全無多重共線性時(shí)則有這時(shí)這正是分別以和為解釋變量的一元回歸的參數(shù)估計(jì)式15

（2）解釋變量完全線性相關(guān)時(shí)——OLS估計(jì)式不確定

▲

從偏回歸系數(shù)意義看：在和完全共線性時(shí)，將肯定隨而變化，將無法保持不變，去單獨(dú)考慮對Y的影響（和的作用事實(shí)上不可區(qū)分）

▲從OLS估計(jì)式看：可以證明此時(shí)

（證明見教材P108）（3）解釋變量不完全線性相關(guān)，但存在高度多重共線性時(shí)

——此時(shí)回歸系數(shù)可以估計(jì)，但方差會變得很大，OLS估計(jì)式會不精確（后面論證）

16

2、OLS估計(jì)式方差變得很大，標(biāo)準(zhǔn)誤差增大

（1）當(dāng)和完全線性相關(guān)時(shí)——OLS估計(jì)式的方差成為無窮大

（證明見教材P109）（2）當(dāng)和不完全線性相關(guān)時(shí)——OLS估計(jì)式的方差會增大，例如在二元回歸時(shí)可證明（證明見教材P110）

當(dāng)增大時(shí)，方差擴(kuò)大因子VIF2增大，也會增大，思考:當(dāng)時(shí)

(與一元回歸比較)

當(dāng)時(shí)17例如當(dāng)時(shí)，引入任意不為0的數(shù)模型變換估計(jì)結(jié)果當(dāng)時(shí)，所估計(jì)的的參數(shù)與真實(shí)的符號可能相反（3）當(dāng)多重共線性嚴(yán)重時(shí)，甚至可能使估計(jì)的回歸系數(shù)符號相反，得出完全錯(cuò)誤的結(jié)論18（4）區(qū)間估計(jì)時(shí)，對總體參數(shù)的置信區(qū)間會趨于增大（共線性越嚴(yán)重，和越大，置信區(qū)間也增大）（5）嚴(yán)重多重共線時(shí)，假設(shè)檢驗(yàn)作出錯(cuò)誤判斷的概率會增大因?yàn)?，?dāng)因多重共線性使方差變大時(shí)會使t值減小，導(dǎo)致在無多重共線性時(shí)本應(yīng)否定的“參數(shù)為０”的原假設(shè)而被接受。

19

（三）多重共線性的檢驗(yàn)（判斷是否嚴(yán)重）

1、利用解釋變量之間的相關(guān)系數(shù)去判斷（1）只有兩個(gè)解釋變量時(shí)：用二者相關(guān)系數(shù)判斷

（2）兩個(gè)以上解釋變量時(shí)：可用兩兩變量的相關(guān)系數(shù)判斷（K個(gè)變量可用相關(guān)系數(shù)矩陣）例如

注意:簡單相關(guān)系數(shù)只是多重共線性的充分條件，不是必要條件。在有多個(gè)解釋變量時(shí)，較低的相關(guān)系數(shù)也可能存在較嚴(yán)重多重共線性202、直觀判斷法

（經(jīng)驗(yàn)方法）以下情況的出現(xiàn)提示很可能存在多重共線性：（1）從定性分析認(rèn)為一些是重要的解釋變量，但其回歸系數(shù)的標(biāo)準(zhǔn)誤差較大，在回歸方程中沒有通過顯著性檢驗(yàn)（2）有些解釋變量的回歸系數(shù)所帶正負(fù)號與定性分析結(jié)果違背（3）可決系數(shù)較高，F(xiàn)檢驗(yàn)顯著，但偏回歸系數(shù)的t檢驗(yàn)不顯著213、方差擴(kuò)大因子法（容許度）多元線性回歸模型中，可分別以每個(gè)解釋變量為被解釋變量，作與其他解釋變量的回歸，這稱為輔助回歸。以為被解釋變量作對其他解釋變量的輔助線性回歸為輔助回歸的可決系數(shù)用表示。原回歸方程中解釋變量的參數(shù)估計(jì)值的方差可表示為（證明從略）其中的VIFj

是變量所對應(yīng)參數(shù)估計(jì)量的方差擴(kuò)大因子，也稱容許度。22由

越大VIFj越大多重共線性越嚴(yán)重VIFj的大小可以反映解釋變量之間存在多重共線性的嚴(yán)重程度。優(yōu)點(diǎn)：可從數(shù)量上判斷多重共線性的程度

（總是給出了一種經(jīng)驗(yàn)規(guī)則）經(jīng)驗(yàn)表明：VIFj≥10時(shí)，也就是Rj2≥0.9說明該解釋變量與其余解釋變量之間有嚴(yán)重的多重共線性。方差擴(kuò)大因子的作用23（四）多重共線性的補(bǔ)救

1、增加樣本容量

多重共線性的后果主要是參數(shù)估計(jì)量方差變大，例如一元回歸中

因?yàn)槭街袨槌?shù)，確定后，當(dāng)樣本容量越大時(shí)，越大，可使減小，從而減輕多重共線性的影響

注意：●增大樣本容量只能減輕多重共線性的影響，不能根本解決它，當(dāng)時(shí)，仍有●增大樣本容量有時(shí)十分困難，受到數(shù)據(jù)來源的限制24

2、逐步回歸法

基本思想：設(shè)法刪除引起多重共線性但又不那么重要的變量。

用逐步回歸方法發(fā)現(xiàn)產(chǎn)生共線性的解釋變量，并將其剔除，從而減少多重共線性影響

方法：

這既是判斷是否存在多重共線性的方法，又是解決多重共線性的方法，基本思路的框圖為：(見下頁)

存在的問題：

有可能刪除重要變量，而引起設(shè)定誤差！！使用逐步回歸剔除變量時(shí)要格外小心！25將Y對各個(gè)分別回歸計(jì)算各以最大的作逐步回歸的基礎(chǔ)逐個(gè)將其他加入模型回歸用F檢驗(yàn)檢驗(yàn)新加入的顯著性F檢驗(yàn)改善不顯著F檢驗(yàn)改善顯著多余變量對先引入的變量的顯著性無影響使先引入的變量參數(shù)發(fā)生明顯變化或使t檢驗(yàn)不顯著剔除保留此變量出現(xiàn)多重共線性剔除此變量26（五）案例分析中國國內(nèi)旅游收入的分析研究目的：中國國內(nèi)旅游市場發(fā)展迅速，需要定量地研究影響中國國內(nèi)旅游市場發(fā)展的主要原因。經(jīng)分析，可以旅游收入表示旅游市場發(fā)展，除了國內(nèi)旅游人數(shù)和旅游支出外，還可能與旅游基礎(chǔ)設(shè)施有關(guān)。模型設(shè)定：其中：——第t年全國旅游收入——國內(nèi)旅游人數(shù)（萬人）——城鎮(zhèn)居民人均旅游支出（元）——農(nóng)村居民人均旅游支出（元）——公路里程（萬公里）——鐵路里程（萬公里）271994—2003年的統(tǒng)計(jì)數(shù)據(jù)

年份國內(nèi)旅游收入Y（億元）國內(nèi)旅游人數(shù)X2（萬人次）城鎮(zhèn)居民人均旅游支出X3（元）農(nóng)村居民人均旅游支出X4（元）公路里程X5（萬公里）鐵路里程X6（萬公里）19941023.552400414.754.9111.785.9019951375.762900464.061.5115.705.9719961638.463900534.170.5118.586.4919972112.764400599.8145.7122.646.6019982391.269450607.0197.0127.856.6419992831.971900614.8249.5135.176.7420003175.574400678.6226.6140.276.8720013522.478400708.3212.7169.807.0120023878.487800739.7209.1176.527.1920033442.387000684.9200.0180.987.3028OLS回歸結(jié)果

29結(jié)果分析該模型，可決系數(shù)很高，F(xiàn)檢驗(yàn)值173.3525,明顯顯著。但是當(dāng)時(shí),不僅、系數(shù)的t檢驗(yàn)不顯著，而且系數(shù)的符號與預(yù)期的相反，這表明很可能存在嚴(yán)重的多重共線性。

各解釋變量的相關(guān)系數(shù)

各解釋變量相互之間的相關(guān)系數(shù)較高，證實(shí)確實(shí)存在嚴(yán)重多重共線性。30用方差擴(kuò)大因子法檢驗(yàn)例如作X3對X2、X4、X5、X6的輔助回歸得方差擴(kuò)大因子為：由于，根據(jù)經(jīng)驗(yàn)，說明X3與其他解釋變量間有嚴(yán)重多重共線性。其他變量間的多重共線性可用類似方式檢驗(yàn)。31修正多重共線性

采用逐步回歸的辦法，去檢驗(yàn)和解決多重共線性問題。分別作Y對X2、X3、X4、X5、X6的一元回歸。一元回歸結(jié)果：變量X2X3X4X5X6參數(shù)估計(jì)值0.08429.052311.667334.33242014.146t統(tǒng)計(jì)量8.665913.15985.19676.46758.74870.90370.95580.77150.83940.90540.89170.95040.74270.81950.8936加入X3的方程最大,以X3為基礎(chǔ)，順次加入其他變量逐步回歸

32加入新變量回歸結(jié)果（一）X2X3X4X5X6X3、X20.0298(2.1530)6.1940(4.2872)0.9659↑X3、X48.0206(5.7513)1.7106(0.8550)0.9486↓X3、X56.7356(6.6523)10.9117

(2.6628)0.9718↑X3、X67.8512(2.9101)285.012(0.4621)0.9450↓新加入X5的方程，改進(jìn)最大，

且t檢驗(yàn)顯著——保留X5，再加入其他新變量逐步回歸

33加入新變量的回歸結(jié)果（二）X2X3X4X5X6X3、X5、X20.0091(0.4229)6.3553(4.5277)8.5739(1.2176)0.9681↓X3、X5、X44.2196(3.9502)3.2160(3.0633)13.627