第六章多重共線性

第六章多重共線性前面兩章所講的異方差性和自相關(guān)性都是表現(xiàn)在隨機(jī)誤差項(xiàng)中的，我們下面所講的多重共線性討論的是模型中的解釋變量違背基本假設(shè)的問題。回憶以下我們在講多元線性回歸模型時(shí)，基本假定與簡單線性回歸模型不同的是哪一點(diǎn)？——就是無多重共線性假定：即假定各解釋變量之間不存在線性關(guān)系，或者說各解釋變量的觀測值之間線性無關(guān)。這一章我們討論的多重共線性就是當(dāng)解釋變量違背了這一條基本假定的情形。第一節(jié)多重共線性概念先看一個(gè)實(shí)例：我們研究某個(gè)地區(qū)家庭消費(fèi)及其影響因素。我們除了引入收入X1以外，還引入了消費(fèi)者的家庭財(cái)產(chǎn)X2作為第2個(gè)解釋變量。根據(jù)抽樣數(shù)據(jù)回歸得到以下結(jié)果：YA=24.7747+0.9415X1-0.0424X2t=(3.6690)(1.1442) (-0.5261)2 2——R2=0.9635 R2——=0.9531F=92.4020這一回歸結(jié)果說明什么?1、 可決系數(shù)和修正可決系數(shù)都很理想2、F統(tǒng)計(jì)量高度顯著，說明 X1、X2聯(lián)合對Y的影響顯著3、 各變量參數(shù)的t檢驗(yàn)都不顯著，不能否定等于零的假設(shè)4、 財(cái)產(chǎn)變量的系數(shù)竟然與預(yù)期的符號(hào)相反。為什么會(huì)出現(xiàn)這樣的結(jié)果呢？再看一個(gè)例子：分析某地區(qū)汽車保養(yǎng)費(fèi)用支出與汽車的行程數(shù)以及汽車擁有的時(shí)間建立模型，通過樣本數(shù)據(jù)估計(jì)得： YA=7.29+27.58X1-151.15X2t=(0.06)(0.958) (-7.06)R2——=0.946 F=52.53這個(gè)結(jié)果修正可決系數(shù)理想,F檢驗(yàn)也顯著,但X的T檢驗(yàn)不顯著,X2的T檢驗(yàn)雖然顯著,但系數(shù)符號(hào)與經(jīng)濟(jì)意義不符。為什么也出現(xiàn)這種結(jié)果？一、 多重共線性的概念：如果某兩個(gè)或多個(gè)解釋變量之間出現(xiàn)了相關(guān)性，則稱為多重共線性。完全共線性與不完全共線性表示的是一種線性相關(guān)程度。比如我們在第一個(gè)例子中，發(fā)現(xiàn)可支配收入與家庭財(cái)富之間有明顯的共線性關(guān)系，他們的相關(guān)系數(shù)高達(dá) 0.9989,第二個(gè)例子中汽車的行程數(shù)與擁有汽車的時(shí)間的相關(guān)系數(shù)也為0.9960,表明兩個(gè)變量之間存在一種不完全的線性相關(guān)關(guān)系,我們可以認(rèn)為他們之間有程度很高的多重共線性 .不存在多重共線性只說明解釋變量之間沒有線性關(guān)系,而不排除他們之間存在某種非線性關(guān)系。二、 產(chǎn)生多重共線性的原因1、 許多經(jīng)濟(jì)變量在隨時(shí)間的變化過程中往往存在共同的變動(dòng)趨勢。這就使得它們之間容易產(chǎn)生多重共線性。例如在經(jīng)濟(jì)繁榮時(shí)期，收入、消費(fèi)、儲(chǔ)蓄、投資、就業(yè)都趨向于增長；在經(jīng)濟(jì)衰退時(shí)期，都趨向于下降。如果將這些變量作為解釋變量同時(shí)引入模型，則它們之間極有可能存在很強(qiáng)的相關(guān)性。時(shí)間序列中的這種增長因素和趨向因素是造成多重共線性的主要根源2、 用截面數(shù)據(jù)建立回歸模型時(shí)，根據(jù)研究的具體問題選擇的解釋變量常常從經(jīng)濟(jì)意義上存在著密切的關(guān)聯(lián)度。比如P69以某一行業(yè)的企業(yè)為樣本建立企業(yè)生產(chǎn)函數(shù)模型，以產(chǎn)出量為解釋變量，選擇資本、勞動(dòng)、技術(shù)等投入要素為解釋變量。而這些投入要素的數(shù)量往往與產(chǎn)出量呈正比，產(chǎn)出量高的企業(yè)，投入的各種要素都比較多，這就使得投入要素之間出現(xiàn)線性相關(guān)性。3、 在模型中大量采用滯后變量也容易產(chǎn)生多重共線性。因?yàn)闇笞兞繌慕?jīng)濟(jì)性質(zhì)來看與原來的變量無區(qū)別，只是時(shí)間上有所不同，從經(jīng)濟(jì)意義上這些變量之間的關(guān)聯(lián)度比較緊密。P69一般來講，解釋變量之間存在多重共線性是難以避免的，所以在多元線性回歸模型中，我們關(guān)心的并不是多重共線性的有無，而是多重共線性的程度。當(dāng)多重共線性程度過高時(shí)，給最小二乘估計(jì)量帶來嚴(yán)重的后果。因此，我們追求的也是使多重共線性的程度盡可能地減弱。第二節(jié)多重共線性產(chǎn)生的后果一、 OLS估計(jì)式變得不確定或不精確當(dāng)解釋變量完全線性相關(guān)時(shí)——OLS估計(jì)式不確定從偏回歸系數(shù)意義看：在X1和X2完全共線性時(shí)，即X1=a0+a1X2，無法保持X2不變，去單獨(dú)考慮X1對Y的影響。另外，從OLS估計(jì)式看：可以證明3"=0/0,32人=0/0在微積分中，我們知道這種情況稱為不定型，即當(dāng)XI、X2完全共線性條件下，參數(shù)的估計(jì)值是不確定的。從估計(jì)量的方差看：將X1=a0+a1X2代入模型參數(shù)估計(jì)量的方差的表達(dá)式中，可以得到：Var(31A)=g,Var(32A)=^。即參數(shù)估計(jì)值的方差無窮大，也不是確定的。1、當(dāng)解釋變量為不完全多重共線性時(shí)一一OLS估計(jì)式不精確在實(shí)際經(jīng)濟(jì)問題中，完全共線性是一種不常見的極端情況，大多數(shù)情況下是解釋變量之間存在不完全的共線性，雖然可以得到普通最小二乘法參數(shù)估計(jì)量，但參數(shù)估計(jì)量的方差變得很大，而且會(huì)隨共線性程度的提高而增大。從而導(dǎo)致估計(jì)值不精確。2、 參數(shù)估計(jì)量經(jīng)濟(jì)含義不合理如果兩個(gè)解釋變量具有線性相關(guān)性，那么它們中的一個(gè)變量可以由另一個(gè)變量表征，這時(shí)它們前面的參數(shù)并不反映各自與被解釋變量之間的結(jié)構(gòu)關(guān)系，而是反映他們對被解釋變量的共同影響。所以，各自的參數(shù)已經(jīng)失去了應(yīng)有的經(jīng)濟(jì)含義，于是經(jīng)常表現(xiàn)出似乎反常的現(xiàn)象，例如，本來應(yīng)該是正的，結(jié)果恰是負(fù)的。3、 變量的顯著性檢驗(yàn)失去意義隨著方差的增大，意味著t值將會(huì)變小，使得本身在經(jīng)濟(jì)意義上對被解釋變量影響很強(qiáng)的變量被判定為不顯著。4、 區(qū)間估計(jì)與模型的預(yù)測精度降低。注意：如果研究目的僅在于預(yù)測 Y，而解釋變量X之間的多重共線性關(guān)系的性質(zhì)在未來將繼續(xù)保持(前提條件)，這時(shí)多重共線性可能并不是嚴(yán)重的問題，只要可決系數(shù)高， F檢驗(yàn)顯著就可行。但要是分析經(jīng)濟(jì)結(jié)構(gòu)就不行了，第三節(jié)多重共線性的檢驗(yàn)(判斷)在多元線性回歸模型中，由于多重共線性是普遍存在的，造成的后果也比較復(fù)雜，因此，對多重共線性的檢驗(yàn)缺少統(tǒng)一的準(zhǔn)則。下面介紹幾種簡單容易操作的辦法：一、 利用解釋變量之間的相關(guān)系數(shù)判斷由于多重共線性表現(xiàn)為解釋變量之間具有相關(guān)關(guān)系，對于二個(gè)解釋變量的模型，利用解釋變量樣本觀測值的散點(diǎn)圖，或者計(jì)算二者的相關(guān)系數(shù)r,Irl越接近1，二者的線性關(guān)系越強(qiáng)；對于有兩個(gè)以上解釋變量的模型，可用兩兩變量的相關(guān)系數(shù)矩陣來判斷。二、 利用可決系數(shù)與偏回歸系數(shù)的顯著性檢驗(yàn)去判斷當(dāng)可決系數(shù)較高，F(xiàn)檢驗(yàn)顯著，但偏回歸系數(shù)的顯著性檢驗(yàn)不顯著時(shí)，通常存在多重共線性。三、 利用解釋變量之間的輔助回歸及檢驗(yàn)判斷因?yàn)榻忉屪兞恐g存在多重共線性可以看做是一個(gè)解釋變量對其余解釋變量的近似線性表出，找出這種線性表達(dá)式，可以逐次將每個(gè)解釋變量作為被解釋變量對其他解釋變量進(jìn)行回歸——稱為輔助回歸，分別估計(jì)其參數(shù)，計(jì)算可決系數(shù)、作 F檢驗(yàn)。若F檢驗(yàn)顯著，認(rèn)為該變量與其他變量存在多重共線性。若不顯著，則認(rèn)為該變量與其他變量不存在嚴(yán)重的多重共線性。第四節(jié)多重共線性的補(bǔ)救既然當(dāng)模型出現(xiàn)嚴(yán)重多重共線性時(shí)，會(huì)產(chǎn)生嚴(yán)重后果，但由于經(jīng)濟(jì)系統(tǒng)的復(fù)雜性，多重共線性的表現(xiàn)往往比較頑固，欲將多重共線性消除干凈幾乎是不可能的，只能選用合適的方法減弱影響。目前，常用的方法有以下幾種：一、 增大樣本容量在具體建立計(jì)量經(jīng)濟(jì)模型時(shí)，如果變量的樣本數(shù)據(jù)太少， 很容易產(chǎn)生多重共線性。而且，多重共線性的后果主要是方差變大， Var(31A)=c2/工X1i2(1-r2)當(dāng)r確定時(shí)，增大樣本容量，工X1i2就越大，使方差變小，從而減輕多重共線性的影響。但是，增大樣本容量只能減輕多重共線性的影響，不能根本解決它。而且增大樣本容量在實(shí)際操作時(shí)都十分困難。二、 利用先驗(yàn)信息先驗(yàn)信息：在此之前的研究成果所提供的信息。即知道某些變量之間滿足一定的關(guān)系利用某些先驗(yàn)信息可把有共線性的變量組合成新的變量，從而消除多重共線性。比如生產(chǎn)函數(shù)為：Qt=ALt“Kt$ut，利用對數(shù)變換，轉(zhuǎn)換為線性模型 InQt=lnA+alnLt+3InKt+ut通常資金投入量K和勞動(dòng)力投入量L是高度相關(guān)的。但如果已知規(guī)模報(bào)酬不變， 即a+$=1,則將此代入模型，可以消除多重共線性。還可以直接略去不重要的解釋變量試一試，或者采用截面數(shù)據(jù)與時(shí)間序列數(shù)據(jù)結(jié)合、或者變換模型的形式等等方法，減輕多重共線性的影響。三、逐步回歸法——最好的方法基本思想：用逐步回歸法發(fā)現(xiàn)產(chǎn)生共線性的解釋變量，并將其剔除，從而減少多重共線性的影響。1、將被解釋變量Y逐步對每一個(gè)解釋變量Xi分別進(jìn)行回歸，LSYCXi；2、比較每個(gè)回歸方程的可決系數(shù) Ri2；3、選出Ri2最大的解釋變量作為下一步回歸的基礎(chǔ)，如 X5；4、 將被解釋變量逐步對上一步選出的解釋變量以及其它解釋變量分別進(jìn)行