多重共線性與隨機(jī)解釋變量

多重共線性與隨機(jī)解釋變量第一頁，共八十四頁，2022年，8月28日一、多重共線性的概念第二頁，共八十四頁，2022年，8月28日1、多重共線性對于模型

（i=1,2,…,n）

如果某兩個(gè)或多個(gè)解釋變量之間出現(xiàn)了相關(guān)性，則稱為多重共線性。其基本假設(shè)之一是解釋變量kXXX,,,21L互相獨(dú)立。

第三頁，共八十四頁，2022年，8月28日

如果存在

c1X1i+c2X2i+…+ckXki=0i=1,2,…,n其中:ci不全為0，即某一個(gè)解釋變量可以用其它解釋變量的線性組合表示，則稱為解釋變量間存在完全共線性。

如果存在c1X1i+c2X2i+…+ckXki+vi=0i=1,2,…,n其中ci不全為0，vi為隨機(jī)誤差項(xiàng)，則稱為一般共線性(近似共線性)或交互相關(guān)(intercorrelated)。第四頁，共八十四頁，2022年，8月28日

在矩陣表示的線性回歸模型

Y=XB+N

中，完全共線性意味著：秩(X)<k+1。換言之，矩陣中，至少有一列向量可由其他列向量（不包括第一列）線性表出。?????è?=knnnkkXXXXXXXXXXLLLLLLLL212221212111111n×(k+1)第五頁，共八十四頁，2022年，8月28日

注意：完全共線性的情況并不多見，一般出現(xiàn)的是在一定程度上的共線性，即近似共線性。例如，如果X2=aX1，則X1與X2的相關(guān)系數(shù)為a，解釋變量X2對因變量的作用完全可以由X1代替。

第六頁，共八十四頁，2022年，8月28日2、實(shí)際經(jīng)濟(jì)問題中的多重共線性現(xiàn)象

經(jīng)濟(jì)變量的共同變化趨勢

時(shí)間序列樣本：經(jīng)濟(jì)繁榮時(shí)期，各基本經(jīng)濟(jì)變量（收入、消費(fèi)、投資、價(jià)格）都趨于增長；經(jīng)濟(jì)衰退時(shí)期，各基本經(jīng)濟(jì)變量又同時(shí)趨于下降。

橫截面數(shù)據(jù)：如生產(chǎn)函數(shù)中，資本投入與勞動力投入往往出現(xiàn)高度相關(guān)情況，大企業(yè)二者都大，而小企業(yè)二者都小。第七頁，共八十四頁，2022年，8月28日

滯后變量的引入

在計(jì)量經(jīng)濟(jì)模型中，往往需要引入滯后經(jīng)濟(jì)變量來反映真實(shí)的經(jīng)濟(jì)關(guān)系。

例如：消費(fèi)=f(當(dāng)期收入It,前期消費(fèi)Ct-1）Ct=β0+β1It+β2Ct-1+μt(t=1,2,···,n)顯然，當(dāng)期收入與前期消費(fèi)間有較強(qiáng)的線性相關(guān)性。第八頁，共八十四頁，2022年，8月28日

一般經(jīng)驗(yàn)

對于采用時(shí)間序列數(shù)據(jù)作樣本、以簡單線性形式建立的計(jì)量經(jīng)濟(jì)學(xué)模型，往往存在多重共線性；以截面數(shù)據(jù)作樣本時(shí)，問題不那么嚴(yán)重，但多重共線性仍然是存在的。第九頁，共八十四頁，2022年，8月28日二、多重共線性的后果第十頁，共八十四頁，2022年，8月28日

1、完全共線性下參數(shù)估計(jì)量不存在如果解釋變量之間存在完全共線性，則(X’X)-1不存在，無法得到參數(shù)的估計(jì)量。多元線性回歸模型

的普通最小二乘參數(shù)估計(jì)量為：

因?yàn)槿绻忉屪兞縦XXX,,,21L完全共線性，那么通過適當(dāng)?shù)木€性變換，可以將X中某一列的全部元素變?yōu)?，從而行列式0=￠XX。

第十一頁，共八十四頁，2022年，8月28日2、近似共線性下OLS法參數(shù)估計(jì)量非有效

在一般共線性（或稱近似共線性）下，雖然可以得到OLS法參數(shù)估計(jì)量，但是由參數(shù)估計(jì)量方差的表達(dá)式可以看出，由于此時(shí)|X’X|0，引起(X’X)-1主對角線元素較大，從而使得參數(shù)估計(jì)量的方差也較大，OLS參數(shù)估計(jì)量非有效。第十二頁，共八十四頁，2022年，8月28日第十三頁，共八十四頁，2022年，8月28日所以，多重共線性使參數(shù)估計(jì)量的方差增大。方差擴(kuò)大因子(VarianceInflationFactor)為1/(1-r2)，其增大趨勢見下表：第十四頁，共八十四頁，2022年，8月28日3、參數(shù)估計(jì)量的經(jīng)濟(jì)含義不合理

如果模型(2.8.1)中兩個(gè)解釋變量具有線性相關(guān)性，例如X1和X2，那么它們中的一個(gè)變量可以由另一個(gè)變量表征。這時(shí)，X1和X2前的參數(shù)并不反映各自與被解釋變量之間的結(jié)構(gòu)關(guān)系，而是反映它們對被解釋變量的共同影響。所以，各自的參數(shù)已經(jīng)失去了應(yīng)有的經(jīng)濟(jì)含義，于是經(jīng)常表現(xiàn)出似乎反常的現(xiàn)象，例如本來應(yīng)該是正的，結(jié)果恰是負(fù)的。第十五頁，共八十四頁，2022年，8月28日4、變量的顯著性檢驗(yàn)失去意義存在多重共線性時(shí)參數(shù)估計(jì)值的方差與標(biāo)準(zhǔn)差變大容易使通過樣本計(jì)算的t值小于臨界值，誤導(dǎo)作出參數(shù)為0的推斷可能將重要的解釋變量排除在模型之外第十六頁，共八十四頁，2022年，8月28日5、模型的預(yù)測功能失效參數(shù)估計(jì)量的方差較大，會使預(yù)測值的置信區(qū)間較大，預(yù)測精確度較差，從而使預(yù)測失去意義。第十七頁，共八十四頁，2022年，8月28日三、多重共線性的檢驗(yàn)第十八頁，共八十四頁，2022年，8月28日

由于多重共線性表現(xiàn)為解釋變量之間具有相關(guān)關(guān)系，所以用于多重共線性的檢驗(yàn)方法主要是統(tǒng)計(jì)方法，如判定系數(shù)檢驗(yàn)法、逐步回歸檢驗(yàn)法等。

多重共線性檢驗(yàn)的任務(wù)是：（1）檢驗(yàn)多重共線性是否存在；（2）估計(jì)多重共線性的范圍，即判斷哪些變量之間存在共線性。第十九頁，共八十四頁，2022年，8月28日1、檢驗(yàn)多重共線性是否存在

(1)對兩個(gè)解釋變量的模型，采用簡單相關(guān)系數(shù)法

求出X1與X2的簡單相關(guān)系數(shù)r，若|r|接近1，則說明兩變量存在較強(qiáng)的多重共線性。

(2)對多個(gè)解釋變量的模型，采用綜合統(tǒng)計(jì)檢驗(yàn)法

若在OLS法下，模型的R2與F值較大，但各參數(shù)估計(jì)量的t檢驗(yàn)值較小，則說明各解釋變量對Y的聯(lián)合線性作用顯著，但各解釋變量之間存在共線性而使得它們各自對Y的獨(dú)立作用不能分辨，故t檢驗(yàn)不顯著。第二十頁，共八十四頁，2022年，8月28日2、判明存在多重共線性的范圍

將模型中每一個(gè)解釋變量分別以其余解釋變量為解釋變量進(jìn)行回歸計(jì)算，并計(jì)算相應(yīng)的擬合優(yōu)度，也稱為判定系數(shù)。如果在某一種形式

Xji=1X1i+2X2i++LXLi中判定系數(shù)較大，則說明在該形式中作為被解釋變量的Xj可以用其他X的線性組合代替，即Xj與其他X之間存在共線性。(1)判定系數(shù)檢驗(yàn)法第二十一頁，共八十四頁，2022年，8月28日一種等價(jià)的檢驗(yàn)：

在模型中排除某一個(gè)解釋變量Xj，估計(jì)模型，如果擬合優(yōu)度與包含Xj時(shí)十分接近，則說明Xj與其它解釋變量之間存在共線性。第二十二頁，共八十四頁，2022年，8月28日(2)逐步回歸法

以Y為被解釋變量，逐個(gè)引入解釋變量，構(gòu)成回歸模型，進(jìn)行模型估計(jì)。根據(jù)擬合優(yōu)度的變化決定新引入的變量是否可以用其它變量的線性組合代替，而不作為獨(dú)立的解釋變量。如果擬合優(yōu)度變化顯著，則說明新引入的變量是一個(gè)獨(dú)立解釋變量；如果擬合優(yōu)度變化很不顯著，則說明新引入的變量不是一個(gè)獨(dú)立解釋變量，它可以用其它變量的線性組合代替，也就是說它與其它變量之間存在共線性關(guān)系。第二十三頁，共八十四頁，2022年，8月28日(3)擴(kuò)大因子法方差擴(kuò)大因子：VIFj=1/(1-R2j)R2j=xj關(guān)于其余x的判定系數(shù)，若VIFj>10，認(rèn)為xj與其余變量共線；平均擴(kuò)大因子遠(yuǎn)遠(yuǎn)大于1，認(rèn)為xj與其余變量共線；容忍度：

TOLj=1-R2j(xj的容忍度)第二十四頁，共八十四頁，2022年，8月28日(3)特征根法特征根分析：若（X’X）有多個(gè)特征根近似為0，則X就有多個(gè)多重貢獻(xiàn)關(guān)系；條件數(shù)：記λi為（X’X）的第i個(gè)特征根，λm為最大特征根，稱ki=（λm/λi）為第i個(gè)條件數(shù)若0<k<10(無共線)，10<k<100(較嚴(yán)重共線)，k>100(嚴(yán)重共線)第二十五頁，共八十四頁，2022年，8月28日四、克服多重共線性的方法第二十六頁，共八十四頁，2022年，8月28日克服多重共線性的方法:第一類方法：排除引起共線性的變量第二類方法：差分法第三類方法：減少參數(shù)估計(jì)量的方差第二十七頁，共八十四頁，2022年，8月28日

1、第一類方法：排除引起共線性的變量

找出引起多重共線性的解釋變量，將它排除出去，是最為有效的克服多重共線性問題的方法。上述用于檢驗(yàn)多重共線性的方法，同時(shí)就是克服多重共線性問題的方法，其中又以逐步回歸法得到最廣泛的應(yīng)用。

但應(yīng)注意的是：排除了引起共線性的變量后，剩余解釋變量參數(shù)的經(jīng)濟(jì)含義和數(shù)值都發(fā)生了變化。它們不再僅僅反映自身與被解釋變量的關(guān)系，也包含了與它們成線性關(guān)系的、被排除的變量對被解釋變量的影響。第二十八頁，共八十四頁，2022年，8月28日2、第二類方法：差分法

對于以時(shí)間序列數(shù)據(jù)為樣本、以直接線性關(guān)系為模型關(guān)系形式的計(jì)量經(jīng)濟(jì)學(xué)模型，將原模型變換為差分模型Yi=1X1i+2X2i++kXki+i可以有效地消除存在于原模型中的多重共線性。

原因在于：一般來講，增量之間的線性關(guān)系遠(yuǎn)比總量之間的線性關(guān)系弱得多。第二十九頁，共八十四頁，2022年，8月28日例如：在中國消費(fèi)模型中的2個(gè)變量：第三十頁，共八十四頁，2022年，8月28日

由表中的比值可以直觀地看到，兩變量增量的線性關(guān)系弱于總量之間的線性關(guān)系。

進(jìn)一步分析：

Y與C(-1)之間的判定系數(shù)為0.9845，△Y與△C(-1)之間的判定系數(shù)為0.7456。

一般認(rèn)為：兩個(gè)變量之間的判定系數(shù)大于0.8時(shí)，二者之間存在線性關(guān)系。所以，原模型經(jīng)檢驗(yàn)被認(rèn)為具有多重共線性，而差分模型則可以認(rèn)為不具有多重共線性。第三十一頁，共八十四頁，2022年，8月28日五、案例一：服裝市場需求函數(shù)□第三十二頁，共八十四頁，2022年，8月28日1、建立模型

根據(jù)理論和經(jīng)驗(yàn)分析，影響居民服裝類支出Y的主要因素有：可支配收入X、居民流動資產(chǎn)擁有量K、服裝價(jià)格指數(shù)P1、物價(jià)總指數(shù)P0。已知某地區(qū)的有關(guān)資料，根據(jù)散點(diǎn)圖判斷，建立線性服裝消費(fèi)支出模型：

Y=0+1X+2K+3P1+4P0+第三十三頁，共八十四頁，2022年，8月28日2、樣本數(shù)據(jù)第三十四頁，共八十四頁，2022年，8月28日

由于R2較大且接近于1，而且F=638.4，大于臨界值：F0.05(4,5)=15.19，故認(rèn)為服裝支出與上述解釋變量間總體線性關(guān)系顯著。但由于變量K的參數(shù)估計(jì)值的t檢驗(yàn)值較小（未能通過檢驗(yàn)），故解釋變量間存在多重共線性。3、估計(jì)模型（1）用OLS法估計(jì)上述模型：

第三十五頁，共八十四頁，2022年，8月28日（2）檢驗(yàn)簡單相關(guān)系數(shù)不難看出，各解釋變量間存在高度相關(guān)性，其中尤其以P1和P0間的相關(guān)系數(shù)為最高。第三十六頁，共八十四頁，2022年，8月28日（3）找出最簡單的回歸形式可見，應(yīng)選①為初始的回歸模型。第三十七頁，共八十四頁，2022年，8月28日（4）逐步回歸

將其他解釋變量分別導(dǎo)入上述初始回歸模型，尋找最佳回歸方程。第三十八頁，共八十四頁，2022年，8月28日4、討論：

①在初始模型中引入P1，模型擬合優(yōu)度提高，且參數(shù)符號合理，但P1的t檢驗(yàn)未通過；②再引入K，擬合優(yōu)度雖有提高，但K與P1的t檢驗(yàn)未能通過，且X與P1的t檢驗(yàn)值及F檢驗(yàn)值有所下降，表明引入K并未對回歸模型帶來明顯的“好處”，K可能是多余的；③去掉K，加入P0，擬合優(yōu)度有所提高，且各解釋變量的t檢驗(yàn)全部通過，F(xiàn)值也增大了。④將4個(gè)解釋變量全部包括進(jìn)模型，擬合優(yōu)度未有明顯改觀，K的t檢驗(yàn)未能通過，K顯然是多余的。第三十九頁，共八十四頁，2022年，8月28日

5、結(jié)論回歸方程以Y=f(X,P1,P0)為最優(yōu)：

P1+0.31P0第四十頁，共八十四頁，2022年，8月28日五、案例二：中國消費(fèi)函數(shù)模型第四十一頁，共八十四頁，2022年，8月28日1、OLS法估計(jì)結(jié)果第四十二頁，共八十四頁，2022年，8月28日2、差分法估計(jì)結(jié)果第四十三頁，共八十四頁，2022年，8月28日3、比較β1：0.48095→0.49672β2：0.19854→0.15850在消除了共線性后，GDP對CONS的影響增大，CONS1對CONS的影響減少。第四十四頁，共八十四頁，2022年，8月28日當(dāng)模型存在共線性，將某個(gè)共線性變量去掉，剩余變量的參數(shù)估計(jì)結(jié)果將發(fā)生變化，而且經(jīng)濟(jì)含義有可能發(fā)生變化；嚴(yán)格地說，實(shí)際模型由于總存在一定程度的共線性，所以每個(gè)參數(shù)估計(jì)量并不真正反映對應(yīng)變量與被解釋變量之間的結(jié)構(gòu)關(guān)系。第四十五頁，共八十四頁，2022年，8月28日模型選擇準(zhǔn)則1、R2準(zhǔn)則2、調(diào)整的R2準(zhǔn)則3、赤池信息（AIC）準(zhǔn)則4、施瓦茨信息（SIC）準(zhǔn)則第四十六頁，共八十四頁，2022年，8月28日R2準(zhǔn)則第四十七頁，共八十四頁，2022年，8月28日調(diào)整的R2準(zhǔn)則準(zhǔn)則：該值越大越好！注意：被解釋變量相同才能比較！第四十八頁，共八十四頁，2022年，8月28日赤池信息（AIC）準(zhǔn)則準(zhǔn)則：該值越小越好！注意：被解釋變量相同才能比較！可用于比較一模型樣本內(nèi)或樣本外的預(yù)測表現(xiàn)！第四十九頁，共八十四頁，2022年，8月28日施瓦茨信息（SIC）準(zhǔn)則準(zhǔn)則：該值越小越好！注意：被解釋變量相同才能比較！可用于比較一模型樣本內(nèi)或樣本外的預(yù)測表現(xiàn)！第五十頁，共八十四頁，2022年，8月28日Cp統(tǒng)計(jì)量其中：----樣本量；

----模型中自變量個(gè)數(shù)；

----1+全回歸模型中個(gè)數(shù)（）；

----有個(gè)自變量的回歸模型的決定系數(shù)；

----全回歸模型的決定系數(shù)。如果一個(gè)模型和真實(shí)模型之間只有隨機(jī)差異，的平均值為，而且，數(shù)據(jù)擬合的很好的回歸模型其值應(yīng)小于。因此，在用這個(gè)統(tǒng)計(jì)量對不同的回歸模型進(jìn)行評估時(shí)，目的往往是為了找到一個(gè)模型使其表達(dá)式值為負(fù)。第五十一頁，共八十四頁，2022年，8月28日隨機(jī)解釋變量

RandomIndependentVariable一、隨機(jī)解釋變量問題二、隨機(jī)解釋變量的后果三、工具變量法四、案例第五十二頁，共八十四頁，2022年，8月28日一、隨機(jī)解釋變量問題第五十三頁，共八十四頁，2022年，8月28日1、隨機(jī)解釋變量問題單方程線性計(jì)量經(jīng)濟(jì)學(xué)模型的假設(shè)之一是：

Cov(Xi,i)=0即解釋變量與隨機(jī)項(xiàng)不相關(guān)。

違背這一假設(shè)的問題被稱為隨機(jī)解釋變量問題。這一假設(shè)實(shí)際上是要求：或者X是確定性變量，不是隨機(jī)變量；或者X雖是隨機(jī)變量，但與隨機(jī)誤差項(xiàng)不相關(guān)。第五十四頁，共八十四頁，2022年，8月28日2、隨機(jī)解釋變量問題的三種情況

對于模型

Yi=0+1X1i+2X2i++kXki+i（i=1,2,…,n)

為討論方便，假設(shè)其中X2為隨機(jī)解釋變量

對于隨機(jī)解釋變量問題，又分三種不同情況：⑴隨機(jī)解釋變量與隨機(jī)誤差項(xiàng)不相關(guān)，即

E（X2）=0第五十五頁，共八十四頁，2022年，8月28日⑵隨機(jī)解釋變量與隨機(jī)誤差項(xiàng)在小樣本下相關(guān)，在大樣本下漸近無關(guān)，即在小樣本下

E（X2）0

在大樣本下

Plim（X2ii/n）=0

或：P(lim(X2ii/n)=0)=1⑶隨機(jī)解釋變量與隨機(jī)誤差項(xiàng)高度相關(guān)，且

Plim（X2ii/n）0第五十六頁，共八十四頁，2022年，8月28日2、實(shí)際經(jīng)濟(jì)問題中的隨機(jī)解釋變量問題

在實(shí)際經(jīng)濟(jì)問題中，經(jīng)濟(jì)變量往往都具有隨機(jī)性。但是在單方程計(jì)量經(jīng)濟(jì)學(xué)模型中，凡是外生變量都被認(rèn)為是確定性的。

于是隨機(jī)解釋變量問題主要表現(xiàn)于用滯后被解釋變量作為模型的解釋變量的情況。第五十七頁，共八十四頁，2022年，8月28日例如：耐用品存量調(diào)整模型：

耐用品的存量Qt由前一個(gè)時(shí)期的存量Qt-1和當(dāng)期收入It共同決定：

Qt=0+1It+2Qt-1+tt=1,,T

這是一個(gè)滯后被解釋變量作為解釋變量的模型。但是，如果模型不存在隨機(jī)誤差項(xiàng)的序列相關(guān)性，那么隨機(jī)解釋變量Qt-1只與t-1相關(guān)，與t不相關(guān)，屬于上述的第1種情況。第五十八頁，共八十四頁，2022年，8月28日合理預(yù)期的消費(fèi)函數(shù)模型

合理預(yù)期理論認(rèn)為消費(fèi)是由對收入的預(yù)期所決定的，或者說消費(fèi)是有計(jì)劃的，而這個(gè)計(jì)劃是根據(jù)對收入的預(yù)期制定的。于是有：第五十九頁，共八十四頁，2022年，8月28日

在該模型中，作為解釋變量的Ct-1不僅是一個(gè)隨機(jī)解釋變量，而且與模型的隨機(jī)誤差項(xiàng)（t-t-1）高度相關(guān)（因?yàn)镃t-1與t-1高度相關(guān)）。屬于上述第3種情況。第六十頁，共八十四頁，2022年，8月28日二、隨機(jī)解釋變量的后果第六十一頁，共八十四頁，2022年，8月28日1、出發(fā)點(diǎn)

計(jì)量經(jīng)濟(jì)學(xué)模型一旦出現(xiàn)隨機(jī)解釋變量，如果仍采用OLS法估計(jì)模型參數(shù)，不同性質(zhì)的隨機(jī)解釋變量會產(chǎn)生不同的后果。對回歸模型

Y=XB+N第六十二頁，共八十四頁，2022年，8月28日取期望，有

可見，隨機(jī)解釋變量帶來什么后果取決于它與隨機(jī)誤差項(xiàng)是否相關(guān)。第六十三頁，共八十四頁，2022年，8月28日2、當(dāng)隨機(jī)解釋變量與隨機(jī)誤差項(xiàng)不相關(guān)時(shí)這時(shí)采用OLS法估計(jì)模型參數(shù)，得到的參數(shù)估計(jì)量仍然是無偏估計(jì)量。第六十四頁，共八十四頁，2022年，8月28日

3、當(dāng)隨機(jī)解釋變量與隨機(jī)誤差項(xiàng)在小樣本下相關(guān)，在大樣本下漸近無關(guān)時(shí)這時(shí)采用OLS法估計(jì)模型參數(shù)，得到的參數(shù)估計(jì)量在小樣本下是有偏的，在大樣本下具有漸近無偏的。第六十五頁，共八十四頁，2022年，8月28日4、當(dāng)隨機(jī)解釋變量與隨機(jī)誤差項(xiàng)高度相關(guān)時(shí)這時(shí)采用OLS法估計(jì)模型參數(shù)，得到的參數(shù)估計(jì)量在小樣本下是有偏的，在大樣本下也不具有漸近無偏性。此時(shí)OLS法失效，需要發(fā)展新的方法估計(jì)模型。第六十六頁，共八十四頁，2022年，8月28日5、當(dāng)滯后被解釋變量作解釋變量，并且與隨機(jī)誤差項(xiàng)相關(guān)時(shí)

這時(shí)，除了OLS法參數(shù)估計(jì)量是有偏的以外，還帶來兩個(gè)后果：

①模型必然具有隨機(jī)誤差項(xiàng)的自相關(guān)性。因?yàn)樵摐蟊唤忉屪兞颗c滯后隨機(jī)誤差項(xiàng)相關(guān)，又與當(dāng)期隨機(jī)誤差項(xiàng)相關(guān)。

②D.W.檢驗(yàn)失效。因?yàn)椴还蹹.W.統(tǒng)計(jì)量的數(shù)值是多少，隨機(jī)誤差項(xiàng)的自相關(guān)性總是存在的。第六十七頁，共八十四頁，2022年，8月28日三、工具變量法

InstrumentalVariablesMethod第六十八頁，共八十四頁，2022年，8月28日

1、工具變量的選取

工具變量：在模型估計(jì)過程中被作為工具使用，以替代模型中與隨機(jī)誤差項(xiàng)相關(guān)的隨機(jī)解釋變量。

選擇為工具變量的變量必須滿足以下條件：

（1）與所替代的隨機(jī)解釋變量高度相關(guān)；（2）與隨機(jī)誤差項(xiàng)不相關(guān)；（3）與模型中其它解釋變量不相關(guān)，以避免出現(xiàn)多重共線性。第六十九頁，共八十四頁，2022年，8月28日2、工具變量的應(yīng)用對于多元線性模型Yi=0+1X1i+2X2i++kXki+i（i=1,2,…,n)第七十頁，共八十四頁，2022年，8月28日用普通最小