多重共線性的程序選優(yōu)法

1、多重共線性的程序選優(yōu)法 摘 要 文章介紹了多重共線性及其 影響 ，使用逐步回歸法解決多重共線性的缺點(diǎn)以及程序選優(yōu)法的設(shè)計(jì)思想。通過(guò)使用舉例說(shuō)明程序選優(yōu)法在解決多重共線性時(shí)具有快速、最優(yōu)和準(zhǔn)確的優(yōu)點(diǎn)。關(guān)鍵詞 多重共線 逐步回歸 eviews 程序選優(yōu)一、多重共線性及其影響1.什么是多重共線性對(duì)于多元線性回歸模型 yi=0+1x1i+2x2i+kxki+ui ,i=1,2,，n其古典假設(shè)之一就是解釋變量x1，x2，xk是相互獨(dú)立的。如果某兩個(gè)或多個(gè)解釋變量之間出現(xiàn)了相關(guān)性，則稱存在多重共線性。如果存在c1x1i+c2x2i+ckxki=0, i=1,2,，n其中ci不全為0，既某一個(gè)解釋變量可以用

2、其他解釋變量的線性組合表示，則稱解釋變量間存在完全共線性。如果存在c1x1i+c2x2i+ckxki+vi=0 , i=1,2,，n其中ci不全為0，vi為隨機(jī)干擾項(xiàng)，則稱解釋變量間存在近似共線性。2.完全多重共線性下參數(shù)估計(jì)量不存在完全多重共線性時(shí)，在eviews軟件下用普通最小二乘法估計(jì)，屏幕出現(xiàn)提示“near singular matrix”。此時(shí)參數(shù)無(wú)法確定，參數(shù)的方差無(wú)窮大。在近似多重共線性下會(huì)有如下影響。3.普通最小二乘法參數(shù)估計(jì)量的方差變大，容易刪掉重要的解釋變量在多重共線性下，參數(shù)估計(jì)量的方差隨著多重共線性的“嚴(yán)重程度”，呈“膨脹性”增大。進(jìn)行統(tǒng)計(jì)檢驗(yàn)時(shí)，由于方差的變大，可能使

3、t統(tǒng)計(jì)量小于臨界值，誤導(dǎo)作出參數(shù)為零的推斷，這樣容易刪掉重要的解釋變量，造成模型設(shè)定誤差。4.參數(shù)估計(jì)量的 經(jīng)濟(jì) 含義不合理如果模型中兩個(gè)解釋變量具有線性相關(guān)性，如x1和x2，那么它們中的一個(gè)變量可以由另一個(gè)變量表征。這時(shí)，x1和x2前的參數(shù)并不反映各自與被解釋變量之間的結(jié)構(gòu)關(guān)系，而是反映它們對(duì)被解釋變量的共同影響，所以各自的參數(shù)已經(jīng)失去了應(yīng)有的經(jīng)濟(jì)含義，于是經(jīng)常表現(xiàn)出似乎反常的現(xiàn)象，例如估計(jì)結(jié)果本來(lái)應(yīng)該是正的，而結(jié)果是負(fù)的。二、逐步回歸法的缺點(diǎn)克服近似多重共線性的常用 方法 有排除引起共線性的變量、差分法、減小參數(shù)估計(jì)量的方差等三類方法。其中排除引起共線性的變量是最為有效的克服多重共線性的方

4、法，而逐步回歸法就是這種方法，因此逐步回歸法得到了最為廣泛的 應(yīng)用 。逐步回歸法的基本步驟是首先把被解釋變量對(duì)每一個(gè)解釋變量分別進(jìn)行回歸，從而得到所有的基本回歸方程式，并對(duì)每一個(gè)基本回歸方程進(jìn)行統(tǒng)計(jì)檢驗(yàn)， 分析 其估計(jì)結(jié)果，從中選擇最合適的基本回歸方程，然后再逐一增加其它的解釋變量，重新再作回歸，根據(jù)可決系數(shù)、修正的可決系數(shù)、回歸系數(shù)的t值逐步把顯著性的解釋變量選人回歸方程中，同時(shí)把非顯著性的解釋變量從回歸方程中剔除，最終建立一個(gè)滿意的回歸方程。但逐步回歸法的使用也有一些不足。1.步驟煩瑣，容易出錯(cuò)雖然eviews軟件在計(jì)量經(jīng)濟(jì)學(xué)上的廣泛應(yīng)用，使參數(shù)的估計(jì)變的十分方便，但通過(guò)反復(fù)的比較，逐步回

5、歸的方法，步驟還是比較煩瑣，人工操作也容易出錯(cuò)。如對(duì)一個(gè)五元回歸方程，第一大步，建立五元回歸模型，進(jìn)行檢驗(yàn)多重共線性；第二大步，要進(jìn)行五個(gè)一元回歸方程的建立和比較；第三大步，在第二大步的基礎(chǔ)上，要進(jìn)行四個(gè)二元回歸方程的建立和比較；第四大步，在第三大步的基礎(chǔ)上，要進(jìn)行三個(gè)三元回歸方程的建立和比較；第五大步，在第四大步的基礎(chǔ)上，要進(jìn)行二個(gè)四元回歸方程的建立和比較。通過(guò)以上十四次的建立和比較才能確定一個(gè)滿意的回歸方程。如果解釋變量增加，則步驟更多。2.結(jié)果有可能是局部最優(yōu)逐步回歸法的應(yīng)用可能遺漏最優(yōu)方程，選出的回歸方程有可能只是某一個(gè)較優(yōu)的回歸方程。如在上述第三大步中，進(jìn)行四個(gè)二元回歸方程的比較時(shí)，

6、可能四個(gè)二元回歸方程的t統(tǒng)計(jì)量都小于臨界值，而在三元方程則會(huì)通過(guò)t檢驗(yàn)，因此我們?cè)诙貧w方程的選擇可能存在隨意性，這樣的選擇最終可能遺漏最優(yōu)方程。三、程序選優(yōu)法的設(shè)計(jì)思想1.程序選優(yōu)法符合“從一般到簡(jiǎn)單”的建模思想逐步回歸法是以“由簡(jiǎn)單到復(fù)雜”的建模思想為指導(dǎo)的，而程序選優(yōu)法是以“從一般到簡(jiǎn)單”的思想為指導(dǎo)，即開始時(shí)建立一個(gè)一般的模型，將對(duì)被解釋變量有影響的所有變量都作為解釋變量，然后在建模的估計(jì)和檢驗(yàn)中選擇，最后得到一個(gè)比較簡(jiǎn)單的模型。這種建模方法在很大程度上消除了建模過(guò)程中的主觀性。如開始時(shí)建立一個(gè)五元模型，程序選優(yōu)法通過(guò)運(yùn)行事先編好的程序，會(huì)自動(dòng)建立一個(gè)五元回歸方程，五個(gè)四元回歸方程，

7、十個(gè)三元回歸方程，十個(gè)二元回歸方程，共二十六個(gè)可能的方程，同時(shí)程序會(huì)自動(dòng)選擇出最優(yōu)的方程。這種方法簡(jiǎn)單快速，保證了所選方程的最優(yōu)。2.完全多重共線性的處理正如前面所說(shuō)，出現(xiàn)完全多重共線性時(shí)，在eviews軟件下用普通最小二乘法估計(jì)，屏幕出現(xiàn) “near singular matrix”的提示。出現(xiàn)這種情況，如對(duì)一個(gè)六元模型，此時(shí)可以在命令窗口輸入：cor y x1 x2 x3 x4 x5 x6屏幕出現(xiàn)相關(guān)系數(shù)矩陣，見表1從上表可以看出x3和x6的相關(guān)系數(shù)是1，產(chǎn)生了完全多重共線性，此時(shí)在x3和x6之間必須選擇去掉一個(gè)，使完全共線性變?yōu)榻乒簿€性。事實(shí)上完全共線性并不多見，因此在一般情況下也不需

8、要作上述處理。3.選優(yōu)標(biāo)準(zhǔn)及過(guò)程eviews軟件是由美國(guó)quantitative micro software公司提供的數(shù)據(jù)分析、回歸及預(yù)測(cè)工具，是 目前 世界上最流行的計(jì)量經(jīng)濟(jì)學(xué)軟件。另外，eviews軟件也提供了編程和運(yùn)行程序的功能，這為程序選優(yōu)法的實(shí)現(xiàn)提供了方便。程序選優(yōu)法的選優(yōu)標(biāo)準(zhǔn)首先要求在所有可能的回歸方程中被解釋變量系數(shù)的p值都小于顯著性水平0.05,即被解釋變量在0.05的顯著性水平下都通過(guò)t檢驗(yàn)。其次，在滿足上述條件下，比較回歸方程的修正的可決系數(shù)，選出修正的可決系數(shù)最大的回歸方程就是最優(yōu)方程。選優(yōu)過(guò)程首先要在程序中輸入被解釋變量的總個(gè)數(shù)，如n=5，即共有五個(gè)被解釋變量。運(yùn)行程

9、序后，程序會(huì)自動(dòng)通過(guò)循環(huán)用equation 和ls命令建立回歸方程，利用函數(shù)rbar2可自動(dòng)獲得回歸方程的修正的可決系數(shù)，利用函數(shù)ncoef可自動(dòng)獲得被估參數(shù)的個(gè)數(shù)，利用函數(shù)regobs可自動(dòng)獲得樣本容量，利用函數(shù)tstats可自動(dòng)獲得參數(shù)的t統(tǒng)計(jì)量，利用函數(shù)tdist可自動(dòng)獲得被解釋變量系數(shù)的p值。這樣程序運(yùn)行后就可以建立所有可能的回歸方程，并在滿足t檢驗(yàn)的方程中，通過(guò)比較回歸方程的修正的可決系數(shù)，選出最優(yōu)方程。四、使用舉例根據(jù) 理論 和經(jīng)驗(yàn) 分析 ， 影響 糧食生產(chǎn)的主要因素有農(nóng)業(yè)化肥施用量、糧食播種面積、成災(zāi)面積、農(nóng)業(yè)機(jī)械總動(dòng)力和農(nóng)業(yè)勞動(dòng)力，其中，成災(zāi)面積的符號(hào)為負(fù)，其余均應(yīng)為正。表2列

10、出了 中國(guó) 糧食生產(chǎn)的相關(guān)數(shù)據(jù)，試建立中國(guó)糧食生產(chǎn)函數(shù)。資料來(lái)源：中國(guó)統(tǒng)計(jì)年鑒（1995，2001）使用時(shí)打開eviews軟件，創(chuàng)建新的工作文件，將表2中的數(shù)據(jù)輸入序列對(duì)象。單擊eviews軟件的“file”“open”“progrem.”,選擇事先編好的程序文件，單擊“打開”。在程序中將控制變量scalar n=設(shè)為scalar n=5，單擊“run”運(yùn)行程序，在“run program”對(duì)話框中，單擊“ok”，1秒2秒程序運(yùn)行結(jié)束。此時(shí)在工作文件中自動(dòng)產(chǎn)生了控制變量best,在best上右擊選擇“open”，在狀態(tài)欄顯示scalar best=18，由于程序在工作文件中已自動(dòng)建立了eq1、eq2、eq26共26個(gè)回歸方程，此時(shí)best=18，即eq18是程序自動(dòng)選擇出的最優(yōu)回歸方程。當(dāng)然，如果沒(méi)有一個(gè)方程符合要求的情況下，此時(shí)best=0。雙擊eq18，可以看出中國(guó)糧食生產(chǎn)的回歸分析表達(dá)式為：y=-11978.18 +0.41x2-0.19x3+5.26x5se: (0.1220) （0.0545）（0.2686）t:(3.35)(-3.57) (19.57)r2=0.9796f=224.01dw=1.53由上面使用事例可以看出，程序選優(yōu)法在使用排除引起共線性變量的 方法 克服多重共線性時(shí)具有快速、最優(yōu)和準(zhǔn)確的優(yōu)點(diǎn)。事實(shí)上，根據(jù)“從