第三講eviews多元線性回歸模型

1、第第3 3講講 多元線性回歸模型多元線性回歸模型3.1 多元線性回歸模型的估計(jì)3.1.1 3.1.1 多元線性回歸模型及其矩陣表示多元線性回歸模型及其矩陣表示 在計(jì)量經(jīng)濟(jì)學(xué)中，將含有兩個(gè)以上解釋變量的回歸模型叫做多元回歸模型，相應(yīng)地，在此基礎(chǔ)上進(jìn)行的回歸分析就叫多元回歸分析。 它是解釋變量的多元線性函數(shù)，稱為多元線性總體回歸方程。 假定通過(guò)適當(dāng)?shù)姆椒晒烙?jì)出未知參數(shù)的值，用參數(shù)估計(jì)值替換總體回歸函數(shù)的未知參數(shù)，就得到多元線性樣本回歸方程:它代表了總體變量間的依存規(guī)律。3.1.2 3.1.2 多元線性回歸模型的基本假定多元線性回歸模型的基本假定 假設(shè)6： 解釋變量之間不存在多重共線性 假設(shè)1用矩

2、陣形式表示： 3.1.3 多元線性回歸模型的估計(jì)1 1參數(shù)的最小二乘估計(jì)參數(shù)的最小二乘估計(jì)上述（k+1）個(gè)方程稱為正規(guī)方程。用矩陣表示就是： 即 :將上述過(guò)程用矩陣表示如下：根據(jù)矩陣求導(dǎo)法則可得：t 例例 3.1.13.1.1 經(jīng)過(guò)研究，發(fā)現(xiàn)家庭書刊消費(fèi)水平受家庭收入及戶主受教育年數(shù)的影響?，F(xiàn)對(duì)某地區(qū)的家庭進(jìn)行抽樣調(diào)查，得到樣本數(shù)據(jù)如表3.1.1所示，其中y表示家庭書刊消費(fèi)水平(元/年)，x表示家庭收入(元月)，T 表示戶主受教育年數(shù)。下面我們估計(jì)家庭書刊消費(fèi)水平同家庭收入、戶主受教育年數(shù)之間的線性關(guān)系。表3.1.1 某地區(qū)家庭書刊消費(fèi)水平及影響因素的調(diào)查數(shù)據(jù)表家庭書刊消費(fèi)家庭書刊消費(fèi) y y

3、家庭收入家庭收入 x x戶主受教育年數(shù)戶主受教育年數(shù) T T450.0450.01027.21027.28 8507.7507.71045.21045.29 9613.9613.91225.81225.81212563.4563.41312.21312.29 9501.5501.51316.41316.47 7781.5781.51442.41442.41515541.8541.81641.01641.09 9611.1611.11768.81768.810101222.11222.11981.21981.21818793.2793.21998.61998.61414660.8660.8219

4、6.02196.01010792.7792.72105.42105.41212580.8580.82147.42147.48 8612.7612.72154.02154.01010890.8890.82231.42231.414141121.01121.02611.82611.818181094.21094.23143.43143.416161253.01253.03624.63624.62020借助于計(jì)量經(jīng)濟(jì)軟件EViews對(duì)表3.1.1進(jìn)行分析，具體步驟為(1)建立工作文件；(2)輸入數(shù)據(jù)；(3)回歸分析表3.1.2 回歸結(jié)果2 2最小二乘估計(jì)量的性質(zhì)最小二乘估計(jì)量的性質(zhì)用最小二乘法得到的

5、多元線性回歸的參數(shù)估計(jì)量具有線性、無(wú)偏性、最小方差性。3.1.4 隨機(jī)誤差項(xiàng)方差的估計(jì)若記3.2 多元線性回歸模型的檢驗(yàn)3.2.1 3.2.1 擬合優(yōu)度檢驗(yàn)擬合優(yōu)度檢驗(yàn)擬合優(yōu)度是指樣本回歸直線與觀測(cè)值之間的擬合程度。1多重決定系數(shù) 總離差平方和=殘差平方和+ 回歸平方和 自由度: （n-1）= （n-k-1）+ kESS：由回歸直線（即解釋變量）所解釋的部分，表示x對(duì)y的線性影響。RSS：是未被回歸直線解釋的部分，由解釋變量x對(duì)y影響以外的因素而造成的。 多重決定系數(shù)或決定系數(shù)是指解釋變差占總變差的比重，用來(lái)表述解釋變量對(duì)被解釋變量的解釋程度：2修正的決定系數(shù)（1）用自由度調(diào)整后，可以消除擬合

6、優(yōu)度評(píng)價(jià)中解釋變量多少對(duì)決定系數(shù)計(jì)算的影響；（2）對(duì)于包含的解釋變量個(gè)數(shù)不同的模型，可以用調(diào)整后的決定系數(shù)直接比較它們的擬合優(yōu)度的高低。修正的決定系數(shù)與未經(jīng)修正的多重決定系數(shù)之間有如下關(guān)系：3.2.2 赤池信息準(zhǔn)則和施瓦茨準(zhǔn)則 為了比較所含解釋變量個(gè)數(shù)不同的多元回歸模型的擬合優(yōu)度，常用的標(biāo)準(zhǔn)還有赤池信息準(zhǔn)則（Akaike information criterion,AIC）和施瓦茨準(zhǔn)則（Schwarz criterion,SC）,其定義分別為 這兩個(gè)準(zhǔn)則均要求僅當(dāng)所增加的解釋變量能夠減少AIC或SC值時(shí)才能在原模型中增加該解釋變量。3.2.3 偏相關(guān)系數(shù)3.2.3 回歸模型的總體顯著性檢驗(yàn)：F

7、檢驗(yàn) 回歸模型的總體顯著性檢驗(yàn)，旨在對(duì)模型中被解釋變量與解釋變量之間的線性關(guān)系在總體上是否顯著成立作出推斷。 檢驗(yàn)?zāi)Ｐ椭斜唤忉屪兞颗c解釋變量之間的線性關(guān)系在總體上是否顯著成立，即是檢驗(yàn)方程：圖3.2.1 陰影部分為F檢驗(yàn)的否定區(qū)域 F 檢驗(yàn)的具體步驟為： 借助于計(jì)量經(jīng)濟(jì)軟件EViews對(duì)表3.1.1中的樣本回歸方程作F檢驗(yàn)。 F 統(tǒng)計(jì)量的值：F =146.2973，n =18，n-k-1=18-2-1=15，在5%的顯著性水平下，查自由度為(2，15)的F分布表，得臨界值3.2.4 回歸參數(shù)的顯著性檢驗(yàn)：t檢驗(yàn) 回歸參數(shù)的顯著性檢驗(yàn)，目的在于檢驗(yàn)當(dāng)其他解釋變量不變時(shí)，該回歸系數(shù)對(duì)應(yīng)的解釋變量是

8、否對(duì)因變量有顯著影響。 由參數(shù)估計(jì)量的分布性質(zhì)可知，回歸系數(shù)的估計(jì)量服從如下正態(tài)分布：用t統(tǒng)計(jì)量進(jìn)行回歸參數(shù)的顯著性檢驗(yàn)，其具體過(guò)程如下： 借助于計(jì)量經(jīng)濟(jì)軟件EViews對(duì)表3.1.1中的樣本回歸方程的系數(shù)作顯著性檢驗(yàn): 至此，我們已全面分析了例3.1.1所提出的問(wèn)題。現(xiàn)將從例3.1.1的回歸分析結(jié)果整理如下：3.3 3.3 多元線性回歸模型的預(yù)測(cè)多元線性回歸模型的預(yù)測(cè)3.3.1 點(diǎn)預(yù)測(cè) 點(diǎn)預(yù)測(cè)就是根據(jù)給定解釋變量的值，預(yù)測(cè)相應(yīng)的被解釋變量的一個(gè)可能值。設(shè)多元線性回歸模型為:3.3.2 區(qū)間預(yù)測(cè)3.4 3.4 非線性回歸模型非線性回歸模型3.4.1 可線性化模型 在非線性回歸模型中，有一些模型

9、經(jīng)過(guò)適當(dāng)?shù)淖兞孔儞Q或函數(shù)變換就可以轉(zhuǎn)化成線性回歸模型，從而將非線性回歸模型的參數(shù)估計(jì)問(wèn)題轉(zhuǎn)化成線性回歸模型的參數(shù)估計(jì)，稱這類模型為可線性化模型。 1對(duì)數(shù)模型 模型形式： 模型適用對(duì)象：模型適用對(duì)象：對(duì)觀測(cè)值取對(duì)數(shù)，將取對(duì)數(shù)后的觀測(cè)值（lnx，lny）描成散點(diǎn)圖，如果近似為一條直線，則適合于對(duì)數(shù)線性模型來(lái)描述x與y的變量關(guān)系。 容易推廣到模型中存在多個(gè)解釋變量的情形。例如，柯布道格拉斯生產(chǎn)函數(shù)形式： 例3.4.1 根據(jù)表3.4.1給出的1980-2003年間總產(chǎn)出(用國(guó)內(nèi)生產(chǎn)總值GDP度量，單位：億元)，勞動(dòng)投入L(用從業(yè)人員度量，單位為萬(wàn)人)，以及資本投入K(用全社會(huì)固定投資度量，單位：億元)

10、。表3.4.1 1980-2003年中國(guó)GDP、勞動(dòng)投入與資本投入數(shù)據(jù)年份GDPLK19804517.842361910.919814862.443725961.019825294.7452951230.419835934.5464361430.119847171.0481971832.919858964.4498732543.2198610202.2512823120.6年份GDPLK198711962.5527833791.7198814928.3543344753.8198916909.2553294410.4199018547.9639094517.0199121617.8647995

11、594.5199226638.1655548080.1199334634.46637313072.3199446759.46719917042.1199558478.16794720019.3199667884.66885022913.5199774462.66960024941.1199878345.26995728406.2199982067.57139429854.7200089442.27208532917.7200195933.37302537213.52002102398.07374043499.92003117251.97443255566.6 利用EViews軟件解題如下：首先

12、建立工作文件，其次輸入樣本數(shù)據(jù)Q、L、K，再次，在EViews軟件的命令窗口，依次鍵入：GENR lnGDP=LOG(GDP)GENR lnL=LOG(L)GENR lnK=LOG(K)LS lnGDP C lnL lnK輸出結(jié)果如下(表3.4.2)：表3.4.2 回歸結(jié)果 2半對(duì)數(shù)模型 在對(duì)經(jīng)濟(jì)變量的變動(dòng)規(guī)律研究中，測(cè)定其增長(zhǎng)率或衰減率是一個(gè)重要方面。在回歸分析中，我們可以用半對(duì)數(shù)模型來(lái)測(cè)度這些增長(zhǎng)率。 模型形式：模型形式：3倒數(shù)模型 4多項(xiàng)式模型 多項(xiàng)式回歸模型在生產(chǎn)與成本函數(shù)這個(gè)領(lǐng)域中被廣泛地使用。多項(xiàng)式回歸模型可表示為3.4.2 非線性化模型的處理方法 無(wú)論通過(guò)什么變換都不可能實(shí)現(xiàn)線性

13、化，這樣的模型稱為非線性化模型。對(duì)于非線性化模型，一般采用高斯牛頓迭代法進(jìn)行估計(jì)，即將其展開成泰勒級(jí)數(shù)之后，再利用迭代估計(jì)方法進(jìn)行估計(jì)。3.4.3 回歸模型的比較 1 1圖形觀察分析圖形觀察分析 (1)觀察被解釋變量和解釋變量的趨勢(shì)圖。 (2)觀察被解釋變量與解釋變量的相關(guān)圖。 2 2模型估計(jì)結(jié)果觀察分析模型估計(jì)結(jié)果觀察分析 對(duì)于每個(gè)模型的估計(jì)結(jié)果，可以依次觀察以下內(nèi)容： (1)回歸系數(shù)的符號(hào)和值的大小是否符合經(jīng)濟(jì)意義，這是對(duì)所估計(jì)模型的最基本要求。 (2)改變模型形式之后是否使判定系數(shù)的值明顯提高。 (3)各個(gè)解釋變量t檢驗(yàn)的顯著性。 (4)系數(shù)的估計(jì)誤差較小。3殘差分布觀察分析 模型的殘差

14、反映了模型未能解釋部分的變化情況，在方程窗口點(diǎn)擊ViewActual，F(xiàn)itted，ResidualTable(或Graph)，可以觀察分析以下內(nèi)容： (1)殘差分布表中，各期殘差是否大都落在的虛線框內(nèi)，這直觀地反映了模型擬合誤差的大小及變化情況。 (2)殘差分布是否具有某種規(guī)律性，即是否存在著系統(tǒng)誤差。 (3)近期殘差的分布情況。 另外，利用判定系數(shù)比較模型的擬合優(yōu)度時(shí)，如果兩個(gè)模型包含的解釋變量個(gè)數(shù)不同，則應(yīng)采用“調(diào)整的判定系數(shù)”。 除了調(diào)整的判定系數(shù)之外，人們還使用另外兩個(gè)指標(biāo)SC（Schwarz Criterion，施瓦茲準(zhǔn)則）和AIC(Akaike lnformation Crite

15、rion，赤池信息準(zhǔn)則)來(lái)比較含有不同解釋變量個(gè)數(shù)模型的擬合優(yōu)度。 3.5 3.5 受約束回歸受約束回歸 在建立回歸模型時(shí)，有時(shí)根據(jù)經(jīng)濟(jì)理論需要對(duì)模型中變量的參數(shù)施加一定的約束條件。對(duì)模型施加約束條件后進(jìn)行回歸，稱為受約束回歸(restricted regresslon)，與此對(duì)應(yīng)，不加任何約束的回歸稱為無(wú)約束回歸(unrestricted regression)。3.5.1 模型參數(shù)的線性約束 一般地，估計(jì)線性模型時(shí)可對(duì)模型參數(shù)施加若干個(gè)線性約束條件。例如，對(duì)模型其中式中第二項(xiàng)為一非負(fù)標(biāo)量，于是 式(3.5.9)表明受約束樣本回歸模型的殘差平方和大于無(wú)約束樣本回歸模型的殘差平方和，這意味著，

16、通常情況下，對(duì)模型施加約束條件會(huì)降低模型的解釋能力。 約束條件的個(gè)數(shù)。表3.5.1 無(wú)約束條件的C-D生產(chǎn)函數(shù)估計(jì)結(jié)果表3.5.2 有約束條件的C-D生產(chǎn)函數(shù)估計(jì)結(jié)果 在EViews軟件中，當(dāng)估計(jì)完C-D生產(chǎn)函數(shù)后，在方程結(jié)果輸出窗口，點(diǎn)擊View按鈕，然后在下拉菜單中選擇Coefficient TestWald Coefficient Restrictions,屏幕出現(xiàn)圖3.5.1對(duì)話框。 圖3.5.1 Wald檢驗(yàn)定義對(duì)話框 在對(duì)話框中輸入系數(shù)的約束條件，若有多個(gè)，則用逗號(hào)分開。本例中輸入：C（2）+C（3）=1，得檢驗(yàn)結(jié)果見(jiàn)表3.5.3。表3.5.3 Wald檢驗(yàn)輸出結(jié)果 由表3.5.3

17、可知，在0.05顯著性水平下，兩個(gè)檢驗(yàn)均仍然不能拒絕和為1的原假設(shè)，原假設(shè)為真。這個(gè)結(jié)果與直觀判斷差異明顯，主要是因?yàn)樽兞縇OG（L）的回歸系數(shù)標(biāo)準(zhǔn)誤差較大。 需要指出的是，這里介紹的F檢驗(yàn)適合所有關(guān)于參數(shù)線性約束的檢驗(yàn)，32節(jié)中對(duì)回歸模型總體的線性檢驗(yàn)，可以歸結(jié)到這里的F檢驗(yàn)上來(lái)。 3.5.2 3.5.2 解釋變量的選擇解釋變量的選擇 在實(shí)際建模時(shí)，選取哪些變量作為解釋變量引入模型，對(duì)模型的優(yōu)劣有直接的影響作用。模型中，既不能遺漏重要的解釋變量，又要防止過(guò)多的變量帶來(lái)的多重共線性問(wèn)題或?qū)σ蜃兞繘](méi)有什么影響的不必要的解釋變量。這里介紹兩種有用的用于選擇解釋變量的檢驗(yàn)。 考慮如下兩個(gè)回歸模型：

18、在EViews軟件中，要檢驗(yàn)冗余變量，選擇Equation工具欄中的ViewCoefficient TestRedundant Variable功能。在對(duì)話框中輸入需要檢驗(yàn)的變量。 Testadd 檢驗(yàn)用于在方程中檢驗(yàn)引入新的解釋變量，檢驗(yàn)引入引入新的解釋變量是否對(duì)模型有利。要檢驗(yàn)缺失變量，選擇Equation工具欄中的ViewCoefficient TestOmitted Variable功能。在對(duì)話框中輸入需要檢驗(yàn)的變量。 在例3.4.1的方程窗口（表3.4.2）輸出結(jié)果中選擇ViewCoefficient TestRedundant Variable-Likelihood Ratio，屏

19、幕出現(xiàn)對(duì)話圖3.5.2框。圖3.5.2 多余變量檢驗(yàn)定義對(duì)話框 在話框中輸入希望減少的序列名。在本例，輸入LOG（L），點(diǎn)擊OK，計(jì)算結(jié)果如表3.5.4所示。表3.5.4 Testdrop檢驗(yàn)輸出結(jié)果 與Wald檢驗(yàn)類似，EViews也給出F統(tǒng)計(jì)量和相伴概率。這里，在0.05顯著性水平下，兩個(gè)檢驗(yàn)均拒絕變量LOG（L）不顯著的假設(shè)，LOG（L）不是多余的變量，說(shuō)明勞動(dòng)投入量對(duì)GDP有顯著影響。3.5.3 參數(shù)的穩(wěn)定性檢驗(yàn)：鄒氏檢驗(yàn) 建立模型時(shí)往往希望模型的參數(shù)是穩(wěn)定的，即所謂的結(jié)構(gòu)不變，這將提高模型的預(yù)測(cè)與分析功能。然而，經(jīng)濟(jì)結(jié)構(gòu)的變化往往導(dǎo)致計(jì)量經(jīng)濟(jì)模型結(jié)構(gòu)也發(fā)生變化。例如，例3.4.1我國(guó)

20、C-D生產(chǎn)函數(shù)例子中，從GDP、L、K散點(diǎn)圖的變化上容易判斷1992年前后這種結(jié)構(gòu)的變化。下面給出一個(gè)結(jié)構(gòu)變化的檢驗(yàn)。圖3.5.3 中國(guó)1980-2003年GDP、L、K散點(diǎn)圖 這兩個(gè)回歸方程是否顯著的不同？如果這兩個(gè)回歸方程的差別并不顯著，說(shuō)明模型所反映的經(jīng)濟(jì)結(jié)構(gòu)在時(shí)間上(或截面上)是穩(wěn)定的。否則是不穩(wěn)定的。鄒至莊(Chow)提出了如下的Chow檢驗(yàn)。 因此，對(duì)參數(shù)穩(wěn)定性的原假設(shè)(3.5.22)的檢驗(yàn)步驟為： 首先，分別以兩個(gè)連續(xù)的時(shí)間序列作為兩個(gè)樣本運(yùn)用式(3.5.18)進(jìn)行回歸，得到相應(yīng)的殘差平方和 RSS1與 RSS2； 其次，將兩序列并為一個(gè)大樣本后運(yùn)用式(3.5.18)進(jìn)行回歸，得

21、到大樣本下的殘差平方和 RSSR； 最后，通過(guò)式(3.5.25)的F統(tǒng)計(jì)量，在事先給定的顯著性水平下進(jìn)行假設(shè)檢驗(yàn)。如果F大于相應(yīng)的臨界值，則拒絕原假設(shè)，認(rèn)為發(fā)生了結(jié)構(gòu)變化，參數(shù)是非穩(wěn)定的。該檢驗(yàn)方法也被稱為鄒氏參數(shù)穩(wěn)定性檢驗(yàn)(Chow test for parameter stability)。 本例利用EViews軟件進(jìn)行Chow檢驗(yàn)。在操作上，首先根據(jù)表3.4.1，利用EViews軟件可得如下結(jié)果（見(jiàn)表3.5.5）。 表3.5.5 回歸結(jié)果 在方程窗口按View/Stability Tests/Chow Breakpoint Test順序逐一單擊鼠標(biāo)鍵，打開Chow Test對(duì)話框（圖3.

22、5.4）。圖3.5.4 打開Chow Test對(duì)話框然后在對(duì)話框內(nèi)輸入轉(zhuǎn)折點(diǎn)年份，1992（圖3.5.5）。圖3.5.5 Chow Test 對(duì)話框 計(jì)算結(jié)果如表3.5.6所示。表3.5.6 計(jì)算結(jié)果 根據(jù)F分布表，可得在5的顯著性水平下，F(xiàn)臨界值為3.55(分子自由度為3，分母自由度為18)。因此，得到F值2.9355小于臨界值為3.55，接受原假設(shè)。由此可知中國(guó)GDP和L、K間的關(guān)系（即C-D生產(chǎn)函數(shù)），在不同時(shí)期（1980-1991與1992-2003）沒(méi)有什么不同，即中國(guó)C-D生產(chǎn)函數(shù)結(jié)構(gòu)是穩(wěn)定的。 在運(yùn)用Chow檢驗(yàn)時(shí)，需要注意以下一些限制條件： (1)必須滿足上面講到的古典假定條件

23、。 (2)Chow檢驗(yàn)的結(jié)果僅僅告訴我們是否存在結(jié)構(gòu)差異，而無(wú)法得知導(dǎo)致這種差異的原因。 (3)Chow檢驗(yàn)假定知道結(jié)構(gòu)發(fā)生變化的時(shí)間點(diǎn)。 3.6 3.6 案例分析案例分析中國(guó)經(jīng)濟(jì)增長(zhǎng)影響因素分析中國(guó)經(jīng)濟(jì)增長(zhǎng)影響因素分析 根據(jù)表3.6.1給出的1980-2003年間總產(chǎn)出(用國(guó)內(nèi)生產(chǎn)總值GDP度量，單位：億元)，最終消費(fèi)CS(單位：億元)，投資總額I(用固定資產(chǎn)投資總額度量，單位：億元)，出口總額（單位：億元）統(tǒng)計(jì)數(shù)據(jù)，試對(duì)中國(guó)經(jīng)濟(jì)增長(zhǎng)影響因素進(jìn)行回歸分析。表3.6.1 1980-2003年中國(guó)GDP、最終消費(fèi)、投資與出口總額（單位：億元）年 份GDP最終消費(fèi)CS投資總額I出口總額EX198916466.010556.54410.41956.1199018319.511365.24517.02985.8199121280.413145.95594.53827.1199225863.715952.18080.14676.3199334500.720182.113072.35284.8199446690.726796.017042.110421.8199558510.533635.020019.312451.8199668330.440003.922974.012576.4199774894.243579.424941.1