經(jīng)典計(jì)量回歸模型2(應(yīng)用計(jì)量經(jīng)濟(jì)學(xué)).ppt

1、經(jīng)典計(jì)量回歸模型（2）,多元回歸若干問題及處理,一、多元回歸的最小二乘法,1、模型 若被解釋變量 與 個(gè)解釋變量 存在線性關(guān)系，可建立如下線性多元模型：,線性多元模型,可以表示為：,可以用矩陣表示為： 其中：,2、基本假設(shè) （1）隨機(jī)誤差項(xiàng)非自相關(guān)，每一誤差項(xiàng)滿足均值為0，方差相同且為有限值。,（2）解釋變量誤差項(xiàng)相互獨(dú)立。 （3）解釋變量之間線性無關(guān)。 （4） 非隨機(jī)變量。,以上假定在純數(shù)學(xué)的意義是保證估計(jì)參數(shù)有唯一的解，同時(shí)保證了估計(jì)參數(shù)具有良好的統(tǒng)計(jì)特征。,3、估計(jì),上式中，利用了 （1T）（TK）（K1）（11）是一個(gè)標(biāo)量，它的轉(zhuǎn)置矩陣不變：,求偏導(dǎo)： 上式中，利用了矩陣導(dǎo)數(shù)： 則：,

2、由假定 是一個(gè)非退化矩陣，其逆矩陣存在，因此有： 因?yàn)槠涠A條件 ，因此 是使方差最小化的解。,多元回歸若干問題及其處理,一、多重共線性 多重共線性的產(chǎn)生：回歸模型的部分解釋變量之間存在線性關(guān)系，即某個(gè)解釋變量可以表示為另外解釋變量的線性組合。,完全的多重共線性，解釋變量之間存在準(zhǔn)確的線性關(guān)系，有： 欠完全的多重共線性，解釋變量之間高度相關(guān)，但又非完全相關(guān)，有： 其中 為隨機(jī)誤差。,2、多重共線性的后果 估計(jì)值的表達(dá)式為： ，其中：,如果第j個(gè)解釋變量可以表示為其他解釋變量的線性組合，則X矩陣可以化簡(jiǎn)為：,的逆矩陣不存在，回歸系數(shù)將不確定，回歸的方差為無窮大。,如果解釋變量之間高度相關(guān)，但又非

3、完全相關(guān)，在上式對(duì)應(yīng)0的行列的向量非常接近于0，解釋變量之間相關(guān)程度越高，相應(yīng)行列的向量越接近于0，這時(shí)，雖然回歸系數(shù)可以確定，但方差隨變量相關(guān)程度的提高以更快的速度提高，系數(shù)不能準(zhǔn)確估計(jì)。,總結(jié)： 1）OLS估計(jì)量仍是一個(gè)有效估計(jì)量（漸進(jìn)、無偏的估計(jì)量），但有很大的方差，估計(jì)的精確度差。 2）一個(gè)或多個(gè)系數(shù)的t統(tǒng)計(jì)量不顯著。 3）雖然一個(gè)或多個(gè)系數(shù)的t統(tǒng)計(jì)量不顯著，但擬合優(yōu)度非常高。 4）OLS估計(jì)量對(duì)數(shù)據(jù)小小的變化也會(huì)非常敏感。,3、多重共線性：一個(gè)實(shí)例 消費(fèi)支出與收入和財(cái)富的關(guān)系。其中Y表示消費(fèi)支出、X1表示收入，X2表示財(cái)富。,回歸方程：Y = C(1) + C(2)*X1 + C(3

4、)*X2 回歸結(jié)果：,回歸結(jié)果的擬合程度非常高，但系數(shù)的斜率沒有一個(gè)通過了顯著性檢驗(yàn)，但方程的總體系數(shù)檢驗(yàn)的F統(tǒng)計(jì)量又非常高，說明X1、X2斜率至少有一個(gè)不為0。,以X1、X2為解釋變量分別回歸，得到：,分別回歸后斜率高度顯著。,4、多重共線性的判斷 1） 高而顯著的t值少。 2）解釋變量之間高度相關(guān) 3) 估計(jì)量對(duì)數(shù)據(jù)小小的變化也會(huì)非常敏感。,6、多重共線性的處理 1）根據(jù)先驗(yàn)信息重新設(shè)立模型。 2）去掉一個(gè)高度共線性的變量。 3）對(duì)原始序列做一階差分。 3）增加數(shù)據(jù)進(jìn)行回歸。,二、異方差,1、異方差的產(chǎn)生 學(xué)習(xí)模型，隨學(xué)習(xí)時(shí)間的增加，其行為的誤差減少。（方差減少） 儲(chǔ)蓄行為模型，隨收入的增

5、加，個(gè)人如何支配他們的收入有更大的選擇，有人可以選擇較多的儲(chǔ)蓄，有人也可以選擇較少的儲(chǔ)蓄，從而，收入越高，儲(chǔ)蓄的差異越大。（方差增大）,2、異方差的后果 模型的假定條件給出的Var（u）是一個(gè)對(duì)角矩陣，各誤差項(xiàng)不相關(guān)，誤差項(xiàng)的協(xié)方差為0，,當(dāng)假定不成立時(shí)，有： 當(dāng)誤差向量u的方差協(xié)方差矩陣的對(duì)角線上的元素不相等時(shí)，說明該時(shí)間序列存在異方差。非對(duì)角線上的元素表示誤差向量的協(xié)方差，若非對(duì)角線上的元素不為0，表示誤差項(xiàng)自相關(guān)。,如果存在異方差，最小二乘估計(jì)仍具有無偏性與一致性，但估計(jì)量不再是最優(yōu)的，不滿足最小方差性。估計(jì)量的分布受到影響。,如果仍用 來估計(jì) ，顯然這種估計(jì)是有偏的，不一致的。建立在這

6、樣一個(gè) 的t檢驗(yàn)與F檢驗(yàn)可能產(chǎn)生嚴(yán)重的誤導(dǎo)，得出錯(cuò)誤的結(jié)論。,3、異方差的判斷 1）殘差序列分析. A、不存在異方差,B、存在異方差，殘差方差隨y的增大而增大。,缺點(diǎn)：在樣本期太短時(shí)無法判斷。,2）異方差檢驗(yàn) Park異方差檢驗(yàn)步驟： A、回歸方程，得方程得殘差序列。 B、取殘差序列的平方，再估算一個(gè)方程： C、如果 值統(tǒng)計(jì)顯著，說明數(shù)據(jù)存在異方差。,White異方差檢驗(yàn) White異方差檢驗(yàn)思想：以兩變量為例，若原始的回歸為 檢驗(yàn)就以擴(kuò)展的回歸式為基礎(chǔ)：,White異方差檢驗(yàn)的輸出結(jié)果給出了F統(tǒng)計(jì)量以及自由度為擴(kuò)展回歸式中回歸因子個(gè)數(shù)的 分布。 判斷：1、如果回歸元系數(shù)都不顯著，則認(rèn)為不存在

7、異方差，如果有任何一個(gè)回歸元的系數(shù)顯著，則認(rèn)為該模型存在異方差。2、F統(tǒng)計(jì)量及 分布在設(shè)定的顯著水平接受原假設(shè)，即所有的回歸原系數(shù)為0，則認(rèn)為不存在異方差。,一個(gè)實(shí)例：貨幣供給增長(zhǎng)率對(duì)GDP的影響。,Estimation Equation: GNP = C(1) + C(2)*M2,結(jié)果：,異方差檢驗(yàn)：,結(jié)果：,判斷：各回歸元系數(shù)均不顯著，F(xiàn)檢驗(yàn)接受回歸元系數(shù)為0的原假設(shè)，說明不存在異方差。,4、異方差的處理 1）加權(quán)最小二乘法。 思想：若知道 的形式，如果某變量 與 成倒數(shù)關(guān)系，則把 與各解釋變量相乘，消除異方差。,加權(quán)最小二乘法在Eviews里的實(shí)現(xiàn)。,3）懷特（White）異方差調(diào)整 懷

8、特異方差一致協(xié)方差矩陣,4）對(duì)原始序列取對(duì)數(shù)，再建立線性模型是消除模型異方差的一個(gè)有效的方法。,三、自相關(guān),1、自相關(guān)的定義： 序列中的觀測(cè)值之間的相關(guān)。,如果某個(gè)回歸模型的殘差存在類似如下關(guān)系： 其中 ,說明殘差序列存在（一階）自相關(guān)。,2、自相關(guān)的產(chǎn)生,A、慣性。對(duì)大多數(shù)經(jīng)濟(jì)變量來說，如GDP、價(jià)格指數(shù)、就業(yè)等時(shí)間序列都呈現(xiàn)一種商業(yè)循環(huán)。 B、模型設(shè)定偏誤。,1）模型變量缺失。 如果模型的形式為： 而我們采用的回歸形式為： 則回歸誤差項(xiàng)： ，誤差表現(xiàn)為一種系統(tǒng)性變化的特征，造成自相關(guān)。,2）、忽略了模型的滯后效應(yīng)。 如在消費(fèi)模型中，消費(fèi)不僅僅依賴于當(dāng)期的收入水平，由于消費(fèi)者不會(huì)輕易改變他們

9、的消費(fèi)習(xí)慣，因此他們的消費(fèi)支出還依賴于前期的消費(fèi)支出，既有： 如果忽略了滯后項(xiàng)，則模型的誤差項(xiàng)由于滯后變量對(duì)當(dāng)前變量的影響而反映出一種系統(tǒng)性變化的特征，具有自相關(guān)。,3、自相關(guān)的影響。 由于模型假定隨機(jī)誤差項(xiàng)非自相關(guān)， 現(xiàn) ，則誤差向量的方差協(xié)方差矩陣為： 非對(duì)角線上的元素表示誤差向量的協(xié)方差，非對(duì)角線上的元素不為0，表示誤差項(xiàng)自相關(guān)。,與異方差的影響一樣， t檢驗(yàn)與F檢驗(yàn)可能產(chǎn)生嚴(yán)重的誤導(dǎo)，得出錯(cuò)誤的結(jié)論。,4、自相關(guān)的檢驗(yàn),1）殘差序列圖分析。 在樣本期太短時(shí)無法判斷。,2）DW檢驗(yàn) DW統(tǒng)計(jì)量定義為： 其中T為樣本容量。,由于 依賴于解釋變量，因此DW統(tǒng)計(jì)量與t統(tǒng)計(jì)量及F統(tǒng)計(jì)量的檢驗(yàn)不同

10、，沒有唯一的臨界值可以用來檢驗(yàn)一階自相關(guān)假設(shè)，DW給出上限 與下限 兩個(gè)臨界值。,其中 為 與 相關(guān)系數(shù)的估計(jì),DW檢驗(yàn)： ： ，（ 一階非自相關(guān)）,DW檢驗(yàn)的缺陷： 1）只能檢驗(yàn)殘差的一階自相關(guān)。 2）當(dāng)解釋變量中出現(xiàn)被解釋變量的滯后變量時(shí)，DW不再適用。,解釋變量中出現(xiàn)被解釋變量的滯后變量時(shí)，殘差的自相關(guān)檢驗(yàn),伯克斯-皮爾斯Q檢驗(yàn)。 Q統(tǒng)計(jì)量： 其中：n為樣本容量，m為滯后長(zhǎng)度。,Q統(tǒng)計(jì)量遵循自由度為m的 分布，檢驗(yàn)標(biāo)準(zhǔn)為，當(dāng)Q統(tǒng)計(jì)量大于臨界的值時(shí)，拒絕 全部為0的原假設(shè)，即拒絕殘差非自相關(guān)的原假設(shè)。（或P值小余臨界的p值時(shí)，拒絕殘差非自相關(guān)的原假設(shè)）,5、自相關(guān)的處理。,1）、殘差自相關(guān)

11、的結(jié)構(gòu)已知廣義差分法。 如果殘差一階自相關(guān)： 以一元回歸為例，原回歸為： （1）,則在時(shí)刻t-1有： (2) （1）式減去（2）式乘以 ，有：,或者表示為： 其中： ，上式的回歸為最佳線性、無偏的一致估計(jì)。,2）、殘差自相關(guān)的結(jié)構(gòu)未知差分法。 差分不一定可以消除模型自相關(guān)。,3）、嘗試其他的模型形式。 如增加解釋變量，把被解釋變量的滯后變量當(dāng)作解釋變量。,6、例：自相關(guān)的處理. 中國(guó)宏觀消費(fèi)分析19521993，其中X為國(guó)民收入，y為居民消費(fèi)。,消費(fèi)的年增長(zhǎng)曲線YY：,國(guó)民收入的年增長(zhǎng)曲線XX：,年消費(fèi)率變化曲線：,Estimation Equation: Y = C(1) + C(2)*X,查DW表，在5的顯著性水平上，有 。由于 ，說明模型自相關(guān)。,Estimation Equation: LOG(Y) = C(1) + C(2)*LOG(X),考慮到消費(fèi)不僅僅與當(dāng)期的收入相關(guān)，還與上期的收入相關(guān)， Estimation Equation: Y = C(1) + C(2)*X + C(3)*X(-1),自相關(guān)未消除?？紤]到消費(fèi)不僅僅與收入相關(guān)，還與上期的消費(fèi)有