異方差性的概念類型后果檢驗ppt課件.ppt

在教材P29 32和P64 65 分別對一元和多元線性回歸模型提出了若干基本假設(shè) 只有在滿足這些基本假設(shè)的情況下 應(yīng)用普通最小二乘法才能得到無偏的 有效的參數(shù)估計量 但是 在實際的計量經(jīng)濟學(xué)問題中 完全滿足這些基本假設(shè)的情況并不多見 如果違背了某一項基本假設(shè) 那么應(yīng)用普通最小二乘法估計模型所得參數(shù)估計量就可能不具有某些優(yōu)良特性 這就需要發(fā)展新的方法估計模型 本章正是要討論違背了某一項基本假設(shè)的問題及其估計方法 引言 異方差性Heteroscedasticity 一 異方差性的概念及類型二 異方差性的后果三 異方差性的檢驗四 異方差的修正五 案例 1 什么是異方差 對于模型 i 1 2 n 同方差性假設(shè)為 i 1 2 n 如果出現(xiàn) i 1 2 n 即對于不同的樣本點i 隨機誤差項的方差不再是常數(shù) 則認為出現(xiàn)了異方差性 注意 對于每一個樣本點i 隨機誤差項 i都是隨機變量 服從均值為0的正態(tài)分布 而方差 i2衡量的是隨機誤差項圍繞其均值0的分散程度 所以 所謂異方差性 是指這些服從正態(tài)分布的隨機變量圍繞其均值0的分散程度不同 一 異方差性的概念及類型 異方差性示意圖 或者 也可以說 對于每一個樣本點i 隨機誤差項的方差 i2衡量的是被解釋變量的觀測值Yi圍繞回歸線E Yi 0 1Xi1 kXik的分散程度 而所謂異方差性 是指被解釋變量觀測值的分散程度隨樣本點的不同而不同 龐皓P130 2 異方差的類型 同方差性假定是指 每個 i圍繞其0均值的方差并不隨解釋變量Xi的變化而變化 不論解釋變量的觀測值是大還是小 每個 i的方差保持相同 即 i2 常數(shù) i 1 2 n 在異方差的情況下 i2已不是常數(shù) 它隨Xi的變化而變化 即 i2 f Xi i 1 2 n 異方差一般可以歸結(jié)為三種類型 1 單調(diào)遞增型 i2 f Xi 隨Xi的增大而增大 2 單調(diào)遞減型 i2 f Xi 隨Xi的增大而減小 3 復(fù)雜型 i2 f Xi 隨Xi的變化呈復(fù)雜形式 3 實際經(jīng)濟問題中的異方差性 在該模型中 i的同方差假定往往不符合實際情況 對高收入家庭來說 儲蓄的差異較大 低收入家庭的儲蓄則更有規(guī)律性 如為某一特定目的而儲蓄 差異較小 因此 i的方差往往隨Xi的增加而增加 呈單調(diào)遞增型變化 例4 1 1 在截面資料下研究居民家庭的儲蓄行為Yi 0 1Xi iYi和Xi分別為第i個家庭的儲蓄額和可支配收入 一般情況下 居民收入服從正態(tài)分布 處于中等收入組中的人數(shù)最多 處于兩端收入組中的人數(shù)最少 而人數(shù)多的組平均數(shù)的誤差小 人數(shù)少的組平均數(shù)的誤差大 所以樣本觀測值的觀測誤差隨著解釋變量觀測值的增大而先減后增 例4 1 2 以絕對收入假設(shè)為理論假設(shè) 以分組數(shù)據(jù) 將居民按照收入等距離分成n組 取組平均數(shù)為樣本觀測值 作樣本建立居民消費函數(shù) Ci 0 1Yi i 如果樣本觀測值的觀測誤差構(gòu)成隨機誤差項的主要部分 那么對于不同的樣本點 隨機誤差項的方差隨著解釋變量觀測值的增大而先減后增 U形 出現(xiàn)了異方差性 例4 1 3 以某一行業(yè)的企業(yè)為樣本建立企業(yè)生產(chǎn)函數(shù)模型Yi Ai 1Ki 2Li 3e i產(chǎn)出量為被解釋變量 選擇資本 勞動 技術(shù)等投入要素為解釋變量 那么每個企業(yè)所處的外部環(huán)境對產(chǎn)出量的影響被包含在隨機誤差項中 由于每個企業(yè)所處的外部環(huán)境對產(chǎn)出量的影響程度不同 造成了隨機誤差項的異方差性 這時 隨機誤差項的方差并不隨某一個解釋變量觀測值的變化而呈規(guī)律性變化 為復(fù)雜型的一種 規(guī)律 一般經(jīng)驗告訴人們 對于采用截面數(shù)據(jù)作樣本的計量經(jīng)濟學(xué)問題 由于在不同樣本點 即不同空間 上解釋變量以外的其他因素的差異較大 所以往往存在異方差性 1 參數(shù)估計量非有效 當計量經(jīng)濟學(xué)模型出現(xiàn)異方差性時 其普通最小二乘法參數(shù)估計量仍然具有無偏性 但不具有有效性 而且 在大樣本情況下 參數(shù)估計量仍然不具有漸近有效性 即同方差和無序列相關(guān)條件 因為在有效性證明 見教材P70 71 中利用了 二 異方差性的后果 2 變量的顯著性檢驗失去意義 在變量的顯著性檢驗中 t統(tǒng)計量 j 0 1 2 k 如果出現(xiàn)了異方差性 而仍按同方差時的公式計算t統(tǒng)計量 將使t統(tǒng)計量失真 偏大或偏小 見第三版P110補充說明 從而使t檢驗失效 使某些原本顯著的解釋變量可能無法通過顯著性檢驗 或者使某些原本不顯著的解釋變量可能通過顯著性檢驗 3 模型的預(yù)測失效 一方面 由于上述后果 使得模型不具有良好的統(tǒng)計性質(zhì) 所以 當模型出現(xiàn)異方差性時 Y預(yù)測區(qū)間的建立將發(fā)生困難 它的預(yù)測功能失效 其中 書上這句話有點問題 1 檢驗方法的共同思路 既然異方差性就是相對于不同的解釋變量觀測值 隨機誤差項具有不同的方差 那么 檢驗異方差性 也就是檢驗隨機誤差項的方差與解釋變量觀測值之間的相關(guān)性及其相關(guān)的 形式 各種檢驗方法正是在這個共同思路下發(fā)展起來的 三 異方差性的檢驗 教材P111 問題在于 用什么來表示隨機誤差項的方差 一般的處理方法 2 圖示檢驗法 1 用X Y的散點圖進行判斷 李子奈P108 看是否存在明顯的散點擴大 縮小或復(fù)雜型趨勢 即不在一個固定的帶型域中 隨機誤差項 的方差描述的是 取值的離散程度 而由于被解釋變量Y與隨機誤差項 有相同的方差 所以利用Y與X之間的相關(guān)圖形也可以粗略地看出 的離散程度與X之間是否有相關(guān)關(guān)系 看是否形成一條斜率為零的直線 教材P111 3 戈里瑟 Gleiser 檢驗與帕克 Park 檢驗 戈里瑟檢驗與帕克檢驗的思想 如果存在某一種函數(shù)形式 使得方程顯著成立 則說明原模型存在異方差性 由于f Xj 的具體形式未知 因此需要選擇各種形式進行試驗 4 戈德菲爾德 匡特 Goldfeld Quandt 檢驗 G Q檢驗以F檢驗為基礎(chǔ) 僅適用于樣本容量較大 異方差為單調(diào)遞增或單調(diào)遞減的情況 G Q檢驗的思想 先按某一被認為有可能引起異方差的解釋變量對樣本排序 再將排序后的樣本一分為二 對子樣本 和子樣本 分別進行OLS回歸 然后利用兩個子樣本的殘差平方和之比構(gòu)造F統(tǒng)計量進行異方差檢驗 G Q檢驗的步驟 將n對樣本觀察值 Xi1 Xi2 Xik Yi 按某一被認為有可能引起異方差的解釋變量觀察值Xij的大小排隊 將序列中間的c n 4個觀察值除去 并將剩下的觀察值劃分為較小與較大的容量相同的兩個子樣本 每個子樣本的樣本容量均為 n c 2 檢驗 給定顯著性水平 確定F分布表中相應(yīng)的臨界值F 1 2 若F F 1 2 則拒絕H0 認為存在異方差 反之 則不存在異方差 H0成立 意味著同方差 H1成立 意味著異方差 5 懷特 White 檢驗 G Q檢驗需按某一被認為有可能引起異方差的解釋變量對樣本排序 而且只能檢驗單調(diào)遞增或單調(diào)遞減型異方差 懷特 White 檢驗則不需要排序 且對任何形式的異方差都適用 懷特 White 檢驗的基本思想與步驟 下面 以二元回歸為例 說明懷特檢驗的基本思想與步驟 設(shè)回歸模型為 首先 對該模型做普通最小二乘回歸 記殘差為 然后 以上述殘差的平方為被解釋變量 以原模型中各解釋變量的水平項 平方項 還可以有更高次項 交叉項等各種組合為解釋變量 做如下的輔助回歸 則在同方差性假設(shè)下 也即H0 1 5 0 該輔助回歸方程的可決系數(shù)R2與樣本容量n的乘積漸近地服從自由度 輔助回歸方程中解釋變量個數(shù) 該例 5 的 2分布 懷特 White 檢驗的EViews軟件操作要點 在OLS的方程對象Equation中 選擇View Residualtests WhiteHeteroskedasticity 在選項中 EViews提供了包含交叉項的懷特檢驗 WhiteHeteroskedasticity crossterms 和沒有交叉項的懷特檢驗 WhiteHeteroskedasticity nocrossterms 這樣兩個選擇 軟件輸出結(jié)果 最上方顯示兩個檢驗統(tǒng)計量 F統(tǒng)計量和White統(tǒng)計量nR2 下方則顯示以O(shè)LS的殘差平方為被解釋變量的輔助回歸方程的回歸結(jié)果 以教材P118的例子為例 包含交叉項的懷特檢驗 WhiteHeteroskedasticity crossterms 的輸出結(jié)果為 懷特檢驗的軟件輸出界面 可見 懷特統(tǒng)計量nR2 20 55085 31 0 662931 大于自由度 也即輔助回歸方程中解釋變量的個數(shù) 為5的 2分布臨界值11 07 因此 在5 的顯著性水平下拒絕同方差的原假設(shè) 四 異方差的修正 加權(quán)最小二乘法 weightedleastsquares 異方差穩(wěn)健標準誤法 heteroscedasticity robuststandarderror 1 加權(quán)最小二乘法的基本思想 加權(quán)最小二乘法 WeightedLeastSquares 是對原模型加權(quán) 使之變成一個新的不存在異方差性的模型 然后采用普通最小二乘法估計其參數(shù) 例如 在遞增的異方差下 與較小的Xi對應(yīng)的Yi離回歸線較近 殘差ei較小 而與較大的Xi對應(yīng)的Yi離回歸線較遠 殘差ei較大 為了更可靠地估計總體回歸函數(shù) 我們應(yīng)該給那些緊密圍繞其 總體 均值的觀測值較大的權(quán)數(shù) 而給那些遠離其均值的觀測值較小的權(quán)數(shù) 古扎拉蒂P355 一 加權(quán)最小二乘法 于是 我們可以對較小的殘差平方ei2賦予較大的權(quán)數(shù) 對較大的殘差平方ei2賦予較小的權(quán)數(shù) 加權(quán)最小二乘法就是對加了權(quán)重的殘差平方和實施OLS法 最小 例如 如果在檢驗過程中已經(jīng)知道 2 一個例子 重要 i 1 2 n 在該模型中 存在 即滿足同方差性 這就是加權(quán)最小二乘法 在這里 權(quán)數(shù)為 注意 將這里的權(quán)數(shù)平方之后 才是對殘差平方加權(quán)的權(quán)數(shù) 第三版P114補充 可見 實施加權(quán)最小二乘法的關(guān)鍵是尋找適當?shù)?權(quán) 或者說尋找模型中隨機干擾項的方差與解釋變量間的適當?shù)暮瘮?shù)形式 如果發(fā)現(xiàn) 那么 加權(quán)最小二乘法的 權(quán) 即為 注意 其中的 2完全可以是1 注意 這里的 權(quán) 仍然是指用來乘原模型兩邊的 權(quán) 相當于對原模型的殘差ei加權(quán) 將這里的權(quán)數(shù)平方之后 才是對原模型的殘差平方ei2加權(quán)的權(quán)數(shù) 那么 可以用作為權(quán)數(shù) 去乘原模型的兩邊 得到下面的模型 補充 特別地 如果像教材P111 4 1 4 式那樣 近似地有 該模型滿足同方差性 可以用普通最小二乘法估計 i 1 2 n Eviews軟件中的加權(quán)最小二乘法 WLS 正是這樣設(shè)計的 所以 Eviews軟件中WLS法的 權(quán) 是指對原模型兩邊加權(quán)的 權(quán) 而不是對原模型的殘差平方ei2加權(quán)的權(quán)數(shù) 3 一般情況 只需了解其思想 第三版已刪掉 跳過 對于模型 Y XB N 如果存在 其中 即存在異方差性 Var i 2wi i 1 2 n 補充 設(shè)A為一個實系數(shù)對稱矩陣 如果對任何一個非零實向量X 都使二次型X AX正定 也即大于0 那么A稱為正定矩陣 那么 由于W是一正定矩陣 存在一個可逆矩陣D 使得 顯然 記作 該模型具有同方差性 因為 用D 1左乘原模型Y XB N兩邊 可以得到一個新的模型 這就是原模型的加權(quán)最小二乘估計量 它是無偏 有效的 于是 可以用普通最小二乘法估計新模型 得到參數(shù)估計量 為 這里權(quán)矩陣為D 1 它來自于矩陣W 4 如何得到權(quán)矩陣D 1 從上述推導(dǎo)過程可以看出 D 1來自于原模型的隨機誤差項N的方差 協(xié)方差矩陣Var Cov N 2W 因此仍然可以對原模型首先采用OLS法 得到隨機誤差項的近似估計量 以此構(gòu)造W的估計量 進而得到權(quán)矩陣D 1 即 假定 2 1 這是完全可以的 總結(jié) 加權(quán)最小二乘法的具體步驟 注意 用手工加權(quán)得到WLS法的結(jié)果 即先用GENR命令生成新序列E 殘差的絕對值 及YE 即Y E CE 即1 E XE 即X E 然后用OLS法估計 得到WLS法的結(jié)果 要求能寫出有關(guān)的命令格式 注意 在實際建模過程中 人們通常并不對原模型進行異方差性檢驗 而是直接選擇加權(quán)最小二乘法 尤其是采用截面數(shù)據(jù)作樣本時 如果確實存在異方差 則被有效地消除了 如果不存在異方差 則加權(quán)最小二乘法等價于普通最小二乘法 1 異方差穩(wěn)健標準誤法的基本思想 異方差穩(wěn)健標準誤法 heteroscedasticity robuststandarderror 該方法由懷特 White 于1980年提出 是指先采用普通最小二乘法估計原模型 然后用殘差的平方作為相應(yīng)的隨機誤差項方差的代表 對參數(shù)估計量的方差或標準誤差進行修正 見教材P115 116 不要求 從略 二 異方差穩(wěn)健標準誤法 五 案例 1 補充 某地區(qū)居民儲蓄模型 某地區(qū)31年來居民收入與儲蓄額數(shù)據(jù)表 1 普通最小二乘估計 直接使用OLS法 得到 5 87 18 04 R2 0 9182 2 異方差檢驗 1 圖示檢驗 G Q檢驗 這里沒有按X排序 是因為X是逐年增大的 求兩個子樣本 n1 n2 12 回歸方程的殘差平方和RSS1與RSS2 計算F統(tǒng)計量 F RSS2 RSS1 769899 2 162899 2 4 726 查表在5 的顯著性水平下 第1和第2自由度均為 31 7 2 2 10的F分布臨界值為F0 05 10 10 2 97由于F 4 726 F0 05 10 10 2 97因此 否定兩組子樣本的方差相同的假設(shè) 從而該總體隨機誤差項存在遞增型異方差 Park檢驗 顯然 lnXi前的參數(shù)在統(tǒng)計上是顯著的 表明原模型存在異方差 3 異方差模型的估計 與OLS估計結(jié)果相比較 擬合效果更差 為什么 關(guān)于異方差形式的假定可能存在問題 與OLS估計結(jié)果相比較 擬合效果更好 五 案例 2 補充 中國消費函數(shù)模型 中國消費函數(shù)模型 二元回歸 根據(jù)消費模型的一般形式 選擇消費總額為被解釋變量 國內(nèi)生產(chǎn)總值和前一年的消費總額為解釋變量 變量之間關(guān)系為簡單線性關(guān)系 選取1981年至1996年統(tǒng)計數(shù)據(jù)為樣本觀測值 中國消費數(shù)據(jù)表單位 億元 1 OLS估計結(jié)果 2 WLS估計結(jié)果 注 這里的權(quán)數(shù)E 也可以用別的符號 為OLS估計的殘差項的絕對值的倒數(shù) 3 比較 R2 0 999739 0 999999F 28682 980736 e2 438613 29437t 6 422 04 2 25 2134 122 9D W 1 45 1 81各項統(tǒng)計檢驗指標全面改善 五 案例 3 中國農(nóng)村居民人均消費函數(shù)模型 見第三版教材P116 120例4 1 4 也是一個非常好的案例 僅僅是把第二版的2001年數(shù)據(jù)替換成了2006年的數(shù)據(jù) 主要的EViews軟件輸出結(jié)果如下 全樣本的OLS回歸 軟件操作 createu131datayx1x2 genrlny log y genrlnx1 log x1 genrlnx2 log x2 lslnyclnx1lnx2 懷特檢驗的軟件輸出界面 可見 懷特統(tǒng)計量nR2 20 55085 31 0 662931 大于自由度 也即輔助回歸方程中解釋變量的個數(shù) 為5的 2分布臨界值11 07 因此 在5 的顯著性水平下拒絕同方差的原假設(shè) 在OLS方程對象窗口中 選擇view Residualtest WhiteHeteroskedasticity Eviews提供了包含交叉項的懷特異方差檢驗 WhiteHeteroskedasticity crossterms 和沒有交叉項的懷特異方差檢驗 WhiteHeteroskedasticity nocrossterms 這樣兩個選項 按lnx2排序后 子樣本1的OLS回歸 按lnx2排序的操作 dataT 用于還原 sortlnx2 子樣本1的操作 smpl112lslnyclnx1lnx2 按lnx2排序后 子樣本2的OLS回歸 子樣本2的操作 smpl2031lslnyclnx1lnx2 將數(shù)據(jù)還原 包括樣本區(qū)間還原 數(shù)據(jù)順序還原 再采用WLS法回歸 其中 w 1 abs resid 數(shù)據(jù)還原的操作 smpl131sortT WLS的軟件操作 lslnyclnx1lnx2genrw 1 abs resid 然后 用菜單實現(xiàn)WLS 手工加權(quán)的回歸結(jié)果 其中 E abs resid LNYE LNY E CE 1 E LNX1E LNX1 E LNX2E LNX2 E 軟件操作 smpl131sortTlslnyclnx1lnx2genre abs resid genrlnye lny egenrce 1 egenrlnx1e lnx1 egenrlnx2e lnx2 elslnyecelnx1elnx2e 線性回歸模型的基本假定 見教材P64 65 2 解釋變量Xj是確定性變量 不是隨機變量 在重復(fù)抽樣中取固定值 解釋變量之間不存在嚴格的線性相關(guān)性 無完全多重共線性 3 各個解釋變