計量經濟學20130412

1、第四講 異方差一、 為什么要關注異方差問題？對于模型，同方差假定即：。在實踐中這個假定經常被違背，即出現(xiàn)異方差問題。例一，在上述模型中，如果y代表消費，x代表收入，則給定收入，消費的期望值，而實際消費y將分布在這個期望值左右。對于高收入家庭，由于其可以選擇高消費也可以選擇低消費，因此關于實際消費量的不確定性較大；但對于低收入家庭，由于在消費上選擇余地小，因此關于實際消費量的不確定性也較小。給定收入，我們可用y的方差來衡量消費的不確定性。注意到，而按照前面的分析，隨著收入增加而遞增，因此也是收入的增函數，而不會是一個常數。例二，在上述模型中，如果y代表班級在計量經濟學考試上的平均成績，x代表這門

2、課任課老師的授課時間。按照基本的統(tǒng)計學知識，大班級的平均成績波動應該小于小班級的平均成績波動。在這個例子中，隨著班級規(guī)模的增加而遞減，不會是一個常數。注意到班級規(guī)模在這里并不是模型中的解釋變量。筆記：在例二中，我們不僅要注意到異方差問題，還要注意到解釋變量遺漏問題。一個被遺漏的變量是學生平均能力。學生平均能力與平均成績正相關，當授課時間與平均能力負相關時，則OLS估計平均來看將低估授課時間對平均成績的正向作用。異方差問題是普遍的，尤其對橫截面數據而言。然而如果異方差問題不會導致嚴重后果，那么關注這個問題的意義就不大。異方差問題到底會產生什么樣的后果呢？（一） 理論意義上的后果在證明高斯-馬爾科

3、夫定理時，我們僅僅在證明OLS估計量具有有效性時涉及到了同方差假定，而在證明線性、無偏性并沒有用到該假定，因此異方差并不影響OLS估計量所具有的線性與無偏性這兩個性質（實際上也不影響OLS估計量的一致性，一致性只涉及到高斯-馬爾科夫假定一、二、三），而只影響OLS估計量的有效性。具體來說，當異方差問題存在時，在所有線性無偏估計量中，OLS估計量再也不是最有效的估計量了。換句話說，還有其他線性無偏估計量其估計精度要高于OLS估計量。直覺上如何理解這一點？注意到在進行模型估計時，如果利用的信息越多，則估計精度將越高。異方差本身是信息，如果在模型估計時利用這個信息而不是像OLS估計那樣不考慮異方差信

4、息，則模型估計的有效性將提高。本章后面我們將介紹如何利用異方差信息進行模型估計。（二） 實踐意義上的后果計量軟件包在默認狀態(tài)下總是認為同方差假定成立，進而依據一些常規(guī)公式來計算參數估計的標準誤。例如，在默認狀態(tài)下標準誤的計算公式是，其中是對誤差方差的估計。然而我們知道，在序列無關假定下，有：在同方差假定下，進而有：如果同方差假定不成立，則故試圖以來估計從而達到估計的目的顯然是錯誤的。因此，異方差問題在實踐意義上的后果就是，計量軟件包在默認狀態(tài)下計算出的參數估計量的標準誤是無意義的，進而基于這種標準誤所進行的假設檢驗也是無意義的。筆記：當誤差項具有異方差性時，誤差項的方差隨著腳標i 的變化而發(fā)生

5、變化。如果用去估計誤差方差，這必然是誤導的，因為給定樣本，這個估計量的值是一個常數，其不會隨著腳標i 的變化而發(fā)生變化。 （三） 哪一種后果更值得重視？就統(tǒng)計推斷而言，實踐意義上的后果是致命的，因為基于錯誤標準誤所進行的假設檢驗毫無意義。我們能不能獲得正確的標準誤？在大樣本下，這個問題可以解決，因為White(1980)證明，的一個一致估計量是，我們把稱為White穩(wěn)健標準誤。在大樣本下，我們可以基于White穩(wěn)健標準誤進行統(tǒng)計推斷。筆記：1、在異方差情況下，每一個誤差項可能有不同的方差，而每一個誤差項又只有一個殘差觀測值相對應。僅僅依靠唯一的殘差觀測值是無法對誤差項方差進行一致性估計的。然而

6、我們的目的是估計而不是估計。White(1980)發(fā)現(xiàn)，如果用殘差的平方代替誤差的方差，則是對的一致估計。2、在實際應用中，White穩(wěn)健標準誤往往還進行自由度調整，例如一種調整方式是。 不幸的是，在小樣本下，我們再也不能利用穩(wěn)健標準誤了。那么當出現(xiàn)異方差問題時，小樣本下的統(tǒng)計推斷如何進行？一個解決辦法是利用異方差信息把原模型轉化為同方差模型再進行OLS估計，這一方面提高了估計精度，另一方面也使得統(tǒng)計推斷是正確的。然而，異方差信息往往并不那么精確。例如，在例一中，我們知道是收入的增函數，但我們并不知道具體的函數形式。因此，小樣本情況下異方差問題的解決是非常困難的。就估計精度而言，理論意義上的后

7、果在大樣本下是不重要的。因為OLS估計量是一致估計量，當樣本容量足夠大時，OLS估計仍然會達到很高的精度。理論意義上的后果在小樣本下是重要的。然而我們知道，提高估計精度需要利用異方差信息，而異方差信息往往并不那么精確，從而這給提高估計精度帶來了挑戰(zhàn)?？偠灾?，在大樣本情況下，異方差問題在理論意義和實踐意義上的后果是容易處理的；在小樣本情況下，異方差問題才是真正的挑戰(zhàn)。二、 發(fā)現(xiàn)異方差（一）圖示法圖示法是非正規(guī)的方法。以例一為例，我們或許得到如下的散點圖： 圖一 異方差情況下的散點圖 在圖一中，隨著x的增加，y看起來越來越離散。因此我們把圖一視為異方差存在的證據。筆記：1、縱坐標可以是殘差；如果

8、是多元線性回歸，則橫坐標可以是y的擬合值。2、應該注意的是，如果第一個高斯-馬爾科夫假定被違背，即模型設定有誤，那么也可能出現(xiàn)異方差癥狀。例如，假定在簡單線性回歸模型中y是工資，x是受教育程度。如果受教育程度對工資的影響存在性別差異，則在模型中斜率參數并不是常數。此時如果對工資和受教育程度描圖，則我們可能發(fā)現(xiàn)異方差癥狀。事實上在很多情況下，異方差癥狀被認為是模型錯誤設定的一個表現(xiàn)。如果產生異方差癥狀的原因是模型設定有誤，那么我們首先應該要做的事情是正確設定模型，而不是基于錯誤設定的模型來解決異方差問題。在本講中，當我們考慮異方差問題時，我們假定其他所有的高斯-馬爾科夫假定成立，此時的異方差可以

9、稱為純粹的異方差。而模型設定有誤帶來的異方差癥狀被稱為非純粹的異方差。（二）Breusch-Pagan檢驗該方法假定誤差項的方差是一些變量的線性函數（這些變量可以是解釋變量也可以不是解釋變量），即定義，則上式是一個回歸模型，然而一個問題是誤差項平方作為被解釋變量是不可觀測的。為克服這個問題，我們用殘差的平方來代替誤差的平方，從而得到一個可操作的回歸模型即輔助回歸模型：在上述回歸模型基礎上，我們對原假設進行假設檢驗，如果拒絕原假設，則我們認為存在異方差問題，反之則相反。在檢驗上述原假設時，被利用的統(tǒng)計量是拉格朗日乘數（LM）統(tǒng)計量：在這里，N是樣本容量，是輔助回歸模型的判定系數。當原假設為真時，

10、漸進服從自由度為s的卡方分布。既然提到漸進二字，于是我們知道上述檢驗屬于大樣本檢驗。 對于Breusch-Pagan檢驗，我們或許會問如下一些問題：第一，為什么不直接用F檢驗而是首選LM檢驗呢？這是因為，我們用殘差的平方來代替方差從而得到輔助回歸模型。當原假設為真時，的分布在大樣本情況下與足夠近似，而與F分布的近似卻不夠好。不過，利用F檢驗也是漸進合理的，見Wooldridge(fourth edition，p.275)。第二，為什么漸進服從自由度為s的卡方分布？這是因為：當原假設為真時，近似為零；當樣本容量很大時，近似為。于是 第三，Breusch-Pagan檢驗假定誤差項方差是一些變量的線

11、性函數。這個假定合理嗎？這個假定并不一定合理，然而令人驚訝的是，即使誤差項方差是一些變量的非線性函數，但Breusch-Pagan檢驗仍然有效（Hill,Griffiths and Lim,fourth edition,p.305）。（三）White檢驗Breusch-Pagan檢驗要求我們預先確定這些變量，而有時這是困難的。在White檢驗下，解釋變量的水平項、平方項與交互項被用來代替這些變量。例如，假如我們要檢驗模型：是否存在異方差問題，則我們可以建立如下輔助回歸模型：然后檢驗原假設。我們仍然使用LM統(tǒng)計量，在這。當樣本容量不夠大時，輔助模型中的交互項有時不得不被省略以節(jié)約自由度。不過有文

12、獻指出，若White檢驗沒有出現(xiàn)交叉項，則是純粹的異方差檢驗，若出現(xiàn)了交叉項，則該檢驗既是異方差檢驗又是模型設定偏誤檢驗，見Gujarati（fourth edition，p.414）。另外，為了解決在估計輔助回歸時可能面臨的自由度不足問題，Wooldridge(fourth edition，p.275)建議建立輔助模型：然后再利用LM或者F檢驗來檢驗原假設：。與Breusch-Pagan檢驗相比，在White檢驗中，誤差方差到底是哪些變量的函數這樣的先驗信息是不需要的。這一點是White檢驗的優(yōu)勢所在。然而事物往往具有兩面性，由于White檢驗幾乎沒有利用任何有關異方差的先驗信息，結果導致該

13、檢驗的勢很低，即很容易不拒絕錯誤的原假設。正因如此，當White檢驗表明不拒絕同方差的原假設時，我們應該對該結果保持足夠的警惕。另一方面，當White檢驗表明拒絕同方差的原假設時，我們可以認為這是異方差存在的強烈證據。筆記：1、理解White檢驗的一個簡單方法是，首先假設誤差方差是解釋變量的一個連續(xù)可微函數，然而函數形式未知。然后對這個函數進行二階泰勒展開，則該函數將被近似表達為解釋變量、解釋變量平方及其交叉項的線性函數。2、White檢驗法是普適的。普適的方法往往也是粗糙的。3、一個高度近視的人沒有發(fā)現(xiàn)一只小螞蟻是非?？赡艿?，然而，如果他竟然也發(fā)現(xiàn)了一只螞蟻，那么那只螞蟻很可能還不小。（四）

14、Goldfeld-Quandt檢驗情景一：樣本可以分割為兩個子樣本。在每一個子樣本中，誤差項是同方差的，但不同子樣本所對應的誤差項方差可能是不同的。在此種情景下，首先建立原假設：兩個子樣本所對應的誤差項方差相同，然后構建F統(tǒng)計量：在這里與分別是利用子樣本1和子樣本2進行回歸得到的殘差平方和；與分別是利用子樣本1和子樣本2的樣本容量；是同方差情況下誤差項的方差。當經典線性模型假定成立時，有：在顯著水平a下，如果計算的F值大于Fa/2或者小于F1-a/2，則拒絕原假設。筆記：1、當誤差項不服從正態(tài)分布或者誤差項序列相關時，與并不服從卡方分布，從而所構建的F統(tǒng)計量并不服從F分布。因此，在利用Gold

15、feld-Quandt檢驗法之前，誤差項是否服從正態(tài)分布和誤差項是否序列無關應該先檢驗，如果誤差項不服從正態(tài)分布或者誤差項序列相關，則Goldfeld-Quandt檢驗無效。對于大樣本而言，誤差項是否服從正態(tài)分布并不重要，但誤差項仍需序列無關。事實上Breusch-Pagan檢驗與White檢驗也需誤差項序列無關假設成立（White穩(wěn)健標準誤的使用也需這個假設）。因此嚴格說來，誤差項序列相關應該先于異方差檢驗進行。只有當序列相關問題得到解決后，才能進行White檢驗。然而在實踐中，對于隨機抽樣的橫截面數據，序列相關問題在理論上是不存在的，此時我們主要關注異方差問題。但對于時間序列數據，序列相關

16、問題就值得重視了。不過對于平穩(wěn)時間序列，異方差問題在理論上是不存在的（參見本講義第五講）。2、在原假設為真時，與都是對的無偏、一致估計，故兩者相差應該不大，因此此時F與1近似。這也解釋了為何在這里的F檢驗是一個雙尾檢驗。3、在構建F統(tǒng)計量時，一些人習慣先比較與的大小，然后把兩者中較大的一個作為分子，較小的一個作為分母。在顯著水平下，注意此時的拒絕域是而不是。情景二：誤差方差可能是某個變量Z的函數。Goldfeld-Quandt檢驗的步驟是：1、對N個觀測值按z升序排列，并拋棄中間的N-2N*個觀測值，形成兩個容量都為N*的子樣本；2、就兩個子樣本分別進行回歸，記RSS1、RSS2分別為兩次回歸

17、的殘差平方和。3、計算RSS2/RSS1。在同方差的原假設下有：在顯著水平a下，如果計算的F值大于Fa/2或者小于F1-a/2，則拒絕原假設。筆記：1、為了提高檢驗的勢，即降低不拒絕錯誤原假設的概率，中間被拋棄的觀測值數目約為總樣本容量的3/8，以使如果存在異方差，則RSS1與RSS2的差異顯得更明顯。2、如果我們認為誤差方差可能是某個變量Z的增函數，則上述檢驗就修正為單尾檢驗。在顯著水平a下，如果計算的F值大于Fa則拒絕原假設。三、 利用異方差信息提高估計精度情景一：異方差的函數形式已知對于線性模型，假定異方差形式已知：，則原模型可轉化為：現(xiàn)在，因此，轉換后的模型滿足同方差假定，于是得到所謂

18、的加權最小二乘估計量（WLS）為什么稱為WLS?對轉化后的模型利用OLS，即求：也即由于，因此上式不過是使加權殘差的平方和最小。不難發(fā)現(xiàn)，越大，則相應的權重越小。WLS是廣義最小二乘法（GLS）的一個特例。關于GLS可參見第五講附錄。筆記：關于WLS的直覺。是我們所關注的總體回歸函數，然而我們無法確定它，因為它包含了未知的真實參數。我們的任務是，利用觀測值擬合一條直線以近似總體回歸函數。假設與對應的誤差項其方差很大，則很可能偏離較遠。從而在使殘差平方和最小的過程中，點很可能造成樣本回歸直線與總體回歸函數相去甚遠。為了降低這種可能性，一個簡單的辦法是，在樣本中刪除觀測值。然而，這種辦法并不是好辦法，因為平均來看，將落在總體回歸函數上（這也解釋了異方差為何不影響估計量的無偏性）。換句話說，還是具有一定的信息價值，而刪除它意味著我們未充分利用信息。假設與對應的誤差項其方差較小，則與相比較，在估計總體