模型設(shè)定誤差

1、整理課件第三部分 實(shí)踐中的回歸分析一、一、引言：放寬經(jīng)典模型的假設(shè)引言：放寬經(jīng)典模型的假設(shè)二、二、模型設(shè)定誤差模型設(shè)定誤差三、多重共線性三、多重共線性四、異方差性四、異方差性五、序列相關(guān)性五、序列相關(guān)性2022-3-1整理課件2 前面討論了滿足經(jīng)濟(jì)假設(shè)的回歸模型，但是大多數(shù)前面討論了滿足經(jīng)濟(jì)假設(shè)的回歸模型，但是大多數(shù)經(jīng)濟(jì)模型是很難嚴(yán)格滿足這些經(jīng)典假設(shè)的。這就極大地經(jīng)濟(jì)模型是很難嚴(yán)格滿足這些經(jīng)典假設(shè)的。這就極大地限制了經(jīng)典回歸分析的應(yīng)用范圍。因此，我們有必要限制了經(jīng)典回歸分析的應(yīng)用范圍。因此，我們有必要研究在放寬這些經(jīng)典假設(shè)的條件下，是否有可能得到回研究在放寬這些經(jīng)典假設(shè)的條件下，是否有可能得到

2、回歸系數(shù)較好的估計(jì)值？歸系數(shù)較好的估計(jì)值？如果有可能如果有可能，其方法是什么？，其方法是什么？2022-3-1整理課件3o 關(guān)于模型的假定關(guān)于模型的假定1 1回歸模型對(duì)參數(shù)而言是線性的回歸模型對(duì)參數(shù)而言是線性的2 2模型是正確設(shè)定的模型是正確設(shè)定的o 關(guān)于解釋變量的假定關(guān)于解釋變量的假定3 3解釋變量解釋變量X是確定性變量是確定性變量4 4若若X是隨機(jī)的，則誤差項(xiàng)與是隨機(jī)的，則誤差項(xiàng)與X不相關(guān)不相關(guān)5 5解釋變量的取值有足夠變異解釋變量的取值有足夠變異6 6解釋變量之間不存在完全的線性關(guān)系解釋變量之間不存在完全的線性關(guān)系o 關(guān)于誤差項(xiàng)的假定關(guān)于誤差項(xiàng)的假定7 7對(duì)于給定的對(duì)于給定的X，誤差項(xiàng)均

3、值為，誤差項(xiàng)均值為0 08 8對(duì)于給定的對(duì)于給定的X，誤差項(xiàng)方差相等，誤差項(xiàng)方差相等9 9對(duì)于給定的對(duì)于給定的X，誤差項(xiàng)之間不存在序列相關(guān)，誤差項(xiàng)之間不存在序列相關(guān)1010誤差項(xiàng)服從正態(tài)分布誤差項(xiàng)服從正態(tài)分布經(jīng)典正態(tài)線性回歸模型（經(jīng)典正態(tài)線性回歸模型（CNLRM）的假定）的假定一、引言：放寬經(jīng)典模型的假設(shè)一、引言：放寬經(jīng)典模型的假設(shè)2022-3-1整理課件4放寬的假定放寬的假定相應(yīng)的問(wèn)題相應(yīng)的問(wèn)題假定假定1、2模型設(shè)定問(wèn)題模型設(shè)定問(wèn)題假定假定3、4隨機(jī)解釋變量隨機(jī)解釋變量假定假定5過(guò)度決定（微數(shù)缺測(cè)性）過(guò)度決定（微數(shù)缺測(cè)性）假定假定6多重共線性多重共線性假定假定7誤差項(xiàng)均值非零誤差項(xiàng)均值非零假

4、定假定8異方差性異方差性假定假定9序列相關(guān)序列相關(guān)假定假定10誤差項(xiàng)非正態(tài)分布誤差項(xiàng)非正態(tài)分布u假定假定3和和4在聯(lián)立在聯(lián)立方程模型中討論方程模型中討論u對(duì)假定對(duì)假定5我們做簡(jiǎn)我們做簡(jiǎn)單討論單討論u假定假定7影響參數(shù)估影響參數(shù)估計(jì)的無(wú)偏性，暫不計(jì)的無(wú)偏性，暫不討論討論u假定假定10對(duì)于大樣對(duì)于大樣本數(shù)據(jù)不是必需的本數(shù)據(jù)不是必需的假定。假定。u本講主要考慮放本講主要考慮放寬了其余假定后面寬了其余假定后面臨的問(wèn)題臨的問(wèn)題2022-3-1整理課件5微數(shù)缺測(cè)性微數(shù)缺測(cè)性o 從理論上講，樣本容量從理論上講，樣本容量n和解釋變量數(shù)目和解釋變量數(shù)目k必須滿足必須滿足nk+2，才能進(jìn)行才能進(jìn)行OLS估計(jì)和假設(shè)

5、檢驗(yàn)。但事實(shí)上，即便估計(jì)和假設(shè)檢驗(yàn)。但事實(shí)上，即便n滿足上滿足上述條件，但如果樣本很小，那么雖然能夠進(jìn)行估計(jì)和檢驗(yàn)，述條件，但如果樣本很小，那么雖然能夠進(jìn)行估計(jì)和檢驗(yàn)，也很難通過(guò)也很難通過(guò)t 檢驗(yàn)。檢驗(yàn)。221()()()()1()jjjjjjjjVarSEVarTSSRXTSSVar ；如如果果樣樣本本容容量量越越小小，則則的的變變異異性性就就越越小小，從從而而就就越越小小，即即越越大大。整理課件 什么是設(shè)定誤差什么是設(shè)定誤差 設(shè)定誤差的影響設(shè)定誤差的影響 設(shè)定誤差的診斷和處理設(shè)定誤差的診斷和處理 測(cè)量誤差測(cè)量誤差 二、模型設(shè)定誤差二、模型設(shè)定誤差2022-3-1整理課件7好模型的標(biāo)準(zhǔn)好模型

6、的標(biāo)準(zhǔn)1、簡(jiǎn)約性（、簡(jiǎn)約性（parsimony）一定程度的抽象或簡(jiǎn)化是不可避免的，簡(jiǎn)單優(yōu)于復(fù)雜。一定程度的抽象或簡(jiǎn)化是不可避免的，簡(jiǎn)單優(yōu)于復(fù)雜。2、可識(shí)別性（、可識(shí)別性（identifiability）對(duì)于給定一組數(shù)據(jù)，每個(gè)參數(shù)只能有一個(gè)估計(jì)值。對(duì)于給定一組數(shù)據(jù)，每個(gè)參數(shù)只能有一個(gè)估計(jì)值。1.什么是設(shè)定誤差什么是設(shè)定誤差（specification error）o 經(jīng)典正態(tài)線性模型假定模型的設(shè)定是正確的，但一般情況經(jīng)典正態(tài)線性模型假定模型的設(shè)定是正確的，但一般情況下建立的模型很可能是不正確的，這種情況稱為設(shè)定誤差。下建立的模型很可能是不正確的，這種情況稱為設(shè)定誤差。2022-3-1整理課件85

7、、預(yù)測(cè)能力（、預(yù)測(cè)能力（predictive power）4、理論一致性（、理論一致性（theoretical consistency） 無(wú)論模型的擬合優(yōu)度有多高，若模型中存在一個(gè)和多個(gè)系數(shù)無(wú)論模型的擬合優(yōu)度有多高，若模型中存在一個(gè)和多個(gè)系數(shù)的符號(hào)有誤，就不能稱為一個(gè)好模型。的符號(hào)有誤，就不能稱為一個(gè)好模型。 弗里德曼說(shuō)：弗里德曼說(shuō)：對(duì)模型有效性的唯一檢驗(yàn)就是將預(yù)測(cè)值對(duì)模型有效性的唯一檢驗(yàn)就是將預(yù)測(cè)值與經(jīng)驗(yàn)值相比較。與經(jīng)驗(yàn)值相比較。3、擬和優(yōu)度（、擬和優(yōu)度（goodness of fit） 回歸分析的回歸分析的 基本思想是用模型中的解釋變量來(lái)盡可能基本思想是用模型中的解釋變量來(lái)盡可能的去解釋被

8、解釋變量。校正后擬合優(yōu)度越高，模型越好。的去解釋被解釋變量。校正后擬合優(yōu)度越高，模型越好。2022-3-1整理課件9 如：如：1968-1987年美國(guó)居民對(duì)進(jìn)口商品的消費(fèi)支出（年美國(guó)居民對(duì)進(jìn)口商品的消費(fèi)支出（IMPORT）與可支配收入（與可支配收入（PDI）的關(guān)系）的關(guān)系ttttttttttttttttuTPDIIMPORTcuTTPDIIMPORTbuPDIIMPORTauTPDIIMPORT 2102321010210lnln. 錯(cuò)錯(cuò)誤誤的的函函數(shù)數(shù)形形式式：包包含含無(wú)無(wú)關(guān)關(guān)變變量量：遺遺漏漏相相關(guān)關(guān)變變量量：設(shè)設(shè)定定誤誤差差：那那么么以以下下幾幾種種情情況況屬屬于于假假若若正正確確的的模

9、模型型為為：（1）遺漏相關(guān)變量遺漏相關(guān)變量（2）包含無(wú)關(guān)變量包含無(wú)關(guān)變量（3）采用錯(cuò)誤函數(shù)形式采用錯(cuò)誤函數(shù)形式 （4）度量誤差度量誤差常見(jiàn)設(shè)定誤差的類型常見(jiàn)設(shè)定誤差的類型2022-3-1整理課件102.設(shè)定誤差的影響設(shè)定誤差的影響遺漏相關(guān)變量：回歸系數(shù)的遺漏相關(guān)變量：回歸系數(shù)的OLS估計(jì)量可能是有偏的、非估計(jì)量可能是有偏的、非一致的；系數(shù)的方差估計(jì)也是有偏的一致的；系數(shù)的方差估計(jì)也是有偏的包含無(wú)關(guān)變量：回歸系數(shù)的包含無(wú)關(guān)變量：回歸系數(shù)的OLS估計(jì)量是無(wú)偏的，方差估估計(jì)量是無(wú)偏的，方差估計(jì)也是無(wú)偏的，但不是最小方差，因而計(jì)也是無(wú)偏的，但不是最小方差，因而OLS估計(jì)量不是有估計(jì)量不是有效的效的錯(cuò)誤

10、的函數(shù)形式：回歸系數(shù)的錯(cuò)誤的函數(shù)形式：回歸系數(shù)的OLS估計(jì)量可能是有偏的估計(jì)量可能是有偏的 一般來(lái)說(shuō)，遺漏相關(guān)變量的后果要嚴(yán)重一些，因?yàn)樗话銇?lái)說(shuō)，遺漏相關(guān)變量的后果要嚴(yán)重一些，因?yàn)樗鼡p失了無(wú)偏性。特別是當(dāng)樣本比較大時(shí)，包含不相關(guān)變損失了無(wú)偏性。特別是當(dāng)樣本比較大時(shí)，包含不相關(guān)變量帶來(lái)的自由度減少不太嚴(yán)重，因而包含不相關(guān)變量的量帶來(lái)的自由度減少不太嚴(yán)重，因而包含不相關(guān)變量的影響要小一些。影響要小一些。2022-3-1整理課件11遺漏相關(guān)變量的影響遺漏相關(guān)變量的影響證明見(jiàn)古扎拉蒂（證明見(jiàn)古扎拉蒂（1995）或平狄克等（）或平狄克等（1998） 2112222211121220021211110)

11、()2()()var()var()()()(XXnXXEXbXEbEvXYiiiii 。可以證明：?？梢宰C明：如果模型設(shè)定為：如果模型設(shè)定為：iiiiuXXY 22110 對(duì)對(duì)于于的的實(shí)實(shí)際際方方差差肯肯定定高高估估了了可可能能是是有有偏偏的的和和可可見(jiàn)見(jiàn)：系系數(shù)數(shù)。進(jìn)進(jìn)行行回回歸歸后后得得到到的的斜斜率率對(duì)對(duì)是是其其中中，11101221)var()2()1( EXXb還有：還有：.)3(10也也是是不不一一致致的的和和 2022-3-1整理課件123.設(shè)定誤差的診斷和處理o 根據(jù)設(shè)定好的模型進(jìn)行根據(jù)設(shè)定好的模型進(jìn)行OLS估計(jì)，對(duì)結(jié)果進(jìn)行判斷估計(jì)，對(duì)結(jié)果進(jìn)行判斷殘差圖殘差圖R2和調(diào)整的和調(diào)整

12、的R2與預(yù)期相比，系數(shù)估計(jì)值的符號(hào)與預(yù)期相比，系數(shù)估計(jì)值的符號(hào)回歸系數(shù)的回歸系數(shù)的t值值德賓德賓-沃森沃森d統(tǒng)計(jì)量統(tǒng)計(jì)量遺漏相關(guān)變量和采用錯(cuò)誤的函數(shù)形式遺漏相關(guān)變量和采用錯(cuò)誤的函數(shù)形式2022-3-1整理課件13a.殘差圖示法殘差圖示法2022-3-1整理課件14 殘差序列變化圖殘差序列變化圖（a）趨勢(shì)變化）趨勢(shì)變化 ：模型設(shè)定時(shí)可能遺漏模型設(shè)定時(shí)可能遺漏了一隨著時(shí)間的推移了一隨著時(shí)間的推移而持續(xù)上升的變量而持續(xù)上升的變量 （b）循環(huán)變化：）循環(huán)變化：模模型設(shè)定時(shí)可能遺漏了一型設(shè)定時(shí)可能遺漏了一隨著時(shí)間的推移而呈現(xiàn)隨著時(shí)間的推移而呈現(xiàn)循環(huán)變化的變量循環(huán)變化的變量 2022-3-1整理課件15

13、模型函數(shù)形式設(shè)定偏誤時(shí)殘差序列呈現(xiàn)正負(fù)模型函數(shù)形式設(shè)定偏誤時(shí)殘差序列呈現(xiàn)正負(fù)交替變化交替變化 圖示：圖示：一元回歸模型中，真實(shí)模型呈冪函數(shù)形式，但一元回歸模型中，真實(shí)模型呈冪函數(shù)形式，但卻選取了線性函數(shù)進(jìn)行回歸。卻選取了線性函數(shù)進(jìn)行回歸。 2022-3-1整理課件16 如果如果R2較低，或者系數(shù)估計(jì)值的符號(hào)與預(yù)期相反，較低，或者系數(shù)估計(jì)值的符號(hào)與預(yù)期相反，或者有很多或者有很多t值不顯著，或者值不顯著，或者d統(tǒng)計(jì)量偏小。就有可能是因統(tǒng)計(jì)量偏小。就有可能是因?yàn)檫z漏了某個(gè)相關(guān)變量，或者采用了錯(cuò)誤函數(shù)形式。為遺漏了某個(gè)相關(guān)變量，或者采用了錯(cuò)誤函數(shù)形式。 特別是，特別是，d統(tǒng)計(jì)量偏小很可能不是因?yàn)樾蛄邢?/p>

14、關(guān)，而統(tǒng)計(jì)量偏小很可能不是因?yàn)樾蛄邢嚓P(guān)，而是因?yàn)檫z漏了某個(gè)相關(guān)變量。因此，如果加入某些變量后是因?yàn)檫z漏了某個(gè)相關(guān)變量。因此，如果加入某些變量后 d統(tǒng)計(jì)量接近統(tǒng)計(jì)量接近2，那么就應(yīng)該把這些變量包含在模型中。，那么就應(yīng)該把這些變量包含在模型中。其他：其他：2022-3-1整理課件17例題例題 美國(guó)居民對(duì)進(jìn)口商品的消費(fèi)支出與可支配收入的關(guān)系美國(guó)居民對(duì)進(jìn)口商品的消費(fèi)支出與可支配收入的關(guān)系098. 2, 3,20363. 12,20595. 0, 1,202321021010 dknuTTPDIIMPORTdknuTPDIIMPORTdknuPDIIMPORTtttttttttttt 模模型型三三：，模

15、模型型二二：模模型型一一：2022-3-1整理課件18o 如果不知道某個(gè)變量是否應(yīng)包含在模型中，可將該變量加如果不知道某個(gè)變量是否應(yīng)包含在模型中，可將該變量加入模型進(jìn)行回歸并作入模型進(jìn)行回歸并作t 檢驗(yàn)，如果不顯著，該變量很可能是檢驗(yàn)，如果不顯著，該變量很可能是多余的。多余的。o 如果不知道某些變量是否應(yīng)包含在模型中，可將該變量加如果不知道某些變量是否應(yīng)包含在模型中，可將該變量加入模型進(jìn)行回歸，并對(duì)這些變量的系數(shù)做聯(lián)合入模型進(jìn)行回歸，并對(duì)這些變量的系數(shù)做聯(lián)合F檢驗(yàn)（對(duì)于檢驗(yàn)（對(duì)于線性約束的檢驗(yàn)），如果不顯著，這些變量很可能是多余線性約束的檢驗(yàn)），如果不顯著，這些變量很可能是多余的。的。包含無(wú)關(guān)

16、變量包含無(wú)關(guān)變量注意：如果根據(jù)理論分析，某些變量必須包括在模型中，注意：如果根據(jù)理論分析，某些變量必須包括在模型中，那么即便這些變量的回歸系數(shù)不顯著，也應(yīng)該把他們保那么即便這些變量的回歸系數(shù)不顯著，也應(yīng)該把他們保留在模型中。留在模型中。2022-3-1整理課件19一般情況下設(shè)定誤差的檢驗(yàn)（一般情況下設(shè)定誤差的檢驗(yàn)（RESET）o 回歸設(shè)定誤差檢驗(yàn)（回歸設(shè)定誤差檢驗(yàn)（regression specification error test） 更準(zhǔn)確更常用的判定方法是拉姆齊更準(zhǔn)確更常用的判定方法是拉姆齊(Ramsey)于于1969年提出年提出的所謂的所謂RESET 檢驗(yàn)檢驗(yàn)（regression e

17、rror specification test）。）?；舅枷耄夯舅枷耄?如果事先知道遺漏了哪個(gè)變量，只需將此變量引入模型，如果事先知道遺漏了哪個(gè)變量，只需將此變量引入模型，估計(jì)并檢驗(yàn)其參數(shù)是否顯著不為零即可；估計(jì)并檢驗(yàn)其參數(shù)是否顯著不為零即可； 問(wèn)題是不知道遺漏了哪個(gè)變量，需尋找一個(gè)替代變量問(wèn)題是不知道遺漏了哪個(gè)變量，需尋找一個(gè)替代變量Z，來(lái)進(jìn)行上述檢驗(yàn)。來(lái)進(jìn)行上述檢驗(yàn)。2022-3-1整理課件20在在設(shè)設(shè)定定誤誤差差可可以以拒拒絕絕原原假假設(shè)設(shè)，即即存存如如果果通通過(guò)過(guò)假假設(shè)設(shè)檢檢驗(yàn)驗(yàn)，則則.d)1(110ikikiiuXXY 對(duì)于對(duì)于 iYa方方法法估估計(jì)計(jì)出出每每個(gè)個(gè)用用OLS.)2

18、(.3221110iikikkikiivYYXXYOLSb 回回歸歸做做以以下下模模型型的的的的線線性性約約束束檢檢驗(yàn)驗(yàn)做做為為受受約約束束的的回回歸歸方方程程，為為不不受受約約束束的的回回歸歸方方程程以以0)1()2(.21 kkc RESET檢驗(yàn)中，采用所設(shè)定模型中被解釋變量檢驗(yàn)中，采用所設(shè)定模型中被解釋變量Y的估計(jì)的估計(jì)值值的若干次冪的若干次冪來(lái)充當(dāng)該來(lái)充當(dāng)該“替代替代”變量。變量。 2022-3-1整理課件21o Eviews等計(jì)量經(jīng)濟(jì)學(xué)軟件會(huì)給出每個(gè)回歸方程的等計(jì)量經(jīng)濟(jì)學(xué)軟件會(huì)給出每個(gè)回歸方程的Ramsey RESET統(tǒng)計(jì)量，從而判斷是否存在設(shè)定誤差統(tǒng)計(jì)量，從而判斷是否存在設(shè)定誤差o

19、 通過(guò)通過(guò)RESET可以判斷是否存在設(shè)定誤差，但無(wú)法得知正確的可以判斷是否存在設(shè)定誤差，但無(wú)法得知正確的模型應(yīng)該如何設(shè)定模型應(yīng)該如何設(shè)定2022-3-1整理課件22判斷回歸模型預(yù)測(cè)效果的指標(biāo)判斷回歸模型預(yù)測(cè)效果的指標(biāo)o 如果要對(duì)兩個(gè)回歸模型的預(yù)測(cè)效果做出比較，不能對(duì)如果要對(duì)兩個(gè)回歸模型的預(yù)測(cè)效果做出比較，不能對(duì)R2進(jìn)行進(jìn)行比較比較o Eviews等計(jì)量經(jīng)濟(jì)學(xué)軟件會(huì)給出每個(gè)回歸方程的赤池信息準(zhǔn)等計(jì)量經(jīng)濟(jì)學(xué)軟件會(huì)給出每個(gè)回歸方程的赤池信息準(zhǔn)則則AIC（Akaike information criterion）和施瓦茲信息準(zhǔn)則）和施瓦茲信息準(zhǔn)則SC（Schwarz criterion），這兩個(gè)指標(biāo)越低的回歸方程預(yù)測(cè)），這兩個(gè)指標(biāo)越低的回歸方程預(yù)測(cè)