計量經濟學4多元回歸分析推斷

1、第4章 多元回歸分析：推斷4.1 OLS估計量的抽樣分布4.2 檢驗對單個總體參數(shù)的假設：t檢驗4.3 置信區(qū)間4.4 檢驗關于參數(shù)的一個線性組合的假設4.5 對多個線性約束的檢驗：F檢驗4.6 報告回歸結果1 回歸分析是要通過樣本所估計的參數(shù)來代替總體的真實參數(shù)，或者說是用樣本回歸線代替總體回歸線。 盡管從統(tǒng)計性質上已知，如果有足夠多的重復抽樣，參數(shù)的估計值的期望（均值）就等于其總體的參數(shù)真值，但在一次抽樣中，估計值不一定就等于該真值。 那么，在一次抽樣中，參數(shù)的估計值與真值的差異有多大，是否顯著，這就需要進一步進行統(tǒng)計檢驗。 主要包括擬合優(yōu)度檢驗、變量的顯著性檢驗及參數(shù)的區(qū)間估計。24.1

2、 OLS估計量的抽樣分布已經了解了OLS估計量的期望值和方差有助描述OLS估計量的精密度要進行統(tǒng)計推斷，還需要知道估計量的抽樣分布34.1.1 正態(tài)性假定 樣本中自變量的值既定，因而OLS估計量的抽樣分布取決于誤差分布假定MLR.6 正態(tài)性 總體誤差u獨立于解釋變量x1，x2，xk，而且服從均值為零，方差為s2的正態(tài)分布：44.1.2 經典線性模型假定高斯馬爾科夫假定與正態(tài)分布假定一起被稱為經典線性模型假定對參數(shù)而言為線性；隨機抽樣性；條件均值為0；不存在完全共線性；同方差性經典線性模型總結經典線性模型假定的一種簡潔方法：5在實際應用中，誤差不一定具有正態(tài)性 例子：考慮勞動力市場上，工資與教育

3、、工作經歷、在現(xiàn)任工作的任職年限的關系工資不可能低于0 ，何況有最低工資法案不具有正態(tài)分布對變量做一個變換，比如log一般來講，相對于很大的樣本容量來講，誤差的非正態(tài)性算不上一個嚴重的問題目前，我們姑且認可正態(tài)性假定。64.1.3 定理定理4.1 正態(tài)抽樣分布 在經典線性假定下，給定自變量的樣本值，有其中，SSTj為xj的總樣本變異因此，7證明：（僅證明1）相互獨立的正太隨機變量的線性組合依然服從正態(tài)分布8注意： 的任何線性組合也都是正態(tài)分布的。 中的任何一個子集也都具有聯(lián)合正態(tài)分布。94.2 檢驗對單個總體參數(shù)的假設：t檢驗對總體模型中的某個參數(shù)的假設進行檢驗 總體模型：研究如何檢驗那些有關

4、某個特定的bj的假設。是總體未知的特征，而且永遠不會確定的知道它們。但可以做出假設，然后通過統(tǒng)計推斷來檢驗假設假設它滿足經典線性模型假定104.2.1 定理及概念定理 4.2 標準化估計量的t分布 在經典線性模型假定下，有式中，k+1為總體模型中未知參數(shù)的個數(shù)。11證明：正態(tài)分布：YN(,2)標準正態(tài)分布：Z=（Y-）/N(0,1)2分布：X=Zi2n2t分布： tnF分布： Fk1，k212 所謂假設檢驗，就是事先對總體參數(shù)或總體分布形式作出一個假設，然后利用樣本信息來判斷原假設是否合理，即判斷樣本信息與原假設是否有顯著差異，從而決定是否接受或否定原假設。 假設檢驗采用的邏輯推理方法是反證法

5、。 先假定原假設正確，然后根據(jù)樣本信息，觀察由此假設而導致的結果是否合理，從而判斷是否接受原假設。 判斷結果合理與否，是基于“小概率事件不易發(fā)生”這一原理的。13興趣所在。又叫原假設，零假設虛擬假設：意味著控制了其他自變量后，xj對y沒有任何局部效應?；仡櫧y(tǒng)計學中給出的正態(tài)總體的均值的假設檢驗t統(tǒng)計量（或t比率）軟件會給出14備擇假設并不是不關心bj0的情形只是基于經濟理論，對于該研究，排除了bj-1.65不能拒絕H0實際上在15%的顯著性水平上，c=-1.04-0.91也不能拒絕虛擬假設22變化函數(shù)形式：自變量取logt /2 tt /2是小概率事件，如果該事件在一次抽樣中就出現(xiàn)，說明假設H

6、0值得懷疑，應當拒絕H028檢驗步驟（1）計算 | t |（2）查表求臨界值 t2(n-k-1)（3）比較，下結論如果 | t | t2 ，則接受H0，認為在顯著性水平為的意義下， j 不顯著；如果| t | t2 ，則拒絕 H0，認為在顯著性水平為的意義下， j 顯著。294.2.4 檢驗bj的其它假設有時，也檢驗參數(shù)是否等于某個給定的常數(shù)最常見的假設那么相應的t統(tǒng)計量就是：t=(估計值-假設值)/標準誤30Example：住房價格和空氣污染506個社區(qū)組成的樣本，估計一個聯(lián)系社區(qū)中平均住房價格(price)與各種社區(qū)特征的模型：nox表示空氣中氧化亞氮的含量，以每區(qū)的百萬分子數(shù)度量；dis

7、t表示該社區(qū)相距五個商業(yè)中心的加權距離，以英里為單位；rooms表示社區(qū)平均每套住房的房間數(shù)；stratio為該社區(qū)學校的平均學生教師比?？傮w模型為：31t 0稱為p 值（pvalue ）通常的計量經濟學軟件都可自動計算出p 值34P值檢驗法原理bj0-t2t222接受H0拒絕H0拒絕H0t0p2p2如果p ，則p/2 /2， t0落入接受域，應接受H0如果p ，則p/2/2， t0落入拒絕域，應拒絕H00bj-t2t222接受H0拒絕H0拒絕H0t0p2p235P值檢驗法準則當P 值小于顯著性水平時，系數(shù)在顯著性水平下是顯著的當P 值大于顯著性水平時，系數(shù)在顯著性水平下是不顯著的。36P值檢

8、驗法的優(yōu)點在使用上更簡單,不用查臨界值表不將 固定在某個武斷的水平上是一個更可取的辦法，最好是讓使用者自己去決定在給定的p-value，到底是否拒絕零假設。37例子：t=1.85，df=40，對于雙側對立假設所得到的p值-1. 85面積=0.035901. 85面積=0.0359可以在7.18%的顯著性水平上拒絕H038一旦p值計算出來，在任何顯著性水平(a)上都能進行檢驗： p a，拒絕虛擬假設；否則不能拒絕回歸軟件包都會給出雙尾檢驗的p值。如果求單側檢驗的p值，只需將雙尾檢驗的p值除以2。394.2.6 對經典假設檢驗用語的提醒當H0 未被拒絕時，我們說“在x%的顯著水平上不能拒絕H0”，

9、而不是說“在x%的顯著水平上接受了H0”再次考慮住房價格與空氣污染的例子。t=0.393t=-0.462很顯然，兩個虛擬假設不可能同時接受5%的顯著性水平，c=1.96404.2.7 經濟或實際顯著性與統(tǒng)計顯著性前面強調的是統(tǒng)計顯著性：與t統(tǒng)計量相關經濟顯著性或實際顯著性：系數(shù)估計值的大小及符號過多的強調統(tǒng)計顯著性，即使一個變量的估計效應不太大，由于有很小的標準誤，也認為它在解釋y時很重要導致錯誤的結論要么它很大要么它很小41Example： 401k養(yǎng)老金計劃的參與率企業(yè)貢獻率、工人年齡、企業(yè)規(guī)模對養(yǎng)老金計劃參與率的影響其t統(tǒng)計量的絕對值為3.25，雙尾檢驗的P值為0.001在相當小的顯著性

10、水平上都是統(tǒng)計顯著的實際意義呢？在處理大樣本時，除了看t統(tǒng)計量，對系數(shù)的大小加以解釋也特別重要。習題4.3（i）424.2.8 小結檢驗統(tǒng)計顯著性如果該變量是統(tǒng)計顯著的，則討論系數(shù)的大小，以對其實際或經濟上的重要性有所認識。如果變量在通常的顯著性水平上不是統(tǒng)計顯著的，那你仍可能要問這個變量對y是否有預期的影響，而這個影響在實踐中是否很大。如果影響很大，那你就應該對t統(tǒng)計量計算p值。對于小樣本，可以讓p值大到0.20（并非一成不變）需要注意的是：t統(tǒng)計量小，而實際上大的估計值可能來自抽樣誤差太大43因為我們可以斷定這些變量在統(tǒng)計上不顯著如果t統(tǒng)計量小的變量具有“錯誤”的符號，則可以忽略這個變量。

11、一個有出乎意料的符號而在實踐中具有很大影響的顯著變量，才是問題。這常常是可能由于遺漏了關鍵變量444.3 置信區(qū)間 假設檢驗可以通過一次抽樣的結果檢驗總體參數(shù)可能的假設值的范圍（如是否為零），但它并沒有指出在一次抽樣中樣本參數(shù)值到底離總體參數(shù)的真值有多“近”。 要判斷樣本參數(shù)的估計值在多大程度上可以“近似”地替代總體參數(shù)的真值，往往需要通過構造一個以樣本參數(shù)的估計值為中心的“區(qū)間”，來考察它以多大的可能性（概率）包含著真實的參數(shù)值。這種方法就是參數(shù)檢驗的置信區(qū)間估計。45 如果存在這樣一個區(qū)間，稱之為置信區(qū)間（confidence interval）； 1-稱為置信系數(shù)（置信度）（confid

12、ence coefficient）， 稱為顯著性水平（level of significance）；置信區(qū)間的端點稱為置信限（confidence limit）或臨界值（critical values）。 要判斷估計的參數(shù)值 離真實的參數(shù)值有多“近”，可以預先選擇一個概率(0c臨界值根據(jù)顯著性水平和自由度決定635%的顯著性水平，q=3，n-k-1=60，臨界值為2.76面積=0.052.76拒絕區(qū)域64如果拒絕H0，就說xk-q+1，xk在x%的顯著性水平上是聯(lián)合統(tǒng)計顯著的。如果虛擬假設未被拒絕，則這些變量是聯(lián)合不顯著的，這為將它們從模型中去掉提供了證據(jù)。65回顧例子：棒球運動員的薪水模型

13、自由度（3，347）的1%的臨界值：3.78 因而，拒絕這三個變量對薪水沒有影響的虛擬假設66這三個變量的t統(tǒng)計量都不顯著，而F統(tǒng)計量顯著有點令人吃驚因為：hrunsyr（平均每年本壘打次數(shù)）和rbisyr（每年擊球跑壘得分）高度相關這種多重共線性讓我們難以發(fā)現(xiàn)每個變量的偏效應（反映在t統(tǒng)計量上） 而這種多重共線性對檢驗聯(lián)合假設而言，影響沒有那么大。F統(tǒng)計量對于檢驗一組變量的排除有用處，特別是在其中的變量高度相關的時候674.5.2 F統(tǒng)計量與t統(tǒng)計量之間的關系如果用F統(tǒng)計量去檢驗單個自變量的顯著性，結果如何了？虛擬假設：H0：b k=0。令q=1 可以證明，所得到的F統(tǒng)計量，等于對應t統(tǒng)計量

14、的平方。 因為 ，所以在雙側對立假設下得到完全一樣的結果對于單個參數(shù)假設的檢驗，仍然用t統(tǒng)計量68變量各自的t統(tǒng)計量不顯著，而F統(tǒng)計量顯著（如前例）說明變量之間可能存在多重共線性，但變量組合對被解釋變量還是有影響的。某個變量的t統(tǒng)計量顯著，而F統(tǒng)計量不顯著可能在一些不顯著變量中隱藏了一個統(tǒng)計顯著變量。不過通常當一個變量十分顯著時，它與其他變量的聯(lián)合檢驗也會是顯著的。694.5.3 F統(tǒng)計量的R2型因為SSR r=SST(1-Rr2)，SSR ur=SST(1-Rur2)，則R-平方型的F統(tǒng)計量為70例子：嬰兒出生體重方程中的父母受教育水平 bwght：以磅為單位的出生體重；cigs：母親懷孕期

15、間每天吸煙的數(shù)量；parity：這個孩子在子女中的排行；faminc：家庭年收入；mothereduc：母親受教育年數(shù)；fanthereduc：父親受教育年數(shù)。71擬檢驗的虛擬假設是，在控制了cigs，parity和faminc以后，父母的受教育水平對孩子出生的體重沒有影響。實際觀測值是1191個，則不受約束模型的自由度為？ ，則F統(tǒng)計量=1.42分子自由度為2，分母自由度為1185，5%的臨界值為3.0。所以不能拒絕虛擬假設，即父母受教育水平是聯(lián)合不顯著的n-k-1=1191-5-1=1185 q=2724.5.4計算F檢驗的p值給定F統(tǒng)計量的觀測值，能拒絕虛擬假設的最小顯著性水平是多少這個

16、水平被稱為檢驗的p值p值=P（F F）代表一個自由度為（q，n-k-1）的F隨機變量檢驗統(tǒng)計量的實際值大于p值的顯著性水平下可以拒絕零假設，小于p值的顯著性水平下不可以拒絕零假設。734.5.5 回歸整體顯著性的F統(tǒng)計量在含有k個自變量的模型中，可以做這樣的虛擬假設：所有的自變量都無助于解釋因變量對立假設：至少有一個bj異于0受約束模型：F統(tǒng)計量：用于檢驗所有變量的聯(lián)合排除檢驗回歸的整體顯著性若不能拒絕，則說明我們需要尋找其他變量來解釋y。R2為0744.5.6 檢驗一般的線性約束比排除某些自變量更為復雜的約束例子：考慮如下方程 price：住房價格；assess：評估的住房價值；lotsize：以英尺為單位的占地面積；sqrt：平方英尺數(shù)；bdrms：臥室數(shù)75擬檢驗：評估的住房價值是不是一個理性的定價。如果這樣，assess變化1%，則price變化1%；此外，控制assess后，lotsize，sqrft和bdrms應該無助于解釋log(price)受約束模型：有4個約束要檢驗，其中3個為排除性約