一元線性回歸的估計

1、第三章雙變量回歸的估計我們在第二章已導出PRL和SPL，回歸分析的目的是運用樣本估計 樣本回歸直線SRL，使之能最大限度“逼近”于PRL.即對于總體回 歸直線-PRL，即Y = E（Y|X ） + u =。+。X + u （3.1）i1 i i 12 i i利用樣本形成樣本回歸直線（SRL），由此而提出的問題是，在什么 假定下，運用何種方法形成SRL，使SRL盡可能逼近PRL（3.1）？ 由于ui是對總體回歸直線的偏差，自然地希望基于u來實現(xiàn)這一目的. 由于氣的估計u度量了樣本點Y到樣本回歸直線的距離（誤差或偏差）, 且成為u.的主部，因此基于總體誤差u.就轉化于基于樣本誤差U。如 果直接使Z

2、 u最小，但單個的u可能有正有負，有大有小，從而導致 部分匕較大但其代數(shù)和卻較小，這樣產(chǎn)生的參數(shù)估計和對應的樣本回 歸直線就可能沒有最大可能逼近PRL的性質。類似地，可討論對Z|u| 求最小所產(chǎn)生的問題。為回避這一類問題，通過對Zu2求最小所產(chǎn) 生的參數(shù)估計及其SPL，才可能盡可能逼近PRL，由此形成樣本回歸 直線的估計，即 TOC o 1-5 h z Y = B +B X + u（3.2）i 12 i i這一種方法稱為最小二乘法（OLS）。現(xiàn)在，我們有總體回歸直線Yi=E（Yi/X=Xi）+ui=p1+p2Xi+ui樣本回歸直線Y =B +（3 X + u = Y + ui人日（i = 1,

3、2）（為方便，有時亦記作b）為底的估計，匕（為方便，有時亦 記作ei）稱為殘差,可看作*的估計，Y為E（Yi/X=Xi）的估計，為方便和 出于殘差的均值為o, Y即為y.的估計：1 1ii3.1.OLS回歸分析的目的是運用樣本數(shù)據(jù)，求出待估參數(shù)，為此將殘差平方和 表述為待估參的函數(shù)并求最小，由此求出參數(shù)估計，這一過程為OLS， 實質上是最優(yōu)化問題，故這一求解問題可表述為 TOC o 1-5 h z min Zu 2 =Z （Y - Y ）2 =Z （Y 6 項 X V=f （P , P ）（3.3）ii i12 i12i =1i=1（3.3）表明，殘差平方和為待估參數(shù)的函數(shù)，因此對其求最小，能

4、 解出這些參數(shù)。我們從代數(shù)或統(tǒng)計中已學習，求（3.3）即是對其求偏導并令為0，即 TOC o 1-5 h z a ( u 2 )/ap = a(r - 8 - 8 x )2)/ap = 0 i1i12 i1a(u2)/ap =a(r -p -p x )2)/ap = 0 i2i12 i2有(r -P -P X )2)/郎=-2(r -pP -B x ) = -2u = 0i 12 i1i 12 ii2 (r - B - B X )X = -2 u X = 0i 12 i ii i一 一一Q Q4a ( u 2)/ap = a(乙 i1i 1 2 i1a( u 2 )/aB =a(r-p -B

5、x )2)/aB = i2i12 i2由此得到(3.4)-2 (r -B -B X ) = (-2 u ) = 0 n 1 i i r = + B 2 x = 0-2 (r -B -B X )X = (-2 u X ) = 0 n(3.5)v i p 2i i乙rx =px +p 乙x2 = 0, 一 求解有 x r 切(x - X)(r - r) 聯(lián)立上述兩個方程(記X - X = X , Y - Y = y )nxy 二二二、L = 旦= XT iyi (3.6)N X2 ( X )2 (X _ X )2 * 2AAP廣 r 一2 X(3.7)對于(3.6)和(3.7)所得到的樣本回歸直線

6、的參數(shù)估計，由此得到OLS 樣本回歸直線(3.6)中，x,y分別為樣本的均值，所以X -X,y -y為對樣本均值 的離差，度量第i個觀測值X和y對其均值的偏離。上述推導中，N 為樣本點個數(shù)或樣本長度，為方便，以后以小寫的表示。將(3.6)代 入(3.4)中,有r=8 +8 X +u =r+ui12 i i i i對于上一章的例子和樣本1,運用OLS所得到的SRL如下圖，SRL具有性質：參數(shù)估計由樣本信息所形成；這二個估計稱為點估計(稍后將討論區(qū)間估計)，即給定一組樣本河 得到相應的參數(shù)估計值,它們是對于總體參數(shù)(P)的一個點估計，不同 的樣本，得到的估計可能不完全相同，不同的樣本所得到的估計，

7、均是 對總體的一個點估計；由樣本得到參數(shù)估計即得到了 SRL,樣本回歸直線具有性質：（1）. SRL通過樣本均值點（X, y ）（由B =Y-B X n Y = B +6又,. .一 . 1 .一 212即樣本均值滿足樣本回歸直線，所以通過樣本均值點）,如圖.Intro to EconometricsRegression basics slide 16圖3.1樣本回歸直線SRF:Y =24 +(0.5 y1) X,_j|ofmeains (X=170Y=111).（2）. y.的均值等于樣本均值，即（3.9）?（= Y / n） = Y（= Y / n）ii這一性質是指，回歸直線上的點的均值等

8、于樣本均值。證明：由 Y = B +B x =(Y-B X)+B x = y+B(X -X) i 12 i22 i2 i故 EY /n = EY/n + (&2(X. - X)/n (X - X) = 0i所以Y = Y 殘差的均值治0，即亦=( ui)/n = 0證明：由(3.4)2 (Y -P - B X ) = (-2 U ) = 0 n U = 0i 12 iii利用上述性質1，2, 3, SRL可以表述為離差形式。對于 TOC o 1-5 h z -6 +B X + u nN一涕 +B ZX +Zu ni 12 i ii12 iiY = 6 + B X n Y - Y = B (X

9、- X) + u (3.10)12i2 ii最后一步是將樣本點表示(3.2)Y =6 +6 X + u（3.2）i 12 i i減去所得到的Y = 6 +6 X的結果。這樣（3.10）即為樣本離差形式12 一-即 X - X = x ,Y - Y = y，所以（3.10）為ii ii /一, 人y =6 x + u （3.11）i 2 i i于是，SRL可寫為人yi =6 2Xi（3.12） TOC o 1-5 h z （3.12）實際上是將原有含截踞不過原點的直線平移至過以（x , y ）為 原點的直線。（4）殘差與預測或估計的Y不相關，這一性質需證明Z u y = 0。 對于相關的概念，我

10、們這里暫不從數(shù)學上說明，只是理解不相關的含 義為，兩個變量沒有線性關系，相關的嚴格定義在以后給出。我們這里說u與舊不相關，等價于u與y（=（Y -歹）=Y -Y）不相關。這 tr、.i Ii i ii是因為Z u Y =Z u（Y-Y+Y ） = Z u y +Z u y=Z u y i ii ii iii iy, = 6 2 Xj n日 Zyu =ZB xu = 6 Zx(y -B x)證明： .，寸2寸 2 i i 2 i=6 Z x y 一6 2Z x 2) v i i i=B 2 Z x 2 6 2 Z x 2(= 0)2 i 2 i因為(5). u與X不相關，即Z u x = 0，它

11、等價于Z u x = 0 o_Zu X =Zu (X - X + X) = Zu x +Zu X =Zu xi ii ii iii i這一性質由（3.5）給出.3.2. OLS的基本假定以上我們僅得到了估計以及相應的樣本回歸直線，盡管從估計的角度 看，運用OLS已經(jīng)能求出參數(shù)的估計。但沒有對殘差的分布和變量 X作出任何假定，因此我們無法對這種估計或SRL作出評價和推斷， 而回歸分析的目的不僅要求出參數(shù)的估計，還需對總體作出推斷，即 對于PRL= E(YIX ) + u =P +P Xi1 i i 12 i通過上述OLS方法，得到了 SRL= B +(3 x問題：SRL是否為PRL的一2個無偏估

12、計？如何定義無偏？這一問題 歸結為估計量日(i = 1,2)在期望的意義下是否與總體參數(shù)p有偏差？ 也就是說，從SRL能否推斷PRL的真值？解決這一問題的途徑是對 總體的殘差作出分布假定，然后討論估計量的分布性質，基于此討論 估計量是否有偏等一系列問題。另一方面，從PRL可知，Y依賴于 X和擾動，只有對X和擾動作出相應的假定，才可能對Y和參數(shù)作 出統(tǒng)計推斷，亦即對模型作出評價。經(jīng)典線性回歸模型(CLRM)或 稱為高斯或標準直線回歸模型具有10大假設，構成了計量經(jīng)濟學理 論基礎。在這10大假設下，SRL具有對總體無偏等性質。這些假定 有下述10條。線性回歸模型，即模型對參數(shù)而言是線性的。這一假定

13、強調的是 對參數(shù)，而不是變量。如Y=P+P2X+uY=p1+p2X1+p3X2+u為線性模型(對參數(shù)而言)，但Y=p1+p2X1+p 1 p2X2+u對參數(shù)而言就是非直線模型，如果設定這樣的非直線模型，則違反了性 線回歸模型的假設.在重復抽樣中X是固定的，或X是非隨機的。這一假定難以理解， 對于表2.1所假定的總體，對于X=80，隨機抽取一個家庭，其Y= 70，直至X=260,隨機抽取Y=150,在第二次抽樣時，仍將X固定在X =80，再次抽取一個樣本Y=55，直至X=260,隨機抽取Y=175.這種 重復抽樣的過程是將X固定在X=80直至X=260.在重復抽樣過程中， 將X固定或不變，從這個

14、意義上說，X是非隨機的,X固定后，隨機 抽取相應的Y。干擾項或隨機項的均值為0，即E (u X ) = 0這一假定是對于固定的X，如X=80，指偏離總體條件均值的和為0， 無論個別的偏差有多大(小)，是正還是負，其和為0.回到表2.1，X =80，總體為5戶家庭，Y的均值為65，第一個家庭的Y為55，偏 差為一10，第二個為60，偏差為一5，等等，這些偏差相加應為0，也就是說，正和負的偏差相互抵消。圖3.3P49所示。 由上述性質2和3,回歸分析是建立在條件回歸的基礎上。隨機項的同方差或擾動的方差相同。即var(u |X.) = E(u -E(u )|X.)2 = 2Vz由P50的圖3.4所示

15、.圖3.2.擾動(以及Y的同方差 與之不同的是異方差，如下圖所示.圖3.3.擾動(以及Y的異方差 這是因為由假定3即擾動的均值為0，var(u IX ) = E(u - E(u )|X )2 = E(u X )2 i iii ii i=E(Y X ) - E(Y X )2 = var(F |X )=擾動之間無(自)相關。即給定任意的X的兩個值，對應的擾動沒有自相關?；谙嚓P和協(xié)方差的定義，不相關與協(xié)方差為0等價。 即 f , 1cov(u ,u X , X ) = Eu - E(u ) X )1(u - E(u ) X i ji i i j J ji i jcov=E(uXi )(uj|Xj)

16、 = 0,Vi, j, i 衛(wèi) j其中的記號co；表示協(xié)方差?；氐嚼?.1，如 X = 80和X=100兩個 不同的水平，與總體均值的偏差不相關。協(xié)方差正是針對不同水平之 間而定義的。這一性質所強調的是，所有的與總體均值的偏差(誤差) 之間不相關，而不僅僅是對給定某一水平(如X=80 )之下的誤差而 言。與之不同的是殘差的相關，即殘差之間具有某種變化的規(guī)則. 對這種相關性，目前只能作直觀的解釋。我們在分析表2.1所示的總 體中，如果與u正相關，總體函數(shù)為Y =p +p X +u，Y不僅依賴 于X，也依賴于；，而u依賴于u。 t 12 t 擾劫與X不相關，或但們之間時協(xié)方差為0。E (u iii

17、.-E(X )E(u ) = 0/ E(X )non - schastic11 E (u ) = 0icov(u ,X ) = Eku -E(u )1X. -E(X.)1 =E(u )X即：=E(u X ) - E(X ) E(u )=E(u X )=0這觀贏的霧的長E度大擺臨宸是一個數(shù)。X值要有變異性，即對于一個給定的樣本，X的值不能全部相同， 也就是說，X的方差必須是一個有限的正數(shù)。反之，若X在一個樣 本中取相同的值(無變異性)，方差就為0,無法估計參數(shù)。正確設定了模型，或者說，所用的模型不存在設定誤差。所謂設定問題，在本書中包括：模型應包括哪些變量，模型的函數(shù)形式(如線性還是非線性)，對

18、模型的變量和擾動應有哪些假定等。以后我們還應看到，設(1)(2)(3)定問題還有更多的內容。所謂設定誤差即是指，當模型應包括但沒有包括某一個變量而引起的 誤差;當模型應為線性而將其設定為非線性(或反之)而引起的誤差 等.以線性和非線性菲氏曲線為例，菲氏曲線理論所陳述的是，貨幣工 資變化率(或通脹率)與失業(yè)率彼此消長的關系，即yi=P1+P2(i/xi)+ui若將菲氏典線模型設定為Yi=P1+P2Xi+Ui則y.=p1+p2x.+u.具有設定錯誤，或不當設定.以上的假定就是全部關于經(jīng)典線性回歸(CLR)的假定，這些假定是 對總體作出的假設，不是對樣本回歸函數(shù)的假定。但是，OLS的一些 性質，與上

19、述某些假定類似。如OLS的均值為0與擾動均值為0相 似，即 it /n = u = 0 與 E(wJX.) = 0 U X = 0 與 cov(u X ) = 0但是一個是對樣本，另一個是對總體。我們特別說明，這些假定并不 一定全部成立，但在這些假定之下，所得到的回歸和SPL，為以后的 分析建立了一個框架，或鏡子，違反這些假定的任何一條，將得不到 這些假定之下的估計量的性質。因此，計量經(jīng)濟學正是對這些假定的 逐步取消或在某些假定之下能導出仍然有效的估計或統(tǒng)計推斷而不 斷將研究的問題深入和逼近現(xiàn)實。10.解釋變量之間沒有完全的共線關系?；貞浘€性代數(shù)中關于共線的 定義，對于向量X和Z,若存在常數(shù)8

20、】和,使得對于81X+52Z=0,有 X=(S 1/5 2)Z，稱 X 和 Z 共線.在計量經(jīng)濟模型中，對于模型Y=p1+p2x+p3z+u若X和Z的樣本，使得X=(8 1/8 2)Z,即稱它們完全共線,我們以后將會 看到，在這種情況下,OLS將無法估計模型.3.3.OLS的精度：標準差我們在前面有關異方差的討論中已說明，方差越小，與總體的偏離 就越小，對這一問題的正式分析即為標準差。從OLS可知，估計量均為樣本數(shù)據(jù)的函數(shù)，如何評價估計量的可信度或精度？工具就是所謂標準差。對于樣本回歸直線其參數(shù)估計為Y =B +(3 Xi 12 i其方差定義為var(p ) = E(P22標準差定義為-E (

21、 P )2 = E ( P -P )2 = E (E (x / x 2)u )2 =b 2/E x 2222ii ii同理，有se(P ) = v var(P ) =b / 飛： x222* i（3.12）var(P )與c 2 n se(P ) 2 與，1一21：乃, x2（3.13）以上的參數(shù)估計的方差和標準差都含總體擾動的方差和標準差，而總體擾動一般是不可觀測的，即總體方差c 2和標準差c是未知的，故需 要用樣本予以估計，我們以下予以推導。從Y = P + P X + u n Y = P + P X + uy = P x + (u u)12 i i12i 2 i iu = y P x y

22、Tu = P x + (u u) P x n u = (P P )x + (u u) n ii2 ii2 ii2 ii22 ii八/OOxz、u = (P P ) x + (u u) yt q2 人 2 i niE Z/2 = ( P P )2 E x2)+ E (u - u )2 E(Eu2) = E(P P )2)E x2) + i-2( P 2 P 2)E x (u u)君_ P )2)E x 2) + E(E (u u)2) 2E【(P P )E 22c 2 +i(n 1)c 2x (u u)2- 2 i i2c 2 = (n 2)c 2若定義E,、 u 2 c2 =L n E(c2)

23、 = c2(3.14)E所以定義c2匕,則它是總體方差的無偏估計。進一步，標準差的 估計即為方差估計開平方。即總體的估計的標準誤差為c =工，（3.15）n 2這一估計量所度量的是，樣本Y對估計的回歸直線的離差的平方的 標準差。注意的是，b2所度量的是，所有的Y與總體直線的偏差的 平方，而b 2僅是它的一個無偏估計，度量的是與估計的直線即樣本 回歸直線的偏差的平方。圖示。觀測值與總體直線和回歸直線的偏差。 對于上述所估計的參數(shù)的方差即（3.12）和（3.13），有如下特點：（1）由var（B= b2/EX2可知其特點，即它與b2正比，與股反 比，因此，對于給定的。2，度量X值變化的xf越大，v

24、aMj越小， 說明p 2的估計越精確，因此我們假定X要有變異性。另一方面，隨 著樣本長度增加，Ex2變大（相對于小樣本而言），從而使估計越精 i確。同理分析p 的方差。（2）B（，= 1,2）是樣本估計量，故不同的樣本所得到的估計不一定相同，對于同一樣本，它們還可能是相互依賴的，或是相關的。 這種相互依賴性由它們之間的協(xié)方差所度量，可推證其協(xié)方差為cov（B ,pp ） = Xvar（B ） = X（b2/x2）（3.16）122i如何利用估計量的方差來評價這些估計量的可靠性，這即是統(tǒng)計推斷 問題。3.4. OLS估計量的性質：高斯一馬爾可夫定理估計量關于X是線性的。即& （i = 1,2）是

25、關于K的線性組合，由于y 為隨機變量的一個樣本，所以估計量也是一個隨機變量。作為例子，1.2.在給定上述假定條件，由OLS所得到的估計量所具有的性質:.ExxEEp =2_L_L = i y 三乙k y ,(k = x /乙 x2)2E x 2E x 2 i i i i i ，一 1a 一估計量是無偏的，即E(p ) = p (i = 1,2)。例子 i iE(p ) = E(k y ) = E(k (Y Y) = E(kY )(v k = 0) n TOC o 1-5 h z 2 E(p ) = EE (k (p +p X + u ) = El p Ek +p EkX +Eku /=2、i

26、1 、2、 i i1 i 2 i ii ip +EE(ku ) = p ( EkX = 1,E(ku ) = 0)2i i 2i ii i3. B （i = 1,2）在所有線性無偏估計量中具有最小方差（具有最小方差的 估計量稱為有效估計量）.高斯一一馬爾可夫定理:在給定經(jīng)典線性回歸模型的假定下，OLS估計量，在無偏線性估計量中，具有最小方差，即OLS估計量是最優(yōu) 線性無偏估計量(BLUE).注意：有效估計量強調最小方差，即對所有線性和非線性估計量，只 要是最小方差，就稱為有效估計量。一般而言，這一定義對于大樣本 而定義的。而BLUE是定義在所有線性估計量中，方差最小的估計量稱為BLUE。 也就

27、是說，對于其它任何線性無偏估計量，日( = 1,2)的方差均比它們 的方差小。因此，證明BLUE的方法是假定有一個線性無偏估計p*， 需證明.var( P *) var( P )2由于p *的任意性，即B具有最小方差。如圖P59所示，由于&和p *均 為線性無偏，所以它們的分布圖都對稱于真值p 2，即 E (p ) = E (P *) = P，但由于var( P *) var( p )，故p的分布圖比p *的分布 2.222圖更集中于總體p。3.5.判定系數(shù)：擬合優(yōu)度的一個度量1.以上所討論的是關于估計量的性質，即線性無偏且方差最小,因此, 樣本回歸直線是總體的一個無偏且具有高精度(方差最小)

28、的估計，但 由于總體一般是未知的,所以以下的分析針對樣本回歸直線。但對于 所謂盡可能逼近還沒有正式定義和度量，所謂盡可能逼近，其定義和 度量之一是，圍繞樣本回歸直線的偏差(殘差)盡可能小，即樣本數(shù) 據(jù)盡可能擬合SRL，度量這種擬合程度即為判定系數(shù)，或擬合優(yōu)度， 記為尸2(R2)?；趯RL的殘差盡可能小，我們以下導出擬合優(yōu)度的公式。Y = Y + u n y = y + ui y u i = 0)由!X y 2 =Z y 2 ；Z u 2 + 2Z y u =Z y 2 +Z 必(. Z=6 2 乙 2+Z u 2(. y =6 育 2 ii i 2 i(3.17)在(3.17)中，定義(3

29、.18)TSS = S y 2 =E (Y - Y )2 =E (Y - V )2 ii ii i(3.18)所度量的是所有觀測值(樣本點)與其均值(或總體均值， 因為= Y)的總變異(y -Y)，故稱為總變異或總平方和，記為TSS。 而解釋平方和ESS定義為ESS = X 2 =X (Y Y )2 =X (Y ? )2i i i i i(3.19)=& 2 X %2由于在ESS中，X (Y -Y)2表示回歸直線上的點與樣本均值(等于總 體均值)的總離差，因此它度量了回歸直線與總體均值的“逼近”程度， 故稱為解釋平方和，或由回歸解釋的平方和，即在TSS (總變異)中， 由回歸所解釋的變異。而殘

30、差平方和RSS定義為RSS = X U2(3.20)i這一項稱為殘差平方和。這樣TSS就分解為TSS=ESS+RSS(3.21)其意義如上所述，圖示如P61圖3.10.圖3.3. Y的總離差分解圖對(3.20),有1=ESS/TSS+RSS/TSS擬合優(yōu)度的定義即是在總變異中，由回歸所產(chǎn)生的變異占的比重(3.22)ESS X(Y - Y)2RSSXu2TSS X(Y - Y)2 i r2(R2)可表示為r 2 = _i= 1 一匚TSS X(Y - Y)2i顯然，有0 r2 1，經(jīng)簡單推導，ESS 奐人乙2但)r 2 = V i = P 2 W i = 一TSS 乙 y 2)2 Y2 -( Y

31、 )2 1 乙 y 2 乙 x 2 乙 y 2iii i進一步，將TSS=ESS+RSS用r2表示，有y2 = r2y2+ (1 - )y2iii圖示：用園表示變異,r2的大小可直觀表示為下圖.8. Precision of estimates and fit.Venn diagram view of fit:r2:=0CDr2 =:0.5Intro to Econometricsr2 =:0.9Regression basics slide 243.相關系數(shù)X和Y的相關系數(shù)，度量這兩個變量之間的線性相關程度，這 是與擬合優(yōu)度相關但不相同的一個概念。定義：X和Y之間的相關系數(shù)，定義為X2 (

32、X )（3.22） xyr L( X2)2( y2)2)、 iiVn XY - ( X )( Y)這一相關系數(shù)稱為樣本相關系數(shù)。我們前面所講的擬合優(yōu)度的意義是X的變異對Y的變異的解釋程度，即r2=ESS/TSS但相關系數(shù)r所度量的是線性相關程度，盡管它們之間的關系為r = ： r 2相關系數(shù)r的性質：1. -1 r 0,b0,a,b,c,d 為常數(shù);4. X 與 Y 獨立，則它 們之間的相關系數(shù)為0,反之，不相關，即相關系數(shù)r=0不等于它們獨 立；5.相關系數(shù)r僅是線性相關(或線性相依)的一個度量，不能用于度 量非線性，如X與Y之間有非線性關系Y=X2,即X與Y沒有線性相 關，故相關系數(shù)r=0

33、; 7.相關系數(shù)r不能度量X的變異解釋Y的變異 的程度.P64圖3.11所示的是正負相關和不相關的圖解，當X的變化 與Y的變化成比例，X與Y有正或負相關，而當X與Y呈現(xiàn)出近似 的比例變化，r接近于1或一1,而r=0表明X與Y之間沒有線性相 關而是具有確定的非線性的函數(shù)關系。 TT3.6數(shù)值例子。關鍵概念，MPC，估計，注意S =一， n - 2從表3.2中讀取數(shù)據(jù)X.和Y.后計算x.=X.-又,*=匕-Y和x2.,x.y.(i=1,2,_10)等數(shù)據(jù)，按定義計算T。2 = T = 0.5091,0 = Y -。2X = 24.4545iSr計算 Y = 24.4545 + 0.5091X n

34、U = Y - Y n YU 和 S =J=42.1591, ii i i i i i 10 2進一步，計算參數(shù)估計的方差和標準差：var(0 ) =6 2 /Sx2 = 41.137,se匕)=6 /(Sx2)1/2 = 6.14. T x 2.-Txtvar(。) = 62 = 0.0013,se(0 ) =ey | v z = 0.0357110乙 x 2110乙 x 2i1icov(6 , B ) = -X6 2 /T x2 =-0.217212再計算TSS,ESS和RSS和擬合優(yōu)度TSS = 1(Y - Y)2 =Z y2,ESS =-Y)2=四y2, TOC o 1-5 h z i

35、iii=1i=1i=1i=1RSS = Z(Y - Y )2 =1Lu2, r2 = ESS/TSS = 1 - (RSS/TSS) = 0.9621, r = 0.9809ii=1i=1基于以上的計算所得到的回歸直線為人= 24.4545 + 0.5091Xii其樣本表示為= 24.4545 + 0.5091X + U.圖形為：Intro to EconometricsRegression basics slide 16SRF:Y =24 +(0.5L1) X*gofmeains (X=170Y=14nJ對于以上的計算(估計)結果的解釋：樣本回歸直線是總體回歸直線的一個估計，即對于任一 X(

36、如 X=100),從樣本回歸直線上可找到相應的點 Yx_100=24.4545+0.5091*100=75.46 它是總體 E(Y/X=100)的估計，一般 地，Y為E(Y/X=X.)估計，由于E(Y/X=X)為條件均值，所以Y為Y的期 望(均值)的估計；12.& = 0.5091表示在X=80至260這樣的極差變化的范圍內，周收入X2每增加一美元，將使每周消費增加0.51美元，即MPC=0.51,p = 24.4545可機械地解釋為當收入為0時，每周消費平均需24.4545,1由于X的值不包括0,故上述解釋是強行令X=0，故這種解釋是機械地 解釋.另一種解釋是,模型僅包括收入變量，故截距的估

37、計可解釋為沒 有包括在模型中的變量對消費的平均影響.擬合優(yōu)度為0.9621,表明樣本回歸直線對數(shù)據(jù)擬合的程度很高，從 圖形看，樣本數(shù)據(jù)Y沒有偏離樣本回歸直線較遠，且有兩個點落在直線 上，說明每周消費的變異約有96%被X所解釋。3.7例子例1.美國咖啡需求：替代品與模型設定，即咖啡的替代品（水，茶等） 可能對咖啡需求產(chǎn)生影響，如考慮替代品的影響，需用多元模型。我 們這里用二元模型研究需求與價格的關系（可能導致模型設定偏差）， 作為例子，用每人每日杯數(shù)和每杯價格分別作為應變量和解釋變量， 故模型為yi=Pi+P2xi+Ui例2.消費函數(shù)與關于總體和樣本的例子不同，本例研究總量個人消費支出（PCE,

38、記 為Y）與GDP（度量總量收入，記為X）的關系，基于消費理論，有Yi=Pi+P2Xi+Ui運用EVIEWS,第一步，輸入數(shù)據(jù)；第二步，根據(jù)所設定的模型進行 估計，命令：LS Y C X,產(chǎn)生回歸結果；第三步，報告和分析回歸 結果.數(shù)據(jù)如圖80 81 82 83 84 85 86 87 88 89 90 91回歸：LS Y C XDependent Variable: Y Method: Least SquaresDate: 09/05/04 Time: 18:31Sample: 1980 1991Included observations: 12VariableCoefficientStd.

39、 Errort-StatisticProb.C-231.79510357694.5275-2.45210.03413X0.7194334726580.0217433.07801.5051e-11R-squared0.99094334525Mean dependent var2880.6Adjusted R-squared0.990037679775S.D.dependent var314.4417S.E. of regression31.3848778159Akaike info criterion9.8815Sum squared resid9850.10555522Schwarz crit

40、erion9.96235897529Log likelihood-57.289247202F-statistic1094.16045179Durbin-Watson stat1.28418254948Prob(F-statistic)1.50516803291e-11基于以上的回歸結果，有Y = 231.8 + 0.719 Xiise（6 ） = 94.53se（B ） = 0.02212r 2 = 0.993.8 .要點：1.CLRM，方差標準差及其估計性質，無偏估計，最優(yōu)無偏估計，評價數(shù)據(jù)對模型的擬合優(yōu)度，BLUM的假定與估計性質，概念：方差與變異，自由度，相關系數(shù)，獨立。第四章 正態(tài)性假

41、定：經(jīng)典正態(tài)線性回歸模型在前面的分析中，我們對擾動作出了一系列假定，但沒有假定分布, 相應地，對估計量也就沒有討論分布問題，因此,我們也無法對估計量 進行推斷.本章將繼續(xù)討論推斷這一問題.對于模型Y = P +P X + u（4.1）i 12 i i我們首先討論擾動u的分布。4.1. u的概率分布.前述對（4.1）作OLS時，對擾動的分布沒有假定。也就是說，無論 擾動的分布為何，對（3.1）作OLS，所得到的估計量，在前面10 條假定之下，均為BLUE，如果研究的目的僅是估計參數(shù)，OLS方法 就可實現(xiàn)這一目的。但是，沒有分布假設，不可能對估計參數(shù)作出任 何推斷，也就不可能對估計作出有意義的評價，而且也不可能對任何有關總體的假定作出檢驗。對的概率分布作出合適的假定，即假定 為正態(tài)分布，能解決上述問題4.2. u的概率分布假定為正態(tài)分布iE(u ) = 0E (u 2) =c