計(jì)量經(jīng)濟(jì)學(xué)之一元線(xiàn)性回歸模型

1、第二章第二章 經(jīng)典單方程計(jì)量經(jīng)濟(jì)學(xué)模型：經(jīng)典單方程計(jì)量經(jīng)濟(jì)學(xué)模型：一元線(xiàn)性回歸模型一元線(xiàn)性回歸模型 回歸分析概述回歸分析概述 一元線(xiàn)性回歸模型的參數(shù)估計(jì)一元線(xiàn)性回歸模型的參數(shù)估計(jì) 一元線(xiàn)性回歸模型檢驗(yàn)一元線(xiàn)性回歸模型檢驗(yàn) 一元線(xiàn)性回歸模型預(yù)測(cè)一元線(xiàn)性回歸模型預(yù)測(cè) 實(shí)例實(shí)例2.1 2.1 回歸分析概述回歸分析概述一、一、變量間的關(guān)系及回歸分析的基本概念變量間的關(guān)系及回歸分析的基本概念二、二、總體回歸函數(shù)（總體回歸函數(shù)（PRFPRF）三、三、隨機(jī)擾動(dòng)項(xiàng)隨機(jī)擾動(dòng)項(xiàng)四、四、樣本回歸函數(shù)（樣本回歸函數(shù)（SRFSRF）一、變量間的關(guān)系及回歸分析的基本概念一、變量間的關(guān)系及回歸分析的基本概念1. 變量間的關(guān)

2、系變量間的關(guān)系（1）確定性關(guān)系確定性關(guān)系或函數(shù)關(guān)系函數(shù)關(guān)系：研究的是確定現(xiàn)象非隨機(jī)變量間的關(guān)系。2,半徑半徑圓面積f（2）統(tǒng)計(jì)依賴(lài)）統(tǒng)計(jì)依賴(lài)或相關(guān)關(guān)系：相關(guān)關(guān)系：研究的是非確定現(xiàn)象隨機(jī)變量間的關(guān)系。施肥量陽(yáng)光降雨量氣溫農(nóng)作物產(chǎn)量,f 對(duì)變量間對(duì)變量間統(tǒng)計(jì)依賴(lài)關(guān)系統(tǒng)計(jì)依賴(lài)關(guān)系的考察主要是通過(guò)的考察主要是通過(guò)相關(guān)相關(guān)分析分析(correlation analysis)或或回歸分析回歸分析(regression analysis)來(lái)完成的來(lái)完成的 正相關(guān) 線(xiàn)性相關(guān) 不相關(guān) 相關(guān)系數(shù)：統(tǒng)計(jì)依賴(lài)關(guān)系 負(fù)相關(guān) 11XY 有因果關(guān)系 回回歸歸分分析析 正相關(guān) 無(wú)因果關(guān)系 相相關(guān)關(guān)分分析析 非線(xiàn)性相關(guān) 不相關(guān)

3、 負(fù)相關(guān) 注意注意不線(xiàn)性相關(guān)并不意味著不相關(guān)。有相關(guān)關(guān)系并不意味著一定有因果關(guān)系?；貧w分析回歸分析/相關(guān)分析相關(guān)分析研究一個(gè)變量對(duì)另一個(gè)（些）變量的統(tǒng)計(jì)依賴(lài)關(guān)系，但它們并不意味著一定有因果關(guān)系。相關(guān)分析相關(guān)分析對(duì)稱(chēng)地對(duì)待任何（兩個(gè)）變量，兩個(gè)變量都被看作是隨機(jī)的?；貧w分析回歸分析對(duì)變量的處理方法存在不對(duì)稱(chēng)性，即區(qū)分應(yīng)變量（被解釋變量）和自變量（解釋變量）：前者是隨機(jī)變量，后者不是。2. 回歸分析的基本概念回歸分析的基本概念 回歸分析回歸分析(regression analysis)(regression analysis)是研究一個(gè)變量關(guān)于另一個(gè)（些）變量的具體依賴(lài)關(guān)系的計(jì)算方法和理論。 其目

4、的其目的在于通過(guò)后者的已知或設(shè)定值，去估計(jì)和（或）預(yù)測(cè)前者的（總體）均值。 被解釋變量被解釋變量（Explained Variable）或應(yīng)變應(yīng)變量量（Dependent Variable）。 解釋變量解釋變量（Explanatory Variable）或自變自變量量（Independent Variable）。 回歸分析構(gòu)成計(jì)量經(jīng)濟(jì)學(xué)的方法論基礎(chǔ)，其回歸分析構(gòu)成計(jì)量經(jīng)濟(jì)學(xué)的方法論基礎(chǔ)，其主要內(nèi)容包括：主要內(nèi)容包括： （1）根據(jù)樣本觀(guān)察值對(duì)經(jīng)濟(jì)計(jì)量模型參數(shù)進(jìn)行估計(jì)，求得回歸方程； （2）對(duì)回歸方程、參數(shù)估計(jì)值進(jìn)行顯著性檢驗(yàn)； （3）利用回歸方程進(jìn)行分析、評(píng)價(jià)及預(yù)測(cè)。二、總體回歸函數(shù)二、總體回歸

5、函數(shù) 回歸分析回歸分析關(guān)心的是根據(jù)解釋變量的已知或關(guān)心的是根據(jù)解釋變量的已知或給定值，考察被解釋變量的總體均值給定值，考察被解釋變量的總體均值，即當(dāng)解釋變量取某個(gè)確定值時(shí)，與之統(tǒng)計(jì)相關(guān)的被解釋變量所有可能出現(xiàn)的對(duì)應(yīng)值的平均值。 例例2.1：一個(gè)假想的社區(qū)有100戶(hù)家庭組成，要研究該社區(qū)每月家庭消費(fèi)支出家庭消費(fèi)支出Y與每月家庭可家庭可支配收入支配收入X的關(guān)系。 即如果知道了家庭的月收入，能否預(yù)測(cè)該社區(qū)家庭的平均月消費(fèi)支出水平。 為達(dá)到此目的，將該100戶(hù)家庭劃分為組內(nèi)收入差不多的10組，以分析每一收入組的家庭消費(fèi)支出。表表 2.1.1 某某社社區(qū)區(qū)家家庭庭每每月月收收入入與與消消費(fèi)費(fèi)支支出出統(tǒng)統(tǒng)

6、計(jì)計(jì)表表 每月家庭可支配收入X（元） 800 1100 1400 1700 2000 2300 2600 2900 3200 3500 561 638 869 1023 1254 1408 1650 1969 2090 2299 594 748 913 1100 1309 1452 1738 1991 2134 2321 627 814 924 1144 1364 1551 1749 2046 2178 2530 638 847 979 1155 1397 1595 1804 2068 2266 2629 935 1012 1210 1408 1650 1848 2101 2354 2860

7、968 1045 1243 1474 1672 1881 2189 2486 2871 1078 1254 1496 1683 1925 2233 2552 1122 1298 1496 1716 1969 2244 2585 1155 1331 1562 1749 2013 2299 2640 1188 1364 1573 1771 2035 2310 1210 1408 1606 1804 2101 1430 1650 1870 2112 1485 1716 1947 2200 每 月 家 庭 消 費(fèi) 支 出 Y （元） 2002 共計(jì) 2420 4950 11495 16445 1930

8、5 23870 25025 21450 21285 15510 由于不確定因素的影響，對(duì)同一收入水平X，不同家庭的消費(fèi)支出不完全相同； 但由于調(diào)查的完備性，給定收入水平X的消費(fèi)支出Y的分布是確定的，即以X的給定值為條件的Y的條件分布條件分布（Conditional distribution）是已知的，例如：P(Y=561|X=800）=1/4。 因此，給定收入X的值Xi，可得消費(fèi)支出Y的條件均值條件均值（conditional mean）或條件期望條件期望（conditional expectation）：E(Y|X=Xi)。 該例中：E(Y | X=800)=561 描出散點(diǎn)圖發(fā)現(xiàn)：隨著收入

9、的增加，消費(fèi)“平均地說(shuō)平均地說(shuō)”也在增加，且Y的條件均值均落在一根正斜率的直線(xiàn)上。這條直線(xiàn)稱(chēng)為總總體回歸線(xiàn)體回歸線(xiàn)。05001000150020002500300035005001000150020002500300035004000每月可支配收入X（元）每月消費(fèi)支出Y（元） 在給定解釋變量Xi條件下被解釋變量Yi的期望軌跡稱(chēng)為總體回歸線(xiàn)總體回歸線(xiàn)（population regression line），或更一般地稱(chēng)為總體回歸曲線(xiàn)總體回歸曲線(xiàn)（population regression curve）。)()|(iiXfXYE稱(chēng)為（雙變量）總體回歸函數(shù)總體回歸函數(shù)（population regr

10、ession function, PRF）。 相應(yīng)的函數(shù)： 含義：含義：回歸函數(shù)（PRF）說(shuō)明被解釋變量Y的平均狀態(tài)（總體條件期望）隨解釋變量X變化的規(guī)律。 函數(shù)形式：函數(shù)形式：可以是線(xiàn)性或非線(xiàn)性的。 例2.1中，將居民消費(fèi)支出看成是其可支配收入的線(xiàn)性函數(shù)時(shí): iiXXYE10)|(為一線(xiàn)性函數(shù)。線(xiàn)性函數(shù)。其中，0，1是未知參數(shù)，稱(chēng)為回歸系數(shù)回歸系數(shù)（regression coefficients）。三、隨機(jī)擾動(dòng)項(xiàng)三、隨機(jī)擾動(dòng)項(xiàng) 總體回歸函數(shù)說(shuō)明在給定的收入水平Xi下，該社區(qū)家庭平均的消費(fèi)支出水平。 但對(duì)某一個(gè)別的家庭，其消費(fèi)支出可能與該平均水平有偏差。 稱(chēng)為觀(guān)察值圍繞它的期望值的離差離差（d

11、eviation），是一個(gè)不可觀(guān)測(cè)的隨機(jī)變量，又稱(chēng)為隨機(jī)干擾項(xiàng)隨機(jī)干擾項(xiàng)（stochastic disturbance）或隨機(jī)誤差項(xiàng)隨機(jī)誤差項(xiàng)（stochastic error）。)|(iiiXYEY 例2.1中，給定收入水平Xi ,個(gè)別家庭的支出可表示為兩部分之和：（1）該收入水平下所有家庭的平均消費(fèi)支出E(Y|Xi)，稱(chēng)為系統(tǒng)性系統(tǒng)性（systematic）或確定性（確定性（deterministic)部分；部分；（2）其他隨機(jī)隨機(jī)或非確定性非確定性（nonsystematic)部部分分 i。 稱(chēng)為總體回歸函數(shù)（PRF）的隨機(jī)設(shè)定形式。表明被解釋變量除了受解釋變量的系統(tǒng)性影響外，還受其他因

12、素的隨機(jī)性影響。由于方程中引入了隨機(jī)項(xiàng)，成為計(jì)量經(jīng)濟(jì)學(xué)模型，因此也稱(chēng)為總體回歸模型。 隨機(jī)誤差項(xiàng)主要包括下列因素：隨機(jī)誤差項(xiàng)主要包括下列因素：在解釋變量中被忽略的因素的影響；變量觀(guān)測(cè)值的觀(guān)測(cè)誤差的影響；模型關(guān)系的設(shè)定誤差的影響；其他隨機(jī)因素的影響。 產(chǎn)生并設(shè)計(jì)隨機(jī)誤差項(xiàng)的主要原因：產(chǎn)生并設(shè)計(jì)隨機(jī)誤差項(xiàng)的主要原因：理論的含糊性；數(shù)據(jù)的欠缺；節(jié)省原則。四、樣本回歸函數(shù)（四、樣本回歸函數(shù)（SRF） 問(wèn)題：?jiǎn)栴}：能從一次抽樣中獲得總體的近似的信息嗎？如果可以，如何從抽樣中獲得總體的近似信息？ 例例2.2：在例2.1的總體中有如下一個(gè)樣本，能否從該樣本估計(jì)總體回歸函數(shù)PRF？表表2.1.3 家家庭庭消消

13、費(fèi)費(fèi)支支出出與與可可支支配配收收入入的的一一個(gè)個(gè)隨隨機(jī)機(jī)樣樣本本 Y 800 1100 1400 1700 2000 2300 2600 2900 3200 3500 X 594 638 1122 1155 1408 1595 1969 2078 2585 2530 回答：能 該樣本的散點(diǎn)圖散點(diǎn)圖（scatter diagram)： 畫(huà)一條直線(xiàn)以盡好地?cái)M合該散點(diǎn)圖，由于樣本取自總體，可以該直線(xiàn)近似地代表總體回歸線(xiàn)。該直線(xiàn)稱(chēng)為樣本回歸線(xiàn)樣本回歸線(xiàn)（sample regression lines）。）。 記樣本回歸線(xiàn)的函數(shù)形式為：iiiXXfY10)(稱(chēng)為樣本回歸函數(shù)樣本回歸函數(shù)（sample r

14、egression function，SRF）。 注意：注意：這里將樣本回歸線(xiàn)樣本回歸線(xiàn)看成總體回歸線(xiàn)總體回歸線(xiàn)的近似替代則 樣本回歸函數(shù)的隨機(jī)形式樣本回歸函數(shù)的隨機(jī)形式/ /樣本回歸模型：樣本回歸模型：同樣地，樣本回歸函數(shù)也有如下的隨機(jī)形式： iiiiieXYY10式中，ie稱(chēng)為（樣樣本本）殘殘差差（或剩剩余余）項(xiàng)項(xiàng)（residual） ，代表了其他影響iY的隨機(jī)因素的集合，可看成是i的估計(jì)量i。 由于方程中引入了隨機(jī)項(xiàng)，成為計(jì)量經(jīng)濟(jì)模型，因此也稱(chēng)為樣本回歸模型樣本回歸模型（sample regression model）。 回歸分析的主要目的回歸分析的主要目的：根據(jù)樣本回歸函數(shù)SRF，估計(jì)

15、總體回歸函數(shù)PRF。即，根據(jù) iiiiieXeYY10估計(jì)iiiiiXXYEY10)|(注意：注意：這里PRF可能永遠(yuǎn)無(wú)法知道。2.2 2.2 一元線(xiàn)性回歸模型的參數(shù)估計(jì)一元線(xiàn)性回歸模型的參數(shù)估計(jì) 一、一、一元線(xiàn)性回歸模型的基本假設(shè)一元線(xiàn)性回歸模型的基本假設(shè) 二、二、參數(shù)的普通最小二乘估計(jì)（參數(shù)的普通最小二乘估計(jì)（OLSOLS） 三、三、參數(shù)估計(jì)的最大或然法參數(shù)估計(jì)的最大或然法(ML) (ML) 四、四、最小二乘估計(jì)量的性質(zhì)最小二乘估計(jì)量的性質(zhì) 五、五、參數(shù)估計(jì)量的概率分布及隨機(jī)干參數(shù)估計(jì)量的概率分布及隨機(jī)干 擾項(xiàng)方差的估計(jì)擾項(xiàng)方差的估計(jì) 說(shuō)說(shuō) 明明 單方程計(jì)量經(jīng)濟(jì)學(xué)模型分為兩大類(lèi)：線(xiàn)性模型和

16、非線(xiàn)性模型 線(xiàn)性模型中，變量之間的關(guān)系呈線(xiàn)性關(guān)系 非線(xiàn)性模型中，變量之間的關(guān)系呈非線(xiàn)性關(guān)系 一元線(xiàn)性回歸模型：只有一個(gè)解釋變量iiiXY10i=1,2,nY為被解釋變量，X為解釋變量，0與1為待估待估參數(shù)參數(shù)， 為隨機(jī)干擾項(xiàng)隨機(jī)干擾項(xiàng) 回歸分析的主要目的回歸分析的主要目的是要通過(guò)樣本回歸函數(shù)（模型）SRF盡可能準(zhǔn)確地估計(jì)總體回歸函數(shù)（模型）PRF。 估計(jì)方法估計(jì)方法有多種，其中最廣泛使用的是普通最普通最小二乘法小二乘法（ordinary least squares, OLS）。 為保證參數(shù)估計(jì)量具有良好的性質(zhì)，通常對(duì)模型提出若干基本假設(shè)。 實(shí)際這些假設(shè)與所采用的估計(jì)方法緊密相關(guān)。 一、線(xiàn)性回歸

17、模型的基本假設(shè)一、線(xiàn)性回歸模型的基本假設(shè) 假設(shè)1. 解釋變量X是確定性變量，不是隨機(jī)變量； 假設(shè)2. 隨機(jī)誤差項(xiàng)具有零均值、同方差和不序列相關(guān)性： E(i)=0 i=1,2, ,n Var (i)=2 i=1,2, ,n Cov(i, j)=0 ij i,j= 1,2, ,n 假設(shè)3. 隨機(jī)誤差項(xiàng)與解釋變量X之間不相關(guān)： Cov(Xi, i)=0 i=1,2, ,n 假設(shè)4. 服從零均值、同方差、零協(xié)方差的正態(tài)分布 iN(0, 2 ) i=1,2, ,n1. 如果假設(shè)1、2滿(mǎn)足，則假設(shè)3也滿(mǎn)足;2. 如果假設(shè)4滿(mǎn)足，則假設(shè)2也滿(mǎn)足。注意：注意： 以上假設(shè)也稱(chēng)為線(xiàn)性回歸模型的經(jīng)典假經(jīng)典假設(shè)設(shè)或高

18、斯（高斯（Gauss）假設(shè)）假設(shè)，滿(mǎn)足該假設(shè)的線(xiàn)性回歸模型，也稱(chēng)為經(jīng)典線(xiàn)性回歸模型經(jīng)典線(xiàn)性回歸模型（Classical Linear Regression Model, CLRM）。 另外另外，在進(jìn)行模型回歸時(shí)，還有兩個(gè)暗含的假設(shè)： 假設(shè)5. 隨著樣本容量的無(wú)限增加，解釋變量X的樣本方差趨于一有限常數(shù)。即nQnXXi,/)(2 假設(shè)6. 回歸模型是正確設(shè)定的 假設(shè)5旨在排除時(shí)間序列數(shù)據(jù)出現(xiàn)持續(xù)上升或下降的變量作為解釋變量，因?yàn)檫@類(lèi)數(shù)據(jù)不僅使大樣本統(tǒng)計(jì)推斷變得無(wú)效，而且往往產(chǎn)生所謂的偽回歸問(wèn)題偽回歸問(wèn)題（spurious regression problem）。 假設(shè)6也被稱(chēng)為模型沒(méi)有設(shè)定偏誤設(shè)

19、定偏誤（specification error）二、參數(shù)的普通最小二乘估計(jì)（二、參數(shù)的普通最小二乘估計(jì)（OLSOLS） 給定一組樣本觀(guān)測(cè)值（Xi, Yi）（i=1,2,n）要求樣本回歸函數(shù)盡可能好地?cái)M合這組值. 普通最小二乘法普通最小二乘法（Ordinary least squares, OLS）給出的判斷標(biāo)準(zhǔn)是：二者之差的平方和niiiniXYYYQ121021)()(最小。方程組（*）稱(chēng)為正規(guī)方程組正規(guī)方程組（normal equations）。 記22221)(iiiiXnXXXx iiiiiiiiYXnYXYYXXyx1)(上述參數(shù)估計(jì)量可以寫(xiě)成： XYxyxiii1021 稱(chēng)為OLS

20、估計(jì)量的離差形式離差形式（deviation form）。）。 由于參數(shù)的估計(jì)結(jié)果是通過(guò)最小二乘法得到 的，故稱(chēng)為普通普通最小二乘估計(jì)量最小二乘估計(jì)量（ordinary least squares estimators）。 順便指出 ，記YYyii 則有 iniiieXXeXXy111010)()()(可得 iixy1（*）式也稱(chēng)為樣本回歸函數(shù)樣本回歸函數(shù)的離差形式離差形式。（*）注意：注意： 在計(jì)量經(jīng)濟(jì)學(xué)中，往往以小寫(xiě)字母表示對(duì)均值的離差。 三、參數(shù)估計(jì)的最大或然法三、參數(shù)估計(jì)的最大或然法(ML) 最大或然法最大或然法( (Maximum Likelihood,簡(jiǎn)稱(chēng)ML)，也稱(chēng)最大似然法最大

21、似然法，是不同于最小二乘法的另一種參數(shù)估計(jì)方法，是從最大或然原理出發(fā)發(fā)展起來(lái)的其他估計(jì)方法的基礎(chǔ)。 基本原理基本原理： 對(duì)于最大或然法最大或然法，當(dāng)從模型總體隨機(jī)抽取n組樣本觀(guān)測(cè)值后，最合理的參數(shù)估計(jì)量應(yīng)該使得從模型中抽取該n組樣本觀(guān)測(cè)值的概率最大。 在滿(mǎn)足基本假設(shè)條件下，對(duì)一元線(xiàn)性回歸模型： iiiXY10 隨機(jī)抽取n組樣本觀(guān)測(cè)值（Xi, Yi）（i=1,2,n）。 那么Yi服從如下的正態(tài)分布：),(210iiXNY于是，Y的概率函數(shù)為2102)(2121)(iiXYieYP（i=1,2,n）假如模型的參數(shù)估計(jì)量已經(jīng)求得，為因?yàn)閅i是相互獨(dú)立的，所以的所有樣本觀(guān)測(cè)值的聯(lián)合概率，也即或然函數(shù)或

22、然函數(shù)(likelihood function)(likelihood function)為： ),(),(21210nYYYPL 21022)(21)2(1iinXYne 將該或然函數(shù)極大化，即可求得到模型參數(shù)的極大或然估計(jì)量。 由于或然函數(shù)的極大化與或然函數(shù)的對(duì)數(shù)的極大化是等價(jià)的，所以，取對(duì)數(shù)或然函數(shù)如下：2102*)(21)2ln()ln(iiXYnLL解得模型的參數(shù)估計(jì)量為： 2212220)()(iiiiiiiiiiiiiXXnXYXYnXXnXYXYX 可見(jiàn)，在滿(mǎn)足一系列基本假設(shè)的情況下，模型結(jié)構(gòu)參數(shù)的最大或然估計(jì)量最大或然估計(jì)量與普通最小二乘估計(jì)普通最小二乘估計(jì)量量是相同的。 例

23、例2.2.1：在上述家庭可支配收入可支配收入- -消費(fèi)支出消費(fèi)支出例中，對(duì)于所抽出的一組樣本數(shù)，參數(shù)估計(jì)的計(jì)算可通過(guò)下面的表2.2.1進(jìn)行。 表表 2.2.1 參參數(shù)數(shù)估估計(jì)計(jì)的的計(jì)計(jì)算算表表 iX iY ix iy iiyx 2ix 2iy 2iX 2iY 1 800 594 -1350 -973 1314090 1822500 947508 640000 352836 2 1100 638 -1050 -929 975870 1102500 863784 1210000 407044 3 1400 1122 -750 -445 334050 562500 198381 1960000 12

24、58884 4 1700 1155 -450 -412 185580 202500 170074 2890000 1334025 5 2000 1408 -150 -159 23910 22500 25408 4000000 1982464 6 2300 1595 150 28 4140 22500 762 5290000 2544025 7 2600 1969 450 402 180720 202500 161283 6760000 3876961 8 2900 2078 750 511 382950 562500 260712 8410000 4318084 9 3200 2585 105

25、0 1018 1068480 1102500 1035510 10240000 6682225 10 3500 2530 1350 963 1299510 1822500 926599 12250000 6400900 求和 21500 15674 5769300 7425000 4590020 53650000 29157448 平均 2150 1567 777. 07425000576930021iiixyx172.1032150777. 0156700XY因此，由該樣本估計(jì)的回歸方程為： iiXY777.0172.103 四、最小二乘估計(jì)量的性質(zhì)四、最小二乘估計(jì)量的性質(zhì) 當(dāng)模型參數(shù)估計(jì)出

26、后，需考慮參數(shù)估計(jì)值的精度，即是否能代表總體參數(shù)的真值，或者說(shuō)需考察參數(shù)估計(jì)量的統(tǒng)計(jì)性質(zhì)。 一個(gè)用于考察總體的估計(jì)量，可從如下幾個(gè)方面考察其優(yōu)劣性： （1）線(xiàn)性性）線(xiàn)性性，即它是否是另一隨機(jī)變量的線(xiàn)性函數(shù)；（2）無(wú)偏性）無(wú)偏性，即它的均值或期望值是否等于總體的真實(shí)值；（3）有效性）有效性，即它是否在所有線(xiàn)性無(wú)偏估計(jì)量中具有最小方差。 這三個(gè)準(zhǔn)則也稱(chēng)作估計(jì)量的小樣本性質(zhì)。小樣本性質(zhì)。 擁有這類(lèi)性質(zhì)的估計(jì)量稱(chēng)為最佳線(xiàn)性無(wú)偏估計(jì)最佳線(xiàn)性無(wú)偏估計(jì)量量（best liner unbiased estimator, BLUE）。 （4）漸近無(wú)偏性）漸近無(wú)偏性，即樣本容量趨于無(wú)窮大時(shí)，是否它的均值序列趨于總

27、體真值；（5）一致性）一致性，即樣本容量趨于無(wú)窮大時(shí)，它是否依概率收斂于總體的真值；（6）漸近有效性）漸近有效性，即樣本容量趨于無(wú)窮大時(shí)，是否它在所有的一致估計(jì)量中具有最小的漸近方差。 當(dāng)不滿(mǎn)足小樣本性質(zhì)時(shí)，需進(jìn)一步考察估計(jì)量的大樣本大樣本或或漸近性質(zhì)漸近性質(zhì)：高斯高斯馬爾可夫定理馬爾可夫定理(Gauss-Markov theorem) 在給定經(jīng)典線(xiàn)性回歸的假定下，最小在給定經(jīng)典線(xiàn)性回歸的假定下，最小二乘估計(jì)量是具有最小方差的線(xiàn)性無(wú)偏估二乘估計(jì)量是具有最小方差的線(xiàn)性無(wú)偏估計(jì)量。計(jì)量。2 2、無(wú)無(wú)偏偏性性，即估計(jì)量0、1的均值（期望）等于總體回歸參數(shù)真值0與1 證：證：iiiiiiiiiikXk

28、kXkYk10101)(易知02iiixxk1iiXk故iik111111)()()(iiiiEkkEE同樣地，容易得出 0000)()()()(iiiiEwEwEE3 3、有有效效性性（最最小小方方差差性性） ，即在所有線(xiàn)性無(wú)偏估計(jì)量中，最小二乘估計(jì)量0、1具有最小方差。 (1)先求0與1的方差 )var()var()var()var(21021iiiiiiikXkYk22222iiixxx2222222221121iiiiixxXkXnnkXkXnn22222222221iiiiixnXxnXnxxXn221020)/ 1 ()var()var()var(iiiiiikXnXwYw（2）證

29、明最小方差性假設(shè)*1是其他估計(jì)方法得到的關(guān)于1的線(xiàn)性無(wú)偏估計(jì)量： iiYc*1其中，ci=ki+di，di為不全為零的常數(shù)則容易證明)var()var(1*1同理，可證明0的最小二乘估計(jì)量0具有最的小方差 普通最小二乘估計(jì)量普通最小二乘估計(jì)量（ordinary least Squares Estimators）稱(chēng)為最佳線(xiàn)性無(wú)偏估計(jì)量最佳線(xiàn)性無(wú)偏估計(jì)量（best linear unbiased estimator, BLUE） 由于最小二乘估計(jì)量擁有一個(gè)由于最小二乘估計(jì)量擁有一個(gè)“好好”的估計(jì)量的估計(jì)量所應(yīng)具備的小樣本特性，它自然也擁有大樣本特性所應(yīng)具備的小樣本特性，它自然也擁有大樣本特性。 )

30、/lim()/lim()lim()lim()lim()lim(212111nxPnxPxxPPkPPiiiiiiii1110),(QQXCov 五、參數(shù)估計(jì)量的概率分布及隨機(jī)干擾五、參數(shù)估計(jì)量的概率分布及隨機(jī)干擾項(xiàng)方差的估計(jì)項(xiàng)方差的估計(jì) 1、參數(shù)估計(jì)量、參數(shù)估計(jì)量0和和1的概率分布的概率分布 ),(2211ixN),(22200iixnXN22/1ix2220iixnX 2. 隨機(jī)誤差項(xiàng)隨機(jī)誤差項(xiàng) 的方差的方差 2的估計(jì)的估計(jì)2又稱(chēng)為總體方差總體方差。 由于隨機(jī)項(xiàng) i不可觀(guān)測(cè)，只能從 i的估計(jì)殘差ei出發(fā)，對(duì)總體方差進(jìn)行估計(jì)。 可以證明可以證明， 2的最小二乘估計(jì)量最小二乘估計(jì)量為222nei

31、它是關(guān)于2的無(wú)偏估計(jì)量。 在最大或然估計(jì)法最大或然估計(jì)法中， 因此， 2 2的最大或然估計(jì)量不具無(wú)偏的最大或然估計(jì)量不具無(wú)偏性，但卻具有一致性性，但卻具有一致性。 在隨機(jī)誤差項(xiàng)的方差2估計(jì)出后，參數(shù)0和1的方方差差和標(biāo)標(biāo)準(zhǔn)準(zhǔn)差差的估計(jì)量分別是： 1的樣本方差： 2221ixS 1的樣本標(biāo)準(zhǔn)差： 21ixS 0的樣本方差： 22220iixnXS 0的樣本標(biāo)準(zhǔn)差： 220iixnXS 2.3 2.3 一元線(xiàn)性回歸模型的統(tǒng)計(jì)檢驗(yàn)一元線(xiàn)性回歸模型的統(tǒng)計(jì)檢驗(yàn) 一、一、擬合優(yōu)度檢驗(yàn)擬合優(yōu)度檢驗(yàn) 二、二、變量的顯著性檢驗(yàn)變量的顯著性檢驗(yàn) 三、三、參數(shù)的置信區(qū)間參數(shù)的置信區(qū)間 說(shuō)說(shuō) 明明 回歸分析是要通過(guò)樣

32、本所估計(jì)的參數(shù)來(lái)代替總體的真實(shí)參數(shù)，或者說(shuō)是用樣本回歸線(xiàn)代替總體回歸線(xiàn)。 盡管從統(tǒng)計(jì)性質(zhì)上已知，如果有足夠多的重復(fù) 抽樣，參數(shù)的估計(jì)值的期望（均值）就等于其總體的參數(shù)真值，但在一次抽樣中，估計(jì)值不一定就等于該真值。 那么，在一次抽樣中，參數(shù)的估計(jì)值與真值的差異有多大，是否顯著，這就需要進(jìn)一步進(jìn)行統(tǒng)計(jì)檢驗(yàn)統(tǒng)計(jì)檢驗(yàn)。 主要包括擬合優(yōu)度檢驗(yàn)擬合優(yōu)度檢驗(yàn)、變量的顯著性檢驗(yàn)顯著性檢驗(yàn)及參數(shù)的區(qū)間估計(jì)區(qū)間估計(jì)。 一、擬合優(yōu)度檢驗(yàn)一、擬合優(yōu)度檢驗(yàn) 擬合優(yōu)度檢驗(yàn)擬合優(yōu)度檢驗(yàn)對(duì)樣本回歸直線(xiàn)與樣本觀(guān)測(cè)值之間擬合程度的檢驗(yàn)。 度量擬合優(yōu)度的指標(biāo)：判定系數(shù)判定系數(shù)（可決系數(shù)可決系數(shù)）R2 2 問(wèn)題問(wèn)題：采用普通最小二

33、乘估計(jì)方法，已經(jīng)保證了模型最好地?cái)M合了樣本觀(guān)測(cè)值，為什么還要檢驗(yàn)擬合程度？ 1 1、總離差平方和的分解、總離差平方和的分解 已知由一組樣本觀(guān)測(cè)值（Xi,Yi），i=1,2,n得到如下樣本回歸直線(xiàn) iiXY10iiiiiiiyeYYYYYYy)()( 如果Yi=i 即實(shí)際觀(guān)測(cè)值落在樣本回歸“線(xiàn)”上，則擬合最好擬合最好。 可認(rèn)為，“離差”全部來(lái)自回歸線(xiàn)，而與“殘差”無(wú)關(guān)。 對(duì)于所有樣本點(diǎn)，則需考慮這些點(diǎn)與樣本均值離差的平方和,可以證明：TSS=ESS+RSS22)(YYyTSSii記22)(YYyESSii22)(iiiYYeRSS總體平方和總體平方和（Total Sum of Squares）回

34、歸平方和回歸平方和（Explained Sum of Squares）殘差平方和殘差平方和（Residual Sum of Squares ） Y的觀(guān)測(cè)值圍繞其均值的總離差的觀(guān)測(cè)值圍繞其均值的總離差(total variation)可分解為兩部分：一部分來(lái)自回可分解為兩部分：一部分來(lái)自回歸線(xiàn)歸線(xiàn)(ESS)，另一部分則來(lái)自隨機(jī)勢(shì)力，另一部分則來(lái)自隨機(jī)勢(shì)力(RSS)。 在給定樣本中，TSS不變， 如果實(shí)際觀(guān)測(cè)點(diǎn)離樣本回歸線(xiàn)越近，則ESS在TSS中占的比重越大，因此 擬合優(yōu)度：回歸平方和擬合優(yōu)度：回歸平方和ESS/Y的總離差的總離差TSSTSSRSSTSSESSR1記22、可決系數(shù)、可決系數(shù)R2 2

35、統(tǒng)計(jì)量統(tǒng)計(jì)量 稱(chēng) R2 為（樣本）（樣本）可決系數(shù)可決系數(shù)/判定系數(shù)判定系數(shù)（coefficient of determination)。 可決系數(shù)可決系數(shù)的取值范圍取值范圍：0，1 R2 2越接近越接近1 1，說(shuō)明實(shí)際觀(guān)測(cè)點(diǎn)離樣本線(xiàn)越近，說(shuō)明實(shí)際觀(guān)測(cè)點(diǎn)離樣本線(xiàn)越近，擬合優(yōu)度越高擬合優(yōu)度越高。在實(shí)際計(jì)算可決系數(shù)時(shí)，在1已經(jīng)估計(jì)出后： 22212iiyxR 在例2.1.1的收入消費(fèi)支出收入消費(fèi)支出例中， 9766. 045900207425000)777. 0(222212iiyxR 注：可決系數(shù)注：可決系數(shù)是一個(gè)非負(fù)的統(tǒng)計(jì)量。它也是隨著抽樣的不同而不同。為此，對(duì)可決系數(shù)的統(tǒng)計(jì)可靠性也應(yīng)進(jìn)行檢驗(yàn)

36、，這將在第3章中進(jìn)行。 二、變量的顯著性檢驗(yàn)二、變量的顯著性檢驗(yàn) 回歸分析回歸分析是要判斷解釋變量解釋變量X是否是被解釋變被解釋變量量Y的一個(gè)顯著性的影響因素。 在一元線(xiàn)性模型一元線(xiàn)性模型中，就是要判斷X是否對(duì)Y具有顯著的線(xiàn)性性影響。這就需要進(jìn)行變量的顯著變量的顯著性檢驗(yàn)。性檢驗(yàn)。 變量的顯著性檢驗(yàn)所應(yīng)用的方法是數(shù)理統(tǒng)計(jì)變量的顯著性檢驗(yàn)所應(yīng)用的方法是數(shù)理統(tǒng)計(jì)學(xué)中的學(xué)中的假設(shè)檢驗(yàn)假設(shè)檢驗(yàn)。 計(jì)量經(jīng)濟(jì)學(xué)中計(jì)量經(jīng)濟(jì)學(xué)中，主要是針對(duì)變量的參數(shù)真值，主要是針對(duì)變量的參數(shù)真值是否為零來(lái)進(jìn)行顯著性檢驗(yàn)的。是否為零來(lái)進(jìn)行顯著性檢驗(yàn)的。 1、假設(shè)檢驗(yàn)、假設(shè)檢驗(yàn) 所謂假設(shè)檢驗(yàn)假設(shè)檢驗(yàn)，就是事先對(duì)總體參數(shù)或總體分布

37、形式作出一個(gè)假設(shè)，然后利用樣本信息來(lái)判斷原假設(shè)是否合理，即判斷樣本信息與原假設(shè)是否有顯著差異，從而決定是否接受或否定原假設(shè)。 假設(shè)檢驗(yàn)采用的邏輯推理方法是反證法假設(shè)檢驗(yàn)采用的邏輯推理方法是反證法 先假定原假設(shè)正確，然后根據(jù)樣本信息，觀(guān)察由此假設(shè)而導(dǎo)致的結(jié)果是否合理，從而判斷是否接受原假設(shè)。 判斷結(jié)果合理與否，是基于判斷結(jié)果合理與否，是基于“小概率事件不易小概率事件不易發(fā)生發(fā)生”這一原理的這一原理的 2、變量的顯著性檢驗(yàn)、變量的顯著性檢驗(yàn) ),(2211ixN)2(1112211ntSxti 檢驗(yàn)步驟：檢驗(yàn)步驟： （1）對(duì)總體參數(shù)提出假設(shè) H0： 1=0， H1：10（2）以原假設(shè)H0構(gòu)造t統(tǒng)計(jì)

38、量，并由樣本計(jì)算其值11St （3）給定顯著性水平，查t分布表得臨界值t /2(n-2) (4) 比較，判斷 若 |t| t /2(n-2)，則拒絕H0 ，接受H1 ； 若 |t| t /2(n-2)，則拒絕H1 ，接受H0 ； 對(duì)于一元線(xiàn)性回歸方程中的0，可構(gòu)造如下t統(tǒng)計(jì)量進(jìn)行顯著性檢驗(yàn)： 在上述收入消費(fèi)支出例中，首先計(jì)算2的估計(jì)值 134022107425000777. 04590020222221222nxyneiii)2(0022200ntSxnXtii41.98742500010/53650000134022220iixnXSt統(tǒng)計(jì)量的計(jì)算結(jié)果分別為： 29.180425. 0777

39、. 0111St048. 141.9817.103000St 給定顯著性水平=0.05，查t分布表得臨界值 t 0.05/2(8)=2.306 |t1|2.306，說(shuō)明家庭可支配收入在95%的置信度下顯著，即是消費(fèi)支出的主要解釋變量； |t2|2.306,表明在95%的置信度下，無(wú)法拒絕截距項(xiàng)為零的假設(shè)。 假設(shè)檢驗(yàn)可以通過(guò)一次抽樣的結(jié)果檢驗(yàn)總體參數(shù)可能的假設(shè)值的范圍（如是否為零），但它并沒(méi)有指出在一次抽樣中樣本參數(shù)值到底離總體參數(shù)的真值有多“近”。 三、參數(shù)的置信區(qū)間三、參數(shù)的置信區(qū)間 要判斷樣本參數(shù)的估計(jì)值在多大程度上可以“近似”地替代總體參數(shù)的真值，往往需要通過(guò)構(gòu)造一個(gè)以樣本參數(shù)的估計(jì)值為

40、中心的“區(qū)間”，來(lái)考察它以多大的可能性（概率）包含著真實(shí)的參數(shù)值。這種方法就是參數(shù)檢驗(yàn)的置信區(qū)間估計(jì)置信區(qū)間估計(jì)。 1)(P 如果存在這樣一個(gè)區(qū)間，稱(chēng)之為置信區(qū)間置信區(qū)間（confidence interval）； 1-稱(chēng)為置信系數(shù)置信系數(shù)（置信度置信度）（confidence coefficient）， 稱(chēng)為顯著性水平顯著性水平（level of significance）；置信區(qū)間的端點(diǎn)稱(chēng)為置信限置信限（confidence limit）或臨界值臨界值（critical values）。一元線(xiàn)性模型中一元線(xiàn)性模型中， i (i=1，2）的置信區(qū)間的置信區(qū)間: :在變量的顯著性檢驗(yàn)中已經(jīng)知道

41、： )2(ntstiii 意味著，如果給定置信度（1-），從分布表中查得自由度為(n-2)的臨界值，那么t值處在(-t/2, t/2)的概率是(1- )。表示為： P ttt() 221即P tstiii() 221Ptstsiiiii()221于是得到:(1-)的置信度下, i的置信區(qū)間是 (,)iitstsii22在上述收入收入- -消費(fèi)支出消費(fèi)支出例中，如果給定 =0.01，查表得： 355. 3) 8 () 2(005. 02tnt由于042. 01S41.980S于是，1、0的置信區(qū)間分別為： （0.6345,0.9195) （-433.32,226.98） 由于置信區(qū)間一定程度地給

42、出了樣本參數(shù)估計(jì)值與總體參數(shù)真值的“接近”程度，因此置信區(qū)間越小越好。 要縮小置信區(qū)間，需要 （1）增大樣本容量）增大樣本容量n。因?yàn)樵谕瑯拥闹眯潘较?，n越大，t分布表中的臨界值越?。煌瑫r(shí)，增大樣本容量，還可使樣本參數(shù)估計(jì)量的標(biāo)準(zhǔn)差減小； （2）提高模型的擬合優(yōu)度。）提高模型的擬合優(yōu)度。因?yàn)闃颖緟?shù)估計(jì)量的標(biāo)準(zhǔn)差與殘差平方和呈正比，模型擬合優(yōu)度越高，殘差平方和應(yīng)越小。 由于置信區(qū)間一定程度地給出了樣本參數(shù)估計(jì)值與總體參數(shù)真值的“接近”程度，因此置信區(qū)間越小越好。 要縮小置信區(qū)間，需 （1）增大樣本容量）增大樣本容量n，因?yàn)樵谕瑯拥闹眯潘较拢琻越大，t分布表中的臨界值越小；同時(shí)，增大樣本容量

43、，還可使樣本參數(shù)估計(jì)量的標(biāo)準(zhǔn)差減?。?（2）提高模型的擬合優(yōu)度）提高模型的擬合優(yōu)度，因?yàn)闃颖緟?shù)估計(jì)量的標(biāo)準(zhǔn)差與殘差平方和呈正比，模型擬合優(yōu)度越高，殘差平方和應(yīng)越小。2.4 2.4 一元線(xiàn)性回歸分析的應(yīng)用：預(yù)一元線(xiàn)性回歸分析的應(yīng)用：預(yù)測(cè)問(wèn)題測(cè)問(wèn)題 一、一、0 0是條件均值是條件均值E(Y|X=X0)或個(gè)值或個(gè)值Y0的一個(gè)無(wú)偏估計(jì)的一個(gè)無(wú)偏估計(jì)二、二、總體條件均值與個(gè)值預(yù)測(cè)值的置信總體條件均值與個(gè)值預(yù)測(cè)值的置信區(qū)間區(qū)間 對(duì)于一元線(xiàn)性回歸模型 iiXY10給定樣本以外的解釋變量的觀(guān)測(cè)值X0，可以得到被解釋變量的預(yù)測(cè)值0 0 ，可以此作為其條件均條件均值值E(Y|X=X0)或個(gè)別值個(gè)別值Y0的一個(gè)近

44、似估計(jì)。 嚴(yán)格地說(shuō)，這只是被解釋變量的預(yù)測(cè)值的估計(jì)值，而不是預(yù)測(cè)值。原因: （1）參數(shù)估計(jì)量不確定； （2）隨機(jī)項(xiàng)的影響說(shuō)說(shuō) 明明 一、一、0 0是條件均值是條件均值E(Y|X=X0)或個(gè)值或個(gè)值Y0的一個(gè)無(wú)偏估計(jì)的一個(gè)無(wú)偏估計(jì)對(duì)總體回歸函數(shù)總體回歸函數(shù)E(Y|X=X0)=0+1X，X=X0時(shí) E(Y|X=X0)=0+1X00100XY于是0101000100)()()()(XEXEXEYE可見(jiàn)，可見(jiàn)，0是條件均值是條件均值E(Y|X=X0)的無(wú)偏估計(jì)。的無(wú)偏估計(jì)。對(duì)總體回歸模型總體回歸模型Y=0+1X+，當(dāng)X=X0時(shí)0100XY于是0100100100)()()(XEXXEYE0101000

45、100)()()()(XEXEXEYE 二、總體條件均值與個(gè)值預(yù)測(cè)值的置信二、總體條件均值與個(gè)值預(yù)測(cè)值的置信區(qū)間區(qū)間 1、總體均值預(yù)測(cè)值的置信區(qū)間、總體均值預(yù)測(cè)值的置信區(qū)間 由于 0100XY),(2211ixN),(22200iixnXN于是0101000)()()(XEXEYE)(),(2)()(12010000VarXCovXVarYVar可以證明 2210/),(ixXCov因此 222022022202)(iiiixXxXXxnXYVar200222222XXXXnXnXxii)(20222XXnxxii)(1(2202ixXXn故 )(1(,(22020100ixXXnXNY) 2

46、()(00100ntSXYtY)(1(22020iYxXXnS于是，在1-的置信度下，總體均值總體均值E(Y|X0)的置的置信區(qū)間為信區(qū)間為 0202000)|(YYStYXYEStY其中2、總體個(gè)值預(yù)測(cè)值的預(yù)測(cè)區(qū)間、總體個(gè)值預(yù)測(cè)值的預(yù)測(cè)區(qū)間 由 Y0=0+1X0+ 知: ),(20100XNY于是 )(11 (, 0(220200ixXXnNYY) 2(0000ntSYYtYY式中 :)(11 (220200iYYxXXnS從而在1-的置信度下， Y0的置信區(qū)間的置信區(qū)間為 002020000YYYYStYYStY在上述收入收入消費(fèi)支出消費(fèi)支出例中，得到的樣本回歸函數(shù)為:iiXY777. 0

47、172.103 則在 X0=1000處， 0 = 103.172+0.7771000=673.84 29.37277425000)21501000(10113402)(20YVar而05.61)(0YS 因此，總體均值總體均值E(Y|X=1000)的95%的置信區(qū)間為： 673.84-2.30661.05 E(Y|X=1000) 673.84+2.30661.05或 （533.05, 814.62） 同樣地，對(duì)于Y在X=1000的個(gè)體值個(gè)體值，其95%的置信區(qū)間為： 673.84 - 2.30661.05Yx=1000 673.84 + 2.30661.05或 (372.03, 975.65)

48、 總體回歸函數(shù)的置信帶（域）置信帶（域）（confidence band） 個(gè)體的置信帶（域）置信帶（域） 對(duì)于Y的總體均值E(Y|X)與個(gè)體值的預(yù)測(cè)區(qū)間（置信區(qū)間）:（1）樣本容量n越大，預(yù)測(cè)精度越高，反之預(yù)測(cè)精度越低；（2）樣本容量一定時(shí)，置信帶的寬度當(dāng)在X均值處最小，其附近進(jìn)行預(yù)測(cè)（插值預(yù)測(cè)）精度越大；X越遠(yuǎn)離其均值，置信帶越寬，預(yù)測(cè)可信度下降。2.5 2.5 實(shí)例：時(shí)間序列問(wèn)題實(shí)例：時(shí)間序列問(wèn)題 一、一、中國(guó)居民人均消費(fèi)模型中國(guó)居民人均消費(fèi)模型 二、二、時(shí)間序列問(wèn)題時(shí)間序列問(wèn)題 一、中國(guó)居民人均消費(fèi)模型一、中國(guó)居民人均消費(fèi)模型 例例2.5.1 考察中國(guó)居民收入與消費(fèi)支出的關(guān)系。GDPP

49、： 人均國(guó)內(nèi)生產(chǎn)總值人均國(guó)內(nèi)生產(chǎn)總值（1990年不變價(jià)）CONSP：人均居民消費(fèi)人均居民消費(fèi)（以居民消費(fèi)價(jià)格指數(shù)（1990=100）縮減）。 表表2.5.1 中中國(guó)國(guó)居居民民人人均均消消費(fèi)費(fèi)支支出出與與人人均均GDP（元元/人人） 年份 人均居民消費(fèi) CONSP 人均GDP GDPP 年份 人均居民消費(fèi) CONSP 人均GDP GDPP 1978 395.8 675.1 1990 797.1 1602.3 1979 437.0 716.9 1991 861.4 1727.2 1980 464.1 763.7 1992 966.6 1949.8 1981 501.9 792.4 1993 104

50、8.6 2187.9 1982 533.5 851.1 1994 1108.7 2436.1 1983 572.8 931.4 1995 1213.1 2663.7 1984 635.6 1059.2 1996 1322.8 2889.1 1985 716.0 1185.2 1997 1380.9 3111.9 1986 746.5 1269.6 1998 1460.6 3323.1 1987 788.3 1393.6 1999 1564.4 3529.3 1988 836.4 1527.0 2000 1690.8 3789.7 1989 779.7 1565.9 1. 建立模型建立模型 擬建立如下一元回歸模型 GDPPCCONSP采用Eviews軟件軟件進(jìn)行回歸分析的結(jié)果見(jiàn)下表 該兩組數(shù)據(jù)是19782000年的時(shí)間序列數(shù)據(jù)時(shí)間序列數(shù)據(jù)（time series data）