線性回歸分析(Eviews6.0).ppt

第二講 第三章 線性回歸分析 第一節(jié) 線性回歸模型及其假設(shè),1,研究經(jīng)濟(jì)問題 量化分析意識 量化分析手段 建立計(jì)量模型 用模型解釋經(jīng)濟(jì)問題,2,上一講重要概念：,研究某一經(jīng)濟(jì)現(xiàn)象，會面臨兩個(gè)問題： 一是一個(gè)變量的變化常常受其他多個(gè)經(jīng)濟(jì)變量的影響。為描述這些變量之間的關(guān)系，研究這些變量之間的變化規(guī)律，通常要建立計(jì)量經(jīng)濟(jì)模型，研究模型參數(shù)，進(jìn)而利用計(jì)量經(jīng)濟(jì)模型進(jìn)行預(yù)測。通常運(yùn)用回歸分析方法。 二是僅知道一個(gè)變量的歷史數(shù)據(jù)，要研究它的變化規(guī)律，也要建立計(jì)量經(jīng)濟(jì)模型，研究模型參數(shù)，進(jìn)而利用計(jì)量經(jīng)濟(jì)模型進(jìn)行預(yù)測。通常運(yùn)用時(shí)間序列分析方法,3,上一講重要概念：,線性回歸分析主要研究經(jīng)濟(jì)變量之間的線性因果關(guān)系。 以預(yù)先設(shè)定的線性回歸模型為基礎(chǔ)，而且設(shè)定的模型一般有經(jīng)濟(jì)理論根據(jù)。 回歸分析關(guān)心的是根據(jù)解釋變量的已知或給定值，考察被解釋變量的總體均值 在給定解釋變量Xi條件下被解釋變量Yi的期望(平均值）軌跡稱為總體回歸線 相應(yīng)的函數(shù) 稱為（雙變量）總體回歸函數(shù),4,回歸函數(shù)（PRF）說明被解釋變量Y的平均狀態(tài)（總體條件期望）隨解釋變量X變化的規(guī)律 隨機(jī)擾動項(xiàng) 總體回歸模型,5,隨機(jī)誤差項(xiàng)主要包括下列因素的影響：,1）在解釋變量中被忽略的因素的影響； 2）變量觀測值的觀測誤差的影響； 3）模型關(guān)系的設(shè)定誤差的影響； 4）其它隨機(jī)因素的影響。,6,產(chǎn)生并設(shè)計(jì)隨機(jī)誤差項(xiàng)的主要原因： 1）理論的含糊性； 2）數(shù)據(jù)的欠缺； 3）節(jié)省原則。,樣本回歸函數(shù)（SRF）,記樣本回歸線的函數(shù)形式為： 稱為樣本回歸函數(shù),7,這里將樣本回歸線看成總體回歸線的近似替代,8,則,注意：,回歸分析的主要目的：根據(jù)樣本回歸函數(shù)SRF，估計(jì)總體回歸函數(shù)PRF。,SRF 在某種規(guī)則下（古典假設(shè)） 是PRF的最好估計(jì),9,10,總體回歸模型n個(gè)隨機(jī)方程的矩陣表達(dá)式為,模型的假設(shè),線性回歸模型必須滿足一定的假設(shè)，主要包括： 1、變量Y和 之間存在線性隨機(jī)函數(shù)關(guān)系 2、對應(yīng)每組觀測數(shù)據(jù)的誤差項(xiàng) 都為零均值的隨機(jī)變量；E( )=0 3、誤差項(xiàng) 的方差為常數(shù)；Var( )= 4、對應(yīng)不同觀測數(shù)據(jù)的誤差項(xiàng)不相關(guān),11,5、解釋變量 （k=1,K）是確定性變量而非隨機(jī)變量。當(dāng)存在多個(gè)解釋變量（K1）時(shí)假設(shè)不同解釋變量之間不存在線性關(guān)系，包括嚴(yán)格的線性關(guān)系和強(qiáng)的近似線性關(guān)系。 6、誤差項(xiàng) 服從正態(tài)分布。,12,第二節(jié) 參數(shù)估計(jì),設(shè)定線性回歸模型的前提是相信變量關(guān)系確實(shí)存在。 根據(jù)數(shù)據(jù)求出參數(shù)的取值。 這就是線性回歸模型的參數(shù)估計(jì)，是線性回歸分析的核心工作。,13,一、參數(shù)的最小二乘估計(jì),在模型假設(shè)成立的前提下，線性回歸模型參數(shù)估計(jì)的主要方法有 最大似然估計(jì)、 矩估計(jì) 最小二乘估計(jì) 三種方法估計(jì)的結(jié)果基本一致。由于最小二乘法的要求比較簡單，而且可以作更多的擴(kuò)展，因此最小二乘法是線性回歸模型參數(shù)估計(jì)的基本方法。,14,15,(一).一元線性回歸模型,一元線性回歸模型：只有一個(gè)解釋變量,i=1,2,n,Y為被解釋變量，X為解釋變量，0與1為待估參數(shù)， 為隨機(jī)干擾項(xiàng),給定一組樣本觀測值（Xi, Yi）（i=1,2,n）要求樣本回歸函數(shù)Y=a+bX盡可能好地?cái)M合這組值.對給定的Xi ,樣本點(diǎn)縱坐標(biāo)與回歸直線縱坐標(biāo)之間的偏差 ei= Yi-(a+bXi) 普通最小二乘法（Ordinary least squares, OLS）給出的判斷標(biāo)準(zhǔn)是：二者之差的平方和,16,最小。,最小二乘估計(jì)的基本思路： 核心： 最小化,17,參數(shù)估計(jì)值,18,例3-2-1上海經(jīng)濟(jì)的消費(fèi)規(guī)律研究,19,使用Eviews進(jìn)行回歸分析,1.打開Eviews 2.建立工作文件：File/New/Workfile 在Workfile Create(創(chuàng)建文件)對話框中 (1) Workfile Structure Type(數(shù)據(jù)結(jié)構(gòu)類型)中選擇Dated-reqular frequency(對通常時(shí)間序列數(shù)據(jù)都這樣選),20,(2)Dated Specification框下,Frequency中選擇Annual Start中填入1981 End中填入1998 (3)Names(Optional)框下 Wf中填入文件名 Page中填入p1或pi(也可不填) 點(diǎn)擊OK,21,（3）輸入和編輯數(shù)據(jù),建立新序列：點(diǎn)擊Objects/New Object 在Type of object下選擇Seris(時(shí)間序列) 在Name for object下填入序列名 點(diǎn)擊OK 在Workfile對話框下 雙擊序列x的圖標(biāo)，出現(xiàn)Series:x對話框 點(diǎn)擊Edit+/- ，依次輸入數(shù)據(jù)。,22,（4）.回歸分析 Equation,(1)點(diǎn)擊Object/New object/Equation/填入回歸方程的名字； (2)在Equation specification框中輸入 Y C X 可得到Eviews回歸結(jié)果：,23,Eviews回歸結(jié)果,Dependent Variable: Y Method: Least Squares Date: 03/02/08 Time: 10:13 Sample: 1981 1998 Included observations: 18 Variable Coefficient Std. Error t-Statistic Prob. C 144.6786 35.50781 4.074556 0.0009 X 0.789808 0.008022 98.45858 0.0000 R-squared 0.998352 Mean dependent var 2807.444 Adjusted R-squared 0.998249 S.D. dependent var 2333.000 S.E. of regression 97.61747 Akaike info criterion 12.10443 Sum squared resid 152466.7 Schwarz criterion 12.20336 Log likelihood -106.9399 F-statistic 9694.092 Durbin-Watson stat 1.082919 Prob(F-statistic) 0.000000,24,（5）.保存工作文件,點(diǎn)擊File/Save as/盤符/文件名 6.加載工作文件 點(diǎn)擊File/Open/Eviews workfile/盤符/文件名/打開,25,操作圖示,26,27,28,29,30,31,32,33,34,Eviews回歸結(jié)果,Dependent Variable: Y Method: Least Squares Date: 03/02/08 Time: 10:13 Sample: 1981 1998 Included observations: 18 Variable Coefficient Std. Error t-Statistic Prob. C 144.6786 35.50781 4.074556 0.0009 X 0.789808 0.008022 98.45858 0.0000 R-squared 0.998352 Mean dependent var 2807.444 Adjusted R-squared 0.998249 S.D. dependent var 2333.000 S.E. of regression 97.61747 Akaike info criterion 12.10443 Sum squared resid 152466.7 Schwarz criterion 12.20336 Log likelihood -106.9399 F-statistic 9694.092 Durbin-Watson stat 1.082919 Prob(F-statistic) 0.000000,35,例3-2-2(教材例3-1)Eviews計(jì)算結(jié)果,Dependent Variable: Y Method: Least Squares Date: 03/02/08 Time: 15:13 Sample: 1981 2002 Included observations: 22 Variable Coefficient Std. Error t-Statistic Prob. C 237.752952799707 68.3551736117468 3.4781998236173 0.00237181875731987 X 0.751088775963591 0.010396452398397 72.2447184079256 1.15963513340516e-25 R-squared 0.996182695679258 Mean dependent var 3975 Adjusted R-squared 0.995991830463221 S.D. dependent var 3310.25739180505 S.E. of regression 209.572746755865 Akaike info criterion 13.6145269063696 Sum squared resid 878414.723655962 Schwarz criterion 13.7137125839476 Log likelihood -147.759795970065 F-statistic 5219.29933784047 Durbin-Watson stat 1.28776506339404 Prob(F-statistic) 1.15963513340517e-25,36,(二)、多元線性回歸模型,多元線性回歸模型:表現(xiàn)在線性回歸模型中的解釋變量有多個(gè)。 一般表現(xiàn)形式：,37,i=1,2,n,其中:k為解釋變量的數(shù)目，j稱為回歸參數(shù)（regression coefficient）。 習(xí)慣上：把常數(shù)項(xiàng)看成為一虛變量的系數(shù)，該虛變量的樣本觀測值始終取1。這樣： 模型中解釋變量的數(shù)目為（k+1）,38,也被稱為總體回歸函數(shù)的隨機(jī)表達(dá)形式。它 的非隨機(jī)表達(dá)式為:,方程表示：各變量X值固定時(shí)Y的平均響應(yīng)。 j也被稱為偏回歸系數(shù)，表示在其他解釋變量保持不變的情況下，Xj每變化1個(gè)單位時(shí)，Y的均值E(Y)的變化; 或者說j給出了Xj的單位變化對Y均值的“直接”或“凈”（不含其他變量）影響。,39,樣本回歸函數(shù)：用來估計(jì)總體回歸函數(shù),其隨機(jī)表示式:,ei稱為殘差或剩余項(xiàng)(residuals)，可看成是總體回歸函數(shù)中隨機(jī)擾動項(xiàng)i的近似替代。 樣本回歸函數(shù)的矩陣表達(dá):,或,其中：,1、多元線性回歸的普通最小二乘估計(jì),對于隨機(jī)抽取的n組觀測值,40,如果樣本函數(shù)的參數(shù)估計(jì)值已經(jīng)得到，則有：,i=1,2n,根據(jù)最小二乘原理，參數(shù)估計(jì)值應(yīng)該是下列方程組的解,其中,41,于是得到關(guān)于待估參數(shù)估計(jì)值的正規(guī)方程組：,42,正規(guī)方程組的矩陣形式,即,由于XX滿秩，故有,43,正規(guī)方程組 的另一種寫法,對于正規(guī)方程組,于是,或,(*)或（*）是多元線性回歸模型正規(guī)方程組的另一種寫法,(*),(*),44,樣本回歸函數(shù)的離差形式,i=1,2n,其矩陣形式為,其中 ：,在離差形式下，參數(shù)的最小二乘估計(jì)結(jié)果為,2、多元線性回歸模型的參數(shù)估計(jì)實(shí)例,例3-2-3 經(jīng)研究，發(fā)現(xiàn)家庭書刊消費(fèi)水平Y(jié)(元/年)受家庭收入X(元/月)和戶主受教育年數(shù)T(年)的影餉。現(xiàn)對某地區(qū)的家庭進(jìn)行抽樣調(diào)查，得樣本數(shù)據(jù)如下，試估計(jì)家庭書刊消費(fèi)水平同家庭收入、戶主受教育年數(shù)之間的線性關(guān)系。,45,.,46,例3-2-2用Eviews計(jì)算結(jié)果,Dependent Variable: Y Method: Least Squares Date: 03/02/08 Time: 23:08 Sample: 1 18 Included observations: 18 Variable Coefficient Std. Error t-Statistic Prob. C -50.01638 49.46026 -1.011244 0.3279 X 0.086450 0.029363 2.944186 0.0101 T 52.37031 5.202167 10.06702 0.0000 R-squared 0.951235 Mean dependent var 755.1222 Adjusted R-squared0.944732 S.D. dependent var 258.7206 S.E. of regression 60.82273 Akaike info criterion 11.20482Sum squared resid 55491.07 Schwarz criterion 11.35321 Log likelihood -97.84334 F-statistic 146.297 Durbin-Watson stat 2.605783 Prob(F-statistic) 0.000000 回歸方程為：Y=-50.0164+0.08645X+52.37031T,47,二、 最小二乘估計(jì)的性質(zhì),1、線性性 2、無偏性 3、最小方差性（有效性） 4、一致性,48,1、線性性,參數(shù)估計(jì)量可以表示為被解釋變量觀測值的線性組合。 證明只要把參數(shù)估計(jì)量表達(dá)式作適當(dāng)?shù)淖冃渭纯伞?49,線性回歸模型參數(shù)的最小二乘估計(jì)向量為 ： B = (XX)-1XY 各個(gè)參數(shù)的估計(jì)量為： =(XX)-1Xk+1Y,50,2、無偏性,最小二乘估計(jì)量是參數(shù)真實(shí)值的無偏估計(jì)。 無偏性意味著估計(jì)量以真實(shí)值為概率分布中心。這從概率分布的角度反映了最小二乘估計(jì)量與參數(shù)真實(shí)值之間的內(nèi)在聯(lián)系，利用該性質(zhì)通過最小二乘估計(jì)量的概率分布推斷參數(shù)真實(shí)值的情況和范圍等。 同時(shí)具有線性性和無偏性的參數(shù)估計(jì)量稱為“線性無偏估計(jì)”，具有比較重要的意義。,51,無偏性證明,