計(jì)量經(jīng)濟(jì)學(xué)3 多元回歸模型hf

第三章經(jīng)典單方程計(jì)量經(jīng)濟(jì)學(xué)模型：多元線性回歸模型

TheClassicalSingleEquationEconometricModel:MultipleLinearRegressionModel1本章內(nèi)容

§3.1多元線性回歸模型概述§3.2多元線性回歸模型的參數(shù)估計(jì)§3.3多元線性回歸模型的統(tǒng)計(jì)檢驗(yàn)§3.4多元線性回歸模型的預(yù)測(cè)§3.5可化為線性的非線性模型§3.6受約束回歸2§3.1多元線性回歸模型概述

(RegressionAnalysis)一、多元線性回歸模型二、多元線性回歸模型的基本假設(shè)3一、多元線性回歸模型

4總體回歸函數(shù)：描述在給定解釋變量Xi條件下被解釋變量Yi的條件均值。j稱為偏回歸系數(shù)(partialregressioncoefficients)，表示在其他解釋變量保持不變的情況下，Xj每變化1個(gè)單位時(shí)，Y的均值E(Y)的變化。或者說(shuō)j給出了Xj的單位變化對(duì)Y均值的“直接”或“凈”（不含其他變量）影響?？傮w回歸函數(shù)(PRF)5總體回歸模型(PRM)i=1,2…,n

總體回歸模型：是總體回歸函數(shù)的隨機(jī)表達(dá)形式說(shuō)明：k為解釋變量的數(shù)目。但習(xí)慣上，把常數(shù)項(xiàng)看成為虛變量的系數(shù)，該虛變量的樣本觀測(cè)值始終取1。于是，模型中解釋變量的數(shù)目為（k+1）。

6總體回歸模型的矩陣表示7樣本回歸函數(shù)與樣本回歸模型從一次抽樣中獲得的總體回歸函數(shù)的近似，稱為樣本回歸函數(shù)（sampleregressionfunction）。樣本回歸函數(shù)的隨機(jī)形式，稱為樣本回歸模型（sampleregressionmodel）。

i=1,2…,ni=1,2…,n8樣本回歸函數(shù)與樣本回歸模型的矩陣表示9二、多元線性回歸模型的基本假設(shè)

對(duì)一元回歸模型基本假設(shè)

的回憶與擴(kuò)展10假設(shè)1：模型設(shè)定假設(shè)正確性。Theregressionmodeliscorrectlyspecified.線性性。Theregressionmodelislinearintheparameters.11假設(shè)2：解釋變量X假設(shè)確定性。Xvaluesarefixedinrepeatedsampling.Moretechnically,Xisassumedtobenonstochastic.各解釋變量X之間不存在嚴(yán)格線性關(guān)系。Thereisnoperfectmulticollinearityamongtheexplanatoryvariables.對(duì)于n>k+1，rank(X)=k+112假設(shè)3：X樣本方差假設(shè)各解釋變量的樣本具有足夠的變異性；隨著樣本容量的無(wú)限增加，解釋變量X的樣本方差趨于一有限常數(shù)。13假設(shè)4：隨機(jī)擾動(dòng)項(xiàng)假設(shè)0均值假設(shè)。Theconditionalmeanvalueofμiiszero.由模型設(shè)定正確假設(shè)推斷。

同方差假設(shè)。Homoscedasticity,theconditionalvariancesofμiareidentical.是否滿足需要檢驗(yàn)。14假設(shè)5：X與隨機(jī)項(xiàng)μ不相關(guān)。ThecovariancesbetweenXiandμiarezero.由確定性假設(shè)可以推斷。15假設(shè)6：μ服從多維正態(tài)分布。Theμ’sfollowthenormaldistribution.16§3.2多元線性回歸模型的估計(jì)

一、普通最小二乘估計(jì)二、參數(shù)估計(jì)量的性質(zhì)三、樣本容量問(wèn)題四、例題

補(bǔ)充：變量相對(duì)重要性比較17說(shuō)明估計(jì)方法：3大類方法：OLS、ML或者M(jìn)M在經(jīng)典模型中多應(yīng)用OLS在非經(jīng)典模型中多應(yīng)用ML或者M(jìn)MML和MM基本思路2章已介紹，本章略18一、普通最小二乘估計(jì)(OLS)19觀測(cè)值已知SRF形式

步驟：1、普通最小二乘估計(jì)及其矩陣表述殘差平方和20條件？

由散式到矩陣：21因?yàn)闃颖净貧w函數(shù)為兩邊乘有：因?yàn)?，則正規(guī)方程為：2、正規(guī)方程組的另一種等價(jià)表達(dá)22233、隨機(jī)誤差項(xiàng)的方差2的無(wú)偏估計(jì)

記住結(jié)論即可，證明不作要求！M為等冪矩陣24tr()為矩陣的跡，滿足交換律Tr(AB)=tr(BA)25二、參數(shù)估計(jì)量的性質(zhì)26說(shuō)明在滿足基本假設(shè)的情況下，多元線性模型結(jié)構(gòu)參數(shù)的普通最小二乘估計(jì)具有線性性、無(wú)偏性、有效性。同時(shí)，隨著樣本容量增加，參數(shù)估計(jì)量具有一致性。利用矩陣表達(dá)，可以很方便地證明。注意證明過(guò)程中利用的基本假設(shè)。理解其思路，記住結(jié)論即可。271、線性性利用假設(shè):E(X’)=02、無(wú)偏性由估計(jì)量表達(dá)式直觀得到283、有效性（最小方差性）證明略29三、樣本容量問(wèn)題301、最小樣本容量

所謂“最小樣本容量”，即從最小二乘原理和最大或然原理出發(fā)，欲得到參數(shù)估計(jì)量（不管其質(zhì)量如何），所要求的樣本容量的下限。

樣本最小容量，必須不少于模型中解釋變量的數(shù)目（包括常數(shù)項(xiàng)）,即

n

k+1為什么？312、滿足基本要求的樣本容量

從統(tǒng)計(jì)檢驗(yàn)的角度：

n30時(shí)，Z檢驗(yàn)才能應(yīng)用；

n-k8時(shí),t分布較為穩(wěn)定。

一般經(jīng)驗(yàn)認(rèn)為:當(dāng)n30或者至少n3(k+1)時(shí)，才能說(shuō)滿足模型估計(jì)的基本要求。

模型的良好性質(zhì)，只有在大樣本下才能得到理論上的證明。32四、例題33教材例題：地區(qū)城鎮(zhèn)居民消費(fèi)模型被解釋變量：地區(qū)城鎮(zhèn)居民人均消費(fèi)Y解釋變量：地區(qū)城鎮(zhèn)居民人均可支配收入X1前一年地區(qū)城鎮(zhèn)居民人均消費(fèi)X2樣本：2006年，31個(gè)地區(qū)34數(shù)據(jù)35變量間關(guān)系36OLS估計(jì)結(jié)果37補(bǔ)充例題：代數(shù)法計(jì)算方法3839補(bǔ)充：Beta系數(shù)、彈性系數(shù)

及偏相關(guān)系數(shù)

變量相對(duì)重要性比較40414243Back4445464748495051525354555657585960§3.3多元線性回歸模型的統(tǒng)計(jì)檢驗(yàn)

StatisticalTestofMultipleLinearRegressionModel

一、擬合優(yōu)度檢驗(yàn)二、方程的顯著性檢驗(yàn)(F檢驗(yàn))

三、變量的顯著性檢驗(yàn)(t檢驗(yàn))四、參數(shù)的置信區(qū)間

61一、擬合優(yōu)度檢驗(yàn)

GoodnessofFit62

多元可決系數(shù)（MultipleCoefficientofDetermination）越接近于1，模型的擬合優(yōu)度越高。

從R2的表達(dá)式中發(fā)現(xiàn)，如果在模型中增加解釋變量，

R2往往增大。這就給人一個(gè)錯(cuò)覺(jué)：要使得模型擬合得好，只要增加解釋變量即可。但是，由增加解釋變量引起的R2的增大與擬合好壞無(wú)關(guān)，所以R2需調(diào)整。63

調(diào)整的可決系數(shù)（adjustedcoefficientofdetermination）

其中：n-k-1為殘差平方和的自由度，n-1為總體平方和的自由度。理論上，其取值可以為負(fù)數(shù)；但實(shí)際很難遇到！調(diào)整思路：用自由度去校正所計(jì)算的變差，可糾正解釋變量個(gè)數(shù)不同引起的對(duì)比困難。（比較性價(jià)比?。?4

3、赤池信息準(zhǔn)則和施瓦茨準(zhǔn)則（略）為比較解釋變量個(gè)數(shù)不同的多元回歸模型的擬合優(yōu)度，常用標(biāo)準(zhǔn)還有（與調(diào)整可決系數(shù)思路相似）:

赤池信息準(zhǔn)則（Akaikeinformationcriterion,AIC）施瓦茨準(zhǔn)則（Schwarzcriterion，SC，BIC）

這兩準(zhǔn)則均要求僅當(dāng)所增加的解釋變量能夠減少AIC值或SC值時(shí)，才在原模型中增加該解釋變量。

65TheFdistributionforvariousd.f.二、方程的顯著性檢驗(yàn)(F檢驗(yàn))

TestingtheOverallSignificanceofaMultipleRegression(theFtest)661、方程顯著性的F檢驗(yàn)

方程的顯著性檢驗(yàn)，旨在對(duì)模型中被解釋變量與解釋變量之間的線性關(guān)系在總體上是否顯著成立作出推斷。在多元模型中，即檢驗(yàn)?zāi)Ｐ椭械幕貧w系數(shù)j是否全部顯著不為0。67

F檢驗(yàn)的思想來(lái)自于總離差平方和的分解

TSS=ESS+RSS

如果這個(gè)比值較大，則X的聯(lián)合體對(duì)Y的解釋程度高，可認(rèn)為總體存在線性關(guān)系；反之，總體上可能不存在線性關(guān)系。可通過(guò)該比值的大小對(duì)總體線性關(guān)系進(jìn)行推斷。68

在原假設(shè)H0成立的條件下，統(tǒng)計(jì)量

給定顯著性水平，可得到臨界值F(k,n-k-1)，由樣本求出統(tǒng)計(jì)量F的數(shù)值，通過(guò)

F

F(k,n-k-1)或FF(k,n-k-1)判斷是否拒絕原假設(shè)H0，以判定原方程總體上的線性關(guān)系是否顯著成立。

69

2、擬合優(yōu)度檢驗(yàn)與F檢驗(yàn)關(guān)系討論

70可見(jiàn)，F(xiàn)檢驗(yàn)的原假設(shè)等同于H0：R2=0

通常，在5%的顯著性水平下，F(xiàn)統(tǒng)計(jì)量的臨界值所對(duì)應(yīng)的R2的水平是較低的。F是傻瓜統(tǒng)計(jì)量！很難構(gòu)造通不過(guò)F檢驗(yàn)的模型不宜過(guò)分注重R2值，應(yīng)注重模型的經(jīng)濟(jì)意義；在進(jìn)行總體顯著性檢驗(yàn)時(shí)，顯著性水平應(yīng)該控制在5%以內(nèi)。一元線性回歸中，t檢驗(yàn)與F檢驗(yàn)是一致的7172三、變量的顯著性檢驗(yàn)（t檢驗(yàn)）

TestingtheSignificanceofVariables(thettest)73多元回歸模型中，方程的總體線性關(guān)系顯著，不等于每個(gè)解釋變量對(duì)被解釋變量的影響都是顯著的。必須對(duì)每個(gè)解釋變量進(jìn)行顯著性檢驗(yàn)，以決定是否作為解釋變量被保留在模型中。這一檢驗(yàn)是由對(duì)變量的t檢驗(yàn)完成的。741、t統(tǒng)計(jì)量

以cii表示矩陣(X’X)-1

主對(duì)角線上的第i個(gè)元素752、t檢驗(yàn)

提出原假設(shè)與備擇假設(shè)：

H1：j0

給定顯著性水平，可得到臨界值t/2(n-k-1)，由樣本求出統(tǒng)計(jì)量t的數(shù)值，通過(guò)

|t|

t/2(n-k-1)或|t|t/2(n-k-1)判斷是否拒絕原假設(shè)H0，從而判定對(duì)應(yīng)的解釋變量是否應(yīng)包括在模型中。

H0：j=0

（j=1,2…k）

763、關(guān)于常數(shù)項(xiàng)的顯著性檢驗(yàn)T檢驗(yàn)同樣可以進(jìn)行。一般不以t檢驗(yàn)決定常數(shù)項(xiàng)是否保留在模型中，而是從經(jīng)濟(jì)意義方面分析回歸線是否應(yīng)該通過(guò)原點(diǎn)。77補(bǔ)充：二元模型中有關(guān)代數(shù)運(yùn)算公式787980四、參數(shù)的置信區(qū)間

ConfidenceIntervalofParameter811、參數(shù)的置信區(qū)間在(1-)的置信水平下822、如何才能縮小置信區(qū)間？（再次討論）

增大樣本容量n，因?yàn)樵谕瑯拥臉颖救萘肯?，n越大，t分布表中的臨界值越??；同時(shí)，增大樣本容量，還可使樣本參數(shù)估計(jì)量的標(biāo)準(zhǔn)差減小。提高模型的擬合優(yōu)度（復(fù)相關(guān)系數(shù)），因?yàn)闃颖緟?shù)估計(jì)量的方差與殘差平方和呈正比，模型擬合優(yōu)度越高，殘差平方和應(yīng)越小。提高樣本觀測(cè)值的分散度（回憶X變異性假設(shè)）,一般情況下，樣本觀測(cè)值越分散，(X’X)-1的分母的|X’X|的值越大，cii越小，致使區(qū)間縮小。83§3.4多元線性回歸模型的預(yù)測(cè)

一、E(Y0)的置信區(qū)間

二、Y0的置信區(qū)間84一、E(Y0)的置信區(qū)間85于是，得到(1-)的置信水平下E(Y0)的置信區(qū)間：其中，t/2為(1-)的置信水平下的臨界值。86二、Y0的置信區(qū)間8788§3.5回歸模型的其他函數(shù)形式

一、模型的類型與變換

二、非線性回歸實(shí)例三、非線性最小二乘估計(jì)（略）89說(shuō)明實(shí)際經(jīng)濟(jì)活動(dòng)中，經(jīng)濟(jì)變量的關(guān)系是復(fù)雜的，直接表現(xiàn)為線性關(guān)系的情況并不多見(jiàn)。如著名的恩格爾曲線(Englecurves)表現(xiàn)為冪函數(shù)曲線形式、宏觀經(jīng)濟(jì)學(xué)中的菲利普斯曲線（Pillipscuves）表現(xiàn)為雙曲線形式等。但是，大部分（變量或參數(shù)）非線性關(guān)系可以通過(guò)一些簡(jiǎn)單的數(shù)學(xué)處理，化為（參數(shù)）線性關(guān)系，從而可以運(yùn)用線性回歸模型的理論方法。不可化為（參數(shù)）線性關(guān)系的情形，不予討論。90一、模型的類型與變換

1、倒數(shù)模型、多項(xiàng)式模型與變量直接置換法

例如，描述稅收與稅率關(guān)系的拉弗曲線：拋物線

s=a+br+cr2c<0s：稅收；r：稅率設(shè)X1=r，X2=r2，則原方程變換為

s=a+bX1+cX2c<0

回憶：此前將線性定義為參數(shù)的線性；解釋變量的非線性，并不違背該假設(shè)。912、冪函數(shù)模型、指數(shù)函數(shù)模型與對(duì)數(shù)變換法

例如，Cobb-Dauglas生產(chǎn)函數(shù)：冪函數(shù)

Q=AKLeuQ：產(chǎn)出量，K：投入資本；L：投入勞動(dòng)

方程兩邊取對(duì)數(shù)：

lnQ=lnA+lnK+lnL+u思考，為何如下生產(chǎn)函數(shù)無(wú)法線性化？

Q=AKL+u923、復(fù)雜函數(shù)模型與級(jí)數(shù)展開法

方程兩邊取對(duì)數(shù)后，得到：

(1+2=1)Q:產(chǎn)出量，K：資本投入，L：勞動(dòng)投入：替代參數(shù)，1、2：分配參數(shù)例如，常替代彈性CES生產(chǎn)函數(shù)

將式中l(wèi)n(1K-+2L-)在=0處展開Taylor級(jí)數(shù),取關(guān)于的線性項(xiàng)，即得到一個(gè)線性近似式。

如取0階、1階、2階項(xiàng)，可得

93二、可化為線性的非線性回歸實(shí)例

例3.5.1

建立中國(guó)城鎮(zhèn)居民食品消費(fèi)需求函數(shù)模型。

根據(jù)需求理論，居民對(duì)食品的消費(fèi)需求函數(shù)為

Q:居民對(duì)食品的需求量，X：消費(fèi)者的消費(fèi)支出總額P1：食品價(jià)格指數(shù)，P0：居民消費(fèi)價(jià)格總指數(shù)。

零階齊次性，當(dāng)所有商品和消費(fèi)者貨幣支出總額按同一比例變動(dòng)時(shí)，需求量保持不變

(*)(**)為了進(jìn)行比較，將同時(shí)估計(jì)（*）式與（**）式。

94

根據(jù)恩格爾定律，居民對(duì)食品的消費(fèi)支出與居民的總支出間呈冪函數(shù)的變化關(guān)系:

首先,確定具體的函數(shù)形式對(duì)數(shù)變換:

考慮到零階齊次性時(shí)(***)(****)(****)式也可看成是對(duì)（***）式施加如下約束而得因此，對(duì)（****）式進(jìn)行回歸，就意味著原需求函數(shù)滿足零階齊次性條件。95X：人均消費(fèi)X1：人均食品消費(fèi)GP：居民消費(fèi)價(jià)格指數(shù)FP：居民食品消費(fèi)價(jià)格指數(shù)Q：人均食品消費(fèi)（90年價(jià)）P0：居民消費(fèi)價(jià)格縮減指數(shù)（1990=100）P1：居民食品消費(fèi)價(jià)格縮減指數(shù)（1990=100）96按（***）式估計(jì)具體解釋估計(jì)結(jié)果及其經(jīng)濟(jì)含義。97按（****）式估計(jì)具體解釋估計(jì)結(jié)果及其經(jīng)濟(jì)含義。98§3.6受約束回歸

RestrictedRegression

一、模型參數(shù)的線性約束二、對(duì)回歸模型增加或減少解釋變量三、參數(shù)的穩(wěn)定性

四、非線性約束99說(shuō)明在建立回歸模型時(shí)，有時(shí)根據(jù)經(jīng)濟(jì)理論需要對(duì)模型中的參數(shù)施加一定的約束條件。例如：需求函數(shù)的0階齊次性條件生產(chǎn)函數(shù)的1階齊次性條件模型施加約束條件后進(jìn)行回歸，稱為受約束回歸（restrictedregression）;未加任何約束的回歸稱為無(wú)約束回歸（unrestrictedregression）。100一、模型參數(shù)的線性約束1011、參數(shù)的線性約束1022、參數(shù)線性約束檢驗(yàn)對(duì)所考查的具體問(wèn)題能否施加約束？需進(jìn)一步進(jìn)行相應(yīng)的檢驗(yàn)。常用的檢驗(yàn)有：F檢驗(yàn)、2檢驗(yàn)與t檢驗(yàn)。F檢驗(yàn)構(gòu)造統(tǒng)計(jì)量；檢驗(yàn)施加約束后模型的解釋能力是否發(fā)生顯著變化。103

受約束樣本回歸模型的殘差平方和RSSR大于無(wú)約束樣本回歸模型的殘差平方和RSSU。

這意味著，通常情況下，對(duì)模型施加約束條件會(huì)降低模型的解釋能力。104如果約束條件為真，則受約束回歸模型與無(wú)約束回歸模型具有相同的解釋能力，RSSR

與RSSU的差異較小?？捎茫≧SSR

－RSSU）的大小來(lái)檢驗(yàn)約束的真實(shí)性。105

例3.6.1

中國(guó)城鎮(zhèn)居民對(duì)食品的人均消費(fèi)需求實(shí)例中，對(duì)零階齊次性檢驗(yàn)：取=5%，查得臨界值F0.05(1,18)=4.41

結(jié)論：不能拒絕中國(guó)城鎮(zhèn)居民對(duì)食品的人均消費(fèi)需求函數(shù)具有零階齊次特性這一假設(shè)。

無(wú)約束回歸:RSSU=0.017748，kU=3

受約束回歸:RSSR=0.017787，KR=2

樣本容量n=22，約束條件個(gè)數(shù)kU-kR=3-2=1106二、對(duì)回歸模型增加或減少解釋變量107前者可以被看成是后者的受約束回歸，通過(guò)約束檢驗(yàn)決定是否增加變量。H0：108三、參數(shù)的穩(wěn)定性（略）

鄒檢驗(yàn)（ChowTest）

109鄒至莊（1929－），GregoryC.Chow，知名美籍華人經(jīng)濟(jì)學(xué)家，美國(guó)普林斯頓大學(xué)政治經(jīng)濟(jì)學(xué)教授和經(jīng)濟(jì)學(xué)名譽(yù)教授1970年研究計(jì)量經(jīng)濟(jì)學(xué)與動(dòng)態(tài)經(jīng)濟(jì)學(xué)，曾發(fā)表計(jì)量經(jīng)濟(jì)的鄒檢驗(yàn)（ChowTest）。1980年以后，開始研究中國(guó)經(jīng)濟(jì)。曾參與臺(tái)灣經(jīng)濟(jì)發(fā)展，擔(dān)任臺(tái)灣政府經(jīng)濟(jì)顧問(wèn)；推廣中國(guó)經(jīng)濟(jì)學(xué)教育，并參與中國(guó)經(jīng)濟(jì)改革，擔(dān)任中國(guó)經(jīng)濟(jì)顧問(wèn)。1101、鄒氏參數(shù)穩(wěn)定性檢驗(yàn)為了檢驗(yàn)?zāi)Ｐ驮趦蓚€(gè)連續(xù)的時(shí)間序列（1,2,…，n1）與（n1+1,…，n1+n2）中是否穩(wěn)定，可以將它轉(zhuǎn)變?yōu)樵诤喜r(shí)間序列(1,2,…，n1

，n1+1,…，n1+n2)中模型的約束檢驗(yàn)問(wèn)題。（1,2,…，n1）（n1+1,…，n1+n2）111

合并兩個(gè)時(shí)間序列為(1,2,…，n1

，n1+1,…，n1+n2)，則可寫出如下無(wú)約束回歸模型

如果=，表示沒(méi)有發(fā)生結(jié)構(gòu)變化，因此可針對(duì)如下假設(shè)進(jìn)行檢驗(yàn)：H0:=施加上述約束后變換為受約束回歸模型：112檢驗(yàn)的F統(tǒng)計(jì)量為：113參數(shù)穩(wěn)定性的檢驗(yàn)步驟：分別以兩連續(xù)時(shí)間序列作為兩個(gè)樣本進(jìn)行回歸，得到相應(yīng)的殘差平方：RSS1與RSS2將兩序列并為一個(gè)大樣本后進(jìn)行回歸，得到大樣本下的殘差平方和RSSR計(jì)算F統(tǒng)計(jì)量的值，與臨界值比較。若F值大于臨界值，則拒絕原假設(shè)，認(rèn)為發(fā)生了結(jié)構(gòu)變化，參數(shù)是非穩(wěn)定的。該檢驗(yàn)稱為鄒氏參數(shù)穩(wěn)定性檢驗(yàn)（Chowtestforparameterstabi