Eviews數(shù)據(jù)統(tǒng)計(jì)與分析教程6章基本回歸模型的OLS估計(jì)加權(quán)最小二乘法課件

第6章基本回歸模型的OLS估計(jì)

重點(diǎn)內(nèi)容：加權(quán)最小二乘法（消除異方差）廣義最小二乘法（消除序列相關(guān)和異方差）廣義矩估計(jì)第6章基本回歸模型的OLS估計(jì)1一、加權(quán)最小二乘法（WLS）1.異方差問(wèn)題的解決當(dāng)線性回歸模型出現(xiàn)異方差時(shí)，所得到的估計(jì)量是非有效的。用加權(quán)最小二乘法（WLS）可以解決異方差問(wèn)題?；舅悸罚嘿x予每個(gè)觀測(cè)值殘差不同的權(quán)數(shù)，從而使得回歸模型的隨機(jī)誤差項(xiàng)具有同方差性。一、加權(quán)最小二乘法（WLS）當(dāng)線性回歸模型出現(xiàn)異方差時(shí)，所得2一、加權(quán)最小二乘法（WLS）1.異方差問(wèn)題的解決基本原理：設(shè)一元線性方程為

yt=β0+β1xt+μt

如果隨機(jī)誤t差項(xiàng)的方差Var(μt)與解釋變量成比例關(guān)系，即Var(μt)=σt2=f(xt)×σ2

說(shuō)明隨機(jī)誤差項(xiàng)的方差與解釋變量xt之間存在相關(guān)性，即存在異方差問(wèn)題。一、加權(quán)最小二乘法（WLS）基本原理：3一、加權(quán)最小二乘法（WLS）1.異方差問(wèn)題的解決消除方法：用乘以一元線性方程的兩端，得yt=β0+β1xt+μt則，Var(μt)=E(μt)2=E(μt)2=σ2從而，消除了異方差，隨機(jī)誤差項(xiàng)同方差。這時(shí)再用普通最小二乘法（OLS）估計(jì)其參數(shù)，得到有效的β0，β1估計(jì)量。一、加權(quán)最小二乘法（WLS）消除方法：4一、加權(quán)最小二乘法（WLS）1.異方差問(wèn)題的解決消除方法（EViews操作）（1）用最小二乘法（OLS）估計(jì)方程，得到殘差序列；（2）根據(jù)殘差序列計(jì)算出加權(quán)序列；（3）選擇EViews主菜單欄中的“Quick”|“EstimateEquation”選項(xiàng)，彈出下圖所示的對(duì)話框。

包括兩個(gè)選項(xiàng)卡：（1）“Specification”選項(xiàng)卡

（2）“Options”選項(xiàng)卡

一、加權(quán)最小二乘法（WLS）消除方法（EViews操作）5一、加權(quán)最小二乘法（WLS）1.異方差問(wèn)題的解決消除方法（EViews操作）在“Specification”選項(xiàng)卡的“Equationspecification”文本框中輸入用OLS（普通最小二乘法）估計(jì)的方程。

在“Options”選項(xiàng)卡中，選中“WeightedLS/TSLS”復(fù)選框，并在“Weighted”的文本框中輸入加權(quán)序列的名稱，例如輸入“w”。

加權(quán)序列“w”用OLS估計(jì)模型時(shí)得到的殘差序列的絕對(duì)值的倒數(shù)序列。填好后再單擊“確定”按鈕一、加權(quán)最小二乘法（WLS）消除方法（EViews操作）在“6二、廣義最小二乘法（GLS）廣義最小二乘法（GeneralizedLeastSquared，GLS）常用來(lái)對(duì)存在序列相關(guān)和異方差的模型進(jìn)行估計(jì)。普通最小二乘法（OLS）和加權(quán)最小二乘法（WLS）是廣義最小二乘法（GLS）的特例。

二、廣義最小二乘法（GLS）廣義最小二乘法（Generali7二、廣義最小二乘法（GLS）基本原理：通過(guò)變換原回歸模型，使隨機(jī)誤差項(xiàng)消除自相關(guān)，進(jìn)而利用普通最小二乘法估計(jì)回歸參數(shù)。設(shè)原回歸模型是yt=0+1x1t+2x2t+…+kxkt+ut(t=1,2,…,n)（1）其中，ut具有一階自回歸形式ut=ut-1+vt（2）vt滿足線性回歸模型的基本假定條件，把（2）式代入（1）式中，得yt=0+1x1t+2x2t+…+0xkt+ut-1+vt（3）二、廣義最小二乘法（GLS）基本原理：8二、廣義最小二乘法（GLS）基本原理：再求模型(3)的滯后1期即(t-1)期的回歸模型，并在兩側(cè)同乘

yt-1=

0+

1x1t-1+2x2t-1+…+kxkt-1+ut-1(4)用（2）式與(4)相減，得ut-yt-1=0(1-)+1(x1t-x1t-1)+…+k(xk-1-xkt-1)+vt(5)令yt*=yt-yt-1

xjt*=xjt-xjt

-1,j=1,2,…k(6)

0*=0(1-

)則yt*=0*+1

x1t*+2

x2

t*+…+kxk

t*+vt

如果模型不存在異方差和序列相關(guān)，則使用廣義最小二乘法等于普通最小二乘法。

二、廣義最小二乘法（GLS）基本原理：9三、兩階段最小二乘法（TSLS）基本原理：兩階段最小二乘法分兩個(gè)階段：第一階段:找到工具變量，用最小二乘估計(jì)法（OLS）對(duì)模型中的每一解釋變量與工具變量做回歸；第二階段:用第一階段的擬合值代替內(nèi)生變量，對(duì)原方程進(jìn)行第二次回歸，這次回歸得到的系數(shù)就是用兩階段最小二乘法得到的新估計(jì)值。三、兩階段最小二乘法（TSLS）基本原理：10三、兩階段最小二乘法（TSLS）EViews操作：選擇主菜單欄中的“Object”|“NewObject”|“Equation”選項(xiàng)，或者選擇“Quick”|“EstimateEquation”選項(xiàng)，在打開(kāi)的方程對(duì)話框的“Method”種選擇“TSLS”法，會(huì)得到如下對(duì)話框。三、兩階段最小二乘法（TSLS）EViews操作：11三、兩階段最小二乘法（TSLS）EViews操作：在上圖的方程設(shè)定（Equationspecification）的文本框中列出解釋變量和被解釋變量，在工具變量列表（Instrumentlist）的文本框中輸入工具變量。在進(jìn)行兩階段最小二乘估計(jì)時(shí)，方程中的工具變量數(shù)至少要與估計(jì)系數(shù)相等。常數(shù)項(xiàng)常常用來(lái)做工具變量。三、兩階段最小二乘法（TSLS）EViews操作：12四、非線性最小二乘法（NLS）非線性模型包括可線性化的非線性模型和不可線性化的非線性模型。可線性化的模型是指該模型可以通過(guò)線性化的處理變?yōu)榫€性模型，如一元二次方程，冪函數(shù)等。例如：y=axb

lny=lna+blnx即y﹡=a﹡+bx﹡并非所有的函數(shù)均可被線性化，能被線性化的可以繼續(xù)用OLS等線性回歸模型適用的方法進(jìn)行估計(jì)，不能被線性化的模型就可以用非線性最小二乘法（NonlinearLeastSquare，NLS）進(jìn)行估計(jì)。四、非線性最小二乘法（NLS）13四、非線性最小二乘法（NLS）基本原理：設(shè)定非線性回歸模型的一般式為

yi=f(xi,,β)+μi

i=1，2,…，n（1）則其殘差平方和為

S()=（2）

能使(2)達(dá)到最小的為參數(shù)β的非線性最小二乘估計(jì)。要得到β的估計(jì)值，首先對(duì)式（1）中的β求偏導(dǎo)，然后令該式等于0。還可以通過(guò)迭代法求的近似值，先給出參數(shù)估計(jì)的初始值，然后通過(guò)迭代法得到一個(gè)新的估計(jì)值，重復(fù)迭代直到估計(jì)值收斂為止。四、非線性最小二乘法（NLS）基本原理：14四、非線性最小二乘法（NLS）EViews操作：選擇主菜單欄中“Object”|“NewObject”|“Equation”選項(xiàng)，或者選擇“Quick”|“EstimateEquation”選項(xiàng)，打開(kāi)方程設(shè)定對(duì)話框，在“Equationspecification”中輸入非線性模型的表達(dá)式，如“yc1/x”，即為雙曲線的回歸模型。EViews軟件會(huì)自動(dòng)用非線性最小二乘法（NLS）進(jìn)行估計(jì)，因而建立方程時(shí)，只輸入非線性表達(dá)式即可。例如y=axb，只需輸入“y=c(1)*x^c(2)”即可。

四、非線性最小二乘法（NLS）EViews操作：15五、廣義矩估計(jì)（GMM）廣義矩估計(jì)法（GeneralizedMethodofMoments，GMM）則可以不受模型假定的限制，它不要求隨機(jī)擾動(dòng)項(xiàng)一定非序列相關(guān)，不存在異方差等，并且所得到的參數(shù)估計(jì)值比用其他估計(jì)方法得到的參數(shù)估計(jì)值更與實(shí)際接近。廣義矩估計(jì)法（GMM）是一個(gè)大樣本估計(jì)，其估計(jì)量在大樣本下有效，在小樣本下無(wú)效。五、廣義矩估計(jì)（GMM）廣義矩估計(jì)法（Generalized16五、廣義矩估計(jì)（GMM）基本原理：廣義矩估計(jì)是設(shè)定參數(shù)滿足的一種理論關(guān)系。其原理是選擇參數(shù)估計(jì)盡可能接近理論上關(guān)系，把理論關(guān)系用樣本近似值代替；并且估計(jì)量的選擇就是要最小化理論值和實(shí)際值之間的加權(quán)距離。參數(shù)要滿足的理論關(guān)系通常是參數(shù)函數(shù)f(θ)與工具變量Zt之間的正則條件，即E[f(θ)′Z]=0，θ是被估計(jì)參數(shù)廣義矩估計(jì)法（GMM）中估計(jì)量選擇的標(biāo)準(zhǔn)是，使工具變量與函數(shù)f(θ)之間的樣本相關(guān)性越接近于0越好。

五、廣義矩估計(jì)（GMM）基本原理：17五、廣義矩估計(jì)（GMM）EViews基本操作：選擇主菜單欄中“Object”|“NewObject”|“Equation”選項(xiàng)，或者選擇“Quick”|“EstimateEquation”選項(xiàng)，在“Method”中選擇“GMM”后彈出如下圖所示的方程設(shè)定對(duì)話框。

五、廣義矩估計(jì)（GMM）EViews基本操作：18五、廣義矩估計(jì)（GMM）EViews基本操作：選擇主菜單欄中“Object”|“NewObject”|“Equation”選項(xiàng)，或者選擇“Quick”|“EstimateEquation”選項(xiàng)，在“Method”中選擇“GMM”后彈出如下圖所示的方程設(shè)定對(duì)話框。

在“Eq