一元一些文獻選-4 .線性回歸模型

第2章線性回歸的基本思想12一元回歸模型回歸分析的應(yīng)用：Y和X：某一個總體的兩個變量感興趣：用X來解釋Y，或者說是研究Y如何隨X而變化如：（Y）學(xué)生的成績與（X）班級的規(guī)模；（Y）工資收入與（X）受教育的年數(shù)；（Y）社區(qū)的犯罪率與（X）警察的數(shù)量。3一元回歸的術(shù)語自變量(independentvariable)解釋變量(explanatoryvariable)控制變量(controlvariable)預(yù)測變量(predictorvariable)回歸元(regressor)因變量(dependentvariable)被解釋變量(explainedvariable)響應(yīng)變量(responsevariable)被預(yù)測變量(predictedvariable)回歸子(regressand)XY4一元回歸模型的建立建立X解釋Y的模型時，面臨三個問題：（1）既然兩個變量之間沒有一個確切的關(guān)系，應(yīng)該如何考慮其他影響Y的因素？（2）Y和X的函數(shù)關(guān)系是怎樣的？（3）怎樣知道是否準確測定出了Y和X之間的關(guān)系（因果性效應(yīng)）？下面的簡單方程解決了這些問題：5一元回歸模型的定義變量u：隨機誤差項或隨機擾動項表示：除X之外其他影響Y的因素6隨機誤差項u的產(chǎn)生一、理論的不確定性（現(xiàn)象的內(nèi)在隨機性）二、模型的簡化核心變量與非核心變量忽略影響較小的因素三、數(shù)據(jù)測量、收集的誤差四、模型函數(shù)形式設(shè)定錯誤7一元線性回歸模型模型表述了Y和X之間的線性關(guān)系。簡單線性回歸模型（Simplelinearregressionmodel）又稱做兩變量或雙變量線性回歸模型

(Thetwovariableregressionmodel)如果u中的其他因素保持不變的，即有Δu=0X對Y具有線性影響，表述如下：

ΔY=βΔX

β：Y和X關(guān)系式中的斜率參數(shù)（slopeparameter）α：截距參數(shù)（interceptparameter）8例1學(xué)生的成績和班級規(guī)模教育學(xué)研究者對（其他因素不變時）班級規(guī)模如何影響學(xué)生成績感興趣。隨機誤差項u包括了：

學(xué)生基礎(chǔ)、教師素質(zhì)等因素影響的效果由β給出系數(shù)β度量了在其他條件不變的情況下，班級規(guī)模對學(xué)生成績的影響：

ΔTestScore=βΔClassSize假使學(xué)生的成績由以下模型所決定：9例2簡單的工資方程表示一個人的工資水平與他的受教育程度及其他非觀測因素的關(guān)系：Wage：工資水平Educ：受教育的年數(shù)β：(在其他條件不變的情況下)每增加一年教育所獲得的工資增長。其他非觀測因素u線性性顯示，不管X的初始值為多少，它的任何一單位變化對Y的影響都是相同的。10計量經(jīng)濟分析中的因果性效應(yīng)與其他條件不變其他條件不變：包含在隨機誤差項中的其他所有相關(guān)因素均保持固定不變。因果性效應(yīng)：其他條件不變情況下，一個變量對另一個變量產(chǎn)生的影響。除非極為特殊的情形下，否則不可能……經(jīng)驗研究：足夠多的其他因素被保持不變11問題假使期末考試的分數(shù)（score）決定于出勤率（attend）和影響考試成績的其他非觀測因素：

score=α

+β

attend+u那么這個模型能否滿足……？其他非觀測因素，如：學(xué)習(xí)動機、能力等總體回歸函數(shù)1213一個假設(shè)的例子調(diào)查全部家庭來認識某一個群體的消費行為相同的收入對應(yīng)著不同的消費X—收入Y—消費支出Y=17+0.6X14總體分布相同的收入對應(yīng)著不同的消費但消費的條件數(shù)學(xué)期望落在一條直線上消費的均值與收入的關(guān)系反映了消費與收入之間的本質(zhì)關(guān)系。5010015020050100150200250300YX15總體回歸函數(shù)PRF（PopulationRegressionFunction）收入給定值時，消費的條件期望值的軌跡是一條由收入X確定的直線:E(Y|X)=17+0.6X自變量給定時因變量的條件期望值的軌跡。608010012014016018050100150200250300YX16總體回歸函數(shù)的確定形式：17總體回歸函數(shù)的隨機形式：樣本回歸函數(shù)1819樣本回歸函數(shù)

SRF

(SampleRegression

Function)SRF來自總體，圍繞著PRF變動，用SRF估計PRF20下列方程哪些是正確的?哪些是錯誤的？為什么？21參數(shù)估計：普通最小二乘法OLS：ordinaryleastsquares22P4P3P2P1YXX1X2X3X4一元線性回歸模型的估計OLS最小二乘準則：使全部觀察值的殘差平方和最小。

23普通最小二乘估計量(ordinaryleastsquares)OLS估計量24（1）OLS殘差的均值為零。數(shù)學(xué)表述為：OLS估計量的代數(shù)性質(zhì)OLS估計值是以使殘差均值為零的參數(shù)估計值來選擇的。即OLS的一階條件25P4一條通過Y的均值的水平線，也滿足殘差均值為0的條件P3P2P1YXX1X2X3X4Y26e與Xi的協(xié)方差:（2）X和OLS殘差的相關(guān)系數(shù)為0。來自于一階條件參數(shù)估計的最大或然法(ML)

最大或然法(MaximumLikelihood,簡稱ML)，也稱最大似然法，是不同于最小二乘法的另一種參數(shù)估計方法，是從最大或然原理出發(fā)發(fā)展起來的其它估計方法的基礎(chǔ)。

基本原理：對于最大或然法，當(dāng)從模型總體隨機抽取n組樣本觀測值后，最合理的參數(shù)估計量應(yīng)該使得從模型中抽取該n組樣本觀測值的概率最大。在滿足基本假設(shè)條件下，對一元線性回歸模型：

隨機抽取n組樣本觀測值（Xi,Yi）（i=1,2,…n）。那么Yi服從如下的正態(tài)分布：于是，Y的概率函數(shù)為（i=1,2,…n）假如模型的參數(shù)估計量已經(jīng)求得，為因為Yi是相互獨立的，所以的所有樣本觀測值的聯(lián)合概率，也即或然