統(tǒng)計學(xué)一元線性回歸模型

第二章經(jīng)典單方程計量經(jīng)濟(jì)學(xué)模型：

一元線性回歸模型

TheClassicalSingleEquationEconometricModel:SimpleLinearRegressionModel

統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第1頁!本章內(nèi)容

回歸分析概述一元線性回歸模型的基本假設(shè)一元線性回歸模型的參數(shù)估計一元線性回歸模型的檢驗(yàn)一元線性回歸模型的預(yù)測實(shí)例及時間序列問題統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第2頁!§2.1回歸分析概述

(RegressionAnalysis)一、變量間的關(guān)系及回歸分析的基本概念二、總體回歸函數(shù)三、隨機(jī)擾動項四、樣本回歸函數(shù)統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第3頁!一、變量間的關(guān)系及回歸分析的基本概念統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第4頁!對變量間統(tǒng)計依賴關(guān)系的考察主要是通過相關(guān)分析(correlationanalysis)或回歸分析(regressionanalysis)來完成的。相關(guān)分析適用于所有統(tǒng)計關(guān)系。相關(guān)系數(shù)(correlationcoefficient)正相關(guān)(positivecorrelation)負(fù)相關(guān)(negativecorrelation)不相關(guān)(non-correlation)回歸分析僅對存在因果關(guān)系而言。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第5頁!注意：不存在線性相關(guān)并不意味著不相關(guān)。存在相關(guān)關(guān)系并不一定存在因果關(guān)系。相關(guān)分析對稱地對待任何（兩個）變量，兩個變量都被看作是隨機(jī)的。回歸分析對變量的處理方法存在不對稱性，即區(qū)分因變量（被解釋變量）和自變量（解釋變量），前者是隨機(jī)變量，后者不一定是。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第6頁!回歸分析構(gòu)成計量經(jīng)濟(jì)學(xué)的方法論基礎(chǔ)，其主要內(nèi)容包括：根據(jù)樣本觀察值對經(jīng)濟(jì)計量模型參數(shù)進(jìn)行估計，求得回歸方程；對回歸方程、參數(shù)估計值進(jìn)行顯著性檢驗(yàn)；利用回歸方程進(jìn)行分析、評價及預(yù)測。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第7頁!1、條件均值（conditionalmean）例2.1.1：一個假想的社區(qū)有99戶家庭組成，欲研究該社區(qū)每月家庭消費(fèi)支出Y與每月家庭可支配收入X的關(guān)系。即如果知道了家庭的月收入，能否預(yù)測該社區(qū)家庭的平均月消費(fèi)支出水平。為達(dá)到此目的，將該99戶家庭劃分為組內(nèi)收入差不多的10組，以分析每一收入組的家庭消費(fèi)支出。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第8頁!由于不確定因素的影響，對同一收入水平X，不同家庭的消費(fèi)支出不完全相同；但由于調(diào)查的完備性，給定收入水平X的消費(fèi)支出Y的分布是確定的，即以X的給定值為條件的Y的條件分布（Conditionaldistribution）是已知的，例如：P(Y=561|X=800）=1/4。因此，給定收入X的值Xi，可得消費(fèi)支出Y的條件均值（conditionalmean）或條件期望（conditionalexpectation）：E(Y|X=Xi)。該例中：E(Y|X=800)=605統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第9頁!2、總體回歸函數(shù)在給定解釋變量Xi條件下被解釋變量Yi的期望軌跡稱為總體回歸線（populationregressionline），或更一般地稱為總體回歸曲線（populationregressioncurve）。相應(yīng)的函數(shù)稱為（雙變量）總體回歸函數(shù)（populationregressionfunction,PRF）。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第10頁!三、隨機(jī)擾動項

StochasticDisturbance

統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第11頁!例2.1.1中，給定收入水平Xi,個別家庭的支出可表示為兩部分之和：該收入水平下所有家庭的平均消費(fèi)支出E(Y|Xi)，稱為系統(tǒng)性（systematic）或確定性（deterministic)部分；其他隨機(jī)或非確定性（nonsystematic)部分i。

稱為總體回歸函數(shù)（PRF）的隨機(jī)設(shè)定形式。表明被解釋變量除了受解釋變量的系統(tǒng)性影響外，還受其他因素的隨機(jī)性影響。由于方程中引入了隨機(jī)項，成為計量經(jīng)濟(jì)學(xué)模型，因此也稱為總體回歸模型(PRM)。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第12頁!關(guān)于隨機(jī)項的說明：將隨機(jī)項區(qū)分為“源生的隨機(jī)擾動”和“衍生的隨機(jī)誤差”。“源生的隨機(jī)擾動”僅包含無數(shù)對被解釋變量影響不顯著的因素的影響，服從極限法則（大數(shù)定律和中心極限定理），滿足基本假設(shè)。“衍生的隨機(jī)誤差”包含上述所有內(nèi)容，并不一定服從極限法則，不一定滿足基本假設(shè)。在§9.3中將進(jìn)一步討論。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第13頁!1、樣本回歸函數(shù)問題：能否從一次抽樣中獲得總體的近似信息？如果可以，如何從抽樣中獲得總體的近似信息？在例2.1.1的總體中有如下一個樣本，能否從該樣本估計總體回歸函數(shù)？

回答：能統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第14頁!

注意：這里將樣本回歸線看成總體回歸線的近似替代則統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第15頁!回歸分析的主要目的：根據(jù)樣本回歸函數(shù)SRF，估計總體回歸函數(shù)PRF。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第16頁!說明為保證參數(shù)估計量具有良好的性質(zhì)，通常對模型提出若干基本假設(shè)。實(shí)際上這些假設(shè)與所采用的估計方法緊密相關(guān)。下面的假設(shè)主要是針對采用普通最小二乘法（OrdinaryLeastSquares,OLS）估計而提出的。所以，在有些教科書中稱為“TheAssumptionUnderlyingtheMethodofLeastSquares”。在不同的教科書上關(guān)于基本假設(shè)的陳述略有不同，下面進(jìn)行了重新歸納。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第17頁!2、關(guān)于解釋變量的假設(shè)確定性假設(shè)。Xvaluesarefixedinrepeatedsampling.Moretechnically,Xisassumedtobenonstochastic.

注意：“inrepeatedsampling”的含義是什么？與隨機(jī)項不相關(guān)假設(shè)。ThecovariancesbetweenXiandμiarezero.由確定性假設(shè)可以推斷。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第18頁!3、關(guān)于隨機(jī)項的假設(shè)0均值假設(shè)。Theconditionalmeanvalueofμiiszero.

同方差假設(shè)。Theconditionalvariancesofμiareidentical.(Homoscedasticity)由模型設(shè)定正確假設(shè)推斷。是否滿足需要檢驗(yàn)。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第19頁!4、隨機(jī)項的正態(tài)性假設(shè)在采用OLS進(jìn)行參數(shù)估計時，不需要正態(tài)性假設(shè)。在利用參數(shù)估計量進(jìn)行統(tǒng)計推斷時，需要假設(shè)隨機(jī)項的概率分布。一般假設(shè)隨機(jī)項服從正態(tài)分布。可以利用中心極限定理（centrallimittheorem,CLT）進(jìn)行證明。正態(tài)性假設(shè)。Theμ’sfollowthenormaldistribution.統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第20頁!§2.3一元線性回歸模型的參數(shù)估計

(EstimationofSimpleLinearRegressionModel)

一、參數(shù)的普通最小二乘估計（OLS）二、參數(shù)估計的最大或然法(ML)三、最小二乘估計量的性質(zhì)四、參數(shù)估計量的概率分布及隨機(jī)干擾項方差的估計

統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第21頁!1、最小二乘原理根據(jù)被解釋變量的所有觀測值與估計值之差的平方和最小的原則求得參數(shù)估計量。

為什么取平方和？統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第22頁!3、參數(shù)估計量求解正規(guī)方程組得到結(jié)構(gòu)參數(shù)的普通最小二乘估計量（ordinaryleastsquaresestimators）及其離差形式：

分布參數(shù)的普通最小二乘估計量統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第23頁!二、參數(shù)估計的最大似然法(ML)統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第24頁!2、估計步驟Yi的分布Yi的概率函數(shù)

Y的所有樣本觀測值的聯(lián)合概率—似然函數(shù)

統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第25頁!3、討論在滿足一系列基本假設(shè)的情況下，模型結(jié)構(gòu)參數(shù)的最大似然估計量與普通最小二乘估計量是相同的。但是，分布參數(shù)的估計結(jié)果不同。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第26頁!1、概述當(dāng)模型參數(shù)估計出后，需考慮參數(shù)估計值的精度，即是否能代表總體參數(shù)的真值，或者說需考察參數(shù)估計量的統(tǒng)計性質(zhì)。準(zhǔn)則：線性性(linear)，即它是否是另一隨機(jī)變量的線性函數(shù)；無偏性(unbiased)，即它的均值或期望值是否等于總體的真實(shí)值；有效性(efficient)，即它是否在所有線性無偏估計量中具有最小方差。這三個準(zhǔn)則也稱作估計量的小樣本性質(zhì)。擁有這類性質(zhì)的估計量稱為最佳線性無偏估計量（bestlinerunbiasedestimator,BLUE）。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第27頁!2、高斯—馬爾可夫定理(Gauss-Markovtheorem)在給定經(jīng)典線性回歸的假定下，最小二乘估計量是具有最小方差的線性無偏估計量。下面分別對最小二乘估計量的線性性、無偏性和有效性進(jìn)行證明，作為不熟悉的同學(xué)的自學(xué)內(nèi)容?！锝y(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第28頁!證：易知故同樣地，容易得出

統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第29頁!（2）證明最小方差性其中，ci=ki+di，di為不全為零的常數(shù)則容易證明統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第30頁!四、參數(shù)估計量的概率分布及隨機(jī)干擾項方差的估計統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第31頁!2、隨機(jī)誤差項的方差2的估計

2又稱為總體方差。

由于隨機(jī)項i不可觀測，只能從i的估計——?dú)埐頴i出發(fā)，對總體方差進(jìn)行估計。

可以證明，2的最小二乘估計量為：它是關(guān)于2的無偏估計量。

統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第32頁!§2.4一元線性回歸模型的統(tǒng)計檢驗(yàn)

StatisticalTestofSimpleLinearRegressionModel

一、擬合優(yōu)度檢驗(yàn)

二、變量的顯著性檢驗(yàn)

三、參數(shù)的置信區(qū)間

統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第33頁!一、擬合優(yōu)度檢驗(yàn)

GoodnessofFit,CoefficientofDetermination統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第34頁!2、總離差平方和的分解Y的i個觀測值與樣本均值的離差由回歸直線解釋的部分

回歸直線不能解釋的部分

離差分解為兩部分之和

統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第35頁!對于所有樣本點(diǎn)，則需考慮離差的平方和：記總體平方和（TotalSumofSquares）回歸平方和（ExplainedSumofSquares）殘差平方和（ResidualSumofSquares

）統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第36頁!3、可決系數(shù)R2統(tǒng)計量是一個非負(fù)的統(tǒng)計量。取值范圍：[0，1]越接近1，說明實(shí)際觀測點(diǎn)離回歸線越近，擬合優(yōu)度越高。隨著抽樣的不同而不同。為此，對可決系數(shù)的統(tǒng)計可靠性也應(yīng)進(jìn)行檢驗(yàn)，這將在第3章中進(jìn)行。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第37頁!說明在一元線性模型中，變量的顯著性檢驗(yàn)就是判斷X是否對Y具有顯著的線性性影響。變量的顯著性檢驗(yàn)所應(yīng)用的方法是數(shù)理統(tǒng)計學(xué)中的假設(shè)檢驗(yàn)。通過檢驗(yàn)變量的參數(shù)真值是否為零來實(shí)現(xiàn)顯著性檢驗(yàn)。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第38頁!2、變量的顯著性檢驗(yàn)—t檢驗(yàn)用σ2的估計量代替，構(gòu)造t統(tǒng)計量對總體參數(shù)提出假設(shè)：H0：1=0，H1：10統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第39頁!3、關(guān)于常數(shù)項的顯著性檢驗(yàn)T檢驗(yàn)同樣可以進(jìn)行。一般不以t檢驗(yàn)決定常數(shù)項是否保留在模型中，而是從經(jīng)濟(jì)意義方面分析回歸線是否應(yīng)該通過原點(diǎn)。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第40頁!1、概念回歸分析希望通過樣本得到的參數(shù)估計量能夠代替總體參數(shù)。假設(shè)檢驗(yàn)可以通過一次抽樣的結(jié)果檢驗(yàn)總體參數(shù)可能的假設(shè)值的范圍（例如是否為零），但它并沒有指出在一次抽樣中樣本參數(shù)值到底離總體參數(shù)的真值有多“近”。要判斷樣本參數(shù)的估計值在多大程度上“近似”地替代總體參數(shù)的真值，需要通過構(gòu)造一個以樣本參數(shù)的估計值為中心的“區(qū)間”，來考察它以多大的可能性（概率）包含著真實(shí)的參數(shù)值。這種方法就是參數(shù)檢驗(yàn)的置信區(qū)間估計。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第41頁!2、一元線性模型中i

的置信區(qū)間T分布為雙尾分布(1-)的置信度下,i的置信區(qū)間是統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第42頁!顯然，在該例題中，我們對結(jié)果的正確陳述應(yīng)該是：邊際消費(fèi)傾向β1是以99%的置信度處于以0.670為中心的區(qū)間（0.6056,0.7344)

中?；卮穑哼呺H消費(fèi)傾向等于0.670的置信度是多少？邊際消費(fèi)傾向以100%的置信度處于什么區(qū)間？統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第43頁!§2.5一元線性回歸分析的應(yīng)用：

預(yù)測問題一、預(yù)測值條件均值或個值的一個無偏估計二、總體條件均值與個值預(yù)測值的置信區(qū)間統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第44頁!一、預(yù)測值是條件均值或個值的一個無偏估計統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第45頁!2、?0是個值Y0的無偏估計對總體回歸模型Y=0+1X+，當(dāng)X=X0時可見，?0是個值Y0的無偏估計。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第46頁!1、總體均值預(yù)測值的置信區(qū)間

統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第47頁!于是，在1-的置信度下，總體均值E(Y|X0)的置信區(qū)間為

統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第48頁!3、例題—收入-消費(fèi)支出樣本回歸函數(shù)為則在X0=1000處，?0=142.4+0.670×1000=812.4

因此，總體均值E(Y|X=1000)的95%的置信區(qū)間為：（812.4－2.30627.6，812.4+2.30627.6）（748.8,875.9）

統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第49頁!§2.6實(shí)例及時間序列問題

統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第50頁!1、變量間的關(guān)系確定性關(guān)系或函數(shù)關(guān)系：研究的是確定性現(xiàn)象非隨機(jī)變量間的關(guān)系。

統(tǒng)計依賴或相關(guān)關(guān)系：研究的是非確定性現(xiàn)象隨機(jī)變量間的關(guān)系。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第51頁!統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第52頁!2、回歸分析的基本概念回歸分析(regressionanalysis)是研究一個變量關(guān)于另一個（些）變量的具體依賴關(guān)系的計算方法和理論。其目的在于通過后者的已知或設(shè)定值，去估計和（或）預(yù)測前者的（總體）均值。兩類變量；被解釋變量（ExplainedVariable）或因變量（DependentVariable）。解釋變量（ExplanatoryVariable）或自變量（IndependentVariable）。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第53頁!二、總體回歸函數(shù)

PopulationRegressionFunction,PRF統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第54頁!統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第55頁!描出散點(diǎn)圖發(fā)現(xiàn)：隨著收入的增加，消費(fèi)“平均地說”也在增加，且Y的條件均值均落在一根正斜率的直線上。05001000150020002500300035005001000150020002500300035004000每月可支配收入X（元）每月消費(fèi)支出Y（元）統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第56頁!含義：回歸函數(shù)（PRF）說明被解釋變量Y的平均狀態(tài)（總體條件期望）隨解釋變量X變化的規(guī)律。函數(shù)形式：可以是線性或非線性的。例2.1.1中，將居民消費(fèi)支出看成是其可支配收入的線性函數(shù)時:為線性函數(shù)。其中，0，1是未知參數(shù)，稱為回歸系數(shù)（regressioncoefficients）。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第57頁!總體回歸函數(shù)說明在給定的收入水平Xi下，該社區(qū)家庭平均的消費(fèi)支出水平。但對某一個別的家庭，其消費(fèi)支出可能與該平均水平有偏差。稱為觀察值圍繞它的期望值的離差（deviation），是一個不可觀測的隨機(jī)變量，又稱為隨機(jī)干擾項（stochasticdisturbance）或隨機(jī)誤差項（stochasticerror）。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第58頁!隨機(jī)誤差項主要包括下列因素：在解釋變量中被忽略的因素的影響；影響不顯著的因素未知的影響因素?zé)o法獲得數(shù)據(jù)的因素變量觀測值的觀測誤差的影響；模型關(guān)系的設(shè)定誤差的影響；其它隨機(jī)因素的影響。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第59頁!

四、樣本回歸函數(shù)

SampleRegressionFunction,SRF

統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第60頁!

該樣本的散點(diǎn)圖（scatterdiagram)：

畫一條直線以盡好地擬合該散點(diǎn)圖，由于樣本取自總體，可以該直線近似地代表總體回歸線。該直線稱為樣本回歸線（sampleregressionlines）。

樣本回歸線的函數(shù)形式為：稱為樣本回歸函數(shù)（sampleregressionfunction，SRF）。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第61頁!2、樣本回歸模型樣本回歸函數(shù)的隨機(jī)形式：

由于方程中引入了隨機(jī)項，成為計量經(jīng)濟(jì)模型，因此也稱為樣本回歸模型（sampleregressionmodel）。

統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第62頁!§2.2一元線性回歸模型的基本假設(shè)

(AssumptionsofSimpleLinearRegressionModel)

一、關(guān)于模型設(shè)定的假設(shè)二、關(guān)于解釋變量的假設(shè)三、關(guān)于隨機(jī)項的假設(shè)統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第63頁!1、關(guān)于模型關(guān)系的假設(shè)模型設(shè)定正確假設(shè)。Theregressionmodeliscorrectlyspecified.線性回歸假設(shè)。Theregressionmodelislinearintheparameters。

注意：“l(fā)inearintheparameters”的含義是什么？統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第64頁!觀測值變化假設(shè)。Xvaluesinagivensamplemustnotallbethesame.無完全共線性假設(shè)。Thereisnoperfectmulticollinearityamongtheexplanatoryvariables.

適用于多元線性回歸模型。樣本方差假設(shè)。隨著樣本容量的無限增加，解釋變量X的樣本方差趨于一有限常數(shù)。時間序列數(shù)據(jù)作樣本時間適用統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第65頁!序列不相關(guān)假設(shè)。Thecorrelationbetweenanytwoμiandμjiszero.是否滿足需要檢驗(yàn)。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第66頁!5、CLRM和CNLRM以上假設(shè)（正態(tài)性假設(shè)除外）也稱為線性回歸模型的經(jīng)典假設(shè)或高斯（Gauss）假設(shè)，滿足該假設(shè)的線性回歸模型，也稱為經(jīng)典線性回歸模型（ClassicalLinearRegressionModel,CLRM）。同時滿足正態(tài)性假設(shè)的線性回歸模型，稱為經(jīng)典正態(tài)線性回歸模型（ClassicalNormalLinearRegressionModel,CNLRM）。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第67頁!一、參數(shù)的普通最小二乘估計（OLS）統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第68頁!2、正規(guī)方程組該關(guān)于參數(shù)估計量的線性方程組稱為正規(guī)方程組（normalequations）。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第69頁!4、“估計量”（estimator）和“估計值”

(estimate)的區(qū)別

如果給出的參數(shù)估計結(jié)果是由一個具體樣本資料計算出來的，它是一個“估計值”，或者“點(diǎn)估計”，是參數(shù)估計量的一個具體數(shù)值；如果把上式看成參數(shù)估計的一個表達(dá)式，那么，則是Yi的函數(shù)，而Yi是隨機(jī)變量，所以參數(shù)估計也是隨機(jī)變量，在這個角度上，稱之為“估計量”。

統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第70頁!1、最大似然法最大似然法(MaximumLikelihood,ML)，也稱最大或然法，是不同于最小二乘法的另一種參數(shù)估計方法，是從最大或然原理出發(fā)發(fā)展起來的其它估計方法的基礎(chǔ)?；驹恚寒?dāng)從模型總體隨機(jī)抽取n組樣本觀測值后，最合理的參數(shù)估計量應(yīng)該使得從模型中抽取該n組樣本觀測值的概率最大。ML必須已知隨機(jī)項的分布。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第71頁!對數(shù)似然函數(shù)

對數(shù)似然函數(shù)極大化的一階條件結(jié)構(gòu)參數(shù)的ML估計量統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第72頁!三、最小二乘估計量的性質(zhì)統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第73頁!當(dāng)不滿足小樣本性質(zhì)時，需進(jìn)一步考察估計量的大樣本或漸近性質(zhì)(asymptoticproperties)：漸近無偏性，即樣本容量趨于無窮大時，是否它的均值序列趨于總體真值；一致性，即樣本容量趨于無窮大時，它是否依概率收斂于總體的真值；漸近有效性，即樣本容量趨于無窮大時，是否它在所有的一致估計量中具有最小的漸近方差。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第74頁!統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第75頁!統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第76頁!由于最小二乘估計量擁有一個“好”的估計量所應(yīng)具備的小樣本特性，它自然也擁有大樣本特性。

統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第77頁!1、參數(shù)估計量的概率分布

統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第78頁!

在最大或然估計法中，求解似然方程：

2的最大或然估計量不具無偏性，但卻具有一致性。

統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第79頁!說明回歸分析是要通過樣本所估計的參數(shù)來代替總體的真實(shí)參數(shù)，或者說是用樣本回歸線代替總體回歸線。盡管從統(tǒng)計性質(zhì)上已知，如果有足夠多的重復(fù)抽樣，參數(shù)的估計值的期望（均值）就等于其總體的參數(shù)真值，但在一次抽樣中，估計值不一定就等于該真值。那么，在一次抽樣中，參數(shù)的估計值與真值的差異有多大，是否顯著，這就需要進(jìn)一步進(jìn)行統(tǒng)計檢驗(yàn)。主要包括擬合優(yōu)度檢驗(yàn)、變量的顯著性檢驗(yàn)及參數(shù)的區(qū)間估計。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第80頁!1、回答一個問題擬合優(yōu)度檢驗(yàn)：對樣本回歸直線與樣本觀測值之間擬合程度的檢驗(yàn)。問題：采用普通最小二乘估計方法，已經(jīng)保證了模型最好地擬合了樣本觀測值，為什么還要檢驗(yàn)擬合程度？統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第81頁!統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第82頁!TSS=ESS+RSS

Y的觀測值圍繞其均值的總離差(totalvariation)可分解為兩部分：一部分來自回歸線(ESS)，另一部分則來自隨機(jī)勢力(RSS)。

在給定樣本中，TSS不變，如果實(shí)際觀測點(diǎn)離樣本回歸線越近，則ESS在TSS中占的比重越大，因此

擬合優(yōu)度：回歸平方和ESS/Y的總離差TSS統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第83頁!二、變量的顯著性檢驗(yàn)

Testing

SignificanceofVariable統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第84頁!1、假設(shè)檢驗(yàn)（HypothesisTesting）所謂假設(shè)檢驗(yàn)，就是事先對總體參數(shù)或總體分布形式作出一個假設(shè)，然后利用樣本信息來判斷原假設(shè)是否合理，即判斷樣本信息與原假設(shè)是否有顯著差異，從而決定是否接受或否定原假設(shè)。假設(shè)檢驗(yàn)采用的邏輯推理方法是反證法。先假定原假設(shè)正確，然后根據(jù)樣本信息，觀察由此假設(shè)而導(dǎo)致的結(jié)果是否合理，從而判斷是否接受原假設(shè)。判斷結(jié)果合理與否，是基于“小概率事件不易發(fā)生”這一原理的。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第85頁!由樣本計算t統(tǒng)計量值；給定顯著性水平(levelofsignificance)，查t分布表得臨界值(criticalvalue)t/2(n-2)；比較，判斷：若|t|>t/2(n-2)，則以（1－α）的置信度（confidencecoefficient）拒絕H0

，接受H1

；若|t|

t/2(n-2)，則以（1－α）的置信度不拒絕H0

。自學(xué)教材p48例題，學(xué)會檢驗(yàn)的全過程。統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第86頁!三、參數(shù)的置信區(qū)間

ConfidenceIntervalofParameter統(tǒng)計學(xué)一元線性回歸模型共97頁，您現(xiàn)在瀏覽的是第87頁!

如果存在這樣一個區(qū)間，稱之為置信區(qū)間；1-稱為置信系數(shù)（置信度）（confidencecoefficient），稱為顯著性水平；置信區(qū)間的端點(diǎn)稱為置信限（confidencelimit）。