第三講基本假設(shè)和參數(shù)估計

第三講基本假設(shè)和參數(shù)估計第一頁，共35頁。①不線性相關(guān)一定不相關(guān)；②有相關(guān)關(guān)系并不意味著一定有因果關(guān)系；③？分析對稱地對待任何（兩個）變量，兩個變量都被看作是隨機的。④？分析對變量的處理方法存在不對稱性，即區(qū)分應(yīng)變量（被解釋變量）和自變量（解釋變量）：前者是隨機變量，后者不是。判斷、填空第二頁，共35頁。樣本回歸函數(shù)樣本回歸模型利用樣本回歸模型，觀察值可以表示為利用總體回歸模型，觀察值可以表示為總體回歸模型總體回歸函數(shù)第三頁，共35頁。樣本回歸函數(shù)（模型）與總體回歸函數(shù)（模型）的區(qū)別總體回歸函數(shù)是未知的，但它是確定的；樣本回歸函數(shù)是隨抽樣波動而變化的，可以有許多條總體回歸函數(shù)的參數(shù)和是確定的常數(shù)；而樣本回歸函數(shù)的參數(shù)和是隨抽樣而變化的隨機變量總體回歸模型中的是不可直接觀測的；樣本回歸模型的是只要估計出樣本回歸的參數(shù)就可以計算的數(shù)值。第四頁，共35頁?！褡鳛榭傮w運行的客觀規(guī)律，總體回歸函數(shù)是客觀存在的，但在實際的經(jīng)濟研究中總體回歸函數(shù)通常是未知的，只能根據(jù)經(jīng)濟理論和實踐經(jīng)驗去設(shè)定。計量經(jīng)濟學研究中“計量”的根本目的就是要尋求總體回歸函數(shù)。●我們所設(shè)定的計量模型實際就是在設(shè)定總體回歸函數(shù)的具體形式?！窨傮w回歸函數(shù)中Y與X的關(guān)系可以是線性的，也可以是非線性的。5如何理解總體回歸函數(shù)第五頁，共35頁?！?.2一元線性回歸模型的基本假設(shè)

§2.3一元線性回歸模型的參數(shù)估計（1）一、參數(shù)的普通最小二乘估計（OLS）二、一元線性回歸模型的基本假設(shè)三、最小二乘估計量的性質(zhì)第六頁，共35頁。

一元線性回歸模型：只有一個解釋變量

i=1,2,…,nY為被解釋變量，X為解釋變量，0與1為待估參數(shù)，為隨機干擾項.

若有n個樣本觀測點也可寫為第七頁，共35頁。

一、參數(shù)的普通最小二乘估計（OLS）

給定一組樣本觀測值（Xi,Yi）（i=1,2,…n）普通最小二乘法歸功于德國數(shù)學家高斯第八頁，共35頁。普通最小二乘法（Ordinaryleastsquares,OLS）的基本思路：在來自于總體的n個觀測點中，試圖找到一條直線，使得這些點到這條直線的垂直距離的平方和最小

令求關(guān)于和的偏導數(shù)，并令其為0，得：（1）第九頁，共35頁。方程組（1）或（2）稱為正規(guī)方程組（normalequations）。

整理得（2）第十頁，共35頁。記上述參數(shù)估計量可以寫成：

稱為OLS估計量的離差形式（deviationform）。由于參數(shù)的估計結(jié)果是通過最小二乘法得到的，故稱為普通最小二乘估計量（ordinaryleastsquaresestimators）。

第十一頁，共35頁。順便指出，記則有

可得

（**）式也稱為樣本回歸函數(shù)的離差形式。（**）注意：

在計量經(jīng)濟學中，往往以小寫字母表示對均值的離差。

?第十二頁，共35頁。這樣一旦從樣本數(shù)據(jù)得到OLS估計值，便容易畫出樣本回歸線，它具有如下性質(zhì)（課本60頁第9題）1、樣本回歸直線經(jīng)過樣本的均值點，2、殘差的均值為0，即有：即有3、不相關(guān)與第十三頁，共35頁。

回歸分析的主要目的是要通過樣本回歸函數(shù)（模型）SRF盡可能準確地估計總體回歸函數(shù)（模型）PRF。

二、線性回歸模型的基本假設(shè)不僅僅是得到和，而且要對真實的做出推斷。

和或者說，我們想知道與其期望值有多接近

具體地說下面我們要介紹的就是經(jīng)典假設(shè)，滿足該假設(shè)的線性回歸模型稱為經(jīng)典線性回歸模型。問題：通過OLS法，得到了OLS估計量，夠用了嗎？必須知道Y的產(chǎn)生方式依賴于X與u第十四頁，共35頁。假設(shè)1回歸模型是正確設(shè)定的；變量正確（沒遺沒漏）；函數(shù)形式正確否則模型設(shè)定偏誤假設(shè)2

解釋變量X是確定性變量，不是隨機變量，在重復抽樣中取固定值。假設(shè)3解釋變量X在所抽取的樣本中具有變異性，而且隨著樣本容量的無限增加，解釋變量X的樣本方差趨于一個非零的有限常數(shù)。即注意:解釋變量非隨機在自然科學的實驗研究中相對容易滿足，經(jīng)濟領(lǐng)域中變量的觀測是被動不可控的，X非隨機的假定并不一定都滿足。第十五頁，共35頁。假設(shè)4隨機誤差項具有給定條件下的零均值、同方差和不序列相關(guān)性：前4個假定也專門稱為高斯-馬爾科夫假設(shè)。這些假設(shè)能夠保證前面介紹的估計方法具有良好的效果。

X

Y第十六頁，共35頁。假設(shè)5、隨機誤差項與解釋變量X之間不相關(guān)：

Cov(Xi,i)=0i=1,2,…,n假設(shè)6、隨機誤差項服從零均值、同方差的正態(tài)分布，即

若不知其概率分布，那我們將無法將它們與其真實值相聯(lián)系。由于是隨機變量，所以我們需要清楚他們的概率分布，而他們將取決于對的概率分布所做的假定。第十七頁，共35頁。為什么是正態(tài)假定呢？隨機干擾項代表回歸模型中未明顯引進的許多自變量（對因變量）的總影響，我們希望這些被忽略的變量所起的影響是微小的。于是利用統(tǒng)計學中著名的中心極限定理就能證明，如果存在大量獨立且相同分布的隨機變量，隨著這些變量個數(shù)的無限增大，他們的總和將趨向正態(tài)分布。正是這個中心極限定理為隨機干擾項正態(tài)性假定提供了理論基礎(chǔ)2、正態(tài)分布的一個性質(zhì)是，正態(tài)分布變量的任何線性函數(shù)都是正態(tài)分布。3、正態(tài)分布是一個比較簡單、僅涉及兩個參數(shù)（均值和方差）的分布；他為人們所熟知，他的理論性質(zhì)在數(shù)理統(tǒng)計學中受到廣泛的研究。4、如果我們在處理小樣本或有限容量時，比如說數(shù)據(jù)小于100次觀測，那么正態(tài)假定就起到關(guān)鍵作用。她不僅有助于我們推導出OLS估計量精確的概率分布，而且是我們能用t、F和卡方分布來對回歸模型進行統(tǒng)計檢驗。第十八頁，共35頁。由于其中的和是非隨機的，是隨機變量，因此Y是隨機變量，

的分布性質(zhì)決定了的分布性質(zhì)。

對的一些假定可以等價地表示為對的假定：

假定1：零均值假定

假定2：同方差假定假定3：無自相關(guān)假定

假定5：正態(tài)性假定

19在對的基本假定下Y的分布性質(zhì)第十九頁，共35頁。重要提示幾乎沒有那個實際問題能夠同時滿足所有基本假設(shè)。通過模型理論的發(fā)展，就可以克服違背基本假設(shè)所帶來的問題違背基本假設(shè)的處理構(gòu)成了以下內(nèi)容：異方差問題（違背同方差假設(shè)）序列相關(guān)問題（違背序列不相關(guān)假設(shè)）共線性問題（違背解釋變量不相關(guān)假設(shè)）隨機解釋變量問題（解釋變量不確定，與隨機誤差項相關(guān)）注意：所有的假定都是關(guān)于PRF，而不是SRF第二十頁，共35頁。21

面臨的問題:

參數(shù)估計值參數(shù)真實值對參數(shù)估計式的優(yōu)劣需要有評價的標準

為什么呢?

●參數(shù)無法直接觀測，只能通過樣本去估計。樣本的獲得存

在抽樣波動，不同樣本的估計結(jié)果不一致?！窆烙媴?shù)的方法有多種，不同方法的估計結(jié)果可能不相同，

通過樣本估計參數(shù)時，估計方法及所確定的估計量不一定

完備，不一定能得到理想的總體參數(shù)估計值。對各種估計方法優(yōu)劣的比較與選擇需要有評價標準。估計準則的基本要求：參數(shù)估計值應(yīng)"盡可能地接近"總體參數(shù)真實值”。

什么是“盡可能地接近”原則呢？

用統(tǒng)計語言表述就是:無偏性、有效性、一致性等

三、最小二乘估計量的性質(zhì)第二十一頁，共35頁。22

(1)無偏性

前提：重復抽樣中估計方法固定、樣本數(shù)不變、由重復抽樣得到的觀測值,可得一系列參數(shù)估計值,的分布稱為的抽樣分布，其密度函數(shù)記為概念:如果，則稱是參數(shù)

的無偏估計量，如果，則稱是有偏的估計，其偏倚為（見下頁圖）第二十二頁，共35頁。23

概率密度

估計值偏倚第二十三頁，共35頁。24(2)有效性

前提：樣本相同、用不同的方法估計參數(shù)，可以找到若干個不同的無偏估計式

目標:

努力尋求其抽樣分布具有最小方差的估計量（見下頁圖）既是無偏的同時又具有最小方差特性的估計量，稱為最佳（有效）估計量。第二十四頁，共35頁。25

概率密度

估計值第二十五頁，共35頁。思想:當樣本容量較小時，有時很難找到方差最小的無偏估計，需要考慮樣本擴大后的性質(zhì)（估計方法不變，樣本數(shù)逐步增大）一致性：

當樣本容量n趨于無窮大時，如果估計式依概率收斂于總體參數(shù)的真實值，就稱這個估計式是

的一致估計式。即或

（漸近無偏估計式是當樣本容量變得足夠大時其偏倚趨于零的估計式）

(見下頁圖)漸近有效性：當樣本容量n趨于無窮大時，在所有的一致估計式中，具有最小的漸近方差。263、漸近性質(zhì)（大樣本性質(zhì)）第二十六頁，共35頁。估計值概率密度第二十七頁，共35頁。先明