廣義矩估計(共9頁)

1、精選優(yōu)質(zhì)文檔-傾情為你奉上廣義矩估計一、背景我們前面學(xué)了OLS估計、工具變量估計方法，前面這幾種方法都有重要假設(shè)就是需要知道分布才能估計，但是往往現(xiàn)實理論我們無法得到關(guān)于分布的信息，因此矩估計方法應(yīng)運而生。矩估計方法的基本思想是利用樣本矩的信息組成方程組來求總體矩，以此得到漸進(jìn)性質(zhì)下的一致性估計量。那么在構(gòu)成方程組求解的過程中涉及識別問題和解決。本章詳細(xì)介紹矩估計方法。矩估計方法實際應(yīng)用非常廣泛，應(yīng)注意將矩估計與OLS估計、工具變量估計和極大似然估計方法結(jié)合對比進(jìn)行應(yīng)用。二、知識要點1，應(yīng)用背景2，矩估計存在的問題（識別）3，矩正交方程和矩條件4，矩估計的屬性三、要點細(xì)綱1、應(yīng)用背景其基本思想

2、是：在隨機(jī)抽樣中，樣本統(tǒng)計量（在一個嚴(yán)格意義上，一個統(tǒng)計量是觀察的n維隨機(jī)向量即子樣的一個（波雷爾可測）函數(shù)，且要求它不包含任何未知參數(shù)）將依概率收斂于某個常數(shù)。這個常數(shù)又是分布中未知參數(shù)的一個函數(shù)。即在不知道分布的情況下，利用樣本矩構(gòu)造方程（包含總體的未知參數(shù)），利用這些方程求得總體的未知參數(shù)?；径x統(tǒng)計量 為子樣的階矩（階原點矩）；統(tǒng)計量 為子樣的階中心矩。子樣矩的均值與方差我們用到時假定它是存在的。基本做法設(shè)：母體的可能分布族為，其中屬于參數(shù)空間的是待估計的未知參數(shù)。假定母體分布的k階矩存在，則母體分布的階矩是的函數(shù)。對于子樣，其階子樣矩是現(xiàn)在用子樣矩作為母體矩的估計，即令： （1）（

3、1）式確定了包含k個未知參數(shù)的k個方程式。求解（1）式就可以得到的一組解。因為是隨機(jī)變量，故解得的也是隨機(jī)變量。將分別作為的估計稱為矩方法的估計，這種求估計量的方法稱為矩方法。2、矩估計存在的問題（識別）當(dāng)我們選擇的樣本矩方程多于、等于或少于我們所要估計的參數(shù)時，是否存在唯一解？如果無解，我們應(yīng)該采用什么技術(shù)進(jìn)行處理？設(shè) 為模型向量， 為工具變量?？紤] R 個矩條件這里 是 向量，是R 維向量函數(shù)?？紤]相應(yīng)的樣本矩條件：.什么時候可以利用R 個樣本矩條件估計K 個參數(shù)？(1) R K這時方程組中方程的個數(shù)多于參數(shù)的個數(shù)，此為過度識別問題，這時我們對矩條件的權(quán)重進(jìn)行修正，即采用最優(yōu)GMM估計方法

4、?？紤]GMM的目標(biāo)函數(shù)采用平方形式：問題就是最小化：如何選擇？根據(jù)大數(shù)定理： .和中心極限定理： .方差較小的矩就賦予較小的權(quán)重，即如不存在自相關(guān)，則：.意味著我們選用的最優(yōu)權(quán)重矩陣為：3，矩正交方程和矩條件本節(jié)介紹實際操作中如何建立矩條件方程組?？紤]一個變量，我們不知道分布，但是知道，我們得到總體的矩條件： 或者這里。由于我們不能計算，定義樣本矩條件： (1)根據(jù)大數(shù)定理，有： 對于. (2)那么采用矩估計量，可以證明：。實際操作中采用兩階段GMM估計和迭代GMM估計。（1）兩階段GMM估計選擇一個最初的估計權(quán)重，或，找到參數(shù)的一致性估計量：，接著估計最優(yōu)權(quán)重，最后作最優(yōu)GMM估計：。（2）

5、迭代GMM估計選擇一個最初的估計權(quán)重，計算矩條件得到的參數(shù)函數(shù)，再找一個新的權(quán)重，進(jìn)行迭代運算直到和收斂。4，矩估計的屬性1、矩估計量是一個大樣本估計量。2、當(dāng)，沒有關(guān)于分布的假設(shè)條件；矩估計量是漸進(jìn)有效的；很多估計量可以作為GMM的估計量，應(yīng)用很廣泛；矩估計量是一個非線性的估計量：。四、習(xí)題1、闡述矩估計的應(yīng)用背景。2、簡要闡述矩估計的識別問題。3、簡要闡述兩階段矩估計和迭代矩估計的思想和做法。4、簡要闡述矩估計和OLS估計和IV估計之間的關(guān)系。極大似然估計一、背景極大似然估計法（ML）是不同于最小二乘法的另一種參數(shù)估計方法，其應(yīng)用雖然沒有最小二乘普遍，但在計量經(jīng)濟(jì)學(xué)中占有絕對重要的地位，因

6、為極大似然原理比最小二乘原理更本質(zhì)的揭示了通過樣本估計母體參數(shù)的內(nèi)在機(jī)理。計量經(jīng)濟(jì)學(xué)理論的發(fā)展更多的是以極大似然估計原理為基礎(chǔ)的，一些特殊的計量經(jīng)濟(jì)模型只有用極大似然的方法才能進(jìn)行估計。本部分我們就極大似然估計的基本原理以及性質(zhì)進(jìn)行學(xué)習(xí)。二、知識要點1，極大似然函數(shù)2，正則條件與克拉美-勞下界3，極大似然估計的性質(zhì)4，BHHH三、要點細(xì)綱1、極大似然函數(shù)及其估計的基本原理 從總體中經(jīng)過N次隨機(jī)抽取得到樣本容量為N的樣本觀測值，在任一次隨機(jī)抽取中，樣本觀測值都以一定的概率出現(xiàn)，各樣本的抽取是獨立的，因此容易得到樣本的聯(lián)合密度函數(shù)。若只知道總體服從某種分布，但不知道其分布的參數(shù)，在可供選擇的總體中

7、，我們選擇使得產(chǎn)生N個樣本的聯(lián)合概率最大的總體。樣本觀測值聯(lián)合概率函數(shù)就稱為似然函數(shù)。設(shè)總體的概率密度函數(shù)為，其類型是已知的，但含有未知參數(shù)，觀測值的聯(lián)合密度函數(shù)為：。它就稱為樣本的似然函數(shù)，包含有未知參數(shù)。極大似然估計的原理就是尋找參數(shù)估計量，使得似然函數(shù)達(dá)到最大，就稱為極大似然估計量。通過取對數(shù)以及一階條件可以求得該參數(shù)估計值?？梢宰C明對于多元線性回歸模型，在古典假設(shè)條件成立的條件下，極大似然估計得到的參數(shù)估計量與最小二乘估計得到的參數(shù)估計量是一樣的。2、正則條件設(shè)是來自于密度函數(shù)為的單元（或多元）總體，密度函數(shù)遵從下列正則條件： R1. 對幾乎所有的和所有的，關(guān)于的前三階導(dǎo)數(shù)是有限的。（

8、這樣就確保了某些Taylor級數(shù)近似的存在和導(dǎo)數(shù)的有限方差）； R2. 滿足獲得一階二階導(dǎo)數(shù)期望所需的條件；R3. 對于所有的取值，小于一個具有有限期望的函數(shù)（這點使我們能夠?qū)aylor級數(shù)進(jìn)行舍去項數(shù)）。在這些正則條件，我們有下列關(guān)于的基本性質(zhì)：D1. , 和 （）是隨機(jī)變量的全部隨機(jī)樣本；D2. ，一階導(dǎo)數(shù)的期望為零； D3. ，二階導(dǎo)數(shù)矩陣期望的負(fù)值等于一階導(dǎo)數(shù)的方差。了解正則條件，記住D2、D3的性質(zhì)。 3、克拉美-勞下界若x的密度函數(shù)滿足一定的正則條件，參數(shù)的一個無偏估計量的方差總是大于等于 這就是克拉美-勞下界，或稱為信息矩陣。對的任一無偏估計，這是無偏估計的方差下界，但不一定是

9、下確界。若的方差正好達(dá)到不等式的右端，則為的最小方差估計。4、極大似然估計的性質(zhì)若似然函數(shù)滿足正則條件，極大似然估計量有下列漸進(jìn)性質(zhì)：M1、一致性：M2、漸進(jìn)正態(tài)：，M3、漸進(jìn)有效：是漸進(jìn)有效的，且達(dá)到一致估計量的克拉美-勞下界： M4、不變性：若是的ML估計，是連續(xù)函數(shù)，則的ML估計是。這四個性質(zhì)特別是最后兩個性質(zhì)，估計量達(dá)到了最小方差，即ML估計量是有效估計量。同時若要估計參數(shù)的函數(shù)，無需重新估計模型，為估計參數(shù)函數(shù)提供了便利。但在小樣本的條件下，ML估計并不一定是最佳的。5、BHHH簡單的說它是用來估計最大似然估計量的漸近方差，也就是方差的克拉美-勞下界，是一種依靠計算機(jī)的算法，因此此內(nèi)容只是作為了解。當(dāng)對數(shù)似然函數(shù)的二階微分期望值的形式是已知的，那么可以在處估計MLE的方差。由于對數(shù)似然函數(shù)的二階微分幾乎總是復(fù)雜的非線性函數(shù)，其確切的期望值是未知的，那么可以考慮如下兩個可選估計量：（1）計算對數(shù)似然函數(shù)的二階微分矩陣而不是其期望值簡單得到漸近方差：它的缺點仍然在于計算二階微分矩陣的復(fù)雜性，計算機(jī)編程難以實現(xiàn)。（2）由于在正則條件下我們有性質(zhì)二階導(dǎo)數(shù)矩陣期望的負(fù)值等于一階導(dǎo)數(shù)的方差，因此我們有：，其中，該估計量就是