第八章第二節(jié)估計(jì)優(yōu)良性

1、 第八章 參數(shù)估計(jì)第二節(jié) 點(diǎn)估計(jì)量的優(yōu)良性 上一節(jié)中，我們介紹了估計(jì)總體參數(shù)的兩個(gè)常用的方法：矩估計(jì)法和極大似然估計(jì)法。并且已經(jīng)知道，對于同一個(gè)參數(shù)，用矩估計(jì)法和極大似然估計(jì)法得出的估計(jì)量有的時(shí)候是相同的，有的時(shí)候是不同的，即對于同一個(gè)參數(shù),可以有多個(gè)估計(jì)量等,究竟采用哪一個(gè)估計(jì)量好呢？這就涉及到用什么標(biāo)準(zhǔn)來評價(jià)估計(jì)量好壞的問題。通常采用下列標(biāo)準(zhǔn)。一、無偏估計(jì)這里我們給出一種對任何樣本容量都適用的評價(jià)估計(jì)量好壞的準(zhǔn)則。設(shè)是總體分布中的未知參數(shù)，為的估計(jì)量。既然是樣本的函數(shù)，因此對于不同的抽樣結(jié)果，的值也不一定相同，然而我們希望在多次試驗(yàn)中，用作為的估計(jì)沒有系統(tǒng)誤差，即用作為的估計(jì)，其平均偏差為

2、0，用公式表示即，這就是估計(jì)量的無偏性的概念。這是估計(jì)量應(yīng)具有的一種良好性質(zhì)。沒有系統(tǒng)性偏差的性質(zhì)在統(tǒng)計(jì)學(xué)上稱作無偏性。顯然它可以作為衡量估計(jì)量估計(jì)量好壞的一個(gè)準(zhǔn)則。定義2 設(shè)（簡記為）為未知參數(shù)的估計(jì)量，若, (8.5)則稱為的無偏估計(jì)。例1 設(shè)總體的均值,總體方差。設(shè)為來自于總體的樣本,求證：（1）是的無偏估計(jì)量；（2）是的無偏估計(jì)量。（3）設(shè)常數(shù)滿足，則是總體均值的無偏估計(jì)。證明因?yàn)楠?dú)立且與同分布,;于是,故是的無偏估計(jì)量；,下面計(jì)算。方法1 ;方法2, ;方法3 ,故 . 但是，不是總體方差的無偏估計(jì)。事實(shí)上，,所以，它是有偏的.這個(gè)例題很給力例2 設(shè)總體的概率密度為 ,為來自總體的樣

3、本.(1)求總體均值,總體方差(2)求的矩估計(jì)量;(3)是否為的無偏估計(jì)？(4)求的方差 .解 (1)總體均值;總體方差;(2)令,即, 得的矩估計(jì)量為;(3),所以是的無偏估計(jì);(4)的方差 . .例3 設(shè)總體X，X，X，X是來自X的一個(gè)樣本，試確定常數(shù)C，使為的無偏估計(jì)。解法一 因?yàn)?，?()( 若寫出,則錯(cuò)了,因?yàn)椴华?dú)立.)故 ,而由 得到于是 ，故。解法二 因?yàn)楠?dú)立同分布,()，因而，故 。解法三,因獨(dú)立同分布，故，,于是 為使其為的無偏估計(jì)，必有，即。 解法四 由得到故 。 注意 上例解法四推演步驟甚多，但其使用的手法是很重要的。這個(gè)手法就是遇有隨即變量之差的平方時(shí)，將這個(gè)差變形為，

4、從而將差的平方與方差聯(lián)系起來。顯然，由例1我們看到，（）和都是總體均值的無偏估計(jì)。由此可見，一個(gè)未知參數(shù)可以有不同的的無偏估計(jì)量。因此，對于幾個(gè)無偏估計(jì)量，應(yīng)該有個(gè)區(qū)別好壞的標(biāo)準(zhǔn)。二、最小方差無偏估計(jì) 設(shè)是的無偏估計(jì)量，,我們很自然的要求與盡可能接近，也即要盡量小。而 ,這就看出，當(dāng)是的無偏估計(jì)量時(shí)，其方差越小越好。因此方差最小的無偏估計(jì)就是一個(gè)“最佳”的估計(jì)。 定義3 設(shè)是的一個(gè)無偏估計(jì)，若對于的任一無偏估計(jì)，成立 ,則稱是的最小方差無偏估計(jì)。例2設(shè)為來自于總體的樣本,總體均值,總體方差,求的最小方差線性無偏估計(jì)。解 已知獨(dú)立且與同分布,;的線性估計(jì)是將的線性函數(shù)作為的估計(jì)量。問題是如何選取

5、的值，使得無偏性和最小方差這兩個(gè)要求都能得到滿足。易知, , 無偏性要求,最小方差要求達(dá)到最小；利用Cauchy不等式得，且等號成立，當(dāng)且僅當(dāng)全相等，記，由條件,得到，于是當(dāng)時(shí)，達(dá)到最??；故,是的最小方差線性無偏估計(jì)。從這里，我們看到了選取樣本均值作為總體均值的估計(jì)的優(yōu)良性質(zhì)。若和都是的無偏估計(jì)量，且成立，則通常稱估計(jì)量較有效,或較佳,或較優(yōu).例 設(shè)為總體的一個(gè)樣本,試證下列估計(jì)量,都是總體均值的無偏估計(jì)量,且問哪一個(gè)最佳？證明 已知獨(dú)立同分布, 所以都是的無偏估計(jì)量;, , 于是,故最佳.三、一致估計(jì)設(shè)為總體參數(shù)的估計(jì)量，顯然與樣本有關(guān)，我們希望會(huì)隨著樣本容量的增大而越接近于，這一要求便是衡量估計(jì)量好壞的另一標(biāo)準(zhǔn)。定義4 設(shè)為未知參數(shù)的估計(jì)量，若依概率收斂于，即對任意的,成立 , (8.7)或 , 則稱為的一致性估計(jì)。例8試證樣本均值為總體均值的一致性估計(jì)。證 因?yàn)?,所以，對于相互獨(dú)立且服從同一分布的隨機(jī)變量，由大數(shù)定律【第六章】，得，即得 。 此外，還可證明樣本方差是