(1.37)-概率論與數(shù)理統(tǒng)計(jì)第20講

1概率論與數(shù)理統(tǒng)計(jì)第20講第六章參數(shù)估計(jì)2在實(shí)際問(wèn)題中,當(dāng)所研究的總體分布類型已知,但分布中含有一個(gè)或多個(gè)未知參數(shù)時(shí),如何根據(jù)樣本來(lái)估計(jì)未知參數(shù),這就是參數(shù)估計(jì)問(wèn)題.3參數(shù)估計(jì)問(wèn)題分為點(diǎn)估計(jì)問(wèn)題與區(qū)間估計(jì)問(wèn)題兩類.所謂點(diǎn)估計(jì)就是用某一個(gè)函數(shù)值作為總體未知參數(shù)的估計(jì)量;區(qū)間估計(jì)就是對(duì)于未知參數(shù)給出一個(gè)范圍,并且在一定可靠度下使這個(gè)范圍包含未知參數(shù)的真值.4參數(shù)估計(jì)問(wèn)題的一般提法

設(shè)有一個(gè)總體X,總體的分布函數(shù)為F(x,q),其中q為未知參數(shù)(q可以是向量).現(xiàn)從該總體中隨機(jī)地抽樣,得到一個(gè)樣本

X1,X2,…,Xn,

再依據(jù)該樣本對(duì)參數(shù)q作出估計(jì),或估計(jì)參數(shù)q的某已知函數(shù)g(q).5§6.1點(diǎn)估計(jì)問(wèn)題概述一,點(diǎn)估計(jì)的概念678二,評(píng)價(jià)估計(jì)量的標(biāo)準(zhǔn)

估計(jì)量的評(píng)價(jià)一般有三條標(biāo)準(zhǔn):

(1)無(wú)偏性;

(2)有效性;

(3)相合性(一致性)91011121314§6.2點(diǎn)估計(jì)的常用方法1516定義1

用相應(yīng)的樣本矩去估計(jì)總體矩的方法就稱為矩估計(jì)法.用矩估計(jì)法確定的估計(jì)量稱為矩估計(jì)量.相應(yīng)的估計(jì)值稱為矩估計(jì)值.矩估計(jì)量與矩估計(jì)值統(tǒng)稱為矩估計(jì).17求矩估計(jì)的方法:

設(shè)總體X的分布函數(shù)F(x;q1,…,qk)中有k個(gè)未知參數(shù)q1,…,qk,則

(1)求總體X的前k階矩m1,…,mk,一般都是這k個(gè)未知參數(shù)的函數(shù),記為

mi=gi(q1,…,qk),i=1,2,…,k(2.1)

(2)從(1)中解得qi=hi(m1,…,mk),j=1,…,k

(3)再用mi的估計(jì)量Ai代替上式中的mi,即可得qj(j=1,2,…,k)的矩估計(jì)量:1819二,最大似然估計(jì)法

引例某同學(xué)與一位獵人一起去打獵,一只野兔從前方竄過(guò),只聽一聲槍響,野兔應(yīng)聲倒下,試猜測(cè)是誰(shuí)打中的?

由于只發(fā)一槍便打中,而獵人命中的概率大于這位同學(xué)命中的概率,故一般會(huì)猜測(cè)這一槍是獵人射中的.201.最大似然估計(jì)法的思想:在已經(jīng)得到實(shí)驗(yàn)結(jié)果的情況下,應(yīng)該尋找使這個(gè)結(jié)果出現(xiàn)的可能性最大的那個(gè)q值作為q的估計(jì)

注:

最大似然估計(jì)法首先由德國(guó)數(shù)學(xué)家高斯于1821年提出,英國(guó)統(tǒng)計(jì)學(xué)家費(fèi)歇于1922年重新發(fā)現(xiàn)并作了進(jìn)一步的研究.

下面分別就離散型總體和連續(xù)型總體情形作具體討論.21(1)離散型總體的情形:設(shè)總體X的概率分布為 P{X=x}=p(x,q),(q為未知參數(shù)).

如果X1,X2,…,Xn是取自總體X的樣本,樣本的觀察值為x1,x2,…,xn,

則樣本的聯(lián)合分布律在給定觀察值的情況下,它是q的函數(shù),記為稱其為似然函數(shù).22(2)連續(xù)型總體的情形:設(shè)總體X的概率密度為f(x,q),其中q為未知參數(shù),此時(shí)定義似然函數(shù)2324252.求最大似然估計(jì)的一般方法

求未知參數(shù)q的最大似然估計(jì)問(wèn)題,歸結(jié)為求似然函數(shù)L(q)的最大值點(diǎn)的問(wèn)題.當(dāng)似然函數(shù)關(guān)于未知參數(shù)可微時(shí),可利用微分學(xué)中求最大值的方法求之.2627注:

因函數(shù)lnL是L的單調(diào)增加函數(shù),且函數(shù)lnL(q)與函數(shù)L(q)有相同的極值點(diǎn),故常轉(zhuǎn)化為求函數(shù)lnL(q)的最大值點(diǎn)較方便.

注:

①當(dāng)似然函數(shù)關(guān)于未知函數(shù)不可微時(shí),只能按最大似然估計(jì)法的基本思想求出最大值點(diǎn).

②上述方法易推廣至多個(gè)未知參數(shù)的情形.28例5

設(shè)X~b(1,p),X1,X2,…,Xn是取自總體X的一個(gè)樣本.試求參數(shù)p的最大似然估計(jì).

解設(shè)x1,x2,…,xn是相應(yīng)于樣本X1,X2,…,Xn的一個(gè)樣本值,X的分布律為 P{X=x}=px(1-p)1-x,x=0,1.

故似然函數(shù)為29令30例6

設(shè)總體X服從[0,q]上的均勻分布,q未知.X1,…,Xn為X的樣本,x1,…,xn為樣本值.試求q的最大似然估計(jì).

解似然函數(shù)為顯然無(wú)法從L'(q)=0得到最大似然估計(jì).我們考慮直接按最大似然法的基本思想來(lái)確定.31欲使L(q)最大,q應(yīng)盡量小但又不能太小,它必須同時(shí)滿足

q

xi,i=1,…,n,

否則L(q)=0,而0不可能是L(q)的最大值.因此是最大似然估計(jì)值和估計(jì)量.32例7

設(shè)總體X服從指數(shù)分布,概率密度為l是未知參數(shù).x1,x2,…,xn是來(lái)自總體X的一個(gè)樣本觀察值,求參數(shù)l的最大似然估計(jì)值.33解似然函數(shù)則L的最大值點(diǎn)一定是的最大值點(diǎn).34對(duì)其取對(duì)數(shù)得由得35例8

設(shè)x1,x