最大釋然估計與距估計

§52參數(shù)的最大似然估計與矩估計一、最大似然估計二、矩估計一、最大似然估計1最大似然法的基本思想在已經(jīng)得到試驗結(jié)果的情況下我們應(yīng)該尋找使這個結(jié)果出現(xiàn)的可能性最大的那個作為真的估計

一、最大似然估計1最大似然法的基本思想若X為離散型隨機變量其概率分布的形式為

P{Xx}p(x)

則樣本(X1

Xn)的概率分布稱為似然函數(shù)

設(shè)(X1

Xn)為來自總體X的樣本

X的分布類型已知但參數(shù)未知Θ

似然函數(shù)L()的值表示(X1

Xn)取值(x1

xn)的可能性的大小

一、最大似然估計1最大似然法的基本思想設(shè)(X1

Xn)為來自總體X的樣本

X的分布類型已知但參數(shù)未知Θ

若已經(jīng)得到了樣本值(x1

xn)那該樣本值出現(xiàn)的可能性應(yīng)該是大的因而我們選擇使L()達到最大值的那個作為真的估計

稱為似然函數(shù)

若X為連續(xù)型隨機變量其密度函數(shù)為f(x)則樣本(X1

Xn)的密度函數(shù)定義54(最大似然估計)

若對任意給定的樣本值(x1

xn)存在

*

*(x1

xn)使則稱*(x1

xn)為的最大似然估計值稱相應(yīng)的統(tǒng)計量*(X1

Xn)為的最大似然估計量它們統(tǒng)稱為的最大似然估計可簡記為MLE

2最大似然估計的一般求法當(dāng)似然函數(shù)關(guān)于未知參數(shù)可微時一般可通過求導(dǎo)數(shù)得到MLE其主要步驟是

(1)寫出似然函數(shù)(1

r)

(3)判斷駐點為最大值點

(4)求得各參數(shù)的MLE

說明

按照本課程的要求當(dāng)似然函數(shù)的駐點惟一時不必驗證該駐點是否為最大值點可直接把駐點作為所求參數(shù)的最大似然估計

例57設(shè)總體X~N(

2)

與

2均未知

∞<<∞

20(X1

Xn)為來自X的樣本(x1

xn)為樣本值試求與

2的最大似然估計

解

X的密度為似然函數(shù)為

例57設(shè)總體X~N(

2)

與

2均未知

∞<<∞

20(X1

Xn)為來自X的樣本(x1

xn)為樣本值試求與

2的最大似然估計

解

似然函數(shù)為似然函數(shù)的駐點為別為與2的最大似然估計值

最大似然估計的不變性

例58設(shè)某種型號的電子元件的壽命X(以小時計)的密168130169143174198108212252

平均壽命以及概率P{X180}的最大似然估計值

先求平均壽命EX即的最大似然估計量

解似然函數(shù)為

例58設(shè)某種型號的電子元件的壽命X(以小時計)的密168130169143174198108212252

平均壽命以及概率P{X180}的最大似然估計值

先求平均壽命EX即的最大似然估計量

解似然函數(shù)為

解

例58設(shè)某種型號的電子元件的壽命X(以小時計)的密168130169143174198108212252

平均壽命以及概率P{X180}的最大似然估計值

二、矩估計1矩法的基本思想用相應(yīng)的樣本矩去估計總體矩用相應(yīng)的樣本矩的函數(shù)去估計總體矩的函數(shù)例如二、矩估計1矩法的基本思想一般地若記則總體的k階原點矩用相應(yīng)的樣本k階原點矩來估計而總體的k階中心矩用相應(yīng)的樣本k階中心矩來估計即這種求點估計的方法叫做矩法

用矩法確定的估計量稱為矩估計量相應(yīng)的估計值稱為矩估計值矩估計量與矩估計值統(tǒng)稱為矩估計可簡記為ME

2矩估計的求法按照矩法的基本思想求矩估計的一般步驟為

(1)從總體矩入手將待估參數(shù)表示為總體矩的函數(shù)即

g(1

l

2

s)(2)用Ak

Bk分別替換g中的k

k

例59設(shè)總體X~N(

2)(X1

Xn)為取自總體X的樣本試求

2的矩估計量

解

EX

2DX故分別為與

2的矩估計量

由此可見正態(tài)總體N(

2)中與

2的最大似然估計和矩估計是完全一樣的

例5.10設(shè)總體X服從參數(shù)為m

p的二項分布

m已知

p未知(X

Xn)為其樣本試求(1)p的矩估計量

(2)p與q之比的矩估計量其中q1p

解

矩估計量

例511設(shè)總體X的密度函數(shù)為其中參數(shù)

均未知

0(X1

Xn)為取自X的樣本試求

的矩估計量