最大似然估計(jì)法

參數(shù)估計(jì)點(diǎn)估計(jì)區(qū)間估計(jì)矩估計(jì)法（7.2.1）最大似然估計(jì)

(7.2.2)第七章參數(shù)估計(jì)假設(shè)一個總體服從正態(tài)分布從總體中獲取了n個樣本估計(jì)正態(tài)總體的

其基本思想是用樣本矩估計(jì)總體矩

.

理論依據(jù):

矩估計(jì)法是基于一種簡單的“替換”思想建立起來的一種估計(jì)方法.是英國統(tǒng)計(jì)學(xué)家K.皮爾遜最早提出的.大數(shù)定律

7.2.2最大似然估計(jì)法最大似然估計(jì)法是在總體的分布類型已知的條件下所使用的一種參數(shù)估計(jì)方法.

它首先是由德國數(shù)學(xué)家高斯在1821年提出的.GaussFisher然而，這個方法常歸功于英國統(tǒng)計(jì)學(xué)家費(fèi)歇.

費(fèi)歇在1922年重新發(fā)現(xiàn)了這一方法，并首先研究了這種方法的一些性質(zhì).

最大似然估計(jì)法是基于最大似然原理提出的。為了說明最大似然原理,我們先看個例子。

例子：一只野兔從前方竄過，是誰擊中的野兔,某同學(xué)與一位獵人一起外出打獵。忽然，若讓你推測一下，你會怎樣想?只聽一聲槍響，野兔應(yīng)聲倒下.為了進(jìn)一步體會最大似然估計(jì)法的思想,我們再看一個例子.你會想：只一槍便擊中,一般情況下獵人擊中的概率比同學(xué)擊中的概率大。

故這一槍極大可能是獵人打的。

你的這一想法中就已經(jīng)包含了最大似然原理的基本思想.

例如：有一事件A，我們知道它發(fā)生的概率p只可能是:試讓你推想一下p應(yīng)取何值?p=0.1，0.3或0.6

若在一次觀測中，事件A竟然發(fā)生了，你自然會認(rèn)為事件A發(fā)生的概率是0.6，而非其他數(shù)值。最大似然原理：概率大的事件在一次觀測中更容易發(fā)生。在一次觀測中發(fā)生了的事件其概率應(yīng)該大小結(jié)：最大似然估計(jì)法的一般步驟：（２）取對數(shù)（３）求導(dǎo)數(shù)，得駐點(diǎn)，最大值點(diǎn)（４）作結(jié)論（1）寫似然函數(shù)L例：設(shè)總體X服從參數(shù)為λ的指數(shù)分布，（x1,x2,…,xn）為樣本觀察值，求λ的最大似然估計(jì)值。解：總體X的概率密度函數(shù)為：似然函數(shù)為：①②③取對數(shù)得，④所以θ的最大似然估計(jì)值為:練習(xí)1:

設(shè)總體X的分布律為：0<p<1,p未知

,

求參數(shù)p的最大似然估計(jì)量.解:總體X的分布律為：設(shè)(X1,X2,…,Xn)是來自總體X的樣本。似然函數(shù)為：解得p的最大似然估計(jì)量為：p的最大似然估計(jì)值為：解：θ的似然函數(shù)為：取對數(shù)練習(xí)2：設(shè)(X1,X2,…Xn)是來自總體X的一個樣本求θ的最大似然估計(jì)量．其中

>0,求導(dǎo)并令其為0=0從中解得

即為θ的最大似然估計(jì)值。

即為θ的最大似然估計(jì)量。例

設(shè)總體X~N(),未知.是來自X

的樣本值,試求的最大似然估計(jì)量.似然函數(shù)為解X的概率密度為于是令解得的最大似然估計(jì)量為

由上可見：同一個未知參數(shù)，會有不同的估計(jì)量，那末如何評價它們的好壞呢？這就涉及到估計(jì)量的評選標(biāo)準(zhǔn)問題。1、無偏性無偏性要求估計(jì)量的取值要以參數(shù)真值為中心左右擺動。它等同于估計(jì)量的數(shù)學(xué)期望等于待估參數(shù)的真值。一個好的估計(jì)量應(yīng)滿足無偏性、有效性和一致性的要求。

衡量點(diǎn)估計(jì)量好壞的標(biāo)準(zhǔn)證明:

討論：對總體X～N(μ,σ2)來說，樣本(X1,X2,…,Xn)中的X1與都是μ的無偏估計(jì)量嗎？是θ的兩個無偏估計(jì)量，若2、有效性當(dāng)時依概率收斂于,則稱為的一致估計(jì)量.設(shè)是參數(shù)

的估計(jì)量，為的一致估計(jì)量對于任意,有三、一致性四、小結(jié)對于一個未知參數(shù)