最大似然估計(jì)法

參數(shù)估計(jì)點(diǎn)估計(jì)區(qū)間估計(jì)矩估計(jì)法（7.2.1）最大似然估計(jì)

(7.2.2)第七章參數(shù)估計(jì)假設(shè)一個(gè)總體服從正態(tài)分布從總體中獲取了n個(gè)樣本估計(jì)正態(tài)總體的

其基本思想是用樣本矩估計(jì)總體矩

.

理論依據(jù):

矩估計(jì)法是基于一種簡(jiǎn)單的“替換”思想建立起來(lái)的一種估計(jì)方法.是英國(guó)統(tǒng)計(jì)學(xué)家K.皮爾遜最早提出的.大數(shù)定律

7.2.2最大似然估計(jì)法最大似然估計(jì)法是在總體的分布類型已知的條件下所使用的一種參數(shù)估計(jì)方法.

它首先是由德國(guó)數(shù)學(xué)家高斯在1821年提出的.GaussFisher然而，這個(gè)方法常歸功于英國(guó)統(tǒng)計(jì)學(xué)家費(fèi)歇.

費(fèi)歇在1922年重新發(fā)現(xiàn)了這一方法，并首先研究了這種方法的一些性質(zhì).

最大似然估計(jì)法是基于最大似然原理提出的。為了說(shuō)明最大似然原理,我們先看個(gè)例子。

例子：一只野兔從前方竄過(guò)，是誰(shuí)擊中的野兔,某同學(xué)與一位獵人一起外出打獵。忽然，若讓你推測(cè)一下，你會(huì)怎樣想?只聽(tīng)一聲槍響，野兔應(yīng)聲倒下.為了進(jìn)一步體會(huì)最大似然估計(jì)法的思想,我們?cè)倏匆粋€(gè)例子.你會(huì)想：只一槍便擊中,一般情況下獵人擊中的概率比同學(xué)擊中的概率大。

故這一槍極大可能是獵人打的。

你的這一想法中就已經(jīng)包含了最大似然原理的基本思想.

例如：有一事件A，我們知道它發(fā)生的概率p只可能是:試讓你推想一下p應(yīng)取何值?p=0.1，0.3或0.6

若在一次觀測(cè)中，事件A竟然發(fā)生了，你自然會(huì)認(rèn)為事件A發(fā)生的概率是0.6，而非其他數(shù)值。最大似然原理：概率大的事件在一次觀測(cè)中更容易發(fā)生。在一次觀測(cè)中發(fā)生了的事件其概率應(yīng)該大小結(jié)：最大似然估計(jì)法的一般步驟：（２）取對(duì)數(shù)（３）求導(dǎo)數(shù)，得駐點(diǎn)，最大值點(diǎn)（４）作結(jié)論（1）寫似然函數(shù)L例：設(shè)總體X服從參數(shù)為λ的指數(shù)分布，（x1,x2,…,xn）為樣本觀察值，求λ的最大似然估計(jì)值。解：總體X的概率密度函數(shù)為：似然函數(shù)為：①②③取對(duì)數(shù)得，④所以θ的最大似然估計(jì)值為:練習(xí)1:

設(shè)總體X的分布律為：0<p<1,p未知

,

求參數(shù)p的最大似然估計(jì)量.解:總體X的分布律為：設(shè)(X1,X2,…,Xn)是來(lái)自總體X的樣本。似然函數(shù)為：解得p的最大似然估計(jì)量為：p的最大似然估計(jì)值為：解：θ的似然函數(shù)為：取對(duì)數(shù)練習(xí)2：設(shè)(X1,X2,…Xn)是來(lái)自總體X的一個(gè)樣本求θ的最大似然估計(jì)量．其中

>0,求導(dǎo)并令其為0=0從中解得

即為θ的最大似然估計(jì)值。

即為θ的最大似然估計(jì)量。例

設(shè)總體X~N(),未知.是來(lái)自X

的樣本值,試求的最大似然估計(jì)量.似然函數(shù)為解X的概率密度為于是令解得的最大似然估計(jì)量為

由上可見(jiàn)：同一個(gè)未知參數(shù)，會(huì)有不同的估計(jì)量，那末如何評(píng)價(jià)它們的好壞呢？這就涉及到估計(jì)量的評(píng)選標(biāo)準(zhǔn)問(wèn)題。1、無(wú)偏性無(wú)偏性要求估計(jì)量的取值要以參數(shù)真值為中心左右擺動(dòng)。它等同于估計(jì)量的數(shù)學(xué)期望等于待估參數(shù)的真值。一個(gè)好的估計(jì)量應(yīng)滿足無(wú)偏性、有效性和一致性的要求。

衡量點(diǎn)估計(jì)量好壞的標(biāo)準(zhǔn)證明:

討論：對(duì)總體X～N(μ,σ2)來(lái)說(shuō)，樣本(X1,X2,…,Xn)中的X1與都是μ的無(wú)偏估計(jì)量嗎？是θ的兩個(gè)無(wú)偏估計(jì)量，若2、有效性當(dāng)時(shí)依概率收斂于,則稱為的一致估計(jì)量.設(shè)是參數(shù)

的估計(jì)量，為的一致估計(jì)量對(duì)于任意,有三、一致性四、小結(jié)對(duì)于一個(gè)未知參數(shù)