概率論與數(shù)理統(tǒng)計(jì)：第6章參數(shù)點(diǎn)估計(jì)1-2節(jié)

第5章數(shù)理統(tǒng)計(jì)的基本知識(shí)基本概念總體X樣本(X1,X2,…,Xn)統(tǒng)計(jì)量三大抽樣分布正態(tài)總體X下統(tǒng)計(jì)量的分布上分位點(diǎn)2常用統(tǒng)計(jì)量與總體的數(shù)字特征比較(1)樣本均值(2)樣本方差(3)樣本k階原點(diǎn)矩(4)樣本k階中心矩第六章參數(shù)估計(jì)基本內(nèi)容：一、參數(shù)的點(diǎn)估計(jì):1.矩估計(jì)法

2.最大似然估計(jì)法二、判別估計(jì)量好壞的標(biāo)準(zhǔn):

無偏性；有效性；一致性第一節(jié)參數(shù)的點(diǎn)估計(jì)一、參數(shù)點(diǎn)估計(jì)的概念二、矩估計(jì)法

三、最大似然估計(jì)法

基本內(nèi)容：但參數(shù)是未知的.事實(shí)上，我們常遇到這樣的實(shí)際問題——一、參數(shù)點(diǎn)估計(jì)的概念總體X的分布的形式為已知，例如在某炸藥制造廠，一天中發(fā)生著火現(xiàn)象的次數(shù)X是一個(gè)隨機(jī)變量，假設(shè)它服從以λ>0為參數(shù)的泊松分布，參數(shù)λ未知.現(xiàn)由該廠歷史資料數(shù)據(jù)（如下），試估計(jì)λ.著火次數(shù)k0123456≥7發(fā)生k次著火的天數(shù)nk759054226210∑=250解:由X~Π(λ),故λ=E(X).自然想到用樣本均值來估計(jì)總體均值E(X).即E(X)=λ的估計(jì)為1.22.

設(shè)總體X的分布函數(shù)F(x,)的形式已知，是待估的未知參數(shù)，

設(shè)X1,X2,…,Xn是來自總體X的樣本,選擇一個(gè)合適的統(tǒng)計(jì)量，當(dāng)有了一個(gè)樣本值x1,x2,…,xn時(shí)，將樣本值代入得到這一統(tǒng)計(jì)量的一個(gè)觀察值以此作為的估計(jì)。

參數(shù)點(diǎn)估計(jì):注：點(diǎn)估計(jì)常用方法：矩估計(jì)和最大似然估計(jì)法.

參數(shù)的點(diǎn)估計(jì)故可用樣本矩來估計(jì)總體矩。這個(gè)估計(jì)方法是英國統(tǒng)計(jì)學(xué)家K.皮爾遜最早提出的基本原理：總體矩是反映總體分布的最簡單的數(shù)字特征，當(dāng)總體含有待估計(jì)參數(shù)時(shí)，總體矩是待估計(jì)參數(shù)的函數(shù)。樣本取自總體，即樣本矩在一定程度上可以逼近總體矩，一、

矩估計(jì)法其中是待估參數(shù)為來自的樣本,存在,設(shè)總體的前l(fā)階矩則樣本的l階矩(大數(shù)定律)令從中解得k個(gè)方程組即為矩估計(jì)量。矩估計(jì)量的觀察值稱為矩估計(jì)值。設(shè)總體X的分布函數(shù)為解：總體X的一階矩為：例1:設(shè)(X1,X2,…,Xn)是來自總體X的一個(gè)樣本,求θ的矩估計(jì)量．得方程解得

設(shè)總體X的均值為μ，方差為σ2

均未知，若取得X的樣本X1,X2,…,Xn,求μ及σ2

矩估計(jì)量.

解:

因總體X分布中有2個(gè)未知參數(shù),所以考慮一、二階原點(diǎn)矩

經(jīng)計(jì)算得

故令解得例2.令…………①…………②解方程組得

一般地,注:

總體均值與方差的矩估計(jì)量不因的總體分布而異.有幾個(gè)未知參數(shù)就要列幾個(gè)方程，就要計(jì)算總體的直到幾階原點(diǎn)矩.……矩估計(jì)法步驟：二、最大似然估計(jì)法

最大似然估計(jì)法是在總體的分布類型已知的條件下所使用的一種參數(shù)估計(jì)方法.

它首先是由德國數(shù)學(xué)家高斯在1821年提出的.GaussFisher然而，這個(gè)方法常歸功于英國統(tǒng)計(jì)學(xué)家費(fèi)歇.費(fèi)歇在1922年重新發(fā)現(xiàn)了這一方法，并首先研究了這種方法的一些性質(zhì).

最大似然法的基本思想

先看一個(gè)簡單例子：一只野兔從前方竄過.是誰打中的呢？一個(gè)老獵人帶領(lǐng)一個(gè)新手一起上山打獵如果要你推測，你會(huì)如何想呢?只聽一聲槍響，野兔應(yīng)聲倒下.

你就會(huì)想，只發(fā)一槍便打中,獵人命中的概率一般大于這位同學(xué)命中的概率.看來這一槍是獵人射中的.

這些例子所作的推斷已經(jīng)體現(xiàn)了最大似然法的基本思想.

以上這種選擇一個(gè)參數(shù)使得試驗(yàn)結(jié)果具有最大概率的思想就是最大似然法的基本思想.又如，兔龜賽跑，得第一名的最有可能是誰？基本原理:若事件發(fā)生了,在一次試驗(yàn)中，概率越大越有可能發(fā)生,人們自然認(rèn)為中出現(xiàn)的概率最大。最大似然估計(jì)

就是在一次抽樣中,若得到觀測值則選取若試驗(yàn)E有n個(gè)可能結(jié)果現(xiàn)做一試驗(yàn),作為的估計(jì)值，使得當(dāng)時(shí),樣本出現(xiàn)的概率最大。最大似然估計(jì)法：（1）X---離散型，已知X的分布樣本取到觀測值事件A獨(dú)立Xi與X同分布對給定的樣本值是參數(shù)的函數(shù)，稱為似然函數(shù)，記做改結(jié)構(gòu)：n項(xiàng)連乘，總體分布A已經(jīng)發(fā)生，由最大似然原理，達(dá)到最大，所以的最合理估計(jì)值應(yīng)滿足：定義對給定的樣本值，若如何求？即求的最大值點(diǎn)問題方法一:若為可導(dǎo)函數(shù)回憶：(1)單調(diào)性相同，從而最大值點(diǎn)相同.n項(xiàng)連乘,求導(dǎo)麻煩n項(xiàng)相加，求導(dǎo)簡單方法二：從而，對數(shù)似然函數(shù)（2）連續(xù)型總體似然函數(shù)的求法設(shè)X為連續(xù)型總體，其概率密度為：

對來自總體的樣本，其觀測值為，作為與總體X同分布且相互獨(dú)立的n維隨機(jī)變量，樣本的聯(lián)合概率密度為:

其中未知于是，樣本落入點(diǎn)鄰域內(nèi)的概率近似為，由最大似然原理，最合理的的估計(jì)值應(yīng)該是使達(dá)到最大，由于是不依賴于的增量，所以我們只需求使似然函數(shù)達(dá)到最大求最大似然估計(jì)的一般步驟為：(1)求似然函數(shù)；(3)建立似然方程（對對數(shù)似然函數(shù)求導(dǎo)數(shù)，并令為0）解似然方程得到最大似然估計(jì)值

進(jìn)而得到最大似然估計(jì)量

例1.一批產(chǎn)品中含有次品，自其中隨機(jī)地取75件，發(fā)現(xiàn)有10件次品，試求這批產(chǎn)品的次品率p(0<p<1)的最大似然估計(jì)值。解：考察試驗(yàn)：從這批產(chǎn)品中隨機(jī)取一只產(chǎn)品，觀察其是否為次品。設(shè)則X~B(1,p)，其分布律為似然函數(shù)例1.一批產(chǎn)品中含有次品，自其中隨機(jī)地取75件，發(fā)現(xiàn)有10件次品，試求這批產(chǎn)品的次品率p(0<p<1)的最大似然估計(jì)值。解：似然函數(shù)取對數(shù)得似然方程即解得p的最大似然估計(jì)值為解：θ的似然函數(shù)為：取對數(shù)例2:設(shè)(x1,x2,…xn)是來自總體X的一個(gè)樣本,求θ的最大似然估計(jì)值．求導(dǎo)并令其為0從中解得

即為θ的最大似然估計(jì)值。30

三、衡量估計(jì)量好壞的標(biāo)準(zhǔn)的點(diǎn)估計(jì)量一般是不唯一的,如何選擇好的?首先我們要對估計(jì)量提出衡量其好壞的標(biāo)準(zhǔn).標(biāo)準(zhǔn):無偏性,有效性,一致性1、無偏性即取值在真值附近來回?cái)[動(dòng)證明:(1)1

^^D(

1)<D(

2)

^^

則稱

1較

2有效.

都是未知參數(shù)的無偏估計(jì)量.

若2.有效性解：

─故

X比X

i(i=1,2,…,n)有效.

∴當(dāng)n≥2時(shí)，無偏估計(jì)量，問哪一個(gè)更有效？例2.易知3.相合性(一致性)

內(nèi)容小結(jié)1.理解參數(shù)的點(diǎn)估計(jì)的概念；2.掌握矩估計(jì)法和最大似然估計(jì)法；熟練掌握常見分布的矩估計(jì)和最大似然估計(jì)，如泊松分布、均勻分布、指數(shù)分布及正態(tài)分布中參數(shù)的矩估計(jì)和最大似然估計(jì).習(xí)題六(P167）1、2、4、8作業(yè)備用題(1)求

=1

時(shí),未知參數(shù)的矩估計(jì)量.

其中參數(shù)

>

0,

>

1,

1.

設(shè)X的分布函數(shù)為X1,X2,…,Xn是總體的樣本,

解:當(dāng)=1時(shí),X的概率密度為

令樣本均值代替總體均值

解得

∴

的矩估計(jì)量為

即解(2)

=2

時(shí),

由于L()關(guān)于的單調(diào)增函數(shù),

且注意到須滿足故的極大似然估計(jì)量為

(2)

求

=2時(shí),未知參數(shù)的極大似然估計(jì)量.作似然函數(shù)<xi,i=1,2,…,n,2.設(shè)總體X的概率密度為X1,X2,…,Xn是取自總體X的簡單隨機(jī)樣本,

解：令即得矩估計(jì)量(2)由于3.

設(shè)某種電子元件的壽命T服從指數(shù)分布今測得10個(gè)元件的失效時(shí)間為1050,1100,1080,1200,1300,1250,1340,1060,1150,1150.解：指數(shù)分布的概率密度為試求的最大似然估計(jì)值.作似然函數(shù)=