概率論與數(shù)理統(tǒng)計(jì)第7章7-1點(diǎn)估計(jì)

第七章參數(shù)估計(jì)數(shù)理統(tǒng)計(jì)的基本問(wèn)題之一：根據(jù)樣本所提供的信息，對(duì)總體的分布以及分布的數(shù)字特征做出統(tǒng)計(jì)推斷．

統(tǒng)計(jì)推斷假設(shè)檢驗(yàn)參數(shù)估計(jì)點(diǎn)估計(jì)區(qū)間估計(jì)（矩估計(jì)法、最大似然估計(jì)法）第一節(jié)點(diǎn)估計(jì)

教學(xué)內(nèi)容

1矩估計(jì)法

2最大似然估計(jì)法教學(xué)重點(diǎn)矩估計(jì)法與最大似然估計(jì)法的應(yīng)用

樣本統(tǒng)計(jì)量描述作出推斷研究統(tǒng)計(jì)量的性質(zhì)和評(píng)價(jià)一個(gè)統(tǒng)計(jì)推斷的優(yōu)良性，完全取決于其抽樣分布的性質(zhì).隨機(jī)抽樣總體一、提出問(wèn)題參數(shù)估計(jì)是統(tǒng)計(jì)推斷的基本問(wèn)題之一,參數(shù)估計(jì)問(wèn)題是利用從總體抽樣得到的信息來(lái)估計(jì)總體的某些參數(shù)或者參數(shù)的某些函數(shù).在許多實(shí)際問(wèn)題中,根據(jù)實(shí)踐經(jīng)驗(yàn)已經(jīng)知道數(shù)據(jù)來(lái)自于某類(lèi)分布總體,但總體中有些參數(shù)是未知的.問(wèn)題:(1)在一定時(shí)間內(nèi)某信息臺(tái)接到的呼叫次數(shù)X是一個(gè)隨機(jī)變量,由實(shí)踐經(jīng)驗(yàn)知道它服從泊松分布,而其中參數(shù)是多少呢？(2)調(diào)查男學(xué)生的身高，根據(jù)以往經(jīng)驗(yàn)，這些數(shù)據(jù)應(yīng)該來(lái)自正態(tài)總體，我們?cè)鯓硬拍艿玫竭@個(gè)正態(tài)總體的兩個(gè)參數(shù)呢？這類(lèi)問(wèn)題稱(chēng)為參數(shù)估計(jì).參數(shù)估計(jì)問(wèn)題的一般提法X1,X2,…,Xn要依據(jù)該樣本對(duì)參數(shù)作出估計(jì),或估計(jì)的某個(gè)已知函數(shù).現(xiàn)從該總體抽樣，得樣本

設(shè)有一個(gè)統(tǒng)計(jì)總體,總體的分布函數(shù)為F(x,)，其中為未知參數(shù)(

可以是向量).

隨機(jī)抽查100個(gè)嬰兒,…得100個(gè)體重?cái)?shù)據(jù)10,7,6,6.5,5,5.2,

…呢?據(jù)此,我們應(yīng)如何估計(jì)和而全部信息就由這100個(gè)數(shù)組成.例1

已知某地區(qū)新生嬰兒的體重,未知我們知道,若,由大數(shù)定律,自然想到把樣本體重的平均值作為總體平均體重的一個(gè)估計(jì).樣本體重的平均值則.用樣本體重的均值估計(jì).

類(lèi)似地，用樣本體重的方差估計(jì).1.矩估計(jì)法

矩估計(jì)法是英國(guó)統(tǒng)計(jì)學(xué)家K.皮爾遜最早提出來(lái)的.由辛欽定理,若總體的數(shù)學(xué)期望有限,則有其中為連續(xù)函數(shù).

這表明,

當(dāng)樣本容量很大時(shí),在統(tǒng)計(jì)上,可以用用樣本矩去估計(jì)總體矩.這一事實(shí)導(dǎo)出矩估計(jì)法.定義用樣本原點(diǎn)矩估計(jì)相應(yīng)的總體原點(diǎn)矩,又用樣本原點(diǎn)矩的連續(xù)函數(shù)估計(jì)相應(yīng)的總體原點(diǎn)矩的連續(xù)函數(shù),這種參數(shù)點(diǎn)估計(jì)法稱(chēng)為矩估計(jì)法

.

理論依據(jù):

大數(shù)定律矩估計(jì)法的具體做法如下

設(shè)總體的分布函數(shù)中含有k個(gè)未知參數(shù),那么它的前k階矩,一般都是這k個(gè)參數(shù)的函數(shù),記為：i=1,2,…,k從這k個(gè)方程中解出j=1,2,…,kj=1,2,…,k那么用諸的估計(jì)量

Ai分別代替上式中的諸,即可得諸的矩估計(jì)量：矩估計(jì)量的觀察值稱(chēng)為矩估計(jì)值

.矩估計(jì)(MomentEstimation)又稱(chēng)數(shù)字特征法估計(jì)

即注意：上述方程的解

它們就是未知參數(shù)θ1，θ2，…，θ的矩估計(jì)．做法：用“總體矩等于樣本矩”列出矩方程（組），解之即得矩估計(jì)．解:由矩法,樣本矩總體矩從中解得的矩估計(jì).即為數(shù)學(xué)期望是一階原點(diǎn)矩

例3

設(shè)總體X的概率密度為是未知參數(shù),其中X1,X2,…,Xn是取自X的樣本,求參數(shù)的矩估計(jì).解:由密度函數(shù)知

例4

設(shè)X1,X2,…,Xn是取自總體X的一個(gè)樣本其中>0,求的矩估計(jì).具有均值為的指數(shù)分布故E(X-)=

D(X-)=即

E(X)=

D(X)=解得令用樣本矩估計(jì)總體矩即

E(X)=

E(X2)=2.最大似然法

它是在總體類(lèi)型已知條件下使用的一種參數(shù)估計(jì)方法.

它首先是由德國(guó)數(shù)學(xué)家高斯在1821年提出的.GaussFisher

然而,這個(gè)方法常歸功于英國(guó)統(tǒng)計(jì)學(xué)家費(fèi)歇.

費(fèi)歇在1922年重新發(fā)現(xiàn)了這一方法，并首先研究了這種方法的一些性質(zhì).最大似然法的基本思想

先看一個(gè)簡(jiǎn)單例子：一只野兔從前方竄過(guò).是誰(shuí)打中的呢？

某位同學(xué)與一位獵人一起外出打獵.如果要你推測(cè)，你會(huì)如何想呢?只聽(tīng)一聲槍響，野兔應(yīng)聲倒下.

你就會(huì)想，只發(fā)一槍便打中,獵人命中的概率一般大于這位同學(xué)命中的概率.看來(lái)這一槍是獵人射中的.

這個(gè)例子所作的推斷已經(jīng)體現(xiàn)了極大似然法的基本思想.二、、最大似然估計(jì)法試求參數(shù)p的最大似然估計(jì)量。故似然函數(shù)為-------它與矩估計(jì)量是相同的。(4)在最大值點(diǎn)的表達(dá)式中,用樣本值代入就得參數(shù)的極大似然估計(jì)值.求極大似然估計(jì)(MLE)的一般步驟是：(1)由總體分布導(dǎo)出樣本的聯(lián)合概率函數(shù)

(或聯(lián)合密度);(2)把樣本聯(lián)合概率函數(shù)(或聯(lián)合密度)中自變量看成已知常數(shù),而把參數(shù)看作自變量,

得到似然函數(shù)L();(3)求似然函數(shù)L()

的最大值點(diǎn)(常常轉(zhuǎn)化為求lnL()的最大值點(diǎn))，即

的MLE;解：似然函數(shù)為對(duì)數(shù)似然函數(shù)為例6

設(shè)X1,X2,…Xn是取自總體X的一個(gè)樣本求的極大似然估計(jì).其中

>0,求導(dǎo)并令其為0=0從中解得即為