第16次課-矩估計

不像其他科學(xué)，統(tǒng)計從來不打算使自己完美無缺，統(tǒng)計意味著你永遠(yuǎn)不需要確定無疑。

——GudmundR.Iversen【統(tǒng)計名言】1第七章參數(shù)估計2在數(shù)理統(tǒng)計中經(jīng)常要根據(jù)樣本來對總體的種種統(tǒng)計特征做出判斷。實(shí)際工作中碰到的問題大致分為兩類：一是總體的分布往往可以根據(jù)經(jīng)驗(yàn)來判斷其類型，但確切的形式并不知道，亦即總體的參數(shù)未知；二是在某些情況下，所關(guān)心的并不是總體的分布，而只是總體的某些數(shù)字特征，特別是數(shù)學(xué)期望和方差。因此，要根據(jù)樣本來估計總體的參數(shù)，這類問題稱為參數(shù)估計。參數(shù)估計的方法：點(diǎn)估計和區(qū)間估計。估計量：用于估計總體參數(shù)的隨機(jī)變量如樣本均值，樣本方差等【例如】樣本均值就是總體均值的一個估計量參數(shù)用表示，估計量用表示估計值：估計參數(shù)時計算出來的統(tǒng)計量的具體值如果樣本均值x=80，那么80就是的估計值【參數(shù)估計的相關(guān)概念】3§7.1點(diǎn)估計一、點(diǎn)估計的概念4點(diǎn)估計是指把總體的未知參數(shù)估計為某個確定的值或在某個確定的點(diǎn)上.點(diǎn)估計的方法有很多，本節(jié)主要介紹:矩法和極大似然估計法.二、矩法其根本思想是用樣本矩估計總體矩.

理論依據(jù):它是基于一種簡單的“替換〞思想建立起來的一種估計方法.是英國統(tǒng)計學(xué)家K.皮爾遜最早提出的.大數(shù)定律記總體k階原點(diǎn)矩為樣本k階原點(diǎn)矩為記總體k階中心矩為樣本k階中心矩為5其中為待估參數(shù).1、矩法的一般做法設(shè)總體,〔1〕設(shè)總體X的k階矩均存在,那么〔2〕設(shè)來自總體X樣本的k階矩其中〔3〕令總體的k階矩分別與樣本的k階矩相等,即6這是含待估參數(shù)的聯(lián)立方程組，其解可作為待估參數(shù)的矩估計量,其觀察值為待估參數(shù)的矩估計值.7【例1】總體X的概率密度為:其中未知，樣本為，求參數(shù)的矩法估計.【解】只有一個參數(shù)，因此只需一個方程即可.而因此有解得用樣本1階矩“代替〞總體1階矩，即■8方程組為【解】估計兩個參數(shù)需要兩個方程，即分別用樣本1、2階矩“代替〞總體1、2階矩.【例2】而另外又有因此有方程組9解得參數(shù)的矩估計量分別為：■10【練習(xí)】總體X的概率密度為:〖解〗因?yàn)榭傮w一階矩其中未知參數(shù)θ>0,求θ的矩估計量.由11故所求矩估計量為：即解得:■12【例3】在某班期末數(shù)學(xué)考試成績中隨機(jī)抽取9人的成績.結(jié)果如下表所示，試求該班數(shù)學(xué)成績的平均分?jǐn)?shù)，標(biāo)準(zhǔn)差的矩估計值.序號123598764分?jǐn)?shù)948963657175788555而樣本1、2階矩分別為【解】設(shè)X為該班數(shù)學(xué)成績，而總體X的1、2階矩為13解得參數(shù)的矩估計量分別為：■14【練習(xí)】求服從二項(xiàng)分布b(m,p)的總體X未知參數(shù)p的矩估計量.

〖解〗單參數(shù)，離散型.由即故所求矩估計量為：■因?yàn)樗钥傮wX的一階矩(期望)為15

矩法的優(yōu)點(diǎn)是簡單易行,并不需要事先知道總體是什么分布。缺點(diǎn)是，當(dāng)總體類型時，沒有充分利用分布提供的信息。一般場合下,矩估計量不具有唯一性。其主要原因在于建立矩法方程時，選取那些總體矩用相應(yīng)樣本矩代替帶有一定的隨意性。16三、極大似然估計法極大似然估計法是在總體的分布類型的條件下所使用的一種參數(shù)估計方法.它首先是由德國數(shù)學(xué)家高斯在1821年提出.GaussFisher然而這個方法常歸功于英國統(tǒng)計學(xué)家費(fèi)歇.費(fèi)歇在1922年重新發(fā)現(xiàn)了這一方法，并首先研究了這種方法的一些性質(zhì).17

【例子】是誰擊中的野兔,你會怎樣想?若讓你推測一下，一只野兔從前方竄過，只聽一聲槍響，野兔應(yīng)聲倒下.某同學(xué)與一位獵人一起外出打獵。忽然，極大似然估計法是基于極大似然原理提出的。為了說明極大似然原理,

我們先看個例子。18你會想：只一槍便擊中,一般情況下獵人擊中的概率比同學(xué)擊中的概率大。故，這一槍極大可能是獵人打的。你的這一想法中就已經(jīng)包含了極大似然估計法的根本思想.為了進(jìn)一步體會極大似然估計法的思想,我們再看一個例子.19【例如】有一事件A，我們知道它發(fā)生的概率只可能是:p=0.1，0.3或0.6假設(shè)在一次觀測中，事件A竟然發(fā)生了，你自然會認(rèn)為事件A發(fā)生的概率是0.6，而非其他數(shù)值?！緲O大似然原理】概率大的事件在一次觀測中更容易發(fā)生。試讓你推想一下應(yīng)取何值?由上述兩例可知，極大似然估計法是要選取這樣的，當(dāng)它作為估計值時，使觀測結(jié)果出現(xiàn)的可能性最大，即概率最大.20設(shè)X為離散型總體，其分布律為：對來自總體X的樣本〔X1,X2,…,Xn〕，假設(shè)在極大似然估計法中，關(guān)鍵的問題是求似然函數(shù)。下面分別就離散型總體與連續(xù)型總體介紹似然函數(shù)的求法。1、似然函數(shù)〔1〕離散型總體似然函數(shù)的定義為其觀測值，樣本的聯(lián)合分布律為:稱為樣本的似然函數(shù)。21〔2〕連續(xù)型總體似然函數(shù)的定義設(shè)X為連續(xù)型總體，其概率密度為：對來自總體的樣本,其觀測值為,樣本的聯(lián)合概率密度為:其中未知稱為樣本的似然函數(shù)。2223極大似然法求估計量的步驟：24【解】

θ的似然函數(shù)為：取對數(shù)【例4】

設(shè)(X1,X2,…Xn)是來自總體X的一個樣本,求θ的極大似然估計量．25求導(dǎo)并令其為0:=0從中解得

即為θ的極大似然估計值。26

【例5】在泊松總體中抽取樣本，其樣本值為

試對泊松分布的未知參數(shù)作極大似然估計.

【例6】設(shè)總體X服從上的均勻分布，求未知參數(shù)的極大似然估計量.27【練習(xí)】設(shè)X1,X2,…,