第七章 參數(shù)估計 第八章

1、 第七章第七章 參數(shù)估計參數(shù)估計(一一) 考核知識點考核知識點 1. 1. 點估計點估計 2. 2. 矩估計法矩估計法 3. 3. 極大似然估計法極大似然估計法 4. 4. 單個正態(tài)總體均值和方差的區(qū)間估計單個正態(tài)總體均值和方差的區(qū)間估計( (二二) ) 考核要求考核要求1.1.點估計點估計1.1 1.1 參數(shù)估計的概念，參數(shù)估計的概念， 要求：識記要求：識記1.2 1.2 求參數(shù)的矩估計，求參數(shù)的矩估計， 要求：簡單應(yīng)用要求：簡單應(yīng)用1.3 1.3 求極大似然估計，求極大似然估計， 要求：簡單應(yīng)用要求：簡單應(yīng)用2.2.估計量的評價標準估計量的評價標準2.1 2.1 矩估計的無偏性，矩估計的無

2、偏性， 要求：領(lǐng)會要求：領(lǐng)會2.2 2.2 估計量的有效性、相合性，估計量的有效性、相合性， 要求：領(lǐng)會要求：領(lǐng)會3.3.區(qū)間估計區(qū)間估計3.1 3.1 置信區(qū)間的概念，置信區(qū)間的概念， 要求：領(lǐng)會要求：領(lǐng)會3.2 3.2 求單個正態(tài)總體均值和方差的置信區(qū)間，求單個正態(tài)總體均值和方差的置信區(qū)間，要求：簡單應(yīng)用要求：簡單應(yīng)用 現(xiàn)在我們來介紹一類重要的統(tǒng)計推斷問題現(xiàn)在我們來介紹一類重要的統(tǒng)計推斷問題 參數(shù)估計問題是利用從總體抽樣得到的信息來估計總體的參數(shù)估計問題是利用從總體抽樣得到的信息來估計總體的某些參數(shù)或者參數(shù)的某些函數(shù)某些參數(shù)或者參數(shù)的某些函數(shù). 參數(shù)估計參數(shù)估計估計廢品率估計廢品率估計新生

3、兒的體重估計新生兒的體重估計湖中魚數(shù)估計湖中魚數(shù) 估計降雨量估計降雨量在參數(shù)估計問題在參數(shù)估計問題中，假定總體分中，假定總體分布形式已知，未布形式已知，未知的僅僅是一個知的僅僅是一個或幾個參數(shù)或幾個參數(shù).這類問題稱為這類問題稱為參數(shù)估計參數(shù)估計.參數(shù)估計問題的一般提法參數(shù)估計問題的一般提法X1,X2,Xn要依據(jù)該樣本對參數(shù)要依據(jù)該樣本對參數(shù) 作出估計作出估計, 或估計或估計 的某個已知函數(shù)的某個已知函數(shù) .)(g現(xiàn)從該總體抽樣，得樣本現(xiàn)從該總體抽樣，得樣本 設(shè)有一個統(tǒng)計總體設(shè)有一個統(tǒng)計總體 , 總體的分布函數(shù)總體的分布函數(shù)為為F( x, ) ，其中，其中 為未知參數(shù)為未知參數(shù) ( 可以是向量可

4、以是向量) . 參數(shù)估計參數(shù)估計點估計點估計區(qū)間估計區(qū)間估計(),();xE XE Xx用樣本均值 估計總體均值即22211()(),();nninisxxD XD Xsn用樣本二階中心矩估計總體方差即.AA用事件 出現(xiàn)的頻率估計事件 發(fā)生的概率)1 . 0,(2 N（假定身高服從正態(tài)分布（假定身高服從正態(tài)分布 ） 設(shè)這設(shè)這5個數(shù)是個數(shù)是:1.65 1.67 1.68 1.78 1.69 估計估計 為為1.68，這是這是點估計點估計.這是這是區(qū)間估計區(qū)間估計.估計估計 在區(qū)間在區(qū)間 1.57, 1.84 內(nèi)，內(nèi)，例如我們要估計某隊男生的平均身高例如我們要估計某隊男生的平均身高. 現(xiàn)從該總體選取

5、容量為現(xiàn)從該總體選取容量為5的樣本，我們的任務(wù)是要根據(jù)選出的樣本（的樣本，我們的任務(wù)是要根據(jù)選出的樣本（5個個數(shù)）求出總體均值數(shù)）求出總體均值 的估計的估計. 而全部信息就由這而全部信息就由這5個數(shù)組成個數(shù)組成 . 12,(0, ),0.nx xxU 設(shè)是來自服從區(qū)間(0, )上的均勻分布的樣本為未知參數(shù).求 的矩估計例例().2XE X解 總體 的均值2x由矩法，應(yīng)有，2 . x解得 =0.1,0.7,0.2,1,1.9,1.3,1.8,比如，若樣本值為則 的估計值12(0.1 0.70.2 1 1.9 1.3 1.8)2.7 7.1.2 極大似然法極大似然法 它是在總體類型已知條件下使用的

6、一種參數(shù)估計方法它是在總體類型已知條件下使用的一種參數(shù)估計方法 . 它首先是由德國數(shù)學(xué)家它首先是由德國數(shù)學(xué)家高斯高斯在在1821年提出的年提出的 . GaussFisher 然而然而,這個方法常歸功于英國統(tǒng)計學(xué)家這個方法常歸功于英國統(tǒng)計學(xué)家費希爾費希爾 . 費希爾費希爾在在1922年重新發(fā)現(xiàn)了這一方法，并首先年重新發(fā)現(xiàn)了這一方法，并首先研究了這種方法的一些性質(zhì)研究了這種方法的一些性質(zhì) .最大似然法的基本思想最大似然法的基本思想 先看一個簡單例子：先看一個簡單例子：一只野兔從前方竄過一只野兔從前方竄過 .是誰打中的呢？是誰打中的呢？ 某位同學(xué)與一位獵人一起外出打獵某位同學(xué)與一位獵人一起外出打獵

7、.如果要你推測，如果要你推測，你會如何想呢你會如何想呢?只聽一聲槍響，野兔應(yīng)聲倒下只聽一聲槍響，野兔應(yīng)聲倒下 . 你就會想，只發(fā)一槍便打中你就會想，只發(fā)一槍便打中, 獵人命中的概率一般大于這位同學(xué)命中的概獵人命中的概率一般大于這位同學(xué)命中的概率率 . 看來這一槍是獵人射中的看來這一槍是獵人射中的 . 這個例子所作的推斷已經(jīng)體現(xiàn)了極大似然法的基本思想這個例子所作的推斷已經(jīng)體現(xiàn)了極大似然法的基本思想 . 最大似然估計原理：最大似然估計原理： 當給定樣本當給定樣本X1,X2,Xn時，定義時，定義似然函數(shù)似然函數(shù)為：為： 設(shè)設(shè)X1,X2,Xn是取自總體是取自總體X的一個樣本，樣本的聯(lián)合密度的一個樣本，

8、樣本的聯(lián)合密度(連續(xù)型）或聯(lián)連續(xù)型）或聯(lián)合分布律合分布律 (離散型離散型)為為 f (x1,x2, ,xn ; ) . )(Lf (x1, x2 , xn; ) 這里這里 x1, x2 , xn 是樣本的觀察值是樣本的觀察值 . 似然函數(shù)：似然函數(shù)：)(max)( LL 最大似然估計法最大似然估計法就是用使就是用使 達到最大值的達到最大值的 去估計去估計 . )( L 稱稱 為為 的的最大似然估計值最大似然估計值 . 看作參數(shù)看作參數(shù) 的函數(shù)，它可作為的函數(shù)，它可作為 將以多大可將以多大可能產(chǎn)生樣本值能產(chǎn)生樣本值 x1, x2, ,xn 的一種度量的一種度量 .)( L )( L f (x1,

9、x2, xn; ) 而相應(yīng)的而相應(yīng)的統(tǒng)計量統(tǒng)計量稱為稱為 的的最大似然估計量最大似然估計量 .1(,)n XX兩點說明：兩點說明： 1、求似然函數(shù)、求似然函數(shù)L( ) 的最大值點，可以應(yīng)用微積分中的技巧。由于的最大值點，可以應(yīng)用微積分中的技巧。由于ln(x)是是 x 的增函數(shù)的增函數(shù), lnL( )與與L( )在在 的同一值處達到它的最大值，假定的同一值處達到它的最大值，假定 是一實是一實數(shù)，且數(shù)，且lnL( )是是 的一個可微函數(shù)。通過求解方程：的一個可微函數(shù)。通過求解方程： 可以得到可以得到 的的MLE . 0)(lndLd 若若 是向量，上述方程必須用方程組代替是向量，上述方程必須用方程

10、組代替 . 2、用上述求導(dǎo)方法求參數(shù)的、用上述求導(dǎo)方法求參數(shù)的MLE有時行不通，這時要用最大似然原則有時行不通，這時要用最大似然原則來求來求 . 下面舉例說明如何求最大似然估計下面舉例說明如何求最大似然估計L(p)= f (x1, x2, xn; p ) 例例5 設(shè)設(shè)X1,X2,Xn是取自總體是取自總體 XB(1, p) 的一個樣本，求參數(shù)的一個樣本，求參數(shù)p的最大似然的最大似然估計量估計量.nixxiipp11)1 (解：解：似然函數(shù)似然函數(shù)為為: ppXi110)1ln()()ln()(ln11pxnpxpLniinii對數(shù)似然函數(shù)對數(shù)似然函數(shù)為：為：niiniixnxpppL11)1()

11、(niiniixnxpp11)1 (對對p求導(dǎo)并令其為求導(dǎo)并令其為0，)(111)(ln11niiniixnpxpdppLd=0得得即為即為 p 的的最大似然估計值最大似然估計值 .從而從而 p 的的最大似然估計量最大似然估計量為為 111(,)nniip XXXXn 11niipxxn (4) 在最大值點的表達式中在最大值點的表達式中, 用樣本值代入就得參數(shù)的用樣本值代入就得參數(shù)的最大似然估計值最大似然估計值 .求最大似然估計求最大似然估計(MLE)的一般步驟是：的一般步驟是： (1) 由總體分布導(dǎo)出樣本的聯(lián)合分布率由總體分布導(dǎo)出樣本的聯(lián)合分布率(或聯(lián)合密度或聯(lián)合密度); (2) 把樣本聯(lián)合

12、分布率把樣本聯(lián)合分布率 ( 或聯(lián)合密度或聯(lián)合密度 ) 中自變中自變 量看成已知常數(shù)量看成已知常數(shù),而把參數(shù)而把參數(shù) 看作自變量看作自變量,得到得到似然似然 函數(shù)函數(shù)L( ); (3) 求似然函數(shù)求似然函數(shù)L( ) 的最大值點的最大值點(常常轉(zhuǎn)化為求常常轉(zhuǎn)化為求ln L( )的最大值點的最大值點) ，即，即 的的MLE; 12,nx xx 設(shè)是總體的樣本,已知總體的密度函數(shù)為例例 (1),1;(1)0,.xxf x其中參數(shù)其他12.試分別求出 的矩估計 和極大似然估計解 總體期望為(1)1()E Xx xdx,.1x由矩估計法 令得矩法方程解之得 的矩估計1.1xx,為求 的極大似然估計 易求得

13、似然函數(shù)為1ln ( )0.niidLnxd由以上似然方程解得 的極大似然估計21.niinx(1)(1)11( )(),nnniiiiLxx1ln ( )ln(1),niiLnx1.(2006-4)設(shè)總體X服從參數(shù)為的指數(shù)分布,其中未知,X1,X2,Xn為來自總體X的樣本,則的矩估計為_.2.(2006-7)設(shè)總體X服從泊松分布,即XP(),則參數(shù)2的極大似然估計量為_. 3.(2007-4)設(shè)總體X具有區(qū)間0,上的均勻分布(0),x1,x2,xn是來自該總體的樣本,則的矩估計 _.12,0,.()( ) ,0,0,4 200_7-_7_.xnexXf xx xxXx設(shè)總體 的概率密度為為總

14、體的一個樣本 則未知參數(shù) 的矩估計5.(2007-7)設(shè)總體X服從參數(shù)為的泊松分布,其中為未知參數(shù).X1,X2,Xn為來自該總體的一個樣本,則參數(shù)的矩估計量為_.12.()0 2 (0),6 2007,-10nXx xxx設(shè)總體 服從 ， 上的均勻分布是來自該總體的樣本為樣本均值 則 的矩估計（）1.2.22xAxB xCDx(1)12.(),1;( ; )0,(1),7 2008-4,.nXxxf xx xx 設(shè)總體 的概率密度為其他其中是未知參數(shù)是來自該總體的樣本 試求 的矩估計8.(2008-7)假設(shè)總體X服從參數(shù)為的泊松分布,0.8、1.3、1.1、0.6、1.2是來自總體X的樣本容量

15、為5的簡單隨機樣本，則的矩估計值為_12.()(0),0,( , )0,9 2008-0.,9,_.0_1xnXexf xxXx xxx 設(shè)總體 服從參數(shù)為的指數(shù)分布 其概率密度為由來自總體 的一個樣本算得樣本平均值則參數(shù) 的矩估計12.()(0)10 2009,2,_.-4nXx xxXx 設(shè)總體 服從參數(shù)為的泊松分布為 的一個樣本其樣本均值則 的矩估計值12.(),( ; ),0,_11 2009-7_xnXp xexx xx設(shè)總體 為指數(shù)分布 其密度函數(shù)為是樣本 故 的矩法估計121,0,.()( , )0,0,0.(1);12 212.009- 0 xnexXf xxXXXXE X設(shè)總

16、體 的概率密度為其中, ,為來自總體 的樣本求（ ）求未知參數(shù) 的矩估計12.()22.(0, ),0, _13 2010_ .1_nXx xxXx設(shè)總體 服從區(qū)間上的均勻分布是來自總體的樣本 為樣本均值為未知參數(shù) 則 的矩估計12.()( ,2 )_.14 20104nXUx xx設(shè)總體 服從均勻分布, , , 是來自該總體的樣本,則 的矩估計 7.2 點估計的評價標準21232.(),(0,),(2),()11.2.4421 2006-4XXXNccABCD設(shè)是來自正態(tài)總體的樣本 已知統(tǒng)計量是方差的無偏估計量 則常數(shù) 等于 .(),( ),().2 2006- 7 .EABCD若 為未知參

17、數(shù) 的估計量 且滿足則稱 是 的無偏估計量 有偏估計量漸近無偏估計量 一致估計量2123123.()( ,),3 2007_,11.42-10XNx x xXaxaxx 設(shè)總體為來自 的樣本 則當常數(shù)時是未知參數(shù) 的無偏估計12312311.()( ,1),( ,),23, 4_.2008 1XNx x xxxkxk 設(shè)總體為其樣本 若估計量為 的無偏估計量 則1231211232123.(),2,111111,5 2008-4244333_.XNx x xxxxxxx 設(shè)總體是(),是總體的簡單隨機樣本是總體參數(shù) 的兩個估計量 且其中較有效的估計量是22122.()(,),6 2008 10

18、nXNXXX 設(shè)總體為來自總體的樣本,均未知,則的無偏估計是（）niiXXnA12)(11.niiXnB12)(11.niiXXnC12)(1.niiXnD12)(11.(),( )_7 200_,.9-1E設(shè) 是未知參數(shù) 的一個估計量 若則 是 的無偏估計2123411234212331241.() ( ,),111112(),45556618 2,009-4()7XNxxxxXxxxxxxxxxx 設(shè)總體其中 未知， ， ， 為來自總體 的一個樣本則以下關(guān)于的四個估計:中 哪一個是無偏估計？4321.DCBA122221.()1()(29 20093 )1_ .7_nniiXXXXXXSXXaXa Sna假設(shè)總體 服從參數(shù)為 的泊松分布, ,是來自總體 的簡單隨機樣本,其均值為 ,樣本方差已知為的無偏估計,則7.3 7.3 參數(shù)的區(qū)間估計參數(shù)的區(qū)間估計7.3.2 7.3.2 單個正態(tài)總體參數(shù)的置信區(qū)間單個正態(tài)總體參數(shù)的置信區(qū)間2( ,)N 正態(tài)總體是最常見的分布,主要討論它的兩個參數(shù)