概率論第五章

概率論第五章第一頁，共七十頁，2022年，8月28日一般常用θ表示參數(shù)，參數(shù)θ所有可能取值組成的集合稱為參數(shù)空間，常用Θ表示。參數(shù)估計問題就是根據(jù)樣本對上述各種未知參數(shù)作出估計。參數(shù)估計的形式有兩種：點估計與區(qū)間估計。第二頁，共七十頁，2022年，8月28日設(shè)x1,x2,

…,xn是來自總體的一個樣本，我們用一個統(tǒng)計量的取值作為θ的估計值，稱為θ的點估計（量），簡稱估計。在這里如何構(gòu)造統(tǒng)計量并沒有明確的規(guī)定，只要它滿足一定的合理性即可。這就涉及到二個問題：

其一

是如何給出估計，即估計的方法問題；

其二

是如何對不同的估計進(jìn)行評價，即估計的好壞判斷標(biāo)準(zhǔn)。第三頁，共七十頁，2022年，8月28日 一、點估計 §5.1矩法估計 §5.2點估計優(yōu)劣的評價標(biāo)準(zhǔn) §5.3極大似然估計 二、區(qū)間估計 §5.4區(qū)間估計 §5.5單側(cè)置信限第四頁，共七十頁，2022年，8月28日§5.1矩法估計矩法估計的基本思想：用樣本矩代替母體矩即從中解出.第五頁，共七十頁，2022年，8月28日注意點(1)若估計一個未知參數(shù)，則解方程若估計兩個未知參數(shù)1,2，則解方程組第六頁，共七十頁，2022年，8月28日注意點(2)矩法估計也可以用樣本中心矩代替母體中心矩即從中解出.第七頁，共七十頁，2022年，8月28日例

x1,x2,

…,xn是來自(a,b)上的均勻分布U(a,b)的樣本，a與b均是未知參數(shù)，這里k=2，由于不難推出由此即可得到a,b的矩估計：第八頁，共七十頁，2022年，8月28日例

x1,x2,

…,xn來自Г(α,λ)，求α，λ的矩估計。解：由μ1=E(X)=α/λ,ν2=Var(X)=α/λ2 解得α＝μ12/ν2，λ＝μ1/ν2，用代替μ1，ν2，得α,λ的矩估計為第九頁，共七十頁，2022年，8月28日§5.1

習(xí)題P2861，4,5

第十頁，共七十頁，2022年，8月28日如Poisson（λ）分布均值，方差均為λ，那么樣本均值，樣本方差均為矩估計,那個好？§5.2點估計優(yōu)劣的評價標(biāo)準(zhǔn)對同一個未知參數(shù)，采用不同的方法找到的點估計可能不同。那么，自然要問：究竟是用哪一個更“好”些呢?這里介紹點估計的評價標(biāo)準(zhǔn).第十一頁，共七十頁，2022年，8月28日

1、無偏性（從期望的角度）

2、有效性（從方差的角度）

3、均方誤差準(zhǔn)則（角度）

4、相合性（大樣本的角度）第十二頁，共七十頁，2022年，8月28日無偏性

設(shè)是θ的一個估計，若則稱是θ的無偏估計，否則稱為有偏估計。第十三頁，共七十頁，2022年，8月28日注意點是E(X)的無偏估計是Var(X)的無偏估計不是Var(X)的無偏估計第十四頁，共七十頁，2022年，8月28日有效性

定義設(shè)是θ的兩個無偏估計，如果對任意的θ，有且有某個θ使得上述不等號嚴(yán)格成立，則稱比有效。第十五頁，共七十頁，2022年，8月28日例設(shè)x1,x2,

…,xn是取自某總體的樣本，記總體均值為

，總體方差為2，則,,都是

的無偏估計，但顯然，只要n>1，比有效。這表明，用全部數(shù)據(jù)的平均估計總體均值要比只使用部分?jǐn)?shù)據(jù)更有效。第十六頁，共七十頁，2022年，8月28日例設(shè)X1,X2,X3為來自總體X的樣本，E(X)=，Var(X)=2，下列統(tǒng)計量哪個更有效.第十七頁，共七十頁，2022年，8月28日課堂練習(xí)設(shè)是參數(shù)的兩個獨立的無偏估計，且找出常數(shù)k1,k2，使得也是的無偏估計，并使它在所有這種形狀的估計中的方差最小.k1=1/3,k2=2/3第十八頁，共七十頁，2022年，8月28日均方誤差第十九頁，共七十頁，2022年，8月28日

點估計是一個統(tǒng)計量，因此它是一個隨機變量，我們不可能要求它完全等同于參數(shù)的真實取值。但我們可以要求估計量隨著樣本量的不斷增大而逼近參數(shù)真值，這就是相合性，嚴(yán)格定義如下。相合性第二十頁，共七十頁，2022年，8月28日定義設(shè)θ∈Θ為未知參數(shù)，是θ的一個估計量，n是樣本容量，若對任何一個ε>0，有

則稱為θ參數(shù)的相合估計。第二十一頁，共七十頁，2022年，8月28日相合性被認(rèn)為是對估計的一個最基本要求,如果一個估計量,在樣本量不斷增大時，它都不能把被估參數(shù)估計到任意指定的精度,那末這個估計是很值得懷疑的。樣本容量越大,估計應(yīng)當(dāng)越精確第二十二頁，共七十頁，2022年，8月28日矩估計一般都具有相合性。比如：樣本均值是總體均值的相合估計；樣本標(biāo)準(zhǔn)差是總體標(biāo)準(zhǔn)差的相合估計；樣本變異系數(shù)是總體變異系數(shù)的相合估計。第二十三頁，共七十頁，2022年，8月28日§5.2

習(xí)題P2951，2，4,7

第二十四頁，共七十頁，2022年，8月28日§5.3極大似然估計5.3.1極大似然估計的基本思想：口袋中有黑、白兩種球，從中任取一只，發(fā)現(xiàn)是白球，則可以認(rèn)為：口袋中白球比黑球多第二十五頁，共七十頁，2022年，8月28日5.3.2求極大似然估計的方法

設(shè)總體含有待估參數(shù)，得到樣本觀測值x1,x2,…,xn則找一個使得x1,x2,…,xn出現(xiàn)的可能性最大。第二十六頁，共七十頁，2022年，8月28日極大似然估計的關(guān)鍵點

x1,x2,…,xn出現(xiàn)的可能性：(1)離散場合：(2)連續(xù)場合：稱以上L

的為似然函數(shù)。注意：(1)L是的函數(shù)，x1,x2,…,xn固定。(2)可以是多維的。

(3)下面任務(wù)是求L的極大點第二十七頁，共七十頁，2022年，8月28日例

對正態(tài)總體N(,2)，θ=(,2)是二維參數(shù)，設(shè)有樣本x1,x2,

…,xn，則似然函數(shù)及其對數(shù)分別為

第二十八頁，共七十頁，2022年，8月28日將lnL(,2)分別關(guān)于二個分量求偏導(dǎo)并令其為0,即得到似然方程組

(1)

(2)

第二十九頁，共七十頁，2022年，8月28日

解此方程組，可由(1)得的極大似然估計為將之代入(2)給出2的極大似然估計利用二階導(dǎo)函數(shù)矩陣的非正定性可以說明上述估計使得似然函數(shù)取極大值。

第三十頁，共七十頁，2022年，8月28日

雖然求導(dǎo)函數(shù)是求極大似然估計最常用的方法，但并不是在所有場合求導(dǎo)都是有效的。例

設(shè)x1,x2,

…,xn是來自均勻總體

U(0,θ)的樣本，試求θ的極大似然估計。第三十一頁，共七十頁，2022年，8月28日

解似然函數(shù)要使L(θ)達(dá)到最大，即1/θn盡可能大，所以θ的取值應(yīng)盡可能小，但θ不能小于x(n)，由此給出θ的極大似然估計：第三十二頁，共七十頁，2022年，8月28日5.3.3MLE的不變性設(shè)是的極大似然估計，g()是連續(xù)函數(shù)則g()是g()

的極大似然估計。第三十三頁，共七十頁，2022年，8月28日

例

設(shè)x1,x2,

…,xn是來自正態(tài)總體N(,2)

的樣本，則和2的極大似然估計為，于是由不變性可得如下參數(shù)的極大似然估計，它們是:標(biāo)準(zhǔn)差的MLE是第三十四頁，共七十頁，2022年，8月28日概率的MLE是；總體0.90分位數(shù)x0.90=+

u0.90

的MLE是，其中u0.90為標(biāo)準(zhǔn)正態(tài)分布的0.90分位數(shù)。第三十五頁，共七十頁，2022年，8月28日5.3.4MLE的漸近正態(tài)性設(shè)是的極大似然估計，則漸近服從正態(tài)分布。第三十六頁，共七十頁，2022年，8月28日§5.3

習(xí)題P3051，2，4,5，8

第三十七頁，共七十頁，2022年，8月28日§5.4區(qū)間估計設(shè)是總體的一個未知參數(shù)，X1,X2,…,Xn為來自該總體的樣本，對給定的0<<1，如果能夠找到兩個統(tǒng)計量使得則稱隨機區(qū)間是的置信水平或置信度為1置信區(qū)間。

分別稱為置信下限和置信上限.第三十八頁，共七十頁，2022年，8月28日注意點(1)點估計給出的是未知參數(shù)的一個近似值；區(qū)間估計給出的是未知參數(shù)的一個近似范圍，并且這個范圍包含未知參數(shù)值的可信度為1.點估計有使用方便、直觀等優(yōu)點，但并沒有提供關(guān)于估計精度的任何信息。第三十九頁，共七十頁，2022年，8月28日

置信水平1-的含義是指:

在大量使用該置信區(qū)間時，至少有100(1-)%的區(qū)間含有θ。

注意點(2)第四十頁，共七十頁，2022年，8月28日現(xiàn)假定=15,

2=4，有一個容量為10的樣本：14.8513.0113.5014.9316.9713.8017.953313.3716.2912.38

由該樣本可以算得的一個區(qū)間估計為該區(qū)間包含的真值——15。

若有100個樣本，也就得到100個區(qū)間，我們將這100個區(qū)間畫在下圖上。第四十一頁，共七十頁，2022年，8月28日圖

的置信水平為0.90的置信區(qū)間這100個區(qū)間中有91個包含參數(shù)真值15，另外9個不包含參數(shù)真值。第四十二頁，共七十頁，2022年，8月28日若取=0.50，我們也可以給出100個這樣的區(qū)間，可以看出，這100個區(qū)間中有50個包含參數(shù)真值15，另外50個不包含參數(shù)真值。圖

的置信水平為0.50的置信區(qū)間第四十三頁，共七十頁，2022年，8月28日

樞軸量法

構(gòu)造未知參數(shù)θ的置信區(qū)間的最常用的方法是樞軸量法，其步驟可以概括為如下三步：1.設(shè)法構(gòu)造一個樣本和θ的函數(shù)G=G(x1,…,xn,θ)

使得G的分布不依賴于未知參數(shù)。稱G為樞軸量。第四十四頁，共七十頁，2022年，8月28日2.選擇二個常數(shù)c,d，使對給定的有P(c≤G≤d)=1

3.假如能將c≤G≤d

進(jìn)行恒等變化則是θ的1-置信區(qū)間。第四十五頁，共七十頁，2022年，8月28日樞軸量法之例

例設(shè)總體X~N(,2)，其中2已知。X1,X2,…,Xn為X

的一個樣本，求的區(qū)間估計。解

因為U為樞軸量由變形得第四十六頁，共七十頁，2022年，8月28日例設(shè)總體X~N(,0.92)，X1,X2,…,X9

為X

的一個樣本，樣本均值為5，求的95%的置信區(qū)間。解

因為的1置信區(qū)間為所以由u0.975

=1.96，得4.412,5.588,所求置信區(qū)間為(4.412，5.588)第四十七頁，共七十頁，2022年，8月28日注意點置信區(qū)間不是唯一的。置信度相同時，置信區(qū)間越短越好。一般對稱取。第四十八頁，共七十頁，2022年，8月28日正態(tài)總體未知參數(shù)的置信區(qū)間共分四種情況：(1)已知，的置信區(qū)間(2)未知，的置信區(qū)間(3)

已知，2的置信區(qū)間(4)未知，2的置信區(qū)間第四十九頁，共七十頁，2022年，8月28日(1)已知，的置信區(qū)間樞軸量由得第五十頁，共七十頁，2022年，8月28日(2)未知，的置信區(qū)間樞軸量由得第五十一頁，共七十頁，2022年，8月28日(3)

已知，2的置信區(qū)間樞軸量由得第五十二頁，共七十頁，2022年，8月28日(4)未知，2的置信區(qū)間樞軸量由得第五十三頁，共七十頁，2022年，8月28日例

用天平秤某物體的重量9次，得平均值為（克），已知天平秤量結(jié)果為正態(tài)分布，其標(biāo)準(zhǔn)差為0.1克。試求該物體重量的0.95置信區(qū)間。解：此處1-=0.95，=0.05，查表知u0.975=1.96，于是該物體重量的0.95置信區(qū)間為

=(15.3347，15.4653)第五十四頁，共七十頁，2022年，8月28日例設(shè)輪胎的壽命服從正態(tài)分布。隨機地抽12只輪胎試用，測得它們的壽命(單位：萬公里)如下：

4.684.854.324.854.615.025.204.604.584.724.384.70

求平均壽命的置信區(qū)間。解經(jīng)計算有=4.7092，s2=0.0615。取

=0.05，查表知t0.975(11)=2.2010，于是平均壽命的0.95置信區(qū)間為（單位：萬公里）第五十五頁，共七十頁，2022年，8月28日兩個正態(tài)總體下的置信區(qū)間設(shè)總體X~N(1,12)，Y~N(2,22)，從中分別抽取容量為n和m的獨立樣本，樣本均值和樣本方差分別記為下面討論兩個均值差和兩個方差比的置信區(qū)間。第五十六頁，共七十頁，2022年，8月28日兩個正態(tài)總體均值差的置信區(qū)間

求12置信區(qū)間第五十七頁，共七十頁，2022年，8月28日均值差的置信區(qū)間(1與2已知時)所以12的置信區(qū)間為：第五十八頁，共七十頁，2022年，8月28日均值差的置信區(qū)間(1與2未知時)所以(1)1=2=時：因為都是2的無偏估計，也是2的無偏估計，12的置信區(qū)間為：第五十九頁，共七十頁，2022年，8月28日均值差的置信區(qū)間(1與2未知時)所以12的置信區(qū)間為：(2)n

與m

充分大時：第六十頁，共七十頁，2022年，8月28日均值差的置信區(qū)間(1與2未知時)所以12的置信區(qū)間為：(3)一般場合T不是N（0，1），用t（l）分布近似第六十一頁，共七十頁，2022年，8月28日均值差的置信區(qū)間(1與2未知時)所以12的置信區(qū)間為：(4)n=m

成對時：令Zi=XiYi,i=1,2,…,n

則Zi=XiYi，所以第六十二頁，共七十頁，2022年，8月28日二、

12/22的置信區(qū)間(1,2

未知)由于(n-1)sx2/12

2(n-1),(m-1)sy2/22

2(m-1)，且sx2與sy2相互獨立，故由得第六十三頁，共七十頁，2022年，8月28日例某車間有兩臺自動機床加工一類套筒，假設(shè)套筒直徑服從正態(tài)分布?，F(xiàn)在從二個班次的產(chǎn)品中分別檢查了5個和6個套筒，得其直徑數(shù)據(jù)如