復(fù)習(xí)用課件概率統(tǒng)計(jì)

1、概率論與數(shù)理統(tǒng)計(jì)通知：本次作業(yè)交到練習(xí)十六二、極大似然估計(jì)法引例 袋中放有黑球和白球共4個，今有放回地抽球三次，得到2次白球，1次黑球，試問如何估計(jì)袋中白球個數(shù)？設(shè)m為白球個數(shù)，解當(dāng)m = 3時, 觀察值出現(xiàn)的概率最大, 故 ?？傮wXB(1, m/4). 取到2次白球， 1次黑球的概率為極大似然原則： 參數(shù)空間中使得樣本觀察值出現(xiàn)的概率(或概率密度)達(dá)到最大的參數(shù)作為參數(shù)的極大似然估計(jì)。似然函數(shù)：設(shè)樣本觀察值為x1, x2, , xn, 則 的極大似然估計(jì)值的極大似然估計(jì)量通常由似然方程解出(自變量 )注 若無駐點(diǎn)，則在的不可導(dǎo)點(diǎn)或邊界點(diǎn)處達(dá)到。 例1 (老教材P172例7.5)設(shè)壽命XE(1

2、/)，試由下面18個樣本觀察值求未知參數(shù)的極大似然估計(jì)值。解解得估計(jì)值=317.94(小時),估計(jì)量與矩估計(jì)相同例2 已知X的分布列為求未知參數(shù) p 的極大似然估計(jì)。 X 1 2 3P p2 p(1-p) 1-p 解 設(shè)n次中觀察到1、2、3的次數(shù)分別為n1、 n2、 n3，則求對數(shù)似然函數(shù)的駐點(diǎn)即可例3 設(shè)總體XN( , 2)，求 和 2 的極大似然估計(jì)值解問題：若已知，則與矩估計(jì)相同 例4 設(shè)總體 XU a,b，試求a 和b 的極大似然估計(jì)量解無解？即a, b的極大似然估計(jì)值為ab及a, b的極大似然估計(jì)量為與矩估計(jì)不同。注 觀測值與參數(shù)空間有關(guān)。例設(shè)總體的概率分布為0123其中(是未知參

3、數(shù),利用總體的如下樣本值3,1,3,0,3,1,2,3.求的矩估計(jì)和最大似然估計(jì)值.例、設(shè)總體的概率密度為性質(zhì)：若 為 的極大似然估計(jì)，則 為u( )的極大似然估計(jì)。例5 設(shè)總體XN(,2 )，求的極大似然估計(jì)。解由例2知:故注意：矩法估計(jì)的原理和極大似然估計(jì)不同；矩法估計(jì)先求估計(jì)量再求估計(jì)值，極大似然估計(jì)則相反。7.3 估計(jì)量的評選原則一、無偏性(n固定)若E( )= ，則稱 為 的無偏估計(jì)量。例1 證明樣本均值 為總體期望=E(X)的無偏估計(jì)。 解一般 即k階樣本原點(diǎn)矩Ak為k階理論原點(diǎn)矩k的無偏估計(jì)。 例2 證明樣本方差 是總體方差D(X)=2 的無偏估計(jì)。證明 (2)(1) 直接求注1

4、注2注3事實(shí)上對任何 c1, c2,., cn ,當(dāng)c1+ c2+.+ cn=1時，有例2說明 不是2 的無偏估計(jì) 漸近無偏估計(jì)如：若D(X)0，雖 為的無偏估計(jì)，但u( )不一定是u()的無偏估計(jì)。無偏估計(jì)不唯一，如Xi和 均為=E(X)的無偏估計(jì)。為=E(X)的無偏估計(jì)，但 非2的無偏估計(jì)。一般，函數(shù)的期望不等于期望的函數(shù)，即E(g(X) g (E (X).解:例3 設(shè)是總體 X 的一個樣本 ,XB(n , p) n 1 , 求 p 2 的無偏估計(jì)量. 解.由于樣本矩是總體矩的無偏估計(jì)量以及數(shù)學(xué)期望的線性性質(zhì), 只要將未知參數(shù)表示成總體矩的線性函數(shù), 然后用樣本矩作為總體矩的估計(jì)量, 這樣

5、得到的未知參數(shù)的估計(jì)量即為無偏估計(jì)量令例3因此, p 2 的無偏估計(jì)量為故例4 設(shè)是總體 X 的一個樣本 ,XP( )n 1 , 求 2 的無偏估計(jì)量. 解令例3例4 設(shè)總體 X 的密度函數(shù)為為常數(shù)為 X 的一個樣本證明與都是的無偏估計(jì)量證 故是 的無偏估計(jì)量.例4令即故 n Z 是 的無偏估計(jì)量.二、有效性(n固定)若 ，且 ，則稱 比 有效 比如，但故 比 有效。 為 的最小方差無偏估計(jì)量 ，且對 的一切無偏估計(jì) 有：所以,比更有效.是 的無偏估計(jì)量,問哪個估計(jì)量更有效？ 由例4可知, 與 都為常數(shù)例5 設(shè)總體 X 的密度函數(shù)為解 ，例5為常數(shù)例6 設(shè)總體 X 的密度函數(shù)為例5求未知參數(shù)的矩估計(jì)與極大似然估計(jì)，并判定估計(jì)量的無偏性與有效性三、一致性若有則稱 為 的一致估計(jì)。例4 由辛欽大數(shù)定律知樣本均值 是總體均值的一致估計(jì)。例5 證明正態(tài)總體的樣本方差Sn2是2的一致估計(jì)。證由切比雪夫不等式和夾擠定理得證。（習(xí)題7.7：正態(tài)總體已知）先求得練習(xí) 1 分別求總體 P () 和 E ()中參數(shù)的矩估計(jì)和極大似然估計(jì)量，并判斷無偏性。解1 X P()，則E(X)= ，由由估計(jì)量是無偏的。2 X E()，則估計(jì)量不是無偏的。 兩邊取估計(jì)習(xí)題補(bǔ)充題 設(shè)總體 X N ( , 2),為 X 的一個樣本,常數(shù) k 取何值可使為 的無偏估計(jì)量通 知新教材不考內(nèi)容： 4.3, 4.4.3,