概率論與數(shù)理統(tǒng)計(jì)第21講.ppt

1,概率論與數(shù)理統(tǒng)計(jì) 第21講,本文件可從網(wǎng)址 上下載,2,第八章 參數(shù)估計(jì),3,問(wèn)題的提出,人們經(jīng)常遇到的問(wèn)題是如何選取樣本以及根據(jù)樣本來(lái)對(duì)總體的種種統(tǒng)計(jì)特征作出判斷。 實(shí)際工作中碰到的隨機(jī)變量(總體)往往是分布類型大致知道, 但確切的形式并不知道, 亦即總體的參數(shù)未知. 要求出總體的分布函數(shù)F(x)(或密度函數(shù)f(x), 就等于要根據(jù)樣本來(lái)估計(jì)出總體的參數(shù). 這類問(wèn)題稱為參數(shù)估計(jì).,4,估計(jì)量的優(yōu)劣標(biāo)準(zhǔn),設(shè)q為總體中要被估計(jì)的一個(gè)未知參數(shù), 例如期望值或方差等,5,(一) 一致估計(jì),6,7,(二) 無(wú)偏估計(jì) 根據(jù)樣本推得的估計(jì)值與真值可能不同, 然而, 如果有一系列抽樣構(gòu)成各個(gè)估計(jì), 很合理地會(huì)要求這些估計(jì)的期望值與未知參數(shù)的真值相等, 它的直觀意義是樣本估計(jì)量的數(shù)值在參數(shù)的真值周圍擺動(dòng), 而無(wú)系統(tǒng)誤差.,8,9,例 從總體X中取一樣本(X1,X2,.,Xn), E(X)=m, D(X)=s2, 試證明,10,11,即,12,因此,13,有效估計(jì),14,15,16,獲得估計(jì)量的方法點(diǎn)估計(jì),17,最大似然估計(jì)法,Maximum likelyhood estimation,18,現(xiàn)在要根據(jù)從總體X中抽到的樣本(X1,X2,.,Xn), 對(duì)總體分布中的未知參數(shù)q進(jìn)行估計(jì). 最大似然法是要選取這樣的估計(jì)值, 當(dāng)它作為q的估計(jì)值時(shí), 使觀察結(jié)果出現(xiàn)的可能性最大.,19,對(duì)于離散型的隨機(jī)變量就是估計(jì)概率函數(shù)中的參數(shù)q, 對(duì)于連續(xù)型的隨機(jī)變量就是估計(jì)概率密度中的q.,20,設(shè)X為連續(xù)型隨機(jī)變量, 它的分布函數(shù)是F(x;q), 概率密度是f(x;q), 其中q是未知參數(shù), 可以是一個(gè)值, 也可以是一個(gè)向量, 由于樣本的獨(dú)立性, 則樣本(X1,X2,.,Xn)的聯(lián)合概率密度是,21,對(duì)每一取定的樣本值x1,x2,.,xn是常數(shù), L是參數(shù)q的函數(shù), 稱L為樣本的似然函數(shù)(如果q是一個(gè)向量, 則L是多元函數(shù)),22,設(shè)X為離散型隨機(jī)變量, 有概率函數(shù)P(X=xi)=p(xi;q), 則似然函數(shù),23,24,最大似然估計(jì)值,25,26,例 已知,x1,x2,.,xn為X的一組樣本觀察值, 求q的最大似然估計(jì).,27,解 似然函數(shù),28,29,例 某電子管的使用壽命(從開(kāi)始使用到初次失效為止)服從指數(shù)分布(概率密度見(jiàn)前例), 今抽取一組樣本, 其具體數(shù)據(jù)如下: 16, 29, 50, 68, 100, 130, 140, 270, 280, 340, 410, 450, 520, 620, 190, 210, 800, 1100 問(wèn)如何估計(jì)q?,30,解 根據(jù)前例的結(jié)果, 參數(shù)q用樣本均值估計(jì).,31,例 已知X服從正態(tài)分布N(m,s2), (x1,x2,.,xn)為X的一組觀察值, 用最大似然估計(jì)法估計(jì)m,s2的值.,32,解,33,34,解似然方程組,35,36,例 求普哇松分布中參數(shù)l的最大似然估計(jì).,37,解 已知總體X的概率函數(shù)為,38,39,因此,40,例 求0-1分布的總體的對(duì)參數(shù)p的最大似然估計(jì).,41,解 已知總體X的概率函數(shù)為 P(X=k)=pk(1-p)1-k,(k=0,1), 假設(shè)獲得了n個(gè)樣本值(x1,x2,.,xn), 當(dāng)然這些值不是0就是1.,42,PX=k=pk(1-p)1-k,(k=0,1),43,44,45,例 設(shè)(x1,x2,xn)為從總體X中取出的一組樣本觀察值, 試用最大