概率論與數(shù)理統(tǒng)計-第七章 參數(shù)估計PPT課件

1、 引言引言 上一講，我們介紹了總體、樣本、上一講，我們介紹了總體、樣本、簡單隨機樣本、統(tǒng)計量和抽樣分布的概簡單隨機樣本、統(tǒng)計量和抽樣分布的概念，介紹了統(tǒng)計中常用的三大分布，給念，介紹了統(tǒng)計中常用的三大分布，給出了幾個重要的抽樣分布定理出了幾個重要的抽樣分布定理. 它們是進它們是進一步學(xué)習(xí)統(tǒng)計推斷的基礎(chǔ)一步學(xué)習(xí)統(tǒng)計推斷的基礎(chǔ). 第第1頁頁/共共92頁頁 現(xiàn)在我們來介紹一類重要的統(tǒng)計推斷問題現(xiàn)在我們來介紹一類重要的統(tǒng)計推斷問題 參數(shù)估計問題是利用從總體抽樣得到的信息參數(shù)估計問題是利用從總體抽樣得到的信息來估計總體的某些參數(shù)或者參數(shù)的某些函數(shù)來估計總體的某些參數(shù)或者參數(shù)的某些函數(shù). 參數(shù)估計參數(shù)估計

2、估計廢品率估計廢品率估計新生兒的體重估計新生兒的體重估計湖中魚數(shù)估計湖中魚數(shù) 估計降雨量估計降雨量 在參數(shù)估計問題中，假定總體分布在參數(shù)估計問題中，假定總體分布形式已知，未知的僅僅是一個或幾個形式已知，未知的僅僅是一個或幾個參數(shù)參數(shù).第第2頁頁/共共92頁頁這類問題稱為這類問題稱為參數(shù)估計參數(shù)估計.參數(shù)估計問題的一般提法參數(shù)估計問題的一般提法X1,X2,Xn要依據(jù)該樣本對參數(shù)要依據(jù)該樣本對參數(shù) 作出估計，或估計作出估計，或估計 的某個已知函數(shù)的某個已知函數(shù) .)( g現(xiàn)從該總體抽樣，得樣本現(xiàn)從該總體抽樣，得樣本設(shè)有一個統(tǒng)計總體，總體的分布函數(shù)設(shè)有一個統(tǒng)計總體，總體的分布函數(shù)向量向量) . 為為

3、 F(x, )，其中，其中 為未知參數(shù)為未知參數(shù) ( 可以是可以是 第第3頁頁/共共92頁頁參數(shù)估參數(shù)估計計點估計點估計區(qū)間估計區(qū)間估計矩估計矩估計極大似然估計極大似然估計第第4頁頁/共共92頁頁)1 . 0,(2 N（假定身高服從正態(tài)分布（假定身高服從正態(tài)分布 ） 設(shè)這設(shè)這5個數(shù)是個數(shù)是:1.65 1.67 1.68 1.78 1.69 估計估計 為為1.68，這是這是點估計點估計.這是這是區(qū)間估計區(qū)間估計.估計估計 在區(qū)間在區(qū)間1.57, 1.84內(nèi)，內(nèi)，假如我們要估計某隊男生的平均身高假如我們要估計某隊男生的平均身高. 現(xiàn)從該總體選取容量為現(xiàn)從該總體選取容量為5的樣本，我們的樣本，我們的

4、任務(wù)是要根據(jù)選出的樣本（的任務(wù)是要根據(jù)選出的樣本（5個數(shù)）求出個數(shù)）求出總體均值總體均值 的估計的估計. 而全部信息就由這而全部信息就由這5個個數(shù)組成數(shù)組成 . 第第5頁頁/共共92頁頁一、點估計概念及討論的問題一、點估計概念及討論的問題例例1 已知某地區(qū)新生嬰兒的體重已知某地區(qū)新生嬰兒的體重X),(2 N,2未知 隨機抽查隨機抽查100個嬰兒個嬰兒得得100個體重數(shù)據(jù)個體重數(shù)據(jù)10,7,6,6.5,5,5.2, 呢呢? ? 據(jù)此據(jù)此, ,我們應(yīng)如何估計我們應(yīng)如何估計和和而全部信息就由這而全部信息就由這100個數(shù)組成個數(shù)組成.第第6頁頁/共共92頁頁 為估計為估計 ,我們需要構(gòu)造出適當?shù)臉颖疚?/p>

5、們需要構(gòu)造出適當?shù)臉颖镜暮瘮?shù)的函數(shù)T(X1,X2,Xn)，每當有了樣本，就，每當有了樣本，就代入該函數(shù)中算出一個值，用來作為代入該函數(shù)中算出一個值，用來作為 的的估計值估計值 . 把樣本值代入把樣本值代入T(X1,X2,Xn) 中，得到中，得到 的一個點估計值的一個點估計值 .T(X1,X2,Xn)稱為參數(shù)稱為參數(shù) 的點估計量，的點估計量，第第7頁頁/共共92頁頁 請注意，被估計的參數(shù)請注意，被估計的參數(shù) 是一個是一個未知常數(shù)，而估計量未知常數(shù)，而估計量 T(X1,X2,Xn)是一個隨機變量，是樣本的函數(shù)是一個隨機變量，是樣本的函數(shù),當當樣本取定后，它是個已知的數(shù)值樣本取定后，它是個已知的數(shù)值

6、,這這個數(shù)常稱為個數(shù)常稱為 的估計值的估計值 . 第第8頁頁/共共92頁頁使用什么樣的統(tǒng)計量去估計使用什么樣的統(tǒng)計量去估計 ？ 可以用樣本均值可以用樣本均值;也可以用樣本中位數(shù)也可以用樣本中位數(shù);還可以用別的統(tǒng)計量還可以用別的統(tǒng)計量 .問題是問題是: 第第9頁頁/共共92頁頁,)( XE我們知道我們知道, ,服從正態(tài)分布服從正態(tài)分布,.),(2vXrN的 由大數(shù)定律由大數(shù)定律, , 1|1|lim1 niinXnP自然想到把樣本體重的平均值作為總體平均自然想到把樣本體重的平均值作為總體平均體重的一個估計體重的一個估計. .22 估計S類似地，用樣本體重的方差類似地，用樣本體重的方差 . .,

7、估計X用樣本體重的均值用樣本體重的均值,11niiXnXniiXXnS122)(11樣本體重的平均值樣本體重的平均值第第10頁頁/共共92頁頁 二、二、尋求估計量的方法尋求估計量的方法1. 矩估計法矩估計法2. 極大似然法極大似然法3. 最小二乘法最小二乘法4. 貝葉斯方法貝葉斯方法這里我們主要介紹前面兩種方法這里我們主要介紹前面兩種方法 .第第11頁頁/共共92頁頁1. 矩估計法矩估計法 其基本思想是其基本思想是用樣本矩估計總體矩用樣本矩估計總體矩 . 理論依據(jù)理論依據(jù): 它是基于一種簡單的它是基于一種簡單的“替換替換”思想建立起來的一種估計方法思想建立起來的一種估計方法 .是英國統(tǒng)計學(xué)家是

8、英國統(tǒng)計學(xué)家K.皮爾遜皮爾遜最早提出的最早提出的 .大數(shù)定律大數(shù)定律第第12頁頁/共共92頁頁記總體記總體k階原點矩為階原點矩為)(kkXE 樣本樣本k階原點矩為階原點矩為 nikikXna11用相應(yīng)的樣本矩去估計總體矩的估計方法用相應(yīng)的樣本矩去估計總體矩的估計方法就稱為就稱為矩估計法矩估計法.記總體記總體k階中心矩為階中心矩為kkXEXE)( 樣本樣本k階中心矩為階中心矩為nikikXXnB1)(1第第13頁頁/共共92頁頁 設(shè)總體的分布函數(shù)中含有設(shè)總體的分布函數(shù)中含有k個未知參數(shù)個未知參數(shù) k ,1都是這都是這k個參數(shù)的函數(shù)個參數(shù)的函數(shù),記為：記為：k ,1,那么它的前那么它的前k階矩階矩

9、一般一般),(1kiiq i=1,2,k從這從這k個方程中解出個方程中解出j=1,2,k那么用諸那么用諸 的估計量的估計量 ai分別代替上式分別代替上式中的諸中的諸 , 即可得諸即可得諸 的矩估計量的矩估計量 ：i i j ),(1kjjh),(1kjjaah j=1,2,k第第14頁頁/共共92頁頁矩估計的一般步驟矩估計的一般步驟:1.求出總體求出總體X的前的前m階原點階原點矩矩 ),(),()(),(212122222111mmmmmmqEXqEXDXEXqEX 第第15頁頁/共共92頁頁3用樣本原點矩用樣本原點矩 代替總體矩代替總體矩 nikikXna11mkk, 2 , 1, 即得未知

10、參數(shù)的矩估計即得未知參數(shù)的矩估計 ),(2, 1mkkaaah 2.解上面方程組得：解上面方程組得： ),(),(),(2121222111mmmmmhhh 第第16頁頁/共共92頁頁解解: dxxxXE ) 1()(10121) 1(110 dxx由矩法由矩法,21 X樣本矩樣本矩總體矩總體矩從中解得從中解得,112XX 的矩估計的矩估計. 即為即為數(shù)學(xué)期望數(shù)學(xué)期望是一階是一階原點矩原點矩 例例2 設(shè)總體設(shè)總體X的概率密度為的概率密度為其它, 010,) 1()(xxxf 是未知參數(shù)是未知參數(shù),其中其中1 X1,X2,Xn是取自是取自X的樣本的樣本,求參數(shù)求參數(shù) 的矩估計的矩估計.第第17頁

11、頁/共共92頁頁解解:由密度函數(shù)知由密度函數(shù)知 例例3 設(shè)設(shè)X1,X2,Xn是取自總體是取自總體X的一個樣本的一個樣本為未知參數(shù)其它 , 0,1)()(xexfXx其中其中 0,求求 的矩估計的矩估計. , X具有均值為具有均值為 的指數(shù)分布的指數(shù)分布 故故 E(X- )= 2 D(X- )=即即 E(X)= 2 D(X)=第第18頁頁/共共92頁頁 X niiXXn12)(1 解得解得niiXXn12)(1令令X niiXXn122)(1 用樣本矩估計用樣本矩估計總體矩總體矩即即 E(X)= 2 D(X)=., 的矩估計即為參數(shù)第第19頁頁/共共92頁頁 矩法的優(yōu)點是簡單易行矩法的優(yōu)點是簡單

12、易行,并不需要并不需要事先知道總體是什么分布事先知道總體是什么分布 . 缺點是，當總體類型已知時，沒有缺點是，當總體類型已知時，沒有 充分利用分布提供的信息充分利用分布提供的信息 . 一般場合下一般場合下,矩估計量不具有唯一性矩估計量不具有唯一性 . 其主要原因在于建立矩法方程時，其主要原因在于建立矩法方程時，選取那些總體矩用相應(yīng)樣本矩代替帶選取那些總體矩用相應(yīng)樣本矩代替帶有一定的隨意性有一定的隨意性 .第第20頁頁/共共92頁頁 2. 極大似然估計法極大似然估計法 是在總體類型已知條件下使用的一種是在總體類型已知條件下使用的一種參數(shù)估計方法參數(shù)估計方法 . 它首先是由德國數(shù)學(xué)家它首先是由德國

13、數(shù)學(xué)家高斯高斯在在1821年提出的年提出的 , GaussFisher然而，這個方法常歸功于然而，這個方法常歸功于英國統(tǒng)計學(xué)家英國統(tǒng)計學(xué)家費歇費歇 . 費歇費歇在在1922年重新發(fā)現(xiàn)了年重新發(fā)現(xiàn)了 這一方法，并首先研究了這這一方法，并首先研究了這 種方法的一些性質(zhì)種方法的一些性質(zhì) .第第21頁頁/共共92頁頁 極大似然估計法的基本思想極大似然估計法的基本思想 先看一個簡單例子：先看一個簡單例子：一只野兔從前方竄過一只野兔從前方竄過 .是誰打中的呢？是誰打中的呢？某位同學(xué)與一位獵人一某位同學(xué)與一位獵人一起外出打獵起外出打獵 .如果要你推測，如果要你推測，你會如何想呢你會如何想呢?只聽一聲槍響，野

14、兔應(yīng)聲倒下只聽一聲槍響，野兔應(yīng)聲倒下 .第第22頁頁/共共92頁頁 下面我們再看一個例子下面我們再看一個例子,進一步體會極進一步體會極大似然法的基本思想大似然法的基本思想 . 你就會想，只發(fā)一槍便打中你就會想，只發(fā)一槍便打中,獵人命中的獵人命中的概率一般大于這位同學(xué)命中的概率概率一般大于這位同學(xué)命中的概率. 看來這看來這一槍是獵人射中的一槍是獵人射中的 . 這個例子所作的推斷已經(jīng)體現(xiàn)了極大似這個例子所作的推斷已經(jīng)體現(xiàn)了極大似然法的基本思想然法的基本思想 .第第23頁頁/共共92頁頁 例例4 設(shè)設(shè)XB(1,p), p未知未知.設(shè)想我們事先知設(shè)想我們事先知道道p只有兩種可能只有兩種可能:問問:應(yīng)如

15、何估計應(yīng)如何估計p?p=0.7 或或 p=0.3如今重復(fù)試驗如今重復(fù)試驗3次次,得結(jié)果得結(jié)果: 0 , 0, 0由概率論的知識由概率論的知識, 3次試驗中出現(xiàn)次試驗中出現(xiàn)“1”的次數(shù)的次數(shù)), 3(pBYk=0,1,2,3knkppkkYP)1 (3)(第第24頁頁/共共92頁頁 將計算結(jié)果列表如下：將計算結(jié)果列表如下：應(yīng)如何估計應(yīng)如何估計p?p=0.7 或或 p=0.3kkppkkYP3)1 (3)(k=0,1,2,3p值值 P(Y=0) P(Y=1) P( Y=2) P(Y=3) 0.70.027 0.189 0.441 0.343 0.30.343 0.441 0.189 0.027出現(xiàn)

16、出現(xiàn)估計估計出現(xiàn)出現(xiàn)出現(xiàn)出現(xiàn)出現(xiàn)出現(xiàn)估計估計估計估計估計估計0.3430.4410.4410.343第第25頁頁/共共92頁頁如果有如果有p1,p2,pm可供選擇可供選擇, 又如何合理地又如何合理地選選p呢呢?從中選取使從中選取使Qi 最大的最大的pi 作為作為p的估計的估計.);();(0iipkYPpkYPi=1,2,m則估計參數(shù)則估計參數(shù)p為為0ipp 0ipp 時時Qi 最大最大,比方說比方說,當當 若重復(fù)進行試驗若重復(fù)進行試驗n次次,結(jié)果結(jié)果“1”出現(xiàn)出現(xiàn)k次次(0 k n), 我們計算一切可能的我們計算一切可能的 P(Y=k; pi )=Qi ， i=1,2,m第第26頁頁/共共9

17、2頁頁 如果只知道如果只知道0p1,并且實測記錄是并且實測記錄是 Y=k (0 k n),又應(yīng)如何估計又應(yīng)如何估計p呢呢?注意到注意到knkppknpkYP)1 ();(是是p的函數(shù)的函數(shù),可用求導(dǎo)的方法找到使可用求導(dǎo)的方法找到使f (p)達到達到極大值的極大值的p .但因但因f (p)與與lnf (p)達到極大值的自變量相同達到極大值的自變量相同,故問題可轉(zhuǎn)化為求故問題可轉(zhuǎn)化為求lnf (p)的極大值點的極大值點 .=f (p)第第27頁頁/共共92頁頁nkp 將將ln f (p)對對p求導(dǎo)并令其為求導(dǎo)并令其為0,這時這時, 對一切對一切0p1,均有均有);() ;(pkYPpkYP從中解得

18、從中解得pknpkdppfd1)(ln=0便得便得 p(n-k)=k(1-p) )1ln()(lnln)(lnpknpkknpf第第28頁頁/共共92頁頁 以上這種以上這種選擇一個參數(shù)使得實驗結(jié)選擇一個參數(shù)使得實驗結(jié)果具有最大概率果具有最大概率的思想就是極大似然法的思想就是極大似然法的基本思想的基本思想 .這時這時,對一切對一切0p0,第第36頁頁/共共92頁頁niixndLd1ln)(ln求導(dǎo)并令其為求導(dǎo)并令其為0=0從中解得從中解得niixn1ln 即為即為 的的MLE . 對數(shù)似然函數(shù)為對數(shù)似然函數(shù)為niixnL1ln) 1(ln)(ln 第第37頁頁/共共92頁頁解：解：似然函數(shù)為似然

19、函數(shù)為 例例7 設(shè)設(shè)X1,X2,Xn是取自總體是取自總體X的一個樣本的一個樣本為未知參數(shù)其它 , 0,1)()(xexfXx其中其中 0,求求 的極大似然估計的極大似然估計. ,其它，, 01),(1)(niixxeLi i=1,2,n第第38頁頁/共共92頁頁其它, 0min,11)(1 ixnxenii對數(shù)似然函數(shù)為對數(shù)似然函數(shù)為niixnL1)(1ln),(ln 解：解：似然函數(shù)為似然函數(shù)為其它，, 01),(1)(niixxeLi i=1,2,n第第39頁頁/共共92頁頁niixn11 nL),(ln=0 (2)由由(1)得得niixnL12)(1),(ln =0 (1)對對 分別求偏

20、導(dǎo)并令其為分別求偏導(dǎo)并令其為0,對數(shù)似然函數(shù)為對數(shù)似然函數(shù)為niixnL1)(1ln),(ln 用求導(dǎo)方法無法最終確定用求導(dǎo)方法無法最終確定用極大似然原則來求用極大似然原則來求 .、 , 第第40頁頁/共共92頁頁是是inix1min 對對, 0),(,min Lxi故使故使 達到最大的達到最大的 即即 的的MLE， ),( L , niixn11 于是于是 取其它值時，取其它值時，. 0),( L 即即 為為 的的MLE . , ,且是且是 的增函數(shù)的增函數(shù) 其它, 0min,1),(1)(1ixnxeLnii由于由于第第41頁頁/共共92頁頁第二次捕出的有記號的魚數(shù)第二次捕出的有記號的魚數(shù)

21、X是是r.v, X具有具有超幾何分布：超幾何分布：,SNkSrNkrkXP為了估計湖中的魚數(shù)為了估計湖中的魚數(shù)N，第一次捕上，第一次捕上r條魚，條魚，做上記號后放回做上記號后放回. 隔一段時間后隔一段時間后, 再捕出再捕出S條魚條魚, 結(jié)果發(fā)現(xiàn)這結(jié)果發(fā)現(xiàn)這S條魚中有條魚中有k條標有記號條標有記號.根據(jù)這個信息，如何估計湖中的魚數(shù)呢？根據(jù)這個信息，如何估計湖中的魚數(shù)呢？最后，我們用極大似然法估計湖中的魚數(shù)最后，我們用極大似然法估計湖中的魚數(shù)),min(0rSk 第第42頁頁/共共92頁頁應(yīng)取使應(yīng)取使L(N;k)達到最大的達到最大的N，作為作為N的極大似的極大似然估計然估計. 但用對但用對N求導(dǎo)的

22、方法相當困難求導(dǎo)的方法相當困難, 我們我們考慮比值考慮比值：) 1;();(NkXPNkXP把上式右端看作把上式右端看作N的函數(shù)，記作的函數(shù)，記作L(N;k) .SNkSrNkrkXP)()(kSrNNrNSN經(jīng)過簡單的計算知，這個比值大于或小于經(jīng)過簡單的計算知，這個比值大于或小于1，kSrN 或或kSrN 而定而定 .由由第第43頁頁/共共92頁頁) 1;();(NkXPNkXP)()(kSrNNrNSN經(jīng)過簡單的計算知，這個比值大于或小于經(jīng)過簡單的計算知，這個比值大于或小于1，kSrN 或或kSrN 而定而定 .由由 這就是說，當這就是說，當N增大時，序列增大時，序列P(X=k;N)先是上

23、升而后下降先是上升而后下降; 當當N為小于為小于 的最的最大整數(shù)時大整數(shù)時, 達到最大值達到最大值 . 故故N的極大似然的極大似然估計為估計為.kSrN kSr第第44頁頁/共共92頁頁樣本均值是否是樣本均值是否是 的一個好的估計量？的一個好的估計量？ (2) 怎樣決定一個估計量是否比另一個估計怎樣決定一個估計量是否比另一個估計 量量“好好”？樣本方差是否是樣本方差是否是 的一個好的估計量？的一個好的估計量？2 這就需要討論以下幾個問題這就需要討論以下幾個問題: :(1) 我們希望一個我們希望一個“好的好的”估計量具有什么估計量具有什么 特性？特性？(3) 如何求得合理的估計量？如何求得合理的

24、估計量？那么要問那么要問: :第第45頁頁/共共92頁頁 常用的幾條標準是：常用的幾條標準是：1無偏性無偏性2有效性有效性3相合性相合性這里我們重點介紹前面兩個標準這里我們重點介紹前面兩個標準 . 二、估計量的優(yōu)良性準則二、估計量的優(yōu)良性準則第第46頁頁/共共92頁頁 估計量是隨機變量，對于不同的樣本值估計量是隨機變量，對于不同的樣本值會得到不同的估計值會得到不同的估計值 . 我們希望估計值在未我們希望估計值在未知參數(shù)真值附近擺動，而它的期望值等于未知參數(shù)真值附近擺動，而它的期望值等于未知參數(shù)的真值知參數(shù)的真值. 這就導(dǎo)致無偏性這個標準這就導(dǎo)致無偏性這個標準 . 1無偏性無偏性 )(E則稱則稱

25、 為為 的無偏估計的無偏估計 . ),(1nXX 設(shè)設(shè)是未知參數(shù)是未知參數(shù) 的估計量，若的估計量，若 第第47頁頁/共共92頁頁 例如，用樣本均值作為總體均值的估計例如，用樣本均值作為總體均值的估計時，雖無法說明一次估計所產(chǎn)生的偏差，但時，雖無法說明一次估計所產(chǎn)生的偏差，但這種偏差隨機地在這種偏差隨機地在0的周圍波動，對同一統(tǒng)的周圍波動，對同一統(tǒng)計問題大量重復(fù)使用不會產(chǎn)生系統(tǒng)偏差計問題大量重復(fù)使用不會產(chǎn)生系統(tǒng)偏差 .無偏性是對估計量的一個常見而重要的要求無偏性是對估計量的一個常見而重要的要求 .無偏性的實際意義是指沒有系統(tǒng)性的偏差無偏性的實際意義是指沒有系統(tǒng)性的偏差 .第第48頁頁/共共92頁

26、頁所以無偏估計以方差小者為好所以無偏估計以方差小者為好, 這就引進了這就引進了有效性這一概念有效性這一概念 .的大小來決定二者的大小來決定二者21)( E和和2 1 一個參數(shù)往往有不止一個無偏估計一個參數(shù)往往有不止一個無偏估計, 若若 和和都是參數(shù)都是參數(shù) 的無偏估計量，的無偏估計量，比較比較我們可以我們可以22)( E誰更優(yōu)誰更優(yōu) .211)()( ED由于由于222)()( ED第第49頁頁/共共92頁頁2有效性有效性D( )0, 有有n 0)(lim nnP則稱估計量則稱估計量 是未知參數(shù)是未知參數(shù)的相合的相合(或一致或一致)估計量估計量. ),(21nnnXXX 可以證明可以證明 都是

27、總體方差都是總體方差DX的相合估計的相合估計. 2S和和2S第第51頁頁/共共92頁頁 引言引言 前面，我們討論了參數(shù)點估計前面，我們討論了參數(shù)點估計. 它它是用樣本算得的一個值去估計未知參數(shù)是用樣本算得的一個值去估計未知參數(shù). 但是，點估計值僅僅是未知參數(shù)的一個但是，點估計值僅僅是未知參數(shù)的一個近似值，它沒有反映出這個近似值的誤近似值，它沒有反映出這個近似值的誤差范圍，使用起來把握不大差范圍，使用起來把握不大. 區(qū)間估計區(qū)間估計正好彌補了點估計的這個缺陷正好彌補了點估計的這個缺陷 . 第第52頁頁/共共92頁頁 譬如，在估計湖中魚數(shù)的問題中，若譬如，在估計湖中魚數(shù)的問題中，若我們根據(jù)一個實際

28、樣本，得到魚數(shù)我們根據(jù)一個實際樣本，得到魚數(shù)N的極的極大似然估計為大似然估計為1000條條. 若我們能給出一個區(qū)間，在此區(qū)間內(nèi)我若我們能給出一個區(qū)間，在此區(qū)間內(nèi)我們合理地相信們合理地相信 N 的真值位于其中的真值位于其中. 這樣對魚這樣對魚數(shù)的估計就有把握多了數(shù)的估計就有把握多了.實際上，實際上，N的真值可能大于的真值可能大于1000條，條，也可能小于也可能小于1000條條.第第53頁頁/共共92頁頁也就是說，我們希望確定一個區(qū)間，使我也就是說，我們希望確定一個區(qū)間，使我們能以比較高的們能以比較高的可靠程度可靠程度相信它包含參數(shù)相信它包含參數(shù)真真值值.湖中魚數(shù)的真值湖中魚數(shù)的真值 這里所說的這

29、里所說的“可靠程度可靠程度”是用概率來度量的，是用概率來度量的，稱為置信概率，置信度或置信水平稱為置信概率，置信度或置信水平. 1 習(xí)慣上把置信度記作習(xí)慣上把置信度記作 這里這里 是一個是一個很小的正數(shù)很小的正數(shù).第第54頁頁/共共92頁頁置信度的大小是根據(jù)實際需要選定的置信度的大小是根據(jù)實際需要選定的.121P例如，通?？扇≈眯哦壤纾ǔ？扇≈眯哦?=0.95或或0.9等等. 1根據(jù)一個實際樣本，由給定的置信度，根據(jù)一個實際樣本，由給定的置信度，),(21我們求出一個盡可能我們求出一個盡可能小的區(qū)間小的區(qū)間 ，使，使),(21置信區(qū)間置信區(qū)間. 稱區(qū)間稱區(qū)間 為為 的的置信度為置信度為 的

30、的 1第第55頁頁/共共92頁頁 下面我們就來正式給出置信區(qū)間的定義下面我們就來正式給出置信區(qū)間的定義,并通過例子說明求置信區(qū)間的方法并通過例子說明求置信區(qū)間的方法.第第56頁頁/共共92頁頁 一、一、 置信區(qū)間定義：置信區(qū)間定義：121P設(shè)設(shè) 是是 一個待估參數(shù)，給定一個待估參數(shù)，給定, 0 ),(2111nXXX ),(2122nXXX )(21 滿足滿足若由樣本若由樣本X1,X2,Xn確定的兩個統(tǒng)計量確定的兩個統(tǒng)計量則稱區(qū)間則稱區(qū)間 是是 的的置信置信度度（置信（置信水平水平、置信概率）為置信概率）為 的置信區(qū)間的置信區(qū)間. ),(21 121 和分別稱為置信下限和置信上限分別稱為置信下

31、限和置信上限. 第第57頁頁/共共92頁頁 一旦有了樣本，就把一旦有了樣本，就把 估計在區(qū)間估計在區(qū)間 ),(21內(nèi)內(nèi).這里有兩個要求這里有兩個要求:可見，可見，11 對參數(shù)對參數(shù) 作區(qū)間估計，就是要設(shè)法找出作區(qū)間估計，就是要設(shè)法找出兩個只依賴于樣本的界限兩個只依賴于樣本的界限(構(gòu)造統(tǒng)計量構(gòu)造統(tǒng)計量) 22 )(21 (X1,Xn)(X1,Xn)第第58頁頁/共共92頁頁2. 估計的精度要盡可能的高估計的精度要盡可能的高. 如要求區(qū)間如要求區(qū)間12 長度長度 盡可能短，或能體現(xiàn)該要求的其盡可能短，或能體現(xiàn)該要求的其它準則它準則.),(211. 要求要求 以很大的可能被包含在區(qū)間以很大的可能被包

32、含在區(qū)間 21P內(nèi)，就是說，概率內(nèi)，就是說，概率 要盡可能大要盡可能大.即要求估計盡量可靠即要求估計盡量可靠. 可靠度與精度是一對矛盾，可靠度與精度是一對矛盾，一般是在保證可靠度的條件下一般是在保證可靠度的條件下盡可能提高精度盡可能提高精度.第第59頁頁/共共92頁頁構(gòu)造置信區(qū)間的一般辦法：構(gòu)造置信區(qū)間的一般辦法： 1. 構(gòu)造一個含有未知參數(shù)構(gòu)造一個含有未知參數(shù) 而不含其它未知而不含其它未知 參數(shù)的隨機變量參數(shù)的隨機變量 ，使其分，使其分 布為已知且與布為已知且與無關(guān)；無關(guān)；);,(21 nxxxT 1);,(21dxxxTcPn2. 對給定的對給定的 ，根據(jù)，根據(jù)T的分布找出兩個臨界值的分布

33、找出兩個臨界值 c與與d，使得，使得 第第60頁頁/共共92頁頁 1),(),(212211nnxxxxxxP則有：則有： 3. 將不等式將不等式 轉(zhuǎn)化為轉(zhuǎn)化為 等價形式等價形式dxxxTcn );,(21 ),(),(212211nnxxxxxx 于是于是 即為即為的置信度為的置信度為 的置信區(qū)間。的置信區(qū)間。),(21 1第第61頁頁/共共92頁頁教材已經(jīng)給出了概率分布的上側(cè)分位數(shù)教材已經(jīng)給出了概率分布的上側(cè)分位數(shù)(臨界臨界值值)的定義，為便于應(yīng)用，這里我們再簡要介的定義，為便于應(yīng)用，這里我們再簡要介紹一下紹一下.在求置信區(qū)間時，要查表求分位數(shù)在求置信區(qū)間時，要查表求分位數(shù)(臨界值臨界值)

34、第第62頁頁/共共92頁頁例如例如:645. 105. 0u96. 1025. 0u 設(shè)設(shè)0 1, 對標準正態(tài)變量對標準正態(tài)變量X，稱滿足，稱滿足 )(uXP 的點的點 為標準正態(tài)變量為標準正態(tài)變量X的上側(cè)的上側(cè) 分位數(shù)分位數(shù). u 標準正態(tài)分布的標準正態(tài)分布的上側(cè)上側(cè) 分位數(shù)分位數(shù) u 第第63頁頁/共共92頁頁例如例如:348. 9)3(2025. 0 216. 0)3(2975. 0 設(shè)設(shè)0 1, 對卡方變量對卡方變量X，稱滿足，稱滿足 )(2nXP 的點的點 為為X的上側(cè)的上側(cè) 分位數(shù)分位數(shù). )(2n 分布的上分布的上 分位數(shù)分位數(shù) )(2n 2 自由度為自由度為n的的第第64頁頁/

35、共共92頁頁例如例如:8331. 1)9(05. 0t1788. 2)12(025. 0t 設(shè)設(shè)0 1, 對隨機變量對隨機變量T，稱滿足，稱滿足 )(ntTP 的點的點 為為T分布的上側(cè)分布的上側(cè) 分位數(shù)分位數(shù). )(nt Tt(n).)(nt 第第65頁頁/共共92頁頁 設(shè)設(shè)0 1, 對隨機變量對隨機變量F，稱滿足，稱滿足 ),(21nnFFP 的點的點 為為F分布的上側(cè)分布的上側(cè) 分位數(shù)分位數(shù). )(2, 1nnF F分布的上側(cè)分布的上側(cè) 分位數(shù)分位數(shù) ),(21nnF 自由度為自由度為n1,n2的的第第66頁頁/共共92頁頁N(0, 1)選選 的點估計為的點估計為X求參數(shù)求參數(shù) 的置信度

36、為的置信度為 的置信區(qū)間的置信區(qū)間. 例例1 設(shè)設(shè)X1,Xn是取自是取自 的樣本，的樣本， ,2已知 ),(2 N 1nXU 取二、置信區(qū)間的求法二、置信區(qū)間的求法明確問題明確問題,是求什么參數(shù)的置信區(qū)間是求什么參數(shù)的置信區(qū)間?置信度是多少？置信度是多少？ 尋找未知參數(shù)的尋找未知參數(shù)的一個良好估計一個良好估計.解：解： 尋找一個待估參數(shù)和尋找一個待估參數(shù)和估計量的函數(shù)估計量的函數(shù) ，要求，要求其分布為已知其分布為已知.有了分布，就可以求出有了分布，就可以求出U取值于任意區(qū)間的概率取值于任意區(qū)間的概率.1. 單個正態(tài)總體參數(shù)的區(qū)間估計單個正態(tài)總體參數(shù)的區(qū)間估計第第67頁頁/共共92頁頁,1 對給

37、定的置信度對給定的置信度查正態(tài)分布表得查正態(tài)分布表得,2 u對于給定的置信度對于給定的置信度(大概率大概率), 根據(jù)根據(jù)U的分布，的分布，確定一個區(qū)間確定一個區(qū)間, 使得使得U取值于該區(qū)間的概率為取值于該區(qū)間的概率為置信度置信度.1|2unXP使使為什么為什么這樣取這樣?。康诘?8頁頁/共共92頁頁,1 對給定的置信水平對給定的置信水平查正態(tài)分布表得查正態(tài)分布表得,2 u122unXunXP1|2unXP使使從中解得從中解得第第69頁頁/共共92頁頁),(22unXunX也可簡記為也可簡記為2 unX 122unXunXP于是所求于是所求 的的 置信區(qū)間為置信區(qū)間為 第第70頁頁/共共92頁頁

38、例例2 已知某地區(qū)新生嬰兒的體重已知某地區(qū)新生嬰兒的體重X),(2 N,2未知 隨機抽查隨機抽查 n 個嬰兒個嬰兒得得 n 個體重數(shù)據(jù)個體重數(shù)據(jù)X1, ,X2, ,Xn 2 求求 和和 的置信區(qū)間的置信區(qū)間（置信度為（置信度為 ）.1第第71頁頁/共共92頁頁解：解：這是單個總體均值和方差的估計這是單個總體均值和方差的估計未知22,),( NX已知已知 先求均值先求均值 的置信區(qū)間的置信區(qū)間. ) 1(ntnSXt 因方差未知，取因方差未知，取 對給定的置信度對給定的置信度 ,確定分位數(shù)確定分位數(shù) 1),1(2nt使使1)1(|2nttP1)1(|2ntnSXP即即第第72頁頁/共共92頁頁)

39、1(),1(22ntnSXntnSX均值均值 的置信水平為的置信水平為 的置信區(qū)間的置信區(qū)間.即為即為 1從中解得從中解得1)1() 1(22ntnSXntnSXP第第73頁頁/共共92頁頁) 1() 1(2222nSn取取1)1() 1() 1(2222221nSnnP從中解得從中解得1) 1() 1() 1() 1(22122222nSnnSnP2 再求方差再求方差 的置信水平為的置信水平為 的置信區(qū)間的置信區(qū)間. 1 對給定的置信度對給定的置信度 ,確定分位數(shù)確定分位數(shù) 1, ) 1(22n 使使, ) 1(221n第第74頁頁/共共92頁頁于是于是 即為所求即為所求.) 1() 1(,

40、) 1() 1(2212222nSnnSn1) 1() 1() 1() 1(22122222nSnnSnP第第75頁頁/共共92頁頁例例3.零件尺寸與規(guī)定尺寸的偏差零件尺寸與規(guī)定尺寸的偏差XN(，2),今今測得測得10個零件，得偏差值（單位：微米）個零件，得偏差值（單位：微米）2，1，-2，3，2，4，-2，5，3，4，試求，試求，2的無偏的無偏估計值和置信度為估計值和置信度為0.9的置信區(qū)間的置信區(qū)間.解：解：的無偏估計為的無偏估計為 2101101iiXX2的無偏估計為的無偏估計為 778. 54109110122iiXS的置信區(qū)間為的置信區(qū)間為: )10)9(,10)9(05. 005.

41、 0StXStX第第76頁頁/共共92頁頁1623. 38331. 1)9(, 205. 010 2.404,S , tX的置信度為的置信度為0.9的置信區(qū)間為的置信區(qū)間為: (0.6064, 3.3935);2的置信區(qū)間為的置信區(qū)間為: 325. 3)9(,919.16)9() 1() 1(,) 1() 1(295. 0205. 022/1222/2 nSnnSn2的置信度為的置信度為0.9的置信區(qū)間為的置信區(qū)間為: (3.075, 15.6397).的置信區(qū)間為的置信區(qū)間為: )10)9(,10)9(05. 005. 0StXStX第第77頁頁/共共92頁頁 需要指出的是，給定樣本，給定置

42、信水需要指出的是，給定樣本，給定置信水平，平，置信區(qū)間也置信區(qū)間也不是唯一不是唯一的的. .對同一個參數(shù)，我們可以構(gòu)造許多置信區(qū)間對同一個參數(shù)，我們可以構(gòu)造許多置信區(qū)間. .第第78頁頁/共共92頁頁N(0, 1)nXU 取取由標準正態(tài)分布表，對任意由標準正態(tài)分布表，對任意a、b，我們可我們可以求得以求得P( aUb) . 例如，設(shè)例如，設(shè)X1,Xn是取自是取自 的樣本，的樣本， ,2已知 ),(2 N求參數(shù)求參數(shù) 的置信度為的置信度為 的的 1置信區(qū)間置信區(qū)間.第第79頁頁/共共92頁頁N(0, 1)nXU 例如，由例如，由P(-1.96U1.96)=0.95)(ufu96. 196. 19

43、5. 0我們得到我們得到 均值均值 的置信水平為的置信水平為 1的的置信區(qū)間為置信區(qū)間為)96. 1,96. 1(nXnX第第80頁頁/共共92頁頁由由 P(-1.75U2.33)=0.95這個區(qū)間比前面一個要長一些這個區(qū)間比前面一個要長一些. .置信區(qū)間為置信區(qū)間為)33. 2,75. 1(nXnX我們得到我們得到 均值均值 的置信水平為的置信水平為 1的的)(ufu33. 275. 1第第81頁頁/共共92頁頁我們總是希望置信區(qū)間盡可能短我們總是希望置信區(qū)間盡可能短. .類似地，我們可得到若干個不同的置信類似地，我們可得到若干個不同的置信區(qū)間區(qū)間. . 任意兩個數(shù)任意兩個數(shù)a和和b，只要它們的縱標包含，只要它們的縱標包含f(x)下下95%的面積，就確定一個的面積，就確定一個95%的置信的置信區(qū)間區(qū)間. .0buuu)(ufaaabb950.950.950.第第82頁頁/共共92頁頁在概率密度為單峰且對稱的情形，當在概率密度為單峰且對稱的情形，當a