第7章參數(shù)估計

1、第7章 參數(shù)估計7.1 參數(shù)點估計的幾種方法7.1.1 參數(shù)點估計問題的提出在實際問題中，首先，總體的分布類型往往是知道的，未知的只是其中的某些參數(shù)。例如，等；其次，人們直接感興趣的往往不是總體的分布，而是總體的某些參數(shù)。因此參數(shù)估計就顯得特別重要。設為未知參數(shù)，為總體的樣本，點估計：就是尋找統(tǒng)計量作為參數(shù)的估計。7.1.2 矩法估計（MME） 總體矩 樣本矩一階： .二階： . . 階： （有限制） .特點：總體矩含有未知參數(shù)，樣本矩是統(tǒng)計量；總體矩和樣本矩（同階）是近似相等的（大數(shù)定律）。證：，（辛欽大數(shù)定律）。思想：用樣本矩代替總體矩，建立方程，解出其中的未知參數(shù)，參數(shù)的解即為它的矩估計

2、。例1 若總體，為來自總體的樣本，求的MME。解：求總體矩;建立方程，令，則，即得MME為。例2 設總體的期望、方差分別為，為來自總體的樣本，求的MME。解：求總體矩，。建立方程，令注：矩法估計是不需要知道總體的分布函數(shù)的。例7.1.2 設總體，為參數(shù)，為來自總體的樣本，求的MME。解：求總體矩，。建立方程，令7.1.3 最大似然估計（MLE）一、最大似然原理：一個隨機試驗，有若干個可能出現(xiàn)的結果，現(xiàn)進行一次試驗，若事件發(fā)生，則認為最大。二、概率函數(shù)若離散型，分布列若連續(xù)性，概率密度統(tǒng)稱為概率函數(shù)，記為，為未知參數(shù)。三、似然函數(shù)設為總體的一組樣本，為樣本的一組觀測值，現(xiàn)事件發(fā)生了，由最大似然原

3、理知，最大。當總體為離散型，則最大，當總體為連續(xù)型，則樣本落在點的鄰域內(nèi)的概率最大，其中與無關，由知，最大，也就是最大，記，稱為關于的似然函數(shù)。若使得達到最大，則稱為的最大似然估計值，其相應的統(tǒng)計量為的最大似然估計量（MLE），記為。四、計算MLE若關于單調，則可根據(jù)單調函數(shù)的性質求例4 設，求。解：概率函數(shù)為設為樣本的一組觀測值，則似然函數(shù)為由于關于單調下降，所以取最小值時，最大，但，所以由的任意性知：若關于不是單調的，要求極值點，可先求穩(wěn)定點，然后再驗證。令，則為方程的解。通過解方程，求出（如果只有一個穩(wěn)定點就不需要驗證了）。但是不易求導，于是引入對數(shù)似然函數(shù)：由于是的嚴格遞增函數(shù)，它們有

4、相同的極大值點，所以可令：。例5 設，求。 設總體（1）若已知，未知，試求的最大似然估計量；（2）若，均未知，試求，的最大似然估計量。解：的概率函數(shù)為。設為樣本的一組觀測值，（1）的似然函數(shù)為，從而對數(shù)似然函數(shù)為，令得，解方程得，由的任意性可知，最大似然估計。（2），的對數(shù)似然函數(shù)為，分別關于，求偏導，得似然方程組解得由的任意性可知，最大似然估計。7.2 點估計的評價標準一般地，不同的估計方法得到參數(shù)的估計不一定一樣，這時怎樣判斷估計的好壞呢？點估計常用的評價標準有三個：無偏性、有效性、一致性。7.2.1. 無偏性：設為未知參數(shù)的點估計，若，則稱為的無偏估計量，否則稱為有偏估計。 設樣本為來自

5、總體的一組樣本，。驗證為的無偏估計；為的無偏估計。解：；。7.2.2. 有效性：設，是的兩個無偏估計量，如果，則稱比有效。 設總體的方差存在，。為的樣本，則是的兩個無偏估計量，驗證哪個更有效。解：，所以比更有效。7.2.3. 一致性（相合性）：設為未知參數(shù)的點估計，為樣本容量，若，有，（或）則稱為的一致估計量。7.3 區(qū)間估計7.3.1 區(qū)間估計的概念定義1：設為總體的一個參數(shù)，是取自總體樣本，為某一實數(shù)，若存在兩個統(tǒng)計量，使得，則稱隨機區(qū)間為的置信水平（或置信系數(shù)）為的置信區(qū)間；，分別稱為的置信下限、置信上限，統(tǒng)稱為置信限。這種用一個區(qū)間來估計未知參數(shù)的方法稱為區(qū)間估計。意義：置信水平反映的

6、是區(qū)間包含的可靠程度。定義2：為未知參數(shù)，為的一個估計值，為某一給定實數(shù)，記，則稱為的置信水平為的區(qū)間估計。注：與樣本容量和有關；為隨機區(qū)間；大約有個區(qū)間包含。7.3.2 樞軸量法構造未知參數(shù)的置信區(qū)間的最常用的方法：樞軸量法，借助假設檢驗的接受域來構造。 設為取自正態(tài)總體的樣本，其中已知，未知，試求參數(shù)的置信水平為的置信區(qū)間。解：的最大似然估計為，而由Fisher定理知，故，是樣本的函數(shù)，且含有未知參數(shù)，但其分布與未知參數(shù)無關。對于給定的，我們可以查標準正態(tài)分布表確定，使得，即，于是因此，的置信水平為的置信區(qū)間為。事實上，只要存在使得，即反解得就是的置信水平為的置信區(qū)間。等尾置信區(qū)間：使得兩

7、個尾巴的概率相等的區(qū)間，即，。圖示： y z樞軸量法的一般步驟：（1） 設法構造一個樣本和的函數(shù)，使得的分布不依賴于未知參數(shù)，一般稱具有這種性質的為樞軸量。（2） 適當選取兩個常數(shù)，使對給定的，有；（3） 假如能將不等式恒等變形為，則有，從而即為的置信水平為的置信區(qū)間。上述構造置信區(qū)間的關鍵在于樞軸量的構造，一般由的點估計變形產(chǎn)生。7.3.3 單個正態(tài)總體參數(shù)的區(qū)間估計1. 已知時的置信區(qū)間令樞軸量，的置信水平為的置信區(qū)間為。 某燈泡廠的燈泡壽命（單位：小時）服從分布，今從中抽取一個容量為10的樣本，測得，試求平均壽命的置信區(qū)間（）。解: 令樞軸量，因為，查標準正態(tài)分布表得，所以，的置信水平為0.95的置信區(qū)間為（1145.25,1148.75）。2. 未知時的置信區(qū)間我們用的無偏估計量來代替，令樞軸量為，的置信水平為的置信區(qū)間為。 假定新生嬰兒（男孩）的體重服從正態(tài)分布，今隨機抽取12名新生嬰兒，測得克，試求新生嬰兒平均體重的置信水平為95%的置信區(qū)間。解：令樞軸量為，未知。查t分布表的，所以，的置信水平為0.95的置信區(qū)間為（2818.54,3295.46）。4. 的置信區(qū)間（未知）用的無偏估計量來代替，令樞