統(tǒng)計推斷：估計與假設(shè)檢驗

統(tǒng)計推斷：估計與假設(shè)檢驗第一頁，共60頁。有三位計量經(jīng)濟學(xué)家在森林中獵鹿，他們發(fā)現(xiàn)50米遠(yuǎn)處有一只很大的獵物正站在那里。第一位計量經(jīng)濟學(xué)家舉槍射擊，擊中了鹿身后兩米遠(yuǎn)的一棵樹。第二位計量經(jīng)濟學(xué)家也幾乎同時開槍，擊中了鹿身前兩米遠(yuǎn)的一棵樹。第三位計量經(jīng)濟學(xué)家高興得跳起來，并喊道：“平均的看，我們擊中它了！”顯然無偏性有一些缺陷，但在其他條件不變的情況下，平均而言正確通常總比平均而言錯誤要好一些。第二頁，共60頁。如果這兩位計量經(jīng)濟學(xué)家擊中了離鹿的心臟2厘米遠(yuǎn)的位置，而不是幾米遠(yuǎn)的地方，那么他們將會邊吃鹿肉邊慶祝他們的成功。無偏性之外，還要考慮，估計量方差的大小。第三頁，共60頁。統(tǒng)計推斷：估計與假設(shè)檢驗§1、估計和假設(shè)檢驗：統(tǒng)計推斷的兩個孿生分支§2、

參數(shù)估計§3、點估計量的性質(zhì)§4、假設(shè)檢驗第四頁，共60頁。統(tǒng)計推斷的含義:我們知道，總體是指我們所關(guān)注現(xiàn)象出現(xiàn)的可能結(jié)果的全體，樣本是總體的一個子集。統(tǒng)計推斷研究的是總體與來自總體的樣本之間的關(guān)系。一般地說，統(tǒng)計推斷是根據(jù)來自總體的樣本對總體（概率密度函數(shù)）的種種統(tǒng)計特征作出判斷。第五頁，共60頁?！?、估計和假設(shè)檢驗：統(tǒng)計推斷的兩個孿生分支統(tǒng)計推斷的主要步驟（舉例說明）：首先，關(guān)注某一總體，如紐約股票交易市場的1758支（90年9月4日）股票，想要研究該總體某一方面的統(tǒng)計特征，比如說股票價格與收入比（P/E）的平均值。在總體中抽取隨機樣本，如50支股票，求樣本中每一支股票的P/E值，然后再計算平均P/E值，即，就稱為總體平均P/E的估計量（也即E(X)的估計量，E(X)為總體的一個參數(shù)）。從而完成統(tǒng)計推斷的第一步：參數(shù)估計。第六頁，共60頁。其次，判斷估計值的“優(yōu)度”，主要因為估計值很可能不等于真實的參數(shù)值。如果有兩個或更多個隨機樣本，計算這些樣本的均值，則得到的估計值很可能不相同。我們把不同樣本估計值的差異稱為抽樣誤差，從而引入一些判定估計量優(yōu)劣的常用標(biāo)準(zhǔn)。再次，進(jìn)行假設(shè)檢驗。假設(shè)檢驗是統(tǒng)計推斷的另一個重要方面。在假設(shè)檢驗中，可以對某參數(shù)的假定值進(jìn)行先驗判斷或預(yù)期。如以往的經(jīng)驗或?qū)＜乙庖娭赋?758值股票總體的平均P/E值為12，若隨機樣本計算出的值為11，則根據(jù)假設(shè)檢驗的內(nèi)容接受假設(shè)或者拒絕假設(shè)。第七頁，共60頁。§2、

參數(shù)估計點估計：假定隨機變量X(P/E)服從某一未知均值和方差的正態(tài)分布。并且有來自該正態(tài)總體的一個隨機樣本（50個P/E值），見下表。如何根據(jù)這些樣本數(shù)據(jù)計算總體的均值和方差呢？先假設(shè)只關(guān)注總體均值x=E(X)。根據(jù)表中數(shù)據(jù)，50個P/E的樣本均值為11.4，顯然我們可以選擇11.4作為x的估計值，稱這個單一數(shù)值為x的點估計值，稱計算公式為x的點估計量。第八頁，共60頁。

67891011121314151618P/E頻數(shù)225657543461均值=11.5樣本方差=9.2755樣本標(biāo)準(zhǔn)差=3.0456中位數(shù)=眾位數(shù)=11總計：50假設(shè)的樣本（50值股票的P/E值）第九頁，共60頁。注意：點估計是一個隨機變量，因為其值隨樣本的不同而不同，那么，某一特殊的估計值的可信度有多大呢？為了更好地估計總體特征，引入?yún)^(qū)間估計。區(qū)間估計：區(qū)間估計的主要思想源于估計量抽樣分布（概率分布）的概念。我們知道，如果隨機變量X~N(x,x2)，則，或第十頁，共60頁。若x2未知，可用其估計量S2來替代，則有：服從自由度為(n-1)的t分布。在上里中，由50個樣本觀察值，故自由度為49。查t分布表得到：P(-2.0096≦t≦2.0096)=0.95即區(qū)間[-2.0096，2.0096]包括t的概率為95%。將t變量公式帶入，經(jīng)整理得：

10.63≦x≦12.36，即為x的95%的置信區(qū)間。第十一頁，共60頁。自由度為49的t分布2.5%95%2.5%02.0096-2.0096第十二頁，共60頁。由計算式P(-2.0096≦t≦2.0096)=0.95可得出：整理得：在統(tǒng)計學(xué)中，上述公式稱為未知的總體均值x的一個95%的置信區(qū)間。0.95稱為置信系數(shù)。表示隨機區(qū)間包括真實x的概率為0.95。區(qū)間下限區(qū)間上限第十三頁，共60頁。需要特別強調(diào)一點：上式給出的區(qū)間是隨機的區(qū)間，它依賴于樣本值的變化而變化，盡管總體均值x是未知的，但它是固定值，而非隨機量。由此，我們不能說x位于上述區(qū)間的概率為0.95，只能說該區(qū)間包括真實的x的概率為0.95。與點估計相比區(qū)間估計提供了在某一置信度下，真實參數(shù)的取值范圍。第十四頁，共60頁。歸納區(qū)間估計概念假定隨機變量X服從某一概率分布，若要對其參數(shù)（如x）進(jìn)行估計。選取容量為n的隨機樣本，X1，X2，…，Xn，并根據(jù)樣本計算兩個估計量L和U：P(L≦x

≦U)=1-0<<1即從L到U的隨機區(qū)間包括真實x的概率為(1-)。L稱為區(qū)間下限，U稱為區(qū)間上限。該區(qū)間稱為x的置信區(qū)間。(1-)稱為置信系數(shù)，稱為顯著水平，或犯第一類錯誤的概率。第十五頁，共60頁?！?、點估計量的性質(zhì)（評價標(biāo)準(zhǔn)）在P/E一例中，用樣本均值作為x的點估計量，滿足了以下性質(zhì)：⑴線性⑵無偏性⑶有效性⑷最優(yōu)線性無偏估計量⑸一致性第十六頁，共60頁。3.1線性線性估計量：若估計量是樣本觀察值的線性函數(shù)，則稱該估計量是線性估計量。上式看出，樣本均值是樣本觀察值Xs的線性函數(shù)，即Xs僅以一次冪的形式出現(xiàn)。第十七頁，共60頁。3.2無偏性無偏估計量：如果重復(fù)使用某種方法，得到的估計量的均值（如E()）與真實參數(shù)值x一致，該估計量就是無偏估計量。即如果二者不相等，則稱該估計量是有偏的估計量。第十八頁，共60頁。例1：若Xi~N(x，2)，假定從該正態(tài)總體中隨機抽取容量為n的樣本。則樣本均值是真實x的無偏估計量。（參考樣本均值的抽樣分布或概率分布）。例2：若Xi~N(x，2)，假定從該正態(tài)總體中隨機抽取容量為n的樣本。Xmed表示樣本中位數(shù)，可以證明E(Xmed)=x，即樣本中位數(shù)也是真實均值的無偏估計量。第十九頁，共60頁。3.3有效性有效估計量：若僅考慮唯一一個參數(shù)的估計量，則方差最小的估計量是最好的或稱為有效的估計量。對比樣本均值和樣本中位數(shù)。假定隨機變量X的取值構(gòu)成一隨機樣本，樣本容量為n，并且每個X~N(x，2)，令、Xmed分別表示樣本均值和樣本中位數(shù)。已知：~N(x，2/n)若樣本容量足夠大，可以證明，

Xmed~N(x，(/2)(2/n))第二十頁，共60頁。即對大樣本而言，樣本均值和樣本中位數(shù)均服從均值為x

的正態(tài)分布，但樣本中位數(shù)的方差是樣本均值的方差的(/2)倍。根據(jù)有效性的性質(zhì)，用樣本均值估計x比用樣本中位數(shù)Xmed更準(zhǔn)確，即樣本均值提供了一個比樣本中位數(shù)更為準(zhǔn)確的總體均值的估計值。第二十一頁，共60頁。3.4最優(yōu)線性無偏估計量最優(yōu)線性無偏估計量（BLUE）：如果一個估計量是線性的和無偏的，并且在參數(shù)的所有線性無偏估計量中，這個估計量的方差最小，則稱這個估計量是最優(yōu)線性無偏估計量。顯然，該性質(zhì)包括了線性、無偏性和有效性。第二十二頁，共60頁。3.5一致性假定X~N(x，2)，從該正態(tài)總體中抽取一容量為n的隨機樣本。現(xiàn)考慮x的兩個估計量：第一個估計量是常用的樣本均值，則E()=

x

。第二十三頁，共60頁?？梢宰C明，顯然第二個估計量X*是一個有偏估計量。兩個估計量的差別在于前者的分母是n而后者的分母是n+1。但是，假定我們增大樣本容量，則隨著樣本容量的增大，第二個估計量X*的均值也將近似等于真實的x，在統(tǒng)計學(xué)中，我們稱這樣的估計量（如X*）為一致估計量。有時得不到無偏估計量，但卻可以得到一個一致估計量。第二十四頁，共60頁。xn=100n=80n=50n=25概率密度f(X*)隨著樣本容量的增大，總體均值估計量X*的變化示意圖第二十五頁，共60頁。統(tǒng)計推斷：估計與假設(shè)檢驗§1、估計和假設(shè)檢驗：統(tǒng)計推斷的兩個孿生分支§2、

參數(shù)估計§3、點估計量的性質(zhì)§4、假設(shè)檢驗第二十六頁，共60頁?！?、假設(shè)檢驗在股票的P/E一例中，上一節(jié)我們根據(jù)50個P/E值組成的隨機樣本，建立了x的一個95%的置信區(qū)間。即在該區(qū)間內(nèi)包括x的概率為95%?，F(xiàn)在改變策略，不是建立一個置信區(qū)間，而是假設(shè)真實的x取某一特定值，如x=13。然后去檢驗這個假設(shè)，檢驗結(jié)果是接受或拒絕該假設(shè)？下面以此為例說明。第二十七頁，共60頁。

67891011121314151618P/E頻數(shù)225657543461均值=11.5樣本方差=9.2755樣本標(biāo)準(zhǔn)差=3.0456中位數(shù)=眾位數(shù)=11總計：50假設(shè)的樣本（50支股票的P/E值）第二十八頁，共60頁。用假設(shè)的語言，將x=13稱為零假設(shè)（原假設(shè)），用符號H0表示。即，H0:x=13與零假設(shè)相對應(yīng)的是備擇假設(shè)，用符號H1表示，備擇假設(shè)有以下幾種形式：H1：x＞13稱為單邊備擇假設(shè)（右側(cè)）；H1：x＜13稱為單邊備擇假設(shè)（左側(cè)）；H1：x≠13稱為雙邊備擇假設(shè)。為了檢驗零假設(shè)（和備擇假設(shè)）,根據(jù)樣本數(shù)據(jù)及統(tǒng)計理論建立判定規(guī)則來判斷樣本信息是否支持零假設(shè)。若支持，不拒絕零假設(shè)，反之拒絕零假設(shè)，接受備擇假設(shè)。建立判定規(guī)則有兩種方法：置信區(qū)間法、顯著性檢驗法。第二十九頁，共60頁。4.1置信區(qū)間法在上述例子中，我們知道樣本均值服從均值為x，方差為2/n的正態(tài)分布，由于真實的方差未知，以樣本方差代替。在這種情況下，樣本均值服從t分布，從而得到x

的一個95%的置信區(qū)間：10.63≦x≦12.36（近似值）置信區(qū)間提供了在某一置信度下（如95%）真實的x

的取值范圍。因此，如果這個區(qū)間不包括零假設(shè)中的值，如x=13，則拒絕零假設(shè)，即我們以95%的置信度拒絕零假設(shè)。反之，接受零假設(shè)。第三十頁，共60頁。接受區(qū)域：上述不等式所描述的置信區(qū)間稱為接受區(qū)域。零假設(shè)的臨界區(qū)域（或拒絕區(qū)域）：接受區(qū)域以外的稱為零假設(shè)的臨界區(qū)域或拒絕區(qū)域。臨界值：接受區(qū)域的上界和下界稱為臨界值。它們是接受或拒絕零假設(shè)的分界線。歸納：如果參數(shù)值在零假設(shè)下位于接受區(qū)域內(nèi)，則不拒絕零假設(shè)，若落在接受區(qū)域以外（即落在拒絕區(qū)域內(nèi)），則拒絕零假設(shè)。10.6312.36P/E值P/E總體均值的95%的置信區(qū)間第三十一頁，共60頁。10.6312.36P/E值P/E總體均值的95%的置信區(qū)間132.5%95%2.5%4.2第一類錯誤和第二類錯誤H0：x=13第三十二頁，共60頁。第一類錯誤：亦稱棄真錯誤。在上述P/E例子中，我們以95%的置信度拒絕了零假設(shè)：x=13，那么是否就意味著上表中所給出的樣本就不是來自均值為13的正態(tài)總體呢？或許事實的確如此。但是由于不等式給出的置信區(qū)間的置信度是95%，而非100%，我們抽取的這一個特定的樣本可能正好不包含真實值。如果真是這樣，則拒絕H0：x=13，就可能犯錯誤，這種情況下，我們說犯了第一類錯誤（也稱棄真錯誤），即原假設(shè)為真而我們拒絕了它。第三十三頁，共60頁。10.6312.36P/E值P/E總體均值的95%的置信區(qū)間122.5%95%2.5%H0：x=12第三十四頁，共60頁。第二類錯誤：亦稱取偽錯誤。在上述例子中，假定零假設(shè)H0:x=12，在這種情況下，根據(jù)上述置信區(qū)間，我們應(yīng)該不拒絕零假設(shè)。但是上表中的數(shù)據(jù)很可能不是來自均值為12的正態(tài)總體，此時我們會犯第二類錯誤，也即取偽錯誤。在研究中，我們想盡可能減小這兩種錯誤。但是，對于任一給定的樣本，我們不可能同時作到犯這兩種錯誤的概率都很小。其解決方法為：先固定犯第一類錯誤的概率在一很低水平上，再考慮如何減小犯第二類錯誤的概率。統(tǒng)計學(xué)家（NeymanPearson）提出的解決問題的方法是假定在實際中棄真錯誤比取偽錯誤更嚴(yán)重。第三十五頁，共60頁。第一類錯誤與第二類錯誤總體情況結(jié)論H0為真H1為真接受H0正確結(jié)論取偽錯誤拒絕H0棄真錯誤正確結(jié)論拒絕H0的結(jié)論要么是正確的，要么犯了第一類錯誤我們可以控制犯第一類錯誤的概率，得出具有很高置信度的結(jié)論“拒絕H0是正確的”；統(tǒng)計學(xué)家通過“不拒絕H0”的表述來避免犯第二類錯誤第三十六頁，共60頁。犯第一類錯誤的概率通常用符號表示，稱為顯著性水平；犯第二類錯誤的概率通常用符號表示。則：第一類錯誤==犯棄真錯誤的概率；第二類錯誤==犯取偽錯誤的概率。不犯第二類錯誤的概率=(1-)，稱為檢驗的功效。假設(shè)檢驗的標(biāo)準(zhǔn)做法是：給定某一顯著水平的，如=0.01（或0.05），然后使檢驗的功效最大，即使最小。由于求解過程比較復(fù)雜，在實際中，僅僅給出值，而沒有過多考慮值。第三十七頁，共60頁。置信系數(shù)(1-)就是1減去“犯第一類錯誤的概率”，因此，95%的置信系數(shù)表示拒絕零假設(shè)犯第一類錯誤的概率至多為5%。以下用實例來進(jìn)一步闡明假設(shè)檢驗的置信區(qū)間法。第三十八頁，共60頁。例：壇子里的花生的重量服從正態(tài)分布，但均值和方差是未知的。隨機選取20個壇子，發(fā)現(xiàn)其樣本均值和樣本方差分別為6.5和4。檢驗零假設(shè)：真實均值為7.5；備則假設(shè)：真實均值不是7.5。給定顯著水平1%。若顯著水平為5%，又會如何？分析：令X代表壇子中花生的重量，因此，X~N(x，2)，兩個參數(shù)x

和2均是未知的。由于知道樣本方差，故設(shè)計t變量，它服從自由度為19的t分布。第三十九頁，共60頁。查t分布表得：當(dāng)自由度為19時，P(-2.861≦t≦2.861)=0.99整理得出：將已知條件代入，得：5.22≦x≦7.78（近似值）由于該區(qū)間包括了零假設(shè)值7.5，因此，我們不拒絕零假設(shè)：真實的x=7.5。第四十頁，共60頁。若置信水平為5%，也就意味著決定冒更大的風(fēng)險犯第一類錯誤。分析如下：根據(jù)t分布表，當(dāng)=5%，自由度為19時，t的臨界值為-2.093和+2.093，即P(-2.093≦t≦2.093)=0.95按照上述步驟，求得：5.56≦x≦7.44（近似值）由于該區(qū)間不包括7.5，因此，拒絕零假設(shè)：真實的x=7.5。后者和前者的不同之處在于后者的置信區(qū)間比前者略窄一些，反映了不同的顯著水平下置信區(qū)間有所區(qū)別。第四十一頁，共60頁。5.227.78b)x的95%的置信區(qū)間7.50.5%99%0.5%H0：x=7.595%2.5%2.5%5.567.447.5a)x的99%的置信區(qū)間第四十二頁，共60頁。4.3顯著性檢驗顯著性檢驗是一種兩者擇一的假設(shè)檢驗，但它卻是完備的?，F(xiàn)通過P/E一例加以說明。根據(jù)以下公式可知：服從自由度為(n-1)的t分布。在具體應(yīng)用中，、S、n已知，x

未知。第四十三頁，共60頁。在零假設(shè)下設(shè)定x

為一給定值，從而求出t值。由于該式中的t值服從自由度為(n-1)的t分布，根據(jù)t分布很容易求出獲此t值的概率。如果與x的差別不大（絕對值形式），則根據(jù)上式，t值為0，在這種情況下，我們接受零假設(shè)。隨著t的絕對值的增大，逐漸趨于拒絕零假設(shè)。在能拒絕零假設(shè)之前，最大的t的絕對值是多少呢？它直接取決于置信水平（犯第一類錯誤的概率）和自由度。顯著性檢驗方法的關(guān)鍵之處是檢驗統(tǒng)計量（t統(tǒng)計量）以及在假定x

為一給定值下該t統(tǒng)計量的概率分布。第四十四頁，共60頁。在P/E例子中，=11.5，S=3.0456，n=50。令H0：x=13，H1：x

≠13，則有：t=(11.5-13)/(3.0456/√50)=-3.4826根據(jù)該t值能否拒絕零假設(shè)呢？在沒有設(shè)定置信水平之前，無法回答這個問題。現(xiàn)假定置信水平為5%，即=5%。由于備擇假設(shè)是雙邊假設(shè)，因此，可以將犯第一類錯誤的風(fēng)險均分在t分布的兩側(cè)——兩個拒絕區(qū)域（計算的t值位于任何一個拒絕區(qū)域，都能夠拒絕零假設(shè)）。第四十五頁，共60頁。當(dāng)自由度為49時，在5%的顯著水平下，查表得臨界的t值為-2.0096和2.0096（見下圖），獲此t值小于或等于-2.0096的概率為2.5%，獲得此t值大于或等于2.0096的概率也為2.5%。95%=2.5%=2.5%t=-3.5-2.00962.00960t檢驗的顯著性：雙邊檢驗第四十六頁，共60頁。顯然，t值位于t分布的左側(cè)拒絕區(qū)域。因此，拒絕零假設(shè)。在顯著性檢驗時，經(jīng)常遇到的兩個術(shù)語：檢驗（統(tǒng)計量）是顯著的：當(dāng)能夠拒絕零假設(shè)時，認(rèn)為檢驗是顯著的。檢驗（統(tǒng)計量）是統(tǒng)計不顯著的：當(dāng)不能拒絕零假設(shè)時，就說不是統(tǒng)計顯著的。第四十七頁，共60頁。單邊檢驗當(dāng)備擇假設(shè)為單邊假設(shè)時，則檢驗這個假設(shè)為單邊假設(shè)。如在P/E以利中，H0:x=13，H1：x

<13。單邊檢驗與雙邊檢驗相類似，只是在單邊檢驗中，僅僅需要決定統(tǒng)計量單一的臨界值，而不是兩個臨界值。第四十八頁，共60頁。95%=5%01.68t檢驗的顯著性：右側(cè)單邊檢驗第四十九頁，共60頁。95%=5%01.68t檢驗的顯著性：左側(cè)單邊檢驗t=-3.5第五十頁，共60頁。從上圖可以看出，現(xiàn)在犯第一類錯誤的概率僅僅集中在該概率分布的一側(cè)。當(dāng)自由度為49，在5%的顯著水平下，根據(jù)t分布表，得到單邊的t的臨界值為1.6766（右側(cè)）或-1.6766（左側(cè)）。在上例中，計算出的t值約為-3.5。由于t值在左側(cè)單邊檢驗圖的臨界區(qū)域內(nèi)，因此，該t值是統(tǒng)計顯著的，即拒絕零假設(shè)。真實的P/E值小于13。第五十一頁，共60頁。零H0備擇假設(shè)臨界區(qū)域，拒絕H0，若x=0x>0x=0x<0x=0x≠0t檢驗小結(jié)最后一列給出了t臨界值，第一個下標(biāo)表示顯著水平，d.t代表自由度。第五十二頁，共60頁。4.42顯著性檢驗和F顯著性檢驗1.2檢驗在2分布部分提到，如果S2表示來自方差為2的正態(tài)總體，容量為n的隨機樣本的樣本方差，那么，即樣本方差與總體方差的比值與(n-1)的乘積服從自由度為(n-1)的2分布。第五十三頁，共60頁。如果已知樣本容量n及樣本方差S2，總體方差2未知，則根據(jù)2分布可對未知的總體方差2建立一個(1-)的置信區(qū)間，其機制與t檢驗類似。在零假設(shè)H0下，給定2一個具體的值，則可利用上述公式直接計算出2