yydyfx3B(補充)

1、1 應用多元統(tǒng)計應用多元統(tǒng)計分析分析 第三章第三章 多元正態(tài)總體多元正態(tài)總體 參數(shù)的假設檢驗參數(shù)的假設檢驗( (二二) )2第三章第三章 多元正態(tài)總體參數(shù)的假設檢驗多元正態(tài)總體參數(shù)的假設檢驗目目 錄錄( (二二) )3.6 正態(tài)性檢驗正態(tài)性檢驗 第三章第三章所涉及的最大似然估計量所涉及的最大似然估計量小結小結 3第三章第三章 多元正態(tài)總體參數(shù)的假設檢驗多元正態(tài)總體參數(shù)的假設檢驗3.6 3.6 正態(tài)性檢驗正態(tài)性檢驗 在均值和協(xié)差陣的檢驗中在均值和協(xié)差陣的檢驗中,以及以后將介紹的一些以及以后將介紹的一些統(tǒng)計方法中都是假定樣本來自統(tǒng)計方法中都是假定樣本來自p元正態(tài)總體元正態(tài)總體.所作統(tǒng)計所作統(tǒng)計推斷

2、的結論是否正確推斷的結論是否正確,在某種意義上取決于實際總體與在某種意義上取決于實際總體與正態(tài)總體接近的程度如何正態(tài)總體接近的程度如何?因此建立一些方法來檢驗多因此建立一些方法來檢驗多元觀測數(shù)據與多元正態(tài)數(shù)據的差異是否顯著是十分必元觀測數(shù)據與多元正態(tài)數(shù)據的差異是否顯著是十分必要的要的. 設設X()(X1 , , Xp) (1,n)是來自是來自p元總體元總體X的樣的樣本本,試問總體試問總體X是否服從是否服從Np(,)分布分布? 若總體若總體X(X1,Xp)Np(,),利用多元正態(tài)分布的利用多元正態(tài)分布的一些性質可知一些性質可知(記記=(1,p),=(ij)pp )： 4第三章第三章 多元正態(tài)總體

3、參數(shù)的假設檢驗多元正態(tài)總體參數(shù)的假設檢驗3.6 3.6 正態(tài)性檢驗正態(tài)性檢驗 每個分量每個分量XiN(i,ii) (i1，p). 任二個分量任二個分量(Xi , Xj )二元正態(tài)分布二元正態(tài)分布. 設設l=(l1,lp)為任給的為任給的p維常向量維常向量,令令lX,則則N1( l，ll ). 令令=(X-)-1(X-),則則2(p). 正態(tài)隨機向量正態(tài)隨機向量X的概率密度等高線為橢球的概率密度等高線為橢球. 若總體若總體X為多元正態(tài)總體為多元正態(tài)總體,必具有以上所列的幾條性必具有以上所列的幾條性質質.如果如果X具有以上這些性質具有以上這些性質,也不一定能得出也不一定能得出X為為p元正元正態(tài)分布

4、態(tài)分布.但如果經過檢驗但如果經過檢驗,比如發(fā)現(xiàn)某個分量比如發(fā)現(xiàn)某個分量Xi與正態(tài)分與正態(tài)分布有顯著差異布有顯著差異,即可得出即可得出p元總體元總體X與與p元正態(tài)分布也有元正態(tài)分布也有顯著差異顯著差異.利用以上性質利用以上性質,要來構造出好的滿意的多元正要來構造出好的滿意的多元正態(tài)的整體性檢驗十分困難態(tài)的整體性檢驗十分困難.5第三章第三章 多元正態(tài)總體參數(shù)的假設檢驗多元正態(tài)總體參數(shù)的假設檢驗3.63.6正態(tài)性檢驗正態(tài)性檢驗-一維邊緣分布的正態(tài)性檢驗一維邊緣分布的正態(tài)性檢驗 在實際應用中如果經過從多方面得到的檢驗結果與在實際應用中如果經過從多方面得到的檢驗結果與正態(tài)分布均無顯著性差異，也就認為該總

5、體正態(tài)分布均無顯著性差異，也就認為該總體X與與p元正元正態(tài)無顯著差異態(tài)無顯著差異. 設設p維隨機向量維隨機向量X(X1,Xp),檢驗分量檢驗分量XiN(i,2) (i1，p) ，把把p維正態(tài)性檢驗化為維正態(tài)性檢驗化為p個一個一維數(shù)據的正態(tài)性檢驗維數(shù)據的正態(tài)性檢驗.常用的檢驗方法有以下幾種常用的檢驗方法有以下幾種. 1. 2檢驗法檢驗法 這是適用于連續(xù)型或離散型隨機變量分布的擬合優(yōu)這是適用于連續(xù)型或離散型隨機變量分布的擬合優(yōu)度檢驗方法，也稱為度檢驗方法，也稱為Pearson 2 檢驗法檢驗法. 2. 柯氏柯氏(Kolmogorov,A.N.)檢驗法檢驗法 這是適用于連續(xù)型分布的擬合優(yōu)度檢驗方法這

6、是適用于連續(xù)型分布的擬合優(yōu)度檢驗方法.6第三章第三章 多元正態(tài)總體參數(shù)的假設檢驗多元正態(tài)總體參數(shù)的假設檢驗3.63.6正態(tài)性檢驗正態(tài)性檢驗-一維邊緣分布的正態(tài)性檢驗一維邊緣分布的正態(tài)性檢驗 3. 偏峰檢驗法偏峰檢驗法 4. W (Wilks)檢驗和檢驗和D檢驗檢驗 5. Q-Q (QuantileQuantile)圖檢驗法圖檢驗法 6. P-P (ProbabilityProbability )圖檢驗法圖檢驗法 7. “3”原則檢驗法原則檢驗法 8. A2和和W2統(tǒng)計量檢驗法統(tǒng)計量檢驗法 方法方法3至方法至方法8都是只適用于正態(tài)分布的檢驗都是只適用于正態(tài)分布的檢驗法法.7第三章第三章 多元正態(tài)

7、總體參數(shù)的假設檢驗多元正態(tài)總體參數(shù)的假設檢驗3.63.6正態(tài)性檢驗正態(tài)性檢驗-二維數(shù)據的正態(tài)性檢驗二維數(shù)據的正態(tài)性檢驗 設設X(X1,Xp) 為為p維隨機向量維隨機向量,X的任二個分量的的任二個分量的n次觀測數(shù)據記為次觀測數(shù)據記為X(i)=(Xi1,Xi2)(i=1,n).下面介紹檢驗下面介紹檢驗二維觀測數(shù)據是否來自二元正態(tài)分布的方法二維觀測數(shù)據是否來自二元正態(tài)分布的方法. 1. 等概橢圓檢驗法等概橢圓檢驗法 若二維隨機向量若二維隨機向量X=(X1,X2)N2(,),則則X的概率密的概率密度函數(shù)等高線度函數(shù)等高線 f(x1,x2)a (X-)-1(X-)b2右邊是中心在右邊是中心在(1,2)由

8、由(X-)-1(X-)b2決定的橢圓決定的橢圓.由本章由本章3.1的介紹的知識可知的介紹的知識可知 D2(X-)-1(X-)2 (2).對給定對給定p0(0，1)，則存在則存在d0使使 P D2 d0p08第三章第三章 多元正態(tài)總體參數(shù)的假設檢驗多元正態(tài)總體參數(shù)的假設檢驗3.63.6正態(tài)性檢驗正態(tài)性檢驗-二維數(shù)據的正態(tài)性檢驗二維數(shù)據的正態(tài)性檢驗 2. 二維數(shù)據的二維數(shù)據的2圖檢驗法圖檢驗法 因二維數(shù)據的因二維數(shù)據的2圖檢驗法與圖檢驗法與p維數(shù)據的維數(shù)據的2圖圖檢驗法原理完全相同檢驗法原理完全相同.故關于二維數(shù)據的故關于二維數(shù)據的2 圖檢圖檢驗方法請參閱下面驗方法請參閱下面p維數(shù)據的維數(shù)據的2圖

9、檢驗方法圖檢驗方法.9第三章第三章 多元正態(tài)總體參數(shù)的假設檢驗多元正態(tài)總體參數(shù)的假設檢驗3.63.6正態(tài)性檢驗正態(tài)性檢驗-p維數(shù)據的正態(tài)性檢驗維數(shù)據的正態(tài)性檢驗 設設X()(X1 , , Xp) (1,n)是來自是來自p元總體元總體X的的樣本樣本, 檢驗檢驗H0: XNp(,)，H1:X不服從不服從Np (,). 1. 2統(tǒng)計量的統(tǒng)計量的Q-Q圖檢驗法圖檢驗法(或或P-P圖檢驗法圖檢驗法) 這是由正態(tài)分布的性質構造的檢驗法這是由正態(tài)分布的性質構造的檢驗法. 在在H0下下,樣品樣品X到總體中心到總體中心的廣義平方距離的廣義平方距離(或稱馬或稱馬氏距離氏距離)D2(X,)記為記為D2 ，則有則有

10、D2 (X-)-1(X-)2(p)以下構造的檢驗方法就是檢驗統(tǒng)計量以下構造的檢驗方法就是檢驗統(tǒng)計量D2是否是否2(p).直觀的想法是：由樣品直觀的想法是：由樣品X()計算計算D2(1,n)，對對D2排序：排序： 10第三章第三章 多元正態(tài)總體參數(shù)的假設檢驗多元正態(tài)總體參數(shù)的假設檢驗3.63.6正態(tài)性檢驗正態(tài)性檢驗-p維數(shù)據的正態(tài)性檢驗維數(shù)據的正態(tài)性檢驗 D2(1) D2(2) D2(n) . 統(tǒng)計量統(tǒng)計量 D2 的經驗分布函數(shù)取為的經驗分布函數(shù)取為 其中其中H(D2(t) |p)表示表示2 (p)的分布函數(shù)在的分布函數(shù)在D2(t)的值的值. 設設2 分布的分布的pt分位數(shù)為分位數(shù)為t2 ,顯然

11、顯然t2滿足滿足: H(t 2 |p)= pt.即即2 分布的分布的pt 分位數(shù)分位數(shù)t2 H-1(pt |p). 由經驗分布得到樣本的由經驗分布得到樣本的pt 分位數(shù)分位數(shù)D2(t)=Fn-1(pt ).若若H(x|p) Fn(x)，應有應有D2(t) t2 ,繪制點繪制點(D2(t) , t2 )的散的散布圖布圖,當當X為正態(tài)總體時為正態(tài)總體時,這些點應散布在一條直這些點應散布在一條直線上線上. 11第三章第三章 多元正態(tài)總體參數(shù)的假設檢驗多元正態(tài)總體參數(shù)的假設檢驗3.63.6正態(tài)性檢驗正態(tài)性檢驗-p維數(shù)據的正態(tài)性檢驗維數(shù)據的正態(tài)性檢驗 這種檢驗法其實就是卡方分布的這種檢驗法其實就是卡方分

12、布的Q-Q圖檢驗法圖檢驗法. 類似地也可以繪制點類似地也可以繪制點(pt , H(D2(t) |p)的散布圖，當?shù)纳⒉紙D，當X為正態(tài)總體時，這些點也應散布在一條直線上為正態(tài)總體時，這些點也應散布在一條直線上.這種這種檢驗法其實就是卡方分布的檢驗法其實就是卡方分布的P-P圖檢驗法圖檢驗法. 具體檢驗步驟如下：具體檢驗步驟如下： (1) 由由n個個p維樣本點維樣本點X() (1,n)計算樣本均值計算樣本均值X，樣本協(xié)差陣樣本協(xié)差陣S：12第三章第三章 多元正態(tài)總體參數(shù)的假設檢驗多元正態(tài)總體參數(shù)的假設檢驗3.63.6正態(tài)性檢驗正態(tài)性檢驗-p維數(shù)據的正態(tài)性檢驗維數(shù)據的正態(tài)性檢驗 (2) 計算樣品點計算

13、樣品點X(t)到到X的廣義平方距離的廣義平方距離(即馬氏距即馬氏距離離) (3) 對廣義平方距離對廣義平方距離D2t 按從小到大的次序排序按從小到大的次序排序 (4) 計算計算pt(t-0.5)/n (t=1, 2，n) ,t2 ,其中其中t2滿滿足：足： H(t2 |p)= pt (或計算或計算H(D2(t)|p)的值的值).13第三章第三章 多元正態(tài)總體參數(shù)的假設檢驗多元正態(tài)總體參數(shù)的假設檢驗3.63.6正態(tài)性檢驗正態(tài)性檢驗-p維數(shù)據的正態(tài)性檢驗維數(shù)據的正態(tài)性檢驗 (5) 以平方距離為橫坐標以平方距離為橫坐標,2 分位數(shù)為縱坐標作為分位數(shù)為縱坐標作為平面坐標系，用平面坐標系，用n個點個點(

14、D2(t) ,t2 )繪制散點圖，即得繪制散點圖，即得到卡方分布的到卡方分布的Q-Q圖圖;或者用另或者用另n個點個點(pt , H(D2(t) | p)繪制散點圖，即得卡方分布的繪制散點圖，即得卡方分布的P-P圖圖. (6) 考察這考察這n個點是否散布在一條通過原點個點是否散布在一條通過原點,斜率斜率為為1的直線上的直線上.若是若是,接受數(shù)據來自接受數(shù)據來自p維正態(tài)總體的假維正態(tài)總體的假設設;否則拒絕正態(tài)性假設否則拒絕正態(tài)性假設.14第三章第三章 多元正態(tài)總體參數(shù)的假設檢驗多元正態(tài)總體參數(shù)的假設檢驗3.63.6正態(tài)性檢驗正態(tài)性檢驗-p維數(shù)據的正態(tài)性檢驗維數(shù)據的正態(tài)性檢驗 2. 主分量檢驗法主分

15、量檢驗法 設設X(i)=(Xi1, Xi2, Xip)(i=1,n)為來自為來自p維總體維總體X=(X1,Xp)的觀測數(shù)據的觀測數(shù)據(樣本樣本).檢驗檢驗H0: XNp(,)，H1：X不服從不服從Np(,). 設設樣本協(xié)差陣樣本協(xié)差陣S的特征值為的特征值為12p0，相應的特相應的特征向量為征向量為l1,l2,lp.記記lt=(l1t , l2t , , lpt).令令 Zt= l1t X1+ l2t X2+ lptXp (t=1,2,p)即新變量即新變量Z1,Zp 是是X1,Xp的線性組合的線性組合.且可以證明且可以證明: Z1,Zp 是相互獨立的是相互獨立的.15第三章第三章 多元正態(tài)總體參

16、數(shù)的假設檢驗多元正態(tài)總體參數(shù)的假設檢驗3.63.6正態(tài)性檢驗正態(tài)性檢驗-p維數(shù)據的正態(tài)性檢驗維數(shù)據的正態(tài)性檢驗 p維觀測數(shù)據提供的信息大部分可由前幾個維觀測數(shù)據提供的信息大部分可由前幾個新變量所提供新變量所提供.這時這時p維數(shù)據的正態(tài)性檢驗可化維數(shù)據的正態(tài)性檢驗可化為幾個相互獨立的新變量的一元數(shù)據的正態(tài)性為幾個相互獨立的新變量的一元數(shù)據的正態(tài)性檢驗檢驗.這些新變量在第七章主成分分析中被稱這些新變量在第七章主成分分析中被稱為主成分為主成分.故此檢驗法稱為主成分檢驗法故此檢驗法稱為主成分檢驗法. 如果正態(tài)性假設不能成立，一般應考慮對如果正態(tài)性假設不能成立，一般應考慮對數(shù)據進行變換，使非正態(tài)數(shù)據更接

17、近正態(tài)，然數(shù)據進行變換，使非正態(tài)數(shù)據更接近正態(tài)，然后對變換后的數(shù)據進行統(tǒng)計分析后對變換后的數(shù)據進行統(tǒng)計分析.有關變換的有關變換的方法請見參考文獻方法請見參考文獻5、6或或7.16第三章第三章 多元正態(tài)總體參數(shù)的假設檢驗多元正態(tài)總體參數(shù)的假設檢驗所涉及的最大似然估計量所涉及的最大似然估計量單個總體單個總體 單個單個p維正態(tài)總體維正態(tài)總體Np(,)，設設X(i)(i=1,n)為來自為來自p維總體的隨機樣本維總體的隨機樣本.樣本的似然函數(shù)為樣本的似然函數(shù)為niiinnpXXL1)()(122)(21-etr2),(:,1,) 1 (似然函數(shù)達最大值時當AnX2-exp2),(22npnAnAXLnn

18、p17第三章第三章 多元正態(tài)總體參數(shù)的假設檢驗多元正態(tài)總體參數(shù)的假設檢驗所涉及的最大似然估計量所涉及的最大似然估計量單個總體單個總體:1,)2(00似然函數(shù)達最大值取巳知時當An2-exp2),(20200npnAnALnnp)()()(1)(0)(10)(0XXXXAXXAiniiinii其中18第三章第三章 多元正態(tài)總體參數(shù)的假設檢驗多元正態(tài)總體參數(shù)的假設檢驗所涉及的最大似然估計量所涉及的最大似然估計量單個總體單個總體:)tr(1,),0()3(1022002似然函數(shù)達最大值時取時未知巳知當AnpX2-exp)(tr2),(2-0212020npnpAXLnnpnp19第三章第三章 多元正態(tài)總體參數(shù)的假設檢驗多元正態(tài)總體參數(shù)的假設檢驗所涉及的最大似然估計量所涉及的最大似然估計量單個總體單個總體:,)0()4(00似然函數(shù)達最大值時取時巳知當XAnXLnnp102-0202-etr2),(20第三章第三章 多元正態(tài)總體參數(shù)的假設檢驗多元正態(tài)總體參數(shù)的假設檢驗所涉及的最大似然估計量所涉及的最大似然估計量兩個總體兩個總體 兩個兩個p維正態(tài)總體維正態(tài)總體Np(1),)和和Np(2),)，