方差分析專題

方差分析專題方差分析專題方差分析專題方差分析專題單要素試驗(yàn)的方差分析（一）單要素試驗(yàn)在科學(xué)試驗(yàn)和生產(chǎn)實(shí)踐中，影響一事物的要素常常是很多的。比方，在化工生產(chǎn)中，有原料成分、原料劑量、催化劑、反響溫度、壓力、溶液濃度、反響時間、機(jī)器設(shè)備及操作人員的水相同要素。每一要素的改變都有可能影響產(chǎn)品的數(shù)目和質(zhì)量。有些要素影響較大，有些較小。為了使生產(chǎn)過程得以穩(wěn)固，保證優(yōu)良、高產(chǎn)，就有必需找出對產(chǎn)質(zhì)量量有明顯影響的那些要素。為此，我們需進(jìn)行試驗(yàn)。方差分析就是依據(jù)試驗(yàn)的結(jié)果進(jìn)行分析，鑒別各個有關(guān)要素對試驗(yàn)結(jié)果影響的有效方法。在試驗(yàn)中，我們將要觀察的指標(biāo)稱為試驗(yàn)指標(biāo)。影響試驗(yàn)指標(biāo)的條件稱為要素。要素可分為兩類，一類是人們可以控制的（可控要素）；一類是人們不可以控制的。比方，反響溫度、原料劑量、溶液濃度等是可以控制的，而丈量偏差、氣象條件等一般是難以控制的。以下我們所說的要素都是指可控要素。要素所處的狀態(tài)，稱為該要素的水平（見下述各例）。假如在一項試驗(yàn)中只有一個要素在改變稱為單要素試驗(yàn)，假如多于一個要素在改變稱為多因素試驗(yàn)。例1設(shè)有三臺機(jī)器，用來生產(chǎn)規(guī)格相同的鋁合金薄板。取樣，丈量薄板的厚度精確至千分之一厘米。得結(jié)果如表9.1所示。表9.1鋁合金板的厚度機(jī)器Ⅰ機(jī)器Ⅱ機(jī)器Ⅲ0.2360.2570.2580.2380.2530.2640.2480.2550.2590.2450.2540.2670.2430.2610.262這里，試驗(yàn)的指標(biāo)是薄板的厚度。機(jī)器為要素，不一樣的三臺機(jī)器就是這個要素的三個不一樣的水平。我們假設(shè)除機(jī)器這一要素外，資料的規(guī)格、操作人員的水相同其余條件都相同。這是單要素試驗(yàn)。試驗(yàn)的目的是為了觀察各臺機(jī)器所生產(chǎn)的薄板的厚度有無明顯的差異。即觀察機(jī)器這一要素對厚度有無明顯的影響。例2下邊列出了隨機(jī)采納的、用于計算器的四各樣類的電路的響應(yīng)時間（以毫秒計）。表9.2電路的響應(yīng)時間種類Ⅰ種類Ⅱ種類Ⅲ種類Ⅳ192016182221152220331819182726154017這里，試驗(yàn)的指標(biāo)是電路的響應(yīng)時間。電路種類為要素，這一要素有要素試驗(yàn)。試驗(yàn)的目的是為了觀察各樣種類電路的響應(yīng)時間有無明顯差異。這一要素對響應(yīng)時間有無明顯的影響。

4個水平。這是一個單即觀察電路種類例3一火箭使用了四種燃料，三種推動器作射程試驗(yàn)。每種燃料與每種推動器的組合各發(fā)射火箭兩次，得結(jié)果以下（射程以海里計）。表9.3火箭的射程推動器（B）B1B2B3A158.256.265.352.641.260.8A249.154.151.642.850.548.4燃料（A）60.170.939.2A358.373.240.7A475.858.248.771.55141.4這里，試驗(yàn)的指標(biāo)是射程，推動器和燃料是要素，它們分別有3個、4個水平。這是一個雙要素的試驗(yàn)。試驗(yàn)的目的在于觀察在各樣要素的各個水平下射程有無明顯的差異，即觀察推進(jìn)器和燃料這兩個要素對射程能否有明顯的差異。本節(jié)限于談?wù)搯我卦囼?yàn)，我們就例1來談?wù)?。在?中，我們在要素的每一水平下進(jìn)行了獨(dú)立實(shí)驗(yàn)，其結(jié)果是一個隨機(jī)變量。表中數(shù)據(jù)可看作來自三個不一樣整體（每個水平對應(yīng)一個整體）的樣本值。將各個整體的均值挨次記為1，2，3。按題意需要檢驗(yàn)假設(shè)H0:123H1:1,2,3不全相等此刻從而假設(shè)各整體均為正態(tài)變量，且各整體的方差相等，那么這是一個檢驗(yàn)同方差的多個正態(tài)整體均值能否相等的問題。下邊所要談?wù)摰姆讲罘治龇ǎ褪墙鉀Q這種問題的一種統(tǒng)計方法。此刻開始談?wù)搯我卦囼?yàn)的方差分析。設(shè)要素有s個水平A1,A2,,As，在水平Aj（j1,2,,s）下，進(jìn)行nj（nj2）次獨(dú)立實(shí)驗(yàn)，獲取以下表的結(jié)果。表9.4水平A1A2As觀察值x11x12x1sx21x22x2sxn11xn22xnss樣本均值x1x2xs整體均值12s我們假設(shè)：各個水平Ajj1,2,,s）下的樣本x1j,x2j,,xnjj來自擁有相同方差2（，均值分別為j（j1,2,,s）的正態(tài)整體N(j,2)，j與2未知。且設(shè)不一樣水平Aj下的樣本之間互相獨(dú)立。因?yàn)閤ij~N(j,2)，即有xijj~N(0,2)，故xijj可看作是隨機(jī)偏差。記xijjij，則xij可寫成xijjij,i1,2,,nj;j1,2,,s,ij~N(0,2),各ij獨(dú)立,（1.1）此中j與2均為未知參數(shù)。（1.1）式稱為單要素試驗(yàn)方差分析的數(shù)學(xué)模型。這是本節(jié)的研究對象。方差分析的任務(wù)是對于模型（1.1），10檢驗(yàn)s個整體N(1,2),N(2,2),,N(s,2)的均值能否相等，即檢驗(yàn)假設(shè)H0:12sH1:1,2,,s不全相等。（1.2）20作出未知參數(shù)1,2,,s,2的預(yù)計。為了將問題（1.2）寫成便于談?wù)摰男问?，我們?,2,,1ss的加權(quán)均勻值njjnj1記為，即1snjj（1.3）nj1s此中nnj。稱為總均勻。再引入j1jj,j1,2,,s（1.4）此時有n11n22nss0，j表示水平Aj下的整體均勻值與總均勻的差異，習(xí)慣大將j稱為水平Aj的效應(yīng)。利用這些記號，模型（1.1）可改寫成xijjij,sj1njj0,i1,2,,nj;j1,2,,s,(1.1)ij~N(0,2),各ij獨(dú)立,而假設(shè)（1.2）等價于假設(shè)H0:12s0H1:1,2,,s不全為零。(1.2)這是因?yàn)楫?dāng)且僅當(dāng)12s時j，即j0，（j1,2,,s）。（二）平方和的分解下邊我們從平方和的分解著手，導(dǎo)出假設(shè)檢驗(yàn)(1.2)的檢驗(yàn)統(tǒng)計量。引入總平方和snjx)2STj1i1(xij（1.5）此中x1snjxij（1.6）ni1j1是數(shù)據(jù)的總均勻。ST能反響所有試驗(yàn)數(shù)據(jù)之間的差異，所以ST又稱為總變差。又記水平Aj下的樣本均勻值為xj，即1njxjxij（1.7）nji1我們將ST寫成snjx)2snj2ST(xij(xijxj)(xjx)j1i1j1i1snjxj)2snjx)2snj(xij(xj2(xijxj)(xjx)j1i1j1i1j1i1注意到上式第三項（即交織項）snjsnj2(xijxj)(xjx)2(xjx)(xijxj)0j1i1j1i1于是我們就將ST分解成為STSESA，（1.8）snjxj)2此中SE(xij,（1.9）j1i1snjss22SA(xjx)2nj(xjx)2nxnjxj（1.10）j1i1j1j1上述SE的各項(xijxj)2表示在水平Aj下，樣本觀察值與樣本均值的差異，這是由隨機(jī)偏差所引起的。SE叫做偏差平方和。SA的各項(xjx)2表示Aj水平下的樣本均勻值與數(shù)據(jù)總均勻的差異，這是由水平Aj引起的。SA叫做要素A的效應(yīng)平方和。（1.8）式就是我們所需要的平方和分解式。（三）SE，SA的統(tǒng)計特征為了引出(1.2)的檢驗(yàn)統(tǒng)計量，我們挨次來談?wù)揝E，SA的一些統(tǒng)計特征。（1）SE的統(tǒng)計特征將SE寫成n1n2nsSE(xi1x1)2(xi2x2)2(xisxs)2（1.11）i1i1i1j注意到(xijxj)2是整體N(j,2)的樣本方差的nj1倍，于是有i1njxj)2(xij2i1~(nj1)2因各xij獨(dú)立，故（1.11）式中各平方和獨(dú)立。由2分布的可加性知SE2s~2(nj1)，即j1SE2~2(ns)，（1.12）由（1.12）式還可知，SE的自由度為ns。且有E(SE)(ns)2（1.13）（2）SA的統(tǒng)計特征snjx)2sx)2是s個變量nj(xjx)我們看到SA(xjnj(xjj1i1j1（j1,2,,s）的平方和，它們之間僅有一個線性拘束條件ssnjnj(xjx)nj(xjx)0j1j1故知SA的自由度為s1。再由（1.3），（1.6）及xij的獨(dú)立性，知2x~N(,)n即得s22E(SA)Enjxjnxj1s22njE(xj)nE(x)j1s2njnD(x)D(xj)E(xj)j1s2222njnnjjj1ns2j)22njnj(nj1n22sss2njj2nnjjj1j1s0，故有由(1.1)式，知njjj12s2E(SA)(s1)njjj1

2E(x)22n2

1.14）1.15）進(jìn)一步還可以證明SA與SE獨(dú)立，且當(dāng)H0為真時SA2~2(s1)證略。思慮：當(dāng)H0為真時，整個樣原來自什么整體？（四）假設(shè)檢驗(yàn)問題的拒絕域此刻我們可以來確立假設(shè)檢驗(yàn)問題(1.2)的拒絕域了。由（1.15）式知，當(dāng)H0為真時

1.16）E(SA)2（1.17）s1SA2s2是的無偏預(yù)計。而當(dāng)H1為真時，0，此時即1njjsj1s2E(SAnjj)2j112（1.18）s1s又由（1.13）式知E(SE)2（1.19）ns即無論H0能否為真，SE都是2的無偏預(yù)計。ns綜上所述，分式SAs1SEns的分子與分母獨(dú)立，SE的分布與H0沒關(guān)，分母的數(shù)學(xué)希望總是2。當(dāng)H0為真時，分子的數(shù)學(xué)希望為2，而當(dāng)H1為真時，由（1.18）式分子的取值有偏大的趨向。故知檢驗(yàn)問題(1.2)的拒絕域擁有形式SAFs1kSEns此中k由早先給定的明顯性水平確立。由（1.12），（1.16）式及SE與SA的獨(dú)立性知，當(dāng)H0為真時，SASA(s1)s12~F(s1,ns)SESE(ns)ns2由此得檢驗(yàn)問題(1.2)的拒絕域?yàn)镾AFs1F(s1,ns)（1.20）SEns上述分析的結(jié)果可排成表9.5的形式，稱為方差分析表。表9.5單要素試驗(yàn)方差分析表方差本源平方和自由度均方F比要素ASAs1SASASA1FsSE偏差SEnsSESEsn總和STn1表中SASA，SESE分別稱為SA，SE的均方。s1ns思慮：當(dāng)H0為真時，均方的數(shù)學(xué)希望分別是什么？所以均方又可以稱什么？其余，因?yàn)樵赟T中n個變量xijx之間僅滿足一個拘束條件（1.6），故ST的自由度為1。例4如上所述，在例1中需要檢驗(yàn)假設(shè)H0:123H1:1,2,3不全相等試取0.05，完成這一假設(shè)檢驗(yàn)。解：表9.6例4的方差分析表方差本源平方和自由度均方F比要素A0.0010533320.0005266732.92偏差0.00019200120.00001600總和0.0012453314因F0.05(2,12)3.8932.92，故在水平0.05下拒絕H0，以為各臺機(jī)器生產(chǎn)的薄板厚度有明顯的差異。例5設(shè)在例2中的四各樣類電路的響應(yīng)時間的整體均為正態(tài)，且各整體的方差相同。又設(shè)各樣真互相獨(dú)立。試取0.05，檢驗(yàn)各樣類電路的響應(yīng)時間能否有明顯差異。解：我們需檢驗(yàn)假設(shè)H0:1234H1:1,2,3,4不全相等表9.7例5的方差分析表方差本源平方和自由度均方F比要素A318.977777783106.325925933.76偏差395.466666671428.24761905總和714.4444444417因F0.05(3,14)3.343.76，故在水平0.05下拒絕H0，以為各樣類電路的響應(yīng)時間有顯著差異。（五）未知參數(shù)的預(yù)計上邊已講到過，無論H0能否為真，SE都是2的無偏預(yù)計，所以ns?2SEsn又由（1.14），（1.7）式知，1njE(x)，E(xj)E(xij)j，j1,2,,s，故nji1?x，?jxj分別是，j的無偏預(yù)計。又若拒絕H0，這意味著1,2,,s不全為零。因?yàn)閖j,j1,2,,s，知?xjx是j的無偏預(yù)計。j當(dāng)拒絕H0時，常需要作出兩整體N(j,2)和N(k,2)，jk的均值差jkjk的區(qū)間預(yù)計。其做法以下。因?yàn)镋(xjxk)jk，D(xjxk)211njnk由第六章附錄知xjxk與?2SE獨(dú)立。于是ns(xjxk)(jk)211njnk(xjxk)(jk)~t(ns)SE11SE2nknjns據(jù)此，可得均值差jkjk的置信度為1的置信區(qū)間為xjxkt(n11）s)SE（1.212njnk思慮：以前我們學(xué)過兩個正態(tài)整體方差相等但未知的狀況下，均值差的置信區(qū)間：xjxkt(njnk2)SW211，2njnk此中，SW2(nj1)S2j(nk1)Sk21.21）式有何異同？njnk，請問這與（2（提示：SW2的自由度是多少？）雙要素試驗(yàn)方差分析本節(jié)介紹雙要素試驗(yàn)方差分析。（一）雙要素等重復(fù)試驗(yàn)的方差分析設(shè)有兩個要素A、B作用于試驗(yàn)的指標(biāo)，要素A有r個水平A1,A2,,Ar，要素B有s個水平B1,B2,,Bs?，F(xiàn)對要素A，B的水平的每對組合(A,B)，i1,2,,r，j1,2,,s都作（t2）次試驗(yàn)（稱為等重復(fù)試驗(yàn)），ijt獲取以下結(jié)果。表9.8要素B要素AB1B2BsA1x111,x112,x121,x122,x1s1,x1s2,,x11t,x12t,x1stA2x211,x212,x221,x222,x2s1,x2s2,,x21t,x22t,x2stArxr11,xr12,xr21,xr22,xrs1,xrs2,,xr1t,xr2t,xrst并設(shè)：xijk~N(ij,2),i1,2,,r,j1,2,,s,k1,2,,t,各xijk獨(dú)立。這里，ij，2均為未知參數(shù)?；?qū)懗蓌ijkijijk,ijk~N(0,2),各xijk獨(dú)立,i1,2,,r,j1,2,,s,k1,2,,t（2.1）引入記號：1rs

rsiji1j1i1sij，i1,2,,r1sj1jrii，i1,2,,rjrs易見，i0，j0i1j1

rij，j1,2,,si1j，j1,2,,s稱為總均勻，稱i為水平Ai的效應(yīng)，稱j為水平Bj的效應(yīng)。這樣可將ij表示成ijij(ijij)，i1,2,,r，j1,2,,s（2.2）記ijijij，i1,2,,r，j1,2,,s（2.3）此時ijijij（2.4）ij稱為水平Ai和水平Bj的交互效應(yīng)，這是由Ai，Bj搭配起來結(jié)合起作用而引起的。易見rij1sijj1

0，j1,2,,s0，i1,2,,r這樣，（2.1）可寫成xijkijijijk,ijk~N(0,2),i1,2,,r,j1,2,,s,k1,2,,t,各ijk獨(dú)立，（2.5）rsrsi0,j0,ij0,ij0i1j1i1j1此中，i，j，ij及2都是未知參數(shù)。2.5）式就是我們所要研究的雙要素試驗(yàn)方差分析的數(shù)學(xué)模型。對于這一模型我們要檢驗(yàn)以下三個假設(shè)：H01:12r，0H11:1,2,,r不全為零，（2.6）H02:12s，0H12:1,2,,s不全為零，）（2.7H03:1112rs，0H13:11,12,,rs不全為零（2.8）與單要素狀況近似，對這些問題的檢驗(yàn)方法也是建立在平方和的分解上的。先引入以下記號：1rstxxijkrsti1j1k11txijk，i1,2,,r,j1,2,,sxijtk1x1stxijk，i1,2,,ristj1k1x1rtxijk，j1,2,,sjrti1k1再引入總平方和rstx)2ST(xijki1j1k1我們可將ST寫成：rstx)2ST(xijki1j1k1rst2(xijkxij)(xix)(xjx)(xijxixjx)i1j1k1rst)2rstx)2rstx)2(xijkxij(xi(xji1j1k1i1j1k1i1j1k1rstx)2(xijxixji1j1k1即得平方和的分解式：STSESASBSAB（2.9）此中rstxij)2SE(xijk（2.10）i1j1k1rstx)2rx)2SA(xist(xi（2.11）i1j1k1i1rstx)2sx)2SB(xjrt(xj（2.12）i1j1k1j1rstrsSAB(xijxixjx)2t(xijxixjx)2i1j1k1i1j1SE稱為偏差平方和，SA，SB分別稱為要素A、要素B的效應(yīng)平方和，SAB稱為A，B交互效應(yīng)平方和。可以證明ST，SE，SA，SB，SAB的自由度挨次為rst1，rs(t1)，r1，s1，(r1)(s1)，且有ESE2rs(t1)r2stSA2ii1E1r1rs2rtSBj2j1E1s1srst2SAijEB2i1j11)(s1)(r1)(s1)(r當(dāng)H01:12r0為真時，可以證明SAFAr1~F(r1,rs(t1))SErs(t1)

2.14）2.15）2.16）2.17）2.18）取明顯性水平為，得假設(shè)H01的拒絕域?yàn)镾AFAr1F(r1,rs(t1))（2.19）SErs(t1)近似地，在明顯性水平下，假設(shè)H02的拒絕域?yàn)镾BFBs1F(s1,rs(t1))（2.20）SErs(t1)在明顯性水平下，假設(shè)H03的拒絕域?yàn)镾ABFAB(r1)(s1)F((r1)(s1),rs(t1))SErs(t1)上述結(jié)果可匯總成以下的方差分析表：方差本源平方和要素ASA要素BSB交互作用SAB偏差SE

表9.9雙要素試驗(yàn)的方差分析表自由度均方F比r1SASASA1FArSEs1SBSBSB1FBsSE(r1)(s1)SABSABSABFAB(r1)(s1)SErs(t1)SESE1)rs(t總和STrst1（二）雙要素?zé)o重復(fù)試驗(yàn)的方差分析在以上的談?wù)撝校覀兛紤]了雙要素試驗(yàn)中兩個要素的交互作用。為要檢驗(yàn)交互作用的效應(yīng)能否明顯，對于兩個要素的每一組合(i,Bj)最少要做2次試驗(yàn)。這是因?yàn)樵谀Ｐ停?.5）A中，若k1