統(tǒng)計(jì)學(xué) 7方差分析ppt課件

1、第七章第七章 方差分析方差分析一、方差分析的內(nèi)容一、方差分析的內(nèi)容二、方差分析的有關(guān)術(shù)語及假設(shè)二、方差分析的有關(guān)術(shù)語及假設(shè)三、方差分析的原理三、方差分析的原理四、單因素方差分析四、單因素方差分析五、雙因素方差分析五、雙因素方差分析六、關(guān)系強(qiáng)度的測量六、關(guān)系強(qiáng)度的測量 七、用七、用Excel進(jìn)行方差分析進(jìn)行方差分析重點(diǎn)：方差分析的方法重點(diǎn)：方差分析的方法難點(diǎn)：方差分析的基本思想難點(diǎn)：方差分析的基本思想 方差分析方差分析Analysis of Variance, ANOVA)是是假設(shè)檢驗(yàn)的一種延續(xù)與擴(kuò)展，它可以解決諸如多假設(shè)檢驗(yàn)的一種延續(xù)與擴(kuò)展，它可以解決諸如多個總體均值是否相等等方面的檢驗(yàn)問題，

2、在因素個總體均值是否相等等方面的檢驗(yàn)問題，在因素分析中具有一定的優(yōu)勢。方差分析主要用來對多分析中具有一定的優(yōu)勢。方差分析主要用來對多個總體均值是否相等作出假設(shè)檢驗(yàn)，研究分類型個總體均值是否相等作出假設(shè)檢驗(yàn)，研究分類型自變量對數(shù)值型因變量的影響自變量對數(shù)值型因變量的影響 。 例：某飲料制造商生產(chǎn)一種新型飲料，共有例：某飲料制造商生產(chǎn)一種新型飲料，共有四種顏色：四種顏色： (1)橘黃、橘黃、(2)粉紅、粉紅、(3)綠色、綠色、(4)無色。無色。 該制造商想知道顏色是否對銷售量有顯著影該制造商想知道顏色是否對銷售量有顯著影響，隨機(jī)抽取了響，隨機(jī)抽取了5家超市前一期的銷售量表家超市前一期的銷售量表1進(jìn)

3、行分析。進(jìn)行分析。 一、方差分析的內(nèi)容一、方差分析的內(nèi)容表表1 四種顏色飲料的銷售量及均值四種顏色飲料的銷售量及均值超市超市( j )水平水平A ( i )無色無色(A1)粉紅粉紅(A2)橘黃色橘黃色(A3)綠色綠色(A4)1234526.528.725.129.127.231.228.330.827.929.627.925.128.524.226.530.829.632.431.732.8合計(jì)合計(jì)136.6147.8132.2157.3573.9水平均值水平均值觀察值個數(shù)觀察值個數(shù)樣本方差樣本方差樣本標(biāo)準(zhǔn)差樣本標(biāo)準(zhǔn)差 x1 =27.32n1=52.671.64x2=29.56n2=52.14

4、1.46x3=26.44n3=53.311.82x4=31.46n4=51.661.29總均值總均值x =28.695一、方差分析的內(nèi)容一、方差分析的內(nèi)容 其中，其中， i(I=1,2,3,4) 表示所有飲料無色、表示所有飲料無色、粉紅、橘黃、綠色銷售量之均值。粉紅、橘黃、綠色銷售量之均值。 要知道顏色是否對飲料銷售有顯著影響，要知道顏色是否對飲料銷售有顯著影響，就是要知道四種顏色飲料銷售量的均值是否就是要知道四種顏色飲料銷售量的均值是否有顯著差異，即進(jìn)行下述假設(shè)檢驗(yàn)：有顯著差異，即進(jìn)行下述假設(shè)檢驗(yàn)： H0: 1=2=3=4 H1: 四個總體均值不全相等四個總體均值不全相等一、方差分析的內(nèi)容一

5、、方差分析的內(nèi)容 1、相關(guān)術(shù)語、相關(guān)術(shù)語 因素或因子：是一個獨(dú)立的變量，是方差分析的研究對象因素或因子：是一個獨(dú)立的變量，是方差分析的研究對象 （例中飲料的顏色）；（例中飲料的顏色）； 單因素方差分析：只針對一個因素進(jìn)行分析；單因素方差分析：只針對一個因素進(jìn)行分析； 多因素方差分析：同時針對多個因素進(jìn)行分析。多因素方差分析：同時針對多個因素進(jìn)行分析。 水平或處理：因子的不同表現(xiàn)水平或處理：因子的不同表現(xiàn) （例中飲料的四種不同顏色：無色、粉紅、橘黃色、綠色（例中飲料的四種不同顏色：無色、粉紅、橘黃色、綠色 ）；）； 二、方差分析的有關(guān)術(shù)語及假設(shè)二、方差分析的有關(guān)術(shù)語及假設(shè)試驗(yàn)試驗(yàn)收集樣本數(shù)據(jù)的過

6、程。這里若只考慮顏色一個因素，則收集樣本數(shù)據(jù)的過程。這里若只考慮顏色一個因素，則可稱為單因素四水平的試驗(yàn)可稱為單因素四水平的試驗(yàn)總體總體因素的每一個水平可以看作是一個總體因素的每一個水平可以看作是一個總體比如比如A1、A2、A3、 A4四種顏色可以看作是四個總體四種顏色可以看作是四個總體樣本數(shù)據(jù)樣本數(shù)據(jù)上面的數(shù)據(jù)可以看作是從這四個總體中抽取的樣本數(shù)據(jù)上面的數(shù)據(jù)可以看作是從這四個總體中抽取的樣本數(shù)據(jù) 二、方差分析的有關(guān)術(shù)語及假設(shè)二、方差分析的有關(guān)術(shù)語及假設(shè) （1 1每個總體都應(yīng)服從正態(tài)分布每個總體都應(yīng)服從正態(tài)分布 （2 2各個總體的方差各個總體的方差2 2必須相等必須相等 （3 3不同觀測值是獨(dú)

7、立的每個樣本點(diǎn)的取值不不同觀測值是獨(dú)立的每個樣本點(diǎn)的取值不影響其他樣本點(diǎn)的取值）影響其他樣本點(diǎn)的取值）樣本來自于一個相同的總體樣本來自于不同的總體 二、方差分析的有關(guān)術(shù)語及假設(shè)二、方差分析的有關(guān)術(shù)語及假設(shè) 分析可知，四種顏色飲料銷售量的差異主要來自分析可知，四種顏色飲料銷售量的差異主要來自以下兩個方面：以下兩個方面： 隨機(jī)誤差：在因素的同一水平隨機(jī)誤差：在因素的同一水平(同一個總體同一個總體)下，下，樣本的各觀察值之間的差異。比如，同一種顏色的飲樣本的各觀察值之間的差異。比如，同一種顏色的飲料在不同超市上的銷售量是不同的，不同超市銷售量料在不同超市上的銷售量是不同的，不同超市銷售量的差異可以看

8、成是隨機(jī)因素的影響，或者說是由于抽的差異可以看成是隨機(jī)因素的影響，或者說是由于抽樣的隨機(jī)性所造成的，稱為隨機(jī)誤差。樣的隨機(jī)性所造成的，稱為隨機(jī)誤差。 系統(tǒng)誤差：在因素的不同水平系統(tǒng)誤差：在因素的不同水平(不同總體不同總體)下，各下，各觀察值之間的差異。比如，同一家超市，不同顏色飲觀察值之間的差異。比如，同一家超市，不同顏色飲料的銷售量也是不同的，這種差異可能是由于抽樣的料的銷售量也是不同的，這種差異可能是由于抽樣的隨機(jī)性所造成的，也可能是由于顏色本身所造成的，隨機(jī)性所造成的，也可能是由于顏色本身所造成的，后者所形成的誤差是由系統(tǒng)性因素造成的，稱為系統(tǒng)后者所形成的誤差是由系統(tǒng)性因素造成的，稱為系

9、統(tǒng)誤差。誤差。三、方差分析的原理三、方差分析的原理數(shù)據(jù)的誤差用平方和數(shù)據(jù)的誤差用平方和(sum of squares)表示表示1.組內(nèi)平方和組內(nèi)平方和(within groups)因素的同一水平下數(shù)據(jù)誤差的平方和因素的同一水平下數(shù)據(jù)誤差的平方和比如，無色飲料比如，無色飲料A1在在5家超市銷售量的誤差平方家超市銷售量的誤差平方和和只包含隨機(jī)誤差只包含隨機(jī)誤差2.組間平方和組間平方和(between groups)因素的不同水平之間數(shù)據(jù)誤差的平方和因素的不同水平之間數(shù)據(jù)誤差的平方和比如，比如，A1、A2、A3、A4四種顏色飲料銷售量之四種顏色飲料銷售量之間間 的誤差平方和的誤差平方和既包括隨機(jī)誤差

10、，也包括系統(tǒng)誤差既包括隨機(jī)誤差，也包括系統(tǒng)誤差三、方差分析的原理三、方差分析的原理兩類方差兩類方差組內(nèi)方差組內(nèi)方差(MSE)因素的同一水平因素的同一水平(同一個總體同一個總體)下樣本數(shù)據(jù)的方差下樣本數(shù)據(jù)的方差比如，無色飲料比如，無色飲料A1在在5家超市銷售數(shù)量的方差家超市銷售數(shù)量的方差組內(nèi)方差只包含隨機(jī)誤差組內(nèi)方差只包含隨機(jī)誤差組間方差組間方差(MSA)因素的不同水平因素的不同水平(不同總體不同總體)下各樣本之間的方差下各樣本之間的方差比如，比如，A1、A2、A3、A4四種顏色飲料銷售量之四種顏色飲料銷售量之間的方差間的方差組間方差既包括隨機(jī)誤差，也包括系統(tǒng)誤差組間方差既包括隨機(jī)誤差，也包括系

11、統(tǒng)誤差三、方差分析的原理三、方差分析的原理方差比較方差比較若不同顏色對銷售量沒有影響，則組間方差中只包含隨若不同顏色對銷售量沒有影響，則組間方差中只包含隨機(jī)誤差，沒有系統(tǒng)誤差。這時，組間方差與組內(nèi)方差的機(jī)誤差，沒有系統(tǒng)誤差。這時，組間方差與組內(nèi)方差的數(shù)值就應(yīng)該很接近，它們的比值就會接近數(shù)值就應(yīng)該很接近，它們的比值就會接近1若不同顏色對銷售量有影響，在組間方差中除了包含隨若不同顏色對銷售量有影響，在組間方差中除了包含隨機(jī)誤差外，還會包含系統(tǒng)誤差，這時組間方差的數(shù)值就機(jī)誤差外，還會包含系統(tǒng)誤差，這時組間方差的數(shù)值就會大于組內(nèi)方差的數(shù)值，它們之間的比值就會大于會大于組內(nèi)方差的數(shù)值，它們之間的比值就會

12、大于1當(dāng)這個比值大到某種程度時，就可以說不同水平之間存當(dāng)這個比值大到某種程度時，就可以說不同水平之間存在著顯著差異，也就是自變量對因變量有影響在著顯著差異，也就是自變量對因變量有影響所剩問題歸結(jié)為：比值多大，才能拒絕原假設(shè)。所剩問題歸結(jié)為：比值多大，才能拒絕原假設(shè)。可通過計(jì)算可通過計(jì)算F統(tǒng)計(jì)量進(jìn)行統(tǒng)計(jì)量進(jìn)行F檢驗(yàn)來判斷。檢驗(yàn)來判斷。三、方差分析的原理三、方差分析的原理 觀察值之間的差異來自兩個方面：MSAFMSE組間方差組內(nèi)方差某因素不同水平的影響（系統(tǒng)性影響）其他隨機(jī)因素的影響（隨機(jī)性影響）水平間方差（組間方差）水平內(nèi)方差（組內(nèi)方差） 小結(jié)：小結(jié)： 如果原假設(shè)成立：說明某因素不同水平的影響不

13、顯著無系統(tǒng)如果原假設(shè)成立：說明某因素不同水平的影響不顯著無系統(tǒng)性影響），只剩下隨機(jī)性影響，因此組間方差與組內(nèi)方差差別不性影響），只剩下隨機(jī)性影響，因此組間方差與組內(nèi)方差差別不大，它們的比接近于大，它們的比接近于1。 如果原假設(shè)不成立：說明某因素不同水平的影響顯著存在系如果原假設(shè)不成立：說明某因素不同水平的影響顯著存在系統(tǒng)性影響），組間方差與組內(nèi)方差差別較大，它們的比遠(yuǎn)超出統(tǒng)性影響），組間方差與組內(nèi)方差差別較大，它們的比遠(yuǎn)超出1。三、方差分析的原理三、方差分析的原理（一單因素方差分析的數(shù)據(jù)結(jié)構(gòu)（一單因素方差分析的數(shù)據(jù)結(jié)構(gòu) (one-way analysis of variance) 觀察值觀察值

14、 ( j )因素因素A ( i ) 水平水平A1 水平水平A2 水平水平Ak12:ni x11 x21 xk1 x12 x22 xk2 : : : : 11nx22nxkknx四、單因素方差分析四、單因素方差分析四、單因素方差分析四、單因素方差分析1、提出假設(shè)、提出假設(shè)一般提法一般提法H0 ： m1 = m2 = mk 自變量對因變量沒有顯著影響自變量對因變量沒有顯著影響 H1 ： m1 ，m2 ， ，mk不全相等不全相等自變量對因變量有顯著影響自變量對因變量有顯著影響 注意：拒絕原假設(shè)，只表明至少有兩個總注意：拒絕原假設(shè)，只表明至少有兩個總體的均值不相等，并不意味著所有的均值體的均值不相等，

15、并不意味著所有的均值都不相等都不相等 構(gòu)造檢驗(yàn)統(tǒng)計(jì)量需要計(jì)算構(gòu)造檢驗(yàn)統(tǒng)計(jì)量需要計(jì)算 （1水平的均值水平的均值 （2全部觀察值的總均值全部觀察值的總均值 （3誤差平方和誤差平方和 （4均方均方(MS) （5檢驗(yàn)統(tǒng)計(jì)量檢驗(yàn)統(tǒng)計(jì)量F2、構(gòu)造檢驗(yàn)的統(tǒng)計(jì)量、構(gòu)造檢驗(yàn)的統(tǒng)計(jì)量假定從第假定從第i個總體中抽取一個容量為個總體中抽取一個容量為ni的簡單的簡單隨機(jī)樣本，第隨機(jī)樣本，第i個總體的樣本均值為該樣本的個總體的樣本均值為該樣本的全部觀察值總和除以觀察值的個數(shù)全部觀察值總和除以觀察值的個數(shù)計(jì)算公式為計(jì)算公式為 ), 2 , 1(1kinxxinjijii（1計(jì)算水平的均值計(jì)算水平的均值全部觀察值的總和除以觀

16、察值的總個數(shù)全部觀察值的總和除以觀察值的總個數(shù)計(jì)算公式為計(jì)算公式為 kkiiikinjijnnnnnxnnxxi21111式中：（2計(jì)算全部觀察值的總均值計(jì)算全部觀察值的總均值總誤差平方和總誤差平方和sum of squares for total, SST）全部觀察值全部觀察值 與總平均值與總平均值 的離差平方和的離差平方和反映全部觀察值的離散狀況反映全部觀察值的離散狀況其計(jì)算公式為其計(jì)算公式為ijxxkinjijixxSST112（3計(jì)算誤差平方和計(jì)算誤差平方和各組平均值各組平均值 與總平均值與總平均值 的離差的離差平方和平方和Sum of Squares for Factor A, SS

17、A)反映各總體的樣本均值之間的差異程度，又稱組反映各總體的樣本均值之間的差異程度，又稱組間平方和間平方和該平方和既包括隨機(jī)誤差，也包括系統(tǒng)誤差該平方和既包括隨機(jī)誤差，也包括系統(tǒng)誤差計(jì)算公式為計(jì)算公式為 kiiikinjixxnxxSSAi12112), 2 , 1(kixix水平項(xiàng)平方和水平項(xiàng)平方和SSA（3計(jì)算誤差平方和計(jì)算誤差平方和每個水平或組的各樣本數(shù)據(jù)與其組平均值的離差每個水平或組的各樣本數(shù)據(jù)與其組平均值的離差平方和平方和(Sum of Squares for Error，SSE）反映每個樣本各觀察值的離散狀況，又稱組內(nèi)平反映每個樣本各觀察值的離散狀況，又稱組內(nèi)平方和方和該平方和反映的

18、是隨機(jī)誤差的大小該平方和反映的是隨機(jī)誤差的大小計(jì)算公式為計(jì)算公式為 kinjiijixxSSE112誤差項(xiàng)平方和誤差項(xiàng)平方和SSE（3計(jì)算誤差平方和計(jì)算誤差平方和可以證明可以證明:總離差平方和總離差平方和(SST)、誤差項(xiàng)、誤差項(xiàng)離差平方和離差平方和(SSE)、水平項(xiàng)離差平方和、水平項(xiàng)離差平方和 (SSA) 之間有如下關(guān)系之間有如下關(guān)系kinjiijkiiikinjijiixxxxnxx11212112n 在本例中，可以驗(yàn)證：在本例中，可以驗(yàn)證：115.930=76.846+39.084三個平方和的關(guān)系三個平方和的關(guān)系（3計(jì)算誤差平方和計(jì)算誤差平方和 SST反映全部數(shù)據(jù)總的誤差程度；反映全部數(shù)

19、據(jù)總的誤差程度；SSE反映隨機(jī)誤反映隨機(jī)誤差的大小；差的大??；SSA反映隨機(jī)誤差和系統(tǒng)誤差的大小反映隨機(jī)誤差和系統(tǒng)誤差的大小如果原假設(shè)成立，則表明沒有系統(tǒng)誤差，如果原假設(shè)成立，則表明沒有系統(tǒng)誤差，SSA除以除以其自由度后的均方組間均方與其自由度后的均方組間均方與SSE除以其自由除以其自由度后的均方組內(nèi)均方差異就不會太大；如果組度后的均方組內(nèi)均方差異就不會太大；如果組間均方顯著地大于組內(nèi)均方，說明各水平間均方顯著地大于組內(nèi)均方，說明各水平(總體總體)之之間的差異不僅有隨機(jī)誤差，還有系統(tǒng)誤差間的差異不僅有隨機(jī)誤差，還有系統(tǒng)誤差判斷因素的水平是否對其觀察值有影響，實(shí)際上就判斷因素的水平是否對其觀察值

20、有影響，實(shí)際上就是比較組間方差與組內(nèi)方差之間差異的大小是比較組間方差與組內(nèi)方差之間差異的大小三個平方和的作用三個平方和的作用（3計(jì)算誤差平方和計(jì)算誤差平方和各誤差平方和的大小與觀察值的多少有關(guān)，為各誤差平方和的大小與觀察值的多少有關(guān)，為消除觀察值多少對誤差平方和大小的影響，需消除觀察值多少對誤差平方和大小的影響，需要將其平均，這就是均方，也稱為方差要將其平均，這就是均方，也稱為方差計(jì)算方法是用誤差平方和除以相應(yīng)的自由度計(jì)算方法是用誤差平方和除以相應(yīng)的自由度三個平方和對應(yīng)的自由度分別是三個平方和對應(yīng)的自由度分別是SST的自由度為的自由度為n-1，其中，其中n為全部觀察值的個為全部觀察值的個數(shù)數(shù)S

21、SA的自由度為的自由度為k-1，其中，其中k為因素水平為因素水平(總體總體)的個數(shù)的個數(shù)SSE 的自由度為的自由度為n-k注：注：n-1=（k-1）+（n-k）（4計(jì)算均方計(jì)算均方MS 組間方差：組間方差：SSA的均方，記為的均方，記為MSA，計(jì)算公，計(jì)算公式為式為1kSSAMSAknSSEMSE76.84625.61254 1MSA前例計(jì)算結(jié)果：39.0842.4428204MSE 前例計(jì)算結(jié)果：（4計(jì)算均方計(jì)算均方MS將將MSA和和MSE進(jìn)行對比，即得到所需要的檢進(jìn)行對比，即得到所需要的檢驗(yàn)統(tǒng)計(jì)量驗(yàn)統(tǒng)計(jì)量F當(dāng)當(dāng)H0為真時，二者的比值服從分子自由度為為真時，二者的比值服從分子自由度為k-1、

22、分母自由度為、分母自由度為 n-k 的的 F 分布，即分布，即 ), 1(knkFMSEMSAF25.615210.4862.4428F 前例計(jì)算結(jié)果：（5計(jì)算檢驗(yàn)統(tǒng)計(jì)量計(jì)算檢驗(yàn)統(tǒng)計(jì)量 F F分布與拒絕域分布與拒絕域（5計(jì)算檢驗(yàn)統(tǒng)計(jì)量計(jì)算檢驗(yàn)統(tǒng)計(jì)量 F 將統(tǒng)計(jì)量的值將統(tǒng)計(jì)量的值F與給定的顯著性水平與給定的顯著性水平的的臨界值臨界值F進(jìn)行比較，作出對原假設(shè)進(jìn)行比較，作出對原假設(shè)H0的決的決策策根據(jù)給定的顯著性水平根據(jù)給定的顯著性水平，在，在F分布表中查分布表中查找與第一自由度找與第一自由度df1k-1、第二自由度、第二自由度df2=n-k 相應(yīng)的臨界值相應(yīng)的臨界值 F 若若FF ，則拒絕原假設(shè)，

23、則拒絕原假設(shè)H0 ，表明均值之，表明均值之間的差異是顯著的，所檢驗(yàn)的因素對觀察值間的差異是顯著的，所檢驗(yàn)的因素對觀察值有顯著影響有顯著影響若若F3.24,因此拒絕原假設(shè)，從而得出：顏色對該公司飲料銷售有顯著影響。3、統(tǒng)計(jì)決策、統(tǒng)計(jì)決策 （三單因素方差分析表（三單因素方差分析表(基本結(jié)構(gòu)基本結(jié)構(gòu))四、單因素方差分析四、單因素方差分析（三單因素方差分析表（三單因素方差分析表(例題分析例題分析)四、單因素方差分析四、單因素方差分析 如果同時需考慮兩個因素A與B的影響，則可進(jìn)行雙因素方差分析。 雙因素方差分析中需假設(shè)兩個因素有無交互作用，即各自是否獨(dú)立地發(fā)揮影響作用。 1.數(shù)據(jù)結(jié)構(gòu)五、雙因素方差分析五

24、、雙因素方差分析2.2.離差平方和的分解離差平方和的分解SSTSSCSSRSSE其中:rjkiijxxSST112)(22111( .)( .)rkrjjjijSSCxxk xx22111( .)( .)rkkiijiiSSRxxr xxSSESSTSSCSSR可以證明:于是五、雙因素方差分析五、雙因素方差分析表3 雙因素方差分析表誤差來源 平方和 自由度 均方差 F值 A因素 SSC r-1 MSC=SSC/(r-1） FC=MSC/MSE B因素 SSR k-1 MSR=SSR/(k-1) FR=MSR/MSE 隨機(jī)誤差 SSE (r-1)(k-1) MSE=SSE/(r-1)(k-1)

25、合計(jì) SST n-1 SST/(n-1)差異源SSdfMSFP-valueF crit行5.36741.34175 0.477534 0.7518043.25916列76.84553 25.61517 9.116529 0.0020273.4903誤差33.717122.80975總計(jì)115.929519 在飲料銷售例中，如果我們還關(guān)心不同超市是否對銷售有影響，這時可將5個不同的超市作為因素B考慮，它有5個水平。雙因素分析結(jié)果如下：五、雙因素方差分析五、雙因素方差分析拒絕原假設(shè)表明因素拒絕原假設(shè)表明因素(自變量自變量)與觀測值之間有與觀測值之間有關(guān)系關(guān)系組間平方和組間平方和(SSA)度量了自變量度量了自變量(顏色顏色)對因變量對因變量(銷售量銷售量)的影響效應(yīng)的影響效應(yīng)只要組間平方和只要組間平方和SSA不等于不等于0，就表明兩個變量，就表明兩個變量之間有關(guān)系之間有關(guān)系(只是是否顯著的問題只是是否顯著的問題) 當(dāng)組間平方和比組內(nèi)平方和當(dāng)組間平方和比組內(nèi)平方和(SSE)大，而且大大，而且大到一定程度時，就意味著兩個變量之間的關(guān)系到一定程度時，就意味著兩個變量之間的關(guān)系顯著，大得越多，表明它們之間的關(guān)系就越強(qiáng)。顯著，大得越多，表明它