方差分析與協(xié)方差分析幻燈片

1、 方差分析概念 第一類因素：可以控制的控制因素 第二類因素：不能控制的隨機因素 受前兩類因素影響的事物為觀察變量 方差分析目的：分析控制變量的不同水平是否對觀察變量 產(chǎn)生了顯著影響，檢驗各個水平下觀察變量的均值是否相 等 方差分析分類之一 單變量方差分析：一個觀察變量 單因方差分析中的控制變量只有一個 多因素方差分析中的控制變量有多個 多變量方差分析：多個觀察變量 方差分析分類之二 一般方差分析：因變量是定量變量，自變量是定類數(shù)據(jù) 協(xié)方差分析：將很難控制的因素作為協(xié)變量，在排除協(xié)變 量影響的條件下，分析控制變量對觀察變量的影響，從而 更加準確地對控制變量進行評價。協(xié)變量一定要是連續(xù)數(shù) 值型。

2、非定量方差分析：因變量為定序變量 統(tǒng)計技術(shù)分類圖 定量因變量 一個自變量多個自變量 二分變量多分變量 T檢驗單因子方差分析 定類定類和定距定距 N因子方差分析協(xié)方差分析回歸分析 一個因變量多個因變量 多變量方差分析 因變量 非定量因變量 非定量方差分析 方差分析原理 目的：通過方差的比較來檢驗各個水平下的觀察值的均值 是否相等 觀察值差異：觀察值存在差異，差異的產(chǎn)生來自兩個方面。 系統(tǒng)性差異：由控制變量的不同水平造成的，例如飲料的 不同顏色帶來不同的銷售量 隨機性差異：由于抽選樣本的隨機性而產(chǎn)生的差異，例如， 相同顏色的飲料在不同的商場銷售量也不相同。 9 方差分析的基本思想(單因素) 組間變

3、異 總變異 組內(nèi)變異 組內(nèi)只包含隨機誤差 組間既包括隨機誤差，也包括系統(tǒng)誤差 X 1 X 2 X 3 X 4 X 5 X 組間變異組內(nèi)變異 A B X 1 X 2 X 3 X 4 X 5 X 組間變異組內(nèi)變異 A B 單因素方差分析邏輯與步驟 (One-Way ANOVA) 前提假設(shè) 模型與假設(shè) 平方和的分解與F 檢驗 多重比較(事后檢驗) 關(guān)聯(lián)強度與效應(yīng)值 方差分析的前提條件 (1)每個水平下的因變量應(yīng)當服從正態(tài)分布。方差分析對分布 假設(shè)有穩(wěn)健性(robust)，即正態(tài)性不滿足時，統(tǒng)計結(jié)果變化 不大，因此一般并不要求檢驗總體的正態(tài)性。 (2)變異可加性。各因素對離差平方和的影響可以分割成幾個

4、 可以加在一起的部分。（多因素） (3)獨立性。觀察對象是來自所研究因素的各個水平之下的獨 立隨機抽樣 (4)方差齊性(homogeneity of variance)，也稱變異的同 質(zhì)性，各個水平下的總體具有相同的方差。這是方差分析 一個很重要的前提，因此在進行方差分析之前，應(yīng)當進行 方差齊性檢驗。 Bartlett檢驗法 Levene F 檢驗 最大方差與最小方差之比3，初步認為方差齊同。 方差不齊 若方差齊性的假定不滿足，可考慮如下策略： a.檢查某些表現(xiàn)“特殊”的觀測值，看能否將其剔除， 用剩下的數(shù)據(jù)進行方差分析。 b.使用無方差齊性假設(shè)的多重比較方法。 c.數(shù)據(jù)變換，用變換(平方根變

5、換、對數(shù)變換等)后的數(shù) 據(jù)進行方差分析。正態(tài)性轉(zhuǎn)換。 d. 非參數(shù)檢驗 模型與假設(shè) 模型表達式（單因素） Y=+a+e 建立假設(shè)，確定檢驗水準 012 : k H 0.05;0.01 k組總體均數(shù)不全相等。 1 :H 方差分析表 組間變異體現(xiàn)了因素A的效應(yīng)，組內(nèi)變異則被視作誤 差。 A SS1k A MS E A MS MS E SS (1)k n E MS T SS1nk 來源平方和 自由度均方F 值P 值 組間 組內(nèi) 總和 確定P 值，做出統(tǒng)計推斷 事后比較 (posteriori/post hoc comparison) F 檢驗顯著說明各組均值并不相同(至少兩組不同)，但不 能回答到底

6、哪幾組不同。 通過對各組均值之間的配對比較來進一步檢驗到底哪些均 值之間存在差異。 方法眾多，不下20種。 LSD法：最靈敏，會犯假陽性錯誤； Sidak法：比LSD法保守； Bonferroni法：比Sidak法更為保守一些；常用 Scheffe法：多用于進行比較的兩組間樣本含量不等時； Dunnet法：常用于多個試驗組與一個對照組的比較； S-N-K法：尋找同質(zhì)亞組的方法； Turkey法：最遲鈍，要求各組樣本含量相同； Duncan法：與Sidak法類似。 均數(shù)兩兩比較方法 關(guān)聯(lián)強度 (strength of association)與效應(yīng) 值 (effect size)的度量 實驗處理

7、引致的效應(yīng)的大小或者數(shù)據(jù)的變異有多少部分是由 實驗處理造成的。 Eta平方 凈(偏)Eta平方 Omega平方 Cohens f （具體內(nèi)容見附錄） 雙因素（無交互作用）試驗的方差分析表 方差來源 因素A 總和 平方和 A SS B SS T SS 自由度 A df E df T df 均方和 A A A SS MS df E E E SS MS df F 值 A A E MS F MS F 值臨介值 (1 , 11 ) Fa ab 因素B 誤差 E SS B df B B B SS MS df B B E MS F MS (1 , 11 ) Fb ab , E TABETAB dfdfdff

8、SSSSSSSS 注意 各因素離差平方和的自由度為水平數(shù)減一，總平方和的自由度為試驗總次數(shù)減一 。 雙因素（有重復(fù)）試驗方差分析表 方差來源 因素A 總和 平方和 A SS B SS T SS 自由度 A df E df T df 均方和 A A A SS MS df E E E SS MS df F 值 A A E MS F MS F 值臨介值 (1 , 1 ) Fa ab n 因素B 誤差 E SS B df B B B SS MS df B B E MS F MS (1 , 1 ) Fb ab n A B A B SS A B df A B A BA B MS SSdf A B A B

9、E MS F MS (11 , 1 ) Fab ab n A BAB dfdfdf 這里 方差分析的應(yīng)用范圍： （一）單因素多個樣本均數(shù)的比較: 1. 完全隨機設(shè)計：只安排一種處理因素，不安排任 何配伍因素。 2. 隨機化區(qū)組設(shè)計：只安排一種處理因素，安排一 種配伍因素。 3. 拉丁方設(shè)計：只安排一種處理因素，安排兩種配 伍因素。 （二）多因素樣本均數(shù)間的比較： 1.析因設(shè)計：安排兩種或兩種以上處理因素， 分析處理因素間的交互作用 2.裂區(qū)設(shè)計：安排兩種或兩種以上處理因素， 分析處理因素間的交互作用 3.交叉設(shè)計：安排兩種或兩種以上處理因素， 分析處理因素間的交互作用 （三）多個樣本均數(shù)向量間

10、的比較 多元方差分析：結(jié)果變量有兩個以上，需要綜合評價。 （四）回歸方程的假設(shè)檢驗 協(xié)方差分析 27 概念：將方差分析和回歸分析結(jié)合起來的一種統(tǒng)計分析方法 當試驗指標（Y）的變異既受一個或幾個分類變量，也受一 個或幾個連續(xù)變量的影響，可采用協(xié)方差分析 方差分析：一個或幾個因子（分類變量）對變量Y（連續(xù)變 量）的影響 回歸分析：一個或幾個變量（連續(xù)變量）對變量Y （連續(xù)變 量）的影響 28 目的 消除連續(xù)變量對Y的影響，使方差分析的檢驗功效更高，結(jié) 果更可靠 連續(xù)變量可能會增大 Y 的組間差異，導(dǎo)致錯誤結(jié)論 連續(xù)變量可能會增大 Y 的組內(nèi)變異，降低檢驗功效 消除分類變量的影響，使回歸分析的結(jié)果更

11、可靠 20名男性籃球運動員和20名大學(xué)生的肺活量（cm3）比較 籃球運動員 肺活量Y 大學(xué)生 肺活量Y 47003450 52004100 48004000 協(xié)方差分析基本思想 協(xié)方差分析基本思想 籃球運動員大學(xué)生 身高X肺活量Y身高X肺活量Y 18547001683450 17552001704100 17448001694000 20名男性籃球運動員和20名大學(xué)生的肺活量（cm3）比較 協(xié) 變 量 協(xié)方差分析基本思想 比較肺活量時，要消除身高的影響。 方法1：抽樣時，選身高相近的。 方法2：從統(tǒng)計分析技巧上平衡數(shù)據(jù)。 校正了身高的影響后（回歸分析），再比較兩組肺活 量的均數(shù)有無差異（方差分

12、析）。 協(xié)方差分析基本思想 在方差分析中，用來校正因變量的數(shù)值型變量稱為協(xié)變量 （covariable）。 含有協(xié)變量的方差分析稱為協(xié)方差分析。 協(xié)方差分析可提高方差分析的準確度。 觀察指標（Y）的總變異： SS總SS協(xié)變量SS處理SS誤差 33 協(xié)方差分析的基本思想 其實質(zhì)就是從Y的總離均差平方和中扣除協(xié)變量X對Y的 回歸平方和，對剩余（殘差）平方和作進一步分解后再進行 方差分析，以更好的評價處理的效應(yīng)。 SS總 總 SS回 回 SS殘 殘 SS總 總 SS協(xié)變量 協(xié)變量 SS處理 處理 SS誤差 誤差 SS修正 修正 SS組內(nèi)殘 組內(nèi)殘 差差 身高 肺活量 GROUP 2.00 1.00

13、1 X 2 XX 1 Y 2 Y Y1 大學(xué)生 籃球運動員 Y2 圖圖1 協(xié)方差分析示意圖協(xié)方差分析示意圖 調(diào)調(diào) 整整 均均 數(shù)數(shù) xba y 11 xba y 22 協(xié)方差分析步驟 完全隨機設(shè)計的協(xié)方差分析 應(yīng)用條件檢驗 回歸分析 求調(diào)整均數(shù) 對調(diào)整均數(shù)作方差分析 協(xié)方差分析的假設(shè) 協(xié)方差分析的基本假設(shè)與方差分析相同，包括變量的正態(tài) 性、觀測值獨立、方差齊性等，此外還有三個重要的假設(shè)： 因變量與協(xié)方差之間線性關(guān)系； 所測量的協(xié)變量不應(yīng)有誤差，如果選用的是多項的量表， 應(yīng)有高的內(nèi)部一致性信度或重測信度，系數(shù)最好大于 0.80。這一假設(shè)若被違反會造成犯一類錯誤的概率上升， 降低統(tǒng)計檢驗力。 “組

14、內(nèi)回歸系數(shù)同質(zhì)性”（homogeneity of with in rgression），各實驗處理組中一舉協(xié)變量（X）預(yù)測因變 量（Y）的回歸線的回歸系數(shù)要相等，即斜率相等，各條 回歸線平行。如果斜率不等則不宜直接進行協(xié)方差分析。 37 協(xié)方差分析的模型和假定 回歸分析： * )( ijiijij XXY 協(xié)方差分析： ijiijiij eXXaY)( l模型 協(xié)變量協(xié)變量 Co-variable 方差分析： ijiij aY ijiiijij eaXXY)（ ijiijiij eXXaY)( Thanks! 問題：為什么一個比較均數(shù)差異的 方法竟稱為方差分析？ 這種命名是因為在檢驗均數(shù)間差異

15、是否具有統(tǒng)計學(xué)意義的 過程中，我們實際上是通過比較方差而得到的。 與t 檢驗直接比較兩組的平均數(shù)的做法不同，方差分析把 “平均數(shù)之間差異是否顯著”的問題轉(zhuǎn)化為“平均數(shù)組間 變異是否顯著”的問題，通過“組間變異”與“組內(nèi)變異” 的對比，進行F 檢驗檢驗，從整體上同時比較多組的平均數(shù)之同時比較多組的平均數(shù)之 間間是否存在顯著差異。 LSD (費舍最小顯著差異法, Fishers least significant difference) 該方法是對檢驗兩總體均值是否相等的t檢驗方法 的總體方差估計加以修正(用MSE代替)而得到的。 () 11 () ij ij XX tt nk MSE nn 特點

16、 檢驗敏感性高，即水平間的均值只要存在一定程度 的微小差異就可能被檢驗出來。 但該方法沒有控制范第一類錯誤的概率。 S-N-K(Student-Newman-Keuls, q檢驗) 首先把各組均值排序，用每一比較的兩個均值在 排序序列種相差的等級數(shù)來確定不同的q 臨界值。 ( ,) 11 () 2 ijij e X ij XXXX qq r df SEMSE nn 兩均值的rank 之差 是一種有效劃分相似性子集的方法，該方法是一種有效劃分相似性子集的方法，該方法 適用于各水平下觀測值個數(shù)相等的情況。適用于各水平下觀測值個數(shù)相等的情況。 Tukey法(honesty significant d

17、ifferent, HSD) 與SNK法類似，不同之處在于不論各組均值的大 小次序，均使用同一臨界值。 ( ,) 11 () 2 ijij e X ij XXXX qq k df SEMSE nn 組數(shù) 它采用q統(tǒng)計量，適用于各水平下觀測值個數(shù)相等的情況。 與LSD方法比較，較好的控制了范第一類錯誤的概率。 Bonferroni校正(以t 分布作為檢驗分布,對檢驗水準進行調(diào)整) 與LSD方法基本相同。不同的是它控制了范第一類錯誤 的概率。在每次兩兩組的檢驗中，它將顯著水平除以 兩兩檢驗的總次數(shù)。 在比較的次數(shù)較多時，該方法就不太適合。 DunnettDunnett方法方法 是一種唯一用于多個處

18、理組和一個對照組是一種唯一用于多個處理組和一個對照組 比較的方法。比較的方法。 SPSSSPSS提供的常用多重比較檢驗方法提供的常用多重比較檢驗方法 1 1、TambaneTambanes T2:s T2: 基于基于t t檢驗的保守的多重比較方法。檢驗的保守的多重比較方法。 不滿足方差齊性不滿足方差齊性多重多重檢驗方法檢驗方法 2 2、DunnettDunnetts T3:s T3: 基于學(xué)生化極大模的多重比較方法?；趯W(xué)生化極大模的多重比較方法。 3 3、Games-Howell:Games-Howell: 非參數(shù)多重比較方法。非參數(shù)多重比較方法。 4 4、 DunnettDunnetts

19、C:s C:基于學(xué)生化極差的多重比較方基于學(xué)生化極差的多重比較方 法，是一種可信區(qū)間的方法。法，是一種可信區(qū)間的方法。 Eta平方(Eta-Squared,2)，又稱關(guān)聯(lián)強度(correlation ratio)， 因變量的變異被自變量解釋的百分比。 凈Eta平方(partial Eta-Squared,p2)，多因素ANOVA中， 扣除了其他自變量后某自變量的效應(yīng)。 判斷標準：0.01，?。?.06，中；0.14，大 2 effect total SS SS 2 effect p effecterror SS SSSS Omega平方(Omega squared,2) 當F顯著時，2將會是正

20、值，若為負，則要解釋為0。當 樣本很大而使MSw變得很小，F(xiàn)很容易達到顯著，此時 若2很小，即使在統(tǒng)計上有意義，實際應(yīng)用上仍然沒 意義。 判斷標準：0.01，?。?.06，中；0.14，大 2 (1) effectberror terror w b tw SSdf MS SSMS SSkMS SSMS Cohens f f f 0.25，中；f 0.40，高 2 2 1 f 修正均數(shù)修正均數(shù) 的計算：的計算： j Y XX XY c l l b 組內(nèi) 組內(nèi) 公共回歸系數(shù)： XXbYY jcjj 修正均數(shù)間的多重比較：修正均數(shù)間的多重比較： 2 . 0 1 1 AB Y XXX XX YY q

21、Sl nal 組間 組內(nèi) S S2 2y.x y.x為組內(nèi)剩余方差 為組內(nèi)剩余方差 52 SS總 總 SS回 回 SS總殘 總殘 YY l 2 XY xy XX l SSbl l 回 SSSS 總回 SSSS組內(nèi)殘差 修正 2 XY YY XX l SSl l 組內(nèi) 組內(nèi)殘差組內(nèi) 組內(nèi) （） （） （） 2 22 ij () ) ij j iji i X lSSX n i組內(nèi)組內(nèi) (X -X 2N總殘差 1修正k 1Nk 組內(nèi)殘差總殘差修正 SSSSSS 總殘組內(nèi)殘差修正 常用試驗設(shè)計 1.完全隨機設(shè)計(Completely random design) 單因素設(shè)計. 優(yōu)點:簡單易行,缺點:只能分析一個因素 2.配伍設(shè)計(Randomized block design) 隨機區(qū)組或雙因素 無重復(fù)試驗設(shè)計. 交互作用和方差齊性無法考察 (1) 同一 受試對象在同一處理不同水平間的比較復(fù) (2) 將幾個受試 對象按一定條件劃分成配伍組,再將每一配伍組的各受試 者隨機分配 到各處理組中,每個配伍組的例數(shù)等于處理組 個數(shù). 3.交叉設(shè)計(