方差分析與回歸分析課件

1、方差分析與回歸分析方差分析與回歸分析第八章第八章 方差分析與回歸分析方差分析與回歸分析單因素方差分析單因素方差分析回歸分析的基本概念回歸分析的基本概念一元線性回歸模型的建立與檢驗(yàn)一元線性回歸模型的建立與檢驗(yàn)方差分析的概念與基本思想方差分析的概念與基本思想方差分析與回歸分析方差分析與回歸分析消費(fèi)者對(duì)四個(gè)行業(yè)的投訴次數(shù)消費(fèi)者對(duì)四個(gè)行業(yè)的投訴次數(shù) 觀測(cè)值觀測(cè)值零售業(yè)零售業(yè)旅游業(yè)旅游業(yè)航空公司航空公司家電制造業(yè)家電制造業(yè)12345766494034683929455631492134404451657758四個(gè)行業(yè)之間的服務(wù)質(zhì)量是否有顯著差異？四個(gè)行業(yè)之間的服務(wù)質(zhì)量是否有顯著差異？一、一、方差分析的概

2、念與基本思想 1.問(wèn)題的提出問(wèn)題的提出方差分析與回歸分析方差分析與回歸分析分析四個(gè)行業(yè)之間的服務(wù)質(zhì)量是否有顯著差異作出這種判斷最終被歸結(jié)為檢驗(yàn)這四個(gè)行業(yè)被投訴次數(shù)的均值是否相等？均值相等均值不全相等服務(wù)質(zhì)量沒(méi)有沒(méi)有顯著差異服務(wù)質(zhì)量有顯著差異方差分析與回歸分析方差分析與回歸分析例題例題8.2 在飼料養(yǎng)雞增肥研究中，某飼料研究所提出三種配方： A1以魚(yú)粉為添加料， A2以槐樹(shù)粉為添加料， A3以苜蓿粉添加料。為比較三種飼料的效果，特選24只相似的雛雞隨機(jī)分為三組，每組用一種飼料喂養(yǎng)，60天后測(cè)其體重，獲得數(shù)據(jù)如下表飼料A雞重/gA11073 1009 1060 1001 1002 1012 100

3、9 1028A21107 1092 990 1109 1090 1074 1122 1001A31093 1029 1080 1021 1022 1032 1029 1048比較三種飼料的增重效果是否一致利用樣本比較三個(gè)總體均值是否相等方差分析與回歸分析方差分析與回歸分析 直觀上看該問(wèn)題可以用兩個(gè)總體均值差異顯著性檢驗(yàn)解決，但細(xì)想想還是存在一定問(wèn)題，因?yàn)檫@樣的比較能增大犯錯(cuò)誤的概率。為解決這類問(wèn)題，英國(guó)統(tǒng)計(jì)學(xué)家R.A.Fisher于1924年提出了解決此類問(wèn)題的通用方法-方差分析法。2.2.方差分析的概念方差分析的概念試驗(yàn)指標(biāo)試驗(yàn)指標(biāo)： 試驗(yàn)結(jié)果。試驗(yàn)結(jié)果?？煽匾蛩乜煽匾蛩兀?在影響試驗(yàn)結(jié)果的

4、眾多因素中，可人為控制在影響試驗(yàn)結(jié)果的眾多因素中，可人為控制 的因素。的因素。單因素試驗(yàn)單因素試驗(yàn)： 如果在一項(xiàng)試驗(yàn)中只有一個(gè)因素改變，其如果在一項(xiàng)試驗(yàn)中只有一個(gè)因素改變，其 它的可控因素不變，則該類試驗(yàn)稱為單因它的可控因素不變，則該類試驗(yàn)稱為單因 素試驗(yàn)。素試驗(yàn)。方差分析與回歸分析方差分析與回歸分析水平水平可控因素所處的各種各種不同的狀態(tài)。每個(gè)可控因素所處的各種各種不同的狀態(tài)。每個(gè) 水平又稱為試驗(yàn)的一個(gè)處理。水平又稱為試驗(yàn)的一個(gè)處理。隨機(jī)誤差隨機(jī)誤差因素的同一水平因素的同一水平(總體總體)下，樣本各觀察值之下，樣本各觀察值之間的差異這種差異可以看成是隨機(jī)因素的影響，稱為間的差異這種差異可以看

5、成是隨機(jī)因素的影響，稱為隨機(jī)誤隨機(jī)誤差差 系統(tǒng)誤差系統(tǒng)誤差因素的不同水平因素的不同水平(不同總體不同總體)下，各觀察值之下，各觀察值之間的差異間的差異這種差異可能是由于抽樣的隨機(jī)性所造成的，也可能是由這種差異可能是由于抽樣的隨機(jī)性所造成的，也可能是由于行業(yè)本身所造成的，后者所形成的誤差是由系統(tǒng)性因素于行業(yè)本身所造成的，后者所形成的誤差是由系統(tǒng)性因素造成的，稱為造成的，稱為系統(tǒng)誤差系統(tǒng)誤差方差分析與回歸分析方差分析與回歸分析數(shù)據(jù)的誤差用平方和數(shù)據(jù)的誤差用平方和(sum of squares)表示，稱為方差組內(nèi)方差組內(nèi)方差(within groups) 因素的同一水平(同一個(gè)總體)下樣本數(shù)據(jù)的方差

6、比如，零售業(yè)被投訴次數(shù)的方差組間方差組間方差(between groups)因素的不同水平(不同總體)下各樣本之間的方差比如，四個(gè)行業(yè)被投訴次數(shù)之間的方差方差分析與回歸分析方差分析與回歸分析v若不同行業(yè)對(duì)投訴次數(shù)不同行業(yè)對(duì)投訴次數(shù)沒(méi)有影響沒(méi)有影響，則組間誤差中只包含隨機(jī)誤差，沒(méi)有系統(tǒng)誤差。這時(shí)，組間誤差與組內(nèi)誤差組間誤差與組內(nèi)誤差經(jīng)過(guò)平均后的數(shù)值就應(yīng)該很接近，它們的比值就會(huì)接近比值就會(huì)接近1v若不同行業(yè)對(duì)投訴次數(shù)有影響有影響，在組間誤差中除了包含隨機(jī)誤差外，還會(huì)包含有系統(tǒng)誤差，這時(shí)組間誤差平均后的數(shù)值就會(huì)大于組內(nèi)誤差平均后的數(shù)值，它們之間的比值就會(huì)大于之間的比值就會(huì)大于1v當(dāng)這個(gè)比值大到某種程

7、度時(shí)，就可以說(shuō)不同水平之間存在著顯著差異，也就是自變量對(duì)因變量有影響 判斷行業(yè)對(duì)投訴次數(shù)是否有顯著影響，實(shí)際上也就是檢驗(yàn)被投訴次數(shù)的差異主要是由于什么原因所引起的。如果這種差異主要是系統(tǒng)誤差，說(shuō)明不同行業(yè)對(duì)投訴次數(shù)有顯著影響3.方差分析的思路方差分析的思路方差分析與回歸分析方差分析與回歸分析4.4.方差分析的基本思想方差分析的基本思想 試驗(yàn)指標(biāo)的變化可以用指標(biāo)值的方差反映，導(dǎo)致指標(biāo)值發(fā)生變化的原因有兩方面：一是可控因素，二是不可控因素。方差分析就是將指標(biāo)值的方差分解成組間方差與組內(nèi)方差，然后依據(jù)概率比較組間方差與組內(nèi)方差的大小關(guān)系，從而決定引起指標(biāo)值的變化的主要原因。5.5.方差分析的基本假定

8、方差分析的基本假定不同因素對(duì)試驗(yàn)指標(biāo)值的影響作用是加性效應(yīng)，即試驗(yàn)指標(biāo)值的變化是各種因素所起作用的累加；試驗(yàn)指標(biāo)服從正態(tài)分布；試驗(yàn)數(shù)據(jù)是隨機(jī)的，并且可控因素不同水平的試驗(yàn)數(shù)據(jù)具有方差齊性。方差分析與回歸分析方差分析與回歸分析二：?jiǎn)我蛩胤讲罘治龅慕y(tǒng)計(jì)模型二：?jiǎn)我蛩胤讲罘治龅慕y(tǒng)計(jì)模型 1.1.單因素方差分析的數(shù)據(jù)結(jié)構(gòu)單因素方差分析的數(shù)據(jù)結(jié)構(gòu)因素-水平試驗(yàn)數(shù)據(jù)和平均1A2AaA11xjx112x1rx21x22xjx22rx1ax2axjx2arx1T2TaTax2x1xTx1111j,.ijraraiiijiijijijixAiTTTxxTxTxrar其中 是因素 第 水平下第 次重復(fù)試驗(yàn)結(jié)果方差

9、分析與回歸分析方差分析與回歸分析 2.2.單因素方差分析的統(tǒng)計(jì)模型單因素方差分析的統(tǒng)計(jì)模型 在方差分析統(tǒng)計(jì)模型下，方差分析要解決的問(wèn)題轉(zhuǎn)化為下列假設(shè)檢驗(yàn)問(wèn)題：012112:0;:,aaHH 不全為零對(duì)試驗(yàn)指標(biāo)影響明顯。因素，說(shuō)明；接受對(duì)試驗(yàn)指標(biāo)影響不明顯，說(shuō)明因素接受AHAH1021,2,1,2,(0,),;ijijiijijiiijxxiajrNAiA試驗(yàn)數(shù)據(jù) 滿足且相互獨(dú)立其中 為總體平均，為因素 的第 個(gè)水平 下，試驗(yàn)指標(biāo)的主效應(yīng)為隨機(jī)因素對(duì)試驗(yàn)指標(biāo)值的影響。方差分析與回歸分析方差分析與回歸分析 三、單因素方差分析的原理三、單因素方差分析的原理 1.試驗(yàn)數(shù)據(jù)離差平方和分解21122111

10、211()()()()arTijijarrAiiijiareijiijSSxxSSxxrxxSSxx總離差平方和組間離差平方和組內(nèi)離差平方和離差平方和分解式離差平方和分解式11()()0ariijiijxxxxTAeSSSSSS11()()arijiiijxxxx方差分析與回歸分析方差分析與回歸分析22111()()aariijiiijAer xxxxSSSSAeSSASS其中反映因素 不同水平引起的試驗(yàn)指標(biāo)值的變化；反映沒(méi)有控制因素引起的試驗(yàn)指標(biāo)值的變化。111121122()()()()arararijijijiijijiiixxxxxxxx211211()ijiararijijixxxx

11、221111()()ararTijijjijiiixxSSxxxx方差分析與回歸分析方差分析與回歸分析222111111()ijararaeijiiijijiSSxxxTr2221111()ararTijijijijTSSxxxar2221111()araAiiijiTSSxxTrar方差分析與回歸分析方差分析與回歸分析00(1)(1, (1)(1)(1, (1)(1, (1)(1, (1);.Aea rSSFF aa raSSF aa rP FF aa rFF aa rHH所以有對(duì)于給定的小概率 ，存在使得故當(dāng)時(shí)，拒絕反之，接受2. 方差分析原理方差分析原理02222(1)( (1)eTHS

12、SSSara r如果試驗(yàn)數(shù)據(jù)滿足單因素方差分析的模型，且統(tǒng)計(jì)假設(shè)成立，記 為共同均值，則有2(1)AeaSSSS且與相互獨(dú)立2ASS方差分析與回歸分析方差分析與回歸分析1(1)1(,).AeTTAeAAAeeeAAeefafa rfarfffSSMSfSSMSfMSFF ffMS引入記號(hào)，稱為組間離差平方和自由度；，稱為組內(nèi)離差平方和自由度；，稱為總離差平方和自由度；顯然有，稱為組間均方差；，稱為組內(nèi)均方差；又叫均方誤。顯然有記號(hào)及其含義記號(hào)及其含義方差分析與回歸分析方差分析與回歸分析在實(shí)際應(yīng)用中，方差分析結(jié)果以方差分析表形式給出。單因素方差分析表方差來(lái)源方差來(lái)源平方和平方和自由度自由度均方均

13、方F F臨界值或臨界值或SigSig組間組間SSAa-1SSA/(a-1)MSAMSe組內(nèi)組內(nèi)SSea(r-1)SSea(r-1)總和總和SSTar-10.05(,)Sig0.01(,)SigAeAeFFffFFff如果在檢驗(yàn)水平下，或，就均值差異顯著，用“ ”表示；如果在檢驗(yàn)水平下，或，就均值差異極顯著，用“”表示。方差分析與回歸分析方差分析與回歸分析例題例題8.2 在飼料養(yǎng)雞增肥研究中，某飼料研究所提出三種配方： A1以魚(yú)粉為添加料， A2以槐樹(shù)粉為添加料， A3以苜蓿粉添加料。為比較三種飼料的效果，特選24只相似的雛雞隨機(jī)分為三組，每組用一種飼料喂養(yǎng)，60天后測(cè)其體重，獲數(shù)據(jù)如下表，試以

14、此數(shù)據(jù)判定不同飼料是否有差異？飼料A雞重/g-1000A1 73 9 60 1 2 12 9 281943763610024A2107 92 -10 109 90 74 122 158534222560355A3 93 29 80 21 22 32 29 4835412531620984113350517791363iT2iT21rijjx果無(wú)差異。三種飼料對(duì)雞的增肥效解：建立統(tǒng)計(jì)假設(shè):0H方差分析與回歸分析方差分析與回歸分析21) 18(32132312496.2821508.966004.3787608.9660241133850517704.378762411339136322eATAT

15、eATfffSSSSSSSSSS計(jì)算有關(guān)量方差分析表方差來(lái)源平方和自由度均方F臨界值臨界值組間9660.0822830.043.59*3.47組內(nèi)28215.96211343.62總和37876.0423方差分析與回歸分析方差分析與回歸分析 四、單因素方差分析模型參數(shù)的估計(jì)四、單因素方差分析模型參數(shù)的估計(jì) 當(dāng)方差分析結(jié)果為否定原假設(shè)時(shí)，就需要估計(jì)模型的有關(guān)參數(shù) ，下面就討論方差分析模型參數(shù)的估計(jì)。2211111,2,1,2,(0,),;,111ijiijijiiijiarrarijiijijijjijxiajrNAiAxxxarrar 單因素方差分析的模型為且相互獨(dú)立其中 為總以平均效應(yīng)，為因

16、素 的第 個(gè)水平 下，試驗(yàn)指標(biāo)的均值為隨機(jī)因素對(duì)試驗(yàn)指標(biāo)值的影響。需要估計(jì)的參數(shù)有。不難證明這些參數(shù)的極大似然估計(jì)量為：221111()arijeijxSSarar方差分析與回歸分析方差分析與回歸分析五、多重比較法拒絕H0，接受H1, 表示總體均數(shù)不全相等哪兩個(gè)平均數(shù)之間相等？哪兩個(gè)平均數(shù)之間不等？ 需要進(jìn)一步作多重比較。多重比較。方差分析結(jié)果 不拒絕H0，表示拒絕總體均數(shù)相等的證據(jù)不足， 分析終止。 常用多重比較法east significant difference，簡(jiǎn)稱，簡(jiǎn)稱LSD法法( (1)2ijijxxexxLSDta rSMSSr方差分析與回歸分析方差分析與回歸分析q法法( (又

17、稱又稱SNK (student-Newman-Keuls)檢驗(yàn)法檢驗(yàn)法) ) q測(cè)驗(yàn)方法是將r個(gè)平均數(shù)由大到小排列后，根據(jù)所比較的兩個(gè)處理平均數(shù)的差數(shù)是幾個(gè)平均數(shù)間的極差分別確定最小顯著極差LSR值的。( ,)/eEEeLSRqa f SSMSra其中 表示與比較的兩個(gè)均值之間的跨度。,( ,1,2, ,),ijijijLSDx x i ja ijxxLSDi jxxLSDi j以為兩均值比較的最小顯著差。如果表示兩個(gè)樣本均值。當(dāng)時(shí)，就認(rèn)為第水平間均值差異顯著；當(dāng)時(shí)，就認(rèn)為第水平間均值差異不顯著。方差分析與回歸分析方差分析與回歸分析,( ,1,2, ,),ijijijLSRx xi ja ij

18、xxLSRi jxxLSRi j以為兩均值比較的最小顯著差。如果表示兩個(gè)樣本均值。當(dāng)時(shí)，就認(rèn)為第水平間均值差異顯著；當(dāng)時(shí)，就認(rèn)為第水平間均值差異不顯著。Tukey法法( (又稱又稱honestly significant difference，簡(jiǎn)稱，簡(jiǎn)稱HSD )( , (1)2ijijxxexxHSDqa a rSMSSr,( ,1,2, ,),ijijijHSDx x i ja ijxxHSDi jxxHSDi j以為兩均值比較的最小顯著差。如果表示兩個(gè)樣本均值。當(dāng)時(shí)，就認(rèn)為第水平間均值差異顯著；當(dāng)時(shí)，就認(rèn)為第水平間均值差異不顯著。方差分析與回歸分析方差分析與回歸分析Bonferroni法

19、法Bonferroni法法是根據(jù)所比較的兩個(gè)處理平均數(shù)的個(gè)數(shù)k，將檢驗(yàn)水平 縮小k倍做為真實(shí)比較水平 ，確定是幾個(gè)平均數(shù)間的極差分別確定最小顯著差數(shù)LSD值的。( (1)2ijijxxexxLSDta rSMSSr。水平間均值差異不顯著時(shí)，就認(rèn)為第當(dāng)水平間均值差異顯著；時(shí)，就認(rèn)為第當(dāng)表示兩個(gè)樣本均值。如果著差。為兩均值比較的最小顯以jiLSDxxjiLSDxxjirjixxLSDjijiji,), 2 , 1,(,方差分析與回歸分析方差分析與回歸分析多重比較法選擇1.試驗(yàn)事先確定比較的標(biāo)準(zhǔn)，凡是與對(duì)照相比較，或與預(yù)定要比較的對(duì)象比較，一般可選用最小顯著差數(shù)法LSDa法；2.根據(jù)否定一個(gè)正確的H

20、0和接受一個(gè)不正確的H0的相對(duì)重要性來(lái)決定。參考以下觀點(diǎn)： 根據(jù)試驗(yàn)的側(cè)重點(diǎn)選擇。三種方法的顯著尺度不相同，LSD法最低，HSD法次之，SNK法最高。故對(duì)于試驗(yàn)結(jié)論事關(guān)重大或有嚴(yán)格要求時(shí)，用SNK法，一般試驗(yàn)可采用HSD法。當(dāng)比較次數(shù)不多時(shí)，Bonferroni法的效果較好；但當(dāng)比較次數(shù)較多(例如在10次以上)時(shí)，則由于其檢驗(yàn)水準(zhǔn)選擇得過(guò)低，結(jié)論偏于保守。方差分析與回歸分析方差分析與回歸分析例題例題8.3試以LSD法測(cè)驗(yàn)各種藥劑處理的苗高平均數(shù)之間的差異顯著性。2 8.172.02()4ijxxScmr(m-1)=12時(shí)，t0.05(12)=2.179,t0.01(12)=3.055故 LSD

21、0.05=2.1792.02=4.40 LSD0.01=3.0552.02=6.17處理苗高平均數(shù)差異顯著性0.050.050.010.01D29aa B23ba bA18cb cC14cc方差分析與回歸分析方差分析與回歸分析 雙因素方差分析背景雙因素方差分析背景 雙因素方差分析的類型雙因素方差分析的類型若把品種看成影響產(chǎn)量的因素A，肥料則是影響產(chǎn)量的因素B。對(duì)因素A、因素B和二者互作同時(shí)進(jìn)行分析，就屬于雙因素方差分析。在實(shí)際問(wèn)題的研究中，有時(shí)需要考慮兩個(gè)因素對(duì)實(shí)驗(yàn)結(jié)果的影響。如研究小麥產(chǎn)量問(wèn)題，除了關(guān)心品種對(duì)產(chǎn)量的作用之外，我們還想了解化肥的使用對(duì)產(chǎn)量的作用，有時(shí)甚至要考慮品種與肥料的相互促

22、進(jìn)作用。如果不同品種、不同施肥量對(duì)產(chǎn)量作用存在顯著的差異，就需要分析原因。選擇合適的品種，決定恰當(dāng)?shù)氖┓柿?，以達(dá)到增產(chǎn)的目的。雙因素方差分析方差分析與回歸分析方差分析與回歸分析雙因素方差分析的類型 無(wú)交互作用的雙無(wú)交互作用的雙因素方差分析因素方差分析 有交互作用的雙有交互作用的雙因素方差分析因素方差分析 假定因素A和因素B的效應(yīng)之間是相互獨(dú)立的，不存在相互關(guān)系 假定因素A和因素B的結(jié)合會(huì)產(chǎn)生出一種新的效應(yīng)(交互效應(yīng)) 交互作用的概念交互作用的概念有人在研究油菜產(chǎn)量受氮肥與磷肥影響問(wèn)題時(shí)，獲得如下試驗(yàn)數(shù)據(jù)。顯然512-470-2-10=30既不是單純氮肥引起的產(chǎn)量變化，也不是單純磷肥引起的產(chǎn)量變

23、化，這就是交互作用。氮肥 磷肥06047047215480512方差分析與回歸分析方差分析與回歸分析不考慮交互作用的雙因素方差分析不考慮交互作用的雙因素方差分析 因素B 數(shù)據(jù)因素A 雙因素不考慮交互作用方差分析的數(shù)據(jù)結(jié)構(gòu)雙因素不考慮交互作用方差分析的數(shù)據(jù)結(jié)構(gòu) 雙因素不考慮互作方差分析試驗(yàn)數(shù)據(jù)具有下列結(jié)構(gòu)模式。1B2BbB1AaA2AjTjx 1T11x ix iT21x12xbx1 1x axbx2 2T 2x2 T1 T1ax2ax aT x2 x1 x T22xabxbTabx方差分析與回歸分析方差分析與回歸分析abTxTTxTaTxxTbTxxTjBiAxbjjaiiaibjijjjai

24、ijjiibjijiij 111111如下：驗(yàn)結(jié)果，其它記號(hào)含義次水平交叉位置的試第水平與因素第是因素其中 雙因素不考慮交互作用方差分析的統(tǒng)計(jì)模型雙因素不考慮交互作用方差分析的統(tǒng)計(jì)模型的影響。隨機(jī)因素對(duì)試驗(yàn)指標(biāo)值為用個(gè)水平對(duì)試驗(yàn)指標(biāo)的作的第為因素標(biāo)的作用個(gè)水平對(duì)試驗(yàn)指的第為因素為總以平均效應(yīng)，其中且相互獨(dú)立滿足試驗(yàn)數(shù)據(jù)ijjiijijjiijijjBiAbjaiNxx;, 2 , 1, 2 , 1), 0(2方差分析與回歸分析方差分析與回歸分析該形式稱為雙因素不考慮交互作用方差分析的統(tǒng)計(jì)模型。 在方差分析統(tǒng)計(jì)模型下，方差分析要解決的問(wèn)題轉(zhuǎn)化為下列假設(shè)檢驗(yàn)問(wèn)題：不全為零不全為零bbaaHHHH,

25、:; 0:,:; 0:2121212021112110指標(biāo)影響明顯對(duì)試驗(yàn)，說(shuō)明因素；接受對(duì)試驗(yàn)指標(biāo)影響不明顯，說(shuō)明因素接受對(duì)試驗(yàn)指標(biāo)影響明顯；說(shuō)明因素，；接受對(duì)試驗(yàn)指標(biāo)影響不明顯，說(shuō)明因素接受BHBHAHAH21201110 雙因素不考慮交互作用方差分析原理雙因素不考慮交互作用方差分析原理試驗(yàn)數(shù)據(jù)離差平方和分解 aibjijTxxSS112)(總離差平方和方差分析與回歸分析方差分析與回歸分析 aibjjiijebjjaibjjBaiiaibjiAxxxxSSxxaxxSSBxxbxxSSA1121211212112)()()()()(組內(nèi)離差平方和離差平方和因素離差平方和因素的試驗(yàn)指標(biāo)值的變化

26、。反映沒(méi)有控制因素引起標(biāo)值的變化；不同水平引起的試驗(yàn)指反映因素標(biāo)值的變化；不同水平引起的試驗(yàn)指反映因素其中易證明有eBAeBATSSBSSASSSSSSSSSS方差分析與回歸分析方差分析與回歸分析)1)(1( , 1(),1)(1( , 1()1)(1( , 1() 1()1)(1( , 1() 1(,)1)(1(,) 1() 1() 1(,2220102222222010babFbaaFbabFSSSSaFbaaFSSSSbFSSSSSSCochranbaSSHHbSSaSSabSSHHeBBeAAeBAeBAT，存在對(duì)于給定的相互獨(dú)立。所以有與定理得解式和于是，由離差平方和分是否成立，總有

27、無(wú)論統(tǒng)計(jì)假設(shè)為共同均值，于是有成立，則且統(tǒng)計(jì)假設(shè)分析的模型，素不考慮交互作用方差如果試驗(yàn)數(shù)據(jù)滿足雙因方差分析與回歸分析方差分析與回歸分析.;)1)(1( , 1(;)1)(1( , 1()1)(1( , 1()1)(1( , 1(20201010HHbabFFHHbaaFFbabFFPbaaFFPBABA反之，接受時(shí)，拒絕故當(dāng)反之，接受時(shí)，拒絕故當(dāng)使得；又叫均方誤。，稱為隨機(jī)誤差均方差方差；均稱為因素均方差；稱為因素顯然有和自由度。稱為隨機(jī)誤差離差平方度；稱為總離差平方和自由離差平方和自由度；稱為因素引入記號(hào)eeeBBBAAAeBATeTBAfSSMSBfSSMSAfSSMSffffbafab

28、fBAbfaf) 1)(1(1,1, 1方差分析與回歸分析方差分析與回歸分析),(),(eBeBBeAeAAffFMSMSFffFMSMSF顯然有雙因素不考慮交互作用方差分析表方差來(lái)源方差來(lái)源平方和平方和自由度自由度均方均方F臨界值臨界值或或Sig因素因素ASSAa-1SSA/(r-1)MSAMSeMSBMSe因素因素B SSBb-1SSB/(b-1)誤差誤差SSe(a-1)(b-1) SSe(a-1)(m-1)總和總和SSTab-1方差分析與回歸分析方差分析與回歸分析例例8.4 對(duì)于四種不同種源的油松種子，在三種不同土質(zhì)的土壤上進(jìn)行育苗試驗(yàn)，兩年后測(cè)定苗木高度，所得試驗(yàn)數(shù)據(jù)如表所示。假定試驗(yàn)

29、數(shù)據(jù)滿足正態(tài)、等方差條件試在檢驗(yàn)水平0.05下，分析種源、土質(zhì)對(duì)油松苗木高度的影響？ 因素B 數(shù)據(jù)因素A因素BB1B2B3因素AA144534714448.0A237443511638.7A336473311638.7A445483112441.316219214650040.548.036.541.7 iT ixjTjx方差分析與回歸分析方差分析與回歸分析影響種源對(duì)油松苗高無(wú)顯著影響；土質(zhì)對(duì)油松苗高無(wú)顯著解：建立統(tǒng)計(jì)假設(shè):2010HH6, 2, 3,113 .877 .2727 .1747 .5347 .2723 .208330 .2110617 .1743 .208330 .2100817

30、 .5343 .208330 .213683, 4),(),(,2122122112 eBATBATebjjBaiiAaibjijTeBeABAffffSSSSSSSSabTTaSSabTTbSSabTxSSbaffFffFFF，由題設(shè)知，確定計(jì)算方差分析與回歸分析方差分析與回歸分析 雙因素方差分析的模型雙因素方差分析的模型., 2 , 1;, 2 , 1;, 2 , 1)(rkbjaiXijkijjiijk。不可測(cè)定表示隨機(jī)效應(yīng)的交互效應(yīng)，與表示因素個(gè)水平處理效應(yīng)，的第表示因素應(yīng)，個(gè)水平處理效第表示因素表示總體平均數(shù)，式中)()(ijkijjiBAjBiA著影響。即種源對(duì)油松苗高有顯拒絕顯著

31、影響；，即土質(zhì)對(duì)油松苗高無(wú)所以，接受:15. 5)6 , 2(,76. 4)6 , 3(4 . 96/3 .873/7 .272/0 . 46/3 .873/7 .174/201005. 005. 0HHFFfSSfSSFfSSfSSFeeBBBeeAAA方差分析與回歸分析方差分析與回歸分析 數(shù)據(jù)結(jié)構(gòu)A A因素因素B B因素因素總和總和T Ti.i.平均平均B B1 1B B2 2B Bb bA A1 1x x111111x x121121x x1b11b1T T1.1.x x112112x x122122x x1b21b2x x11r11rx x12r12rx x1br1brT Tij.ij

32、.T T11.11.T T12.12.T T1b.1b.A Aa ay ya11a11x xa21a21x xab1ab1T Ta.a.x xa12a12x xa22a22x xab2ab2x xa1ra1rx xa2ra2rx xabrabrT Tij.ij.T Ta1.a1.T Ta2.a2.T Tab.ab.T T.j.j.T T.1.1.T T.2.2.T T.b.b.T T.平均平均 1x ax ix1xjx2xbx x方差分析與回歸分析方差分析與回歸分析 離差平方和的分解離差平方和的分解eBABAaibjrkijijkaibjjiijbjjaiiijijkjaibjrkijiija

33、ibjrkijkTSSSSSSSSXXXXXXrXXarXXbrXXXXXXXXXXXXSS 111212121221111112)()()()()()()（方差分析與回歸分析方差分析與回歸分析eBABATaibjrkijijkeaibjjiijBAbjjBaiiAaibjrkijkTSSSSSSSSSSXXSSXXXXrSSXXarSSXXbrSSXXSS 11121212121112)()()()（離差平方和表達(dá)式方差分析與回歸分析方差分析與回歸分析eeeBABABABBBAAAeBABATeeBABABBAATTfSSMSfSSMSfSSMSfSSMSfffffrabfSSbafSSbf

34、SSafSSabrfSS均方誤離差平方和相應(yīng)自由度) 1() 1)(1(111方差分析與回歸分析方差分析與回歸分析),(),(),(, 0:;, 0:0:;, 2 , 1, 0:0:;, 2 , 1, 0:030301,2, 1,2, 111,2, 1,2, 10312021101EBAeBABAEBeBBEAeAAaibjijaibjijjjiiffFMSMSFffFMSMSFffFMSMSFHHHHHHbjHHaiH成立，則有如果至少存在一個(gè)至少存在一個(gè)至少存在一個(gè)驗(yàn)雙因素方差分析模型檢方差分析與回歸分析方差分析與回歸分析.),(.),(.),(),(),(),(030201HffFFHf

35、fFFHffFFffFffFffFEBABAEBBEAAEBAEBEA，否定如果，否定如果，否定如果，查表得對(duì)于小概率 XXXXXXXXMSXjiijijjjiie)(,2對(duì)應(yīng)的參數(shù)估計(jì)為雙因素方差分析模型，方差分析與回歸分析方差分析與回歸分析例例8.5 用3種深翻，4種施肥方案組成12種育苗作業(yè)方式試驗(yàn)，所得試驗(yàn)數(shù)據(jù)如表所示。假定試驗(yàn)數(shù)據(jù)滿足正態(tài)、等方差條件試在檢驗(yàn)水平0.05下，分析深翻、施肥及其它們之間的交互作用對(duì)苗木高度的影響？ 施肥A深翻BA1A2A3A3B152 43 3948 37 2934 42 3645 58 42B241 47 5350 41 3036 39 4444 46

36、 60B339 38 4236 48 4737 40 32 43 56 41；深翻對(duì)苗高無(wú)顯著影響；施肥對(duì)油高無(wú)顯著影響解：建立統(tǒng)計(jì)假設(shè):2010HH方差分析與回歸分析方差分析與回歸分析油松苗高無(wú)顯著影響。深翻與施肥交互作用對(duì):30H00.1170889.1191222.48694.65450916.654981194.551694.65450888.660011306.1888694.6545067339, 3, 3, 4),(),(),(,211221221221112 BABATeBAaibjijBAbjjBaiiAaibjrkijkTeBAeBeABABASSSSSSSSSSSSSSa

37、brTTrSSabrTTaSSabrTTbrSSabrTxSSrbaffFffFffFFFF由題設(shè)知，確定計(jì)算方差分析與回歸分析方差分析與回歸分析51. 2)24, 6(,41. 3)24, 2(,01. 3)24, 3(406. 0/,495. 0/,769. 3/24, 6, 2, 3,3505. 005. 005. 0FFFfSSfSSFfSSfSSFfSSfSSFfffffeeBABABAeeBBBeeAAAeBABAT影響。無(wú)顯著深翻交互作用對(duì)苗高均影響，而深翻、施肥與，即施肥對(duì)苗高有顯著，而接受所以，拒絕由于03021005. 005. 005. 0,)24, 6(),24, 2(

38、),24, 3(HHHFFFFFFBABA水平。水平為第顯著，這說(shuō)明施肥較優(yōu)顯著其它水平差異均不水平差異水平與第的第多重比較法知僅有施肥經(jīng)用交友水平。進(jìn)行多重比較，以選出于是，需對(duì)施肥進(jìn)一步3 43SNK方差分析與回歸分析方差分析與回歸分析 在現(xiàn)實(shí)問(wèn)題中，處于同一個(gè)過(guò)程中的一些變量，往往是相互依賴和相互制約的，它們之間的相互關(guān)系大致可分為兩種： 相關(guān)關(guān)系表現(xiàn)為這些變量之間有一定的依賴關(guān)，但這種關(guān)系并不完全確定，它們之間的關(guān)系不能精確地用函數(shù)表示出來(lái)，這些變量其實(shí)是隨機(jī)變量，或至少有一個(gè)是隨機(jī)變量。他們之間相互依賴但又不能有一個(gè)確定另一個(gè)。因此，相關(guān)關(guān)系的分析根據(jù)研究的目的不同分為相關(guān)分析(平行

39、分析)和回歸分析(因果分析)。相關(guān)關(guān)系與回歸關(guān)系相關(guān)關(guān)系與回歸關(guān)系（1）確定性關(guān)系函數(shù)關(guān)系；（2）非確定性關(guān)系）非確定性關(guān)系相關(guān)關(guān)系。相關(guān)關(guān)系。方差分析與回歸分析方差分析與回歸分析 相關(guān)關(guān)系舉例相關(guān)關(guān)系舉例 例如：在氣候、土壤、水利、種子和耕作技術(shù)等條件基本相同時(shí)，某農(nóng)作物的畝產(chǎn)量Y與施肥量X之間有一定的關(guān)系，但施肥量相同，畝產(chǎn)量卻不一定相同。畝產(chǎn)量是一個(gè)隨機(jī)變量。 又如：人的身高Y與人的腿長(zhǎng)X之間具有一定的依賴關(guān)系，一般來(lái)說(shuō)，身高越高，其腿越長(zhǎng)，但身高相同的兩個(gè)人的腿長(zhǎng)不一定相等；同樣腿長(zhǎng)一樣的兩個(gè)人的身高也未必一樣，X與Y是一個(gè)隨機(jī)變量。 農(nóng)作物的畝產(chǎn)量與施肥量、身高與腿長(zhǎng)之間的這種關(guān)系稱

40、為相關(guān)關(guān)系。在這些變量中，施肥量、年齡是可控變量，畝產(chǎn)量、血壓是不可控變量。一般在討論相關(guān)關(guān)系問(wèn)題中，可控變量稱為自變量，不可控變量稱為因變量。方差分析與回歸分析方差分析與回歸分析 相關(guān)關(guān)系的檢驗(yàn)相關(guān)關(guān)系的檢驗(yàn)在概率論中，我們已經(jīng)學(xué)過(guò)兩個(gè)隨機(jī)變量線性相關(guān)性強(qiáng)弱可利用相關(guān)系數(shù)來(lái)衡量。在已知隨機(jī)變量二階矩的情況下，兩個(gè)隨機(jī)變量間的相關(guān)系數(shù)為)()(),(YDXDyxCovXY樣本相關(guān)系數(shù)niiniiniiinnyyxxyyxxryxyxyxnYXDef121212211)()()(),( ,),(),(),(樣本相關(guān)系數(shù)。，則下式規(guī)定的量稱為次獨(dú)立觀測(cè)結(jié)果為的設(shè)隨機(jī)向量方差分析與回歸分析方差分析與

41、回歸分析)2()2()2()2()2/()1 ()2()2()2/()1 (0:),(22222220ntnntrPntnrrPntntnrrHYXrXYXY使得下式成立：，可找到對(duì)于給定小概率有成立下，假設(shè)服從正態(tài)分布，在統(tǒng)計(jì)果的矩估計(jì)量。如是相關(guān)系數(shù)不難證明樣本相關(guān)系數(shù)方差分析與回歸分析方差分析與回歸分析系不明顯。線性相關(guān)關(guān)與，說(shuō)明隨機(jī)變量，則接受之，當(dāng)樣本實(shí)現(xiàn)使得線性相關(guān)關(guān)系明顯；反與機(jī)變量，說(shuō)明隨，則否定所以，當(dāng)樣本實(shí)現(xiàn)使得于是有引入記號(hào)YXHnrrYXHnrrnrrPntnntnr00222)2()2()2(.)2()2()2()2(利用樣本相關(guān)系數(shù)檢驗(yàn)線性相關(guān)性，做判定。與比較，查

42、對(duì)于給定的計(jì)算樣本相關(guān)系數(shù))2(. 3);2(. 2;. 1nrrnrr方差分析與回歸分析方差分析與回歸分析例例8.58.5 某項(xiàng)研究需了解水稻品種播種至齊穗的天數(shù)x與播種至齊穗的總積溫y之間是否有關(guān)系，實(shí)測(cè)如下數(shù)據(jù)，試以此數(shù)據(jù)檢驗(yàn)x與y的線性相關(guān)性強(qiáng)弱。 xi70.067.055.052.051.052.051.060.064.0yi1616.31610.91440.01440.71423.31471.31421.81547.11533.0線性相關(guān)顯著。與，說(shuō)明，由于查，從而樣本相關(guān)系數(shù)為解：計(jì)算樣本相關(guān)系數(shù)YXnrrrryyxxyyxxiiiiiii)2(798. 0)29(9594. 0

43、07.4906800.44420.447820.4478)(70.49068)(00.444)(01. 091912912方差分析與回歸分析方差分析與回歸分析每月家庭可每月家庭可支配收入支配收入X X800 1100 1400 1700 2000 2300 2600 2900 3200 3500每月消費(fèi)支出Y561 638 869 1023 1254 1408 1650 1969 2090 2299594 748 913 1100 1309 1452 1738 1991 2134 2321627 814 924 1144 1364 1551 1749 2046 2178 2530638 847

44、 979 1155 1397 1595 1804 2068 2266 2629 935 1012 1210 1408 1650 1848 2101 2345 2860 某社區(qū)家庭每月可支配收入和消費(fèi)統(tǒng)計(jì)表某社區(qū)家庭每月可支配收入和消費(fèi)統(tǒng)計(jì)表引例引例8.6回歸分析回歸分析方差分析與回歸分析方差分析與回歸分析回歸關(guān)系與回歸分析回歸關(guān)系回歸關(guān)系在相關(guān)關(guān)系中，如果關(guān)心的是容易測(cè)定或控制變量X對(duì)變量Y的決定作用大小，將X看成一個(gè)普通變量，這時(shí)變量X與Y之間就成為回歸關(guān)系?；貧w模型回歸模型如果普通變量x與隨機(jī)變量Y具有回歸關(guān)系，則Y除過(guò)受變量x的作用以外，還受到控制不嚴(yán)格和未知因素的作用。所以，x與Y應(yīng)滿

45、足關(guān)系式)(xgY。隨機(jī)誤差，一般的干擾作用。稱為意外因素對(duì)隨機(jī)變量反映了數(shù)，回歸函決定作用的大小，稱為對(duì)隨機(jī)變量反映了變量的回歸模型。其中對(duì)普通變量該式稱為隨機(jī)變量2)(, 0)()(DEYxYxxgxY方差分析與回歸分析方差分析與回歸分析對(duì)于回歸模型，顯然有2)(),()(YDxgxYE的回歸方程。對(duì)普通變量，稱為隨機(jī)變量令xYxgy)(Yx回歸方程反映了因變量回歸方程反映了因變量 隨自變量隨自變量 的變化而變化的變化而變化的平的平均變化情況均變化情況。xy()fy x1x2x3x()E Y x下圖展示：觀地用之間的回歸關(guān)系，可直對(duì)普通變量隨機(jī)變量xY方差分析與回歸分析方差分析與回歸分析回

46、歸模型分類回歸模型分類;( )( )xxkkg xg x如果 是一個(gè)變量，則稱回歸模型為如果 是 維向量，則稱回歸模型為如果是變量的線性函數(shù)，則稱回歸模型為；如果是變量的非線性一元回歸模型元回歸模型。線性函數(shù)，則稱回歸回歸模型曲線回模型為歸模型?；貧w分析回歸分析研究一個(gè)隨機(jī)變量與一個(gè)或幾個(gè)可控變量之間回歸關(guān)系,從而找出回歸關(guān)系的模型，用于預(yù)測(cè)、優(yōu)化和控制，這種統(tǒng)計(jì)方法稱為回歸分析回歸分析?；貧w分析主要解決三個(gè)問(wèn)題：提供建立具有回歸關(guān)系的變量之間的數(shù)學(xué)關(guān)系式(稱為經(jīng)驗(yàn)公式)的一般方法；判別所建立的經(jīng)驗(yàn)公式是否有效，并從影響隨機(jī)變量的諸變量中判別哪些變量的影響是顯著的，哪些是不顯著；利用所得到的經(jīng)

47、驗(yàn)公式進(jìn)行預(yù)測(cè)和控制。方差分析與回歸分析方差分析與回歸分析一元線性回歸一元線性回歸模型一元線性回歸模型xYYxxY設(shè)普通變量 與隨機(jī)變量 共處同一系統(tǒng)中， 的取值隨的變化而變化，但 不能唯一確定 的取值，它們滿足下列關(guān)系式，并稱其為線歸一元性回模型：xY10201(0,)N其中，為未知常數(shù)，稱為； 為服從的隨機(jī)變量，稱為隨機(jī)誤差。歸數(shù)回系回歸模型，顯然有：，稱其為回歸方程。由令xy10),(21010 xNxY方差分析與回歸分析方差分析與回歸分析一元線性經(jīng)驗(yàn)回歸方程及其建立一元線性經(jīng)驗(yàn)回歸方程及其建立各對(duì)象觀測(cè)的樣本：中隨機(jī)抽取性回歸模型。從該系統(tǒng)滿足一元線與隨機(jī)變量通變量設(shè)共處同一系統(tǒng)中的普

48、nYx),( ,),( ,),(),(2211nniiyxyxyxyx為經(jīng)驗(yàn)回歸系數(shù)。其為經(jīng)驗(yàn)回歸方程，稱。稱的估計(jì)式就可以得到回歸方程，那么，的估計(jì)回歸系數(shù)如果能由樣本出發(fā)建立1010101010,xyxy。值影響。以后將簡(jiǎn)其為以外因素對(duì)變量反映變量稱為剩余離差平方和，其中QYxxyQQniii12101010),(10)(),(),(minarg),(10最小二乘法最小二乘法( (The least square method) )方差分析與回歸分析方差分析與回歸分析yxoyxo01()iiyxixxy,iix y方差分析與回歸分析方差分析與回歸分析0112()0niiiyx 1Q 201

49、011(,)()niiiQyx 0Q 0112()0niiiiyx x 011011()0()0niiiniiiiyxyx x 方差分析與回歸分析方差分析與回歸分析011()niiiyx 011110nnniiiiiyx01110nniiiiynx1011nniiiiyxn101111nniiiiyxnn01yx011()0niiiyx 方差分析與回歸分析方差分析與回歸分析2011110nnni iiiiiiy xxx 011()niiiiyx x 2111110nnni iiiiiiy xyxxx 21111110nnnni iiiiiiiiy xyxxxx 21111110nnnni ii

50、iiiiiiy xyxxxx 2111111nnnni iiiiiiiiy xyxxxx 111211nni iiiinniiiiy xyxxxx 11221niiiniix ynxyxnx 方差分析與回歸分析方差分析與回歸分析010101112()02()0niiiniiiiQyxQyx x 1112221101()()()nniiiiiinniiiixxyyx ynxyxxxnxyx 化簡(jiǎn)求解得niiniiynyxnx111,1其中 1niiiiix yx yxyxy 1niiix ynxy 1111nnnniiiiiiiix yx yxyxy1()()niiixxyy =方差分析與回歸分

51、析方差分析與回歸分析112101()()()niiiniixxyyxxyx22111() ,() ,()()nnnxxiyyixyiiiiiLxxLyyLxxyy令101xyxxLLyx方差分析與回歸分析方差分析與回歸分析 某企業(yè)對(duì)車間某企業(yè)對(duì)車間9名學(xué)徒工進(jìn)行調(diào)查，得到學(xué)徒工與每天產(chǎn)量名學(xué)徒工進(jìn)行調(diào)查，得到學(xué)徒工與每天產(chǎn)量情況如下表，要求建立以日產(chǎn)量為因變量的回歸方程。情況如下表，要求建立以日產(chǎn)量為因變量的回歸方程。引例引例8.7回歸分析回歸分析編號(hào)123456789學(xué)徒期（年）0.5111.52222.52.5日產(chǎn)量（件）5080100130150170180220240方差分析與回歸分析

52、方差分析與回歸分析建立經(jīng)驗(yàn)回歸方程 01yx確定回歸系數(shù) 和 ： 01編號(hào)編號(hào)123456789x0.5111.52222.52.515y50801001301501701802202401320 x20.25112.254446.256.2529xy25801001953003403605506002550方差分析與回歸分析方差分析與回歸分析所以，所求的經(jīng)驗(yàn)回歸方程為 87.50.83yx0113201587.50.8399yx 11221niiiniix ynxyxnx 2151320255093509987.54152999 方差分析與回歸分析方差分析與回歸分析一元線性回歸有關(guān)檢驗(yàn)一元線

53、性回歸有關(guān)檢驗(yàn)離差平和分解離差平和分解21()niiUyy回歸離差平方和21()niiiQyy剩余離差平方和yyLUQ21()nyyiiLyy總離差平方和方差分析與回歸分析方差分析與回歸分析ixiyiyyiyyiiyy01 yxyxy離差平方和的分解離差平方和的分解方差分析與回歸分析方差分析與回歸分析 22iiiiyyyyyy 2211nniiiiiiyyyyyy221112nnniiiiiiiiiyyyyyyyy2211nniiiiiyyyy。，其中相應(yīng)自由度分解為：式為：從而，離差平方和分解2, 1, 1nffnffffQULQUyyQUyyyy iiiiyyyyyy方差分析與回歸分析方差

54、分析與回歸分析2221111()()nniixxiiUyyyxxyL2211122111()()2nniiiiiiyyxxxyyyxxyyQyyyyxxLLLLLLUyyLUQ方差分析與回歸分析方差分析與回歸分析回歸顯著性檢驗(yàn)回歸顯著性檢驗(yàn)).2(/) 1 (/,. 0:; 0:222201110nQUQUHYxHHYx，相互獨(dú)立，且與明成立條件下，可以證滿足線性回歸模型，在變量驗(yàn)統(tǒng)計(jì)假設(shè)線性回歸關(guān)系就是要檢是否客觀存在與隨機(jī)變量量共處同一系統(tǒng)中普通變F檢驗(yàn)檢驗(yàn).)2, 1 ()2, 1 ()2/(00HnFFnFnQUFH，拒絕下，如果于是，在檢驗(yàn)水平成立，則有：如果T檢驗(yàn)檢驗(yàn).)2()2()2(/02/10HntTntLnQTHxx，拒絕下，如果于是，在檢驗(yàn)水平成立，則有：如果方差