多元回歸分析與協(xié)方差分析

多元回歸分析與協(xié)方差分析第1頁，共11頁，2023年，2月20日，星期四１．多元線性回歸模型

Y=β0+β1X1+β2X2+...+βpXm+ε

其中X1、X2、……Xm為ｍ個自變量(即影響因素)；β0、β1、β2、……βm為ｍ+1個總體回歸參數(shù)(也稱為回歸系數(shù))；ε為隨機(jī)誤差。

當(dāng)研究者通過試驗獲得了(X1，X2，…，Xm，Y)的ｎ組樣本值后，運用最小平方法便可求出上式中各總體回歸參數(shù)的估計值b0、b1、b2、……bm，于是，多元線性回歸模型變成了多元線性回歸方程式。

Y=b0+b1X1+b2X2+...+bpXm

第2頁，共11頁，2023年，2月20日，星期四２．回歸分析的任務(wù)

多元回歸分析的任務(wù)就是用數(shù)理統(tǒng)計法估計出各回歸參數(shù)的值及其標(biāo)準(zhǔn)誤差；對各回歸參數(shù)和整個回歸方程作假設(shè)檢驗；對各回歸變量(即自變量)的作用大小作出評價；并利用已求得的回歸方程對因變量進(jìn)行預(yù)測、對自變量進(jìn)行控制等等。第3頁，共11頁，2023年，2月20日，星期四３．標(biāo)準(zhǔn)回歸系數(shù)及其意義因為各bi的值受各變量單位的影響。為便于比較，需要求出標(biāo)準(zhǔn)化回歸系數(shù)，消除僅由單位不同所帶來的差別。

設(shè)∶與一般回歸系數(shù)bi對應(yīng)的標(biāo)準(zhǔn)化回歸系數(shù)為Bi，則Bi=biSXi/SY式中的SXi、SY分別為自變量Xi和Y的標(biāo)準(zhǔn)差。

一般認(rèn)為標(biāo)準(zhǔn)化回歸系數(shù)的絕對值越大，所對應(yīng)的自變量對因變量的影響也就越大。但是，當(dāng)自變量彼此相關(guān)時，回歸系數(shù)受模型中其他自變量的影響，解釋標(biāo)準(zhǔn)化回歸系數(shù)時必須采取謹(jǐn)慎的態(tài)度。當(dāng)然，更為妥善的辦法是通過回歸診斷，了解哪些自變量之間有嚴(yán)重的多重共線性，從而，舍去其中作用較小的變量，使保留下來的所有自變量之間盡可能互相獨立。

第4頁，共11頁，2023年，2月20日，星期四４．自變量為定性變量的數(shù)量化法設(shè)某定性變量有ｋ個水平(如ABO血型系統(tǒng)有４個水平),若分別用１、２、…、ｋ代表ｋ個水平的取值，是不夠合理的。因為這隱含著承認(rèn)各等級之間的間隔是相等的，其實質(zhì)是假定該因素的各水平對因變量的影響作用幾乎是相同的。

比較妥當(dāng)?shù)淖龇ㄊ且耄耄眰€啞變量(DummyVariables),每個啞變量取值為０或１?，F(xiàn)以ABO血型系統(tǒng)為例，說明產(chǎn)生啞變量的具體法。

當(dāng)某人為A型血時，令X1=1、X2=X3=0；當(dāng)某人為B型血時，令X2=1、X1=X3=0；當(dāng)某人為AB型血時，令X3=1、X1=X2=0；當(dāng)某人為O型血時，令X1=X2=X3=0。

第5頁，共11頁，2023年，2月20日，星期四５．變量篩選

研究者根據(jù)專業(yè)知識和經(jīng)驗所選定的全部自變量并非對因變量都是有顯著性影響的,故篩選變量是回歸分析中不可回避的問題。然而，篩選變量的方法很多，詳見本章第３節(jié)，這里先介紹最常用的一種變量篩選法──逐步篩選法。

模型中的變量從無到有，根據(jù)F統(tǒng)計量按SLENTRY的值(選變量進(jìn)入方程的顯著性水平)決定該變量是否入選；當(dāng)模型選入變量后，再根據(jù)F統(tǒng)計量按SLSTAY的值(將方程中的變量剔除出去的顯著性水平)剔除各不顯著的變量，依次類推。這樣直到?jīng)]有變量可入選,也沒有變量可剔除或入選變量就是剛剔除的變量，則停止逐步篩選過程。第6頁，共11頁，2023年，2月20日，星期四６．回歸診斷自變量之間如果有較強(qiáng)的相關(guān)關(guān)系，就很難求得較為理想的回歸方程；若個別觀測點與多數(shù)觀測點偏離很遠(yuǎn)或因過失誤差(如抄寫或輸入錯誤所致)，它們也會對回歸方程的質(zhì)量產(chǎn)生極壞的影響。對這兩面的問題進(jìn)行監(jiān)測和分析的法，稱為回歸診斷。前者屬于共線性診斷問題；后者屬于異常點診斷問題。第7頁，共11頁，2023年，2月20日，星期四第３章協(xié)方差分析１．什么是協(xié)方差分析

協(xié)方差分析是將回歸分析與方差分析結(jié)合起來使用的一種分析法。在這種分析中，先將定量的影響因素(即難以控制的因素)看作自變量，或稱為協(xié)變量，建立因變量隨自變量變化的回歸方程,這樣就可以利用回歸方程把因變量的變化中受不易控制的定量因素的影響扣除掉，從而,能夠較合理地比較定性的影響因素處在不同水平下，經(jīng)過回歸分析手段修正以后的因變量的總體均數(shù)之間是否有顯著性的差別，這就是協(xié)方差分析解決問題的基本思想。第8頁，共11頁，2023年，2月20日，星期四２．協(xié)方差分析的模型設(shè)定性的影響因素為A、B、C等,它們之間的交互作用為A*B、A*C等；定量的影響因素為X或X1、X2、…；定量的觀測結(jié)果(即因變量)為Y，則有∶

(1)單因素ｋ水平設(shè)計的協(xié)方差分析模型為∶MODELY=X

A/SS3;

(2)配伍組設(shè)計的協(xié)方差分析模型為∶MODELY=X

A

B

/SS3;

(3)兩因素析因設(shè)計的協(xié)方差分析模型為∶MODELY=X

A

B

A*B

/SS3;

第9頁，共11頁，2023年，2月20日，星期四３．協(xié)方差分析的應(yīng)用條件

理論上要求各組資料都來自方差相同的正態(tài)總體；各組的總體直線回歸系數(shù)相等，且都不為０。因此，嚴(yán)格地說，在對資料作協(xié)方差分析之前，應(yīng)先對這兩