多元線性回歸與相關(guān)

多元線性回歸與相關(guān)第一頁(yè)，共四十四頁(yè)，2022年，8月28日多元回歸——研究?jī)蓚€(gè)或兩個(gè)以上的自變量對(duì)依變量的影響，并找出它們的聯(lián)系形式。多元線性回歸——方程次數(shù)為1；多元回歸多元非線性回歸——方程次數(shù)不為1。多元線性回歸模型：其中，——回歸估計(jì)值xi——自變量b0——常數(shù)項(xiàng)bi——偏回歸系數(shù)，表示當(dāng)其它變量保持不變時(shí)，xi改變一個(gè)單位而引起y所改變的單位數(shù)。第二頁(yè)，共四十四頁(yè)，2022年，8月28日第一節(jié)多元線性回歸分析第三頁(yè)，共四十四頁(yè)，2022年，8月28日第四頁(yè)，共四十四頁(yè)，2022年，8月28日二元線性回歸模型(觀察到的y)回歸面0ix1yx2(x1,x2)}第五頁(yè)，共四十四頁(yè)，2022年，8月28日第六頁(yè)，共四十四頁(yè)，2022年，8月28日多元線性回歸方程的計(jì)算第七頁(yè)，共四十四頁(yè)，2022年，8月28日化簡(jiǎn)后得：第八頁(yè)，共四十四頁(yè)，2022年，8月28日第九頁(yè)，共四十四頁(yè)，2022年，8月28日第十頁(yè)，共四十四頁(yè)，2022年，8月28日第十一頁(yè)，共四十四頁(yè)，2022年，8月28日第十二頁(yè)，共四十四頁(yè)，2022年，8月28日多元線性回歸關(guān)系的顯著性檢驗(yàn)（F測(cè)驗(yàn)）H0：=0HA：不全為零。（i＝1、2、…m）劃分式：SSy＝SS回＋SS離dfy＝df回＋df離其中，dfy＝n－1

df回＝mSS離＝SSy－SS回df離＝dfy－df回＝n－m－1第十三頁(yè)，共四十四頁(yè)，2022年，8月28日其中，

叫做多元線性回歸估計(jì)標(biāo)準(zhǔn)誤第十四頁(yè)，共四十四頁(yè)，2022年，8月28日上例，已知：SSy=7074.3077n=13m=2SP1y=472.9077SP2y=18.4154

b1=12.4164b2=4.6822解：dfy=n－1=12SS回=b1SP1y+b2SP2y=5958.0409

df回=m=2SS離=SSy－SS回=7074.3077－5958.0409=1116.2668

df離=n－m－1=10第十五頁(yè)，共四十四頁(yè)，2022年，8月28日因?yàn)镕>F0.01(2,10)，所以，否定H0，推斷回歸關(guān)系極顯著。第十六頁(yè)，共四十四頁(yè)，2022年，8月28日偏回歸系數(shù)的顯著性檢驗(yàn)H0：＝0HA：≠0㈠F測(cè)驗(yàn)：偏回歸平方和偏回歸自由度dfi＝1第十七頁(yè)，共四十四頁(yè)，2022年，8月28日上例，已知：b1=12.4164b2=4.6822C22=0.0258805C33=0.0069425

df離=11第十八頁(yè)，共四十四頁(yè)，2022年，8月28日b1的檢驗(yàn)：

b2的檢驗(yàn)：結(jié)論：x1對(duì)y的影響極顯著；x2對(duì)y的影響極顯著。第十九頁(yè)，共四十四頁(yè)，2022年，8月28日㈡t測(cè)驗(yàn)：∵dfi＝1，∴

其中，叫做偏回歸系數(shù)標(biāo)準(zhǔn)誤。第二十頁(yè)，共四十四頁(yè)，2022年，8月28日上例，

df=15－3－1=11結(jié)論同上。第二十一頁(yè)，共四十四頁(yè)，2022年，8月28日第二十二頁(yè)，共四十四頁(yè)，2022年，8月28日第二十三頁(yè)，共四十四頁(yè)，2022年，8月28日自變數(shù)的相對(duì)重要性

偏回歸系數(shù)bi本身并不能反映自變數(shù)的相對(duì)重要性，其原因有二：①bi是帶有具體單位的，單位不同則無(wú)從比較；②即使單位相同，若Xi的變異度不同，也不能比較。

第二十四頁(yè)，共四十四頁(yè)，2022年，8月28日對(duì)bi進(jìn)行標(biāo)準(zhǔn)化，即在分子和分母分別除以Y和Xi的標(biāo)準(zhǔn)差，就可消除單位和變異度不同的影響，獲得一個(gè)表示Xi對(duì)Y相對(duì)重要性的統(tǒng)計(jì)數(shù)—通徑系數(shù)(pathcoefficient，記作pi)，又稱標(biāo)準(zhǔn)偏回歸系數(shù)。第二十五頁(yè)，共四十四頁(yè)，2022年，8月28日=1.3171=0.9576[例10.7]表10.1資料已在例10.1中獲得了最優(yōu)二元線性回歸方程，試計(jì)算每畝穗數(shù)和每穗粒數(shù)對(duì)y的通徑系數(shù)。

第二十六頁(yè)，共四十四頁(yè)，2022年，8月28日自變量的剔除

剔除原則：1.逐個(gè)剔除2.從偏回歸平方和最小者剔除起。方法：每剔除一個(gè)自變量后，應(yīng)重新建立降一元的線性回歸方程，并對(duì)該方程再進(jìn)行各偏回歸系數(shù)的顯著性檢驗(yàn)。若還有不顯著者，必須按剔除原則再進(jìn)行剔除，剔除后，還應(yīng)重復(fù)上述過(guò)程，直到保留在方程中的所有偏回歸系數(shù)都顯著為止。此時(shí)的方程為相對(duì)最佳方程。第二十七頁(yè)，共四十四頁(yè)，2022年，8月28日多元線性回歸分析的完整步驟：第一步求一、二級(jí)統(tǒng)計(jì)數(shù)，建立正規(guī)方程組。第二步解正規(guī)方程組，建立多元線性回歸方程。第三步作回歸關(guān)系的顯著性檢驗(yàn)。第四步作偏回歸系數(shù)的顯著性檢驗(yàn)。第五步剔除不顯著的自變量。其中前三步是每次必作，第四步是在第三步顯著時(shí)才作；第五步是在第四步發(fā)現(xiàn)有不顯著的自變量時(shí)才作。第二十八頁(yè)，共四十四頁(yè)，2022年，8月28日第二十九頁(yè)，共四十四頁(yè)，2022年，8月28日第三十頁(yè)，共四十四頁(yè)，2022年，8月28日

研究一個(gè)依變量與多個(gè)自變量之間的聯(lián)系程度的方法。定義：復(fù)相關(guān)系數(shù)∵0≤SS回≤SSy∴0≤R≤1一般R→1，表明y與所有xi關(guān)系密切；R→0，表明y與所有xi關(guān)系不密切。第三十一頁(yè)，共四十四頁(yè)，2022年，8月28日復(fù)相關(guān)系數(shù)的顯著性檢驗(yàn)（F測(cè)驗(yàn)）：H0：HA：第三十二頁(yè)，共四十四頁(yè)，2022年，8月28日復(fù)相關(guān)系數(shù)的F測(cè)驗(yàn)與多元線性回歸關(guān)系的F測(cè)驗(yàn)是等價(jià)的：第三十三頁(yè)，共四十四頁(yè)，2022年，8月28日另外，復(fù)相關(guān)系數(shù)的顯著性檢驗(yàn)也可以將R直接與表10的Rα值相比較來(lái)作統(tǒng)計(jì)推斷。查表所用自由度df離＝n－m－1，變量個(gè)數(shù)為M＝m＋1。第三十四頁(yè)，共四十四頁(yè)，2022年，8月28日二、偏相關(guān)(一)偏相關(guān)系數(shù)偏相關(guān)系數(shù)：表示在其它M-2個(gè)變數(shù)都保持一定時(shí)，指定的兩個(gè)變數(shù)間相關(guān)的密切程度。偏相關(guān)系數(shù)以r帶右下標(biāo)表示。如有X1、X2、X33個(gè)變數(shù)，則r12·3表示X3變數(shù)保持一定時(shí)，X1和X2變數(shù)的偏相關(guān)系數(shù)；第三十五頁(yè)，共四十四頁(yè)，2022年，8月28日若有M個(gè)變數(shù)，則偏相關(guān)系數(shù)共有M(M-1)/2個(gè)。偏相關(guān)系數(shù)的取值范圍是[-1，1]。偏相關(guān)系數(shù)解法是：由簡(jiǎn)單相關(guān)系數(shù)rij(i，j=1，2，…，M)組成的相關(guān)矩陣：

第三十六頁(yè)，共四十四頁(yè)，2022年，8月28日求得其逆矩陣：令xi和xj的偏相關(guān)系數(shù)為rij·

，解得后即有

rij·（10·18）第三十七頁(yè)，共四十四頁(yè)，2022年，8月28日第三十八頁(yè)，共四十四頁(yè)，2022年，8月28日偏相關(guān)系數(shù)的計(jì)算用粘帖函數(shù)MINVERSE計(jì)算出相關(guān)系數(shù)矩陣的逆矩陣第三十九頁(yè)，共四十四頁(yè)，2022年，8月28日㈡偏相關(guān)系數(shù)的顯著性檢驗(yàn)（t測(cè)驗(yàn)）：H0：HA：t測(cè)驗(yàn)：

偏相關(guān)系數(shù)標(biāo)準(zhǔn)誤第四十頁(yè)，共四十四頁(yè)，2022年，8月28日查臨界t值的自由度df＝n－M（M——所研究的變量個(gè)數(shù)）另外，偏相關(guān)系數(shù)的顯著性檢驗(yàn)也可以將偏相關(guān)系數(shù)直接與表10的臨界r值相比較來(lái)作統(tǒng)計(jì)推斷。查表所用自由度df＝n－M，變量個(gè)數(shù)為2。第四十一頁(yè)，共四十四頁(yè)，2022年，8月28日上例，ry1.2=0.9177**ry2.1=0.8592**r12.y=－0.9343**由df＝n－M＝13－3＝10，變量個(gè)數(shù)為2查表10得r0.05（10，2）＝0.576，r0.01（10，2）＝0.708結(jié)果見(jiàn)上。

第四十二頁(yè)，共四十四頁(yè)，2022年，8月28日ry1.2=0.9177**表明當(dāng)每穗粒數(shù)x2保持不變時(shí)，每畝穗數(shù)x1與畝產(chǎn)量y之間具有極顯著的正相關(guān)。即每畝穗數(shù)愈多，畝產(chǎn)量愈高。ry2.1=0.8592**表明當(dāng)每畝穗數(shù)x1保持不變時(shí)，每穗粒數(shù)x2與畝產(chǎn)量y之間具有極顯著的正相關(guān)。即每穗粒數(shù)愈多，畝產(chǎn)量愈高。r12.y=－0.9343**表明當(dāng)畝產(chǎn)量y保持不變時(shí)，每畝穗數(shù)x1與每穗粒數(shù)x3之間具有極顯著的負(fù)相關(guān)。即每畝穗數(shù)愈多，每穗粒數(shù)愈少。第四十三頁(yè)，共四十四頁(yè)，20