第7章相關(guān)與線性回歸-正式課件

1、第第7章章 相關(guān)與線性回歸分析相關(guān)與線性回歸分析 一一元線性相關(guān)和回歸分析元線性相關(guān)和回歸分析在科學(xué)研究和生產(chǎn)實(shí)踐中，經(jīng)常要進(jìn)行兩類變量間關(guān)系的分析，例如仔畜的初生重與斷奶重、飼料的營(yíng)養(yǎng)濃度與畜禽增重速度的關(guān)系。相關(guān)與回歸分析相關(guān)與回歸分析用于相關(guān)和線性回歸分析的SAS過程主要有三個(gè)： CORR過程僅用于相關(guān)分析， REG和GLM過程主要進(jìn)行回歸分折，REG過程在進(jìn)行回歸分析的同時(shí)，還可通過相應(yīng)的選項(xiàng)計(jì)算出變量間的相關(guān)系數(shù)。第第1節(jié)節(jié) 相關(guān)與線性回歸分析相關(guān)與線性回歸分析 簡(jiǎn)介簡(jiǎn)介第第2節(jié)節(jié) 相關(guān)分析相關(guān)分析 一、相關(guān)分析的概念（correlation analysis）研究變量間的相關(guān)性質(zhì)及

2、其密切程度。變量間的關(guān)系是平行的或相互制約、不分主次的。例如個(gè)體某一階段的體高與體重的關(guān)系等。第第2節(jié)節(jié) 相關(guān)分析相關(guān)分析在兩個(gè)變量中，當(dāng)一個(gè)變量的數(shù)值增大或減少時(shí)，另一個(gè)變量也會(huì)相應(yīng)地隨之增大或減少，且這種增大或減少在一定范圍內(nèi)呈現(xiàn)一定的比例，則表示兩個(gè)變量間存在著線性相關(guān)的關(guān)系。兩個(gè)線性相關(guān)變量之間的相關(guān)性質(zhì)和密切程度，通常用相關(guān)系數(shù)r（correlation coefficient）的正負(fù)及其大小來衡量。若：-1 r0 負(fù)相關(guān) r=0 零相關(guān)（不相關(guān)） 0 r 1 正相關(guān) 線性相關(guān)線性相關(guān)分析的主要工作就是計(jì)算出變量間的相關(guān)系分析的主要工作就是計(jì)算出變量間的相關(guān)系數(shù)并對(duì)其顯著性進(jìn)行檢驗(yàn)數(shù)

3、并對(duì)其顯著性進(jìn)行檢驗(yàn)。 二、用于相關(guān)分析的SAS過程CORR過程過程1、 CORR過程的調(diào)用格式 PROC CORR 選項(xiàng)；選項(xiàng)； VAR 變量名表；變量名表； WITH 變量名表；變量名表； PARTIAL 變量名表變量名表；當(dāng)進(jìn)行普通相關(guān)分析時(shí)，只有PROC CORR語(yǔ)句是必須的，當(dāng)進(jìn)行偏相關(guān)分析時(shí)，PARTIAL語(yǔ)句也是必須的。其他語(yǔ)句都是可選擇性的。第第2節(jié)節(jié) 相關(guān)分析相關(guān)分析2、語(yǔ)句、語(yǔ)句說明說明PROC CORR語(yǔ)句 該語(yǔ)句用于調(diào)用CORR過程進(jìn)行相關(guān)分析，其常用的選項(xiàng)主要包括：PEARSON 計(jì)算通常的Pearson相關(guān)系數(shù)，即直線相關(guān)系數(shù)，缺省時(shí)系統(tǒng)會(huì)默認(rèn)計(jì)算出該相關(guān)系數(shù)。Sp

4、earman 計(jì)算Spearman等級(jí)相關(guān)系數(shù)（或秩相關(guān)系數(shù)）。NOSIMPLE 取消打印每個(gè)變量的描述性統(tǒng)計(jì)量（如平均數(shù)、標(biāo)準(zhǔn)差等）。如果該項(xiàng)缺省，則會(huì)打印出每個(gè)分析變量的基本統(tǒng)計(jì)量。 第第2節(jié)節(jié) 相關(guān)分析相關(guān)分析（2）VAR語(yǔ)句用于指明所要分析的變量，如果缺省，則系統(tǒng)默認(rèn)對(duì)其他語(yǔ)句中沒有提及的所有數(shù)值型變量進(jìn)行分析。（3）WITH語(yǔ)句用于設(shè)定放在左邊的變量，與VAR語(yǔ)句配合使用，此時(shí)VAR語(yǔ)句的變量間和WITH語(yǔ)句的變量間相關(guān)系數(shù)不給出，只輸出VAR變量和WITH變量間的相關(guān)系數(shù)。如果該語(yǔ)句缺省，系統(tǒng)會(huì)計(jì)算VAR語(yǔ)句中的所有變量之間的兩兩相關(guān)系數(shù)。 3、結(jié)果結(jié)果輸出輸出CORR過程在執(zhí)行后

5、，其輸出的結(jié)果包括簡(jiǎn)單統(tǒng)計(jì)量、相關(guān)系數(shù)及顯著性檢驗(yàn)。 第第2節(jié)節(jié) 相關(guān)分析相關(guān)分析 4、實(shí)例應(yīng)用分析、實(shí)例應(yīng)用分析【例7.1】某地方病研究所調(diào)查了8名正常兒童的尿肌酐含量（mmol/24h）如表7-1，試分析尿肌酐含量與年齡之間的相關(guān)關(guān)系。第第2節(jié)節(jié) 相關(guān)分析相關(guān)分析編號(hào)12345678年齡131195810127尿肌酐含量3.543.013.092.482.563.363.182.65本例年齡與尿肌酐含量假定為雙變量正態(tài)分布，可通過計(jì)算線性相關(guān)系數(shù)表示該兩變量間的相關(guān)關(guān)系。程序程序7-1DATA EX7_1;INPUT X Y ;CARDS;13 3.54 11 3.01 9 3.09 6

6、2.48 8 2.56 10 3.36 12 3.18 7 2.65;PROC CORR;VAR X Y;RUN第第2節(jié)節(jié) 相關(guān)分析相關(guān)分析本例r=0.88177, p=0.0038，p0.05,說明兩變量間存在正相關(guān)關(guān)系。第第3節(jié)節(jié) 回歸分析回歸分析一、回歸分析概念（一、回歸分析概念（regression analysis）回歸分析是通過建立回歸方程來揭示變量間的回歸關(guān)系，并據(jù)此從自變量的變化去估測(cè)因變量的變化?；貧w分析中變量有自變量和因變量之分，一般將獨(dú)立變化的變量叫做自變量（independent variable），依賴自變量變化的變量稱為因變量或依變量（dependent varia

7、ble）。如家畜的生長(zhǎng)速度受營(yíng)養(yǎng)和飼養(yǎng)管理水平等因素的影響。二、回歸分析種類二、回歸分析種類（根據(jù)所涉及自變量數(shù)目的多少）一元回歸或直線回歸（linear regression）：只研究?jī)蓚€(gè)變量間。多元回歸（multiple regression）：涉及到多個(gè)自變量的回歸。三、回歸分析涉及以下幾方面內(nèi)容：三、回歸分析涉及以下幾方面內(nèi)容：1、估計(jì)估計(jì)。估計(jì)與方程有關(guān)的未知參數(shù)，并檢驗(yàn)對(duì)于這些參數(shù)所做的統(tǒng)計(jì)假設(shè)，建立相應(yīng)的回歸模型2、預(yù)報(bào)預(yù)報(bào)。用所得的回歸方程對(duì)自變量的一組值估計(jì)因變量的值（點(diǎn)/區(qū)間估計(jì)）3、自變量選擇自變量選擇。從可能對(duì)因變量Y有影響的一組自變量中，挑選出對(duì)Y有影響的變量，剔除影

8、響不大的變量，或按某一標(biāo)準(zhǔn)，建立最優(yōu)的回歸方程4、模型診斷模型診斷。檢查數(shù)據(jù)、回歸方程、統(tǒng)計(jì)推斷方法中可能存在的問題，建立較合理的、穩(wěn)健的模型.第第3節(jié)節(jié) 回歸分析回歸分析四、建立回歸方程的應(yīng)用：四、建立回歸方程的應(yīng)用：1、描述描述。描述某種現(xiàn)象與其影響因素的數(shù)量依存關(guān)系。例如，某疾病發(fā)病率與氣溫、濕度的關(guān)系。2、預(yù)測(cè)預(yù)測(cè)。把預(yù)報(bào)因子（自變量）代入回歸方程對(duì)預(yù)報(bào)量（因變量）及其波動(dòng)范圍進(jìn)行估計(jì)。3、控制控制?；貧w方程逆運(yùn)算，即要求因變量在一定范圍內(nèi)波動(dòng)，可以通過調(diào)控自變量的取值來實(shí)現(xiàn)。五、線性回歸分析的五、線性回歸分析的SAS過程過程可采用REG和GLM兩個(gè)過程來完成。REG過程進(jìn)行一元或多元

9、回歸以及可線性化的非線性回歸分析，通過適當(dāng)?shù)倪x項(xiàng)還可計(jì)算出變量間的簡(jiǎn)單相關(guān)系數(shù)，即采用REG過程可同時(shí)完成線性相關(guān)和回歸分析。第第3節(jié)節(jié) 回歸分析回歸分析1、REG過程的調(diào)用格式過程的調(diào)用格式 PROC REG 選項(xiàng)；選項(xiàng)； MODEL 因變量因變量= 自變量選項(xiàng)；自變量選項(xiàng)； BY 變量； WEIGHT 變量； PRINT 選項(xiàng)； PLOT y 軸變量*x軸變量=符號(hào)； 上述語(yǔ)句中，PROC REG和MODEL語(yǔ)句是必須的，其他語(yǔ)句是可選擇性的。第第3節(jié)節(jié) 回歸分析回歸分析2、語(yǔ)句說明、語(yǔ)句說明lPROC REG語(yǔ)句語(yǔ)句 PROC REG 選項(xiàng)；選項(xiàng)；指明調(diào)用REG過程作回歸分析。其常用的選

10、項(xiàng)主要有： 數(shù)據(jù)集選項(xiàng) DATA=SAS數(shù)據(jù)集：指定分析數(shù)據(jù)集，如果缺省，則對(duì)最新創(chuàng)建的數(shù)據(jù)集進(jìn)行分析；OUTEST=SAS數(shù)據(jù)集，要求將參數(shù)估計(jì)和選擇的統(tǒng)計(jì)量輸出到SAS數(shù)據(jù)集中等。 結(jié)果輸出選項(xiàng)（CORR/SIMPLE） CORR：對(duì)在MODEL和VAR語(yǔ)句中列出的所有變量計(jì)算簡(jiǎn)單r，并輸出相關(guān)系數(shù)矩陣；SIMPLE：對(duì)用REG過程進(jìn)行分析的每個(gè)變量輸出所有觀測(cè)的總和、均值、標(biāo)準(zhǔn)差和平方和等簡(jiǎn)單統(tǒng)計(jì)量。第第3節(jié)節(jié) 回歸分析回歸分析lMODEL語(yǔ)句語(yǔ)句（1）功用：）功用：定義所用的回歸分析數(shù)學(xué)模型。在MODEL語(yǔ)句中出現(xiàn)的變量必須是用于分析的數(shù)據(jù)集中的數(shù)值型變量。如想考慮模型中X1的二次項(xiàng)，

11、不能在MODEL語(yǔ)句中使用XI*X1，而必須用DATA步驟產(chǎn)生一個(gè)新變量（如XISQUARE=X1*XI），然后再在MODEL語(yǔ)句中使用這個(gè)新變量。（2）MODEL語(yǔ)句常用的選項(xiàng)主要有：語(yǔ)句常用的選項(xiàng)主要有：SELECTION=模型選擇方法 用于規(guī)定選擇模型的方法，包括（共9種方法）：NONE（全回歸模型） STEPWISE（逐步回歸） FORWARD（逐個(gè)選入）BACKWARD（逐個(gè)剔除） MAXR（最大R2增量法） MINR（最小R2增量法）RSQUARE（所有可能的R2） CP（總平方誤差法） ADJRSQ（調(diào)整的R2法）其中在畜牧試驗(yàn)數(shù)據(jù)分析中，以前4種方法最為常用。該選項(xiàng)缺省時(shí)，模型

12、選擇方法為NONE。第第3節(jié)節(jié) 回歸分析回歸分析INCLUDE=n 指定列在MODEL語(yǔ)句中的前n個(gè)自變量必須包含在模型中，篩選變量的方法僅對(duì)MODEL語(yǔ)句中的其他變量進(jìn)行。當(dāng)使用SELECTION=NONE選項(xiàng)時(shí)，該選項(xiàng)無效。NOINT 取消通常包含在模型中的常數(shù)項(xiàng)（即截距）。SLENTRY（LSE）=概率值 對(duì)FORWARD和STEPWISE方法規(guī)定變量選入回歸模型里的顯著性水平。對(duì)FORWARD方法，其缺省值為0.05，而對(duì)STEPWISE方法則為0.15。第第3節(jié)節(jié) 回歸分析回歸分析第第3節(jié)節(jié) 回歸分析回歸分析SLSTAY（或SLS）=概率值 對(duì)BACKWARD和STEPWISE方法規(guī)

13、定變量保留在模型里的顯著水平。對(duì)BACKWARD方法而言，其缺省值為0.10，而STEPWISE方法則為0.15。結(jié)果輸出選項(xiàng)STB為標(biāo)準(zhǔn)偏回歸系數(shù)（即直接通徑系數(shù)）；CLM和CLI分別為條件總體平均數(shù)的置信區(qū)間和觀察值的預(yù)測(cè)區(qū)間；P為預(yù)測(cè)值；R為離回歸誤差分析；ALL為所有輸出項(xiàng)。lBY語(yǔ)句語(yǔ)句 指定分類變量，以便得到由BY變量定義的幾個(gè)觀測(cè)組的獨(dú)立分析。當(dāng)出現(xiàn)BY語(yǔ)句時(shí)，過程要求輸入數(shù)據(jù)事先已按BY變量進(jìn)行了排序。lWEIGHT語(yǔ)句語(yǔ)句 指定加權(quán)系數(shù)變量。lPRINT語(yǔ)句語(yǔ)句 打印分析結(jié)果。lPLOT語(yǔ)句語(yǔ)句 用于畫散點(diǎn)圖。3、 結(jié)果輸出結(jié)果輸出 REG過程輸出的結(jié)果包括方差分析過程及相關(guān)

14、的統(tǒng)計(jì)量，參數(shù)的估計(jì)值及其有關(guān)統(tǒng)計(jì)量以及其他選擇性的結(jié)果輸出內(nèi)容。在進(jìn)行多元回歸分析時(shí)，如果設(shè)定了模型選擇方法，則會(huì)輸出模型選擇的具體過程。第第3節(jié)節(jié) 回歸分析回歸分析4、線性回歸的應(yīng)用實(shí)例、線性回歸的應(yīng)用實(shí)例例7.2 利用例7.1的數(shù)據(jù)資料，運(yùn)用SAS進(jìn)行直線回歸分析。第第3節(jié)節(jié) 回歸分析回歸分析程序程序7.2DATA EX7_2;INPUT X Y ;CARDS;13 3.54 11 3.01 9 3.09 6 2.48 8 2.56 10 3.36 12 3.18 7 2.65;PROC REG;MODEL Y=X/STB P CLI CLM;RUN;REG過程必須用MODEL語(yǔ)句表明回

15、歸模型，”Y=X”是表明直線回歸；”=“前是因變量，其后面是自變量；STP、P、 CLI和CLM為選項(xiàng)第第3節(jié)節(jié) 回歸分析回歸分析第一部分第一部分第一部分為方差分析的結(jié)果，本例F=20.97，P=0.0038，P0.05,回歸顯著，說明模型是有意義的第第3節(jié)節(jié) 回歸分析回歸分析第二部分第二部分第三部分第三部分第三部分：參數(shù)估計(jì)的結(jié)果。1、常數(shù)項(xiàng)Intercept估計(jì)值為1.66167，標(biāo)準(zhǔn)誤=0.29700；t=5.59,P=0.00140.05,表示常數(shù)項(xiàng)與0的差別有統(tǒng)計(jì)意義。2、變量X的回歸系數(shù)（回歸方程中的b）為=0.13917，t=4.58，p=0.00380.05,表示回歸顯著，即兩變量間存在回歸關(guān)系?；貧w方程為：Y =0.13917X+1.66167第二部分：描述性的統(tǒng)計(jì)量，Root MSE=誤差均方的平方根（剩余標(biāo)準(zhǔn)差；Dependent Mean=因變量的均數(shù)；Coeff Var=因變量的變異系數(shù)；R-Square=決定系數(shù)Adj R-Sq=矯正決定系數(shù)。第第3節(jié)節(jié) 回歸分析回歸分析因變量的因變量的原始值原始值CLI選項(xiàng)結(jié)果選項(xiàng)結(jié)果=預(yù)測(cè)值均預(yù)測(cè)值均數(shù)數(shù)95%置信置信區(qū)間區(qū)間CLM選項(xiàng)結(jié)選項(xiàng)結(jié)果預(yù)測(cè)值果預(yù)測(cè)值95%置信區(qū)置信區(qū)間間第四部分第四部分殘差殘差本章實(shí)習(xí)作業(yè)2、10頭育