心理統(tǒng)計(jì)學(xué)-回歸課件

回歸分析相關(guān)系數(shù)－－雙向關(guān)系回歸方程－－單向關(guān)系一元線性回歸一元線性回歸方程的檢驗(yàn)一元線性回歸方程的應(yīng)用多元線性回歸簡(jiǎn)介一元線性回歸一元線性回歸是指只有一個(gè)自變量的線性回歸(linearregression)?；貧w線(regressionline)一條最能代表散點(diǎn)圖上分布趨勢(shì)的直線，這條最優(yōu)擬合線即稱為回歸線。常用的擬合這條回歸線的原則，就是使各點(diǎn)與該線縱向距離的平方和為最小?；貧w線回歸線回歸線回歸線回歸方程確定回歸線的方程稱回歸方程。回歸方程的建立用最小二乘方法求回歸系數(shù)(regressioncoefficient)與相關(guān)系數(shù)r比較回歸方程的建立求截距(intercept)由Y估計(jì)X語(yǔ)文成績(jī)與智商

序號(hào)X

Y

X2

Y2

XY

123456789101178716885757372657066741361351201401301281221181191081206084504146247225562553295184422549004356547618496182251440019600169001638414884139241416111664144001060895858160119009750934487847670833071288880總和797137658069173038100139計(jì)算一元線性回歸方程的檢驗(yàn)三種等效的方法：對(duì)回歸方程進(jìn)行方差分析對(duì)兩個(gè)變量的相關(guān)系數(shù)進(jìn)行與總體零相關(guān)的顯著性檢驗(yàn)；對(duì)回歸系數(shù)進(jìn)行顯著性檢驗(yàn)。測(cè)定系數(shù)回歸平方和(regressionsumofsquares,explained~)殘差平方和(residualsumofsquares,error~,unexplained~)測(cè)定系數(shù)測(cè)定系數(shù)(coefficientofdetermination)指回歸平方和在總平方和中所占比例，這個(gè)比例越大，意味著誤差平方和所占比例越小，預(yù)測(cè)效果就越好。測(cè)定系數(shù)同時(shí)等于相關(guān)系數(shù)的平方。例題企業(yè)12345678910產(chǎn)量(X)40424855657988100120140費(fèi)用(Y)150140160170150162185165190185對(duì)回歸方程的方差分析方差來(lái)源平方和自由度均方差F值回歸SSR1MSRMSR/MSE殘差SSEn-2MSE總差異SSTn-1方差分析F

0.05,1,8=5.32F

0.01,1,8=11.3方差來(lái)源平方和自由度均方差F值回歸1666.357711666.357715.0166殘差887.74238110.9678總差異2554.10009對(duì)回歸系數(shù)進(jìn)行顯著性檢驗(yàn)估計(jì)誤差的標(biāo)準(zhǔn)差由于與X各點(diǎn)相對(duì)應(yīng)的諸YX值之平均數(shù)和標(biāo)準(zhǔn)差均為未知，故估計(jì)誤差的標(biāo)準(zhǔn)差只能從樣本加以估計(jì)。其無(wú)偏估計(jì)量為：對(duì)回歸系數(shù)進(jìn)行顯著性檢驗(yàn)在回歸線上，當(dāng)與所有自變量X相對(duì)應(yīng)的各組因變量Y的殘值都呈正態(tài)分布，并且殘值方差為齊性時(shí)，可以用以下公式進(jìn)行顯著性檢驗(yàn)。公式一元線性回歸方程的應(yīng)用用樣本回歸方程推算因變量的回歸值點(diǎn)估計(jì)：語(yǔ)文成績(jī)?yōu)?0分的學(xué)生的智商是多少？

區(qū)間估計(jì)：體重為20千克的男童的簡(jiǎn)單反應(yīng)時(shí)95%的置信區(qū)間

=（550±1.96×93.67）=（550±183.6）或（366.4，733.6）

一元線性回歸方程的應(yīng)用對(duì)因變量真值的預(yù)測(cè)回歸方程是由樣本數(shù)據(jù)列出的，由于抽樣誤差的影響，其回歸值并不是因變量的真值。要預(yù)測(cè)其真值還需考慮到各樣本回歸方程之間的變異。對(duì)因變量真值的預(yù)測(cè)二元線性回歸方程二元線性回歸方程是指一個(gè)因變量Y與兩個(gè)自變量X1與X2之間建立的線性回歸方程。二元線性回歸方程也用最小二乘法來(lái)確定回歸系數(shù)。式中各個(gè)L都是相應(yīng)的離差平方和或離差乘積和二元線性回歸方程的偏回歸系數(shù)例題序號(hào)數(shù)學(xué)成績(jī)Y學(xué)習(xí)能力X1邏輯學(xué)X212345678910836774487266905471658868766074578662634575476057796367587069答案二元線性標(biāo)準(zhǔn)回歸方程為了比較兩個(gè)自變量在估計(jì)預(yù)測(cè)因變量時(shí)所起作用的大小，需要將三個(gè)變量分別轉(zhuǎn)換成標(biāo)準(zhǔn)分?jǐn)?shù)，然后比較由標(biāo)準(zhǔn)分?jǐn)?shù)所建立的標(biāo)準(zhǔn)回歸方程中的兩個(gè)標(biāo)準(zhǔn)回歸系數(shù)，以此判斷兩個(gè)自變量作用的大小。二元線性回歸的檢驗(yàn)二元線性回歸的檢驗(yàn)檢驗(yàn)回歸方程的顯著性檢驗(yàn)兩個(gè)偏回歸系數(shù)的顯著性二元線性回歸的檢驗(yàn)二元線性回歸方程的顯著性檢驗(yàn)方法：方差分析復(fù)相關(guān)系數(shù)(multiplecorrelationcoefficient)顯著性檢驗(yàn)。復(fù)相關(guān)系數(shù)表示兩個(gè)自變量組合起來(lái)與因變量之間的相關(guān)程度。可通過(guò)對(duì)二元測(cè)定系數(shù)開平方根得到，然后通過(guò)查表進(jìn)行顯著性檢驗(yàn)。二元線性回歸的檢驗(yàn)偏回歸系數(shù)(partialregressioncoefficient)的顯著性檢驗(yàn)多元線性回歸方程多元線性回歸方程中自變量的選擇窮舉法對(duì)所有可能的回歸方程逐一檢驗(yàn)，選擇一個(gè)顯著性程度最強(qiáng)的方程。逐步回歸(step-wiseregression)逐步回歸的原理是按每個(gè)自變量對(duì)因變量的作用，從大到小逐個(gè)