08第8章相關(guān)與回歸分析

第8相關(guān)與回歸第8相關(guān)與回歸變量間關(guān)系的度一元線性多元線性回歸分-學(xué)習(xí)目相關(guān)學(xué)習(xí)目相關(guān)系數(shù)的分析回歸方程的顯著性檢利用回歸方程進(jìn)行估計(jì)和預(yù)Excel進(jìn)行回-變量間關(guān)系的一變量間關(guān)系的一二變量間的關(guān)相關(guān)關(guān)系的描述與測(cè)7-變量間的變量間的關(guān)7-函數(shù)關(guān)xyy函數(shù)關(guān)xyyxy取相應(yīng)的值，則稱yxyf(x)稱為自變量，y7-y x函數(shù)關(guān)(幾個(gè)例子函數(shù)關(guān)(幾個(gè)例子ypx(p為單價(jià)消耗(x2、原材料價(jià)格(x3)y=x1x2-相關(guān)關(guān)x相關(guān)關(guān)x取某個(gè)值時(shí)，變量y的取值可能有幾個(gè)-相關(guān)關(guān)(幾個(gè)例子相關(guān)關(guān)系相關(guān)關(guān)(幾個(gè)例子相關(guān)關(guān)系的例、-相關(guān)關(guān)(類型-相關(guān)關(guān)(類型-相關(guān)關(guān)系相關(guān)關(guān)系的描述與(散點(diǎn)圖7-相關(guān)分析的研相關(guān)分析的研究步1、根據(jù)經(jīng)濟(jì)理論與經(jīng)驗(yàn)確定變2、收集數(shù)據(jù)，作散點(diǎn)圖，進(jìn)行初步判-散點(diǎn)(scatter-散點(diǎn)(scatter-散點(diǎn)(例題散點(diǎn)(例題分析【例】一家大型商業(yè)銀行在多個(gè)地區(qū)設(shè)有分7-散點(diǎn)(散點(diǎn)(例題分析7-散點(diǎn)(例題分析-11186420 2散點(diǎn)(例題分析-11186420 2 4貸款項(xiàng)目個(gè)數(shù)不良貸款與貸款項(xiàng)目個(gè)數(shù)的散點(diǎn)圖86420 不良貸款與累計(jì)應(yīng)收累計(jì)應(yīng)收貸款的散點(diǎn)圖86420 不良貸款與貸款余額的散點(diǎn)圖86420 不良貸款與固定資產(chǎn)投資額的散點(diǎn)圖相關(guān)關(guān)系相關(guān)關(guān)系的描述與(相關(guān)系數(shù)7-相關(guān)系(correlation相關(guān)系(correlation對(duì)變量之間關(guān)系密切程度的度對(duì)兩個(gè)變量之間線性相關(guān)程度的度量稱為若相關(guān)系數(shù)是根據(jù)總體全部數(shù)據(jù)計(jì)算的，若是根據(jù)樣本數(shù)據(jù)計(jì)算的，則稱為樣本相關(guān)系數(shù)，記為r-相關(guān)系(計(jì)算公式樣相關(guān)系(計(jì)算公式樣本相關(guān)系數(shù)的計(jì)算-相關(guān)系(取值及其意義相關(guān)系(取值及其意義r=1r-1r=0，不存在線性相關(guān)|r|越趨于1表示關(guān)系越密切；|r|越趨于0表示關(guān)-相關(guān)系(取值及其意義0r---相關(guān)系(取值及其意義0r---相關(guān)系數(shù)的特由此，可以確定一個(gè)對(duì)相關(guān)程度評(píng)的標(biāo)準(zhǔn)相關(guān)系數(shù)的特由此，可以確定一個(gè)對(duì)相關(guān)程度評(píng)的標(biāo)準(zhǔn)，通常0000r03...r00581-相關(guān)系(例相關(guān)系(例題分析用Excel計(jì)算相關(guān)系7-4.相關(guān)系數(shù)的顯著性在小4.相關(guān)系數(shù)的顯著性在小樣本的情況下，可用費(fèi)希爾tR.A.Fisher）檢驗(yàn)法。其步驟為（1）提出檢驗(yàn)假設(shè)：00?H1（為總體相關(guān)系數(shù)-4.相關(guān)系數(shù)的顯著性2）計(jì)算檢驗(yàn)統(tǒng)計(jì)量，為4.相關(guān)系數(shù)的顯著性2）計(jì)算檢驗(yàn)統(tǒng)計(jì)量，為 tr21rn（為自由度-相關(guān)系數(shù)的顯著性檢（3相關(guān)系數(shù)的顯著性檢（3）根據(jù)給定的顯著性，的臨t(n2查表2值；或確定P（sig.）值tt(n2)或p2（4）統(tǒng)計(jì)決策-臨界值臨界值-注意注意（注意注意（1））K.皮爾生相關(guān)系數(shù)僅限于簡(jiǎn)單線關(guān)關(guān)系的測(cè)定-一元線性回一一元線性回一二三四一元線性回歸模參數(shù)的最小二乘7-回歸分析與相關(guān)分析的區(qū)回歸分析與相關(guān)分析的區(qū)yy位，xxyxxy-回歸模型的類-回歸模型的類-回歸分析的步設(shè)計(jì)回歸模型(確定變量,收集數(shù)據(jù)回歸分析的步設(shè)計(jì)回歸模型(確定變量,收集數(shù)據(jù),做散點(diǎn)圖,設(shè)計(jì)模)模型應(yīng)用.利用所求的關(guān)系式，根據(jù)一個(gè)或幾個(gè)變的取值來(lái)預(yù)測(cè)或控制另一個(gè)特定變量的取值，并給-回歸模(regression回歸模(regression1個(gè)數(shù)字的因變量(響應(yīng)變量被預(yù)測(cè)的變用于預(yù)測(cè)的變-一元線性一元線性回歸模7-一元線性回涉及一個(gè)自變一元線性回涉及一個(gè)自變量的回因變量y與自變量x之間為線性用來(lái)預(yù)測(cè)或用來(lái)解釋因變量的一個(gè)或多個(gè)變量稱為自變量(independentvariable)，用因變量與自變量之間的關(guān)系用一條線性方-一元線性回歸模y=一元線性回歸模y=xyx的線性函數(shù)(部分)誤差項(xiàng)是隨機(jī)變量01y-一元線性回歸模(基本假定誤差項(xiàng)是一個(gè)期望值為的隨機(jī)變量，一元線性回歸模(基本假定誤差項(xiàng)是一個(gè)期望值為的隨機(jī)變量，即E(ε)=0。對(duì)于一個(gè)給定(y)=0+1x值，y的期望值為x值，ε的方差σ2互獨(dú)立。即ε~N(0,σ2)xxyx所對(duì)應(yīng)的y值也不相關(guān)-回歸方(regression稱為回歸回歸方(regression稱為回歸方E(y)=0+1x0y一個(gè)單位時(shí)，y的平均變動(dòng)值x-估計(jì)的回歸方(estimatedregression和0數(shù)，就得到估計(jì)的回歸方(estimatedregression和0數(shù)，就得到了估計(jì)的回歸和?0?xy-參數(shù)的最參數(shù)的最小二乘估7-最小二乘估?x最小二乘估?x ii用最小二乘法擬合的直線來(lái)代表x與y之間的-最小二乘估(圖示最小二乘估(圖示最小二(的計(jì)算公式和nxxy2nx最小二(的計(jì)算公式和nxxy2nxiy??0-估計(jì)方程的求(例題分析【例】估計(jì)方程的求(例題分析【例】求不良貸款對(duì)貸款余額的回歸方2517080.143006.725516543.3713.7280.037895120.268回歸方程為：y-0.82950.0378951-估計(jì)方程的求(例題分析不良貸款對(duì)估計(jì)方程的求(例題分析不良貸款對(duì)貸款余額回歸方程的圖-不良貸用Excel進(jìn)行回歸用Excel進(jìn)行回歸分第1步：選擇“工具”下拉菜第2步：選擇“數(shù)據(jù)分析”選在“輸出選項(xiàng)”中選擇輸出在“殘差”分析選項(xiàng)中選擇所需的選用Excel進(jìn)行回歸分7-回歸直線回歸直線的擬合優(yōu)7-變?nèi)≈档倪@因變的取值是不同變?nèi)≈档倪@因變的取值是不同的波動(dòng)稱為變差。變差來(lái)源于兩個(gè)方x以外的其他因素(如x對(duì)y的非線性影響、對(duì)一個(gè)具體的觀測(cè)值來(lái)說(shuō)，變差的大小可yy以通過(guò)該實(shí)際觀測(cè)值與其均值表-變差的(圖示變差的(圖示離差平方和的分(三個(gè)平方和的關(guān)系nnnyyiiiiii離差平方和的分(三個(gè)平方和的關(guān)系nnnyyiiiiiiSST=SSR+-{{{離差平方和的分(三個(gè)平方和的意義離差平方和的分(三個(gè)平方和的意義總平方和n回歸平方和響，或者說(shuō)，是由于xy之間的線性關(guān)系引起的y的取值變化，也稱為可解釋的平方和殘差平方和反映除x以外的其他因素對(duì)y取值的影響，-判定系數(shù)(coefficientofyiiSSRi i2yyii判定系數(shù)(coefficientofyiiSSRi i2yyiii[0,1]之間7-判定系數(shù)(例題分析判定系數(shù)(例題分析222.48600.7116R判定系數(shù)的實(shí)際意義是：在不良貸款取值的變差，有71.16%可以由不良貸款與貸款余額之間的線性關(guān)系來(lái)解釋，或者說(shuō)，在不良貸款取值的變動(dòng)中，有71.16%是由貸款余額所決定的。也就是說(shuō)，不良-估計(jì)標(biāo)準(zhǔn)誤(standarderrorof對(duì)誤差項(xiàng)的標(biāo)準(zhǔn)差的估計(jì)，是在排除了x對(duì)y估計(jì)標(biāo)準(zhǔn)誤(standarderrorof對(duì)誤差項(xiàng)的標(biāo)準(zhǔn)差的估計(jì)，是在排除了x對(duì)yi n01 MSEnn-顯著性顯著性7-線性關(guān)系檢檢驗(yàn)自變線性關(guān)系檢檢驗(yàn)自變量與因變量之間的線性關(guān)系是否顯將回歸均方(MSR)同殘差均方(MSE)加以回歸均方：回歸平方和SSR除以相應(yīng)的自由殘差均方：殘差平方和SSE除以相應(yīng)的自由-線性關(guān)系檢(檢驗(yàn)的步驟線性關(guān)系檢(檢驗(yàn)的步驟MSR~F1,nSSRFSSEn母自由度n-2找出臨界值F作出決策：若F>F,拒絕H0；若絕,不能-線性關(guān)系檢(例題分析H0：SSR1F線性關(guān)系檢(例題分析H0：SSR1Fn90.16442125和分母自由度25-2找出臨界值F=4.287-作出決策：若,拒絕H0，線性關(guān)系顯線性關(guān)系檢線性關(guān)系檢(方差分析表7-回歸系數(shù)檢1檢對(duì)因變量回歸系數(shù)檢1檢對(duì)因變量者說(shuō)，檢驗(yàn)自變量顯著性檢-回歸系數(shù)檢(檢驗(yàn)步驟回歸系數(shù)檢(檢驗(yàn)步驟H110有線性關(guān)系t~t(n1?1t>t，拒絕t<t，不能拒絕-回歸系數(shù)檢(例題分析回歸系數(shù)檢(例題分析H0：1=H1：1t0.037895t=7.533515>t=2.201，拒絕H0，表明不良貸款-回歸系數(shù)檢(例題回歸系數(shù)檢(例題分析P值的應(yīng)-Excel輸出的Excel輸出的部分回歸結(jié)7-學(xué)生編號(hào)數(shù)學(xué)成統(tǒng)計(jì)學(xué)成績(jī)9977786學(xué)生編號(hào)數(shù)學(xué)成統(tǒng)計(jì)學(xué)成績(jī)99777868876687512345678901234561014035031706404799687877966588420682811848687261111111-（α=0。數(shù)學(xué)成績(jī)（x）統(tǒng)計(jì)學(xué)成績(jī)數(shù)學(xué)成績(jī)（x）統(tǒng)計(jì)學(xué)成績(jī)學(xué)生編123456789rxyn ( x22xnxyn ( x22xn-利用回歸方程進(jìn)行利用回歸方程進(jìn)行估計(jì)和預(yù)一二點(diǎn)估區(qū)間估7-利用回歸方程進(jìn)行估計(jì)和預(yù)利用回歸方程進(jìn)行估計(jì)和預(yù)根據(jù)自變的取估計(jì)或預(yù)測(cè)的yy的平均值的置信區(qū)間估y的個(gè)別值的預(yù)測(cè)區(qū)間估-點(diǎn)估7點(diǎn)估7-點(diǎn)估x的一個(gè)給定值點(diǎn)估x的一個(gè)給定值y的平均值的點(diǎn)估y的個(gè)別值的點(diǎn)估03-y的平均值的點(diǎn)估利用估計(jì)的回歸方程y的平均值的點(diǎn)估利用估計(jì)的回歸方程，對(duì)于自變x的的平均值，求出因變量個(gè)給定值一個(gè)估計(jì)值，就是平均值的點(diǎn)估在前面的例子中，假如我們要估計(jì)貸款余額為100億元時(shí)，所有分行不良貸款的平E(y00.82950.0378951002.96(-y的個(gè)別值的點(diǎn)估利用估計(jì)的回歸方程，y的個(gè)別值的點(diǎn)估利用估計(jì)的回歸方程，對(duì)于自變x的個(gè)給定值x0，求出因變y的一個(gè)個(gè)值的估計(jì)，就是個(gè)別值的點(diǎn)估比如，如果我們只是想知道貸款余額為72.8億元的那個(gè)分行(這里是編號(hào)為10的那個(gè)分行)的不良貸款是多少，則屬于個(gè)別值0.82950.03789572.81.93(億元?-區(qū)間估區(qū)間估7-區(qū)間估點(diǎn)估計(jì)不能給出估計(jì)的精度，點(diǎn)區(qū)間估點(diǎn)估計(jì)不能給出估計(jì)的精度，點(diǎn)估計(jì)值與實(shí)際值之間是有誤差的，因此需要進(jìn)行區(qū)對(duì)于自x的一個(gè)給定值x0，根據(jù)回方程得到因變的一個(gè)估計(jì)區(qū)區(qū)間估計(jì)有兩種類置信區(qū)間估計(jì)(confidenceinterval預(yù)測(cè)區(qū)間估計(jì)(predictioninterval-置信區(qū)間估xy間，這一估計(jì)區(qū)間稱為置信區(qū)間估xy間，這一估計(jì)區(qū)間稱為xx1n(n0n02yixix2-置信區(qū)間估(例題分析【例】求出置信區(qū)間估(例題分析【例】求出貸款余額為100億元時(shí)，不良貸款sy=1.9799，t(25-1(100120.268)2.962.06871.9799-預(yù)測(cè)區(qū)間估xy計(jì)區(qū)間，這一區(qū)間稱為預(yù)測(cè)區(qū)間估xy計(jì)區(qū)間，這一區(qū)間稱為x1(n2)1n0n02y2xi-預(yù)測(cè)區(qū)間估(例題分析【例】求出貸款余額為72.8預(yù)測(cè)區(qū)間估(例題分析【例】求出貸款余額為72.8億元時(shí)，不良貸sy=1.9799，t(25-01.932.06871.97991(72.8120.268)1貸款余額為8億元的那個(gè)分行，其不良貸款的預(yù)測(cè)區(qū)間在22766136-影響區(qū)間寬度的因(1數(shù)據(jù)的離散程度影響區(qū)間寬度的因(1數(shù)據(jù)的離散程度用于預(yù)測(cè)的xp與x的差異程區(qū)間寬度隨xp與x的差異程度的增大而增-置信區(qū)間、預(yù)測(cè)區(qū)間、置信區(qū)間、預(yù)測(cè)區(qū)間、回歸方案例：教育經(jīng)案例：教育經(jīng)費(fèi)支出和學(xué)生成-未參加NAEP計(jì)劃的每名學(xué)生的教育未參加NAEP計(jì)劃的每名學(xué)生的教育經(jīng)費(fèi)支州教育經(jīng)費(fèi)支州教育經(jīng)費(fèi)支愛(ài)達(dá)堪薩俄亥賓夕法阿拉斯-管理報(bào)管理報(bào)。-8.3非線性8.3非線性因變yx之間不是線性關(guān)用最小二乘法求出參數(shù)的估計(jì)并非所有的非線性模型都可以化為線性-雙曲基本形式：yx令：y雙曲基本形式：yx令：y'1/y，x'1/x則有y'-冪函數(shù)yx冪函數(shù)yx兩端取對(duì)數(shù)得：lgylglg令：y'lgy，x'lgx，則y'lg-對(duì)數(shù)曲y對(duì)數(shù)曲ylnx'lnx則有y'-指數(shù)曲ye指數(shù)曲ye兩端取對(duì)數(shù)得：lnyln令：y'lny，則有y'ln-S型曲1yS型曲1ye令：y'1/y，x'e-x則有y'-非線性(例題分析【例】一種商品的需求量與其價(jià)格有一定的關(guān)非線性(例題分析【例】一種商品的需求量與其價(jià)格有一定的關(guān)系?，F(xiàn)對(duì)一定時(shí)期內(nèi)的商品價(jià)格x與需求量y進(jìn)行觀察，取得-廢品率與生產(chǎn)率的關(guān)x123456789需求量(千克y非線性(例題分析-非線性(例題分析-非線性(例題分析y非線性(例題分析y用雙曲線模型x1,則有yx按線性回歸的方法求解和，?18.16039787.330084-非線性(例題分析-非線性(例題分析-自相關(guān)與自回歸。自相關(guān)與自回歸。yty可-自回歸[例某農(nóng)場(chǎng)1994-2005年荔枝產(chǎn)量資料進(jìn)行自相-年產(chǎn)量（萬(wàn)千克年產(chǎn)量（萬(wàn)千克自回歸[例某農(nóng)場(chǎng)1994-2005年荔枝產(chǎn)量資料進(jìn)行自相-年產(chǎn)量（萬(wàn)千克年產(chǎn)量（萬(wàn)千克多元線性回一多元線性回一二三多元回歸模型與回歸方回歸方程的擬合優(yōu)顯著性檢7-多元回歸多元回歸模型與回歸方7-多元回歸模(multipleregression多元回歸模(multipleregressiony01x1i2x2ipxpiy是x1,，x2，，xp的線性函數(shù)加上誤差項(xiàng)包含在y里面但不能被p個(gè)自變量的線性關(guān)系-多元回歸模(基本多元回歸模(基本假定誤差項(xiàng)ε是一個(gè)期望值為0的隨機(jī)變量，對(duì)于自變量x1，x2，…，xp的所有值，的誤差項(xiàng)ε是一個(gè)服從正態(tài)分布的隨機(jī)變量，即ε~N(0,2)，且相互-多元回歸方(multipleregression多元回歸方(multipleregression的平均值或期望值如何依描述因變量，…，xp的方多元線性回歸方程的形E(y)=0+1x1+2x2+…+p，，，p稱為偏回歸i表示假定其他變量不變，當(dāng)xi每變動(dòng)一個(gè)單位時(shí)，y的平均平均變動(dòng)值-二元回歸二元回歸方程的直觀解估計(jì)的多元回歸的方(estimatedmultipleregression,,2,,用樣本估計(jì)的多元回歸的方(estimatedmultipleregression,,2,,用樣本統(tǒng)計(jì)估計(jì)回歸0p0,1,2,,程中參時(shí)得到的方由最小二乘法一般形??x1 ,0,1,2,,,2,,p0?y-參數(shù)的最小參數(shù)的最小二乘估-參數(shù)的最小二乘使因變量的觀察值與估計(jì)值之間的離差平方和?,?,,,?)0102p參數(shù)的最小二乘使因變量的觀察值與估計(jì)值之間的離差平方和?,?,,,?)0102pii(i1,2,,p-參數(shù)的最小二乘(參數(shù)的最小二乘(例題分析【例】一家大型商業(yè)銀行在多個(gè)地區(qū)設(shè)有分行，為弄清楚不良貸款形成的原因，抽取了該銀行立不良貸款(y)與貸款余額(x1)、累計(jì)應(yīng)收貸款(x)(x)(x的用Excel進(jìn)行-多重判定系多重判定系-多重判定系(multiplecoefficientof回歸平方和占總平方和的比計(jì)算多重判定系(multiplecoefficientof回歸平方和占總平方和的比計(jì)算公n n2y因變量取值的變差中，能被估計(jì)的多元回-修正多重判定系(adjustedmultiplecoefficie