《回歸預測法》ppt課件

1、1x2x家庭家庭年食品支出年食品支出 Y Y：$100$100 ：$1000 $1000 年凈收入年凈收入 ：人：人1 1 22 22 8 8 6 62 2 23 23 10 10 7 73 3 18 18 7 7 5 54 4 9 9 2 2 2 25 5 14 14 4 4 3 36 6 20 20 6 6 4 47 7 21 21 7 7 4 48 8 18 18 6 6 3 39 9 16 16 4 4 3 31010 19 19 6 6 3 3作業(yè)作業(yè)1： 某地域某地域10個低收入家庭年食品支出與年凈收入相個低收入家庭年食品支出與年凈收入相關資料如下，試對該數(shù)據(jù)進展回歸分析。關資料如

2、下，試對該數(shù)據(jù)進展回歸分析。 10個低收入家庭年食品支出與年凈收入相關資料個低收入家庭年食品支出與年凈收入相關資料要求：要求：1分別以年凈收入和家庭規(guī)模為自變量建立一元分別以年凈收入和家庭規(guī)模為自變量建立一元 線性回歸方程，并對模型進展簡要分析；線性回歸方程，并對模型進展簡要分析； 2用年凈收入和家庭規(guī)模為自變量建立二元線性用年凈收入和家庭規(guī)模為自變量建立二元線性 回歸方程，并對模型進展簡要分析；回歸方程，并對模型進展簡要分析； 3上述二分析結(jié)果能否一致，為什么？上述二分析結(jié)果能否一致，為什么？作業(yè)作業(yè)3：什么是置信區(qū)間、什么是預測區(qū)間，二者的異同是什么？什么是置信區(qū)間、什么是預測區(qū)間，二者的

3、異同是什么？作業(yè)作業(yè)2.2.某聯(lián)邦貯藏銀行的分析家在貯藏銀行系統(tǒng)內(nèi)隨機某聯(lián)邦貯藏銀行的分析家在貯藏銀行系統(tǒng)內(nèi)隨機抽取了個包含抽取了個包含4545家銀行的隨機樣本，搜集了有關貸款活家銀行的隨機樣本，搜集了有關貸款活動的信息，該分析家對各家銀行全部貸款的凈收益率動的信息，該分析家對各家銀行全部貸款的凈收益率Y Y和存款總額和存款總額X X計算出如下數(shù)據(jù)：計算出如下數(shù)據(jù)：X-X-存款總額，單位存款總額，單位百萬美圓；百萬美圓；Y-Y-貸款凈收益率凈收益對貸款的比率；貸款凈收益率凈收益對貸款的比率；n=45n=45；X=787.5X=787.5；Y=225Y=225；XY=3800XY=3800；X

4、=15150X =15150要求：要求：a.a.建立回歸模型并解釋模型中參數(shù)的經(jīng)濟含義；建立回歸模型并解釋模型中參數(shù)的經(jīng)濟含義；b.b.某國民銀行擁有存款約某國民銀行擁有存款約225225百萬美圓，試估計其貸款凈百萬美圓，試估計其貸款凈收益率；收益率；c.c.該估計值區(qū)間的性質(zhì)是什么，為什么？該估計值區(qū)間的性質(zhì)是什么，為什么？2第三章第三章 回歸預測法回歸預測法 3.1 3.1 一元線性回歸預測法一元線性回歸預測法 3.2 3.2 多元線性回歸預測法多元線性回歸預測法 3.3 3.3 非線性回歸預測法非線性回歸預測法 3.4 3.4 運用回歸預測時應留意的問題運用回歸預測時應留意的問題一、建立

5、模型一、建立模型只涉及一個自變量，并且因變量只涉及一個自變量，并且因變量 y y 與自變量與自變量x x 之之間為線性相關關系。間為線性相關關系。 實際模型實際模型經(jīng)經(jīng)濟濟含含義義ixy自變量為自變量為零時因變零時因變量的平均量的平均程度程度條件條件均值均值自變量變化一個單自變量變化一個單位時，因變量平均位時，因變量平均變化的絕對量。變化的絕對量。3.1 3.1 一元線性回歸預測法一元線性回歸預測法01cybbx估計模型：估計模型：隨機誤差隨機誤差二、參數(shù)估計二、參數(shù)估計 實際根據(jù)：實踐值與實際值的離差平方和為最小實際根據(jù)：實踐值與實際值的離差平方和為最小xbya最最小小二二乘乘法法22min

6、()icy y2201min()iy bbx0)(20) 1)(2xbxaybQbxayaQ00ii ix即：cov( , ) 0iix即 ：2222()()cov( , )()()xnxyxyxx yyx ybnxxxx 例：某企業(yè)對車例：某企業(yè)對車間間9 9名學徒工進名學徒工進展調(diào)查，得到學展調(diào)查，得到學徒期限與每天產(chǎn)徒期限與每天產(chǎn)量情況如右表所量情況如右表所示，要求建立以示，要求建立以日產(chǎn)量為因變量日產(chǎn)量為因變量的回歸方程。的回歸方程。 221nxyxybnxx 013201587.50.8399by bx5 .8736315015299132015255092回歸方程為：回歸方程為：y

7、c=0.83+87.5xyc=0.83+87.5x目的：模型精度檢驗；目的：模型精度檢驗；統(tǒng)計量：統(tǒng)計量：判別規(guī)范判別規(guī)范: :回歸規(guī)范差與回歸規(guī)范差與Y Y均值之比低于均值之比低于1 1% %2)(2.nyysxy22.nxybyaysxy21375.551427yysen件%5 . 97 .146/14/ySE三、模型檢驗以一元線性為例三、模型檢驗以一元線性為例1 1，回歸規(guī)范差檢驗，回歸規(guī)范差檢驗目的：回歸方程對樣本的擬合優(yōu)度；目的：回歸方程對樣本的擬合優(yōu)度；統(tǒng)計量：統(tǒng)計量：判別規(guī)范判別規(guī)范: : 1 1，闡明回歸方程擬合的越，闡明回歸方程擬合的越 好；好； 0 0，闡明回歸方程擬合的越

8、差。，闡明回歸方程擬合的越差。 2 2，可決系數(shù)斷定系數(shù)，可決系數(shù)斷定系數(shù) niiniiniiniiyyyyyyyySSTSSRR12121212212R2R2R目的：每個自變量目的：每個自變量x x與與y y的線性相關性；的線性相關性； 統(tǒng)計量：統(tǒng)計量： 判別規(guī)范判別規(guī)范: :給定顯著性程度給定顯著性程度 ，假，假設設 。 3 3，回歸系數(shù)顯著性檢驗，回歸系數(shù)顯著性檢驗 ：假設：假設： 01:0Hb 11:0H b 其中：其中：2bseSxx那么回歸系數(shù)顯著。那么回歸系數(shù)顯著。 1112bbbbbttnSS，tt目的：回歸模型總體的線性相關性；目的：回歸模型總體的線性相關性； 統(tǒng)計量：統(tǒng)計量

9、： 判別規(guī)范判別規(guī)范: :給定顯著性程度給定顯著性程度 ，假，假設設 。 4 4，回歸模型顯著性檢驗，回歸模型顯著性檢驗 ：假設：假設： 那么回歸方程顯著。那么回歸方程顯著。 0:H回歸方程不顯著；回歸方程不顯著；1:H回歸方程顯著；回歸方程顯著；22/ 12yyFyyn1,2FFn1,2Fn目的：回歸余項相互獨立；目的：回歸余項相互獨立； 統(tǒng)計量：統(tǒng)計量： 判別規(guī)范判別規(guī)范: dU DW 4-dU : dU DW 4-dU 5 5，序列相關性檢驗，序列相關性檢驗DWDW： 22211122222211122122(1)2(1),nnnniiiiiiiiiinniiiiniiiniiD W 為

10、一階自相關系數(shù)例例 1 1 ：知身高與體重的資料如下表所示：知身高與體重的資料如下表所示：身高米身高米1.55 1.60 1.65 1.67 1.7 1.75 1.80 1.82 1.55 1.60 1.65 1.67 1.7 1.75 1.80 1.82 體重公斤體重公斤50 52 57 56 60 65 62 70 50 52 57 56 60 65 62 70 要求：要求： 1 1擬適宜當?shù)幕貧w方程；擬適宜當?shù)幕貧w方程； 2 2判別擬合優(yōu)度情況；判別擬合優(yōu)度情況； 3 3對模型進展顯著性檢驗；對模型進展顯著性檢驗；=0.05=0.05 4 4當體重為當體重為7575公斤時，求身高平均值的

11、公斤時，求身高平均值的 95% 95%的置信區(qū)間。的置信區(qū)間。1 1n=8n=8，經(jīng)計算得：，經(jīng)計算得： 0134. 047228158847254.1302.803822221xxnyxxynxxyyxxb9 . 084720134. 0854.1310 xbyb解：解： 因此，建立一元線性回歸方程為：因此，建立一元線性回歸方程為： 2 2可決系數(shù)可決系數(shù)4815. 069. 189788.22)59828158(0134. 0)()()(22222222122212ynyxnxbyyxxbR3 3回歸模型顯著性檢驗：回歸模型顯著性檢驗：)6 , 1 (50564815. 0164815.

12、01)2(05. 022FRnRF0734. 0602.8030134. 054.139 . 09788.222102nxybybySE回絕原假設，以為所建線性回歸模型是顯著的。回絕原假設，以為所建線性回歸模型是顯著的。4 4回歸估計規(guī)范差檢驗：回歸估計規(guī)范差檢驗：%3 . 469. 1/073. 0/ySE)078. 2 ,728. 1 (8/47228158)8/47275(810734. 04476. 2750134. 0898. 0)()(1)2()(22220200 xxxxnSEntYYE5 5預測預測3.2 3.2 多元線性回歸預測法多元線性回歸預測法01 122iiybb xb

13、 xYXYXB1)(23yyS En一、建立模型以二元線性回歸模型為例一、建立模型以二元線性回歸模型為例 二、參數(shù)估計：二、參數(shù)估計：( (最小平方法估計最小平方法估計) ) 三、模型檢驗三、模型檢驗 ：1 1，回歸估計規(guī)范差檢驗：，回歸估計規(guī)范差檢驗：2. 2. 多重決議系數(shù)檢驗多重決議系數(shù)檢驗 2R) 1()()()(1222nyymnyyRiiii修正后決議系數(shù)：修正后決議系數(shù)：)()() 1()(22mnyymyyFiiii3. F3. F檢驗：檢驗： 4. D.W檢驗與一元模型同檢驗與一元模型同 五、凈回歸系數(shù)的特點和性質(zhì)五、凈回歸系數(shù)的特點和性質(zhì) 線性假設性：假設一切自變量都與因變

14、量線線性假設性：假設一切自變量都與因變量線 性相關性相關 ；2. 凈回歸系數(shù)的性質(zhì)：凈回歸系數(shù)的性質(zhì)：1 1凈回歸系數(shù)的特點：凈回歸系數(shù)的特點：b. b. 不等值性：數(shù)量和方向均不等值。不等值性：數(shù)量和方向均不等值。對任何一個特定的自變量而言，它的回歸系數(shù)不對任何一個特定的自變量而言，它的回歸系數(shù)不僅測度了它與因變量間的相關關系，同時也包含僅測度了它與因變量間的相關關系，同時也包含了與它相關的自變量與自變量之間的相關關系，了與它相關的自變量與自變量之間的相關關系，所以，在多元回歸模型中，假設自變量與自變量所以，在多元回歸模型中，假設自變量與自變量之間高度相關，那么回歸系數(shù)是不可靠的之間高度相關

15、，那么回歸系數(shù)是不可靠的.六、虛擬變量在回歸預測中的運用六、虛擬變量在回歸預測中的運用一虛擬變量的概念一虛擬變量的概念2 2，作用：消除偶爾要素對預測值的影響。，作用：消除偶爾要素對預測值的影響。 1 1，虛擬變量，虛擬變量 當回歸模型中的自變量為質(zhì)量變量，且能用當回歸模型中的自變量為質(zhì)量變量，且能用0 0、1 1符號進展描畫時，這些質(zhì)量變量即為虛擬變量。符號進展描畫時，這些質(zhì)量變量即為虛擬變量。 3，描畫方法：正常情況的虛擬變量值取，描畫方法：正常情況的虛擬變量值取1，非正，非正常情況時取常情況時取0。二兩類別質(zhì)量變量中虛擬變量技術的運用二兩類別質(zhì)量變量中虛擬變量技術的運用例：某航空公司欲研

16、討某一旅游航線營業(yè)收入與例：某航空公司欲研討某一旅游航線營業(yè)收入與乘客收入間的關系，并假設該航線有六個月是乘客收入間的關系，并假設該航線有六個月是“頂峰期，六個月為頂峰期，六個月為“非頂峰期，有關資料如非頂峰期，有關資料如下，試用虛似變量回歸模型對該公司營運收進展下，試用虛似變量回歸模型對該公司營運收進展預測。預測。1x2x 某航空公司營業(yè)收回歸分析資料乘客年平均收入乘客年平均收入 千美圓千美圓虛擬變量虛擬變量取值取值 月份月份營運收入營運收入Y Y：千美圓：千美圓能否頂峰月能否頂峰月1 1448044804545 頂峰頂峰1 12 2462046203737 頂峰頂峰1 13 3455045

17、504949 頂峰頂峰1 14 4470047005252 頂峰頂峰1 15 5320032003232 非頂峰非頂峰0 06 6336033603535 非頂峰非頂峰0 07 7345034503030 非頂峰非頂峰0 08 83400340028.528.5 非頂峰非頂峰0 09 9385038502626 非頂峰非頂峰0 010103940394034.534.5 非頂峰非頂峰0 011114010401041.541.5 頂峰頂峰1 112123700370033.533.5 頂峰頂峰1 11x2x建立二元線性回歸方程：建立二元線性回歸方程：+4.84+4.842.2.虛擬變量回歸系數(shù)

18、的經(jīng)濟含義：虛擬變量回歸系數(shù)的經(jīng)濟含義：以虛擬變量取值等于零為比較根底超額增長量以虛擬變量取值等于零為比較根底超額增長量 Y=26.54+0.2804x Y=26.54+0.2804x 非頂峰月非頂峰月1 1 Y=31.38+0.2804x Y=31.38+0.2804x 頂峰月頂峰月 (2)(2)2-1=4.843.圖形特征及性質(zhì)：等斜率兩條平行線圖形特征及性質(zhì)：等斜率兩條平行線 將虛擬變量值代入將虛擬變量值代入Y=26.54+0.2840Y=26.54+0.284002x12x1x2x例：某公司從三個不同廠家進貨，假設：例：某公司從三個不同廠家進貨，假設：Y:Y:平均平均單位消費本錢；單位

19、消費本錢；每天消費工人人數(shù)；每天消費工人人數(shù)；: :每天消費工人任務總時數(shù)。要求用線性回歸每天消費工人任務總時數(shù)。要求用線性回歸模型預測三個工廠單位消費本錢。模型預測三個工廠單位消費本錢。個數(shù)：屬性類別數(shù)減個數(shù)：屬性類別數(shù)減1 1； 描畫描畫 ：0 0、1 1符號描畫。符號描畫。 要求：有一個屬性一切虛擬變量取值均為零要求：有一個屬性一切虛擬變量取值均為零 。 三多類別質(zhì)量變量中虛擬變量技術運用三多類別質(zhì)量變量中虛擬變量技術運用1.虛擬變量的個數(shù)和描畫虛擬變量的個數(shù)和描畫 ：工廠一工廠一0 0 0 0工廠二工廠二0 0 1 1工廠三工廠三1 1 0 03x4x4321237.0470.0000

20、36.00051.0123.3xxxxy2.2.建立四元線性回歸方程：建立四元線性回歸方程：3.3.二元回歸方程組：二元回歸方程組：2100036. 00051. 0123. 3xxy2100036. 00051. 0360. 3xxy2100036. 00051. 0593. 3xxy(1)(2)(3)(2)-(1)=0.237(3)-(1)=0.470一、非線性回歸模型的建立一、非線性回歸模型的建立3.3 3.3 非線性回歸預測法非線性回歸預測法確定變量間函數(shù)的類型確定變量間函數(shù)的類型確定相關函數(shù)中的未知參數(shù)確定相關函數(shù)中的未知參數(shù)iiiixxy2321iiixyln21iixysin21

21、iiiixxiixieyaby22110biiaxyixxiiieey10101ixiibray雙曲線：雙曲線：二次曲線：二次曲線：對數(shù)：對數(shù)：三角函數(shù)：三角函數(shù)：指數(shù)：指數(shù)：冪函數(shù)：冪函數(shù)：邏吉斯函數(shù)：邏吉斯函數(shù)：修正指數(shù)：修正指數(shù)：iiixy121二、二、常常見見的的非非線線性性函函數(shù)數(shù)類類型型1直接換元法對數(shù)線性轉(zhuǎn)換直接換元法對數(shù)線性轉(zhuǎn)換2間接換元法間接換元法 3不可線性轉(zhuǎn)換的非線性回歸模型不可線性轉(zhuǎn)換的非線性回歸模型模型兩邊直接取對數(shù)，主要用于非線性參數(shù)模型兩邊直接取對數(shù)，主要用于非線性參數(shù)只對自變量進展變換，主要用于線性參數(shù)只對自變量進展變換，主要用于線性參數(shù)變換后模型性質(zhì)或規(guī)律發(fā)生

22、變化變換后模型性質(zhì)或規(guī)律發(fā)生變化.三、非線性回歸模型的線性轉(zhuǎn)換三、非線性回歸模型的線性轉(zhuǎn)換原模型原模型代代 換換代換原模型代換原模型雙曲線雙曲線二次曲線二次曲線對數(shù)模型對數(shù)模型三角函數(shù)三角函數(shù)指數(shù)模型指數(shù)模型指數(shù)模型指數(shù)模型iiixy121iixx1iiixy21iiiixxy23212iixx iiiixxy321iiixyln21iixxlniiixy21iixysin21iixxsiniiixy21ixiaby bBaAyybxayiiiilglg,lglglglgiBxAyiiixxiey22110iiiiiiyyxxylnlg22110iiiixxy321冪函數(shù)模型冪函數(shù)模型biia

23、xyiiiiiixxaayyxbaylglg,lglnlglgiixbay 參數(shù)估計參數(shù)估計一元線性回一元線性回歸歸OLSOLS法法多元線性回多元線性回歸歸OLSOLS法法一元線性回一元線性回歸歸OLSOLS法法一元線性回一元線性回歸歸OLSOLS法法高斯高斯- -牛頓牛頓迭代法迭代法高斯高斯- -牛頓牛頓迭代法迭代法高斯高斯- -牛頓牛頓迭代法迭代法1.1.相關指數(shù)、決議指數(shù)檢驗相關指數(shù)、決議指數(shù)檢驗-相關性檢驗；相關性檢驗；2.2.剩余規(guī)范差檢驗剩余規(guī)范差檢驗-準確性檢驗。準確性檢驗。四、非線性回歸模型的統(tǒng)計檢驗四、非線性回歸模型的統(tǒng)計檢驗1 1，非線性回歸模型的選擇與轉(zhuǎn)換，非線性回歸模型的選擇與轉(zhuǎn)換，模型復原：轉(zhuǎn)換后的模型只能用于估計參數(shù)和，模型復原：轉(zhuǎn)換后的模型只能用于估計參數(shù)和推算預測值，不可進展分析。推算預測值，不可