第10講 回歸分析.ppt

2020 2 4 1 數(shù)學(xué)建模與數(shù)學(xué)實(shí)驗(yàn) 回歸分析 實(shí)驗(yàn)?zāi)康?實(shí)驗(yàn)內(nèi)容 1 回歸分析的基本理論 3 實(shí)驗(yàn)作業(yè) 2 用數(shù)學(xué)軟件求解回歸分析問(wèn)題 2020 2 4 3 一元線性回歸 多元線性回歸 回歸分析 數(shù)學(xué)模型及定義 模型參數(shù)估計(jì) 檢驗(yàn) 預(yù)測(cè)與控制 可線性化的一元非線性回歸 曲線回歸 數(shù)學(xué)模型及定義 模型參數(shù)估計(jì) 多元線性回歸中的檢驗(yàn)與預(yù)測(cè) 逐步回歸分析 2020 2 4 4 一 數(shù)學(xué)模型 例1測(cè)16名成年女子的身高與腿長(zhǎng)所得數(shù)據(jù)如下 以身高x為橫坐標(biāo) 以腿長(zhǎng)y為縱坐標(biāo)將這些數(shù)據(jù)點(diǎn) xI yi 在平面直角坐標(biāo)系上標(biāo)出 散點(diǎn)圖 解答 2020 2 4 5 一元線性回歸分析的主要任務(wù)是 返回 2020 2 4 6 二 模型參數(shù)估計(jì) 1 回歸系數(shù)的最小二乘估計(jì) 2020 2 4 7 其中 2020 2 4 8 返回 2020 2 4 9 三 檢驗(yàn) 預(yù)測(cè)與控制 1 回歸方程的顯著性檢驗(yàn) 2020 2 4 10 F檢驗(yàn)法 t檢驗(yàn)法 2020 2 4 11 r檢驗(yàn)法 2020 2 4 12 2 回歸系數(shù)的置信區(qū)間 2020 2 4 13 3 預(yù)測(cè)與控制 1 預(yù)測(cè) 2020 2 4 14 2 控制 返回 2020 2 4 15 四 可線性化的一元非線性回歸 曲線回歸 例2出鋼時(shí)所用的盛鋼水的鋼包 由于鋼水對(duì)耐火材料的侵蝕 容積不斷增大 我們希望知道使用次數(shù)與增大的容積之間的關(guān)系 對(duì)一鋼包作試驗(yàn) 測(cè)得的數(shù)據(jù)列于下表 解答 2020 2 4 16 散點(diǎn)圖 此即非線性回歸或曲線回歸 問(wèn)題 需要配曲線 配曲線的一般方法是 2020 2 4 17 通常選擇的六類(lèi)曲線如下 返回 2020 2 4 18 一 數(shù)學(xué)模型及定義 返回 2020 2 4 19 二 模型參數(shù)估計(jì) 解得估計(jì)值 2020 2 4 20 返回 2020 2 4 21 三 多元線性回歸中的檢驗(yàn)與預(yù)測(cè) F檢驗(yàn)法 r檢驗(yàn)法 殘差平方和 2020 2 4 22 2 預(yù)測(cè) 1 點(diǎn)預(yù)測(cè) 2 區(qū)間預(yù)測(cè) 返回 2020 2 4 23 四 逐步回歸分析 4 有進(jìn)有出 的逐步回歸分析 1 從所有可能的因子 變量 組合的回歸方程中選擇最優(yōu)者 2 從包含全部變量的回歸方程中逐次剔除不顯著因子 3 從一個(gè)變量開(kāi)始 把變量逐個(gè)引入方程 選擇 最優(yōu) 的回歸方程有以下幾種方法 最優(yōu) 的回歸方程就是包含所有對(duì)Y有影響的變量 而不包含對(duì)Y影響不顯著的變量回歸方程 以第四種方法 即逐步回歸分析法在篩選變量方面較為理想 2020 2 4 24 這個(gè)過(guò)程反復(fù)進(jìn)行 直至既無(wú)不顯著的變量從回歸方程中剔除 又無(wú)顯著變量可引入回歸方程時(shí)為止 逐步回歸分析法的思想 從一個(gè)自變量開(kāi)始 視自變量Y作用的顯著程度 從大到地依次逐個(gè)引入回歸方程 當(dāng)引入的自變量由于后面變量的引入而變得不顯著時(shí) 要將其剔除掉 引入一個(gè)自變量或從回歸方程中剔除一個(gè)自變量 為逐步回歸的一步 對(duì)于每一步都要進(jìn)行Y值檢驗(yàn) 以確保每次引入新的顯著性變量前回歸方程中只包含對(duì)Y作用顯著的變量 返回 2020 2 4 25 統(tǒng)計(jì)工具箱中的回歸分析命令 1 多元線性回歸 2 多項(xiàng)式回歸 3 非線性回歸 4 逐步回歸 返回 2020 2 4 26 多元線性回歸 b regress Y X 1 確定回歸系數(shù)的點(diǎn)估計(jì)值 2020 2 4 27 3 畫(huà)出殘差及其置信區(qū)間 rcoplot r rint 2 求回歸系數(shù)的點(diǎn)估計(jì)和區(qū)間估計(jì) 并檢驗(yàn)回歸模型 b bint r rint stats regress Y X alpha 2020 2 4 28 例1 解 1 輸入數(shù)據(jù) x 143145146147149150153154155156157158159160162164 X ones 16 1 x Y 8885889192939395969897969899100102 2 回歸分析及檢驗(yàn) b bint r rint stats regress Y X b bint stats ToMATLAB liti11 題目 2020 2 4 29 3 殘差分析 作殘差圖 rcoplot r rint 從殘差圖可以看出 除第二個(gè)數(shù)據(jù)外 其余數(shù)據(jù)的殘差離零點(diǎn)均較近 且殘差的置信區(qū)間均包含零點(diǎn) 這說(shuō)明回歸模型y 16 073 0 7194x能較好的符合原始數(shù)據(jù) 而第二個(gè)數(shù)據(jù)可視為異常點(diǎn) 4 預(yù)測(cè)及作圖 z b 1 b 2 xplot x Y k x z r 返回 ToMATLAB liti12 2020 2 4 30 多項(xiàng)式回歸 一 一元多項(xiàng)式回歸 y a1xm a2xm 1 amx am 1 2020 2 4 31 法一 直接作二次多項(xiàng)式回歸 t 1 30 1 30 14 30 s 11 8615 6720 6026 6933 7141 9351 1361 4972 9085 4499 08113 77129 54146 48 p S polyfit t s 2 ToMATLAB liti21 得回歸模型為 2020 2 4 32 法二 化為多元線性回歸 t 1 30 1 30 14 30 s 11 8615 6720 6026 6933 7141 9351 1361 4972 9085 4499 08113 77129 54146 48 T ones 14 1 t t 2 b bint r rint stats regress s T b stats ToMATLAB liti22 得回歸模型為 Y polyconf p t S plot t s k t Y r 預(yù)測(cè)及作圖 ToMATLAB liti23 2020 2 4 33 二 多元二項(xiàng)式回歸 命令 rstool x y model alpha 2020 2 4 34 例3設(shè)某商品的需求量與消費(fèi)者的平均收入 商品價(jià)格的統(tǒng)計(jì)數(shù)據(jù)如下 建立回歸模型 預(yù)測(cè)平均收入為1000 價(jià)格為6時(shí)的商品需求量 法一 直接用多元二項(xiàng)式回歸 x1 10006001200500300400130011001300300 x2 5766875439 y 10075807050659010011060 x x1 x2 rstool x y purequadratic 2020 2 4 35 在畫(huà)面左下方的下拉式菜單中選 all 則beta rmse和residuals都傳送到Matlab工作區(qū)中 在左邊圖形下方的方框中輸入1000 右邊圖形下方的方框中輸入6 則畫(huà)面左邊的 PredictedY 下方的數(shù)據(jù)變?yōu)?8 47981 即預(yù)測(cè)出平均收入為1000 價(jià)格為6時(shí)的商品需求量為88 4791 2020 2 4 36 在Matlab工作區(qū)中輸入命令 beta rmse ToMATLAB liti31 2020 2 4 37 結(jié)果為 b 110 53130 1464 26 5709 0 00011 8475stats 0 970240 66560 0005 法二 ToMATLAB liti32 返回 2020 2 4 38 非線性回歸 1 確定回歸系數(shù)的命令 beta r J nlinfit x y model beta0 2 非線性回歸命令 nlintool x y model beta0 alpha 1 回歸 2020 2 4 39 例4對(duì)第一節(jié)例2 求解如下 2 輸入數(shù)據(jù) x 2 16 y 6 428 209 589 59 7109 939 9910 4910 5910 6010 8010 6010 9010 76 beta0 82 3 求回歸系數(shù) beta r J nlinfit x y volum beta0 beta 得結(jié)果 beta 11 6036 1 0641 即得回歸模型為 ToMATLAB liti41 題目 2020 2 4 40 4 預(yù)測(cè)及作圖 YY delta nlpredci volum x beta r J plot x y k x YY r ToMATLAB liti42 2020 2 4 41 例5財(cái)政收入預(yù)測(cè)問(wèn)題 財(cái)政收入與國(guó)民收入 工業(yè)總產(chǎn)值 農(nóng)業(yè)總產(chǎn)值 總?cè)丝?就業(yè)人口 固定資產(chǎn)投資等因素有關(guān) 下表列出了1952 1981年的原始數(shù)據(jù) 試構(gòu)造預(yù)測(cè)模型 解設(shè)國(guó)民收入 工業(yè)總產(chǎn)值 農(nóng)業(yè)總產(chǎn)值 總?cè)丝?就業(yè)人口 固定資產(chǎn)投資分別為x1 x2 x3 x4 x5 x6 財(cái)政收入為y 設(shè)變量之間的關(guān)系為 y ax1 bx2 cx3 dx4 ex5 fx6使用非線性回歸方法求解 2020 2 4 42 1 對(duì)回歸模型建立M文件model m如下 functionyy model beta0 X a beta0 1 b beta0 2 c beta0 3 d beta0 4 e beta0 5 f beta0 6 x1 X 1 x2 X 2 x3 X 3 x4 X 4 x5 X 5 x6 X 6 yy a x1 b x2 c x3 d x4 e x5 f x6 2020 2 4 43 2 主程序liti6 m如下 X 598 00349 00461 0057482 0020729 0044 00 2927 006862 001273 00100072 043280 00496 00 y 184 00216 00248 00254 00268 00286 00357 00444 00506 00 271 00230 00266 00323 00393 00466 00352 00303 00447 00 564 00638 00658 00691 00655 00692 00657 00723 00922 00 890 00826 00810 0 beta0 0 50 0 03 0 600 01 0 020 35 betafit nlinfit X y model beta0 ToMATLAB liti6 2020 2 4 44 betafit 0 5243 0 0294 0 63040 0112 0 02300 3658即y 0 5243x1 0 0294x2 0 6304x3 0 0112x4 0 0230 x5 0 3658x6 結(jié)果為 返回 2020 2 4 45 逐步回歸 逐步回歸的命令是 stepwise x y inmodel alpha 運(yùn)行stepwise命令時(shí)產(chǎn)生三個(gè)圖形窗口 StepwisePlot StepwiseTable StepwiseHistory 在StepwisePlot窗口 顯示出各項(xiàng)的回歸系數(shù)及其置信區(qū)間 StepwiseTable窗口中列出了一個(gè)統(tǒng)計(jì)表 包括回歸系數(shù)及其置信區(qū)間 以及模型的統(tǒng)計(jì)量剩余標(biāo)準(zhǔn)差 RMSE 相關(guān)系數(shù) R square F值 與F對(duì)應(yīng)的概率P 2020 2 4 46 例6水泥凝固時(shí)放出的熱量y與水泥中4種化學(xué)成分x1 x2 x3 x4有關(guān) 今測(cè)得一組數(shù)據(jù)如下 試用逐步回歸法確定一個(gè)線性模型 1 數(shù)據(jù)輸入 x1 7111117113122111110 x2 26295631525571315447406668 x3 615886917221842398 x4 6052204733226442226341212 y 78 574 3104 387 695 9109 2102 772 593 1115 983 8113 3109 4 x x1x2x3x4 2020 2 4 47 2 逐步回歸 1 先在初始模型中取全部自變量 stepwise x y 得圖StepwisePlot和表StepwiseTable 圖StepwisePlot中四條直線都是虛線 說(shuō)明模型的顯著性不好 從表StepwiseTable中看出變量x3和x4的顯著性最差 2020 2 4 48 2 在圖StepwisePlot中點(diǎn)擊直線3和直線4 移去變量x3和x4 移去變量x3和x4后模型具有顯著性 雖然剩余標(biāo)準(zhǔn)差 RMSE 沒(méi)有太大的變化 但是統(tǒng)計(jì)量F的值明顯增大 因此新的回歸模型更好 ToMAT