用MATLAB求解回歸分析ppt課件

1、多元線性回歸多元線性回歸b=regress( Y, X )npnnppxxxxxxxxxX.1.1.1212222111211nYYYY.21pb.101、確定回歸系數(shù)的點估計值：、確定回歸系數(shù)的點估計值：ppxxy.110統(tǒng)計工具箱中的回歸分析命令統(tǒng)計工具箱中的回歸分析命令對一元線性回歸，取p=1即可。3、畫出殘差及其置信區(qū)間：、畫出殘差及其置信區(qū)間： rcoplotr，rint）2、求回歸系數(shù)的點估計和區(qū)間估計、并檢驗回歸模型：、求回歸系數(shù)的點估計和區(qū)間估計、并檢驗回歸模型： b, bint,r,rint,stats=regress(Y,X,alpha)回歸系數(shù)的區(qū)間估計殘差用于檢驗回歸模

2、型的統(tǒng)計量，有三個數(shù)值：相關(guān)系數(shù)r2、F值、與F對應(yīng)的概率p置信區(qū)間 顯著性水平（缺省時為0.05） 相關(guān)系數(shù) r2越接近 1，說明回歸方程越顯著； F F1-（k，n-k-1）時拒絕 H0，F(xiàn) 越大，說明回歸方程越顯著； 與 F 對應(yīng)的概率 p時拒絕 H0，回歸模型成立.例例1 解：解：1、輸入數(shù)據(jù)：、輸入數(shù)據(jù)： x=143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164; X=ones(16,1) x; Y=88 85 88 91 92 93 93 95 96 98 97 96 98 99 100 102;2、回歸分析

3、及檢驗：、回歸分析及檢驗： b,bint,r,rint,stats=regress(Y,X) b,bint,stats得結(jié)果：b = bint = -16.0730 -33.7071 1.5612 0.7194 0.6047 0.8340 stats = 0.9282 180.9531 0.0000即7194. 0,073.1610；0的置信區(qū)間為-33.7017，1.5612, 1的置信區(qū)間為0.6047,0.834;r2=0.9282, F=180.9531, p=0.0000p0.05, 可知回歸模型 y=-16.073+0.7194x 成立.3、殘差分析，作殘差圖：、殘差分析，作殘差圖

4、： rcoplot(r,rint) 從殘差圖可以看出，除第二個數(shù)據(jù)外，其余數(shù)據(jù)的殘差離零點均較近，且殘差的置信區(qū)間均包含零點，這說明回歸模型 y=-16.073+0.7194x能較好的符合原始數(shù)據(jù)，而第二個數(shù)據(jù)可視為異常點. 4、預(yù)測及作圖：、預(yù)測及作圖：z=b(1)+b(2)*x plot(x,Y,k+,x,z,r)246810121416-5-4-3-2-101234Residual Case Order PlotResidualsCase Number多多 項項 式式 回回 歸歸 （一一元多項式回歸（一一元多項式回歸 （1確定多項式系數(shù)的命令：確定多項式系數(shù)的命令：p，S=polyfit

5、x，y，m）（2一元多項式回歸命令：一元多項式回歸命令：polytoolx，y，m）1、回歸：、回歸：y=a1xm+a2xm-1+amx+am+12、預(yù)測和預(yù)測誤差估計：、預(yù)測和預(yù)測誤差估計：（1Y=polyvalp，x求polyfit所得的回歸多項式在x處 的預(yù)測值Y；（2）Y，DELTA=polyconfp，x，S，alpha求polyfit所得的回歸多項式在x處的預(yù)測值Y及預(yù)測值的顯著性為1-alpha的置信區(qū)間Y DELTA；alpha缺省時為0.5t (s)1/302/303/304/305/306/307/30s (cm)11.8615.6720.6026.6933.7141.93

6、51.13t (s)8/309/3010/3011/3012/3013/3014/30s (cm)61.4972.9085.4499.08113.77129.54146.48方法一方法一 直接作二次多項式回歸：直接作二次多項式回歸： t=1/30:1/30:14/30; s=11.86 15.67 20.60 26.69 33.71 41.93 51.13 61.49 72.90 85.44 99.08 113.77 129.54 146.48; p,S=polyfit(t,s,2)1329. 98896.652946.4892tts得回歸模型為 ：法二法二化為多元線性回歸：化為多元線性回歸：

7、t=1/30:1/30:14/30;s=11.86 15.67 20.60 26.69 33.71 41.93 51.13 61.49 72.90 85.44 99.08 113.77 129.54 146.48;T=ones(14,1) t (t.2);b,bint,r,rint,stats=regress(s,T);b,stats22946.4898896.651329. 9tts得回歸模型為 ：Y=polyconf(p,t,S) plot(t,s,k+,t,Y,r)預(yù)測及作圖預(yù)測及作圖（二多元二項式回歸（二多元二項式回歸命令：rstoolx，y，model, alpha）nm矩陣顯著性水

8、平（缺省時為0.05）n維列向量 例例3 設(shè)某商品的需求量與消費者的平均收入、商品價格的統(tǒng)計數(shù)設(shè)某商品的需求量與消費者的平均收入、商品價格的統(tǒng)計數(shù) 據(jù)如下，建立回歸模型，預(yù)測平均收入為據(jù)如下，建立回歸模型，預(yù)測平均收入為1000、價格為、價格為6時時 的商品需求量的商品需求量.需求量10075807050659010011060收入10006001200500300400130011001300300價格5766875439方法一方法一 直接用多元二項式回歸：x1=1000 600 1200 500 300 400 1300 1100 1300 300;x2=5 7 6 6 8 7 5 4 3

9、 9;y=100 75 80 70 50 65 90 100 110 60;x=x1 x2; rstool(x,y,purequadratic) 在畫面左下方的下拉式菜單中選all”, 則beta、rmse和residuals都傳送到Matlab工作區(qū)中.在左邊圖形下方的方框中輸入1000，右邊圖形下方的方框中輸入6。 則畫面左邊的“Predicted Y下方的數(shù)據(jù)變?yōu)?8.47981，即預(yù)測出平均收入為1000、價格為6時的商品需求量為88.4791.在Matlab工作區(qū)中輸入命令： beta, rmse結(jié)果為: b = 110.5313 0.1464 -26.5709 -0.0001 1.

10、8475 stats = 0.9702 40.6656 0.0005方法二方法二 2222211122110 xxxxy將 化為多元線性回歸：非線性回非線性回 歸歸 （1確定回歸系數(shù)的命令：確定回歸系數(shù)的命令： beta，r，J=nlinfitx，y，model, beta0）（2非線性回歸命令：非線性回歸命令：nlintoolx，y，model, beta0，alpha）1、回歸：、回歸：殘差Jacobian矩陣回歸系數(shù)的初值是事先用m-文件定義的非線性函數(shù)估計出的回歸系數(shù)輸入數(shù)據(jù)x、y分別為 矩陣和n維列向量，對一元非線性回歸，x為n維列向量。mn2、預(yù)測和預(yù)測誤差估計：、預(yù)測和預(yù)測誤差估

11、計：Y，DELTA=nlpredci（model, x，beta，r，J）求nlinfit 或nlintool所得的回歸函數(shù)在x處的預(yù)測值Y及預(yù)測值的顯著性為1-alpha的置信區(qū)間Y DELTA.例例 4 對第一節(jié)例對第一節(jié)例2，求解如下：，求解如下：2、輸入數(shù)據(jù)： x=2:16; y=6.42 8.20 9.58 9.5 9.7 10 9.93 9.99 10.49 10.59 10.60 10.80 10.60 10.90 10.76; beta0=8 2;3、求回歸系數(shù)： beta,r ,J=nlinfit(x,y,volum,beta0)； beta得結(jié)果：beta = 11.603

12、6 -1.0641即得回歸模型為：xey10641. 16036.114、預(yù)測及作圖： YY,delta=nlpredci(volum,x,beta,r ,J)； plot(x,y,k+,x,YY,r)例例5 財政收入預(yù)測問題：財政收入與國民收入、工業(yè)總產(chǎn)值、財政收入預(yù)測問題：財政收入與國民收入、工業(yè)總產(chǎn)值、農(nóng)業(yè)總產(chǎn)值、總?cè)丝凇⒕蜆I(yè)人口、固定資產(chǎn)投資等因素有關(guān)。農(nóng)業(yè)總產(chǎn)值、總?cè)丝?、就業(yè)人口、固定資產(chǎn)投資等因素有關(guān)。下表列出了下表列出了1952-1981年的原始數(shù)據(jù)，試構(gòu)造預(yù)測模型。年的原始數(shù)據(jù)，試構(gòu)造預(yù)測模型。 解解 設(shè)國民收入、工業(yè)總產(chǎn)值、農(nóng)業(yè)總產(chǎn)值、總?cè)丝?、就業(yè)設(shè)國民收入、工業(yè)總產(chǎn)值、農(nóng)業(yè)

13、總產(chǎn)值、總?cè)丝?、就業(yè)人口、固定資產(chǎn)投資分別為人口、固定資產(chǎn)投資分別為x1、x2、x3、x4、x5、x6，財政，財政收入為收入為y，設(shè)變量之間的關(guān)系為：，設(shè)變量之間的關(guān)系為：y= ax1+bx2+cx3+dx4+ex5+fx6使用非線性回歸方法求解。使用非線性回歸方法求解。1 對回歸模型建立M文件model.m如下: function yy=model(beta0,X) a=beta0(1); b=beta0(2); c=beta0(3); d=beta0(4); e=beta0(5); f=beta0(6); x1=X(:,1); x2=X(:,2); x3=X(:,3); x4=X(:,4)

14、; x5=X(:,5); x6=X(:,6); yy=a*x1+b*x2+c*x3+d*x4+e*x5+f*x6; 2. 主程序主程序liti6.m如下如下:X=598.00 349.00 461.00 57482.00 20729.00 44.00 . 2927.00 6862.00 1273.00 100072.0 43280.00 496.00;y=184.00 216.00 248.00 254.00 268.00 286.00 357.00 444.00 506.00 . 271.00 230.00 266.00 323.00 393.00 466.00 352.00 303.00

15、447.00 . 564.00 638.00 658.00 691.00 655.00 692.00 657.00 723.00 922.00 . 890.00 826.00 810.0;beta0=0.50 -0.03 -0.60 0.01 -0.02 0.35;betafit = nlinfit(X,y,model,beta0) betafit = 0.5243 -0.0294 -0.6304 0.0112 -0.0230 0.3658即即y= 0.5243x1-0.0294x2-0.6304x3+0.0112x4-0.0230 x5+0.3658x6結(jié)果為結(jié)果為:逐逐 步步 回回 歸歸逐

16、步回歸的命令是： stepwisex，y，inmodel，alpha） 運行stepwise命令時產(chǎn)生三個圖形窗口：Stepwise Plot，Stepwise Table，Stepwise History. 在Stepwise Plot窗口，顯示出各項的回歸系數(shù)及其置信區(qū)間. Stepwise Table 窗口中列出了一個統(tǒng)計表，包括回歸系數(shù)及其置信區(qū)間，以及模型的統(tǒng)計量剩余標準差RMSE）、相關(guān)系數(shù)R-square）、F值、與F對應(yīng)的概率P.矩陣的列數(shù)的指標，給出初始模型中包括的子集缺省時設(shè)定為全部自變量）顯著性水平缺省時為0.5）自變量數(shù)據(jù), 階矩陣mn因變量數(shù)據(jù)， 階矩陣1n 教學(xué)評估

17、教學(xué)評估為了考評教師的教學(xué)質(zhì)量，教學(xué)研究部門設(shè)計了一個教學(xué)評估表，對學(xué)生進行一次問卷調(diào)查，要求學(xué)生對12位教師的15門課程其中3為教師有兩門課程按以下7項內(nèi)容打分，分值為15分5分最好，1分最差）：問題：問題：1X課程內(nèi)容組織的合理性；2X主要問題展開的邏輯性；3X回答學(xué)生問題的有效性；4X課下交流的有助性；5X教科書的幫助性；6X考試評分的公正性；Y對教師的總體評價。收回問卷調(diào)查表后，得到了學(xué)生對12為教師、15門課程各項評分的平均值，見表。 教師編號課程編號12014.464.424.234.104.564.374.1122244.113.823.293.603.993.823.38330

18、13.583.313.243.764.393.753.1743014.424.374.344.403.634.274.3953014.624.474.534.674.634.574.691X2X3X4X5X6XY教師編號課程編號63093.183.823.923.623.504.143.2573112.472.793.583.502.843.842.8483114.293.924.053.762.764.113.9593124.414.364.274.754.594.114.18103124.594.344.244.392.644.384.44113334.554.454.434.574.45

19、4.404.47124244.674.644.524.393.484.214.6133513.713.413.394.184.064.063.1744114.284.454.104.073.764.434.1594244.244.384.354.484.154.504.331X2X3X4X5X6XY61 XX不一定每項都對教師總體評價Y有顯著影響，并且各項內(nèi)容之間也可能存在很強的相關(guān)性，他們希望得到一個總體評價與各項具體內(nèi)容之間的模型，模型應(yīng)盡量簡單和有效，并且由此能給教師一些合理的建議，以提高總體評價。準備知識：準備知識：逐步回歸這個問題給出了6個自變量，但我們希望從中選出對因變量Y影響顯著

20、的那些來建立回歸模型。變量選擇的標準應(yīng)該是將所有對因變量影響顯著的自變量都選入模型，而影響不顯著的自變量都不選入模型，從便于應(yīng)用的角度，應(yīng)使模型中的自變量個數(shù)盡量少。逐步回歸就是一種從眾多自變量中有效的選擇重要變量的方法。教學(xué)研究部門認為，所列各項具體內(nèi)容逐步回歸的基本思路是，先確定一個包含若干自變量的初始集合，然后每次從集合外的變量中引入一個對因變量影響最大的，再對集合中的變量進行檢驗，從變得不顯著的變量中移出一個影響最小的，依次進行，直到不能引入和移出為止。引入和移出都以給定的顯著性水平為標準。利用MATLAB系統(tǒng)工具箱中的逐步回歸命令stepwise可以實現(xiàn)逐步回歸。Stepwise提供

21、人機交互式畫面，可以在畫面上自由引入和移出變量，進行統(tǒng)計分析。具體用法參見MATLAB叢書回歸模型的建立與求解：回歸模型的建立與求解：我們利用MATLAB命令得到各個變量的回歸系數(shù)，置信區(qū)間，及剩余標準差RMSE），決定系數(shù)R-square），F(xiàn)值，p值。見表。參數(shù)參數(shù)估計值置信區(qū)間10.51620.01546 0.0192-0.05469-0.853 0.7436 30.6706-0.03795 1.37940.1245-0.462 0.67515-0.04335-0.2514 0.164760.1363-0.6958 0.9684RMSER-squareFp0.11250.980667.2

22、92.071e-006可以看到，除1X外其他自變量的回歸系數(shù)置信區(qū)間都包含零點3X在臨界狀態(tài)，將6542,XXXX一一移去與次序無關(guān)），當(dāng)模型中僅含31, XX時結(jié)果見下表。參數(shù)參數(shù)估計值置信區(qū)間10.50990.326 0.69382-0.1137-0.689 0.4616 30.7678-0.5124 1.02340.0833-0.2767 0.44335-0.018-0.1565 0.120560.1109-0.5594 0.7811RMSER-squareFp0.10.977254.71.487e-010可以看到，僅含31, XX模型的回歸系數(shù)置信區(qū)間遠離零點，31, XX對Y的影響是

23、顯著的，與上個結(jié)果比較，剩余標準差由0.1125減少到0.1，雖然2R略有下降，但F值大大提高。這些表明僅含31, XX模型是合適的。但MATLAB命令并未給出回歸模型的常數(shù)項。我們由以下方法計算得到：終得到的模型為在最終模型里回歸變量只有2471.133110XbXbYb其中，31,XXY分別是31,XXY的平均值。利用逐步回歸最2471.17678.05099.031XXY模型解釋：模型解釋：31, XX，是一個簡單易用的模型，據(jù)此可把課程內(nèi)容組織的合理性（ ）1X和回答學(xué)生問題的有效性（ ）列入考評的重點。上式表明，3X1X的分值每增加一分，對教師的總體評價就增加約0.5分；3X的分值每

24、增加一分，對教師的總體評價就增加約0.77分。應(yīng)建議教師注重這兩方面的工作。為了分析其它變量沒有進入最終模型的原因，可以計算YXX,61的相關(guān)系數(shù)，利用MATLAB系統(tǒng)工具箱中的corrcoef命令直接得到這7個變量的相關(guān)系數(shù)矩陣：1.00000.90080.67520.73610.29100.64710.89730.90081.00000.85040.73990.27750.80260.93630.67520.85041.00000.74990.08080.84900.91160.73610.73990.74991.00000.43700.70410.82190.29100.27750.08080.43701.00000.18720.17830.64710.80260.84900.70410.18721.00000.82460.89730.93630.91160.82190.17830.82461.0000一般認為，兩個變量的相關(guān)系數(shù)超過0.85時才具有顯著的相關(guān)關(guān)系。由上面的結(jié)果知，與Y相關(guān)關(guān)系顯著的只有321,XXX而2X未進入最終模型，是由于它與31,XX的