數理統(tǒng)計CH7回歸分析72PPT學習教案

1、數理統(tǒng)計數理統(tǒng)計CH7回歸分析回歸分析72本章內容本章內容7 回歸分析第1頁/共76頁7.2.3 回歸預測Response Estimate by Linear Regression Model7.2 一元線性回歸第2頁/共76頁7.2.3 回歸預測(1)預測問題20.0001310.9954pR當回歸方程檢驗顯著并有較大的決定系數時可將其用于回歸預測給定x，求y的估計值和置信區(qū)間稱作回歸預測第3頁/共76頁7.2.3 回歸預測(2)響應 的點預測 000000011xxyabxyybxbxyb xxxx yyxxnSSxxxxynSSxxx ybSS0 xyxy0試驗觀測記作 和預測變量記作

2、 和點預測公式第4頁/共76頁7.2.3 回歸預測(3)點預測的期望和方差 0020202111xxxxxxxVar yVarynSSxxxxVar ynSSxxnSS000E yE abxabx 2Var y第5頁/共76頁7.2.3 回歸預測(4)響應統(tǒng)計量分布202001 ,xxxyN abxnSS 000020yabxeE yabxVar yVar e200,yN abx202001 0, 1xxxyyNnSS響應預測的分布響應預測差的分布引用獨立性響應模型第6頁/共76頁2000200201111xEExxxyynSSTSSEdfyyt dfxxMSEnSS7.2.3 回歸預測(5)

3、響應的區(qū)間預測2Edfn22ESSEdf統(tǒng)計量第7頁/共76頁7.2.3 回歸預測(5)響應的區(qū)間預測00220111ExyyPtdfxxMSEnSS 響應區(qū)間估計響應預測差的置信區(qū)間和置信度第8頁/共76頁7.2.3 回歸預測0002020001111,ExP yLyyLxxLtdfMSEnSSyyL yL 響應 的置信區(qū)間為(5)響應的區(qū)間預測響應區(qū)間估計響應的置信區(qū)間和置信度第9頁/共76頁7.2.3 回歸預測(6)回歸預測案例22020000054.1360.0533.1824105.0610.670921148.11180.346;；響應點預測：響應區(qū)間預測：EEExExnxdftd

4、fMSESSE dfSSxxLtdfMSEnSSyxyyL yL 響應的點預測和區(qū)間預測第10頁/共76頁7.2.3 回歸預測(6)回歸預測案例響應的點預測和區(qū)間預測x0y0估計 L y0_CL y0_CU2.0112.5810 41.6143 70.9667154.19532.8176.8578 38.1417 138.7161214.99953.6241.1346 36.1312 205.0034277.26584.4305.4114 35.8297 269.5817341.24115.2369.6882 37.2787 332.4095406.96696.0433.9650 40.289

5、7 393.6753474.25476.8498.2418 44.5472 453.6946542.7890y0的點預測和區(qū)間預測第11頁/共76頁7.2.3 回歸預測(6)回歸預測案例試驗范圍內響應預測x0=2:0.2:6.4第12頁/共76頁7.2.3 回歸預測(6)回歸預測案例禁止試驗范圍外對響應進行預測x0=0:0.5:25第13頁/共76頁7.2 一元線性回歸7.2.4 可線性化非線性回歸 Linear Regression by Transformed Nonlinear Models第14頁/共76頁7.2.4 可線性化非線性回歸(1)問題的提出0RFModelErrorSSRS

6、SE1n-2SSR/1SSE/(n-2)MSR/MSEpTotalSST n-1The ANOVA Table7.2.4 可線性化非線性回歸(2)非線性模型線性回歸步驟：利用線性變換后的樣本數據進行方差分析，檢驗回歸顯著性第21頁/共76頁7.2.4 可線性化非線性回歸(3)可線性化非線性回歸案例：出鋼時，鋼水對耐火材料的侵蝕使鋼包容積不斷增加。成對測定了鋼包使用次數(X)和容積增大量(Y)數據，試求描述響應變量Y與自變量X關系的經驗公式(回歸方程)。XY23456789101112131415166.428.209.589.509.7010.009.939.9910.4910.5910.60

7、10.8010.6010.9010.76第22頁/共76頁7.2.4 可線性化非線性回歸(4)案例雙曲線回歸根據試驗觀測散點圖的特征選雙曲線模型1baYX11yYyabxxX線性化變換第23頁/共76頁XYxy23456789101112131415166.428.209.589.509.7010.009.939.9910.4910.5910.6010.8010.6010.9010.760.50000.33330.25000.20000.16670.14290.12500.11110.10000.09090.08330.07690.07140.06670.06250.15580.12200.1

8、0440.10530.10310.10000.10070.10010.09530.09440.09430.09260.09430.09170.092911,yxYX7.2.4 可線性化非線性回歸(4)案例雙曲線回歸試驗觀測的線性化變換第24頁/共76頁7.2.4 可線性化非線性回歸(4)案例雙曲線回歸XYxy23456789101112131415166.428.209.589.509.7010.009.939.9910.4910.5910.6010.8010.6010.9010.760.50000.33330.25000.20000.16670.14290.12500.11110.10000

9、.09090.08330.07690.07140.06670.06250.15580.12200.10440.10530.10310.10000.10070.10010.09530.09440.09430.09260.09430.09170.0929n=15Total x*y=0.27265T= x2.38071.5469T2/n0.37785 0.15953 x20.58433 0.16333線性回歸數據計算第25頁/共76頁SSx=0.58433-0.37785=0.20648, n=15SP=0.27265-2.38071.5469/15=0.02714b=SP/SSx=0.02714/

10、0.20648=0.13144a=1.5469/15-b2.3807/15=0.08227SST=SSy=0.16333-0.15953=0.00380SSR=SP2/SSx=0.027142/0.20648=0.00357SSE=SST-SSR=0.0038-0.00357=0.000237.2.4 可線性化非線性回歸(4)案例雙曲線回歸線性回歸估計和平方和計算第26頁/共76頁R2=SSR/SST=0.00357/0.0038=0.9395SourceSSdfMSF valuePrFModelError0.003570.000231130.003571.7692e-5201.78 FMod

11、elError0.254570.010931130.254578.4077e-4302.78 FModelErrorSSRSSEmn-m-1SSR/mSSE/(n-m-1)MSR/MSETotalSSTn-1模型檢驗方差分析表7.3 多元線性回歸(6)回歸模型檢驗21RSSR SSTSSE SST 0111:0:,mmHH不全為零第54頁/共76頁(7)回歸參數檢驗12,ETjjjjTjjjjdfjNX XSTDERRX XMSEpP TSTDERR 7.3 多元線性回歸01:01,2:01,2jjHjmHjm；第55頁/共76頁7.3 多元線性回歸(8)Hald水泥問題回歸分析X1X2X3X

12、4Y72666078.5129155274.31156820104.3113184787.675263395.91155922109.2371176102.7131224472.5254182293.12147426115.9140233483.81166912113.31068812109.478.574.3104.387.695.9109.2102.772.593.1115.983.8113.3109.4y第56頁/共76頁7.3 多元線性回歸(8)Hald水泥問題回歸分析X1X2X3X4Y72666078.5129155274.31156820104.3113184787.6752633

13、95.91155922109.2371176102.7131224472.5254182293.12147426115.9140233483.81166912113.31068812109.41726660112915521 11568201 113184717526331 11559221371176113122441254182212147426114023341 11669121 1068812X第57頁/共76頁7.3 多元線性回歸(8)Hald水泥問題回歸分析SourceSSdfMSF valuePrFModel 2667.904 666.975 111.479 4.7562e-00

14、7Error47.8685.983Total2715.76 12Hald水泥問題模型檢驗方差分析表20.9824SSRRSST回歸模型顯著性檢驗第58頁/共76頁7.3 多元線性回歸(8)Hald水泥問題回歸分析SourceSSdfMSF valueF0.05(4,8)Model 2667.904 666.975 111.4793.8379Error47.8685.983Total2715.76 12Hald水泥問題模型檢驗方差分析表20.9824SSRRSST回歸模型顯著性檢驗第59頁/共76頁7.3 多元線性回歸(8)Hald水泥問題回歸分析parameter estimate t val

15、ue Pr|t|62.4054 0.891 0.399111.55112.083 0.070820.51020.705 0.500930.10190.135 0.89594-0.1441 -0.203 0.8441Hald水泥問題參數估計和檢驗回歸參數顯著性檢驗第60頁/共76頁 模型檢驗的方差分析結果表明，線性模型零假設在水平上被拒絕，且決定系數達，說明響應變量與自變量間存在很強的線性關系，響應觀測值與回歸預測值之間的殘差較小。因此，回歸模型擬合良好并具有較高的預測精度。7.3 多元線性回歸(8)Hald水泥問題回歸分析第61頁/共76頁 回歸參數的 檢驗結果表明，回歸系數零假設在水平上均被

16、接受，即回歸系數都不顯著，這與響應變量與自變量間存在很強線性關系的結論矛盾，說明自變量之間存在較強的線性相關。因此，需要選用其它回歸方法來改進回歸分析的結果。7.3 多元線性回歸(8)Hald水泥問題回歸分析第62頁/共76頁7 回歸分析7.4 回歸注意事項Taking Notice to Something第63頁/共76頁在實際中應用回歸方程應謹慎：(1)禁止回歸方程外推；(2)試驗實施和應用場合的非處理因素(條件)應大致相當；(3)禁止回歸方程逆向使用；(4)x和y均為隨機變量時，只有部分回歸公式仍適用。7.4 回歸注意事項(1)回歸方程的應用第64頁/共76頁7.4 回歸注意事項xy1

17、0 xy1自變量x增加或減少1 1個單位則y平均增加或減少 1 1個單位的說法應謹慎！(2)回歸系數的應用第65頁/共76頁 回歸方程是在一定的自變量觀測范圍內建立的，在自變量觀測范圍之外使用回歸方程，稱作回歸的外推；如果在自變量觀測范圍之內使用，就叫做內插。內插使用上一般沒什么問題，但外推使用有可能存在很大的偏差，故一般不主張對回歸方程做外推使用，沒把握就不要使用。 7.4 回歸注意事項(3)禁止回歸方程外推第66頁/共76頁7.4 回歸注意事項(3)禁止回歸方程外推 用x從 到的試驗觀測得一條決定系數達的回歸直線，由此預測x= 處的響應 y 會導致很大偏差，而且y與x為線性關系的結論也是錯

18、誤的。第67頁/共76頁7.4 回歸注意事項(3)禁止回歸方程外推 用x從2到16的試驗觀測得到一條決定系數0.9582的指數回歸曲線，由此做出y與x是指數關系的結論較恰當。第68頁/共76頁 禁止超越x 的試驗范圍解釋回歸系數，超范圍解釋可能造成與實際的嚴重偏離。例如，產量y的平均值大致隨施肥量x的增加呈線性增長。但超出一定范圍，如施肥量過大，則進一步增加施肥量不僅不能促進增產，反而可能產生肥害導致減產。7.4 回歸注意事項合理解釋回歸系數(3)禁止回歸方程外推第69頁/共76頁 注意試驗實施與應用場合的非處理因素應大致相當(背景條件一致性)，否則在x試驗范圍內解釋回歸系數仍可能出問題。例如，在貧