（教學(xué)課件）殘差分析

1、2021/8/23精品精品 PPT 模板模板1回歸分析的基本思想及其初步應(yīng)用回歸分析的基本思想及其初步應(yīng)用2021/8/2321、求回歸直線方程的步驟：、求回歸直線方程的步驟：1111(2),nniiiixxyynn求均值（3）代入公式）代入公式1122211()(),(),.(1)nniiiiiinniiiixx yyxnxybxxxnxa y bxy （4）寫出直線方程為）寫出直線方程為y=bx+a,即為所求的回歸直線方程。即為所求的回歸直線方程。（1）畫散點圖）畫散點圖2021/8/233例例1 從某大學(xué)中隨機選取從某大學(xué)中隨機選取8名女大學(xué)生，其身高和體重數(shù)據(jù)如表名女大學(xué)生，其身高和體

2、重數(shù)據(jù)如表1-1所示。所示。編號12345678身高身高/cm 165 165 157 170 175 165 155 170體重體重/kg4857505464614359求根據(jù)一名女大學(xué)生的身高預(yù)報她的體重的回歸方程，并預(yù)報一名身高為求根據(jù)一名女大學(xué)生的身高預(yù)報她的體重的回歸方程，并預(yù)報一名身高為172cm的女大學(xué)生的體重。的女大學(xué)生的體重。3 3、從散點圖還看到，樣本點散布在某一條直線的附近，而不是、從散點圖還看到，樣本點散布在某一條直線的附近，而不是在一條直線上，所以不能用一次函數(shù)在一條直線上，所以不能用一次函數(shù)y=bx+ay=bx+a描述它們關(guān)系。描述它們關(guān)系。思考思考產(chǎn)生隨機誤差項產(chǎn)

3、生隨機誤差項e e的原因是什么？的原因是什么？ 我們可以用下面的我們可以用下面的線性回歸模型線性回歸模型來表示：來表示：y=bx+a+ey=bx+a+e，其中，其中a a和和b b為模型的未知參數(shù)，為模型的未知參數(shù)，e e稱為隨機誤差稱為隨機誤差。2021/8/234思考思考產(chǎn)生隨機誤差項產(chǎn)生隨機誤差項e的原因是什么？的原因是什么？隨機誤差隨機誤差e e的來源的來源( (可以推廣到一般）：可以推廣到一般）：1、其它因素的影響：影響身高 y 的因素不只是體重 x，可能 還包括遺傳基因、飲食習(xí)慣、生長環(huán)境等因素；2、用線性回歸模型近似真實模型所引起的誤差；3、身高 y 的觀測誤差。2021/8/2

4、355943616454505748體重/kg170155165175170157165165身高/cm87654321編號 假設(shè)隨機誤差對體重沒有影響，也就是說，體重僅受身高的影響，那么散假設(shè)隨機誤差對體重沒有影響，也就是說，體重僅受身高的影響，那么散點圖中所有的點將完全落在回歸直線上。但是，在圖中，數(shù)據(jù)點并沒有完全落點圖中所有的點將完全落在回歸直線上。但是，在圖中，數(shù)據(jù)點并沒有完全落在回歸直線上。在回歸直線上。這些點散布在回歸直線附近，所以一定是隨機誤差把這些點從這些點散布在回歸直線附近，所以一定是隨機誤差把這些點從回歸直線上回歸直線上“推推”開了開了。在例在例1中，殘差平方和約為中，殘差

5、平方和約為128.361。 因此，數(shù)據(jù)點和它在回歸直線上相應(yīng)位置的差異因此，數(shù)據(jù)點和它在回歸直線上相應(yīng)位置的差異 是隨機誤差的效應(yīng)，是隨機誤差的效應(yīng)，稱稱 為為殘差殘差。)iiyy(iiieyy=例如，編號為例如，編號為6的女大學(xué)生，計算殘差為：的女大學(xué)生，計算殘差為：61 (0.849 16585.712)6.627對每名女大學(xué)生計算這個差異，然后分別將所得的值平方后加起來，用數(shù)學(xué)符號對每名女大學(xué)生計算這個差異，然后分別將所得的值平方后加起來，用數(shù)學(xué)符號21()niiiyy稱為稱為殘差平方和殘差平方和，表示為：表示為：類似于方差的定義類似于方差的定義2021/8/236表表1-4列出了女大學(xué)

6、生身高和體重的原始數(shù)據(jù)以及相應(yīng)的殘差數(shù)據(jù)。列出了女大學(xué)生身高和體重的原始數(shù)據(jù)以及相應(yīng)的殘差數(shù)據(jù)。 在研究兩個變量間的關(guān)系時，首先要根據(jù)散點圖來粗略判斷它們是否線在研究兩個變量間的關(guān)系時，首先要根據(jù)散點圖來粗略判斷它們是否線性相關(guān)，是否可以用回歸模型來擬合數(shù)據(jù)。性相關(guān)，是否可以用回歸模型來擬合數(shù)據(jù)。殘差分析與殘差圖的定義：殘差分析與殘差圖的定義： 然后，我們可以通過殘差然后，我們可以通過殘差 來判斷模型擬合的效果，判斷原始來判斷模型擬合的效果，判斷原始數(shù)據(jù)中是否存在可疑數(shù)據(jù)，數(shù)據(jù)中是否存在可疑數(shù)據(jù)，這方面的分析工作稱為殘差分析這方面的分析工作稱為殘差分析。12,ne ee 編號編號1234567

7、8身高身高/cm165165157170175165155170體重體重/kg4857505464614359殘差殘差-6.3732.6272.419-4.6181.1376.627-2.8830.382 我們可以利用圖形來分析殘差特性，作圖時縱坐標為殘差，橫坐標可以選為我們可以利用圖形來分析殘差特性，作圖時縱坐標為殘差，橫坐標可以選為樣本編號，或身高數(shù)據(jù)，或體重估計值等，這樣作出的圖形稱為樣本編號，或身高數(shù)據(jù)，或體重估計值等，這樣作出的圖形稱為殘差圖殘差圖。2021/8/237殘差圖的制作及作用。殘差圖的制作及作用。坐標縱軸為殘差變量，橫軸可以有不同的選擇；坐標縱軸為殘差變量，橫軸可以有不同

8、的選擇；若模型選擇的正確，殘差圖中的點應(yīng)該分布在以若模型選擇的正確，殘差圖中的點應(yīng)該分布在以橫軸為心的帶形區(qū)域橫軸為心的帶形區(qū)域；對于遠離橫軸的點，要特別注意對于遠離橫軸的點，要特別注意。身高與體重殘差圖異常點 錯誤數(shù)據(jù) 模型問題 幾點說明：幾點說明： 第一個樣本點和第第一個樣本點和第6個樣本點的殘差比較大，需要確認在采集過程中是否有人為個樣本點的殘差比較大，需要確認在采集過程中是否有人為的錯誤。如果數(shù)據(jù)采集有錯誤，就予以糾正，然后再重新利用線性回歸模型擬合數(shù)的錯誤。如果數(shù)據(jù)采集有錯誤，就予以糾正，然后再重新利用線性回歸模型擬合數(shù)據(jù)；如果數(shù)據(jù)采集沒有錯誤，則需要尋找其他的原因。據(jù)；如果數(shù)據(jù)采集

9、沒有錯誤，則需要尋找其他的原因。 另外，殘差點比較均勻地落在水平的帶狀區(qū)域中，說明選用的模型計較合適，這另外，殘差點比較均勻地落在水平的帶狀區(qū)域中，說明選用的模型計較合適，這樣的帶狀區(qū)域的寬度越窄，說明模型擬合精度越高，回歸方程的預(yù)報精度越高。樣的帶狀區(qū)域的寬度越窄，說明模型擬合精度越高，回歸方程的預(yù)報精度越高。2021/8/238我們可以用我們可以用相關(guān)指數(shù)相關(guān)指數(shù)R2來刻畫回歸的效果，其計算公式是來刻畫回歸的效果，其計算公式是22121()1()1niiiniiyyRyy殘 差 平 方 和。總 偏 差 平 方 和 R2越接近越接近1，表示回歸的效果越好（因為，表示回歸的效果越好（因為R2越

10、接近越接近1，表示解析變量和預(yù)報變量的線性相關(guān)性越強）。表示解析變量和預(yù)報變量的線性相關(guān)性越強）。 如果某組數(shù)據(jù)可能采取幾種不同回歸方程進行回歸如果某組數(shù)據(jù)可能采取幾種不同回歸方程進行回歸分析，則可以通過比較分析，則可以通過比較R2的值來做出選擇，即的值來做出選擇，即選取選取R2較大的模型作為這組數(shù)據(jù)的模型較大的模型作為這組數(shù)據(jù)的模型?？偟膩碚f：總的來說：相關(guān)指數(shù)相關(guān)指數(shù)R2是度量模型是度量模型擬合效果擬合效果的一種指標。的一種指標。在線性模型中，它在線性模型中，它代表自變量刻畫預(yù)報變量的能力代表自變量刻畫預(yù)報變量的能力。2021/8/239例例 關(guān)于關(guān)于x與與y有如下數(shù)據(jù)：有如下數(shù)據(jù)： 有如

11、下的兩個線性模型：有如下的兩個線性模型：（1） ；（；（2） 試比較哪一個擬合效果更好。試比較哪一個擬合效果更好。x24568y30406050706.517.5yx717.yx22121()1()niiiniiyyRyy 21()niiiyy第一個好第一個好2021/8/2310一般地，建立回歸模型的基本步驟為：一般地，建立回歸模型的基本步驟為：（1）確定研究對象，明確哪個變量是解析變量，哪個變量是預(yù)）確定研究對象，明確哪個變量是解析變量，哪個變量是預(yù)報變量。報變量。（2）畫出確定好的解析變量和預(yù)報變量的散點圖，觀察它們之）畫出確定好的解析變量和預(yù)報變量的散點圖，觀察它們之間的關(guān)系（如是否存

12、在線性關(guān)系等）。間的關(guān)系（如是否存在線性關(guān)系等）。（3）由經(jīng)驗確定回歸方程的類型（如我們觀察到數(shù)據(jù)呈線性關(guān)系，）由經(jīng)驗確定回歸方程的類型（如我們觀察到數(shù)據(jù)呈線性關(guān)系，則選用線性回歸方程則選用線性回歸方程y=bx+a）.（4）按一定規(guī)則估計回歸方程中的參數(shù)（如最小二乘法）。）按一定規(guī)則估計回歸方程中的參數(shù)（如最小二乘法）。（5）得出結(jié)果后分析殘差圖是否有異常（個別數(shù)據(jù)對應(yīng)殘差）得出結(jié)果后分析殘差圖是否有異常（個別數(shù)據(jù)對應(yīng)殘差過大，或殘差呈現(xiàn)不隨機的規(guī)律性，等等），過存在異常，過大，或殘差呈現(xiàn)不隨機的規(guī)律性，等等），過存在異常，則檢查數(shù)據(jù)是否有誤，或模型是則檢查數(shù)據(jù)是否有誤，或模型是 否合適等。否

13、合適等。2021/8/2311案例案例2 一只紅鈴蟲的產(chǎn)卵數(shù)一只紅鈴蟲的產(chǎn)卵數(shù)y和溫度和溫度x有關(guān)?，F(xiàn)有關(guān)。現(xiàn)收集了收集了7組觀測數(shù)據(jù)列于表中：組觀測數(shù)據(jù)列于表中：（1 1）試建立產(chǎn)卵數(shù)）試建立產(chǎn)卵數(shù)y與溫度與溫度x之間的回歸方程；并之間的回歸方程；并預(yù)測溫度為預(yù)測溫度為2828o oC C時產(chǎn)卵數(shù)目。時產(chǎn)卵數(shù)目。（2 2）你所建立的模型中溫度在多大程度上解釋了）你所建立的模型中溫度在多大程度上解釋了產(chǎn)卵數(shù)的變化？產(chǎn)卵數(shù)的變化？ 溫度溫度xoC21232527293235產(chǎn)卵數(shù)產(chǎn)卵數(shù)y/個個7112124661153252021/8/2312選變量選變量 解：選取氣溫為解析變量解：選取氣溫為解

14、析變量x，產(chǎn)卵數(shù)，產(chǎn)卵數(shù) 為預(yù)報變量為預(yù)報變量y。畫散點圖畫散點圖假設(shè)線性回歸方程為假設(shè)線性回歸方程為 ：=bx+a選選 模模 型型分析和預(yù)測分析和預(yù)測當當x=28時，時，y =19.8728-463.73 93估計參數(shù)估計參數(shù)由計算器得：線性回歸方程為由計算器得：線性回歸方程為y= =19.8719.87x-463.73-463.73 相關(guān)指數(shù)相關(guān)指數(shù)R2 2= =r2 20.8640.8642 2=0.7464=0.7464所以，一次函數(shù)模型中溫度解釋了所以，一次函數(shù)模型中溫度解釋了74.64%的產(chǎn)卵數(shù)變化。的產(chǎn)卵數(shù)變化。探索新知探索新知05010015020025030035003691

15、2151821242730333639方案1當當x=28時，時，y =19.8728-463.73 93線性模型線性模型2021/8/2313奇怪？奇怪？9366 ?模型不好？模型不好？2021/8/2314 y=bx2+a 變換變換 y=bt+a非線性關(guān)系非線性關(guān)系 線性關(guān)系線性關(guān)系方案2問題問題選用選用y=bx2+a ，還是還是y=bx2+cx+a ？問題問題3 產(chǎn)卵數(shù)產(chǎn)卵數(shù)氣溫氣溫問題問題2如何求如何求a、b ？合作探究合作探究 t=x2二次函數(shù)模型二次函數(shù)模型2021/8/2315方案2解答平方變換平方變換：令令t=x2，產(chǎn)卵數(shù)，產(chǎn)卵數(shù)y和溫度和溫度x之間二次函數(shù)模型之間二次函數(shù)模型y

16、=bx2+a就轉(zhuǎn)化為產(chǎn)卵數(shù)就轉(zhuǎn)化為產(chǎn)卵數(shù)y和溫度的平方和溫度的平方t之間線性回歸模型之間線性回歸模型y=bt+a溫度溫度21232527293235溫度的平方溫度的平方t44152962572984110241225產(chǎn)卵數(shù)產(chǎn)卵數(shù)y/個個711212466115325作散點圖，并由計算器得：作散點圖，并由計算器得：y y和和t t之間的線性回歸方程為之間的線性回歸方程為y=y=0.3670.367t t-202.54-202.54，相關(guān)指數(shù)，相關(guān)指數(shù)R R2 2= =r r2 20.8960.8962 2=0.802=0.802將將t=xt=x2 2代入線性回歸方程得：代入線性回歸方程得： y=

17、y=0.3670.367x x2 2 -202.54 -202.54當當x x=28=28時時，y y=0.367=0.36728282 2- -202.5485202.5485，且，且R R2 2=0.802=0.802，所以，二次函數(shù)模型中溫度解所以，二次函數(shù)模型中溫度解釋了釋了80.2%80.2%的產(chǎn)卵數(shù)變化。的產(chǎn)卵數(shù)變化。t2021/8/2316問題問題 變換變換 y=bx+a非線性關(guān)系非線性關(guān)系 線性關(guān)系線性關(guān)系2110c xyc問題問題如何選取指數(shù)函數(shù)的底如何選取指數(shù)函數(shù)的底?產(chǎn)卵數(shù)產(chǎn)卵數(shù)氣溫氣溫指數(shù)函數(shù)模型指數(shù)函數(shù)模型方案3合作探究合作探究對數(shù)對數(shù)2021/8/2317方案3解答

18、溫度溫度xoC21232527293235z=lgy0.851.041.321.381.822.062.51產(chǎn)卵數(shù)產(chǎn)卵數(shù)y/個個711212466115325xz當當x=28x=28o oC C 時，時，y 44 y 44 ，指數(shù)回歸，指數(shù)回歸模型中溫度解釋了模型中溫度解釋了98.5%98.5%的產(chǎn)卵數(shù)的的產(chǎn)卵數(shù)的變化變化由計算器得：由計算器得：z z關(guān)于關(guān)于x x的線性回歸方程的線性回歸方程為為z=0.118z=0.118x x-1.665 -1.665 ，相關(guān)指數(shù)相關(guān)指數(shù)R R2 2= =r r2 20.99250.99252 2=0.985=0.9850.118x-1.665 10y 對

19、數(shù)變換：在對數(shù)變換：在 中兩邊取常用對數(shù)得中兩邊取常用對數(shù)得令令 ，則，則 就轉(zhuǎn)換為就轉(zhuǎn)換為z z=bx+a=bx+a22111221lglg( 10 )lglg10lglg10lgc xc xycccc xc xc2110c xyc12lg,lg,zy ac bc2110c xyc2021/8/2318最好的模型是哪個最好的模型是哪個? 產(chǎn)卵數(shù)產(chǎn)卵數(shù)氣溫氣溫產(chǎn)卵數(shù)產(chǎn)卵數(shù)氣溫氣溫線性模型線性模型二次函數(shù)模型二次函數(shù)模型指數(shù)函數(shù)模型指數(shù)函數(shù)模型2021/8/2319比一比比一比函數(shù)模型函數(shù)模型相關(guān)指數(shù)相關(guān)指數(shù)R2線性回歸模型線性回歸模型0.7464二次函數(shù)模型二次函數(shù)模型0.802指數(shù)函數(shù)模型指數(shù)函數(shù)模型0.985最好的模型是哪個最好的模型是哪個?2021/8/2320總總 結(jié)結(jié)1122( ,),(,),.,(,),nnx yxyxy 對于給定的樣本點對于給定的樣本點兩個含有未知參數(shù)的模型：兩個含有未知參數(shù)的模型：(1)(2)( , )( , ),yf x ayg x b和其中其中a和和b都是未知參數(shù)。擬合效果比較的步驟為：都是未知參數(shù)。擬合效果比較的步驟為：（1）分別建立對應(yīng)于兩個模型