數(shù)值計(jì)算方法課件

第二章插值與逼近2.9數(shù)據(jù)擬合(最小二乘法)數(shù)值計(jì)算基礎(chǔ)華長生制作1第二章插值與逼近2.9數(shù)據(jù)擬合(最小二乘法)數(shù)值2.9數(shù)據(jù)擬合(最小二乘法)實(shí)例：考察某種纖維的強(qiáng)度與其拉伸倍數(shù)的關(guān)系,下表是實(shí)際測定的24個纖維樣品的強(qiáng)度與相應(yīng)的拉伸倍數(shù)是記錄:華長生制作22.9數(shù)據(jù)擬合(最小二乘法)實(shí)例：考察某種纖維的強(qiáng)纖維強(qiáng)度隨拉伸倍數(shù)增加而增加并且24個點(diǎn)大致分布在一條直線附近---------(1)華長生制作3纖維強(qiáng)度隨拉伸并且24個點(diǎn)大致分---------(1)華長必須找到一種度量標(biāo)準(zhǔn)來衡量什么曲線最接近所有數(shù)據(jù)點(diǎn)一、最小二乘法的基本概念一般使用在回歸分析中稱為殘差稱為平方誤差華長生制作4必須找到一種度量標(biāo)準(zhǔn)來衡量什么曲線最接近所有數(shù)據(jù)點(diǎn)一、最小二在回歸分析中稱為殘差平方和從而確定(1)中的待定系數(shù)注意(1)式是一條直線因此將問題一般化華長生制作5在回歸分析中稱為殘差平方和從而確定(1)中的待定系數(shù)注意(1仍然定義平方誤差華長生制作6仍然定義平方誤差華長生制作6我們選取的度量標(biāo)準(zhǔn)是---------(2)---------(3)華長生制作7我們選取的度量標(biāo)準(zhǔn)是---------(2)--------華長生制作8華長生制作8二、法方程組由可知因此可假設(shè)因此求最小二乘解轉(zhuǎn)化為二次函數(shù)華長生制作9二、法方程組由可知因此可假設(shè)因此求最小二乘解轉(zhuǎn)化為二次函數(shù)華由多元函數(shù)取極值的必要條件得即華長生制作10由多元函數(shù)取極值的必要條件得即華長生制作10---------(4)即華長生制作11---------(4)即華長生制作11引入記號則由內(nèi)積的概念可知---------(5)---------(6)顯然內(nèi)積滿足交換律華長生制作12引入記號則由內(nèi)積的概念可知---------(5)-----方程組(4)便可化為---------(7)將其表示成矩陣形式-----(8)華長生制作13方程組(4)便可化為---------(7)將其表示成矩陣形并且其系數(shù)矩陣為對稱陣所以法方程組的系數(shù)矩陣非奇異,即根據(jù)Cramer法則,法方程組有唯一解華長生制作14并且其系數(shù)矩陣為對稱陣所以法方程組的系數(shù)矩陣非奇異,即根據(jù)C即是的最小值所以因此華長生制作15即是的最小值所以因此華長生制作15作為一種簡單的情況,基函數(shù)之間的內(nèi)積為平方誤差華長生制作16作為一種簡單的情況,基函數(shù)之間的內(nèi)積為平方誤差華長生制作16例1.回到本節(jié)開始的實(shí)例，從散點(diǎn)圖可以看出纖維強(qiáng)度和拉伸倍數(shù)之間近似與線性關(guān)系故可選取線性函數(shù)為擬合函數(shù)，其基函數(shù)為建立法方程組根據(jù)內(nèi)積公式，可得華長生制作17例1.回到本節(jié)開始的實(shí)例，從散點(diǎn)圖可以看出纖維強(qiáng)度和拉伸法方程組為解得平方誤差為華長生制作18法方程組為解得平方誤差為華長生制作18擬合曲線與散點(diǎn)的關(guān)系如右圖:華長生制作19擬合曲線與散點(diǎn)華長生制作19例2.求擬合下列數(shù)據(jù)的最小二乘解x=.24.65.951.241.732.012.232.522.772.99y=.23-.26-1.10-.45.27.10-.29.24.561解:從數(shù)據(jù)的散點(diǎn)圖可以看出因此假設(shè)擬合函數(shù)與基函數(shù)分別為華長生制作20例2.求擬合下列數(shù)據(jù)的最小二乘解x=.24.65.956.7941-5.347563.2589-5.34755.1084-49.008663.2589-49.00861002.51.6163-2.382726.7728通過計(jì)算,得法方程組的系數(shù)矩陣及常數(shù)項(xiàng)矩陣為Go!Go!華長生制作216.7941-5.347563.25891.6用Gauss列主元消去法,得-1.0410-1.26130.030735擬合的平方誤差為圖象如圖華長生制作22用Gauss列主元消去法,得-1.0410擬合的平方誤例3.在某化學(xué)反應(yīng)里,測得生成物濃度y%與時(shí)間t的數(shù)據(jù)如下，試建立y關(guān)于t的經(jīng)驗(yàn)公式t=1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16y=4.00,6.40,8.00,8.80,9.22,9.50,9.70,9.86,10.00,10.20,10.32,10.42,10.50,10.55,10.58,10.60解:具有圖示的圖形的曲線很多，本題特提供兩種形式華長生制作23例3.在某化學(xué)反應(yīng)里,測得生成物濃度y%與時(shí)間t的t=1,2兩邊取對數(shù),得得即為擬合函數(shù)基函數(shù)為解法方程組得平方誤差為華長生制作24兩邊取對數(shù),得得即為擬合函數(shù)基函數(shù)為解法方程組得平方誤差為華用最小二乘法得即無論從圖形還是從平方誤差考慮在本例中指數(shù)函數(shù)擬合比雙曲線擬合要好平方誤差為華長生制作25用最小二乘法得即無論從圖形還是從平方誤差考慮在本例中指數(shù)函數(shù)三、加權(quán)最小二乘法各點(diǎn)的重要性可能是不一樣的重度:即權(quán)重或者密度，統(tǒng)稱為權(quán)系數(shù)定義加權(quán)平方誤差為-----(9)華長生制作26三、加權(quán)最小二乘法各點(diǎn)的重要性可能是不一樣的重度:即權(quán)重或者使得華長生制作27使得華長生制作27由多元函數(shù)取極值的必要條件得即華長生制作28由多元函數(shù)取極值的必要條件得即華長生制作28引入記號定義加權(quán)內(nèi)積-----(10)華長生制作29引入記號定義加權(quán)內(nèi)積-----(10)華長生制作29矩陣形式(法方程組)為方程組(10)式化為-----(11)---(12)華長生制作30矩陣形式(法方程組)為方程組(10)式化為-----(11)平方誤差為作為特殊情形,用多項(xiàng)式作擬合函數(shù)的法方程組為-----(13)華長生制作31平方誤差為作為特殊情形,用多項(xiàng)式作擬合函數(shù)的法方程組為---四、用正交多項(xiàng)式作最小二乘擬合*即正交多項(xiàng)式如何選取呢-----(14)華長生制作32四、用正交多項(xiàng)式作最小二乘擬合*即正交多項(xiàng)式如何選取呢---使得華長生制作33使得華長生制作33由可知因此華長生制作34由可知因此華長生制作34而因此華長生制作35而因此華長生制作35可知最后可得正交多項(xiàng)式選取的方法:-----(15)由華長生制作36可知最后可得正交多項(xiàng)式選取的方法:-----(15)由華長生使得由正交多項(xiàng)式的性質(zhì),法方程組華長生制作37使得由正交多項(xiàng)式的性質(zhì),法方程組華長生制作37-----(16)-----(17)可化為即得即為利用正交多項(xiàng)式的最小二乘解華長生制作38-----(16)-----(17)可化為即得即為利用正交多平方誤差為華長生制作39平方誤差為華長生制作39例4.是用最小二乘法求擬合這組數(shù)據(jù)的多項(xiàng)式解:從散點(diǎn)圖可知數(shù)據(jù)和二次多項(xiàng)式擬合較好因此選用二次多項(xiàng)式作這組數(shù)據(jù)的擬合函數(shù)華長生制作40例4.是用最小二乘法求擬合這組數(shù)據(jù)的多項(xiàng)式解:從散點(diǎn)圖可知數(shù)設(shè)擬合函數(shù)取華長生制作41設(shè)擬合函數(shù)取華長生制作41華長生制作42華長生制作42因此擬合多項(xiàng)式為平方誤差為華長生制作43因此擬合多項(xiàng)式為平方誤差為華長生制作43五、利用正交多項(xiàng)式作最小二乘法的算法設(shè)計(jì)下周請交第三章作業(yè)及應(yīng)用題華長生制作44五、利用正交多項(xiàng)式作最小二乘法的算法設(shè)計(jì)下周請交第三章作業(yè)及第二章插值與逼近2.9數(shù)據(jù)擬合(最小二乘法)數(shù)值計(jì)算基礎(chǔ)華長生制作45第二章插值與逼近2.9數(shù)據(jù)擬合(最小二乘法)數(shù)值2.9數(shù)據(jù)擬合(最小二乘法)實(shí)例：考察某種纖維的強(qiáng)度與其拉伸倍數(shù)的關(guān)系,下表是實(shí)際測定的24個纖維樣品的強(qiáng)度與相應(yīng)的拉伸倍數(shù)是記錄:華長生制作462.9數(shù)據(jù)擬合(最小二乘法)實(shí)例：考察某種纖維的強(qiáng)纖維強(qiáng)度隨拉伸倍數(shù)增加而增加并且24個點(diǎn)大致分布在一條直線附近---------(1)華長生制作47纖維強(qiáng)度隨拉伸并且24個點(diǎn)大致分---------(1)華長必須找到一種度量標(biāo)準(zhǔn)來衡量什么曲線最接近所有數(shù)據(jù)點(diǎn)一、最小二乘法的基本概念一般使用在回歸分析中稱為殘差稱為平方誤差華長生制作48必須找到一種度量標(biāo)準(zhǔn)來衡量什么曲線最接近所有數(shù)據(jù)點(diǎn)一、最小二在回歸分析中稱為殘差平方和從而確定(1)中的待定系數(shù)注意(1)式是一條直線因此將問題一般化華長生制作49在回歸分析中稱為殘差平方和從而確定(1)中的待定系數(shù)注意(1仍然定義平方誤差華長生制作50仍然定義平方誤差華長生制作6我們選取的度量標(biāo)準(zhǔn)是---------(2)---------(3)華長生制作51我們選取的度量標(biāo)準(zhǔn)是---------(2)--------華長生制作52華長生制作8二、法方程組由可知因此可假設(shè)因此求最小二乘解轉(zhuǎn)化為二次函數(shù)華長生制作53二、法方程組由可知因此可假設(shè)因此求最小二乘解轉(zhuǎn)化為二次函數(shù)華由多元函數(shù)取極值的必要條件得即華長生制作54由多元函數(shù)取極值的必要條件得即華長生制作10---------(4)即華長生制作55---------(4)即華長生制作11引入記號則由內(nèi)積的概念可知---------(5)---------(6)顯然內(nèi)積滿足交換律華長生制作56引入記號則由內(nèi)積的概念可知---------(5)-----方程組(4)便可化為---------(7)將其表示成矩陣形式-----(8)華長生制作57方程組(4)便可化為---------(7)將其表示成矩陣形并且其系數(shù)矩陣為對稱陣所以法方程組的系數(shù)矩陣非奇異,即根據(jù)Cramer法則,法方程組有唯一解華長生制作58并且其系數(shù)矩陣為對稱陣所以法方程組的系數(shù)矩陣非奇異,即根據(jù)C即是的最小值所以因此華長生制作59即是的最小值所以因此華長生制作15作為一種簡單的情況,基函數(shù)之間的內(nèi)積為平方誤差華長生制作60作為一種簡單的情況,基函數(shù)之間的內(nèi)積為平方誤差華長生制作16例1.回到本節(jié)開始的實(shí)例，從散點(diǎn)圖可以看出纖維強(qiáng)度和拉伸倍數(shù)之間近似與線性關(guān)系故可選取線性函數(shù)為擬合函數(shù)，其基函數(shù)為建立法方程組根據(jù)內(nèi)積公式，可得華長生制作61例1.回到本節(jié)開始的實(shí)例，從散點(diǎn)圖可以看出纖維強(qiáng)度和拉伸法方程組為解得平方誤差為華長生制作62法方程組為解得平方誤差為華長生制作18擬合曲線與散點(diǎn)的關(guān)系如右圖:華長生制作63擬合曲線與散點(diǎn)華長生制作19例2.求擬合下列數(shù)據(jù)的最小二乘解x=.24.65.951.241.732.012.232.522.772.99y=.23-.26-1.10-.45.27.10-.29.24.561解:從數(shù)據(jù)的散點(diǎn)圖可以看出因此假設(shè)擬合函數(shù)與基函數(shù)分別為華長生制作64例2.求擬合下列數(shù)據(jù)的最小二乘解x=.24.65.956.7941-5.347563.2589-5.34755.1084-49.008663.2589-49.00861002.51.6163-2.382726.7728通過計(jì)算,得法方程組的系數(shù)矩陣及常數(shù)項(xiàng)矩陣為Go!Go!華長生制作656.7941-5.347563.25891.6用Gauss列主元消去法,得-1.0410-1.26130.030735擬合的平方誤差為圖象如圖華長生制作66用Gauss列主元消去法,得-1.0410擬合的平方誤例3.在某化學(xué)反應(yīng)里,測得生成物濃度y%與時(shí)間t的數(shù)據(jù)如下，試建立y關(guān)于t的經(jīng)驗(yàn)公式t=1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16y=4.00,6.40,8.00,8.80,9.22,9.50,9.70,9.86,10.00,10.20,10.32,10.42,10.50,10.55,10.58,10.60解:具有圖示的圖形的曲線很多，本題特提供兩種形式華長生制作67例3.在某化學(xué)反應(yīng)里,測得生成物濃度y%與時(shí)間t的t=1,2兩邊取對數(shù),得得即為擬合函數(shù)基函數(shù)為解法方程組得平方誤差為華長生制作68兩邊取對數(shù),得得即為擬合函數(shù)基函數(shù)為解法方程組得平方誤差為華用最小二乘法得即無論從圖形還是從平方誤差考慮在本例中指數(shù)函數(shù)擬合比雙曲線擬合要好平方誤差為華長生制作69用最小二乘法得即無論從圖形還是從平方誤差考慮在本例中指數(shù)函數(shù)三、加權(quán)最小二乘法各點(diǎn)的重要性可能是不一樣的重度:即權(quán)重或者密度，統(tǒng)稱為權(quán)系數(shù)定義加權(quán)平方誤差為-----(9)華長生制作70三、加權(quán)最小二乘法各點(diǎn)的重要性可能是不一樣的重度:即權(quán)重或者使得華長生制作71使得華長生制作27由多元函數(shù)取極值的必要條件得即華長生制作72由多元函數(shù)取極值的必要條件得即華長生制作28引入記號定義加權(quán)內(nèi)積-----(10)華長生制作73引入記號定義加權(quán)內(nèi)積-----(10)華長生制作29矩陣形式(法方程組)為方程組(10)式化為-----(11)---(12)華長生制作74矩陣形式(法方程組)為方程組(10)式化為-----(11)平方誤差為作為特殊情形,用多項(xiàng)式作擬合函數(shù)的法方程組為-----(13)華長生制作75平方誤差為作為特殊情形,用多項(xiàng)式作擬合函數(shù)的法方程組為---四、用正交多項(xiàng)式作最小二乘