第四章插值與擬合4

1、4.7 曲線擬合的最小二乘法曲線擬合的最小二乘法一、引言一、引言插值多項式逼近的一些問題：（1）當節(jié)點數(shù)目較多時，插值是高次的多項式，計算麻煩，收斂性不好；（2）當數(shù)據(jù)有誤差時，插值多項式便保留著一切 測試誤差； 曲線“擬合”則不要求所作曲線完全通過所有的數(shù)據(jù)點，但要求所得曲線能較好地反映所給反映所給數(shù)據(jù)的基本數(shù)據(jù)的基本“變化趨勢變化趨勢”。如何反映？如何反映？1212,nnx xxy yy 如圖所示，已知函數(shù)在點處函數(shù)值為。y=bx+a二、最小二乘原理與線性擬合二、最小二乘原理與線性擬合怎樣確定a,b,使得直線能較好地反映所給數(shù)據(jù)的基本反映所給數(shù)據(jù)的基本“變化趨勢變化趨勢”?ky 一般情況k

2、kyabx誤差kknkyabx1總誤差21,kknkyabxbaI取求a、b，使 達到最小值。y=bx+aabxk這種使誤差平方和達到最小的方法稱為最小二乘法。這種使誤差平方和達到最小的方法稱為最小二乘法。,I a b021niiiyabx021iniiixyabxniiniiyxbna11niiiniiniiyxxbxa1121可解出a,b, 得到y(tǒng)=bx+a這個求線性函數(shù)這個求線性函數(shù)y=bx+a的過程稱為線性擬合。的過程稱為線性擬合。21,kknkyabxbaI0IIab由niiniiyxbna11niiiniiniiyxxbxa1121方程組的解為211112211()nnnniiii

3、iiiiinniiiixyxx yanxx 1112211()nnniiiiiiinniiiinx yxybnxx 用最小二乘原理求擬合曲線的步驟：(1)分析數(shù)據(jù)，畫散點圖。(2)確定擬合函數(shù) 類型。 x(3)用最小二乘原理，確定擬合函數(shù)中的未知參數(shù)。211111) nnnniiiiiiiiixxyx y計算，2) 寫出并求 解方程組niiniiyxbna11niiiniiniiyxxbxa1121當采用線性擬合時，取( )xbxa例題：考察某種纖維的強度與其拉伸倍數(shù)的關系.下表是實際測定的24個纖維樣品的強度與相應的拉伸倍數(shù)的數(shù)據(jù)記錄:編 號 拉伸倍數(shù) 強 度編 號 拉伸倍數(shù) 強 度11.9

4、1.41355.5221.3145.2532.11.81565.542.52.5166.36.452.72.8176.5662.72.5187.15.373.531986.583.52.72087944218.98.51043.52298114.54.2239.58.1124.63.524108.1iiyxiiyx1234567891012345678912345678910123456789可以看出,纖維強度隨拉伸倍數(shù)增加而增加yx因此可以認為強度與拉伸倍數(shù) 的主要關系應是線性關系.并且24個點大致分布在一條直線附近( )yxabx該直線稱為這一問題的數(shù)學模型。該直線稱為這一問題的數(shù)學模型。

5、方程組為61.8295 .1275 .12724ab 6 .7311 .1130.1505a ( )0.15050.8587 ,xx即為所求的最小二乘解.0.8587b 解得25.6615平方誤差為2111124, =127.5, 829 61 1131 731.6nniiiinniiiiinxxyx y=. ,=.，12345678910123456789擬合曲線與散點的關系如下圖:三、可化為線性擬合的情形三、可化為線性擬合的情形線性擬合的最小二乘法求解轉(zhuǎn)化為一個線性方程組的求解。但是，一些非線性關系可以通過變換變?yōu)榫€性關系。若變量之間的關系不是線性關系，有可能導致求解非線性方程組。實際上，

6、我們更關心的是關于系數(shù)實際上，我們更關心的是關于系數(shù)a,b是否線性關系。是否線性關系。1. 雙曲線雙曲線1 (0).baayx見下圖：0b0b 11, ,yxyx令則函數(shù)變?yōu)?yabx (0).bxyaealn , ln , ,yyaaxx2. 指數(shù)函數(shù)指數(shù)函數(shù)見下圖：0b 0b 令則函數(shù)變?yōu)?yabx (0, 0).bxyaexa3. 指數(shù)函數(shù)指數(shù)函數(shù)見下圖：0b 0b 1ln , , ln ,yyxaaxyabx則函數(shù)變?yōu)榱頻g .yabx4. 對數(shù)函數(shù)對數(shù)函數(shù), lg ,yyxxyabx則函數(shù)變?yōu)榱?b 0b 見右上圖xx ( 0).byaxa5. 冪函數(shù)冪函數(shù)1 ( 0).xyaabe

7、6. S曲線曲線1, , xyxeyyabx則函數(shù)變?yōu)榱钜娪覉D1b 1b 01b10b 1b 1b 見下圖ln , ln , ln ,yyxxaayabx則有令例2.在某化學反應里,測得生成物濃度y與時間t的數(shù)據(jù)如下，試建立y關于t的經(jīng)驗公式t=1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16y=4.00,6.40,8.00,8.80,9.22,9.50,9.70,9.86,10.00, 10.20,10.32,10.42,10.50,10.55,10.58,10.60解:ty畫出時間 與濃度 的散點圖如右。具有圖示的圖形的曲線很多，本題提供兩種形式tbaey 指數(shù)

8、函數(shù)形式batty雙曲線形式都是待定系數(shù)其中ba,tbay1lnlntbay1102468101214164567891011ty(1) btyae取指數(shù)函數(shù)形式時tbay1lnln兩邊取對數(shù),得1ln , , lnyy taat設 t bay得即為擬合函數(shù)2.427 1.0567ab ，解方程組得325.11atey0567. 1325.11最小二乘解為20.11631平方誤差為(2) tyatb取雙曲線形式時11 abyt得0.0801740.16272ab，用最小二乘法得即16272. 0080174. 0tty21.5621無論從圖形還是從平方誤差考慮，無論從圖形還是從平方誤差考慮，在

9、本例中指數(shù)函數(shù)擬合比在本例中指數(shù)函數(shù)擬合比雙曲線擬合要好。雙曲線擬合要好。02468101214164567891011ty02468101214164567891011ty02468101214164567891011ty02468101214164567891011ty平方誤差為四、求解矛盾方程組（超定方程組）四、求解矛盾方程組（超定方程組）nmnmnnmmmmbxaxaxabxaxaxabxaxaxa2211222221211121211111,2,)mijjija xbinnm，(，因為nm，所以，方程很可能無解。21121,mjijijnimbxaxxxQ考慮誤差平方和考慮方程組即2

10、1121,mjijijnimbxaxxxQ0, 1,2,.kQkmx0211ikmjijijniabxamk, 2 , 1111nmnijjikiikijia x abaTTA AxA b上面的方程組稱為原矛盾方程組的正規(guī)方程組。此方程組必有解，其解稱為原矛盾方程組的最小二乘解。下面我們求使得上式最小的解。例1：求下列矛盾方程組的最小二乘解：422532yxyxyx解：2311 ,21A令 425bAAT12113211321211999bAT4251132122120正規(guī)方程組為bAAxATT99911即 yx2120211831yx最小二乘解為1212,nnx xxy yy已知函數(shù)在點處函

11、數(shù)值為， 來擬合它的多項式用一個次數(shù)低于xnm1 mmmxaxaxaax2210設 niiimmyxaaaaQ12210,，使確定maaaa,210最小。五、多項式擬合五、多項式擬合 有時，所給數(shù)據(jù)不適合用直線或前面所描述的曲線擬合時，可以考慮用多項式擬合。nmnmnnmmmmyxaxaxaayxaxaxaayxaxaxaa22102222221011212110mnnnmmxxxxxxxxxA222221211111系數(shù)矩陣為該問題相當于求如下方程的最小二乘解： 01221,mnmiiiQ a a aaxy上述方程組的正規(guī)方程組bAAxATTniminiminiminiminiminiini

12、iniiniminiiniixxxxxxxxxxxn121211111131211121maaaa210inimiiniiiniiniiyxyxyxy11211定理定理3：此正規(guī)方程組的系數(shù)行列式不等于零。：此正規(guī)方程組的系數(shù)行列式不等于零。012,ma a aa有唯一解。證明：,TmA AA階方陣的秩矩陣 的秩Am因為秩（ ）,所以系數(shù)矩陣不等于零。于是，例題已知函數(shù)表如下試用二次多項式來擬合這組數(shù)據(jù)。2012( )xaa xa x設二次多項式為。為了得到正規(guī)方程組，必須先算出以下各和：xi1345678910yi27810 11 11 10 98解：2234, , , , , , .iii

13、iiiiiixyx yxx yxx以上數(shù)據(jù)可以列表計算如下：11221211237219632781348321612864256451050252501256255611663639621612966711774953934324017810806464051240968998181729729656191088010080010001000053764893813547301725317iixiix y2ix2iix yiy3ix4ix91i012 95338176533813017489381 3017 253173457aaa由上表得到正規(guī)方程組求解得：012 1.4597, 3.6053