計算方法 最佳平方逼近最小二乘法市公開課金獎市賽課一等獎?wù)n件

第5次最正確平方迫近與曲線擬合最小二乘法計算方法(NumericalAnalysis)第1頁主要內(nèi)容最正確平方迫近曲線擬合最小二乘法第2頁最正確平方迫近第3頁函數(shù)迫近類型最正確一致迫近：使用多項式對連續(xù)函數(shù)進行一致迫近。迫近誤差使用范數(shù)度量。最正確平方迫近：使用多項式s(x)對連續(xù)函數(shù)f(x)進行平方迫近。迫近誤差使用范數(shù)度量。權(quán)函數(shù)這種度量太強第4頁練習：第5頁權(quán)函數(shù)定義…權(quán)函數(shù)ρ(x)和基函數(shù)乘法積分權(quán)函數(shù)非0性質(zhì)第6頁權(quán)函數(shù)意義：強化或弱化某部分積分函數(shù)值影響。比如：在[0,5]上，取則積分起到了弱化g(x)在區(qū)間[0,1]函數(shù)值，強化g(x)在區(qū)間[1,5]函數(shù)值作用。離散權(quán)函數(shù)：在學(xué)生成績系統(tǒng)中總分=a*平時分+b*試驗分+c*作業(yè)分+d*期末分比如，老師錄入系數(shù)：a=0.1，b=0.2,c=0.1,d=0.6，則{a,b,c,d}即為離散權(quán)函數(shù)。第7頁由內(nèi)積能夠定義范數(shù)(度量)：內(nèi)積定義：第8頁§4最正確平方迫近滿足連續(xù)函數(shù)最正確平方多項式迫近第9頁討論：最正確平方多項式迫近：采取{1,x,x2,…,xn}作為基函數(shù)，由此生成多項式對f(x)進行平方迫近.中函數(shù)對已知連續(xù)函數(shù)f(x)進行迫近。作為基函數(shù)。普通情況下：采取線性無關(guān)連續(xù)函數(shù)……由此生成線性空間第10頁連續(xù)函數(shù)在線性空間最正確平方迫近【注】…………第11頁為了求極值，設(shè)(3.3)……第12頁展開成方程組形式：或?qū)懗删仃囆问剑骸?3頁從而應(yīng)該是f(x)最正確平方迫近函數(shù)。…………………………計算積分第14頁結(jié)論:2)迫近誤差公式（證實推導(dǎo)，見下頁）：是f(x)在集合上最正確平方迫近函數(shù)。

證實（略）

第15頁迫近誤差公式證實只需證實依據(jù)之前S*(x)存在性證實過程中得到(3.3)式，即：證實完成。即：整理上式，得第16頁第17頁推導(dǎo)在最終一頁PPT得最正確平方迫近多項式為：第18頁11紅色同學(xué)們自己求一下第19頁第20頁1/4110.371.02Home第21頁曲線擬合最小二乘法第22頁

3.4.曲線擬合最小二乘法若已知f(x)在點xi(i=1,2,…,n)處值yi,便可依據(jù)插值原理來建立插值多項式作為f(x)近似。但在科學(xué)試驗和生產(chǎn)實踐中，往往會碰到下述情況：節(jié)點上函數(shù)值是由試驗或觀察得到數(shù)據(jù)，帶有

測量誤差，若要求近似函數(shù)曲線經(jīng)過全部點

(xi,yi)，就會使曲線保留著一切測試誤差；3)由試驗或觀察提供數(shù)據(jù)個數(shù)往往很多，假如用插

值法,勢必得到次數(shù)較高插值多項式，計算很煩瑣。2)當個別數(shù)據(jù)誤差較大時，插值效果可能不理想；第23頁最小二乘法思想求一條曲線,使數(shù)據(jù)點均在離此曲線上方或下方不遠處,所求曲線稱為擬合曲線,它既能反應(yīng)數(shù)據(jù)總體分布,又不至于出現(xiàn)局部較大波動；更能反應(yīng)被迫近函數(shù)特征,使求得迫近函數(shù)與已知函數(shù)從總體上來說其偏差按某種方法度量到達最小。第24頁為此，希望從給定數(shù)據(jù)(xi,yi)出發(fā),結(jié)構(gòu)一個近似函數(shù),不要求函數(shù)完全經(jīng)過全部數(shù)據(jù)點，只要求所得近似曲線能反應(yīng)數(shù)據(jù)基本趨勢，如圖3.1所表示。圖3.1曲線擬合示意圖

在某種意義上,曲線擬合更有實用價值。y=φ(x)xy第25頁在對給出試驗(或觀察)數(shù)據(jù)作曲線擬合時,怎樣才算擬合得最好呢？普通希望各試驗(或觀察)數(shù)據(jù)與擬合曲線偏差平方和最小,這就是最小二乘原理。兩種迫近概念:

插值:

在節(jié)點處函數(shù)值相同.

擬合:在數(shù)據(jù)點處誤差平方和最小…第26頁問題提出：函數(shù)解析式未知,經(jīng)過試驗觀察得到一組數(shù)據(jù),代表f(x)在區(qū)間[a,b]上一系列點函數(shù)值yi=f(xi)，通常由函數(shù)表來表示。xx0x1x2…xnyy0y1y2…yn第27頁y=f(x)要求出一個比較簡單函數(shù)不要求函數(shù)完全經(jīng)過全部數(shù)據(jù)點，只要求所得近似曲線能反應(yīng)數(shù)據(jù)基本趨勢。希望在某種范數(shù)下，誤差比較小。y=φ(x)很多情況下，y=f(x)表示式是未知第28頁當使用2范數(shù)時候要求：這種要求誤差（偏差）平方和最小擬合稱為曲線擬合最小二乘法。為最小。第29頁設(shè)已知數(shù)據(jù)點分布大致為一條直線。作擬合直線,該直線不是經(jīng)過全部數(shù)據(jù)點,而是使偏差平方和為最小，其中每組數(shù)據(jù)與擬合曲線偏差為（1）直線擬合……這是關(guān)于a0，a1連續(xù)可導(dǎo)函數(shù)第30頁即得以下正規(guī)方程組(3.1)依據(jù)最小二乘原理，應(yīng)取和使有極小值，故和應(yīng)滿足以下條件：第31頁例3.21設(shè)有某試驗數(shù)據(jù)以下：i1234xi1.361.371.952.28yi14.09416.84418.47520.963用最小二乘法求以上數(shù)據(jù)擬合函數(shù)。設(shè)所求擬合直線為解:把表中所給數(shù)據(jù)畫在坐標紙上,將會看到數(shù)據(jù)點分布能夠用一條直線來近似地描述。第32頁則正規(guī)方程組為計算，得到x1=1.36,x2=1.37,x3=1.95,x4=2.28,y1=14.094,y2=16.844,y3=18.475,y4=20.963第33頁解得：于是得擬合直線方程：y=

8.5027865+5.4357032xa0

=8.5027865a1=5.4357032將以上數(shù)據(jù)代入上式正規(guī)方程組,得第34頁擬合直線方程：y=

8.5027+5.4357xi1234xi1.361.371.952.28yi14.09416.84418.47520.963擬合值15.89515.95019.10220.896計算誤差：第35頁（2）多項式擬合來擬合所給定數(shù)據(jù)，為最小尋求次數(shù)不超出n(n<<m)多項式：有時所給數(shù)據(jù)點分布并不一定近似地呈一條直線,此時，可用多項式擬合。對于給定一組數(shù)據(jù)使偏差平方和…這是關(guān)于a0，a1，…,an連續(xù)可導(dǎo)函數(shù).第36頁上述擬合多項式結(jié)構(gòu)問題可歸結(jié)為多元函數(shù)極值問題。令得

整理之后得第37頁這是關(guān)于系數(shù)線性方程組，稱為正規(guī)方程組。能夠證實，正規(guī)方程組有唯一解。(3.2)將上式針對k與j展開，得m個數(shù)據(jù)之和計算“和”第38頁例3.22設(shè)某試驗數(shù)據(jù)以下：用最小二乘法求一個多項式擬合這組數(shù)據(jù)。i123456xi012345yi521123解：將已給數(shù)據(jù)點描在坐標系中，能夠看出這些點靠近一條拋物線。第39頁xy01234513245第40頁計算得：所以設(shè)所求多項式為得：第41頁其正規(guī)方程組為

解之得:

所求多項式為:

第42頁xy01234513245x=0,y=4.7143;x=1,y=2.4286x=2,y=1.1429;x=3,y=0.8572x=4,y=1.5715;x=5,y=3.2858第43頁x=0,y=4.7143;x=1,y=2.4286;x=2,y=1.1429;x=3,y=0.8572;x=4,y=1.5715;x=5,y=3.2858第44頁例

已知實測數(shù)據(jù)表試用最小二乘法求多項式曲線與此數(shù)據(jù)組擬合.i12345xi246810yi612182430解：令，則正規(guī)方程組為：同學(xué)們自己計算，求出a0,a1第45頁經(jīng)過計算，得到：解之，得：所求直線方程為:

誤差:

第46頁（4）可化為線性擬合非線性擬合有些非線性擬合曲線能夠經(jīng)過適當變量替換轉(zhuǎn)化為線性曲線，從而用線性擬合進行處理，這部分本課程不做要求第47頁連續(xù)函數(shù)最正確平方迫近和對數(shù)據(jù)曲線擬合區(qū)分連續(xù)函數(shù)f(x)?C[a,b]最正確平方迫近在[a,b]上，用Span{φ

1(x),φ

2(x),…,φ

n(x)}中函數(shù)φ(x)（通常是多項