函數(shù)逼近和曲線擬合省公開課一等獎(jiǎng)全國示范課微課金獎(jiǎng)

數(shù)值分析第三章函數(shù)迫近與曲線擬合第1頁

當(dāng)函數(shù)只在有限點(diǎn)集上給定函數(shù)值，要在包含該點(diǎn)擊區(qū)間上用公式給出函數(shù)簡單表示式，這些都包括到在區(qū)間[a,b]上用簡單函數(shù)迫近已知復(fù)雜函數(shù)問題，這就是函數(shù)迫近問題。插值法就是函數(shù)迫近問題一個(gè)第2頁擬處理問題：計(jì)算復(fù)雜函數(shù)值已知有限點(diǎn)集上函數(shù)值，給出在包含該點(diǎn)集區(qū)間上函數(shù)簡單表示式函數(shù)迫近——對(duì)函數(shù)類A中給定函數(shù)f(x)，記作要求在另一類簡單便于計(jì)算函數(shù)類B中求函數(shù)使p(x)與f(x)誤差在某種度量意義下最小。迫近問題函數(shù)迫近曲線擬合第3頁基本數(shù)學(xué)概念：定義1：設(shè)集合S是數(shù)域P上線性空間，元素假如存在不全為0數(shù)，使得線性相關(guān)，不然，若等式(1.1)只對(duì)則稱成立，則稱為線性無關(guān)。第4頁若線性空間S是由n個(gè)線性無關(guān)元素生成，即：為空間S一組基，記為：則稱并稱該空間為n維空間。稱為x在這組基下坐標(biāo)。例：n次多項(xiàng)式第5頁連續(xù)函數(shù)不能用有限個(gè)線性無關(guān)函數(shù)表示，故連續(xù)函數(shù)空間是無限維，但它任一元素能夠用有限維多項(xiàng)式迫近，使誤差為任意小。定理1：設(shè)則對(duì)任何總存在一個(gè)代數(shù)多項(xiàng)式p(x),使在[a,b]上一致成立。第6頁范數(shù)與賦范線性空間定義2：設(shè)S為線性空間，x是S元素，若存在唯一實(shí)數(shù)，滿足條件：則稱為線性空間S上范數(shù)。稱為賦范線性空間。第7頁例：n維向量空間上定義三種范數(shù)：稱為-范數(shù)稱為1

-范數(shù)稱為2

-范數(shù)第8頁例：連續(xù)函數(shù)空間上定義三種范數(shù)：稱為-范數(shù)稱為1

-范數(shù)稱為2

-范數(shù)第9頁例：求以下向量1范數(shù)、2范數(shù)和無窮范數(shù)第10頁內(nèi)積與內(nèi)積空間定義3：設(shè)X為數(shù)域K（R或C）上線性空間，滿足條件：稱(u,v)為X上u與v內(nèi)積。定義了內(nèi)積線性空間為內(nèi)積空間。若(u,v)=0,則稱u和v正交。第11頁例比如：第12頁例其中為權(quán)函數(shù)，滿足定義4（page68)第13頁正交函數(shù)定義5：既：f(x)與g(x)在[a,b]上帶權(quán)正交。若函數(shù)族滿足則稱該函數(shù)族是在[a,b]上帶權(quán)正交函數(shù)族。時(shí)為標(biāo)準(zhǔn)正交函數(shù)族第14頁比如，三角函數(shù)族是在區(qū)間上正交函數(shù)族。定義6：正交多項(xiàng)式(page70)第15頁迫近問題函數(shù)迫近曲線擬合第16頁實(shí)例：考查某種纖維強(qiáng)度與其拉伸倍數(shù)關(guān)系,下表是實(shí)際測定24個(gè)纖維樣品強(qiáng)度與對(duì)應(yīng)拉伸倍數(shù)是統(tǒng)計(jì):第17頁纖維強(qiáng)度隨拉伸倍數(shù)增加而增加而且24個(gè)點(diǎn)大致分布在一條直線附近必須找到一個(gè)度量標(biāo)準(zhǔn)來衡量什么曲線最靠近全部數(shù)據(jù)點(diǎn)(1)第18頁依然是已知x1…xm

;y1…ym,求一個(gè)簡單易算近似函數(shù)P(x)

f(x)。不過①

m

很大；②

yi本身是測量值，不準(zhǔn)確，即yi

f(xi)這時(shí)沒必要取P(xi)=yi,

而要使P(xi)

yi總體上盡可能小。使誤差在某種度量意義下最小第19頁常見做法：

使最小/*minimaxproblem*/

太復(fù)雜

使最小不可導(dǎo)，求解困難

使最小/*Least-Squaresmethod*/第20頁最小二乘法基本概念普通使用在回歸分析中稱為殘差稱為平方誤差第21頁在回歸分析中稱為殘差平方和從而確定(1)中待定系數(shù)注意(1)式是一條直線所以將問題普通化普通情況下第22頁依然定義平方誤差第23頁我們選取度量標(biāo)準(zhǔn)是(2)(3)第24頁第25頁法方程組由可知所以可假設(shè)所以求最小二乘解轉(zhuǎn)化為二次函數(shù)第26頁由多元函數(shù)取極值必要條件得即第27頁(4)即第28頁引入記號(hào)則由內(nèi)積概念可知(5)(6)顯然內(nèi)積滿足交換律第29頁方程組(4)便可化為(7)將其表示成矩陣形式(8)第30頁而且其系數(shù)矩陣為對(duì)稱陣所以法方程組系數(shù)矩陣非奇異,即依據(jù)Cramer法則,法方程組有唯一解第31頁即是最小值所以所以第32頁作為一個(gè)簡單情況,基函數(shù)之間內(nèi)積為平方誤差第33頁例1.回到本節(jié)開始實(shí)例，從散點(diǎn)圖能夠看出纖維強(qiáng)度和拉伸倍數(shù)之間近似與線性關(guān)系故可選取線性函數(shù)為擬合函數(shù)，其基函數(shù)為建立法方程組依據(jù)內(nèi)積公式，可得第34頁法方程組為解得平方誤差為第35頁擬合曲線與散點(diǎn)關(guān)系如右圖:第36頁例2.求擬合以下數(shù)據(jù)最小二乘解x=.24.65.951.241.732.012.232.522.772.99y=.23-.26-1.10-.45.27.10-.29.24.561解:從數(shù)據(jù)散點(diǎn)圖能夠看出所以假設(shè)擬合函數(shù)與基函數(shù)分別為第37頁6.7941-5.347563.2589-5.34755.1084-49.008663.2589-49.00861002.51.6163-2.382726.7728經(jīng)過計(jì)算,得法方程組系數(shù)矩陣及常數(shù)項(xiàng)矩陣為Go!第38頁用Gauss列主元消去法,得-1.0410-1.26130.030735擬合平方誤差為圖象如圖第39頁例3.在某化學(xué)反應(yīng)里,測得生成物濃度y%與時(shí)間t數(shù)據(jù)以下，試建立y關(guān)于t經(jīng)驗(yàn)公式x=1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16y=4.00,6.40,8.00,8.80,9.22,9.50,9.70,9.86,10.00,10.20,10.32,10.42,10.50,10.55,10.58,10.60解:含有圖示圖形曲線很多，本題特提供兩種形式第40頁例：xy(xi,yi),i=1,2,…,m方案一：設(shè)baxxxPy+=

)(求a

和b

使得最小。

=-+=miiiiybaxxba12)(),(jButhey,thesystemofequationsforaandbisnonlinear!Takeiteasy!Wejusthavetolinearizeit…線性化

/*linearization*/：令，則bXaY+

就是個(gè)線性問題將化為后易解a

和b。),(iiYX),(iiyx第41頁方案二：設(shè)xbeaxPy/)(-=

(a>0,b>0)線性化：由可做變換xbay-

lnlnbBaAxXyY-====,ln,1,lnBXAY+

就是個(gè)線性問題將化為后易解A

和B),(iiYX),(iiyx第42頁兩邊取對(duì)數(shù),得得即為擬合函數(shù)基函數(shù)為解法方程組得平方誤差為第43頁用最小二乘法得即不論從圖形還是從平方誤差考慮在本例中指數(shù)函數(shù)擬合比雙曲線擬合要好平方誤差為第44頁定義權(quán)函數(shù)：①

離散型/*discretetype*/依據(jù)一系列離散點(diǎn)擬合時(shí)，在每一誤差前乘一正數(shù)wi

，即誤差函數(shù)

，這個(gè)wi

就稱作權(quán)/*weight*/，反應(yīng)該點(diǎn)主要程度。

=-=niiiiyxPw12])([②

連續(xù)型

/*continuoustype*/在[a,b]上用廣義多項(xiàng)式P(x)擬合連續(xù)函數(shù)f(x)時(shí)，定義權(quán)函數(shù)

(x)

C[a,b]，即誤差函數(shù)

=。權(quán)函數(shù)

(x)必須滿足：非負(fù)、可積，且在[a,b]任何子區(qū)間上

(x)0。加權(quán)最小二乘法第45頁各點(diǎn)主要性可能是不一樣重度:即權(quán)重或者密度，統(tǒng)稱為權(quán)系數(shù)

定義加權(quán)平方誤差為(9)第46頁使得第47頁由多元函數(shù)取極值必要條件得即第48頁引入記號(hào)定義加權(quán)內(nèi)積(10)第49頁矩陣形式(法方程組)為方程組(10)式化為(11)(12)第50頁平方誤差為作為特殊情形,用多項(xiàng)式作擬合函數(shù)法方程組為(13)第51頁例：連續(xù)型擬合中，取則Hilbert陣！改進(jìn)：若能取函數(shù)族

={

0(x),

1(x),…,

n(x),…}，使得任意一對(duì)

i(x)和

j(x)兩兩（帶權(quán)）正交，則B就化為對(duì)角陣！這時(shí)直接可算出ak=第52頁用正交多項(xiàng)式作最小二乘擬合*即正交多項(xiàng)式怎樣選取呢