函數(shù)逼近與曲線擬合省公開課金獎全國賽課一等獎微課獲獎?wù)n件

§

8.1數(shù)據(jù)擬合

本章繼續(xù)討論用簡單函數(shù)近似代替較復(fù)雜函數(shù)問題.上章提到插值就是近似代替方法之一,插值近似標(biāo)準(zhǔn)是在插值點(diǎn)處誤差為零.但在實(shí)際應(yīng)用中,有時不要求詳細(xì)一些點(diǎn)誤差為零,而要求考慮整體誤差限制,這就引出了擬合和迫近概念.

對離散型函數(shù)(即數(shù)表形式函數(shù))考慮數(shù)據(jù)較多情況.若將每個點(diǎn)都看成插值節(jié)點(diǎn),則插值函數(shù)是一個次數(shù)很高多項(xiàng)式,比較復(fù)雜.而且因?yàn)辇埜裾袷幀F(xiàn)象,這個高次插值多項(xiàng)式可能并不靠近原函數(shù).同時因?yàn)閿?shù)表中點(diǎn)普通是由觀察測量所得,往往帶有隨機(jī)誤差,要求近似函數(shù)過全部點(diǎn)既不現(xiàn)實(shí)也無須要.第8章函數(shù)迫近與曲線擬合1/81

本章討論函數(shù)迫近，是指“對函數(shù)類A中給定函數(shù)f(x)，記作f(x)∈A，要求在另一類簡單便于計(jì)算函數(shù)類B中求函數(shù)p(x)∈B，使p(x)與

f(x)誤差在某種度量意義下最小”.函數(shù)類A通常是區(qū)間[a,b]上連續(xù)函數(shù)，記作C[a,b]，稱為函數(shù)迫近空間;而函數(shù)B通常為n次多項(xiàng)式,有理函數(shù)或分段低次多項(xiàng)式等.為了在數(shù)學(xué)上描述更準(zhǔn)確，先要介紹代數(shù)和分析中一些基本概念及預(yù)備知識.2/81

數(shù)學(xué)上常把在各種集合中引入某一些不一樣確實(shí)定關(guān)系稱為賦予集合以某種空間結(jié)構(gòu)，并將這么集合稱為空間。例1

全部實(shí)n維向量集合，按向量加法和數(shù)乘組成實(shí)數(shù)域R上線性空間---Rn,稱為n維向量空間.例2

對次數(shù)不超出n（n為正整數(shù)）實(shí)系數(shù)多項(xiàng)式全體，按多項(xiàng)式加法和數(shù)乘組成數(shù)域R上多項(xiàng)式線性空間--Hn,稱為多項(xiàng)式空間.例3

全部定義在[a,b]集合上連續(xù)函數(shù)全體，按函數(shù)加法和數(shù)乘組成數(shù)域R上連續(xù)函數(shù)線性空間–

C[a,b],稱為連續(xù)函數(shù)空間.類似地記Cp[a,b]為含有p階連續(xù)導(dǎo)數(shù)函數(shù)空間.3/81則稱x1,x2,…,xn

線性相關(guān)，不然稱x1,x2,…,xn

線性無關(guān)，即只有當(dāng)a1=a2=…=an=0時等式(1.1)才成立.

定義1

設(shè)集合S是數(shù)域P上線性空間，元素x1,x2,…,xn∈S，假如存在不全為零數(shù)a1,a2,…,an∈P，使得4/81則x1,…,xn稱為空間S一組基,記為S=span{x1,…,xn},并稱空間S為n維空間，系數(shù)a1,…,an為x在基x1,…,xn下坐標(biāo)，記作(a1,…,an)，假如S中有沒有限多個線性無關(guān)元素x1,…,xn,…，則稱S為無限維線性空間.

若線性空間S是由n個線性無關(guān)元素x1,…,xn生成，即對任意x∈S，都有5/81它由n+1個系數(shù)(a0,a1,…,an)唯一確定.1,x,…,xn線性無關(guān)，它是Hn一組基，故集合

Hn=span{1,x,…,xn}，且(a0,a1,…,an)是p(x)坐標(biāo)向量，Hn是n+1維.

下面考慮次數(shù)不超出n實(shí)系數(shù)多項(xiàng)式集合Hn，其元素p(x)∈Hn表示為6/81其中ε為任意給小正數(shù)，即精度要求.這就是下面著名魏爾斯特拉斯（Weierstrass）定理.

對連續(xù)函數(shù)f(x)∈C[a,b]，它不能用有限個線性無關(guān)函數(shù)表示，故C[a,b]是無限維，但它任一元素f(x)∈C[a,b]均可用有限維p(x)∈Hn迫近，使誤差7/81在[a,b]上一致成立.

定理1

設(shè)f(x)∈C[a,b]，則對任何ε>0，總存在一個代數(shù)多項(xiàng)式p(x)

，使8/81

由(1.1)式給出Bn(f,x)也是f(x)在[0,1]上一個迫近多項(xiàng)式，但它收斂太慢，實(shí)際中極少使用.9/81更普通函數(shù)迫近概念：10/81最慣用度量標(biāo)準(zhǔn)：(一)一致迫近以函數(shù)f(x)和p(x)最大誤差：作為度量誤差f(x)－p(x)“大小”標(biāo)準(zhǔn)

在這種意義下函數(shù)迫近稱為一致迫近或均勻迫近

(二)平方迫近：采取作為度量誤差“大小”標(biāo)準(zhǔn)函數(shù)迫近稱為平方迫近或均方迫近。

11/81

8.2正交多項(xiàng)式

正交多項(xiàng)式是數(shù)值計(jì)算中主要工具，這里只介紹正交多項(xiàng)式基本概念、一些性質(zhì)和結(jié)構(gòu)方法。離散情形正交多項(xiàng)式用于下節(jié)數(shù)據(jù)擬合，連續(xù)情形正交多項(xiàng)式用于生成最正確平方迫近多項(xiàng)式和下章高斯型求積公式結(jié)構(gòu)。它們在數(shù)值分析其它領(lǐng)域中也有不少應(yīng)用。12/81定義

設(shè)有點(diǎn)集{xi}i=0,1,…,m，函數(shù)f(x)和g(x)在離散意義下內(nèi)積定義為(1)其中

i>0為給定權(quán)數(shù)。在離散意義下，函數(shù)f(x)2-范數(shù)定義為(2)有了內(nèi)積，就能夠定義正交性。若函數(shù)f(x)和g(x)內(nèi)積(f,g)=0，則稱二者正交。離散點(diǎn)集上正交多項(xiàng)式13/81若多項(xiàng)式組{

k(x)}k=0,…n

在離散意義下內(nèi)積滿足(3)則稱多項(xiàng)式組{

k(x)}k=0,…n為在離散點(diǎn)集{xi}i=0,1,…,m上帶權(quán){

i}i=0,…m正交多項(xiàng)式序列.下面給出離散點(diǎn)上正交多項(xiàng)式結(jié)構(gòu)方法

.14/81

給定點(diǎn)集{xi}i=0,1,…,m和權(quán)數(shù){

i}i=0,…m

，而且點(diǎn)集{xi}i=0,1,…,m中最少有n+1個互異，則由以下三項(xiàng)遞推公式（4）給出多項(xiàng)式序列是正交多項(xiàng)式序列，其中（5）

三項(xiàng)遞推公式（4）是結(jié)構(gòu)正交多項(xiàng)式簡單公式，另外，還有其它特殊情形，這里，不深入討論。15/81

例

已知點(diǎn)集{xi}i=0,1,…,4={0,0.25,0.5,0.75,1}和權(quán)數(shù){

i}i=0,…4={1,1,1,1,1}.試用三項(xiàng)遞推公式求關(guān)于該點(diǎn)集正交多項(xiàng)式解先令P0(x)=1，由此得16/81由此得從而有17/81連續(xù)區(qū)間上正交多項(xiàng)式

連續(xù)區(qū)間上正交多項(xiàng)式概念與離散點(diǎn)集上正交多項(xiàng)式概念相同，只要將內(nèi)積定義作對應(yīng)改變。定義2.10函數(shù)f(x)和g(x)在連續(xù)意義下內(nèi)積定義為

（6）其中

(x)0為給定權(quán)函數(shù)。按連續(xù)意義下內(nèi)積，若多項(xiàng)式組{

k(x)}k=0,…n

滿足條件(6),則稱它為在區(qū)間[a,b]上帶權(quán)

(x)正交多項(xiàng)式序列。18/811．權(quán)函數(shù)定義1設(shè)

(x)定義在有限或無限區(qū)間[a,b]上，假如有以下性質(zhì)：(1)

(x)≥0，對任意x

[a,b]，(2)積分存在，(n=0,1,2,…)，(3)對非負(fù)連續(xù)函數(shù)g(x)若

則在(a,b)上g(x)

0稱

(x)為[a,b]上權(quán)函數(shù)

連續(xù)區(qū)間上正交多項(xiàng)式

連續(xù)區(qū)間上正交多項(xiàng)式概念與離散點(diǎn)集上正交多項(xiàng)式概念相同，只要將內(nèi)積定義作對應(yīng)改變。19/812．內(nèi)積定義2設(shè)f(x)，g(x)

C[a,b]，

(x)是[a,b]上權(quán)函數(shù)，則稱

為f(x)與g(x)在[a,b]上以

(x)為權(quán)函數(shù)內(nèi)積。

內(nèi)積性質(zhì)：(1)(f,f)≥0，且(f,f)=0

f=0；(2)(f,g)=(g,f)；

(3)(f1+f2,g)=(f1,g)+(f2,g)；

(4)對任意實(shí)數(shù)k，(kf,g)=k(f,g)。20/813．正交定義3設(shè)f(x)，g(x)

C[a,b]若則稱f(x)與g(x)在[a,b]上帶權(quán)

(x)正交。

定義4設(shè)在[a,b]上給定函數(shù)系{

k(x)}，若滿足條件則稱函數(shù)系{

k(x)}是[a,b]上帶權(quán)

(x)正交函數(shù)系。21/81若定義

4中函數(shù)系為多項(xiàng)式函數(shù)系，則稱為以

(x)為權(quán)在[a,b]上正交多項(xiàng)式系。并稱pn(x)是[a,b]上帶權(quán)

(x)n次正交多項(xiàng)式。尤其地，當(dāng)Ak

1時，則稱該函數(shù)系為標(biāo)準(zhǔn)正交函數(shù)系。22/81實(shí)際上，例

三角函數(shù)組內(nèi)權(quán)函數(shù)為1正交組。23/81正交多項(xiàng)式三項(xiàng)遞推公式:

是首項(xiàng)系數(shù)為1i次多項(xiàng)式，則滿足遞推公式:

完全類似于離散情況下正交多項(xiàng)式結(jié)構(gòu)方法,連續(xù)區(qū)間上正交多項(xiàng)式序列一樣能夠由遞推公式(4)和(5)結(jié)構(gòu),其中內(nèi)積按(6)式定義.24/81下面給出幾個慣用正交多項(xiàng)式.

(1)勒讓德（Legendre）多項(xiàng)式.正交多項(xiàng)式記為，由三項(xiàng)遞推公式得(7)給出.它們是在區(qū)間[-1,1]上帶權(quán)

(x)=1正交多項(xiàng)式.25/81它們根都是在開區(qū)間(-1,1)上單根,而且與原點(diǎn)對稱.前幾個Legendre多項(xiàng)式以下:26/81勒讓德多項(xiàng)式圖形：

P0(x),P1(x),P2(x),P3(x)27/81

(2)第一類Chebyshev多項(xiàng)式.

第一類Chebyshev多項(xiàng)式可由三項(xiàng)遞推公式給出.它們是在區(qū)間[-1,1]上帶權(quán)正交多項(xiàng)式.(8)28/81它們根都在開區(qū)間（-1，1）上單根，而且與原點(diǎn)對稱。前幾個第一類Chebyshev多項(xiàng)式以下:29/81切比雪夫多項(xiàng)式圖形：

T0(x),T1(x),T2(x),T3(x)30/81（3）拉蓋爾(Laguerre)多項(xiàng)式。

Laguerre多項(xiàng)式可由三項(xiàng)遞推公式給出。它們是在區(qū)間[0,+∞)上帶權(quán)正交多項(xiàng)式。前幾個Laguerre多項(xiàng)式以下:

31/81它們根都是在區(qū)間（0，+∞）上單根。32/81

設(shè)是[a,b]上線性無關(guān)連續(xù)函數(shù),a0,a1,…,an是任意實(shí)數(shù)，則并稱是生成集合一個基底。全體是C[a,b]一個子集，記為8.3最正確平方迫近33/81定義對于給定函數(shù)假如存在使

則稱S*(x)為f(x)在區(qū)間[a,b]上最正確平方迫近函數(shù)。函數(shù)最正確平方迫近即34/81求最正確平方迫近函數(shù)問題可歸結(jié)為求它系數(shù)使多元函數(shù)取得極小值。

I(a0,a1,…，an)是關(guān)于a0,a1,…，an二次函數(shù)，利用多元函數(shù)取得極值必要條件，35/81(k=0,1,2,…,n)得方程組36/81如采取函數(shù)內(nèi)積記號方程組能夠簡寫為

37/81寫成矩陣形式為為法方程組！

38/81

因?yàn)?/p>

0,

1,…,

n線性無關(guān)，故Gn

0，于是上述方程組存在唯一解

從而必定了函數(shù)f(x)在

中假如存在最佳平方迫近函數(shù)，則必是記稱之為最正確平方迫近誤差！注：最正確平方迫近誤差越小，說明函數(shù)空間Hn對f(x)迫近效果越好。39/812024/5/140例定義內(nèi)積

，試在函數(shù)空間，尋求對于函數(shù)最正確平方迫近函數(shù)。解簡單計(jì)算可得法方程為#所以40/81

例2設(shè)，求[0，1]上一次最正確

平方迫近多項(xiàng)式。解由方程組，解出41/81平方誤差

最大誤差

42/81一、問題提法已知一個函數(shù)數(shù)值表xx1x2…xmyy1y2…ym求一個簡單易算近似函數(shù)

S(x)

f(x)

。8.4曲線擬合最小二乘法43/81不過(1)m通常很大；(2)yi本身是測量值，不準(zhǔn)確，即yi

f(xi)。這時沒必要使S(xi)=yi,而只要S(xi)

yi

總體上盡可能小。常見做法：

使最小太復(fù)雜

使最小不可導(dǎo)，求解困難

使最小最小二乘法44/81定義

對于給定函數(shù)假如存在使

到達(dá)最小。則把

稱為f(x)最小二乘擬合曲線45/81求問題可歸結(jié)為求它系數(shù)a0,a1,…,am

使多元函數(shù)取得極小值。Q(a0,a1,…，am)是關(guān)于a0,a1,…，am二次函數(shù)，利用多元函數(shù)取得極值必要條件，46/81(k=0,1,2,…,m)得方程組47/81如采取函數(shù)內(nèi)積記號方程組能夠簡寫為

48/81寫成矩陣形式為

法方程組！

49/81

因?yàn)?/p>

0,

1,…,

n線性無關(guān)，故Gn

0，于是上述方程組存在唯一解

從而必定了函數(shù)f(x)在

中存在50/812024/5/151若函數(shù)組，是兩兩正交，則法方程為從而可得求解相當(dāng)方便！51/81利用Schmidt正交化過程，變?yōu)檎换湍軌驅(qū)⒍囗?xiàng)式基函數(shù)52/81

例：給定函數(shù)值表，求f(x)最小二乘擬合函數(shù)s*(x)

xi0.240.650.951.241.73yi0.23-0.26-1.10-0.450.27解：在坐標(biāo)平面上描出上表中數(shù)據(jù)點(diǎn)，依據(jù)點(diǎn)分布情況，選取xi2.012.232.522.772.99yi0.10-0.290.240.561.0053/81可得法方程解得所以設(shè)54/81注：最小二乘問題中，怎樣選擇數(shù)學(xué)模型很主要，即怎樣選取函數(shù)空間，通常需要依據(jù)物理意義，或所給數(shù)據(jù)分布情況來選取適當(dāng)數(shù)學(xué)模型。55/81

選擇直線來擬合數(shù)據(jù)稱為直線擬合。假設(shè)直線為則擬合誤差使擬合誤差最小應(yīng)滿足線性擬合56/81這個方程組稱為直線擬合法方程組，解此方程組就能夠確定，從而得到擬合直線57/81例及均方誤差58/8159/81例設(shè)數(shù)據(jù)以下：試用直線擬合這組數(shù)據(jù)，計(jì)算過程保留4位小數(shù)

解：法方程組為：所求直線為：kxkykxk2xkyk1110110236918344161645225105613661923876060/81多項(xiàng)式擬合

對給定數(shù)據(jù)組，用一個m次多項(xiàng)式擬合這組數(shù)據(jù)，則此多項(xiàng)式可假設(shè)為依據(jù)最小二乘原理令61/81法方程組為：共能夠得到m+1個方程，每一個方程左邊有m+1項(xiàng)。請大家找一找，這m+1個方程左右兩邊各有什么規(guī)律？怎樣來幫助記憶。62/81所以，求

a0,a1,…,an,就是求解法方程：

ATAa=ATy。

63/81例用給定數(shù)據(jù)，求經(jīng)驗(yàn)公式f(x)=a+bx3。

x=-3-2-124

y=14.38.34.78.322.7解約定直接計(jì)算得法方程64/81于是法方程為：所求經(jīng)驗(yàn)公式為：f(x)=10.675+0.137x3。65/81解法方程為ATAx=ATy.直接計(jì)算得例66/81此時

稱為數(shù)據(jù)擬合多項(xiàng)式，上述擬合稱為多項(xiàng)式擬合。對稱矩陣67/81比如，二次多項(xiàng)式擬合為：法方程組為：三次擬合多項(xiàng)式為：法方程組為：

68/81例：用來擬合

解：

0(x)=1，1(x)=x，2(x)=x269/8170/812024/5/171x-3-2-124y14.38.34.78.322.7例已知數(shù)表，求其最小二乘擬合函數(shù)(1)求形如擬合函數(shù)；(2)求形如擬合函數(shù)；解(1)法方程為71/812024/5/172(2)x-3-2-124y14.38.34.78.322.7lny2.66032.11631.54