第三章-插值法與最小二乘法2-Zu省名師優(yōu)質(zhì)課賽課獲獎?wù)n件市賽課百校聯(lián)賽優(yōu)質(zhì)課一等獎?wù)n件

第三章插值法與最小二乘法數(shù)學(xué)與統(tǒng)計學(xué)院數(shù)值計算方法1/53本章主要內(nèi)容

插值法Lagrange插值插值誤差分段插值法

Newton插值多項式三次樣條插值法數(shù)據(jù)擬合最小二乘法2/53§4三次樣條插值/*CubicSplineInterpolation*/

許多實際工程技術(shù)中普通對精度要求非常高，

（1）要求近似曲線在節(jié)點(diǎn)連續(xù)；（收斂性）；（2）要求近似曲線在節(jié)點(diǎn)處導(dǎo)數(shù)連續(xù)，即充分光滑。

分段插值不能確保節(jié)點(diǎn)光滑性，而Hermite插值需要知道節(jié)點(diǎn)處導(dǎo)數(shù)值，實際中無法確定。

問題背景3/53一、三次樣條函數(shù)力學(xué)背景

在工程技術(shù)和數(shù)學(xué)應(yīng)用中經(jīng)常碰到這么一類數(shù)據(jù)處理問題：在平面上給定了一組有序離散點(diǎn)列，要求用一條光滑曲線把這些點(diǎn)按次序連接起來。........壓鐵彈性木條.數(shù)據(jù)點(diǎn)形象地稱之為樣條曲線.4/53

在力學(xué)上，通常均勻細(xì)木條能夠看作彈性細(xì)梁，壓鐵看作是作用在梁上集中載荷，“樣條曲線”就模擬為彈性細(xì)梁在外加集中載荷作用下彎曲變形曲線。設(shè)細(xì)梁剛度系數(shù)為，彎矩為，樣條曲線曲率為由力學(xué)知識：當(dāng)時（即“小撓度”情況）上述微分方程簡化為：是線性函數(shù)所以，“樣條曲線”可近似認(rèn)為是三次多項式.5/53二、三次樣條插值函數(shù)定義及求法

設(shè)在區(qū)間上給定一個分割，定義在上函數(shù)假如滿足以下條件：(1)在每個小區(qū)間內(nèi)是三次多項式,(2)在整個區(qū)間上，為二階連續(xù)可導(dǎo)函數(shù)，即在每個節(jié)點(diǎn)處則稱為三次樣條插值函數(shù).6/53假設(shè)現(xiàn)在已知函數(shù)在節(jié)點(diǎn)處函數(shù)值：假如三次樣條函數(shù)滿足則稱為插值于三次樣條函數(shù)，簡稱三次樣條插值函數(shù)。怎樣求三次樣條插值函數(shù):4n個未知數(shù)3n-1個條件7/53線性插值函數(shù)1、M連續(xù)方程與表示式記因為在每一個子區(qū)間上都是線性函數(shù)

兩邊積分兩邊再積分一次？8/53代入插值條件：在整個區(qū)間上，表示式為：未知數(shù)n+1個9/53計算方法(利用導(dǎo)數(shù)連續(xù)性)：由10/53由11/53由其中12/53寫成方程組形式：上述方程組稱為M連續(xù)方程.n-1個方程n+1個未知數(shù)三彎矩方程組13/53M連續(xù)方程求解：需要補(bǔ)充附加條件3、邊界條件/*boundaryconditions*/

已知端點(diǎn)斜率：

已知端點(diǎn)二階導(dǎo)數(shù)：

設(shè)是以為周期周期函數(shù)，對附加周期性條件：

即要求三次樣條插值函數(shù)在端點(diǎn)處函數(shù)值、一階導(dǎo)數(shù)值和二階導(dǎo)數(shù)值相同。14/53M連續(xù)方程在各類邊界條件下求解方法

對于第一類邊界條件由得15/53從而得到方程組（三對角）：可用追趕法求解16/53

對于第二類邊界條件類似地能夠得到方程組（三對角）：17/53上述兩種情況得到方程組，能夠?qū)懗山y(tǒng)一形式：其中時為第二類邊界條件時為第一類邊界條件18/53

對于第三類邊界條件得到方程其中19/53第三類邊界條件對應(yīng)方程組：對三對角算法經(jīng)過修改后能夠求解上述方程組不是三對角方程組20/53注：三次樣條與分段Hermite插值根本區(qū)分在于S(x)本身光滑，不需要知道f導(dǎo)數(shù)值（除了在2個端點(diǎn)處函數(shù)值）；而Hermite插值依賴于f在許多插值節(jié)點(diǎn)導(dǎo)數(shù)值。f(x)H(x)S(x)21/53性質(zhì)（誤差預(yù)計）設(shè)函數(shù)，是區(qū)間一個分割，是關(guān)于帶有Ⅰ型(斜率邊界)或Ⅱ型(二階導(dǎo)數(shù)邊界)邊界條件插值函數(shù)，則有誤差預(yù)計其中

是分割比，而且系數(shù)與是最優(yōu)預(yù)計。

性質(zhì)說明：三次樣條插值函數(shù)本身連同它一、二、三階導(dǎo)數(shù)分別收斂到及其對應(yīng)導(dǎo)數(shù)，含有強(qiáng)收斂性。22/530123

02361

0例1已知函數(shù)在數(shù)據(jù)表：解：求在區(qū)間上三次樣條插值函數(shù)。

23/53三彎矩方程組用追趕法求解方程組得24/53三次樣條插值函數(shù)25/5326/5327/53

在科學(xué)試驗中,往往要從一組試驗數(shù)據(jù)

(xi,yi)

中,尋找自變量

x

與因變量

y

之間函數(shù)關(guān)系

y

=

f

(x).

在前面,我們學(xué)習(xí)了經(jīng)過利用插值法來實現(xiàn)這個目標(biāo).

是函數(shù)迫近另一個方法.不要求曲線完全經(jīng)過全部已知節(jié)點(diǎn),而是從總偏差最小角度來取近似曲線.即從大量給定數(shù)據(jù)中找出規(guī)律,并結(jié)構(gòu)一條曲線反應(yīng)數(shù)據(jù)點(diǎn)總趨勢,以消除其局部波動.屬于全局最優(yōu).

用插值法近似某個函數(shù)時,一個嚴(yán)重缺點(diǎn)是:對節(jié)點(diǎn)測量值精度要求高.但因為測量數(shù)據(jù)中往往帶有隨機(jī)誤差,在利用這些有誤差數(shù)據(jù)結(jié)構(gòu)插值函數(shù),必將不合理誤差帶入,影響對未知函數(shù)近似精度.屬于局部最優(yōu).

插值法不足：

最小二乘法：28/53實例考查某種纖維強(qiáng)度與其拉伸倍數(shù)關(guān)系,下表是實際測定24個纖維樣品強(qiáng)度與對應(yīng)拉伸倍數(shù)統(tǒng)計:§5最小二乘法29/53結(jié)論:纖維強(qiáng)度隨拉伸倍數(shù)增加而增加,而且24個點(diǎn)大致分布在一條直線附近，所以能夠認(rèn)為強(qiáng)度S與拉伸倍數(shù)t關(guān)系近似滿足線性關(guān)系。30/53

依據(jù)上述實例圖中測試點(diǎn)分布情況,能夠畫出很多條靠近這些點(diǎn)直線,其方程都可表示為：5-1最小二乘法基本概念(1)(2)其中:a,

b

待定.要從形如(1)式全部直線中,找出一條用某種度量標(biāo)準(zhǔn)來衡量最靠近全部數(shù)據(jù)點(diǎn)直線.計算值

S(ti)

與測量數(shù)據(jù)

si之差為:其大小依賴于

a,

b

選取.問:怎樣衡量直線與數(shù)據(jù)點(diǎn)偏離程度?31/53(3)注:(1)式是一條直線，但現(xiàn)實生活中函數(shù)關(guān)系并不都是線性關(guān)系，所以下面將問題推廣到普通情況.普通使用誤差加權(quán)平方和作為誤差度量標(biāo)準(zhǔn)。

用ωi

表示測量數(shù)據(jù)

(ti,

si)

重度,稱為權(quán)系數(shù),表示在不一樣點(diǎn)

(ti,si)

處數(shù)據(jù)比重不一樣.作為衡量

S(t)

與數(shù)據(jù)點(diǎn)

(ti,

si)

(i=0,1,…,m)偏離大小度量標(biāo)準(zhǔn).使最小

S(t)

最靠近,以此為依據(jù)可確定(1)式中確實定系數(shù)

a,

b.問:怎樣確定直線方程系數(shù)

a與

b?32/53(4)(5)(6)

定義1設(shè)

為給定一組數(shù)據(jù),為各點(diǎn)權(quán)系數(shù)

,要求在函數(shù)類中,求一函數(shù)使誤差加權(quán)平方和最小,即最小平方誤差其中：為Φ中任意函數(shù)，稱為擬合函數(shù).

稱按條件(6)求函數(shù)

s*(x)方法為數(shù)據(jù)擬合最小二乘法,簡稱最小二乘法.數(shù)據(jù)點(diǎn)數(shù)-1基函數(shù)個數(shù)-1最小二乘解擬合條件問：確定擬合函數(shù)

s(x)

后,怎樣求擬合系數(shù),使得滿足擬合條件？33/535-2法方程組（正規(guī)方程組）由可知為擬合系數(shù)函數(shù).所以,可設(shè)平方誤差為:求最小二乘解問題

取極小值問題34/53由多元函數(shù)取極值必要條件移項整理得：(7)交換求和號次序得：得：35/53即顯然(7)式是一個關(guān)于n+1階線性方程組.定義向量：定義內(nèi)積：(9)(8)36/53方程組(7)便可化為:(10)這是一個系數(shù)為,常數(shù)項為線性方程組.將其表示為矩陣形式：(11)稱為函數(shù)系在離散點(diǎn)法方程組.而且其系數(shù)矩陣為對稱正定矩陣.坡度矩陣,Hilbert矩陣kj37/53因為為函數(shù)類Φ基,所以它們必定線性無關(guān),所以法方程組系數(shù)矩陣非奇異,即依據(jù)Cramer法則,法方程組有唯一解：即：最小值.是38/53能夠證實,是所對應(yīng)最小二乘解.為均方差.稱為最小二乘解平方誤差.能夠證實:(12)平方誤差內(nèi)積表示形式:故有39/53

作為一個簡單情況,常使用多項式Pn(x)作為(xi,yi)(i=0,1,…,m)擬合函數(shù),這是最常見最小二乘擬合.此時,擬合函數(shù)S(x)基函數(shù)為:(13)對應(yīng)擬合函數(shù)為:函數(shù)類為多項式類時法方程組40/53基函數(shù)之間內(nèi)積為：此時，法方程組為：(14)n較大時,屬于病態(tài)問題

問：怎樣處理上述問題？以正交多項式為基函數(shù),簡化法方程組.41/53例2

測得數(shù)據(jù)以下：試用最小二乘法求最正確數(shù)據(jù)擬合函數(shù).i01234560.00.20.40.60.81.01.20.91.92.83.34.05.76.5解：1)在坐標(biāo)平面上描點(diǎn)，

從散點(diǎn)圖能夠看出函數(shù)關(guān)系近似線性關(guān)系，所以選擇線性函數(shù)：其基函數(shù)為作為擬合函數(shù),2)依據(jù)散點(diǎn)分布情況，選擇基函數(shù).（難點(diǎn)）42/533)建立法方程組依據(jù)內(nèi)積公式:計算以下各值：取43/53得法方程組：4)解法方程組,求擬合函數(shù)系數(shù)所以,為全部最小二乘解.求得線性函數(shù)兩系數(shù):5)求擬合誤差44/5345/53最小二乘擬合普通步驟:描點(diǎn)(若給定擬合函數(shù)形式,這一步驟能夠省略);依據(jù)數(shù)據(jù)點(diǎn)分布情況,確定擬合函數(shù),深入確定擬合函數(shù)基函數(shù);建立法方程組(包括到一些內(nèi)積運(yùn)算);求解法方程組(推薦使用Gauss列主元消去法),得擬合函數(shù)系數(shù);寫出擬合函數(shù);求擬合誤差:最小平方誤差.46/53非線性最小二乘問題

當(dāng)用非多項式函數(shù)(比如:指數(shù)函數(shù)類或冪函數(shù)類等)擬合給定一組數(shù)據(jù)時,擬合函數(shù)是關(guān)于待定參數(shù)非線性函數(shù).若按最小二乘準(zhǔn)則:用極值原理建立法方程組將是關(guān)于待定參數(shù)非線性方程組.稱這類數(shù)據(jù)擬合問題為非線性最小二乘擬合.

簡單非線性最小二乘擬合問題求解方法:轉(zhuǎn)化為線性最小二乘問題求解.47/531786年(9歲),發(fā)覺1到100自然數(shù)之和是5050；1795年(18歲),進(jìn)入哥廷根大學(xué),創(chuàng)造最小二乘法；1796年,僅用尺規(guī)作出正17邊形；1879年(22歲),證實代數(shù)學(xué)基本定理,獲博士學(xué)位；18(24歲),出版《算術(shù)研究》,準(zhǔn)確計算谷神星(最大小行星)軌跡；18左右發(fā)覺了歐氏幾何原理；1828年出版《關(guān)于曲面普通研究》,系統(tǒng)地闡述了空間曲面微分幾何學(xué)；1833年,和韋伯共同創(chuàng)造了有線電報；……最小二乘法創(chuàng)造者——高斯

高斯在數(shù)學(xué)、天文學(xué)、力學(xué)、測地學(xué)、磁學(xué)、光學(xué)、水工學(xué)和電動學(xué)等方面都有出色貢獻(xiàn).Gauss(1777～1855)48/53

Lagrange插值法

（高次插值多項式數(shù)值不穩(wěn)定，龍格現(xiàn)象；每增加一個插值節(jié)點(diǎn)，插值多項式就得重新結(jié)構(gòu)）

分段低次插值法

（收斂性和精度能得到確保；含有局部性