4曲線擬合的最小二乘法市公開課特等獎(jiǎng)市賽課微課一等獎(jiǎng)?wù)n件

第三章函數(shù)迫近賦范空間內(nèi)積空間正交多項(xiàng)式性質(zhì)慣用正交多項(xiàng)式最正確平方迫近問題曲線擬合最小二乘法2024/8/181YFNie@第1頁6曲線擬合最小二乘法背景：離散數(shù)據(jù)特點(diǎn)數(shù)據(jù)不準(zhǔn)確數(shù)據(jù)多,甚至是是大量數(shù)據(jù)采樣普通基本上反應(yīng)函數(shù)基本性態(tài)離散數(shù)據(jù)建模方法插值法：經(jīng)過離散點(diǎn)，高次插值不可靠，分段插值不夠光滑曲線擬合：曲線符合離散點(diǎn)分布基本輪廓，或符合某理論規(guī)律，不要求曲線準(zhǔn)確經(jīng)過每一離散點(diǎn)。2024/8/182YFNie@第2頁6.1曲線擬合過程造型：經(jīng)過作圖分析或直接依據(jù)物理規(guī)律選取適當(dāng)曲線類型，即擬合模型：待定參數(shù)數(shù)目n通常遠(yuǎn)小于節(jié)點(diǎn)數(shù)目m.線性擬合模型：非線性擬合模型：2024/8/183YFNie@第3頁（擬合過程續(xù)）選擇最好曲線依據(jù)某種標(biāo)準(zhǔn)選擇一條“最好”簡(jiǎn)單曲線作為離散數(shù)據(jù)連續(xù)模型。標(biāo)準(zhǔn)：擬合殘差向量r某種范數(shù)最小.殘差向量

r=(r0,r1,…,rm)T=r(c0,c1,…,cn)第j個(gè)節(jié)點(diǎn)殘差范數(shù)：正數(shù)ωj是第j個(gè)采樣點(diǎn)處權(quán)。切比雪夫意義下曲線擬合最小二乘意義下曲線擬合2024/8/184YFNie@第4頁（擬合過程續(xù)）

總結(jié)切比雪夫意義下曲線擬合模型最小二乘意義下曲線擬合模型確定函數(shù)類一個(gè)方法：多項(xiàng)式（簡(jiǎn)單，WeierstrassTh.Page89，可行，不是最有效)2024/8/185YFNie@第5頁6.2最小二乘法擬合模型求解問題矩陣形式表述法方程組平方誤差法方程組系數(shù)矩陣（Gram矩陣）表示矛盾方程以及加號(hào)逆舉例基于離散正交多項(xiàng)式最小二乘擬合2024/8/186YFNie@第6頁最小二乘問題矩陣形式表述2024/8/187YFNie@第7頁（矩陣表述續(xù)）最小二乘問題等價(jià)于2024/8/188YFNie@第8頁（矩陣表述續(xù)）離散Gram矩陣最小二乘問題等價(jià)于2024/8/189YFNie@第9頁

定理3.6

假如離散Gram矩陣是實(shí)正定對(duì)稱矩陣,則向量使得二次函數(shù)I(C)取最小值充分必要條件是向量是線性方程組GnC=Y

解向量.Remark1

當(dāng)Gn是實(shí)對(duì)稱正定矩陣時(shí),det(Gn)0,定理中線性方程組解向量是存在惟一,此時(shí)最小二乘曲線擬合問題有惟一解函數(shù).稱定理中方程組為線性空間上最小二乘問題法方程組.法方程組2024/8/1810YFNie@第10頁2024/8/1811YFNie@第11頁誤差預(yù)計(jì)表示2024/8/1812YFNie@第12頁離散Gram矩陣深入討論行向量2024/8/1813YFNie@第13頁（離散Gram矩陣?yán)m(xù)）類似地有：2024/8/1814YFNie@第14頁（離散Gram矩陣?yán)m(xù)）

離散Gram矩陣是半正定矩陣：設(shè)

是任意非零列向量,對(duì)角矩陣W對(duì)角元素為正當(dāng)矩陣A列滿秩(列線性無關(guān))時(shí)離散Gram矩陣正定:對(duì)任意非零列向量

有A

是非零列向量,進(jìn)而得到此時(shí)定理3.6條件得到滿足.不嚴(yán)格地說,因?yàn)榫仃囆袛?shù)遠(yuǎn)遠(yuǎn)大于列數(shù),矩陣普通都是列滿秩.2024/8/1815YFNie@第15頁矛盾方程組以及加號(hào)逆法方程組有表示形式：該式能夠看作是給(超定)線性方程組

兩端左乘矩陣ATW得到。2024/8/1816YFNie@第16頁（矛盾方程組以及加號(hào)逆續(xù)）

超定線性方程組可了解為在線性空間Φ上求過節(jié)點(diǎn)插值函數(shù)所列出線性方程組。因?yàn)椴逯禇l件個(gè)數(shù)m＋1遠(yuǎn)大于待定參數(shù)個(gè)數(shù)沒n＋1,故普通說來該線性方程組是一個(gè)矛盾方程組,無解。法方程組解又能夠看作是上述矛盾方程在最小二乘意義下最優(yōu)解。最小二乘2024/8/1817YFNie@第17頁（矛盾方程與廣義逆續(xù)）當(dāng)取權(quán)矩陣W為單位矩陣時(shí),法方程組簡(jiǎn)化為。進(jìn)而當(dāng)A列滿秩時(shí)，ATA是實(shí)對(duì)稱正定矩陣，矛盾方程組在最小二乘意義下最優(yōu)解可表示。在矩陣論中稱 是列滿秩矩陣A廣義逆,記為。進(jìn)而 是矛盾方程組在最小二乘意義下最優(yōu)解。2024/8/1818YFNie@第18頁例題確定公式中參數(shù),使之與以下數(shù)據(jù)擬合。xi0.10.20.30.40.50.6f(xi)0.1720.3230.4840.6901.0001.579解

公式關(guān)于參數(shù)非線性,

變形公式為以下線性模型：并有以下函數(shù)值表:xi0.10.20.30.40.50.6g(xi)5.813953.095982.066121.449281.000000.633312024/8/1819YFNie@第19頁最小二乘曲線擬合法方程組為,即

0.633311.000001.449282.066123.095985.81395g(xi)0.60.50.40.30.20.1xi2024/8/1820YFNie@第20頁解方程組得

=0.503375,=0.976071,=-1.966900,進(jìn)而有參數(shù)

=1.98659=1.93905,=-3.907422。最小二乘平方誤差為關(guān)于f誤差2024/8/1821YFNie@第21頁擬合效果示意圖

2024/8/1822YFNie@第22頁用關(guān)于點(diǎn)集正交函數(shù)系作最小二乘曲線擬合背景：最小二乘曲線擬合問題解函數(shù)是經(jīng)過求解法方程組得到；選定基函數(shù)產(chǎn)生法方程組系數(shù)矩陣可能是病態(tài),即系數(shù)矩陣或右端項(xiàng)微小擾動(dòng)可能造成解函數(shù)有很大誤差。為防止求解病態(tài)法方程組,希望選擇一類特殊基函數(shù),使法方程組系數(shù)矩陣是對(duì)角陣。2024/8/1823YFNie@第23頁

關(guān)于離散內(nèi)積正交定義定義：假如定義于區(qū)間上函數(shù)族關(guān)于點(diǎn)集以及一組權(quán)值

所定義離散內(nèi)積滿足關(guān)系 則稱函數(shù)族是關(guān)于點(diǎn)集以及權(quán)值正交函數(shù)族。2024/8/1824YFNie@第24頁

基于正交基最小二乘曲線擬合當(dāng)函數(shù)族是線性空間一組正交基時(shí),

定義于該空間上最小二乘曲線擬合問題法方程組系數(shù)矩陣為對(duì)角陣擬合曲線為：20