數(shù)值分析第三章數(shù)據(jù)擬合

數(shù)值分析第三章數(shù)據(jù)擬合第1頁，共41頁，2023年，2月20日，星期六2/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis第三章數(shù)據(jù)擬合方法

§3.1問題提出§3.2最小二乘法的基本概念§3.3線性擬合方法§3.4非線性曲線的數(shù)據(jù)擬合

第2頁，共41頁，2023年，2月20日，星期六3/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis§3.1問題提出離散數(shù)據(jù)點插值：插值函數(shù)精確通過每一個數(shù)據(jù)點。

第3頁，共41頁，2023年，2月20日，星期六4/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis兩類實際情況:★離散數(shù)據(jù)點提出來自試驗，具有測量誤差，要求插值函數(shù)通過所有數(shù)據(jù)點反而會保留測量誤差的影響?！?/p>

某些情況下需要找出反映變量變化關(guān)系的經(jīng)驗函數(shù)，而非精確通過關(guān)鍵點的外形控制函數(shù)?！?.1問題提出第4頁，共41頁，2023年，2月20日，星期六5/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis

例3.1.1第5頁，共41頁，2023年，2月20日，星期六6/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis已知一組數(shù)據(jù)(xi,yi),y=f(xi)，i=1,2,…,m。f未知。構(gòu)造插值函數(shù)φ(x)來逼近f(x),則有

φ(xi)=f(xi)=yi,i=1,2,…,m或記Q=(φ(x1),φ(x2),…,φ(xm)),Y=(y1,y2,…,ym),則有

Q=Y.如果數(shù)據(jù)不能同時滿足某個特定函數(shù)，而要求所求的逼近函數(shù)“最優(yōu)地”靠近數(shù)據(jù)點，即向量Q與Y

的誤差或距離最小。按Q與Y的誤差最小原則作為最優(yōu)標(biāo)準(zhǔn)所構(gòu)造出的函數(shù)，我們稱為擬合函數(shù)。§3.1問題提出第6頁，共41頁，2023年，2月20日，星期六7/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis定義Q與Y

之間的距離：其中，R稱為均方誤差。

最小二乘法：按均方誤差達(dá)到極小構(gòu)造擬合曲線的方法。§3.1問題提出第7頁，共41頁，2023年，2月20日，星期六8/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis§3.2最小二乘法的基本概念

構(gòu)造擬合曲線的兩個問題：Q:從哪一類函數(shù)族里面選擇擬合曲線的形式？A:根據(jù)問題的實際背景，選擇逼近f(x)的函數(shù)族。

第8頁，共41頁，2023年，2月20日，星期六9/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis數(shù)據(jù)擬合的線性模型

(x)=a11(x)

+······+an

n(x)例如:[1(x)

,···,

n(x)]=[1,x,···,xn-1][1(x)

,···,

n(x)]=[1,cosx,···,cos(n-1)x]§3.2最小二乘法的基本概念第9頁，共41頁，2023年，2月20日，星期六10/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis

Q：如何確定參數(shù)a1,a2,…,an以確定一條擬合曲線呢？A:按照在數(shù)據(jù)點處均方誤差最小的原則。這種用求解誤差函數(shù)最小值問題來確定擬合參數(shù)的方法稱為數(shù)據(jù)擬合的最小二乘法§3.2最小二乘法的基本概念第10頁，共41頁，2023年，2月20日，星期六11/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis

§3.2最小二乘法的基本概念第11頁，共41頁，2023年，2月20日，星期六12/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis

@最小二乘法歸結(jié)為求n個未知數(shù)的線性代數(shù)方程組?！?.2最小二乘法的基本概念第12頁，共41頁，2023年，2月20日，星期六13/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis

最小二乘法的正規(guī)方程組（其解為駐點）§3.2最小二乘法的基本概念第13頁，共41頁，2023年，2月20日，星期六14/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis引進(jìn)矩陣和向量記號

§3.2最小二乘法的基本概念第14頁，共41頁，2023年，2月20日，星期六15/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis

§3.2最小二乘法的基本概念第15頁，共41頁，2023年，2月20日，星期六16/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis★以上正規(guī)方程組是否存在唯一解?★正規(guī)方程組的解是最小二乘問題的駐點，此駐點是否就是最小二乘問題的解呢？§3.2最小二乘法的基本概念第16頁，共41頁，2023年，2月20日，星期六17/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis

可以證明,此解是最小二乘問題的解.§3.2最小二乘法的基本概念第17頁，共41頁，2023年，2月20日，星期六18/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis定理3.2.2§3.2最小二乘法的基本概念第18頁，共41頁，2023年，2月20日，星期六19/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis

§3.3線性數(shù)據(jù)擬合方法已知數(shù)據(jù)表

x

x1

x2··········xmf(x)y1

y2··········ym求擬合函數(shù):(x)=a+bxa+bx1=y1a+bx2=y2··················a+bxm=ym超定方程組第19頁，共41頁，2023年，2月20日，星期六20/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis2-范數(shù)平方殘差:rk=(a+bxk)–yk(k=1,2,···,m)§3.3線性數(shù)據(jù)擬合方法第20頁，共41頁，2023年，2月20日，星期六21/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis求a,b使S(a,b)=min§3.3線性數(shù)據(jù)擬合方法第21頁，共41頁，2023年，2月20日，星期六22/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis§3.3線性數(shù)據(jù)擬合方法第22頁，共41頁，2023年，2月20日，星期六23/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis方程組系數(shù)矩陣方程組右端項§3.3線性數(shù)據(jù)擬合方法第23頁，共41頁，2023年，2月20日，星期六24/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis超定方程組:

AX=正規(guī)方程組:

ATAX=AT

擬合曲線的法方程(正規(guī)方程組)。解之得a，b。代入(x)=a+bx,即得所求的擬合曲線。§3.3線性數(shù)據(jù)擬合方法第24頁，共41頁，2023年，2月20日，星期六25/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis例3.3.1

已知實驗數(shù)據(jù)如下,求線性擬合函數(shù)。

解:設(shè)擬合曲線方程為

(x)=a+bx

x 1 2 3 45f(x)4 4.5 6 8 9§3.3線性數(shù)據(jù)擬合方法第25頁，共41頁，2023年，2月20日，星期六26/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis5a+15b=31.515a+55b=108a=2.25,b=1.35ATAX=AT§3.3線性數(shù)據(jù)擬合方法第26頁，共41頁，2023年，2月20日，星期六27/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis||r||2=0.7583殘差向量:(1)－4=－0.40(2)－4.5=0.45(3)－6=0.30(4)－8=－0.35(5)－9=0(x)=2.25+1.35x§3.3線性數(shù)據(jù)擬合方法第27頁，共41頁，2023年，2月20日，星期六28/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis例3.3.2

求數(shù)據(jù)的二次擬合函數(shù)P(x)=a0+a1x+a2x2x12345f(x)

44.5689

解:將數(shù)據(jù)點代入,得§3.3線性數(shù)據(jù)擬合方法第28頁，共41頁，2023年，2月20日，星期六29/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysisa0+a1+a2=4a0+2a1+4a2=4.5··················a0+5a1+25a2=9§3.3線性數(shù)據(jù)擬合方法第29頁，共41頁，2023年，2月20日，星期六30/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysisa0=3,a1=0.7071,a2=0.1071§3.3線性數(shù)據(jù)擬合方法第30頁，共41頁，2023年，2月20日，星期六31/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis得

P(x)=3+0.7071x+0.1071x2二次擬合誤差:||r||2=0.6437比較線性擬合誤差:

||r||2=0.7583§3.3線性數(shù)據(jù)擬合方法第31頁，共41頁，2023年，2月20日，星期六32/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis§3.3線性數(shù)據(jù)擬合方法x0=0:0.1:1;y0=(x0.^2-3*x0+5).*exp(-5*x0).*sin(x0);p3=polyfit(x0,y0,3);vpa(poly2sym(p3),10)x=0:0.01:1;ya=(x.^2-3*x+5).*exp(-5*x).*sin(x);y1=polyval(p3,x);subplot(2,1,1),plot(x,y1,x,ya,x0,y0,'o'),legend('三次擬合曲線','原函數(shù)曲線','樣本點')p4=polyfit(x0,y0,4);y4=polyval(p4,x);p5=polyfit(x0,y0,5);y5=polyval(p5,x);p8=polyfit(x0,y0,8);y8=polyval(p8,x);subplot(2,1,2),plot(x,y4,'x',x,y5,'-',x,y8,':',x,ya,'-')legend('四次擬合曲線','五次擬合曲線','八次擬合曲線','原函數(shù)曲線')vpa(poly2sym(p8),5)第32頁，共41頁，2023年，2月20日，星期六33/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis§3.3線性數(shù)據(jù)擬合方法第33頁，共41頁，2023年，2月20日，星期六34/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis§3.4非線性曲線的數(shù)據(jù)擬合問題提出：離散點圖呈非線性。第34頁，共41頁，2023年，2月20日，星期六35/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis如果非線性函數(shù)為

將給定數(shù)據(jù)(xi,yi)轉(zhuǎn)換為(ui,vi),求出a,b,再代回原變量y,x，可求得原非線性擬合曲線?！?.4非線性曲線的數(shù)據(jù)擬合第35頁，共41頁，2023年，2月20日，星期六36/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis例3.4.1用給數(shù)據(jù)求經(jīng)驗公式：y=aebxx12345678y15.320.527.436.649.165.687.8117.6解線性化。對經(jīng)驗公式取自然對數(shù)

lny=lna+bx

令

u=lny，b0=lna，u=b0+bx

代入數(shù)據(jù)得矛盾方程組§3.4非線性曲線的數(shù)據(jù)擬合第36頁，共41頁，2023年，2月20日，星期六37/41鄭州大學(xué)研究生2013-2014學(xué)年課程數(shù)值分析NumericalAnalysis由法方程ATAB=ATy，B=（b0,b),即∴a=e2.4369=11.4375.y=11.4375e0