Matlab經(jīng)典優(yōu)化函數(shù)詳細(xì)介紹(共22頁(yè))

1、精選優(yōu)質(zhì)文檔-傾情為你奉上Matlab經(jīng)典優(yōu)化函數(shù)詳細(xì)介紹-Matlab優(yōu)化工具箱簡(jiǎn)介 5.1 線性優(yōu)化線性規(guī)劃問題是目標(biāo)函數(shù)和約束條件均為線性函數(shù)的問題，MATLAB7.0解決的線性規(guī)劃問題的標(biāo)準(zhǔn)形式為 min sub. to： 其中f、x、b、beq、lb、ub為向量，A、Aeq為矩陣.其它形式的線性規(guī)劃問題都可經(jīng)過適當(dāng)變換化為此標(biāo)準(zhǔn)形式. 在MATLAB5.x以上版中，線性規(guī)劃問題Linear Programming已用函數(shù)linprog取代了MATLAB5.x版中的lp函數(shù).當(dāng)然，由于版本的向下兼容性，一般說來，低版本中的函數(shù)在7.0版中仍可使用.函數(shù) linprog格式 x = li

2、nprog(f,A,b) %求min f ' *x sub.to 線性規(guī)劃的最優(yōu)解.x = linprog(f,A,b,Aeq,beq) %等式約束，若沒有不等式約束，則A= ，b= .x = linprog(f,A,b,Aeq,beq,lb,ub) . %指定x的范圍，若沒有等式約束 ，則Aeq= ，beq= .x = linprog(f,A,b,Aeq,beq,lb,ub,x0) %設(shè)置初值x0.x = linprog(f,A,b,Aeq,beq,lb,ub,x0,options) % options為指定的優(yōu)化參數(shù).x,fval = linprog() % 返回目標(biāo)函數(shù)最優(yōu)值，即

3、fval= f ' *x.x,lambda,exitflag = linprog() % lambda為解x的Lagrange乘子.x, lambda,fval,exitflag = linprog() % exitflag為終止迭代的錯(cuò)誤條件.x,fval, lambda,exitflag,output = linprog() % output為關(guān)于優(yōu)化的一些信息.說明: 若exitflag>0表示函數(shù)收斂于解x，exitflag=0表示超過函數(shù)估值或迭代的最大次數(shù)，exitflag<0表示函數(shù)不收斂于解x；若lambda=lower 表示下界lb，lambda=uppe

4、r表示上界ub，lambda=ineqlin表示不等式約束，lambda=eqlin表示等式約束，lambda中的非0元素表示對(duì)應(yīng)的約束是有效約束；output=iterations表示迭代次數(shù)，output=algorithm表示使用的運(yùn)算規(guī)則，output=cgiterations表示PCG迭代次數(shù).MATLAB求解優(yōu)化問題的主要函數(shù)類 型模 型基本函數(shù)名一元函數(shù)極小Min F（x）s.t.x1<x<x2x=fminbnd(F,x1,x2)無約束極小Min F(X)X=fminunc(F,X0)X=fminsearch(F,X0)線性規(guī)劃Min s.t.AX<=bX=li

5、nprog(c,A,b)二次規(guī)劃Min xTHx+cTxs.t. Ax<=bX=quadprog(H,c,A,b)約束極?。ǚ蔷€性規(guī)劃）Min F(X)s.t. G(X)<=0X=fmincon(FG,X0)多目標(biāo)優(yōu)化問題Min rs.t. F(x)-wr<=goalX=fgoalattain(F,x,goal,w)極小極大問題Min max Fi(x)X Fi(x)s.t. G(x)<=0X=fminimax(FG,x0)優(yōu)化函數(shù)的輸入變量 優(yōu)化函數(shù)的輸出變量 5.2非線性優(yōu)化 5.2.1 有約束的一元函數(shù)的最小值單變量函數(shù)求最小值的標(biāo)準(zhǔn)形式為 sub.to 函數(shù) f

6、minbnd格式 x = fminbnd(fun,x1,x2) %返回自變量x在區(qū)間上函數(shù)fun取最小值時(shí)x值，fun為目標(biāo)函數(shù)的表達(dá)式字符串或MATLAB自定義函數(shù)的函數(shù)柄.x = fminbnd(fun,x1,x2,options) x,fval = fminbnd() x,fval,exitflag = fminbnd()x,fval,exitflag,output = fminbnd()例5-2 計(jì)算下面函數(shù)在區(qū)間(0，1)內(nèi)的最小值. 解：>> x,fval,exitflag,output=fminbnd('(x3+cos(x)+x*log(x)/exp(x)&#

7、39;,0,1)x = 0.5223fval = 0.3974exitflag = 1output = iterations: 9 funcCount: 9 algorithm: 'golden section search, parabolic interpolation'例5-3 在0，5上求下面函數(shù)的最小值解：先自定義函數(shù)：在MATLAB編輯器中建立M文件為：function f = myfun(x)f = (x-3).2 - 1;保存為myfun.m，然后在命令窗口鍵入命令：>> x=fminbnd(myfun,0,5)則結(jié)果顯示為：x = 35.2.2 無

8、約束多元函數(shù)最小值多元函數(shù)最小值的標(biāo)準(zhǔn)形式為其中：x為向量.命令 利用函數(shù)fminsearch求無約束多元函數(shù)最小值.函數(shù) fminsearch格式 x = fminsearch(fun,x0) %x0為初始點(diǎn)，fun為目標(biāo)函數(shù)的表達(dá)式字符串或MATLAB自定義函數(shù)的函數(shù)柄.x = fminsearch(fun,x0,options) % options查optimset.x,fval = fminsearch() %最優(yōu)點(diǎn)的函數(shù)值.x,fval,exitflag = fminsearch() % exitflag與單變量情形一致.x,fval,exitflag,output = fminse

9、arch() %output與單變量情形一致.例題5-4 求 的最小值點(diǎn).解：>>X=fminsearch('2*x(1)3+4*x(1)*x(2)3-10*x(1)*x(2)+x(2)2', 0,0)結(jié)果為 X = 1.0016 0.8335或在MATLAB編輯器中建立函數(shù)文件.function f=myfun(x)f=2*x(1)3+4*x(1)*x(2)3-10*x(1)*x(2)+x(2)2;保存為myfun.m，在命令窗口鍵入>> X=fminsearch ('myfun', 0,0) 或 >> X=fminsear

10、ch(myfun, 0,0)結(jié)果為： X = 1.0016 0.83355.2.3 有約束的多元函數(shù)最小值非線性有約束的多元函數(shù)的標(biāo)準(zhǔn)形式為：sub.to 其中：x、b、beq、lb、ub是向量，A、Aeq為矩陣，C(x)、Ceq(x)是返回向量的函數(shù)，f(x)為目標(biāo)函數(shù)，f(x)、C(x)、Ceq(x)可以是非線性函數(shù).在MATLAB5.x中，它的求解由函數(shù)constr實(shí)現(xiàn).函數(shù) fmincon格式 x = fmincon(fun,x0,A,b)x = fmincon(fun,x0,A,b,Aeq,beq)x = fmincon(fun,x0,A,b,Aeq,beq,lb,ub)x = fm

11、incon(fun,x0,A,b,Aeq,beq,lb,ub,nonlcon)x = fmincon(fun,x0,A,b,Aeq,beq,lb,ub,nonlcon,options)x,fval = fmincon()x,fval,exitflag = fmincon()x,fval,exitflag,output = fmincon()x,fval,exitflag,output,lambda = fmincon()x,fval,exitflag,output,lambda,grad = fmincon()x,fval,exitflag,output,lambda,grad,hessian

12、 = fmincon(參數(shù)說明：fun為目標(biāo)函數(shù)，它可用前面的方法定義；nonlcon的作用是通過接受的向量x來計(jì)算非線性不等約束和等式約束分別在x處的估計(jì)C和Ceq，通過指定函數(shù)柄來使用，如：>>x = fmincon(myfun,x0,A,b,Aeq,beq,lb,ub,mycon)，先建立非線性約束函數(shù)，并保存為mycon.m：function C,Ceq = mycon(x)C = % 計(jì)算x處的非線性不等約束的函數(shù)值.Ceq = % 計(jì)算x處的非線性等式約束的函數(shù)值.lambda是Lagrange乘子，它體現(xiàn)哪一個(gè)約束有效.output輸出優(yōu)化信息；grad表示目標(biāo)函數(shù)在

13、x處的梯度；hessian表示目標(biāo)函數(shù)在x處的Hessian值.例5-5 求下面問題在初始點(diǎn)（0，1）處的最優(yōu)解min Sub.to解：約束條件的標(biāo)準(zhǔn)形式為：sub.to 先在MATLAB編輯器中建立非線性約束函數(shù)文件： function c, ceq=mycon (x) c=(x(1)-1)2-x(2); ceq= ; %無等式約束.然后，在命令窗口鍵入如下命令或建立M文件：>>fun='x(1)2+x(2)2-x(1)*x(2)-2*x(1)-5*x(2)' %目標(biāo)函數(shù).>>x0=0 1;>>A=-2 3; % 線性不等式約束.>&

14、gt;b=6;>>Aeq= ; % 無線性等式約束.>>beq= ;>>lb= ; % x沒有下、上界.>>ub= ;>>x,fval,exitflag,output,lambda,grad,hessian=fmincon(fun,x0,A,b,Aeq,beq,lb,ub,mycon)則結(jié)果為x = 3 4fval = -13exitflag = 1 % 解收斂. output = iterations: 2 funcCount: 9 stepsize: 1 algorithm: 'medium-scale: SQP, Qua

15、si-Newton, line-search' firstorderopt: cgiterations: lambda = lower: 2x1 double % x下界有效情況，通過lambda.lower可查看. upper: 2x1 double % x上界有效情況，為0表示約束無效.eqlin: 0x1 double %線性等式約束有效情況，不為0表示約束有效. eqnonlin: 0x1 double %非線性等式約束有效情況. ineqlin: 2.5081e-008 %線性不等式約束有效情況. neqnonlin: 6.1938e-008 %非線性不等式約束有效情況. g

16、rad = %目標(biāo)函數(shù)在最小值點(diǎn)的梯度. 1.0e-006 * -0.1776 hessian = %目標(biāo)函數(shù)在最小值點(diǎn)的Hessian值. 1.0000 -0.0000 -0.0000 1.00005.2.4 二次規(guī)劃問題二次規(guī)劃問題（quadratic programming）的標(biāo)準(zhǔn)形式為： sub.to 其中，H、A、Aeq為矩陣，f、b、beq、lb、ub、x為向量其它形式的二次規(guī)劃問題都可轉(zhuǎn)化為標(biāo)準(zhǔn)形式. MATLAB5.x版中的qp函數(shù)已被6.0版中的函數(shù)quadprog取代。函數(shù) quadprog格式 x = quadprog(H,f,A,b) %其中H,f,A,b為標(biāo)準(zhǔn)形中的參

17、數(shù)，x為目標(biāo)函數(shù)的最小值.x = quadprog(H,f,A,b,Aeq,beq) %Aeq,beq滿足等約束條件.x = quadprog(H,f,A,b,Aeq,beq,lb,ub) % lb,ub分別為解x的下界與上界.x = quadprog(H,f,A,b,Aeq,beq,lb,ub,x0) %x0為設(shè)置的初值x = quadprog(H,f,A,b,Aeq,beq,lb,ub,x0,options) % options為指定的優(yōu)化參數(shù).x,fval = quadprog() %fval為目標(biāo)函數(shù)最優(yōu)值.x,fval,exitflag = quadprog() % exitflag

18、與線性規(guī)劃中參數(shù)意義相同.x,fval,exitflag,output = quadprog() % output與線性規(guī)劃中參數(shù)意義相同.x,fval,exitflag,output,lambda = quadprog() % lambda與線性規(guī)劃中參數(shù)意義相同 . 例5-6 求二次規(guī)劃的最優(yōu)解 max f (x1, x2)=x1x2+3 sub. to x1+x2-2=0解：化成標(biāo)準(zhǔn)形式： sub.to x1+x2=2在Matlab中實(shí)現(xiàn)如下：H=0,-1;-1,0;f=0;0;Aeq=1 1;b=2;x,fval,exitflag,output,lambda = quadprog(H,

19、f, , ,Aeq,b)結(jié)果為：x = 1.0000 1.0000fval =-1.0000exitflag =4output = iterations: 1 algorithm: 'large-scale: projective preconditioned conjugate gradients' f irstorderopt: 0 cgiterations: 1 message: 'Optimization terminated: local minimum found; the solution is singular.'lambda = eqlin:

20、1.0000 ineqlin: lower: upper: 5.3 極小化極大（Minmax）問題sub.to 其中：x、b、beq、lb、ub是向量，A、Aeq為矩陣，C(x)、Ceq(x)和F(x)是返回向量的函數(shù)，F(xiàn)(x)、C(x)、 Ceq(x) 可以是非線性函數(shù).函數(shù) fminimax格式 x = fminimax(fun,x0)x = fminimax(fun,x0,A,b)x = fminimax(fun,x0,A,b,Aeq,beq)x = fminimax(fun,x0,A,b,Aeq,beq,lb,ub)x = fminimax(fun,x0,A,b,Aeq,beq,lb,

21、ub,nonlcon)x = fminimax(fun,x0,A,b,Aeq,beq,lb,ub,nonlcon,options)x,fval,maxfval = fminimax()x,fval,maxfval,exitflag = fminimax()x,fval,maxfval,exitflag,output = fminimax()x,fval,maxfval,exitflag,output,lambda = fminimax()例5-7 求下列函數(shù)最大值的最小化問題其中：解：先建立目標(biāo)函數(shù)文件，并保存為myfun.m：function f = myfun(x)f(1)= 2*x(1)

22、2+x(2)2-48*x(1)-40*x(2)+304; f(2)= -x(1)2 - 3*x(2)2;f(3)= x(1) + 3*x(2) -18;f(4)= -x(1)- x(2);f(5)= x(1) + x(2) - 8;然后，在命令窗口鍵入命令：x0 = 0.1; 0.1; % 初始值x,fval = fminimax(myfun,x0)結(jié)果為：x = 4.0000 4.0000fval = 0.0000 -64.0000 -2.0000 -8.0000 -0.00005.4 曲線擬合與插值 在大量的應(yīng)用領(lǐng)域中，人們經(jīng)常面臨用一個(gè)解析函數(shù)描述數(shù)據(jù)(通常是測(cè)量值)的任務(wù).對(duì)這個(gè)問題有

23、兩種方法. 插值： 在插值法里，數(shù)據(jù)假定是正確的，要求以某種方法描述數(shù)據(jù)點(diǎn)之間所發(fā)生的情況. 曲線擬合：曲線擬合或回歸是人們?cè)O(shè)法找出某條光滑曲線，它最佳地?cái)M合數(shù)據(jù)，但不必要經(jīng)過任何數(shù)據(jù)點(diǎn).標(biāo)有o的是數(shù)據(jù)點(diǎn)；連接數(shù)據(jù)點(diǎn)的實(shí)線描繪了線性內(nèi)插，虛線是數(shù)據(jù)的最佳擬合.1 Matlab 曲線擬合曲線擬合的兩個(gè)基本問題： 1.最佳擬合意味著什么？ 2.應(yīng)該用什么樣的曲線？ 可用許多不同的方法定義最佳擬合，并存在無窮數(shù)目的曲線.當(dāng)最佳擬合被解釋為在數(shù)據(jù)點(diǎn)的最小誤差平方和，且所用的曲線限定為多項(xiàng)式時(shí)，那么曲線擬合是相當(dāng)簡(jiǎn)捷的.數(shù)學(xué)上，稱為多項(xiàng)式的最小二乘曲線擬合.虛線和標(biāo)志的數(shù)據(jù)點(diǎn)之間的垂直距離是在該點(diǎn)的誤差

24、.對(duì)各數(shù)據(jù)點(diǎn)距離求平方，并把平方距離全加起來，就是誤差平方和.這條虛線是使誤差平方和盡可能小的曲線，即是最佳擬合.最小二乘這個(gè)術(shù)語僅僅是使誤差平方和最小的省略說法. x=0 .1 .2 .3 .4 .5 .6 .7 .8 .9 1;y=-.447 1.978 3.28 6.16 7.08 7.34 7.66 9.56 9.48 9.30 11.2; n=2; p=polyfit(x, y, n)ezplot(' -9.8108*x*x+20.1293*x-0.0317 ') %二次多項(xiàng)式系數(shù) %既是p的輸出，該命令為畫出擬合曲線.xi=linspace(0, 1, 100);

25、% x-axis data for plotting z=polyval(p, xi) %求出多項(xiàng)式在xi點(diǎn)處的取值. plot(x, y, ' o ' , x, y, xi, z, ' : ' ) xlabel(' x '), ylabel(' y=f(x) '), title(' Second Order Curve Fitting ')多項(xiàng)式階次的選擇是任意的.兩點(diǎn)決定一直線或一階多項(xiàng)式.三點(diǎn)決定一個(gè)平方或2階多項(xiàng)式.按此進(jìn)行，n+1數(shù)據(jù)點(diǎn)唯一地確定n階多項(xiàng)式.于是，在上面的情況下，有11個(gè)數(shù)據(jù)點(diǎn)，我們可選一

26、個(gè)高達(dá)10階的多項(xiàng)式.然而，高階多項(xiàng)式給出很差的數(shù)值特性，人們不應(yīng)選擇比所需的階次高的多項(xiàng)式.此外，隨著多項(xiàng)式階次的提高，近似變得不夠光滑，因?yàn)檩^高階次多項(xiàng)式在變零前，可多次求導(dǎo). 原始數(shù)據(jù)標(biāo)以'o'，2階曲線擬合是虛線，10階擬合是實(shí)線.注意，在10階擬合中，在左邊和右邊的極值處，數(shù)據(jù)點(diǎn)之間出現(xiàn)大的紋波.當(dāng)企圖進(jìn)行高階曲線擬合時(shí)，這種紋波現(xiàn)象經(jīng)常發(fā)生.顯然， 越多就越好 的觀念在這里不適用.（上圖）2 插值命令 插值定義為對(duì)數(shù)據(jù)點(diǎn)之間函數(shù)的估值方法，這些數(shù)據(jù)點(diǎn)是由某些集合給定.當(dāng)人們不能很快地求出所需中間點(diǎn)的函數(shù)值時(shí)，插值是一個(gè)有價(jià)值的工具.例如，當(dāng)數(shù)據(jù)點(diǎn)是某些實(shí)驗(yàn)測(cè)量的結(jié)果

27、或是過長(zhǎng)的計(jì)算過程時(shí)，就有這種情況. 最簡(jiǎn)單插值的例子是MATLAB的作圖.按缺省，MATLAB用直線連接所用的數(shù)據(jù)點(diǎn)以作圖.這個(gè)線性插值猜測(cè)中間值落在數(shù)據(jù)點(diǎn)之間的直線上.當(dāng)然，當(dāng)數(shù)據(jù)點(diǎn)個(gè)數(shù)的增加和它們之間距離的減小時(shí)，線性插值就更精確.例如: x1=linspace(0, 2*pi, 60); x2=linspace(0, 2*pi, 6); plot(x1, sin(x1), x2, sin(x2), ' - ')xlabel(' x '), ylabel(' sin(x) '), title(' Linear Interpolati

28、on ')一個(gè)在數(shù)據(jù)點(diǎn)之間用60個(gè)點(diǎn)，它比另一個(gè)只用6個(gè)點(diǎn)更光滑和更精確.如曲線擬合一樣，插值要作決策.根據(jù)所作的假設(shè)，有多種插值.而且，可以在一維以上空間中進(jìn)行插值.即如果有反映兩個(gè)變量函數(shù)的插值，z=f(x, y)，那么就可在x之間和在y之間，找出z的中間值進(jìn)行插值.MATLAB在一維函數(shù)interp1和在二維函數(shù)interp2中，提供了許多的插值選擇.為了說明一維插值，考慮下列問題，12小時(shí)內(nèi)，一小時(shí)測(cè)量一次室外溫度.數(shù)據(jù)存儲(chǔ)在兩個(gè)MATLAB變量中.hours=1:12; % index for hour data was recorded temps=5 8 9 15 25

29、29 31 30 22 25 27 24; % recorded temperatures plot(hours, temps, hours, temps,' + ') % view temperatures title(' Temperature ')xlabel(' Hour '), ylabel(' Degrees Celsius ') 正如上圖看到的，MATLAB畫出了數(shù)據(jù)點(diǎn)線性插值的直線.為了計(jì)算在任意給定時(shí)間的溫度，人們可試著對(duì)可視的圖作解釋.另外一種方法，可用函數(shù)interp1. t=interp1(hours, t

30、emps, 9.3) % estimate temperature at hour=9.3t =22.9000 t=interp1(hours, temps, 4.7) % estimate temperature at hour=4.7t =22 t=interp1(hours, temps, 3.2 6.5 7.1 11.7) % find temp at many points!t = 10.2000 30.0000 30.9000 24.9000interp1的缺省用法是由interp1(x, y, xo)來描述，這里x是獨(dú)立變量(橫坐標(biāo))，y是應(yīng)變量(縱坐標(biāo))，xo是進(jìn)行插值的一個(gè)數(shù)

31、值數(shù)組.另外，該缺省的使用假定為線性插值.若不采用直線連接數(shù)據(jù)點(diǎn)，我們可采用某些更光滑的曲線來擬合數(shù)據(jù)點(diǎn).最常用的方法是用一個(gè)3階多項(xiàng)式，即3次多項(xiàng)式，來對(duì)相繼數(shù)據(jù)點(diǎn)之間的各段建模，每個(gè)3次多項(xiàng)式的頭兩個(gè)導(dǎo)數(shù)與該數(shù)據(jù)點(diǎn)相一致.這種類型的插值被稱為3次樣條或簡(jiǎn)稱為樣條.函數(shù)interp1也能執(zhí)行3次樣條插值.t=interp1(hours, temps, 9.3, ' spline ') % estimate temperature at hour=9.3t = 21.8577 t=interp1(hours, temps, 4.7, ' spline ') %

32、estimate temperature at hour=4.7t = 22.3143 t=interp1(hours, temps, 3.2 6.5 7.1 11.7, ' spline ') t = 9.6734 30.0427 31.1755 25.3820interp1二個(gè)強(qiáng)約束:（1）人們不能要求有獨(dú)立變量范圍以外的結(jié)果，例如，interp1(hours, temps, 13.5)導(dǎo)致一個(gè)錯(cuò)誤，因?yàn)閔ours在1到12之間變化.（2）獨(dú)立變量必須是單調(diào)的.即獨(dú)立變量在值上必須總是增加的或總是減小的. 二維插值是基于與一維插值同樣的基本思想.然而，正如名字所隱含的，二維

33、插值是對(duì)兩變量的函數(shù)z=f(x, y) 進(jìn)行插值. 3. 非線性數(shù)據(jù)（曲線）擬合非線性曲線擬合是已知輸入向量xdata和輸出向量ydata，并且知道輸入與輸出的函數(shù)關(guān)系為ydata=F(x, xdata)，但不知道系數(shù)向量x.今進(jìn)行曲線擬合，求x使得下式成立：函數(shù) lsqcurvefit格式 x = lsqcurvefit(fun,x0,xdata,ydata)x = lsqcurvefit(fun,x0,xdata,ydata,lb,ub,options)x,resnorm = lsqcurvefit()x,resnorm,residual,exitflag,output,lambda =

34、lsqcurvefit()x,resnorm,residual,exitflag,output,lambda,jacobian =lsqcurvefit()resnorm=sum (fun(x,xdata)-ydata).2)，即在x處殘差的平方和；residual=fun(x,xdata)-ydata，即在x處的殘差；exitflag為終止迭代的條件；output為輸出的優(yōu)化信息；lambda為解x處的Lagrange乘子；jacobian為解x處擬合函數(shù)fun的jacobian矩陣.例5-8 求解如下最小二乘非線性擬合問題已知輸入向量xdata和輸出向量ydata，且長(zhǎng)度都是n，擬合函數(shù)為

35、即目標(biāo)函數(shù)為其中：初始解向量為x0=0.3, 0.4, 0.1。解：先建立擬合函數(shù)文件，并保存為myfun.mfunction F = myfun(x,xdata)F = x(1)*xdata.2 + x(2)*sin(xdata) + x(3)*xdata.3;然后給出數(shù)據(jù)xdata和ydata>>xdata = 3.6 7.7 9.3 4.1 8.6 2.8 1.3 7.9 10.0 5.4;>>ydata = 16.5 150.6 263.1 24.7 208.5 9.9 2.7 163.9 325.0 54.3;>>x0 = 10, 10, 10; %初始估計(jì)值>>x,resnorm = lsqcurvefit(myfun,x0,xdata,ydata)結(jié)果為：Optimization terminated suc