第五章約束優(yōu)化方法

1、1 5.1 約束優(yōu)化問(wèn)題的最優(yōu)解約束優(yōu)化問(wèn)題的最優(yōu)解 5.2 約束優(yōu)化問(wèn)題極小點(diǎn)的條件約束優(yōu)化問(wèn)題極小點(diǎn)的條件 5.3 常用的約束優(yōu)化方法常用的約束優(yōu)化方法 5.3.1 約束坐標(biāo)輪換法約束坐標(biāo)輪換法 5.3.2 約束隨機(jī)方向法約束隨機(jī)方向法5.3.3 復(fù)合形法復(fù)合形法5.3.5 懲罰函數(shù)法懲罰函數(shù)法2概述概述約束優(yōu)化問(wèn)題約束優(yōu)化問(wèn)題最優(yōu)解最優(yōu)解*12.TnXxxx*min()()F XF X最優(yōu)值最優(yōu)值最優(yōu)點(diǎn)最優(yōu)點(diǎn)約束最優(yōu)解和無(wú)約束最優(yōu)解無(wú)論是在數(shù)學(xué)模型上還是幾何約束最優(yōu)解和無(wú)約束最優(yōu)解無(wú)論是在數(shù)學(xué)模型上還是幾何意義上均是不同的概念意義上均是不同的概念3(2,0)等值線等值線族的中心1x( )

2、F x2x無(wú)約束最優(yōu)解解無(wú)約束最優(yōu)解解：等值線的共同中心：等值線的共同中心.2212112min()44TnF XxxxXxxR數(shù)學(xué)模型數(shù)學(xué)模型:4數(shù)學(xué)模型數(shù)學(xué)模型:1x( )F x2x可行域可行域約束最優(yōu)解約束最優(yōu)解51x2xo211()g X4()gX3()gX2()gX*1X*120TX 無(wú)約束最優(yōu)點(diǎn)無(wú)約束最優(yōu)點(diǎn)*2X*20.581.34TX 約束最優(yōu)點(diǎn)約束最優(yōu)點(diǎn)6約束優(yōu)化問(wèn)題的類(lèi)型約束優(yōu)化問(wèn)題的類(lèi)型 1. 不等式約束優(yōu)化問(wèn)題不等式約束優(yōu)化問(wèn)題(IP型型)2. 等式約束優(yōu)化問(wèn)題等式約束優(yōu)化問(wèn)題(EP型型)3. 一般約束優(yōu)化問(wèn)題一般約束優(yōu)化問(wèn)題(GP型型) 7約束優(yōu)化方法分類(lèi)約束優(yōu)化方法分

3、類(lèi) 直接法：直接法：設(shè)法使每一次迭代產(chǎn)生的新迭代點(diǎn)限制在可行域內(nèi)，設(shè)法使每一次迭代產(chǎn)生的新迭代點(diǎn)限制在可行域內(nèi)， 且一步一步的降低目標(biāo)函數(shù)值，直至最后獲得一個(gè)且一步一步的降低目標(biāo)函數(shù)值，直至最后獲得一個(gè) 可行域內(nèi)的約束最優(yōu)解?？尚杏騼?nèi)的約束最優(yōu)解。間接法間接法：將約束優(yōu)化問(wèn)題通過(guò)一定形式的變換，轉(zhuǎn)化為無(wú)約將約束優(yōu)化問(wèn)題通過(guò)一定形式的變換，轉(zhuǎn)化為無(wú)約 束優(yōu)化問(wèn)題，然后采用約束優(yōu)化方法進(jìn)行求解。束優(yōu)化問(wèn)題，然后采用約束優(yōu)化方法進(jìn)行求解。85.3.1 約束坐標(biāo)輪換法約束坐標(biāo)輪換法基本思想基本思想: 與無(wú)約束坐標(biāo)輪換法類(lèi)似與無(wú)約束坐標(biāo)輪換法類(lèi)似, 依此沿坐標(biāo)軸依此沿坐標(biāo)軸 方向?qū)?yōu)方向?qū)?yōu), 逐步逼近

4、最優(yōu)點(diǎn)。逐步逼近最優(yōu)點(diǎn)。1x2xo(0)X(1)1X(1)2X(1)3X(1)4X(1)X(2)1X(2)1X(2)2X(2)3X(2)X(3)X(4)X91x2xo(0)X(1)1X(1)2X(1)3X(1)4X(1)X任取一個(gè)初始點(diǎn)任取一個(gè)初始點(diǎn) (0)XD取初始步長(zhǎng)取初始步長(zhǎng)0 0沿沿e1方向方向(1)(0)11XXe0檢查檢查可行性可行性:適用性適用性:(1)(0)1?F XF X(1)1?XD2(1)(0)21XXe檢查檢查 .加速步長(zhǎng)加速步長(zhǎng)(1)(0)31,2XXe(1)(0)41,2XXe檢查檢查可行性可行性:適用性適用性:(1)1)?(XD(1)(1)3XX101x2xo(0

5、)X(1)1X(1)2X(1)3X(1)4X(1)X(2)1X(2)1X(2)2X(2)3X(2)X沿沿e2方向方向(2)(1)12XXe0檢查檢查可行性可行性:適用性適用性:(2)(1)1?F XF X(2)1?XD (2)(0)22,2XXe檢查檢查可行性可行性:適用性適用性:(2)2?XD(2)(2)2XX檢查檢查可行性可行性:適用性適用性:(2)(1)1( )?F XF X(1)2?XD(2)(1)12XXe(2)(1)2?F XF X(2)(0)32,2XXe檢查檢查可行性可行性:適用性適用性:(2)3)?(XD111x2xo(0)X(1)1X(1)2X(1)3X(1)4X(1)X(

6、2)1X(2)1X(2)2X(2)3X(2)X(3)X沿沿e1方向方向(3)(2)11XXe0檢查檢查可行性可行性:適用性適用性:(3)2)?(XD2(4)(0)12XXe檢查檢查可行性可行性:適用性適用性:(3)(2)1?F XF X(3)1?XD(3)(2)21XXe(3)(3)1XX沿沿e2方向方向0檢查檢查可行性可行性:適用性適用性:(4)(3)1( )?F XF X(4)1?XD0 (4)(0)12XXe檢查檢查.121x2xo(0)X(1)1X(1)2X(1)3X(1)4X(1)X(2)1X(2)1X(2)2X(2)3X(2)X(3)X沿坐標(biāo)軸方向找不到合適的點(diǎn)沿坐標(biāo)軸方向找不到合

7、適的點(diǎn): :縮減初始步長(zhǎng)縮減初始步長(zhǎng) 0 00.50.50 0 繼續(xù)迭代繼續(xù)迭代終止準(zhǔn)則終止準(zhǔn)則: 0 0約束坐標(biāo)輪換法與無(wú)約束約束坐標(biāo)輪換法與無(wú)約束坐標(biāo)輪換法的區(qū)別：坐標(biāo)輪換法的區(qū)別： 步長(zhǎng)步長(zhǎng) 無(wú)約束無(wú)約束: : 最優(yōu)步長(zhǎng)最優(yōu)步長(zhǎng) 約約 束束: : 加速步長(zhǎng)加速步長(zhǎng) 對(duì)每一個(gè)迭代點(diǎn)的檢查對(duì)每一個(gè)迭代點(diǎn)的檢查 無(wú)約束無(wú)約束: : 檢查適用性檢查適用性 約約 束束: : 檢查適用性和檢查適用性和可行性可行性 終止準(zhǔn)則終止準(zhǔn)則 無(wú)約束無(wú)約束: : 點(diǎn)距準(zhǔn)則點(diǎn)距準(zhǔn)則 約約 束束: : 步長(zhǎng)準(zhǔn)則步長(zhǎng)準(zhǔn)則13特點(diǎn)特點(diǎn):1x2xo(0)X(1)1X(1)2X(1)3X(1)4X(1)X(2)1X(2)1

8、X(2)2X(2)3X(2)X(3)X約束坐標(biāo)輪換法具有算法明約束坐標(biāo)輪換法具有算法明了、迭代簡(jiǎn)單、便于設(shè)計(jì)者了、迭代簡(jiǎn)單、便于設(shè)計(jì)者掌握運(yùn)用等優(yōu)點(diǎn)。掌握運(yùn)用等優(yōu)點(diǎn)。但是，它的收斂速度較慢，但是，它的收斂速度較慢，對(duì)于維數(shù)較高的優(yōu)化問(wèn)題對(duì)于維數(shù)較高的優(yōu)化問(wèn)題( (例如例如1010維以上維以上) )很費(fèi)機(jī)時(shí)。很費(fèi)機(jī)時(shí)。另外，這種方法在某些情況另外，這種方法在某些情況下還會(huì)出現(xiàn)下還會(huì)出現(xiàn)“死點(diǎn)死點(diǎn)”的病態(tài)的病態(tài)，導(dǎo)致輸出，導(dǎo)致輸出偽最優(yōu)點(diǎn)偽最優(yōu)點(diǎn)。 避免輸出避免輸出偽最優(yōu)點(diǎn)偽最優(yōu)點(diǎn)的辦法的辦法: :1 1、輸入不同的初始點(diǎn)、輸入不同的初始點(diǎn)2 2、用不同的不長(zhǎng)多次計(jì)算、用不同的不長(zhǎng)多次計(jì)算14基本

9、原理基本原理：典型的：典型的“瞎子爬山瞎子爬山”式的數(shù)值選代解法。在可行式的數(shù)值選代解法。在可行域內(nèi)，任選初始點(diǎn)域內(nèi)，任選初始點(diǎn) x x(0)(0)， 以給定的步長(zhǎng)以給定的步長(zhǎng) a=aa=a0 0 ，沿按某方，沿按某方法產(chǎn)生的法產(chǎn)生的隨機(jī)方向隨機(jī)方向 S S(1)(1)取探索點(diǎn)取探索點(diǎn) x = xx = x(0)(0) + a S + a S(1(1），若，若該點(diǎn)同時(shí)符合下降性（該點(diǎn)同時(shí)符合下降性（F(x)F(x F(x) F2 F3 X(H) X(L) 壞點(diǎn)壞點(diǎn) 好點(diǎn)好點(diǎn)先求出除壞點(diǎn)外，其余各點(diǎn)先求出除壞點(diǎn)外，其余各點(diǎn)構(gòu)成的圖形的構(gòu)成的圖形的形心點(diǎn)形心點(diǎn)X0再求壞點(diǎn)再求壞點(diǎn)X(H)相對(duì)于相對(duì)

10、于形心點(diǎn)形心點(diǎn)X0的的映射點(diǎn)映射點(diǎn) X(R)1xo2x132X0X(R)22步驟：步驟：第一步：第一步：初始復(fù)合形的構(gòu)成初始復(fù)合形的構(gòu)成 第二步：第二步：對(duì)復(fù)合形進(jìn)行對(duì)復(fù)合形進(jìn)行調(diào)優(yōu)迭代計(jì)算調(diào)優(yōu)迭代計(jì)算 形心點(diǎn)形心點(diǎn)X0 映射點(diǎn)映射點(diǎn) X(R) :反射系數(shù)，反射系數(shù)， 一般開(kāi)始是取一般開(kāi)始是取=1.31xo2x132()()00()RHXXXX()()00()RHXXXX檢查檢查可行性可行性:適用性適用性:()?RXD()()?RHF XF X新復(fù)合形新復(fù)合形4點(diǎn)的映射點(diǎn)的映射復(fù)合形的收縮復(fù)合形的收縮23二、初始復(fù)合形的構(gòu)成二、初始復(fù)合形的構(gòu)成 v方法一方法一: :試湊法試湊法v方法二方法二:

11、 :隨機(jī)產(chǎn)生隨機(jī)產(chǎn)生(1)(1)產(chǎn)生產(chǎn)生K個(gè)隨機(jī)點(diǎn)個(gè)隨機(jī)點(diǎn)隨機(jī)數(shù)隨機(jī)數(shù) ( (il，2，n) )0, 1i12.TnXxxx(1,2,. )iiiiixabain(2) (2) 將非可行點(diǎn)調(diào)入可行域?qū)⒎强尚悬c(diǎn)調(diào)入可行域 123424終止條件終止條件:12( )( )211()()KjLjf Xf XK25例例: : 用復(fù)合形法求解下例約束最優(yōu)化問(wèn)題，迭代精度取用復(fù)合形法求解下例約束最優(yōu)化問(wèn)題，迭代精度取 01. 0 2221) 3()(min2xxXfRx04)(2211xxXg 0)(22 xXg05 . 0)(13 xXg解：取復(fù)合形的頂點(diǎn)數(shù)解：取復(fù)合形的頂點(diǎn)數(shù): :4222 nK(1)(

12、1)獲得初始復(fù)合形獲得初始復(fù)合形: : 本例采用人為給定四個(gè)點(diǎn)本例采用人為給定四個(gè)點(diǎn)25 . 0)1(X21)2(X36 . 0)3(X6 . 29 . 0)4(X檢驗(yàn)各點(diǎn)是否可行：將各點(diǎn)的坐標(biāo)值代入以上三個(gè)約束方程，均滿檢驗(yàn)各點(diǎn)是否可行：將各點(diǎn)的坐標(biāo)值代入以上三個(gè)約束方程，均滿足約束要求，這四個(gè)點(diǎn)為可行點(diǎn)，用作初始復(fù)合形的四個(gè)頂點(diǎn)足約束要求，這四個(gè)點(diǎn)為可行點(diǎn)，用作初始復(fù)合形的四個(gè)頂點(diǎn) 26(2)(2)迭代計(jì)算獲得新復(fù)合形迭代計(jì)算獲得新復(fù)合形 計(jì)算復(fù)合形各頂點(diǎn)目標(biāo)函數(shù)值，計(jì)算復(fù)合形各頂點(diǎn)目標(biāo)函數(shù)值， 定出最壞點(diǎn)定出最壞點(diǎn) 最好點(diǎn)最好點(diǎn) 計(jì)算除壞點(diǎn)外其余各頂點(diǎn)的中心計(jì)算除壞點(diǎn)外其余各頂點(diǎn)的中心

13、25.10)()1(Xf8)()2(Xf76.14)()3(Xf17.11)()4(Xf)3()(XXH)2()(XXL2 . 28 . 06 . 29 . 02125 . 0141(11)4()2()1()(XXXKXC將將 代入諸約束條件均滿足，可知代入諸約束條件均滿足，可知 在可行城內(nèi)。在可行城內(nèi)。)(CX 取取 ，求壞點(diǎn)，求壞點(diǎn) 的映射點(diǎn)的映射點(diǎn)3 . 1a)(HX)(RX )()()()()(HcCRXXaXX16. 106. 1)36 . 02 . 28 . 0(3 . 12 . 28 . 0)(CX 在可行域內(nèi)在可行域內(nèi) )(RX27計(jì)算計(jì)算 并與并與 比較：比較：)()(RXf

14、)()(RXf 用用 替換替換 ，亦即替換構(gòu)成新的復(fù)合形：，亦即替換構(gòu)成新的復(fù)合形：)(1092. 5)()()(HRXfXf)(RX)(HX 比較各點(diǎn)目標(biāo)函數(shù)值，定出最壞點(diǎn)比較各點(diǎn)目標(biāo)函數(shù)值，定出最壞點(diǎn): : 最好點(diǎn)最好點(diǎn): : 6 . 29 . 0,16. 106. 1,21,25 . 0)4()3()2()1(XXXX)4()(XXH)3()(XXL2284. 4)1092. 517.11()1092. 51092. 5()1092. 58()1092. 525.10(41)()()()()()()(41)()(1212222212)3()4(2)3()3(2)3()2(2)3()1(1

15、212)()(XfXfXfXfXfXfXfXfXfXfKKjLj（3 3）檢驗(yàn)迭代終止條件）檢驗(yàn)迭代終止條件 2829復(fù)合形法的復(fù)合形法的特點(diǎn)特點(diǎn): 對(duì)目標(biāo)函數(shù)及約束函數(shù)無(wú)特殊要求，適應(yīng)性強(qiáng)，對(duì)目標(biāo)函數(shù)及約束函數(shù)無(wú)特殊要求，適應(yīng)性強(qiáng)，計(jì)算量一般，收斂較快，適用中小型問(wèn)題。是現(xiàn)計(jì)算量一般，收斂較快，適用中小型問(wèn)題。是現(xiàn)有解不等式約束優(yōu)化問(wèn)題的一種重要的直接法。有解不等式約束優(yōu)化問(wèn)題的一種重要的直接法。305.3.5 懲罰函數(shù)法懲罰函數(shù)法將約束優(yōu)化問(wèn)題通過(guò)一定形式的變換，轉(zhuǎn)化為無(wú)約束優(yōu)化問(wèn)題，將約束優(yōu)化問(wèn)題通過(guò)一定形式的變換，轉(zhuǎn)化為無(wú)約束優(yōu)化問(wèn)題，然后采用約束優(yōu)化方法進(jìn)行求解然后采用約束優(yōu)化方法進(jìn)

16、行求解轉(zhuǎn)化必須滿足條件：轉(zhuǎn)化必須滿足條件：1、不破壞原約束問(wèn)題的約束條件，、不破壞原約束問(wèn)題的約束條件， 2、最優(yōu)解必須歸結(jié)到原約束問(wèn)題的最優(yōu)解上去。、最優(yōu)解必須歸結(jié)到原約束問(wèn)題的最優(yōu)解上去。約束優(yōu)化問(wèn)題的間接法有約束優(yōu)化問(wèn)題的間接法有: 消元法、拉格朗日乘子法、消元法、拉格朗日乘子法、 懲罰函數(shù)法等懲罰函數(shù)法等.31min(x，r(k)，m(k)(5.56)xRn式中，式中，(x，r(k)，m(k)為增廣函數(shù)，稱為懲罰函數(shù)，簡(jiǎn)稱罰函數(shù)為增廣函數(shù)，稱為懲罰函數(shù)，簡(jiǎn)稱罰函數(shù) 將一般將一般約束約束優(yōu)化問(wèn)題數(shù)學(xué)模型優(yōu)化問(wèn)題數(shù)學(xué)模型minF(x)xRn：gu(x)0， ul，2，phv(x)=0，v=

17、1，2，q轉(zhuǎn)化成為一個(gè)如下的轉(zhuǎn)化成為一個(gè)如下的無(wú)約束無(wú)約束優(yōu)化問(wèn)題優(yōu)化問(wèn)題構(gòu)造的新目標(biāo)函數(shù)一般形式為構(gòu)造的新目標(biāo)函數(shù)一般形式為懲罰函數(shù)法懲罰函數(shù)法懲罰項(xiàng)懲罰項(xiàng)32按照懲罰函數(shù)構(gòu)成的形式不同，懲罰函數(shù)法又分為三種：按照懲罰函數(shù)構(gòu)成的形式不同，懲罰函數(shù)法又分為三種：1、內(nèi)點(diǎn)懲罰函數(shù)法、內(nèi)點(diǎn)懲罰函數(shù)法2、外點(diǎn)懲罰函數(shù)法、外點(diǎn)懲罰函數(shù)法3、混合懲罰函數(shù)法、混合懲罰函數(shù)法33一、內(nèi)點(diǎn)懲罰函數(shù)法一、內(nèi)點(diǎn)懲罰函數(shù)法基本思想基本思想：將新目標(biāo)函數(shù)定義于可行域內(nèi)，序列迭代點(diǎn)在可：將新目標(biāo)函數(shù)定義于可行域內(nèi)，序列迭代點(diǎn)在可 行域內(nèi)逐步逼近原目標(biāo)函數(shù)約束邊界上的最優(yōu)點(diǎn)。行域內(nèi)逐步逼近原目標(biāo)函數(shù)約束邊界上的最優(yōu)點(diǎn)。將

18、將約束約束優(yōu)化問(wèn)題：優(yōu)化問(wèn)題： minF(x) x : gu(x)0 (u=1 2 m)轉(zhuǎn)化為轉(zhuǎn)化為無(wú)約束無(wú)約束優(yōu)化問(wèn)題優(yōu)化問(wèn)題 其中：其中： r(1)r(2) r(3) r(k) 0 是一個(gè)遞減的正值數(shù)列：是一個(gè)遞減的正值數(shù)列： r(k)Cr(k-1)， 0C1 (k) =0 limkr34內(nèi)點(diǎn)懲罰函數(shù)法的內(nèi)點(diǎn)懲罰函數(shù)法的思路思路:當(dāng)當(dāng)X由可行域內(nèi)靠近任一約束邊界時(shí)由可行域內(nèi)靠近任一約束邊界時(shí),懲罰項(xiàng)值趨于無(wú)窮大懲罰項(xiàng)值趨于無(wú)窮大,所所以它就像圍墻一樣阻止迭代點(diǎn)越出約束邊界以它就像圍墻一樣阻止迭代點(diǎn)越出約束邊界.1xo2x條件條件1：不破壞原約束問(wèn)題的約束條件：不破壞原約束問(wèn)題的約束條件35

19、的約束最優(yōu)解的最優(yōu)解就逼近原問(wèn)題懲罰作用趨于消失的減小隨著),()(),(lim0)(1lim,)()()()(kkkukkkrXXfrXXgrrmin(x, r(k)=minF(x)+ r(k) （1/gu(x)）條件條件2：最優(yōu)解必須歸結(jié)到原約束問(wèn)題的最優(yōu)解上去：最優(yōu)解必須歸結(jié)到原約束問(wèn)題的最優(yōu)解上去36解：若用內(nèi)點(diǎn)法求解此約束最優(yōu)化問(wèn)題，由式知懲罰函數(shù)為解：若用內(nèi)點(diǎn)法求解此約束最優(yōu)化問(wèn)題，由式知懲罰函數(shù)為11),()()(xrxrXkK將函數(shù)將函數(shù) 對(duì)對(duì) 求導(dǎo)，得求導(dǎo)，得: :),()(krXx令令: : 解得解得 無(wú)約束極小值的點(diǎn)列為無(wú)約束極小值的點(diǎn)列為 :2)() 1(1xrdxdk

20、0dxd),()(krX)()(1*kKrX例例: : 用內(nèi)點(diǎn)法求解用內(nèi)點(diǎn)法求解 的約束最優(yōu)化問(wèn)題。的約束最優(yōu)化問(wèn)題。 )()()(21),*(KKkrrX無(wú)約束極小值點(diǎn)列相應(yīng)的懲罰函數(shù)值為無(wú)約束極小值點(diǎn)列相應(yīng)的懲罰函數(shù)值為 3738序列極小點(diǎn)都在可行域內(nèi)序列極小點(diǎn)都在可行域內(nèi)39初始點(diǎn)初始點(diǎn)x(0)的確定的確定 自定法自定法 : :搜索法搜索法 先任取一個(gè)設(shè)計(jì)點(diǎn)先任取一個(gè)設(shè)計(jì)點(diǎn)x(k)；計(jì)算計(jì)算x(k)點(diǎn)的諸約束函數(shù)值點(diǎn)的諸約束函數(shù)值gu(x(k)，u1，2，p 若：若：構(gòu)造：構(gòu)造：按照該數(shù)學(xué)模型解出的最優(yōu)點(diǎn)按照該數(shù)學(xué)模型解出的最優(yōu)點(diǎn)x x* *，至少比原設(shè)計(jì)點(diǎn)，至少比原設(shè)計(jì)點(diǎn)x x(k)(

21、k)多滿足多滿足一個(gè)約束條件一個(gè)約束條件 重復(fù)數(shù)次，直到所有的約束條件都得到滿足，最終可取得在可行域重復(fù)數(shù)次，直到所有的約束條件都得到滿足，最終可取得在可行域內(nèi)部的初始點(diǎn)內(nèi)部的初始點(diǎn)x x(0)(0)。40 關(guān)于幾個(gè)參數(shù)的選擇關(guān)于幾個(gè)參數(shù)的選擇(1) 初始罰因子初始罰因子r(0)的選取的選取一般可取初始罰因子一般可取初始罰因子r(0)150也有建議?。阂灿薪ㄗh?。?2) 遞減系數(shù)遞減系數(shù)C的選擇的選擇 通常建議取通常建議取C0.10.5 41內(nèi)點(diǎn)懲罰函數(shù)法的特點(diǎn)內(nèi)點(diǎn)懲罰函數(shù)法的特點(diǎn):在給定一個(gè)可行初始方案后，能求出一系列逐步在給定一個(gè)可行初始方案后，能求出一系列逐步得到改進(jìn)的可行的設(shè)計(jì)方案。得

22、到改進(jìn)的可行的設(shè)計(jì)方案。但但只適用于解不等式約束優(yōu)化問(wèn)題只適用于解不等式約束優(yōu)化問(wèn)題，且初始點(diǎn)須，且初始點(diǎn)須在可行域內(nèi)。在可行域內(nèi)。42()()11(,)()()pKKuuX rf XrgX22( )121212121111(3)(4)()32.5kxxrxxxxxx= 1122123241:()30()2.50()0()0 Dg XxxgXxxgXxgXx2212min()(3)(4)F Xxx212TXxxDR已知約束優(yōu)化問(wèn)題已知約束優(yōu)化問(wèn)題: :試寫(xiě)出內(nèi)點(diǎn)罰函數(shù)試寫(xiě)出內(nèi)點(diǎn)罰函數(shù), ,并選出初始迭代點(diǎn)并選出初始迭代點(diǎn). .內(nèi)點(diǎn)罰函數(shù)內(nèi)點(diǎn)罰函數(shù): :例：例：43例：例：桁架設(shè)計(jì)問(wèn)題：桁架設(shè)計(jì)

23、問(wèn)題： minF(x)=1.57xminF(x)=1.57x1 1 x=x x=x1 1 x x2 2 T T 225776x44設(shè)有不等式約束優(yōu)化問(wèn)題設(shè)有不等式約束優(yōu)化問(wèn)題：構(gòu)造外點(diǎn)法懲罰函數(shù)的常見(jiàn)形式如下：構(gòu)造外點(diǎn)法懲罰函數(shù)的常見(jiàn)形式如下：懲罰因子懲罰因子r(k)規(guī)定取正。且在優(yōu)化過(guò)程中規(guī)定取正。且在優(yōu)化過(guò)程中r(k)取為遞增數(shù)列取為遞增數(shù)列 r r(k)(k)=Cr=Cr(k-1)(k-1)， C1 則將保證則將保證 (k)=limkr二、外點(diǎn)懲罰函數(shù)法二、外點(diǎn)懲罰函數(shù)法基本思想基本思想：將新目標(biāo)函數(shù)定義于可行域外，序列迭代點(diǎn)在可：將新目標(biāo)函數(shù)定義于可行域外，序列迭代點(diǎn)在可 行域外逐步逼

24、近原目標(biāo)函數(shù)約束邊界上的最優(yōu)點(diǎn)。行域外逐步逼近原目標(biāo)函數(shù)約束邊界上的最優(yōu)點(diǎn)。45( )( )21min (,)min ()min 0,() mkkuuX rf XrgX22() ,()0min 0,() 0()0uuuugXgXgXgX若若若若式中式中:外點(diǎn)懲罰函數(shù)法的外點(diǎn)懲罰函數(shù)法的思路思路：可行域內(nèi)時(shí)可行域內(nèi)時(shí), ,新目標(biāo)函數(shù)就是原目標(biāo)函數(shù)新目標(biāo)函數(shù)就是原目標(biāo)函數(shù), ,當(dāng)當(dāng)X X位于可行域位于可行域外時(shí)外時(shí), ,懲罰項(xiàng)為正值懲罰項(xiàng)為正值, ,新目標(biāo)函數(shù)值增大新目標(biāo)函數(shù)值增大, , 就構(gòu)成了對(duì)不就構(gòu)成了對(duì)不滿足約束條件時(shí)的一種滿足約束條件時(shí)的一種”懲罰懲罰”. .且離可行域越遠(yuǎn)且離可行域越遠(yuǎn)

25、, ,懲罰懲罰就越嚴(yán)厲就越嚴(yán)厲. .當(dāng)當(dāng)r(k）不夠大時(shí)，罰不夠大時(shí)，罰函數(shù)（新目標(biāo)函數(shù)）的極小值在可行函數(shù)（新目標(biāo)函數(shù)）的極小值在可行域外，即懲罰不夠，可加大域外，即懲罰不夠，可加大r(k） ，隨著，隨著r(k）的增大，使新的增大，使新目標(biāo)函數(shù)）的極小點(diǎn)越來(lái)越逼近原目標(biāo)函數(shù)極小點(diǎn)。目標(biāo)函數(shù)）的極小點(diǎn)越來(lái)越逼近原目標(biāo)函數(shù)極小點(diǎn)?？尚杏蛲饪尚杏蛲饪尚杏騼?nèi)可行域內(nèi)46對(duì)于解不等式約束優(yōu)化問(wèn)題對(duì)于解不等式約束優(yōu)化問(wèn)題min F(x)xx R1 ：g1(x)=x10用外點(diǎn)法構(gòu)造懲罰函數(shù)，具體用外點(diǎn)法構(gòu)造懲罰函數(shù)，具體構(gòu)造形式如下：構(gòu)造形式如下：寫(xiě)成另一種形式寫(xiě)成另一種形式例例( )( )2(,)min

26、 0,(1) kkX rxrx( )2( )(1)(1)(,)(1)kkxrxxX rxx47( )12(1)(1)1(1)krxxddxx ),()(krX令令: : 解得解得 無(wú)約束極小值的點(diǎn)列為無(wú)約束極小值的點(diǎn)列為 :0dxd( )( )1*12kkXr ( )( )( )2( )( )( )111(*,)(1)(11)1224kkkkkkXrrrrr 無(wú)約束極小值點(diǎn)列相應(yīng)的懲罰函數(shù)值為無(wú)約束極小值點(diǎn)列相應(yīng)的懲罰函數(shù)值為 求懲罰函數(shù)極小點(diǎn)求懲罰函數(shù)極小點(diǎn): : 48)(*kX)(*kX*( )()kf X)(kr1*)(* XXk*( )( )(,)kkXr)(kr*X由此可見(jiàn)，當(dāng)懲罰因

27、子為一遞增正值數(shù)列時(shí)，其極值點(diǎn)由此可見(jiàn)，當(dāng)懲罰因子為一遞增正值數(shù)列時(shí)，其極值點(diǎn) 離約離約束最優(yōu)點(diǎn)束最優(yōu)點(diǎn) 愈來(lái)愈近，愈來(lái)愈近， 的差值與的差值與 愈來(lái)愈小。當(dāng)愈來(lái)愈小。當(dāng) 時(shí)，時(shí)， ， 亦即逼近于真正的約束最優(yōu)解。無(wú)約亦即逼近于真正的約束最優(yōu)解。無(wú)約束極值點(diǎn)列束極值點(diǎn)列 隨隨 值遞增從可行域外向最優(yōu)點(diǎn)收斂。值遞增從可行域外向最優(yōu)點(diǎn)收斂。 49對(duì)幾個(gè)問(wèn)題的討論對(duì)幾個(gè)問(wèn)題的討論初始點(diǎn)初始點(diǎn)x(0)的選取的選取:外點(diǎn)法的初始點(diǎn)外點(diǎn)法的初始點(diǎn)x(0)可以任選，即在可行域可以任選，即在可行域 與非可行域選取均可。與非可行域選取均可。(2) 初始罰因子初始罰因子r(0)和遞增系數(shù)和遞增系數(shù)C的選取的選取

28、初始罰因子初始罰因子r(0)選得是否恰當(dāng)，對(duì)算法的成敗和計(jì)算速度仍有選得是否恰當(dāng)，對(duì)算法的成敗和計(jì)算速度仍有著顯著的影響。因此，選取時(shí)要謹(jǐn)慎。著顯著的影響。因此，選取時(shí)要謹(jǐn)慎。遞增系數(shù)遞增系數(shù)C的取值，一般影響不太顯著，但也不宜取得過(guò)大。的取值，一般影響不太顯著，但也不宜取得過(guò)大。通常取通常取C510。(3) 約束容差帶約束容差帶 用外點(diǎn)法求解時(shí)，由于罰函數(shù)的無(wú)約束最優(yōu)點(diǎn)列是從可行域用外點(diǎn)法求解時(shí)，由于罰函數(shù)的無(wú)約束最優(yōu)點(diǎn)列是從可行域外部向約束最優(yōu)點(diǎn)逼近的，所以最終取得的最優(yōu)點(diǎn)一定是在外部向約束最優(yōu)點(diǎn)逼近的，所以最終取得的最優(yōu)點(diǎn)一定是在邊界的非可行域一側(cè)。嚴(yán)格地說(shuō)，它是一個(gè)非可行點(diǎn)。這對(duì)邊界的

29、非可行域一側(cè)。嚴(yán)格地說(shuō)，它是一個(gè)非可行點(diǎn)。這對(duì)某些工程問(wèn)題可能是不允許的。為了解決這一問(wèn)題?？稍诩s某些工程問(wèn)題可能是不允許的。為了解決這一問(wèn)題。可在約束邊界的可行域一側(cè)加一條容差帶，如圖束邊界的可行域一側(cè)加一條容差帶，如圖5.21。這就相當(dāng)于將約束條件改為這就相當(dāng)于將約束條件改為gu(x)u0，u=1，2，p式中的式中的u是容差量，一般可取是容差量，一般可取u=103104。 50約束容差帶。約束容差帶。51外點(diǎn)法不但可以解外點(diǎn)法不但可以解不等式不等式約束優(yōu)化問(wèn)題，而且還可以解約束優(yōu)化問(wèn)題，而且還可以解等式等式約束優(yōu)約束優(yōu)化問(wèn)題化問(wèn)題 用外點(diǎn)法求解二維等式約束優(yōu)化問(wèn)題：用外點(diǎn)法求解二維等式約束

30、優(yōu)化問(wèn)題：按外點(diǎn)法的基本思想，構(gòu)造懲罰函數(shù)按外點(diǎn)法的基本思想，構(gòu)造懲罰函數(shù)52 外點(diǎn)法的特點(diǎn)外點(diǎn)法的特點(diǎn)外點(diǎn)法既可解不等式約束優(yōu)化問(wèn)題，也能解等式約束優(yōu)化問(wèn)題，外點(diǎn)法既可解不等式約束優(yōu)化問(wèn)題，也能解等式約束優(yōu)化問(wèn)題， 且其初始點(diǎn)且其初始點(diǎn)x(0)可任選，即在可行域中或非可行域中均可?？扇芜x，即在可行域中或非可行域中均可。其缺點(diǎn)是序列無(wú)約束最優(yōu)點(diǎn)是一系列的非可行點(diǎn)，對(duì)于工程設(shè)計(jì)其缺點(diǎn)是序列無(wú)約束最優(yōu)點(diǎn)是一系列的非可行點(diǎn)，對(duì)于工程設(shè)計(jì) 一般是不可取的。為使最終的迭代點(diǎn)能落入可行域，必須設(shè)置約一般是不可取的。為使最終的迭代點(diǎn)能落入可行域，必須設(shè)置約 束容差帶。束容差帶。532()()1(,)()mi

31、n0,()pKKuuX rF XrgX22( )21212(3)(4)min0,(3)kxxrxx2221212min0,(2.5)min0,min 0,xxxx1122123241:()30()2.50()0()0 Dg XxxgXxxgXxgXx2212min()(3)(4)F Xxx212TXxxDR例：已知約束優(yōu)化問(wèn)題例：已知約束優(yōu)化問(wèn)題: :試寫(xiě)出外點(diǎn)罰函數(shù)試寫(xiě)出外點(diǎn)罰函數(shù), ,并選出初始迭代點(diǎn)并選出初始迭代點(diǎn). .外點(diǎn)罰函數(shù)外點(diǎn)罰函數(shù): :54三、混合法三、混合法用罰函數(shù)法解決有等式約束和不等式約束的一般約束用罰函數(shù)法解決有等式約束和不等式約束的一般約束（GP型）優(yōu)化問(wèn)題的方法，把

32、它稱為混合懲罰函數(shù)法，型）優(yōu)化問(wèn)題的方法，把它稱為混合懲罰函數(shù)法，簡(jiǎn)稱混合法。簡(jiǎn)稱混合法。一般約束優(yōu)化問(wèn)題的數(shù)學(xué)模型一般約束優(yōu)化問(wèn)題的數(shù)學(xué)模型 minf(x) x : gu(x)0 (u=1 2 p) hv(x)=0 (v=1 2 q, qn)55內(nèi)點(diǎn)形式的混合型懲罰函數(shù)法內(nèi)點(diǎn)形式的混合型懲罰函數(shù)法r(k) -遞減遞減m(k) -遞增遞增初始點(diǎn)必須是嚴(yán)格的內(nèi)點(diǎn)初始點(diǎn)必須是嚴(yán)格的內(nèi)點(diǎn)為了統(tǒng)一用一個(gè)內(nèi)點(diǎn)法懲罰因子為了統(tǒng)一用一個(gè)內(nèi)點(diǎn)法懲罰因子,上式也可寫(xiě)成上式也可寫(xiě)成:不等式約束部分按內(nèi)點(diǎn)法形式處理不等式約束部分按內(nèi)點(diǎn)法形式處理 r(k) -遞減遞減56r(k) -遞增遞增外點(diǎn)形式的混合型懲罰函數(shù)法

33、外點(diǎn)形式的混合型懲罰函數(shù)法不等式約束部分按外點(diǎn)法形式處理不等式約束部分按外點(diǎn)法形式處理 57如何判斷優(yōu)化結(jié)果的正確性如何判斷優(yōu)化結(jié)果的正確性:1、約束優(yōu)化問(wèn)題，最優(yōu)點(diǎn)大多位于邊界上。、約束優(yōu)化問(wèn)題，最優(yōu)點(diǎn)大多位于邊界上。2、輸入不同的初始點(diǎn)多次計(jì)算。、輸入不同的初始點(diǎn)多次計(jì)算。3、用不同的方法解。、用不同的方法解。上機(jī)：上機(jī)：第七周周一和周三晚上18:00-21：001、了解各種方法的基本思想和特點(diǎn)、了解各種方法的基本思想和特點(diǎn)2、 P130 題題 2 3 7應(yīng)用實(shí)例v一、機(jī)械優(yōu)化設(shè)計(jì)的一般過(guò)程v 機(jī)械優(yōu)化設(shè)計(jì)的全過(guò)程一般可分為如下幾個(gè)步驟:v 1)建立優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型。v 2)選擇適當(dāng)?shù)膬?yōu)

34、化方法。v 3)編寫(xiě)計(jì)算機(jī)程序。v 4)準(zhǔn)備必要的初始數(shù)據(jù)并上機(jī)計(jì)算。v 5)對(duì)計(jì)算機(jī)求得的結(jié)果進(jìn)行必要的分析。v其中建立優(yōu)化設(shè)計(jì)數(shù)學(xué)模型是首要的和關(guān)鍵的一步，它是取得正確結(jié)果的前提，v優(yōu)化方法的選擇取決于數(shù)學(xué)模型的特點(diǎn)，例如優(yōu)化問(wèn)題規(guī)模的大小，目標(biāo)函數(shù)和約束函數(shù)的性態(tài)以及計(jì)算精度等。在比較各種可供選用的優(yōu)化方法時(shí)，需要考慮的一個(gè)重要因素是計(jì)算機(jī)執(zhí)行這些程序所花費(fèi)的時(shí)間和費(fèi)用，也即計(jì)算效率。v正確地選擇優(yōu)化方法，至今還沒(méi)有一定的原則。通常認(rèn)為，對(duì)于目標(biāo)函數(shù)和約束函數(shù)均為顯函數(shù)且設(shè)計(jì)變量個(gè)數(shù)不太多的回題，懲罰函數(shù)法較好; 對(duì)函數(shù)易于求導(dǎo)的問(wèn)題，以可利用導(dǎo)數(shù)信息的方法為好;對(duì)求導(dǎo)非常困難的問(wèn)題則應(yīng)

35、選用直接解法，例如復(fù)合形法;對(duì)于高度非線性的函數(shù)，則應(yīng)選用計(jì)算穩(wěn)定性較好的方法，例如BFGS變尺度法和內(nèi)點(diǎn)懲罰函數(shù)法相結(jié)合的方法。v 編寫(xiě)計(jì)算機(jī)程序?qū)τ谑褂谜邅?lái)說(shuō)，已經(jīng)沒(méi)有多少工作要做了，因?yàn)橐延性S多成熟的優(yōu)化方法程序可供選擇。使用者只需要將數(shù)學(xué)模型按要求編寫(xiě)成子程序嵌入已有的優(yōu)化程序即可。v 步驟4)和5)對(duì)機(jī)械設(shè)計(jì)工作者來(lái)說(shuō)，通常不存在原則上的困難。建立數(shù)學(xué)模型的基本原則v建立數(shù)學(xué)模型的基本原則是優(yōu)化設(shè)計(jì)中的一個(gè)重要組成部分。優(yōu)化結(jié)果是否可用，主要取決于所建立數(shù)學(xué)模型是否能夠確切而又簡(jiǎn)潔地反映工程問(wèn)題的客觀實(shí)際。在建立數(shù)學(xué)模型時(shí)，片面地強(qiáng)調(diào)確切，往往會(huì)使數(shù)學(xué)模型十分冗長(zhǎng)、復(fù)雜，增加求解問(wèn)題

36、的困難程度，有時(shí)甚至?xí)箚?wèn)題無(wú)法求解;片面強(qiáng)調(diào)簡(jiǎn)潔，則可能使數(shù)學(xué)模型過(guò)份失真，以致失去了求解的意義。合理的做法是在能夠確切反映工程實(shí)際問(wèn)題的基礎(chǔ)上力求簡(jiǎn)潔。設(shè)計(jì)變量、目標(biāo)函數(shù)和約束條件是組成優(yōu)化設(shè)計(jì)數(shù)學(xué)模型的三要素，下面分別予以討論。1.設(shè)計(jì)變量的選擇v機(jī)械設(shè)計(jì)中的所有參數(shù)都是可變的，但是將所有的設(shè)計(jì)參數(shù)都列為設(shè)計(jì)變量不僅會(huì)使問(wèn)題復(fù)雜化，而且是沒(méi)有必要的。例如材料的機(jī)械性能由材料的種類(lèi)決定，在機(jī)械設(shè)計(jì)中常用材料的種類(lèi)有限，通常可根據(jù)需要和經(jīng)驗(yàn)事先選定，因此諸如彈性模量、泊松比、許用應(yīng)力等參數(shù)按選定材料賦以常量更為合理;另一類(lèi)狀態(tài)參數(shù)，如功率、溫度、應(yīng)力、應(yīng)變、撓度、壓力、速度、加速度等則通?？?/p>

37、由設(shè)計(jì)對(duì)象的尺寸、載荷以及各構(gòu)件間的運(yùn)動(dòng)關(guān)系等計(jì)算得出，多數(shù)情況下也沒(méi)有必要作為設(shè)計(jì)變量。因此，在充分了解設(shè)計(jì)要求的基礎(chǔ)上，應(yīng)根據(jù)各設(shè)計(jì)參數(shù)對(duì)目標(biāo)函數(shù)的影響程度認(rèn)真分析其主次，盡量減少設(shè)計(jì)變量的數(shù)目，以簡(jiǎn)化優(yōu)化設(shè)計(jì)問(wèn)題。另外還應(yīng)注意設(shè)計(jì)變量應(yīng)當(dāng)相互獨(dú)立，否則會(huì)使目標(biāo)函數(shù)出現(xiàn)“山脊”或“溝谷”，給優(yōu)化帶來(lái)困難。2.目標(biāo)函數(shù)的確定v 目標(biāo)函數(shù)是一項(xiàng)設(shè)計(jì)所追求的指標(biāo)的數(shù)學(xué)反映，因此對(duì)它最基本的要求是能夠用來(lái)評(píng)價(jià)設(shè)計(jì)的優(yōu)劣，同時(shí)必須是設(shè)計(jì)變量的可計(jì)算函數(shù)。選擇目標(biāo)函數(shù)是整個(gè)優(yōu)化設(shè)計(jì)過(guò)程中最重要的決策之一。v有些問(wèn)題存在著明顯的目標(biāo)函數(shù)，例如一個(gè)沒(méi)有特殊要求的承受靜載的梁，自然希望它越輕越好，因此選擇其

38、自重作為目標(biāo)函數(shù)是沒(méi)有異議的。但設(shè)計(jì)一臺(tái)復(fù)雜的機(jī)器，追求的目標(biāo)往往較多，就目前使用較成熟的優(yōu)化方法來(lái)說(shuō)，還不能把所有要追求的指標(biāo)都列為目標(biāo)函數(shù)，因?yàn)檫@樣做并不一定能有效地求解。因此應(yīng)當(dāng)對(duì)所追求的各項(xiàng)指標(biāo)進(jìn)行細(xì)致的分析，從中選擇最重要最具有代表性的指標(biāo)作為設(shè)計(jì)追求的目標(biāo)。v例如一架好的飛機(jī)，應(yīng)該具有自重輕、凈載重量大，航程長(zhǎng)，使用經(jīng)濟(jì)，價(jià)格便宜，跑道長(zhǎng)度合理等性能，顯然這些都是設(shè)計(jì)時(shí)追求的指標(biāo)。但并不需要把它們都列為目標(biāo)函數(shù)，在這些指標(biāo)中最重要的指標(biāo)是飛機(jī)的自重。因?yàn)椴捎幂p的零部件建造的自身重量最輕的飛機(jī)只會(huì)促進(jìn)其它幾項(xiàng)指標(biāo)，而不會(huì)損害其中任何一項(xiàng)。因此選擇飛機(jī)自重作為優(yōu)化設(shè)計(jì)的目標(biāo)函數(shù)應(yīng)該是最

39、合適的了。v若一項(xiàng)工程設(shè)計(jì)中追求的目標(biāo)是相互矛盾的，這時(shí)常常取其中最主要的指標(biāo)作為目標(biāo)函數(shù)，而其余的指標(biāo)列為約束條件。也就是說(shuō)，不指望這些次要的指標(biāo)都達(dá)到最優(yōu)，只要它們不致于過(guò)劣就可以了。v 在工程實(shí)際中，應(yīng)根據(jù)不同的設(shè)計(jì)對(duì)象，不同的設(shè)計(jì)要求靈活地選擇某項(xiàng)指標(biāo)作為目標(biāo)函數(shù)。以下的意見(jiàn)可作為選擇時(shí)的參考。v對(duì)于一般的機(jī)械，可按重量最輕或體積最小的要求建立目標(biāo)函數(shù);對(duì)應(yīng)力集中現(xiàn)象尤其突出的構(gòu)件，則以應(yīng)力集中系數(shù)最小作為追求的目標(biāo)，對(duì)于精密儀器，應(yīng)按其精度最高或誤差最小的要求建立目標(biāo)函數(shù)。在機(jī)構(gòu)設(shè)計(jì)中，當(dāng)對(duì)所設(shè)計(jì)的機(jī)構(gòu)的運(yùn)動(dòng)規(guī)律有明確的要求時(shí)，可針對(duì)其運(yùn)動(dòng)學(xué)參數(shù)建立目標(biāo)函數(shù);若對(duì)機(jī)構(gòu)的動(dòng)態(tài)特性有專(zhuān)門(mén)要求，則應(yīng)針對(duì)其動(dòng)力學(xué)參數(shù)建立目標(biāo)函數(shù);而對(duì)于要求再現(xiàn)運(yùn)動(dòng)軌跡的機(jī)構(gòu)設(shè)計(jì)，則應(yīng)根據(jù)機(jī)構(gòu)的軌跡誤差最小的要求建立目標(biāo)函數(shù)。3.約束條件的確定v約束條件是就工程設(shè)計(jì)本身而提出的對(duì)設(shè)計(jì)變量取值范圍的限制條件。和目標(biāo)函數(shù)一樣，它們也是設(shè)計(jì)變量的可計(jì)算函數(shù)。v 如前所述，約束條件可分為性能約束和邊界約束兩大類(lèi)。性能約束通常與設(shè)計(jì)原理有關(guān)，有時(shí)非常簡(jiǎn)單，如設(shè)計(jì)曲柄連桿機(jī)構(gòu)時(shí)，按曲柄存在條件而寫(xiě)出的約束函數(shù)均為設(shè)計(jì)變量的線性顯函數(shù);有時(shí)卻相當(dāng)復(fù)雜，如對(duì)一個(gè)復(fù)雜的結(jié)構(gòu)系統(tǒng)，要計(jì)算其中各構(gòu)件的應(yīng)力和位移，常采用有限元法，這時(shí)相應(yīng)的約束函數(shù)為設(shè)計(jì)變量的隱函數(shù)，計(jì)算這樣的約束函數(shù)往往要花費(fèi)很大的計(jì)算量。3.