直接-間接法-罰函數(shù)法

約束優(yōu)化方法第二節(jié)復合型法2第三節(jié)懲罰函數(shù)法3約束優(yōu)化方法第一節(jié)概述2第一節(jié)概述概述1、數(shù)學模型求解上式的方法稱為約束優(yōu)化方法2、求解方法（1）直接解法：將迭代點限制在可行域內(nèi)（可行性），步步降低目標函數(shù)值（下降性），直至到達最優(yōu)點。如隨機方向法、復合形法、可行方向法、廣義簡約梯度法。

根據(jù)求解方式不同，約束優(yōu)化設計問題可分為直接解法和間接解法。（2）間接解法：通過變換，將約束優(yōu)化問題轉(zhuǎn)化為無約束優(yōu)化問題求解。如懲罰函數(shù)法、增廣乘子法等。（1）直接解法適用于僅含不等式約束的問題，基本思路是：

在不等式確定的可行域內(nèi)選擇一個初始點，然后決定可行搜索方向，且以適當?shù)牟介L進行搜索，得到一個使目標函數(shù)值下降的可行的新點，即完成一次迭代。再以新點為起點，重復上述搜索過程，滿足收斂條件后，迭代終止。----步長----可行搜索方向可行搜索方向：當設計點沿該方向作微量移動時，目標函數(shù)值將下降，且不會越出可行域。直接解法的搜索路線①迭代計算無論何時終止，都可獲得一個比初始點好的設計點；②若目標函數(shù)是凸函數(shù)，可行域是凸集，則可保證獲得全域最優(yōu)解。否則，將由于所選擇的初始點的不同，而探測到不同的局部最優(yōu)解上，在這種情況下，探索結(jié)果經(jīng)常與初始點的選擇有關系，為了能得到全局最優(yōu)解，在探索過程中最好能改變初始點，或選擇幾個差別較大的初始點分別計算，以便從多個局部最優(yōu)解中選擇更好的最優(yōu)解；③要求可行域為有界的非空集，即在有界可行域內(nèi)存在滿足全部約束條件的點，且目標函數(shù)有定義。2）直接解法的特點a)可行域是凸集；b)可行域是非凸集（2）間接解法1)基本思路將約束優(yōu)化問題中的約束函數(shù)進行特殊的加權處理后，和目標函數(shù)結(jié)合起來，構成新的目標函數(shù)，即將原約束優(yōu)化問題轉(zhuǎn)化成一個或一系列的無約束優(yōu)化問題。再對新的目標函數(shù)進行無約束優(yōu)化計算，從而間接地搜索到原約束問題的最優(yōu)解。新目標函數(shù)加權因子2)間接解法的特點①計算效率和數(shù)值計算的穩(wěn)定性有較大提高；②可以有效地處理具有約束等式約束的約束優(yōu)化問題；③選擇加權因子困難，如果選擇不當，不但影響收斂速度和計算精度，甚至會導致計算失敗。

由于間接解法可以選用已研究比較成熟的無約束優(yōu)化方法，并且容易處理同時具有不等式約束和等式約束的問題。因而在機械優(yōu)化設計得到廣泛的應用。本節(jié)結(jié)束第三節(jié)懲罰函數(shù)法1、基本思想

通過構造懲罰函數(shù)把約束優(yōu)化問題轉(zhuǎn)化為一系列無約束優(yōu)化問題，進而用無約束最優(yōu)化方法求解。

將約束優(yōu)化問題

中的不等式和等式約束函數(shù)經(jīng)過加權轉(zhuǎn)化后，和原目標函數(shù)結(jié)合形成新的目標函數(shù)——懲罰函數(shù)——加權轉(zhuǎn)化項——障礙項——懲罰項

——障礙項的作用是當?shù)c在可行域內(nèi)時，在迭代過程中將阻止迭代點越出可行域；——懲罰項的作用是當?shù)c在非可行域或不滿足等式約束條件時，在迭代過程將迫使迭代點逼近約束邊界或等式約束曲面。①懲罰項和障礙項用約束條件構造;②到達最優(yōu)點時,懲罰項和障礙項的值為0;③當約束不滿足或未到達最優(yōu)點時,懲罰項和障礙項的值大于0.構造懲罰函數(shù)的基本要求:

求解該新目標函數(shù)的無約束極小值，以期得到原問題的約束最優(yōu)解。為此，按一定的法則改變加權因子的值，構成一系列無約束優(yōu)化問題,求得一系列無約束最優(yōu)解，并不斷的逼近原約束優(yōu)化問題的最優(yōu)解。因此懲罰函數(shù)法又稱為序列無約束極小化方法，常稱SUMT法，即(SequentialUnconstrainedMinimizationTechnique)。障礙項和懲罰項必須具有以下極限性質(zhì)：從而有2．懲罰函數(shù)方法

內(nèi)點懲罰函數(shù)法外點懲罰函數(shù)法混合懲罰函數(shù)法

根據(jù)約束形式以及懲罰因子的遞推方法的不同，懲罰函數(shù)方法可分為：（1）內(nèi)點懲罰函數(shù)法（內(nèi)點法）基本思想：內(nèi)點法將新目標函數(shù)定義于可行域內(nèi)，這樣它的初始點及后面的迭代點序列必定在可行域內(nèi)，并逐步逼近最優(yōu)點。

采用內(nèi)點法只能求解具有不等式約束的優(yōu)化問題。轉(zhuǎn)化后的懲罰函數(shù)形式為或或——障礙項。對于只具有不等式約束的優(yōu)化問題是懲罰因子，它是由大到小，且趨近于0的數(shù)列，即

由于內(nèi)點法的迭代過程在可行域內(nèi)進行，障礙項的作用是阻止迭代點越出可行域。由障礙項的函數(shù)形式可知，當?shù)c靠近某一約束邊界時，其值趨近0，而障礙項的值陡然增加，并趨近于無窮大，好像在可行域的邊界上筑起了一道“高墻”，使迭代點始終不能越出可行域，顯然，只有當懲罰因子趨于0時，才能求得在約束邊界上的最優(yōu)解。懲罰因子的作用：由于內(nèi)點法只能在可行域內(nèi)迭代，而最優(yōu)解很可能在可行域內(nèi)靠邊界處或就在邊界上，此時盡管泛函的值很大，但由于懲罰因子是不斷遞減的正值，經(jīng)過多次迭代，接近最優(yōu)解時，懲罰項已是很小的正值。例2-1

試用內(nèi)點罰函數(shù)法求解如下優(yōu)化問題：解：此題的標準解為：。根據(jù)內(nèi)點法的基本思想，首先構造罰函數(shù)，按式（2-71）可寫出：可以看出由兩部分組成，即，其中：內(nèi)點法例題即：是原目標函數(shù)，為一直線；

是一族倒數(shù)曲線，當。對求導并令其一階導數(shù)為零，即可求得其無約束極值點：：懲罰函數(shù)值為：當選用不同的懲罰因子時，可得到不同的極值點及Φ曲線。取遞減數(shù)列，由上式可得序列如下：

上圖表示出取值不同時所得到的約束最優(yōu)點逐步逼近原問題最優(yōu)點的情形。例:用內(nèi)點法求問題約束最優(yōu)解。解:用內(nèi)點法求該問題，首先構造內(nèi)點懲罰函數(shù)：用解析法求函數(shù)的極小值，運用極值條件：聯(lián)立求得：當

時不滿足約束條件，應舍去則無約束極值點為初始點的選取

應選擇一個離約束邊界較遠的可行點。如太靠近某一約束邊界，構造的懲罰函數(shù)可能由于障礙項的值很大而變得畸形，使求解無約束優(yōu)化問題發(fā)生困難。計算機自動生成可行初始點的常用方法是利用隨機數(shù)生成設計點。懲罰因子初值的選取

懲罰因子的初值應適當，否則會影響迭代計算的正常進行。一般而言，太大，將增加迭代次數(shù)；太小，會使懲罰函數(shù)的性態(tài)變壞，甚至難以收斂到極值點。無一般有效方法，對于不同問題，都要經(jīng)過多次試算，才能決定一個適當?shù)某踔?。A．取

，根據(jù)計算結(jié)果再決定增加或減小

的值。

B．按經(jīng)驗公式參考方法：懲罰因子的縮減系數(shù)的選取相鄰兩次迭代的懲罰因子的關系為為懲罰因子的縮減系數(shù)，其為小于1的正數(shù)，通常取值范圍在之間。收斂條件內(nèi)點法的計算步驟①選取可行的初始點

，懲罰因子的初始值

，縮減系數(shù)以及收斂精度

。令迭代次數(shù)

②構造懲罰函數(shù)

，選擇適當?shù)臒o約束優(yōu)化方法，求函數(shù)

的無約束極值，得

點。③用收斂條件判別迭代是否收斂，若滿足收斂條件，迭代終止。約束最優(yōu)解為；否則令，轉(zhuǎn)步驟2。

內(nèi)點法程序框圖（2）外點懲罰函數(shù)法（外點法）基本思想：與內(nèi)點法將懲罰函數(shù)定義于可行域內(nèi)不同，外點法是將懲罰函數(shù)定義于可行區(qū)域的外部。序列迭代點從可行域外部逐漸逼近約束邊界上的最優(yōu)點。

外點法可以用來求解含不等式和等式約束的優(yōu)化問題。外點罰函數(shù)中的罰因子是一遞增數(shù)列，即

對于等式約束的優(yōu)化問題，取外點罰函數(shù)的形式為對于同時具有不等式和等式約束問題，其罰函數(shù)的表達式為(2-75)

(2-74)

在外點罰函數(shù)法中，為保證罰因子

為遞增數(shù)列，取式中:c'為遞增系數(shù)，c'>1。

對于約束優(yōu)化問題轉(zhuǎn)化后的外點懲罰函數(shù)的形式為式中：

——懲罰因子，它是由小到大，且趨近于

外點法的迭代過程在可行域之外進行，懲罰項的作用是迫使迭代點逼近約束邊界或等式約束曲面。由懲罰項的形式可知，當?shù)c不可行時，懲罰項的值大于0。遞增系數(shù)c的選取可按經(jīng)驗公式選取（r0=1,c=10）例:用外點法求解下列有約束優(yōu)化問題解:懲罰函數(shù)為：用解析法求函數(shù)的極小值，運用極值條件：注意：應舍去在可行域的點。則無約束極值點為當懲罰因子漸增時，由下表可看出收斂情況。外點罰函數(shù)的程序計算框圖，見圖2-37。

外點罰函數(shù)法的迭代步驟與內(nèi)點法基本相同。圖2-37外點法的程序框圖

外點法的特點：

1．初始點可以任選，但應使各函數(shù)有定義；2．對等式約束和不等式約束均可適用；3．僅最優(yōu)解為可行設計方案；4．一般收斂較快；5．初始罰因子要選擇得當；6．懲罰因子為遞增，遞增率