多維度極值求法

1、多維度極值求法（海塞矩陣）何森矩陣凸集正定規(guī)定，各階矩陣都大于0，半正定其中一個矩陣等于0拉格朗日乘子法計算P39 2-4一、 問答題1.什么是一維搜索問題？答：當方向給定時，求最佳步長就是求一元函數的極值問題，它稱為一維搜索。2.試述兩種一維搜索方向的原理，它們之間有何區(qū)別？答：搜索的原理是：區(qū)間消去法原理區(qū)別：（1）、試探法：給定的規(guī)定來確定插入點的位置，此點的位置確定僅僅按照區(qū)間的縮短如何加快，而不顧及函數值的分布關系，如黃金分割法（2）、插值法：沒有函數表達式，可以根據這些點處的函數值，利用插值方法建立函數的某種近似表達式，近而求出函數的極小點，并用它作為原來函數的近似值。這種方法稱為

2、插值法，又叫函數逼近法。3.共軛梯度法是利用梯度求共軛方向的，那共軛方向與梯度之間有什么關系？（P70）對于二次函數，,從點出發(fā)，沿G的某一共軛方向作一維搜索，到達點，則點處的搜索方向應滿足，即終點與始點的梯度之差與的共軛方向正交。4.懲罰函數法求解約束優(yōu)化問題的基本原理是什么？答：懲罰函數求解約束優(yōu)化問題的基本原理是將約束優(yōu)化問題中的不等式和等式約束優(yōu)化函數經過加權轉化后，和原目標函數結合成新的目標函數-懲罰函數，即=+=f求解該新的目標函數的無約束極小值，以期得到原問題的約束最優(yōu)解。5.與最速下降法和牛頓法比較，試述變尺度法的特點。答：P74-776.在變尺度法中，為使變尺度矩陣與近似，并

3、具有容易計算的特點，必須附加哪些條件？答：（1）為保證迭代公式具有下降的性質，要求海塞矩陣中的每一個矩陣都是對稱正定的。（2）要求海塞矩陣之間具有簡單的形式：。 （3）要求海塞矩陣必須滿足擬牛頓條件。7.試述數值解法求最佳步長因子的基本思路。答主要用數值解法，利用計算機通過反復迭代計算求得最佳步長因子的近似值 8.寫應用數學規(guī)劃法求解優(yōu)化設計問題的數值迭代公式，并說明公式中各變量的意義，并說明迭代公式的意義。9.變尺度的搜索方向是什么？變尺度矩陣應滿足什么條件？變尺度矩陣在極小點處逼近什么矩陣？并寫出其初始形式。10.在變尺度法中，變尺度矩陣為什么要求都是正定對稱的？答：因為若要求搜索方向為下

4、降方向，即要求，也就是，這樣,即應為對稱正定。11.什么是共軛方向？滿足什么關系？共軛與正交是什么關系？12.請寫出應用MATLAB優(yōu)化工具箱處理約束優(yōu)化設計問題的基本步驟。答：（1）編寫定義目標函數的M文件fun1.m（2）編寫定義約束方程函數的M文件con.m（3）在窗口調用求解命令求解.。求解格式為：x0=-1,1x,fval=fmincon(fun1,x0,con)13.試述求解無約束優(yōu)化問題的最速下降法與牛頓型方法的優(yōu)缺點。答：最速下降法此法優(yōu)點是直接、簡單，頭幾步下降速度快。缺點是收斂速度慢，越到后面收斂越慢。牛頓法優(yōu)點是收斂比較快，對二次函數具有二次收斂性。缺點是每次迭代需要求海

5、塞矩陣及其逆矩陣，維數高時及數量比較大。14.為何優(yōu)化設計的可行設計域和可行設計點？15.無約束優(yōu)化問題數值求解的一般步驟是什么？答：（1）編寫M文件，fun1.m，定義目標函數文件。（2） 在命令窗口中調用無約束線性函數fminunc求解。 求解格式為：x0=-1,1x,fval=fminunc(fun1,x0)16.什么是內點懲罰函數法？什么是外點懲罰函數法？他們適用的優(yōu)化問題是什么？在構造懲罰函數時，內點懲罰函數法和外點懲罰函數法的懲罰因子的選取有何不同？ 1）內點懲罰函數法是將新目標函數定義于可行域內，序列迭代點在可行域內逐步逼近約束邊界上的最優(yōu)點。內點法只能用來求解具有不等式約束的優(yōu)

6、化問題。 內點懲罰函數法的懲罰因子是由大到小，且趨近于0的數列。相鄰兩次迭代的懲在可行域之外，序列迭代點從可行域之外逐漸逼近約束邊界上的最優(yōu)點。外點法可以用來求解含不等式和等式約束的優(yōu)化問題。外點懲罰函數法的懲罰因子，它是由小到大，且趨近于的數列。懲罰因子按下式遞增，式中為懲罰因子的遞增系數，通常取17為什么說共軛梯度法實質上是對最速下降法進行的一種改進？.答：共軛梯度法是共軛方向法中的一種，在該方法中每一個共軛向量都依賴于迭代點處的負梯度構造出來的。共軛梯度法的第一個搜索方向取負梯度方向，這是最速下降法。其余各步的搜索方向是將負梯度偏轉一個角度，也就是對負梯度進行修正。所以共軛梯度法的實質是

7、對最速下降法的一種改進。18.優(yōu)化設計的數學模型一般有哪幾部分組成？簡單說明。19簡述隨機方向法的基本思路答：隨機方向法的基本思路是在可行域內選擇一個初始點，利用隨機數的概率特性，產生若干個隨機方向，并從中選擇一個能使目標函數值下降最快的隨機方向作為可行搜索方向。從初始點出發(fā)，沿搜索方向以一定的步長進行搜索，得到新的值，新點應該滿足一定的條件，至此完成第一次迭代。然后將起始點移至，重復以上過程，經過若干次迭代計算后，最終取得約束最優(yōu)解。20. 簡述優(yōu)化問題數學模型的三個要素，并給出通用的數學模型表述。(15分)一、設計變量。在優(yōu)化設計過程中需要不斷進行修改、調整，一直處于變化狀態(tài)的基本設計參數

8、稱為設計變量，又叫優(yōu)化參數。設計變量的全體實際上是一組變量，可用一個列向量表示稱作設計變量向量。 二、約束條件。一個可行設計方案必須滿足的某些設計限制條件稱為約束條件。在工程問題中，根據約束的性質可區(qū)分為兩大類：性能約束（針對性能要求提出的限制條件）和側面（也稱邊界）約束（對變量取值范圍加以限制的約束）。若按數學表達形式可分成等式約束和不等式約束兩種類型。 三、目標函數。將所有可行設計中能最好地反映該項設計所要追求的某些特定目標表示成設計變量的數學函數稱為目標函數。最優(yōu)化問題的數學模型 21. 寫出方向導的表達式。(15分) 22.簡述一維搜索方法的分類。(15分)(要點)一、試控法。按一定的

9、規(guī)律來確定區(qū)間內插入點的位置。如黃金分割法。二、插值法或函數逼迫法。根據某點處的的一些信息，構造一個插值函數來逼近原來函數。常見的有二次插值法、三次插值法等。2、機械優(yōu)化設計采用數學規(guī)劃法,其核心一是建立搜索方向 二是計算最佳步長因子 。3、當優(yōu)化問題是_凸規(guī)劃_的情況下，任何局部最優(yōu)解就是全域最優(yōu)解。4、應用進退法來確定搜索區(qū)間時，最后得到的三點，即為搜索區(qū)間的始點、中間點和終點，它們的函數值形成 高-低-高 趨勢。5、包含n個設計變量的優(yōu)化問題，稱為 n 維優(yōu)化問題。6、函數 的梯度為 HX+B 。7、設G為nn對稱正定矩陣，若n維空間中有兩個非零向量d0，d1，滿足(d0)TGd1=0，

10、則d0、d1之間存在_共軛_關系。8、 設計變量 、 約束條件 、 目標函數 是優(yōu)化設計問題數學模型的基本要素。9、對于無約束二元函數，若在點處取得極小值，其必要條件是 梯度為零 ，充分條件是 海塞矩陣正定 。10、 庫恩-塔克 條件可以敘述為在極值點處目標函數的梯度為起作用的各約束函數梯度的非負線性組合。11、用黃金分割法求一元函數的極小點，初始搜索區(qū)間，經第一次區(qū)間消去后得到的新區(qū)間為 -2.36,2.36 。12、優(yōu)化設計問題的數學模型的基本要素有設計變量 、約束條件 目標函數 、13、牛頓法的搜索方向dk= ，其計算量 大 ，且要求初始點在極小點 逼近 位置。15、存在矩陣H，向量 d

11、1，向量 d2，當滿足 (d1)TGd2=0 ，向量 d1和向量 d2是關于H共軛。16、采用外點法求解約束優(yōu)化問題時，將約束優(yōu)化問題轉化為外點形式時引入的懲罰因子r數列，具有 由小到大趨于無窮 特點。1、下面 、共軛梯度法 方法需要求海賽矩陣。2、對于約束問題根據目標函數等值線和約束曲線，判斷為 D. 外點；內點 ，為 。3、內點懲罰函數法可用于求解_ B只含有不等式約束的優(yōu)化問題 _優(yōu)化問題。4、對于一維搜索，搜索區(qū)間為a，b，中間插入兩個點a1、b1，a1b1，計算出f(a1)f(b1)，則縮短后的搜索區(qū)間為_ D a，b1 5、_ D 最佳步長_不是優(yōu)化設計問題數學模型的基本要素。6、

12、變尺度法的迭代公式為xk+1=xk-kHkf(xk)，下列不屬于Hk必須滿足的條件的是與海塞矩陣正交 _。7、函數在某點的梯度方向為函數在該點的 、最速上升方向 。8、_ D 坐標輪換法在構成搜索方向時沒有使用到目標函數的一階或二階導數。 9、設為定義在凸集R上且具有連續(xù)二階導數的函數，則在R上為凸函數的充分必要條件是海塞矩陣G(X)在R上處處 半正定 。11、與梯度成銳角的方向為函數值 上升 方向，與負梯度成銳角的方向為函數值 下降 方向，與梯度成直角的方向為函數值 不變 方向。12、二維目標函數的無約束極小點就是等值線族的一個共同中心 。13、最速下降法相鄰兩搜索方向dk和dk+1必為 正

13、交 向量。14、下列關于內點懲罰函數法的敘述，錯誤的是 。A 可用來求解含不等式約束和等式約束的最優(yōu)化問題。 B 懲罰因子是不斷遞減的正值C初始點應選擇一個離約束邊界較遠的點。 D 初始點必須在可行域內15、通常情況下，下面四種算法中收斂速度最慢的是B梯度法16、一維搜索試探方法黃金分割法比二次插值法的收斂速度A、慢17、下列關于共軛梯度法的敘述，錯誤的是C共軛梯度法具有二次收斂性三、問答題1、試述兩種一維搜索方法的原理，它們之間有何區(qū)答：搜索的原理是：區(qū)間消去法原理區(qū)別：（1）、試探法：給定的規(guī)定來確定插入點的位置，此點的位置確定僅僅按照區(qū)間的縮短如何加快，而不顧及函數值的分布關系，如黃金分

14、割法（2）、插值法：沒有函數表達式，可以根據這些點處的函數值，利用插值方法建立函數的某種近似表達式，近而求出函數的極小點，并用它作為原來函數的近似值。這種方法稱為插值法，又叫函數逼近法。2、懲罰函數法求解約束優(yōu)化問題的基本原理是什么？ 答，基本原理是將優(yōu)化問題的不等式和等式約束函數經過加權轉化后，和原目標函數結合形成新的目標函數懲罰函數求解該新目標函數的無約束極值，以期得到原問題的約束最優(yōu)解3、試述數值解法求最佳步長因子的基本思路。 答 主要用數值解法，利用計算機通過反復迭代計算求得最 佳步長因子的近似值4、試述求解無約束優(yōu)化問題的最速下降法與牛頓型方法的優(yōu)缺點。答：最速下降法此法優(yōu)點是直接、

15、簡單，頭幾步下降速度快。缺點是收斂速度慢，越到后面收斂越慢。牛頓法優(yōu)點是收斂比較快，對二次函數具有二次收斂性。缺點是每次迭代需要求海塞矩陣及其逆矩陣，維數高時及數量比較大。5、寫出用數學規(guī)劃法求解優(yōu)化設計問題的數值迭代公式，并說明公式中各變量的意義，并說明迭代公式的意義。四、解答題1、試用梯度法求目標函數f(X)=1.5x12+0.5x22- x1x2-2x1的最優(yōu)解，設初始點x(0)=-2，4T,選代精度=0.02（迭代一步）。4、求目標函數f( X )=x12+x1x2+2x22 +4x1+6x2+10的極值和極值點。12、一根長l的鉛絲截成兩段，一段彎成圓圈，另一段彎折成方形，問應以怎樣

16、的比例截斷鉛絲，才能使圓和方形的面積之和為最大，試寫出這一優(yōu)化設計問題的數學模型以及用MATLAB軟件求解的程序。第一、填空題1.組成優(yōu)化設計數學模型的三要素是 設計變量 、 目標函數 、 約束條件 。3.目標函數是一項設計所追求的指標的數學反映，因此對它最基本的要求是能用來評價設計的優(yōu)劣，同時必須是設計變量的可計算函數 。4.建立優(yōu)化設計數學模型的基本原則是確切反映 工程實際問題，的基礎上力求簡潔 。5.約束條件的尺度變換常稱 規(guī)格化，這是為改善數學模型性態(tài)常用的一種方法。 6.隨機方向法所用的步長一般按 加速步長 法來確定，此法是指依次迭代的步長按一定的比例 遞增的方法。 7.最速下降法以

17、 負梯度 方向作為搜索方向，因此最速下降法又稱為 梯度法，其收斂速度較 慢 。8.二元函數在某點處取得極值的充分條件是必要條件是該點處的海賽矩陣正定9.拉格朗日乘子法的基本思想是通過增加變量將等式約束 優(yōu)化問題變成 無約束優(yōu)化問題，這種方法又被稱為 升維 法。10改變復合形形狀的搜索方法主要有反射，擴張，收縮，壓縮 11坐標輪換法的基本思想是把多變量 的優(yōu)化問題轉化為 單變量 的優(yōu)化問題12在選擇約束條件時應特別注意避免出現(xiàn) 相互矛盾的約束， ，另外應當盡量減少不必要的約束 。13目標函數是n維變量的函數，它的函數圖像只能在n+1, 空間中描述出來，為了在n維空間中反映目標函數的變化情況，常采

18、用 目標函數等值面 的方法。14.數學規(guī)劃法的迭代公式是 ，其核心是 建立搜索方向， 和 計算最佳步長 15協(xié)調曲線法是用來解決 設計目標互相矛盾 的多目標優(yōu)化設計問題的。16.機械優(yōu)化設計的一般過程中， 建立優(yōu)化設計數學模型 是首要和關鍵的一步，它是取得正確結果的前提。二、名詞解釋1凸規(guī)劃 對于約束優(yōu)化問題 若、都為凸函數，則稱此問題為凸規(guī)劃。2可行搜索方向是指當設計點沿該方向作微量移動時，目標函數值下降，且不會越出可行域。3設計空間：n個設計變量為坐標所組成的實空間，它是所有設計方案的組合4.可靠度5收斂性是指某種迭代程序產生的序列收斂于6.非劣解：是指若有m個目標，當要求m-1個目標函數

19、值不變壞時，找不到一個X，使得另一個目標函數值比，則將此為非劣解。7. 黃金分割法：是指將一線段分成兩段的方法，使整段長與較長段的長度比值等于較長段與較短段長度的比值。8.可行域：滿足所有約束條件的設計點，它在設計空間中的活動范圍稱作可行域。9.維修度 略三、簡答題 1什么是內點懲罰函數法？什么是外點懲罰函數法？他們適用的優(yōu)化問題是什么？在構造懲罰函數時，內點懲罰函數法和外點懲罰函數法的懲罰因子的選取有何不同？ 1）內點懲罰函數法是將新目標函數定義于可行域內，序列迭代點在可行域內逐步逼近約束邊界上的最優(yōu)點。內點法只能用來求解具有不等式約束的優(yōu)化問題。 內點懲罰函數法的懲罰因子是由大到小，且趨近于0的數列。相鄰兩次迭代的懲在可行域之外，序列迭代點從可行域之外逐漸逼近約束邊界上的最優(yōu)點。外點法可以用來求解含不等式和等式約束的優(yōu)化問題。外點懲罰函數法的懲罰因子，它是由小到大，且趨近于的數列。懲罰因子按下式遞增，式中為懲罰因子的遞增系數，通常取3為什么說共軛梯度法實質上是對最速下降法進行的一種改進？.答：共軛梯度法是共軛方向法中的一種，在該方法中每一個共軛向量都依賴于迭代點處的負梯度構造出來的。共軛梯度法的第一個搜索方向取負梯度方向，這是最速下降法。其余各步