狀態(tài)轉移算法及其在工業(yè)過程建模與控制中的應用.ppt

狀態(tài)轉移算法及其在工業(yè)過程建模與控制中的應用,信息科學與工程學院,周曉君,Part 0 引子 Part 1 建模中的優(yōu)化問題 part 2 控制中的優(yōu)化問題 part 3 智能優(yōu)化算法及狀態(tài)轉移算法 part 4 未來研究方向,Outline,Part 0 引子,一類行測題：數字推理,數字推理題是行測（行政職業(yè)能力測驗）考試的必考項目，其數字規(guī)律紛繁復雜，一般要求作答者在幾秒內得出答案。,(1) 7, 9, -1, 5, () A 4; B 2; C -1; D-3 分析：選D，7+9=16； 9-1=8；-1+5=4；5-3=2，16,8,4,2形成等比數列 (2) 1, 2, 5, 29, () A 34; B 841; C 866; D 37 分析：選C，5=12+22；29=22+52；（）=52+292=866,Part 0 引子,(3) 2, 12, 30, () A 56; B 65; C 75; D 56 分析：選D，12=2；34=12；56=30；78=56 (4) 4, 2, 2, 3, 6, () A 6; B 8; C 10; D 15 分析：選D，2/4=0.5; 2/2=1; 3/2=1.5; 6/3=2; 0.5, 1, 1.5, 2成等差，所以后項為2.56=15 (5) 1, 7, 8, 57, () A 123; B 122; C 121; D 120 分析：選C，12+7= 8；72+8 =57； 82+57=121 (6) 95, 88, 71, 61, 50, () A 40; B 39; C 38; D 37 分析：選A ，95-9-5=81；88-8-8=72；71-7-1=63；61-1-6=54；50-5-0=45；40-4-0=36，構成等差數列,Part 0 引子,答案：多做多練，孰能生巧，摸清出題者的思路。,那么出題者的思路是什么呢？,經過分析不難發(fā)現，出題者出題的思路千變萬化。這好比出題者自己掌握了一套密碼（規(guī)則），要作答者去猜他的密碼。,這是什么邏輯？,答案：毫無邏輯。,做這類題目的方法是什么呢？怎樣以最快的速度解決該類問題呢？,既然沒有邏輯，那么數字推理題是不是沒有答案，或者任何答案都合理？,答案：是。,Part 0 引子,要證明一個結論錯誤往往比證明它正確容易，因為一個反例就夠了！,(1) 7, 9, -1, 5, () A 4; B 2; C -1; D-3 分析：選D，7+9=16； 9-1=8；-1+5=4；5-3=2，16,8,4,2形成等比數列,Part 1 建模中的優(yōu)化問題,優(yōu)化視角下的建模問題 非線性系統(tǒng)辨識問題 應用實例,Part 1 建模中的優(yōu)化問題,小結：,引子里面講的數字推理題和我們平常接觸到的建模問題從本質上是一致的，由“BP網絡可以擬合任意非線性”可知，采用BP網絡也是可以擬合上面問題的，只是答案或許不在選擇中。引子中給出的答案其實和BP網絡無關，它是一種多項式擬合，但從本質上屬于“核函數理論”。,直接依靠數據進行經驗建模，需要確定模型結構和優(yōu)化模型參數，由于模型結構不確定性，通常采用機理分析或間接的方法。從某種意義上說，機理模型就是完善的經驗模型（螺旋分級機）。,優(yōu)化算法一般用在優(yōu)化模型參數上，但也有優(yōu)化模型結構的，比如神經網絡結構（層數和隱含層節(jié)點數），這從理論上和實踐上可行，但從邏輯上講不通。,Part 2 控制中的優(yōu)化問題,魯棒控制問題 PID控制問題,小結：,控制中的優(yōu)化問題有些是控制中本身存在的優(yōu)化問題，比如LMI問題。,Part 2 控制中的優(yōu)化問題,Part 2 控制中的優(yōu)化問題,Part 2 控制中的優(yōu)化問題,對其他控制問題，可以將其轉換為優(yōu)化問題的形式。比如PID控制,這一類問題中，一般控制器結構確定，需要優(yōu)化控制器結構參數。比如采用模糊控制器時，可以優(yōu)化隸屬度函數；采用滑?？刂破鲿r，可以優(yōu)化切換函數系數。采用神經網絡控制器時，可以優(yōu)化網絡結構，權系數等。,Part 3 智能優(yōu)化算法及狀態(tài)轉移算法,常用的智能優(yōu)化算法 遺傳算法（1975） 模擬退火算法（1987） 粒子群算法（1995） 差分進化算法（1995） 人工免疫系統(tǒng)（1996） 蟻群算法（1997） CMA-ES（2001） ,Part 3 智能優(yōu)化算法及狀態(tài)轉移算法,智能優(yōu)化算法種類多，機理各異，存在的普遍問題：尋優(yōu)能力不足，統(tǒng)計性能差。根據“沒有免費的午餐”理論，沒有一種優(yōu)化算法能在所有的優(yōu)化問題上有效。,造成這種情況的原因是: (1)優(yōu)化問題本身的復雜性：不可微，高維，多模態(tài)等。(2) 優(yōu)化算法的局限性（認識上的不足）。,初中(配方),Part 3 智能優(yōu)化算法及狀態(tài)轉移算法,高中 (求導，特殊函數),大學 (多元函數極值),Part 3 智能優(yōu)化算法及狀態(tài)轉移算法,Part 3 智能優(yōu)化算法及狀態(tài)轉移算法,研究生 （函數的復雜性）,多模態(tài) 高維,Part 3 智能優(yōu)化算法及狀態(tài)轉移算法,收斂性問題,最速下降法 遺傳算法 粒子群算法,小結： 基于梯度的優(yōu)化算法的收斂性，僅是證明算法能使,證明這個結論實際上是沒有多大含義的，因為這個條件一般是迭代算法的終止條件，由費馬引理可知，函數在極值點的導數為0。也就是說，對于凸優(yōu)化問題，這個點是永遠存在的，只是迭代時間的長短。,Part 3 智能優(yōu)化算法及狀態(tài)轉移算法,其他智能優(yōu)化算法的收斂性證明僅證明算法能全局收斂到某一點，但這一點是否是全局最優(yōu)點沒有判定。 全局收斂和收斂到全局最優(yōu)解是兩回事。在一般的智能優(yōu)化算法中，都采用“貪婪準則”（精英選擇）選擇個體，這樣能保證后代比父代優(yōu)越，這樣保證了算法不會發(fā)散。 實際上，最早的隨機搜索算法已經證明了其全局收斂性。 Random optimization（1965）,Part 3 智能優(yōu)化算法及狀態(tài)轉移算法,Part 3 智能優(yōu)化算法及狀態(tài)轉移算法,最初版本的狀態(tài)轉移算法 帶有新算子的狀態(tài)轉移算法 引入交流機制的狀態(tài)轉移算法,Part 4 未來研究方向,狀態(tài)轉移算法的參數學習(正在研究) 基于狀態(tài)轉移算法的約束優(yōu)化（正在研究） 基于狀態(tài)轉移算法的多目標優(yōu)化（待研究） 狀態(tài)轉移算法的其他應用（待研究）,選擇狀態(tài)轉移算法的理由： （1）物理幾何意義明確。 （2）全局搜索能力好。 （