智能算法初步

數(shù)學(xué)建模中的智能算法2/28/2024數(shù)學(xué)建模十大算法蒙特卡羅算法數(shù)據(jù)擬合、參數(shù)估計、插值等數(shù)據(jù)處理算法線性規(guī)劃等規(guī)劃類問題圖論算法動態(tài)規(guī)劃、回溯搜索、分支定界等計算機算法模擬退火、神經(jīng)網(wǎng)絡(luò)、遺傳算法等最優(yōu)化理論算法網(wǎng)格算法和窮舉法一些連續(xù)離散化方法數(shù)值分析算法圖像處理算法2/28/20243人工智能優(yōu)化算法遺傳算法模擬退火人工神經(jīng)網(wǎng)絡(luò)算法粒子群算法蟻群算法2/28/2024認識“人工智能”人工智能(ArtificialIntelligence,AI)概念是JohnMcCarthy（約翰.麥克斯）于1956年在Dartmouth學(xué)會上提出的。美國計算機科學(xué)家，因在人工智能領(lǐng)域的重大貢獻，被稱為“人工智能之父”，并因此獲得圖靈獎他于1948年獲得加州理工學(xué)院數(shù)學(xué)學(xué)士學(xué)位，1951年獲得普林斯頓大學(xué)數(shù)學(xué)博士學(xué)位JohnMcCarthy2/28/2024認識“人工智能”（續(xù)）人工智能——讓機器像人一樣思考人工智能是計算機科學(xué)的前沿學(xué)科，是研究、開發(fā)用于模擬、延伸和擴展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的技術(shù)科學(xué).計算機編程語言和其它計算機軟件都因為有了人工智能的進展而得以存在。人工智能涉及學(xué)科：哲學(xué)和認知科學(xué)，數(shù)學(xué)，神經(jīng)生理學(xué)，心理學(xué)，計算機科學(xué)，信息論，控制論，不定性論，仿生學(xué)等2/28/2024認識“人工智能”（續(xù)）人工智能的目的：通過研究人腦的組成機理和思維方式，企圖了解智能的實質(zhì)，并生產(chǎn)出一種能以人類智能相似的方式做出反應(yīng)的智能機器——讓機器具有智慧，像人一樣思考.計算機的出現(xiàn)——人類開始真正有了一個可以模擬人類思維的工具人工智能的領(lǐng)域研究：包括機器人、語言識別、圖像識別、自然語言處理和專家系統(tǒng)等.2/28/2024意識和人工智能的區(qū)別人工智能就其本質(zhì)而言，是對人的思維的信息過程的模擬.對于人的思維模擬可以從兩條道路進行：

結(jié)構(gòu)模擬：仿照人腦的結(jié)構(gòu)機制，制造出“類人腦”的機器；功能模擬：暫時撇開人腦的內(nèi)部結(jié)構(gòu)，而從其功能過程進行模擬。現(xiàn)代電子計算機的產(chǎn)生便是對人腦思維功能的模擬，是對人腦思維的信息過程的模擬.人工智能不是人的智能，更不會超過人的智能.2/28/2024意識和人工智能的區(qū)別（續(xù)）“機器思維”同“人類思維”的本質(zhì)區(qū)別：1.人工智能純系無意識的機械的物理的過程，人類智能主要是生理和心理的過程.2.人工智能沒有社會性.3.人工智能沒有人類的意識所特有的能動的創(chuàng)造能力.4.兩者總是人腦的思維在前，電腦的功能在后.2/28/2024經(jīng)典的人工智能成果人機對弈*2019年2月10-17日,GarryKasparov以4:2戰(zhàn)勝“深藍”(DeepBlue)*2019年5月3-11日,GarryKasparov以3.5:2.5輸于改進后的“深藍”*2019年2月GarryKasparov3:3戰(zhàn)平“小深”(DeepJunior)

*2019年11月GarryKasparov2:2戰(zhàn)平“X3D德國人”(X3D-Fritz)模式識別指紋識別、人臉識別、語音識別、文字識別、圖像識別、車牌識別等2/28/2024經(jīng)典的人工智能成果(續(xù))電影

中文名：人工智能片名：AI

年代：2019國家：美國相關(guān)著作

《視讀人工智能》、《人工智能的未來》、《人工智能哲學(xué)》、《人工智能：一種現(xiàn)代的方法》……2/28/2024遺傳算法

(GeneticAlgorithm，GA)人工神經(jīng)網(wǎng)絡(luò)算法(ArtificicalNeuralNetwork,ANN)模擬退火(SimulatedAnnealing,SA)粒子群優(yōu)化算法(ParticalSwamOptimizationAlgorithm,PSOA)蟻群優(yōu)化算法(AntColonyOptimizationAlgorithm,ACOA)人工智能優(yōu)化算法2/28/202497年A題用模擬退火算法00年B題用神經(jīng)網(wǎng)絡(luò)分類算法01年B題這種難題也可以使用神經(jīng)網(wǎng)絡(luò)美國89年A題也和BP算法有關(guān)系美國03年B題伽馬刀問題也是目前研究的課題，目前算法最佳的是遺傳算法。遺傳算法(GA)、模擬退火法(SA)、神經(jīng)網(wǎng)絡(luò)(NN)、近幾年的賽題越來越復(fù)雜，很多問題沒有什么很好的模型可以借鑒，于是這三類算法很多時候可以派上用場。最優(yōu)化理論的三大非經(jīng)典算法:2/28/2024遺傳算法

(GeneticAlgorithm，GA)人工神經(jīng)網(wǎng)絡(luò)算法(ArtificicalNeuralNetwork,ANN)模擬退火(SimulatedAnnealing,SA)粒子群優(yōu)化算法(ParticalSwamOptimizationAlgorithm,PSOA)蟻群優(yōu)化算法(AntColonyOptimizationAlgorithm,ACOA)人工智能優(yōu)化算法2/28/2024遺傳算法(GeneticAlgorithm)進化算法(EvolutionaryAlgorithm)2/28/2024遺傳算法是一類模擬達爾文生物進化論的自然選擇和遺傳算法機理的生物進化過程的計算模型，借鑒生物界的進化規(guī)律（適者生存，優(yōu)勝劣汰遺傳機制）演化而來的隨機化搜索最優(yōu)化方法。遺傳算法最初由美國密歇根大學(xué)J.Holland（霍蘭德）教授于1975年首先提出來的，并出版了頗有影響的專著《AdaptationinNaturalandArtificialSystems》,遺傳算法這個名稱才逐漸為人所知，通常稱為“簡單遺傳算法”。遺傳算法(GeneticAlgorithm,GA)2/28/2024直接對結(jié)構(gòu)對象進行操作，不存在求導(dǎo)和函數(shù)連續(xù)性的限定；具有內(nèi)在的隱并行性和更好的全局尋優(yōu)能力；采用概率化的尋優(yōu)方法，能自動獲取和指導(dǎo)優(yōu)化的搜索空間，自適應(yīng)地調(diào)整搜索方向，不需要確定的規(guī)則。遺傳算法的這些性質(zhì)，已被人們廣泛地應(yīng)用于組合優(yōu)化、機器學(xué)習(xí)、信號處理、自適應(yīng)控制和人工生命等領(lǐng)域。它是現(xiàn)代有關(guān)智能計算中的關(guān)鍵技術(shù)。遺傳算法的主要特點2/28/2024遺傳算法的定義遺傳算法是從代表問題可能潛在的解集的一個種群（population）開始的，而一個種群則由經(jīng)過基因（gene）編碼的一定數(shù)目的個體(individual)組成。每個個體實際上是染色體(chromosome)帶有特征的實體。染色體作為遺傳物質(zhì)的主要載體，即多個基因的集合，其內(nèi)部表現(xiàn)（即基因型）是某種基因組合，它決定了個體的形狀的外部表現(xiàn)，如黑頭發(fā)的特征是由染色體中控制這一特征的某種基因組合決定的。因此，在一開始需要實現(xiàn)從表現(xiàn)型到基因型的映射即編碼工作。2/28/2024遺傳算法的定義（續(xù)）由于仿照基因編碼的工作很復(fù)雜，我們往往進行簡化，如二進制編碼，初代種群產(chǎn)生之后，按照適者生存和優(yōu)勝劣汰的原理，逐代（generation）演化產(chǎn)生出越來越好的近似解。在每一代，根據(jù)問題域中個體的適應(yīng)度（fitness）大小選擇（selection）個體，并借助于自然遺傳學(xué)的遺傳算子（geneticoperators）進行組合交叉（crossover）和變異（mutation），產(chǎn)生出代表新的解集的種群。這個過程將導(dǎo)致種群像自然進化一樣的后生代種群比前代更加適應(yīng)于環(huán)境，末代種群中的最優(yōu)個體經(jīng)過解碼（decoding），可以作為問題近似最優(yōu)解。2/28/2024遺傳算法流程圖由于遺傳算法的整體搜索策略和優(yōu)化搜索方法在計算是不依賴于梯度信息或其它輔助知識，而只需要影響搜索方向的目標函數(shù)和相應(yīng)的適應(yīng)度函數(shù)，所以遺傳算法提供了一種求解復(fù)雜系統(tǒng)問題的通用框架，它不依賴于問題的具體領(lǐng)域，對問題的種類有很強的魯棒性。2/28/2024遺傳算法的一般算法遺傳算法是由進化論和遺傳學(xué)機理而產(chǎn)生的搜索算法。

1.創(chuàng)建一個隨機的初始狀態(tài)：初始群是從解中隨機選擇出來的，將這些解比喻為染色體或基因，該種群被稱為第一代。

2.評估適應(yīng)度：對每一個解(染色體)指定一個適應(yīng)度的值，根據(jù)問題求解的實際接近程度來指定(以便逼近求解問題的答案)。不要把這些“解”與問題的“答案”混為一談，可以把它理解成為要得到答案，系統(tǒng)可能需要利用的那些特性。2/28/2024遺傳算法的一般算法(續(xù))3.繁殖(包括子代突變)帶有較高適應(yīng)度值的那些染色體更可能產(chǎn)生后代(后代產(chǎn)生后也將發(fā)生突變)。后代是父母的產(chǎn)物，他們由來自父母的基因結(jié)合而成，這個過程被稱為“雜交”。

4.下一代如果新的一代包含一個解，能產(chǎn)生一個充分接近或等于期望答案的輸出，那么問題就已經(jīng)解決了。如果情況并非如此，新的一代將重復(fù)他們父母所進行的繁衍過程，一代一代演化下去，直到達到期望的解為止。2/28/2024遺傳算法的一般算法(續(xù))5.并行計算

*非常容易將遺傳算法用到并行計算和群集環(huán)境中。*一種方法是直接把每個節(jié)點當成一個并行的種群看待。然后有機體根據(jù)不同的繁殖方法從一個節(jié)點遷移到另一個節(jié)點。*另一種方法是“農(nóng)場主/勞工”體系結(jié)構(gòu)，指定一個節(jié)點為“農(nóng)場主”節(jié)點，負責選擇有機體和分派適應(yīng)度的值，另外的節(jié)點作為“勞工”節(jié)點，負責重新組合、變異和適應(yīng)度函數(shù)的評估。2/28/2024遺傳算法模擬自然選擇和自然遺傳過程中發(fā)生的繁殖、交叉和基因突變現(xiàn)象，在每次迭代中都保留一組候選解，并按某種指標從解群中選取較優(yōu)的個體，利用遺傳算子(選擇、交叉和變異)對這些個體進行組合，產(chǎn)生新一代的候選解群，重復(fù)此過程，直到滿足某種收斂指標為止。遺傳算法的搜索機制2/28/2024局部全局遺傳算法(GA)2/28/2024Wehaveadream!!IamatthetopHeightis...Iamnotatthetop.Myhighisbetter!Iwillcontinue遺傳算法(GA)GA-----第0代2/28/2024DeadoneNewone遺傳算法(GA)GA----第1代2/28/2024Notatthetop,ComeUp!!!遺傳算法(GA)GA----第?代2/28/2024IamtheBEST!!!遺傳算法(GA)GA----第N代2/28/2024生物進化與遺傳算法對應(yīng)關(guān)系生物進化遺傳算法適者生存適應(yīng)函數(shù)值最大的解被保留的概率最大個體問題的一個解染色體解的編碼基因編碼的元素群體被選定的一組解種群根據(jù)適應(yīng)函數(shù)選擇的一組解交叉以一定的方式由雙親產(chǎn)生后代的過程變異編碼的某些分量發(fā)生變化的過程環(huán)境適應(yīng)函數(shù)2/28/2024遺傳算法的基本操作選擇(selection):

根據(jù)各個個體的適應(yīng)值，按照一定的規(guī)則或方法，從第t代群體P(t)中選擇出一些優(yōu)良的個體遺傳到下一代群體P(t+1)中。交叉(crossover):

將群體P(t)內(nèi)的各個個體隨機搭配成對，對每一個個體，以某個概率Pc

(稱為交叉概率，crossvoerrate)交換它們之間的部分染色體。變異(mutation):

對群體P(t)中的每一個個體，以某一概率Pm(稱為變異概率，mutationrate)改變某一個或一些基因座上基因值為其它的等位基因。2/28/2024如何設(shè)計遺傳算法如何進行編碼？如何產(chǎn)生初始種群？如何定義適應(yīng)函數(shù)？如何進行遺傳操作(復(fù)制、交叉、變異)？如何產(chǎn)生下一代種群？如何定義停止準則？2/28/2024編碼(Coding)表現(xiàn)型空間編碼(Coding)解碼(Decoding)基因型空間={0,1}L01110100101000100110010010100100012/28/2024編碼

設(shè)某一參數(shù)的取值范圍為（L，U），使用長度為k的二進制編碼表示該數(shù)，則共有種不同的編碼。2/28/2024解碼

解碼的目的是為了將不直觀的二進制數(shù)據(jù)串還原成十進制。設(shè)某一個體的二進制編碼為則對應(yīng)的解碼公式為：2/28/2024適應(yīng)函數(shù)(FitnessFunction)GA在搜索中不依靠外部信息，僅以適應(yīng)函數(shù)為依據(jù)，利用群體中每個染色體(個體)的適應(yīng)值來進行搜索。以染色體適應(yīng)值的大小來確定該染色體被遺傳到下一代群體中的概率。染色體適應(yīng)值越大，該染色體被遺傳到下一代的概率也越大；反之，染色體的適應(yīng)值越小，該染色體被遺傳到下一代的概率也越小。因此適應(yīng)函數(shù)的選取至關(guān)重要，直接影響到GA的收斂速度以及能否找到最優(yōu)解。群體中的每個染色體都需要計算適應(yīng)值適應(yīng)函數(shù)一般由目標函數(shù)變換而成2/28/2024適應(yīng)函數(shù)(FitnessFunction)適應(yīng)函數(shù)常見形式：直接將目標函數(shù)轉(zhuǎn)化為適應(yīng)函數(shù)若目標函數(shù)為最大化問題：

Fitness(f(x))=f(x)若目標函數(shù)為最小化問題：

Fitness(f(x))=-f(x)2/28/2024適應(yīng)函數(shù)(FitnessFunction)界限構(gòu)造法

目標函數(shù)為最大化問題其中Cmin為f(x)的最小估計值目標函數(shù)為最小化問題其中Cmaxn為f(x)的最大估計值2/28/2024選擇(Selection)選擇(復(fù)制)操作把當前種群的染色體按與適應(yīng)值成正比例的概率復(fù)制到新的種群中

主要思想:適應(yīng)值較高的染色體體有較大的選擇(復(fù)制)機會設(shè)種群的規(guī)模為Nxi是種群中第i個染色體染色體xi被選概率2/28/2024選擇(Selection)實現(xiàn)1：”輪盤賭”選擇(Roulettewheelselection)

產(chǎn)生一個在0與總和之間的的隨機數(shù)m從種群中編號為1的染色體開始，將其適應(yīng)值與后續(xù)染色體的適應(yīng)值相加，直到累加和等于或大于m2/28/2024選擇(Selection)染色體的適應(yīng)值和所占的比例輪盤賭選擇2/28/2024選擇(Selection)隨機數(shù)23491338627所選號碼262514所選染色體110000001111000011000111010010染色體編號123456染色體011101100000100100100110000011適應(yīng)度81525128被選概率0.160.30.040.10.240.16適應(yīng)度累計8

23

253042

50染色體被選的概率被選的染色體2/28/2024選擇(Selection)輪盤上的片分配給群體的染色體，使得每一個片的大小與對于染色體的適應(yīng)值成比例從群體中選擇一個染色體可視為旋轉(zhuǎn)一個輪盤，當輪盤停止時，指針所指的片對于的染色體就時要選的染色體。模擬“輪盤賭”算法：r=rand(0,1)，s=0，i=0；如果s≥r，則轉(zhuǎn)(4)；s=s+p(xi)，i=i+1,轉(zhuǎn)(2)xi即為被選中的染色體，輸出I結(jié)束2/28/2024選擇(Selection)其他選擇法：隨機遍歷抽樣(Stochasticuniversalsampling)局部選擇(Localselection)截斷選擇(Truncationselection)競標賽選擇(Tournamentselection)特點：選擇操作得到的新的群體稱為交配池，交配池是當前代和下一代之間的中間群體，其規(guī)模為初始群體規(guī)模。選擇操作的作用效果是提高了群體的平均適應(yīng)值(低適應(yīng)值個體趨于淘汰，高適應(yīng)值個體趨于選擇)，但這也損失了群體的多樣性。選擇操作沒有產(chǎn)生新的個體，群體中最好個體的適應(yīng)值不會改變。2/28/2024交叉(crossover,Recombination)遺傳交叉(雜交、交配、有性重組)操作發(fā)生在兩個染色體之間，由兩個被稱之為雙親的父代染色體，經(jīng)雜交以后，產(chǎn)生兩個具有雙親的部分基因的新的染色體，從而檢測搜索空間中新的點。選擇(復(fù)制)操作每次作用在一個染色體上，而交叉操作每次作用在從交配池中隨機選取的兩個個體上(交叉概率Pc)。交叉產(chǎn)生兩個子染色體，他們與其父代不同，且彼此不同,每個子染色體都帶有雙親染色體的遺傳基因。2/28/2024單點交叉(1-pointcrossover)在雙親的父代染色體中隨機產(chǎn)生一個交叉點位置在交叉點位置分離雙親染色體互換交叉點位置右邊的基因碼產(chǎn)生兩個子代染色體交叉概率Pc

一般范圍為(60%,90%)，平均約80%11111111父代1111000000000000子代111100000000000011111111交叉點位置2/28/2024交叉(crossover,Recombination)單點交叉操作可以產(chǎn)生與父代染色體完全不同的子代染色體；它不會改變父代染色體中相同的基因。但當雙親染色體相同時，交叉操作是不起作用的。假如交叉概率Pc

＝50%,則交配池中50%的染色體(一半染色體)將進行交叉操作，余下的50%的染色體進行選擇(復(fù)制)操作。GA利用選擇和交叉操作可以產(chǎn)生具有更高平均適應(yīng)值和更好染色體的群體2/28/2024變異(Mutation)以變異概率Pm改變?nèi)旧w的某一個基因,當以二進制編碼時，變異的基因由0變成1，或者由1變成0。變異概率Pm一般介于1/種群規(guī)模與1/染色體長度之間，平均約1-2%11010100父代01010101子代變異基因變異基因2/28/2024變異(Mutation)比起選擇和交叉操作，變異操作是GA中的次要操作，但它在恢復(fù)群體中失去的多樣性方面具有潛在的作用。

在GA執(zhí)行的開始階段，染色體中一個特定位上的值1可能與好的性能緊密聯(lián)系，即搜索空間中某些初始染色體在那個位上的值1可能一致產(chǎn)生高的適應(yīng)值。因為越高的適應(yīng)值與染色體中那個位上的值1相聯(lián)系，選擇操作就越會使群體的遺傳多樣性損失。等到達一定程度時，值0會從整個群體中那個位上消失，然而全局最優(yōu)解可能在染色體中那個位上為0。如果搜索范圍縮小到實際包含全局最優(yōu)解的那部分搜索空間，在那個位上的值0就可能正好是到達全局最優(yōu)解所需要的。2/28/2024停止準則(TerminationCriteria)種群中個體的最大適應(yīng)值超過預(yù)設(shè)定值種群中個體的平均適應(yīng)值超過預(yù)設(shè)定值種群中個體的進化代數(shù)超過預(yù)設(shè)定值2/28/2024基本步驟(StepbyStep)(1)隨機產(chǎn)生初始種群;(2)計算種群體中每個個體的適應(yīng)度值,判斷是否滿足停止條件，若不滿足，則轉(zhuǎn)第(3)步,否則轉(zhuǎn)第(6)步;(3)按由個體適應(yīng)值所決定的某個規(guī)則選擇將進入下一代的個體;(4)按交叉概率Pc進行交叉操作,生產(chǎn)新的個體;(5)按變異概率Pm進行變異操作,生產(chǎn)新的個體;(6)輸出種群中適應(yīng)度值最優(yōu)的染色體作為問題的滿意解或最優(yōu)解。2/28/2024流程圖(FlowChart)2/28/2024基本遺傳算法基本遺傳算法（SimpleGeneticAlgorithms,簡稱SGA）是一種統(tǒng)一的最基本的遺傳算法，它只使用選擇、交叉、變異這三種基本遺傳算子，其遺傳進化操作過程簡單，容易理解，是其他一些遺傳算法的雛形和基礎(chǔ)，它不僅給各種遺傳算法提供了一個基本框架，同時也具有一定的應(yīng)用價值。2/28/2024SGA偽碼描述ProcedureGeneticAlgorithm

begint=0;%遺傳代數(shù)初始化P(t);%初始化種群或染色體計算P(t)的適應(yīng)值;while(不滿足停止準則)dobegint=t+1;從P(t-1)中選擇P(t);%selection重組P(t);%crossoverandmutation計算P(t)的適應(yīng)值;end

end2/28/2024遺傳算法的應(yīng)用函數(shù)優(yōu)化

函數(shù)優(yōu)化是遺傳算法的經(jīng)典應(yīng)用領(lǐng)域，也是對遺傳算法進行性能測試評價的常用算例。對于一些非線性、多模型、多目標的函數(shù)優(yōu)化問題，用其他優(yōu)化方法較難求解，而遺傳算法卻可以方便地得到較好的結(jié)果。遺傳算法提供了一種求解復(fù)雜系統(tǒng)優(yōu)化問題的通用框架，它不依賴于問題的具體領(lǐng)域，對問題的種類有很強的魯棒性，所以廣泛應(yīng)用于很多學(xué)科。下面列舉一些遺傳算法的主要應(yīng)用領(lǐng)域。2/28/2024遺傳算法的應(yīng)用組合優(yōu)化

遺傳算法是尋求組合優(yōu)化問題滿意解的最佳工具之一，實踐證明，遺傳算法對于組合優(yōu)化問題中的NP完全問題非常有效。例如，遺傳算法已經(jīng)在求解旅行商問題(TravelingSalesmanProblem,TSP)、背包問題(KnapsackProblem)、裝箱問題(BinPackingProblem)等方面得到成功的應(yīng)用。生產(chǎn)調(diào)度問題

生產(chǎn)調(diào)度問題在很多情況下所建立起來的數(shù)學(xué)模型難以精確求解，即使經(jīng)過一些簡化之后可以進行求解也會因簡化得太多而使求解結(jié)果與實際相差太遠?，F(xiàn)在遺傳算法已經(jīng)成為解決復(fù)雜調(diào)度問題的有效工具。2/28/2024遺傳算法的應(yīng)用自動控制

遺傳算法已經(jīng)在自動控制領(lǐng)域中得到了很好的應(yīng)用，例如基于遺傳算法的模糊控制器的優(yōu)化設(shè)計、基于遺傳算法的參數(shù)辨識、基于遺傳算法的模糊控制規(guī)則的學(xué)習(xí)、利用遺傳算法進行人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)優(yōu)化設(shè)計和權(quán)值學(xué)習(xí)等。機器人智能控制

機器人是一類復(fù)雜的難以精確建模的人工系統(tǒng)，而遺傳算法的起源就來自于對人工自適應(yīng)系統(tǒng)的研究，所以機器人智能控制自然成為遺傳算法的一個重要應(yīng)用領(lǐng)域。

2/28/2024遺傳算法的應(yīng)用圖象處理和模式識別

圖像處理和模式識別是計算機視覺中的一個重要研究領(lǐng)域。在圖像處理過程中，如掃描、特征提取、圖像分割等不可避免地存在一些誤差，這些誤差會影響圖像處理的效果。如何使這些誤差最小是使計算機視覺達到實用化的重要要求，遺傳算法在這些圖像處理中的優(yōu)化計算方面得到了很好的應(yīng)用。人工生命

人工生命是用計算機、機械等人工媒體模擬或構(gòu)造出的具有自然生物系統(tǒng)特有行為的人造系統(tǒng)。自組織能力和自學(xué)習(xí)能力是人工生命的兩大重要特征。人工生命與遺傳算法有著密切的關(guān)系，基于遺傳算法的進化模型是研究人工生命現(xiàn)象的重要理論基礎(chǔ)。2/28/2024遺傳算法的應(yīng)用遺傳程序設(shè)計

Koza發(fā)展了遺傳程序設(shè)計的概念，他使用了以LISP語言所表示的編碼方法，基于對一種樹形結(jié)構(gòu)所進行的遺傳操作來自動生成計算機程序。

機器學(xué)習(xí)

基于遺傳算法的機器學(xué)習(xí)，在很多領(lǐng)域中都得到了應(yīng)用。例如基于遺傳算法的機器學(xué)習(xí)可用來調(diào)整人工神經(jīng)網(wǎng)絡(luò)的連接權(quán)，也可以用于人工神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化設(shè)計。分類器系統(tǒng)在多機器人路徑規(guī)劃系統(tǒng)中得到了成功的應(yīng)用。2/28/2024SGA實例1：函數(shù)最值SGA參數(shù):編碼方式:二進制碼

e.g.000000;01101

13;1111131種群規(guī)模:4隨機初始群體“轉(zhuǎn)盤賭”選擇一點雜交,二進制變異

求函數(shù)f(x)=x2的最大值，x為自然數(shù)且0≤x≤31.手工方式完成演示SGA過程2/28/2024SGA實例1maxx2:選擇操作2/28/2024SGA實例1maxx2:交叉操作2/28/2024SGA實例1maxx2:變異操作2/28/2024SGA實例2:連續(xù)函數(shù)最值求下列函數(shù)的最大值：2/28/2024SGA實例2:編碼高精度

編碼

[x,y]

{0,1}L

必須可逆(一個表現(xiàn)型對應(yīng)一個基因型)

解碼算子：

:{0,1}L

[x,y]

染色體長度L決定可行解的最大精度長染色體(慢進化)

實數(shù)問題：變量z為實數(shù)，如何把{a1,…,aL}

{0,1}Lz∈[x,y]2/28/2024SGA實例2:編碼設(shè)定求解精確到6位小數(shù)，因區(qū)間長度位2-(-1)=3,則需將區(qū)間分為3X106等份。因2097152＝221<3X106≤222＝4194304。故編碼的二進制串長L=22。將一個二進制串(b21b20…b0)轉(zhuǎn)化為10進制數(shù)：e.g.<0000000000000000000000>-1;<1111111111111111111111>2<1110000000111111000101>1.6278881.627888=-1+3x(1110000000111111000101)2

/(222-1)=-1+3x3674053/(222-1)2/28/2024SGA實例2:初始化種群、適應(yīng)函數(shù)隨機初始化種群適應(yīng)函數(shù)本實例目標函數(shù)在定義域內(nèi)均大于0，且是求函數(shù)最大值，故直接引用目標函數(shù)作為適應(yīng)函數(shù)：

f(s)=f(x)

其中二進制串s對于變量x的值。

e.g.s1=<0000001110000000010000>x1=-0.958973

適應(yīng)值:f(s1)=f(x1)=1.078878

s2=<1110000000111111000101>x2=1.627888

適應(yīng)值:f(s2)=f(x2)=3.2506502/28/2024SGA實例2:遺傳操作選擇操作(“輪盤賭”選擇)交叉操作(單點交叉)

交叉前(父):

s1=<00000|01110000000010000>s2=<11100|00000111111000101>

交叉后(子):

s’1=<00000|

00000111111000101>s’2=<11100|

01110000000010000>

適應(yīng)值:f(s’1)=f(-0.998113)=1.940865f(s’2)=f(1.666028)=3.459245

s’2的適應(yīng)值比其雙親個體的適應(yīng)值高。2/28/2024SGA實例2:遺傳操作變異操作

變異前(父):

s2=<1110000000111111000101>

變異后(子):

s’2=<1110100000111111000101>

適應(yīng)值

f(s’2)=f(1.721638)=0.917743

比f(s2)小

變異前(父):

s2=<1110000000111111000101>

變異后(子):

s”2=<1110000001111111000101>

適應(yīng)值

f(s”2)=f(1.630818)=3.343555比f(s2)大變異操作有”擾動”作用，同時具有增加種群多樣性的效果。2/28/2024SGA實例2:模擬結(jié)果遺傳算法的參數(shù):

種群規(guī)模:50染色體長度:L=22最大進化代數(shù):150交叉概率:Pc=0.25變異概率:Pm=0.01

2/28/2024SGA實例2:模擬結(jié)果(最佳個體進化情況)世代數(shù)染色體編碼變量x適應(yīng)值141117344054718915010001110000101100011110000011011000101001111011010101110011100111111101010111111010011111100001101111011001111110100100010001100111110001101101000110011110100110110001011001111110100111111001100111111010011111100110011111.8316241.8424161.8548601.8475361.8532901.8484431.8486991.8508971.8505491.8505493.5348063.7903623.8332863.8420043.8434023.8462323.8471553.8501623.8502743.8502742/28/2024最優(yōu)化問題(OptimizationProblem)最優(yōu)化問題:組合優(yōu)化問題(CombinatorialOptimizationProblem):最優(yōu)化問題中的解空間X或S由離散集合構(gòu)成。2/28/2024最優(yōu)化問題算法傳統(tǒng)的優(yōu)化方法(局部優(yōu)化方法)

共軛梯度法、牛頓法、單純形方法等特點:

1)依賴于初始條件。2)與求解空間有緊密關(guān)系，促使較快地收斂到局部解，但同時對解域有約束，如連續(xù)性或可微性。利用這些約束，收斂快。3)有些方法，如Davison-Fletcher-Powell直接依賴于至少一階導(dǎo)數(shù)；共軛梯度法隱含地依賴于梯度。2/28/2024最優(yōu)化問題算法全局優(yōu)化方法

下降軌線法、Monte-Carlo隨機試驗法、模擬退火法、GA等特點：1)不依賴于初始條件；2)不與求解空間有緊密關(guān)系,對解域無可微或連續(xù)的要求;容易實現(xiàn)，求解穩(wěn)健。3)但收斂速度慢,能獲得全局最優(yōu);適合于求解空間不知的情況。4)GA可應(yīng)用于大規(guī)模、多峰多態(tài)函數(shù)、含離散變量等全局優(yōu)化問題;求解速度和質(zhì)量遠超過常規(guī)方法。2/28/2024無約束最優(yōu)化問題GA編碼：X=(x1,x2,…,xn)的各個變量可以按二進制編碼方法分別編碼。對于變量xi的上、下限約束li≤xi≤

ui(i=1,2,…,n)，依據(jù)解的精度要求(有效位數(shù))求得各個變量X=(x1,x2,…,xn)的二進制碼位數(shù)(m1,m2,…,mn)(確定方法類似于SGA實例2)，因此將n個二進制位串順序連接起來，構(gòu)成一個個體的染色體編碼，編碼的總位數(shù)m＝m1+m2+…+mn。無約束最優(yōu)化問題:2/28/2024無約束最優(yōu)化問題GA解碼：解碼時仍按各個變量的編碼順序分別實現(xiàn)常規(guī)的二進制編碼解碼方法。二進制遺傳編碼示意圖如下：2/28/2024約束最優(yōu)化問題常規(guī)解法：(1)把約束問題轉(zhuǎn)化為無約束問題，在用無約束問題方法求解，如罰函數(shù)法(2)改進無約束問題的方法，再用于約束問題，如梯度投影法、廣義簡約梯度法約束最優(yōu)化問題:2/28/2024約束最優(yōu)化問題遺傳算法求解關(guān)鍵:約束條件的處理等式約束可以包含到適應(yīng)函數(shù)，僅考慮不等式約束。假設(shè)按無約束問題那樣求解，在搜索過程中計算目標函數(shù)值，并檢查是否有約束違反。如果沒有違反，則表明是可行解，就根據(jù)目標函數(shù)指定一適應(yīng)值；否則，就是不可行解，因而沒有適應(yīng)值(適應(yīng)值為0)。這樣的處理實際不可行，因為找到一個可行解幾乎與找到最優(yōu)解一樣困難。2/28/2024一般解法：通過引入罰函數(shù)，從不可行解中得到一些信息。將罰函數(shù)包含到適應(yīng)函數(shù)中。關(guān)鍵是如何設(shè)計罰函數(shù)；不同問題需要設(shè)計不同的罰函數(shù)；對一般的約束處理，通常很困難。約束最優(yōu)化問題2/28/2024組合最優(yōu)化問題典型問題：巡回旅行商問題(TravelingSalesmanProblem)作業(yè)調(diào)度問題(JobShopSchedulingProblem)背包問題(KnapsackProblem)圖著色問題………很多組合最優(yōu)化問題是NP難問題或NP完全問題2/28/2024巡回旅行商問題(TSP)TSP，也稱貨郎擔問題，是一個NP完全問題。TSP描述：圖論:設(shè)圖G=(V,E),其中V是頂點集，E是邊集。設(shè)C=(cij)是與E相聯(lián)系的距離矩陣。尋找一條通過所有頂點且每個頂點只通過一次的最短距離回路(Hamilton回路)。實際應(yīng)用中，C也可解釋為費用或旅行時間矩陣。實際:一位推銷員從自己所在城市出發(fā)，必須遍訪所有城市之后又回到原來的城市，求使其旅行費用最少的路徑。2/28/2024巡回旅行商問題(TSP)中國貨郎擔問題:城市數(shù):40城市編號1,2,…,40尋找一條最短路徑2/28/2024TSP復(fù)雜性搜索空間龐大TSP涉及求多個變量的函數(shù)的最小值，求解很困難。其可能的路徑條數(shù)隨著城市數(shù)目n成指數(shù)增長，如，5個城市對應(yīng)12條路徑；10個城市對應(yīng)181440條路徑；100個城市對應(yīng)4.6663X10155條路徑。如此龐大的搜索空間，常規(guī)解法和計算工具都遇到計算上的困難。只能尋找近似解法，如神經(jīng)網(wǎng)絡(luò)方法、模擬退火法、遺傳算法等。2/28/2024TSP編碼:路徑表示染色體表示成所有城市的一個排列，若有n個城市，一條可能路徑編碼為長度為n的整數(shù)向量(i1,i2,…,in),其中ik表示第ik個城市。例如:路徑編碼向量(517894623)直接表示一條旅行路程(5->1->7->8->9->4->6->2->3)。此向量是1到n的一個排列，即從1到n的每個整數(shù)在這個向量中正好出現(xiàn)一次,不能有重復(fù)。這樣，基本遺傳算法的基因操作生成的個體不能滿足這一約束條件，需尋求其他遺傳操作。2/28/2024TSP交叉需其他方式的交叉(重組)操作,如部分匹配交叉(PartiallyMatchedCrossover,PMX)、順序交叉(OrderedCrossover,OX)、循環(huán)交叉(CycleCrossover,CX)、邊重組(EdgeRecombination)。12345543211232154345一般的交叉操作會產(chǎn)生不合適的解，如2/28/2024TSP交叉1:部分匹配交叉(PMX)雙親P1,P2隨機選取兩個交叉點，得到一個匹配段,根據(jù)交叉點中間段給出映射關(guān)系。123456789937826514xxx4567xxxxx8265xxP1P2映射關(guān)系：48、52、75c1c2交換兩個交叉點之間的編碼,(X表示未定碼)2/28/2024TSP交叉1:部分匹配交叉(PMX)子個體C1，C2分別從其父個體中繼承未映射城市碼12345678993782651493x45671x1x38265x9P1P2c1c2映射關(guān)系：48、52、75932456718173826549c1c2

再根據(jù)映射關(guān)系，對以上未定碼，使用最初雙親碼，得到子個體的對應(yīng)碼。映射關(guān)系存在傳遞關(guān)系，則選擇未定碼交換。2/28/2024TSP交叉2:順序交叉(OX)雙親P1,P2隨機選取兩個交叉點123456789937826514P1P2xxx4567xxxxx8265xxc1c2

兩個交叉點間的中間段保存不變

子個體C1的未定碼的確定需要父個體P2的未選定城市碼，子個體C2的未定碼的確定需要父個體P1的未選定城市碼。2/28/2024TSP交叉2:順序交叉(OX)記取父個體P2從第二個交叉點開始城市碼的排列順序，當?shù)竭_表尾時，返回表頭繼續(xù)記錄，直到第二個交叉點。937826514P2xxx4567xxc1382456719c1347826591c2

得到父個體P2的排列順序1-4-9-3-7-8-2-6-5,并將C1已有城市碼4,5,6,7從中去掉，得到排列順序1-9-3-8-2，再將此順序復(fù)制到C1，復(fù)制點也是從第二個交叉點開始，得到C1。同理的C2，2/28/2024TSP交叉3:循環(huán)交叉(CX)CX操作中子個體中的城市碼順序根據(jù)任一父個體產(chǎn)生確定循環(huán)編碼復(fù)制循環(huán)編碼到子個體2/28/2024TSP變異InsertMutation隨機選取個體中兩個編碼，然后把第二個編碼放在第一個編碼之后，其他編碼順次調(diào)節(jié)位置。

Swapmutation隨機選取個體中兩個編碼，然后交換它們的位置。2/28/2024TSP變異Inversionmutation隨機選取個體中一段編碼，然后顛倒這段編碼的順序。

Scramblemutation隨機選取個體上一段編碼,然后打亂這段編碼的順序。選取的編碼不一定是鄰接編碼2/28/2024TSP的GA過程從N個隨機起點開始產(chǎn)生N條路徑，N為種群的規(guī)模;利用最優(yōu)方法搜索每條路徑的局部最優(yōu)解;選擇交叉對使在平均性能之上的個體得到更多的子代;交叉和變異;搜索每條路徑得到其極小解，如果不收斂，則回到第3步；否則，停止。2/28/2024GA的MATLAB實現(xiàn)軟件平臺(SoftwarePlatforms):MATLAB7.xGeneticAlgorithmandDirectSearchToolbox

2.0.1

MATLAB6.x(or7.x)+GAOTGAOT:GeneticAlgorithmOptimizationToolbox美國NorthCarolinaStateUniversity開發(fā)MATLAB6.x(or7.x)+GEATbxGEATbx:GeneticandEvolutionaryAlgorithmToolbox英國TheUniversityofSheffield開發(fā)《MATLAB遺傳算法工具箱及應(yīng)用》(雷英杰等,西安電子科技大學(xué)出版社,2019)基