第六章智能控制中的優(yōu)化方法-微粒群優(yōu)化算法

2023/2/2微粒群優(yōu)化算法1微粒群優(yōu)化算法ParticleSwarmOptimizationAlgorithm陳國(guó)初上海電機(jī)學(xué)院2023/2/2微粒群優(yōu)化算法2微粒群優(yōu)化算法（PSO）一、微粒群優(yōu)化算法綜述二、微粒群優(yōu)化算法的應(yīng)用實(shí)例三、與其他方法的比較2023/2/2微粒群優(yōu)化算法3PSO算法的基本原理常見(jiàn)的改進(jìn)PSO算法多相微粒群優(yōu)化算法MPPSO（Multi-PhaseParticleSwarmOptimizationAlgorithm）PSO算法的應(yīng)用情況PSO算法的研究展望一、微粒群優(yōu)化算法綜述2023/2/2微粒群優(yōu)化算法4

微粒群優(yōu)化算法（ParticleSwarmOptimizationAlgorithm,PSO）是由J.Kennedy和R.C.Eberhart于1995年提出的一種新的進(jìn)化計(jì)算算法，它來(lái)源于鳥類或魚類覓食過(guò)程中遷徙和群集的模擬。

PSO一提出，立刻引起進(jìn)化計(jì)算領(lǐng)域?qū)W者們的廣泛關(guān)注，短短幾年便獲得快速發(fā)展，在一些領(lǐng)域得到應(yīng)用而且應(yīng)用范圍會(huì)越來(lái)越廣泛，已形成學(xué)術(shù)界一個(gè)新的研究熱點(diǎn)，也已被“國(guó)際進(jìn)化計(jì)算會(huì)議”列為討論專題之一。目前在我國(guó)，PSO的研究不管是在理論研究上還是在實(shí)踐上，可見(jiàn)的報(bào)道都還很少。1．PSO算法的基本原理2023/2/2微粒群優(yōu)化算法5

假設(shè)在一個(gè)維搜索空間中，有個(gè)微粒組成一微粒群，其中第個(gè)微粒的空間位置為

它是優(yōu)化問(wèn)題的一個(gè)潛在解，將它代入優(yōu)化目標(biāo)函數(shù)就可以計(jì)算出相關(guān)的適應(yīng)值，據(jù)適應(yīng)值的大小可衡量的優(yōu)劣；第個(gè)微粒所經(jīng)歷的最好位置記為同時(shí)，每個(gè)微粒還具有各自的飛行速度1.1算法原理(1)2023/2/2微粒群優(yōu)化算法6

在微粒群中，所有微粒經(jīng)歷過(guò)的最好位置記為根據(jù)J.Kennedy和R.C.Eberhart最早提出的PSO，對(duì)每一代微粒，其第維根據(jù)如下方程變化：

(1)(2)

其中：為慣性權(quán)值(inertiaweight)；和都為正的常數(shù)，稱為加速系數(shù)(accelerationcoefficients)；和是兩個(gè)在[0，1]范圍內(nèi)變化的隨機(jī)數(shù)。1.1算法原理(2)2023/2/2微粒群優(yōu)化算法7

搜索時(shí),微粒的速度被一個(gè)最大速度和一個(gè)最小速度所限制。如果當(dāng)前對(duì)微粒的加速度導(dǎo)致它在某維的速度超過(guò)該維的最大速度，則該微粒該維的速度被限制為該維的最大速度；對(duì)于最小速度也如此。同樣，微粒的位置往往也被最大位置和最小位置所限制。

式(1)的第1部分為該微粒先前的速度；第2部分為“認(rèn)知（cognition）”部分，表示微粒本身的思考；第3部分為“社會(huì)（social）”部分，表示微粒間的信息共享和相互合作。

1.1算法原理(3)2023/2/2微粒群優(yōu)化算法81.2算法流程Step1:初始化設(shè)置群體的規(guī)模、參數(shù)維數(shù)、慣性權(quán)值、加速系數(shù)、最大允許迭代次數(shù)或誤差限，各微粒的位置和速度等。Step2:按預(yù)定準(zhǔn)則評(píng)價(jià)各微粒的適應(yīng)值。Step3:根據(jù)公式(1)、(2)計(jì)算各微粒新的速度和位置。Step4:重新計(jì)算各微粒的適應(yīng)值，并比較其當(dāng)前適應(yīng)值和該微粒歷史最好適應(yīng)值，若當(dāng)前適應(yīng)值更優(yōu)，則令當(dāng)前適應(yīng)值為該微粒歷史最好適應(yīng)值，當(dāng)前位置為該微粒的歷史最好位置。Step5:比較當(dāng)前群體所有微粒的適應(yīng)值和群體歷史最好適應(yīng)值，若當(dāng)前某微粒的適應(yīng)值更優(yōu)，則令當(dāng)前該微粒的適應(yīng)值為群體歷史最好適應(yīng)值，該微粒的位置為群體歷史最好位置。Step6:若滿足停止條件，搜索停止，群體歷史最好位置為所求結(jié)果。否則，返回Step3繼續(xù)搜索。

2023/2/2微粒群優(yōu)化算法91.3參數(shù)分析(1)（1）慣性權(quán)值慣性權(quán)值對(duì)PSO能否收斂起重要作用，它使微粒保持運(yùn)動(dòng)慣性，使其有擴(kuò)展搜索空間的趨勢(shì)，有能力探索新的區(qū)域。值大些有利于全局搜索，收斂速度快，但不易得到精確解且有時(shí)也會(huì)陷入局部最小值；值小些有利于局部搜索、能得到更為精確的解且不易陷入局部最小值，但收斂速度慢。合適的值在搜索能力和收斂速度方面能起到協(xié)調(diào)作用。最初版本的PSO中，為常數(shù)。后來(lái)，經(jīng)實(shí)驗(yàn)證明，為了有較好的全局搜索能力，剛開始大些，然后逐步減小以便有更精確的解。一般地，剛開始，然后逐步減小到比較合適。也可以采用自適應(yīng)模糊慣性權(quán)值控制器來(lái)動(dòng)態(tài)優(yōu)化，不過(guò)這種方法在實(shí)現(xiàn)時(shí)有一定困難。2023/2/2微粒群優(yōu)化算法10（2）加速系數(shù)加速系數(shù)和對(duì)PSO能否收斂不起很重要的作用，但對(duì)收斂速度影響頗大，合適的加速系數(shù)有利于算法較快收斂和脫離局部最小。它們代表將每個(gè)微粒推向和位置的統(tǒng)計(jì)加速項(xiàng)的權(quán)值。低的加速系數(shù)值允許微粒在被拉回之前可以在目標(biāo)區(qū)域外徘徊，而高的加速系數(shù)值則導(dǎo)致微粒突然地沖向或越過(guò)目標(biāo)區(qū)域。在公式(1)中，若，微粒將一直以當(dāng)前的速度飛行，直到到達(dá)邊界。由于它只能搜索有限的區(qū)域，所以很難找到好解。若，則微粒沒(méi)有認(rèn)知能力，也就是“只有社會(huì)(socialonly)”的算法，所以又稱為社會(huì)參數(shù)。在微粒的相互作用下，有能力到達(dá)新的搜索空間。它的收斂速度比基本的PSO更快，但對(duì)復(fù)雜問(wèn)題，則比基本的PSO更容易陷入局部最小點(diǎn)。1.3參數(shù)分析(2)2023/2/2微粒群優(yōu)化算法11若，則微粒之間沒(méi)有社會(huì)信息共享，也就是“只有認(rèn)知(cognition—only)”的算法，所以又稱為認(rèn)知參數(shù)。因?yàn)閭€(gè)體間沒(méi)有交互，一個(gè)規(guī)模為的群體等價(jià)于運(yùn)行了個(gè)單個(gè)微粒的運(yùn)行，因而得到優(yōu)化解的機(jī)率非常小。

通常，。也有實(shí)驗(yàn)結(jié)果顯示當(dāng)時(shí)能取得更好的效果。最近一些研究還表明認(rèn)知參數(shù)選擇的大些而社會(huì)參數(shù)選擇的小些，但時(shí)能得到更好的結(jié)果。此外，隨機(jī)數(shù)、可以保證微粒群體的多樣性。最大最小速度可以決定當(dāng)前位置與最好位置之間的區(qū)域的分辨率(或精度)。如果最大速度太高或最小速度太低，微?？赡軙?huì)飛過(guò)好解；如果最大速度太小或最小速度太大，則微粒不能在局部好區(qū)間之外進(jìn)行足夠的探索，導(dǎo)致陷入局部最小值。1.3參數(shù)分析(3)2023/2/2微粒群優(yōu)化算法12

較大的慣性權(quán)值有利于跳出局部極小點(diǎn)，而較小的值有利于算法收斂。因此文獻(xiàn)[3，4,5]提出了慣性權(quán)值的自適應(yīng)調(diào)整策略，即剛開始時(shí)較大，隨著迭代的進(jìn)行，線性地減小。這種方法的進(jìn)一步發(fā)展是模糊自適應(yīng)PSO(FuzzyAdaptivePSO)[6]

，它用自適應(yīng)模糊慣性權(quán)值控制器來(lái)動(dòng)態(tài)優(yōu)化，即構(gòu)造一個(gè)2輸入、單輸出的模糊推理機(jī)來(lái)動(dòng)態(tài)地修改慣性權(quán)值。模糊推理機(jī)的兩個(gè)輸入分別是當(dāng)前值以及當(dāng)前全局最好位置，輸出則是的增量。自適應(yīng)PSO算法對(duì)許多問(wèn)題都能取得滿意的結(jié)果。通過(guò)自適應(yīng)調(diào)整全局系數(shù)，兼顧搜索速度和搜索精度，是一種有效的PSO算法。但是對(duì)許多復(fù)雜的非線性優(yōu)化問(wèn)題，試圖通過(guò)自適應(yīng)調(diào)整一個(gè)全局系數(shù)提高搜索精度的余地是有限的，而且這種方法在實(shí)現(xiàn)時(shí)有一定困難。2．常見(jiàn)的改進(jìn)PSO算法2.1自適應(yīng)PSO算法2023/2/2微粒群優(yōu)化算法132.2帶收縮因子的PSO算法（PSOwithaconstrictionfactor）

文獻(xiàn)[9]提出一種帶收縮因子的PSO算法。其微粒速度迭代方程為：（3）式中，稱為收縮因子，，。

類似慣性權(quán)值，收縮因子可以改善算法的收斂性；但在控制微粒速度變化的幅度上，收縮因子不同于慣性權(quán)值，而是類似于最大速度限。有實(shí)驗(yàn)表明[10]

，在沒(méi)有最大速度限時(shí)，帶收縮因子的PSO算法比不帶收縮因子的PSO算法具有更好的性能。

2023/2/2微粒群優(yōu)化算法142.3帶選擇機(jī)制的PSO（PSOwithselectionmechanism）

文獻(xiàn)[11]提出一種帶選擇機(jī)制的PSO算法。這種算法依據(jù)某些特定的技術(shù)，將每個(gè)個(gè)體的適應(yīng)值，基于其當(dāng)前位置，與其他個(gè)體進(jìn)行比較，然后根據(jù)定義的規(guī)則將所有個(gè)體排序，得分最高的出現(xiàn)在群體的頭部。一旦群體排完序，群體中當(dāng)前位置和速度最差的一半被群體中最好的另一半取代。帶選擇機(jī)制的PSO算法在解決單峰函數(shù)的優(yōu)化問(wèn)題時(shí)效果明顯，但并不一定對(duì)所有的優(yōu)化問(wèn)題都很有效。這種算法由于有了選擇機(jī)制，加快了對(duì)當(dāng)前較好區(qū)域的開發(fā)過(guò)程，使得收斂速度較快，但也增加了陷入局部解的可能性。借鑒遺傳算法的思想，文獻(xiàn)[12]最早提出了雜交PSO算法的概念。文獻(xiàn)[13]將基本PSO和選擇機(jī)制相結(jié)合，進(jìn)一步提出具有繁殖和子群的雜交PSO（HybridPSO，HPSO）。雜交PS0算法的選擇機(jī)制與遺傳算法十分相似。該法給微粒群中的每一微粒賦予一個(gè)繁殖概率，在每次迭代中，依據(jù)繁殖概率的高低選取一定數(shù)量的微粒放入一個(gè)池中。池中的微粒隨機(jī)地兩兩雜交，產(chǎn)生同樣數(shù)目的子代微粒，并用子代微粒代替父代微粒，以保持種群的微粒數(shù)目不變。子代微粒的位置由父代微粒的位置的算術(shù)加權(quán)和計(jì)算。實(shí)驗(yàn)結(jié)果[12-14]顯示，雜交PSO算法的收斂速度比較快，搜索精度也相對(duì)比較高，對(duì)一些非線性優(yōu)化問(wèn)題可以得到滿意的結(jié)果，尤其使對(duì)多峰值函數(shù)具有更好的性能。

2023/2/2微粒群優(yōu)化算法152.4帶空間鄰域的PSO（PSOwithspatialneighbor）Angeline的研究表明[15]

，盡管PSO算法能比其他進(jìn)化算法更快地得到較為理想的解，但當(dāng)?shù)螖?shù)增加時(shí)，PSO算法并不一定能進(jìn)行更精確的搜索。為此，可引入一個(gè)變化的鄰域算子（NeighborhoodOperator），在優(yōu)化的初始階段，一個(gè)微粒的鄰域就是它本身，隨著迭代次數(shù)的增加，根據(jù)候選個(gè)體與其他個(gè)體的距離，逐步引入距離近的個(gè)體，鄰域逐漸變大，包含越來(lái)越多的微粒，最后將包含所有的微粒。這樣，原來(lái)的全局歷史最好位置搜索就變成了微粒鄰域的局部歷史最好位置搜索。文獻(xiàn)[15]更為詳細(xì)的資料和許多測(cè)試函數(shù)的仿真結(jié)果表明這一方法能有效地獲得全局最優(yōu)解。結(jié)合空間鄰域和環(huán)狀拓?fù)浣Y(jié)構(gòu)，文獻(xiàn)[16，17]進(jìn)一步提出具有社會(huì)模式（SocialStereotyping）的簇分析PSO算法（PSOwithClusterAnalysis）。該法將微粒群體中的一些微粒作為中心，再將離它最近的N個(gè)微粒和中心微粒作為一簇，然后計(jì)算每個(gè)簇的中心位置，并將這些中心位置來(lái)替代和。但文獻(xiàn)[16，17]所示的研究結(jié)果并沒(méi)表明這一方法具有更好的性能，結(jié)果難以令人滿意，還有許多問(wèn)題有待于研究。

2023/2/2微粒群優(yōu)化算法162.5離散PSO算法Kennedy和Eberhart在基本PS0的基礎(chǔ)上發(fā)展了離散二進(jìn)制PSO[18]。離散二進(jìn)制PS0與基本PS0的主要區(qū)別在于運(yùn)動(dòng)方程(公式(1)、(2))，離散二進(jìn)制PS0的運(yùn)動(dòng)方程如下：

(4)ifthen；else(5)

式(5)中，是sigmoid函數(shù)；是隨機(jī)矢量的第維分量。微粒的位置只有(0，1)兩種狀態(tài)，而速度與某一概率的門限值相關(guān)，速度值越大，則粒子位置取1的可能性越大，反之越小。在式(4)中，為防止速度過(guò)大，可以設(shè)置了使函數(shù)不會(huì)過(guò)于接近0或1，以保證算法能以一定的概率從一種狀態(tài)躍遷到另一種狀態(tài)?？梢钥闯?，除了式(5)不同，離散二進(jìn)制的PS0與基本PS0幾乎一樣。為了解決實(shí)際中的組合優(yōu)化問(wèn)題，文獻(xiàn)[19]進(jìn)一步推廣了離散二進(jìn)制PSO，提出了離散版的PSO，并將其應(yīng)用于旅行商問(wèn)題(TSP)的求解，取得了較好的效果。離散PSO擴(kuò)展了基本PSO的應(yīng)用領(lǐng)域，給組合優(yōu)化問(wèn)題的求解帶來(lái)更好的應(yīng)用前景。2023/2/2微粒群優(yōu)化算法172.6有拉伸功能的PS0（PSOwithFunction“Stretching”）

拉伸變換函數(shù)最早由Vrahatis于1996年提出[20]，然后Parsopoulos和Plagianakos于2001年將拉伸技術(shù)用于PSO最小化問(wèn)題的求解[21-23]，形成有拉伸功能的PS0，也稱為SPS0，它通過(guò)消除不理想的局部最小而保留全局最小來(lái)避免優(yōu)化時(shí)陷入局部最小。

SPSO在檢測(cè)到目標(biāo)函數(shù)的局部最小點(diǎn)后，立即對(duì)待優(yōu)化的目標(biāo)函數(shù)進(jìn)行拉伸變換。拉伸變換操作的實(shí)現(xiàn)通過(guò)兩步完成[20]：（6）（7）其中，，為任意確定的正常數(shù)，是三值符號(hào)函數(shù)。這一變換，首先通過(guò)式(6)的操作提升目標(biāo)函數(shù)，消除了所有位于之上的局部最小區(qū)域；然后，通過(guò)式(7)的操作將鄰域向上拉伸，使得該點(diǎn)具有更高的適應(yīng)值。由于在兩步操作中，都沒(méi)有改變下部的局部最小區(qū)域，因此對(duì)全局最小值沒(méi)有影響，從而減小了PSO陷入局部最小區(qū)域的概率。文獻(xiàn)[21-23]的研究結(jié)果表明，SPSO具有穩(wěn)健的收斂性和良好的搜索能力，在大多數(shù)高維度、多局部極值的函數(shù)最小值的求解問(wèn)題上與基本PSO相比，搜索成功率顯著提高。但計(jì)算耗時(shí)相應(yīng)地也會(huì)增多。

2023/2/2微粒群優(yōu)化算法18除了以上幾類改進(jìn)的PSO外，還有：隨機(jī)PSO(RandomPSO)[24]

多次啟動(dòng)PSO（Multi-StartPSO）[24]

協(xié)作PSO(CooperativePSO)[25、26]

智能PSO（IntelligentPSO）[27]

非受控分類PSO(Non-dominatedSortingPSO)[28]…………2.7其他改進(jìn)的PS02023/2/2微粒群優(yōu)化算法193.多相微粒群優(yōu)化算法（MPPSO）

3.1算法原理PSO采用全局搜索和局部搜索相結(jié)合的搜索模式，由于慣性權(quán)值的引入，PSO首先進(jìn)行全局搜索以提高搜索速度，一旦找到全局最優(yōu)區(qū)域，立即進(jìn)行局部搜索以得到高精度的搜索結(jié)果。事實(shí)上，PSO有兩個(gè)弱點(diǎn)：①和其他的隨機(jī)算法一樣，為了不易陷入局部最小，擴(kuò)大搜索空間的范圍，導(dǎo)致相當(dāng)多的計(jì)算量用在低適應(yīng)值狀態(tài)的搜索上；②微粒一直不斷地朝一個(gè)方向運(yùn)動(dòng)，直到這個(gè)方向被改變，這很容易導(dǎo)致微粒收斂于適應(yīng)值低的局部最小。如果將微粒分成兩組，每一組有自己的搜索目標(biāo)，即一組以全局最好為搜索目標(biāo)，另一組以局部最好為搜索目標(biāo)。一旦搜索受阻，適應(yīng)值得不到改善而又不能滿足要求，就允許微粒改變搜索方向，即允許進(jìn)行局部最優(yōu)搜索的微粒進(jìn)行全局最優(yōu)搜索，也允許進(jìn)行全局最優(yōu)搜索的微粒進(jìn)行局部最優(yōu)搜索。假定進(jìn)行全局最好位置搜索的速度和進(jìn)行局部最好位置搜索的速度方向相反。這樣在整個(gè)搜索過(guò)程中，微粒有可能經(jīng)常從一個(gè)群體跑到另一個(gè)群體，搜索方式可能經(jīng)常變化，運(yùn)行方向也有可能經(jīng)常改變。這就是多相微粒群優(yōu)化算法的基本原理。它與基本PSO的不同之處有：①將微粒分成多群，增加了搜索的多樣性和搜索的廣泛性。②引入不同的相，每相微粒運(yùn)動(dòng)的方式、方向都會(huì)隨之改變。③從整體來(lái)看，搜索只朝適應(yīng)值得到改善的方向進(jìn)行。

2023/2/2微粒群優(yōu)化算法203.2參數(shù)分析(1)

在MPPSO中，除包含著基本PSO的各參數(shù)，自己的算法參數(shù)主要有：相數(shù)、相變換頻率、組系數(shù)、、和速度重置量。（1）相數(shù)對(duì)離散二進(jìn)制情況來(lái)說(shuō)，由于組系數(shù)和在每相的可能值只能是-1或1，最大只能為4。對(duì)于連續(xù)空間，盡管組系數(shù)和可以隨機(jī)取值，也不可取得太大，通常也不超過(guò)4[31]。（2）相變換頻率決定每相之間交換微粒的快慢。通常有兩種方法確定：經(jīng)驗(yàn)比例法和自適應(yīng)調(diào)整法。在經(jīng)驗(yàn)比例法中，。是最大允許迭代次數(shù)，是[1，]之間的一個(gè)經(jīng)驗(yàn)數(shù)。假如，則每迭代4次后，相之間就交換微粒。即，1-4代某微粒在某一相，第5-8代則在另一相，依次類推。在自適應(yīng)調(diào)整法中，若在某一相中，微粒經(jīng)若干次迭代后適應(yīng)值沒(méi)有改善，就跳到另一相中去。此時(shí)為適應(yīng)值連續(xù)沒(méi)有改善的次數(shù)。假如，若某一相微粒的適應(yīng)值連續(xù)4次都沒(méi)有改善，則下一次就該跳到另一相。2023/2/2微粒群優(yōu)化算法21（3）組系數(shù)、、這三個(gè)系數(shù)實(shí)際上是標(biāo)識(shí)符，它們的值在每相中各不相同。和微粒的運(yùn)動(dòng)速度有關(guān)，必須為正。和微粒當(dāng)前的位置有關(guān)，和全局歷史最好位置有關(guān)，且和的標(biāo)識(shí)值相反[31]。在PSO中，微?？偸浅粋€(gè)方向移動(dòng)，而MPPSO允許微粒朝不同的方向移動(dòng)，所以，若為正，必為負(fù)。（4）速度重置量在隨機(jī)PSO(Random-PSO)和多次啟動(dòng)PSO（Multi-StartPSO）中，為了盡可能不陷入局部極小，往往在效果不好時(shí)采用重新開始的策略[24]。MPPSO也沿用這一思想，經(jīng)過(guò)一定的迭代次數(shù)后就重新設(shè)置速度值。例如，若，則每迭代50次后就重新初始化微粒速度值。同，也可以由自適應(yīng)調(diào)整法確定。3.2參數(shù)分析(2)2023/2/2微粒群優(yōu)化算法22

在MPPSO中，對(duì)某一相的每一代微粒，其第維的速度和位置根據(jù)如下方程變化[31]：

(8)(9)

式中，是當(dāng)前速度，是全局歷史最好位置，是當(dāng)前位置。3.3算法方程2023/2/2微粒群優(yōu)化算法234.PSO的應(yīng)用情況

微粒群優(yōu)化算法與其它進(jìn)化算法一樣，可以解決大多數(shù)優(yōu)化問(wèn)題，目前，其應(yīng)用領(lǐng)域主要有：函數(shù)優(yōu)化、神經(jīng)網(wǎng)絡(luò)訓(xùn)練、系統(tǒng)建模與優(yōu)化以及其他進(jìn)化算法常用的應(yīng)用領(lǐng)域等。

4.1函數(shù)優(yōu)化PSO最直接的應(yīng)用是函數(shù)優(yōu)化問(wèn)題，包括多元函數(shù)優(yōu)化、帶約束優(yōu)化問(wèn)題[32]。Angeline經(jīng)過(guò)大量的實(shí)驗(yàn)研究發(fā)現(xiàn)[11-12]，微粒群優(yōu)化算法在解決一些典型函數(shù)優(yōu)化問(wèn)題時(shí)，能夠取得比遺傳算法更好的優(yōu)化效果。這就說(shuō)明微粒群優(yōu)化算法在解決實(shí)際問(wèn)題時(shí)同樣具有很好的應(yīng)用前景，因?yàn)樵S多實(shí)際問(wèn)題都可以歸結(jié)為函數(shù)優(yōu)化問(wèn)題。此外，PSO還在各種復(fù)雜的優(yōu)化問(wèn)題、動(dòng)態(tài)問(wèn)題和多目標(biāo)優(yōu)化問(wèn)題中得到成功應(yīng)用。例如，文獻(xiàn)[19]將離散PSO用于求解TSP問(wèn)題，文獻(xiàn)[33-34]研究了PSO在噪聲和動(dòng)態(tài)環(huán)境下的優(yōu)化問(wèn)題，文獻(xiàn)[5、28、35]將PSO用于多目標(biāo)優(yōu)化（Multi-objectiveproblem）問(wèn)題等，都取得了較好的效果。

2023/2/2微粒群優(yōu)化算法244.2神經(jīng)網(wǎng)絡(luò)訓(xùn)練PSO是一種非常有潛力的神經(jīng)網(wǎng)絡(luò)訓(xùn)練算法。PSO保留了基于種群的、并行的全局搜索策略，其采用的速度—位移模型，操作簡(jiǎn)單，避免了遺傳算法那樣復(fù)雜的交叉、變異操作，可以簡(jiǎn)單有效地訓(xùn)練神經(jīng)網(wǎng)絡(luò)，已被成功地用來(lái)解決許多實(shí)際問(wèn)題。如：基于PSO的神經(jīng)網(wǎng)絡(luò)應(yīng)用于醫(yī)療診斷[36]，分析人的顫抖。對(duì)人顫抖的診斷，包括帕金森(Parkinson)病和原發(fā)性顫抖，是一個(gè)非常具有挑戰(zhàn)性的領(lǐng)域。PSO已成功地應(yīng)用于訓(xùn)練一個(gè)用來(lái)快速和準(zhǔn)確地辨別普通個(gè)體和有顫抖個(gè)體的神經(jīng)網(wǎng)絡(luò)，而網(wǎng)絡(luò)的輸入則為從一個(gè)活動(dòng)變化記錄系統(tǒng)中獲得的歸一化的移動(dòng)振幅。文獻(xiàn)[25]將PSO用于訓(xùn)練積單元神經(jīng)網(wǎng)絡(luò)（productunitneuralnetworks）進(jìn)行模式分類，文獻(xiàn)[37]將PSO用于訓(xùn)練模糊前向神經(jīng)網(wǎng)絡(luò)進(jìn)行模式分類，從而從網(wǎng)絡(luò)的輸出中抽取規(guī)則，文獻(xiàn)[38,39]將基于PSO的神經(jīng)網(wǎng)絡(luò)應(yīng)用于香港市區(qū)環(huán)境污染狀況的分析，也都得到了很好的效果。

2023/2/2微粒群優(yōu)化算法254.3其他應(yīng)用實(shí)例(1)PSO也被成功地應(yīng)用于電力系統(tǒng)領(lǐng)域。如：文獻(xiàn)[27]將智能PSO應(yīng)用于電磁場(chǎng)的優(yōu)化分析，文獻(xiàn)[40]將PSO用于多機(jī)電力系統(tǒng)穩(wěn)定器的優(yōu)化設(shè)計(jì)，文獻(xiàn)[14]將交叉PSO用于電力分布系統(tǒng)電壓、電流及負(fù)載的狀態(tài)分布預(yù)測(cè)和狀態(tài)值估計(jì)，文獻(xiàn)[41]使用PSO對(duì)一個(gè)電氣設(shè)備的功率反饋和電壓進(jìn)行控制，采用一種二進(jìn)制與實(shí)數(shù)混合的PSO來(lái)決定對(duì)連續(xù)和離散的控制變量的控制策略，以得到穩(wěn)定的電壓，文獻(xiàn)[42]將PSO用于電力系統(tǒng)負(fù)荷模型的參數(shù)辨識(shí)，這些應(yīng)用都取得好的效果。在電機(jī)和機(jī)械設(shè)計(jì)方面，文獻(xiàn)[43]將PSO用于機(jī)械結(jié)構(gòu)設(shè)計(jì)中尺寸和形狀的優(yōu)化設(shè)計(jì)，得到比遺傳算法和基于梯度下降算法更好的效果，文獻(xiàn)[44]

采用PSO對(duì)粗軋寬展控制模型進(jìn)行優(yōu)化，結(jié)果表明優(yōu)化后的模型效果明顯優(yōu)于原來(lái)模型，體現(xiàn)了PSO在優(yōu)化領(lǐng)域的優(yōu)越性。文獻(xiàn)[45]將PSO應(yīng)用于發(fā)電機(jī)參數(shù)辨識(shí)，提出了一種同步發(fā)電機(jī)參數(shù)辨識(shí)的計(jì)算框架，結(jié)果表明，這種參數(shù)辨識(shí)算法簡(jiǎn)單實(shí)用、具有可行性，文獻(xiàn)[46]結(jié)合直線感應(yīng)電機(jī)的設(shè)計(jì)特點(diǎn)，利用改進(jìn)的PSO對(duì)電機(jī)進(jìn)行了優(yōu)化設(shè)計(jì)，都取得了滿意的效果。2023/2/2微粒群優(yōu)化算法26

在半導(dǎo)體器件設(shè)計(jì)方面，文獻(xiàn)[47]將PSO用于門級(jí)組合邏輯電路的設(shè)計(jì),得到比遺傳算法更好的效果。文獻(xiàn)[48]將改進(jìn)的PSO用于IIR數(shù)字濾波器的設(shè)計(jì)，仿真結(jié)果表明，與設(shè)計(jì)IIR數(shù)字濾波器的遺傳優(yōu)化算法相比，PSO具有更好的優(yōu)化性能。此外，還有PSO用于實(shí)際系統(tǒng)的模擬[49]和控制[50]、通訊[51]、計(jì)算機(jī)應(yīng)用[52]、生物工程[53]、化學(xué)工程[54]等領(lǐng)域的應(yīng)用報(bào)道，也都取得很好的效果。

4.3其他應(yīng)用實(shí)例(2)2023/2/2微粒群優(yōu)化算法275.PSO的研究展望(1)

PSO是一種新興的基于群體智慧的進(jìn)化算法，人們對(duì)其的研究剛剛開始,遠(yuǎn)沒(méi)有像遺傳算法那樣具有堅(jiān)實(shí)的應(yīng)用基礎(chǔ)、系統(tǒng)的分析方法和良好的理論基礎(chǔ)，許多問(wèn)題還有待于進(jìn)一步研究：①．應(yīng)用領(lǐng)域的拓展。雖然PSO已被成功地用于常規(guī)測(cè)試函數(shù)的優(yōu)化求解問(wèn)題、簡(jiǎn)單系統(tǒng)的建模和優(yōu)化問(wèn)題及神經(jīng)網(wǎng)絡(luò)的訓(xùn)練問(wèn)題。但在其它其他眾多領(lǐng)域的應(yīng)用許多還處于研究階段，可見(jiàn)報(bào)道還不多，關(guān)于MPPSO的應(yīng)用研究還沒(méi)有相關(guān)報(bào)道，應(yīng)用領(lǐng)域有待于拓展。開拓PSO新的應(yīng)用領(lǐng)域、在應(yīng)用的廣度和深度上進(jìn)行拓展都是很有價(jià)值的工作。②．算法參數(shù)的確定。PSO中的一些參數(shù)如加速系數(shù)、慣性權(quán)值以及微粒個(gè)數(shù)等往往依賴于具體問(wèn)題、由應(yīng)用經(jīng)驗(yàn)、經(jīng)多次測(cè)試來(lái)確定，并不具有通用性。而對(duì)于MPPSO中的參數(shù)確定的研究還處于剛起步階段。因此，如何方便有效地選擇算法參數(shù)，也是迫切需要研究的問(wèn)題。2023/2/2微粒群優(yōu)化算法28③．算法的改進(jìn)研究。由于實(shí)際問(wèn)題的多樣性和復(fù)雜性，盡管目前已提出了MPPSO和許多改進(jìn)的PSO，但遠(yuǎn)不能滿足實(shí)際需要，研究新的改進(jìn)的PSO以便能更好地用于實(shí)際問(wèn)題的求解也是很有意義的工作。就目前來(lái)看，將PSO與其他優(yōu)化技術(shù)進(jìn)行比較、更深入地了解它們的性能，并與其他進(jìn)化算法、最小二乘、模糊邏輯、神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)算法、復(fù)雜系統(tǒng)自組織與混沌理論以及其他優(yōu)化技術(shù)相結(jié)合，根據(jù)不同的優(yōu)化問(wèn)題提出相應(yīng)的PSO和改進(jìn)的MPPSO是PSO當(dāng)前的研究熱點(diǎn)。④．算法的基礎(chǔ)理論研究。與PSO相應(yīng)的相對(duì)鮮明的生物社會(huì)特性基礎(chǔ)相比，PSO的數(shù)學(xué)基礎(chǔ)顯得相對(duì)薄弱，缺乏深刻且具有普遍意義的理論分析，不能對(duì)PSO的工作機(jī)理給出恰當(dāng)?shù)臄?shù)學(xué)解釋；而MPPSO的基礎(chǔ)理論更為薄弱。雖然PSO的有效性、收斂性等性能在一些實(shí)例和測(cè)試函數(shù)的仿真研究中得到驗(yàn)證，但沒(méi)能在理論上進(jìn)行嚴(yán)謹(jǐn)推敲和嚴(yán)格證明。5.PSO的研究展望(2)2023/2/2微粒群優(yōu)化算法29因此，對(duì)PSO的基礎(chǔ)理論研究非常重要，包括對(duì)不同搜索問(wèn)題的收斂性、收斂速度估計(jì)、防止陷入局部極小、參數(shù)設(shè)置的影響和實(shí)現(xiàn)難易程度等。雖然目前也出現(xiàn)了一些有益的探索，但還是遠(yuǎn)遠(yuǎn)不夠的，還需要做大量深入細(xì)致的研究。對(duì)微粒群算法的研究，無(wú)論是在理論上還是在實(shí)踐上都處于發(fā)展之中，可見(jiàn)的研究成果還相當(dāng)少，隨著PSO和相關(guān)學(xué)科的發(fā)展和研究的進(jìn)一步深入，PSO一定會(huì)得到越來(lái)越廣泛的應(yīng)用。5.PSO的研究展望(3)2023/2/2微粒群優(yōu)化算法30微粒群優(yōu)化算法解題步驟舉例：求上述函數(shù)的最小值。

用PSO搜索最優(yōu)解時(shí)，PSO算法參數(shù)設(shè)置如下：

PopSize=6；MaxIt=2000；ErrGoal=1e-8;maxw=1.5；minw=0.1；c1=2.0;c2=2.0;inertdec=(maxw-minw)/MaxIt;w=maxw-(iter-1)*inertdec;2023/2/2微粒群優(yōu)化算法311.初始化，隨機(jī)產(chǎn)生初始粒子群和初始速度。相應(yīng)的適應(yīng)值（也為初始個(gè)體歷史最佳適應(yīng)值）為：隨機(jī)產(chǎn)生的初始位置為：全局最佳：2023/2/2微粒群優(yōu)化算法32隨機(jī)產(chǎn)生的初始速度為：2.根據(jù)公式修正各粒子的速度和位置v(k+1)=w*v(k)+c1*R1.*(pi(k)-p(k))+c2*R2.*(pg(k)-p(k))p(k+1)=p(k)+v(k+1)2023/2/2微粒群優(yōu)化算法33假如修正后計(jì)算得到各粒子的新位置為：計(jì)算相應(yīng)的適應(yīng)值，并調(diào)整各個(gè)體最優(yōu)適應(yīng)值和位置全局最佳變?yōu)椋?023/2/2微粒群優(yōu)化算法34各個(gè)體歷史最優(yōu)適應(yīng)值：相應(yīng)的各個(gè)體歷史最優(yōu)位置：再根據(jù)公式進(jìn)行下一步的修正各粒子的速度和位置v(k+1)=w*v(k)+c1*R1.*(pi(k)-p(k))+c2*R2.*(pg(k)-p(k))p(k+1)=p(k)+v(k+1)2023/2/2微粒群優(yōu)化算法35二、微粒群優(yōu)化算法的應(yīng)用實(shí)例

在函數(shù)優(yōu)化中的應(yīng)用

在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用

在過(guò)程控制中的應(yīng)用2023/2/2微粒群優(yōu)化算法361.在函數(shù)優(yōu)化中的應(yīng)用(1)

通常，將所要優(yōu)化的參數(shù)集中在一起，構(gòu)成一個(gè)微粒，即要優(yōu)化的各參數(shù)是微粒的一維。將目標(biāo)函數(shù)作為評(píng)判微粒優(yōu)劣的標(biāo)準(zhǔn)，即將某微粒的各參數(shù)代入目標(biāo)函數(shù)求與其對(duì)應(yīng)的適應(yīng)值，根據(jù)適應(yīng)值的大小評(píng)判微粒的優(yōu)劣。搜索完畢后，微粒的歷史全局最優(yōu)位置便是所要求的優(yōu)化參數(shù)，對(duì)應(yīng)的歷史全局最優(yōu)適應(yīng)值便是所要求的優(yōu)化函數(shù)的最優(yōu)值。由于搜索的隨機(jī)性，每次搜索的結(jié)果可能不同。若算法參數(shù)選得不當(dāng)，基本PSO可能會(huì)陷入局部最小。對(duì)于復(fù)雜問(wèn)題，有些改進(jìn)的PSO往往能有效地逃脫局部最小，但往往也只是以一定的概率獲得更精確的優(yōu)化解。2023/2/2微粒群優(yōu)化算法371.在函數(shù)優(yōu)化中的應(yīng)用(2)

用PSO搜索最優(yōu)解時(shí)，PSO算法參數(shù)設(shè)置如下：

PopSize=20；MaxIt=2000；ErrGoal=1e-18;maxw=1.5；minw=0.1；c1=2.0;c2=2.0;inertdec=(maxw-minw)/MaxIt;w=maxw-(iter-1)*inertdec;測(cè)試函數(shù)1選為2元Rosenbrock函數(shù)，求其最小解：約束條件：2023/2/2微粒群優(yōu)化算法381.在函數(shù)優(yōu)化中的應(yīng)用(3)2023/2/2微粒群優(yōu)化算法391.在函數(shù)優(yōu)化中的應(yīng)用(4)最好位置：x1=1.0000,x2=1.0000最好適應(yīng)值為:4.6045e-017迭代次數(shù)為:2000次2023/2/2微粒群優(yōu)化算法401.在函數(shù)優(yōu)化中的應(yīng)用(5)測(cè)試函數(shù)2選函數(shù)，求其最大值：約束條件：

用PSO搜索最優(yōu)解時(shí)，PSO算法參數(shù)設(shè)置如下：

PopSize=30；MaxIt=2500；maxw=1.8；

minw=0.1；c1=2.0;c2=2.0;inertdec=(maxw-minw)/MaxIt;w=maxw-(iter-1)*inertdec;2023/2/2微粒群優(yōu)化算法411.在函數(shù)優(yōu)化中的應(yīng)用(6)2023/2/2微粒群優(yōu)化算法421.在函數(shù)優(yōu)化中的應(yīng)用(7)最好位置：x1=12.1000,x2=5.7250最好適應(yīng)值為:38.7328迭代次數(shù)為:25002023/2/2微粒群優(yōu)化算法431.在函數(shù)優(yōu)化中的應(yīng)用(8)基本PSO:

最好位置：x1=12.1000,x2=5.7250最好適應(yīng)值為:38.7328改進(jìn)PSO:

最好位置：x1=11.6255,x2=5.7250最好適應(yīng)值為:38.8503迭代次數(shù)均為:1500次

2023/2/2微粒群優(yōu)化算法442.在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用(1)

本文以實(shí)際裝置的操作數(shù)據(jù)為輸入、產(chǎn)品質(zhì)量指標(biāo)為輸出、用前向神經(jīng)網(wǎng)絡(luò)（NeuralNetworks,NN）建立產(chǎn)品質(zhì)量的軟測(cè)量模型，用PSO搜索NN的最佳權(quán)值和最優(yōu)閥值，便可得到所需的基于PSONN的產(chǎn)品質(zhì)量軟測(cè)量模型。并與基于BPNN的軟測(cè)量模型進(jìn)行比較。建模時(shí)，以NN的各連接權(quán)值、各閥值作為微粒的維數(shù)。經(jīng)過(guò)搜索，最優(yōu)微粒的位置便是NN的最佳連接權(quán)值和最優(yōu)閥值。本文是隨機(jī)選擇一定量的數(shù)據(jù)作為訓(xùn)練樣本，余下的數(shù)據(jù)作為檢驗(yàn)樣本。建模時(shí)，訓(xùn)練樣本和檢驗(yàn)樣本的數(shù)據(jù)順序均隨機(jī)重排，以便減小由于人為數(shù)據(jù)安排帶來(lái)的影響、有效地測(cè)試出最優(yōu)模型。2023/2/2微粒群優(yōu)化算法452.在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用(2)

第1套裝置選用某一20萬(wàn)噸/年的催化裂化裝置（FCCU），用PSO神經(jīng)網(wǎng)絡(luò)建立該裝置分餾塔粗汽油干點(diǎn)的軟測(cè)量模型，并與BPNN的進(jìn)行比較。訓(xùn)練過(guò)程中歷史全局最優(yōu)適應(yīng)值軌跡趨勢(shì)如圖所示：2023/2/2微粒群優(yōu)化算法462.在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用(3)模型的訓(xùn)練結(jié)果對(duì)比、泛化結(jié)果對(duì)比如圖所示：2023/2/2微粒群優(yōu)化算法472.在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用(4)組合模型的訓(xùn)練結(jié)果與實(shí)際值的對(duì)比、泛化結(jié)果對(duì)比如圖所示：2023/2/2微粒群優(yōu)化算法482.在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用(5)組合模型與BPNN的訓(xùn)練結(jié)果對(duì)比、泛化結(jié)果對(duì)比如圖所示：2023/2/2微粒群優(yōu)化算法492.在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用(6)

第2套裝置選用某一80萬(wàn)噸/年的催化裂化裝置（FCCU），用PSO神經(jīng)網(wǎng)絡(luò)建立該裝置主分餾塔粗汽油干點(diǎn)的軟測(cè)量模型，并與BPNN的進(jìn)行比較。訓(xùn)練過(guò)程中歷史全局最優(yōu)適應(yīng)值軌跡趨勢(shì)如圖所示：2023/2/2微粒群優(yōu)化算法502.在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用(7)基于PSONN的軟測(cè)量模型的訓(xùn)練結(jié)果、泛化結(jié)果與實(shí)際值的對(duì)比：2023/2/2微粒群優(yōu)化算法512.在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用(8)2023/2/2微粒群優(yōu)化算法522.在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用(9)

由于BP算法在尋找最優(yōu)權(quán)值和閥值是單一初始值以梯度下降模式進(jìn)行；而PSO是以一群微粒，即很多個(gè)初始值采用依據(jù)自己的經(jīng)驗(yàn)結(jié)合群體的經(jīng)驗(yàn)、隨機(jī)搜索模式進(jìn)行。在對(duì)復(fù)雜的煉油裝置建立產(chǎn)品質(zhì)量軟測(cè)量模型時(shí)，PSO算法陷入局部極小的概率大大降低，PSO算法比BP算法更容易找到全局最優(yōu)解。由于BP算法在訓(xùn)練NN時(shí)，反向調(diào)節(jié)權(quán)值大都是采用梯度下降模式，需要求出神經(jīng)元傳遞函數(shù)的導(dǎo)數(shù)和目標(biāo)函數(shù)的導(dǎo)數(shù)，導(dǎo)致它的隱含層數(shù)不宜過(guò)多，目前基本上不超過(guò)2層。而PSO在搜索時(shí)采用依據(jù)自己的經(jīng)驗(yàn)結(jié)合群體的經(jīng)驗(yàn)、隨機(jī)搜索模式，無(wú)需求導(dǎo)，因而神經(jīng)網(wǎng)絡(luò)的層數(shù)可以不受限制。一旦基于PSO算法的前向NN和基于BP算法的前向NN都沒(méi)陷入局部極小、都找到最優(yōu)參數(shù)，則兩模型的性能（擬合性能和泛化性能）相當(dāng)。

PSONN對(duì)訓(xùn)練數(shù)據(jù)的適應(yīng)性（收斂性）比BPNN更好。2023/2/2微粒群優(yōu)化算法533.在過(guò)程控制中的應(yīng)用(1)

圖中冷水和熱水分別通過(guò)調(diào)節(jié)閥1和調(diào)節(jié)閥2進(jìn)入容器，冷熱水混合后通過(guò)出水閥3給下一環(huán)節(jié)提供恒溫恒壓用水。系統(tǒng)通過(guò)調(diào)節(jié)閥1保持容器內(nèi)水溫恒定，通過(guò)調(diào)節(jié)閥2保持容器內(nèi)液位恒定，以使出水壓力恒定。其中，,,為控制變量；,,為體積流量；,為溫度；為溫度給定值；為液位給定值。

2023/2/2微粒群優(yōu)化算法543.在過(guò)程控制中的應(yīng)用(2)對(duì)該系統(tǒng)，首先實(shí)施常規(guī)PID控制；然后實(shí)施Two-Phases-PSO-PID控制。采樣時(shí)間為0.5秒，圖中橫坐標(biāo)為仿真中迭代步數(shù)。

對(duì)于PSO-PID控制來(lái)說(shuō)，通常將三參數(shù)Kp、Ki、Kd作為每一微粒所包含的維數(shù)。就本系統(tǒng)而言，因有兩路控制，在實(shí)施PSO-PID時(shí)，采用兩相PSO，一相以溫度回路的誤差最小為優(yōu)化目標(biāo)，另一相以液位回路的誤差最小為優(yōu)化目標(biāo)。兩相微粒通過(guò)系統(tǒng)而關(guān)聯(lián)。2023/2/2微粒群優(yōu)化算法553.在過(guò)程控制中的應(yīng)用(3)溫度給定值增加10%，液位給定值減小10%時(shí)的輸出變量和控制作用在常規(guī)PID控制下的變化曲線。2023/2/2微粒群優(yōu)化算法563.在過(guò)程控制中的應(yīng)用(4)圖中為溫度給定值增加10%，液位給定值減小6%時(shí)，常規(guī)PID和PSO-PID控制下輸出變量變化趨勢(shì)的對(duì)比。兩圖為兩次不同的PSO-PID控制參數(shù)時(shí)的輸出變量的變化曲線。2023/2/2微粒群優(yōu)化算法573.在過(guò)程控制中的應(yīng)用(5)

由于PSO-PID三參數(shù)的初始值完全可按照常規(guī)PID的方法確定，且又以輸出變量的最小誤差為優(yōu)化目標(biāo)，因而采用PSO-PID控制可以獲得滿意的關(guān)于輸出量的控制效果。用PSO-PID，在優(yōu)選微粒最優(yōu)位置（即：最佳三參數(shù)）時(shí)，如何結(jié)合實(shí)際、選擇符合實(shí)際情況的實(shí)用目標(biāo)函數(shù)來(lái)評(píng)判各微粒的優(yōu)劣是一難點(diǎn)。盡管輸出量的控制效果得到明顯的改善，但控制器的控制作用的性能并沒(méi)有得到改善。如何在輸出量的控制效果得到改善的同時(shí)，控制器的控制作用的性能也能得到改善，還是有待于解決的問(wèn)題。本文只研究了PSO-PID控制在過(guò)程控制中的應(yīng)用，PSO在過(guò)程控制中的應(yīng)用研究還有待于深入。關(guān)于這方面的研究，國(guó)內(nèi)外可見(jiàn)的報(bào)道極少。2023/2/2微粒群優(yōu)化算法58三、與其他算法的比較1.與BP神經(jīng)網(wǎng)絡(luò)的比較(1)

從搜索方式來(lái)看，PSO不是從一個(gè)初始點(diǎn)開始、而是從多個(gè)初始點(diǎn)開始、依據(jù)自己的搜索經(jīng)驗(yàn)和同伴的搜索經(jīng)驗(yàn)、采用全局搜索和局部搜索相結(jié)合的隨機(jī)搜索方式獲取最優(yōu)解，因而可以有效地防止搜索過(guò)程收斂于局部最優(yōu)、以較大的可能獲得全部的最優(yōu)解。而BPNN是從一個(gè)初始點(diǎn)開始、采用梯度下降的確定性搜索方式，因而容易陷入局部極小。但PSO的計(jì)算量會(huì)大大增大。因搜索方式的不同，PSO對(duì)目標(biāo)函數(shù)、傳遞函數(shù)等函數(shù)的性質(zhì)要求不高。而BPNN則要求目標(biāo)函數(shù)、神經(jīng)元的傳遞函數(shù)必須可導(dǎo)。這使得PSO的應(yīng)用范圍會(huì)比BPNN的應(yīng)用范圍大大拓寬、應(yīng)用方式也更為靈活。2023/2/2微粒群優(yōu)化算法591.與BP神經(jīng)網(wǎng)絡(luò)的比較(2)

從對(duì)單峰連續(xù)函數(shù)的優(yōu)化來(lái)說(shuō)，由于BP算法采用梯度下降方法，只要它的權(quán)值適當(dāng)，會(huì)很容易地得到最優(yōu)解。當(dāng)然，PSO算法若參數(shù)得當(dāng)、也能很容易地獲得最優(yōu)解。但是，BP算法的計(jì)算量要小的多，從這點(diǎn)來(lái)說(shuō)，BP算法的性能好。但對(duì)于復(fù)雜問(wèn)題的優(yōu)化來(lái)說(shuō)，自然是PSO要好。由于BP算法調(diào)權(quán)公式的推導(dǎo)需要較復(fù)雜的偏導(dǎo)計(jì)算。而PSO算法微粒速度、位置的更新很簡(jiǎn)單、更方便。所以，從編程實(shí)現(xiàn)的角度來(lái)說(shuō)，PSO算法要優(yōu)于BP算法。通過(guò)實(shí)驗(yàn)感覺(jué)：在訓(xùn)練神經(jīng)網(wǎng)絡(luò)時(shí)，PSO算法對(duì)數(shù)據(jù)體的適應(yīng)性和收斂性比BP算法對(duì)數(shù)據(jù)體的適應(yīng)性和收斂性要好。從學(xué)習(xí)的角度來(lái)說(shuō)，應(yīng)該是PSO算法比BP算法容易掌握。2023/2/2微粒群優(yōu)化算法602.與遺傳算法（GA）的比較遺傳算法參考書：米凱利維茨[美]演化算法---遺傳算法和數(shù)據(jù)編碼的結(jié)合[M]周家駒,等譯

北京：科學(xué)出版社，2000（第2章，第24-33頁(yè)）

PSO與GA都是新興的進(jìn)化計(jì)算算法，兩者有很多類似的地方。都從多個(gè)初始點(diǎn)開始的并行隨機(jī)搜索方法，都可以有效地防止搜索過(guò)程收斂于局部最優(yōu)、以較大的可能獲得全局最優(yōu)解。不過(guò)，在迭代時(shí)，PSO是依據(jù)自己的搜索經(jīng)驗(yàn)和同伴的搜索經(jīng)驗(yàn)、采用全局搜索和局部搜索相結(jié)合搜索方式得到微粒下一個(gè)的位置；而GA是采用優(yōu)勢(shì)個(gè)體的交叉、變異的方式產(chǎn)生下一代。因而，PSO的計(jì)算較GA要簡(jiǎn)單的多、收斂速度也比GA快。由于PSO的簡(jiǎn)潔，它的實(shí)用性比GA要好得多，編程實(shí)現(xiàn)相當(dāng)容易(若GA是二進(jìn)制編碼，還有編碼的問(wèn)題及計(jì)算量相當(dāng)大)。2023/2/2微粒群優(yōu)化算法61參考文獻(xiàn)：[1]KennedyJ,andEberhartRC.Particleswarmoptimization[A].Proc.IEEEInt.Conf.onNeuralNetworks[C].Perth,WA,Australia,1995:1942-1948[2]EberhartRC,andKennedyJ.Anewoptimizerusingparticleswarmtheory[A].Proc.theSixthInt.SymposiumonMicroMachineandHumanScience[C].Nagoya,Japan,1995:39-43.[3]EberhartRC,andShiY.Particleswarmoptimization:developments,applicationsandresources[A].Proc.2001CongressonEvolutionaryComputation[C].Seoul,SouthKorea,2001:81-86.[4]ShiY,andEberhartRC.Amodifiedparticleswarmoptimizer[A].Proc.IEEEInt.Conf.onEvolutionaryComputation[C].Anchorage,AK,USA,1998:69-73.[5]G.VenterandJ.Sobieszczanski-SobieskiMultidisciplinaryoptimizationofatransportaircraftwingusingparticleswarmoptimization[J]StructMultidiscOptim26,2004:121-131[6]ShiY,andEberhartRC.FuzzyAdaptiveParticleSwarmOptimization[A].Proc.IEEEInt.Conf.onEvolutionaryComputation[C].Seoul,SouthKorea,2001.[7]K.E.ParsopoulosandM.N.VrahatisRecentapproachestoglobaloptimizationproblemsthroughParticleSwarmOptimization[J]

NaturalComputing:Netherlands2002:235–3062023/2/2微粒群優(yōu)化算法62[8]CarlisleAandDozierGAnOff-The-ShelfPSO.ProceedingsoftheParticleSwarm[J]OptimizationWorkshop,2001:1–6[9]MauriceClerc,TheSwarmandtheQueen:TowardsaDeterministicandAdaptiveParticleSwarmOptimization[J]Proc.CongressonEvolutionaryComputation,Washington,DC,1999:1927-1930[10]R.C.EberhartandYShi,ComparingInertiaWeightsandConstrictionFactorsinParticleSwarmOptimizationProc.CongressonEvolutionaryComputation[J]Sandiego,California,USA,2000:84-88[11