一種基于群體智能的聚類(lèi)算法CSI

1、一種基于群體智能的聚類(lèi)算法CSI吳斌 史忠植（中科院計(jì)算技術(shù)研究所智能信息處理開(kāi)放實(shí)驗(yàn)室 北京 100080）摘要：群居性生物的群體行為涌現(xiàn)的群體智能正在成為人工智能的研究熱點(diǎn)。本文對(duì)基于群體智能的聚類(lèi)算法進(jìn)行了研究，在蟻群打掃巢穴的基本解釋模型基礎(chǔ)上提出了群體相似度及群體相似系數(shù)、概率轉(zhuǎn)換函數(shù)等重要概念，系統(tǒng)地形成了一種基于群體智能的聚類(lèi)算法；本文還提出了一種簡(jiǎn)化的概率轉(zhuǎn)換函數(shù)，減小了概率轉(zhuǎn)換函數(shù)參數(shù)選取的難度；接著本文分析了群體相似系數(shù)對(duì)聚類(lèi)算法的重要性。實(shí)驗(yàn)結(jié)果表明這種基于群體智能的聚類(lèi)算法具有較好的聚類(lèi)性能。關(guān)鍵字：群體智能自組織聚類(lèi)群體相似度概率轉(zhuǎn)換函數(shù)1 引言科學(xué)家從豐富多彩的自然

2、界獲得了無(wú)數(shù)啟迪。群居性生物的群體行為涌現(xiàn)的群體智能正在成為人工智能的研究熱點(diǎn)。啟發(fā)于群居性生物的尋食、打掃巢穴等行為而設(shè)計(jì)的解決實(shí)際問(wèn)題的算法獲得了令人驚奇的成功。這些算法在組合優(yōu)化、通信網(wǎng)絡(luò)和機(jī)器人領(lǐng)域的應(yīng)用實(shí)例的數(shù)量正成指數(shù)地增長(zhǎng)1,2,3。如果一個(gè)團(tuán)隊(duì)的生存能力對(duì)于個(gè)體的生存能力是必需的則稱(chēng)這個(gè)團(tuán)隊(duì)提供了集體智能。Bonabeau等人認(rèn)為群體智能是任何啟發(fā)于群居性昆蟲(chóng)群體和其它動(dòng)物群體的集體行為而設(shè)計(jì)的算法和分布式問(wèn)題解決裝置4,5。群體智能的特點(diǎn)是最小智能但自治的個(gè)體利用個(gè)體與個(gè)體和個(gè)體與環(huán)境的交互作用實(shí)現(xiàn)完全分布式控制，并具有自組織、可擴(kuò)展性、健壯性等特性。蟻群算法是群體智能具有代

3、表性的解決組合優(yōu)化問(wèn)題的算法。Marco Dorigo等人將蟻群算法先后應(yīng)用于TSP問(wèn)題、資源二次分配問(wèn)題等經(jīng)典優(yōu)化問(wèn)題，得到了較好的效果3。蟻群算法在電信路由控制方面的應(yīng)用被認(rèn)為是目前較好的一種算法6。蟻群算法啟發(fā)于蟻群合作獲取食物的模型，它通過(guò)信息素的發(fā)布和蒸發(fā)調(diào)節(jié)螞蟻個(gè)體尋食行為，由此找到最短路徑。解決組合優(yōu)化問(wèn)題的蟻群算法來(lái)源于蟻群尋食行為，而啟發(fā)于蟻群合作蟻巢分類(lèi)的相關(guān)技術(shù)因?yàn)闆](méi)有系統(tǒng)的性能評(píng)價(jià)，目前還處于初步研究和概念證實(shí)的階段1 。觀(guān)察群居螞蟻的昆蟲(chóng)學(xué)家發(fā)現(xiàn)：螞蟻的幼蟲(chóng)和食物不是隨機(jī)地分散在蟻巢內(nèi)，而是按類(lèi)別分別堆放。Deneubourg 等人提出了一種行為解釋的基本模型7，巢的

4、空間結(jié)構(gòu)產(chǎn)生于簡(jiǎn)單的局部的相互作用而不需要任何集中控制或者全局環(huán)境的表示。Beckers等人將這個(gè)模型應(yīng)用于機(jī)器人技術(shù)，證明了使用幾個(gè)簡(jiǎn)單機(jī)器人而不是一個(gè)復(fù)雜的機(jī)器人快速完成復(fù)雜任務(wù)的可能性8,9。Lumer 和 Faieta將這個(gè)模型擴(kuò)展到對(duì)可以依據(jù)相似性測(cè)量比較的對(duì)象處理，證實(shí)了基本模型在數(shù)據(jù)分析中的應(yīng)用10。Kuntz等人則將模型擴(kuò)展應(yīng)用于圖的分割問(wèn)題及VLSI設(shè)計(jì)11,12。本文對(duì)基于群體智能的聚類(lèi)算法進(jìn)行了研究，在基本解釋模型的基礎(chǔ)上提出了群體相似度及群體相似系數(shù)、概率轉(zhuǎn)換函數(shù)等重要概念，系統(tǒng)地形成了一種基于群體智能的聚類(lèi)算法,并提出了一種簡(jiǎn)化的概率轉(zhuǎn)換函數(shù)。與Lumer 和 Fai

5、eta的模擬實(shí)驗(yàn)數(shù)據(jù)不同，本文選用了三個(gè)標(biāo)準(zhǔn)的機(jī)器學(xué)習(xí)數(shù)據(jù)庫(kù)作為測(cè)試數(shù)據(jù)庫(kù)。算法的基本思路是：將待聚類(lèi)的對(duì)象隨機(jī)放置一個(gè)兩維網(wǎng)格的環(huán)境中，每一個(gè)對(duì)象有一個(gè)隨機(jī)初始位置，每一只螞蟻能夠在網(wǎng)格上移動(dòng)，并測(cè)量當(dāng)前對(duì)象在局部環(huán)境的群體相似度，通過(guò)概率轉(zhuǎn)換函數(shù)將群體相似度轉(zhuǎn)換成移動(dòng)對(duì)象的概率，以這個(gè)概率拾起或放下對(duì)象。蟻群聯(lián)合行動(dòng)導(dǎo)致屬于同一等價(jià)類(lèi)的對(duì)象在同一個(gè)空間區(qū)域能聚積在一起。與經(jīng)典的分級(jí)聚類(lèi)算法和K均值動(dòng)態(tài)聚類(lèi)算法相比，基于群體智能的聚類(lèi)算法CSI具有群體智能算法的共同特點(diǎn)，它利用個(gè)體與個(gè)體和個(gè)體與環(huán)境的交互作用，不必預(yù)設(shè)聚類(lèi)中心的數(shù)目，實(shí)現(xiàn)自組織聚類(lèi)過(guò)程，具有健壯性、可視化等特點(diǎn)。自組織是指具

6、有耗散結(jié)構(gòu)、具有自催化和定向漲落機(jī)制的開(kāi)放式系統(tǒng)在演變過(guò)程中呈現(xiàn)出來(lái)的全局有序現(xiàn)象，如生命現(xiàn)象、熱對(duì)流現(xiàn)象等?；谌后w智能的聚類(lèi)算法CSI同樣具備自組織計(jì)算的主要特征：（1）問(wèn)題結(jié)構(gòu)組成的不明確性，結(jié)構(gòu)的形成是系統(tǒng)在對(duì)環(huán)境信息的不斷處理中自發(fā)生成的；（2）結(jié)構(gòu)變化沒(méi)有明確的方向，其知識(shí)的積累完全取決于所處理的環(huán)境信息中存在的規(guī)律性；（3）它強(qiáng)調(diào)大量個(gè)體的協(xié)調(diào)作用，是一個(gè)高度自主協(xié)同的過(guò)程，它通過(guò)大量的局部相互作用可以產(chǎn)生全局的整體效應(yīng)。通過(guò)設(shè)計(jì)局部的個(gè)體的交互規(guī)則，可以實(shí)現(xiàn)全局自組織的功能14。本文組織如下：第2節(jié)介紹Deneubourg 提出的基本模型和相關(guān)的數(shù)據(jù)分析算法；第3節(jié)說(shuō)明基于群體

7、智能的聚類(lèi)算法的基本概念和思路及算法描述；第4節(jié)介紹實(shí)驗(yàn)結(jié)果和分析；最后是結(jié)論。2 基本模型Chretien用Lasius niger螞蟻?zhàn)隽舜罅繉?shí)驗(yàn)研究的巢穴組織。工蟻能在幾小時(shí)內(nèi)將大小不同的尸體聚成幾類(lèi)。在這種聚集現(xiàn)象之上的基本機(jī)制是工蟻搬動(dòng)不同對(duì)象之間的吸引度：小的對(duì)象聚類(lèi)中心通過(guò)吸引工蟻存放更多的同類(lèi)對(duì)象變大。這是一個(gè)正反饋導(dǎo)致形成更大的聚類(lèi)中心。在這種情況下，在環(huán)境中聚類(lèi)中心的分布起到了非直接通信（stigmergy）的作用。Deneubourg等人提出蟻群聚類(lèi)現(xiàn)象解釋模型。這個(gè)模型以下稱(chēng)基本模型（BM）依靠的一般思想是單獨(dú)的對(duì)象將被拾起并放到其它有更多這種類(lèi)型對(duì)象的地方。假設(shè)環(huán)境中

8、只有一種類(lèi)型的對(duì)象，由一個(gè)當(dāng)前沒(méi)有負(fù)載對(duì)象的隨機(jī)移動(dòng)的螞蟻拾起一個(gè)對(duì)象的概率是： (1)其中f 是在螞蟻附近對(duì)象觀(guān)察分?jǐn)?shù)(perceived fraction)，k1是門(mén)限常數(shù)：若f k1，pp接近1，（即當(dāng)周?chē)鷽](méi)有多少對(duì)象時(shí)，拾起一個(gè)對(duì)象的概率很大），若k1 f ，pp接近0，（即在一個(gè)稠密的聚類(lèi)中，一個(gè)對(duì)象不大可能被移動(dòng)）。一個(gè)隨機(jī)移動(dòng)的負(fù)載螞蟻放下一個(gè)對(duì)象的概率是： (2)其中k2是另一個(gè)門(mén)限常數(shù)：若f k2，pd接近1，若k2 Pr則螞蟻放下此模式，將螞蟻的坐標(biāo)賦給此模式，螞蟻狀態(tài)改為無(wú)負(fù)載，再隨機(jī)賦給螞蟻一個(gè)模式值，否則螞蟻繼續(xù)攜帶此模式，螞蟻狀態(tài)仍為有負(fù)載，再次隨機(jī)給螞蟻一個(gè)新坐標(biāo)

9、。；步驟11、若此組所有螞蟻完成循環(huán)，則繼續(xù)，否則選取下一只未循環(huán)螞蟻轉(zhuǎn)向步驟5；步驟12、以一定的步長(zhǎng)調(diào)整；步驟13、 若循環(huán)次數(shù)小于最大循環(huán)次數(shù)MAXCYCLENUMBER，轉(zhuǎn)向步驟4，否則程序結(jié)束。算法的結(jié)束條件可以是直接設(shè)定最大循環(huán)次數(shù)，也可用各聚類(lèi)中心不再有模式移動(dòng)為標(biāo)準(zhǔn)即算法已收斂。其中步驟12調(diào)整的方法可以是連續(xù)微調(diào)，也可以每循環(huán)一個(gè)固定次數(shù)后再調(diào)整，本文采用了后一種方式，此外在這一步還可調(diào)整其它參數(shù)如觀(guān)察半徑等。4. 實(shí)驗(yàn)結(jié)果及分析本文測(cè)試數(shù)據(jù)都來(lái)自于UCI的() 機(jī)器學(xué)習(xí)數(shù)據(jù)庫(kù)。本文選取了三組測(cè)試數(shù)據(jù)。它們分別是動(dòng)物（zoo）、鳶草（iris）和圖像(image) 數(shù)據(jù)庫(kù)。其

10、中動(dòng)物數(shù)據(jù)庫(kù)為101個(gè)記錄，16個(gè)條件屬性，1個(gè)決策屬性，7 個(gè)類(lèi)別分別是哺乳動(dòng)物、鳥(niǎo)類(lèi)、爬行動(dòng)物、兩棲動(dòng)物、魚(yú)類(lèi)、昆蟲(chóng)和節(jié)肢動(dòng)物。鳶草是經(jīng)典聚類(lèi)測(cè)試數(shù)據(jù)庫(kù)，有150個(gè)記錄，4個(gè)條件屬性，1個(gè)決策屬性，3個(gè)類(lèi)別。在圖像數(shù)據(jù)庫(kù)選取了BRICKFACE、SKY和PATH共3類(lèi)990個(gè)記錄，19個(gè)條件屬性，1個(gè)決策屬性。a) CSI聚類(lèi)算法有效性實(shí)驗(yàn)實(shí)驗(yàn)1 測(cè)試數(shù)據(jù)庫(kù)ZOO記錄數(shù)101參數(shù)：=6-4, ant_number=6, r= 15,k=0.1，MAXCYCLENUMBER=200X900；size=350X350圖1ZOO實(shí)驗(yàn)結(jié)果圖圖1是ZOO實(shí)驗(yàn)結(jié)果圖，其中紅色表示哺乳動(dòng)物；蘭色表示鳥(niǎo)類(lèi)

11、；綠色表示爬行動(dòng)物；品紅色表示兩棲動(dòng)物；青色表示魚(yú)類(lèi)；黃色表示昆蟲(chóng)；灰色表示節(jié)肢動(dòng)物。表2是ZOO實(shí)驗(yàn)結(jié)果表。從實(shí)驗(yàn)結(jié)果可知，CSI聚類(lèi)算法不僅基本能將7種類(lèi)型的動(dòng)物分開(kāi)，而且還得到了一些細(xì)分的結(jié)果，如紅色表示的哺乳動(dòng)物被分為了三個(gè)部分，其中最大的一個(gè)類(lèi)別是陸生哺乳動(dòng)物共有36種動(dòng)物，第二類(lèi)別是4個(gè)是水生哺乳動(dòng)物有4種動(dòng)物，哺乳動(dòng)物中很特別的卵生哺乳動(dòng)物鴨嘴獸被單獨(dú)歸成第三類(lèi)。表2ZOO實(shí)驗(yàn)結(jié)果表原類(lèi)別 新類(lèi)別動(dòng)物名稱(chēng)1哺乳動(dòng)物1陸生哺乳動(dòng)物aardvark, antelope, bear, boar, buffalo, calf, cavy, cheetah, deer, elephant,

12、fruitbat, giraffe, girl, goat, gorilla, hamster, hare, leopard, lion, lynx, mink, mole, mongoose, opossum, oryx, polecat, pony, puma, pussycat, raccoon, reindeer, squirrel, vampire, vole, wallaby,wolf12水生哺乳動(dòng)物porpoise, dolphin, seal,sealion,13卵生哺乳動(dòng)物Platypus,7節(jié)肢動(dòng)物4卵生節(jié)肢動(dòng)物Clam,crab ,crayfish,lobster,oct

13、opus,seawasp,starfish 6昆蟲(chóng)，7、節(jié)肢動(dòng)物5昆蟲(chóng)、素食節(jié)肢動(dòng)物(2)Flea， gnat， honeybee， housefly， ladybird， moth ， termite， wasp， （7） worm ，（7）slug 2鳥(niǎo)類(lèi)，3爬行動(dòng)物6鳥(niǎo)類(lèi)、素食爬行動(dòng)物(2)chicken, crow, dove, duck, flamingo, gull, hawk, kiwi, lark, ostrich, parakeet, penguin, pheasant, rhea, skimmer, skua, sparrow, swan, vulture, wren， （

14、3）tortoise4魚(yú)類(lèi)，7魚(yú)類(lèi)bass ，carp ，catfish，chub，dogfish，haddock，seahorse,sole, tuna， herring, pike, piranha, stingray5兩棲動(dòng)物，3爬行動(dòng)物8兩棲動(dòng)物, 卵生食肉爬行動(dòng)物（5）frog ，frog，newt ，toad（3）pitviper slowworm tuatara 7節(jié)肢動(dòng)物9非卵生節(jié)肢動(dòng)物scorpion (7)3爬行動(dòng)物10 非卵生爬行動(dòng)物seasnake (3) 圖2IMAGE實(shí)驗(yàn)結(jié)果圖實(shí)驗(yàn)2測(cè)試數(shù)據(jù)庫(kù)IMAGE記錄數(shù)990參數(shù)：=2.5-1.5 MAXCYCLENUMBER

15、=1000X600；ant_number=10, r= 25,k=0.1， size=750X480實(shí)驗(yàn)結(jié)果為圖2所示：圖中紅色表示BRICKFACE圖像模式，黃色表示SKY圖像模式，蘭色表示PATH圖像模式。從圖中可看出，CSI聚類(lèi)算法具有聚類(lèi)能力，能將相似模式聚積在一起。實(shí)驗(yàn)3 測(cè)試數(shù)據(jù)庫(kù)iris記錄數(shù)150參數(shù)：=0.4-0.3, MAXCYCLENUMBER=200X300；size=480X450, r=20,k=0.1，ant_number=6圖3為=0.4-0.3時(shí)IRIS實(shí)驗(yàn)結(jié)果圖，紅色表示類(lèi)別Iris-setosa模式，蘭色表示類(lèi)別Iris-versicolor模式，綠色表示

16、類(lèi)別Iris-virginica模式，實(shí)驗(yàn)結(jié)果如下：聚類(lèi)后只有編號(hào)為107、120、134、135的共4個(gè)Iris-virginica模式與蘭色類(lèi)別Iris-versicolor模式屬于在一個(gè)聚類(lèi)中心。結(jié)果證明CSI聚類(lèi)算法有較好的聚類(lèi)性能。圖3IRIS 實(shí)驗(yàn)結(jié)果圖 =0.4-0.3 b) CSI聚類(lèi)算法群體相似系數(shù)實(shí)驗(yàn)選用測(cè)試數(shù)據(jù)庫(kù)為iris，記錄數(shù)為150，不變參數(shù)為 size=480X450, r=20,k=0.1，ant_number=6，改變?nèi)后w相似系數(shù)值，研究群體相似系數(shù)對(duì)聚類(lèi)結(jié)果的影響。 表3IRIS實(shí)驗(yàn)群體相似系數(shù)與聚類(lèi)結(jié)果對(duì)照表 收斂次數(shù)聚類(lèi)結(jié)果1200X30雖然形成23個(gè)聚

17、類(lèi)中心，但是三種類(lèi)別的模式相互混在同一個(gè)聚類(lèi)中心內(nèi)。0.4-0.3200X300形成24個(gè)聚類(lèi)中心，類(lèi)別混淆個(gè)數(shù)不大于10。0.2200X3600形成10個(gè)左右聚類(lèi)中心，類(lèi)別為Iris-virginicat 和Iris-versicolor的模式分散生成多個(gè)聚類(lèi)中心，類(lèi)別混淆個(gè)數(shù)更少。0.1未出現(xiàn)收斂，實(shí)驗(yàn)次數(shù)為200X10000無(wú)聚類(lèi)中心，模式仍隨機(jī)分散分布。表3是IRIS實(shí)驗(yàn)群體相似系數(shù)與聚類(lèi)結(jié)果對(duì)照表。從表中可看出群體相似系數(shù)對(duì)聚類(lèi)結(jié)果影響很大。它不僅影響算法的收斂速度，而且影響聚類(lèi)的結(jié)果，包括聚類(lèi)中心的數(shù)目和聚類(lèi)的質(zhì)量。一般情況下，群體相似系數(shù)越小，算法收斂越慢，聚類(lèi)中心個(gè)數(shù)增多，而群

18、體相似系數(shù)越大，算法收斂越快，聚類(lèi)中心個(gè)數(shù)減少，但是不適當(dāng)?shù)娜后w相似系數(shù)值可能導(dǎo)致算法太慢或不收斂和聚類(lèi)結(jié)果無(wú)效即距離相差很大的模式聚在一起。5. 結(jié)論本文對(duì)基于群體智能的聚類(lèi)算法進(jìn)行了研究，在基本解釋模型的基礎(chǔ)上提出了群體相似度及群體相似系數(shù)、概率轉(zhuǎn)換函數(shù)等重要概念，系統(tǒng)地形成一種基于群體智能的聚類(lèi)算法，并提出了一種相關(guān)的簡(jiǎn)化概率轉(zhuǎn)換函數(shù)。實(shí)驗(yàn)證明這一基于群體智能的聚類(lèi)算法是一種自組織聚類(lèi)算法，具備健壯性、可視化等特點(diǎn)，并能生成一些新的有意義的聚類(lèi)模式。本文還通過(guò)實(shí)驗(yàn)分析了群體相似系數(shù)對(duì)聚類(lèi)算法的影響，實(shí)驗(yàn)證明群體相似系數(shù)是聚類(lèi)算法的一個(gè)關(guān)鍵參數(shù)。此算法是一種基于簡(jiǎn)單個(gè)體與局部環(huán)境相互作用的

19、無(wú)集中控制的聚類(lèi)算法，適應(yīng)分布式環(huán)境，雖然目前在時(shí)間復(fù)雜性和空間復(fù)雜性方面與經(jīng)典的聚類(lèi)算法相比并不具備優(yōu)勢(shì)，但是作為一種自組織聚類(lèi)算法，它將提供一種分析復(fù)雜群體現(xiàn)象的方法，如客戶(hù)行為分析等。而算法本身也有許多值得研究的領(lǐng)域，如螞蟻添加記憶功能，群體相似系數(shù)的自適應(yīng)生成，概率轉(zhuǎn)換函數(shù)的制定及局部環(huán)境等參數(shù)的影響分析等；在總體方面，算法還可增加后續(xù)的聚類(lèi)中心模式生成及模式分類(lèi)算法，并且算法目前還缺乏扎實(shí)的數(shù)學(xué)理論分析，同時(shí)怎樣充分利用群體智能中正反饋特性提高算法的效率也是一個(gè)值得探索的問(wèn)題。 參考文獻(xiàn)1 .Bonabeau, M.Dorigo,G.Theraulaz, Inspiration fo

20、r optimization from social insect behaviour, Nature,vol 406,6 July 2000. 2 M.Dorigo, E.Bonabeau, G.Theralulaz, Ant Algorithms and stigmergy, Future Generation Computer Systems 16(2000) 851-871;3 T.Stutzle,H.Hoos, MAX-MIN Ant systems, Future Generation Computer Systems 16(2000) 889-914; 45 Bonabeau,E

21、.,Dorigo,M.& Theraulaz,G. Swarm Intelligence: From Natural to Artificial Systems ,Oxford Univ. Press, New York,1999;6Gianni Di Caro and Marco Dorigo, AntNet: Distributed Stigmergetic Control for Communications Networks, Journal of Artificial Intelligence Research 9(1998) 317-355;7 Deneubourg.J.L., G

22、oss S.,Frank,N., Sendova-hanks, A.,Detrain C.,Chrerien L., The dynamics of collective sorting: robot-like ants and ant-like robots, in: Meyer J., Wilson S.W. (Eds.), Proceedings of the First International Conference on Simulation of Adaptive Behavior: From Animals to Animats, MIT Press/Bradford Book

23、s, Cambridge, MA, 1991, pp.356-363;8 Becker R., Holland O.E. and Deneubourg J.L. From local actions to global tasks: Stigmergy and collective robotics, in Brooks R. and Maes P. Artificial Life IV, MIT Press, 1994;9 Holland O.E. and Melhuish C. Stigmergy, self-organisation, and sorting in collective

24、robotics, Artificial Life 5,1999,pp.173-202;10 E.Lumer, B.Faieta. Diversity and adaptation in populations of clustering ants . in J.-A.Meyer, S.W. Wilson(Eds.), Proceedings of the Third International Conference on Simulation of Adaptive Behavior: From Animals to Animats, Vol.3, MIT Press/ Bradford B

25、ooks, Cambridge, MA, 1994, pp 501-508;11 P.Kuntz,D.Snyers,P,Layzell, A stochastic heuristic for visualizing graph clusters in a bi-dimensional space prior to partitioning,Journal of Heuristics,5,1999,327-351;12P.Kuntz,P.Layzell, D.Snyers, A colony of ant-like agents for partitioning in VLSI technolo

26、gy,in: P.Husbans, I. Harvey(Eds.), Proceeding of the Fourth European Conference on Artificial Life, MIT Press,Cambridge, MA, 1997, pp.417-424;13T.Kohonen, Solf-Organizing Maps, 3.ed. ,Berlin , Springer,2001;14胡建軍，汪叔淳，現(xiàn)代智能制造中的關(guān)鍵智能技術(shù)研究綜述，中國(guó)機(jī)械工程，第11卷第7期，2000年7月，pp.828-835;(HU jian-jun,WANG shu-chun, Survey of the Key Intelligent Methods in Modern Intelligent ManufacturingState-of-the-art of Learning, evolution and Self-organizing, CHINA MECHANICAL ENGINEERING,Vol.11,No.7,2000.7. pp.828-835;)AN CLUSTERING ALGORITHM BASED ON SWARM INTELLIGENCEWu bin Shi zhongzhiThe key lab. of