嵌入式Web服務(wù)器的負(fù)載均衡技術(shù)的研究

1、-904-0引言將Internet 應(yīng)用到各種嵌入式系統(tǒng)中,通過(guò)Internet 實(shí)現(xiàn)對(duì)設(shè)備的監(jiān)控,已成為目前Internet 和嵌入式系統(tǒng)發(fā)展的新趨勢(shì)。嵌入式Web 服務(wù)器(embedded web server ,EWS 是指將Web 服務(wù)器引入到現(xiàn)場(chǎng)測(cè)試和控制設(shè)備中,在相應(yīng)的硬件平臺(tái)和軟件系統(tǒng)的支持下,使傳統(tǒng)的測(cè)試和控制設(shè)備轉(zhuǎn)變?yōu)榫邆淞艘訲CP/IP 為底層通信協(xié)議、以Web 技術(shù)為核心的基于互聯(lián)網(wǎng)的網(wǎng)絡(luò)測(cè)試和控制設(shè)備1。目前廣泛采用的嵌入式Web 服務(wù)器,其基本的硬件、軟件結(jié)構(gòu)2如圖1和圖2所示。隨著應(yīng)用的發(fā)展,被管理設(shè)備的規(guī)模越來(lái)越龐大,訪(fǎng)問(wèn)嵌入式Web 服務(wù)器的用戶(hù)也越來(lái)越多,嵌入

2、式Web 服務(wù)器的訪(fǎng)問(wèn)量和數(shù)據(jù)流量也隨之迅速增長(zhǎng),要求的處理能力和計(jì)算強(qiáng)度也相應(yīng)增大,特別是面對(duì)突發(fā)性或緊急性的訪(fǎng)問(wèn)時(shí),極易造成網(wǎng)絡(luò)瓶頸,使對(duì)設(shè)備的監(jiān)控?zé)o法正常進(jìn)行,輕則造成設(shè)備癱瘓重則造成災(zāi)難性后果。嵌入式Web 服務(wù)器的特點(diǎn)決定了其處理能力的局限性,依靠單個(gè)的嵌入式Web 服務(wù)器有可能無(wú)法滿(mǎn)足大訪(fǎng)問(wèn)量的需求,在這種情況下,根據(jù)嵌入式Web 服務(wù)器價(jià)格低廉的特點(diǎn),借鑒傳統(tǒng)的Web 服務(wù)器負(fù)載均衡技術(shù),提出了采用多個(gè)嵌入收稿日期:2006-01-30E-mail :zhipingj作者簡(jiǎn)介:李林(1981-,男,山東臨沂人,碩士研究生,研究方向?yàn)榍度胧较到y(tǒng)、負(fù)載均衡;賈智平,男,教授,研究方向

3、為嵌入式系統(tǒng)。嵌入式Web 服務(wù)器的負(fù)載均衡技術(shù)的研究李林,賈智平(山東大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院,山東濟(jì)南250061摘要:為提高嵌入式Web 服務(wù)器的處理能力,克服其計(jì)算和存儲(chǔ)資源有限的缺點(diǎn),增強(qiáng)容錯(cuò)性,在分析了嵌入式Web 服務(wù)器現(xiàn)狀及發(fā)展趨勢(shì)的基礎(chǔ)上,結(jié)合傳統(tǒng)Web 服務(wù)器負(fù)載均衡技術(shù),探討了基于嵌入式Web 服務(wù)器的負(fù)載均衡技術(shù),設(shè)計(jì)了適合于嵌入式Web 服務(wù)器的基于訪(fǎng)問(wèn)請(qǐng)求優(yōu)先級(jí)的最少連接數(shù)算法,并給出了工作流程,實(shí)驗(yàn)表明系統(tǒng)達(dá)到了對(duì)緊急請(qǐng)求優(yōu)先、快速、準(zhǔn)確執(zhí)行的目標(biāo)。關(guān)鍵詞:嵌入式系統(tǒng);嵌入式Web 服務(wù)器;負(fù)載均衡;分布式系統(tǒng);工作流程中圖法分類(lèi)號(hào):TP368文獻(xiàn)標(biāo)識(shí)碼:A 文章

4、編號(hào):1000-7024(200704-0904-03Researches on load-balancing technique of embedded web serverLI Lin,JIA Zhi-ping(School of Computer Science and Technology,Shandong University,Jinan 250061,China Abstract :In order to improve the performances of embedded web server (EWS ,overcome its disadvantages of limit

5、ed processing and memory resources and enhance its tolerance,the actuality and developing trend of EWS are introduced.Then based on the load-balancing technique of traditional web server,the load-balancing technique on EWS is put forward,the least connection load-balancing algorithm is designed base

6、d on the priority of requests suitable to EWS,the framework and the flow chart of the system working,lastly the experimentation indicated that it achieves the expectation of preferential,fast,accurate execution of urgent request.Key words :embedded system;embedded web server;load balancing;distribut

7、ed system;working flow2007年2月計(jì)算機(jī)工程與設(shè)計(jì)Feb.2007第28卷第4期Vol.28No.4Computer Engineering and Design圖2EWS 的軟件系統(tǒng)結(jié)構(gòu)虛擬文件系統(tǒng)安全模塊配置模塊應(yīng)用程序接口HTTP 引擎TCP/UDP IP/ARP/ICMP 以太網(wǎng)接口圖1EWS 基本硬件結(jié)構(gòu)被監(jiān)控設(shè)備被監(jiān)控設(shè)備被監(jiān)控設(shè)備嵌入式系統(tǒng)硬件接口FLASH HCU DRAM以太網(wǎng)控制器Internet式Web服務(wù)器為一個(gè)應(yīng)用服務(wù)的嵌入式Web服務(wù)器負(fù)載均衡技術(shù),來(lái)提高系統(tǒng)的處理能力。1嵌入式Web服務(wù)器的負(fù)載均衡算法目前應(yīng)用于傳統(tǒng)Web服務(wù)器的負(fù)載均衡算

8、法主要有輪循均衡算法、隨機(jī)均衡算法、最少連結(jié)數(shù)均衡算法、處理能力均衡算法等。文獻(xiàn)3詳細(xì)論述并分析了各種負(fù)載均衡算法及實(shí)現(xiàn)的優(yōu)缺點(diǎn),文獻(xiàn)4采用不同的原則對(duì)負(fù)載均衡算法進(jìn)行了分類(lèi)。研究人員根據(jù)不同的應(yīng)用需求,通過(guò)計(jì)算不同的參數(shù)及變量,使兩種甚至多種算法相結(jié)合,提出了更新的算法。如文獻(xiàn)5考慮了門(mén)坎值和處理器之間的信息交換采用遺傳算法來(lái)分配任務(wù),文獻(xiàn)6利用哈希函數(shù)法分配負(fù)載,很好的處理了失效節(jié)點(diǎn)和新添加節(jié)點(diǎn)的問(wèn)題,文獻(xiàn)7則在對(duì)任務(wù)特別是超大規(guī)模任務(wù)的完成時(shí)間進(jìn)行更加詳細(xì)描述的基礎(chǔ)上進(jìn)行負(fù)載均衡。嵌入式系統(tǒng)存儲(chǔ)資源和計(jì)算能力有限的特點(diǎn),決定了其不可能直接采用這些復(fù)雜的算法,只能是簡(jiǎn)化這些算法設(shè)計(jì)出既簡(jiǎn)潔

9、又能滿(mǎn)足嵌入式Web服務(wù)器負(fù)載均衡需要的算法。本文提出了基于訪(fǎng)問(wèn)請(qǐng)求優(yōu)先級(jí)的最少連接數(shù)算法,該算法通過(guò)區(qū)分訪(fǎng)問(wèn)服務(wù)器請(qǐng)求的優(yōu)先級(jí),將高優(yōu)先級(jí)請(qǐng)求優(yōu)先分配給連接數(shù)最少的嵌入式Web服務(wù)器。根據(jù)應(yīng)用我們把訪(fǎng)問(wèn)請(qǐng)求分成兩類(lèi),一類(lèi)是對(duì)設(shè)備進(jìn)行監(jiān)控及狀態(tài)采集的請(qǐng)求,一類(lèi)是瀏覽Web頁(yè)面進(jìn)行數(shù)據(jù)查詢(xún)的請(qǐng)求,其中第1類(lèi)請(qǐng)求的優(yōu)先級(jí)高于第2類(lèi)。該算法的主要特點(diǎn)是,通過(guò)區(qū)分訪(fǎng)問(wèn)請(qǐng)求的優(yōu)先級(jí)和嵌入式Web服務(wù)器群中各服務(wù)器的連接數(shù),來(lái)保證對(duì)設(shè)備控制等這類(lèi)緊急請(qǐng)求的優(yōu)先、快速、準(zhǔn)確的執(zhí)行。我們以3臺(tái)嵌入式Web服務(wù)器構(gòu)成的EWS集群系統(tǒng)為例,給出該算法的描述和系統(tǒng)工作流程。將EWS集群中所有機(jī)器的狀態(tài)構(gòu)成一張表,放

10、置在服務(wù)器群中的每臺(tái)機(jī)器上8,該狀態(tài)表的結(jié)構(gòu)定義如下: struct Stateint linknum3;/各EWS的連接數(shù)int runstate3;/各EWS的運(yùn)行狀態(tài);為了提高系統(tǒng)效率,該狀態(tài)表只記錄每臺(tái)EWS的連接數(shù)和運(yùn)行狀態(tài),其中第1臺(tái)EWS相當(dāng)于主EWS,所有的訪(fǎng)問(wèn)請(qǐng)求必須經(jīng)過(guò)它。主EWS檢測(cè)請(qǐng)求隊(duì)列中的請(qǐng)求,區(qū)分請(qǐng)求的優(yōu)先級(jí),然后根據(jù)狀態(tài)表中數(shù)組linknum的值,將高優(yōu)先級(jí)請(qǐng)求優(yōu)先發(fā)送到當(dāng)前連接數(shù)最少的EWS上。一旦該EWS收到了連接,系統(tǒng)中的所有EWS將更新?tīng)顟B(tài)表。當(dāng)系統(tǒng)中主EWS 失效時(shí),相鄰的EWS可在很短的時(shí)間內(nèi)探測(cè)到并接管控制權(quán)成為主EWS,使系統(tǒng)的健壯性增強(qiáng)。算法描

11、述如下:主EWS端:(1初始化狀態(tài)表,由主EWS完成狀態(tài)表的同步;(2從請(qǐng)求隊(duì)列中,按請(qǐng)求到達(dá)的先后順序選擇高優(yōu)先級(jí)請(qǐng)求,若無(wú)高優(yōu)先級(jí)請(qǐng)求,則按請(qǐng)求到達(dá)的先后順序選擇;(3選取最小linknum=0,1,2值對(duì)應(yīng)的嵌入式Web服務(wù)器+并廣播狀態(tài)表;(4接收來(lái)自其它EWS的報(bào)告包,更新?tīng)顟B(tài)表并廣播狀態(tài)表;(5若主EWS在Tthreshold時(shí)間內(nèi)未收到嵌入式Web服務(wù)器=0,1,2的信息,則將runstate的值置為無(wú)窮大,不再向其轉(zhuǎn)發(fā)訪(fǎng)問(wèn)請(qǐng)求。更新?tīng)顟B(tài)表并廣播狀態(tài)表;(6若收到runstatei=0(i=0,1,2對(duì)應(yīng)的EWS的信息,則將runstatei的值設(shè)為1,linknumi的值置為0

12、。更新?tīng)顟B(tài)表并廣播狀態(tài)表。非主EWS端:(1響應(yīng)主EWS的狀態(tài)表更新請(qǐng)求;(2響應(yīng)由主EWS轉(zhuǎn)發(fā)的連接請(qǐng)求,向主EWS發(fā)送確認(rèn)信息;(3請(qǐng)求執(zhí)行完畢后,向主EWS發(fā)送報(bào)告包;(4若在Tmax時(shí)間內(nèi)未收到主EWS的信息,則最先檢測(cè)到該情況的EWS接管控制權(quán)成為主EWS。更新?tīng)顟B(tài)表并廣播狀態(tài)表。該算法既滿(mǎn)足了嵌入式Web服務(wù)器負(fù)載均衡的需求而且簡(jiǎn)潔、資源耗費(fèi)小,特別適合用于嵌入式Web服務(wù)器多機(jī)處理的負(fù)載均衡中。系統(tǒng)中各EWS正常工作的情況下,其通信過(guò)程如圖3標(biāo)注的數(shù)字順序所示?？紤]到系統(tǒng)通信的可靠性,我們?nèi)∠藦V播狀態(tài)表后的確認(rèn)信息,以簡(jiǎn)化系統(tǒng)的通信過(guò)程。非主EWS完成一訪(fǎng)問(wèn)請(qǐng)求后,向主EWS發(fā)

13、送報(bào)告信息,該EWS以在Tmax時(shí)間內(nèi)是否收到主EWS的更新?tīng)顟B(tài)表信息,來(lái)判斷主EWS是否出現(xiàn)故障并且接管控制權(quán)成為主EWS。2系統(tǒng)工作流程系統(tǒng)中主EWS負(fù)責(zé)對(duì)用戶(hù)的請(qǐng)求進(jìn)行接收并按照本文提出的基于訪(fǎng)問(wèn)優(yōu)先級(jí)的最少連接數(shù)算法將請(qǐng)求分發(fā)給各個(gè)EWS,各EWS對(duì)請(qǐng)求進(jìn)行應(yīng)答。對(duì)設(shè)備進(jìn)行監(jiān)控及狀態(tài)采集的請(qǐng)求,各EWS負(fù)責(zé)調(diào)用后臺(tái)CGI程序,CGI程序在各EWS 服務(wù)器和控制程序之間建立聯(lián)系,調(diào)用具體的控制程序?qū)崿F(xiàn)對(duì)設(shè)備的控制,向EWS反饋運(yùn)行結(jié)果完成用戶(hù)要求的任務(wù)。對(duì)于瀏覽Web頁(yè)面對(duì)數(shù)據(jù)進(jìn)行查詢(xún)的請(qǐng)求,各EWS生成并發(fā)送用戶(hù)請(qǐng)求的頁(yè)面。這樣,用戶(hù)就可以從Internet中的任何一臺(tái)主機(jī)上通過(guò)Web

14、界面訪(fǎng)問(wèn)和控制嵌入式系統(tǒng)了,系統(tǒng)的工作流程如圖4所示。圖3通信過(guò)程主EWS轉(zhuǎn)發(fā)訪(fǎng)問(wèn)請(qǐng)求確認(rèn)收到的轉(zhuǎn)發(fā)訪(fǎng)問(wèn)請(qǐng)求更新?tīng)顟B(tài)表并廣播完成一個(gè)訪(fǎng)問(wèn)請(qǐng)求,報(bào)告主EWS更新?tīng)顟B(tài)表并廣播, E W S1(主EWS2EWS3-905-906-3實(shí)驗(yàn)性能分析以?xún)膳_(tái)博創(chuàng)UP-ARM3000嵌入式應(yīng)用開(kāi)發(fā)板和1臺(tái)億道XSBase255嵌入式應(yīng)用開(kāi)發(fā)板,搭建3臺(tái)嵌入式Web 服務(wù)器平臺(tái),通過(guò)以太網(wǎng)將它們互聯(lián)起來(lái),用4臺(tái)配置為Windows 2000,P4-1.6GHz ,256M-RAM 的臺(tái)式機(jī)運(yùn)行網(wǎng)絡(luò)仿真軟件訪(fǎng)問(wèn)這3臺(tái)嵌入式Web 服務(wù)器。以訪(fǎng)問(wèn)WebBench 5.0內(nèi)置的動(dòng)態(tài)CGI 和靜態(tài)頁(yè)面腳本的請(qǐng)求,分別代

15、表高優(yōu)先級(jí)請(qǐng)求和低優(yōu)先級(jí)請(qǐng)求,對(duì)系統(tǒng)進(jìn)行了測(cè)試9。系統(tǒng)在高訪(fǎng)問(wèn)負(fù)荷下運(yùn)行一段時(shí)間達(dá)到穩(wěn)定后,測(cè)試數(shù)據(jù)如圖5和表1所示。在圖5中,把本文提出的由3臺(tái)性能相同的EWS 構(gòu)成的嵌入式Web 服務(wù)器集群系統(tǒng)與單個(gè)嵌入式Web 服務(wù)器系統(tǒng),在高訪(fǎng)問(wèn)負(fù)荷下的處理能力做了比較,從圖5中可以看出,前者在測(cè)試時(shí)刻點(diǎn)處理完成的請(qǐng)求總數(shù)明顯高于后者。在表1中,把基于訪(fǎng)問(wèn)優(yōu)先級(jí)的最少連接數(shù)算法與傳統(tǒng)的最少連接數(shù)算法,在高訪(fǎng)問(wèn)負(fù)荷下的性能做了比較。測(cè)試了高優(yōu)先級(jí)訪(fǎng)問(wèn)數(shù)量在總訪(fǎng)問(wèn)數(shù)量中所占比例為25%和50%兩種情況下的數(shù)據(jù),在這兩種情況下,本文提出的基于訪(fǎng)問(wèn)優(yōu)先級(jí)的最少連接數(shù)算法,在單位時(shí)間內(nèi)處理完成的高優(yōu)先級(jí)請(qǐng)求數(shù)量

16、均高于傳統(tǒng)的最少連接數(shù)算法。而且隨著高優(yōu)先級(jí)訪(fǎng)問(wèn)數(shù)量在總訪(fǎng)問(wèn)數(shù)量中所占的比例由25%增長(zhǎng)到50%,系統(tǒng)在單位時(shí)間內(nèi)處理完成的高優(yōu)先級(jí)訪(fǎng)問(wèn)數(shù)量也相應(yīng)增加,這就確保了對(duì)設(shè)備控制等這類(lèi)緊急請(qǐng)求的優(yōu)先、快速、準(zhǔn)確的執(zhí)行,達(dá)到了算法設(shè)計(jì)的目標(biāo)。4結(jié)束語(yǔ)隨著嵌入式Web 服務(wù)器應(yīng)用的日益廣泛,單個(gè)EWS 處理訪(fǎng)問(wèn)請(qǐng)求能力的局限性也日益突出。本文提出的基于訪(fǎng)問(wèn)請(qǐng)求優(yōu)先級(jí)的最少連接數(shù)算法及對(duì)嵌入式Web 服務(wù)器的負(fù)載均衡技術(shù)的實(shí)現(xiàn),提高了嵌入式Web 服務(wù)器系統(tǒng)的整體性能,系統(tǒng)運(yùn)行時(shí)需要記錄的參數(shù)少,而且通信簡(jiǎn)單數(shù)據(jù)量小,雖然系統(tǒng)增加了一定的額外開(kāi)銷(xiāo),但結(jié)合嵌入式Web 服務(wù)器價(jià)格低廉的特點(diǎn),實(shí)現(xiàn)了較高的性能

17、價(jià)格比。下一步工作主要是將無(wú)線(xiàn)嵌入式通信模塊應(yīng)用到嵌入式Web 服務(wù)器中,探討在無(wú)線(xiàn)通信條件下嵌入式Web 服務(wù)器的負(fù)載均衡技術(shù)。參考文獻(xiàn):1韓小濤,尹項(xiàng)根,張哲,等.嵌入式Web 服務(wù)器技術(shù)及其在電力系統(tǒng)中的應(yīng)用綜述EB/OL .2003. Stevens.TCP/IP 詳解M .北京:機(jī)械工業(yè)出版社,2000.3Valeria Cardellini,Michele Colajanni,Philip S Y u.Dynamic load balancing on web-server systems J .IEEE Internet Computing,1999,3(3:28-39.4Haa

18、kon Bryhni,Espen Klovening,Oivind Kure.A comparison of load balancing techniques for scalable web servers J .IEEE Net-work,2000,14(4:58-64.5Albert Y Zomaya,Yee-Hwei Teh.Observations on using genetic algorithms for dynamic load-balancing J .IEEE Transactions on Parallel and Distributed Systems,2001,12(9:899-911.6Garret Swart.Spreading the load using hashing:A preliminary report C