負載均衡解決方案設(shè)計設(shè)計

一、顧客需求本案例公司中現(xiàn)有數(shù)量較多的服務(wù)器群：

WEB網(wǎng)站服務(wù)器

4臺

郵件服務(wù)器

2臺

虛擬主機服務(wù)器

10臺

應(yīng)用服務(wù)器

2臺

數(shù)據(jù)庫

2臺（雙機+盤陣）但愿通過服務(wù)器負載均衡設(shè)備實現(xiàn)各服務(wù)器群的流量動態(tài)負載均衡，并互為冗余備份。并規(guī)定新系統(tǒng)應(yīng)有一定的擴展性，如數(shù)據(jù)訪問量繼續(xù)增大，可再添加新的服務(wù)器加入負載均衡系統(tǒng)。二、需求分析我們對顧客的需求可分以下幾點分析和考慮：1.

新系統(tǒng)能動態(tài)分派各服務(wù)器之間的訪問流量；同時能互為冗余，當(dāng)其中一臺服務(wù)器發(fā)生故障時，其它服務(wù)器能即時替代工作，確保系統(tǒng)訪問的不中斷；2.

新系統(tǒng)應(yīng)能管理不同應(yīng)用的帶寬，如優(yōu)先確保某些重要應(yīng)用的帶寬規(guī)定，同時限定某些不必要應(yīng)用的帶寬，合理高效地運用現(xiàn)有資源；3.

新系統(tǒng)應(yīng)能對高層應(yīng)用提供安全確保，在路由器和防火墻基礎(chǔ)上提供了更進一步的防線；4.

新系統(tǒng)應(yīng)含有較強的擴展性。o

容量上：如數(shù)據(jù)訪問量繼續(xù)增大，可再添加新的服務(wù)器加入系統(tǒng)；o

應(yīng)用上：如當(dāng)數(shù)據(jù)訪問量增大到防火墻成為瓶頸時，防火墻的動態(tài)負載均衡方案，又如針對鏈路提出新規(guī)定時有關(guān)Internet訪問鏈路的動態(tài)負載均衡方案等。三、解決方案

梭子魚安全負載均衡方案總體設(shè)計采用服務(wù)器負載均衡設(shè)備提供本地的服務(wù)器群負載均衡和容錯，合用于處在同一種局域網(wǎng)上的服務(wù)器群。服務(wù)器負載均衡設(shè)備帶給我們的最重要功效是：

當(dāng)一臺服務(wù)器配備到不同的服務(wù)器群（Farm）上，就能同時提供多個不同的應(yīng)用。能夠?qū)τ诿總€服務(wù)器群設(shè)定一種IP地址，或者運用服務(wù)器負載均衡設(shè)備的多TCP端口配備特性，配備超級服務(wù)器群（SuperFarm），統(tǒng)一提供多個應(yīng)用服務(wù)。

如圖，網(wǎng)絡(luò)中的四臺服務(wù)器向顧客提供了三種典型應(yīng)用，分別為web、mail和ftp服務(wù)，因此管理員通過服務(wù)器負載均衡設(shè)備建立了三個不同的服務(wù)器群（Farm），并指定參加每個服務(wù)器群的服務(wù)器。對于上述這個系統(tǒng)，服務(wù)器負載均衡設(shè)備的解決方案提供了三級全方面冗余機制：

對于每種應(yīng)用，如WEB服務(wù)，同時有四臺機器提供服務(wù)，每臺機器的狀態(tài)能夠設(shè)為regular（正常工作）或backup（備份狀態(tài)），或者同時設(shè)定為regular狀態(tài)。負載均衡設(shè)備根據(jù)管理員事先設(shè)定的負載算法和現(xiàn)在網(wǎng)絡(luò)的實際的動態(tài)的負載狀況決定下一種顧客的請求將被重定向到的服務(wù)器。而這一切對于顧客來說是完全透明的，顧客完畢了對WEB服務(wù)的請求，并不用關(guān)心具體是哪臺服務(wù)器完畢的。

對于整個服務(wù)器系統(tǒng)，資源得到充足的運用和冗余。我們懂得，普通狀況下不同應(yīng)用服務(wù)的顧客數(shù)目是不盡相似的，對于服務(wù)器資源的消耗也有所不同。如果對每一種應(yīng)用只采用單獨的機器提供服務(wù)，不僅存在單點故障問題，同時每臺服務(wù)器的運用也是不均勻的，可能存在大量的WEB請求，使單一的WEB服務(wù)器負荷超重；而同時FTP服務(wù)器卻處在基本空閑狀態(tài)。這也是一種系統(tǒng)資源的浪費，同時顧客得到的服務(wù)也不夠快捷。在引入了服務(wù)器負載均衡設(shè)備的服務(wù)器系統(tǒng)中，每臺機器的資源得到了充足運用，并減少了單點故障的問題。

負載均衡設(shè)備也能夠引入冗余備份機制。服務(wù)器負載均衡設(shè)備設(shè)備在網(wǎng)絡(luò)層次上起到類似"路由器"的作用，并運用專用的集成電路芯片（ASIC）完畢智能的負載分派的工作。它的單點故障問題能夠通過在系統(tǒng)中引入另外一臺服務(wù)器負載均衡設(shè)備設(shè)備來完畢。但是與普通意義上的冗余備份機制不同，這時兩臺服務(wù)器負載均衡設(shè)備是同時處在工作狀態(tài)，并互相備份的，而不是其中一臺處在閑置的Stand-By狀態(tài)。服務(wù)器負載均衡設(shè)備通過網(wǎng)絡(luò)互相監(jiān)測，一旦其中一臺不能正常工作，另一臺將接管其全部的任務(wù)。整個系統(tǒng)的可擴縮性也是顯而易見的：

對于每一種特定服務(wù)，管理員能夠根據(jù)具體的負載狀況調(diào)配服務(wù)器。如果某種服務(wù)的負載壓力過大，能夠考慮在系統(tǒng)中別的服務(wù)器上在建立一種該服務(wù)的鏡像，只要簡樸的在對應(yīng)當(dāng)服務(wù)的服務(wù)群中加入一種條目，新加的服務(wù)器就能參加到整個服務(wù)器群的工作中來了。

系統(tǒng)中引入新的硬件服務(wù)器，或某臺服務(wù)器需要對其硬件進行升級或配備的時候，服務(wù)器負載均衡設(shè)備能夠自動監(jiān)測到這些變化。對于新加入的服務(wù)器，設(shè)有Warm-Up的時間，逐步地分派到該臺服務(wù)器的負載；對于從系統(tǒng)上撤掉的服務(wù)器，能夠設(shè)定一種over的時間值，能夠確保在該臺服務(wù)器上的對話全部結(jié)束之后，才將服務(wù)器撤下，同時繼續(xù)把流量分派到其它的服務(wù)器上，顧客得到了不間斷的服務(wù)。

系統(tǒng)中全部服務(wù)器的配備，從硬件到操作系統(tǒng)或應(yīng)用軟件都能夠是異構(gòu)的，不影響服務(wù)器負載均衡設(shè)備的功效發(fā)揮。網(wǎng)絡(luò)提供商能夠靈活地進行網(wǎng)絡(luò)服務(wù)器的升級擴容工作。四、為什么選擇梭子魚安全負載均衡機：

高性能：梭子魚LB440負載均衡機提供業(yè)界至強的服務(wù)器負載均衡性能，支持每秒100,000的新建連接，900萬的并發(fā)連接。

梭子魚負載均衡機會實時地對后臺服務(wù)器進行基于應(yīng)用的健康檢查，并決定在真實服務(wù)器不可用狀況下服務(wù)如何解決。

采用Cookie的會話保持機制提供會話的完整性，這樣能夠避免在使用源地址會話保持時，客戶端如果是通過統(tǒng)一的代理網(wǎng)關(guān)進行訪問而造成負載均衡的不均勻，造成某些服務(wù)器的連接數(shù)遠不不大于其它的服務(wù)器。

梭子魚安全負載均衡機獨特的無線連接心跳監(jiān)控方式提供快速切換，是公司多個實時核心業(yè)務(wù)系統(tǒng)所必需的。

強大的安全保護：梭子魚安全負載均衡機內(nèi)置集成了IPS實時安全防護系統(tǒng)，能夠檢測并阻擋1000多個入侵攻擊和DOS攻擊。Web服務(wù)器集群負載均衡技術(shù)的應(yīng)用與研究侯秀杰

祝永志

孔令鑫(曲阜師范大學(xué)計算機科學(xué)學(xué)院，山東日照276826)

摘

要

為了提高集群系統(tǒng)對顧客的快速響應(yīng)與整體吞吐量，必須采用一定的方略將Web訪問均衡地分派到集群中的每一種服務(wù)器?；诖怂枷氡疚尼槍鹘y(tǒng)的單機思想給出了一種多機三層構(gòu)造的負載均衡系統(tǒng)。實驗成果表明了它在負載均衡方面的優(yōu)越性。

核心詞

負載均衡；均衡方略；調(diào)度算法；Web服務(wù)器集群模型

1

引言

Internet的快速增加，特別是電子商務(wù)應(yīng)用的發(fā)展，使Web應(yīng)用成為現(xiàn)在最重要最廣泛的應(yīng)用，Web服務(wù)器動態(tài)內(nèi)容越來越流行?，F(xiàn)在，網(wǎng)上信息交換量幾乎呈指數(shù)增加，需要更高性能的Web服務(wù)器提供更多顧客的Web服務(wù)，因此，Web服務(wù)器面臨著訪問量急劇增加的壓力，對其解決能力和響應(yīng)能力等帶來更高的規(guī)定，如果Web服務(wù)器無法滿足大量Web訪問服務(wù)，將無法為顧客提供穩(wěn)定、良好的網(wǎng)絡(luò)應(yīng)用服務(wù)。

由于客觀存在的服務(wù)器物理內(nèi)存、CPU解決速度和操作系統(tǒng)等方面的影響因素，當(dāng)大量突發(fā)的數(shù)據(jù)達成時，Web服務(wù)器無法完全及時解決全部的請求，造成應(yīng)答滯后、請求丟失等，嚴重的造成某些數(shù)據(jù)包因延時而重發(fā)，使傳輸線路和服務(wù)器的負擔(dān)再次增加。傳統(tǒng)的辦法是提高Web服務(wù)器的CPU解決速度和增加內(nèi)存容量等硬件方法但無論如何增加Web服務(wù)器硬件性能，均無法滿足日益增加的對顧客的訪問服務(wù)能力。

面對日漸增加的Web訪問服務(wù)規(guī)定，必須對Web服務(wù)器按一定方略進行負載分派。運用負載均衡[1]的技術(shù)，按照一定方略將Web訪問服務(wù)分派到幾臺服務(wù)器上，負載解決對顧客透明，整體上對外猶如一臺Web服務(wù)器為顧客提供Web服務(wù)。2

Web負載均衡構(gòu)造2.1

負載均衡

負載是一種抽象的概念，是表達系統(tǒng)繁忙程度，系統(tǒng)在一段時間空閑，該系統(tǒng)負載輕，系統(tǒng)在一段時間空忙，該系統(tǒng)負載重，影響系統(tǒng)負載的多個因數(shù)較多如果存在諸多的數(shù)據(jù)包同時通過網(wǎng)絡(luò)連向一臺Web服務(wù)器，也就是網(wǎng)絡(luò)的速度比網(wǎng)絡(luò)所連接的設(shè)備速度快的狀況下，系統(tǒng)負載不停增加，直到最大。

現(xiàn)在提高Web服務(wù)器性能，使其含有較強負載能力，重要有兩種解決思想[2]：

1)單機思想

不停升級服務(wù)器硬件性能，每當(dāng)負載增加，服務(wù)器隨之升級。這隨之將帶來某些問題，首先，服務(wù)器向高檔升級，耗費資金較多；另首先，升級頻繁，機器切換造成服務(wù)中斷，可能會造成整個服務(wù)中斷；最后，每種架構(gòu)的服務(wù)器升級總有一種極限限制。

2)多機思想

使用多臺服務(wù)器提供服務(wù)，通過一定機制使它們共同分擔(dān)系統(tǒng)負載，對單一的服務(wù)器沒有太高的性能規(guī)定，系統(tǒng)負載增加，能夠多增加服務(wù)器來分擔(dān)。對顧客而言，整個系統(tǒng)仿佛是一臺單一的邏輯服務(wù)器，這樣的系統(tǒng)能夠提供較強的可擴展性和較好的吞吐性能。

為了適應(yīng)現(xiàn)在急劇增加的Web訪問，有別于傳統(tǒng)的單機思想，解決單機思想帶來的一系列問題，本文提出了一種基于權(quán)值的方略分派負載。2.2

負載均衡實現(xiàn)設(shè)備[2]

現(xiàn)在實現(xiàn)負載均衡需要兩類的設(shè)備：服務(wù)器和分派器。

1)服務(wù)器(Server)

為顧客提供真正的服務(wù)，也就是指給顧客提供負載均衡服務(wù)的計算機設(shè)備，有關(guān)該設(shè)備的某些性能數(shù)據(jù)是負載均衡的重要根據(jù)之一。

2)分派器(Dispatcher)

由顧客瀏覽器、Web服務(wù)器構(gòu)成兩層構(gòu)造Web系統(tǒng)[2]，如圖1所示，實際是基于客戶端的負載均衡。圖1

負責(zé)給顧客服務(wù)分派服務(wù)器，分派器的重要功效是根據(jù)客戶和服務(wù)器的多個狀況(這些狀況要能反映服務(wù)器的負載狀況或性能狀況)通過一定的算法進行調(diào)動和分派工作，從而提高由服務(wù)器整體構(gòu)成的網(wǎng)站的穩(wěn)定性、響應(yīng)能力。它重要是集中全部的HTTP請求，然后分派到多臺Web服務(wù)器上解決，來提高系統(tǒng)的解決效率。2.3

負載均衡系統(tǒng)構(gòu)造2.3.1兩層構(gòu)造的負載均衡系統(tǒng)

在服務(wù)器上運行一種特定的程序，該程序相稱一種客戶端，它定時的收集服務(wù)器有關(guān)性能參數(shù)，如CPU、I/O、內(nèi)存等動態(tài)信息，根據(jù)某種方略，擬定提供最佳服務(wù)的服務(wù)器，將應(yīng)用請求轉(zhuǎn)發(fā)給它。如果采集負載信息程序發(fā)現(xiàn)服務(wù)器失敗，則找其它服務(wù)器作為服務(wù)選擇。這是一種動態(tài)負載均衡技術(shù)，但是每臺服務(wù)器上必須安裝特定的客戶端程序，同時，為確保應(yīng)用程序的透明性，需要對每個應(yīng)用進行修改，能夠?qū)⒃L問請求通過該客戶端程序轉(zhuǎn)發(fā)到其它服務(wù)器上，重定向方式進行，修改每一種應(yīng)用程序，工作量十分大。2.3.2三層構(gòu)造的負載均衡系統(tǒng)

由顧客瀏覽器、負載均衡和Web服務(wù)器構(gòu)成三層構(gòu)造Web系統(tǒng)[2]，如圖2所示。實際是基于服務(wù)器的負載均衡。圖2

如果將基于客戶端的負載均衡中客戶端的負載均衡部分移植到一種中間平臺，形成一種應(yīng)用服務(wù)器，構(gòu)成請求、負載均衡和服務(wù)器的三層構(gòu)造，客戶端應(yīng)用不需要做特殊修改，透明的中間層將請求均衡的分布到不同的服務(wù)器。

據(jù)服務(wù)器直接連到Internet與否有兩種多Web服務(wù)器構(gòu)造：隔離式(Separation)和非隔離式(Unseparation)。隔離式是服務(wù)器不直接連到Internet，如圖3所示，非隔離式是服務(wù)器直接連到Internet，如圖4所示。圖3圖4

隔離式中只有負載均衡器對外有一種IP地址，全部的請求由負載均衡器分派到不同的WebServer，全部WebServer的返回成果也通過負載均衡器傳回給顧客。非隔離式中每一臺WebServer都有一種IP地址，顧客請求通過負載均衡器分派到WebServer，而請求的應(yīng)答不通過負載均衡器，直接傳回想客。為了減輕均衡器的負載，本文中采用了三層構(gòu)造中的隔離方式。2.4

負載均衡實現(xiàn)的辦法

Web負載均衡常見算法有[3]：循環(huán)調(diào)度算法(Round-RobinScheduling)、加權(quán)循環(huán)調(diào)度算法(WeightedRound-RobinScheduling)、最小連接調(diào)度算法(Least-ConnectionScheduling)、目的地址散列調(diào)度算法(DestinationHashingScheduling)、源地址散列調(diào)度算法(SourceHashingScheduling)。

本文采用基于權(quán)值的調(diào)度算法，也就是說權(quán)值大的服務(wù)器優(yōu)先得到調(diào)度，本文在實現(xiàn)時是基于靜態(tài)的權(quán)值，就是在開始的時候給每一種服務(wù)器配備一種默認的權(quán)值。固然也能夠根據(jù)實際運行狀況再對每一種服務(wù)器的權(quán)值進行調(diào)節(jié)。但是這需要實時的收集每一種服務(wù)器的信息，如服務(wù)器的內(nèi)存實用狀況，響應(yīng)速度等某些信息。3

Web服務(wù)器集群環(huán)境配備與測試[4][6][9]3.1搭建環(huán)境3.1.1軟硬件環(huán)境的搭建

(1)服務(wù)器有4臺，一臺安裝apache，三臺安裝tomcat。

(2)服務(wù)器的操作系統(tǒng)都是WindowsXP。

(3)其中安裝apache的服務(wù)器充當(dāng)負載均衡器，其它三臺是給顧客真正服務(wù)的服務(wù)器。

(4)IP配備，一臺安裝apache的IP為30，三臺安裝tomcat的服務(wù)器IP分別為31/132/133。3.1.2軟件的安裝與配備

1)安裝tomcat的服務(wù)器的配備

(1)在三臺安裝tomcat的服務(wù)器上安裝jdk。

(2)配備jdk的安裝途徑，在環(huán)境變量path中加入jdk的bin途徑，新建環(huán)境變量JAVA_HOME指向jdk的安裝途徑。

(3)在三臺要安裝tomcat的服務(wù)器上分別安裝tomcat，調(diào)試三個tomcat到能夠正常啟動。

(4)tomcat的默認WEB服務(wù)端口是8080，默認的模式是單獨服務(wù)，我配備的三個tomcat的Web服務(wù)端口修改為7080/8888/9999。

修改位置為tomcat的安裝目錄下的conf/server.xml在文獻中找到下面的語句：<Connectorport="8080"maxHttpHeaderSize="8192"maxThreads="150"minSpareThreads="25"maxSpareThreads="75"enableLookups="false"

redirectPort="8443"acceptCount="100”connectionTimeout="0"disableUploadTimeout="true"/>

只需改動Port=”8080”為上面提到的端標(biāo)語就行，對安裝tomcat的三個服務(wù)器這個文獻做改動。

2)負載均衡服務(wù)器配備1

(1)在那臺要安裝apache的服務(wù)器上安裝apache，我的安裝途徑為默認C：\ProgramFiles\ApacheGroup\Apache2。

(2)安裝后測試apache能否正常啟動，調(diào)試到能夠正常啟動http：//30。

(3)下載jk2.0.4后解壓縮文獻。

(4)將解壓縮后的目錄中的modules目錄中的mod_jk2.so文獻復(fù)制到apache的安裝目錄下的modules目錄中。

(5)修改apache的安裝目錄中的conf目錄的配備文獻httpd.conf，在文獻中LoadModule模塊配備信息的最后加上一句LoadModulejk2_modules/mod_jk2.so。

(6)分別修改三個tomcat的配備文獻conf/server.xml在文獻中找到下面的語句<Enginename=”Standalone”defaultHost=”localhost”jvmRoute=”jvm1”>只需改動jvmRoute的值，在這里分別改為tomcat1，tomcat2和tomcat3。

3)均衡服務(wù)器的配備2

在apache的安裝目錄中的conf目錄下創(chuàng)立文獻pertie，寫入文獻內(nèi)容以下：#finethecommunicationchannel[channel.socket：30：8009]Info=Ajp13forwardingoversocket#配備第一種服務(wù)器tomcatId=tomcat1#要和tomcat的配備文獻server.xml中的jvmRoute="tomcat1"名稱一致debug=0lb_factor=1#負載平衡因子，數(shù)字越大請求被分派的幾率越高。類似地再配備其它的服務(wù)器。最后加上這樣的句子info=Statusworker，displaysruntimeinformation

[uri：/jkstatus.jsp]info=Displaystatusinformationandcheckstheconfigfileforchanges.Group=status：[uri：/*]info=MapthewholeWebappdebug=0

4)安裝tomcat的服務(wù)器配備2

在三個tomcat的安裝目錄中的webapps建立相似的應(yīng)用，我和應(yīng)用目錄名為GroupTest，在三個應(yīng)用目錄中建立相似WEB-INF目錄和頁面index.jsp，index.jsp的頁面的重要內(nèi)容是打印出為客戶服務(wù)的服務(wù)器的IP地址和端標(biāo)語，固然尚有其它某些內(nèi)容，最重要的是這些內(nèi)容，這樣當(dāng)我們在測試的時候也方便地懂得為其提供服務(wù)的服務(wù)終究是哪一種服務(wù)器，這個信息是非常重要的，這樣我們能看出當(dāng)大量顧客訪問的時候我們能懂得負載分派的狀況。

5)集群配備

分別修改三個tomcat的配備文獻conf/server.xml找到下列面語句開始的地方：<!--<ClusterclassName="org.apache.c

atalina.cluster.tcp.SimpleTcpCluster”<ClusterListenerclassName="org.apache.catalina.cluster.session.ClusterSessionListener"/>

</Cluster>

-->

將最上，最下面的一行都改為<!--modifybywhh-->就能夠了。

然后再在Conf目錄下建立perties文獻，寫入下面一行，其中端口為對應(yīng)的channelSocket.port=8009

6)集群應(yīng)用配備

對于要進行負載和集群的tomcat目錄下的webapps中的應(yīng)用中的WEB-INF中的web.xml文獻要添加以下一句配備<distributable/>到此為止配備完畢剩余的就是測試3.2

環(huán)境