Tomcat集群與負(fù)載均衡

1、Tomcat集群與負(fù)載均衡(轉(zhuǎn)載)在單一的服務(wù)器上執(zhí)行WEB應(yīng)用程序有一些重大的問題，當(dāng)網(wǎng)站成功建成并開始接受大量請求時(shí)，單一服務(wù)器終究無法滿足需要處理的負(fù)荷量，所以就有點(diǎn)顯得有點(diǎn)力不從心了。另外一個(gè)常見的問題是會(huì)產(chǎn)生單點(diǎn)故障，如果該服務(wù)器壞掉，那么網(wǎng)站就立刻無法運(yùn)作了。不論是因?yàn)橐休^佳的擴(kuò)充性還是容錯(cuò)能力，我們都會(huì)想在一臺以上的服務(wù)器計(jì)算機(jī)上執(zhí)行WE腕用程序。所以，這時(shí)候我們就需要用到集群這一門技術(shù)了。在進(jìn)入集群系統(tǒng)架構(gòu)探討之前，先定義一些專門術(shù)語：1. 集群(Cluster):是一組獨(dú)立的計(jì)算機(jī)系統(tǒng)構(gòu)成一個(gè)松耦合的多處理器系統(tǒng)，它們之間通過網(wǎng)絡(luò)實(shí)現(xiàn)進(jìn)程間的通信。應(yīng)用程序可以通過網(wǎng)絡(luò)共享內(nèi)

2、存進(jìn)行消息傳送，實(shí)現(xiàn)分布式計(jì)算機(jī)。2. 負(fù)載均衡(LoadBalance):先得從集群講起，集群就是一組連在一起的計(jì)算機(jī)，從外部看它是一個(gè)系統(tǒng)，各節(jié)點(diǎn)可以是不同的操作系統(tǒng)或不同硬件構(gòu)成的計(jì)算機(jī)。如一個(gè)提供Web!務(wù)的集群，對外界來看是一個(gè)大Web!務(wù)器。不過集群的節(jié)點(diǎn)也可以單獨(dú)提供服務(wù)。3. 特點(diǎn):在現(xiàn)有網(wǎng)絡(luò)結(jié)構(gòu)之上，負(fù)載均衡提供了一種廉價(jià)有效的方法擴(kuò)展服務(wù)器帶寬和增加吞吐量，加強(qiáng)網(wǎng)絡(luò)數(shù)據(jù)處理能力，提高網(wǎng)絡(luò)的靈活性和可用性。集群系統(tǒng)(Cluster)主要解決下面幾個(gè)問題:高可靠性(HA:利用集群管理軟件，當(dāng)主服務(wù)器故障時(shí)，備份服務(wù)器能夠自動(dòng)接管主服務(wù)器的工作，并及時(shí)切換過去，以實(shí)現(xiàn)對用戶的不間

3、斷服務(wù)。高性能計(jì)算(HP:即充分利用集群中的每一臺計(jì)算機(jī)的資源，實(shí)現(xiàn)復(fù)雜運(yùn)算的并行處理，通常用于科學(xué)計(jì)算領(lǐng)域，比如基因分析，化學(xué)分析等。負(fù)載平衡:即把負(fù)載壓力根據(jù)某種算法合理分配到集群中的每一臺計(jì)算機(jī)上，以減輕主服務(wù)器的壓力，降低對主服務(wù)器的硬件和軟件要求。目前比較常用的負(fù)載均衡技術(shù)主要有:1. 基于DNS勺負(fù)載均衡通過DNS1務(wù)中的隨機(jī)名字解析來實(shí)現(xiàn)負(fù)載均衡，在DNSS務(wù)器中，可以為多個(gè)不同的地址配置同一個(gè)名字，而最終查詢這個(gè)名字的客戶機(jī)將在解析這個(gè)名字時(shí)得到其中一個(gè)地址。因此，對于同一個(gè)名字，不同的客戶機(jī)會(huì)得到不同的地址，他們也就訪問不同地址上的Web服務(wù)器，從而達(dá)到負(fù)載均衡的目的。2.

4、反向代理負(fù)載均衡(如Apache+JK2+Tomca這種組合)使用代理服務(wù)器可以將請求轉(zhuǎn)發(fā)給內(nèi)部的Web服務(wù)器，讓代理服務(wù)器將請求均勻地轉(zhuǎn)發(fā)給多臺內(nèi)部Web服務(wù)器之一上，從而達(dá)到負(fù)載均衡的目的。這種代理方式與普通的代理方式有所不同，標(biāo)準(zhǔn)代理方式是客戶使用代理訪問多個(gè)外部Web服務(wù)器，而這種代理方式是多個(gè)客戶使用它訪問內(nèi)部Web服務(wù)器，因此也被稱為反向代理模式。3. 基于NAT(NetworkAddressTranslation)的負(fù)載均衡技術(shù)(如LinuxVirtualServer，簡稱LVS)網(wǎng)絡(luò)地址轉(zhuǎn)換為在內(nèi)部地址和外部地址之間進(jìn)行轉(zhuǎn)換，以便具備內(nèi)部地址的計(jì)算機(jī)能訪問外部網(wǎng)絡(luò)，而當(dāng)外部網(wǎng)絡(luò)

5、中的計(jì)算機(jī)訪問地址轉(zhuǎn)換網(wǎng)關(guān)擁有的某一外部地址時(shí)，地址轉(zhuǎn)換網(wǎng)關(guān)能將其轉(zhuǎn)發(fā)到一個(gè)映射的內(nèi)部地址上。因此如果地址轉(zhuǎn)換網(wǎng)關(guān)能將每個(gè)連接均勻轉(zhuǎn)換為不同的內(nèi)部服務(wù)器地址，此后外部網(wǎng)絡(luò)中的計(jì)算機(jī)就各自與自己轉(zhuǎn)換得到的地址上服務(wù)器進(jìn)行通信，從而達(dá)到負(fù)載分擔(dān)的目的。介紹完上面的集群技術(shù)之后，下面就基于Tomcat的集群架構(gòu)方案進(jìn)行說明：上面是采用了Apachehttpd作為web服務(wù)器的，即作為Tomcat的前端處理器，根據(jù)具體情況而定，有些情況下是不需要Apachehttpd作為web服務(wù)器的，如系統(tǒng)展現(xiàn)沒有靜態(tài)頁面那就不需要Apachehttpd，那時(shí)可以直接使用Tomcat作為web服務(wù)器來使用。使用Ap

6、achehttpd主要是它在處理靜態(tài)頁面方面的能力比Tomcat強(qiáng)多了。1、用戶的網(wǎng)頁瀏覽器做完本地DNS和企業(yè)授權(quán)的DNS之的請求/響應(yīng)后，這時(shí)候企業(yè)授權(quán)的DNS（即21cnBOSS3NS會(huì)給用戶本地的DN&艮務(wù)器提供一個(gè)NAT請求分配器（即網(wǎng)關(guān)）IP。2、NAT分配器，它會(huì)根據(jù)特定的分配算法，來決定要將連接交給哪一臺內(nèi)部Apachehttpd來處理請求。大多數(shù)的NAT請求分配器提供了容錯(cuò)能力：根據(jù)偵測各種WE曲艮務(wù)器的失效狀況，停止將請求分配給已經(jīng)宕掉的服務(wù)器。并且有些分配器還可以監(jiān)測到WE岡艮務(wù)器機(jī)器的負(fù)載情況，并將請求分配給負(fù)載最輕的服務(wù)器等等。LinuxVirtualServ

7、er是一個(gè)基于Linux操作系統(tǒng)上執(zhí)行的VS-NAT開源軟件套件，而且它有豐富的功能和良好的說明文件。商業(yè)硬件解決方案FoundryNetworks的ServerIron是目前業(yè)界公認(rèn)最佳的請求分配器之一。3、Apachehttpd+Mod_JK2在這里是作為負(fù)載均衡器，那為什么要做集群呢？如果集群系統(tǒng)要具備容錯(cuò)能力，以便在任何單一的硬件或軟件組件失效時(shí)還能100%可用，那么集群系統(tǒng)必須沒有單點(diǎn)故障之憂。所以，不能只架設(shè)一臺有mod_jk2的Apachehttpd，因?yàn)槿绻鹔ttpd或mod_jk2失效了，將不會(huì)再有請求被會(huì)送交到任何一個(gè)Tomcat實(shí)例。這種情況下，Apachehttpd就是

8、瓶勁，特別在訪問量大的網(wǎng)站。4、Mod_JK2負(fù)載均衡與故障復(fù)原，決定把Apachehttpd當(dāng)成web服務(wù)器，而且使用mod_jk2將請求傳送給Tomcat,貝U可以使用mod_jk2的負(fù)載均衡與容錯(cuò)功能。在集群系統(tǒng)中，帶有mod_jk2的Apachehttpd可以做的事情包括：A、將請求分配至一或多個(gè)Tomcat實(shí)例上你可以在modk2的perties文件中，設(shè)定許多Tomcat實(shí)例，并賦于每個(gè)實(shí)例一個(gè)lb_factor值，以作為請求分配的加權(quán)因子。B、偵測Tomcat實(shí)例是否失敗當(dāng)Tomcat實(shí)例的連接器服務(wù)不再響應(yīng)時(shí)，mod_jk2會(huì)及時(shí)偵測到，并停止將請求送給它

9、。其他的Tomcat實(shí)例則會(huì)接受失效實(shí)例的負(fù)載。C、偵測Tomcat實(shí)例在失效后的何時(shí)恢復(fù)因連接器服務(wù)失效，而停止將請求分配給Tomcat實(shí)例之后，mod_jk2會(huì)周期性地檢查是否已恢復(fù)使用性，并自動(dòng)將其加入現(xiàn)行的Tomcat實(shí)例池中。5、Tomcat中的集群原理是通過組播的方式進(jìn)行節(jié)點(diǎn)的查找并使用TCP連接進(jìn)行會(huì)話的復(fù)制。這里提示一下就是，對每個(gè)請求的處理，Tomcat都會(huì)進(jìn)行會(huì)話復(fù)制，復(fù)制后的會(huì)話將會(huì)慢慢變得龐大。6、Mod_jk2同時(shí)支持會(huì)話親和和會(huì)話復(fù)制。在tomcat5中如何實(shí)現(xiàn)會(huì)話親和和會(huì)話復(fù)制？把server.xml中的<cluster/>標(biāo)簽去掉就實(shí)現(xiàn)會(huì)話親和，把&

10、lt;cluster/>標(biāo)簽加上就實(shí)現(xiàn)會(huì)話復(fù)制。7、會(huì)話親和：就是表示來自同會(huì)話的所有請求都由相同的Tomcat實(shí)例來處理，這種情況下，如果Tomcat實(shí)例或所執(zhí)行的服務(wù)器機(jī)器失效，也會(huì)喪失Servlet的會(huì)話數(shù)據(jù)。即使在集群系統(tǒng)中執(zhí)行更多的Tomcat實(shí)例，也永遠(yuǎn)不會(huì)復(fù)制會(huì)話數(shù)據(jù)。這樣是提高集群性能的一種方案，但不具備有容錯(cuò)能力了。8、使用會(huì)話復(fù)制，則當(dāng)一個(gè)Tomcat實(shí)例宕掉時(shí)，由于至少還有另一個(gè)Tomcat實(shí)例保有一份會(huì)話狀態(tài)數(shù)據(jù)，因而數(shù)據(jù)不會(huì)喪失。但性能會(huì)有所降低。Tomcat負(fù)載均衡負(fù)載均衡主要完成如下任務(wù)：1）解決網(wǎng)絡(luò)擁塞問題，服務(wù)就近提供，實(shí)現(xiàn)地理位置無關(guān)性；2）為用戶提供

11、更好的訪問質(zhì)量；3）提高服務(wù)器響應(yīng)速度；4）提高服務(wù)器及其他資源的利用效率；5）避免了網(wǎng)絡(luò)關(guān)鍵部位出現(xiàn)單點(diǎn)失效。負(fù)載均衡的實(shí)現(xiàn)：1）web應(yīng)用簡單的冗余備份。將web應(yīng)用部署多份，每個(gè)web應(yīng)用都擁有一個(gè)URL可以按照依據(jù)一定規(guī)則來訪問web應(yīng)用，如：北京的用戶訪問http:/beijing/app;廣州的用戶訪問http:/guangzhou/app這種方式的優(yōu)點(diǎn)就是部署簡單，部署多份即可；缺點(diǎn)就是web應(yīng)用對外有多個(gè)地址。2）基于DNS中1個(gè)域名可配置n個(gè)IP地址來部署web應(yīng)用。*在DNS中為1個(gè)域名配置多個(gè)IP地址*在每個(gè)IP地址對應(yīng)的主機(jī)上部署1套web應(yīng)用負(fù)載均衡依據(jù)DNS的動(dòng)態(tài)輪

12、詢機(jī)制這種方式的優(yōu)點(diǎn)也是部署簡單，web應(yīng)用對外只有1個(gè)地址；缺點(diǎn)就是某用戶短時(shí)間內(nèi)訪問多個(gè)web頁面，而這些頁面部署在不同的主機(jī)上，也就會(huì)造成session無法共享。3）交換機(jī)（網(wǎng)絡(luò)地址轉(zhuǎn)換NAT交換機(jī)提供第四層交換功能，對外提供一個(gè)一致的IP地址，并映射為多個(gè)內(nèi)部IP地址，對每次TCP和UDP連接請求，根據(jù)其端口號，按照即定的策略動(dòng)態(tài)選擇一個(gè)內(nèi)部地址，將數(shù)據(jù)包轉(zhuǎn)發(fā)到該地址上，達(dá)到負(fù)載均衡的目的。這種方式與第2種方式有同樣的優(yōu)缺點(diǎn)。4）應(yīng)用服務(wù)器的負(fù)載均衡技術(shù)-反向代理方式普通代理方式是代理內(nèi)部網(wǎng)絡(luò)用戶訪問internet上服務(wù)器的連接請求，客戶端指定代理服務(wù)器，并將本來要直接發(fā)送到internet上服務(wù)器的連接請求發(fā)送給代理服務(wù)器處理。反向代理（ReverseProxy）方式是指以代理服務(wù)器來接受internet上的連接請求，然后將請求轉(zhuǎn)發(fā)給內(nèi)部網(wǎng)絡(luò)上的服務(wù)器，并將從服務(wù)器上得到的結(jié)果返回給internet上請求連接的客戶端，此時(shí)代理服務(wù)器對外就表現(xiàn)為一個(gè)服務(wù)器。反向代理負(fù)載均衡技術(shù)就是把將來自internet上的連接請求以反向代理的方式動(dòng)態(tài)地