負載均衡解決方案講解

1、存第萬戶網絡吐礙尹iA-.NET負載均衡實現方案負載均衡是OA系統(tǒng)多應用和集群部署必不可少的組件。作為多應用和集群部署的前端，負載均衡負責將用戶的請求分發(fā)到后端各個OA應用上，并將OA應用的響應返回給用戶。后端的OA應用可以是獨立的多應用部署，也可以是集群部署。兩者間的區(qū)別在于集群部署可以實現會話復制，即用戶的會話可以在集群中的應用間進行復制，其好處在于當用戶當前訪問的應用宕機時，由于用戶會話會被復制到另一正常應用上，因此用戶訪問將不會受到影響，不需要重新登錄OA系統(tǒng)，而獨立的多應用部署沒有會話復制功能。負載均衡為OA系統(tǒng)提供了高性能、高可靠性和可擴展能力。高性能，負載均衡可以將用戶的訪問請求

2、均衡分配到各個OA應用上，從而避免單一應用負載過高，影響此應用的訪問體驗；高可靠性，負載均衡可以探測各個OA應用的運行狀況，自動將出現問題的OA應用退出負載，避免用戶繼續(xù)訪問此應用；可擴展性，通過擴展負載均衡后的OA應用數量，從而讓OA系統(tǒng)負擔更多的用戶并發(fā)訪問。實現負載均衡有多種方法，對于OA系統(tǒng)常見的方法有以下三種：一、基于JSP頁面的跳轉將一個OA應用做為主應用，用戶統(tǒng)一訪問此應用，由此應用上的特定的JSP頁面按輪詢的方式將用戶平均分配到其他各個應用上。此方法的優(yōu)點在于實現簡單，且沒有成本不需要額外的設備和軟件。此方法的缺點在于不能提供高可靠性，當其中一個應用出現問題時，主應用仍然會將用

3、戶分配到此應用上，只有用戶重新訪問主應用，主應用才會將用戶分配到另外一個應用上。©萬尸網絡iA-.NETezOFFICE負載均衡解決方案二、基于反向代理軟件此方法通過反向代理軟件實現后端各個OA應用間的負載均衡1、實現方式OA應用3用戶通過反向代理軟件提供的IP地址和端口訪問OA系統(tǒng)。過程如下：1）用戶將訪問請求發(fā)送到反向代理軟件；2）反向代理軟件根據請求中的特定標識（客戶端ip地址或cookie標記）將用戶請求轉發(fā)給特定的后端OA應用由于OA系統(tǒng)是基于用戶的，在用戶訪問過程中始終保持用戶會話，因此需要反向代理軟件具有會話保持能力始終將特定用戶的請求路由到后端的同一個OA應用；3）后

4、端應用將響應返回給反向代理軟件；4）反向代理軟件將響應轉發(fā)給用戶。ezOFFICE負載均衡解決方案2、方案優(yōu)勢2.1、功能較完備反向代理軟件可以實現硬件負載均衡的大多數功能，如基于輪詢的負載均衡方案、后端服務健康監(jiān)控、基于IPHASH或COOKIEINSERT的會話保持策略等。2.2、成本較低在用戶并發(fā)和穩(wěn)定性要求不高的環(huán)境下，反向代理軟件可以實現硬件負載均衡的大多數功能，而投入成本大大低于硬件負載均衡設備。其只需要投資一臺代理服務器，配置僅需要8CPU，8GB內存即可，而現在流行的反向代理軟件多是免費的。3、方案缺點3.1、性能和可靠性不高反向代理軟件的可靠性依賴于其運行的服務器和操作系統(tǒng)的

5、可靠性。一般來說，代理服務器選用X86架構的服務器，操作系統(tǒng)為LINUX，其可靠性要低于采用專用硬件和內嵌系統(tǒng)的硬件負載均衡設備。相對于硬件負載均衡設備，反向代理軟件所運行的服務器和操作系統(tǒng)沒有針對其進行專門的優(yōu)化，使其沒有辦法充分利用所有的硬件和系統(tǒng)資源，因此在大并發(fā)環(huán)境會存在性能瓶頸。3.2、日常維護繁瑣相對于硬件負載均衡設備，絕大多數反向代理軟件不包含或僅包含簡單的管理控制臺和運行日志。在日常維護中，管理員不能直觀的觀察到反向代理軟件的運行狀態(tài)，代理軟件的所有配置修改只能通過修改配置文件實現，并需要重啟代理軟件才可以生效。3.3、有限的健康檢查反向代理軟件只能通過檢查后端應用的TCP端口

6、來判斷應用是否正常運行。但是，OA應用在運行過程中常常會遇到TCP端口可訪問，頁面無法打開或打開出錯的情況。在這種情況下，反向代理軟件仍然會將用戶請求路由到出現問題的應用上，從而導致用戶訪問出錯。三、采用負載均衡硬件設備此方法通過硬件負載均衡設備來實現多個OA應用之間的負載均衡1、實現方式F5BIG/IP利用定義在其上面的虛擬IP地址(VIP)來為用戶的一個或多個應用提供服務。因此，它能夠為大量的基于TCP/IP的網絡應用提供服務器負載均衡服務。F5BIG/IP連續(xù)地對目標服務器進行L4到L7合理性檢查，當用戶通過VIP請求目標服務器服務時，F5BIG/IP根據目標服務器之間性能和網絡健康情況

7、，選擇性能最佳的服務器響應用戶的請求。BIG-IPtranslates加JAddresstoNodebasedonLoadBalancing紙-0:4003Q弱t-7:800:4003下圖描述了一個負載平衡發(fā)生的流程：Src-0:4003-192.168.20.儷1) .客戶發(fā)出服務請求到VIP2) .F5BIG/IP接收到請求，將數據包中目的IP地址改為選中的后臺服務器IP地址，然后將數據包發(fā)出到后臺選定的應用3) .后臺服務器收到后，將應答包按照其路由發(fā)回到F5BIG/IP為萬戶網絡I1!曲hif

8、l-.NET4）.F5BIG/IP收到應答包后將其中的源地址改回成VIP的地址，發(fā)回客戶端，由此就完成了一個標準的服務器負載平衡的流程。對于所有應用，可以在F5BIG/IP上配置VirtualServer實現負載均衡，同時F5BIG/IP可持續(xù)檢查服務器的健康狀態(tài)，一旦發(fā)現故障服務器，則將其從負載均衡組中摘除。2、方案優(yōu)勢2.1、避免“不平衡”現象BIG-IP利用VirtualServer虛擬服務器（VS由IP地址和TCP/UDP應用的端口組成）來為用戶的一個或多個目標服務器（稱為Node：目標服務器的IP地址和TCP/UDP應用的端口組成，它可以是私網地址）提供服務。因此，它能夠為大量的基于

9、TCP/IP的網絡應用提供服務器負載均衡服務。根據服務類型不同分別定義服務器群組，可以根據不同服務端口將流量導向到相應的服務器。BIG-IP連續(xù)地對目標服務器進行L4到L7合理性檢查，當用戶通過VIP請求目標服務器服務時，BIG-IP根椐目標服務器之間性能和網絡健康情況，選擇性能最佳的服務器響應用戶的請求。如果能夠充分利用所有的服務器資源，將所有流量均衡的分配到各個服務器，我們就可以有效地避免“不平衡”現象的發(fā)生。:80:80:80:802.2、服務器的健康監(jiān)控和檢查ClientsRouterBIG-IPS

10、ervers服務器(Node)-Ping(ICMP)BIGIP可以定期的通過ICMP包對后臺服務器的IP地址進行檢測，如果在設定的時間內能收到該地址的ICMP的回應，則認為該服務器能提供服務服務(Port)-ConnectBIGIP可以定期的通過TCP包對后臺服務器的服務端口進行檢測，如果在設定的時間內能收到該服務器端口的回應，則認為該服務器能提供服務擴展內容查證(ECV:ExtendedContentVerification)-ECVECV是一種非常復雜的服務檢查，主要用于確認應用程序能否對請求返回對應的數據。如果一個應用對該服務檢查作出響應并返回對應的數據，則BIG/IP控制器將該服務器標

11、識為工作良好。如果服務器不能返回相應的數據，則將該服務器標識為宕機。宕機一旦修復，BIG/IP就會自動查證應用已能對客戶請求作出正確響應并恢復向該服務器傳送。該功能使BIG/IP可以將保護延伸到后端應用如Web內容及數據庫。BIG/ip的ECV功能允許您向Web服務器、防火墻、緩存服務器、代理服務器和其它透明設備發(fā)送查詢，然后檢查返回的響應。這將有助于確認您為客戶提供的內容正是其所需要的。為萬戶網絡船囂h*ifl-.NET擴展應用查證(EAV:ExtendedApplicationVerification)EAV是另一種服務檢查，用于確認運行在某個服務器上的應用能否對客戶請求作出響應。為完成這

12、種檢查，BIG/IP控制器使用一個被稱作外部服務檢查者的客戶程序，該程序為BIG/IP提供完全客戶化的服務檢查功能，但它位于BIG/IP控制器的外部。例如，該外部服務檢查者可以查證一個Internet或Intranet上的從后臺數據庫中取出數據并在HTML網頁上顯示的應用能否正常工作。EAV是BIG/IP提供的非常獨特的功能，它提供管理者將BIG/IP客戶化后訪問各種各樣應用的能力，該功能使BIG/IP在提供標準的可用性查證之外能獲得服務器、應用及內容可用性等最重要的反饋。該功能對于電子商務和其它應用至關重要，它用于從客戶的角度測試您的站點。例如，您可以模擬客戶完成交易所需的所有步驟連接到站點

13、、從目錄中選擇項目以及驗證交易使用的信用卡。一旦BIG/ip掌握了該可用性"信息，即可利用負載平衡使資源達到最高的可用性。BIG/ip已經為測試Internet服務的健康情況和狀態(tài)，預定義的擴展應用驗證(EAV),它有二種用戶界面：瀏覽器和CLI配置。BIG/IP預定義的應用檢查：FTP、NNTP、SMTP、POP3和MSSQL。2.3、UIEiRuelsBIGIP利用UIE+iRules技術，可以將TCP/UDP數據包打開，并搜索其中的特征數據，之后根據搜索到的特征數據作相應的規(guī)則處理。因此可以根據用戶訪問內容的不同將流量導向到相應的服務器，實現7層的負載均衡。例如：根據用戶訪問請

14、求的URL將流量導向到相應的服務器。雙向、全面的負載檢査基于會話的控制系統(tǒng)TMDecision*1矗罰ipi$42miend心山貝“|心訶卜2朗日|ContinuingSessionseContinuingSessionsxW/AuthorizationSelectiveTransformationReturningSessionsl.e.PersistsnceviaOutboundData(WebLogic&URLrewrite)BIG-IP提供了一套有針對性的方法來減少服務器壓力，降低互聯網延遲和客戶機連接瓶頸對其應用訪問性能所造成的影響。通過綜合采用多種應用優(yōu)化手段以后，應用訪問

15、的性能可以得到顯著提高。與此同時，由于服務器性能的提高，還可以達到減少服務器數量，減少帶寬占用從而節(jié)省投資的目的。2.4、連接優(yōu)化BIGIP通過Oneconnect技術，將所有客戶端的TCP連接轉移至BIGIP進行處理；而BIGIP與服務器之間僅建立少量的、持續(xù)的TCP連接。使Web服務器從處理大量的并發(fā)TCP請求和TCP連接建立/卸載的負擔中解脫出來，同時當BIGIP收到用戶請求后才發(fā)送到服務器，服務器可免于受到客戶端和網絡異常的影響。BIGIP還會緩存所有服務器的響應數據包，服務器以LAN速度發(fā)送數據到BIGIP，服務器不會受到慢速客戶端連接的牽累。服務器的大量CPU資源被釋放來提供數據，

16、而不是管理連接。ezOFFICE負載均衡解決方案BIGIP通過控制容量需求和訪問分析優(yōu)化了服務性能和帶寬。企業(yè)也因為增加了更多的計算資源，減少了出口帶寬需求而降低服務器和帶寬投資，并且減少服務響應延遲和運營成本。2.5、HTTP壓縮BIG-IP提供業(yè)內最具擴展性，最智能也最靈活的壓縮解決方案。BIG-IP系統(tǒng)通過從服務器中不對稱卸載HTTP壓縮，降低了服務器開銷，并通過實現服務器整合，將服務器總體擁有成本降低了高達65%。BIG-IP系統(tǒng)充分利用現有瀏覽器解壓縮能力，無需對客戶機進行任何修改，亦無需下載任何可能帶來入侵威脅的軟件。BIG-IP智能壓縮采用已申請專利的方法來測量客戶連接延遲，這使

17、帶寬使用率降低了60-80%，同時將用戶響應時間提高了兩倍以上。BIG-IP是業(yè)內首款為企業(yè)提供的可擴展式壓縮解決方案，具有通過優(yōu)化硬件及其自適應壓縮卸載(AdaptiveCompressionOffload)壓縮web流量的可選功能。BIG-IP系統(tǒng)的智能壓縮功能為企業(yè)提供了一種針對目標用戶進行壓縮的方式。壓縮流量不一定要以帶寬利用率的降低為代價。真正的挑戰(zhàn)在于把握如何最有效的定位，從而使用戶獲得最大優(yōu)勢。例如，由于撥號用戶延遲較高，所以，對其進行壓縮可使這部分用戶獲得最大優(yōu)勢。而由于寬帶用戶的接收窗口尺寸較大，因此，他們因此獲得的優(yōu)勢則微乎其微，這是因為，寬帶用戶現在需要等待更長的時間來接

18、收數據，這將導致響應時間變慢，因此，壓縮的優(yōu)勢被抵消。BIG-IP采用已申請專利的技術來動態(tài)檢測客戶連接延遲。BIG-IP系統(tǒng)能夠監(jiān)控TCPRTT(往返時間)，以動態(tài)計算用戶延遲，從而使BIG-IP能更專注于將流量壓縮并傳送給最需要它們的用戶。2.6、負載均衡和應用交換功能BIGIP是一臺對流量和內容進行管理分配的設備。它提供12種靈活的算法將數據流有效地轉發(fā)到它所連接的應用。而面對用戶，只是一臺虛擬服務器。用戶此時只須記住一臺服務器，即虛擬服務器。但他們的數據流卻被BIGIP靈活地均衡到所有的服務器。這12種算法包括： 輪詢（RoundRobin）：順序循環(huán)將請求一次順序循環(huán)地連接每個服務器

19、。當其中某個服務器發(fā)生第二到第7層的故障，BIG/IP就把其從順序循環(huán)隊列中拿出，不參加下一次的輪詢，直到其恢復正常。 比率（Ratio）：給每個服務器分配一個加權值為比例，根據這個比例，把用戶的請求分配到每個服務器。當其中某個服務器發(fā)生第二到第7層的故障，BIG/IP就把其從服務器隊列中拿出，不參加下一次的用戶請求的分配，直到其恢復正常。優(yōu)先權（Priority）：給所有服務器分組，給每個組定義優(yōu)先權，BIG/IP用戶的請求，分配給優(yōu)先級最高的服務器組（在同一組內，采用輪詢或比率算法，分配用戶的請求）；當最高優(yōu)先級中所有服務器出現故障，BIG/IP才將請求送給次優(yōu)先級的服務器組。這種方式，實

20、際為用戶提供一種熱備份的方式。 最少的連接方式（LeastConnection）：傳遞新的連接給那些進行最少連接處理的服務器。當其中某個服務器發(fā)生第二到第7層的故障，BIG/IP就把其從服務器隊列中拿出，不參加下一次的用戶請求的分配，直到其恢復正常。最快模式（Fastest）：傳遞連接給那些響應最快的服務器。當其中某個服務器發(fā)生第二到第7層的故障，BIG/IP就把其從服務器隊列中拿出，不參加下一次的用戶請求的分配，直到其恢復正常。 觀察模式（Observed）：連接數目和響應時間以這兩項的最佳平衡為依據為新的請求選擇服務器。當其中某個服務器發(fā)生第二到第7層的故障，BIG/IP就把其從服務器隊列

21、中拿出，不參加下一次的用戶請求的分配，直到其恢復正常。預測模式(Predictive)：BIG/IP利用收集到的服務器當前的性能指標，進行預測分析，選擇一臺服務器在下一個時間片內，其性能將達到最佳的服務器相應用戶的請求。(被bigip進行檢測) 動態(tài)性能分配(DynamicRatio-APM):BIG/IP收集到的應用程序和應用服務器的各項性能參數，動態(tài)調整流量分配。 動態(tài)服務器補充(DynamicServerAct):當主服務器群中因故障導致數量減少時，動態(tài)地將備份服務器補充至主服務器群。 服務質量(QoS)：按不同的優(yōu)先級對數據流進行分配。 服務類型(ToS)：按不同的服務類型(在TypeofField中標識)對數據流進行分配。 規(guī)則模式：針對不同的數據流設置導向規(guī)則，用