F5服務(wù)器負(fù)載均衡方案

/F5服務(wù)器負(fù)載均衡建議方案2012F5服務(wù)器負(fù)載均衡建議方案2012JonMMx2000www.F5.com2012-3-23目錄TOC\o"1-5"\h\z\u1部署方式31.1方式一、單臂旁路接入31.2方式二、雙臂串接31.3部署說(shuō)明42原理流程圖43負(fù)載均衡必要性54相關(guān)技術(shù)64.1服務(wù)器負(fù)載均衡算法64.2服務(wù)器健康檢查方法74.3會(huì)話保持技術(shù)94.4LTM相關(guān)加速技術(shù)10OneConnect降低服務(wù)器TCP連接數(shù)量10HTTP頁(yè)面壓縮11RAMCache12HTTPSOffload124.5設(shè)備自身冗余機(jī)制135性能參數(shù)14部署方式方式一、單臂旁路接入方式二、雙臂串接部署說(shuō)明F5支持單臂旁路接入和雙臂串行等接入方式。因?yàn)镕5端口個(gè)數(shù)有限.建議采用單臂旁路模式.即F5旁掛在交換機(jī)上.通過(guò)交換機(jī)完成與服務(wù)器和客戶端之間的通訊。原理流程圖BIGIPLTM對(duì)外提供一個(gè)虛擬的應(yīng)用服務(wù)器.接收所有的客戶端請(qǐng)求BIGIPLTM通過(guò)負(fù)載均衡算法處理.將客戶端請(qǐng)求轉(zhuǎn)發(fā)到后臺(tái)的多個(gè)應(yīng)用實(shí)例BIGIPLTM內(nèi)置可編程控制接口.可以對(duì)流量進(jìn)行編程控制處理BIGIPLTM通過(guò)應(yīng)用健康檢查.準(zhǔn)確的判斷應(yīng)用程序的工作和服務(wù)狀態(tài).一旦發(fā)現(xiàn)應(yīng)用不能提供服務(wù).則將其從負(fù)載均衡組中摘除負(fù)載均衡必要性隨著互聯(lián)網(wǎng)的發(fā)展.web服務(wù)的數(shù)據(jù)量越來(lái)越大.同時(shí)對(duì)應(yīng)用的高可用性提出了更高的要求.服務(wù)器主備冗余模式已經(jīng)不能滿足當(dāng)前需求.作為應(yīng)用交付行業(yè)內(nèi)最為成熟的方案提供商.F5的負(fù)載均衡技術(shù)可以實(shí)現(xiàn)以下目標(biāo)：實(shí)現(xiàn)應(yīng)用系統(tǒng)99.999%的不間斷訪問(wèn)優(yōu)化應(yīng)用結(jié)構(gòu)節(jié)省服務(wù)器資源加速訪問(wèn).提高用戶體驗(yàn)實(shí)現(xiàn)應(yīng)用系統(tǒng)良好的擴(kuò)展性相關(guān)技術(shù)服務(wù)器負(fù)載均衡算法BIG-IP是一臺(tái)對(duì)流量和內(nèi)容進(jìn)行管理分配的設(shè)備。它提供10種靈活的算法將數(shù)據(jù)流有效地轉(zhuǎn)發(fā)到它所連接的服務(wù)器群。而面對(duì)用戶.只是一臺(tái)虛擬服務(wù)器。用戶此時(shí)只須記住一臺(tái)服務(wù)器.即虛擬服務(wù)器。但他們的數(shù)據(jù)流卻被BIG-IP靈活地均衡到所有的服務(wù)器。這10種算法包括：輪詢〔RoundRobin：順序循環(huán)將請(qǐng)求一次順序循環(huán)地連接每個(gè)服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7層的故障.BIG-IP就把其從順序循環(huán)隊(duì)列中拿出.不參加下一次的輪詢.直到其恢復(fù)正常。比率〔Ratio：給每個(gè)服務(wù)器分配一個(gè)加權(quán)值為比例.根椐這個(gè)比例.把用戶的請(qǐng)求分配到每個(gè)服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7層的故障.BIG-IP就把其從服務(wù)器隊(duì)列中拿出.不參加下一次的用戶請(qǐng)求的分配.直到其恢復(fù)正常。優(yōu)先權(quán)〔Priority：給所有服務(wù)器分組.給每個(gè)組定義優(yōu)先權(quán).BIG-IP用戶的請(qǐng)求.分配給優(yōu)先級(jí)最高的服務(wù)器組〔在同一組內(nèi).采用輪詢或比率算法.分配用戶的請(qǐng)求；當(dāng)最高優(yōu)先級(jí)中所有服務(wù)器出現(xiàn)故障.BIG-IP才將請(qǐng)求送給次優(yōu)先級(jí)的服務(wù)器組。這種方式.實(shí)際為用戶提供一種熱備份的方式。最少的連接方式〔LeastConnection：傳遞新的連接給那些進(jìn)行最少連接處理的服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7層的故障.BIG-IP就把其從服務(wù)器隊(duì)列中拿出.不參加下一次的用戶請(qǐng)求的分配.直到其恢復(fù)正常。最快模式〔Fastest：傳遞連接給那些響應(yīng)最快的服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7層的故障.BIG-IP就把其從服務(wù)器隊(duì)列中拿出.不參加下一次的用戶請(qǐng)求的分配.直到其恢復(fù)正常。觀察模式〔Observed：連接數(shù)目和響應(yīng)時(shí)間以這兩項(xiàng)的最佳平衡為依據(jù)為新的請(qǐng)求選擇服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7層的故障.BIG-IP就把其從服務(wù)器隊(duì)列中拿出.不參加下一次的用戶請(qǐng)求的分配.直到其恢復(fù)正常。預(yù)測(cè)模式〔Predictive：BIG-IP利用收集到的服務(wù)器當(dāng)前的性能指標(biāo).進(jìn)行預(yù)測(cè)分析.選擇一臺(tái)服務(wù)器在下一個(gè)時(shí)間片內(nèi).其性能將達(dá)到最佳的服務(wù)器相應(yīng)用戶的請(qǐng)求。<被BIG-IP進(jìn)行檢測(cè)>動(dòng)態(tài)性能分配〔DynamicRatio-APM>:BIG-IP收集到的應(yīng)用程序和應(yīng)用服務(wù)器的各項(xiàng)性能參數(shù).動(dòng)態(tài)調(diào)整流量分配。動(dòng)態(tài)服務(wù)器補(bǔ)充〔DynamicServerAct.>:當(dāng)主服務(wù)器群中因故障導(dǎo)致數(shù)量減少時(shí).動(dòng)態(tài)地將備份服務(wù)器補(bǔ)充至主服務(wù)器群。規(guī)則模式：針對(duì)不同的數(shù)據(jù)流設(shè)置導(dǎo)向規(guī)則.用戶可自行編輯流量分配規(guī)則.BIG-IP利用這些規(guī)則對(duì)通過(guò)的數(shù)據(jù)流實(shí)施導(dǎo)向控制。服務(wù)器健康檢查方法BIG-IP除了能夠進(jìn)行不同OSI層面的健康檢查之外.還具有擴(kuò)展內(nèi)容驗(yàn)證和擴(kuò)展應(yīng)用查證兩種健康檢查方法。基本的健康檢查方法有以下幾種：在Layer2健康檢查涉及到用來(lái)對(duì)給定的IP地址尋找MAC地址的地址分辨協(xié)議<ARP>請(qǐng)求。因?yàn)锽IG-IP設(shè)置了真實(shí)服務(wù)器的IP地址.它會(huì)發(fā)送針對(duì)每一個(gè)真實(shí)服務(wù)器的IP地址的ARP請(qǐng)求以找到相應(yīng)的MAC地址.服務(wù)器會(huì)響應(yīng)這個(gè)ARP請(qǐng)求.除非它已經(jīng)停機(jī)。在Layer3健康檢查涉及到對(duì)真實(shí)服務(wù)器發(fā)送"ping"命令。"ping"是常用的程序來(lái)確認(rèn)一個(gè)IP地址是否在網(wǎng)絡(luò)中存在.或者用來(lái)確認(rèn)主機(jī)是否正常工作。在Layer4.BIG-IP會(huì)試圖聯(lián)接到一個(gè)特定應(yīng)用在運(yùn)行的TCP或UDP端口。舉例來(lái)說(shuō).如果VIP是被綁定在端口80做Web應(yīng)用的話.BIG-IP試圖建立一個(gè)聯(lián)接到真實(shí)服務(wù)器的80端口。BIG-IP發(fā)送一個(gè)TCPSYN請(qǐng)求包到每個(gè)真實(shí)服務(wù)器的80端口.并檢查回應(yīng)的TCPSYNACK數(shù)據(jù)包是否收到.如果哪一個(gè)沒(méi)有收到.BIG-IP就確認(rèn)那臺(tái)服務(wù)器不能正常提供服務(wù).BIG-IP單獨(dú)針對(duì)服務(wù)器的每個(gè)應(yīng)用端口做健康檢查并單獨(dú)做關(guān)于其服務(wù)器的診斷結(jié)果是非常重要的。這樣一來(lái)真實(shí)服務(wù)器的80服務(wù)可能停機(jī).但是端口21可能正常工作.BIG-IP可以繼續(xù)利用這個(gè)服務(wù)器的21端口提供FTP服務(wù).同時(shí)確認(rèn)這個(gè)服務(wù)器的Web應(yīng)用已經(jīng)停機(jī).這樣一來(lái)就提供了一個(gè)高效率的負(fù)載均衡解決方案.細(xì)分健康檢查的做法有效地提高了服務(wù)器的處理能力。擴(kuò)展內(nèi)容查證<ECV：ExtendedContentVerification>：ECV是一種非常復(fù)雜的服務(wù)檢查.主要用于確認(rèn)應(yīng)用程序能否對(duì)請(qǐng)求返回對(duì)應(yīng)的數(shù)據(jù)。如果一個(gè)應(yīng)用對(duì)該服務(wù)檢查做出響應(yīng)并返回對(duì)應(yīng)的數(shù)據(jù).則BIG-IP控制器將該服務(wù)器標(biāo)識(shí)為工作良好。如果服務(wù)器不能返回相應(yīng)的數(shù)據(jù).則將該服務(wù)器標(biāo)識(shí)為宕機(jī)。宕機(jī)一旦修復(fù).BIG-IP就會(huì)自動(dòng)查證應(yīng)用已能對(duì)客戶請(qǐng)求做出正確響應(yīng)并恢復(fù)向該服務(wù)器傳送。該功能使BIG-IP可以將保護(hù)延伸到后端應(yīng)用如Web內(nèi)容及數(shù)據(jù)庫(kù)。BIG-IP的ECV功能允許您向Web服務(wù)器、防火墻、緩存服務(wù)器、代理服務(wù)器和其它透明設(shè)備發(fā)送查詢.然后檢查返回的響應(yīng)。這將有助于確認(rèn)您為客戶提供的內(nèi)容正是其所需要的。用戶可以定義發(fā)送和接收的字串.發(fā)送字串是指發(fā)送到一個(gè)服務(wù)器的請(qǐng)求命令.例如："GET/"字串發(fā)送到一個(gè)HTTP服務(wù)器。服務(wù)器回應(yīng)得字串必須與接收到的字串相匹配.例如""。ECV可以工作在正常和透明節(jié)點(diǎn)模式。擴(kuò)展應(yīng)用查證<EAV:ExtendedApplicationVerification>：EAV是另一種服務(wù)檢查.用于確認(rèn)運(yùn)行在某個(gè)服務(wù)器上的應(yīng)用能否對(duì)客戶請(qǐng)求做出響應(yīng)。為完成這種檢查.BIG-IP控制器使用一個(gè)被稱作外部服務(wù)檢查者的客戶程序.該程序?yàn)锽IG-IP提供完全客戶化的服務(wù)檢查功能.但它位于BIG-IP控制器的外部。例如.該外部服務(wù)檢查者可以查證一個(gè)從后臺(tái)數(shù)據(jù)庫(kù)中取出數(shù)據(jù)的應(yīng)用能否正常工作。EAV是BIG-IP提供的非常獨(dú)特的功能.它提供管理者將BIG-IP客戶化后訪問(wèn)各種各樣應(yīng)用的能力.該功能使BIG-IP在提供標(biāo)準(zhǔn)的可用性查證之外能獲得服務(wù)器、應(yīng)用及內(nèi)容可用性等最重要的反饋。該功能對(duì)于提高系統(tǒng)可靠性至關(guān)重要.它用于從客戶的角度測(cè)試您的站點(diǎn)。例如.您可以模擬客戶完成交易所需的所有步驟－連接到前置服務(wù)器或中間件服務(wù)器、從目錄中選擇項(xiàng)目以及驗(yàn)證交易使用的信用卡。一旦BIG-IP掌握了該"可用性"信息.即可利用負(fù)載平衡使資源達(dá)到最高的可用性。BIG-IP已經(jīng)為測(cè)試多種服務(wù)的健康情況和狀態(tài).預(yù)定義了擴(kuò)展應(yīng)用驗(yàn)證<EAV>.如：FTP、NNTP、SMTP、POP3和MSSQL等.用戶還可依據(jù)實(shí)際應(yīng)用.自行編輯EAV腳本。F5產(chǎn)品健康檢查的頻度和間隔是可以根據(jù)用戶的要求而設(shè)置.通過(guò)F5靈活自定義方式的ECV健康檢查方式.用戶可以檢查常見(jiàn)的應(yīng)用如HTTP、SMTP、POP3等。而通過(guò)EAV健康檢查方式.更可自行編寫腳本.實(shí)現(xiàn)更加復(fù)雜的健康檢查方式.全面的檢測(cè)后臺(tái)服務(wù)器的運(yùn)行狀態(tài).保證系統(tǒng)運(yùn)行的高效.可靠。會(huì)話保持技術(shù)當(dāng)使用BIG-IP對(duì)服務(wù)器進(jìn)行負(fù)載均衡時(shí).就需要會(huì)話保持。如果某位用戶連接到了一臺(tái)服務(wù)器上.那么我們肯定希望該用戶在將來(lái)再次連接時(shí)將仍可連接到該臺(tái)服務(wù)器上。當(dāng)該服務(wù)器存有用戶相關(guān)數(shù)據(jù).并且這些數(shù)據(jù)并不與其它服務(wù)器動(dòng)態(tài)共享時(shí).持續(xù)性就顯得十分有必要了。例如.假設(shè)一位用戶在某網(wǎng)站采購(gòu)了一"購(gòu)物車"的商品.然后還未結(jié)帳就離開(kāi)了該網(wǎng)站。如果在其重新登錄網(wǎng)站后.BIG-IP應(yīng)用交換機(jī)將客戶請(qǐng)求路由至不同的服務(wù)器.那么新的服務(wù)器對(duì)該用戶的數(shù)據(jù)和其所購(gòu)買的商品將一無(wú)所知。當(dāng)然.如果所有服務(wù)器都在同一個(gè)后臺(tái)數(shù)據(jù)庫(kù)服務(wù)器中存儲(chǔ)用戶信息及其選購(gòu)商品的話.那么一切就不成問(wèn)題了。但是如果網(wǎng)站不是這樣設(shè)計(jì)的.那么具體的購(gòu)物車數(shù)據(jù)就只能存儲(chǔ)在特定的服務(wù)器上。這樣.BIG-IP應(yīng)用交換機(jī)就必需選擇用戶曾連接上的那臺(tái)服務(wù)器.以無(wú)縫地處理用戶請(qǐng)求。BIG-IP提供以下幾種會(huì)話保持方法：SimplePersistence.SSLSessionIDPersistence.SIPPersistence.CookiePersistence.iModePersistence.目的地址歸類。LTM相關(guān)加速技術(shù)OneConnect降低服務(wù)器TCP連接數(shù)量用戶因連接和斷開(kāi)網(wǎng)絡(luò)連接而產(chǎn)生的周期性網(wǎng)絡(luò)請(qǐng)求會(huì)耗費(fèi)掉企業(yè)寶貴的web應(yīng)用資源。即使每個(gè)連接開(kāi)銷很小.但合到一起.它們將影響到總的應(yīng)用負(fù)載.對(duì)于電子商務(wù)站點(diǎn)和擁有大量用戶的企業(yè)應(yīng)用來(lái)說(shuō).這一點(diǎn)尤為明顯。在ApacheServer的標(biāo)準(zhǔn)配置中.一臺(tái)服務(wù)器的最高并發(fā)連接數(shù)為1024個(gè).而MicroSoftIIS可配置為2048個(gè)?？梢?jiàn)連接數(shù)對(duì)于服務(wù)器是一個(gè)極大的限制,在應(yīng)用服務(wù)器上比如Weblogic.WebSphere上.連接數(shù)的增加將會(huì)給系統(tǒng)增加大量的開(kāi)銷。連接優(yōu)化將處理連接的責(zé)任移交給了F5WA。網(wǎng)絡(luò)流量在WA和源應(yīng)用之間的小型資源池和永久連接中進(jìn)行多路傳輸。WA將成千上萬(wàn)個(gè)用戶的連接匯聚成為少數(shù)的服務(wù)器連接.最終可顯著降低源應(yīng)用的負(fù)載。與其它的連接優(yōu)化技術(shù)不同.F5采用了動(dòng)態(tài)連接池的方式.當(dāng)每一個(gè)用戶請(qǐng)求發(fā)送到WA時(shí).根據(jù)負(fù)載均衡策略.WA將在請(qǐng)求將被發(fā)送到的服務(wù)器端尋找空閑的連接.如果有空閑連接.則直接將請(qǐng)求通過(guò)該連接發(fā)送到服務(wù)器.如果沒(méi)有空閑連接.則新建一個(gè)連接與服務(wù)器端通訊。這樣.既保證了在服務(wù)器端始終維持最小的連接數(shù).又避免了由于沒(méi)有空閑連接而導(dǎo)致的客戶端請(qǐng)求排隊(duì)的現(xiàn)象。HTTP頁(yè)面壓縮應(yīng)用和網(wǎng)絡(luò)延遲問(wèn)題進(jìn)一步降低了web內(nèi)容的傳輸速度。WebAccelerator專利技術(shù)－Express壓縮技術(shù)能夠消除因壓縮算法所帶來(lái)的延遲.為撥號(hào)和寬帶用戶帶來(lái)額外的性能提升。事實(shí)上.借助Express壓縮.撥號(hào)用戶的訪問(wèn)速率將比原來(lái)快5到10倍.同時(shí)帶寬利用率和成本將降低70%-80%。WebServerWebServerClient1Client2BIG-IP/WACompressionontheBIG-IP/WA響應(yīng)時(shí)間的加快.帶來(lái)了用戶滿意度和效率的提升.從而使基于web的應(yīng)用得到更加廣泛的應(yīng)用。單在更低帶寬成本方面所節(jié)約的費(fèi)用〔尤其在遠(yuǎn)程銷售辦公機(jī)構(gòu)或人員方面所節(jié)省的費(fèi)用.就足以補(bǔ)償在設(shè)備購(gòu)置方面的投資.甚至是后者的好幾倍。使用工業(yè)標(biāo)準(zhǔn)的GZIP和Deflate壓縮算法來(lái)壓縮HTTP流量；降低帶寬消耗、縮短最終用戶在慢速/低帶寬連接條件下的下載時(shí)間。RAMCache在BIGIP-LTM上.可以通過(guò)配置內(nèi)存Cache來(lái)提高系統(tǒng)響應(yīng)速度.并減小服務(wù)器端的壓力。通過(guò)內(nèi)存Cache機(jī)制.WA可以把頻繁訪問(wèn)的內(nèi)容存放在內(nèi)存中.當(dāng)下一次請(qǐng)求到達(dá)時(shí).直接從內(nèi)存返回用戶請(qǐng)求的頁(yè)面。從而降低了服務(wù)器的請(qǐng)求壓力。HTTPSOffload在SSL處理過(guò)程中.所有的傳輸內(nèi)容均采用加密算法處理。其中最重要的兩個(gè)部分為SSL握手時(shí)交換秘鑰的非對(duì)稱加密和數(shù)據(jù)傳輸時(shí)的對(duì)稱加密。當(dāng)SSL的客戶端壓力超過(guò)400TPS時(shí).單臺(tái)服務(wù)器就很難處理請(qǐng)求了。因此.必須采用SSL加速設(shè)備來(lái)進(jìn)行處理。F5其實(shí)現(xiàn)的結(jié)構(gòu)如下：所有的SSL流量均在F5上終結(jié).F5與服務(wù)器之間可采用HTTP或者弱加密的SSL進(jìn)行通訊。這樣.就極大的減小了服務(wù)器端對(duì)HTTPS處理的壓力.可將服務(wù)器的處理能力釋放出來(lái).更加專注的處理業(yè)務(wù)邏輯。在F5可處理單向SSL連接.雙向SSL連接。并且可同時(shí)處理多種類型和多個(gè)應(yīng)用的SSL加解密處理。設(shè)備自身冗余機(jī)制BIGIP可以實(shí)現(xiàn)兩種方式實(shí)現(xiàn)冗余連接.一是Active-Backup方式.另一種是Active-Active方式。物理連接方式如下圖所示：F5Networks公司BIGIP產(chǎn)品是業(yè)界唯一實(shí)現(xiàn)雙機(jī)冗余毫秒級(jí)切換的產(chǎn)品.而且設(shè)計(jì)合理。所有會(huì)話通過(guò)ActiveBIGIP同時(shí).會(huì)話信息會(huì)通過(guò)同步數(shù)據(jù)線同步到BackupBIGIP.保證Active與Backup設(shè)備會(huì)話信息同步。且每臺(tái)設(shè)備中的watchdog芯片通過(guò)心跳線檢監(jiān)測(cè)對(duì)方設(shè)備電平.當(dāng)ActiveBIGIP故障時(shí).watchdog會(huì)首先發(fā)現(xiàn).并且通知BackupBIGIP接管sharedip,VIP等.完成冗余切換過(guò)程.BackupBIGIP變成ActiveBackup.由于BackupBIGIP事先已經(jīng)保存了所有會(huì)話數(shù)據(jù)信息.可以保證所有在線會(huì)話的通暢和完整。兩臺(tái)設(shè)備的多種模式的冗余切換觸發(fā)機(jī)制：Watchdog：完全通過(guò)"心跳線"監(jiān)測(cè)物理信號(hào)判斷設(shè)備的運(yùn)行狀況.適時(shí)進(jìn)行冗余切換.采用這種方式.切換時(shí)間在50ms—200ms。Gatewayfailsafe：處于