服務(wù)器集群與負載均衡

從集群系統(tǒng)到負載均衡

匯報人：張學佩2021/5/91內(nèi)容簡介集群系統(tǒng)代理服務(wù)器負載均衡系統(tǒng)2021/5/92集群系統(tǒng)一、什么是集群技術(shù)？(Cluster)

舉個例子來說，我們架設(shè)了一臺網(wǎng)絡(luò)服務(wù)器，上面構(gòu)建了一個電子商務(wù)網(wǎng)站，然而隨著時間的推移，名聲越來越大，這時點擊率也就越來越高，服務(wù)器的負載也就越來越高。這種情況下，我們就必須提升服務(wù)器的能力，以滿足日益增長的服務(wù)請求。這時，我們就面臨兩種選擇：1）升級網(wǎng)絡(luò)服務(wù)器，采用更快的CPU，增加更多的內(nèi)存，使其具有更強的性能；但日益增長的服務(wù)請求又會使服務(wù)器再次過載，需要再次升級，這樣就陷入了升級的怪圈。還有，升級時還得考慮到服務(wù)如何接續(xù)，能否中止。2）增加更多的服務(wù)器，讓多臺服務(wù)器來完成相同的服務(wù)?；旌闲头?wù)器集群系統(tǒng)2021/5/93集群系統(tǒng)二、集群技術(shù)的目的

1提高性能一些計算密集型應(yīng)用，如：天氣預(yù)報、核試驗?zāi)M等，需要計算機要有很強的運算處理能力，現(xiàn)有的技術(shù)，即使普通的大型機其計算也很難勝任。這時，一般都使用計算機集群技術(shù)，集中幾十臺甚至上百臺計算機的運算能力來滿足要求。提高處理性能一直是集群技術(shù)研究的一個重要目標之一。2降低成本通常一套較好的集群配置，其軟硬件開銷要超過10W美元。但與價值上百萬美元的專用超級計算機相比已屬相當便宜。在達到同樣性能的條件下，采用計算機集群比采用同等運算能力的大型計算機具有更高的性價比。2021/5/94集群系統(tǒng)3提高可擴展性用戶若想擴展系統(tǒng)能力，不得不購買更高性能的服務(wù)器，才能獲得額外所需的CPU和存儲器。如果采用集群技術(shù)，則只需要將新的服務(wù)器加入集群中即可，對于客戶來看，服務(wù)無論從連續(xù)性還是性能上都幾乎沒有變化，好像系統(tǒng)在不知不覺中完成了升級。4增強可靠性集群技術(shù)使系統(tǒng)在故障發(fā)生時仍可以繼續(xù)工作，將系統(tǒng)停運時間減到最小。集群系統(tǒng)在提高系統(tǒng)的可靠性的同時，也大大減小了故障損失。二、集群技術(shù)的目的2021/5/95集群系統(tǒng)1、高性能計算集群(HPCCluster)

也叫科學集群，充分利用集群中的每一臺計算機的資源，實現(xiàn)復(fù)雜運算的并行計算，以解決復(fù)雜的科學問題。通常用于科學計算領(lǐng)域，比如基因分析，化學分析等。2、高可用性集群(HACluster)

高可用性集群的主要目的是為了使集群的整體服務(wù)盡可能持續(xù)可用，當主服務(wù)器故障時，備份服務(wù)器能夠自動接管主服務(wù)器的工作，并及時切換過去，以實現(xiàn)對用戶的不間斷、不停機服務(wù)。3、負載均衡集群(LBCluster)

負載均衡集群的每個節(jié)點都可以承擔一定的處理負載，并且可以實現(xiàn)處理負載在節(jié)點之間的動態(tài)分配，以實現(xiàn)負載均衡。集群中所有的節(jié)點都處于活動狀態(tài)，它們分攤系統(tǒng)的工作負荷。三、集群系統(tǒng)的分類2021/5/96集群系統(tǒng)

服務(wù)器集群系統(tǒng)就是指通過集群技術(shù)將很多服務(wù)器集中起來一起進行同一種服務(wù)，在客戶端看來就像是只有一個服務(wù)器?，F(xiàn)在的中大型企業(yè)都用到了服務(wù)器集群系統(tǒng)，比如：百度、新浪、網(wǎng)易、騰訊等。

然而，對于服務(wù)器集群系統(tǒng)來說，用戶訪問的域名網(wǎng)址都是一樣的，那么用戶的具體訪問請求會交給集群中的哪個服務(wù)器來處理？如果有很多訪問請求，那么集群系統(tǒng)到底怎么分配這些請求任務(wù)給集群中的每臺服務(wù)器？

這里涉及到兩個概念——反向代理和負載均衡。四、服務(wù)器集群系統(tǒng)2021/5/97代理服務(wù)器

我們有時候，用自己的計算機A想訪問國外的某個網(wǎng)站B，但是訪問不了，此時，有一臺中間服務(wù)器C可以訪問國外的網(wǎng)站B，那么，我們可以用自己的電腦訪問服務(wù)器C，通過C來訪問B這個網(wǎng)站。那么這個時候，服務(wù)器C稱為代理服務(wù)器，這種訪問方式叫做正向代理。正向代理有一個特點，就是我們明確知道要訪問哪個網(wǎng)站。再如，當我們有一個服務(wù)器集群，并且服務(wù)器集群中的每臺服務(wù)器的內(nèi)容一樣都一致，同樣的，我們想要直接從個人電腦訪問到服務(wù)器集群管理的網(wǎng)站，但是此時我們并不知道是哪一臺服務(wù)器提供的內(nèi)容，通過第三方服務(wù)器傳遞了請求后依然得到了想要的頁面，此時的代理方式稱為反向代理。

什么是代理？2021/5/98代理服務(wù)器

正向代理網(wǎng)站B訪問不了怎么辦？服務(wù)器C計算機A2021/5/99代理服務(wù)器

反向代理計算機A可是我自身沒有數(shù)據(jù)怎么辦數(shù)據(jù)A數(shù)據(jù)B數(shù)據(jù)C服務(wù)器E2021/5/910負載均衡

當一臺服務(wù)器的單位時間內(nèi)的訪問量越大的時候，服務(wù)器的壓力會越大。當一臺服務(wù)器壓力大得超過自身的承受能力的時候，服務(wù)器會崩潰。為了避免服務(wù)器崩潰，讓用戶有更好地體驗，我們通常通過負載均衡的方式來分擔服務(wù)器的壓力。那么什么是負載均衡呢？當用戶訪問我們網(wǎng)站的時候，先訪問一個中間服務(wù)器，再讓這個中間服務(wù)器在服務(wù)器集群中選擇一個壓力較小的服務(wù)器，然后將該訪問請求引入該選擇的服務(wù)器。這樣，用戶的每次訪問，都會保證服務(wù)器集群中的每個服務(wù)器的壓力趨于平衡，分擔了服務(wù)器的總體壓力，避免了服務(wù)器崩潰的情況。

一、什么是負載均衡(LoadBalance)？2021/5/911負載均衡二、負載均衡算法

一般來說，企業(yè)可依需求自行設(shè)定負載平衡規(guī)則，而網(wǎng)絡(luò)存取可參照所設(shè)定的規(guī)則，執(zhí)行網(wǎng)絡(luò)流量負載平衡算法。常見的算法則有：◎輪詢

◎加權(quán)輪詢

◎散列法

◎動態(tài)輪詢◎最少連接法◎最快響應(yīng)法負載均衡結(jié)構(gòu)圖2021/5/912負載均衡三、負載均衡的實現(xiàn)方式軟件負載均衡技術(shù)該技術(shù)適用于一些中小型網(wǎng)站系統(tǒng)，可以滿足一般的均衡負載需求。軟件負載均衡技術(shù)是指在服務(wù)器集群中的代理服務(wù)器上安裝一個相應(yīng)的負載均衡軟件來實現(xiàn)的一種負載均衡技術(shù)。軟件可以很方便的安裝在服務(wù)器上，并且能實現(xiàn)一定的負載均衡功能。軟件負載均衡技術(shù)配置簡單、操作也方便，最重要的是成本很低。硬件負載均衡技術(shù)由于硬件負載均衡技術(shù)需要額外的增加負載均衡器，成本比較高，適用于流量高的大型網(wǎng)站系統(tǒng)。不過在現(xiàn)在較有規(guī)模的企業(yè)、政府網(wǎng)站，一般來說都會部署有硬件負載均衡設(shè)備（原因：1.硬件設(shè)備更穩(wěn)定2.效率高、更合規(guī)達標）硬件負載均衡技術(shù)是在多臺服務(wù)器間安裝相應(yīng)的負載均衡設(shè)備(負載均衡器)來完成均衡負載技術(shù)，與軟件負載均衡技術(shù)相比，能達到更好的負載均衡效果。2021/5/913負載均衡三、負載均衡的實現(xiàn)方式本地負載均衡技術(shù)本地負載均衡技術(shù)是對本地服務(wù)器集群進行負載均衡處理。該技術(shù)通過對服務(wù)器進行性能優(yōu)化，使流量能夠平均分配在服務(wù)器群中的各個服務(wù)器上，其能有效地解決數(shù)據(jù)流量過大、網(wǎng)絡(luò)負荷過重的問題，并且不需花費昂貴開支購置性能卓越的服務(wù)器，充分利用現(xiàn)有設(shè)備，避免服務(wù)器單點故障造成數(shù)據(jù)流量的損失。全局負載均衡技術(shù)(廣域負載均衡)全局負載均衡技術(shù)適用于擁有多個地域的服務(wù)器集群的大型網(wǎng)站系統(tǒng)。全局負載均衡技術(shù)是對分布在全國各個地區(qū)的多個服務(wù)器進行負載均衡處理，該技術(shù)可以通過對訪問用戶的IP地理位置判定，自動轉(zhuǎn)向地域最近點的服務(wù)器集群。很多大型網(wǎng)站都使用的這種技術(shù)。2021/5/914負載均衡四、負載均衡的主要應(yīng)用1.DNS負載均衡

最早的負載均衡技術(shù)是通過DNS來實現(xiàn)的，在DNS中為多個地址配置同一個名字，因而查詢這個名字的客戶機將得到其中一個地址，從而使得不同的客戶訪問不同的服務(wù)器，達到負載均衡的目的。DNS負載均衡是一種簡單而有效的方法，但是它不能區(qū)分服務(wù)器的差異，也不能反映服務(wù)器的當前運行狀態(tài)。2.NAT負載均衡

支持負載均衡的地址轉(zhuǎn)換網(wǎng)關(guān)，可以將一個外部IP地址映射為多個內(nèi)部IP地址，對每次TCP連接請求動態(tài)使用其中一個內(nèi)部地址，達到負載均衡的目的。2021/5/915負載均衡四、負載均衡的主要應(yīng)用3.反向代理負載均衡

反向代理（ReverseProxy）負載均衡技術(shù)是把將來自Internet上的連接請求以反向代理的方式動態(tài)地轉(zhuǎn)發(fā)給內(nèi)部網(wǎng)絡(luò)上的多臺服務(wù)器進行處理，從而達到負載均衡的目的。2021/5/916負載均衡四、負載均衡的主要應(yīng)用4.混合型負載均衡

在有些大型網(wǎng)絡(luò)，由于多個服務(wù)器群內(nèi)硬件設(shè)備、各自的規(guī)模、提供的服務(wù)等的差異，可以考慮給每個服務(wù)器群采用最合適的負載均衡方式，然后又在這多個服務(wù)器群間再一次負載均衡或群集起來以一個整體向外界提供服務(wù)。2021/5/917負載均衡五、負載均衡產(chǎn)品1.負載均衡器（硬件）

負載均衡器也稱為負載均衡設(shè)備，其效果比軟件實現(xiàn)的負載均衡要高效、穩(wěn)定，而且還擁有很多其他的重要功能，如：1）基礎(chǔ)防火墻功能——數(shù)據(jù)包過濾 2）資源隱藏和內(nèi)容安全3）定制的應(yīng)用攻擊過濾 4）隔離協(xié)議攻擊5）網(wǎng)絡(luò)攻擊防護 6）Cookie加密7）高級SSL加密標準 8）抓包工具

常見的產(chǎn)商有：F5、Radware、Array、A10等國外著名品牌；北京華夏創(chuàng)新、深圳深信服、上海云速等國內(nèi)領(lǐng)軍品牌；2021/5/918負載均衡五、負載均衡產(chǎn)品2.負載均衡服務(wù)器（軟件）

1、ngnix——俄羅斯人開發(fā)的一個高性能的HTTP和反向代理服務(wù)器。由于Nginx超越Apache的高性能和穩(wěn)定性，使得國內(nèi)使用Nginx作為Web服務(wù)器的網(wǎng)站也越來越多，其中包括新浪博客、網(wǎng)易新聞、騰訊網(wǎng)、搜狐博客等門戶網(wǎng)站頻道等，在3w以上的高并發(fā)環(huán)境下，ngnix處理能力相當于Apache的10倍。2、lvs——LinuxVirtualServer的簡寫，意即Linux虛擬服務(wù)器，由畢業(yè)于國防科技大學的章文嵩博士于1998年5月創(chuàng)立。特點：抗負載能力強，配置性低，工作穩(wěn)定，無流量。2021/5/919負載均衡五、負載均衡產(chǎn)品2.負載均衡服務(wù)器（軟件）

3、HAProxy——HAProxy提供高可用性、負載均衡以及基于TCP和HTTP應(yīng)用的代理，支持虛擬主機，它是免費、快速并且可靠的一種解決方案。HAProxy特別適用于那些負載特大的web站點，這些站點通常又需要Session保持或七層處理。HAProxy運行的硬件上，完全可以支持數(shù)以萬計的并發(fā)連接，同時可以保護你的web服務(wù)