互聯(lián)網(wǎng)高并發(fā)架構(gòu)設計

前言高并發(fā)經(jīng)常會發(fā)生在有大活躍用戶量，用戶高聚集的業(yè)務場景中，如：秒殺活動，定時領取紅包等。

為了讓業(yè)務可以流暢的運行并且給用戶一個好的交互體驗，我們需要根據(jù)業(yè)務場景預估達到的并發(fā)量等因素，來設計適合自己業(yè)務場景的高并發(fā)處理方案。在電商相關產(chǎn)品開發(fā)的這些年，我有幸的遇到了并發(fā)下的各種坑，這一路摸爬滾打過來有著不少的血淚史，這里進行的總結(jié)，作為自己的歸檔記錄，同時分享給大家。服務器架構(gòu)業(yè)務從發(fā)展的初期到逐漸成熟，服務器架構(gòu)也是從相對單一到集群，再到分布式服務。

一個可以支持高并發(fā)的服務少不了好的服務器架構(gòu)，需要有均衡負載，數(shù)據(jù)庫需要主從集群，nosql緩存需要主從集群，靜態(tài)文件需要上傳cdn，這些都是能讓業(yè)務程序流暢運行的強大后盾。服務器這塊多是需要運維人員來配合搭建，具體我就不多說了，點到為止。

大致需要用到的服務器架構(gòu)如下：服務器均衡負載(如：nginx，阿里云SLB)資源監(jiān)控分布式數(shù)據(jù)庫主從分離，集群DBA表優(yōu)化，索引優(yōu)化，等分布式nosqlredis主從分離，集群mongodb主從分離，集群memcache主從分離，集群cdnhtmlcssjsimage并發(fā)測試高并發(fā)相關的業(yè)務，需要進行并發(fā)的測試，通過大量的數(shù)據(jù)分析評估出整個架構(gòu)可以支撐的并發(fā)量。測試高并發(fā)可以使用第三方服務器或者自己測試服務器，利用測試工具進行并發(fā)請求測試，分析測試數(shù)據(jù)得到可以支撐并發(fā)數(shù)量的評估，這個可以作為一個預警參考，俗話說知己自彼百戰(zhàn)不殆。第三方服務:阿里云性能測試并發(fā)測試工具：ApacheJMeterVisualStudio性能負載測試MicrosoftWebApplicationStressTool實戰(zhàn)方案通用方案日用戶流量大，但是比較分散，偶爾會有用戶高聚的情況；場景：用戶簽到，用戶中心，用戶訂單，等

服務器架構(gòu)圖：說明：場景中的這些業(yè)務基本是用戶進入APP后會操作到的，除了活動日(618,雙11，等)，這些業(yè)務的用戶量都不會高聚集，同時這些業(yè)務相關的表都是大數(shù)據(jù)表，業(yè)務多是查詢操作，所以我們需要減少用戶直接命中DB的查詢；優(yōu)先查詢緩存，如果緩存不存在，再進行DB查詢，將查詢結(jié)果緩存起來。更新用戶相關緩存需要分布式存儲，比如使用用戶ID進行hash分組，把用戶分布到不同的緩存中，這樣一個緩存集合的總量不會很大，不會影響查詢效率。這時候就出現(xiàn)了一級緩存的方案，一級緩存就是使用站點服務器緩存去存儲數(shù)據(jù)，注意只存儲部分請求量大的數(shù)據(jù)，并且緩存的數(shù)據(jù)量要控制，不能過分的使用站點服務器的內(nèi)存而影響了站點應用程序的正常運行，一級緩存需要設置秒單位的過期時間，具體時間根據(jù)業(yè)務場景設定，目的是當有高并發(fā)請求的時候可以讓數(shù)據(jù)的獲取命中到一級緩存，而不用連接緩存nosql數(shù)據(jù)服務器，減少nosql數(shù)據(jù)服務器的壓力比如APP首屏商品數(shù)據(jù)接口，這些數(shù)據(jù)是公共的不會針對用戶自定義，而且這些數(shù)據(jù)不會頻繁的更新，像這種接口的請求量比較大就可以加入一級緩存；服務器架構(gòu)圖：合理的規(guī)范和使用nosql緩存數(shù)據(jù)庫，根據(jù)業(yè)務拆分緩存數(shù)據(jù)庫的集群，這樣基本可以很好支持業(yè)務，一級緩存畢竟是使用站點服務器緩存所以還是要善用。靜態(tài)化數(shù)據(jù)高并發(fā)請求數(shù)據(jù)不變化的情況下如果可以不請求自己的服務器獲取數(shù)據(jù)那就可以減少服務器的資源壓力。對于更新頻繁度不高，并且數(shù)據(jù)允許短時間內(nèi)的延遲，可以通過數(shù)據(jù)靜態(tài)化成JSON，XML,HTML等數(shù)據(jù)文件上傳CDN，在拉取數(shù)據(jù)的時候優(yōu)先到CDN拉取，如果沒有獲取到數(shù)據(jù)再從緩存，數(shù)據(jù)庫中獲取，當管理人員操作后臺編輯數(shù)據(jù)再重新生成靜態(tài)文件上傳同步到CDN，這樣在高并發(fā)的時候可以使數(shù)據(jù)的獲取命中在CDN服務器上。CDN節(jié)點同步有一定的延遲性，所以找一個靠譜的CDN服務器商也很重要其他方案對于更新頻繁度不高的數(shù)據(jù)，APP,PC瀏覽器，可以緩存數(shù)據(jù)到本地，然后每次請求接口的時候上傳當前