大型網(wǎng)站技術(shù)架構(gòu)方案

1、大型網(wǎng)站技術(shù)架構(gòu)方案 2013年9月大型網(wǎng)站架構(gòu)的目標與挑戰(zhàn)（大型網(wǎng)站架構(gòu)的目標與挑戰(zhàn)（2 2）每個目標背后面臨著技術(shù)、設計、維護等諸多方面的挑戰(zhàn)。 而目標本身的期望值也會根據(jù)實際情況進行調(diào)整，這也意味著網(wǎng)站架構(gòu)建設是個不網(wǎng)站架構(gòu)建設是個不斷調(diào)整的過程斷調(diào)整的過程 負載均衡 數(shù)據(jù)備份 異地容災 。 高速緩存 并行計算 異地鏡像 。 開發(fā)框架 多層設計 業(yè)務分割 。網(wǎng)站架構(gòu)各子系統(tǒng)介紹網(wǎng)站架構(gòu)各子系統(tǒng)介紹lWeb前 端系統(tǒng)l負 載均衡系統(tǒng)l數(shù) 據(jù)庫集群系統(tǒng)l緩 存系統(tǒng)l分 布式存儲系統(tǒng)l分 布式服務器管理系統(tǒng)l代 碼分發(fā)系統(tǒng)一個典型的大型網(wǎng)站架構(gòu)圖一個典型的大型網(wǎng)站架構(gòu)圖Web前端系統(tǒng)lWebW

2、eb動、靜分離動、靜分離 CDN、GADl瀏覽器緩存瀏覽器緩存: : Header參數(shù)HTTP1.1協(xié)議+GET、-POSTContent-Encoding、 gzip+Cookie、- Sessions, AJAXPLUGINPLUGINHTML5HTML5 能夠讓瀏覽器緩存的數(shù)據(jù)一定要緩存；瀏覽器能夠處理的運算，決不放在服務器端來處理。網(wǎng)站架構(gòu)各子系統(tǒng)網(wǎng)站架構(gòu)各子系統(tǒng)lWeb前端系統(tǒng)l負載均衡系統(tǒng)l數(shù)據(jù)庫集群系統(tǒng)l緩存系統(tǒng)l分布式存儲系統(tǒng)l分布式服務器管理系統(tǒng)l代碼分發(fā)系統(tǒng)負載均衡系統(tǒng)大型網(wǎng)站解決高負荷訪問和大量并發(fā)請求采用的終極解決辦法8代碼分發(fā)系統(tǒng): SVN + RsyncSVN:l管

3、理方便，邏輯明確，符合一般人思維習慣；l易于管理，集中式服務器更能保證安全性；l代碼一致性非常高，更新速度快；l適合開發(fā)人數(shù)不多的項目開發(fā)；l學習成本低，快速上手Rsync (remote sync)l可以鏡像保存整個目錄樹和文件系統(tǒng)；l可以很容易做到保持原來文件的權(quán)限、時間、軟硬鏈接等等；l無須特殊權(quán)限即可安裝;l快速、安全、支持匿名傳輸，以方便進行網(wǎng)站鏡象。負載均衡系統(tǒng):NginxHttp serverHttp serverReverse ProxyMail serverMail serverLB server: 50,000 connectionBug free7*24Easy to u

4、pgrade網(wǎng)站架構(gòu)各子系統(tǒng)介紹網(wǎng)站架構(gòu)各子系統(tǒng)介紹lWeb前端系統(tǒng)l負載均衡系統(tǒng)l數(shù)據(jù)庫集群系統(tǒng)l緩存系統(tǒng)l分布式存儲系統(tǒng)l分布式服務器管理系統(tǒng)l代碼分發(fā)系統(tǒng)數(shù)據(jù)庫集群系統(tǒng)整個網(wǎng)站體系的高可靠性保證數(shù)據(jù)庫集群系統(tǒng)：Mysqll數(shù)據(jù)庫服務器和應用服務器分離l讀寫分離讀寫分離l主從同步、備份機制主從同步、備份機制l讀、寫數(shù)據(jù)庫集群l從數(shù)據(jù)庫負載均衡: BigIP網(wǎng)站架構(gòu)各子系統(tǒng)介紹網(wǎng)站架構(gòu)各子系統(tǒng)介紹lWeb前端系統(tǒng)l負載均衡系統(tǒng)l數(shù)據(jù)庫集群系統(tǒng)l緩存系統(tǒng)l分布式存儲系統(tǒng)l分布式服務器管理系統(tǒng)l代碼分發(fā)系統(tǒng)緩存系統(tǒng)緩存分為文件緩存、內(nèi)存緩存、數(shù)據(jù)庫緩存。在大型Web應用中使用最多且效率最高的是內(nèi)

5、存緩存緩存系統(tǒng)l數(shù)據(jù)庫緩存數(shù)據(jù)庫緩存Query CacheData BufferApp server cachel前端頁面緩存前端頁面緩存采用具備緩存功能的http反向代理服務器作前端頁面緩存器，VarnishSquidNcacheAiCache(商業(yè))【硬件F5】網(wǎng)站架構(gòu)各子系統(tǒng)介紹網(wǎng)站架構(gòu)各子系統(tǒng)介紹lWeb前端系統(tǒng)l負載均衡系統(tǒng)l數(shù)據(jù)庫集群系統(tǒng)l緩存系統(tǒng)l分布式存儲系統(tǒng)l分布式服務器管理系統(tǒng)l代碼分發(fā)系統(tǒng)分布式存儲系統(tǒng)l 存儲量很大：相冊、視頻l 負載均衡cluster中的每個節(jié)點操作的數(shù)據(jù)從邏輯上看只能是一個整體，不是各自獨立的數(shù)據(jù)資源分布式存儲系統(tǒng): FastDfsl開源的輕量級分布

6、式文件系統(tǒng)l文件存儲、文件同步、文件訪問l動態(tài)添加，方便擴充19網(wǎng)站架構(gòu)各子系統(tǒng)介紹網(wǎng)站架構(gòu)各子系統(tǒng)介紹lWeb前端系統(tǒng)l負載均衡系統(tǒng)l數(shù)據(jù)庫集群系統(tǒng)l緩存系統(tǒng)l分布式存儲系統(tǒng)l分布式服務器管理系統(tǒng)l代碼分發(fā)系統(tǒng)分布式服務器管理系統(tǒng)目標：l集中式的、分組的、批量的、自動化的對服務器進行管理，能夠批量化的執(zhí)行計劃任務l高效的實現(xiàn)大規(guī)模的服務器集群管理21分布式服務器管理系統(tǒng)：Cfengine執(zhí)行基于策略的配置管理 l完成后期安裝任務，例如配置網(wǎng)絡界面信息； l編輯系統(tǒng)配置文件以及其它文件；l管理系統(tǒng)服務器進程；l檢驗、更正文件許可及所有權(quán)；l刪除無用文件、壓縮被選文件、在網(wǎng)絡中分發(fā)文件； l自動掛載NFS文件系統(tǒng)； l檢查重要文件和文件系統(tǒng)是否存在及其完整性。 l執(zhí)行命令及腳本。 l應用安全相關(guān)的補丁以及相似系統(tǒng)的修正。 。 。22網(wǎng)站架構(gòu)各子系統(tǒng)介紹網(wǎng)站架構(gòu)各子系統(tǒng)介紹lWeb前端