PaxosStore高可用存儲系統(tǒng)介紹

1、PaxosStore高可用存儲系統(tǒng)介紹項目介紹PaxosStore架構(gòu)設(shè)計具體案例分析項目的挑戰(zhàn)和發(fā)展項目介紹PaxosStore是什么？一個在跨園區(qū)數(shù)據(jù)中心間同步復制，提供靈活的數(shù)據(jù)模式和訪問接口，支持億行大 表，并具備快速伸縮能力，低延遲低成本，強一致和高可用的分布式存儲系統(tǒng)。PaxosStore特點：無租約Paxos工程化，多主多寫，高可用；針對業(yè)務(wù)特性優(yōu)化，合并整體優(yōu)化成本15+%；同一容災、遷移框架下，支持多種插件化存儲引擎、億行大表；快速伸縮能力，基于反饋的自適應(yīng)遷移系統(tǒng)。項目介紹PaxosStore部署情況：WXG內(nèi)部廣泛部署、數(shù)千臺機器數(shù)萬億/天的讀寫量、峰值1億+/秒PB級的

2、結(jié)構(gòu)化數(shù)據(jù)、全球多個數(shù)據(jù)中心微信業(yè)務(wù)支持：賬號/消息/朋友圈/通訊錄/為什么需要PaxosStore？日益龐大的存儲集群海量存儲機器，PB級數(shù)據(jù)量月均上百臺單機故障舊架構(gòu)缺陷：數(shù)據(jù)異步同步單機故障導致部分Key不可用單機數(shù)據(jù)丟失，導致未同步數(shù)據(jù)丟失需求列表提高服務(wù)的可用性提高數(shù)據(jù)的安全性機器規(guī)模7000臺，每月頻繁的單機故障項目介紹PaxosStore架構(gòu)設(shè)計具體案例分析項目的挑戰(zhàn)和發(fā)展PaxosStore整體架構(gòu)數(shù)據(jù)分布方式按Set隔離，一致性哈希；Set內(nèi)三園區(qū)容災；讀操作就近訪問。PaxosLog（PLog）介紹ABC三臺機上對應(yīng)的三條PLogPaxos協(xié)議保證PLog中每個Entry的

3、一致性三機PLog架構(gòu)設(shè)計要點三份數(shù)據(jù)副本更加安全可靠NoRaid代替Raid10降低成本多主多寫AB機自動跳轉(zhuǎn)PLog允許空洞可用性更高PLog細粒度化用戶數(shù)據(jù)相互隔離快消型PLog消除磁盤瓶頸三機PLog架構(gòu)三份數(shù)據(jù)副本下的性能優(yōu)化Paxos協(xié)議優(yōu)化預授權(quán)（Pre-Preparing）常規(guī)優(yōu)化網(wǎng)絡(luò)IO按IP聚合投遞磁盤IO合并針對性優(yōu)化只復制副本，延遲批量Commit多主多寫下的活鎖問題活鎖問題是怎么產(chǎn)生的？多主多寫下的活鎖問題活鎖問題如何解決？Client路由先A后B沖突時進行避讓相同PLog的請求合并為什么PLog（變更日志）允許空洞的情況下可用性更高？PLog（變更日志）與數(shù)據(jù)對象的

4、對應(yīng)關(guān)系整個數(shù)據(jù)庫對應(yīng)一個PLog訪問單個用戶數(shù)據(jù)落后時Catchup所有用戶變更單個用戶數(shù)據(jù)發(fā)生異常影響對應(yīng)PLog的所有用戶PLog（變更日志）與數(shù)據(jù)對象的對應(yīng)關(guān)系PLog細粒度化用戶數(shù)據(jù)相互隔離數(shù)據(jù)落后、丟失時，獨立恢復PLog細粒度下的恢復策略訪問時優(yōu)先恢復后臺線程全量恢復基于PLog（變更日志）的數(shù)據(jù)恢復如何應(yīng)對PLog無限增長的存儲空間？PLog日志存在的意義協(xié)議交互需要Commit到DB數(shù)據(jù)庫刪除PLog日志安全性：Commit下可刪過期刪除快消型PLogPLog存多久合適？存儲成本 VS 數(shù)據(jù)全量恢復性能增量型數(shù)據(jù)以嚴格遞增序列號為Key的列表結(jié)構(gòu)以時間戳為Key的集合結(jié)構(gòu)數(shù)據(jù)恢復方式總結(jié)基于PLog日志基于增量數(shù)據(jù)基于全量數(shù)據(jù)項目介紹PaxosStore架構(gòu)設(shè)計具體案例分析項目的挑戰(zhàn)和發(fā)展朋友圈索引存儲背景單機TB級數(shù)據(jù)熱數(shù)據(jù)效應(yīng)明顯實施效果機器故障，平滑切換回歸集群，快速恢復消息存儲系統(tǒng)背景1000+臺機器，PB級數(shù)據(jù)消息寫量：千億級/天存儲轉(zhuǎn)發(fā)機制實施效果NoRaid代替Raid10，收益明顯DB支持增量恢復，PLog日志快消項目介