吳斌偉 - 構(gòu)建高可用可伸縮KV系統(tǒng).ppt

吳斌煒ucloud,構(gòu)建高可用和彈性伸縮的kv系統(tǒng),agenda,常見kv存儲(chǔ)系統(tǒng) 如何構(gòu)建高可用可伸縮kv存儲(chǔ)系統(tǒng),演講流程,演講大綱,nosql（not only sql）,3,易擴(kuò)展,高性能,數(shù)據(jù)結(jié)構(gòu)靈活,sql類db如何提升性能,3,db1 & db2,主,從,寫,讀,sql類db如何提升性能,3,db1,主,從,寫,讀,db2,從,寫,讀,主,kv存儲(chǔ)系統(tǒng)使用場(chǎng)景 緩存,3,mysql,用作緩存只能提升讀性能，不能提升寫性能,kv存儲(chǔ)系統(tǒng)常用場(chǎng)景 持久化db,3,用作持久庫(kù)可以同時(shí)提升讀寫性能,memcache,3,動(dòng)態(tài)網(wǎng)頁(yè)中間結(jié)果,更新較少的熱點(diǎn)數(shù)據(jù),session等臨時(shí)數(shù)據(jù),不足,使用場(chǎng)景,適用場(chǎng)景較,機(jī)器重啟后熱點(diǎn)數(shù)據(jù)丟失,redis,取最新n個(gè)數(shù)據(jù)的操作,排行榜應(yīng)用，取top n操作,需要精準(zhǔn)設(shè)定過(guò)期時(shí)間的應(yīng)用,計(jì)數(shù)器應(yīng)用,消息隊(duì)列,緩存,使用場(chǎng)景,不足,單進(jìn)程,容量受單機(jī)限制,傳統(tǒng)解決redis問(wèn)題的方案,sharding,讀寫分離,單機(jī)redis,性能,主從如何復(fù)制？,自動(dòng)容錯(cuò)？,在線擴(kuò)容？,高可用可伸縮kv存儲(chǔ)系統(tǒng),3,兼容memcache/redis協(xié)議,路由節(jié)點(diǎn),存儲(chǔ)節(jié)點(diǎn)2,存儲(chǔ)節(jié)點(diǎn)1,高可用可伸縮kv存儲(chǔ)系統(tǒng),3,兼容memcache/redis協(xié)議,路由節(jié)點(diǎn)1,存儲(chǔ)節(jié)點(diǎn)1(主),存儲(chǔ)節(jié)點(diǎn)1(備),存儲(chǔ)節(jié)點(diǎn)2(主),存儲(chǔ)節(jié)點(diǎn)2(備),高可用可伸縮kv存儲(chǔ)系統(tǒng),3,兼容memcache/redis協(xié)議,管理節(jié)點(diǎn),路由節(jié)點(diǎn)1,路由表,存儲(chǔ)節(jié)點(diǎn)1(主),存儲(chǔ)節(jié)點(diǎn)1(備),存儲(chǔ)節(jié)點(diǎn)2(主),存儲(chǔ)節(jié)點(diǎn)2(備),高可用可伸縮kv存儲(chǔ)系統(tǒng),3,兼容memcache/redis協(xié)議,管理節(jié)點(diǎn),路由節(jié)點(diǎn)1,路由表,存儲(chǔ)節(jié)點(diǎn)1(主),存儲(chǔ)節(jié)點(diǎn)1(備),存儲(chǔ)節(jié)點(diǎn)2(主),存儲(chǔ)節(jié)點(diǎn)2(備),搬遷節(jié)點(diǎn),存儲(chǔ)節(jié)點(diǎn)3,高可用可伸縮kv存儲(chǔ)系統(tǒng),3,兼容memcache/redis協(xié)議,管理節(jié)點(diǎn),路由節(jié)點(diǎn)1,路由表,存儲(chǔ)節(jié)點(diǎn)1(主),存儲(chǔ)節(jié)點(diǎn)1(備),存儲(chǔ)節(jié)點(diǎn)2(主),存儲(chǔ)節(jié)點(diǎn)2(備),搬遷節(jié)點(diǎn),存儲(chǔ)節(jié)點(diǎn)3,請(qǐng)求,獲取路由,心跳,遷移,復(fù)制,如何構(gòu)建高可用可伸縮kv存儲(chǔ)系統(tǒng),3,數(shù)據(jù)分布,復(fù)制和讀寫,自動(dòng)容錯(cuò),在線擴(kuò)縮容和負(fù)載均衡,一致性hash算法,ketama算法,將每個(gè)節(jié)點(diǎn)分為若干個(gè)虛節(jié)點(diǎn)（100-200）,使用md5做為hash函數(shù),每4個(gè)虛擬節(jié)點(diǎn)為一組,每個(gè)虛擬節(jié)點(diǎn)對(duì)應(yīng)16字節(jié)的md5值中的4個(gè)字節(jié),數(shù)據(jù)分布 同構(gòu)系統(tǒng),a b c,a b c,d e f,d e f,數(shù)據(jù)分布 異構(gòu)系統(tǒng),a e f,d b c,e a b,c e f,異構(gòu)系統(tǒng)在一臺(tái)機(jī)器故障后多臺(tái)機(jī)器能夠同時(shí)恢復(fù)，不過(guò)架構(gòu)較為復(fù)雜,復(fù)制和讀寫流程,w1,w1,w4,異步復(fù)制 保證可用性犧牲一致性,同步復(fù)制 保證一致性犧牲可用性,w2,w3,w4,w3,w2,主,從,主,從,路由節(jié)點(diǎn),路由節(jié)點(diǎn),自動(dòng)容錯(cuò),3,管理節(jié)點(diǎn),路由節(jié)點(diǎn)1,路由表,存儲(chǔ)節(jié)點(diǎn)1(主),存儲(chǔ)節(jié)點(diǎn)1(備),存儲(chǔ)節(jié)點(diǎn)2(主),存儲(chǔ)節(jié)點(diǎn)2(備),hash(key),路由節(jié)點(diǎn)2,請(qǐng)求,獲取路由,心跳,遷移,復(fù)制,lvs,請(qǐng)求,db,磁盤,彈性伸縮和負(fù)載均衡,0,n,新增node3,需要遷移的key,node1 virtual node,node2 virtual node,node3 virtual node,key,目的節(jié)點(diǎn),源節(jié)點(diǎn),在線遷移數(shù)據(jù),3,遷移完成的數(shù)據(jù)轉(zhuǎn)發(fā)給目的端,遷移中的數(shù)據(jù)鎖定寫，遷移完成