常用開(kāi)源NoSQL原理與應(yīng)用

常用開(kāi)源 NoSQL原理與應(yīng)用 Agenda 深入理解 Redis Hash算法數(shù)據(jù)庫(kù)介紹 LSM算法數(shù)據(jù)庫(kù)介紹 HandlerSocket介紹 分布式數(shù)據(jù)庫(kù)介紹 Why NoSQL? 關(guān)系數(shù)據(jù)庫(kù)的問(wèn)題 大數(shù)據(jù)的產(chǎn)生 存儲(chǔ)需求的多樣性 云時(shí)代的來(lái)臨 深入理解 Redis 一個(gè)更加強(qiáng)大的 Memcached memcached場(chǎng)景與局限 只能做 cache,不能做 storage 沒(méi)有數(shù)據(jù)結(jié)構(gòu)支持 數(shù)據(jù)局部踢出現(xiàn)象 cache與存儲(chǔ)資源訪(fǎng)問(wèn)能力落差 不能枚舉全數(shù)據(jù) 訪(fǎng)問(wèn)性能仍有提升空間 redis 概述 a disk backed in-memory database 高性能網(wǎng)絡(luò)接口 + 數(shù)據(jù)結(jié)構(gòu)集合 redis 特點(diǎn) key - structure 類(lèi)型存儲(chǔ) 支持?jǐn)?shù)據(jù)可靠存儲(chǔ)及落地 支持復(fù)制（ cluster版本在開(kāi)發(fā)） 單進(jìn)程單線(xiàn)程高性能服務(wù)器 crash safe & recovery slow 缺少內(nèi)存管理算法，依賴(lài)第三方庫(kù) 單機(jī) qps可以達(dá)到 10W (cpu是瓶頸 ) redis 數(shù)據(jù)類(lèi)型 string hash list set sorted set redis 持久化機(jī)制 snapshot save 參數(shù) aof appendfsync 參數(shù) vm vm is not the way to go for the future diskstore 傳統(tǒng) b-tree redis 復(fù)制 實(shí)現(xiàn)機(jī)制 快照同步 存在的問(wèn)題 無(wú)增量復(fù)制 slave表重建 redis缺陷與優(yōu)化 持久化 IO機(jī)制 復(fù)制機(jī)制 內(nèi)存管理 線(xiàn)程模型 故障恢復(fù)時(shí)間 持久化問(wèn)題 buffer io 持久化問(wèn)題 - fsync fsync非常耗時(shí) 單進(jìn)程阻塞操作 快照與 fsync同時(shí)進(jìn)行 復(fù)制缺陷 內(nèi)存管理 缺少高效內(nèi)存管理 額外內(nèi)存占用過(guò)多 針對(duì)特殊場(chǎng)景做優(yōu)化 開(kāi)放地址 Hash redis 使用場(chǎng)景 需要 key - structure復(fù)雜數(shù)據(jù)結(jié)構(gòu) 需要數(shù)據(jù)可靠存儲(chǔ) 需要極高的單機(jī) qps using RAM as the new disk Hash算法數(shù)據(jù)庫(kù) Hash存儲(chǔ)結(jié)構(gòu)更合適簡(jiǎn)單 kv存儲(chǔ) tokyocabint（ tchdb） 特點(diǎn) 包含 hash/btree等多種存儲(chǔ)類(lèi)型 kv tchdb適合小數(shù)據(jù)量高速讀寫(xiě)訪(fǎng)問(wèn) tchdb隨機(jī)磁盤(pán) IO次數(shù)平均 tchdb使用 mmap io tchdb qps 大約在 6W左右 tchdb存儲(chǔ)結(jié)構(gòu) 1 tchdb存儲(chǔ)結(jié)構(gòu) 2 LSM算法數(shù)據(jù)庫(kù) 硬件變革推動(dòng)算法變革 leveldb特點(diǎn) bigtable tablet實(shí)現(xiàn) LSM Tree算法 寫(xiě)性能極其出色 讀性能依賴(lài)數(shù)據(jù)熱度 SSD設(shè)備友好，不會(huì)寫(xiě)入放大 嵌入式 DB，需要自己實(shí)現(xiàn) Server 分布式 auto sharding支持友好 寫(xiě)性能 50MB/s,讀性能 6W/s leveldb 存儲(chǔ)結(jié)構(gòu) leveldb 的問(wèn)題與場(chǎng)景 讀 IO次數(shù)不確定 查詢(xún)指定 key對(duì)應(yīng)數(shù)據(jù)不存在的開(kāi)銷(xiāo)非常大 缺少高效內(nèi)存管理算法 需要根據(jù)業(yè)務(wù)特點(diǎn)平衡 merge時(shí)間點(diǎn) 投入使用需要一定的開(kāi)發(fā)量 適合有明顯時(shí)間熱點(diǎn)訪(fǎng)問(wèn)規(guī)律的系統(tǒng) 配合 SSD使用表現(xiàn)極其出色 riak(bitcask) 特點(diǎn) 存儲(chǔ)結(jié)構(gòu)簡(jiǎn)單 LSM Hash算法 全部 key存儲(chǔ)在內(nèi)存中 全部查詢(xún)只有 1次磁盤(pán) IO QPS 大約在 45W左右 bitcask 存儲(chǔ)結(jié)構(gòu) bitcask 問(wèn)題與場(chǎng)景 全部 key需要存儲(chǔ)在內(nèi)存中 recovery重啟需要重新 load所有 key merge時(shí)機(jī)的選擇 適合配合 SSD使用 handlersocket特點(diǎn) NoSQL接口訪(fǎng)問(wèn) MySQL(Innodb) 解決 SQL解析，查詢(xún)優(yōu)化等 CPU開(kāi)銷(xiāo) 插件安裝無(wú)數(shù)據(jù)遷移成本 QPS 可以達(dá)到 8W handlersocket結(jié)構(gòu) handlersocket問(wèn)題與場(chǎng)景 配合 DDL使用有嚴(yán)重問(wèn)題 寫(xiě)性能差，比傳統(tǒng) SQL接口還要慢 只能支持 Row Based復(fù)制 性能優(yōu)勢(shì)建立在沒(méi)有磁盤(pán) IO瓶頸基礎(chǔ)上 分布式 NoSQL介紹 無(wú)中心化方案 無(wú)中心節(jié)點(diǎn) 數(shù)據(jù)一致性 Hash分布 NWR數(shù)據(jù)多點(diǎn)備份 Read repair Hinted Handoff Gossip節(jié)點(diǎn)管理 中心化方案 中心節(jié)點(diǎn)提供路由 中心節(jié)點(diǎn)維護(hù)節(jié)點(diǎn)信息 對(duì)外訪(fǎng)問(wèn)代理節(jié)點(diǎn) 總結(jié) 關(guān)系數(shù)據(jù)庫(kù)是單機(jī)存儲(chǔ)時(shí)代的產(chǎn)物 NoSQL更能滿(mǎn)足不同存儲(chǔ)需求的多樣性 NoSQL是 SQ