SQL數(shù)據(jù)庫技術(shù)架構(gòu)變革

1、SQL數(shù)據(jù)庫技術(shù)架構(gòu)變革內(nèi)容數(shù)據(jù)庫架構(gòu)革新攜程數(shù)據(jù)庫概況早期數(shù)據(jù)庫架構(gòu)及瓶頸架構(gòu)解耦與擴展數(shù)據(jù)庫監(jiān)控革新監(jiān)控目標與監(jiān)控架構(gòu)基線運算與告警流程數(shù)據(jù)庫容量KPISQL REVIEW in CtripSQLREVIEW概要SQLREVIEW系統(tǒng)架構(gòu)SQLREVIEW流程1%攜程數(shù)據(jù)庫概況WWW.CTRIP.COM40%數(shù)據(jù)中心：5個主機數(shù)： 700+臺 DB 數(shù)：2000+ 個早期數(shù)據(jù)庫架構(gòu)產(chǎn)品查詢訂單處理酒店房型，房態(tài)等信息查詢確訃客戶，貨位，供應(yīng)商等訂單結(jié)算己確訃訂單的收銀，結(jié)算產(chǎn)品預(yù)訂酒店產(chǎn)品下單流程All in One應(yīng)用耦合，關(guān)聯(lián)查詢以攜程酒店預(yù)訂為例數(shù)據(jù)庫架構(gòu)的瓶頸擴展性差33運維成本高

2、44容量瓶頸1數(shù)據(jù)庫耦2合4）無法區(qū)分關(guān)鍵應(yīng)用，缺少DB分級，容災(zāi)成本高，DB故障的影響面與損失過大3）無法實現(xiàn)DB的水平擴展，通過提升硬件來支持業(yè)務(wù)發(fā)展2）不同應(yīng)用 讀寫操作相互影響，關(guān)聯(lián)查詢1）業(yè)務(wù)飛速發(fā)展后，DB容量不足數(shù)據(jù)庫架構(gòu)優(yōu)化-解耦產(chǎn)品查詢產(chǎn)品預(yù)訂訂單處理訂單結(jié)算按功能 分 層垂 直 拆分 公共服務(wù)按產(chǎn)品線解耦DB數(shù)據(jù)訪問通過 API 、WS、MQ酒店機票度假商旅火車票門票支付保險配送用戶風控客服數(shù)據(jù)庫架構(gòu)優(yōu)化水平擴展產(chǎn)品預(yù)訂訂單處理訂單結(jié)算酒店產(chǎn)品查詢API 、Webservice、MQ內(nèi)容數(shù)據(jù)庫架構(gòu)革新攜程數(shù)據(jù)庫概況早期數(shù)據(jù)庫架構(gòu)及瓶頸架構(gòu)解耦與擴展數(shù)據(jù)庫監(jiān)控革新監(jiān)控目標與監(jiān)

3、控架構(gòu)基線運算與告警流程數(shù)據(jù)庫容量KPISQL REVIEW in CtripSQLREVIEW概要SQLREVIEW系統(tǒng)架構(gòu)SQLREVIEW流程數(shù)據(jù)庫監(jiān)控革新DBMonitor全面覆蓋兼容不同數(shù)據(jù)庫產(chǎn)品全面監(jiān)控主機各性能指標監(jiān)控數(shù)據(jù)庫應(yīng)用的可用性指標實時告警分鐘內(nèi)發(fā)現(xiàn)DB故障不同故障分類，分級按緊急程度發(fā)送告警通知告警方式多樣化（SMS,MAIL）精確定位區(qū)分硬件故障與應(yīng)用瓶頸定位故障范圍與影響面識別產(chǎn)生問題的T-SQL語句識別異常訪問的來源與請求量開源解決方案與 自主研發(fā)相結(jié)合DB Monitor監(jiān)控系統(tǒng)Data SourceCPUDisk MemoryIOPSZABBIXDB Stat

4、usSQL AgentCluster Process ReplicationMirrorJOBBlock SQLDB Error logDB sizeProductIndex sizeDatabase Table sizeMonitor SystemDB Performance / 1minDB Performance/ 1dayDB Monitor / 1minDB Monitor / 1dDB MonitorDB MonitorBaseline / 1day MasterSlaveDB T-SQL Performance (DMV) / 5minT-SQL Performance / 1m

5、inT-SQL Performance / 1Trace ScanData Analysisay SQLPerfmonDBDWSQLAnalysisinTraceDBEvent ProcessingDB Monitor Mail & SMSDB Monitor SiteMaintenance Management Platform監(jiān)控與告警流程監(jiān)控數(shù)據(jù)實時采集Step 1Step 2對比基線識別異常Step 3Step 4區(qū)分緊急程度與影響業(yè)務(wù)發(fā)送告警主機性能指標 應(yīng)用相關(guān)指標異常發(fā)生的次數(shù) 異常波動的幅度閾值告警與基線告警酒店 or機票1級 立即介入處理2級 密切觀察及時處理3級 1個工作日

6、內(nèi)處理E-MAILSMSNOC性能基線模型以 主 機 CPU基 線 為 例10月4日(周四)9月27日(周四)9月20日(周四)9月13日(周四)共4 20個點歷史數(shù)據(jù)采樣計算 10月11日 9：00的CPU基線樣本內(nèi)異常點剔除10月11日(周四) 8:009:0010:00得到全天的每分鐘基線區(qū)間實時監(jiān)控數(shù)據(jù)對比基線區(qū)間進行告警1234DataBaseDB Service數(shù)據(jù)庫服務(wù)器&服務(wù)應(yīng)用信息DB Monitor Platform關(guān)鍵指標實時監(jiān)控Server Performance主機性能查詢SQT-SQLLPerformance語句執(zhí)行性能H數(shù)A Data據(jù)庫高可用性能Alert報警配

7、置&歷史記錄Report工作常用報表數(shù)據(jù)庫監(jiān)控平臺DB容量KPI區(qū)分不同的KPI指標針對KPI設(shè)定容量標準自動計算主機負載提供DB容量日報CPUDiskMemoryIOPSBandwidthQPS TPS SESSION業(yè)務(wù)請求量 DB應(yīng)用可用性硬件容量BLOCK TEMPDB內(nèi)容數(shù)據(jù)庫架構(gòu)革新攜程數(shù)據(jù)庫概況早期數(shù)據(jù)庫架構(gòu)及瓶頸架構(gòu)解耦與擴展數(shù)據(jù)庫監(jiān)控革新監(jiān)控目標與監(jiān)控架構(gòu)基線運算與告警流程數(shù)據(jù)庫容量KPISQL REVIEW in CtripSQLREVIEW概要SQLREVIEW系統(tǒng)架構(gòu)SQLREVIEW流程SQL Review概要SQLReview規(guī)范檢查SQL 36 條軍規(guī)：Noloc

8、k 規(guī)范Join表個數(shù)5未命中索引xxxxxxxxxx性能檢查SQL 性能要求：1. 10/min:CPU100ms IO1000 xxxxxxxxxx一句性能不佳的SQL，甚至可能引起DB的全面故障靜態(tài)的規(guī)范檢查+動態(tài)的性能校驗生產(chǎn)環(huán)境的數(shù)據(jù)、分布、執(zhí)行頻次都在變化，需要對之前的評估進行ReviewSQL Review架構(gòu)Data SourceBaProduct Databaseckup & Restore weeklySQLerformanceDailySQL Review DatabaseTraceDBReview SystemSQLRules CheckExecute SQLSQLOutput SQLPerformancePerformanceEvaluationSQLPerformanceweeklyProductiveSQLReevaluationInputReportSQL Review 流程PD Code DevDBAPD DB DevPD SQL編寫1SQL 優(yōu)化申請SQL REVIEW2發(fā)布生產(chǎn)4生產(chǎn)環(huán)境 T-SQL監(jiān)控5SQL 代碼規(guī)范：Nolock 規(guī)范Join表個數(shù)5未命中索引XxxxxxxxxxSQL 優(yōu)化6SQL 性能標準：CPU利用率IO利用率執(zhí)行次數(shù)返回記