自動化運維-SQL自動上線

1、,自動化運維-SQL自動上線,主要內(nèi)容,DBA的職責 ,我們的痛點 ,我們的實踐 ,改進及暢想,DBA的職責-工匠, 提升數(shù)據(jù)庫單機性能 ,-軟硬件優(yōu)化 , 優(yōu)化架構(gòu)，應(yīng)對海量數(shù)據(jù) ,-分庫分表中間件 ,-服務(wù)化，各模塊解耦 , 自動化運維，提高工作效率，減少重復(fù)工作 高可用，做到N個9,DBA的職責-審核人員 數(shù)據(jù)庫上線 DDL 變更 , 日常 SQL 上線 , 慢查詢監(jiān)控及優(yōu)化 , 業(yè)務(wù)監(jiān)控及拆分,DBA：. - -!,RD：歐巴,我們的痛點-標準如何落地 DDL標準 RD：緊急上 線， 修復(fù)bug,DBA：不符合 標準，打回,非常緊,急！,惡心，,下不為例,我們的痛點-業(yè)務(wù)快速迭代,趕集

2、好車 易洗車,招聘節(jié) 放心房,趕集二 手車 本地生活,我們的痛點-人員變動頻繁,這是最好的時代,我們的痛點,人是最不穩(wěn)定的因素,我們的實踐, 引入項目管理工具 JIRA,我們的實踐-JIRA,我們的實踐-JIRA,我們的實踐-JIRA,優(yōu)點 ,-強大的任務(wù)管理與跟蹤系統(tǒng) -無限制的工作流 ,缺點 ,-過于重量級 ,-相比較嚴格上線，任務(wù)描述過于模糊 -DBA 要改寫不符合規(guī)范的上線,我們的實踐, 引入半自動上線系統(tǒng),我們的實踐-半自動,RD發(fā)起上線,SIM預(yù)執(zhí)行,DBA確認,提交DBA 符合 規(guī)范,Yes,No,Yes,成功 No,仍然不夠理想,我們的實踐-半自動,優(yōu)點 ,-避免了 JIRA

3、模糊不清的表述 ,-SIM環(huán)境預(yù)執(zhí)行，清楚的看到影響行數(shù) -程序執(zhí)行，避免潛在的人為誤操作 ,But ,-還是需要 DBA 人肉審核 ,-對于違規(guī) SQL, 開發(fā)改寫意愿不強 -標準得不到執(zhí)行，科普成本高,我們的實踐, 針對業(yè)務(wù)特點，開發(fā)全自動上線系統(tǒng),我們的實踐-AutoSQL, Python 開發(fā) ,-Celery -MySQL -Redis ,-Yacc & Lex -Tornado,我們的實踐-過濾基本原則,對于 DML上線, where clause 必須包含主,鍵，唯一索引或業(yè)務(wù)區(qū)分度高的字段 ,不允許做減法，drop 字段，庫，表或索引操,作提交 DBA 手工執(zhí)行 ,有限度的自由

4、，建庫操作必須 leader 審核，,提交 DBA 手工執(zhí)行 ,嚴格遵守調(diào)度規(guī)則，禁止提前上線,我們的實踐-AutoSQL RD發(fā)起上線,SQL入庫,語法解析,規(guī)則過濾,Online執(zhí)行,SIM預(yù)執(zhí)行,備份,延遲調(diào)度,我們的實踐-DDL,DDL,Sqlparser,Redis,延遲調(diào)度,獲取表行數(shù),Celery,過濾規(guī)則,違規(guī),重新提交,SQL 結(jié)構(gòu)化,我們的實踐-DDL,字段指定 not null default xxx ,所有字段，表均需要有注釋 comment 所有新表，引擎只能用 innodb 或 queue 所有新表，均有自增 ID 做為主鍵 ,按照一定比例，限制新表text字段數(shù)量

5、 按照一定比例，規(guī)定新表索引數(shù)量 ,按照業(yè)務(wù)常識，post_id, puid, userid 均有,索引,DML,Sqlparser,限速執(zhí)行,過濾規(guī)則,違規(guī),重新提交,備份,我們的實踐-DML Redis SQL 結(jié)構(gòu)化,metadata,我們的實踐-DML,不允許使用 load data ,刪除修改操作，where clause 必須包含主 鍵，唯一索引列，或是業(yè)務(wù)區(qū)分度較好列 ,禁止多表 join ,禁止未決 SQL, 例如 insert into select 所有 insert 建義指定字段 ,所有 update / delete 建義使用絕對值，遵,循可重入原則,我們的實踐-AutoSQL,我們的實踐-AutoSQL,我們的實踐, 當前不包括業(yè)務(wù) SQL 審核，如何破？,我們的實踐, 開發(fā)慢查詢實時追蹤系統(tǒng) SQLTrack ,-抓住上線到轉(zhuǎn)天高峰期慢 SQL -鼓勵開發(fā)參與優(yōu)化,我們的實踐-SQLTrack, Golang 開發(fā) ,-Heka -Kafka ,-InfluxDB / ES -Tornado,我們的實踐-SQLTrack,Heka,結(jié)構(gòu)化,Kafka,Influxdb,Heka,Heka,SQLTrack,Cache,命中,否 Explain,Statsd,我們的實踐-SQLTrack,我們的實踐-SQLTra