AIGC助力大規(guī)模對(duì)象存儲(chǔ)服務(wù)OSS的能效提升-2024.07-17正式版

AIGC助力大規(guī)模對(duì)象存儲(chǔ)服務(wù)OSS阿里巴巴資深技術(shù)專家對(duì)象存儲(chǔ)負(fù)責(zé)人羅大規(guī)模對(duì)象存儲(chǔ)服務(wù)OSS在開發(fā)運(yùn)維中的挑戰(zhàn)和目標(biāo)挑戰(zhàn)大規(guī)模海量存儲(chǔ)量巨量請(qǐng)求X萬(wàn)億/天多租戶阿里云400萬(wàn)用戶面對(duì)巨大挑戰(zhàn)，如何達(dá)成目標(biāo)？？？99.995%可用性SLA慢請(qǐng)求識(shí)別海量工單準(zhǔn)確分析簡(jiǎn)單快捷易用性目標(biāo)結(jié)合AI的智能運(yùn)維助力能效提升算力算法數(shù)據(jù)專家當(dāng)前位置智能運(yùn)維AIOPS數(shù)據(jù)運(yùn)維DataOPS開發(fā)運(yùn)維DevOPS腳本運(yùn)維ScriptOPS人肉運(yùn)維PersonOPS場(chǎng)景1：通過(guò)AI做好根因分析支撐可用性SLA達(dá)成—背景海量存儲(chǔ)規(guī)模X萬(wàn)億請(qǐng)求每天99.995%可用性SLA1分鐘發(fā)現(xiàn)、5分鐘處置、10分鐘恢復(fù)根因分析是核心場(chǎng)景1：通過(guò)AI做好根因分析支撐可用性SLA達(dá)成—邏輯架構(gòu)POPAPIWEB頁(yè)面展示…….釘釘分析報(bào)告UI交互簡(jiǎn)單易用釘釘機(jī)器人查詢模塊特征分析結(jié)果專家經(jīng)驗(yàn)集群指標(biāo)畫像機(jī)器指標(biāo)畫像用戶指標(biāo)畫像機(jī)器指標(biāo)異常集群指標(biāo)異常事件跟蹤關(guān)聯(lián)異實(shí)體指標(biāo)特征畫像（基線庫(kù)）異常庫(kù)分析結(jié)果監(jiān)控報(bào)警錯(cuò)誤根因分析離線分析實(shí)時(shí)分析執(zhí)行層算法ConstraintK-sigma算法HTM算法LOF算法BOXPLOT算法算法引擎分析診斷引擎智能算法庫(kù)運(yùn)維數(shù)據(jù)管理異常感知模塊全鏈路診斷模塊機(jī)器級(jí)功能模塊級(jí)非功能模塊監(jiān)控自身業(yè)務(wù)模塊前端日志后端日志運(yùn)數(shù)據(jù)MetricTraceLogEvent赤驥運(yùn)維平臺(tái)基礎(chǔ)模塊底層平臺(tái)算力+存儲(chǔ)實(shí)時(shí)計(jì)算離線計(jì)算機(jī)器學(xué)習(xí)日志存儲(chǔ)OLAPOLTP大數(shù)據(jù)計(jì)算平臺(tái)存儲(chǔ)平臺(tái)工程化、服務(wù)化的算力和存儲(chǔ)平臺(tái)是基礎(chǔ)，多維度的運(yùn)維數(shù)據(jù)積累是動(dòng)力算法+專家經(jīng)驗(yàn)是引擎，簡(jiǎn)單易用UI助推廣場(chǎng)景1：通過(guò)AI做好根因分析支撐可用性SLA達(dá)成—分析流程TRACE模塊A（IP地址1）赤驥告警SLS告警分析任務(wù)分析樹構(gòu)建分析樹配置專家經(jīng)驗(yàn)?zāi)KB（IP地址2）模塊B（IP地址3）特指異常檢模塊C（IP地址4）分析任務(wù)構(gòu)建分析樹構(gòu)建鏈路異常分析根因分析場(chǎng)景1：通過(guò)AI做好根因分析支撐可用性SLA達(dá)成—效果根因發(fā)現(xiàn)問(wèn)題診斷異常感知3分鐘10+種數(shù)據(jù)源分析完成百萬(wàn)錯(cuò)誤分析（百萬(wàn)錯(cuò)誤在1分鐘內(nèi)產(chǎn)生）場(chǎng)景2：智能分析訪問(wèn)全鏈路追蹤慢請(qǐng)求—背景租戶級(jí)粒度慢請(qǐng)求定義哪里慢了單請(qǐng)求慢、整體性慢？1秒、2秒、…租戶A要求秒開，租戶B要求不超過(guò)2秒，……定位鏈路長(zhǎng)多樣的分析工具分析難度大監(jiān)控及時(shí)性……度量標(biāo)準(zhǔn)：平均延時(shí)、最大延時(shí)、分位數(shù)延時(shí)場(chǎng)景2：智能分析訪問(wèn)全鏈路追蹤慢請(qǐng)求—邏輯架構(gòu)邏輯架構(gòu)慢請(qǐng)定根因定位異常監(jiān)控對(duì)象根因分析KV根因分析盤古根因分析聚集性分析(IP、操作類型)，用戶行為異常分析(QPS、流量、特殊請(qǐng)求突增)對(duì)象前端對(duì)象功能KV層用戶的單請(qǐng)求、桶請(qǐng)求異常監(jiān)控機(jī)器延時(shí)異常監(jiān)控集群延時(shí)異常監(jiān)控499超時(shí)異常監(jiān)控潛在故障異常監(jiān)控模塊hang、請(qǐng)求Body傳輸慢、某些特定請(qǐng)求慢、訪問(wèn)底層慢……日志存儲(chǔ)（Metric、Trace、Log、Event）時(shí)序算法分析聚集性分析(IP、操作類型)，RPC、IO、隊(duì)列異常、負(fù)載、緩存、盤古層分位數(shù)延時(shí)請(qǐng)求統(tǒng)計(jì)數(shù)據(jù)KV延時(shí)數(shù)據(jù)機(jī)器數(shù)據(jù)實(shí)時(shí)數(shù)據(jù)性能分析對(duì)象延時(shí)數(shù)據(jù)盤古延時(shí)數(shù)據(jù)慢盤、集群過(guò)載、線程變慢、Burst突發(fā)流量等盤古層機(jī)器層對(duì)象功能層機(jī)器級(jí)KV索引層網(wǎng)絡(luò)級(jí)MEM盤古數(shù)據(jù)層集群級(jí)性能異常(CPU、MEM、Drive、網(wǎng)絡(luò))，進(jìn)場(chǎng)異常、升級(jí)檢測(cè)等CPUDrive場(chǎng)景2：智能分析訪問(wèn)全鏈路追蹤慢請(qǐng)求—效果用戶延時(shí)集群延時(shí)機(jī)器延時(shí)場(chǎng)景3：采用NLP分析海量工單挖掘改進(jìn)方向—背景用戶調(diào)研產(chǎn)品使用產(chǎn)品控制臺(tái)、SDK、API自助排查文檔、工具自助服務(wù)智能語(yǔ)音、服務(wù)遇到問(wèn)題售后服務(wù)人工參與針對(duì)進(jìn)入工單系統(tǒng)的問(wèn)題定點(diǎn)優(yōu)化度量工單數(shù)量、工單解決時(shí)長(zhǎng)場(chǎng)景3：采用NLP分析海量工單挖掘改進(jìn)方向—方案工單系統(tǒng)數(shù)據(jù)(文字、語(yǔ)音、圖片等)NLP接入數(shù)據(jù)清洗智能訓(xùn)練基于工單標(biāo)簽分類，費(fèi)用類工單居然占比最大分析流轉(zhuǎn)環(huán)節(jié)，服務(wù)時(shí)長(zhǎng)降低X倍通過(guò)智能分析，大量節(jié)約手工標(biāo)注開銷場(chǎng)景3：采用NLP分析海量工單挖掘改進(jìn)方向—效果一級(jí)標(biāo)簽3輪迭代工單分類準(zhǔn)確率從40+60+%→70+%→80+%場(chǎng)景4：探尋AIGC的智能機(jī)器人提高易用性—背景用戶調(diào)研產(chǎn)品使用產(chǎn)品控制臺(tái)、SDK、API自助排查文檔、工具自助服務(wù)智能語(yǔ)音、服務(wù)遇到問(wèn)題售后服務(wù)人工參與通過(guò)AIGC訓(xùn)練的智能機(jī)器人，采用文字、圖片、視頻為用戶提供服務(wù)通過(guò)智能回答解決問(wèn)題，降低工單數(shù)量，減少服務(wù)人力投入隨時(shí)快速響應(yīng)，解決問(wèn)題，提高易用性場(chǎng)景4：探尋AIGC的智能機(jī)器人提高易用性—方案探索當(dāng)前階段AI生成文檔AI生成操作