織云Metis時間序列異常檢測全方位解析

織云Metis時間序列異常檢測全方位解析第一頁，共32頁。傳統(tǒng)時序監(jiān)控的問題與新思路檢測算法原理與應(yīng)用特征工程與打標(biāo)工程樣本庫建設(shè)與管理Metis概述（智能運維應(yīng)用實踐）第二頁，共32頁。業(yè)務(wù)規(guī)模輕微的異常就會影響到大量的外網(wǎng)用戶在線2.8億月活8.05億SNG服務(wù)器20w+社交類指標(biāo)240w+第三頁，共32頁。傳統(tǒng)監(jiān)控與新思路形態(tài)各異準(zhǔn)確率低維護(hù)成本高隨著業(yè)務(wù)發(fā)展，傳統(tǒng)監(jiān)控呈現(xiàn)出的一些問題第四頁，共32頁。傳統(tǒng)監(jiān)控與新思路算法和機器學(xué)習(xí)的新思路是否可應(yīng)用？第五頁，共32頁。傳統(tǒng)時序監(jiān)控的問題與新思路檢測算法原理與應(yīng)用特征工程與打標(biāo)工程樣本庫建設(shè)與管理Metis概述（智能運維應(yīng)用實踐）第六頁，共32頁。常見的機器學(xué)習(xí)算法回歸基于實例正則化貝葉斯聚類基于核關(guān)聯(lián)規(guī)則決策樹深度學(xué)習(xí)第七頁，共32頁。從大量輸入中總結(jié)出準(zhǔn)確預(yù)測的規(guī)律（模型）

數(shù)值型預(yù)測0/1型預(yù)測概率型預(yù)測等第八頁，共32頁。技術(shù)路線演進(jìn)第九頁，共32頁。技術(shù)框架離線模塊數(shù)據(jù)存儲統(tǒng)計算法&無監(jiān)督算法輸出疑似異常樣本庫（人工標(biāo)注）特征工程（離線計算）有監(jiān)督算法（離線計算）數(shù)據(jù)提取統(tǒng)計算法&無監(jiān)督算法輸出疑似異常加載有監(jiān)督模型特征工程（實時計算）有監(jiān)督算法（輸出異常）在線模塊ABTest模塊人工審核Atest（實驗?zāi)Ｐ虯）Btest（實驗?zāi)Ｐ虰）第十頁，共32頁。第一層：統(tǒng)計判別算法√×3sigma算法與控制圖算法的優(yōu)缺點第十一頁，共32頁。第一層：無監(jiān)督算法√×無監(jiān)督學(xué)習(xí)算法的優(yōu)缺點第十二頁，共32頁。第一層：無監(jiān)督算法第十三頁，共32頁。第一層：無監(jiān)督算法第十四頁，共32頁。第一層：無監(jiān)督算法第十五頁，共32頁。第二層：有監(jiān)督算法√有監(jiān)督算法能解決的問題√第十六頁，共32頁。傳統(tǒng)時序監(jiān)控的問題與新思路檢測算法原理與應(yīng)用特征工程與打標(biāo)工程樣本庫建設(shè)與管理Metis概述（智能運維應(yīng)用實踐）第十七頁，共32頁。特征工程特征是數(shù)據(jù)中抽取出來的對結(jié)果預(yù)測有用的信息。特征工程包含了特征提取、特征構(gòu)建、特征選擇等模塊樣本初始特征分布情況特征監(jiān)控樣本分析全流程特征分析參數(shù)分析誤差分析特征有效性分析離散化離群點分布共線性缺省值去均值歸一化特征有效性分析特征選擇特征組合與轉(zhuǎn)換模型調(diào)優(yōu)更新模型因子化相關(guān)性缺省值因子化連續(xù)特征離散特征標(biāo)準(zhǔn)化第十八頁，共32頁。特征工程第十九頁，共32頁。特征工程統(tǒng)計特征最大值，最小值，值域最小值位置、最大值位置均值，中位數(shù)平方和，重復(fù)值方差，偏度，峰度同比，環(huán)比，周期性自相關(guān)系數(shù)，變異系數(shù)第二十頁，共32頁。特征工程擬合特征移動平均算法帶權(quán)重的移動平均算法指數(shù)移動平均算法二次指數(shù)移動平均算法三次指數(shù)移動平均算法奇異值分解算法自回歸算法深度學(xué)習(xí)算法第二十一頁，共32頁。特征工程分類特征熵特征值分布特征小波分析特征聚類Kmeans分類器第二十二頁，共32頁。打標(biāo)工程輸出異常視圖到前端頁面人工確認(rèn)是否真的異常，假異常則校正后臺根據(jù)人工校正的結(jié)果，存下校正后的所有結(jié)果：正常記為1，異常記為0第二十三頁，共32頁。傳統(tǒng)時序監(jiān)控的問題與新思路檢測算法原理與應(yīng)用特征工程與打標(biāo)工程樣本庫建設(shè)與管理Metis概述（智能運維應(yīng)用實踐）第二十四頁，共32頁。樣本庫管理與建設(shè)樣本庫管理樣本是核心價值樣本的豐富程度制約檢測效果格式、長度、標(biāo)簽（分類、正負(fù)）、時間戳、標(biāo)志、來源樣本查看：權(quán)限、類別、業(yè)務(wù)維度等樣本查找：字段檢索、相似度檢索、時間片檢索樣本分類：標(biāo)記、算法分類等訓(xùn)練、提取、偽裝、構(gòu)造、分類、樣本的積累貫穿機器學(xué)習(xí)的始終功能集合北向串聯(lián)通用規(guī)范價值積累第二十五頁，共32頁。樣本庫管理與建設(shè)功能應(yīng)用樣本庫存儲正負(fù)來源窗口類別A類別B類別CCRUD提取分類查找添加偽裝構(gòu)造訓(xùn)練模型離線打標(biāo)特征分析算法調(diào)參樣本庫管理Action層：觸發(fā)功能與樣本數(shù)據(jù)的交互DAO層：封裝與數(shù)據(jù)進(jìn)行聯(lián)絡(luò)的任務(wù)，無業(yè)務(wù)邏輯顯著提升應(yīng)用效率和數(shù)據(jù)規(guī)范Service層：功能模塊的邏輯應(yīng)用實現(xiàn)數(shù)據(jù)層：根據(jù)樣本量選擇存儲；三級分類第二十六頁，共32頁。Metis時間序列異常檢測業(yè)務(wù)效果目前效果90%+80%+用少量模型覆蓋所有曲線，統(tǒng)計判別+無監(jiān)督+有監(jiān)督準(zhǔn)確率計算方法：人工抽查，查看告警出來的時間序列和時間點是否準(zhǔn)確輔助工具：打標(biāo)工程召回率計算方法：人工從業(yè)務(wù)中選擇一批異常的時間序列和相應(yīng)的時間點，然后讓這批序列通過現(xiàn)有模型，看看是否被召回輔助工具：樣本庫管理第二十七頁，共32頁。傳統(tǒng)時序監(jiān)控的問題與新思路檢測算法原理與應(yīng)用特征工程與打標(biāo)工程樣本庫建設(shè)與管理Metis概述（智能運維應(yīng)用實踐）第二十八頁，共32頁。漸進(jìn)式的AIOps能力算法學(xué)件場景數(shù)據(jù)決策第二十九頁，共32頁。織云Metis騰訊織云AIOps應(yīng)用實踐時間序列異常檢測集群智能負(fù)載均衡容量分析與預(yù)測多維根因分析生死指標(biāo)監(jiān)控……學(xué)件N學(xué)件學(xué)件學(xué)件學(xué)件學(xué)件組合學(xué)件學(xué)件學(xué)件學(xué)件學(xué)件組合學(xué)件學(xué)件學(xué)件學(xué)件學(xué)件組合自動擴(kuò)縮容決策直播多維根因分析更多運維場景學(xué)件庫第三十頁，共32頁。串聯(lián)應(yīng)用案例容量分析與預(yù)測平衡木灰度上線變