2024年智能算法的統(tǒng)一運(yùn)維監(jiān)控管理平臺(tái)報(bào)告

基于智能算法的統(tǒng)一運(yùn)維監(jiān)控管理平臺(tái)——助力湖北農(nóng)信高效、智能、全面運(yùn)維管理湖北省農(nóng)村信用社聯(lián)合社—陳勝項(xiàng)目概述項(xiàng)目概述目錄·項(xiàng)目背景·項(xiàng)目目標(biāo)目錄建設(shè)內(nèi)容·平臺(tái)架構(gòu)·創(chuàng)新特點(diǎn)·智能運(yùn)維場(chǎng)景項(xiàng)目成效·項(xiàng)目?jī)r(jià)值·總體收益項(xiàng)目背景項(xiàng)目背景手機(jī)銀行/網(wǎng)銀、支付、信貸管理系統(tǒng)等，它們采用不同的技術(shù)架構(gòu)（包括傳統(tǒng)架構(gòu)與云計(jì)算、微服務(wù)架構(gòu)）和多種操作系統(tǒng)、數(shù)據(jù)庫(kù)及中間件，相互關(guān)聯(lián)且交互日常運(yùn)營(yíng)產(chǎn)生海量的運(yùn)維數(shù)據(jù)，包括交易日志、系統(tǒng)日志、網(wǎng)絡(luò)流量數(shù)據(jù)、用戶行為數(shù)據(jù)等，數(shù)據(jù)格式多樣且增長(zhǎng)迅速。傳統(tǒng)的數(shù)據(jù)處理方式難以滿足實(shí)時(shí)分析和深度挖掘的需求，導(dǎo)致潛在問(wèn)監(jiān)管機(jī)構(gòu)對(duì)銀行強(qiáng)監(jiān)管，對(duì)系統(tǒng)穩(wěn)定性、數(shù)據(jù)安全性等方面有極高要求。任何系統(tǒng)故障或安全漏洞都可能引發(fā)嚴(yán)重后果，如客戶信息泄露、交易中斷等，因此運(yùn)維管理需確保系統(tǒng)始終符合監(jiān)管為保障業(yè)務(wù)正常運(yùn)行，銀行投入大量人力、物力進(jìn)行運(yùn)維，但傳統(tǒng)運(yùn)維模式主要依賴人工操作，隨著業(yè)務(wù)競(jìng)爭(zhēng)加劇，銀行需要在保障服務(wù)質(zhì)量的前提下，優(yōu)化運(yùn)現(xiàn)狀與挑戰(zhàn)現(xiàn)狀與挑戰(zhàn)信創(chuàng)環(huán)境、信創(chuàng)軟硬件的陸續(xù)使性信創(chuàng)環(huán)境、信創(chuàng)軟硬件的陸續(xù)使性手機(jī)銀行/網(wǎng)銀，聚合支付等業(yè)務(wù)從農(nóng)信銀回遷，對(duì)系統(tǒng)運(yùn)維和手機(jī)銀行/網(wǎng)銀，聚合支付等業(yè)務(wù)從農(nóng)信銀回遷，對(duì)系統(tǒng)運(yùn)維和現(xiàn)有監(jiān)控工具老舊、出現(xiàn)告警不云計(jì)算、分布式和微服務(wù)架構(gòu)，云計(jì)算、分布式和微服務(wù)架構(gòu)， 項(xiàng)目目標(biāo) 以數(shù)據(jù)為基礎(chǔ)，以算法為支撐，以場(chǎng)景為導(dǎo)向平均故障間隔時(shí)間MTBFMTTRMTTR平均故障恢復(fù)時(shí)間平均故障平均故障修復(fù)時(shí)間平均故障修復(fù)驗(yàn)證時(shí)間平均故障發(fā)現(xiàn)時(shí)間故障定位故障定位智能異常檢測(cè)全鏈路追蹤全鏈路追蹤MTBF平均故障間隔時(shí)間快速發(fā)現(xiàn)快速發(fā)現(xiàn)：發(fā)現(xiàn)的快-從單一告警到立體化故障發(fā)精準(zhǔn)定位：定位的準(zhǔn)-從多平臺(tái)切換到統(tǒng)實(shí)現(xiàn)運(yùn)維閉環(huán)管理建設(shè)目標(biāo)建設(shè)目標(biāo)資源全面監(jiān)控實(shí)現(xiàn)對(duì)云上云下所有硬件設(shè)備、軟件系統(tǒng)和網(wǎng)絡(luò)環(huán)境的實(shí)時(shí)監(jiān)控。資源全面監(jiān)控實(shí)現(xiàn)對(duì)云上云下所有硬件設(shè)備、軟件系統(tǒng)和網(wǎng)絡(luò)環(huán)境的實(shí)時(shí)監(jiān)控。0102統(tǒng)一日志管理對(duì)全行日志進(jìn)行統(tǒng)一采集、處理、存儲(chǔ)與查詢分析，結(jié)合日志模式識(shí)別與日志異常檢測(cè)等算法實(shí)現(xiàn)日志智能化管理。全面應(yīng)用調(diào)用鏈分析全面應(yīng)用調(diào)用鏈分析03集中告警管理04統(tǒng)一接入與處理多源告警消息，利用算法實(shí)現(xiàn)告警事件收斂、降噪、異常檢測(cè)和根因分析，實(shí)現(xiàn)事件全生命周期全局管控。智能數(shù)據(jù)分析利用智能算法自動(dòng)分析海量監(jiān)控?cái)?shù)據(jù)，快速準(zhǔn)確地識(shí)別故障和異常智能數(shù)據(jù)分析利用智能算法自動(dòng)分析海量監(jiān)控?cái)?shù)據(jù)，快速準(zhǔn)確地識(shí)別故障和異常，減少人工監(jiān)控帶來(lái)的疏漏與誤判，提高監(jiān)控的準(zhǔn)確性和效率?？焖俟收隙ㄎ煌ㄟ^(guò)日志串聯(lián)分析，實(shí)現(xiàn)對(duì)故障點(diǎn)的上下游關(guān)系的快速識(shí)別，縮短故障排查時(shí)間0605項(xiàng)目概述項(xiàng)目概述目錄·項(xiàng)目背景·項(xiàng)目目標(biāo)目錄建設(shè)內(nèi)容·平臺(tái)架構(gòu)·創(chuàng)新特點(diǎn)·智能運(yùn)維場(chǎng)景項(xiàng)目成效·項(xiàng)目?jī)r(jià)值·總體收益基于智能算法的統(tǒng)一運(yùn)維監(jiān)控管理平臺(tái)架構(gòu)基于智能算法的統(tǒng)一運(yùn)維監(jiān)控管理平臺(tái)架構(gòu)閉環(huán)故障分析與處置基于日志模式識(shí)別的異常檢測(cè)閉環(huán)故障分析與處置基于日志模式識(shí)別的異常檢測(cè)場(chǎng)景全鏈路業(yè)務(wù)追蹤場(chǎng)景全鏈路業(yè)務(wù)追蹤采集基于指標(biāo)體系的應(yīng)用健康度評(píng)估……最佳實(shí)踐和方案論智能運(yùn)維成熟度模型運(yùn)維指標(biāo)體系管理運(yùn)維數(shù)據(jù)治理采集基于指標(biāo)體系的應(yīng)用健康度評(píng)估……最佳實(shí)踐和方案論智能運(yùn)維成熟度模型運(yùn)維指標(biāo)體系管理運(yùn)維數(shù)據(jù)治理用戶體驗(yàn)與應(yīng)用性能管理運(yùn)維應(yīng)用立體化監(jiān)控立體化監(jiān)控可視化展示可視化展示報(bào)告報(bào)表報(bào)告報(bào)表日志管理日志管理事件管理事件管理配置管理配置管理運(yùn)維流程管理運(yùn)維流程管理運(yùn)維數(shù)據(jù)平臺(tái)運(yùn)維數(shù)據(jù)平臺(tái)運(yùn)維中臺(tái)CMDBCMDB算法中心算法中心低代碼平臺(tái)低代碼平臺(tái)采控中心用戶體驗(yàn)業(yè)務(wù)應(yīng)用服務(wù)節(jié)點(diǎn)系統(tǒng)網(wǎng)絡(luò)云平臺(tái)三方數(shù)據(jù)源事件指標(biāo)追蹤配置數(shù)據(jù)三方數(shù)據(jù)源事件指標(biāo)追蹤行內(nèi)應(yīng)用傳統(tǒng)/分布式架構(gòu)應(yīng)用云原生/微服務(wù)架構(gòu)應(yīng)用基于追蹤開放標(biāo)準(zhǔn)的應(yīng)用（OpenTracing等）行內(nèi)應(yīng)用基礎(chǔ)設(shè)施：私有云/混合云/虛擬化/超融合/X86物理機(jī)/小機(jī)創(chuàng)新特點(diǎn)：一個(gè)門戶、千人千面統(tǒng)一運(yùn)維門戶：整合基礎(chǔ)設(shè)施監(jiān)控、日志分析管理、應(yīng)用鏈路分析、事件中心、算法中心等功能，實(shí)現(xiàn)跨系統(tǒng)、跨平臺(tái)的全面可視化，提供統(tǒng)一的視角來(lái)審視整個(gè)IT環(huán)境和業(yè)務(wù)流程。千人千面：業(yè)務(wù)人員、一線、二線運(yùn)維人員根據(jù)不同角色，分配不同運(yùn)維權(quán)限。一線運(yùn)維角色二線運(yùn)維角色統(tǒng)一門戶展示一線運(yùn)維角色二線運(yùn)維角色創(chuàng)新特點(diǎn)：基礎(chǔ)資源監(jiān)控全覆蓋創(chuàng)新特點(diǎn)：基礎(chǔ)資源監(jiān)控全覆蓋覆蓋云上、云下基礎(chǔ)資源資產(chǎn)監(jiān)控覆蓋云上、云下基礎(chǔ)資源資產(chǎn)監(jiān)控，提高IT設(shè)施的管控能力，為資源集中化監(jiān)控和業(yè)務(wù)系統(tǒng)可觀測(cè)能力提供強(qiáng)力支撐。資源對(duì)象監(jiān)控指標(biāo)閾值監(jiān)控網(wǎng)絡(luò)拓?fù)浣ㄔO(shè)全面監(jiān)控服務(wù)器、操作系統(tǒng)、數(shù)據(jù)庫(kù)、中間件、網(wǎng)絡(luò)設(shè)備、存儲(chǔ)設(shè)備等基礎(chǔ)資源。全面覆蓋各類設(shè)備的監(jiān)控指標(biāo)，支持對(duì)指標(biāo)閾值進(jìn)行自定義設(shè)置。系統(tǒng)中展示自動(dòng)搜索生成的物理連接拓?fù)鋱D。創(chuàng)新特點(diǎn)：日志集中管理接入行內(nèi)重要業(yè)務(wù)系統(tǒng)全量日志，日增2T日志量，進(jìn)行日志串聯(lián)分析，結(jié)合日志異常檢測(cè)及日志模式識(shí)別智采用簡(jiǎn)潔、輕量、高效、穩(wěn)定、可擴(kuò)展的技術(shù)架構(gòu)，可以兼容ES、雙引擎；采用基于列式存儲(chǔ)數(shù)據(jù)庫(kù)Clickhouse，在數(shù)據(jù)寫入、響應(yīng)時(shí)間、部署規(guī)模、高可用等各方面具有良好的表現(xiàn)，能夠滿足各種業(yè)務(wù)場(chǎng)景下日志存儲(chǔ)的需求基于日志的鏈路分析全量日志檢索分析基于日志的鏈路分析全量日志檢索分析創(chuàng)新特點(diǎn)：重要業(yè)務(wù)系統(tǒng)鏈路全覆蓋創(chuàng)新特點(diǎn)：重要業(yè)務(wù)系統(tǒng)鏈路全覆蓋基于旁路報(bào)文數(shù)據(jù)基于旁路報(bào)文數(shù)據(jù)，構(gòu)建業(yè)務(wù)全路徑實(shí)時(shí)性能監(jiān)控體系，構(gòu)建數(shù)據(jù)中心業(yè)務(wù)性能第一感知源云上業(yè)務(wù)系統(tǒng)云下前置核心云上業(yè)務(wù)系統(tǒng)外聯(lián)機(jī)構(gòu)創(chuàng)新特點(diǎn)：立體化監(jiān)控管理創(chuàng)新特點(diǎn)：立體化監(jiān)控管理集成已有監(jiān)控工具（基礎(chǔ)監(jiān)控、集成已有監(jiān)控工具（基礎(chǔ)監(jiān)控、NPM、BPC、云平臺(tái)監(jiān)控等構(gòu)建統(tǒng)一監(jiān)控能力，提供系統(tǒng)健康度評(píng)估和展示。通過(guò)指標(biāo)、告警、日志、業(yè)務(wù)調(diào)用關(guān)系、資源依賴關(guān)系等進(jìn)行多維度監(jiān)控分析，豐富監(jiān)控和故障分析路徑，保障業(yè)務(wù)持續(xù)穩(wěn)定運(yùn)行。①服務(wù)日志數(shù)據(jù)②資源指標(biāo)數(shù)據(jù)⑤拓?fù)浣y(tǒng)一展示覆蓋18套重點(diǎn)業(yè)務(wù)系統(tǒng)覆蓋18套重點(diǎn)業(yè)務(wù)系統(tǒng)數(shù)據(jù)整合l匯總資產(chǎn)、日志、指標(biāo)、告警四類數(shù)據(jù)展示系統(tǒng)拓?fù)?；l統(tǒng)一界面實(shí)現(xiàn)日志分析、指標(biāo)查看、告警監(jiān)控；③日志指標(biāo)數(shù)據(jù)④各類告警數(shù)據(jù)創(chuàng)新特點(diǎn)：統(tǒng)一配置管理創(chuàng)新特點(diǎn)：統(tǒng)一配置管理CMDBCMDB配置管理：將傳統(tǒng)線下資產(chǎn)和云上資產(chǎn)進(jìn)行統(tǒng)一管理。為運(yùn)維可視化、業(yè)務(wù)可視化、數(shù)據(jù)分析等場(chǎng)景，提供數(shù)據(jù)支撐。①云上、云下資產(chǎn)資產(chǎn)覆蓋率100%；②共建設(shè)近百個(gè)模型，主要包含業(yè)務(wù)資源、軟件資源、硬件資源3大類8子類模型分類。屬性信息關(guān)系信息臺(tái)賬搜索資產(chǎn)臺(tái)賬屬性信息關(guān)系信息臺(tái)賬搜索資產(chǎn)臺(tái)賬創(chuàng)新特點(diǎn)：生產(chǎn)事件閉環(huán)管理創(chuàng)新特點(diǎn)：生產(chǎn)事件閉環(huán)管理統(tǒng)一接入基礎(chǔ)監(jiān)控、NPM、統(tǒng)一接入基礎(chǔ)監(jiān)控、NPM、BPC、互聯(lián)網(wǎng)金融云、楚天農(nóng)商云、系事件——工單閉環(huán)管理運(yùn)維流程管理：以ITIL4、ISO20000為基礎(chǔ)，適應(yīng)湖北農(nóng)信數(shù)字化轉(zhuǎn)型中新的業(yè)務(wù)發(fā)展與IT架構(gòu)的特點(diǎn)，打造規(guī)范化、流程化的IT運(yùn)維流程管理體系；完善事件、問(wèn)題等標(biāo)準(zhǔn)管理流程，建立事件到工單的閉環(huán)管理過(guò)程。靈活的表單設(shè)計(jì)拖拽式流程設(shè)計(jì)領(lǐng)導(dǎo)駕駛艙領(lǐng)導(dǎo)駕駛艙創(chuàng)新特點(diǎn)：核心業(yè)務(wù)數(shù)據(jù)可視化展示創(chuàng)新特點(diǎn)：核心業(yè)務(wù)數(shù)據(jù)可視化展示全省業(yè)務(wù)大屏全局視角建設(shè)從頂層到各區(qū)域業(yè)務(wù)數(shù)據(jù)大屏全省業(yè)務(wù)大屏全局視角建設(shè)從頂層到各區(qū)域業(yè)務(wù)數(shù)據(jù)大屏，關(guān)注行內(nèi)五類核心業(yè)務(wù)數(shù)據(jù)，提升行內(nèi)數(shù)據(jù)價(jià)值和市場(chǎng)敏感度，實(shí)現(xiàn)了業(yè)務(wù)數(shù)據(jù)的全面可視化和精準(zhǔn)管理。 全局事件展示省內(nèi)各區(qū)域核心數(shù)據(jù)，把握整體業(yè)務(wù)狀況聚焦核心區(qū)域洞察 聚焦五類核心業(yè)務(wù)，實(shí)時(shí)展示核心指標(biāo)數(shù)據(jù)聚焦核心區(qū)域洞察 按各區(qū)域展示詳細(xì)的業(yè)務(wù)數(shù)據(jù)，制定針對(duì)性的市場(chǎng)策略市場(chǎng)拓展 對(duì)比區(qū)域差異，識(shí)別潛在市場(chǎng) 按各區(qū)域展示詳細(xì)的業(yè)務(wù)數(shù)據(jù)，制定針對(duì)性的市場(chǎng)策略市場(chǎng)拓展 對(duì)比區(qū)域差異，識(shí)別潛在市場(chǎng)，促進(jìn)區(qū)域協(xié)同發(fā)展 為戰(zhàn)略規(guī)劃制定、調(diào)整提供數(shù)據(jù)支持和決策依據(jù) 為戰(zhàn)略規(guī)劃制定、調(diào)整提供數(shù)據(jù)支持和決策依據(jù)智能運(yùn)維場(chǎng)景-算法中臺(tái)強(qiáng)大算法能力為運(yùn)維平臺(tái)智能化場(chǎng)景賦能，助力智能運(yùn)維場(chǎng)景落地，減少問(wèn)題發(fā)現(xiàn)和故障排查的時(shí)長(zhǎng)（MTTR提升檢測(cè)準(zhǔn)確率和運(yùn)維效率。7大類共32種算法及72種開箱即用算法泛型全力支撐可觀測(cè)平臺(tái)核心場(chǎng)景。告警降噪單指標(biāo)預(yù)測(cè)告警降噪異常檢測(cè)多維指標(biāo)分析根因分析與推薦異常檢測(cè)多維指標(biāo)分析抽象能力開放的平臺(tái)抽象能力開放的平臺(tái)統(tǒng)計(jì)能力場(chǎng)景能力統(tǒng)計(jì)能力場(chǎng)景能力集成能力工程化能力擴(kuò)展能力管理能力集成能力工程化能力擴(kuò)展能力管理能力算法中臺(tái)提供了豐富的算法，開箱即用，支撐豐富的運(yùn)維場(chǎng)景。 算法中臺(tái)配置數(shù)據(jù)執(zhí)行算法泛型應(yīng)用實(shí)踐過(guò)程 算法中臺(tái)配置數(shù)據(jù)執(zhí)行開箱即用的算法庫(kù)新建實(shí)新建實(shí)驗(yàn)查看結(jié)查看結(jié)果管理算法泛型管理算法泛型調(diào)參優(yōu)調(diào)參優(yōu)化發(fā)布算法泛型新建數(shù)據(jù)源場(chǎng)景管理發(fā)布算法泛型新建數(shù)據(jù)源場(chǎng)景管理數(shù)據(jù)中臺(tái)智能運(yùn)維場(chǎng)景-數(shù)據(jù)中臺(tái)指標(biāo)數(shù)據(jù)追蹤數(shù)據(jù)配置數(shù)據(jù)監(jiān)控?cái)?shù)據(jù)以運(yùn)維數(shù)據(jù)為基礎(chǔ)。通過(guò)集中數(shù)據(jù)采集、數(shù)據(jù)處理、數(shù)據(jù)存儲(chǔ)、規(guī)則模型、頂層場(chǎng)景設(shè)計(jì)，形成運(yùn)維場(chǎng)景各層級(jí)應(yīng)用系統(tǒng)的調(diào)用關(guān)聯(lián)，做到端到端覆蓋，利用智能算法平臺(tái)，形成業(yè)務(wù)場(chǎng)景全鏈路業(yè)務(wù)追蹤、健康度、多維分析IT指標(biāo)、業(yè)務(wù)層級(jí)拓?fù)涞牧Ⅲw化監(jiān)控。指標(biāo)數(shù)據(jù)追蹤數(shù)據(jù)配置數(shù)據(jù)監(jiān)控?cái)?shù)據(jù)集成模板采集集成模板采集指標(biāo)采集配置采集數(shù)據(jù)管道數(shù)據(jù)管道流式計(jì)算批量計(jì)算任務(wù)編排數(shù)據(jù)建模運(yùn)維數(shù)據(jù)庫(kù)配置數(shù)據(jù)全鏈路追蹤可觀測(cè)全鏈路數(shù)據(jù)分析全鏈路統(tǒng)一告警數(shù)據(jù)服務(wù)API智能運(yùn)維應(yīng)用其他數(shù)據(jù)源數(shù)據(jù)規(guī)范數(shù)據(jù)質(zhì)量其他數(shù)據(jù)源數(shù)據(jù)規(guī)范數(shù)據(jù)質(zhì)量數(shù)據(jù)安全全鏈路多視角分析能力，快速定界、定位全鏈路多視角分析能力，快速定界、定位拓?fù)?，?lián)動(dòng)指標(biāo)、日志、告警、變更等多維數(shù)障根因分析路徑，快速定界定位。智能運(yùn)維場(chǎng)景-全鏈路可觀測(cè)及故障定位智能運(yùn)維場(chǎng)景-基于日志算法的故障發(fā)現(xiàn)智能運(yùn)維場(chǎng)景-基于日志算法的故障發(fā)現(xiàn)在多類型的日志模式中在多類型的日志模式中，無(wú)需設(shè)置，自動(dòng)發(fā)現(xiàn)新增的日志模式，監(jiān)控日志模式趨勢(shì)，如遇到異常，系統(tǒng)及時(shí)給出告警提示，輔助客戶快速發(fā)現(xiàn)問(wèn)題根因。據(jù)據(jù)模型訓(xùn)練模型訓(xùn)練異常檢測(cè)異常檢測(cè)噪音特征-降噪分析相似性/ACLevens降噪算法相關(guān)性/AMDrain噪音特征-降噪分析相似性/ACLevens降噪算法相關(guān)性/AMDrain降噪算法因果性/ACFrepm降噪算法噪音特征-降噪場(chǎng)景智能告警定級(jí)根因分析/定位/推薦智能檢測(cè)風(fēng)暴智能運(yùn)維場(chǎng)景-告警降噪 集 集AI智能降噪過(guò)濾條件27149條規(guī)則壓縮AI智能降噪過(guò)濾條件27149條規(guī)則壓縮9272條集成數(shù)據(jù)源原始告警270w+條1W/S智能運(yùn)維場(chǎng)景-單指標(biāo)異常檢測(cè)智能運(yùn)維場(chǎng)景-單指標(biāo)異常檢測(cè)提煉指標(biāo)靜態(tài)閾值/同環(huán)比閾值提煉指標(biāo) 靜態(tài)閾值/同環(huán)比閾值提煉指標(biāo)靜態(tài)閾值/同環(huán)比閾值提煉指標(biāo) 原始告警智能化算法 原始告警智能化算法原始告警原始告警 靜態(tài)閾值/同環(huán)比閾值監(jiān)控工具指標(biāo) 監(jiān)控工具指標(biāo)→監(jiān)控工具指標(biāo) 監(jiān)控工具指標(biāo)→ 智能化算法