白璐：大模型技術(shù)助力企業(yè)IT運(yùn)維智能化升級

大模型助力企業(yè)IT運(yùn)維智能化升級中國信息通信研究院工程師運(yùn)維可觀測性能力要求》《IT基礎(chǔ)資源運(yùn)營成熟度模型》《企業(yè)架GOGOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站02大模型時代背景概述03大模型在研發(fā)運(yùn)營領(lǐng)域的應(yīng)用現(xiàn)狀04大模型驅(qū)動的研發(fā)運(yùn)營場景展望GOGOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站01新時代大運(yùn)維現(xiàn)代化保障體系GOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站外部環(huán)境與需求變化促進(jìn)運(yùn)維(Ops)理念不斷演進(jìn)運(yùn)維的需求與環(huán)境發(fā)生巨大變化：隨著數(shù)字技術(shù)可靠性、可維護(hù)性和可擴(kuò)展性將軟件工程的原則和運(yùn)維的實踐結(jié)合，通過智能化、自動化、監(jiān)控、故障注入等手段提高系統(tǒng)的可靠性、可維護(hù)性可靠性、可維護(hù)性和可擴(kuò)展性將軟件工程的原則和運(yùn)維的實踐結(jié)合，通過智能化、自動化、監(jiān)控、故障注入等手段提高系統(tǒng)的可靠性、可維護(hù)性快速部署、持續(xù)集成、交付和部署●研發(fā)和運(yùn)維是緊密協(xié)作的一體化團(tuán)隊。使用自動化工具和流程實現(xiàn)快速部署、持續(xù)集成、持續(xù)交付和持續(xù)部署●●●自動化服務(wù)器配置與部署流程自動化服務(wù)器配置與部署流程●采用自動化工具和腳本減少手工操作。通過配置管理工具自動化服務(wù)器配置和部署流程，減少手工錯誤和提高一致●文檔化人工維護(hù)與更新應(yīng)用程序的開發(fā)、測試、部署之后，由運(yùn)維負(fù)責(zé)部署、監(jiān)控和維護(hù)。在這個階段，操作流程和文檔以人工方式維護(hù)GOGOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站構(gòu)建新時代穩(wěn)定、高效、精細(xì)、安全的圍繞質(zhì)量、成本、效率、安全5個維度；結(jié)合穩(wěn)定性、高效能、精細(xì)化、安全運(yùn)維4大工程實踐，共同構(gòu)建穩(wěn)定、高效、精細(xì)、安全的運(yùn)維現(xiàn)代化運(yùn)維現(xiàn)代化保障體系場景場景能力效率設(shè)計與開發(fā)質(zhì)量保障部署發(fā)布故障預(yù)防故障觀測故障處置優(yōu)化改進(jìn)SLO運(yùn)營安全運(yùn)營威脅感知安全監(jiān)測響應(yīng)處置威脅狩獵程應(yīng)用性能觀測知識庫管理效能管理安全成本質(zhì)量智能運(yùn)維AIOps系統(tǒng)與工具FinOps平臺工具能力研發(fā)運(yùn)營大模型運(yùn)維數(shù)據(jù)治理算法服務(wù)化模型工程化知識庫構(gòu)建GOGOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站研發(fā)運(yùn)營系統(tǒng)可靠性與連續(xù)性（SRE）系統(tǒng)技術(shù)更迭快、架構(gòu)復(fù)雜系統(tǒng)技術(shù)更迭快、架構(gòu)復(fù)雜，所以理論上說，“沒有絕對穩(wěn)定的系統(tǒng)，只有相對完善的保障體系”。本部分工作主要針對如何通過各類保障手段，最大限度確保系統(tǒng)的穩(wěn)定性.集產(chǎn)學(xué)研多方力量，聚焦信息系統(tǒng)穩(wěn)定性(STABILITY)&韌性(RESILIENCE)研究。完成技術(shù)標(biāo)準(zhǔn)4個，研究報告2個，19家機(jī)構(gòu)參與過基于標(biāo)準(zhǔn)的評測工作?？蚣苋律壙蚣苋律塆OGOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站國際領(lǐng)先：智能運(yùn)維(AIOps)國際標(biāo)準(zhǔn)發(fā)布中國信息通信研究院牽頭提出首個智能運(yùn)維（AIOps）國際標(biāo)basedcloudservicedeve智能技術(shù)的加持下進(jìn)一步提高軟件開發(fā)和運(yùn)營管理效率。旨在通過進(jìn)一步明確智能運(yùn)維的功能要求，推進(jìn)各方對智能運(yùn)維能力體系架構(gòu)達(dá)成共識，加強(qiáng)國際交流合作，以促進(jìn)智能運(yùn)維領(lǐng)域技術(shù)、應(yīng)用的有效落地，持續(xù)推動國內(nèi)外AIOps相關(guān)產(chǎn)業(yè)的健GOGOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站智能運(yùn)維能力成熟度系列標(biāo)準(zhǔn)GOGOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站《IT基礎(chǔ)設(shè)施資源運(yùn)營能力成熟度模型》標(biāo)準(zhǔn)國務(wù)院關(guān)于印發(fā)的“十四五”數(shù)字經(jīng)濟(jì)規(guī)范健康可持續(xù)是數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展的迫切要求。我國數(shù)字經(jīng)濟(jì)規(guī)?？焖贁U(kuò)張，但發(fā)展不平衡、不充分、不規(guī)范的問題較為突出，迫切需要轉(zhuǎn)變傳統(tǒng)發(fā)展方式，加快補(bǔ)齊短板弱項，提高我國數(shù)字經(jīng)濟(jì)治理水平，走出一科學(xué)。牢固樹立過“緊日子”“高質(zhì)量發(fā)展是全面建設(shè)社會主義現(xiàn)代化國家的首要任務(wù)”2023年12月2023年1月2023年2-3月2023年3月2023年4月標(biāo)準(zhǔn)正式立項標(biāo)準(zhǔn)啟動會標(biāo)準(zhǔn)研討會形成標(biāo)準(zhǔn)初稿試點(diǎn)評估《IT基礎(chǔ)設(shè)施資源運(yùn)營能力成熟度模型》標(biāo)準(zhǔn)從預(yù)算管理、交付管理、容量管理、成本管理、效能管理、持續(xù)運(yùn)營等幾容量管理容量管理能力層預(yù)算管理成本管理效能管理持續(xù)運(yùn)營容量規(guī)劃需求管理可視化報表成本洞察利用效率監(jiān)控告警需求審批采購管理需求交付成本分?jǐn)傊笜?biāo)管理權(quán)限配置成本優(yōu)化容量分析流程管理管理規(guī)范資源調(diào)度成本核算組織建設(shè)交付管理能力層預(yù)算管理成本管理效能管理持續(xù)運(yùn)營容量規(guī)劃需求管理可視化報表成本洞察利用效率監(jiān)控告警需求審批采購管理需求交付成本分?jǐn)傊笜?biāo)管理權(quán)限配置成本優(yōu)化容量分析流程管理管理規(guī)范資源調(diào)度成本核算組織建設(shè)交付管理預(yù)算計劃預(yù)算執(zhí)行預(yù)算分析預(yù)算變更資源優(yōu)化資源優(yōu)化數(shù)據(jù)存儲數(shù)據(jù)存儲數(shù)據(jù)采集數(shù)據(jù)處理數(shù)據(jù)傳輸物理機(jī)數(shù)據(jù)治理虛擬機(jī)網(wǎng)虛擬機(jī)網(wǎng)絡(luò)中間件云資源數(shù)據(jù)庫...本標(biāo)準(zhǔn)已立項，將于2024年1月18日召開標(biāo)準(zhǔn)啟動會暨第一次研討會，參編單位持續(xù)征集中！招商銀行、平安銀行、華泰證券、銀河證券、招商基金、中國航信、百度、聯(lián)想、京東、小紅書等GOGOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站智能化運(yùn)維(AIOps)能力成熟度模型第5部分：運(yùn)維數(shù)據(jù)治理?數(shù)據(jù)來源多樣、格式不一，數(shù)據(jù)質(zhì)量控制。?企業(yè)內(nèi)部或企業(yè)間數(shù)據(jù)標(biāo)準(zhǔn)不統(tǒng)一，導(dǎo)致數(shù)據(jù)整合困難，影響數(shù)據(jù)的有效利用。基礎(chǔ)設(shè)施監(jiān)控數(shù)據(jù)：服務(wù)器、存儲設(shè)備、網(wǎng)絡(luò)設(shè)備的運(yùn)行狀態(tài)和性能指標(biāo)。系統(tǒng)和應(yīng)用日志數(shù)據(jù)：操作?數(shù)據(jù)來源多樣、格式不一，數(shù)據(jù)質(zhì)量控制。?企業(yè)內(nèi)部或企業(yè)間數(shù)據(jù)標(biāo)準(zhǔn)不統(tǒng)一，導(dǎo)致數(shù)據(jù)整合困難，影響數(shù)據(jù)的有效利用?；A(chǔ)設(shè)施監(jiān)控數(shù)據(jù)：服務(wù)器、存儲設(shè)備、網(wǎng)絡(luò)設(shè)備的運(yùn)行狀態(tài)和性能指標(biāo)。系統(tǒng)和應(yīng)用日志數(shù)據(jù)：操作系統(tǒng)日志、數(shù)據(jù)庫日志、中間件日志以及應(yīng)用系統(tǒng)日志。3?不同系統(tǒng)或部門之間的數(shù)據(jù)往往孤立，缺乏有效的整合和共享機(jī)制。安全和訪問數(shù)據(jù)：系統(tǒng)安全事件、入侵檢測報警、用戶登錄和訪問記錄等。配置和變更管理數(shù)據(jù)：系統(tǒng)配置、網(wǎng)絡(luò)配置、安全配置以及應(yīng)用配置的變更記錄。24廠?企業(yè)內(nèi)部或企業(yè)間數(shù)據(jù)標(biāo)準(zhǔn)不統(tǒng)一，導(dǎo)致數(shù)據(jù)整合困難，影響數(shù)據(jù)的有效利用。時間計劃運(yùn)維數(shù)據(jù)治理是運(yùn)維數(shù)智化轉(zhuǎn)型的關(guān)鍵組成部分，通過數(shù)據(jù)治理，可以確保運(yùn)維數(shù)據(jù)的準(zhǔn)確性、完整性和一致性，并有助于數(shù)據(jù)的共享和開放。在當(dāng)前智能運(yùn)維工作中存在數(shù)據(jù)匯聚能力不足、數(shù)據(jù)管控能力薄弱、數(shù)據(jù)治理體系不完善、數(shù)據(jù)價值評估難等痛點(diǎn)問題。GOGOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站02大模型時代背景概述GOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站大模型顛覆人工智能產(chǎn)業(yè)大語言模型(LLM)是使用深度學(xué)習(xí)算法處理和理解自然語言的基礎(chǔ)機(jī)器學(xué)習(xí)模型。他們可以理解復(fù)雜的文本數(shù)據(jù)，識別實體和它們之間的關(guān)系，并生成連貫且語法準(zhǔn)確的新文本。大模型顛覆了人工智能技術(shù)、合作、研發(fā)、運(yùn)營、服務(wù)模式，加速了生態(tài)變化和影響GOGOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站政策助力大模型技術(shù)快速發(fā)展近年來國內(nèi)外大模型技術(shù)發(fā)展迅猛近年來國內(nèi)外大模型技術(shù)發(fā)展迅猛Google：BardMeta：LLaMa……百度：ERNIE3.0文心大模型清華大學(xué)：GLM-130B模型阿里巴巴：通義大模型騰訊：混元大模型……隨著人工智能技術(shù)的飛速發(fā)展，大模型在自然語言處理、計算機(jī)視覺、語音識別等多個領(lǐng)域取得了顯著的突破。特別是在自然語言處理領(lǐng)域，預(yù)訓(xùn)練大模型如BERT、GPT系列等已經(jīng)成為研究和產(chǎn)業(yè)應(yīng)用的標(biāo)配。2023年政策助推大模型在各行業(yè)應(yīng)用快速落地2023年7月，國家互聯(lián)網(wǎng)信息辦公室等七部門聯(lián)合發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》：鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，探索優(yōu)化應(yīng)用場景，構(gòu)建應(yīng)用生態(tài)體系。2023年12月，國家數(shù)據(jù)局發(fā)布《“數(shù)據(jù)要素x”三年行動計劃（征求意見稿）》：提出以科學(xué)數(shù)據(jù)支持大模型開發(fā)，支持開展通用人工智能大模型和垂直領(lǐng)域人工智能大模型訓(xùn)練。北京、上海、深圳、安徽、四川等省市出臺大模型產(chǎn)業(yè)發(fā)展措施：《上海市推動人工智能大模型創(chuàng)新發(fā)展若干措施》等政策，加速大模型應(yīng)用落地，建設(shè)大模型算法及工具開源開放平臺，構(gòu)建完整大模型技術(shù)創(chuàng)新體系。GOGOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站大模型分類及應(yīng)用根據(jù)模型的應(yīng)用范圍和特定性可將大模型劃分為通用大模型、行業(yè)大模型、垂直大模型和專有大模型。通用大模型以其廣泛的適用性和靈活性而受到青睞；行業(yè)大模型和垂直大模型則在特定領(lǐng)域內(nèi)提供更加精準(zhǔn)和專業(yè)的服務(wù)；而專有大模型則為特定組織提供了獨(dú)特的競爭優(yōu)勢。CMetaLLaMACMetaLLaMA指針對特定行業(yè)或領(lǐng)域的應(yīng)用需求而設(shè)計的人工指針對特定行業(yè)或領(lǐng)域的應(yīng)用需求而設(shè)計的人工指專注于某一具體應(yīng)用或服務(wù)的人工智能模型。指專注于某一具體應(yīng)用或服務(wù)的人工智能模型。NOMIMate2.0NOMIMate2.0GOGOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站大模型在研發(fā)運(yùn)營領(lǐng)域的應(yīng)用現(xiàn)狀GOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站研發(fā)運(yùn)營大模型與通用大模型的區(qū)別分析粵通用大模型具有廣泛的知識基礎(chǔ)、可粵通用大模型具有廣泛的知識基礎(chǔ)、可靈活處理多種問題，往往是公開的，但資源消耗與維護(hù)成本較高。研發(fā)運(yùn)營行業(yè)大模型在研發(fā)運(yùn)營領(lǐng)域更加專精，處理特定問題效率更高，并可以衍生多種定制化工具，助力企業(yè)提高生產(chǎn)力，且成本效益比更高。研發(fā)運(yùn)營行業(yè)大模型通用大模型研發(fā)運(yùn)營行業(yè)大模型通用大模型更廣的用戶群體。更高的靈活性。泛化能力更高能處理多種問題處理問題針對性更強(qiáng)可衍生多種定制化應(yīng)用“博古通今”靈活性定制化應(yīng)用“行業(yè)專家”開放性成本效益“博古通今”靈活性定制化應(yīng)用“行業(yè)專家”開放性成本效益專業(yè)性強(qiáng)效率更高GOGOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站軟件研運(yùn)大模型構(gòu)建方式打造研運(yùn)行業(yè)大模型，高效的工具與流水線化加工扮演著至關(guān)重要的角色，包括語料收集與治理、基座模型選擇與預(yù)訓(xùn)練、模型微調(diào)、模型評測與優(yōu)化等。AdaLoRA等。模型評測與優(yōu)化模型微調(diào)模型評測與優(yōu)化模型微調(diào)語料收集與治理語料收集與治理行業(yè)大模型的預(yù)訓(xùn)練模型對齊行業(yè)大模型的預(yù)訓(xùn)練模型對齊GOGOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站研運(yùn)大模型國內(nèi)外實踐現(xiàn)狀?OpenAICodex?GitHubCopilot代碼建議并自動編寫測試等功能。Copil?谷歌AlphaCode?清華大學(xué)CodeGeeXCodeGeeX是清華大學(xué)發(fā)布的一個具有130億參數(shù)的多編程語?Baidu?BaiduComate??華為PanGu-CoderGOGOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站軟件研運(yùn)大模型參考架構(gòu)通過研運(yùn)大模型的構(gòu)建，形成了面向行業(yè)各場景的研運(yùn)大模型框架。大模型將基于基礎(chǔ)公共語料及行業(yè)研運(yùn)數(shù)據(jù)私有語料，提供面向場景的應(yīng)用服務(wù)平臺。模型應(yīng)用風(fēng)險管理與審計模型應(yīng)用風(fēng)險管理與審計應(yīng)用場景研運(yùn)大模型生成研運(yùn)大模型生成研運(yùn)基座大模型大模型開發(fā)管理工具行業(yè)研運(yùn)數(shù)據(jù)語料公共基礎(chǔ)設(shè)施行業(yè)研運(yùn)數(shù)據(jù)語料公共基礎(chǔ)設(shè)施研運(yùn)大模研運(yùn)大模型應(yīng)用服務(wù)平臺理GOGOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站研運(yùn)大模型場景能力現(xiàn)狀大模型技術(shù)在研發(fā)、測試和運(yùn)維領(lǐng)域的應(yīng)用正逐步成熟，未來將更加注重與現(xiàn)有工具和流程的集成，提供更加個性化和智能化的服務(wù)。同時，隨著模型能力的不斷提升，可以預(yù)見大模型將在提高軟件開發(fā)效率、降低維護(hù)成本、提升系統(tǒng)穩(wěn)定性等方面發(fā)揮更大的作用。助手CodeFuse。CodeFuse幫助GOGOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站信通院牽頭制定首個研發(fā)運(yùn)維大模型標(biāo)準(zhǔn)時間計劃時間計劃2024年1月：形成初稿2024年2-3月：征GOGOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站04大模型驅(qū)動的研發(fā)運(yùn)營場景展望GOPS全球運(yùn)維大會暨XOps技術(shù)創(chuàng)新峰會2024·北京站研運(yùn)大模型痛點(diǎn)問題及核心目標(biāo)研發(fā)運(yùn)營大模型發(fā)展所面臨的主要痛點(diǎn)包括計算資源的高研發(fā)運(yùn)營大模型發(fā)展所面臨的主要痛點(diǎn)包括計算資源的