魏華-構(gòu)筑邊緣智能推動(dòng)算力網(wǎng)絡(luò)新發(fā)展-AII邊緣計(jì)算特設(shè)組第二十一次工作組會(huì)議-網(wǎng)絡(luò)與IT技術(shù)研究所-1月11日

邊緣智能發(fā)展的新趨勢(shì)數(shù)字經(jīng)濟(jì)的發(fā)展，對(duì)網(wǎng)絡(luò)連接提出更數(shù)字經(jīng)濟(jì)的發(fā)展，對(duì)網(wǎng)絡(luò)連接提出更高要求?要求優(yōu)化網(wǎng)絡(luò)架構(gòu)，推進(jìn)省域/區(qū)域內(nèi)3ms以及城市內(nèi)1ms低時(shí)延?產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型升級(jí)對(duì)網(wǎng)絡(luò)確定性提出更高要求?網(wǎng)絡(luò)與算力進(jìn)一步融合演進(jìn)，催生網(wǎng)絡(luò)應(yīng)用感知能力邊緣計(jì)算行業(yè)發(fā)展新趨勢(shì)行業(yè)發(fā)展行業(yè)發(fā)展的新變化，要求算力向多樣性、泛在性變化?算力內(nèi)核包括通用算力和異構(gòu)特征?算力形態(tài)隨著數(shù)據(jù)處理向邊端現(xiàn)泛在化?算力結(jié)構(gòu)趨向智能化算力結(jié)構(gòu)持續(xù)演進(jìn)，智能算力占比持續(xù)增加計(jì)算需求呈差異化，算力結(jié)構(gòu)持續(xù)演進(jìn)，智能算力占比持續(xù)增加計(jì)算需求呈差異化，異構(gòu)算力發(fā)展不斷繁榮?預(yù)計(jì)2023年我國(guó)智能計(jì)算占總算力規(guī)力需求增長(zhǎng)500倍以上AI訓(xùn)練計(jì)算復(fù)雜度年增速達(dá)10倍，且逐漸從云端訓(xùn)練擴(kuò)展到邊緣端推理?算隨人動(dòng)、算隨需流促使應(yīng)用向邊緣遷移成?計(jì)算模式正向云-邊-端多級(jí)、高度協(xié)同的泛方向發(fā)展邊緣計(jì)算行業(yè)發(fā)展新特征邊緣應(yīng)用場(chǎng)邊緣應(yīng)用場(chǎng)景激增，泛在算力需求大量釋放?工業(yè)互聯(lián)網(wǎng)、人工智能、大數(shù)據(jù)等應(yīng)用對(duì)算力的專(zhuān)用化、差異化需求凸顯GPU、FPGA、AI芯片等異構(gòu)算力需求增長(zhǎng)迅猛起構(gòu)成堅(jiān)實(shí)的算力底座 (數(shù)據(jù)來(lái)源：發(fā)改委高技術(shù)司)2016 (數(shù)據(jù)來(lái)源：發(fā)改委高技術(shù)司)2016-2022邊緣計(jì)算市場(chǎng)規(guī)模(單位：億元)2016201720182019202020212022E (數(shù)據(jù)來(lái)源：CCID前瞻產(chǎn)業(yè)研究院)800700600500400300200000邊緣計(jì)算行業(yè)發(fā)展新動(dòng)能我國(guó)移動(dòng)互聯(lián)網(wǎng)接入流量持續(xù)增長(zhǎng)，邊緣計(jì)算應(yīng)用市場(chǎng)規(guī)模不斷擴(kuò)大，其中智能算力規(guī)模及能力呈現(xiàn)快速增長(zhǎng)，但算力資源整體利用率偏低C00806040200數(shù)據(jù)中心物理服務(wù)器電腦PC消費(fèi)終端一般資源利用率峰值資源利用率平均資源利用率中國(guó)智能算力中國(guó)智能算力規(guī)模及預(yù)測(cè)數(shù)據(jù)來(lái)源：IDC中國(guó)移動(dòng)邊緣計(jì)算新實(shí)踐明確“兩層架構(gòu)”和“三大核心技術(shù)”明確“兩層架構(gòu)”和“三大核心技術(shù)”P(pán)ytorch打造“芯合”算力原生原型系統(tǒng)……武紀(jì)支版本 支版本intel分支版本支版本支版本框架層融通邊緣側(cè)多樣性算力算力原生將程序統(tǒng)一轉(zhuǎn)譯為中間元語(yǔ)算力原生將程序統(tǒng)一轉(zhuǎn)譯為中間元語(yǔ)，并通過(guò)原生運(yùn)行時(shí)與多樣算力適配、動(dòng)態(tài)映射執(zhí)行應(yīng)用層原始程序任選1種工具鏈開(kāi)原始程序原生runtime編程模型轉(zhuǎn)換、編譯、優(yōu)化原生runtime原生程序動(dòng)態(tài)鏈接工具鏈硬件1體適工具鏈CPU/NPU硬件層GPU/DPUCPU/NPU硬件層GPU/DPUDCU……CPUCPU/GPU服務(wù)使能能力平臺(tái)產(chǎn)品級(jí)能力服務(wù)運(yùn)營(yíng)自助服務(wù)能力任務(wù)平臺(tái)服務(wù)使能能力平臺(tái)產(chǎn)品級(jí)能力服務(wù)運(yùn)營(yíng)自助服務(wù)能力任務(wù)平臺(tái)開(kāi)通開(kāi)放模板拆解APP3OpenSigmaOneOneOneECPPointHealthPower虛擬化基礎(chǔ)設(shè)施(虛機(jī)/容器)APP1APP2APP4?硬服務(wù)務(wù)?邊緣能力對(duì)外服務(wù)開(kāi)放?安全服務(wù)能力?軟服務(wù)?從“資源式”轉(zhuǎn)向“任務(wù)式”?提供算法模型及能力模板?提供智能無(wú)感極簡(jiǎn)的服務(wù)模式?工業(yè)互聯(lián)網(wǎng)平臺(tái)?路車(chē)網(wǎng)體系化產(chǎn)品矩陣?數(shù)據(jù)互聯(lián)互通?智慧園區(qū)平臺(tái)?數(shù)字化運(yùn)維能力?分析智能化?用戶數(shù)據(jù)、教學(xué)應(yīng)用互聯(lián)互通打造邊緣計(jì)算多級(jí)開(kāi)放能力基基礎(chǔ)(原子)API能力APPAPP3統(tǒng)一API網(wǎng)關(guān)邊緣計(jì)算PaaS平臺(tái)無(wú)線信息帶寬通用行管理業(yè)API分流策略APP1APP2?網(wǎng)絡(luò)能力API?小區(qū)級(jí)/應(yīng)用級(jí)/用戶級(jí)無(wú)線信息?通用行業(yè)能力API?人臉識(shí)別、人體識(shí)別系統(tǒng)配置中心測(cè)試認(rèn)證中心用戶管理系統(tǒng)管理筑造邊緣智能協(xié)同服務(wù)框架系統(tǒng)配置中心測(cè)試認(rèn)證中心用戶管理系統(tǒng)管理筑造邊緣智能協(xié)同服務(wù)框架中國(guó)移動(dòng)OpenSigma平臺(tái)行業(yè)能力中已具備針對(duì)AI、視頻識(shí)別場(chǎng)景下差異化任務(wù)識(shí)別能力，構(gòu)建智能云邊端協(xié)同服務(wù)框架，實(shí)現(xiàn)低延遲、高效能的自適應(yīng)感知智能計(jì)算OpenSigma-ECM開(kāi)發(fā)者中心開(kāi)發(fā)者中心應(yīng)用中心OpenSigma-MEPMECPECPFCAPS管理網(wǎng)絡(luò)能力配置aECPAPI網(wǎng)關(guān)行業(yè)能力特色網(wǎng)絡(luò)能力基礎(chǔ)能力以多目標(biāo)視頻追蹤場(chǎng)景為例，利用智能協(xié)同服務(wù)架構(gòu)可以進(jìn)行云邊端的協(xié)同優(yōu)化，可以由云邊端三級(jí)根據(jù)本地能力執(zhí)行部分任務(wù)，分別完成數(shù)據(jù)采集、預(yù)處理、分類(lèi)決策、多分支跟蹤、計(jì)算任務(wù)卸載決策等功能，分工合作從而實(shí)現(xiàn)加速視頻分析的目標(biāo)n基于終端訓(xùn)練迭代次數(shù)自適應(yīng)分配機(jī)制，同時(shí)考慮系統(tǒng)異構(gòu)與數(shù)據(jù)異構(gòu)對(duì)于訓(xùn)練效率的影響，將訓(xùn)練時(shí)間效率與訓(xùn)練收斂質(zhì)量建模為多目標(biāo)優(yōu)化問(wèn)題，從而解決了兩者之間的矛盾。n相比現(xiàn)有聯(lián)邦學(xué)習(xí)訓(xùn)練算法，最高可以減少約49.5%的收斂時(shí)間。邊緣智能模型-訓(xùn)練優(yōu)化n基于流水線并行+stage-level混合策略搜索的分布式深度學(xué)習(xí)，通過(guò)搜索完整的策略空間，實(shí)現(xiàn)GPU的負(fù)載均衡，提高GPU利用率與模型訓(xùn)練吞吐量，減少訓(xùn)練時(shí)間。邊緣智能模型-推理優(yōu)化指示器進(jìn)行出口預(yù)測(cè)，考慮帶寬將最低延時(shí)問(wèn)題轉(zhuǎn)化為最小割問(wèn)題，實(shí)現(xiàn)動(dòng)態(tài)路徑DAG網(wǎng)絡(luò)的切分。分n結(jié)合分支網(wǎng)絡(luò)出口選擇、模型切分與資源分配網(wǎng)絡(luò)環(huán)境下實(shí)現(xiàn)最小化任務(wù)平均執(zhí)行時(shí)間。精度損失控制在1.2%-3.3%。算力網(wǎng)絡(luò)開(kāi)啟算力服務(wù)新模式中國(guó)移動(dòng)算力網(wǎng)絡(luò)體系架構(gòu)中國(guó)移動(dòng)算力網(wǎng)絡(luò)體系架構(gòu)算力網(wǎng)絡(luò)是以算為中心、網(wǎng)為根基，網(wǎng)、云、數(shù)、智、安、邊、端、鏈(ABCDNETS)等深度融合、提供一體化服務(wù)的新型信息基礎(chǔ)設(shè)施。算力網(wǎng)絡(luò)的目標(biāo)是實(shí)現(xiàn)“算力泛在、算網(wǎng)共生、智能編排、一體服務(wù)”，逐步推動(dòng)算力成為與水電一樣，可“一點(diǎn)接入、即取即用”的社會(huì)級(jí)服務(wù)，達(dá)成“網(wǎng)絡(luò)無(wú)所不達(dá)，算力無(wú)所不在，智能無(wú)所不及”的愿景邊緣側(cè)是融通云邊端多層級(jí)架構(gòu)的核邊緣側(cè)是融通云邊端多層級(jí)架構(gòu)的核心算網(wǎng)運(yùn)營(yíng)算力并網(wǎng)意圖感知算力封裝算算網(wǎng)運(yùn)營(yíng)算力并網(wǎng)意圖感知算力封裝算力交易統(tǒng)一運(yùn)營(yíng)能力開(kāi)放算網(wǎng)大腦數(shù)據(jù)湖算網(wǎng)大腦數(shù)據(jù)湖基礎(chǔ)算網(wǎng)管理算網(wǎng)統(tǒng)一編排算網(wǎng)智能化人工智能引擎算算力解構(gòu)泛在調(diào)度算網(wǎng)自智數(shù)字孿生意圖網(wǎng)絡(luò)一體編排分布式算力(邊)分布式算力(中心)分布式算力(端)分布式算力(網(wǎng))統(tǒng)一IP算網(wǎng)底座分布式算力(邊)分布式算力(中心)分布式算力(端)分布式算力(網(wǎng))統(tǒng)一IP算網(wǎng)底座OTN/OXCOTN/OXC分分布式算力(邊)分布式算力(中心)分布式算力(端)分布式算力(網(wǎng))OTNOTN/OXC全光底座體的基礎(chǔ)設(shè)施力一中心云提供商A可信算力交易平臺(tái)型數(shù)據(jù)中心開(kāi)啟算力服務(wù)新模式力一中心云提供商A可信算力交易平臺(tái)型數(shù)據(jù)中心開(kāi)啟算力服務(wù)新模式端到端質(zhì)量一致性“TaaS”任務(wù)式算力并網(wǎng)算力交易機(jī)柜邊緣算力平臺(tái)算網(wǎng)大腦算網(wǎng)大腦方方B終力C車(chē)聯(lián)網(wǎng)、云游戲…圖像渲染、AI訓(xùn)練推理…算力普惠、科學(xué)計(jì)算…共生，實(shí)現(xiàn)服務(wù)端到端質(zhì)量一致性保障用戶只需要提出任務(wù)的具體需求 (如輸出60幀1080P視頻)，無(wú)需關(guān)注底層復(fù)雜的算網(wǎng)環(huán)境通過(guò)跨地域、跨運(yùn)營(yíng)主體算力資源，盤(pán)活存量算力，降低單位算力使用成本和門(mén)檻展望展望高動(dòng)態(tài)高高動(dòng)態(tài)高實(shí)時(shí)服務(wù)元元宇宙高質(zhì)感服務(wù)社社會(huì)級(jí)算力服務(wù)場(chǎng)景自動(dòng)駕駛等高可靠性、超低時(shí)延、高速移動(dòng)、業(yè)務(wù)連續(xù)性保障要求的服務(wù)云游戲、XR極致服務(wù)