魏華-構(gòu)筑邊緣智能推動算力網(wǎng)絡(luò)新發(fā)展-AII邊緣計(jì)算特設(shè)組第二十一次工作組會議-網(wǎng)絡(luò)與IT技術(shù)研究所-1月11日

邊緣智能發(fā)展的新趨勢數(shù)字經(jīng)濟(jì)的發(fā)展，對網(wǎng)絡(luò)連接提出更數(shù)字經(jīng)濟(jì)的發(fā)展，對網(wǎng)絡(luò)連接提出更高要求?要求優(yōu)化網(wǎng)絡(luò)架構(gòu)，推進(jìn)省域/區(qū)域內(nèi)3ms以及城市內(nèi)1ms低時(shí)延?產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型升級對網(wǎng)絡(luò)確定性提出更高要求?網(wǎng)絡(luò)與算力進(jìn)一步融合演進(jìn)，催生網(wǎng)絡(luò)應(yīng)用感知能力邊緣計(jì)算行業(yè)發(fā)展新趨勢行業(yè)發(fā)展行業(yè)發(fā)展的新變化，要求算力向多樣性、泛在性變化?算力內(nèi)核包括通用算力和異構(gòu)特征?算力形態(tài)隨著數(shù)據(jù)處理向邊端現(xiàn)泛在化?算力結(jié)構(gòu)趨向智能化算力結(jié)構(gòu)持續(xù)演進(jìn)，智能算力占比持續(xù)增加計(jì)算需求呈差異化，算力結(jié)構(gòu)持續(xù)演進(jìn)，智能算力占比持續(xù)增加計(jì)算需求呈差異化，異構(gòu)算力發(fā)展不斷繁榮?預(yù)計(jì)2023年我國智能計(jì)算占總算力規(guī)力需求增長500倍以上AI訓(xùn)練計(jì)算復(fù)雜度年增速達(dá)10倍，且逐漸從云端訓(xùn)練擴(kuò)展到邊緣端推理?算隨人動、算隨需流促使應(yīng)用向邊緣遷移成?計(jì)算模式正向云-邊-端多級、高度協(xié)同的泛方向發(fā)展邊緣計(jì)算行業(yè)發(fā)展新特征邊緣應(yīng)用場邊緣應(yīng)用場景激增，泛在算力需求大量釋放?工業(yè)互聯(lián)網(wǎng)、人工智能、大數(shù)據(jù)等應(yīng)用對算力的專用化、差異化需求凸顯GPU、FPGA、AI芯片等異構(gòu)算力需求增長迅猛起構(gòu)成堅(jiān)實(shí)的算力底座 (數(shù)據(jù)來源：發(fā)改委高技術(shù)司)2016 (數(shù)據(jù)來源：發(fā)改委高技術(shù)司)2016-2022邊緣計(jì)算市場規(guī)模(單位：億元)2016201720182019202020212022E (數(shù)據(jù)來源：CCID前瞻產(chǎn)業(yè)研究院)800700600500400300200000邊緣計(jì)算行業(yè)發(fā)展新動能我國移動互聯(lián)網(wǎng)接入流量持續(xù)增長，邊緣計(jì)算應(yīng)用市場規(guī)模不斷擴(kuò)大，其中智能算力規(guī)模及能力呈現(xiàn)快速增長，但算力資源整體利用率偏低C00806040200數(shù)據(jù)中心物理服務(wù)器電腦PC消費(fèi)終端一般資源利用率峰值資源利用率平均資源利用率中國智能算力中國智能算力規(guī)模及預(yù)測數(shù)據(jù)來源：IDC中國移動邊緣計(jì)算新實(shí)踐明確“兩層架構(gòu)”和“三大核心技術(shù)”明確“兩層架構(gòu)”和“三大核心技術(shù)”Pytorch打造“芯合”算力原生原型系統(tǒng)……武紀(jì)支版本 支版本intel分支版本支版本支版本框架層融通邊緣側(cè)多樣性算力算力原生將程序統(tǒng)一轉(zhuǎn)譯為中間元語算力原生將程序統(tǒng)一轉(zhuǎn)譯為中間元語，并通過原生運(yùn)行時(shí)與多樣算力適配、動態(tài)映射執(zhí)行應(yīng)用層原始程序任選1種工具鏈開原始程序原生runtime編程模型轉(zhuǎn)換、編譯、優(yōu)化原生runtime原生程序動態(tài)鏈接工具鏈硬件1體適工具鏈CPU/NPU硬件層GPU/DPUCPU/NPU硬件層GPU/DPUDCU……CPUCPU/GPU服務(wù)使能能力平臺產(chǎn)品級能力服務(wù)運(yùn)營自助服務(wù)能力任務(wù)平臺服務(wù)使能能力平臺產(chǎn)品級能力服務(wù)運(yùn)營自助服務(wù)能力任務(wù)平臺開通開放模板拆解APP3OpenSigmaOneOneOneECPPointHealthPower虛擬化基礎(chǔ)設(shè)施(虛機(jī)/容器)APP1APP2APP4?硬服務(wù)務(wù)?邊緣能力對外服務(wù)開放?安全服務(wù)能力?軟服務(wù)?從“資源式”轉(zhuǎn)向“任務(wù)式”?提供算法模型及能力模板?提供智能無感極簡的服務(wù)模式?工業(yè)互聯(lián)網(wǎng)平臺?路車網(wǎng)體系化產(chǎn)品矩陣?數(shù)據(jù)互聯(lián)互通?智慧園區(qū)平臺?數(shù)字化運(yùn)維能力?分析智能化?用戶數(shù)據(jù)、教學(xué)應(yīng)用互聯(lián)互通打造邊緣計(jì)算多級開放能力基基礎(chǔ)(原子)API能力APPAPP3統(tǒng)一API網(wǎng)關(guān)邊緣計(jì)算PaaS平臺無線信息帶寬通用行管理業(yè)API分流策略APP1APP2?網(wǎng)絡(luò)能力API?小區(qū)級/應(yīng)用級/用戶級無線信息?通用行業(yè)能力API?人臉識別、人體識別系統(tǒng)配置中心測試認(rèn)證中心用戶管理系統(tǒng)管理筑造邊緣智能協(xié)同服務(wù)框架系統(tǒng)配置中心測試認(rèn)證中心用戶管理系統(tǒng)管理筑造邊緣智能協(xié)同服務(wù)框架中國移動OpenSigma平臺行業(yè)能力中已具備針對AI、視頻識別場景下差異化任務(wù)識別能力，構(gòu)建智能云邊端協(xié)同服務(wù)框架，實(shí)現(xiàn)低延遲、高效能的自適應(yīng)感知智能計(jì)算OpenSigma-ECM開發(fā)者中心開發(fā)者中心應(yīng)用中心OpenSigma-MEPMECPECPFCAPS管理網(wǎng)絡(luò)能力配置aECPAPI網(wǎng)關(guān)行業(yè)能力特色網(wǎng)絡(luò)能力基礎(chǔ)能力以多目標(biāo)視頻追蹤場景為例，利用智能協(xié)同服務(wù)架構(gòu)可以進(jìn)行云邊端的協(xié)同優(yōu)化，可以由云邊端三級根據(jù)本地能力執(zhí)行部分任務(wù)，分別完成數(shù)據(jù)采集、預(yù)處理、分類決策、多分支跟蹤、計(jì)算任務(wù)卸載決策等功能，分工合作從而實(shí)現(xiàn)加速視頻分析的目標(biāo)n基于終端訓(xùn)練迭代次數(shù)自適應(yīng)分配機(jī)制，同時(shí)考慮系統(tǒng)異構(gòu)與數(shù)據(jù)異構(gòu)對于訓(xùn)練效率的影響，將訓(xùn)練時(shí)間效率與訓(xùn)練收斂質(zhì)量建模為多目標(biāo)優(yōu)化問題，從而解決了兩者之間的矛盾。n相比現(xiàn)有聯(lián)邦學(xué)習(xí)訓(xùn)練算法，最高可以減少約49.5%的收斂時(shí)間。邊緣智能模型-訓(xùn)練優(yōu)化n基于流水線并行+stage-level混合策略搜索的分布式深度學(xué)習(xí)，通過搜索完整的策略空間，實(shí)現(xiàn)GPU的負(fù)載均衡，提高GPU利用率與模型訓(xùn)練吞吐量，減少訓(xùn)練時(shí)間。邊緣智能模型-推理優(yōu)化指示器進(jìn)行出口預(yù)測，考慮帶寬將最低延時(shí)問題轉(zhuǎn)化為最小割問題，實(shí)現(xiàn)動態(tài)路徑DAG網(wǎng)絡(luò)的切分。分n結(jié)合分支網(wǎng)絡(luò)出口選擇、模型切分與資源分配網(wǎng)絡(luò)環(huán)境下實(shí)現(xiàn)最小化任務(wù)平均執(zhí)行時(shí)間。精度損失控制在1.2%-3.3%。算力網(wǎng)絡(luò)開啟算力服務(wù)新模式中國移動算力網(wǎng)絡(luò)體系架構(gòu)中國移動算力網(wǎng)絡(luò)體系架構(gòu)算力網(wǎng)絡(luò)是以算為中心、網(wǎng)為根基，網(wǎng)、云、數(shù)、智、安、邊、端、鏈(ABCDNETS)等深度融合、提供一體化服務(wù)的新型信息基礎(chǔ)設(shè)施。算力網(wǎng)絡(luò)的目標(biāo)是實(shí)現(xiàn)“算力泛在、算網(wǎng)共生、智能編排、一體服務(wù)”，逐步推動算力成為與水電一樣，可“一點(diǎn)接入、即取即用”的社會級服務(wù)，達(dá)成“網(wǎng)絡(luò)無所不達(dá)，算力無所不在，智能無所不及”的愿景邊緣側(cè)是融通云邊端多層級架構(gòu)的核邊緣側(cè)是融通云邊端多層級架構(gòu)的核心算網(wǎng)運(yùn)營算力并網(wǎng)意圖感知算力封裝算算網(wǎng)運(yùn)營算力并網(wǎng)意圖感知算力封裝算力交易統(tǒng)一運(yùn)營能力開放算網(wǎng)大腦數(shù)據(jù)湖算網(wǎng)大腦數(shù)據(jù)湖基礎(chǔ)算網(wǎng)管理算網(wǎng)統(tǒng)一編排算網(wǎng)智能化人工智能引擎算算力解構(gòu)泛在調(diào)度算網(wǎng)自智數(shù)字孿生意圖網(wǎng)絡(luò)一體編排分布式算力(邊)分布式算力(中心)分布式算力(端)分布式算力(網(wǎng))統(tǒng)一IP算網(wǎng)底座分布式算力(邊)分布式算力(中心)分布式算力(端)分布式算力(網(wǎng))統(tǒng)一IP算網(wǎng)底座OTN/OXCOTN/OXC分分布式算力(邊)分布式算力(中心)分布式算力(端)分布式算力(網(wǎng))OTNOTN/OXC全光底座體的基礎(chǔ)設(shè)施力一中心云提供商A可信算力交易平臺型數(shù)據(jù)中心開啟算力服務(wù)新模式力一中心云提供商A可信算力交易平臺型數(shù)據(jù)中心開啟算力服務(wù)新模式端到端質(zhì)量一致性“TaaS”任務(wù)式算力并網(wǎng)算力交易機(jī)柜邊緣算力平臺算網(wǎng)大腦算網(wǎng)大腦方方B終力C車聯(lián)網(wǎng)、云游戲…圖像渲染、AI訓(xùn)練推理…算力普惠、科學(xué)計(jì)算…共生，實(shí)現(xiàn)服務(wù)端到端質(zhì)量一致性保障用戶只需要提出任務(wù)的具體需求 (如輸出60幀1080P視頻)，無需關(guān)注底層復(fù)雜的算網(wǎng)環(huán)境通過跨地域、跨運(yùn)營主體算力資源，盤活存量算力，降低單位算力使用成本和門檻展望展望高動態(tài)高高動態(tài)高實(shí)時(shí)服務(wù)元元宇宙高質(zhì)感服務(wù)社社會級算力服務(wù)場景自動駕駛等高可靠性、超低時(shí)延、高速移動、業(yè)務(wù)連續(xù)性保障要求的服務(wù)云游戲、XR極致服務(wù)