2022端側(cè)算力網(wǎng)絡(luò)白皮書

端側(cè)算力網(wǎng)絡(luò)白皮書（2022年）20227目錄一、終的發(fā)景 1終端的發(fā)現(xiàn)狀 1終端的基特征 2智能化不斷強 2資源受限性 3算力的差異性 3泛在分布性 5通信受限性 5隱私數(shù)據(jù)安性 5終端的發(fā)趨勢 6二、端算力的概念架構(gòu) 10端側(cè)算力絡(luò)概念 端側(cè)算力絡(luò)體系架構(gòu) 12端側(cè)算力絡(luò)功能架構(gòu) 17端側(cè)算力絡(luò)主要特征 20三、端算力的關(guān)鍵術(shù) 22層次化端力知圖模型 22面向多終協(xié)的資源擬化術(shù) 23多終端協(xié)的據(jù)壓縮術(shù) 25多粒度多次算力調(diào)度 25面向終端備現(xiàn)場級AI推理 28端算力的價29四、端算力的隱私安全 31認證與鑒權(quán) 31數(shù)據(jù)安全護 32可信交易 34五、端算力的應(yīng)用景 37智能家居 37智能醫(yī)療 38車聯(lián)網(wǎng) 40智慧教育 41智慧農(nóng)業(yè) 42六、結(jié)語 44縮略語 49PAGEPAGE35一、終端的發(fā)展背景終端的發(fā)展現(xiàn)狀智能終端呈現(xiàn)多種多樣的產(chǎn)品形態(tài)，如可穿戴設(shè)備、智能家居、IoT2021年全球銷量1.68202116.993億20215.3362020年增20%20233.620182.42023293201818415終端的基本特征DPUGPU等處AIAPPAtlan1000TOPS[2]，隨著端側(cè)芯片AI計資源受限性用。算力的差異性1TOPS到幾百100mAh表1 芯片的算力差異性對比[3-5]算力水平典型芯片支持數(shù)據(jù)類型芯片算力(對應(yīng)數(shù)據(jù)類型)典型應(yīng)用瑞芯微INT80.8門禁設(shè)備、考勤設(shè)備、車載終端、備、智能手機、智能音0~10RK3566TOPS/TF瑞芯微INT83LOPSRK1808寒武紀(jì)Cambricon-1M-4KINT8/INT18/4/16/INT3210~100華為昇騰INT8/FP1622/11TOPS/TF310LOPS100~1000TOPS/TFLOPS寒武紀(jì)思270-S4INT4/INT8/INT16256/128/64智能視頻分析、智慧視覺設(shè)備NVIDIATeslaT4INT4/INT8/FP16/FP32260/130/65/8.1華為昇騰910INT8/FP16640/320泛在分布性通信受限性[7]終端的發(fā)展趨勢6G網(wǎng)絡(luò)時代RFID這些技術(shù)讓終端和人的聯(lián)系更加緊密。其次，AI算力在終端的應(yīng)用AIAI圖1 中國智能終端市場發(fā)展趨勢2015,K領(lǐng)域的發(fā)展也推動了終端操作系統(tǒng)的多樣化發(fā)展。-終端使用轉(zhuǎn)變?yōu)榻K端側(cè)的推理與計算處理。iOS、安卓、鴻蒙的分布式、多終端協(xié)同能力將進XRAndroid跨平臺交處理能力的芯片逐步成為研發(fā)重點。終端基礎(chǔ)硬件性能不IDC預(yù)測數(shù)據(jù)，2025年全球物聯(lián)網(wǎng)設(shè)40080ZB預(yù)估未來五年全球算力規(guī)模將以超過50的速度增長，到2025年整體規(guī)模將達到3300EFlops81020%-30%2~331.7%的復(fù)202573.45[10]。二、端側(cè)算力網(wǎng)絡(luò)的概念及架構(gòu)端側(cè)算力網(wǎng)絡(luò)的概念端側(cè)算力網(wǎng)絡(luò)是通信網(wǎng)絡(luò)和終端設(shè)備深度融合和進一步發(fā)展的、ZigBee、5G、、LoRa資源和硬件能力，提高無線網(wǎng)絡(luò)和終端設(shè)備算力的利用率和業(yè)務(wù)的QoS中心云中心云邊緣側(cè)終端側(cè)...端側(cè)算力網(wǎng)絡(luò)端側(cè)算力網(wǎng)絡(luò)端側(cè)算力網(wǎng)絡(luò)圖2 算力網(wǎng)絡(luò)體系架構(gòu)圖在算力網(wǎng)絡(luò)中，云、邊、端共同構(gòu)成了多層立體的泛在算力架構(gòu)[12]撐下端側(cè)算力網(wǎng)絡(luò)中的終端算力可以更好地得到利用以及與云邊協(xié)同。2XR設(shè)備、端側(cè)算力網(wǎng)絡(luò)的體系架構(gòu)3箱、智能門鎖、智能攝像頭、智能電視、掃地機器人、智公司1終端層網(wǎng)絡(luò)層終端層室內(nèi)泛在大連接組網(wǎng)家庭3家庭2家庭1t2t1時空高度動態(tài)組網(wǎng)多層次算力智能調(diào)度公司2多協(xié)議動態(tài)自治組網(wǎng)圖3 端側(cè)算力網(wǎng)絡(luò)體系架構(gòu)圖VRt1t2ZigBee（入網(wǎng)備退出端側(cè)算力網(wǎng)絡(luò)中（退網(wǎng)，如上圖所示，具有較強的存算能力損耗。打印機手機筆記本電腦123公司2中的泛在終端設(shè)備分別基于多種短距離通信協(xié)議構(gòu)建成一個基于算力編排策略將任務(wù)遷移到場域終端算力網(wǎng)內(nèi)的其他終端進行協(xié)同處理。過智能網(wǎng)關(guān)從邊緣代理服務(wù)器獲取局域終端算力網(wǎng)中所有場域終端端側(cè)算力網(wǎng)絡(luò)的功能架構(gòu)智能APP 小程序應(yīng)用服務(wù)層Web應(yīng)用 UIAPP北向接口端側(cè)算力網(wǎng)絡(luò)控制層 控制器南向接口Linux Android異構(gòu)操作系統(tǒng)層Windows HarmonyOS圖4端側(cè)算力網(wǎng)絡(luò)接口示意圖構(gòu)性的操作系統(tǒng)如LinuxAndroidwindowsiOSHarmonyOS等。這些基礎(chǔ)操作系統(tǒng)為上層端側(cè)算力網(wǎng)絡(luò)控制層的應(yīng)用功能提供基礎(chǔ)應(yīng)用服務(wù)應(yīng)用服務(wù)智能APP小程序Web界面UIAPP第三方業(yè)務(wù)系統(tǒng)區(qū)塊鏈應(yīng)用組件常用算法異常檢測算法PCDN闖入識別自動駕駛時序網(wǎng)絡(luò)人臉識別人流檢測機器人系統(tǒng)軟工控訪客管理多攝像頭系統(tǒng)艦隊管理實時處理明火識別低功耗傳感器編排調(diào)度層同態(tài)加密虛擬化技術(shù)算力解構(gòu)多層次算力 層次化算調(diào)度 感知圖設(shè)備集群管理服務(wù)管理基礎(chǔ)操作系統(tǒng)安全與隱私LinuxWindowsAndroidiOSHarmonyOS量子計算資源層計算資源存儲資源數(shù)據(jù)感知能力電池剩余量網(wǎng)絡(luò)資源設(shè)備層多方安全智能手機平板電腦無人機車載設(shè)備攝像頭智能家居圖5 端側(cè)算力網(wǎng)絡(luò)功能架構(gòu)圖設(shè)備層快速增長的終端設(shè)備數(shù)量和繁多的終端設(shè)備種類為端側(cè)算力網(wǎng)算力網(wǎng)絡(luò)資源層是端側(cè)算力網(wǎng)絡(luò)的堅實底座。以高效能、集約化、API端側(cè)算力網(wǎng)絡(luò)的主要特征自治組網(wǎng)[13][14]-[15]。的特點[16]。三、端側(cè)算力網(wǎng)絡(luò)的關(guān)鍵技術(shù)AI推層次化端算力感知圖模型圖6 層次化算力感知圖模型力特征向量據(jù)終端設(shè)備的特征向量評估終端設(shè)備的綜合算力值X=a×計算資源剩余量+b×存儲資源剩余量+c×電池剩余量+d×通信能力+e×數(shù)據(jù)感知能力+f(移動模式)+L（微服務(wù)匹配度）+Y（隱私保護度。進而AgeofInformation指標(biāo)1~2（面向多終端協(xié)同的資源虛擬化技術(shù)端側(cè)算力網(wǎng)絡(luò)的一個重要特點就是需要多終端協(xié)同處理一個任[19]。變化時（比如從室內(nèi)走到室外，從車站到高速移動的車上，之前正而利用這些新的設(shè)備來執(zhí)行這些任務(wù)可以給用戶帶來當(dāng)前環(huán)境下更圖7 多終端協(xié)同為一種專門利用云的虛擬資源進行計算處理的終端對于云邊的虛擬擬資源和云邊的虛擬資源的互通搭建起了一座橋梁[20]。多終端協(xié)同的數(shù)據(jù)壓縮技術(shù)多粒度多層次端算力調(diào)度算力解構(gòu)微服務(wù)B微服務(wù)B微服務(wù)A微服務(wù)C業(yè)務(wù)圖8 算力解構(gòu)圖[21]ID芯片等。用戶提供最終價值[22]。[23]-[24]。求同級別算力的設(shè)備無法承載的時候則開始考慮更高算力級別的終AI推理全局模型全局模型局部參數(shù)更新從全局拉取相關(guān)參數(shù)……本地個性化網(wǎng)絡(luò)1本地個性化網(wǎng)絡(luò)2圖9 個性化AI推理AIoT終端設(shè)備上部AI推理模型[25][26][27]AI[28]模型部署在終端設(shè)備上，在端側(cè)算力網(wǎng)絡(luò)中進行聯(lián)合學(xué)習(xí)。端算力的定價機制[29]體系。[30]Stacklberg博弈過程[31][32]此外，還可制定其他的定價策略，如基于多智能體強化學(xué)習(xí)系統(tǒng)的模擬專業(yè)交易機制[33]等，都是可以進一步探索的技術(shù)和方法。四、端側(cè)算力網(wǎng)絡(luò)的隱私與安全認證與鑒權(quán)flash設(shè)備IDIDID（ID數(shù)據(jù)安全保護34（35（算服務(wù)。原始數(shù)據(jù)加密數(shù)據(jù)原始數(shù)據(jù)加密數(shù)據(jù)加密數(shù)據(jù)原始數(shù)據(jù)計算函數(shù)計算結(jié)果 圖10 安全計算流程示意圖隱私保護的限制使得許多含有隱私信息的數(shù)據(jù)無法被有效的利（可信交易[36]邊緣服務(wù)器區(qū)塊鏈智能合約賬戶資源交互消息控制邊緣服務(wù)器區(qū)塊鏈智能合約賬戶資源交互消息控制圖可信交易架構(gòu)圖[37]區(qū)塊鏈Block1Block2 Block3區(qū)塊鏈Block1Block2 Block38審計區(qū)塊8審計區(qū)塊智能合約45提供算力資源端側(cè)用戶

6支付算力資源服務(wù)費圖12 可信交易流程

端側(cè)用戶由于一部分算力提供者可能由于網(wǎng)絡(luò)波動以及自身任務(wù)占用抑體系[38]五、端側(cè)算力網(wǎng)絡(luò)的應(yīng)用場景智能家居業(yè)務(wù)分流業(yè)務(wù)分流個性化的模型訓(xùn)練圖13 智能家居智能家居中的端側(cè)算力網(wǎng)絡(luò)還可以實現(xiàn)業(yè)務(wù)的跨端遷移從而更內(nèi)主人調(diào)節(jié)溫度的行為訓(xùn)練更加個性化的模型來自適應(yīng)的調(diào)節(jié)溫度[39]。智能醫(yī)療圖14 智慧醫(yī)療[40][41]息系統(tǒng)以及最近的醫(yī)院急救系統(tǒng)，以最快的速度為老人提供急救措施。車聯(lián)網(wǎng)即將追尾即將追尾算力輔助危險告知圖15 車聯(lián)網(wǎng)6G[42]。車輛在行駛過程中可能由于無法獲取視距外的道路交通信息而[43]充足的智能車輛，實現(xiàn)終端智能共享算力資源。智慧教育數(shù)據(jù)傳送數(shù)據(jù)傳送結(jié)果返回圖16云終端在多媒體教育中的應(yīng)用PCUSBU盤帶等都由運營商來維護管理，可以保證性能穩(wěn)定，節(jié)省成本資源[44]。智慧農(nóng)業(yè)圖17智慧農(nóng)業(yè)3S六、結(jié)束語PAGEPAGE50縮略語縮略語英文全稱中文含義5G5thGenerationMobileNetworks第五代移動通信6G6thGenerationMobileNetworks第六代移動通信AIArtificialIntelligence人工智能AIoTArtificialInternetofThings智能物聯(lián)網(wǎng)APIApplicationProgrammingInterface應(yīng)用程序接口APPApplication應(yīng)用程序ARMAdvancedRISCMachineRISC微處理器CPUCentralProcessingUnit中央處理器DPUDataProcessingUnit數(shù)據(jù)處理器D2DDevicetoDevice設(shè)備到設(shè)備的通信FPGAFieldProgrammableGateArray現(xiàn)場可編程門陣列FLOPSfloating-pointoperationspersecond每秒執(zhí)行的浮點運算次數(shù)GCGarbledCircuit混淆電路GPUGraphicProcessingUnit圖形處理器HEHomomorphicEncryption同態(tài)加密IDCInternetDataCenter互聯(lián)網(wǎng)數(shù)據(jù)中心I/OInput/Output輸入輸出IoTInternetofThings物聯(lián)網(wǎng)MPCSecureMulti-partyComputation多方安全計算NPUNeural-NetworkProcessingUnit嵌入式神經(jīng)網(wǎng)絡(luò)處理器QoSQualityofService服務(wù)質(zhì)量RISCReducedIns