中國聯(lián)通：2024中國聯(lián)通元景大模型AI終端合作白皮書V1.0

目錄前言 4大模型與AI終端發(fā)展趨勢 5大模型產(chǎn)業(yè)發(fā)展趨勢 5技術(shù)演進趨勢 5市場發(fā)展趨勢 7AI終端的發(fā)展機遇、問題與挑戰(zhàn) 8大模型重新定義智能終端 9AI終端面臨的問題與挑戰(zhàn) 10端云協(xié)同的架構(gòu)與關(guān)鍵技術(shù) 12端云協(xié)同的架構(gòu) 12端云協(xié)同的關(guān)鍵技術(shù) 12元景大模型架構(gòu)及能力體系 15基礎(chǔ)大模型 15MaaS服務(wù)平臺 16大模型內(nèi)生安全 17AI終端產(chǎn)品及應(yīng)用場景 18通用型智能終端+AI 19AI手機典型應(yīng)用場景 19智能手表典型應(yīng)用場景 20AI攝像頭典型應(yīng)用場景 20AI組網(wǎng)終端典型應(yīng)用場景 21AI需要專用定制終端 22中國聯(lián)通AI終端合作倡議 23結(jié)束語 25前言2023（AI）ChatGPT為代表的大型語言模型，AI技術(shù)得以高效部署于各類消費級及行業(yè)級終端設(shè)備中，推動了智能終端的全面升級與生態(tài)創(chuàng)新。研的大模型產(chǎn)品--元景大模型，并以元景大模型為基礎(chǔ)，推出了元景MaaS(ModelasaService模型即服務(wù))“開放訓(xùn)練算力”、“開放通用大模型”、“MaaS服務(wù)”、“開放行業(yè)專家團隊”服務(wù)千行百業(yè)。AI終端的發(fā)展趨勢以及AIAI終的元景大模型AIAI技術(shù)在智能AI終端發(fā)展趨勢大模型產(chǎn)業(yè)發(fā)展趨勢AI技術(shù)的推動下，大模型產(chǎn)業(yè)不僅成為智能數(shù)字化優(yōu)先時代的催化劑，還深刻重塑了過開放包容的態(tài)度吸引多方合作，共同構(gòu)建繁榮的AIAI大模型為核心支柱，串IDC2027AI市場規(guī)模將達到1,454億美元，中國市場也將實現(xiàn)顯著增長，年復(fù)合增長率55.1%，顯示出大模型產(chǎn)業(yè)蓬勃發(fā)展的強勁勢頭。技術(shù)演進趨勢大模型技術(shù)正呈現(xiàn)出以下幾個重要的發(fā)展趨勢：云計算與人工智能深度融合：“超級工廠”模型架構(gòu)與算法持續(xù)優(yōu)化：大模型技術(shù)不斷在模型架強調(diào)生態(tài)構(gòu)建與協(xié)同發(fā)展：強調(diào)安全與隱私保護：隨著大模型技術(shù)在各領(lǐng)域的廣市場發(fā)展趨勢標準化、模塊化大模型產(chǎn)品。這些產(chǎn)品通過提供API接口、SDKAI大模型大模型被廣泛應(yīng)用于風險評估和信貸審大模型的應(yīng)用涉及疾病的早期預(yù)警、輔助顯著提高了診斷的準確性和及時性。分析，模型能夠預(yù)測設(shè)備故障、優(yōu)化生產(chǎn)計劃、提高生產(chǎn)效率。AI終端的發(fā)展機遇、問題與挑戰(zhàn)AI大的處理能力和學(xué)習能力為智能終端帶來了全新的智能化體驗。這些模型通過學(xué)習大量數(shù)據(jù)，能夠在自然語言處理、AI大模型的賦能下，智能終端不再僅僅是執(zhí)AI終端主要呈現(xiàn)以下特點：AI大模型需要強大的計算能力來支撐其升級和優(yōu)化，以提供更高的計算性能和更低的功耗表現(xiàn)。大模型重新定義智能終端隨著云、網(wǎng)、邊、端配套技術(shù)的持續(xù)進步與深度融合，AI領(lǐng)域正邁入一個前所未有的黃金發(fā)展時期，展現(xiàn)出蓬勃的生命力和無限的創(chuàng)新潛力，并開辟了多元化的應(yīng)用終端應(yīng)用的發(fā)展趨勢可以清晰地劃分為兩大主要方向：一方面，傳統(tǒng)通用終端如手機、PC以及智能家居設(shè)備AIAI終AI模型與應(yīng)用，不另一方面，隨著AI技術(shù)的不斷創(chuàng)新與突破，專為特定場景設(shè)計的智能AI終端也應(yīng)運而生。這些終端緊密圍繞用戶的具體需求與場景特點，深度融合AI技術(shù)，實現(xiàn)了在特定領(lǐng)域內(nèi)的深度定制與極致體驗。例如，在醫(yī)療領(lǐng)域，AI興趣，定制學(xué)習路徑與互動體驗；而實時翻譯眼鏡等AI新AI終端面臨的問題與挑戰(zhàn)AI終端領(lǐng)域在快速發(fā)展的同時，也面臨著多方面方面尤為突出。在芯片算力方面AI的發(fā)展受到芯片能力的顯著AI算法的復(fù)雜性和數(shù)據(jù)處理需求。這AI模型變得尤為困難。此外，端側(cè)模型還需適配不同芯片的推理框架，這進一步增加了部署的復(fù)雜性和成本。因此，芯片能力的提升成為端側(cè)AI發(fā)AI的廣泛應(yīng)用，需要不AI芯片，并優(yōu)化芯片與模型的適配性，以提高整體系統(tǒng)的運行效率和穩(wěn)定性。在性能與功耗的平衡上，端側(cè)AI同樣面臨著嚴峻挑戰(zhàn)。AI研究的重要課題。目在安全隱私方面AI同樣面臨諸多挑戰(zhàn)。由于端側(cè)設(shè)備通常直接與用戶交互，因此保護用戶數(shù)據(jù)的安全和隱AI需要采取一系列安全措施。例如，在數(shù)據(jù)收集階段采用脫敏技術(shù)處理個人敏感信息；在數(shù)據(jù)傳輸過程中采用加AI端云協(xié)同的架構(gòu)與關(guān)鍵技術(shù)端云協(xié)同的架構(gòu)端云協(xié)同架構(gòu)主要由云端的大模型與端側(cè)設(shè)備的本地計算結(jié)合而成，通過優(yōu)化資源配置，從而實現(xiàn)計算任務(wù)的高端云協(xié)同的關(guān)鍵技術(shù)在端云協(xié)同的架構(gòu)中應(yīng)用的關(guān)鍵技術(shù)主要有大模型微調(diào)關(guān)鍵技術(shù)、端側(cè)模型部署關(guān)鍵技術(shù)以及軟件加速關(guān)鍵技術(shù)。大模型微調(diào)關(guān)鍵技術(shù)參數(shù)增量微調(diào)方法以LoRA的成本顯著下降，還能獲得和全模型參數(shù)參與微調(diào)未見過的任務(wù)也能夠展現(xiàn)出較好的泛化能力。提示詞工程（Prompt是一種專門針對大模型進行優(yōu)化的來引導(dǎo)這些端側(cè)部署關(guān)鍵技術(shù)AI應(yīng)用落地有深遠的意義。剪枝是通過刪除模型中的冗余參數(shù)和結(jié)構(gòu)來降低參數(shù)量，從而達到壓縮模型軟件加速關(guān)鍵技術(shù)例如批量調(diào)度技術(shù)（Batching調(diào)度）是在高性能計算和減少延遲。CPUGPU等計算資源、大數(shù)據(jù)包進行傳輸?shù)姆绞娇梢蕴岣呔W(wǎng)絡(luò)傳輸?shù)男屎屯掏铝繌亩鴥?yōu)化網(wǎng)絡(luò)傳輸。除此之外，在端側(cè)部署中改善模型基礎(chǔ)架構(gòu)也是可以嘗試的方法，例如采用線性的自注意力機制來替代transformer的自注意力機制，降低算法的時間復(fù)雜度，具有明顯的效率優(yōu)勢。元景大模型架構(gòu)及能力體系中國聯(lián)通積極響應(yīng)國家“人工智能+”景“1+1+M”大模型體系，即一個基礎(chǔ)模型平臺、一個MaaS（ModelasaService）服務(wù)平臺，以及多個面向特定行業(yè)的圖3-1元景大模型體系基礎(chǔ)大模型1B180B多參數(shù)版本。多模態(tài)大模型具備聲、圖、文、44基礎(chǔ)大模型已通過中央網(wǎng)信辦生成式人工智能服務(wù)和算法雙備案，并在工信部中國軟件評測中心大模型產(chǎn)品安全測試獲得最高等級A級。圖3.2元景基礎(chǔ)大模型能力MaaS服務(wù)平臺MaaS平臺通過模型庫提供多種能力、工具集降低AI落戶行業(yè)200MaaS平臺已整合100多款工具，能夠覆蓋“選模型-改模型-用模型”03信研究院RAG和智能體最高評級。原生應(yīng)用商店方面，元景MaaS平臺在原生應(yīng)用商店中提供了一系列產(chǎn)品輔助設(shè)計、操作工序監(jiān)測、安全生產(chǎn)合規(guī)、智能客服、編程助手等原生應(yīng)用，能夠一站式滿足政企用戶的各類AI二次開發(fā)和應(yīng)用需求，助力用戶在MaaS平臺上構(gòu)建更完整的AI應(yīng)用體系。圖3-3元景MaaS平臺服務(wù)能力大模型內(nèi)生安全AIAI基礎(chǔ)設(shè)施Al監(jiān)督與管理帶來了巨大的挑戰(zhàn)。數(shù)字技術(shù)有限公司共同發(fā)布了《人工智能內(nèi)生安全白皮書（2024）》。元景大模型從全面的安全風險維度出發(fā)設(shè)計安全評測31類安全風險，并打造了端到端模型服務(wù)安全工具鏈。圖3-4元景大模型內(nèi)生安全體系A(chǔ)I終端產(chǎn)品及應(yīng)用場景AIOPPOvivoAI技術(shù)的智能手機、手表，智能家庭組網(wǎng)終端、AI個人電腦、AIPIN、AI機器人等創(chuàng)新形態(tài)AI終端產(chǎn)品，它們以更加靈活多變的形式，進一步拓寬了AI技術(shù)在日常生活中的應(yīng)用邊界。本章將根據(jù)產(chǎn)品形態(tài)進一步分析AI終端產(chǎn)品的未來發(fā)展趨勢，為聯(lián)通元景大模型與終端產(chǎn)業(yè)合作提供指導(dǎo)。通用型智能終端+AIAI手機典型應(yīng)用場景智能語音助手：通過深度學(xué)習和自然語言處理技術(shù)，AIAI手機能夠?qū)崐蕵敷w驗：根據(jù)用戶的喜好推薦電影、電視劇、綜藝AI智能手表典型應(yīng)用場景智能健康監(jiān)測：能夠?qū)崟r監(jiān)測心率變化，為用戶的健智能教育娛樂：AI手表內(nèi)置教育相關(guān)的應(yīng)用或功能，AI數(shù)字人輔導(dǎo)、英文單詞記憶等，幫助孩子提高學(xué)習能滿足用戶的休閑娛樂需求。AI攝像頭典型應(yīng)用場景攝像頭可以監(jiān)控家庭環(huán)境并識別用戶的攝像頭與大模型的結(jié)合能夠大幅提升客AI攝像頭可以實時分析顧客的攝像頭可以用于監(jiān)控和識別潛在的安全AI組網(wǎng)終端典型應(yīng)用場景集成式智能中樞：作為“全時在線連接”的家庭智能網(wǎng)絡(luò)的“大腦”，通過識別語音指令、接收傳感器信號并根據(jù)家AIAI網(wǎng)絡(luò)行為分析，組網(wǎng)終端可學(xué)習家庭成員的網(wǎng)絡(luò)使用習慣，識別異常行為并采網(wǎng)絡(luò)優(yōu)化管理：通過智能分析家庭網(wǎng)絡(luò)使用模式，使AI精確預(yù)測每個家庭及家庭成員的帶寬需求高峰時段，動態(tài)調(diào)整服務(wù)質(zhì)量（QoS）和體驗質(zhì)量（QoE），確保每位用戶進行視頻會議、在線游戲還是高清視頻流媒體播放時，都能享受到專屬且不受干擾的帶寬，實現(xiàn)真正的個性化網(wǎng)絡(luò)體驗。家庭云儲功能：通過家庭云存儲系統(tǒng)，實現(xiàn)多設(shè)備之AIAI識別、AI翻譯、AI生成等。AI需要專用定制終端此類終端主要是由AI需要專用定制終端，其中具有代表性的AI創(chuàng)新終端有：AIPIN、RabbitR1、Ray-BanMeta。AIAIAIPINR1類似手機造型，115g2.88英寸觸360度旋轉(zhuǎn)的攝像Ray-BanMetaMeta公司推出的不帶屏幕的智能AR眼鏡，不僅可以識文、識物，還可7x24小時佩戴，通過“HeyMeta”進行語音助手的喚醒。AI終端合作倡議MaaS平臺與AIAI研發(fā)最新成果，攜手推動終端產(chǎn)品AIAI大模型協(xié)同架構(gòu)，AIAI終端技術(shù)驅(qū)動的新變革、新產(chǎn)品與前所未有的智能體驗。Design應(yīng)用開發(fā)商以及終端產(chǎn)業(yè)的初創(chuàng)公司提供差異化的AI及配