2024網(wǎng)絡(luò)大模型10大問題

網(wǎng)絡(luò)大模型10問題白皮書20241PAGEPAGE10目錄摘要 2背景 4網(wǎng)大模的定義 4十基礎(chǔ)題 5NetGPT場和需問題 6NetGPT的礎(chǔ)理問題 7NetGPT的致性要求題 9NetGPT間協(xié)同題 10NetGPT的生分式部問題 12NetGPT的絡(luò)架設(shè)計題 13NetGPT的全隱問題 14NetGPT的據(jù)服問題 16NetGPT的判體與方問題 16NetGPT的生命期管和編問題 18總與展望 20背景ITU-RWP5D第44次會議正式通過了《IMT面向2030及未來發(fā)展的框架和總體目標(biāo)建議書》,作為6G研究的一個重要的里程碑，代表了全球的6G愿景共識，其中AI與通信融合被作為6大關(guān)鍵場景之一，與6GANA提出的NetworkAI理念不謀而合。AIChatGpt，能夠準(zhǔn)確識別并理解用戶的意圖，為用戶提供問題，生成文本等，并在結(jié)合多模態(tài)技術(shù)后不斷向更多領(lǐng)域拓展。可以預(yù)計，大模型將會成為AI通信融合的關(guān)鍵組成部分。在提高網(wǎng)絡(luò)中AI的通用性和多任務(wù)處理能力等方面發(fā)揮重要然而我們需要意識到，大模型與AI在應(yīng)用上是有著很大不同的。在以往AI模型的使用上，是通過收集大量的數(shù)據(jù)然后從頭訓(xùn)練模型，因此需要關(guān)注是如何針對具體任務(wù)設(shè)計模型結(jié)構(gòu)、網(wǎng)絡(luò)如何收集需要的數(shù)據(jù)，網(wǎng)絡(luò)如何為AI模型的訓(xùn)練推理提供算力和算法支撐等。大模型在應(yīng)用上，是以預(yù)訓(xùn)練基礎(chǔ)模型為底座，通過各種策略，如prompt，fine-tune以及向量庫等方式來適配各類具體任務(wù)。另外，大模型意圖理解和涌現(xiàn)能力，也給大模型的應(yīng)用帶來了更多的可能性，例如可以實現(xiàn)基于意圖的編排，調(diào)用各種工具實現(xiàn)具體任務(wù)等。同時，大模型的巨大參數(shù)量和算力需求，也為其在網(wǎng)絡(luò)中的應(yīng)用帶來了新的挑戰(zhàn)。為此，我們需要重新梳理大模型和網(wǎng)絡(luò)結(jié)合這個領(lǐng)域中的關(guān)鍵問題，為后續(xù)的研究指明方向。網(wǎng)絡(luò)大模型的定義大模型將在運維、執(zhí)行、驗證等方面為移動網(wǎng)絡(luò)服務(wù)。通過整合通信知識，大模型可以幫助檢測故障和生成解決方案。隨著網(wǎng)絡(luò)服務(wù)的多樣性和復(fù)雜性，大模型可以用來編排和調(diào)度任務(wù)流程，還可以進行性能優(yōu)化、環(huán)境預(yù)測、資源分配等。通過出色的生成能力，大型模型有望在驗證階段發(fā)揮重要作用，如室外復(fù)雜環(huán)境的通道生成、高鐵場景模擬等。因此，我們將無線通信網(wǎng)絡(luò)中使用的大模型定義為網(wǎng)絡(luò)大模型（NetGPT）。由于無線通信網(wǎng)絡(luò)包含RAN/CN/OAM這些不同的技術(shù)域，他們在功能特性、數(shù)據(jù)結(jié)構(gòu)、以及性能需求上都有著明顯的區(qū)別。例如，應(yīng)用在運維領(lǐng)域的模型可能與NLP領(lǐng)域LLM類似，可以直接對LLM進行微調(diào)得到；而應(yīng)用于空口的模型與自然語言完全是另一套體系。因此，NetGPT并不是一個單一模型通配所有網(wǎng)絡(luò)場景，而是一系列模型的組合。需要注意的是，這種NetGPT建立了三層模型，即L0，L1和L2。其中，L0；L1代表網(wǎng)絡(luò)不同領(lǐng)域大模型，如RAN/CN/OAM；L21NetGPT在通用性、基礎(chǔ)性和規(guī)模上，都是傳統(tǒng)各網(wǎng)元各自訓(xùn)練出的特定場景模型所不能相比的。通用性上，NetGPT-L0要能在全網(wǎng)各領(lǐng)域通用，包含是電信領(lǐng)域的基礎(chǔ)知識，NetGPT-L1的通用性就差一些，局限在對應(yīng)的領(lǐng)域內(nèi)；基礎(chǔ)性指的是能夠通過few-shot甚至zero-shot就很好的適配到下游任務(wù)上，這一點NetGPT-L0/1都要具備，特別是L1，要能夠作為NetGPT-L2的基礎(chǔ)模型，通過各種策略來快速適配到新的場景中去，不再需要從頭開始訓(xùn)練L2。而在模型規(guī)模上，NetGPT-L0/1的參數(shù)量要滿足大模型的基準(zhǔn)門限，目前業(yè)界普遍的看法是，產(chǎn)生智能涌現(xiàn)的最少參數(shù)量在70億。NetGPT-L2的參數(shù)量可以小很多，方便其部署在網(wǎng)絡(luò)邊緣和端側(cè)。圖1NetGPT三層L0/1/2十大基礎(chǔ)問題盡管大模型，尤其是LLM，已經(jīng)在很多領(lǐng)域展現(xiàn)出了令人驚嘆的能力，網(wǎng)絡(luò)大模型仍然還有很多基礎(chǔ)問題需要去研究和解決。這些問題可以分為兩類，一類是大模型本身的設(shè)計類問題，另一類是網(wǎng)絡(luò)設(shè)計如何支撐大模型應(yīng)用類問題，如圖3-1所示。也就是說，我們讓NetGPT既要造的出，也要用得好。圖2網(wǎng)絡(luò)大模型NetGPT十大問題NETGPT網(wǎng)絡(luò)技術(shù)研究，以需求和場景始。研究NetGPT的需求和典型場景是網(wǎng)絡(luò)大模型制定發(fā)展策略、規(guī)劃和優(yōu)化的基礎(chǔ)，并對網(wǎng)絡(luò)長期規(guī)劃、技術(shù)升級和演進決策具有重要意義。只有具備高增益的典型場景、高價值的典型業(yè)務(wù)，才能為NetGPT后續(xù)的落地和部署提供必要保障，否則只能是停留在紙面的空中樓閣。因此，NetGPT的需求是否真實存在，需求程度如何，需要通過研究過程逐步去偽存真，為后續(xù)的網(wǎng)絡(luò)設(shè)計和NetGPT發(fā)展提供必要依據(jù)。另外，在NetGPT需求和場景研究中，需要結(jié)合對未來技術(shù)趨勢的分析，需求和場景研究可以一定程度適度超前當(dāng)前科技水平。單從ITCTGPT技術(shù)，從ITGPTAI大應(yīng)用；從CTGPT而就6G網(wǎng)絡(luò)發(fā)展而言，從“需求搜集”到“系統(tǒng)設(shè)計“，再到”規(guī)范標(biāo)準(zhǔn)“，“研發(fā)測試”，“規(guī)劃，建設(shè)，運維，管理，優(yōu)化，營銷”等全生命周期的各個環(huán)節(jié)，GPT類技術(shù)都可以在其中發(fā)揮重要作用，而從一開始最具價值的毫無疑問是GPT賦能網(wǎng)絡(luò)，即NetGPT。而無線網(wǎng)絡(luò)邊緣單設(shè)備/終端相對于云較為受限的計算能力，決定了NetGPT并不能像傳統(tǒng)AI那樣對網(wǎng)絡(luò)中的功能和算法進行簡單替換，而需要重新設(shè)計，包括適配無線網(wǎng)絡(luò)的NetGPT算法，以及原生支持NetLM（1）NetGPT在網(wǎng)絡(luò)中提質(zhì)、增效、降本和拓收的需求和場景。體現(xiàn)在提高網(wǎng)絡(luò)AI普適性、網(wǎng)絡(luò)性能提升、網(wǎng)絡(luò)智能化管控優(yōu)化等方面。面向沉浸式通信、超大規(guī)模連接、超高可靠低時延、泛在連接、智能內(nèi)生、通感融合等未來網(wǎng)絡(luò)應(yīng)用場景，相對目前的網(wǎng)絡(luò)管理與服務(wù)方式，使用NetGPTAIAIAI，在自動化網(wǎng)絡(luò)管理和故障排除、網(wǎng)絡(luò)（2）6G網(wǎng)絡(luò)架構(gòu)支撐NetGPT發(fā)展的需求和場景。6G網(wǎng)絡(luò)新的創(chuàng)新技術(shù)，天然具備支撐NetGPT獨具優(yōu)勢發(fā)展的土壤，如移動算力網(wǎng)絡(luò)、分布式網(wǎng)絡(luò)架構(gòu)等。但是6G網(wǎng)絡(luò)架構(gòu)、功能、接口設(shè)計，與NetGPT的發(fā)展速度時間窗口不一定完全匹配。6G網(wǎng)絡(luò)設(shè)計在原生支持NetGPT方面，通過云計算、邊緣計算移動算力網(wǎng)絡(luò)的計算資源，為NetGPT提供訓(xùn)練算力、分布式部署、分布式推理等場景是否具有需求與可行性。另外，在NetGPT算法設(shè)計中，是否匹配6G網(wǎng)絡(luò)泛在終端、異構(gòu)資源特點；以及NetGPT的出現(xiàn)，是否會對目前6G架構(gòu)，功能與協(xié)議6G網(wǎng)絡(luò)和NetGPT（3）NetGPT在6G網(wǎng)絡(luò)應(yīng)用中的邊界。無線網(wǎng)絡(luò)的層級越低，對服務(wù)質(zhì)量（QoS）（包括實時性和準(zhǔn)確性）的要求就越高。目前的大模型技術(shù)并不能滿足移動通信網(wǎng)絡(luò)對高確定性QoS保障的要求，未來NetGPT的發(fā)展是否會只能用于特定層級或特定功能。例如，NetGPT是否只適用于空中接口的高層，而不適用于物理層？這些邊界問題還涉及NetGPT在每個具體應(yīng)用中可能發(fā)揮的作用。例如，NetGPT能在多大程度上支持未來的OAM系統(tǒng)--完全或部分自治網(wǎng)絡(luò)。在研究NetGPT時，有必要澄清上述基本情況和邊界問題。NETGPT在未來無線網(wǎng)絡(luò)全面智能化時代，通信、計算、數(shù)據(jù)、AI的融合是不可避免的趨勢，而構(gòu)建NetGPT是實現(xiàn)這一目標(biāo)的關(guān)鍵。然而，要實現(xiàn)NetGPT的構(gòu)建，需要解決許多基礎(chǔ)理論問題。NetGPT與LLM的差異。作為最具代表性的基礎(chǔ)模型，大型語言模型LLM也被很多研究者作為網(wǎng)絡(luò)模型的底座，通過微調(diào)或者提示等方式來解決網(wǎng)絡(luò)任務(wù)。然而，通信領(lǐng)域與自然語言處理領(lǐng)域的根本差異導(dǎo)致了NetGPT與大型語言模型在理論上的顯著差異。這些差異主要體數(shù)據(jù)特性：NetGPT處理的數(shù)據(jù)集涉及通信信號，例如通道信息，這些以高維張量形式（tokens）后端任務(wù)：無線網(wǎng)絡(luò)處理的任務(wù)種類迥異，因此NetGPT的輸出形式可能多樣化，與大模型大?。篘etGPT定義了多層次的結(jié)構(gòu)，在不同層次上部署多種規(guī)模的模型。特別是在網(wǎng)絡(luò)邊緣部署的NetGPT模型，如基站中的NetGPT-L2，其參數(shù)規(guī)模可能僅為1502000另外，隨著模型規(guī)模的不斷增長，我們看到LLM的性能提升也逐漸出現(xiàn)邊際效益遞減的情況，是否還有其他更好更高效的架構(gòu)，或者說更適合移動網(wǎng)絡(luò)的架構(gòu)？例如transformer在一定程度上犧牲了捕捉局部特征的能力，特別是失去的位置信息對于時序數(shù)據(jù)非常重要，PositionEmbedding也只是一個權(quán)宜之計，在作用域?qū)τ跁r序要求更高的移動通信系統(tǒng)時是否能產(chǎn)生好的效果？transformer的Embedding對于結(jié)構(gòu)化數(shù)據(jù)的處理效果并不太好，尚未有效解決如何將非連續(xù)數(shù)據(jù)映射到向量空間的問題，這對于目前以結(jié)構(gòu)化數(shù)據(jù)為主的電信運營商來講也是一個亟需解決的基礎(chǔ)問題。因此，對于NetGPT是否能與大型語言模型使用同樣的模型架構(gòu)，或者NetGPT將激發(fā)新的理論和架構(gòu)研究，仍然有待進一步的探索。NetGPT的泛化能力如何滿足網(wǎng)絡(luò)任務(wù)的多樣性。大模型的一大優(yōu)勢就是可以利用非常少的下游數(shù)據(jù)來進行特定任務(wù)的適配，或者是few-shot甚至zero-shot的學(xué)習(xí)，都能達到不錯的效果。這就為各類下游任務(wù)節(jié)省了大量的數(shù)據(jù)收集、清洗和標(biāo)注的時間，大大節(jié)約了開發(fā)成本。另外一個就是基于大模型來適配新任務(wù)，可能并不需要調(diào)整大量的參數(shù)，只需要調(diào)整非常少的參數(shù)量就可以，有很多parameterefficient的微調(diào)方法都能得到不遜色于全量參數(shù)調(diào)整的性能。但是，網(wǎng)絡(luò)任務(wù)的多樣性可能遠遠超過自然語言領(lǐng)域。我們需要深入研究大模型泛化性的理論基礎(chǔ)，為什么可以使用少量數(shù)據(jù)和參數(shù)就可以學(xué)習(xí)到新的任務(wù)知識，然后才能去有針對性的優(yōu)化NetGPT在網(wǎng)絡(luò)任務(wù)上的泛化性能。雖然這方面已經(jīng)有一些非常重要的研究理論，包括過參數(shù)化等理論，但是其深層次的理論框架依然沒有建立，包括我們應(yīng)該建立起怎樣的數(shù)學(xué)或者分析模大模型參數(shù)規(guī)模問題也是構(gòu)建NetGPT的一個基礎(chǔ)問題。隨著模型參數(shù)規(guī)模的增加，模型的性能和泛化能力也會隨之提高，并且只需要更少的參數(shù)調(diào)整就能適配到新的下游任務(wù)。然而，大規(guī)模的模型參數(shù)也會帶來計算和存儲上的挑戰(zhàn)，以及在訓(xùn)練和使用時帶來更大的能耗。如當(dāng)我們想要去獲得一個大型系統(tǒng)如移動網(wǎng)絡(luò)領(lǐng)域?qū)Ｓ玫男袠I(yè)大模型時，我們必然要去弄清楚這些大模型上的理論問題。對于每個問題，都需要深入研究其具體的內(nèi)涵和挑戰(zhàn)，以推動NetGPT的研究和應(yīng)用。NETGPT通過使用深度學(xué)習(xí)、強化學(xué)習(xí)等先進的人工智能技術(shù)，大模型可以從大量移動網(wǎng)絡(luò)數(shù)據(jù)中提取有用信息，并實現(xiàn)智能化的決策和控制，廣泛應(yīng)用于移動網(wǎng)絡(luò)的信號處理、傳輸控制、無線資源分配、干擾管理等多個方面，為智能物聯(lián)網(wǎng)、智慧醫(yī)療、智能交通等領(lǐng)域提供有力支撐。為了實現(xiàn)這些應(yīng)用，模型必須實時高效，能夠快速處理輸入并進行決策；模型必須準(zhǔn)確可靠，盡量避免錯誤決策造成的網(wǎng)絡(luò)問題；模型必須穩(wěn)定可用，保障網(wǎng)絡(luò)運行和服務(wù)質(zhì)量不受模型故障影響；模型必須具有可擴展性，能夠適應(yīng)不同場景和不同用戶的需求。NetGPT0.5~1msNetGPTNetGPTAINetGPT過程中難免遇到硬件故障或軟件問題。大模型需要具備高可用性，在各種干擾或故障下保持較高的可用性，以避免由于推理中斷造成網(wǎng)絡(luò)通信的低效或故障。一方面，需要考慮如何從數(shù)據(jù)備份、模型模塊化、異常處理和分布式部署等方面提升大模型容錯率，保障大模型不會因單一故障癱瘓；另一方面，也需要大模型利用數(shù)據(jù)冗余、快速恢復(fù)機制等方式提供一定的容災(zāi)性，保證災(zāi)難發(fā)生后大模型能快速恢復(fù)，提供可用和穩(wěn)定的網(wǎng)絡(luò)服務(wù)。NetGPT的靈活性擴展性要求。當(dāng)前移動網(wǎng)絡(luò)用戶業(yè)務(wù)呈現(xiàn)出多樣化的特點。未來，傳感器網(wǎng)絡(luò)、智能物聯(lián)網(wǎng)等應(yīng)用促進網(wǎng)絡(luò)規(guī)模不斷擴大，新型業(yè)務(wù)也不斷涌現(xiàn)。大模型需要能夠適應(yīng)多種移動網(wǎng)絡(luò)環(huán)境和業(yè)務(wù)需求，并進行靈活配置和調(diào)整。大模型應(yīng)該具備在計算、存儲、通信等方面進行擴展的能力，以根據(jù)移動網(wǎng)絡(luò)的需求進行擴展，處理更多的用戶、更復(fù)雜的業(yè)務(wù)場景以及更高的數(shù)據(jù)流量等。同時，由于移動網(wǎng)絡(luò)設(shè)備和協(xié)議多種多樣，不同的設(shè)備和協(xié)議具有不同的特性和要求。大模型需要能夠針對不同的網(wǎng)絡(luò)協(xié)議、設(shè)備類型和網(wǎng)絡(luò)制式進行自適應(yīng)調(diào)整，以便為不同的設(shè)備和應(yīng)用場景提供一致的服務(wù)。目前，增強模型靈活性的技術(shù)包括模型壓縮、模NETGPTAI圖3NetGPT大小模型協(xié)同示例網(wǎng)絡(luò)大模型NetGPT間的協(xié)同關(guān)系主要是體量較大適合在云端部署的L0全網(wǎng)通用大模型、L1網(wǎng)絡(luò)專業(yè)大模型，與體量較小適合在邊緣部署的L2網(wǎng)絡(luò)小模型之間，在模型訓(xùn)練和推理方面的協(xié)同，說明如下：L0L1在模型訓(xùn)練上，L0全網(wǎng)通用大模型為L1網(wǎng)絡(luò)專業(yè)大模型提供預(yù)訓(xùn)練模型，可利用專業(yè)領(lǐng)域L1；L1L0在模型推理上，針對跨域任務(wù)，L0全網(wǎng)通用大模型可調(diào)度多個L1網(wǎng)絡(luò)專業(yè)大模型，并提供通用知識，進行跨域任務(wù)協(xié)同和知識協(xié)同。L1網(wǎng)絡(luò)專業(yè)大模型與L2在模型訓(xùn)練上，L1網(wǎng)絡(luò)專業(yè)大模型通過模型蒸餾、微調(diào)，生成L2網(wǎng)絡(luò)小模型；L2網(wǎng)絡(luò)小模型為L1網(wǎng)絡(luò)專業(yè)大模型提供反饋數(shù)據(jù)來進行模型優(yōu)化，即在模型訓(xùn)練上進行數(shù)據(jù)協(xié)同和參數(shù)協(xié)同。在模型推理上，針對單域任務(wù)，L1網(wǎng)絡(luò)專業(yè)大模型可調(diào)度多個L2網(wǎng)絡(luò)小模型，并提供單域?qū)I(yè)知識，進行跨域任務(wù)協(xié)同和知識協(xié)同。在上述場景中，某些關(guān)鍵算法有待進一步研究，例如根據(jù)L0全網(wǎng)通用大模型的相關(guān)性進行參數(shù)修剪參數(shù)，并進行有效的微調(diào)以適應(yīng)新的任務(wù)；如何實現(xiàn)大模型的知識與能力向小模型降維遷移的有效性、小模型的小樣本學(xué)習(xí)向大模型的升維融合、以及不同維度數(shù)據(jù)的清洗與治理等；并從數(shù)學(xué)上保證協(xié)同后的效果等價，一致性，并能實現(xiàn)大模型推理性能，結(jié)果等不發(fā)生偏移，除了算法挑戰(zhàn)外，支持NetGPT的跨供應(yīng)商協(xié)作，包括功能和程序在內(nèi)的協(xié)作內(nèi)容的標(biāo)準(zhǔn)化、協(xié)同集的生成方法與系統(tǒng)控制等，也是需要繼續(xù)深入研究問題。NETGPT隨著大模型越來越大，從幾百億到幾千億到現(xiàn)在GPT4的萬億參數(shù)，其對計算和存儲成本的消耗也越來越大。當(dāng)我們要將這樣的龐然大物部署到網(wǎng)絡(luò)內(nèi)時，需要考慮可能出現(xiàn)的分布式部署方式，例如部署在網(wǎng)絡(luò)邊緣提供即時服務(wù)，或者部署在基站和終端來增強空口特性等。那么如何將NetGPT成功地部署到分布式環(huán)境中，以實現(xiàn)模型性能的最大化和資源利用的最優(yōu)化，將面臨NetGPT的分布式拆分。在分布式網(wǎng)絡(luò)中，每個節(jié)點的計算資源和存儲能力都有所不同，需要根據(jù)節(jié)點的實際情況合理拆分模型，以獲取節(jié)點間的負(fù)載均衡，同時最大化資源利用效率。網(wǎng)絡(luò)的一大特點是動態(tài)性，終端的移動或者基站網(wǎng)元的忙閑時變化都可能導(dǎo)致模型的性能受NetGPT的分布式訓(xùn)練。大模型并不是一錘子買賣，其需要在不斷執(zhí)行中自我優(yōu)化演進，完善自身的能力建設(shè)，為此我們需要針對大模型研究有效的分布式學(xué)習(xí)算法。考慮到大模型本身的特點，已有的模型并行（如拆分學(xué)習(xí)）或者數(shù)據(jù)并行（如聯(lián)邦學(xué)習(xí)）方式可能存在一定的局限性，達不到理想的的學(xué)習(xí)效果。我們需要去深入探索更多的可能，例如混合并行等方向。另外特別需要注意的是模型訓(xùn)練的一致性問題，如何確保所有節(jié)點訓(xùn)練的同步性和一致性，從而保高效的節(jié)點間通信機制。不論是進行大模型的推理還是訓(xùn)練，分布式節(jié)點間的通信瓶頸都會成為制約模型性能的關(guān)鍵因素。與數(shù)據(jù)中心中可以部署高速的機器間高速通道不同，網(wǎng)絡(luò)節(jié)點間的傳輸帶寬更加受限。一方面我們當(dāng)然還是可以從算法上入手，進行模型壓縮，如剪枝和量化等；但是另一方面我們應(yīng)該在網(wǎng)絡(luò)內(nèi)設(shè)計一套更加高效的節(jié)點間通信機制，能夠讓網(wǎng)絡(luò)節(jié)點針對以上問題，需要深入研究相關(guān)的理論和技術(shù)，探索創(chuàng)新性的解決方案，結(jié)合網(wǎng)絡(luò)自身的拓?fù)浣Y(jié)構(gòu)，建立高效的分布式部署方案。例如，可以采用分布式一致性算法來保證模型訓(xùn)練的一致性；通過動態(tài)負(fù)載均衡策略來優(yōu)化資源的利用效率；利用高效的通信和同步技術(shù)來提高模型的訓(xùn)練效率；同時，需要研發(fā)安全的模型訓(xùn)練和使用策略，以保護用戶的數(shù)據(jù)安全和隱私權(quán)益。NETGPT大模型主要部署在網(wǎng)絡(luò)，云端的智算中心，利用集中的算力對數(shù)據(jù)進行預(yù)處理，AI模型訓(xùn)練和驗證等，會對網(wǎng)絡(luò)的傳輸帶寬帶、性能指標(biāo)等帶來壓力。而目前終端側(cè)的智能化則由于算力，算法AI機制，實現(xiàn)分布與集中處理的融合，提升了數(shù)據(jù)處理、決策推理和資源利用的效率。同時基于“大規(guī)模預(yù)訓(xùn)練﹢微調(diào)”的范式，使NetGPT做到相對標(biāo)準(zhǔn)化，成為網(wǎng)絡(luò)AI基礎(chǔ)設(shè)施與底座的能力，賦能網(wǎng)絡(luò)內(nèi)各個場景，降低網(wǎng)絡(luò)AINetGPT網(wǎng)絡(luò)服務(wù)的優(yōu)化：在網(wǎng)絡(luò)的運營層基于NetGPT解釋語義信息的能力，未來的無線網(wǎng)絡(luò)可以為每個單獨的應(yīng)用程序生成一個專有網(wǎng)絡(luò)，從業(yè)務(wù)等角度提供相應(yīng)的服務(wù)邏輯、網(wǎng)絡(luò)邏輯和網(wǎng)絡(luò)資源。例如利用大模型在自然語言上的強大能力可用于提升智能客服、智能化經(jīng)營、智能營銷等運營服務(wù)功能，大模型在自然語言上的成功，啟示了在語音、視覺等多模態(tài)數(shù)據(jù)上的擴展空間，賦能行業(yè)數(shù)字化，改進信息通信服務(wù)能力。利用現(xiàn)有大模型的研發(fā)內(nèi)容對大模型封裝，將各類任務(wù)上的推理能力封裝成統(tǒng)一的應(yīng)用程序接口，對外API模式提供服務(wù)。大模型賦能網(wǎng)絡(luò)運營可以獲得這些接口，可以利用現(xiàn)有各種大模型即服務(wù)的模式，作為網(wǎng)絡(luò)外部一種服務(wù)，像調(diào)用網(wǎng)絡(luò)的能力更新：由于網(wǎng)絡(luò)中不同的技術(shù)域場景在功能特性、數(shù)據(jù)結(jié)構(gòu)、以及性能需求上都有著明顯的區(qū)別，未來的網(wǎng)絡(luò)需要持基礎(chǔ)大模型，NetGPT,第三方大模型的原生部署支能力。此外由于參數(shù)數(shù)量巨大，大模型的知識更新帶來巨大的計算開銷，需要在考慮NetGPT的增量訓(xùn)練能力，在線學(xué)習(xí)演進的能力，實現(xiàn)在網(wǎng)絡(luò)領(lǐng)域內(nèi)對模型數(shù)據(jù)進行有效的變更，模型的“即時”更新。例如目前隨著大模型及其相關(guān)技術(shù)的出現(xiàn)和普及，可以在智能運維領(lǐng)域智能運維相關(guān)AIOps略知識庫，不能直接已有大模型，用來輔助人工，對實時性要求不嚴(yán)格，大模型可以作為一種網(wǎng)絡(luò)內(nèi)部功存在，通信網(wǎng)絡(luò)可以通過網(wǎng)絡(luò)內(nèi)部接口進行交互。網(wǎng)絡(luò)接口/協(xié)議變化：隨著NetGPT的不斷集成融入未來通信網(wǎng)絡(luò)，基于模型之間的協(xié)作接口（例如基于Token，Prompt）可能取代基于當(dāng)前網(wǎng)絡(luò)中的標(biāo)準(zhǔn)化經(jīng)典字符串接口協(xié)議。通信AI惠的基礎(chǔ)平臺，也是使能AI網(wǎng)元智能化演變：隨著通信網(wǎng)絡(luò)逐漸演進成熟，通過引入NetGPT將網(wǎng)絡(luò)的事后觸發(fā)優(yōu)化流慢，當(dāng)推理請求的次數(shù)和請求數(shù)據(jù)量過大時，API的響應(yīng)時間和返回數(shù)據(jù)質(zhì)量將難以保證，實際的反應(yīng)時較長，短時間內(nèi)要獲得大規(guī)模的應(yīng)用和及時響應(yīng)體驗比較困難。需要把大模型功能嵌入已有的應(yīng)用和服務(wù)中，與網(wǎng)絡(luò)架構(gòu)進行融合，保證實時性，因此NetGPT可能將進一步深度融入6GNETGPTAI是為基礎(chǔ)網(wǎng)絡(luò)設(shè)施服務(wù)的NetGPTNetGPT本身的可靠性面臨安全問題。大模型很容易出現(xiàn)被攻擊的情況，可能稍微改一改輸入就使得大模型不能正常工作。例如使用簡單的越獄攻擊（JailbreakingAttack）即可讓大模型解鎖倫理限制，進而產(chǎn)生大量誤導(dǎo)性內(nèi)容，給用戶和服務(wù)商造成危害。另外，大模型特別容易被攻擊者植入一些后門（backdoor），從而讓NetGPT專門在某些特定場景下將潛在的網(wǎng)絡(luò)漏洞傳輸給攻擊者，這是非常重要的安全性問題，特別是NetGPT面對是的通信基礎(chǔ)設(shè)施，一旦出現(xiàn)問題影響的是人們的基礎(chǔ)生活，甚至造成嚴(yán)重的社會問題。除此之外，此前的研究表明模型越變越大之后，會變得越來越有偏見，越來越不值得被信任，這些問題都需要我們對大模型進行有針對性的約束。NetGPT的可解釋性對網(wǎng)絡(luò)安全同樣至關(guān)重要?？山忉屝源碇Ｐ驮诿鎸ν粏栴}時能夠提供一貫且穩(wěn)定的答案。這一特性對我們更深入地理解模型行為、快速識別異常或潛在威脅、并采取必要的預(yù)防措施至關(guān)重要。然而，缺乏可解釋性可能會導(dǎo)致難以辨別異常行為、誤判漏報、難以進行審計和驗證。例如，異常流量模式或攻擊嘗試等情況。若模型不具備可解釋性，可能會錯失對某些潛在攻擊的發(fā)現(xiàn)，或?qū)⒑戏ɑ顒诱`報為異常。另外，基礎(chǔ)模型的可解釋性對下NetGPT等模型時，確保模型具備良好的可解釋性至關(guān)重要。這不僅有助于提高模型的可信度，還能幫助分析人員深入了解模型行為，并及NetGPT的隱私問題包含訓(xùn)練數(shù)據(jù)泄露和用戶輸入數(shù)據(jù)泄露兩個方面。一方面，NetGPT會使用大量的網(wǎng)絡(luò)數(shù)據(jù)和網(wǎng)絡(luò)基礎(chǔ)服務(wù)設(shè)施數(shù)據(jù)等，這些數(shù)據(jù)中可能包含潛在的隱私或者網(wǎng)絡(luò)漏洞，攻擊者通過鏈?zhǔn)教釂枺–hain-of-Thoughtprompting）即可能獲取訓(xùn)練數(shù)據(jù)中的敏感信息，這可能給網(wǎng)絡(luò)以及數(shù)據(jù)提供方帶來難以估量的威脅。另一方面，用戶在使用NetGPT的過程中，會暴露自身的隱私和敏感數(shù)據(jù)。因為用戶必須上傳自己的數(shù)據(jù)或者提示詞(Prompt)給大（Inference）務(wù)商和網(wǎng)絡(luò)攻擊者的多種威脅。例如OpenAIChatGPT息、對話相關(guān)的所有內(nèi)容、互動中網(wǎng)頁內(nèi)的各種隱私信息（Cookies、日志、設(shè)備信息等），這些信息可能會被共享給供應(yīng)商、服務(wù)提供商以及附屬公司。目前全球范圍內(nèi)發(fā)生了多起因使用ChatGPT20233此后AppleChatGPT。美國政府與OpanAI簽訂條款禁止其在服務(wù)期間收集政府?dāng)?shù)據(jù)，此外多國監(jiān)管機構(gòu)亦先后宣布將關(guān)注大模型帶來的數(shù)據(jù)安全風(fēng)險。即便服務(wù)商不會收集用戶數(shù)據(jù)，惡意攻擊者也會通過諸如數(shù)據(jù)偷取攻擊（Prompt-stealingattack）等手段非法竊取用戶數(shù)據(jù)。當(dāng)前大模型還缺少執(zhí)行標(biāo)準(zhǔn)以及安全約束，當(dāng)我們談到NetGPT時，尤其是面對未來NETGPT大模型的訓(xùn)練需要使用到大量的數(shù)據(jù)，并且是高質(zhì)量的數(shù)據(jù)。ChatGPT和Llama的訓(xùn)練語料都達到了T級別。相比于自然語言，網(wǎng)絡(luò)大模型需要的網(wǎng)絡(luò)數(shù)據(jù)難獲取的多，除了因特性網(wǎng)上的基礎(chǔ)語料外，很多數(shù)據(jù)需要從網(wǎng)絡(luò)系統(tǒng)中獲取，其面臨的挑戰(zhàn)也就大得多。為此，我們需要從網(wǎng)絡(luò)設(shè)計上原生的為網(wǎng)絡(luò)大模型提供數(shù)據(jù)支持NetGPT的是RAN側(cè)的調(diào)度數(shù)據(jù)或者資源管理數(shù)據(jù)，有的是更高層的統(tǒng)計數(shù)據(jù)。這些數(shù)據(jù)的特征維度差異非常大，甚至有的是結(jié)構(gòu)化數(shù)據(jù)，有的是非結(jié)構(gòu)化數(shù)據(jù)。有的數(shù)據(jù)自于不同的源，但是表征相似的內(nèi)容，比如對于某個用戶的業(yè)務(wù)量，可以來自于端側(cè)的業(yè)務(wù)統(tǒng)計，網(wǎng)絡(luò)在調(diào)度時授權(quán)的空口流量，或者是管理面上利用話統(tǒng)得到的統(tǒng)計流量等，因此網(wǎng)絡(luò)需要保證所有數(shù)據(jù)的一致性和正確性。大規(guī)模數(shù)據(jù)的分布式部署和實時供給。網(wǎng)絡(luò)中的核心網(wǎng)設(shè)備、基站以及終端設(shè)備上都會存儲各自的數(shù)據(jù)，網(wǎng)絡(luò)需要為這些碎片化的數(shù)據(jù)建立一套統(tǒng)一的管理體系，在進行NetGPT訓(xùn)練和推理是能夠快速便捷的獲取到相應(yīng)的數(shù)據(jù)。特別是在一些對實時性能要求高的場景下，如MAC的資源調(diào)度，空口的波束賦形等，對于模型的更新效率和推理時延都有著QoS要求，數(shù)據(jù)供給作為關(guān)鍵一環(huán)將直接影響到最后的性能表現(xiàn)。另外，NetGPT是會出現(xiàn)大量并發(fā)運行的，這網(wǎng)絡(luò)知識圖譜的構(gòu)建。為了提供更加可靠的服務(wù)，一種有效的方案是讓NetGPT與知NETGPT由于網(wǎng)絡(luò)領(lǐng)域?qū)Υ_定性，可靠性，正確性高度要求，如何對NetGPT進行全面、客觀的評判成為了一個亟待解決的問題，對NetGPT的發(fā)展至關(guān)重要。一方面通過對NetGPT性能的評測，可以為NetGPT優(yōu)化和改進提供有力依據(jù)，提高其應(yīng)用效果和商業(yè)價值。另一方面NetGPT評測可以作為基準(zhǔn)，了解不同廠商提供的NetGPT的性能和適用性，促進網(wǎng)絡(luò)與大模型技術(shù)的發(fā)展和應(yīng)用。此外，NetGPT評測還可以促進不同領(lǐng)域研究者的技術(shù)交流和合作，共同推動網(wǎng)絡(luò)人工智能技術(shù)的發(fā)展。為了保證評測技術(shù)方案的整體實用性、均衡性和系統(tǒng)性，可以包含指標(biāo)，方法，手段幾個方面的評判維度：網(wǎng)絡(luò)場景領(lǐng)域特征評判。現(xiàn)有評判方法如準(zhǔn)確率Accuracy（反映模型正確預(yù)測樣本的比例），F(xiàn)1Score（綜合考察精確率（Precision）和召回率（Recall），兼顧模型在正類樣本上的預(yù)測準(zhǔn)確性和覆蓋率，EM（ExactMatch，模型生成的答案與參考答案是否完全相同），BLEU（BilingualEvaluationUnderstudy，用于衡量語言模型生成文本與參考文本之間的相似度的預(yù)測準(zhǔn)確性和覆蓋率）等是評估大模型性能的重要指標(biāo)。NetGPT除了以上問題，需要針對網(wǎng)絡(luò)領(lǐng)域特征制定一套更為全面的評測體系，更具有針對性較強的評估指標(biāo)，如功能正確性、任務(wù)成功率、問題的推理鏈長度和多輪推理等。這些特定指標(biāo)結(jié)合起來有助于對模型在特定網(wǎng)絡(luò)NetGPT的能力。而對于網(wǎng)絡(luò)專業(yè)領(lǐng)域任務(wù)，需要關(guān)注模型對領(lǐng)域特定術(shù)語、概念和NetGPT場景泛化性評判：雖然某些語言大模型在很多任務(wù)上已經(jīng)達到或超過了人類的水平，但是通信區(qū)別與語言領(lǐng)域有所區(qū)別，相對比較封閉，能公開獲取的標(biāo)注數(shù)據(jù)更少，如在NetGPT安全性評判：網(wǎng)絡(luò)攻擊者可能會利用特定數(shù)據(jù)來攻擊NetGPT，或者破壞模型的性能。對抗性攻擊是一種常見的攻擊類型，通過向網(wǎng)絡(luò)模型輸入有意制造的數(shù)據(jù)或惡意樣本來欺騙模型或破壞模型的性能。面對以上問題，需要考慮如何防范各種攻擊模型，并設(shè)計相應(yīng)任務(wù)來評估NetGPT為了評判方法的合理性，需要設(shè)計覆蓋全周期、全要素的工程化，包括訓(xùn)練推理，要素權(quán)重、綜合目標(biāo)等評判方法。在具體的評價方法上，NetGPT可以采用以下兩種方式：客觀評測：是大模型評測中常用的方法之一，適用于對NetGPT性能進行定量評估，具有客觀性、可重復(fù)性和高效性等優(yōu)點?？梢灾苯油ㄟ^程序?qū)崿F(xiàn)自動化評測，從而提高評測的效主觀評價：相比之下，更依賴于網(wǎng)絡(luò)領(lǐng)域的專家的經(jīng)驗和判斷，對NetGPT的表現(xiàn)進行主觀評估和比較。通常包括內(nèi)容有效性、邏輯性和規(guī)范性等，以確定NetGPT優(yōu)缺點和改進方向，可以提供更加全面和深入的評估結(jié)果，彌補客觀評測的局限性，但需要大量的時間和人工資源。此外，還需要提出適用不同階段、精準(zhǔn)和效率兼顧的評判手段，如高精度網(wǎng)絡(luò)仿真平臺、數(shù)字孿生網(wǎng)絡(luò)、網(wǎng)管統(tǒng)計等。NETGPTNetGPT的訓(xùn)練所需數(shù)據(jù)規(guī)模更大、模型復(fù)雜度更高、算力開銷更多，這對各場景下NetGPT的生命周期管控與編排提出了更高要求。首先，NetGPT的全生命周期管理將面臨模型的拆分與聚合、模型的更新與維護，以及NetGPT大模型的分布式管理。一方面，大模型訓(xùn)練所需數(shù)據(jù)呈現(xiàn)高維度，大規(guī)模，多數(shù)據(jù)源的特點；另一方面，大模型的訓(xùn)練對算力的需求巨大。因此，在部分場景下需要將NetGPT進行拆分以進行分布式的部署與訓(xùn)練。根據(jù)大模型的功能、神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)、數(shù)據(jù)分布與特征，需要對NetGPT拆分為多個子模型或?qū)⒆幽Ｐ瓦M行聚合的過程進行統(tǒng)一的管理。在這個過程中，可能涉NetGPT知識產(chǎn)權(quán)保護。網(wǎng)絡(luò)中部署的大模型可能來自于不同的廠商，部分NetGPT