智算產(chǎn)業(yè)發(fā)展研究報(bào)告2024

智算產(chǎn)業(yè)發(fā)展研究報(bào)告中國電信研究院（天翼智庫）中國電信研究院（天翼智庫）2智算產(chǎn)業(yè)發(fā)展研究報(bào)告3一、全球智算產(chǎn)業(yè)新動(dòng)向 41、智能算力將成為AI發(fā)展的關(guān)鍵支撐與引擎 42、AI投資熱潮推動(dòng)智算產(chǎn)業(yè)進(jìn)入快速增長期 53、智算產(chǎn)業(yè)開啟“速度”與“質(zhì)量”并行 84、智算產(chǎn)業(yè)發(fā)展的幾點(diǎn)認(rèn)識(shí) 10二、智算產(chǎn)業(yè)圖譜 1、智算基礎(chǔ)設(shè)施：全球建設(shè)如火如荼，國產(chǎn)化進(jìn)程加速 132、大模型平臺(tái)服務(wù)：國內(nèi)外云廠商模式創(chuàng)新，差異化布局 143、行業(yè)應(yīng)用：全球進(jìn)入應(yīng)用元年，智算能力全面升級(jí) 4、智算集成服務(wù)：ToB市場火熱，智算集成釋放巨大潛力 三、智算發(fā)展七大趨勢預(yù)判 趨勢一：軟硬協(xié)同優(yōu)化助力大模型降本增效 趨勢二：高質(zhì)量數(shù)據(jù)集是大模型能力躍遷的關(guān)鍵 趨勢三：超大規(guī)模智算集群成為人工智能發(fā)展基石 趨勢四：算力服務(wù)由資源租賃向平臺(tái)化、一體化供給演進(jìn) 趨勢五：AIAgent（智能體）將成為智能交互的新流量入口 29趨勢六：AI技術(shù)設(shè)備加速AIDC基礎(chǔ)設(shè)施升級(jí) 31趨勢七：算力與電力協(xié)同發(fā)展成為新態(tài)勢 32四、智算技術(shù)發(fā)展的六大關(guān)鍵詞 33關(guān)鍵詞1：MoE 33關(guān)鍵詞2：具身智能 35關(guān)鍵詞3：分布式智算中心網(wǎng)絡(luò) 36關(guān)鍵詞4：存算一體 37關(guān)鍵詞5：空心光纖 39關(guān)鍵詞6：算電聯(lián)合調(diào)度 40關(guān)鍵技術(shù)成熟度評(píng)估 42五、智算發(fā)展?jié)摿υu(píng)估 441、評(píng)估方法 442、評(píng)估結(jié)果 46六、典型案例 1、中國電信上海萬卡集群 2、中國電信京津冀智算中心跨智算中心無損網(wǎng)絡(luò)解決方案 513、中國電信湖北中部綠色智算中心 544、海蘭云海底數(shù)據(jù)中心 57七、總結(jié)與展望 59八、附錄-智算評(píng)估實(shí)施方案 1、評(píng)估指標(biāo)模型構(gòu)建 602、評(píng)估指標(biāo)賦值 613、評(píng)估指標(biāo)權(quán)重設(shè)計(jì) 614、各省評(píng)估得分 63九、參考文獻(xiàn) 4（一）AI推動(dòng)算力需求超線性發(fā)展，智能算力需求井噴。根據(jù)EPOCHAI數(shù)據(jù)，全球人工智能經(jīng)歷從傳統(tǒng)模型進(jìn)入深度學(xué)習(xí)階段，模型所需算力規(guī)模年增長1.5倍突破至4.1倍/年，算力規(guī)模實(shí)現(xiàn)7大參數(shù)模型、高質(zhì)量數(shù)據(jù)集和大算力（智算）成為AI大模型發(fā)展的關(guān)鍵要素，Scaling法則帶動(dòng)大模型不斷突破新的瓶頸。需算力至少為萬卡級(jí)規(guī)模以上（參考A100），持續(xù)訓(xùn)練周期為周級(jí)5智能化應(yīng)用，相當(dāng)于過去40年間的應(yīng)用數(shù)總和[2]，在巨大的應(yīng)用藍(lán)海市場面前，算力缺口顯著。Sora、GPT-4o、Gemini等多模態(tài)大模階段的算力需求是大語言模型170+倍；推理階段，即完成一項(xiàng)常規(guī)（二）智算正在成為我國算力主賽道。2023年我國算力總規(guī)模達(dá)到230EFLOPS，近五年年均增速發(fā)布《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動(dòng)計(jì)劃》，明確了到2025年算力規(guī)模超過300EFlops，智能算力占比達(dá)到35%。多省跟進(jìn)總體目標(biāo)，上海、廣東等省提出到2025年智能算力在總算力中占比達(dá)到50%及2024年7月國務(wù)院“推動(dòng)高質(zhì)量發(fā)展”新聞發(fā)布會(huì)上，國資委AI賦能產(chǎn)業(yè)煥新工作計(jì)劃“有序推進(jìn)智算中心和算力調(diào)度做強(qiáng)智能算力供給”。多國政府將AI基礎(chǔ)設(shè)施上升至國家戰(zhàn)略，持續(xù)加大投資及政策6對(duì)AI基礎(chǔ)技術(shù)、算力基礎(chǔ)設(shè)施等出臺(tái)一攬子投資舉措。美國瞄準(zhǔn)細(xì)分領(lǐng)域，2024財(cái)年AI投資預(yù)算增長至31億美元，創(chuàng)歷史新高；對(duì)年增強(qiáng)，并于2024年9月美國政府宣布成立AI基礎(chǔ)設(shè)施的全球領(lǐng)先優(yōu)勢。加拿大政府2024年4月宣布24億加元AI投資舉措，通過AI開發(fā)和使用來提高生產(chǎn)力。其中20億加元為AI研究人員、初創(chuàng)企業(yè)和規(guī)?；髽I(yè)提供算力和技術(shù)基礎(chǔ)設(shè)施。于購買新的AI專用計(jì)算資源或升級(jí)現(xiàn)有基礎(chǔ)設(shè)施。沙特致力于成為全球人工智能中心。2024年3月沙特阿拉伯稱將啟動(dòng)成立一只高達(dá)業(yè)、芯片制造商和數(shù)據(jù)中心擴(kuò)張。沙特阿美旗下風(fēng)投公司W(wǎng)a'edVentures（實(shí)際上是沙特的投資工具）近期圍繞AI芯片、AI平臺(tái)持續(xù)投資，加快沙特在全球AI競賽中布局?！皣掖蠡稹?、“算力券”“模型券”等方式支持AI產(chǎn)業(yè)發(fā)展。體產(chǎn)業(yè)的持續(xù)發(fā)展、促進(jìn)半導(dǎo)體以及芯片技術(shù)的創(chuàng)新。2024年2月7化算力體系”。資本市場加大AI投資力度，基礎(chǔ)設(shè)施及模型成為資本關(guān)注重點(diǎn)累計(jì)發(fā)生投資事件170次，融資次數(shù)快速增長了178.7%。到目前為七家科技巨頭1（下圖所示M7）已將AI作為競爭焦點(diǎn)，尤其是AI硬件層和AI模型層的競爭正在升溫[3]。摩根士丹利認(rèn)為，算力周期的8頭部科技公司持續(xù)加強(qiáng)全球化AI基礎(chǔ)設(shè)施布局。OpenAI正計(jì)劃尼、法國等國家地區(qū)建設(shè)人工智能中心、擴(kuò)大AI基礎(chǔ)設(shè)施、培訓(xùn)AI勞動(dòng)力技能等；三星電子表示將在美國、韓國成立半導(dǎo)體AGI（通用人工智能）計(jì)算實(shí)驗(yàn)室；字節(jié)投資21.3億美元在馬來西亞建立人工2023年1月，美國商務(wù)部國家標(biāo)準(zhǔn)與技術(shù)研究院發(fā)布《人工智能風(fēng)9里程碑意義。2024年5月，美國參議院人工智能工作組發(fā)布《推動(dòng)美國在AI領(lǐng)域的創(chuàng)新：參議院AI政策路線圖》。歐盟展現(xiàn)領(lǐng)先全球的立法速度。2024年3月，其發(fā)布的《人工智能法案》被認(rèn)為是全2024年世界人工智能大會(huì)提出“選取人工智能技術(shù)發(fā)展中最直觀量展。2024年政府工作報(bào)告明確提出，“加快形成全國一體化算力體展態(tài)勢，帶動(dòng)價(jià)格持續(xù)飆升，如英偉達(dá)H100首發(fā)價(jià)為3.5萬美元，萬卡/十萬卡發(fā)展，AI加速卡及系統(tǒng)搭建成本占據(jù)模型訓(xùn)練比例高（60%~）[7]，未來將逐步向平臺(tái)及應(yīng)用轉(zhuǎn)移。該現(xiàn)象將進(jìn)一步加劇。國內(nèi)人工智能技術(shù)加速向行業(yè)滲透，疊加西方對(duì)我國的算力封鎖持續(xù)加碼，國產(chǎn)智算產(chǎn)業(yè)鏈正在加速構(gòu)建。目前已形成縱向包含智算基礎(chǔ)設(shè)施、大模型平臺(tái)服務(wù)、行業(yè)應(yīng)用；橫向提供算力資源集成服務(wù)的“三縱一橫”龐大產(chǎn)業(yè)鏈。如圖所示：智算基礎(chǔ)設(shè)施是產(chǎn)業(yè)鏈上游，包括AI芯片、AI服務(wù)器、智算中心等；上游供應(yīng)商主要以租賃形式為客戶提供一站式智算服務(wù)，包括面向生成式AI和非生成式AI兩個(gè)細(xì)分市場。據(jù)IDC報(bào)告，2023年下半年智算基礎(chǔ)設(shè)施市場規(guī)模78.1億元，同比增長86%；從全年情況看，2023年較上一年全年智算服務(wù)市場增長81.6億元，生成式AI市場增量貢獻(xiàn)59%，是主要驅(qū)動(dòng)力；非生成式AI市場僅貢獻(xiàn)3%的增量[8]。智算中心建設(shè)提速，呈現(xiàn)集群化、靈活調(diào)度特征。根據(jù)賽迪顧問數(shù)據(jù)顯示，2024年上半年，全國已經(jīng)建設(shè)和正在建設(shè)的智算中心超過250個(gè)，招投標(biāo)事件791起，同比增長高達(dá)407.1%；已有超20個(gè)城市建設(shè)了智算中心，其中既有北京、上海等一線城市，也有鄭州、武漢等中心地區(qū)城市，還有內(nèi)蒙、寧夏等西部城市，目前正在加速向縣城下沉。從建設(shè)主體來看，頭部大模型廠商與云商選擇適度超前建設(shè)超大規(guī)模智算集群，如Meta為訓(xùn)練LLaMA3構(gòu)建2個(gè)2.4萬卡集群，并計(jì)劃2024年底搭建35萬卡集群；字節(jié)跳動(dòng)、百度等已建立萬卡級(jí)智算集群，主要面向自有大模型訓(xùn)練。截至5月底，全國規(guī)劃具有超萬張GPU集群的智算中心已達(dá)十余個(gè)。其中，三大運(yùn)營商加大國產(chǎn)GPU的應(yīng)用，預(yù)計(jì)2024年將建成6個(gè)萬卡集群智算中心，已投產(chǎn)使用近3萬張國產(chǎn)GPU。云實(shí)現(xiàn)智能算力資源的靈活調(diào)度。信通院聯(lián)合中國電信打造“全國一體化算力算網(wǎng)調(diào)度平臺(tái)”，是我國首個(gè)實(shí)現(xiàn)多元異構(gòu)算力資源調(diào)度的全國性平臺(tái)，目前天翼云、華為云、阿里云等云商均已接入。除此之外，云商也紛紛基于自身云底座實(shí)現(xiàn)算力調(diào)度，如青云打造“AI算力調(diào)度平臺(tái)+AI算力云服務(wù)”，前者打破算力邊界，延申算力從中心到邊緣到端側(cè)，對(duì)算力資源進(jìn)行統(tǒng)一調(diào)度、管理、運(yùn)營；后者基于青云的云服務(wù)，聯(lián)合生態(tài)共同對(duì)外提供AI產(chǎn)業(yè)鏈上的服務(wù)。AI芯片供不應(yīng)求，國產(chǎn)化萬卡級(jí)集群量質(zhì)同步提升。據(jù)Gartner預(yù)測，2024年AI芯片市場規(guī)模將較上一年增長25.6%，達(dá)到671億美元；預(yù)計(jì)到2027年，AI芯片市場規(guī)模將達(dá)到1194億美元。英偉達(dá)憑借成熟的CUDA軟件生態(tài)，壟斷高性能人工智能芯片市場，2023年在數(shù)據(jù)中心GPU占據(jù)了98%的市場份額，總收入達(dá)362億美元（約2626.9億元）；自身芯片產(chǎn)業(yè)加速形成。根年提升4個(gè)百分點(diǎn)，國產(chǎn)化能力穩(wěn)步提升。國產(chǎn)AI芯片廠商面向AI推理和AI訓(xùn)練需求持續(xù)發(fā)力，芯片架構(gòu)呈現(xiàn)出多元化，國內(nèi)多個(gè)萬卡級(jí)智算集群投入運(yùn)營，自主能力不斷提升。運(yùn)營商依托華為910B構(gòu)建多個(gè)萬卡級(jí)集群，燧原科技國產(chǎn)萬卡集群在慶陽點(diǎn)大模型平臺(tái)服務(wù)是產(chǎn)業(yè)鏈中游，供應(yīng)商提供API等工具供用戶靈活調(diào)用其基礎(chǔ)大模型，并針對(duì)不同業(yè)務(wù)場景，開發(fā)、訓(xùn)練和部署專屬大模型。據(jù)NTCysd預(yù)測，到2026年我國MaaS（模型即服務(wù)）市場規(guī)模有望突破130億元；2023-2026年復(fù)合增長率為117.9%[9]。云平臺(tái)提供從數(shù)據(jù)、模型到應(yīng)用服務(wù)的全周期管理和工具。國外云廠商的MaaS服務(wù)專注于構(gòu)建通用能力。國外云廠商利用自身基礎(chǔ)設(shè)施優(yōu)勢，開發(fā)全流程工具和套件，滿足用戶對(duì)模型預(yù)訓(xùn)練、模型精調(diào)、模型部署、智能應(yīng)用開發(fā)等多樣化需求。微軟云的AzureOpenAI服務(wù)，支持開發(fā)者調(diào)用OpenAIGPT-4、GPT-3、Codex和DALL-E等模型的API來構(gòu)建、微調(diào)模型，Azure主要提供一些通用型功能，如安全性、合規(guī)性和區(qū)域可用性等。亞馬遜AWS的SageMaker服務(wù)，為大型語言模型提供了全生命周期管理工具，研發(fā)者可用它進(jìn)行大模型的訓(xùn)練、微調(diào)和部署，并且與AWS的其他服務(wù)無縫集成。MaaS服務(wù)極大帶動(dòng)了云商收入增長。Microsoft、Google、Amazon云收入增速自23Q3逐步提升，24Q1三家公司云收入同比增速分別為31%、28%、17%。國內(nèi)云廠商的MaaS服務(wù)強(qiáng)調(diào)搭建生態(tài)。除了通用能力外，國內(nèi)云廠商還會(huì)參與開發(fā)垂直行業(yè)大模型、集成軟硬件服務(wù)。騰訊云依托TI平臺(tái)打造一站式行業(yè)大模型精選商店，其中包含了騰訊企點(diǎn)、騰訊會(huì)議、騰訊云AI代碼助手等多款頭部SaaS產(chǎn)品，并啟動(dòng)與金融、文旅等數(shù)十個(gè)行業(yè)客戶共建行業(yè)大模型。華為云在其MaaS服務(wù)平臺(tái)“ModelArts”上推出了“昇思大模型服務(wù)”，支持跨平臺(tái)的模型部署與推理，用戶可一鍵式遠(yuǎn)程調(diào)用昇思NPU芯片的海量算力，大幅縮短推理等待時(shí)間，避免在本地部署NPU芯片的繁重操作。百度云基于其MaaS服務(wù)平臺(tái)“千帆”，推出了千帆AI原生應(yīng)用商店，成為大模型商業(yè)機(jī)會(huì)的匯集地，為商家提供品牌曝光、流量支持和銷售資源等支持。我國大模型數(shù)量及規(guī)模快速增長，能力逼近GPT-4。根據(jù)信通院《全球數(shù)字經(jīng)濟(jì)白皮書（2024）》數(shù)據(jù)，全球人工智能大模型1328個(gè)（包含同一企業(yè)、同一模型的不同參數(shù)版本美國數(shù)量占比44%位居第一，我國數(shù)量占比36%位居第二[10]；據(jù)大模型之家預(yù)測，預(yù)計(jì)到2028年全球大模型市場規(guī)模將達(dá)到1095億美元；我國大模型市場將達(dá)1179億元。百度文心一言、訊飛星火、清華零一萬物的千億參數(shù)閉源大模型Yi-Large在最新總榜中排名世其中文分榜更是與GPT-4o并列第一?？萍季揞^加大AI產(chǎn)品賦能，ToB市場初見商業(yè)化成效。微軟旗下的GitHubCopilotforBusiness已有超過2.7萬家組織用于提高開發(fā)人員生產(chǎn)力，超過6.3萬家組織在PowerPlatform中使用了AI驅(qū)動(dòng)的功能且環(huán)比增長75%；微軟將旗下的Microsoft365Copilot定價(jià)提升至30美金/人/月。Salesforce從推出首個(gè)生成式AI客戶關(guān)系管理應(yīng)用EinsteinGPT開始，全面擁抱生成式AI，推出AICloud系列應(yīng)用；并隨著Einstein模塊用量增大，宣布提價(jià)。我國大模型正加速邁向行業(yè)縱深，賦能應(yīng)用場景。從行業(yè)看，據(jù)賽迪《2024年中國人工智能行業(yè)典型大模型100強(qiáng)企業(yè)》披露，金融、工業(yè)、政務(wù)三大行業(yè)因信息化基礎(chǔ)好、數(shù)據(jù)結(jié)構(gòu)化程度高、應(yīng)用場景相對(duì)成熟，100強(qiáng)企業(yè)在這三個(gè)行業(yè)有落地應(yīng)用的企業(yè)數(shù)量最多；醫(yī)療、交通兩大行業(yè)數(shù)據(jù)豐富、應(yīng)用場景眾多，較多企業(yè)開展探索，處于第二梯隊(duì)[11]。從場景看，騰訊研究院總結(jié)大模型落地的快慢呈現(xiàn)“微笑曲線”的特征，即產(chǎn)業(yè)鏈高附加價(jià)值的兩端（研發(fā)/設(shè)計(jì)和營銷/服務(wù)大模型應(yīng)用落地較快；而在低附加價(jià)值的中部（生產(chǎn)、組裝等），大模型應(yīng)用進(jìn)程較慢[12]。金融行業(yè)是AI滲透率領(lǐng)先行業(yè)，大模型驅(qū)動(dòng)金融業(yè)務(wù)場景革新。據(jù)前瞻產(chǎn)業(yè)研究院預(yù)測，2025年我國智慧金融市場規(guī)模將達(dá)3638億元[13]。金融行業(yè)由于數(shù)字化基礎(chǔ)好（數(shù)字化轉(zhuǎn)型超90%以上）、具備支付能力（行業(yè)本身盈利能力強(qiáng)）等特征，成為目前AI大模型覆蓋最多的行業(yè)。AI+金融應(yīng)用目前已覆蓋產(chǎn)品設(shè)計(jì)、市場營銷、風(fēng)險(xiǎn)控制、客戶服務(wù)、支持性活動(dòng)，形成覆蓋全生命周期、一系列配套的解決方案，推動(dòng)金融行業(yè)高質(zhì)量發(fā)展。如中國人壽聯(lián)手第四范式基于AI大模型打造智能核保系統(tǒng)，實(shí)現(xiàn)了自動(dòng)、精準(zhǔn)、個(gè)性的核保決策；打造智能理賠系統(tǒng)，以最快速度自動(dòng)、公正處理理賠，有效降低理賠成本和風(fēng)險(xiǎn)、提升理賠效率。建設(shè)銀行啟動(dòng)“方舟計(jì)劃”，打造具備大模型、大算力、大數(shù)據(jù)的金融大模型基座與能力體系，推進(jìn)AI技術(shù)在智能客服、智能運(yùn)營、智能風(fēng)控等場景的應(yīng)用，渠道綜合化運(yùn)營，旗艦類、綜合類網(wǎng)點(diǎn)占比提升2.86個(gè)百分點(diǎn)，基層網(wǎng)點(diǎn)減負(fù)賦能成效顯現(xiàn)。醫(yī)療場景融合AI將釋放豐富價(jià)值，目前AI醫(yī)療項(xiàng)目建設(shè)方式多樣化。據(jù)前瞻產(chǎn)業(yè)研究院預(yù)測，2028年我國智慧醫(yī)療市場規(guī)模將達(dá)2332億元[13]。AI大模型可賦能醫(yī)療行業(yè)“醫(yī)、教、研、管”等場景的各個(gè)環(huán)節(jié)。醫(yī)療機(jī)構(gòu)：可提升管理效率；醫(yī)護(hù)群體：可輔助科學(xué)診療；制藥企業(yè)：可降研發(fā)成本提生產(chǎn)效率；病患群體：可縮小醫(yī)療資源不均矛盾，因此醫(yī)療行業(yè)可借助AI實(shí)現(xiàn)商業(yè)、人文等豐富價(jià)值。友誼醫(yī)院聯(lián)合信通院成立“算力+醫(yī)療健康工作組”，共同探索算力在醫(yī)療健康領(lǐng)域的應(yīng)用場景與發(fā)展趨勢；醫(yī)渡科技與華為合作啟動(dòng)醫(yī)療大模型聯(lián)合創(chuàng)新，基于昇騰AI硬件，推出面向B端的訓(xùn)推一體機(jī)解決方案，醫(yī)院可以根據(jù)自身需求來購置相應(yīng)設(shè)備；國內(nèi)AI制藥頭部企業(yè)晶泰科技選擇自主建設(shè)AI藥物研發(fā)所需的算法平臺(tái)與高性能計(jì)算算力平臺(tái)。工業(yè)算力分布在云-邊-端，但應(yīng)用普及率仍有較大提升空間。據(jù)Capgemini統(tǒng)計(jì)數(shù)據(jù)顯示，歐洲頂級(jí)制造企業(yè)的AI應(yīng)用普及率超30%，日本和美國制造企業(yè)的AI應(yīng)用率分別達(dá)到了30%和28%。相較于這些發(fā)達(dá)國家，我國制造企業(yè)AI普及率尚不足11%。目前我國工業(yè)算力有四種典型應(yīng)用場景1）邊緣算力：多個(gè)計(jì)算能力較弱的工業(yè)終端，將計(jì)算任務(wù)或數(shù)據(jù)遷移到鄰近的邊緣計(jì)算設(shè)備，實(shí)現(xiàn)數(shù)采、分析、檢測、控制等功能。（2）云化服務(wù)：將云資源池以容器或虛機(jī)的形式劃分出來，遠(yuǎn)程為工業(yè)產(chǎn)線提供應(yīng)用服務(wù)，具有靈活重新配置、成本較低和軟件故障恢復(fù)快等優(yōu)勢。（3）群智算力：是指在缺乏邊緣計(jì)算和云計(jì)算資源時(shí)，利用存在計(jì)算/數(shù)據(jù)依賴的多個(gè)生產(chǎn)設(shè)備之間，調(diào)整任務(wù)分配，使得整個(gè)設(shè)備集群的計(jì)算任務(wù)具有實(shí)時(shí)性。（4）算力協(xié)同：該模式充分利用了邊緣計(jì)算的實(shí)時(shí)性和云計(jì)算的大量資源，可以逐級(jí)部署計(jì)算任務(wù)，在計(jì)算能力和實(shí)時(shí)性之間取得折中。智算集成服務(wù)主要是指廠商在幫助客戶建設(shè)私有智算基礎(chǔ)設(shè)施過程中提供的咨詢、集成、開發(fā)、運(yùn)維等專業(yè)和管理服務(wù)。據(jù)IDC報(bào)告，2023年下半年智算集成服務(wù)市場規(guī)模36億元，同比增速129.4%[8]。智算集成服務(wù)市場呈現(xiàn)出“一超多強(qiáng)”的特征。華為依托其領(lǐng)先的芯片能力及全棧服務(wù)能力，市場份額領(lǐng)先，同時(shí)，華為可為客戶提供完整的從咨詢規(guī)劃、平臺(tái)建設(shè)、模型開發(fā)、集成實(shí)施到輔助運(yùn)營等全生命周期服務(wù)，通過3+1算力產(chǎn)業(yè)體系—“算力、存力、運(yùn)力”基礎(chǔ)設(shè)施以及智算服務(wù)，助力客戶打造多樣性算力中心；新華三通過圖靈小鎮(zhèn)（產(chǎn)業(yè)鏈?zhǔn)桨l(fā)展）模式、百度依托建、管、運(yùn)的服務(wù)式思維不斷取得各地政府的認(rèn)可；寒武紀(jì)同樣依托其領(lǐng)先的推理芯片及全棧服務(wù)參與多地臺(tái)州、沈陽等多地算力基礎(chǔ)設(shè)施建設(shè)項(xiàng)目；中國電子云依托“CECSTACKV5一體化算力平臺(tái)”為客戶提供智算和高性能計(jì)算基礎(chǔ)設(shè)施，相關(guān)智算中心項(xiàng)目目前已在北京、石家莊、武漢等地正式落地。大模型降價(jià)搶占ToB市場，推動(dòng)大模型在各行各業(yè)應(yīng)用落地。麥肯錫的研究報(bào)告顯示，應(yīng)用生成式AI大模型每年為企業(yè)端（即2B）帶來的經(jīng)濟(jì)價(jià)值為2.6-4.4萬億美元[14]，大模型對(duì)ToB用戶吸引力旺盛。在掌握“企業(yè)一旦使用一家大模型，替換成本極高”的普遍規(guī)律后，大模型廠商通過降價(jià)提前卡位，推動(dòng)自身大模型產(chǎn)品被更多B端企業(yè)應(yīng)用，建立數(shù)據(jù)飛輪，強(qiáng)化用戶粘性，進(jìn)而加速構(gòu)建AI開發(fā)生態(tài)。5月字節(jié)豆包大模型降至0.0008元/千Tokens；緊接著阿里宣布其主力模型全面降至0.0005元/千Tokens，其通義旗下的12款模型已開源，全部免費(fèi)下載；百度緊跟上宣布最新兩款主力模型“免費(fèi)，立即生效”；而后參與者又多了科大訊飛和騰訊。面向開發(fā)者打造社區(qū)生態(tài)。百度推出的一眾包括飛槳在內(nèi)的開發(fā)社區(qū)；阿里的魔搭社區(qū)致力于以開源力量助力中國類Sora模型的探索和創(chuàng)新。如何平衡性能和成本成為大模型發(fā)展面臨主要難題。根據(jù)斯坦福大學(xué)發(fā)布的《2024年人工智能指數(shù)報(bào)告》，訓(xùn)練成本隨著模型規(guī)模增加而急劇上升，如2017年的Transformer模型訓(xùn)練成本約為900美元，而2023年的GPT-4和Google的GeminiUltra的訓(xùn)練成本分別約為7800萬美元和1.91億美元[15]。圖92017-2023年部分AI大模型的訓(xùn)練成本估算追求長期降本和供應(yīng)安全，大型企業(yè)發(fā)力AI芯片自研。隨著AI算力需求和英偉達(dá)芯片價(jià)格持續(xù)高漲，國外頭部云商及科技企業(yè)加快自研AI芯片，如谷歌TPUv5、微軟Maia100、亞馬遜Trainium、Meta的MITAV1等。考慮到供應(yīng)鏈的穩(wěn)定性，國內(nèi)芯片廠商及大型企業(yè)加快推進(jìn)AI芯片國產(chǎn)化進(jìn)程，如華為昇騰910B、寒武紀(jì)MLU370、摩爾線程MTTS4000、海光DCU、百度昆侖芯等。采用“分時(shí)復(fù)用”策略和系統(tǒng)級(jí)優(yōu)化手段，提升算力利用率和訓(xùn)練效率。一方面，借助需求預(yù)測和任務(wù)調(diào)度等方法，在高峰期給新興業(yè)務(wù)分配更多算力資源，而在低峰期將多余的算力資源重新分配給其他業(yè)務(wù)或用戶，以提高整體的算力使用效率。另一方面，通過數(shù)據(jù)并行、張量并行、流水線并行、分組參數(shù)切片并行等多種并行加速策略，結(jié)合通信、容災(zāi)及監(jiān)控工具，搭建大模型訓(xùn)練/生產(chǎn)系統(tǒng)，加快大模型訓(xùn)練和調(diào)優(yōu)速度，并降低人員操作Megatron-LM、清華大學(xué)BMTrain、百度飛槳PaddePaddle等。從模型技術(shù)創(chuàng)新角度切入，主流企業(yè)加快研發(fā)MoE大模型以平衡模型升級(jí)效果及成本?；赥ransformer的MoE已成大模型主流架構(gòu)，谷歌、OpenAI、阿里、華為、騰訊、昆侖萬維、MiniMax等國內(nèi)外主流企業(yè)加快推進(jìn)MoE大模型布局和落地。2024年，全球MoE大模型數(shù)量呈爆發(fā)增長態(tài)勢。據(jù)公開統(tǒng)計(jì)，2024年1-5月全球發(fā)布MoE通用大模型數(shù)量約20個(gè)，遠(yuǎn)超2021-2023三年總量（約10個(gè)），且以多模態(tài)大模型為主（占比約90%）。OpenAI強(qiáng)調(diào)，增加大模型的參數(shù)量不再是提升大模型能力的最有效模型為中心”AI范式主要圍繞模型進(jìn)行迭代、優(yōu)化設(shè)計(jì)，數(shù)據(jù)集相13萬億個(gè)token），Llama2相比Llama1相比，訓(xùn)練數(shù)據(jù)規(guī)模年我國數(shù)據(jù)標(biāo)注及審核市場中定制化服務(wù)占比85.41%，而標(biāo)準(zhǔn)化的開發(fā)新范式，微調(diào)是讓AI獲取特定領(lǐng)域知識(shí)，并賦予其組織、應(yīng)用合成數(shù)據(jù)是模型能力躍遷的關(guān)鍵。根據(jù)EpochAIResearch團(tuán)年耗盡[16]。為了解決高質(zhì)量數(shù)據(jù)不足的問題，OpenAI主要采用合成數(shù)據(jù)的方法，即借助生成對(duì)抗網(wǎng)絡(luò)（GAN）來生成數(shù)據(jù)。Gartner預(yù)萬卡集群成為大模型軍備賽的標(biāo)配。生成式AI的演進(jìn)推動(dòng)底層其他專用AI加速芯片），充分整合高性能GPU計(jì)算、高性能存儲(chǔ)以及網(wǎng)絡(luò)、智算平臺(tái)等關(guān)鍵技術(shù)，將各類底層基礎(chǔ)設(shè)施整合成為一臺(tái)實(shí)現(xiàn)模型能力的快速迭代。如OpenAI訓(xùn)練GPT4在大約2萬個(gè)A100AI與超算基礎(chǔ)設(shè)施融合，推動(dòng)科研范式變遷與生產(chǎn)效率提升。單TOP500統(tǒng)計(jì)，排名前十的超級(jí)計(jì)算機(jī)中有8臺(tái)使用CPU+GPU異構(gòu)架構(gòu)，其中超級(jí)計(jì)算機(jī)Aurora、Summit在系統(tǒng)設(shè)計(jì)時(shí)均面向人工智能場景進(jìn)行優(yōu)化。2023年以來，隨著以ChatGPT為代表的大模型的崛起，全球主要國家積極將AI技術(shù)融入超算應(yīng)用場景，在生物、氣的面向生物醫(yī)藥場景生成式AI模型，將計(jì)算性能提升60%。進(jìn)一步型訓(xùn)練的智能算力節(jié)點(diǎn)內(nèi)部大多采用InfiniBand技術(shù)成本偏高、開放性較弱，因此業(yè)界也在考慮用RoCEv2等無損網(wǎng)絡(luò)技如重慶算力互聯(lián)公共服務(wù)平臺(tái)7月正式上線，首批接入算力提供商MaaS屏蔽底層差異，基于算力服務(wù)平臺(tái)跨越模型供給側(cè)與用戶內(nèi)云商MaaS平臺(tái)均支持多種機(jī)器學(xué)習(xí)算法和大模型，并提供低代碼器學(xué)習(xí)平臺(tái)+算力”為大模型企業(yè)提供算力基礎(chǔ)設(shè)施及平臺(tái)，同時(shí)通趨勢五：AIAgent（智能體）將成為智能交互智能終端搭載多模態(tài)大模型，加速轉(zhuǎn)型升級(jí)。依托輕量化大模型的原生智能終端將成為主流。各大廠商、云商、機(jī)器人廠商紛紛加快大模型從云端向到終端轉(zhuǎn)移，如高通推出首個(gè)在Android智能手機(jī)上運(yùn)行的具有超70億參數(shù)的語言和視覺助理大模型LLaVA。聯(lián)發(fā)科聯(lián)手OPPO和VIVO，在搭載天璣9300芯片的手機(jī)上，運(yùn)行語言大模型Llama2和視頻生成AI模型StableDiffusion。華為、達(dá)闥等企業(yè)已推出5G云端機(jī)器人，通過云端大模型訓(xùn)練迭代與機(jī)器人端側(cè)交互，實(shí)現(xiàn)機(jī)器人之間的學(xué)習(xí)和知識(shí)共享。小鵬汽車已在智能座艙場景中新增接入阿里云通義千問大模型賦能終端應(yīng)用及工具智能升級(jí)，AIAgent逐漸成為大模型行業(yè)落地的主要方式。據(jù)MarketsandMarkets2024調(diào)研報(bào)告《AutonomousAlandAutonomousAgentsMarket》預(yù)測，至2028年全球AIAgent市場規(guī)模將達(dá)到285億美元，2023-2028年CAGR將達(dá)到43.0%[18]。以AIAgents形式的模型應(yīng)用將迎來爆發(fā)。目前OpenAl的GPTS和GPT-Store已成為Agent生態(tài)雛形。字節(jié)推（Moonshot）、通義千問等大模型，面向2C用戶快速創(chuàng)建各類聊天機(jī)器人，并一鍵發(fā)布到不同社交媒體與消息應(yīng)用當(dāng)中，如飛書、微信公眾號(hào)、豆包等渠道。阿里釘釘利用大模型重塑20+條產(chǎn)品線，面向2B用戶推出AIAgent產(chǎn)品提供處理文檔、編寫方案等一站式助理服務(wù)。目前釘釘已上線200+位AI助理，覆蓋辦公、生活、娛樂等多個(gè)場景，已有超過220萬家企業(yè)采用釘釘AI助理。圖14基于LLM驅(qū)動(dòng)的Agents基本框架[19]AI技術(shù)設(shè)備高功率、高密度、高彈性對(duì)數(shù)據(jù)中心能源基礎(chǔ)設(shè)施加速芯片，支持大規(guī)模AI模型的訓(xùn)練和推理，引發(fā)數(shù)據(jù)中心基礎(chǔ)設(shè)發(fā)布了《數(shù)據(jù)中心綠色低碳發(fā)展專項(xiàng)行動(dòng)計(jì)劃》，對(duì)AI發(fā)展驅(qū)動(dòng)下的新建和改造數(shù)據(jù)中心建設(shè)提出了6方面的重點(diǎn)任務(wù)。配電制冷彈性建設(shè)、綠電儲(chǔ)能創(chuàng)新部署、智能化運(yùn)維管理成為制冷等配套彈性建設(shè)模式。如全面推進(jìn)智能小母線+彈性方艙的供電資源彈性適配，預(yù)留風(fēng)冷+液冷等接口靈活調(diào)度冷量，并根據(jù)液冷和引擎，可根據(jù)AIDC運(yùn)行狀態(tài)實(shí)時(shí)匹配合理的服務(wù)容量與資源，助于解決算力增長和電力消耗矛盾，推動(dòng)算力和電力協(xié)同發(fā)展是必由路徑。智能算力的高能耗特征日益顯著，算力能源消耗呈現(xiàn)快速增長趨勢，預(yù)計(jì)到2030年我國算力用電需求將接近當(dāng)前的3倍左右。超大集群供電承壓、東部算電能源短缺、綠電使用占比低成為制約算力發(fā)展的三大用能結(jié)構(gòu)“瓶頸”。以算力用電需求為導(dǎo)向，通過政策機(jī)制、技術(shù)架構(gòu)等創(chuàng)新，推進(jìn)算力和電力產(chǎn)業(yè)的協(xié)同融合發(fā)展，成為近年來我國算力發(fā)展的政策推進(jìn)重點(diǎn)，如《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動(dòng)計(jì)劃》、《數(shù)據(jù)中心綠色低碳發(fā)展專項(xiàng)行動(dòng)計(jì)劃》，均明確提出創(chuàng)新算力電力協(xié)同機(jī)制。加大算力與電力在布局、市場和調(diào)度等方面融合發(fā)展成為算電協(xié)同重點(diǎn)方向。一是算電布局協(xié)同，解決電力資源與算力用能的空間供需不平衡，統(tǒng)籌東西部的電力和算力輸送格局，加強(qiáng)電力和算力“雙向奔赴”，構(gòu)建面向算力中心的多層次可再生能源供給。二是算電市場協(xié)同，解決綠電交易市場與算力低碳運(yùn)營不相適應(yīng)，推進(jìn)電力市場體系建設(shè)，為算力提供可靠綠電來源和有效價(jià)格激勵(lì)，通過市場化機(jī)制實(shí)現(xiàn)綠電低成本供給。三是算電調(diào)度協(xié)同，解決新能源發(fā)電與算力用能的穩(wěn)定性不匹配，通過AI技術(shù)推動(dòng)兩網(wǎng)間根據(jù)容量、季節(jié)等因素進(jìn)行時(shí)間、空間匹配調(diào)度，通過聯(lián)合調(diào)度實(shí)現(xiàn)低碳電力最大化消納。歌、OpenAI等國外頭部企業(yè)，引領(lǐng)MoE大模型落地，優(yōu)先推動(dòng)MoE生態(tài)全面布局，力爭MoE發(fā)展領(lǐng)航者。OpenAI推出國際領(lǐng)先大模型用MoE升級(jí)多模態(tài)大模型M6，與同期GPMiniMax等國內(nèi)外AI初創(chuàng)企業(yè)，依托MoE大模型起家，利用其低成AI，通過開源全球首個(gè)MoE大模型Mistral8x7B，迅速提升品牌影其“天工2.0”已面向C端用戶免費(fèi)開放。以“大模型+機(jī)器人”為特征的具身智能快速發(fā)展，推動(dòng)人形機(jī)器人閉環(huán)自智。具身智能(EmbodiedIntelligence)是一種高級(jí)的機(jī)器智能形式，它使機(jī)器人能夠像人類一樣感知和理解環(huán)境，并通過自主學(xué)習(xí)和適應(yīng)性行為來完成任務(wù)。隨著AI產(chǎn)業(yè)進(jìn)程加速，大語言、視覺、多模態(tài)等大模型層出不窮，正加速與機(jī)器人技術(shù)相融合，與傳感器、控制器等機(jī)器人關(guān)鍵部件共同組成人形機(jī)器人“大腦+小腦”，從感知、認(rèn)知、決策、規(guī)劃、控制、交互、學(xué)習(xí)、仿真等全方位提升機(jī)器人的智能化、通用化水平。由于機(jī)器人需通過傳感器感知外部世界，因此無法直接照搬大模型中的Transformer架構(gòu)，目前主要以O(shè)penAI為代表的分層決策模型和以GoogleRT-2為代表的端到端模型兩種算法路徑實(shí)現(xiàn)。OpenAI、亞馬遜、三星等多家巨頭投資的Figure01人形機(jī)器人基于大模型提供更高層級(jí)的視覺和語言智能，能流暢地與人交談、理解人類需求并完成具體行動(dòng)；特斯拉Optimus人形機(jī)器人內(nèi)置chatGPT能在實(shí)際生產(chǎn)環(huán)境中糾正自己的錯(cuò)誤。大規(guī)模智算集群組網(wǎng)是AI大模型訓(xùn)練效率提升的關(guān)鍵。在大模算網(wǎng)絡(luò)具備超大規(guī)模、超高帶寬、超低時(shí)延算時(shí)間/整體訓(xùn)練時(shí)間），對(duì)于AI集群訓(xùn)練效率的提升至關(guān)重業(yè)界加快研究支持大模型跨數(shù)據(jù)中心分布式訓(xùn)練的長距組網(wǎng)技信優(yōu)化技術(shù)、800GC+L傳輸技術(shù)等關(guān)鍵技術(shù)。如谷歌基于自研AI芯片TPUv4（AI芯片）和光電路交換機(jī)，跨多個(gè)數(shù)據(jù)中心完成Gemini級(jí)GPU算力集群，以滿足GPT-6模型訓(xùn)練需求。但由于電力受限，替換IB協(xié)議來實(shí)現(xiàn)跨區(qū)域GPU之間的互聯(lián)。中國電信基于國產(chǎn)化算力完成跨百公里千億參數(shù)模型在千卡規(guī)模下的分布式智算中心互聯(lián)現(xiàn)網(wǎng)驗(yàn)證[23]，訓(xùn)練性能達(dá)到集中式單智算中心的95%以上，證明了該技術(shù)方向的可行性。阿里提出“雙上聯(lián)+雙平面+多軌”的網(wǎng)絡(luò)架構(gòu)，單Pod規(guī)模達(dá)到15KGPU，不同P先進(jìn)封裝技術(shù)協(xié)同創(chuàng)新，具備高性能、高能效圖17存儲(chǔ)計(jì)算“剪刀差”存算一體主要包括近存計(jì)算和存內(nèi)計(jì)算兩種發(fā)展路線。以HBM用，如英偉達(dá)H200使用了HBM3e，顯存帶寬可達(dá)4.8TB/秒，并提供完成8nmeMRAM的技術(shù)開發(fā)，國內(nèi)清華大學(xué)基于ReRAM的存內(nèi)計(jì)算大模型等AI應(yīng)用為存算一體產(chǎn)業(yè)發(fā)展帶來新機(jī)遇。HBM憑借高帶寬、低能耗已成英偉達(dá)、AMD、華為的等企業(yè)主要供應(yīng)商均表示，2024年訂單已售罄。存內(nèi)計(jì)算技術(shù)，雖然目前仍處于早期發(fā)展階段，但發(fā)展?jié)摿薮?。后摩智能、D-matrix等國內(nèi)2024年2月，諾基亞貝爾實(shí)驗(yàn)室在巴黎進(jìn)行了空芯光纖傳輸試驗(yàn)測公司聯(lián)合Nokia、DigitalRealty等公司開展了空芯光纖實(shí)際線路環(huán)境中的現(xiàn)場傳輸試驗(yàn)，在1.386公里的鏈路上，實(shí)現(xiàn)往返延遲降低30%。5月，中國聯(lián)通宣布攜手北理工、上海諾基亞貝爾及長飛突破單向超100Tbit/s空芯光纜傳輸系統(tǒng)現(xiàn)網(wǎng)示范工程[29]。作為一項(xiàng)顛電力資源，提升同一算力節(jié)點(diǎn)內(nèi)源-網(wǎng)-荷-儲(chǔ)的高效協(xié)同和能源高效少用電量和熱能的浪費(fèi)[30]。關(guān)鍵技術(shù)成熟度評(píng)估整體看，隨著AI產(chǎn)業(yè)快速發(fā)展，推動(dòng)智算規(guī)模的快速擴(kuò)張和GPU等基礎(chǔ)設(shè)施、服務(wù)應(yīng)用3個(gè)一級(jí)指標(biāo)，以及相應(yīng)的8個(gè)二級(jí)指標(biāo)。AI產(chǎn)業(yè)、智算中心、雙碳等相關(guān)智算政策，將影響智算中心選算力、數(shù)據(jù)互通的基礎(chǔ)，將影響智算對(duì)大模型等AI業(yè)務(wù)的訓(xùn)練推理大模型數(shù)量、AI企業(yè)數(shù)量、AI發(fā)明專利數(shù)等是衡量每個(gè)區(qū)域AI2)指標(biāo)賦值：基于省人民政府、工信部、國家統(tǒng)計(jì)局等官網(wǎng)統(tǒng)計(jì)三級(jí)指標(biāo)對(duì)應(yīng)的最新數(shù)據(jù)，為三級(jí)指標(biāo)賦值提供權(quán)威、客3)權(quán)重確定：基于AHP和熵權(quán)法主客觀結(jié)合為各指詳細(xì)的評(píng)估流程，見附錄計(jì)方案，其中一二級(jí)指標(biāo)采用AHP方法確定權(quán)重，三級(jí)指標(biāo)4)評(píng)估指數(shù)結(jié)果：最終根據(jù)指標(biāo)的得分和權(quán)重得到各省相應(yīng)的評(píng)估結(jié)果，包括綜合評(píng)估指數(shù)、外部環(huán)境評(píng)估指數(shù)、基礎(chǔ)設(shè)型等AI業(yè)務(wù)快速發(fā)展。京津冀基礎(chǔ)設(shè)施能力處于中上游水平,山東躋身第一梯隊(duì)。西部地區(qū)點(diǎn)發(fā)力。），環(huán)境、基礎(chǔ)設(shè)施、服務(wù)應(yīng)用的能力分析。如求等多項(xiàng)新挑戰(zhàn)。與此同時(shí)，美國實(shí)施了更加嚴(yán)格的算力體系提供一站式大模型服務(wù)，助力AI快速創(chuàng)新，新一代智算液冷DC艙，實(shí)現(xiàn)了數(shù)據(jù)中心的能效和智算集群的算效雙機(jī)房開展了千億參數(shù)、千卡規(guī)模120km兩點(diǎn)拉遠(yuǎn)驗(yàn)證，探索長距鏈智算中心無損網(wǎng)絡(luò)測試驗(yàn)證及相關(guān)創(chuàng)新研究將助力多方小規(guī)模智算中國電信中部智算中心位于湖北武漢東湖新技術(shù)開發(fā)區(qū)光谷八路中部智算中心（武昌）園區(qū)，園區(qū)占地85畝，是工業(yè)互聯(lián)網(wǎng)標(biāo)識(shí)解析國家頂級(jí)節(jié)點(diǎn)部署地、國家級(jí)互聯(lián)網(wǎng)骨干直聯(lián)點(diǎn)。2024年1月預(yù)留管路接口，兼容8-50kw冷量需求；匹配不同行業(yè)客戶需求，制了服務(wù)器等IT設(shè)備的可靠性。這一技術(shù)優(yōu)勢顯新能源使用率可達(dá)80%以上，形成綠電消納、產(chǎn)業(yè)協(xié)同、共建共維、2024年4月，海蘭云與合作伙伴共同發(fā)布全球首個(gè)海底智算中心平單艙可提供1400PFlops算力，算力效率提升40%。此外，長三角海年內(nèi)即將動(dòng)工。該項(xiàng)目將打造綠電直供、算待完善、規(guī)?；枨髸何达@現(xiàn)、核心技術(shù)有待對(duì)應(yīng)的指標(biāo)說明、評(píng)估單位，便于后續(xù)指標(biāo)評(píng)估。附表1.中國智算發(fā)展?jié)摿υu(píng)估指標(biāo)體系評(píng)估指標(biāo)的最新數(shù)據(jù)，為31省的三級(jí)指標(biāo)賦值提供權(quán)威、客觀的依據(jù)。為31省的24個(gè)指標(biāo)賦值，并對(duì)所有指標(biāo)數(shù)值x進(jìn)行歸一化處理，得到每個(gè)指標(biāo)的標(biāo)準(zhǔn)化數(shù)值x'。附表2.智算發(fā)展?jié)摿υu(píng)估指標(biāo)評(píng)判矩陣模板a11a12a1na21a22a2nan1an2ann要程度，例如，a是第i個(gè)指標(biāo)與第j個(gè)指標(biāo)比較對(duì)智算發(fā)展重要程A1,A2,A3,…,Am?；谌?jí)指標(biāo)對(duì)應(yīng)的31省數(shù)據(jù)，采用熵權(quán)法確定三級(jí)指標(biāo)b11b12b1,24b21b22b2,24b24,1b24,2b24,242)對(duì)矩陣B數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理，對(duì)于正向指標(biāo)根據(jù)矩陣B標(biāo)準(zhǔn)化后的數(shù)值計(jì)算信息熵：備注：信息熵是對(duì)一個(gè)信源所含信息的度量，即信息量的期望。[1]EPOCHAI./data/notable-ai-models.2024[2]IDC.《2024AIGC應(yīng)用層十大趨勢白皮書》.2024[3]Dealroom,FlowPartners.《TheMag