國(guó)內(nèi)AI行業(yè)蓄勢(shì)待發(fā)國(guó)產(chǎn)算力邁入自強(qiáng)新紀(jì)元_第1頁(yè)
國(guó)內(nèi)AI行業(yè)蓄勢(shì)待發(fā)國(guó)產(chǎn)算力邁入自強(qiáng)新紀(jì)元_第2頁(yè)
國(guó)內(nèi)AI行業(yè)蓄勢(shì)待發(fā)國(guó)產(chǎn)算力邁入自強(qiáng)新紀(jì)元_第3頁(yè)
國(guó)內(nèi)AI行業(yè)蓄勢(shì)待發(fā)國(guó)產(chǎn)算力邁入自強(qiáng)新紀(jì)元_第4頁(yè)
國(guó)內(nèi)AI行業(yè)蓄勢(shì)待發(fā)國(guó)產(chǎn)算力邁入自強(qiáng)新紀(jì)元_第5頁(yè)
已閱讀5頁(yè),還剩30頁(yè)未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

目錄一、內(nèi)AI產(chǎn)業(yè)望跨越發(fā)展 1外AI產(chǎn)業(yè)勃展 1內(nèi)?;鶎?shí)能力界破 2家力動(dòng)AI建與應(yīng)落地 3二、產(chǎn)力礎(chǔ)施來(lái)發(fā)機(jī)會(huì) 4AI發(fā)需強(qiáng)算基礎(chǔ)施撐 4運(yùn)續(xù)級(jí)國(guó)化大所趨 7前產(chǎn)片能已近A100,優(yōu)于H20 9三、產(chǎn)力業(yè)環(huán)梳理 9務(wù):AI高增產(chǎn)算芯發(fā)或來(lái)局生變 9換:太高產(chǎn)品步熟高產(chǎn)預(yù)計(jì)現(xiàn)速長(zhǎng) 13模:計(jì)內(nèi)2024年400G光塊求幅增長(zhǎng) 16冷產(chǎn)趨明,2024進(jìn)液規(guī)署階段 18接器線:AI帶連接系向112G/224G等升級(jí) 21PCB:AI拉動(dòng)速PCB級(jí)利頭份盈利升 25IDC建:注算心建和量造會(huì) 28四、資議 30五、險(xiǎn)示 30圖目錄圖1:AI應(yīng)下量收高速長(zhǎng) 1圖2:外廠資開情況百美) 2圖3:SuperCLUE中通大?;鶞y(cè)(2023.12) 3圖4:分型SuperCLUE文用?;u(píng)對(duì)比 3圖5:語(yǔ)模所用數(shù)據(jù)和數(shù)?,F(xiàn)數(shù)級(jí)增長(zhǎng) 5圖6:2020-2027國(guó)和智算規(guī)(EFLOPS) 5圖7:內(nèi)廠資開情況百元) 7圖8:偉達(dá)AI計(jì)能過(guò)去8年升10000倍 7圖9:球務(wù)和AI服務(wù)器模測(cè)億元) 10圖10:中國(guó)AI服務(wù)市市場(chǎng)模測(cè)百美) 10圖11:中服器市額情(2022年,%) 10圖12:中國(guó)AI服務(wù)市份額況(2022,%) 10圖13:光信業(yè)光電口級(jí)代意圖 13圖14:全交機(jī)市模(美) 13圖15:交機(jī)同SerDes速率況 13圖16:全球top500廠商IB以網(wǎng)署額(%) 14圖17:傳傳模和RDMA傳模對(duì)比 15圖18:GSE術(shù)層構(gòu) 15圖19:CPO顯降本和耗 15圖20:博通TH5-Baily51.2TCPO15圖21:2022Q4-2023Q4球交機(jī)商入況百萬(wàn)元) 16圖22:2023Q1中交市場(chǎng)額(%) 16圖23:中以網(wǎng)芯應(yīng)用景場(chǎng)模況億元) 16圖24:中以網(wǎng)芯端口率場(chǎng)模況億元) 16圖25:光塊率已級(jí)到800G 17圖26:OSFPMSA和4x400GMSA的1.6T主方案 17圖27:Marvell用光中的DSP品級(jí)圖 17圖28:冷式冷方案 18圖29:兩浸式液案 18圖30:冷式冷整路圖 19圖31:維諦Vertiv風(fēng)液合制方(板冷風(fēng)冷) 19圖32:服器分連示意圖 22圖33:華為NetEngine8000X8由正架構(gòu) 23圖34:英達(dá)GB200NVL72務(wù)與RACK連接式 23圖35:高速接光?;ヂ?lián) 23圖36:PCIe技發(fā)展況 26圖37:Intel不同務(wù)器CPU臺(tái)術(shù)能表 26圖38:高信的傳率提情下耗升 26圖39:PCB業(yè)鏈 27圖40:2021年球PCB商份額 27圖41:2021年內(nèi)PCB商份額 27圖42:2021年球剛銅板銅廠份額 28圖43:2021年球特性覆板商額 28圖44:數(shù)中建設(shè)鏈 29圖45:2023-2025全據(jù)中存改規(guī)(元) 30圖46:2023-2025運(yùn)數(shù)據(jù)心造景出比(%) 30表目錄表1:內(nèi)分模廠產(chǎn)品況 2表2:動(dòng)工能展分相政策 4表3:大營(yíng)公在/已投智中匯總 6表4:偉部芯性對(duì)比 8表5:內(nèi)要AI訓(xùn)練片與偉主訓(xùn)芯對(duì)比 9表6:國(guó)信2023-2024年AI服器采標(biāo)況 11表7:國(guó)動(dòng)2023至2024年型算心驗(yàn)網(wǎng)采項(xiàng)(分標(biāo)情) 11表8:國(guó)動(dòng)2024年P(guān)C務(wù)產(chǎn)集采購(gòu) 12表9:PCIe迭代況 18表10:國(guó)數(shù)中心市場(chǎng)模算 20表11:國(guó)部上市液冷局 20表12:DAC、AOCACC、AEC24表13:國(guó)部連接市公相布情況 24表14:國(guó)部分PCB、覆板商AI相關(guān)情況 28一、國(guó)內(nèi)AI產(chǎn)業(yè)有望迎來(lái)跨越式發(fā)展AI產(chǎn)業(yè)蓬勃發(fā)展OpenAI20233202312GeminiGemini1.5proGemmaAI應(yīng)用蓬勃發(fā)展,云大廠比copilot、bingAIworkspeceGemini等外,B端垂直企業(yè)服務(wù)、C端應(yīng)用SensorTower數(shù)據(jù)顯示,2023年,AI60%70%,超過(guò)2117(2023H13億次40%AI推理端。openaisoraGenieAI能力邊界大幅躍升,AI向基礎(chǔ)世界模型、AGI領(lǐng)域邁進(jìn)。圖1:AI應(yīng)用下載量與收入高速增長(zhǎng)數(shù)據(jù)來(lái)源:SensorTower,AI發(fā)展的基礎(chǔ)設(shè)施角度,不管是從英偉達(dá)、超微電腦、臺(tái)積電、AMDcapexAI產(chǎn)業(yè)的持續(xù)提速。FY24Q3、FY24Q4AI帶動(dòng)數(shù)據(jù)中心業(yè)務(wù)超預(yù)期帶動(dòng),英偉達(dá)FY25Q1240219FY24Q2營(yíng)收超預(yù)期,F(xiàn)Y24Q33741AI系統(tǒng)強(qiáng)勁需AICAGR50%AI2027營(yíng)收占比達(dá)到高雙位數(shù)(highteen),此前預(yù)期為低雙位數(shù)(lowteen)。AMD202312月上調(diào)加速器規(guī)模預(yù)測(cè),預(yù)計(jì)到2027年,人工智能加速器的整體市場(chǎng)規(guī)模將達(dá)4000億美元,CAGR達(dá)到70%,此前2023年8月AMD預(yù)計(jì)2027年人工加速器行業(yè)規(guī)模為1500億美元。海外云廠商對(duì)AI投入展望持續(xù)樂觀。2024年資本支出將明顯增長(zhǎng)。meta2024年資本開支300億美元-37020同的交付轉(zhuǎn)移到下一季度,預(yù)計(jì)下一季度資本支出將環(huán)比大幅增加。亞馬遜預(yù)計(jì)2024年資本支出將同比增加。圖2:海外云廠商資本開支情況(百萬(wàn)美元)50000400003000020000100000

亞馬遜 微軟 谷歌 臉書 亞馬遜YoY 微軟YoY 谷歌YoY 臉書YoY250%200%150%100%50%0%-50%數(shù)據(jù)來(lái)源:Bloomberg,亞馬遜官網(wǎng),微軟官網(wǎng),谷歌官網(wǎng),國(guó)內(nèi)大模型基本實(shí)現(xiàn)能力邊界突破國(guó)內(nèi)廠商也加快研發(fā)節(jié)奏,紛紛發(fā)布大模型產(chǎn)品,并不斷持續(xù)迭代更新。20233月-6月間,包括百度、2023年91020231011月實(shí)現(xiàn)了能力邊界ChatGPT,并且后續(xù)在持續(xù)的進(jìn)一步迭代升級(jí)。隨著國(guó)內(nèi)大模型能力的提升,AI2024年也將迎來(lái)加速落地。表1:國(guó)內(nèi)部分大模型廠商產(chǎn)品情況廠商大模型發(fā)布時(shí)間百度文心一言文心一言4.020233月202310月月之暗面Kimichat2023年10月阿里巴巴通義千問(wèn)通義千問(wèn)2.020234月202310月訊飛星火V1.02023年5月訊飛星火V1.52023年6月科大訊飛訊飛星火V2.02023年8月訊飛星火V3.02023年10月訊飛星火V3.52024年1月baichuan-7B2023年6月百川智能baichuan-13B、baichuan-13B-chat2023年7月baichuan2-7B/13B、baichuan2-53B2023年9月ChatGLM-6B2023年3月清華智譜ChatGLM3-6B2023年10月GLM4、定制化大模型GLMs2024年1月資料來(lái)源:新浪,億歐網(wǎng),網(wǎng)易,時(shí)代財(cái)經(jīng),清華大學(xué)官網(wǎng),搜狐,行業(yè)深度報(bào)告參考國(guó)內(nèi)中文模型評(píng)測(cè)機(jī)構(gòu)SuperCLUE發(fā)布中文大模型基準(zhǔn)測(cè)評(píng),對(duì)比來(lái)看,國(guó)內(nèi)大模型廠商的能力在2023年5GPT3.5有約2053.58,GPT3.566.18。202311GPT3.5GPT4-Turbo4.0、72.88Moonshot59.39GPT3.589.79分GPT4SuperCLUE20242GPT4.0的得分104.087.75,GLM-486.772.185.7、Baichaun3總82.59、Moonshot(kimichat)82.37V3.581.01GPT4.0-Turbo92.71、GPT3.564.34。圖3:SuperCLUE中文通用大模型基準(zhǔn)測(cè)評(píng)(2023.12) 圖4:部分模型SuperCLUE中文通用大模型基準(zhǔn)測(cè)評(píng)對(duì)比openAI-GPT4 百度-文心一言清華&智譜AI-GLM 阿里巴巴-通義千問(wèn)百川智能-Baichuan 月之暗面-kimichat科大訊飛-訊飛星火 字節(jié)跳動(dòng)-云雀/豆包google-Gemini-pro Anthropic-Claude21009080706050403020100數(shù)據(jù)來(lái)源:SuperCLUE,智東西, 數(shù)據(jù)來(lái)源:SuperCLUE,Kimi200萬(wàn)字超長(zhǎng)文本,用戶數(shù)激增,國(guó)內(nèi)模型的能力和應(yīng)用的展望進(jìn)一步樂觀。20243月18Kimi200萬(wàn)字超長(zhǎng)無(wú)損上下文(202310月剛發(fā)布時(shí),Kimi可支持的無(wú)損上下文輸入長(zhǎng)度為20萬(wàn)字),在長(zhǎng)文本處理能力上取得了突破性進(jìn)展,并于即日起開啟產(chǎn)品內(nèi)測(cè)。20235030039121435萬(wàn)左右,321日,Kimi因訪問(wèn)量暴增而疑似宕機(jī)。AI建設(shè)與應(yīng)用落地2024219行業(yè)深度報(bào)告和人才聚集,著力打造人工智能產(chǎn)業(yè)集群,發(fā)揮需求規(guī)模大、產(chǎn)業(yè)配套全、應(yīng)用場(chǎng)景多的優(yōu)勢(shì),帶頭搶抓人工智能賦能傳統(tǒng)產(chǎn)業(yè),加快構(gòu)建數(shù)據(jù)驅(qū)動(dòng)、人機(jī)協(xié)同、跨界融合、共創(chuàng)分享的智能經(jīng)濟(jì)形態(tài)。會(huì)議強(qiáng)調(diào),中央企業(yè)要把發(fā)展人工智能放在全局工作中統(tǒng)籌謀劃,深入推進(jìn)產(chǎn)業(yè)煥新,加快布局和發(fā)展人工智能產(chǎn)業(yè)。要夯實(shí)發(fā)展基礎(chǔ)底座,把主要資源集中投入到最需要、最有優(yōu)勢(shì)的領(lǐng)域,加快建設(shè)一批智能算力中心,進(jìn)一步深化開放合作,更好發(fā)揮跨央企協(xié)同創(chuàng)新平臺(tái)作用。AI+專項(xiàng)行動(dòng),強(qiáng)化需求牽引,加快重點(diǎn)行業(yè)賦能,構(gòu)建一批10中央企業(yè)簽訂倡議書,表示將主動(dòng)向社會(huì)開放人工智能應(yīng)用場(chǎng)景。表2:推動(dòng)人工智能發(fā)展部分相關(guān)政策時(shí)間政策/會(huì)議發(fā)布部門內(nèi)容2022年7月《關(guān)于加快場(chǎng)景創(chuàng)新以人工智能高水平應(yīng)科技部、教育部、工業(yè)和信息化部、交通運(yùn)輸部、農(nóng)業(yè)農(nóng)村部、用促進(jìn)經(jīng)濟(jì)高質(zhì)量發(fā)國(guó)家衛(wèi)生健康委企業(yè)主導(dǎo)、創(chuàng)新引領(lǐng)、開放融合、協(xié)同治理的原則,圍繞展的指導(dǎo)意見》高校等機(jī)構(gòu)的場(chǎng)景創(chuàng)新能力,加快場(chǎng)景開放,擴(kuò)大場(chǎng)景創(chuàng)新要素供給。2022年8月《科技部關(guān)于支持建設(shè)新一代人工智能示科技部范應(yīng)用場(chǎng)景的通知》的標(biāo)桿型人工智能應(yīng)用場(chǎng)景。首批支持智慧農(nóng)場(chǎng)、智能港口、智能礦山、智能工廠、智慧家居、智能教育、自動(dòng)駕駛、智能診療、智慧法院、智能供應(yīng)鏈共十個(gè)示范應(yīng)用場(chǎng)景。2023年7月《生成式人工智能服務(wù)管理暫行辦法》國(guó)家網(wǎng)信辦、國(guó)家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局管部門采取精細(xì)化措施進(jìn)行監(jiān)管,鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展和產(chǎn)業(yè)應(yīng)用。2024年2月“AI賦能產(chǎn)業(yè)煥新”中央企業(yè)人工智能專國(guó)務(wù)院國(guó)資委題推進(jìn)會(huì)需要、最有優(yōu)勢(shì)的領(lǐng)域,加快建設(shè)智能算力中心,促進(jìn)跨央企協(xié)同創(chuàng)新,帶頭搶抓人工智能賦能傳統(tǒng)產(chǎn)業(yè),構(gòu)建數(shù)資料來(lái)源:國(guó)務(wù)院,工信部,科技部,二、國(guó)產(chǎn)算力基礎(chǔ)設(shè)施迎來(lái)發(fā)展機(jī)會(huì)2.1AI發(fā)展需要強(qiáng)大算力基礎(chǔ)設(shè)施支撐大語(yǔ)言模型所使用的數(shù)據(jù)量和參數(shù)規(guī)模呈現(xiàn)“指數(shù)級(jí)”增長(zhǎng),帶來(lái)智能算力需求爆炸式增長(zhǎng)。OpenAI在2018年推出的GPT參數(shù)量為1.175GBGPT3參數(shù)量達(dá)175045T,行業(yè)深度報(bào)告訓(xùn)練階段算力需求與模型參數(shù)數(shù)量、訓(xùn)練數(shù)據(jù)集規(guī)模等有關(guān)OpenAI發(fā)布的論文《ScalingLawsforNeuralLanguageModels=6175045TB3000tokens,GPT-33646PFLOPS-day算力除用于模型訓(xùn)練,還需處理通信、數(shù)據(jù)讀寫等任務(wù),對(duì)算力會(huì)有更大消耗。面向推理側(cè)算力需求,參考天OpenAIScalingLawsforNeuralLanguageModels1000token750=2×模型參數(shù)數(shù)量×tokenChatGPT510011ChatGPT20001000token10次,GPT-3模型每日對(duì)話產(chǎn)生推力810PFLOPS-day,同樣考慮到有效算力比率,實(shí)際運(yùn)行中需要更大算力支撐。圖5:大語(yǔ)言模型所使用的數(shù)據(jù)量和參數(shù)規(guī)模呈現(xiàn)“指數(shù)級(jí)”增長(zhǎng)數(shù)據(jù)來(lái)源:英偉達(dá)官網(wǎng),根據(jù)中國(guó)信通院數(shù)據(jù),2022年906EFLOPS550%。IDC數(shù)據(jù)顯示,202254.5EFLOPS(FP64)259.9EFLOPS(FP16),2027117.3EFLOPS1117.4EFLOPS516.6%33.9%。圖6:2020-2027中國(guó)通用和智能算力規(guī)模(EFLOPS)通用算力規(guī)模(基于FP64算),EFLOPS 智能算力規(guī)模(基于FP16算),EFLOPS15001117.4812.51117.4812.5414.1497.1616.6259.939.675.0155.247.754.5117.359.386.71.8101.2150002020 2021 2022 2023e 2024e 2025e 2026e 2027e數(shù)據(jù)來(lái)源:IDC,運(yùn)營(yíng)商加大智能算力基礎(chǔ)設(shè)施投入。中國(guó)移動(dòng)2024年計(jì)劃總體資本開支1730億元同比下降4%,用于算力行業(yè)深度報(bào)告47521%20249604%,用于產(chǎn)業(yè)數(shù)370/1802024650億元AI服務(wù)器采購(gòu)方面,202382023-2024AI4175臺(tái),中標(biāo)總價(jià)超842023920232024(試驗(yàn)網(wǎng)(2454臺(tái)(204套33(4-121-3采購(gòu)失?。?024320242503RoCE688表3:三大運(yùn)營(yíng)商公開在建/已投運(yùn)智算中心匯總建設(shè)主體名稱建設(shè)規(guī)模投運(yùn)情況中國(guó)電信臨港智算中心位于上海,是全國(guó)首個(gè)萬(wàn)卡規(guī)模國(guó)產(chǎn)液冷集群,首批1.5萬(wàn)卡能力,預(yù)計(jì)將于2024年上半年逐步完成建設(shè),其中國(guó)產(chǎn)算力卡將達(dá)萬(wàn)張。正在建設(shè)中中國(guó)電信中國(guó)電信京津冀大數(shù)據(jù)智能算力中心中國(guó)電信安徽智算中心位于天津,一期項(xiàng)目于2021年投產(chǎn),2024年全部建成后,能夠提供約4.2萬(wàn)個(gè)機(jī)架,預(yù)計(jì)可帶動(dòng)大數(shù)據(jù)、人工智能等上下游產(chǎn)業(yè)鏈投資近500億元。位于安徽省合肥市,總投資預(yù)計(jì)超過(guò)100億元,可提供16000個(gè)中高密度機(jī)架,支持約30萬(wàn)臺(tái)服務(wù)器運(yùn)行,承載算力規(guī)模達(dá)到2.2EFLOPS。建設(shè)完善中已啟用中國(guó)電信長(zhǎng)三角國(guó)家樞紐嘉興算力中心可提供約1.56萬(wàn)架機(jī)柜資源,建成后將成為“國(guó)家云”建設(shè)核心基地、長(zhǎng)三角新型算力調(diào)度中心。正在建設(shè)中中國(guó)移動(dòng)呼和浩特智算中心20236205.5EFLOPS,國(guó)產(chǎn)化率超80%,其中打造的B07機(jī)房樓建成后將成為全球運(yùn)營(yíng)商最大的單體智算中心,算力規(guī)模達(dá)5.5EFlops,使用萬(wàn)片級(jí)AI加速芯片。正在建設(shè)中部分已啟用中國(guó)移動(dòng)中國(guó)移動(dòng)長(zhǎng)三角(蕪湖)算力中心項(xiàng)目總投資超20億元,規(guī)劃智算算力超2000PFLOPS,由新華三、六尺科技和安徽移動(dòng)蕪湖分公司聯(lián)合建設(shè),“東數(shù)西算”蕪湖集群首個(gè)大規(guī)模智算中心。正在建設(shè)中重慶移動(dòng)智算中心位于兩江新區(qū)水土新城,新增2000余臺(tái)高性能服務(wù)器。已揭牌中國(guó)移動(dòng)智算中心(武漢)項(xiàng)目預(yù)計(jì)2024年建成投運(yùn),首期規(guī)劃1000PFLOPS(A800、H800、昇騰910服務(wù)器),采用“風(fēng)冷+液冷”散熱模式。已完成規(guī)劃中國(guó)聯(lián)通(青島)智算中心位于青島市西海岸新區(qū),一期工程已建成2棟IDC機(jī)房,全部建成后將擁有6棟IDC機(jī)房,可提供12000個(gè)機(jī)柜。已啟用中國(guó)聯(lián)通中國(guó)聯(lián)通長(zhǎng)三角(蕪湖)智算中心603000P10000是中國(guó)聯(lián)通在長(zhǎng)三角地區(qū)等級(jí)最高、規(guī)模最大的智算中心。正在建設(shè)中中國(guó)聯(lián)通廣東Al智算中心位于廣東省深圳市,由中國(guó)聯(lián)通研究院、廣東聯(lián)通攜手華為建設(shè)的全棧自主創(chuàng)新AI智算中心,超過(guò)2000臺(tái)華為昇騰AI服務(wù)器。已投運(yùn)資料來(lái)源:工聯(lián)網(wǎng)iitime,03年全年騰訊資本開支為238.332.6%2023Q1、2023Q22023Q32023Q444.1139.3580.0575.24-36.7%+31.1%、+236.8%、+33.1%2023年前三季度單季資本開支同比均呈現(xiàn)下滑,2023Q12023Q2、2023Q3阿25.1360.0741.12-72.7%-46.0%-62.5%,2023Q4同比轉(zhuǎn)為正增72.8625.8%。行業(yè)深度報(bào)告圖7:國(guó)內(nèi)云廠商資本開支情況(百萬(wàn)元)阿里巴巴 騰訊 阿里巴巴YoY 騰訊YoY30000350%25000300%250%20000200%15000150%100%1000050%50000%-50%0-100%數(shù)據(jù)來(lái)源:Bloomberg,阿里巴巴官網(wǎng),騰訊官網(wǎng),,20243GTCGB200Blackwell4(4NP(Die形成一個(gè)BlackellGPUBlackellGPUGraceCPUGB200superchipBlackwellGPU2080H100800GB200NVL7227901.8MoEGPT8000HopperGPU,15兆瓦功率,如今同樣給90Blackwell2000GPU1/4的能源消耗。圖8:英偉達(dá)AI計(jì)算能力過(guò)去8年提升10000倍數(shù)據(jù)來(lái)源:英偉達(dá)GTC,禁運(yùn)持續(xù)升級(jí),國(guó)產(chǎn)化大勢(shì)所趨美國(guó)對(duì)中國(guó)先進(jìn)芯片進(jìn)口限制持續(xù)升級(jí)。20231020228月,美A100H100算力*位寬)≥4800且互聯(lián)帶寬≥600GB/sAI芯片出口,在制裁后,英偉達(dá)為中A800H800兩款“閹割版”芯片,主要在互聯(lián)速率和雙精度計(jì)算性能上做了限制。202310算力位寬超過(guò)4800(2TPP1600且P(TP芯片面積超過(guò)5.92(3)2400≤TPP4801.6≤PD<.92的芯片;(4)1600≤TPP3.2≤PD<5.92的芯片。在此要求下,A100/A800、H100/H200/H800、L4、L40s均H20、L20、L2芯片。而近日美國(guó)政府再次升2024330日凌晨,美國(guó)商務(wù)部下屬的工業(yè)與安BIS2022202310月制定的兩次出口限制新規(guī),全面限制英偉達(dá)、AMDAI芯片和半導(dǎo)體設(shè)備向中國(guó)銷售,此次新規(guī)中,BIS刪除和修訂D:5國(guó)家組將采取“推定拒AI國(guó)內(nèi)算力自立自強(qiáng)是必然趨勢(shì)。此前國(guó)內(nèi)對(duì)英偉達(dá)芯片依賴度較高,2022AI加速卡市場(chǎng)中,英85%10%、2%、1%、1%。IDC數(shù)據(jù)顯示,202350萬(wàn)張。從技術(shù)角度看,GPU90%的市場(chǎng)份,AI510%H20等在內(nèi)的海外芯片也預(yù)計(jì)H20NVLINK表4:英偉達(dá)部分芯片性能對(duì)比CoreH200SXMCoreH200SXM34TFLops67TFLops1979TFLops141GB4.8TB/s700WH100SXM34TFlops67TFlops1979TFlops80GB3.35TB/s700WH800SXM1TFlops67Tflops1979Tflops80GB3.35TB/s700WA10080GBSXM9.7TFlops19.5TFlops312TFlops80GB2039GB/s400WA80080GBSXM9.7TFlops19.5TFlops312TFlops80GB2039GB/s400WL40s-91.6TFlops362.05TFlops48GB864GB/s350WH201TFlops44Tflops148Tflops96GB4.0TB/s400WL20PCIe-59.8TFlops119.5TFlops48GB864GB/s275WL2PCIe-24.1Tflops96.5Tflops24GB300GB/sTBD

FP16Tensor

GPU內(nèi)存 GPU內(nèi)存帶寬 TDP interconnect資料來(lái)源:英偉達(dá)官網(wǎng),

PCIe5.0:128GB/sPCIe5.0:128GB/sPCIe5.0:128GB/sPCIe4.0:64GB/sPCIe4.0:64GB/sPCIe4.0:64GB/sPCIe5.0:128GB/sPCIe4.0:64GB/sPCIe4.0:64GB/sA100目前華為海思、寒武紀(jì)、平頭哥、壁仞科技、百度昆侖芯、燧原科技、海光等國(guó)內(nèi)GPU廠商均已推出用于訓(xùn)練、推理場(chǎng)景的算力芯片,并且持續(xù)迭代升級(jí),性能在不斷提升。而生態(tài)方面,國(guó)內(nèi)GPU廠商也推出軟件開發(fā)包,支持TensorFlow、Pytorch等主流框架,并且基于自身的軟件建立了開發(fā)平臺(tái),吸引更多的開發(fā)者建立完善生態(tài)體系。H20FP16910算力為256TFLOPS,略低于A100的312TFLOPS,相較于H100的1513TFLOPS有較大差距,但強(qiáng)于H20的148TFLOPS。此外,平頭哥含光800INT8BR100FP32精度均超過(guò)A100。在單顆芯片表5:國(guó)內(nèi)主要AI訓(xùn)練芯片與英偉達(dá)主流訓(xùn)練芯片對(duì)比廠商加速卡FP32(TFLOPS)FP16(TFLOPS)INT8(TOPS)功耗(W)顯存顯存帶寬A100PCIe19.531262440080GB1935GB/s英偉達(dá)A800PCIeH100PCIe19.5513121513624302640070080GB80GB1935GB/s3.35TB/sH204414829640096GB4TB/s華為海思昇騰910-256512350--壁仞科技BR1002561024204855064GB1.64TB/s平頭哥含光800--825276--寒武紀(jì)MLU370-X8249625625048GB614.4GB/s摩爾線程MTTS300015.2--25032GB448GB/s燧原云燧T2032--30032GB1.6TB/s資料來(lái)源:英偉達(dá)官網(wǎng),壁仞科技官網(wǎng),平頭哥官網(wǎng),摩爾線程官網(wǎng),燧原官網(wǎng),昇騰官網(wǎng),人民網(wǎng),三、國(guó)產(chǎn)算力產(chǎn)業(yè)鏈環(huán)節(jié)梳理服務(wù)器:AI高增,國(guó)產(chǎn)算力芯片發(fā)展或帶來(lái)格局生變年服務(wù)器市場(chǎng)整體出貨量不及預(yù)期。IDC數(shù)據(jù)顯示,2023315.6億美元,同0.5%306.622.8%20231284.71億4.26%11.8%、10.2%、9.7%8.9%2027年,市場(chǎng)規(guī)1891.39Trendforce20239.7%AI需求暴漲、全球整機(jī)支出向AI傾斜影響,通用服務(wù)器市場(chǎng)被進(jìn)一步壓縮。IDC數(shù)據(jù),2023年上半年CPUCPU13.4%AIIDC預(yù)計(jì),全球人工智能硬件市場(chǎng)(服務(wù)器)20221952026347億美元,年復(fù)合17.3%。IDC預(yù)計(jì),20239182.5%,202713421.8%。圖9:全球服務(wù)器和AI服務(wù)器規(guī)模預(yù)測(cè)(億美元) 圖10:中國(guó)AI服務(wù)器市場(chǎng)市場(chǎng)規(guī)模預(yù)測(cè)(百萬(wàn)美元)全球服務(wù)器市場(chǎng)規(guī)模,億美元全球人工智能硬件市場(chǎng)(服務(wù)器)全球服務(wù)器市場(chǎng)規(guī)模同比增速2000150020.1%15001232

14361285

1583

1737

25%20%15%10000

1954.3%

10.2%

347

10%5%0%2022 2023e 2024e 2025e 2026e數(shù)據(jù)來(lái)源:IDC, 數(shù)據(jù)來(lái)源:IDC,AI服務(wù)器占比提升和國(guó)產(chǎn)化率提升,國(guó)內(nèi)服務(wù)器廠商競(jìng)爭(zhēng)格局或存變數(shù)。此前服務(wù)器競(jìng)爭(zhēng)格局中,浪潮、新華三等廠商份額較高。202228%、17%、10%、6%、5%。2022AI服務(wù)器市場(chǎng)份額來(lái)看,浪潮、新華三、寧暢、安擎、坤47%、11%、9%、7%、6%、6%AI芯片占比的提升,AI服務(wù)器供GPUGPU新產(chǎn)品的推出以GPU生態(tài)也有望更加豐富,進(jìn)一步可能存在新的變化。CPU解決方案目前有海光、兆芯、瀾起,并以海光為主;ARM2021-2022PC服務(wù)器集采599825890141.43%2024PCX86服務(wù)器的1.71:1,ARMX86。圖11:中國(guó)服務(wù)器市場(chǎng)份額情況(2022年,%) 圖12:中國(guó)AI服務(wù)器市場(chǎng)份額情況(2022年,%)數(shù)據(jù)來(lái)源:IDC, 數(shù)據(jù)來(lái)源:IDC,行業(yè)深度報(bào)告表6:中國(guó)電信2023-2024年AI服務(wù)器集采中標(biāo)情況標(biāo)包排名企業(yè)名稱報(bào)價(jià)(含稅),元訓(xùn)練型1超聚變數(shù)字技術(shù)有限公司5,342,130,820.87風(fēng)冷服務(wù)器(I系列)2浪潮電子信息產(chǎn)業(yè)股份有限公司5,376,127.950.023紫光華山科技有限公司5,365,504,587.244寧暢信息產(chǎn)業(yè)(北京)有限公司5,384,213,138.445中興通訊股份有限公司5,285,535,434.186烽火通信科技股份有限公司5,040,734,142.757聯(lián)想(北京)信息技術(shù)有限公司5,208,044,679.61訓(xùn)練型1超聚變數(shù)字技術(shù)有限公司341,995,767.86液冷服務(wù)器(I系列)2浪潮電子信息產(chǎn)業(yè)股份有限公司344,327,286.693紫光華山科技有限公司342,200,460.584寧暢信息產(chǎn)業(yè)(北京)有限公司342,729,177.41訓(xùn)練型1四川華鯤振宇智能科技有限責(zé)任公司1,304,993,691.62風(fēng)冷服務(wù)器(G系列)2河南昆侖技術(shù)有限公司1,301,333,577.553烽火通信科技股份有限公司1,301,966,880.404寶德計(jì)算機(jī)系統(tǒng)股份有限公司1,308,854,254.135新華三信息技術(shù)有限公司1,301,879,376.596湖南湘江鯤鵬信息科技有限責(zé)任公司1,300,296,513.277北京神州數(shù)碼云科信息技術(shù)有限公司1,301,661,686.618黃河科技集團(tuán)信息產(chǎn)業(yè)發(fā)展有限公司1,307,306,069.38訓(xùn)練型1四川華鯤振宇智能科技有限責(zé)任公司1,477,099,321.33液冷服務(wù)器(G系列)2河南昆侖技術(shù)有限公司1,475,413,614.453烽火通信科技股份有限公司1,475,489,300.724新華三信息技術(shù)有限公司1,475,901,834.345寶德計(jì)算機(jī)系統(tǒng)股份有限公司1,484,725,722.976湖南湘江鯤鵬信息科技有限責(zé)任公司1,474,476,346.127北京神州數(shù)碼云科信息技術(shù)有限公司1.476,210,004.558黃河科技集團(tuán)信息產(chǎn)業(yè)發(fā)展有限公司1,484,431,732.00資料來(lái)源:中國(guó)電信,c114通信網(wǎng),表7:中國(guó)移動(dòng)2023年至2024年新型智算中心(試驗(yàn)網(wǎng))采購(gòu)項(xiàng)目(部分招標(biāo)情況)標(biāo) 中標(biāo)\產(chǎn)品包 位序

中標(biāo)候選人

報(bào)價(jià)(不含份額稅),元4 AI訓(xùn)練服務(wù)器(PCle風(fēng)冷),52臺(tái)

1 新華三術(shù)有公司 14,723,820 70%2烽火通信科技股份有限公司14,389,62630%5通用AI推理服務(wù)器(PCle風(fēng)冷),16臺(tái)1中興通訊股份有限公司3,629,945100%6特定場(chǎng)景AI推理服務(wù)器(PCle風(fēng)冷),64臺(tái)12新華三技術(shù)有限公司河南昆侖技術(shù)有限公司10,661,09310,149,56670%30%行業(yè)深度報(bào)告數(shù)據(jù)中心交換機(jī)(接入交換機(jī)),10套7 1數(shù)據(jù)中心交換機(jī)(出口交換機(jī)),2套華為技術(shù)有限公司,3,862,671100%數(shù)據(jù)中交換機(jī)(口交機(jī)),64套 1銳捷網(wǎng)絡(luò)股份有限公司67,483,07725%8數(shù)據(jù)中心交換機(jī)(接入交換機(jī)),128套2華為技術(shù)有限公司85,235,40075%-96套9-23套12華為技術(shù)有限公司曙光信息產(chǎn)業(yè)股份有限公司70%30%10 608許可1趨動(dòng)科技(上海)有限公司25,182,163100%11 AI訓(xùn)練服務(wù)器(扣卡液冷),356臺(tái)特定場(chǎng)景AI訓(xùn)練服務(wù)器(扣卡風(fēng)冷),106臺(tái)12特定場(chǎng)景AI訓(xùn)練服務(wù)器(扣卡液冷),1144臺(tái)

1 河南昆技術(shù)限公司 490,956,052 72%2 四川華振宇能科有限任司490,491,527 1 河南昆技術(shù)限公司2,473,721,502 2 四川華振宇能科有限任司2,473,721,365 3 烽火通科技份有公司2,473,729,237 4 神州數(shù)(中)有公司2,473,722,754 8%資料來(lái)源:中國(guó)移動(dòng)采購(gòu)與招標(biāo)網(wǎng),產(chǎn)品中標(biāo)位序中標(biāo)候選人報(bào)價(jià)(不含稅),元標(biāo)包6公有云服務(wù)器PC4產(chǎn)品中標(biāo)位序中標(biāo)候選人報(bào)價(jià)(不含稅),元標(biāo)包6公有云服務(wù)器PC4,2000臺(tái)第一第二中興通訊股份有限公司浪潮電子信息產(chǎn)業(yè)股份有限公司77,007,440.0077,179,600.00標(biāo)包9PC6,5000臺(tái)第一浪潮電子信息產(chǎn)業(yè)股份有限公司351,221,050.00第一四川虹信軟件股份有限公司724,862,246.93第二河南昆侖技術(shù)有限公司724,868,185.66標(biāo)包11C12-Z-ARM,11194臺(tái)第三第四黃河科技集團(tuán)信息產(chǎn)業(yè)發(fā)展有限公司武漢長(zhǎng)江計(jì)算科技有限公司724,863,075.59725,375,739.91第五神州數(shù)碼(中國(guó))有限公司724,863,351.81C1-Z-x86,762臺(tái)第一中興通訊股份有限公司343,638,579.78C12-Z-x86,6584臺(tái)第二中移(杭州)信息技術(shù)有限公司353,355,888.96第一河南昆侖技術(shù)有限公司993,236,142.46C3-Z,10166臺(tái)第二黃河科技集團(tuán)信息產(chǎn)業(yè)發(fā)展有限公司993,242,410.82C4-Z,193臺(tái)第三四川虹信軟件股份有限公司993,236,527.21第四武漢長(zhǎng)江計(jì)算科技有限公司993,239,765.84第一河南昆侖技術(shù)有限公司2,897,396,503.49第二四川虹信軟件股份有限公司2,938,659,339.69C1-Z-ARM,2617臺(tái)1213標(biāo)包14

B1-Z-ARM,14384臺(tái)B2-Z-ARM,23520臺(tái)B3-Z-ARM,4039臺(tái)

第三 武漢長(zhǎng)計(jì)算技有公司 2,938,665,727.88第四 寶德計(jì)機(jī)系股份限公司 2,903,287,752.18第五 同方股有限司 2,900,340,878.46第六 湖南湘鯤鵬息科有限任司 2,938,665,035.47第一 河南昆技術(shù)限公司 398,087,460.82標(biāo)包16 S4-Z-ARM,4918臺(tái)

第二 四川虹軟件份有公司 405,397,182.58行業(yè)深度報(bào)告標(biāo)包20

S5-Z,7171臺(tái)S2-Z,3170臺(tái)S3-Z,5066臺(tái)S1-Z,6465臺(tái)資料來(lái)源:中國(guó)移動(dòng)采購(gòu)與招標(biāo)網(wǎng),交換機(jī):以太網(wǎng)高速產(chǎn)品逐步成熟,高端產(chǎn)品預(yù)計(jì)實(shí)現(xiàn)快速增長(zhǎng)AI部署需要更大的網(wǎng)絡(luò)容量,數(shù)據(jù)中心交換帶寬當(dāng)前處于每?jī)赡攴环乃俣瓤焖僭鲩L(zhǎng)。20228月,Tomahawk551.2T,serdes100Gb/sec800G,可以800G、1.6T102.4T1.6T、3.2T網(wǎng)絡(luò)奠定基礎(chǔ)。圖13:光通信行業(yè)光口和電口升級(jí)迭代示意圖數(shù)據(jù)來(lái)源:Naddod,AIIDC44220.1%13.6%41.5%,2023年200/400GbE68.9%2023高速交換機(jī)20242024800Gbps2027400Gbps/800Gbps40%AI算力芯片供應(yīng)短缺等影響,IDC數(shù)據(jù),20234%(202250億美元),但20239.1%,隨著國(guó)內(nèi)算力建設(shè),預(yù)計(jì)國(guó)內(nèi)高端交換機(jī)滲透提升將加速,拉動(dòng)整體需求。圖14:全球交換機(jī)市場(chǎng)規(guī)模(億美元) 圖15:交換機(jī)不同SerDes速率情況全球以太網(wǎng)交換機(jī)市場(chǎng)規(guī)模,億美元 同比增速44220%365 44220%365 21%2893045%0%400 20%300 15%200 10%100 5%0 0%2020 2021 2022 2023數(shù)據(jù)來(lái)源:IDC, 數(shù)據(jù)來(lái)源:fibermall,Infiniband當(dāng)前份額提升。AI高性能計(jì)算場(chǎng)景對(duì)于網(wǎng)絡(luò)性能要求進(jìn)一步提升。InfiniBand最重要的一個(gè)特RDMA協(xié)議(遠(yuǎn)程直接內(nèi)存訪問(wèn)),TCP/IPRDMA可以InfiniBand技術(shù)以端到端流量控制為網(wǎng)絡(luò)數(shù)據(jù)包收發(fā)的基礎(chǔ),能夠確保無(wú)擁塞發(fā)出報(bào)文,從而大幅降低規(guī)避丟包所導(dǎo)致的InfiniBandSHARP(可擴(kuò)展分層聚合和歸約協(xié)議InfiniBand作為一個(gè)用于高性能計(jì)算的網(wǎng)絡(luò)通信標(biāo)準(zhǔn),其優(yōu)勢(shì)在于高吞吐和低延遲,可以用于計(jì)算機(jī)和計(jì)算機(jī)、計(jì)算機(jī)和400Gb/sIBTAXDR800Gb/s1600Gb/s2GDR產(chǎn)品,1600Gb/sIBNvidia(Mellanox公司Intel(Qlogic公司InfinibandAI市場(chǎng)處于領(lǐng)先地位。圖16:全球top500廠商IB和以太網(wǎng)部署份額情況(%)60.0%50.0%40.0%30.0%20.0%10.0%2014年6月2014年11月2015年6月2015年11月2016年6月2016年2014年6月2014年11月2015年6月2015年11月2016年6月2016年11月2017年6月2017年11月2018年6月2018年11月2019年6月2019年11月2020年6月2020年11月2021年6月2021年11月2022年6月2022年11月2023年6月2023年11月Infiniband GigabitEthernet數(shù)據(jù)來(lái)源:top500,RDMAoverConvergedEthernet)的出現(xiàn)和成熟,RDMA在基于以太網(wǎng)的數(shù)據(jù)中心得到規(guī)模應(yīng)用。IBTA2010年發(fā)布了RoCE2014RoCEv2協(xié)議技術(shù)標(biāo)準(zhǔn),經(jīng)過(guò)多年的發(fā)展,RoCE已經(jīng)具備路由能力,且在性能表現(xiàn)提升明顯。202211月,BroadcomArista(RoCE)的遠(yuǎn)程直接內(nèi)存訪問(wèn)(RDMA)優(yōu)化的開放式端到端網(wǎng)絡(luò)解決方案。20235NVIDIASpectrum-X,交換帶51.2TRoCENVIDIARDMARDMARDMA通過(guò)硬件實(shí)現(xiàn)高帶寬低時(shí)CPUAIUEC、GSE,進(jìn)一步提升以太網(wǎng)傳輸性能。20237月,硬件設(shè)備廠商博通、AMD、思科、英特爾、Arista、Eviden、HPMetaUEC(UltraEthernetConsortium,超以太網(wǎng)聯(lián)盟),在物理層、鏈路層、傳輸層和軟件方面致力于開發(fā)開放的“UltraEthernet”解決方案,打造高RDMA更靈活。202383020239行業(yè)深度報(bào)告圖17:傳統(tǒng)傳輸模式和RDMA傳輸模式對(duì)比 圖18:GSE技術(shù)分層架構(gòu)數(shù)據(jù)來(lái)源:搜狐, 數(shù)據(jù)來(lái)源:《全調(diào)度以太網(wǎng)技術(shù)架構(gòu)白皮書》,CPO、硅光等技術(shù)將在高端交換機(jī)中使用。共封裝光學(xué)(CPO)是業(yè)界公認(rèn)的未來(lái)更高速率光通信的主流640G51.2T,Serdes速率不22CPOSerdes的功耗,因此51.2TCPOMetaCPO20236月首發(fā)51.2T800GCPOCPO硅光技術(shù)、液冷散熱設(shè)計(jì)、智能無(wú)損等技術(shù),滿足智算網(wǎng)絡(luò)RoCE51.2TNPO25.6TNPO交換機(jī)等產(chǎn)品。圖19:CPO將顯著降低成本和功耗 圖20:博通TH5-Baily51.2TCPO方案數(shù)據(jù)來(lái)源:博通,forbes, 數(shù)據(jù)來(lái)源:博通,36kr,半導(dǎo)體行業(yè)觀察,AIGPU相關(guān)訂單預(yù)計(jì)將實(shí)現(xiàn)高速增長(zhǎng)。交換機(jī)具備技術(shù)AIArista、HPEIDC數(shù)據(jù),2023(34.5%)(30.9%)51.2T2022351.2TNPO2023651.2T800GCPO(H3CS9827系列)20231151.2T(SC8670EL-128QH)。202351.2T白盒交換TCS9500B5020行業(yè)深度報(bào)告圖21:2022Q4-2023Q4全球交換機(jī)廠商收入情況(百萬(wàn)美元)圖22:2023Q1中國(guó)交換機(jī)市場(chǎng)份額(%)數(shù)據(jù)來(lái)源:IDC, 數(shù)據(jù)來(lái)源:IDC,云頭條,CPUPHYPCB/202097.8%61.7%、20.0%16.1%的市占率排名前三位,盛1.6%2024Arctic25.6Tbps800G,面向超大規(guī)模數(shù)據(jù)中心,交換容量基本達(dá)到頭部競(jìng)爭(zhēng)對(duì)手水平。圖23:中國(guó)以太網(wǎng)芯片各應(yīng)用場(chǎng)景市場(chǎng)規(guī)模情況(億元) 圖24:中國(guó)以太網(wǎng)芯片各端口速率市場(chǎng)規(guī)模情況(億元)數(shù)據(jù)來(lái)源:灼識(shí)咨詢,盛科通信, 數(shù)據(jù)來(lái)源:灼識(shí)咨詢,盛科通信,2024400G等光模塊需求大幅增長(zhǎng)2022800G速率升級(jí),2024800G光模塊的出貨量預(yù)計(jì)大幅增長(zhǎng)。800GSerdes的100G50GBaud(EML的速率),PAM4100G速率。800G光模塊2022年底開始小批量出貨,2023(含自用與外售2024800G預(yù)計(jì)有望大幅增長(zhǎng)。行業(yè)深度報(bào)告圖25:光模塊速率已經(jīng)升級(jí)到800G數(shù)據(jù)來(lái)源:博通官網(wǎng),1.6T20242025AIbit1.6T100Gbps100G升級(jí)到200G。得益于網(wǎng)絡(luò)較高的性價(jià)比,1.6T光模塊有望加速應(yīng)用,有望在2024年下半年小批量出貨并有望在2025年大幅增長(zhǎng),從下游客戶來(lái)看,英偉達(dá)、谷歌和亞馬遜可能會(huì)是1.6T光模塊的主要需求方。圖26:OSFPMSA和4x400GMSA的1.6T主要方案 圖27:Marvell用于光模塊中的DSP產(chǎn)品升級(jí)示意圖數(shù)據(jù)來(lái)源:OSFPMSA, 數(shù)據(jù)來(lái)源:Marvell,nextplatform,400GCSP800G產(chǎn)A100GPU200GGPU800GA100GPUMellanoxHDR200Gb/sInfinibandH100GPUMellanoxNDR400Gb/sInfinibandH100SuperPOD800G1800G2400G8SerDes8100G通道一一對(duì)應(yīng)。因此,在這GPUPCIe,PCIe連接Atlas300TA2PCIePCIex16Gen5.01*200GEQSFP-DD1400G2200G光模塊的方PCIex16Gen5.0400G光模塊實(shí)現(xiàn)無(wú)阻塞。AI服務(wù)器發(fā)貨增長(zhǎng),預(yù)計(jì)也將帶動(dòng)相關(guān)光模塊環(huán)節(jié)放量。行業(yè)深度報(bào)告表9:PCIe迭代情況PCIExpress推出Line編碼原始傳輸率有效帶寬版本時(shí)間×1 ×2×4×8×161.020038b/10b2.5GT/s250MB/s 0.50GB/s1.0GB/s2.0GB/s4.0GB/s2.020078b/10b5.0GT/s500MB/s 1.0GB/s2.0GB/s4.0GB/s8.0GB/s3.02010128b/130b8.0GT/s984.6MB/s 1.97GB/S3.94GB/s7.88GB/S15.75GB/s4.02017128b/130b16.0GT/s1969MB/s 3.94GB/s7.88GB/s15.75GB/s31.51GB/s5.02019NRZ128b/130b32.0GT/s3938MB/s 7.88GB/S15.75GB/31.51GB/s63.02GB/PAM4&FEC6.0 2021 64.0GT/S~7800MB/s ~15.7GB/s~31.4GB/s~62GB/s~124GB/s128b/130b資料來(lái)源:PCI-SIG,界面新聞,液冷:產(chǎn)業(yè)趨勢(shì)明確,2024年進(jìn)入液冷規(guī)模部署階段GPUAI2000W。液冷預(yù)計(jì)將成blackwellcomputenodeliquid-cooledMGXdesign圖28:冷板式液冷方案 圖29:兩相浸沒式液冷方案數(shù)據(jù)來(lái)源:《綠色高能效數(shù)據(jù)中心散熱冷卻技術(shù)研究現(xiàn)狀及發(fā)展趨勢(shì)》,

數(shù)據(jù)來(lái)源:《綠色高能效數(shù)據(jù)中心散熱冷卻技術(shù)研究現(xiàn)狀及發(fā)展趨勢(shì)》,CDU、manifold等,以及對(duì)于散熱進(jìn)行補(bǔ)充的風(fēng)冷部分。服務(wù)器內(nèi)部的環(huán)節(jié),主要由服務(wù)器廠商進(jìn)行采購(gòu),部分芯片廠商在供應(yīng)鏈環(huán)節(jié)具備一定話語(yǔ)權(quán)。CDU、Manifold相關(guān)的冷量分配系統(tǒng),主要由互聯(lián)網(wǎng)廠商、運(yùn)營(yíng)商、數(shù)據(jù)中心廠商或集成商、模塊化設(shè)備提供商等下游客戶進(jìn)行采購(gòu)。不同廠商參與的環(huán)節(jié)不同,整體的業(yè)務(wù)可達(dá)空間也存在差異。行業(yè)深度報(bào)告圖30:冷板式液冷整體鏈路圖數(shù)據(jù)來(lái)源:《綠色數(shù)據(jù)中心創(chuàng)新實(shí)踐--冷板液冷系統(tǒng)設(shè)計(jì)參考》,近期海外算力相關(guān)散熱供應(yīng)鏈公司也積極布局液冷。超微電腦表示,至2024年6月,超威電腦的液冷機(jī)架1500500030%2024450%50%AVCAI2024年下半年起小量出貨,2025202440倍以上。CoolerMaster203年1月發(fā)布了一體液冷主機(jī)oolingX和迷你液冷主機(jī)SeaerX2024年初公布了公司的戰(zhàn)略藍(lán)圖,DIY服務(wù)的耦合視角下推進(jìn)技術(shù)生態(tài)系統(tǒng)布局。圖31:維諦Vertiv風(fēng)液混合制冷方案(冷板液冷和風(fēng)冷)數(shù)據(jù)來(lái)源:Vertiv官網(wǎng),行業(yè)深度報(bào)告國(guó)內(nèi)運(yùn)營(yíng)商快速推進(jìn),新增AI服務(wù)器招標(biāo)中液冷滲透比例已經(jīng)達(dá)到大份額。20236月,三大運(yùn)營(yíng)商聯(lián)202310%規(guī)模試20238AI(2023-2024年G系列訓(xùn)練型服務(wù)器中,風(fēng)冷、液冷的比例已經(jīng)相當(dāng)。2023920232024年新型智算中心(試驗(yàn)網(wǎng))集采(4-121-3采購(gòu)失?。〢I1658臺(tái)(其中150090%)AI80臺(tái)(6480%)。2002024年將進(jìn)入規(guī)模部署階PUE監(jiān)管要求的實(shí)質(zhì)性落地,AI服務(wù)器出貨量、KW200的發(fā)展,帶動(dòng)服務(wù)器的量有望進(jìn)一步明顯提升,行業(yè)規(guī)模有望進(jìn)一步打開。表10:國(guó)內(nèi)數(shù)據(jù)中心液冷市場(chǎng)規(guī)??锼鉇I服務(wù)器通用服務(wù)器20242025中期中期GPU/GPU量,萬(wàn)片100200400800功耗,kw0.40.50.80.5液冷總體單價(jià),元/kw10000800040005000液冷滲透率40%70%90%70%液冷空間,億元1656115140資料來(lái)源:IDC,賽迪,英偉達(dá)官網(wǎng),昇騰官網(wǎng),中國(guó)電信,中國(guó)移動(dòng),國(guó)內(nèi)上市公司也在積極布局液冷,不同廠商參與環(huán)節(jié)不同,對(duì)應(yīng)的市場(chǎng)空間、直接客戶、能力要求也存在GPUCDUmanifold等主要面向最終客戶、第三方數(shù)據(jù)中心廠商、集成商、整柜級(jí)產(chǎn)品提供商等銷售,更加注重整個(gè)制冷循環(huán)的系統(tǒng)設(shè)計(jì)能力等。注:英維克、飛榮達(dá)、科創(chuàng)新源、申菱環(huán)境、高瀾股份、網(wǎng)宿科技等。表11:國(guó)內(nèi)部分上市公司液冷布局公司 液冷相布局英維克

公司是國(guó)內(nèi)領(lǐng)先的精密溫控節(jié)能解決方案和產(chǎn)品提供商。公司的電子散熱業(yè)務(wù)定位于熱源環(huán)節(jié)的散熱/導(dǎo)熱,包括液冷部件//AAU/RRU900MW曙光數(shù)創(chuàng)

公司浸沒液冷產(chǎn)品及冷板液冷產(chǎn)品可以解決算力數(shù)據(jù)中心的散熱問(wèn)題。公司產(chǎn)品已應(yīng)用于多家金融、互聯(lián)網(wǎng)、IDC等行業(yè)用戶。行業(yè)深度報(bào)告飛榮達(dá)

VC3DVCFacebookgoogle精研科技 2023公司熱業(yè)的產(chǎn)結(jié)構(gòu)經(jīng)從之的VC、熱、風(fēng)模逐步向冷和冷模調(diào)整??苿?chuàng)新源

申菱環(huán)境

高瀾股份

CDU資料來(lái)源:ifind,連接器/線束:AI等升級(jí)通信連接器是傳輸電流及信號(hào)的關(guān)鍵器件,主要應(yīng)用在各類通訊設(shè)備如服務(wù)器、5G通訊基站、服務(wù)器、數(shù)據(jù)中心、以太網(wǎng)、高端存儲(chǔ)設(shè)備等場(chǎng)景。通信領(lǐng)域的連接器產(chǎn)品多為定制化產(chǎn)品,會(huì)同時(shí)使用電連接器、射DDR接器、數(shù)據(jù)傳輸模塊用夾層連接器、電源模塊用大電流連接器、光傳輸模塊用光纖連接器、信號(hào)傳輸模塊用高I/OI/O類連接器主要包括Type-AType-C、RJ45SFPQSFPD-SUBPCIeDDRMini-SASMini-SASHDGenZSlimSAS、高速背板連接器等。行業(yè)深度報(bào)告圖32:服務(wù)器部分連接器示意圖數(shù)據(jù)來(lái)源:安費(fèi)諾官網(wǎng),AI發(fā)展,GPU性能不斷提升,相關(guān)數(shù)據(jù)中心連接系統(tǒng)架構(gòu)也向高速升級(jí),從10Gbps-40Gbps向56Gbps、112Gbps、224Gbps等持續(xù)迭代升級(jí),當(dāng)前海外已經(jīng)發(fā)展到224Gbps的數(shù)據(jù)傳輸速率,以滿足人工智能、1.6T網(wǎng)絡(luò)等高速連接場(chǎng)景的需求。常用的信號(hào)傳輸分為單端信號(hào)和差分信號(hào),差分信號(hào)由兩根單端信號(hào)構(gòu)成,發(fā)射器傳輸差分信號(hào)時(shí),會(huì)將單端信號(hào)拆分成兩個(gè)信號(hào)幅值相等相位相反的兩個(gè)信號(hào),再由接收器識(shí)別轉(zhuǎn)化為單端信號(hào),接收器會(huì)將兩個(gè)單端信號(hào)做一個(gè)減法,得到的信號(hào)幅值將是單個(gè)信號(hào)的兩倍。差分信號(hào)由于抗干擾能力強(qiáng),在高速信號(hào)傳輸中被廣泛應(yīng)用。連接器速率提升的過(guò)程中,對(duì)PCB路由復(fù)雜性、PCB材料和層數(shù)、散熱、微間距下的串?dāng)_和插入損耗等提出更高要求,技術(shù)難度顯著提升。以差分阻抗為例,差分阻抗和上升時(shí)間強(qiáng)相關(guān),上升時(shí)間越短,阻抗波動(dòng)越大,阻抗越難控制;上升時(shí)間和帶寬成反比,對(duì)于速率越高的產(chǎn)品,阻抗波動(dòng)會(huì)越大,匹配難度會(huì)明顯增加。AIAtlas900AICable背板連接器架構(gòu),實(shí)現(xiàn)服務(wù)器間及服務(wù)器與接入層交換機(jī)的互聯(lián)。當(dāng)前,傳統(tǒng)的背板架構(gòu)(所有板卡插在背板的同一面,通過(guò)無(wú)源銅背板上的走線完成各板卡直接的交互)存在走線長(zhǎng)、損耗大,無(wú)法滿足帶寬和容量等瓶頸,正交架構(gòu)未來(lái)滲透有望提升。正交架構(gòu)是指主控板、線路板、接口板等與交換網(wǎng)板處于正交的硬件結(jié)構(gòu),通過(guò)正交連接器直接相連,進(jìn)一步更大限度縮短了線路板到交換網(wǎng)的走線距離。行業(yè)深度報(bào)告圖33:華為NetEngine8000X8路由器正交架構(gòu) 圖34:英偉達(dá)GB200NVL72服務(wù)器與RACK連接方式 數(shù)據(jù)來(lái)源:華為官網(wǎng), 數(shù)據(jù)來(lái)源:英偉達(dá)GTC,高速I/O連接器:I/O連接器主要用于交換機(jī)與交換機(jī)、交換機(jī)與服務(wù)器之間的數(shù)據(jù)傳輸,此前主要SFP28/SFP56、QSFP28/QSFP56I/O連接器進(jìn)行連接,56GbpsQSFP-DDI/O400G端口容I/O112G、224G64×224GbpsQSFP-DD64×224GbpsOSFP512×224Gbps=102.4T1.6Tbps(224Gbps×8)32×OSFPXD512×224Gbps=02T3.2Tbs224bs×16使用64×OSFPXD的形態(tài),支持1024×112Gbps=204.8T規(guī)格的芯片,單口3.2Tbps(224Gbps×16)。圖35:高速I/O連接器與光模塊互聯(lián)數(shù)據(jù)來(lái)源:安費(fèi)諾官網(wǎng),考慮到隨著帶寬和速率提升,電信號(hào)的有效傳輸距離將明顯縮短,我們認(rèn)為未來(lái)光學(xué)方案的滲透率將提升。電PCBTraceTrace損耗增加,因此有效傳輸距離將明顯縮短。IEEEP802.3df100Gbps2m200Gbps1m的可行性,Intel認(rèn)為在優(yōu)良材料上可達(dá)到1m。隨著速率的持續(xù)提升,我們認(rèn)為未來(lái)光學(xué)方案的滲透率將提升,而短期內(nèi)光學(xué)方案的功耗和成本問(wèn)題,將會(huì)有新技術(shù)或新產(chǎn)品來(lái)解決,但底層仍然會(huì)是光學(xué)方案。行業(yè)深度報(bào)告表12:DAC、AOC、ACC、AEC對(duì)比DAC無(wú)源銅線 AOC有源光纜 ACC有源銅線 AEC有源電纜銅線(采用retimer芯片傳輸介質(zhì) 銅線 光纖

銅線(使用Redriver

結(jié)構(gòu),通過(guò)重定時(shí)器進(jìn)行信號(hào)整形和放大)最大傳距離 約3米 最高100米 比DAC長(zhǎng)2-3米 3-7米功耗 小于0.1w 約10w 高于DAC AOC的一成本 相對(duì)較低 高于DAC 高于DAC 介于DAC和AOC之間應(yīng)用場(chǎng)景

數(shù)據(jù)中心的高速段距離連接

數(shù)據(jù)中心和高性能計(jì)算環(huán)境中,連接網(wǎng)絡(luò)設(shè)備、服務(wù)器、存儲(chǔ)設(shè)備以及其他網(wǎng)絡(luò)組件

70%布線空間特點(diǎn)線的客戶

輕便、長(zhǎng)傳輸距離、易布線和對(duì)電磁輻射不敏感,適合有長(zhǎng)距離傳輸和高性能要求的客戶

DACAOC功耗低

占用空間小,成本功耗相對(duì)于AOC有優(yōu)勢(shì)資料來(lái)源:光纖在線,目前在224Gbps的連接系統(tǒng)中,仍以海外廠商更為領(lǐng)先,安費(fèi)諾、Molex、TI等全球頭部廠商推出了相對(duì)完整的224G連接系統(tǒng)解決方案。國(guó)內(nèi)由于整體網(wǎng)絡(luò)側(cè)部署升級(jí)略晚于海外,同樣連接系統(tǒng)升級(jí)也會(huì)略晚于海外。當(dāng)前國(guó)內(nèi)廠商產(chǎn)品仍以56Gbps為主,在部分產(chǎn)品領(lǐng)域?qū)崿F(xiàn)112Gbps、224Gbps產(chǎn)品突破。表13:國(guó)內(nèi)部分連接器上市公司相關(guān)布局情況公司 情況金信諾

56Gbps112Gbps2023年上半112G20%-30%5GPCIE6.0THHW-LSAP光電I/O(CAGE)等通訊連接AI6G技術(shù)56G-112G-224GQSFP112GQSFP-DD等系列112Gbps。//PCB/5GIoT等新//AI/行業(yè)深度報(bào)告太辰光

/TOR與服birchstream(pcie5.0)birdstream(pcie6.0)。25G400Gbps(AOC)(DAC25G400G400G-DR4硅光模25G800G硅光模塊和CPO202376.1%chatgptAI20243155M-1.6TDACIntel200GperlanePIC1.6T800G2*FR4AI應(yīng)用和資料來(lái)源:ifind,PCB:AIPCB升級(jí),利好頭部份額和盈利提升AI發(fā)展驅(qū)動(dòng)AI服務(wù)器、HPC、交換機(jī)和存儲(chǔ)等基礎(chǔ)設(shè)施系統(tǒng)對(duì)大尺寸、高層數(shù)、高階HDI以及高頻高速PCB產(chǎn)品的強(qiáng)勁需求,并對(duì)其技術(shù)層次和品質(zhì)提出更高的要求,拉動(dòng)PCB需求增長(zhǎng)。AIGPUPCBPCBGPUPCBDIGITIMESA100H100GPUPCB16-24GB200OAM/UBB,采用M8CCL20GPUPCBBAIH系30-40%2)CPUPCIe5.0CPUPCBCPU2-3年會(huì)進(jìn)行一次升級(jí)換代,以滿足新的應(yīng)用場(chǎng)景下數(shù)據(jù)傳輸速率和運(yùn)行頻率不斷增加的要求,博通表示,PCIeIntelCPUPCIe3.04.05.0,傳輸速率最/超低損耗/PCBPCB主流板材為8-16層,對(duì)應(yīng)PCIe3.0一般為8-12層,4.0為12-16層,而5.0平臺(tái)則在16層以上。行業(yè)深度報(bào)告圖36:PCIe技術(shù)發(fā)展情況數(shù)據(jù)來(lái)源:博通,forbes,圖37:Intel

溫馨提示

  • 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

最新文檔

評(píng)論

0/150

提交評(píng)論