2024年中國算力行業(yè)研究報(bào)告 -算力基礎(chǔ)設(shè)施建設(shè)：中國速度與質(zhì)量并進(jìn)

資料來源：行行查研究中心www.hanghangcha.服務(wù)器/算力網(wǎng)關(guān)/數(shù)據(jù)交換機(jī)資料來源：行行查研究中心www.hanghangcha.資料來源：中國信通院，撼地產(chǎn)業(yè)研究院，行行查研究中心www.hanghangcha.基于基于CPU芯片的服務(wù)器所提供的算力，主要用于計(jì)算復(fù)雜度適中的云計(jì)算、邊緣計(jì)算類場景，通常這些場景對(duì)實(shí)時(shí)性有一定要求，不適合完全將本地?cái)?shù)據(jù)搬到異地計(jì)算，如移動(dòng)計(jì)算和物聯(lián)網(wǎng)等?；诨贕PU、FPGA、ASIC等AI芯片的加速計(jì)算平臺(tái)提供的算力，主要用于人工智能的訓(xùn)練和推理計(jì)算，智算中心可以根據(jù)不同細(xì)分領(lǐng)域業(yè)務(wù)的算力需求匹配相應(yīng)的計(jì)算能力。對(duì)于人工智能的模型訓(xùn)練及推理來說，處理文字、語音、圖片或視頻等需求較大，單精度、半精度、甚至整型的智能計(jì)算才能夠滿足應(yīng)用需要。由超級(jí)計(jì)算機(jī)等高性能計(jì)算集群所提供的算力由超級(jí)計(jì)算機(jī)等高性能計(jì)算集群所提供的算力，主要用于尖端科學(xué)領(lǐng)域的計(jì)算，比如行星模擬、藥物分子設(shè)計(jì)、基因分析、天體物理、氣象研究、航空航天等需要復(fù)雜運(yùn)算、高性能雙精度算力的高精尖科研領(lǐng)域。同時(shí)，不同超級(jí)計(jì)算機(jī)的處理器、加速卡、框架等各不相同，商業(yè)化服務(wù)門檻高。網(wǎng)絡(luò)運(yùn)載力網(wǎng)絡(luò)運(yùn)載力數(shù)據(jù)要素算力信息計(jì)算力數(shù)據(jù)要素算力信息計(jì)算力規(guī)模/經(jīng)濟(jì)效益/供需規(guī)模/經(jīng)濟(jì)效益/供需數(shù)據(jù)儲(chǔ)存力數(shù)據(jù)儲(chǔ)存力資料來源：公開資料整理，行行查研究中心www.hanghangcha.在算力單位中在算力單位中，F(xiàn)LOPS和OPS的級(jí)別通常以Kilo/Mega/Giga/Tera/Peta/Exa來表示，其中PetaFLOPS（每秒千萬億次浮點(diǎn)運(yùn)算）是常用的單位之一。AI算力的常見單位包括TOPS（每秒萬億次操作）和TFLOPS（每秒萬億次浮點(diǎn)操作）。推理算力通常以TOPS為單位來衡量，而訓(xùn)練算力則常用TFLOPS來衡量。TFLOPS數(shù)值越高，反映了模型在訓(xùn)練時(shí)的效率越高。2024年4月，工業(yè)和信息化部表示，中國算力實(shí)現(xiàn)每秒230百億億次浮點(diǎn)運(yùn)算。P（PetaFLOPS，千萬億次浮點(diǎn)運(yùn)算每秒）P（PetaFLOPS，千萬億次浮點(diǎn)運(yùn)算每秒）用于衡量計(jì)算機(jī)每秒鐘能執(zhí)行多少DMIPS（Dhrystone每秒鐘執(zhí)行的百萬指令數(shù)基于Dhrystone基準(zhǔn)測試得出的每秒鐘執(zhí)行的百萬指OPS（每秒操作次數(shù)）：衡量計(jì)算）：于衡量數(shù)字貨幣挖礦機(jī)每秒鐘能做資料來源：華為《泛在算力》，撼地產(chǎn)業(yè)研究院，行行查研究中心www.hanghangcha.算力行業(yè)發(fā)展歷程：算力成為衡量城市/企電氣化算力-電子數(shù)字計(jì)算機(jī)阿塔納索夫-貝瑞發(fā)明了第一電氣化算力-電子數(shù)字計(jì)算機(jī)阿塔納索夫-貝瑞發(fā)明了第一臺(tái)電子數(shù)字計(jì)算機(jī)?；谌肆Φ乃懔?算盤算盤是中國古代勞動(dòng)人民發(fā)明創(chuàng)造的一種簡便的計(jì)算IBM公司推出第一款智能手機(jī)Simon，搭載NECV30HL機(jī)械化算力-機(jī)械式計(jì)算器法國科學(xué)家Blasie機(jī)械化算力-機(jī)械式計(jì)算器法國科學(xué)家BlasiePascal一引用算盤的原理，發(fā)明第一部機(jī)械式計(jì)算器。云端計(jì)算中心邊緣設(shè)備智能手機(jī)智能手表1947年貝爾實(shí)驗(yàn)室發(fā)明晶體管；1958年JackKilby和RobertNoyce發(fā)明集成電路。隨著云計(jì)算市場的成熟，數(shù)據(jù)中心的建設(shè)隨著云計(jì)算市場的成熟，數(shù)據(jù)中心的建設(shè)開始加速。人工智能和算力的結(jié)合也在這個(gè)時(shí)期正式拉開帷幕，為國產(chǎn)算力產(chǎn)業(yè)注入了新的活力。根據(jù)工信部數(shù)據(jù)，中國的算力總規(guī)模在近年來快速增長，智能算力規(guī)模年復(fù)合增長率預(yù)計(jì)高達(dá)50%。同時(shí)，越來越多的城市開始建設(shè)超算中心和智算中心，為國產(chǎn)算力的發(fā)展提供了有力隨著互聯(lián)網(wǎng)產(chǎn)業(yè)的快速發(fā)展，國產(chǎn)云計(jì)算產(chǎn)業(yè)開始崛起。例如，阿里云在2006年推出的國產(chǎn)云計(jì)算操作系統(tǒng)“飛天”，標(biāo)志著中國云計(jì)算商業(yè)化進(jìn)程的開啟，同時(shí)也為國產(chǎn)算力產(chǎn)業(yè)奠定了資料來源：行行查研究中心www.hanghangcha. 算力網(wǎng)絡(luò)及平臺(tái)基礎(chǔ)設(shè)施算力服務(wù)網(wǎng)絡(luò)安全 算力網(wǎng)絡(luò)及平臺(tái)基礎(chǔ)設(shè)施算力服務(wù)網(wǎng)絡(luò)安全基礎(chǔ)硬件基礎(chǔ)軟件設(shè)備資料來源：英偉達(dá)，中國信通院，行行查研究中心www.hanghangcha.控制緩存微量），Alpha資料來源：英偉達(dá)，快科技，產(chǎn)業(yè)信息網(wǎng)，公開資料整理，行行查研究中心www.hanghangcha.集成GPU獨(dú)立GPU獨(dú)立GPU低高低高低高是否資料來源：電子發(fā)燒友，ADLINK，行行查研究中心www.hanghangcha.內(nèi)部連線內(nèi)部連線CLBCLB（可配置邏輯模塊）CLBCLB（可配置邏輯模塊）（第一款商用FPGAXC2064）全定制全定制小傳感器驅(qū)動(dòng)電路門陣列口數(shù)字信號(hào)處理傳感器驅(qū)動(dòng)電路門陣列口數(shù)字信號(hào)處理半定制標(biāo)準(zhǔn)單元通信接口標(biāo)準(zhǔn)單元通信接口溫度傳感器快慢高低寄存器緩存寄存器緩存主存儲(chǔ)器（內(nèi)存）輔助存儲(chǔ)器（外存）可編程可編程資料來源：德邦研究所，納芯微招股說明書，電子工程世界，GoldmanSachs，AMD，行行查研究中心www.hanghangcha.資料來源：憶恒創(chuàng)源招股書，IDC，行行查研究中心www.hanghangcha.主要組件非主要組件非主要組件使用對(duì)象及功能多用于IT、動(dòng)畫設(shè)計(jì)等行業(yè)，在滿足使用要求的同時(shí)能夠保障數(shù)據(jù)安全性、速度穩(wěn)定性和長期耐用性個(gè)人電腦使用，能夠?qū)崿F(xiàn)高速流暢操作關(guān)注點(diǎn)以及穩(wěn)定性，要求可靠性、長時(shí)間運(yùn)作、高M(jìn)TBF注重順序性能、功耗、價(jià)格等因素顆粒材質(zhì)穩(wěn)定系數(shù)較高的顆粒材質(zhì)對(duì)材質(zhì)要求相對(duì)較低性能穩(wěn)定性讀寫低延遲，要求SSD讀寫速度以及快速響應(yīng)等初始讀寫性能較高，隨著使用時(shí)間的增加而逐步降速延遲以最少的延遲量訪問存儲(chǔ)設(shè)備，要求極低延遲對(duì)于用戶而言，可接受的延遲相對(duì)較長數(shù)據(jù)完整性在各種惡劣環(huán)境都不能出現(xiàn)數(shù)據(jù)丟失只保護(hù)FTL數(shù)據(jù)，但不需要保護(hù)DRAM緩存中其他用戶數(shù)據(jù)斷電保護(hù)配置配備專用電容，突然斷電時(shí)，SSD控制器將從專用電容中獲取電能只能做到基礎(chǔ)斷電保護(hù)負(fù)載周期24小時(shí)不間斷訪問，24x7負(fù)載周期約8小時(shí)充分利用，80%左右的時(shí)間處于空閑狀態(tài)大約200萬-250萬小時(shí)大約150萬小時(shí)區(qū)可通過專業(yè)數(shù)據(jù)軟件發(fā)熱量小，平均功耗資料來源：搜狐，馬塞諸塞大學(xué)官網(wǎng)，ADVANTECH，巨靈鳥軟件，公開資料整理，行行查研究中心資料來源：《東數(shù)西算場景下的算力網(wǎng)關(guān)研發(fā)及應(yīng)用》，行行查研究中心www.hanghangcha.算力路由模塊算力路由模塊數(shù)據(jù)庫數(shù)據(jù)庫管理界面管理界面其他應(yīng)用其他應(yīng)用硬件驅(qū)動(dòng)硬件驅(qū)動(dòng)外圍硬件交換芯片CPU芯片網(wǎng)卡外圍硬件交換芯片算力交易平臺(tái)算力交易平臺(tái)算力網(wǎng)關(guān)G1算力網(wǎng)關(guān)U應(yīng)用服務(wù)供應(yīng)商算力網(wǎng)關(guān)U應(yīng)用服務(wù)供應(yīng)商算力網(wǎng)關(guān)G2資料來源：騰訊云官網(wǎng)，德邦研究所，星融元官網(wǎng)，公開資料整理，行行查研究中心www.hanghangcha.高性能和低延遲具備高速數(shù)據(jù)傳輸和低延遲的特點(diǎn)，以滿足數(shù)據(jù)中心對(duì)高性能計(jì)算和大數(shù)據(jù)處理的需求。它們通常采用高速以太網(wǎng)技術(shù)，如千兆以太網(wǎng)（GbE）或萬兆以太網(wǎng)（10GbE）。大型數(shù)據(jù)中心：能夠滿足高性能計(jì)算、大數(shù)據(jù)處理和云服務(wù)等對(duì)網(wǎng)絡(luò)性能和可靠性的高要求。大容量和可伸縮性通常具有大量的端口和高度可伸縮的設(shè)計(jì)，以支持連接大量服務(wù)器和網(wǎng)絡(luò)設(shè)備。它們可以通過堆疊或模塊化擴(kuò)展來適應(yīng)不斷增長的數(shù)據(jù)中大型企業(yè)網(wǎng)絡(luò)：對(duì)于大規(guī)模的企業(yè)網(wǎng)絡(luò)，數(shù)據(jù)中心交換機(jī)提供了可擴(kuò)展性和高度靈活性的解決方案。高可靠性和冗余性通常具備冗余電源、冗余風(fēng)扇和熱插拔模塊等特性，以提供高可用性和故障恢復(fù)能力。這是因?yàn)閿?shù)據(jù)中心的連續(xù)性對(duì)于企業(yè)的正常運(yùn)營至高負(fù)載環(huán)境：在需要處理大量網(wǎng)絡(luò)流量和復(fù)雜網(wǎng)絡(luò)管理的環(huán)境中，數(shù)據(jù)中心交換機(jī)能夠提供高吞吐量和流量控接接入層匯聚層匯聚層核核心層>端口數(shù)量較少支持高速連接數(shù)據(jù)傳輸?shù)脱舆t>承載大量的流量連接方式靈活支持上行、下行鏈路連接>高性能和高可用性大容量的交換能力高速的轉(zhuǎn)發(fā)能力數(shù)據(jù)中心交換機(jī)的特點(diǎn)數(shù)據(jù)中心交換機(jī)的特點(diǎn)液冷主要原理為用液體替代空氣作為冷媒，為發(fā)熱器件液冷主要原理為用液體替代空氣作為冷媒，為發(fā)熱器件非接觸式液冷接觸式液冷噴淋式冷板式浸沒式液冷相變浸沒式單相浸沒式原理冷板貼近服務(wù)器芯片等高發(fā)熱元件，利用冷板中冷卻液帶走熱量；同時(shí)增設(shè)風(fēng)冷單元帶走低服務(wù)器完全浸沒在冷卻液中，冷卻液循環(huán)流動(dòng)并冷卻液從服務(wù)器機(jī)箔成本制冷工質(zhì)、設(shè)備、改造可適度改造原有服務(wù)最高散熱效率面向科研人員和科學(xué)計(jì)算幫助用戶降本增效或提升盈存在多個(gè)技術(shù)路線，互聯(lián)標(biāo)準(zhǔn)不一、重復(fù)建設(shè)CSP內(nèi)部互聯(lián)、跨CSP隔離安全水以提升國家及地方自主科研創(chuàng)新能力為目的，重點(diǎn)支持各種大規(guī)?？茖W(xué)計(jì)算算力生產(chǎn)供應(yīng)平臺(tái)、數(shù)據(jù)開放面向AI典型應(yīng)用場景，如知識(shí)資料來源：CSDN，《電信運(yùn)營商液冷技術(shù)白皮書》，《數(shù)據(jù)中心用浸沒式冷卻液的研究進(jìn)展》，華為官網(wǎng)，銳捷網(wǎng)絡(luò)官網(wǎng)，Vertiv官網(wǎng)，安費(fèi)諾官網(wǎng)，《智能計(jì)算中資料來源：中國信通院，行行查研究中心www.hanghangcha.國防驅(qū)動(dòng)階段（1950s-1960s）早期的計(jì)算機(jī)科學(xué)研究有著濃厚的國防軍事色彩。20世紀(jì)50年代后期，美國政府主要根據(jù)國家安全需求來支持情報(bào)和核武器應(yīng)用研究。國家安全是開發(fā)超級(jí)計(jì)算技術(shù)的主要推動(dòng)力。20世紀(jì)60年代初的IBM7030Stretch和SperryRandUNIVACLARC正是在這樣的背景之下誕生的，因?yàn)槠溆?jì)算速度顯著超出頂尖商用機(jī)的數(shù)量級(jí)而被視為早期的超級(jí)計(jì)算機(jī)。公司主導(dǎo)階段（1960s一1970s）20世紀(jì)60年代中期到70年代末期，美國乃至全球的超級(jí)計(jì)算機(jī)行業(yè)主要由ControlData和CrayResearch兩家公司主導(dǎo)。在這一階段，超級(jí)計(jì)算機(jī)的成本得到有效控制，同時(shí)向量處理技術(shù)的速度得到了大幅提升，大量廉價(jià)高速的計(jì)算機(jī)走向商品市場。蓬勃發(fā)展階段（1980s-1990s）20世紀(jì)80年代，日本政府大規(guī)模補(bǔ)貼計(jì)算機(jī)科研項(xiàng)目，同時(shí)推行排除國外競爭對(duì)手的產(chǎn)業(yè)政策。到了90年代，一批深耕半導(dǎo)體領(lǐng)域的日本計(jì)算機(jī)公司，如富士通、日立、NEC等，成功獲取IBM大型機(jī)技術(shù)的關(guān)鍵部分，并在本土推出了價(jià)格實(shí)惠的商用計(jì)算機(jī)系統(tǒng)。20世紀(jì)80年代，業(yè)界開始轉(zhuǎn)向大規(guī)模并行運(yùn)算系統(tǒng)。多向發(fā)展階段（21世紀(jì)以來）21世紀(jì)以來，超級(jí)計(jì)算機(jī)開始呈現(xiàn)多極化發(fā)展。MPP系統(tǒng)、集群系統(tǒng)的應(yīng)用進(jìn)一步提高了超級(jí)計(jì)算機(jī)性能，每秒千萬億次的P級(jí)超級(jí)計(jì)算機(jī)已經(jīng)相對(duì)成熟，各個(gè)國家、各個(gè)科研機(jī)構(gòu)和供應(yīng)商正在E級(jí)超級(jí)計(jì)算機(jī)的研制中激烈競爭。 互聯(lián)網(wǎng) 互聯(lián)網(wǎng) 以太網(wǎng)超高速計(jì)算網(wǎng)以太網(wǎng)超高速計(jì)算網(wǎng)___」邊緣交換機(jī)___」邊緣交換機(jī)計(jì)算域安全域安全防護(hù)集群管理域存儲(chǔ)域計(jì)算域安全域安全防護(hù)集群管理域存儲(chǔ)域以太網(wǎng)超高速傳輸網(wǎng)絡(luò)管理與調(diào)度集群管理與調(diào)度集群計(jì)算系統(tǒng)建議采用統(tǒng)一的硬件平臺(tái)來更好的執(zhí)行越來越多的高性能計(jì)算任務(wù)，以提升資源利用率以及運(yùn)營效率。同時(shí)計(jì)算子系統(tǒng)的硬件設(shè)計(jì)建議需要兼顧不同算力業(yè)務(wù)的訴求，能夠提供多元化的容量來進(jìn)行數(shù)據(jù)和算據(jù)存儲(chǔ)。存儲(chǔ)系統(tǒng)建議采等多個(gè)網(wǎng)絡(luò)平面，為超算系統(tǒng)間各個(gè)硬件設(shè)備以化等功能。資源與業(yè)務(wù)監(jiān)控建議實(shí)現(xiàn)計(jì)算資源、安全系統(tǒng)可由防火墻、負(fù)載均衡、堡壘機(jī)、抗LinpackLinpack是國際上最流行的用于測試高性能計(jì)算機(jī)系Linpack是國際上最流行的用于測試高性能計(jì)算機(jī)系高斯消元法求解一元N次稠密線性代數(shù)方程組的測試，評(píng)價(jià)高性能計(jì)算機(jī)的浮點(diǎn)性能。Linpack測試包括三的測試工具。測試結(jié)果以浮點(diǎn)運(yùn)算每秒（Flops）給HPCG高性能共軛梯度基準(zhǔn)測試HPCG高性能共軛梯度基準(zhǔn)測試，是現(xiàn)在算性能測試程序之一，也是Graph500的一項(xiàng)重要指標(biāo)。HPCG基準(zhǔn)項(xiàng)目旨在創(chuàng)建一個(gè)新的HPC系統(tǒng)排名但并非全部。HPCG的設(shè)計(jì)目的是使基準(zhǔn)的計(jì)算和數(shù)資料來源：中國信通院，公開資料整理，行行查研究中心資料來源：中國信通院，鈦媒體，公開資料整理，清華大學(xué)，行行查研究中心www.hanghangcha.練Llana2（70B）消耗688兆瓦時(shí)的電量幾萬至幾十萬條精標(biāo)數(shù)據(jù)機(jī)器翻幾萬至幾十萬條精標(biāo)數(shù)據(jù)機(jī)器翻幾十億條無標(biāo)注數(shù)據(jù)百條以內(nèi)精標(biāo)數(shù)據(jù)機(jī)器翻機(jī)器翻資料來源：MichaelAndersch，創(chuàng)新奇智招股書，行行查研究中心www.hanghangcha.“狗”“人類的臉”錯(cuò)誤推理訓(xùn)練大量樣本“狗”“人類的臉”錯(cuò)誤推理訓(xùn)練大量樣本“人類的臉”少量、多元化樣本數(shù)據(jù)資源數(shù)據(jù)資源硬件集成AI硬件集成AI算法部署以供重新使用存入數(shù)據(jù)庫預(yù)處理存入數(shù)據(jù)庫測試數(shù)據(jù)化訓(xùn)練數(shù)據(jù)部署復(fù)用部署以供重新使用存入數(shù)據(jù)庫預(yù)處理存入數(shù)據(jù)庫測試數(shù)據(jù)化訓(xùn)練數(shù)據(jù)部署復(fù)用存入數(shù)據(jù)庫部署復(fù)用存入數(shù)據(jù)庫資料來源：中國科學(xué)院，行行查研究中心www.hanghangcha.針對(duì)當(dāng)前原創(chuàng)藥物面臨新靶標(biāo)短缺的瓶頸問題針對(duì)當(dāng)前原創(chuàng)藥物面臨新靶標(biāo)短缺的瓶頸問題團(tuán)隊(duì)以計(jì)算生物學(xué)和分子模擬為手段，依托超算開展了前列腺癌新靶標(biāo)和新藥物研究。針對(duì)前列腺癌治療中的關(guān)鍵雄激素受體蛋白特點(diǎn)，研究團(tuán)隊(duì)分析潛在有效的小分子藥物特征，利用算法從上億分子中篩選出萬級(jí)分子庫，并進(jìn)一步篩選出具有蛋白靶點(diǎn)特異性并適合臨床的分子。經(jīng)過層層篩選和優(yōu)化，研究團(tuán)隊(duì)最終獲得了抗腫瘤活性較高的藥物，為克服臨床耐藥提供了重要的靶點(diǎn)和藥物候選物。血流動(dòng)力學(xué)分析血流動(dòng)力學(xué)分析受制于計(jì)算能力，目前血流動(dòng)力學(xué)分析主要集中在單器官的模擬，而臨床上有很多疾病，如心源性腦中風(fēng)、繼發(fā)性高血壓，需要同時(shí)考慮多個(gè)器官的相互影響。中科院深圳先進(jìn)技術(shù)研究院研究員介紹了“天河二號(hào)”超級(jí)計(jì)算機(jī)在人體多器官耦合血流動(dòng)力學(xué)模擬中發(fā)揮的巨大作用，并介紹了非牛頓流體力學(xué)結(jié)合有限元方法對(duì)血管數(shù)值模擬的合理性、可行性、準(zhǔn)確性以及并行性能。整合和分析多組學(xué)數(shù)據(jù)，利用多種先進(jìn)的人工智能技術(shù)，整合和分析多組學(xué)數(shù)據(jù)，利用多種先進(jìn)的人工智能技術(shù)，搭建基于超級(jí)計(jì)算機(jī)的AI藥物發(fā)現(xiàn)平臺(tái)，提供綜合全面的藥物研發(fā)支撐服務(wù)和應(yīng)用。通過多種任務(wù)聯(lián)合學(xué)習(xí)，解決生物醫(yī)藥小樣本問題；通過藥物擾動(dòng)知識(shí)譜圖，構(gòu)造解釋性子圖；構(gòu)建模塊化的分子生成接口和服務(wù)，實(shí)現(xiàn)全面靈活的AI開發(fā)平臺(tái)。擾動(dòng)知識(shí)圖譜嵌入空間解釋性子圖資料來源：中國信通院，智慧軌道交通產(chǎn)業(yè)觀察，行行查研究中心www.hanghangcha. 駕駛APP1駕駛APP2駕駛APP1駕駛APP2邊緣計(jì)算業(yè)務(wù)平臺(tái)高科技化智慧運(yùn)營綜合集成化智能數(shù)據(jù)分析云中心用戶客戶端邊緣云計(jì)算節(jié)點(diǎn)邊緣轉(zhuǎn)碼邊緣分發(fā)用戶客戶端邊緣云計(jì)算節(jié)點(diǎn)邊緣轉(zhuǎn)碼邊緣分發(fā)主播客戶端主播推送直播流拉取直播流內(nèi)容生產(chǎn)端平臺(tái)服務(wù)端用戶應(yīng)用端主播推送直播流拉取直播流內(nèi)容生產(chǎn)端平臺(tái)服務(wù)端用戶應(yīng)用端中心A中心B中心C中心D中心E中心F…….中心N推流SDK推流SDK推送直播流推送直播流推流節(jié)點(diǎn)服務(wù)推流節(jié)點(diǎn)服務(wù)服務(wù)資料來源：中國信通院，阿里云，行行查研究中心資料來源：中國信通院，行行查研究中心www.hanghangcha.40040000201520162017201820192020202120222008004000mm中