人工智能行業(yè)市場前景及投資研究報告：液冷GPU服務(wù)器生成式AI加速度

液冷GPU服務(wù)器助推生成式AI跑出加速度人工智能產(chǎn)業(yè)規(guī)模據(jù)IDC數(shù)據(jù)，2022年全球人工智能收入同比增長19.6%，達(dá)到4328億美元，包括軟件、硬件和服務(wù)。2023年ChatGPT的爆火更為AI市場帶來全新的機(jī)遇和挑戰(zhàn)。隨著推理工作負(fù)載在各行業(yè)應(yīng)用中不斷增加，高并發(fā)的數(shù)據(jù)計算無處不在，GPU在訓(xùn)練負(fù)載中具有絕對優(yōu)勢，同時高算力低能耗且適應(yīng)各類復(fù)雜環(huán)境的芯片將更受關(guān)注。人工智能產(chǎn)業(yè)圖譜人工智能用戶層城市公共事業(yè)企業(yè)級客戶消費(fèi)者AI＋泛安防AI＋金融AI＋醫(yī)療AI＋泛互聯(lián)網(wǎng)對話式AIAI＋工業(yè)人工智能應(yīng)用層自主無人系統(tǒng)AI＋零售人工智能基礎(chǔ)層人工智能技術(shù)層AI訓(xùn)練框架商用版AI應(yīng)用模型效率化生產(chǎn)平臺AI開發(fā)平臺計算機(jī)視覺語音識別自然語言處理機(jī)器學(xué)習(xí)知識圖譜硬件基礎(chǔ)設(shè)施層數(shù)據(jù)存儲設(shè)施物聯(lián)網(wǎng)與微型傳感器通信與信息網(wǎng)絡(luò)生成式AI的興起不同于區(qū)分式AI，生成式AI是一種利用算法自動生成、操縱或合成數(shù)據(jù)的技術(shù)，能夠創(chuàng)造出原本不存在的事物，工作原理通常分為兩個階段：訓(xùn)練和生成。而訓(xùn)練生成式AI模型是一項復(fù)雜任務(wù)，一般分為四個步驟：數(shù)據(jù)收集數(shù)據(jù)預(yù)處理模型選擇模型訓(xùn)練這個過程需要大量計算資源和時間，必將引爆新一輪的算力需求。生成式AI訓(xùn)練-生成工作流生成式AI應(yīng)用領(lǐng)域圖形圖像人

臉

生

成音

樂

創(chuàng)

作圖

像

修

復(fù)風(fēng)

格

遷

移文學(xué)創(chuàng)作小

說

創(chuàng)

作新

聞

編

輯知

識

科

普游戲開發(fā)科研教育劇

情

設(shè)

計地

圖

設(shè)

計角

色

生

成藥

物

研

發(fā)細(xì)

胞

結(jié)

構(gòu)

預(yù)

測編

程

教

育人工智能研發(fā)路線圖Proc

e

ssorSegment/UseCasesSe

rv

e

r

Prod

u

c

t2

0

2

02

0

2

12

0

2

22

0

2

3VG

A

G

e

n

3?N

e

xt

G

e

nKI4208G-MS2KI4208G-MS32

路機(jī)塔換式4GPU優(yōu)化適署高形用和性工于高能作面性計站向能算等對有空要間求端場部的圖景?2

n

d

G

e

n

e

ra

t

ionIn

t

e

l?

Xe

on

?

Sc

a

la

b

leProc

e

ssors1

6

DIM

M

s8

×

3

.

5

”

d

riv

e

sd

u

a

l

1

0

G

b

E?3

rd

G

e

n

e

ra

t

ionIn

t

e

l?

Xe

on

?

Sc

a

la

b

le

Proc

e

ssors、

高應(yīng)????用2200W1+1/1200W1+1In

t

e

l?

Xe

on

?

Sc

a

la

b

leFa

m

il

y全面升級支持3rdGenIntel?Xe

on

?

Sc

a

la

b

leKI4200G-HS2Fa

m

il

y2

路

4

U

機(jī)架8GPU優(yōu)化適用于圖形渲染、深KI4

2

0

0

G

-H

S3度化算集學(xué)學(xué)和型習(xí)分虛行、天體算物理、計密?2

n

d

G

e

n

e

ra

t

ionIn

t

e

l?

Xe

on

?

Sc

a

la

b

leProc

e

ssors2

4

DIM

M

s2

4

×

2

.

5

”

/

3

.

5

”

d

riv

e

sd

u

a

l

1

0

G

b

E子擬業(yè)計化或、云、

計應(yīng)算??????3

rd

G

e

n

e

ra

t

ionIn

t

e

l?

Xe

on

?

Sc

a

la

b

le

Proc

e

ssors2

4

/

3

6

DIM

M

s用2

0

0

0

W

2

+

2

/

1

2

0

0

W

冗余

電

源KA4208G-MS32路塔式服務(wù)器KA4208G適署高形用和性工于高能作面性計站向能算等對有空要間求端場部的圖景全面升級支持A

M

D

?

EPYC?Fa

m

il

y、

高應(yīng)4

t

h

A

M

D

?

EPYC?Fa

m

il

y??3

n

d

A

M

D

?

EPYC?

7

0

0

31

6

DIM

M

s用?4ndAMD?EPYC?7004Key:ShippingInDevelopmentPlanning/NextGen坤前訓(xùn)練/推理服務(wù)器采用基于IntelC622系列芯片組的雙路服務(wù)器，支持雙路的英特爾?至強(qiáng)?可擴(kuò)展系列處理器；處理器支持更多核心，支持AVX-512指令集處理器之間采用更多、更快的UPI總線，大幅提升CPU之間協(xié)作效率；KI2212-MK2服務(wù)器是一款為滿足資源密集型應(yīng)用開發(fā)的，基于新一代英特爾?至強(qiáng)?可擴(kuò)展處理器平臺設(shè)計開發(fā)的2U機(jī)架式服務(wù)器。模塊化設(shè)計提高了產(chǎn)品的靈活性和易用性，適合更多彈性部署。?最大支持16DIMM，大幅提高內(nèi)存帶寬，更加適合圖形渲染、多媒體編輯等處理工作；??最大支持12個3.5寸熱插拔存儲盤位，前置3.5寸盤可免工具安裝；最大支持3個PCIe

4.0×16

Slots、3個PCIe

4.0×8

Slots；坤前模型訓(xùn)練服務(wù)器??最大支持2顆新一代英特爾?至強(qiáng)?可擴(kuò)展處理器，可提供強(qiáng)大的計算能力最大支持24DIMM，6TB3DSECC

DIMM/LRDIMMDDR42933MHz內(nèi)存，大幅提高內(nèi)存帶寬；???最大支持24個3.5寸或者24個2.5寸熱插拔存儲盤位；最大支持8片雙寬或者20片單寬業(yè)界主流專業(yè)GPU加速卡；集成雙萬兆網(wǎng)絡(luò)端口，支持鏈路匯聚以及綁定冗余功能，網(wǎng)絡(luò)高速互聯(lián)為GPU計算集群提供了高密度、高性能的節(jié)點(diǎn)平臺，適合多種應(yīng)用需求標(biāo)配；2000W2＋2冗余電源；坤前KI4200G系列服務(wù)器是一款為滿足對空間部署和高性能要求的高端圖形工作站/服務(wù)器產(chǎn)品?；谟⑻貭?至強(qiáng)?可擴(kuò)展處理器平臺設(shè)計開發(fā)的4U雙路機(jī)架式GPU服務(wù)器。在4U高度空間中可支持8片雙寬或者20片單寬圖形計算加速卡，該產(chǎn)品體現(xiàn)了性能、擴(kuò)展性和密度的完美融合。?坤前AI圖形工作站???????采用IntelC621A芯片組設(shè)計，提供了強(qiáng)大的系統(tǒng)IO帶寬；具備超強(qiáng)的專業(yè)顯卡擴(kuò)展能力，保證系統(tǒng)在高配置下的散熱和穩(wěn)定；最大支持雙路英特爾?至強(qiáng)?可擴(kuò)展處理器；最大支持16DIMM，使用最新高性能內(nèi)存，顯著提高內(nèi)存讀寫速率；最大支持8個3.5寸熱插拔存儲盤位；坤前KI4208G服務(wù)器是一款為滿足對空間部署和高性能要求的高端圖形工作站產(chǎn)品。基于英特爾?至強(qiáng)?可擴(kuò)展處理器，以及瀾起-津逮系列處理器平臺設(shè)計開發(fā)的塔式GPU服務(wù)器。在塔式空間中支持4片雙寬NVIDIA圖形計算加速卡，該產(chǎn)品體現(xiàn)了性能、擴(kuò)展性和密度的完美融合?？芍С?片雙寬業(yè)界主流NVIDIA或Intel

Phi專業(yè)GPU圖形計算加速卡；配合專業(yè)的機(jī)箱設(shè)計，保證系統(tǒng)在高配置下的散熱和穩(wěn)定的同時，可有效降低機(jī)器噪音。坤前邊緣計算服務(wù)器?????采用IntelC621A芯片組，支持兩顆英特爾?第三代至強(qiáng)?可擴(kuò)展系列處理器；8DIMM內(nèi)存插槽，采用ECCDDR4設(shè)計速度高達(dá)3200MT/s，提高內(nèi)存讀寫速率；u全新一代坤前KI2200E采用英特爾?新一代至強(qiáng)?可擴(kuò)展處理器平臺設(shè)計開發(fā)的2U雙路超短機(jī)箱設(shè)計的邊緣計算一體。采用PCI-E4.0協(xié)議，x16雙向帶寬達(dá)到了64GB/s，以更高的速度完成總線數(shù)據(jù)傳輸；最大支持4片單寬半高業(yè)界主流的異構(gòu)計算卡，實(shí)現(xiàn)對邊緣端計算應(yīng)用的需求；u該機(jī)器采用異構(gòu)計算架構(gòu)，結(jié)合PCIe

4.0高速協(xié)議，讓用戶體驗(yàn)異構(gòu)計算與PCIe帶寬，帶來的高速計算效能，并實(shí)現(xiàn)客戶的各種定制化需求550W1+1高能效比冗余電源；坤前邊緣計算服務(wù)器????最大支持2顆英特爾?至強(qiáng)?可擴(kuò)展處理器，可提供強(qiáng)大的計算能力；支持16DIMMDDR4內(nèi)存插槽，最高可支持2933Mhz；支持6個PCIE3.0擴(kuò)展槽，性能更高，擴(kuò)展性更強(qiáng)；最大支持4片單寬半高業(yè)界主流的GPU計算加速卡，實(shí)現(xiàn)對邊緣端計算應(yīng)用的需求；坤前KI2204E

是一款基于新一代英特爾至強(qiáng)可擴(kuò)展處理器的雙路2U計算服務(wù)器，采用智能散熱系統(tǒng)，根據(jù)熱關(guān)鍵器件溫度綜合調(diào)節(jié)風(fēng)扇轉(zhuǎn)速，節(jié)能的同時降低了噪音并提高風(fēng)扇的可靠性.?集成雙千兆網(wǎng)絡(luò)端口，支持鏈路匯聚以及綁定冗余功能，適合多種應(yīng)用需求；??標(biāo)配550W1＋1冗余電源；超短機(jī)箱【450mm(長）×438mm（寬）×88mm（高）】坤前邊緣計算服務(wù)器?????支持雙路的英特爾?至強(qiáng)?可擴(kuò)展系列處理器；支持更多核心，采用更多、更快的UPI總線，大幅提升CPU之間協(xié)作效率；可選SASRAID卡，支持RAID0/1/5/6/50/60，支持Cache超級電容保護(hù)，提供RAID狀態(tài)遷移、RAID配置記憶等功能；最大8DIMM內(nèi)存插槽，2TB3DSECC

LRDIMM/RDIMMDDR43200MHz，使用最新高性能內(nèi)存，顯著提高內(nèi)存讀寫速率；坤前KI4208E是一款基于新一代英特爾?至強(qiáng)?可擴(kuò)展處理器，設(shè)計開發(fā)的雙路高性能邊緣計算產(chǎn)品。適用于面向智能制造、機(jī)器視覺的視覺分析、高端圖形工作站等應(yīng)用場景；例如：機(jī)器視覺、虛擬現(xiàn)實(shí)、圖像分析、圖形渲染、多媒體編輯、二維/三維設(shè)計、網(wǎng)絡(luò)游戲處理等。提供4個PCIe

4.0

×

16的擴(kuò)展支持，最大支持2片雙寬或4張單寬專業(yè)圖形卡及計算加速卡；集成雙千兆RJ45網(wǎng)絡(luò)端口，支持鏈路匯聚以及綁定冗余功能；坤前AI集群管理平臺?支持可視化操作，降低了集群管理難度；??支持資源按需分配，有效提高集群資源利用率；預(yù)置豐富的軟件環(huán)境，協(xié)助用戶快速搭建應(yīng)用；?實(shí)時監(jiān)控系統(tǒng)運(yùn)行，有效保持系統(tǒng)的高可用狀態(tài)；?提供完善的用戶管理功能，構(gòu)建安全、公平、靈活的計算環(huán)境；坤前人工智能領(lǐng)域布局車

牌

識

別身

份

證

識

別駕

駛

證

識

別智

慧

城

市智能安防違

法

識

別人

臉

1

：

1

比

對研

發(fā)

設(shè)

計生

產(chǎn)

制

造經(jīng)

營

管

理運(yùn)

維

服

務(wù)智能制造智慧能源模型仿真模型設(shè)計缺陷檢測視覺引導(dǎo)數(shù)字化運(yùn)營供應(yīng)鏈管理故障預(yù)測安全生產(chǎn)車

牌

支

付違

規(guī)

監(jiān)

控車

流

分

析安

全

防

范安

全

卸

油E

T

C

支

付智

能

客

服智

能

營

銷高

性

能

計

算智

能

催

收智

能

風(fēng)

控智

能

監(jiān)

控智慧金融數(shù)據(jù)中心耗能現(xiàn)狀大型及以上數(shù)據(jù)中心機(jī)架數(shù)量將IT設(shè)備一直以來都是數(shù)據(jù)中心等數(shù)字化基建的能耗大預(yù)計20262021年頭，主要包括服務(wù)器、網(wǎng)絡(luò)等負(fù)責(zé)進(jìn)行信息交換存達(dá)到802萬個儲的設(shè)備，約占總體用能的40%左右。?

中國的數(shù)據(jù)總量占全球數(shù)據(jù)總量的27.8%；?

全國數(shù)據(jù)中心能源消耗達(dá)到2166億千瓦時，較2020年增加44%，占全社會用電量2.6%左右；?

二氧化碳排放量約1.35億噸，較2020年增加3915萬噸，占全國二氧化碳排放量的1.14%左右。隨著由ChatGPT開啟的生成式AI技術(shù)和產(chǎn)品持續(xù)落地，以大模型為代表的AI技術(shù)對于高性能計算提出了更高的要求。同時，在雙碳政策的要求下，通過限制高PUE值IDC入場來實(shí)現(xiàn)綠色計算目標(biāo)。大型及以上數(shù)據(jù)中心機(jī)架數(shù)量2020年P(guān)UE=數(shù)據(jù)中心總耗電

/

IT設(shè)備耗電達(dá)到498萬個從風(fēng)冷到液冷帶走熱量導(dǎo)熱能力噪音水平耗電量3000倍25倍降低

25-30分貝節(jié)省

30%-50%帶走熱量導(dǎo)熱能力噪音水平耗電量熱量帶走更多溫度傳遞更快噪音水平更低耗電耗能更省液冷：更高效率，更低能耗，是當(dāng)下應(yīng)對生成式AI、超密度計算的高算力缺口和“功耗墻”的一場技術(shù)革命。優(yōu)勢：超靜音，可實(shí)現(xiàn)風(fēng)冷所無法解決的250W以上功率的散熱需求，顯著降低數(shù)據(jù)中心PUE值不足：后期維護(hù)較風(fēng)冷而言更復(fù)雜全新液冷GPU服務(wù)器雙路Intel

Xeon18

*

DDR42

*

1Gb

RJ4512

*

3.5寸4

*

PCIe

4.0

*

162

*

PCle

4.0

*

87

*

USB

3.01

*

M.2搭載新一代英特爾?至強(qiáng)?可擴(kuò)展處理器，為用戶800W

1＋1(可選配1200W

1+1）各項應(yīng)用提供更高性能。先進(jìn)的風(fēng)道設(shè)計，支持高效液冷套件，實(shí)現(xiàn)風(fēng)液混合散熱系統(tǒng)設(shè)計，保證機(jī)器高負(fù)載下的穩(wěn)定運(yùn)行。RAID

0/1/5/6/50/60更好

更快

更環(huán)?！?/p>

性能卓越

穩(wěn)定高效●最大支持2顆英特爾?至強(qiáng)?可擴(kuò)展處理器，性能提升顯著●最大支持4片雙寬計算加速卡，并對CAD、仿真模擬、GCC渲染、GPU計算等應(yīng)用進(jìn)行了優(yōu)化●最大支持16DIMMs，最大容量6T，大幅提高內(nèi)存帶寬，更加適合圖形渲染、多媒體編輯等處理工作●

綠色降碳

節(jié)能環(huán)?！?/p>

靈活部署

便捷運(yùn)維●風(fēng)液式CDU散熱，通過冷卻液帶走更多CPU和GPU熱量●保證系統(tǒng)在高配置下散熱和穩(wěn)定的同時，可有效降低機(jī)器噪音●單節(jié)點(diǎn)部署，無需外循環(huán)，較整柜式而言部署更靈活●靈活配置，最大支持8個3.5寸熱插拔/SATA/SAS存儲盤位。提供RAID狀態(tài)遷移、RAID配置記憶等功能●智能運(yùn)維，搭載液晶顯示屏，實(shí)時監(jiān)測設(shè)備溫度、冷卻液壓力、流量等●可實(shí)現(xiàn)數(shù)據(jù)中心PUE降至1.1，顯著降低空調(diào)系統(tǒng)和相應(yīng)基礎(chǔ)設(shè)施的投資，提高空間利用率更好

更快

更環(huán)保ü

可實(shí)現(xiàn)第三代英特爾?至強(qiáng)?可擴(kuò)展處理器平臺250W以上的散熱需求ü

與傳統(tǒng)風(fēng)冷式相比，能耗降低約30%，噪音降低約25分貝ü

專業(yè)的機(jī)箱設(shè)計實(shí)現(xiàn)了并行計算性能、存儲擴(kuò)展性與節(jié)能環(huán)保的完美融合ü

單節(jié)點(diǎn)部署，無需外循環(huán)，較整柜式而言部署更靈活支持圖形渲染、多媒體編輯、3D建模、設(shè)計、動畫、網(wǎng)絡(luò)游戲處理等場景坤前助力某人工智能公司生成式AI開發(fā)針對客戶需求，坤前計算機(jī)選擇用液冷GPU服務(wù)器I4200GLC為該公司搭建AI算力集群。這是一款為滿足對空間部署和高性能要求的機(jī)架式GPU服務(wù)器，，在提高了性能的同時，極大程度降低了數(shù)據(jù)中心的碳排放，專業(yè)的機(jī)箱設(shè)計實(shí)現(xiàn)了并行計算性能、存儲擴(kuò)展性與節(jié)能環(huán)保的完美融合。在軟件方面，則搭配了坤前AI管理平臺，提供深度學(xué)習(xí)的算法庫、標(biāo)準(zhǔn)數(shù)據(jù)集。幫助用戶提升算法訓(xùn)練速度。?

滿足了飛速增長的訓(xùn)練算力需求，保障了客戶項目的開發(fā)進(jìn)度；?

與傳統(tǒng)風(fēng)冷相比，能耗降低約30%，噪音降低約25分貝；生成式AI的爆火開啟了以大數(shù)據(jù)、大模型、高算力為基礎(chǔ)的人機(jī)交互新時代，相關(guān)技術(shù)的開發(fā)需要對擁有海量參數(shù)的超大規(guī)模模型進(jìn)行訓(xùn)練，對應(yīng)的便是需要大量高性能AI算力進(jìn)行支撐，因此搭建更強(qiáng)的算力集群必不可少。?

CPU資源、內(nèi)存、GPU資源、存儲資源虛擬化后進(jìn)行統(tǒng)一管理，方便快捷；坤前助力某研究院科研工作提質(zhì)增效?

平臺計算性能成倍提升，系統(tǒng)反應(yīng)迅速，提高?

科研工作需要更加智能化及快速的計算集群，硬件設(shè)備的提升迫在眉睫；系統(tǒng)反應(yīng)速度；?

建立分布式數(shù)據(jù)存儲空間，方便擴(kuò)容；?

液冷散熱，大大降低設(shè)備能耗；?

數(shù)據(jù)量的增長對于存儲有更高的要求，需要搭配高擴(kuò)展性的存儲空間；針對客戶現(xiàn)階段所面臨的挑戰(zhàn)，坤前選用液冷GPU服務(wù)器KI4200GLC構(gòu)建核心算力集群，坤前KI4200GLC是專為計算密集型行業(yè)所設(shè)計，在提高了性能的同時，極大程度降低了數(shù)據(jù)中心的碳排放，可以高效為各類云端工作負(fù)載提供加速，強(qiáng)大的計算能力提供了卓越的性能輸出。同時坤前選用4U存儲服務(wù)器KI4236MS構(gòu)建專業(yè)存儲集群，坤前KI4236MS是一款靈活高效的企業(yè)級存儲服務(wù)器，支持36個3.5寸熱插拔硬盤，實(shí)現(xiàn)了最高576TB海量存儲空間，將存儲性能、可拓展性、易維護(hù)性完美融合。邁向工業(yè)4.0坤前助力客戶智能化轉(zhuǎn)型?

在