T-STSI 43-2023 人工智能算力資源池技術(shù)規(guī)范

學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載

35.240學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載

70

人工智能算力資源池技術(shù)規(guī)范Technical

specification

artificial

intelligence

computing

power

resource

2023

-

11

中關(guān)村新興科技服務(wù)業(yè)產(chǎn)業(yè)聯(lián)盟??發(fā)

布學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載T/STSI

432023學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載

III

IV

3.1

3.2

6.1

6.2

6.3

6.4

6.5

6.6

7.1

7.2

8.1

8.2

9.1

9.2

GPU

.................................................................. 9.3

API

.................................................................. 9.4

9.5

9.6

10

11

12

12.1

12.2

學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載

432023學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載

II學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載T/STSI

432023學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載 本文件按照GB/T

1.1—2020《標(biāo)準(zhǔn)化工作導(dǎo)則

第1部分：標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則》的規(guī)定學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載

432023學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載 IV學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載T/STSI

432023學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載

GB/T

GB/T

GB/T

3.1

GB/T

41867、GB/T

artificial

intelligence[來源：GB/T

artificial

intelligence

accelerating

card[來源：GB/T

resource[來源：GB/T

virtual

resource學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載

432023學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載[來源：GB/T

3.2

Programming

ASIC：專用集成電路（Application

Specific

CPU：中央處理器（Central

Programmable

Gate

GPU：圖形處理單元（Graphics

KVM：基于內(nèi)核的虛擬機(jī)（Kernel-based

Virtual

Control

圖1

API

API

AI

學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載T/STSI

432023學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載

IP

——AI

異構(gòu)算力資源：GPU、FPGA、ASIC

5.1

資源池應(yīng)采用分布式架構(gòu)、模塊化設(shè)計(jì)，在架構(gòu)及功能方面應(yīng)具備良好的系統(tǒng)可擴(kuò)展能力，使得5.2

AI

5.3

5.4

資源池應(yīng)具備人工智能應(yīng)用和計(jì)算資源的解耦能力，在同一集群的任意節(jié)點(diǎn)上運(yùn)行人工智能應(yīng)用5.5

5.6

5.7

5.8

6.1

應(yīng)支持

AI

應(yīng)用與物理計(jì)算資源解耦合，AI

應(yīng)用向資源池軟件調(diào)取虛擬計(jì)算資源，資源池軟件

應(yīng)支持運(yùn)行在普通

節(jié)點(diǎn)的人工智能業(yè)務(wù)通過網(wǎng)絡(luò)遠(yuǎn)程調(diào)用物理

GPU

計(jì)算資源節(jié)點(diǎn)上的虛擬

6.2

應(yīng)支持配置多種算力資源池任意調(diào)度策略,包括本地調(diào)度、本地優(yōu)先、節(jié)點(diǎn)均衡/緊湊、設(shè)備均

AI

AI

6.3

MB

6.4

ｗｗ．ｂｚ學(xué)兔兔ｗｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載

432023ｗｗ．ｂｚ學(xué)兔兔ｗｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載6.5

6.6

7.1

圖2

7.2

資源池使用TCP/IP以太網(wǎng)絡(luò)、RoCE

Memory等多種后端數(shù)據(jù)網(wǎng)絡(luò)學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載T/STSI

432023學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載圖3

8.1

8.2

資源池應(yīng)具備適配多種Linux操作系統(tǒng)和云平臺的能力，同時(shí)支持基于KVM的虛擬機(jī)云平臺和基于Docker的容器云平臺。應(yīng)支持原生容器，提供完善的虛擬GPU資源調(diào)度插件，以實(shí)現(xiàn)和Kubernetes的平

9.1

TCP/IP

以太網(wǎng)絡(luò)、RDMA

網(wǎng)絡(luò)（InfiniBand

9.2

GPU

學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載

432023學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載NVIDIA

9.3

API

NVIDIA

Neuware、中科海光

9.4

64

CentOS

/7、64

Ubuntu

16/18/20

9.5

容器環(huán)境、kubernetes

9.6

TensorFlow、Pytorch、PaddlePaddle、MXNet、XGBoost、DeepSpeech、NVCaffe、TensorRT、ONNX

10

10.110.210.3 11

35279、GB/T

31168、YD/T

12

12.1 a)

查法：對工智能算資源池相技術(shù)資料行可視化查，以確有關(guān)功能特性是否b)

示法：對工智能算資源池進(jìn)操作，查其實(shí)際運(yùn)情況，以證有關(guān)功或特性是c)

際運(yùn)行法將人工智算力資源投入實(shí)際行，在一周期內(nèi)檢運(yùn)行情況以確定有12.2

學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載T/STSI

432023學(xué)兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ標(biāo)準(zhǔn)下載a)

人工智能力資源池關(guān)技術(shù)資，采用審法檢查池管理功能容、池化度功能內(nèi)、提供任規(guī)格算力源功能內(nèi)、虛擬算資源隔離能內(nèi)容、務(wù)熱遷移能內(nèi)容和b)

用演示法進(jìn)行人工能算力資池相關(guān)操，驗(yàn)證池管理功能池化調(diào)度能、提供12.2.2

對人工智能算力資源池相關(guān)技術(shù)資料，采用審查法檢查是否滿足第7章規(guī)定的管理網(wǎng)絡(luò)要求和數(shù)據(jù)12.2.3

對人工智能算力資源池相關(guān)技術(shù)資料，采用審查法檢查是否滿足第8章規(guī)定的資源池部署要求和資12.2.4

對人工智能算力資源池相關(guān)技術(shù)資料，采用審查法檢查是否滿足第9章規(guī)定的網(wǎng)絡(luò)、GPU設(shè)備、API12.2.5

c)

d)

用實(shí)際運(yùn)法，將人智能算力源池投入際運(yùn)行