CESA-2020-4-018 信息技術(shù)應(yīng)用創(chuàng)新 人工智能服務(wù)器技術(shù)規(guī)范 征求意見(jiàn)稿編制說(shuō)明

一、工作簡(jiǎn)況

（一）產(chǎn)品和行業(yè)發(fā)展情況

人工智能服務(wù)器是人工智能計(jì)算基礎(chǔ)設(shè)施的主要應(yīng)用形態(tài)，逐步應(yīng)用在國(guó)內(nèi)

外各行業(yè)產(chǎn)學(xué)研場(chǎng)景中。

1、國(guó)外發(fā)展情況：

1）人工智能計(jì)算的特點(diǎn)是高度并行化，國(guó)外技術(shù)的發(fā)展來(lái)自其通用計(jì)算發(fā)

展成果的并行化。出現(xiàn)了一些引領(lǐng)世界人工智能計(jì)算技術(shù)的研究機(jī)構(gòu)和廠商；

2）人工智能服務(wù)器是突出的產(chǎn)品化方向。人工智能服務(wù)器，因其優(yōu)化的機(jī)

內(nèi)連接及專為人工智能計(jì)算設(shè)計(jì)的板級(jí)支撐，能夠高效提供專用算力，提升應(yīng)用

效率。

3）與人工智能服務(wù)器配套的軟件框架、工具發(fā)展迅速，應(yīng)用生態(tài)初步形成；

4）在功能、性能、兼容性等關(guān)鍵子領(lǐng)域，有穩(wěn)定技術(shù)產(chǎn)出，保持上升。產(chǎn)

業(yè)合作、產(chǎn)品、服務(wù)已擴(kuò)展到我國(guó)國(guó)內(nèi)應(yīng)用行業(yè)。

2、國(guó)內(nèi)發(fā)展情況：

1）出現(xiàn)了一些人工智能芯片設(shè)計(jì)、研發(fā)機(jī)構(gòu)，形成了基于不同架構(gòu)的人工

智能計(jì)算芯片產(chǎn)品；

2）基于芯片研制成果，人工智能服務(wù)器的發(fā)展也逐步展開(kāi)，已同步出現(xiàn)了

一些具有獨(dú)特技術(shù)功能的，性能上具備一定競(jìng)爭(zhēng)力的產(chǎn)品實(shí)踐，應(yīng)用規(guī)模逐步增

大；

3）軟件、應(yīng)用生態(tài)持續(xù)發(fā)展，與人工智能計(jì)算設(shè)備的整體應(yīng)用已存在相當(dāng)

規(guī)模的成功試點(diǎn)；

4）在功能、性能、兼容性等關(guān)鍵技術(shù)子領(lǐng)域，已有關(guān)鍵技術(shù)產(chǎn)出并持續(xù)活

躍。

3、國(guó)內(nèi)外發(fā)展情況對(duì)比：

1）國(guó)內(nèi)外人工智能計(jì)算設(shè)備，尤其是人工智能服務(wù)器存在差距。國(guó)外在硬

件構(gòu)架設(shè)計(jì)、兼容性、算力釋放、軟件工具、應(yīng)用生態(tài)方面，以GPU為核心，建

立了較為完整的標(biāo)準(zhǔn)及產(chǎn)品體系；

2）國(guó)內(nèi)人工智能芯片、服務(wù)器研制領(lǐng)域投入較大，參與者眾多，但技術(shù)、

生態(tài)碎片化明顯，廠商多而不強(qiáng)。大多服務(wù)器產(chǎn)品或多或少地，存在兼容性，算

力釋放，軟件工具，應(yīng)用生態(tài)等方面的不足。特別地，在產(chǎn)品化及應(yīng)用實(shí)踐方面，

無(wú)基礎(chǔ)性技術(shù)標(biāo)尺，用戶難以選擇。國(guó)內(nèi)人工智能芯片、服務(wù)器研發(fā)成果的應(yīng)用

規(guī)模有待提高。

（二）主要承辦單位和參編單位

本文件編制由華為技術(shù)有限公司提出標(biāo)準(zhǔn)需求并牽頭，聯(lián)合杭州海康威視數(shù)

字技術(shù)股份有限公司，北京中科寒武紀(jì)科技有限公司，北京紫光恒越網(wǎng)絡(luò)科技有

限公司等發(fā)起，并獲得了國(guó)家計(jì)算機(jī)質(zhì)檢中心（北京尊冠科技有限公司），上海

依圖網(wǎng)絡(luò)科技有限公司，海光信息技術(shù)有限公司，云從科技集團(tuán)股份有限公司，

北京中科睿芯科技集團(tuán)有限公司，第四范式（北京）技術(shù)有限公司等單位的協(xié)同

編制與指導(dǎo)。

（三）主要工作過(guò)程

2019年2月，信息技術(shù)應(yīng)用創(chuàng)新工作委員會(huì)AI工作組標(biāo)準(zhǔn)征集。

2020年2月15日，確定《信息技術(shù)應(yīng)用創(chuàng)新人工智能服務(wù)器技術(shù)規(guī)范》列入

信息技術(shù)應(yīng)用創(chuàng)新工作委員會(huì)人工智能工作組工作計(jì)劃對(duì)該項(xiàng)標(biāo)準(zhǔn)進(jìn)行研制，并

在信息技術(shù)應(yīng)用創(chuàng)新范圍內(nèi)征集參編單位。

2020年3月20日，信息技術(shù)應(yīng)用創(chuàng)新工作委員會(huì)各參編單位完成第一輪標(biāo)準(zhǔn)

研制工作并匯總形成初步文稿。

2020年4月20日，標(biāo)準(zhǔn)組第二次標(biāo)準(zhǔn)編制討論會(huì)，各參與單位交換、討論編

制意見(jiàn)，形成文件討論稿第二版。

2020年5月15日，標(biāo)準(zhǔn)組第三次標(biāo)準(zhǔn)編制討論會(huì)，對(duì)標(biāo)準(zhǔn)草案涉及的關(guān)鍵問(wèn)

題進(jìn)行了討論并修改文稿。

2020年6月8日，討論解決了關(guān)鍵問(wèn)題，形成了組內(nèi)征求意見(jiàn)文稿；

2020年7月7日，征集組內(nèi)意見(jiàn)，并進(jìn)行了討論，將確定的修改合入文稿，形

成了標(biāo)準(zhǔn)初稿；

2020年10月14日，上工委會(huì)標(biāo)準(zhǔn)立項(xiàng)評(píng)審會(huì)，通過(guò)評(píng)審，準(zhǔn)許立項(xiàng)。

（四）主要起草人及其所做的工作

本文件的主要起草人包括金勇，李軍，胡本強(qiáng)，趙春昊，羅仕勝，張秀鶯，

彭劍峰，葉挺群，浦世亮，肖羽，盧冕，劉一鳴，王英，孫高飛，王子彥，史謹(jǐn)

璠，鐘于義，曹華偉，沈夢(mèng)南，陽(yáng)小珊，田雄軍，袁圓，張良，王渭巍，苗樹(shù)明，

陳常水，劉鑫，曹曉琦，楊志龍，李侃，李強(qiáng)等。各起草人皆參與了編制會(huì)議，

對(duì)文件中的條款和重點(diǎn)問(wèn)題進(jìn)行了技術(shù)及編制方面的探討。

二、標(biāo)準(zhǔn)編制原則和確定主要內(nèi)容的論據(jù)及解決的主要問(wèn)題

編制原則：

a)先進(jìn)性原則：本文件的編制以對(duì)人工智能計(jì)算產(chǎn)業(yè)的發(fā)展及痛點(diǎn)洞察為先

導(dǎo)，研究人工智能計(jì)算設(shè)備主要產(chǎn)品——人工智能服務(wù)器的產(chǎn)業(yè)、生態(tài)發(fā)展情況，

分析國(guó)外先進(jìn)研究機(jī)構(gòu)、廠商技術(shù)動(dòng)作及其對(duì)產(chǎn)業(yè)發(fā)展的帶動(dòng)作用。將國(guó)內(nèi)外產(chǎn)

業(yè)發(fā)展做了分析對(duì)比，識(shí)別我國(guó)人工智能服務(wù)器產(chǎn)業(yè)發(fā)展的特點(diǎn)及不足及標(biāo)準(zhǔn)化

文件缺失，有針對(duì)性地，選取了標(biāo)準(zhǔn)化對(duì)象；

b)實(shí)用性原則：本文件制定時(shí)充分分析了眾多應(yīng)用領(lǐng)域?qū)θ斯ぶ悄芊?wù)器的

需求，著力于解決用戶、廠商在實(shí)際應(yīng)用人工智能服務(wù)器過(guò)程中的共同技術(shù)問(wèn)題

和難點(diǎn)，引導(dǎo)用戶、廠商針對(duì)產(chǎn)品能力達(dá)成一致預(yù)期，在實(shí)際項(xiàng)目中增強(qiáng)國(guó)內(nèi)人

工智能服務(wù)器產(chǎn)品應(yīng)用落地能力；

c)兼容性原則：本文件編制時(shí)時(shí)，充分考慮了人工智能服務(wù)器與其它信息技

術(shù)、人工智能軟件、應(yīng)用等相關(guān)技術(shù)、工具、產(chǎn)品的兼容性。加之，本文件在研

制過(guò)程中，廣泛參考了國(guó)內(nèi)外相關(guān)標(biāo)準(zhǔn)，如GB/T9813.3《計(jì)算機(jī)通用規(guī)范第

三部分：服務(wù)器》，GB/T4943.1《信息技術(shù)設(shè)備安全第一部分：通用要求》，

T/CESA1043-2019《面向深度學(xué)習(xí)的服務(wù)器通用規(guī)范》，20192139-T-469《信息

技術(shù)人工智能平臺(tái)資源供給》，ISO/IECCD22989:2019Information

Technology—ArtificialIntelligence—ArtificialIntelligence

ConceptsandTerminology，ISO/IECCD23053:2019FrameworkforArtificial

Intelligence(AI)SystemsUsingMachineLearning(ML)及ISO/IEC

21836:2020Informationtechnology—Datacentres—Serverenergy

effectivenessmetric等?？杀ＷC與現(xiàn)有技術(shù)生態(tài)和標(biāo)準(zhǔn)的兼容性。

d)可擴(kuò)展性原則：本文件中編制過(guò)程中，調(diào)研了人工智能服務(wù)器技術(shù)生態(tài)所

涉及的硬件擴(kuò)展、軟件、工具、應(yīng)用等的技術(shù)路徑和使用情況，可保證各廠商在

使用時(shí)兼顧規(guī)范性的同時(shí)具備可擴(kuò)展能力。

主要內(nèi)容：

文件規(guī)定了人工智能服務(wù)器的基礎(chǔ)功能、性能、兼容性要求及測(cè)試方法。適

用于工智能系統(tǒng)建設(shè)，也可為人工智能服務(wù)器設(shè)備基礎(chǔ)功能、性能、兼容性的測(cè)

試提供參考。主要內(nèi)容包含：

1）人工智能服務(wù)器相關(guān)概念定義；

2）深度學(xué)習(xí)訓(xùn)練、推理及通用技術(shù)能力要求；

3）非深度學(xué)習(xí)訓(xùn)練、推理及通用技術(shù)能力要求；

4）測(cè)試指標(biāo)和訓(xùn)練、推理測(cè)試方法，推理測(cè)試方法，通用技術(shù)能力測(cè)試方

法等。

主要內(nèi)容的論據(jù)（必要性，或期望解決的產(chǎn)業(yè)發(fā)展問(wèn)題）：

1）（應(yīng)用基礎(chǔ)和前景良好，但基礎(chǔ)技術(shù)要求不明確）人工智能服務(wù)器專為

人工智能運(yùn)算研制，是當(dāng)前各行業(yè)應(yīng)用人工智能技術(shù)的必備設(shè)備。人工智能服務(wù)

器的應(yīng)用已逐步形成規(guī)模，獲得各行業(yè)應(yīng)用認(rèn)可。但人工智能服務(wù)器的應(yīng)用沒(méi)有

基礎(chǔ)技術(shù)要求。選取、采用決策缺乏規(guī)范化參考；

2）（缺乏基礎(chǔ)技術(shù)能力界定）當(dāng)前，人工智能服務(wù)器的基礎(chǔ)功能、性能指

標(biāo)及測(cè)試方法沒(méi)有界定；

3）（缺乏基礎(chǔ)技術(shù)能力規(guī)范化的測(cè)試方法）廠商標(biāo)稱指標(biāo)，不能完全代表

真實(shí)的、可發(fā)揮的實(shí)際能力，各自實(shí)施測(cè)試并解釋測(cè)試結(jié)果，標(biāo)尺不一，用戶應(yīng)

用、系統(tǒng)建設(shè)選擇、設(shè)計(jì)存在風(fēng)險(xiǎn)。國(guó)內(nèi)人工智能服務(wù)器產(chǎn)業(yè)規(guī)模逐步擴(kuò)大，參

與者增多；

4）（與國(guó)外起步時(shí)間接近，有機(jī)會(huì)超越，需要扶持）國(guó)內(nèi)外在人工智能計(jì)

算領(lǐng)域的發(fā)展程度相對(duì)接近（相較于通用計(jì)算），應(yīng)抓住時(shí)機(jī)推進(jìn)國(guó)內(nèi)人工智能

服務(wù)器產(chǎn)業(yè)發(fā)展，凝聚智慧，標(biāo)準(zhǔn)化核心問(wèn)題，支撐后續(xù)發(fā)展。

目的、意義：

1）（界定基礎(chǔ)技術(shù)能力）定義人工智能服務(wù)器基礎(chǔ)功能、性能指標(biāo)，為產(chǎn)

業(yè)發(fā)展提供標(biāo)尺；

2）（統(tǒng)一基礎(chǔ)技術(shù)能力測(cè)試方法，為用戶提供明確的標(biāo)尺）定義統(tǒng)一的測(cè)

試指標(biāo)及方法，為用戶提供明確標(biāo)尺，緩解廠商自測(cè)，結(jié)果自解釋的現(xiàn)象，對(duì)用

戶應(yīng)用、系統(tǒng)建設(shè)帶來(lái)的技術(shù)風(fēng)險(xiǎn)；

3）（扶持國(guó)內(nèi)產(chǎn)業(yè)發(fā)展，縮小國(guó)內(nèi)外水平差距）人工智能服務(wù)器在國(guó)內(nèi)的

發(fā)展已經(jīng)起步，正處于上升初期，應(yīng)用逐步展開(kāi)。標(biāo)準(zhǔn)是產(chǎn)業(yè)運(yùn)行的重要規(guī)則之

一，參考國(guó)外先進(jìn)水平，并爭(zhēng)取在某些技術(shù)方面引導(dǎo)產(chǎn)業(yè)形成超越，支撐我國(guó)人

工智能計(jì)算技術(shù)國(guó)際競(jìng)爭(zhēng)力的提升，打好開(kāi)局。

三、主要試驗(yàn)[或驗(yàn)證]情況分析

本文件研制之前已調(diào)研了國(guó)內(nèi)外人工智能服務(wù)器產(chǎn)品發(fā)展情況，著重對(duì)實(shí)際

指標(biāo)、測(cè)試方法和應(yīng)用結(jié)果做了總結(jié)?；诖?，首先定義了人工智能服務(wù)器的相

關(guān)概念，明確了標(biāo)準(zhǔn)化對(duì)象的范圍。在這方面，參考對(duì)比了已有的國(guó)內(nèi)外相關(guān)標(biāo)

準(zhǔn)。本文件對(duì)人工智能服務(wù)器相關(guān)概念的定義，符合國(guó)內(nèi)外已有標(biāo)準(zhǔn)的定義，在

標(biāo)準(zhǔn)化的技術(shù)棧中占有確定的地位，國(guó)內(nèi)外產(chǎn)品形態(tài)明確且常見(jiàn)。

另外，在本文件的編制前及過(guò)程中，參考了各參與單位的往期實(shí)驗(yàn)，確定了

測(cè)試項(xiàng)目、方法和指標(biāo)。驗(yàn)證的測(cè)試項(xiàng)目包含：?jiǎn)螜C(jī)單卡、多卡，多機(jī)多卡在指

定模型、數(shù)據(jù)集上的訓(xùn)練和推理基礎(chǔ)性能實(shí)驗(yàn)，操作系統(tǒng)、模型兼容實(shí)驗(yàn)，整機(jī)

可靠性實(shí)驗(yàn)，功耗實(shí)驗(yàn)等。驗(yàn)證的測(cè)試指標(biāo)包含：精確率、召回率、準(zhǔn)確率、平

均精確率均值、平均交并比、能效比、吞吐量、線性度、訓(xùn)練時(shí)間、平均均方誤

差、平均絕對(duì)誤差等?；诶碚撜撟C、實(shí)際檢驗(yàn)和驗(yàn)證，本文件具備切實(shí)可行性。

四、知識(shí)產(chǎn)權(quán)情況說(shuō)明

未發(fā)現(xiàn)有知識(shí)產(chǎn)權(quán)問(wèn)題。

五、產(chǎn)業(yè)化情況、推廣應(yīng)用論證和預(yù)期達(dá)到的經(jīng)濟(jì)效果

產(chǎn)業(yè)發(fā)展情況：

請(qǐng)見(jiàn)第一.(一)節(jié)。

推廣應(yīng)用論證：

一方面，本文件面向各行業(yè)人工智能應(yīng)用，對(duì)必要計(jì)算設(shè)備——人工智能服

務(wù)器，提出了基礎(chǔ)技術(shù)要求，可以規(guī)范化功能、性能、兼容性等重要技術(shù)特性基

線，為各行業(yè)用戶提供系統(tǒng)設(shè)計(jì)和選擇依據(jù)；另一方面，人工智能應(yīng)用前景廣闊，

各行業(yè)的應(yīng)用逐步展開(kāi)，對(duì)人工智能服務(wù)器的需求數(shù)量大。應(yīng)用產(chǎn)業(yè)對(duì)技術(shù)基準(zhǔn)

的需求明確。

因此，面向人工智能典型計(jì)算設(shè)備——人工智能服務(wù)器，建立基礎(chǔ)技術(shù)規(guī)范，

十分必要。在學(xué)習(xí)、應(yīng)用國(guó)際先進(jìn)技術(shù)的同時(shí)，向產(chǎn)業(yè)普及人工智能服務(wù)器基本

技術(shù)要求和測(cè)試方法，可為當(dāng)前碎片化的國(guó)內(nèi)人工智能計(jì)算設(shè)備產(chǎn)業(yè)提供明確的

發(fā)展標(biāo)尺，提升整體水平。

預(yù)期經(jīng)濟(jì)效果：

對(duì)人工智能服務(wù)器基礎(chǔ)技術(shù)要求和測(cè)試方法的標(biāo)準(zhǔn)化工作，將為我國(guó)人工智

能服務(wù)器的發(fā)展和應(yīng)用提供依據(jù)，有效緩解用戶看到卻不選擇使用的問(wèn)題。利用

此技術(shù)標(biāo)尺，逐步為我國(guó)人工智能服務(wù)器開(kāi)拓市場(chǎng)信賴空間，切實(shí)提升購(gòu)置、使

用率，為產(chǎn)業(yè)、廠商、測(cè)試機(jī)構(gòu)、用戶創(chuàng)造經(jīng)濟(jì)效果。

六、采用國(guó)際標(biāo)準(zhǔn)和國(guó)外先進(jìn)標(biāo)準(zhǔn)情況

無(wú)。

七、與現(xiàn)行相關(guān)法律、法規(guī)、規(guī)章及相關(guān)標(biāo)準(zhǔn)的協(xié)調(diào)性

政策、法律、法規(guī)協(xié)調(diào)性：

國(guó)務(wù)院：《新一代人工智能發(fā)展規(guī)劃》及《國(guó)務(wù)院關(guān)于印發(fā)新一代人工智能

發(fā)展規(guī)劃的通知》國(guó)發(fā)〔2017〕35號(hào)，文中指出：構(gòu)建泛在安全高效的智能化

基礎(chǔ)設(shè)施體系，高效能計(jì)算基礎(chǔ)設(shè)施。繼續(xù)加強(qiáng)超級(jí)計(jì)算基礎(chǔ)設(shè)施、分布式計(jì)算

基礎(chǔ)設(shè)施和云計(jì)算中心建設(shè)，構(gòu)建可持續(xù)發(fā)展的高性能計(jì)算應(yīng)用生態(tài)環(huán)境。推進(jìn)

下一代超級(jí)計(jì)算機(jī)研發(fā)應(yīng)用。人工智能服務(wù)器的誕生就是為了針對(duì)性地提升關(guān)于

人工智能負(fù)載的計(jì)算性能，大力發(fā)展人工智能計(jì)算基礎(chǔ)設(shè)施，是提升國(guó)家技術(shù)核

心競(jìng)爭(zhēng)力，各行業(yè)運(yùn)行效率的關(guān)鍵。

本文件在2020年頒布的《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》中屬于

軟件和信息技術(shù)服務(wù)標(biāo)準(zhǔn)體系中屬于“信息技術(shù)”-“人工智能”-“C基礎(chǔ)軟硬

件平臺(tái)”。

與國(guó)際、國(guó)內(nèi)標(biāo)準(zhǔn)文件的協(xié)調(diào)性：

本文件是人工智能服務(wù)器領(lǐng)域，國(guó)內(nèi)外先進(jìn)標(biāo)準(zhǔn)的重要補(bǔ)充。本文件與國(guó)內(nèi)

外先進(jìn)標(biāo)準(zhǔn)文件的關(guān)系總結(jié)如下：

國(guó)內(nèi)標(biāo)準(zhǔn)文件：

1)與通用服務(wù)器國(guó)標(biāo)的關(guān)系：本文件涉及的人工智能服務(wù)器遵循通用服務(wù)

器功能國(guó)標(biāo)GB/T9813.3《計(jì)算機(jī)通用規(guī)范第三部分：服務(wù)器》提出的電氣、

電子功能，質(zhì)量評(píng)定程序，標(biāo)志、包裝、運(yùn)輸和貯存要求。但在GB/T9813.3基

礎(chǔ)上，著重提出人工智能計(jì)算涉及的獨(dú)特技術(shù)功能、兼容性、基礎(chǔ)性能等技術(shù)要

求和測(cè)試方法；

2)與通用電子設(shè)備安全要求的關(guān)系：本文件涉及的人工智能計(jì)算設(shè)備遵循

GB/T4943.1《信息技術(shù)設(shè)備安全第一部分：通用要求》提出的對(duì)所有電子設(shè)

備電氣、輻射、機(jī)械安全技術(shù)要求；

3)與機(jī)器學(xué)習(xí)服務(wù)器通用技術(shù)要求的關(guān)系：本文件涉及的人工智能服務(wù)器

設(shè)備遵循T/CESA1043-2019《面向深度學(xué)習(xí)的服務(wù)器通用規(guī)范》提出的設(shè)計(jì)、制

造、檢驗(yàn)過(guò)程要求。并在其基礎(chǔ)上，著重提出機(jī)器學(xué)習(xí)推理、訓(xùn)練等實(shí)際功能、

兼容性、性能等技術(shù)要求及測(cè)試方法，形成面向?qū)嵅俚闹敢侨斯ぶ悄苡?jì)算設(shè)

備標(biāo)準(zhǔn)體系中的重要組成部分；

4）與計(jì)算資源調(diào)度國(guó)標(biāo)的關(guān)系：20192139-T-469《信息技術(shù)人工智能平

臺(tái)資源供給》提出了人工智能計(jì)算資源調(diào)度方法，定義了必要參考指標(biāo)。本文件

不涉及資源調(diào)度方法。人工智能服務(wù)器可作為一種計(jì)算資源，被調(diào)度。

國(guó)際標(biāo)準(zhǔn)文件：

1）與ISO/IEC人工智能標(biāo)準(zhǔn)的關(guān)系（JTC1SC42）：

a）ISO/IECCD22989:2019InformationTechnology—Artificial

Intelligence—ArtificialIntelligenceConceptsandTerminology提出

了人工智能系統(tǒng)的組成構(gòu)架，構(gòu)架中含有計(jì)算基礎(chǔ)設(shè)備（Compute）部分，這些

設(shè)備可按某種組織方式，組成更復(fù)雜的計(jì)算架構(gòu)（如（云計(jì)算）。22989CD版本

并未對(duì)計(jì)算設(shè)備做詳細(xì)介紹。本文件提出的人工智能服務(wù)器是ISO/IECCD

22989:2019中計(jì)算設(shè)備的典型形態(tài)，本文對(duì)人工智能服務(wù)器提出功能、性能、兼

容性等基礎(chǔ)技術(shù)要求，并提出面向?qū)嶋H操作的測(cè)試方法；

b）ISO/IECCD23053:2019FrameworkforArtificialIntelligence

(AI)SystemsUsingMachineLearning(ML)在6.1章節(jié)中提出計(jì)算設(shè)備影響機(jī)

器學(xué)習(xí)（人工智能的主要分支）系統(tǒng)效率，但未對(duì)計(jì)算設(shè)備給出詳細(xì)論述。本文

件提出的人工智能服務(wù)器是ISO/IECCD23053:2019中“設(shè)施（infrastructure）”

-“硬件（hardware）”的主要形態(tài)。本文件進(jìn)一步研究并提出細(xì)致的功能、性

能、兼容性技術(shù)要求和測(cè)試方法。

2）與ISO/IEC可持續(xù)性、IT及數(shù)據(jù)中心標(biāo)準(zhǔn)的關(guān)系（JTC1SC39）：ISO/IEC

21836:2020Informationtechnology—Datacentres—Serverenergy

effectivenessmetric及ISO/IEC30134-4:2017Informationtechnology—

Datacentres—Keyperformanceindicators—Part4:ITEquipment

EnergyEfficiencyforservers(ITEEsv)面向數(shù)據(jù)中心所使用的通用服務(wù)器，

提出了能效測(cè)試指標(biāo)及設(shè)計(jì)方法論，本文件中關(guān)于能效的測(cè)試指標(biāo)的設(shè)計(jì)，遵循

ISO/IEC21836及ISO/IEC30134-4的要求，并在人工智能計(jì)算領(lǐng)域提出專門(mén)定

義，用于衡量人工智能計(jì)算設(shè)備完成人工智能應(yīng)用計(jì)算任務(wù)的效能。

八、重大分歧意見(jiàn)的處理經(jīng)過(guò)和依據(jù)

無(wú)。

九、標(biāo)準(zhǔn)性質(zhì)的建議

建議列為推薦性標(biāo)準(zhǔn)。

十、貫徹標(biāo)準(zhǔn)的要求和措施建議

標(biāo)準(zhǔn)項(xiàng)目計(jì)劃：

1）2020.11立項(xiàng)；

2）2020.12完成編制、發(fā)布；

3）2021：發(fā)布后，按照工委會(huì)部署，擇機(jī)，展開(kāi)測(cè)試、評(píng)估。

組織措施：

為應(yīng)用本文件，建議實(shí)施以下組織措施：

1）在信息技術(shù)創(chuàng)新標(biāo)準(zhǔn)中心指導(dǎo)下，確定技術(shù)要求測(cè)試的執(zhí)行代表機(jī)構(gòu)；

2）由代表機(jī)構(gòu)建立測(cè)試組織工作組，評(píng)審專家組，技術(shù)測(cè)試組，按照本標(biāo)

準(zhǔn)實(shí)施測(cè)試，及對(duì)測(cè)試過(guò)程及結(jié)果進(jìn)行指導(dǎo)、評(píng)審；

3）由信息技術(shù)創(chuàng)新標(biāo)準(zhǔn)中心及執(zhí)行代表機(jī)構(gòu)，聯(lián)合向人工智能服務(wù)器應(yīng)用

領(lǐng)域的利益相關(guān)方，發(fā)布測(cè)試結(jié)果。

技術(shù)措施：

為應(yīng)用本文件，建議實(shí)施以下技術(shù)措施：

1）廣泛調(diào)研和遴選測(cè)試工具，對(duì)存在的測(cè)試工具進(jìn)行驗(yàn)證，明確其適用性

和準(zhǔn)確性；

2）對(duì)擬增強(qiáng)的測(cè)試工具，實(shí)施技術(shù)分析，研制完善測(cè)試功能；

3）標(biāo)準(zhǔn)各參與單位，對(duì)執(zhí)行代表機(jī)構(gòu)人員，進(jìn)行技術(shù)培訓(xùn)，明確工具測(cè)試，

訪談等涉及的技術(shù)要求范圍；

4）制定測(cè)試組織流程。

十一、替代或廢止現(xiàn)行相關(guān)標(biāo)準(zhǔn)的建議

無(wú)需要替代或廢止的現(xiàn)行相關(guān)標(biāo)準(zhǔn)。

十二、其它應(yīng)予說(shuō)明的事項(xiàng)

無(wú)。

《信息技術(shù)應(yīng)用創(chuàng)新人工智能服務(wù)器技術(shù)規(guī)范》團(tuán)體標(biāo)準(zhǔn)編制工作組

2020-11-19

一、工作簡(jiǎn)況

（一）產(chǎn)品和行業(yè)發(fā)展情況

人工智能服務(wù)器是人工智能計(jì)算基礎(chǔ)設(shè)施的主要應(yīng)用形態(tài)，逐步應(yīng)用在國(guó)內(nèi)

外各行業(yè)產(chǎn)學(xué)研場(chǎng)景中。

1、國(guó)外發(fā)展情況：

1）人工智能計(jì)算的特點(diǎn)是高度并行化，國(guó)外技術(shù)的發(fā)展來(lái)自其通用計(jì)算發(fā)

展成果的并行化。出現(xiàn)了一些引領(lǐng)世界人工智能計(jì)算技術(shù)的研究機(jī)構(gòu)和廠商；

2）人工智能服務(wù)器是突出的產(chǎn)品化方向。人工智能服務(wù)器，因其優(yōu)化的機(jī)

內(nèi)連接及專為人工智能計(jì)算設(shè)計(jì)的板級(jí)支撐，能夠高效提供專用算力，提升應(yīng)用

效率。

3）與人工智能服務(wù)器配套的軟件框架、工具發(fā)展迅速，應(yīng)用生態(tài)初步形成；

4）在功能、性能、兼容性等關(guān)鍵子領(lǐng)域，有穩(wěn)定技術(shù)產(chǎn)出，保持上升。產(chǎn)

業(yè)合作、產(chǎn)品、服務(wù)已擴(kuò)展到我國(guó)國(guó)內(nèi)應(yīng)用行業(yè)。

2、國(guó)內(nèi)發(fā)展情況：

1）出現(xiàn)了一些人工智能芯片設(shè)計(jì)、研發(fā)機(jī)構(gòu)，形成了基于不同架構(gòu)的人工

智能計(jì)算芯片產(chǎn)品；

2）基于芯片研制成果，人工智能服務(wù)器的發(fā)展也逐步展開(kāi)，已同步出現(xiàn)了

一些具有獨(dú)特技術(shù)功能的，性能上具備一定競(jìng)爭(zhēng)力的產(chǎn)品實(shí)踐，應(yīng)用規(guī)模逐步增

大；

3）軟件、應(yīng)用生態(tài)持續(xù)發(fā)展，與人工智能計(jì)算設(shè)備的整體應(yīng)用已存在相當(dāng)

規(guī)模的成功試點(diǎn)；

4）在功能、性能、兼容性等關(guān)鍵技術(shù)子領(lǐng)域，已有關(guān)鍵技術(shù)產(chǎn)出并持續(xù)活

躍。

3、國(guó)內(nèi)外發(fā)展情況對(duì)比：

1）國(guó)內(nèi)外人工智能計(jì)算設(shè)備，尤其是人工智能服務(wù)器存在差距。國(guó)外在硬

件構(gòu)架設(shè)計(jì)、兼容性、算力釋放、軟件工具、應(yīng)用生態(tài)方面，以GPU為核心，建

立了較為完整的標(biāo)準(zhǔn)及產(chǎn)品體系；

2）國(guó)內(nèi)人工智能芯片、服務(wù)器研制領(lǐng)域投入較大，參與者眾多，但技術(shù)、

生態(tài)碎片化明顯，廠商多而不強(qiáng)。大多服務(wù)器產(chǎn)品或多或少地，存在兼容性，算

力釋放，軟件工具，應(yīng)用生態(tài)等方面的不足。特別地，在產(chǎn)品化及應(yīng)用實(shí)踐方面，

無(wú)基礎(chǔ)性技術(shù)標(biāo)尺，用戶難以選擇。國(guó)內(nèi)人工智能芯片、服務(wù)器研發(fā)成果的應(yīng)用

規(guī)模有待提高。

（二）主要承辦單位和參編單位

本文件編制由華為技術(shù)有限公司提出標(biāo)準(zhǔn)需求并牽頭，聯(lián)合杭州?？低晹?shù)

字技術(shù)股份有限公司，北京中科寒武紀(jì)科技有限公司，北京紫光恒越網(wǎng)絡(luò)科技有

限公司等發(fā)起，并獲得了國(guó)家計(jì)算機(jī)質(zhì)檢中心（北京尊冠科技有限公司），上海

依圖網(wǎng)絡(luò)科技有限公司，海光信息技術(shù)有限公司，云從科技集團(tuán)股份有限公司，

北京中科睿芯科技集團(tuán)有限公司，第四范式（北京）技術(shù)有限公司等單位的協(xié)同

編制與指導(dǎo)。

（三）主要工作過(guò)程

2019年2月，信息技術(shù)應(yīng)用創(chuàng)新工作委員會(huì)AI工作組標(biāo)準(zhǔn)征集。

2020年2月15日，確定《信息技術(shù)應(yīng)用創(chuàng)新人工智能服務(wù)器技術(shù)規(guī)范》列入

信息技術(shù)應(yīng)用創(chuàng)新工作委員會(huì)人工智能工作組工作計(jì)劃對(duì)該項(xiàng)標(biāo)準(zhǔn)進(jìn)行研制，并

在信息技術(shù)應(yīng)用創(chuàng)新范圍內(nèi)征集參編單位。

2020年3月20日，信息技術(shù)應(yīng)用創(chuàng)新工作委員會(huì)各參編單位完成第一輪標(biāo)準(zhǔn)

研制工作并匯總形成初步文稿。

2020年4月20日，標(biāo)準(zhǔn)組第二次標(biāo)準(zhǔn)編制討論會(huì)，各參與單位交換、討論編

制意見(jiàn)，形成文件討論稿第二版。

2020年5月15日，標(biāo)準(zhǔn)組第三次標(biāo)準(zhǔn)編制討論會(huì)，對(duì)標(biāo)準(zhǔn)草案涉及的關(guān)鍵問(wèn)

題進(jìn)行了討論并修改文稿。

2020年6月8日，討論解決了關(guān)鍵問(wèn)題，形成了組內(nèi)征求意見(jiàn)文稿；

2020年7月7日，征集組內(nèi)意見(jiàn)，并進(jìn)行了討論，將確定的修改合入文稿，形

成了標(biāo)準(zhǔn)初稿；

2020年10月14日，上工委會(huì)標(biāo)準(zhǔn)立項(xiàng)評(píng)審會(huì)，通過(guò)評(píng)審，準(zhǔn)許立項(xiàng)。

（四）主要起草人及其所做的工作

本文件的主要起草人包括金勇，李軍，胡本強(qiáng)，趙春昊，羅仕勝，張秀鶯，

彭劍峰，葉挺群，浦世亮，肖羽，盧冕，劉一鳴，王英，孫高飛，王子彥，史謹(jǐn)

璠，鐘于義，曹華偉，沈夢(mèng)南，陽(yáng)小珊，田雄軍，袁圓，張良，王渭巍，苗樹(shù)明，

陳常水，劉鑫，曹曉琦，楊志龍，李侃，李強(qiáng)等。各起草人皆參與了編制會(huì)議，

對(duì)文件中的條款和重點(diǎn)問(wèn)題進(jìn)行了技術(shù)及編制方面的探討。

二、標(biāo)準(zhǔn)編制原則和確定主要內(nèi)容的論據(jù)及解決的主要問(wèn)題

編制原則：

a)先進(jìn)性原則：本文件的編制以對(duì)人工智能計(jì)算產(chǎn)業(yè)的發(fā)展及痛點(diǎn)洞察為先

導(dǎo)，研究人工智能計(jì)算設(shè)備主要產(chǎn)品——人工智能服務(wù)器的產(chǎn)業(yè)、生態(tài)發(fā)展情況，

分析國(guó)外先進(jìn)研究機(jī)構(gòu)、廠商技術(shù)動(dòng)作及其對(duì)產(chǎn)業(yè)發(fā)展的帶動(dòng)作用。將國(guó)內(nèi)外產(chǎn)

業(yè)發(fā)展做了分析對(duì)比，識(shí)別我國(guó)人工智能服務(wù)器產(chǎn)業(yè)發(fā)展的特點(diǎn)及不足及標(biāo)準(zhǔn)化

文件缺失，有針對(duì)性地，選取了標(biāo)準(zhǔn)化對(duì)象；

b)實(shí)用性原則：本文件制定時(shí)充分分析了眾多應(yīng)用領(lǐng)域?qū)θ斯ぶ悄芊?wù)器的

需求，著力于解決用戶、廠商在實(shí)際應(yīng)用人工智能服務(wù)器過(guò)程中的共同技術(shù)問(wèn)題

和難點(diǎn)，引導(dǎo)用戶、廠商針對(duì)產(chǎn)品能力達(dá)成一致預(yù)期，在實(shí)際項(xiàng)目中增強(qiáng)國(guó)內(nèi)人

工智能服務(wù)器產(chǎn)品應(yīng)用落地能力；

c)兼容性原則：本文件編制時(shí)時(shí)，充分考慮了人工智能服務(wù)器與其它信息技

術(shù)、人工智能軟件、應(yīng)用等相關(guān)技術(shù)、工具、產(chǎn)品的兼容性。加之，本文件在研

制過(guò)程中，廣泛參考了國(guó)內(nèi)外相關(guān)標(biāo)準(zhǔn)，如GB/T9813.3《計(jì)算機(jī)通用規(guī)范第

三部分：服務(wù)器》，GB/T4943.1《信息技術(shù)設(shè)備安全第一部分：通用要求》，

T/CESA1043-2019《面向深度學(xué)習(xí)的服務(wù)器通用規(guī)范》，20192139-T-469《信息

技術(shù)人工智能平臺(tái)資源供給》，ISO/IECCD22989:2019Information

Techn