CESA-2020-4-018 信息技術(shù)應(yīng)用創(chuàng)新 人工智能服務(wù)器技術(shù)規(guī)范 征求意見稿編制說明

一、工作簡況

（一）產(chǎn)品和行業(yè)發(fā)展情況

人工智能服務(wù)器是人工智能計算基礎(chǔ)設(shè)施的主要應(yīng)用形態(tài)，逐步應(yīng)用在國內(nèi)

外各行業(yè)產(chǎn)學(xué)研場景中。

1、國外發(fā)展情況：

1）人工智能計算的特點是高度并行化，國外技術(shù)的發(fā)展來自其通用計算發(fā)

展成果的并行化。出現(xiàn)了一些引領(lǐng)世界人工智能計算技術(shù)的研究機構(gòu)和廠商；

2）人工智能服務(wù)器是突出的產(chǎn)品化方向。人工智能服務(wù)器，因其優(yōu)化的機

內(nèi)連接及專為人工智能計算設(shè)計的板級支撐，能夠高效提供專用算力，提升應(yīng)用

效率。

3）與人工智能服務(wù)器配套的軟件框架、工具發(fā)展迅速，應(yīng)用生態(tài)初步形成；

4）在功能、性能、兼容性等關(guān)鍵子領(lǐng)域，有穩(wěn)定技術(shù)產(chǎn)出，保持上升。產(chǎn)

業(yè)合作、產(chǎn)品、服務(wù)已擴展到我國國內(nèi)應(yīng)用行業(yè)。

2、國內(nèi)發(fā)展情況：

1）出現(xiàn)了一些人工智能芯片設(shè)計、研發(fā)機構(gòu)，形成了基于不同架構(gòu)的人工

智能計算芯片產(chǎn)品；

2）基于芯片研制成果，人工智能服務(wù)器的發(fā)展也逐步展開，已同步出現(xiàn)了

一些具有獨特技術(shù)功能的，性能上具備一定競爭力的產(chǎn)品實踐，應(yīng)用規(guī)模逐步增

大；

3）軟件、應(yīng)用生態(tài)持續(xù)發(fā)展，與人工智能計算設(shè)備的整體應(yīng)用已存在相當(dāng)

規(guī)模的成功試點；

4）在功能、性能、兼容性等關(guān)鍵技術(shù)子領(lǐng)域，已有關(guān)鍵技術(shù)產(chǎn)出并持續(xù)活

躍。

3、國內(nèi)外發(fā)展情況對比：

1）國內(nèi)外人工智能計算設(shè)備，尤其是人工智能服務(wù)器存在差距。國外在硬

件構(gòu)架設(shè)計、兼容性、算力釋放、軟件工具、應(yīng)用生態(tài)方面，以GPU為核心，建

立了較為完整的標(biāo)準(zhǔn)及產(chǎn)品體系；

2）國內(nèi)人工智能芯片、服務(wù)器研制領(lǐng)域投入較大，參與者眾多，但技術(shù)、

生態(tài)碎片化明顯，廠商多而不強。大多服務(wù)器產(chǎn)品或多或少地，存在兼容性，算

力釋放，軟件工具，應(yīng)用生態(tài)等方面的不足。特別地，在產(chǎn)品化及應(yīng)用實踐方面，

無基礎(chǔ)性技術(shù)標(biāo)尺，用戶難以選擇。國內(nèi)人工智能芯片、服務(wù)器研發(fā)成果的應(yīng)用

規(guī)模有待提高。

（二）主要承辦單位和參編單位

本文件編制由華為技術(shù)有限公司提出標(biāo)準(zhǔn)需求并牽頭，聯(lián)合杭州?？低晹?shù)

字技術(shù)股份有限公司，北京中科寒武紀(jì)科技有限公司，北京紫光恒越網(wǎng)絡(luò)科技有

限公司等發(fā)起，并獲得了國家計算機質(zhì)檢中心（北京尊冠科技有限公司），上海

依圖網(wǎng)絡(luò)科技有限公司，海光信息技術(shù)有限公司，云從科技集團股份有限公司，

北京中科睿芯科技集團有限公司，第四范式（北京）技術(shù)有限公司等單位的協(xié)同

編制與指導(dǎo)。

（三）主要工作過程

2019年2月，信息技術(shù)應(yīng)用創(chuàng)新工作委員會AI工作組標(biāo)準(zhǔn)征集。

2020年2月15日，確定《信息技術(shù)應(yīng)用創(chuàng)新人工智能服務(wù)器技術(shù)規(guī)范》列入

信息技術(shù)應(yīng)用創(chuàng)新工作委員會人工智能工作組工作計劃對該項標(biāo)準(zhǔn)進(jìn)行研制，并

在信息技術(shù)應(yīng)用創(chuàng)新范圍內(nèi)征集參編單位。

2020年3月20日，信息技術(shù)應(yīng)用創(chuàng)新工作委員會各參編單位完成第一輪標(biāo)準(zhǔn)

研制工作并匯總形成初步文稿。

2020年4月20日，標(biāo)準(zhǔn)組第二次標(biāo)準(zhǔn)編制討論會，各參與單位交換、討論編

制意見，形成文件討論稿第二版。

2020年5月15日，標(biāo)準(zhǔn)組第三次標(biāo)準(zhǔn)編制討論會，對標(biāo)準(zhǔn)草案涉及的關(guān)鍵問

題進(jìn)行了討論并修改文稿。

2020年6月8日，討論解決了關(guān)鍵問題，形成了組內(nèi)征求意見文稿；

2020年7月7日，征集組內(nèi)意見，并進(jìn)行了討論，將確定的修改合入文稿，形

成了標(biāo)準(zhǔn)初稿；

2020年10月14日，上工委會標(biāo)準(zhǔn)立項評審會，通過評審，準(zhǔn)許立項。

（四）主要起草人及其所做的工作

本文件的主要起草人包括金勇，李軍，胡本強，趙春昊，羅仕勝，張秀鶯，

彭劍峰，葉挺群，浦世亮，肖羽，盧冕，劉一鳴，王英，孫高飛，王子彥，史謹(jǐn)

璠，鐘于義，曹華偉，沈夢南，陽小珊，田雄軍，袁圓，張良，王渭巍，苗樹明，

陳常水，劉鑫，曹曉琦，楊志龍，李侃，李強等。各起草人皆參與了編制會議，

對文件中的條款和重點問題進(jìn)行了技術(shù)及編制方面的探討。

二、標(biāo)準(zhǔn)編制原則和確定主要內(nèi)容的論據(jù)及解決的主要問題

編制原則：

a)先進(jìn)性原則：本文件的編制以對人工智能計算產(chǎn)業(yè)的發(fā)展及痛點洞察為先

導(dǎo)，研究人工智能計算設(shè)備主要產(chǎn)品——人工智能服務(wù)器的產(chǎn)業(yè)、生態(tài)發(fā)展情況，

分析國外先進(jìn)研究機構(gòu)、廠商技術(shù)動作及其對產(chǎn)業(yè)發(fā)展的帶動作用。將國內(nèi)外產(chǎn)

業(yè)發(fā)展做了分析對比，識別我國人工智能服務(wù)器產(chǎn)業(yè)發(fā)展的特點及不足及標(biāo)準(zhǔn)化

文件缺失，有針對性地，選取了標(biāo)準(zhǔn)化對象；

b)實用性原則：本文件制定時充分分析了眾多應(yīng)用領(lǐng)域?qū)θ斯ぶ悄芊?wù)器的

需求，著力于解決用戶、廠商在實際應(yīng)用人工智能服務(wù)器過程中的共同技術(shù)問題

和難點，引導(dǎo)用戶、廠商針對產(chǎn)品能力達(dá)成一致預(yù)期，在實際項目中增強國內(nèi)人

工智能服務(wù)器產(chǎn)品應(yīng)用落地能力；

c)兼容性原則：本文件編制時時，充分考慮了人工智能服務(wù)器與其它信息技

術(shù)、人工智能軟件、應(yīng)用等相關(guān)技術(shù)、工具、產(chǎn)品的兼容性。加之，本文件在研

制過程中，廣泛參考了國內(nèi)外相關(guān)標(biāo)準(zhǔn)，如GB/T9813.3《計算機通用規(guī)范第

三部分：服務(wù)器》，GB/T4943.1《信息技術(shù)設(shè)備安全第一部分：通用要求》，

T/CESA1043-2019《面向深度學(xué)習(xí)的服務(wù)器通用規(guī)范》，20192139-T-469《信息

技術(shù)人工智能平臺資源供給》，ISO/IECCD22989:2019Information

Technology—ArtificialIntelligence—ArtificialIntelligence

ConceptsandTerminology，ISO/IECCD23053:2019FrameworkforArtificial

Intelligence(AI)SystemsUsingMachineLearning(ML)及ISO/IEC

21836:2020Informationtechnology—Datacentres—Serverenergy

effectivenessmetric等?？杀ＷC與現(xiàn)有技術(shù)生態(tài)和標(biāo)準(zhǔn)的兼容性。

d)可擴展性原則：本文件中編制過程中，調(diào)研了人工智能服務(wù)器技術(shù)生態(tài)所

涉及的硬件擴展、軟件、工具、應(yīng)用等的技術(shù)路徑和使用情況，可保證各廠商在

使用時兼顧規(guī)范性的同時具備可擴展能力。

主要內(nèi)容：

文件規(guī)定了人工智能服務(wù)器的基礎(chǔ)功能、性能、兼容性要求及測試方法。適

用于工智能系統(tǒng)建設(shè)，也可為人工智能服務(wù)器設(shè)備基礎(chǔ)功能、性能、兼容性的測

試提供參考。主要內(nèi)容包含：

1）人工智能服務(wù)器相關(guān)概念定義；

2）深度學(xué)習(xí)訓(xùn)練、推理及通用技術(shù)能力要求；

3）非深度學(xué)習(xí)訓(xùn)練、推理及通用技術(shù)能力要求；

4）測試指標(biāo)和訓(xùn)練、推理測試方法，推理測試方法，通用技術(shù)能力測試方

法等。

主要內(nèi)容的論據(jù)（必要性，或期望解決的產(chǎn)業(yè)發(fā)展問題）：

1）（應(yīng)用基礎(chǔ)和前景良好，但基礎(chǔ)技術(shù)要求不明確）人工智能服務(wù)器專為

人工智能運算研制，是當(dāng)前各行業(yè)應(yīng)用人工智能技術(shù)的必備設(shè)備。人工智能服務(wù)

器的應(yīng)用已逐步形成規(guī)模，獲得各行業(yè)應(yīng)用認(rèn)可。但人工智能服務(wù)器的應(yīng)用沒有

基礎(chǔ)技術(shù)要求。選取、采用決策缺乏規(guī)范化參考；

2）（缺乏基礎(chǔ)技術(shù)能力界定）當(dāng)前，人工智能服務(wù)器的基礎(chǔ)功能、性能指

標(biāo)及測試方法沒有界定；

3）（缺乏基礎(chǔ)技術(shù)能力規(guī)范化的測試方法）廠商標(biāo)稱指標(biāo)，不能完全代表

真實的、可發(fā)揮的實際能力，各自實施測試并解釋測試結(jié)果，標(biāo)尺不一，用戶應(yīng)

用、系統(tǒng)建設(shè)選擇、設(shè)計存在風(fēng)險。國內(nèi)人工智能服務(wù)器產(chǎn)業(yè)規(guī)模逐步擴大，參

與者增多；

4）（與國外起步時間接近，有機會超越，需要扶持）國內(nèi)外在人工智能計

算領(lǐng)域的發(fā)展程度相對接近（相較于通用計算），應(yīng)抓住時機推進(jìn)國內(nèi)人工智能

服務(wù)器產(chǎn)業(yè)發(fā)展，凝聚智慧，標(biāo)準(zhǔn)化核心問題，支撐后續(xù)發(fā)展。

目的、意義：

1）（界定基礎(chǔ)技術(shù)能力）定義人工智能服務(wù)器基礎(chǔ)功能、性能指標(biāo)，為產(chǎn)

業(yè)發(fā)展提供標(biāo)尺；

2）（統(tǒng)一基礎(chǔ)技術(shù)能力測試方法，為用戶提供明確的標(biāo)尺）定義統(tǒng)一的測

試指標(biāo)及方法，為用戶提供明確標(biāo)尺，緩解廠商自測，結(jié)果自解釋的現(xiàn)象，對用

戶應(yīng)用、系統(tǒng)建設(shè)帶來的技術(shù)風(fēng)險；

3）（扶持國內(nèi)產(chǎn)業(yè)發(fā)展，縮小國內(nèi)外水平差距）人工智能服務(wù)器在國內(nèi)的

發(fā)展已經(jīng)起步，正處于上升初期，應(yīng)用逐步展開。標(biāo)準(zhǔn)是產(chǎn)業(yè)運行的重要規(guī)則之

一，參考國外先進(jìn)水平，并爭取在某些技術(shù)方面引導(dǎo)產(chǎn)業(yè)形成超越，支撐我國人

工智能計算技術(shù)國際競爭力的提升，打好開局。

三、主要試驗[或驗證]情況分析

本文件研制之前已調(diào)研了國內(nèi)外人工智能服務(wù)器產(chǎn)品發(fā)展情況，著重對實際

指標(biāo)、測試方法和應(yīng)用結(jié)果做了總結(jié)?；诖?，首先定義了人工智能服務(wù)器的相

關(guān)概念，明確了標(biāo)準(zhǔn)化對象的范圍。在這方面，參考對比了已有的國內(nèi)外相關(guān)標(biāo)

準(zhǔn)。本文件對人工智能服務(wù)器相關(guān)概念的定義，符合國內(nèi)外已有標(biāo)準(zhǔn)的定義，在

標(biāo)準(zhǔn)化的技術(shù)棧中占有確定的地位，國內(nèi)外產(chǎn)品形態(tài)明確且常見。

另外，在本文件的編制前及過程中，參考了各參與單位的往期實驗，確定了

測試項目、方法和指標(biāo)。驗證的測試項目包含：單機單卡、多卡，多機多卡在指

定模型、數(shù)據(jù)集上的訓(xùn)練和推理基礎(chǔ)性能實驗，操作系統(tǒng)、模型兼容實驗，整機

可靠性實驗，功耗實驗等。驗證的測試指標(biāo)包含：精確率、召回率、準(zhǔn)確率、平

均精確率均值、平均交并比、能效比、吞吐量、線性度、訓(xùn)練時間、平均均方誤

差、平均絕對誤差等。基于理論論證、實際檢驗和驗證，本文件具備切實可行性。

四、知識產(chǎn)權(quán)情況說明

未發(fā)現(xiàn)有知識產(chǎn)權(quán)問題。

五、產(chǎn)業(yè)化情況、推廣應(yīng)用論證和預(yù)期達(dá)到的經(jīng)濟效果

產(chǎn)業(yè)發(fā)展情況：

請見第一.(一)節(jié)。

推廣應(yīng)用論證：

一方面，本文件面向各行業(yè)人工智能應(yīng)用，對必要計算設(shè)備——人工智能服

務(wù)器，提出了基礎(chǔ)技術(shù)要求，可以規(guī)范化功能、性能、兼容性等重要技術(shù)特性基

線，為各行業(yè)用戶提供系統(tǒng)設(shè)計和選擇依據(jù)；另一方面，人工智能應(yīng)用前景廣闊，

各行業(yè)的應(yīng)用逐步展開，對人工智能服務(wù)器的需求數(shù)量大。應(yīng)用產(chǎn)業(yè)對技術(shù)基準(zhǔn)

的需求明確。

因此，面向人工智能典型計算設(shè)備——人工智能服務(wù)器，建立基礎(chǔ)技術(shù)規(guī)范，

十分必要。在學(xué)習(xí)、應(yīng)用國際先進(jìn)技術(shù)的同時，向產(chǎn)業(yè)普及人工智能服務(wù)器基本

技術(shù)要求和測試方法，可為當(dāng)前碎片化的國內(nèi)人工智能計算設(shè)備產(chǎn)業(yè)提供明確的

發(fā)展標(biāo)尺，提升整體水平。

預(yù)期經(jīng)濟效果：

對人工智能服務(wù)器基礎(chǔ)技術(shù)要求和測試方法的標(biāo)準(zhǔn)化工作，將為我國人工智

能服務(wù)器的發(fā)展和應(yīng)用提供依據(jù)，有效緩解用戶看到卻不選擇使用的問題。利用

此技術(shù)標(biāo)尺，逐步為我國人工智能服務(wù)器開拓市場信賴空間，切實提升購置、使

用率，為產(chǎn)業(yè)、廠商、測試機構(gòu)、用戶創(chuàng)造經(jīng)濟效果。

六、采用國際標(biāo)準(zhǔn)和國外先進(jìn)標(biāo)準(zhǔn)情況

無。

七、與現(xiàn)行相關(guān)法律、法規(guī)、規(guī)章及相關(guān)標(biāo)準(zhǔn)的協(xié)調(diào)性

政策、法律、法規(guī)協(xié)調(diào)性：

國務(wù)院：《新一代人工智能發(fā)展規(guī)劃》及《國務(wù)院關(guān)于印發(fā)新一代人工智能

發(fā)展規(guī)劃的通知》國發(fā)〔2017〕35號，文中指出：構(gòu)建泛在安全高效的智能化

基礎(chǔ)設(shè)施體系，高效能計算基礎(chǔ)設(shè)施。繼續(xù)加強超級計算基礎(chǔ)設(shè)施、分布式計算

基礎(chǔ)設(shè)施和云計算中心建設(shè)，構(gòu)建可持續(xù)發(fā)展的高性能計算應(yīng)用生態(tài)環(huán)境。推進(jìn)

下一代超級計算機研發(fā)應(yīng)用。人工智能服務(wù)器的誕生就是為了針對性地提升關(guān)于

人工智能負(fù)載的計算性能，大力發(fā)展人工智能計算基礎(chǔ)設(shè)施，是提升國家技術(shù)核

心競爭力，各行業(yè)運行效率的關(guān)鍵。

本文件在2020年頒布的《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》中屬于

軟件和信息技術(shù)服務(wù)標(biāo)準(zhǔn)體系中屬于“信息技術(shù)”-“人工智能”-“C基礎(chǔ)軟硬

件平臺”。

與國際、國內(nèi)標(biāo)準(zhǔn)文件的協(xié)調(diào)性：

本文件是人工智能服務(wù)器領(lǐng)域，國內(nèi)外先進(jìn)標(biāo)準(zhǔn)的重要補充。本文件與國內(nèi)

外先進(jìn)標(biāo)準(zhǔn)文件的關(guān)系總結(jié)如下：

國內(nèi)標(biāo)準(zhǔn)文件：

1)與通用服務(wù)器國標(biāo)的關(guān)系：本文件涉及的人工智能服務(wù)器遵循通用服務(wù)

器功能國標(biāo)GB/T9813.3《計算機通用規(guī)范第三部分：服務(wù)器》提出的電氣、

電子功能，質(zhì)量評定程序，標(biāo)志、包裝、運輸和貯存要求。但在GB/T9813.3基

礎(chǔ)上，著重提出人工智能計算涉及的獨特技術(shù)功能、兼容性、基礎(chǔ)性能等技術(shù)要

求和測試方法；

2)與通用電子設(shè)備安全要求的關(guān)系：本文件涉及的人工智能計算設(shè)備遵循

GB/T4943.1《信息技術(shù)設(shè)備安全第一部分：通用要求》提出的對所有電子設(shè)

備電氣、輻射、機械安全技術(shù)要求；

3)與機器學(xué)習(xí)服務(wù)器通用技術(shù)要求的關(guān)系：本文件涉及的人工智能服務(wù)器

設(shè)備遵循T/CESA1043-2019《面向深度學(xué)習(xí)的服務(wù)器通用規(guī)范》提出的設(shè)計、制

造、檢驗過程要求。并在其基礎(chǔ)上，著重提出機器學(xué)習(xí)推理、訓(xùn)練等實際功能、

兼容性、性能等技術(shù)要求及測試方法，形成面向?qū)嵅俚闹敢?，是人工智能計算設(shè)

備標(biāo)準(zhǔn)體系中的重要組成部分；

4）與計算資源調(diào)度國標(biāo)的關(guān)系：20192139-T-469《信息技術(shù)人工智能平

臺資源供給》提出了人工智能計算資源調(diào)度方法，定義了必要參考指標(biāo)。本文件

不涉及資源調(diào)度方法。人工智能服務(wù)器可作為一種計算資源，被調(diào)度。

國際標(biāo)準(zhǔn)文件：

1）與ISO/IEC人工智能標(biāo)準(zhǔn)的關(guān)系（JTC1SC42）：

a）ISO/IECCD22989:2019InformationTechnology—Artificial

Intelligence—ArtificialIntelligenceConceptsandTerminology提出

了人工智能系統(tǒng)的組成構(gòu)架，構(gòu)架中含有計算基礎(chǔ)設(shè)備（Compute）部分，這些

設(shè)備可按某種組織方式，組成更復(fù)雜的計算架構(gòu)（如（云計算）。22989CD版本

并未對計算設(shè)備做詳細(xì)介紹。本文件提出的人工智能服務(wù)器是ISO/IECCD

22989:2019中計算設(shè)備的典型形態(tài)，本文對人工智能服務(wù)器提出功能、性能、兼

容性等基礎(chǔ)技術(shù)要求，并提出面向?qū)嶋H操作的測試方法；

b）ISO/IECCD23053:2019FrameworkforArtificialIntelligence

(AI)SystemsUsingMachineLearning(ML)在6.1章節(jié)中提出計算設(shè)備影響機

器學(xué)習(xí)（人工智能的主要分支）系統(tǒng)效率，但未對計算設(shè)備給出詳細(xì)論述。本文

件提出的人工智能服務(wù)器是ISO/IECCD23053:2019中“設(shè)施（infrastructure）”

-“硬件（hardware）”的主要形態(tài)。本文件進(jìn)一步研究并提出細(xì)致的功能、性

能、兼容性技術(shù)要求和測試方法。

2）與ISO/IEC可持續(xù)性、IT及數(shù)據(jù)中心標(biāo)準(zhǔn)的關(guān)系（JTC1SC39）：ISO/IEC

21836:2020Informationtechnology—Datacentres—Serverenergy

effectivenessmetric及ISO/IEC30134-4:2017Informationtechnology—

Datacentres—Keyperformanceindicators—Part4:ITEquipment

EnergyEfficiencyforservers(ITEEsv)面向數(shù)據(jù)中心所使用的通用服務(wù)器，

提出了能效測試指標(biāo)及設(shè)計方法論，本文件中關(guān)于能效的測試指標(biāo)的設(shè)計，遵循

ISO/IEC21836及ISO/IEC30134-4的要求，并在人工智能計算領(lǐng)域提出專門定

義，用于衡量人工智能計算設(shè)備完成人工智能應(yīng)用計算任務(wù)的效能。

八、重大分歧意見的處理經(jīng)過和依據(jù)

無。

九、標(biāo)準(zhǔn)性質(zhì)的建議

建議列為推薦性標(biāo)準(zhǔn)。

十、貫徹標(biāo)準(zhǔn)的要求和措施建議

標(biāo)準(zhǔn)項目計劃：

1）2020.11立項；

2）2020.12完成編制、發(fā)布；

3）2021：發(fā)布后，按照工委會部署，擇機，展開測試、評估。

組織措施：

為應(yīng)用本文件，建議實施以下組織措施：

1）在信息技術(shù)創(chuàng)新標(biāo)準(zhǔn)中心指導(dǎo)下，確定技術(shù)要求測試的執(zhí)行代表機構(gòu)；

2）由代表機構(gòu)建立測試組織工作組，評審專家組，技術(shù)測試組，按照本標(biāo)

準(zhǔn)實施測試，及對測試過程及結(jié)果進(jìn)行指導(dǎo)、評審；

3）由信息技術(shù)創(chuàng)新標(biāo)準(zhǔn)中心及執(zhí)行代表機構(gòu)，聯(lián)合向人工智能服務(wù)器應(yīng)用

領(lǐng)域的利益相關(guān)方，發(fā)布測試結(jié)果。

技術(shù)措施：

為應(yīng)用本文件，建議實施以下技術(shù)措施：

1）廣泛調(diào)研和遴選測試工具，對存在的測試工具進(jìn)行驗證，明確其適用性

和準(zhǔn)確性；

2）對擬增強的測試工具，實施技術(shù)分析，研制完善測試功能；

3）標(biāo)準(zhǔn)各參與單位，對執(zhí)行代表機構(gòu)人員，進(jìn)行技術(shù)培訓(xùn)，明確工具測試，

訪談等涉及的技術(shù)要求范圍；

4）制定測試組織流程。

十一、替代或廢止現(xiàn)行相關(guān)標(biāo)準(zhǔn)的建議

無需要替代或廢止的現(xiàn)行相關(guān)標(biāo)準(zhǔn)。

十二、其它應(yīng)予說明的事項

無。

《信息技術(shù)應(yīng)用創(chuàng)新人工智能服務(wù)器技術(shù)規(guī)范》團體標(biāo)準(zhǔn)編制工作組

2020-11-19

一、工作簡況

（一）產(chǎn)品和行業(yè)發(fā)展情況

人工智能服務(wù)器是人工智能計算基礎(chǔ)設(shè)施的主要應(yīng)用形態(tài)，逐步應(yīng)用在國內(nèi)

外各行業(yè)產(chǎn)學(xué)研場景中。

1、國外發(fā)展情況：

1）人工智能計算的特點是高度并行化，國外技術(shù)的發(fā)展來自其通用計算發(fā)

展成果的并行化。出現(xiàn)了一些引領(lǐng)世界人工智能計算技術(shù)的研究機構(gòu)和廠商；

2）人工智能服務(wù)器是突出的產(chǎn)品化方向。人工智能服務(wù)器，因其優(yōu)化的機

內(nèi)連接及專為人工智能計算設(shè)計的板級支撐，能夠高效提供專用算力，提升應(yīng)用

效率。

3）與人工智能服務(wù)器配套的軟件框架、工具發(fā)展迅速，應(yīng)用生態(tài)初步形成；

4）在功能、性能、兼容性等關(guān)鍵子領(lǐng)域，有穩(wěn)定技術(shù)產(chǎn)出，保持上升。產(chǎn)

業(yè)合作、產(chǎn)品、服務(wù)已擴展到我國國內(nèi)應(yīng)用行業(yè)。

2、國內(nèi)發(fā)展情況：

1）出現(xiàn)了一些人工智能芯片設(shè)計、研發(fā)機構(gòu)，形成了基于不同架構(gòu)的人工

智能計算芯片產(chǎn)品；

2）基于芯片研制成果，人工智能服務(wù)器的發(fā)展也逐步展開，已同步出現(xiàn)了

一些具有獨特技術(shù)功能的，性能上具備一定競爭力的產(chǎn)品實踐，應(yīng)用規(guī)模逐步增

大；

3）軟件、應(yīng)用生態(tài)持續(xù)發(fā)展，與人工智能計算設(shè)備的整體應(yīng)用已存在相當(dāng)

規(guī)模的成功試點；

4）在功能、性能、兼容性等關(guān)鍵技術(shù)子領(lǐng)域，已有關(guān)鍵技術(shù)產(chǎn)出并持續(xù)活

躍。

3、國內(nèi)外發(fā)展情況對比：

1）國內(nèi)外人工智能計算設(shè)備，尤其是人工智能服務(wù)器存在差距。國外在硬

件構(gòu)架設(shè)計、兼容性、算力釋放、軟件工具、應(yīng)用生態(tài)方面，以GPU為核心，建

立了較為完整的標(biāo)準(zhǔn)及產(chǎn)品體系；

2）國內(nèi)人工智能芯片、服務(wù)器研制領(lǐng)域投入較大，參與者眾多，但技術(shù)、

生態(tài)碎片化明顯，廠商多而不強。大多服務(wù)器產(chǎn)品或多或少地，存在兼容性，算

力釋放，軟件工具，應(yīng)用生態(tài)等方面的不足。特別地，在產(chǎn)品化及應(yīng)用實踐方面，

無基礎(chǔ)性技術(shù)標(biāo)尺，用戶難以選擇。國內(nèi)人工智能芯片、服務(wù)器研發(fā)成果的應(yīng)用

規(guī)模有待提高。

（二）主要承辦單位和參編單位

本文件編制由華為技術(shù)有限公司提出標(biāo)準(zhǔn)需求并牽頭，聯(lián)合杭州?？低晹?shù)

字技術(shù)股份有限公司，北京中科寒武紀(jì)科技有限公司，北京紫光恒越網(wǎng)絡(luò)科技有

限公司等發(fā)起，并獲得了國家計算機質(zhì)檢中心（北京尊冠科技有限公司），上海

依圖網(wǎng)絡(luò)科技有限公司，海光信息技術(shù)有限公司，云從科技集團股份有限公司，

北京中科睿芯科技集團有限公司，第四范式（北京）技術(shù)有限公司等單位的協(xié)同

編制與指導(dǎo)。

（三）主要工作過程

2019年2月，信息技術(shù)應(yīng)用創(chuàng)新工作委員會AI工作組標(biāo)準(zhǔn)征集。

2020年2月15日，確定《信息技術(shù)應(yīng)用創(chuàng)新人工智能服務(wù)器技術(shù)規(guī)范》列入

信息技術(shù)應(yīng)用創(chuàng)新工作委員會人工智能工作組工作計劃對該項標(biāo)準(zhǔn)進(jìn)行研制，并

在信息技術(shù)應(yīng)用創(chuàng)新范圍內(nèi)征集參編單位。

2020年3月20日，信息技術(shù)應(yīng)用創(chuàng)新工作委員會各參編單位完成第一輪標(biāo)準(zhǔn)

研制工作并匯總形成初步文稿。

2020年4月20日，標(biāo)準(zhǔn)組第二次標(biāo)準(zhǔn)編制討論會，各參與單位交換、討論編

制意見，形成文件討論稿第二版。

2020年5月15日，標(biāo)準(zhǔn)組第三次標(biāo)準(zhǔn)編制討論會，對標(biāo)準(zhǔn)草案涉及的關(guān)鍵問

題進(jìn)行了討論并修改文稿。

2020年6月8日，討論解決了關(guān)鍵問題，形成了組內(nèi)征求意見文稿；

2020年7月7日，征集組內(nèi)意見，并進(jìn)行了討論，將確定的修改合入文稿，形

成了標(biāo)準(zhǔn)初稿；

2020年10月14日，上工委會標(biāo)準(zhǔn)立項評審會，通過評審，準(zhǔn)許立項。

（四）主要起草人及其所做的工作

本文件的主要起草人包括金勇，李軍，胡本強，趙春昊，羅仕勝，張秀鶯，

彭劍峰，葉挺群，浦世亮，肖羽，盧冕，劉一鳴，王英，孫高飛，王子彥，史謹(jǐn)

璠，鐘于義，曹華偉，沈夢南，陽小珊，田雄軍，袁圓，張良，王渭巍，苗樹明，

陳常水，劉鑫，曹曉琦，楊志龍，李侃，李強等。各起草人皆參與了編制會議，

對文件中的條款和重點問題進(jìn)行了技術(shù)及編制方面的探討。

二、標(biāo)準(zhǔn)編制原則和確定主要內(nèi)容的論據(jù)及解決的主要問題

編制原則：

a)先進(jìn)性原則：本文件的編制以對人工智能計算產(chǎn)業(yè)的發(fā)展及痛點洞察為先

導(dǎo)，研究人工智能計算設(shè)備主要產(chǎn)品——人工智能服務(wù)器的產(chǎn)業(yè)、生態(tài)發(fā)展情況，

分析國外先進(jìn)研究機構(gòu)、廠商技術(shù)動作及其對產(chǎn)業(yè)發(fā)展的帶動作用。將國內(nèi)外產(chǎn)

業(yè)發(fā)展做了分析對比，識別我國人工智能服務(wù)器產(chǎn)業(yè)發(fā)展的特點及不足及標(biāo)準(zhǔn)化

文件缺失，有針對性地，選取了標(biāo)準(zhǔn)化對象；

b)實用性原則：本文件制定時充分分析了眾多應(yīng)用領(lǐng)域?qū)θ斯ぶ悄芊?wù)器的

需求，著力于解決用戶、廠商在實際應(yīng)用人工智能服務(wù)器過程中的共同技術(shù)問題

和難點，引導(dǎo)用戶、廠商針對產(chǎn)品能力達(dá)成一致預(yù)期，在實際項目中增強國內(nèi)人

工智能服務(wù)器產(chǎn)品應(yīng)用落地能力；

c)兼容性原則：本文件編制時時，充分考慮了人工智能服務(wù)器與其它信息技

術(shù)、人工智能軟件、應(yīng)用等相關(guān)技術(shù)、工具、產(chǎn)品的兼容性。加之，本文件在研

制過程中，廣泛參考了國內(nèi)外相關(guān)標(biāo)準(zhǔn)，如GB/T9813.3《計算機通用規(guī)范第

三部分：服務(wù)器》，GB/T4943.1《信息技術(shù)設(shè)備安全第一部分：通用要求》，

T/CESA1043-2019《面向深度學(xué)習(xí)的服務(wù)器通用規(guī)范》，20192139-T-469《信息

技術(shù)人工智能平臺資源供給》，ISO/IECCD22989:2019Information

Techn