《電力人工智能平臺總體架構(gòu)及技術(shù)要求》（征求意見稿）

ICS號

中國標準文獻分類號T/CESXXX?XXXX

CES

團體標準

T/CESXXX?XXXX

電力人工智能平臺總體架構(gòu)及技術(shù)要求

Theoverallarchitectureandtechnicalrequirementsoftheartificialintelligence

platforminpowerindustry

（征求意見稿）

XXXX-XX-XX發(fā)布XXXX-XX-XX實施

1

T/CESXXX?XXXX

人工智能平臺架構(gòu)標準規(guī)范

1范圍

本標準規(guī)定了人工智能平臺建設架構(gòu)、技術(shù)要求以及規(guī)定了電力人工智能算法模型在共

享應用中所涉及的文件、描述文檔和使用方式的基本要求。

本標準適用于人工智能平臺的規(guī)劃、設計、開發(fā)、運維和算法模型應用。

2規(guī)范性引用文件

下列文件對于本文件的應用是必不可少的。凡是注日期的引用文件，僅注日期的版本適

用于本文件。凡是不注日期的引用文件，其最新版本（包括所有的修改單）適用于本文件。

GB/T1.1—2020標準化工作導則第1部分：標準的結(jié)構(gòu)和編寫

GB/T5271.1—2000信息技術(shù)詞匯第1部分：基本術(shù)語

GB/T5271.28—2001信息技術(shù)詞匯第28部分：人工智能基本概念與專家系統(tǒng)

GB/T5271.29—2006信息技術(shù)詞匯第29部分：人工智能語音識別與合成

GB/T5271.31—2006信息技術(shù)詞匯第31部分：人工智能機器學習

GB/T5271.34—2006信息技術(shù)詞匯第34部分：人工智能神經(jīng)網(wǎng)絡

DA/T77-2019紙質(zhì)檔案數(shù)字復制件光學字符識別OCR工作規(guī)范

TAF—WG7—AS0043—V1.0.0:2019智能產(chǎn)品語音識別測評方法第二部分：智能音箱

3術(shù)語和定義

下列術(shù)語和定義適用于本文件。

3.1人工智能artificialintelligence

一門交叉學科，通常視為計算機科學的分支，研究表現(xiàn)出與人類智能（如推理和學習）

相關(guān)的各種功能的模型和系統(tǒng)。

[GB/T5271.28—2001,定義28.01.01]

3.2訓練（在神經(jīng)網(wǎng)絡中）training（inneuralnetwork）

教會神經(jīng)網(wǎng)絡在輸入值的樣本和正確輸出值之間作出結(jié)合的步驟。

[GB/T5271.34—2006,定義34.03.18]

3.3樣本數(shù)據(jù)sampledata

其具備的特征能夠正確反映總體數(shù)據(jù)情況的一部分個體數(shù)據(jù)。

3.4推理inference

從已知前提導出結(jié)論的推理方法。

注1：在人工智能領域中，前提是事實或規(guī)則。

注2：術(shù)語“推理”既指過程也指結(jié)果。

4

T/CESXXX?XXXX

[GB/T5271.28—2001,定義28.03.01]

3.5深度學習框架deeplearningframework

一種支持深度學習模型設計、訓練和推理的軟件。

3.6資源resource

執(zhí)行所要求的操作而必需的數(shù)據(jù)處理系統(tǒng)的任何組成部分。

[GB/T5271.1—2000,定義01.01.23]

3.7配置configuration

信息處理系統(tǒng)中的硬件和軟件組織和互連起來的方式。

[GB/T5271.1—2000,定義01.01.26]

3.8接口interface

兩個功能單元共享的邊界，它由各種特征（如功能、物理互連、信號交換等）來定義。

[GB/T5271.1—2000,定義01.01.38]

3.9計算機視覺computervision

功能單元獲取、處理和理解可視數(shù)據(jù)的能力。

[GB/T5271.28—2001,定義28.01.19]

3.10語音識別speechrecognition

利用功能單元進行的，從語音信號到語音內(nèi)容的某一表示的轉(zhuǎn)換。

[GB/T5271.29—2006,定義29.01.30]

3.11數(shù)據(jù)標注dataannotation

通過分類、畫框、注釋等方式對數(shù)據(jù)進行標記，形成可供計算機分析識別的數(shù)據(jù)。

3.12模型訓練modeltraining

基于一系列數(shù)據(jù)集、學習框架等，并通過最優(yōu)的建模方法和參數(shù)得到一個算法模型的過

程。

3.13OCR光學字符識別opticalcharacterrecognition

將圖片、照片上的文字內(nèi)容直接轉(zhuǎn)換為可編輯文本的一種技術(shù)。

[DA/T77—2019,定義3.3]

3.14人臉識別facerecognition

基于人的臉部特征信息進行身份識別的一種圖像識別技術(shù)。

3.15知識圖譜knowledgegraph

顯示知識發(fā)展進程與結(jié)構(gòu)關(guān)系的一系列各種不同的圖形，用可視化技術(shù)描述知識資源及

其載體，挖掘、分析、構(gòu)建、繪制和顯示知識及它們之間的相互聯(lián)系。

3.16自然語言處理naturallanguageprocessing

5

T/CESXXX?XXXX

研究能實現(xiàn)人與計算機之間用自然語言進行有效通信的各種理論和方法。

[TAF—WG7—AS0043—V1.0.0:2019，定義3.1.7]

3.17目標檢測targetdetection

一種確定圖像中目標的類別和位置屬性信息的技術(shù)。

3.18模型運行腳本modelscript

使用腳本語言所寫的用于部署算法模型的程序。

3.19模型文件部署modelfiledeployment

根據(jù)提供的算法模型源文件、模型配置文件等，結(jié)合相應的開發(fā)語言、深度學習框架、

模型配置說明、運行依賴說明，手動完成運行框架、依賴環(huán)境安裝和配置文件調(diào)整，實現(xiàn)算

法模型的成功部署，完成相應推理服務。

3.20容器部署dockerdeployment

利用容器封裝算法模型源文件、運行框架、依賴環(huán)境、配置文件等資源，通過容器方式

實現(xiàn)算法模型的成功部署，完成相應推理服務。

3.21預言模型標記語言(PMML)predictivemodelmarkuplanguage

用于呈現(xiàn)數(shù)據(jù)挖掘模型，支持在不同的應用程序之間共享預測分析模型。

3.22系統(tǒng)負載（SL）systemload

一種用于描述CPU當前負荷的指標，具體統(tǒng)計了運行和等待運行的進程/線程數(shù)。

3.23電力人工智能平臺electricartificialintelligenceplatform

整合多種機器學習計算框架，具備數(shù)據(jù)管理、模型開發(fā)、平臺服務、運營管理、運維管

理、安全管控及跨域協(xié)同等功能的人工智能軟件系統(tǒng)。平臺支持樣本選擇、模型創(chuàng)建、模型

訓練及服務發(fā)布的全流程一站式管理，包含面向電力領域的模型庫及數(shù)據(jù)樣本庫。

3.24電力專用模型electricitydedicatedmodel

支撐國家電網(wǎng)有限公司電力生產(chǎn)的專用模型。

3.25電力專用模型任務electricitydedicatedmodeltask

圖像分類、目標檢測、圖像分割、視頻分類、行為檢測、單目標跟蹤、多目標跟蹤、數(shù)

值分類、數(shù)值回歸、數(shù)值聚類等電力行業(yè)專用的模型服務。

4縮略語

下列縮略語適用于本文件。

OCR：光學字符識別（OpticalCharacterRecognition）

ROC：受試者工作特征曲線(ReceiverOperatingCharacteristicCurve)

AUC：ROC曲線下的面積（AreaUnderCurve）

BLEU：雙語互譯質(zhì)量評估輔助工具(bilingualevaluationunderstudy)

FRR：拒識率（FalseRejectionRate）

6

T/CESXXX?XXXX

SER：句子識別錯誤率（SentenceErrorRate）

FAR：誤識率（FalseAcceptanceRate）

FPR：偽正類率(FalsePositiveRat,)

TPR：真正類率(TruePositiveRate)

F1值：精確率和召回率的調(diào)和均值(F-Measure)

TP：真陽性(TruePositive)

FP：假陽性(FalsePositive)

5架構(gòu)要求

5.1概述

人工智能平臺架構(gòu)要求包括總體架構(gòu)、技術(shù)架構(gòu)、數(shù)據(jù)架構(gòu)。

1)總體架構(gòu)：規(guī)定平臺總體結(jié)構(gòu)以及和其它平臺的關(guān)系；

2)技術(shù)架構(gòu)：規(guī)定平臺主體組件的技術(shù)選型和技術(shù)范圍；

3)數(shù)據(jù)架構(gòu)：規(guī)定平臺數(shù)據(jù)的架構(gòu)。

5.2總體架構(gòu)

人工智能平臺架構(gòu)應包括：訓練環(huán)境、模型庫、樣本庫、運行環(huán)境、管理中心和統(tǒng)一服

務門戶6部分。生產(chǎn)環(huán)境中的模型庫僅可包括驗證通過的模型，生產(chǎn)環(huán)境的樣本庫僅包括生

產(chǎn)數(shù)據(jù)相關(guān)樣本，訓練環(huán)境樣本庫包括訓練驗證用的樣本，人工智能平臺總體架構(gòu)如下圖1：

圖1人工智能技術(shù)應用總體架構(gòu)

人工智能平臺總體架構(gòu)要求為：

1)人工智能平臺的數(shù)據(jù)樣本應直接來源于數(shù)據(jù)中臺；

2)人工智能平臺服務層中的通用組件，專用模型應部署在資源層，為應用層提供算力

服務，中間件和模型服務；

3)人工智能平臺應統(tǒng)一服務門戶主要分為服務層和平臺層，服務層提供通用算法(如：

計算機視覺，自然語言處理，智能語音，知識圖譜)，平臺層分為樣本庫與模型庫，

提供人工智能訓練與人工智能運行平臺，服務層供平臺層進行調(diào)用；

4)樣本庫應支撐算法訓練，訓練結(jié)果應輸出至模型庫；

7

T/CESXXX?XXXX

5)模型庫應支持模型管理，鏡像封裝，模型共享，模型發(fā)布；

6)人工智能平臺主要在管理信息大區(qū)部署，在互聯(lián)網(wǎng)大區(qū)僅部署模型管理組件和業(yè)務

模型服務組件，用于支撐互聯(lián)網(wǎng)大區(qū)人工智能業(yè)務應用；

7)人工智能平臺互聯(lián)網(wǎng)大區(qū)模型從管理信息大區(qū)模型庫中獲取，模型同步通過隔離裝

置穿透管理信息大區(qū)和互聯(lián)網(wǎng)大區(qū)。

5.3技術(shù)架構(gòu)

人工智能平臺技術(shù)架構(gòu)要求主要包括：應用層、服務層、能力層和資源層的要求。管理

中心處于服務層和能力層。人工智能平臺技術(shù)架構(gòu)如下圖：

圖2人工智能平臺技術(shù)架構(gòu)

人工智能平臺技術(shù)架構(gòu)要求為：

1)應用層通過API和SDK兩種方式使用平臺的服務，通過GUI的方式訪問能力層提供

的能力；

2)模型管理中的模型部署應采用容器化部署方式，應使用Kubernetes和Docker組件；

3)算法集成應包括算法模塊：SVM、SVD、PCA、YOLO等；

4)學習框架應包括主流的開源深度學習框架；

5)數(shù)據(jù)接入宜采用Kettle和Sqoop等組件；

6)特征預處理中的特征提取宜支持Numpy、Scikit-learn等組件；

7)數(shù)據(jù)存儲宜支持Ceph等組件；

8)平臺應支持多租戶；

9)配置管理模塊宜采用配置引擎的方式開發(fā)；

10)AI芯片計算資源包括但不限于：FPGA、ASIC等；

5.4數(shù)據(jù)架構(gòu)

8

T/CESXXX?XXXX

將數(shù)據(jù)按照圖像、視頻、語音、文本等類型存儲，經(jīng)過數(shù)據(jù)標注后形成樣本庫。人工智

能平臺數(shù)據(jù)架構(gòu)如下圖：

人工智能業(yè)務應用系統(tǒng)

業(yè)務數(shù)據(jù)組件結(jié)果

訓練組件推理組件···組件人工智能組件

樣本數(shù)據(jù)源

樣本讀取模型生成模型調(diào)用

數(shù)據(jù)總線

信息業(yè)務系統(tǒng)

樣本中心模型中心

消息總線

離線數(shù)據(jù)采集模型推送

樣本上傳

物聯(lián)管理平臺

模型下發(fā)

邊緣端

圖3人工智能平臺數(shù)據(jù)架構(gòu)

人工智能平臺數(shù)據(jù)架構(gòu)要求為:

1)樣本數(shù)據(jù)源來源于信息業(yè)務系統(tǒng)或通過離線數(shù)據(jù)采集，經(jīng)數(shù)據(jù)總線、消息總線推送

至樣本中心；

2)樣本中心通過對樣本數(shù)據(jù)源進行數(shù)據(jù)標注等預處理操作，形成用于訓練模型的樣本

數(shù)據(jù)，提供給訓練組件、推理組件、回歸測試組件等；

3)人工智能組件讀取樣本中心的數(shù)據(jù)，調(diào)用模型中心的模型，并將訓練好的模型入庫

存儲到模型中心；調(diào)用模型中心的模型，使用業(yè)務應用推送的業(yè)務數(shù)據(jù)，將組件訓

練結(jié)果反饋給業(yè)務應用系統(tǒng)；

4)樣本中心可實現(xiàn)樣本同步；

5)模型中心可實現(xiàn)模型同步，并提供模型調(diào)用服務；

6)模型中心的模型推送至物聯(lián)管理平臺，通過物聯(lián)管理平臺下發(fā)到邊緣端；

7)邊緣端的數(shù)據(jù)樣本可通過物聯(lián)管理平臺上傳至樣本中心；

8)邊緣端使用模型后產(chǎn)生的拒真/存?zhèn)位蚱渌惓＝Y(jié)果，可作回測試樣本上傳至樣本

中心，用于迭代優(yōu)化模型。

6技術(shù)要求

6.1功能要求

6.1.1訓練中心

訓練中心負責訓練全過程管理，包含訓練任務項目管理、算法訓練、資源調(diào)度、算法評

估、算法文件管理等功能。

1)項目管理：應支持訓練任務流程管理，包括項目創(chuàng)建、刪除、狀態(tài)監(jiān)測與查詢，以

及不同任務之間的切換；

2)訓練框架：應支持兼容PyTorch、TensorFlow、MXNet、Caffer等主流深度學習框

架；

3)訓練方式：應支持Notebook式、命令式、GUI任務式進行訓練；

9

T/CESXXX?XXXX

4)資源調(diào)度：宜支持GPU顯存分配；

5)算法評估：不同類型算法應支持不同評價指標的計算與展示，分為以下類別：

a)分類算法：計算準確率、召回率、F1值；

b)聚類算法：計算準確率、精確率、召回率、緊密性、間隔性；

c)回歸算法：計算均方誤差、均方根誤差、決定系數(shù)、校正決定系數(shù)；

6)算法管理：應支持算法文件按類別、來源等分類上傳、下載、保存。

6.1.2模型中心

模型中心負責對模型文件統(tǒng)一管理、提供模型推理服務。

1)模型統(tǒng)一管理：應支持接收模型、發(fā)送模型、刪除模型、版本管理、收藏模型；

2)模型推理服務：服務應支持一鍵式自動部署發(fā)布、引導式發(fā)布，支持GPU顯存分配

管理，提供服務測試、接口管理、請求審核等能力和服務。

6.1.3樣本中心

樣本中心可對數(shù)據(jù)文件統(tǒng)一管理、提供數(shù)據(jù)標注、數(shù)據(jù)處理服務。

1)樣本統(tǒng)一管理：應支持接入數(shù)據(jù)、發(fā)送數(shù)據(jù)、數(shù)據(jù)集管理；

2)數(shù)據(jù)導入方式：應支持本地、數(shù)據(jù)庫、HDFS、FTP、NFS等方式；

3)數(shù)據(jù)預處理服務，需提供通用數(shù)據(jù)預處理方法，缺失處理、異常處理，對不同類型

數(shù)據(jù)應支持不同類型的預處理方法：

a)文本數(shù)據(jù)：標記化、歸一化、替換；

b)圖片、視頻數(shù)據(jù)：特征提取、圖片增強、去噪；

c)語音數(shù)據(jù)：特征提取、數(shù)據(jù)增強、預加重、分幀；

4)數(shù)據(jù)標注服務：標注流程管理與服務，支持文本、圖像、語音、視頻等類型數(shù)據(jù)標

注，宜提供基于已有模型的智能標注。

6.2性能要求

6.2.1響應時限

人工智能平臺響應實現(xiàn)需符合以下規(guī)定：

1)在系統(tǒng)負載小于80%時，前端頁面響應時間不超過5秒；

2)在系統(tǒng)負載小于80%時，后端服務響應時間不超過3秒；

3)在系統(tǒng)負載小于80%時，算法訓練任務創(chuàng)建響、推理服務申請應時間不超過3分鐘；

4)在系統(tǒng)負載小于80%時，推理調(diào)用響應時間不超過3秒。

6.2.2可靠性

人工智能平臺在不能抗力環(huán)境下，應滿足7×24小時服務不中斷，提供冗余的網(wǎng)絡設備、

通信線路、系統(tǒng)硬件，保證容錯率和可用性，具體要求如下：

1)數(shù)據(jù)完整性：存儲節(jié)點發(fā)生故障時，冗余部分應包含完整數(shù)據(jù)；

2)算力完整性：計算節(jié)點發(fā)生故障時。冗余部分應保證已有訓練任務、推理服務結(jié)果

不變；

3)消息完整性：消息節(jié)點發(fā)生故障時，冗余部分應保證消息不丟失、不影響新消息的

提交和消費；

4)任務調(diào)度完整性：任務調(diào)度節(jié)點發(fā)生故障時，冗余部分應不影響任務調(diào)度管理與執(zhí)

行；

5)網(wǎng)絡完整性：網(wǎng)絡故障后，經(jīng)修復后，系統(tǒng)、系統(tǒng)任務、系統(tǒng)服務應自動繼續(xù)運行。

10

T/CESXXX?XXXX

6.2.3可擴展性

人工智能平臺應支持硬件、軟件、系統(tǒng)擴展升級，且升級過程應不影響現(xiàn)有樣本數(shù)據(jù)、

訓練任務、模型推理服務。

6.3安全要求

安全性要求包括基礎性安全要求、系統(tǒng)容錯安全要求。

1)基礎性要求：

a)應符合GB/T18336—2015《信息技術(shù)安全技術(shù)信息技術(shù)安全評估準則》的

規(guī)定；

b)應符合GB/T18336—2015《信息技術(shù)安全技術(shù)信息技術(shù)安全評估準則》的

規(guī)定；

c)數(shù)據(jù)部分應符合《中華人民共和國數(shù)據(jù)安全法》的規(guī)定。

2)容錯性安全要求：算法模型支撐業(yè)務應用時，應考慮計算結(jié)果偏差超出范圍、精度

降低、響應超時對業(yè)務系統(tǒng)的不良影響。

6.4硬件要求

運行人工智能平臺系統(tǒng)、訓練任務、推理服務、智能標注等組件的服務器應具備GPU

算力資源，支持CUDA和CUDNN加速。各組件具體要求如下：

1)訓練任務：GPU顯存應不低于16G，宜到達32G或以上，宜使用固態(tài)硬盤作訓練樣

本的緩存；

2)推理服務：GPU顯存應不低于8G，宜到達16G或以上；

3)系統(tǒng)運行：GPU顯存應不低于8G，宜到達16G或以上；

7算法模型共享要求

7.1概述

算法模型的共享基礎是具有算法模型文件和算法模型描述文件，本章給出對相關(guān)文件的

要求。

7.2算法模型文件

算法模型文件應包括但不限于：算法模型源文件；算法模型配置文件；算法模型運行腳

本文件。

7.2.1算法模型源文件

算法模型源文件是由訓練框架和數(shù)據(jù)集經(jīng)過模型訓練后得到的所有參數(shù)存儲文件。常

見的訓練框架包括但不限于Caffe、PyTorch、TensorFlow、MXNet等。根據(jù)不同描述語言和

開發(fā)框架，算法模型源文件對應要求如下：

1)Caffe框架。算法模型源文件應包括存儲模型參數(shù)caffemodel文件和存儲模型網(wǎng)

絡結(jié)構(gòu)的prototxt文件

2)PyTorch框架。算法模型源文件應包括用于存儲模型的網(wǎng)絡結(jié)構(gòu)和參數(shù)pth文件，。

11

T/CESXXX?XXXX

3)TensorFlow框架。模型源文件應包括meta文件、data文件和index文件，meta

文件，data文件存儲模型的網(wǎng)絡參數(shù)，index文件為張量描述列表或網(wǎng)絡結(jié)構(gòu)和

參數(shù)整合后的h5/pb文件。

4)MXNet框架。算法模型源文件應包括params文件和json文件組成，params文件

存儲模型參數(shù)，json文件存儲模型網(wǎng)絡結(jié)構(gòu)。

5)其他框架。算法模型源文件可采用通用PMML預言模型標記語言描述，文件格式為

xml，可用于描述和存儲算法模型。

7.2.2算法模型配置文件

模型配置文件所描述的可調(diào)參數(shù)針對不同框架和算法模型類型具有不同的字段，可調(diào)參

數(shù)應包含但不限于以下字段：

表1可調(diào)參數(shù)說明

序號字段名稱含義說明

1BatchSize描述批處理參數(shù)

2Width描述輸入數(shù)據(jù)的寬度

3Height描述輸入數(shù)據(jù)的高度

4Channel描述輸入數(shù)據(jù)通道數(shù)

5GPU指定GPU的ID

7.2.3算法模型運行腳本文件

算法模型運行腳本文件應提供對模型加載、訓練和推理的代碼支持，并以模型配置文件

所指定的參數(shù)運行模型文件。

7.