信息安全技術 人工智能計算平臺安全框架-編制說明

一、工作簡況

1、任務來源

《信息安全技術人工智能計算平臺安全框架》是全國信息安全技術標準化

委員會（后文簡稱“信安標委”）2022年11月公布立項的信息安全國家標準制定

項目（國標計劃號：20230249-T-469）。該標準是由華為技術有限公司牽頭，并

聯(lián)合中國電子技術標準化研究院、中國電信集團有限公司等幾十家單位開展編制

與討論工作。

2、標準編制的主要成員單位

華為技術有限公司負責起草，中國電子技術標準化研究院、中國電信集團有

限公司、上海商湯智能科技有限公司、北京交通大學、北京快手科技有限公司、

北京神州綠盟科技有限公司從、北京數(shù)安行科技有限公司、北京數(shù)字認證股份有

限公司、北京信安世紀科技股份有限公司、北京眼神科技有限公司、北京銀聯(lián)金

卡科技有限公司、北京遠鑒信息技術有限公司、公安部第三研究所、公安部第一

研究所、國家工業(yè)信息安全發(fā)展研究中心、國家信息技術安全研究中心、國家信

息中心、國網(wǎng)區(qū)塊鏈科技（北京）有限公司、國網(wǎng)新疆電力有限公司電力科學研

究院、國網(wǎng)智能電網(wǎng)研究院有限公司、杭州安恒信息技術股份有限公司、華控清

交信息科技（北京）有限公司、華中科技大學、螞蟻科技集團股份有限公司、美

的集團（上海）有限公司、南湖實驗室、啟明星辰信息技術集團股份有限公司、

山石網(wǎng)科通信技術股份有限公司、上海觀安信息技術股份有限公司、上海市信息

安全測評認證中心、上海燧原科技有限公司、上海依圖網(wǎng)絡科技有限公司、深圳

大學、深圳市洞見智慧科技有限公司、四川大學、騰訊云計算（北京）有限責任

公司、武漢東湖大數(shù)據(jù)交易中心股份有限公司、西安交通大學、云從科技集團股

份有限公司、浙江大華技術股份有限公司、鄭州信大捷安信息技術股份有限公司、

中國科學技術大學、中國科學院軟件研究所、中國科學院信息工程研究所、中國

移動通信集團有限公司、中電科網(wǎng)絡安全科技股份有限公司、中國電力科學研究

院有限公司等單位共同參與了該標準的起草工作。

1

3、主要工作過程

1)2021年4月至11月，開展《AI模型保護參考架構》研究項目，研究人

工智能應用、安全威脅、人工智能計算平臺層面能夠應對的安全威脅、國內外人

工智能安全標準及政策法規(guī)對AI模型保護保護、人工智能計算平臺安全相關要

求、國內外關于人工智能計算平臺保障AI模型安全相關的前沿技術、產品及解

決方案等，基于研究內容構建“基于AI計算平臺的模型保護參考架構”，在安標

委11月的會議周上通過工作組匯報，同意研究項目修改后提交秘書處驗收、該

標準研究項目為《信息安全技術人工智能計算平臺安全框架》標準編制奠定研

究基礎、產業(yè)共識基礎等。

2)2021年12月至2022年4月，編制組形成《人工智能計算平臺安全框架》

標準草案，提交該標準制定需求，信安標委發(fā)布《2022年網(wǎng)絡安全國家標準需求

清單》，該項目被納入需求清單，華為技術有限公司協(xié)同中國電子技術標準化研

究院、中國電信、中國移動等完成項目申報。

3)2022年4月至5月，編制組密集討論形成正式草案，于5月20日在大

數(shù)據(jù)工作組匯報答辯，通過工作組立項評審。

4)2022年6月至11月，編制組進行多輪研討、刷新草案，并完成相關研

究報告、標準應用實施報告等，通過安標委專家評審、委員投票、主任辦公會等，

于11月2日由安標委公布正式立項。

5)2022年11月至12月，編制組進行正式立項后的第一次研討會，進一步

討論明確標準對象、范圍、安全威脅等重點問題，并分工完善標準草案，通過大

數(shù)據(jù)工作組匯報評審，同意推進至征求意見稿。

6)2022年12月27日，編制組對會議周期間大數(shù)據(jù)工作組專家提出的意見

進行逐一討論，形成一致結論，并結合項目責任專家、責任編輯等的意見，修改

完善形成標準征求意見稿。

7)2022年12月29日，牽頭單位組織研討會，向責任專家、責任編輯介紹

標準內容，以及會議周工作組意見，吸取責任專家及責任編輯的意見；

8)2023年2月26日，秘書處組織專家審查會，本標準通過專家審查，同

意進入征求意見稿。

9)2023年3月22日，編制組對牽頭單位按照專家審查會意見修改情況進

2

行一一討論，形成一致意見。

10)2023年4月28日，牽頭單位組織標準試點啟動會，邀請工作組秘

書、責任專家及秘書處參會，傳遞國標試點要求及計劃，動員征集試點參與單位。

二、標準編制原則和確定主要內容的論據(jù)及解決的主要問題

1、編制原則

本標準的編制原則是：

1）實用性

根據(jù)對金融、運營商、電力等諸多行業(yè)的主流AI應用場景調研，國內外政策

法規(guī)及標準分析，歸納總結AI計算平臺安全需求，包括自身安全、AI核心資產保

護等，針對這些安全需求，建立AI計算平臺安全框架，包括安全功能、安全機制、

安全模塊和服務接口，指導人工智能計算平臺的設計與實現(xiàn)，也為平臺使用方應

用人工智能計算平臺安全功能提供參考。

2）安全性

在本標準中分析了人工智能計算平臺不同參與方的業(yè)務活動，識別其核心資

產及安全需求，保障AI核心資產傳輸、存儲、訓練、推理全流程安全。

3）符合性

符合國家有關法律法規(guī)和已有標準規(guī)范的相關要求。

2、確定主要內容的依據(jù)

標準制定的依據(jù)為：

a）標準格式按照GB/T1.1—2020標準要求編寫。

b）本標準制定參考以下國家、行業(yè)標準：

GB/T25069—2022信息安全技術術語

GB/T41867—2022信息技術人工智能術語

GB/T42018—2022信息技術人工智能平臺計算資源規(guī)范

3、解決的主要問題

本標準要解決的問題為，人工智能計算任務執(zhí)行過程中，AI計算平臺如何

保障自身安全以及如何基于平臺保障AI核心資產安全。

本標準主要框架如下：

前言

3

引言

1范圍

本文件規(guī)定了人工智能計算平臺安全框架的安全功能、安全機制、安全模塊以

及服務接口。

本文件適用于指導人工智能計算平臺的設計與實現(xiàn)，也為平臺使用方應用人工

智能計算平臺安全功能提供參考。

2規(guī)范性引用文件

GB/T25069—2022信息安全技術術語

GB/T41867—2022信息技術人工智能術語

GB/T42018—2022信息技術人工智能平臺計算資源規(guī)范

3術語和定義

本標準定義了人工智能加速處理器、人工智能服務器、人工智能計算平臺、人

工智能模型、人工智能核心資產、對抗樣本等相關術語定義。

4.縮列語

5.概述

本節(jié)介紹人工智能計算平臺安全框架組成：

a)安全框架結構：介紹本文所述的人工智能計算平臺安全框架組成結構；

b)安全功能概述：分別介紹平臺自身安全和AI核心資產保護兩方面的安全功

能以及各安全功能的作用目的；

c)安全機制概述：介紹各安全機制的作用目的、涉及的安全模塊及服務接口。

d)安全模塊概述：介紹各安全模塊基本功能作用；

e)服務接口概述：介紹本文件所述安全機制涉及的服務接口。

6.安全模塊

規(guī)范各安全模塊具備的基本功能。

7.安全機制

規(guī)范各安全機制涉及的安全模塊交互關系和交互流程。

8.服務接口

歸納各安全機制涉及的服務接口及服務接口所屬安全模塊、接口作用。

4

三、主要試驗情況分析

基于招商銀行異常行為識別場景對本文件定義的“加解密機制”及相關安全模

塊功能進行了試驗驗證，整體效果表明該機制符合實際場景需求，能夠有效保障招

行AI模型、數(shù)據(jù)等核心資產從總行訓練環(huán)境到分行邊緣推理環(huán)境傳輸、存儲全流

程加密保護。

四、知識產權情況說明

本標準不涉及專利及知識產權問題。

五、產業(yè)化情況、推廣應用論證和預期達到的經(jīng)濟效果

本標準所定義的安全框架適用于各類人工智能應用系統(tǒng)的底層軟硬件基礎設

施?，F(xiàn)階段，在人工智能領域及關乎國計民生的行業(yè)領域，均已部署人工智能應用

系統(tǒng)，計劃通過采納人工智能技術促進本行業(yè)的數(shù)字化、智能化水平，提高相關業(yè)

務的性能、效率及準確度。因此，本標準已具備足夠的產業(yè)化基礎。另一方面，在

本標準編制過程中，金融/電信/能源等重點行業(yè)中的企業(yè)單位及人工智能產業(yè)中的

軟件開發(fā)商、安全服務商等專業(yè)公司均積極參與標準試點工作，組成標準推廣應用

工作組共同推動本標準在不同領域的應用驗證，這也充分證明本標準具備足夠的產

業(yè)化基礎，也是各領域亟需參考的關鍵標準。

通過本標準的制定，一方面可以幫助人工智能領域及使用人工智能技術的各行

各業(yè)構筑安全的人工智能計算平臺，夯實基礎以提升人工智能應用系統(tǒng)的安全性；

另一方面可以幫助各領域人工智能技術的相關參與方保障其模型、訓練數(shù)據(jù)集等AI

核心資產安全?？偠灾?，本標準的制定能夠為人工智能技術的發(fā)展以及各行業(yè)領

域加速應用人工智能技術保駕護航，具備顯著的經(jīng)濟效益，意義重大。

六、采用國際標準和國外先進標準情況

無

七、與現(xiàn)行相關法律、法規(guī)、規(guī)章及相關標準的協(xié)調性

本標準與現(xiàn)行法律、法規(guī)、強制性國家標準及相關標準協(xié)調一致。TC260《機

器學習算法安全評估規(guī)范》標準側重模型、數(shù)據(jù)、算法等自身安全增強，本標準側

重AI計算平臺自身安全以及AI計算平臺如何加強AI模型、數(shù)據(jù)等AI核心資產保

護，二者對象范圍等存在差異，但相輔相成共同促進AI整體安全。與SC42《人工

智能術語》、《人工智能平臺資源供給》在術語及AI平臺組成等存在一致性或映射

5

關系；。

八、重大分歧意見的處理經(jīng)過和依據(jù)

無。

九、標準性質的建議

建議作為國家推薦性標準發(fā)布。

十、貫徹標準的要求和措施建議

本標準期望達成以下兩方面效果：

1）使得AI計算平臺提供方能夠參考本標準設計、研發(fā)AI計算平臺，保障AI

計算平臺自身安全，并提供相關安全功能及服務接口輔助AI計算平臺使用

方保障AI核心資產傳輸、存儲、訓練、推理全流程安全；

2）使得AI計算平臺使用方，包括數(shù)據(jù)提供方、模型提供方、應用開發(fā)方等，

能夠參考調用本標準定義的安全功能模塊，加強對AI核心資產的安全保

護。

十一、替代或廢止現(xiàn)行相關標準的建議

無。

十二、其它應予說明的事項

無

《信息安全技術人工智能計算平臺安全框架》編制工作組

2022-12-31

6

一、工作簡況

1、任務來源

《信息安全技術人工智能計算平臺安全框架》是全國信息安全技術標準化

委員會（后文簡稱“信安標委”）2022年11月公布立項的信息安全國家標準制定

項目（國標計劃號：20230249-T-469）。該標準是由華為技術有限公司牽頭，并

聯(lián)合中國電子技術標準化研究院、中國電信集團有限公司等幾十家單位開展編制

與討論工作。

2、標準編制的主要成員單位

華為技術有限公司負責起草，中國電子技術標準化研究院、中國電信集團有

限公司、上海商湯智能科技有限公司、北京交通大學、北京快手科技有限公司、

北京神州綠盟科技有限公司從、北京數(shù)安行科技有限公司、北京數(shù)字認證股份有

限公司、北京信安世紀科技股份有限公司、北京眼神科技有限公司、北京銀聯(lián)金

卡科技有限公司、北京遠鑒信息技術有限公司、公安部第三研究所、公安部第一

研究所、國家工業(yè)信息安全發(fā)展研究中心、國家信息技術安全研究中心、國家信

息中心、國網(wǎng)區(qū)塊鏈科技（北京）有限公司、國網(wǎng)新疆電力有限公司電力科學研

究院、國網(wǎng)智能電網(wǎng)研究院有限公司、杭州安恒信息技術股份有限公司、華控清

交信息科技（北京）有限公司、華中科技大學、螞蟻科技集團股份有限公司、美

的集團（上海）有限公司、南湖實驗室、啟明星辰信息技術集團股份有限公司、

山石網(wǎng)科通信技術股份有限公司、上海觀安信息技術股份有限公司、上海市信息

安全測評認證中心、上海燧原科技有限公司、上海依圖網(wǎng)絡科技有限公司、深圳

大學、深圳市洞見智慧科技有限公司、四川大學、騰訊云計算（北京）有限責任

公司、武漢東湖大數(shù)據(jù)交易中心股份有限公司、西安交通大學、云從科技集團股

份有限公司、浙江大華技術股份有限公司、鄭州信大捷安信息技術股份有限公司、

中國科學技術大學、中國科學院軟件研究所、中國科學院信息工程研究所、中國

移動通信集團有限公司、中電科網(wǎng)絡安全科技股份有限公司、中國電力科學研究

院有限公司等單位共同參與了該標準的起草工作。

1

3、主要工作過程

1)2021年4月至11月，開展《AI模型保護參考架構》研究項目，研究人

工智能應用、安全威脅、人工智能計算平臺層面能夠應對的安全威脅、國內外人

工智能安全標準及政策法規(guī)對AI模型保護保護、人工智能計算平臺安全相關要

求、國內外關于人工智能計算平臺保障AI模型安全相關的前沿技術、產品及解

決方案等，基于研究內容構建“基于AI計算平臺的模型保護參考架構”，在安標

委11月的會議周上通過工作組匯報，同意研究項目修改后提交秘書處驗收、該

標準研究項目為《信息安全技術人工智能計算平臺安全框架》標準編制奠定研

究基礎、產業(yè)共識基礎等。

2)2021年12月至2022年4月，編制組形成《人工智能計算平臺安全框架》

標準草案，提交該標準制定需求，信安標委發(fā)布《2022年網(wǎng)絡安全國家標準需求

清單》，該項目被納入需求清單，華為技術有限公司協(xié)同中國電子技術標準化研

究院、中國電信、中國移動等完成項目申報。

3)2022年4月至5月，編制組密集討論形成正式草案，于5月20日在大

數(shù)據(jù)工作組匯報答辯，通過工作組立項評審。

4)2022年6月至11月，編制組進行多輪研討、刷新草案，并完成相關研

究報告、標準應用實施報告等，通過安標委專家評審、委員投票、主任辦公會等，

于11月2日由安標委公布正式立項。

5)2022年11月至12月，編制組進行正式立項后的第一次研討會，進一步

討論明確標準對象、范圍、安全威脅等重點問題，并分工完善標準草案，通過大

數(shù)據(jù)工作組匯報評審，同意推進至征求意見稿。

6)2022年12月27日，編制組對會議周期間大數(shù)據(jù)工作組專家提出的意見

進行逐一討論，形成一致結論，并結合項目責任專家、責任編輯等的意見，修改

完善形成標準征求意見稿。

7)2022年12月29日，牽頭單位組織研討會，向責任專家、責任編輯介紹

標準內容，以及會議周工作組意見，吸取責任專家及責任編輯的意見；

8)2023年2月26日，秘書處組織專家審查會，本標準通過專家審查，同

意進入征求意見稿。

9)2023年3月22日，編制組對牽頭單位按照專家審查會意見修改情況進

2

行一一討論，形成一致意見。

10)20