SZSD 0016-2024 公共視頻監(jiān)控 AI服務(wù)安全指南

SZSDSZSD0016—2024Publicvideosurveillance—GuidetoAIServiceSecurity2024-04-15發(fā)布2024-06-01實施山東省大數(shù)據(jù)局發(fā)布I 46.3AI核心資產(chǎn)保護 4 5 68.3數(shù)據(jù)標注 6 本文件按照GB/T1.1—2020《標準化工作導則第1部分：標準化文件的結(jié)構(gòu)和起草規(guī)則》的規(guī)定9GB/T25069—2022信息安全技術(shù)GB/T35273信息安全技術(shù)個SZSD0018—2024公共視頻監(jiān)控AI：人工智能（ArtificialIntelligenCPU：中央處理器（CentralProcessi96.2平臺自身安全功能a)通用安全功能：包括終端安全、主機安全和云平臺安全，符合SZSD0018—2024的第8章要b)新增安全功能：根據(jù)AI服務(wù)平臺中新增的安全威脅及AI應(yīng)用場景中的差異化需求，分為可2)惡意程序檢測功能：監(jiān)測AI服務(wù)平臺中為AI訓練、推理任務(wù)運行開啟的虛擬機、容器3)AI加速處理器故障監(jiān)測與處理功能：監(jiān)測AI服務(wù)平臺中的AI加速處理器資b)異構(gòu)算力安全協(xié)同功能：保障AI訓練、推理等計算任務(wù)均在CPU與AI加速處理器協(xié)同構(gòu)筑的安全隔離環(huán)境中完成，防范AI核心資產(chǎn)在AI訓練、推理等計算任務(wù)執(zhí)行過程中遭竊取、9e)訓練任務(wù)中斷恢復功能：監(jiān)測并識別訓f)推理攻擊檢測功能：計算推理請求為對抗樣本、模型萃取、屬性推斷等攻擊行為的置信度，g)日志驗證與審計功能：為平臺使用方提供集中化的日志收集與完整性校驗服務(wù)，支撐其定位a)提供者如使用基礎(chǔ)模型進行研發(fā)，不使用未經(jīng)主管部門備案的基礎(chǔ)b)模型生成內(nèi)容安全要求：3)對提供服務(wù)過程中以及定期檢測時發(fā)現(xiàn)的安全問題，通過針對性的指令微調(diào)、強化學習1)以交互界面提供服務(wù)的，在網(wǎng)站首頁等顯著位置向社會公開服務(wù)適用的人群、場合、用2)以交互界面提供服務(wù)的，在網(wǎng)站首頁、服務(wù)協(xié)議等便于查看的位置向使用者公開服務(wù)的1)產(chǎn)生內(nèi)容準確性要求：內(nèi)容準確響應(yīng)使用者輸入意圖，所包含的數(shù)據(jù)及表述符合科學常1)提高多樣性，對每一種語言（如中文、英文等），以及每一種數(shù)據(jù)類型（如圖片、視頻8.2數(shù)據(jù)內(nèi)容2)數(shù)據(jù)用于訓練前，知識產(chǎn)權(quán)相關(guān)負責人等對數(shù)據(jù)中的知識產(chǎn)權(quán)侵權(quán)情況進行識別，提供3)在用戶服務(wù)協(xié)議中，向使用者告知生成內(nèi)容使用時的知識產(chǎn)權(quán)相關(guān)風險，并與使用者約1)使用包含個人信息的數(shù)據(jù)時，獲得對應(yīng)個人信息主體的授權(quán)同意，或滿足其他合法使用2)使用包含敏感個人信息的數(shù)據(jù)時，獲得對應(yīng)個人信息主體的單獨授權(quán)同意，或滿足其他3)使用包含人臉等生物特征信息的數(shù)據(jù)時，獲得對應(yīng)個人信息主體的書面授權(quán)同意，或滿8.3數(shù)據(jù)標注1)自行對標注人員進行考核，給予合格者標注資質(zhì)，并有定期重新培訓考核以及必要時暫2)將標注人員職能至少劃分為數(shù)據(jù)標注、數(shù)據(jù)審核等，在同一標注任務(wù)下，同一標注人員2)對功能性標注以及安全性標注分別制定標注規(guī)則，標注規(guī)則至少覆蓋數(shù)據(jù)標注以及數(shù)據(jù)3)功能性標注規(guī)則能指導標注人