人工智能 風險管理能力評估 編制說明

1《人工智能風險管理能力評估》根據(jù)國家標準委關于下達2023年第四批國家標準制修訂計劃的通知，國家標準《人工智能風險管理能力評估》制定計劃下達，項目計劃號為本文件由中國電子技術標準化研究院、中國科學院軟件研究所、華為技術有限公司、中建科技集團有限公司、安全AI、中國醫(yī)學科學院生物醫(yī)學工程研究所、北京曠視科技有限公司、威麟信息技術開發(fā)（上海）有限OPPO廣東移動通信有限公司、上濤依圖網(wǎng)絡科技有限公司、山東省計算中華技術股份有限公司、云從科技集團股份有限公司、英特爾（中國）有限公司、中國工程物理研究院計算機應用研究所、電子科技大學、中國科學院計算技術研究所、北京航空航天大學、上海仙塔智能科技有限公司、上海計算機軟件技術開發(fā)中心、聯(lián)想（北京）有限公司、聯(lián)仁健康醫(yī)療大數(shù)據(jù)科技股份有限公司等單位共同編寫。具體參與單位將根據(jù)實際參與情況近年來，人工智能產(chǎn)品已經(jīng)在智慧醫(yī)療、智慧交通、智慧司法、智能教育等方面取得了較大的突破。然而，人工智能產(chǎn)品性能和設計特點都不一樣，產(chǎn)品質(zhì)量參差不齊，人工智能產(chǎn)品在推動人類社會進步的同時，也可能引發(fā)一系列風險。這些風險中包括了人工智能產(chǎn)品開發(fā)過程中涉及的2技術風險、應用風險、管理風險，不僅對使用者安全、自然環(huán)境造成的物此外，開發(fā)過程涉及的人員機制和組織流程也會對人工智能產(chǎn)品落地具有直接影響。而良好的風險評估有助于降低產(chǎn)品失敗的幾率、避免可能的資金與時間損失、相對提高企業(yè)本身的附加價值，更有利于人工智能產(chǎn)因此，確保人工智能技術平穩(wěn)安全落地，不是被動地在發(fā)生危險后緊急處理相關問題，而是提前預防人工智能產(chǎn)品在不同應用場景中存在的潛在風險，防止技術手段在實際運用中可能出現(xiàn)的故障、失效、被入侵等隱來引導人工智能產(chǎn)品的開發(fā)和應用全生命周期涉及的各類組織開展相關工作，建立人工智能產(chǎn)品設計者、制造者、使用者以及其他利益相關者合作本文件提出了人工智能風險管理能力評估參考模型，規(guī)定了人工智能風險管理能力框架、能力等級和評估方法。本文件適用于對組織級人工智2024年3月，編制組在北京組織標準開題暨標準研討會，充2024年9月，編制組在青島召開標準研討會，3本文件提出了人工智能風險管理能力評估參考模型，規(guī)定了人工智能本文件適用于對組織級人工智能利益相關方所提供的人工智能風險管該文件按照GB/T1.1—2020《標準化工作導則第1部分：標準化文件GB/T23694:2013《風險管理術語》、GB/T41867:2022《信息技術人工智能術語》、ISO/IEC22989:2022《人工智能概念和術語》、ISO/IEC指南》、ISO/IEC42001:2023《人工智能管確保本文件規(guī)定的內(nèi)容科學合理，具有普適性，可以為我國人工智能在標準研制過程中，在中科院軟件所進行了組織風險管理能力的試點評估，通過標準試驗驗證，進一步完善了標準規(guī)定的風險管理能力主