人工智能 風(fēng)險管理能力評估 編制說明

1《人工智能風(fēng)險管理能力評估》根據(jù)國家標(biāo)準(zhǔn)委關(guān)于下達2023年第四批國家標(biāo)準(zhǔn)制修訂計劃的通知，國家標(biāo)準(zhǔn)《人工智能風(fēng)險管理能力評估》制定計劃下達，項目計劃號為本文件由中國電子技術(shù)標(biāo)準(zhǔn)化研究院、中國科學(xué)院軟件研究所、華為技術(shù)有限公司、中建科技集團有限公司、安全AI、中國醫(yī)學(xué)科學(xué)院生物醫(yī)學(xué)工程研究所、北京曠視科技有限公司、威麟信息技術(shù)開發(fā)（上海）有限OPPO廣東移動通信有限公司、上濤依圖網(wǎng)絡(luò)科技有限公司、山東省計算中華技術(shù)股份有限公司、云從科技集團股份有限公司、英特爾（中國）有限公司、中國工程物理研究院計算機應(yīng)用研究所、電子科技大學(xué)、中國科學(xué)院計算技術(shù)研究所、北京航空航天大學(xué)、上海仙塔智能科技有限公司、上海計算機軟件技術(shù)開發(fā)中心、聯(lián)想（北京）有限公司、聯(lián)仁健康醫(yī)療大數(shù)據(jù)科技股份有限公司等單位共同編寫。具體參與單位將根據(jù)實際參與情況近年來，人工智能產(chǎn)品已經(jīng)在智慧醫(yī)療、智慧交通、智慧司法、智能教育等方面取得了較大的突破。然而，人工智能產(chǎn)品性能和設(shè)計特點都不一樣，產(chǎn)品質(zhì)量參差不齊，人工智能產(chǎn)品在推動人類社會進步的同時，也可能引發(fā)一系列風(fēng)險。這些風(fēng)險中包括了人工智能產(chǎn)品開發(fā)過程中涉及的2技術(shù)風(fēng)險、應(yīng)用風(fēng)險、管理風(fēng)險，不僅對使用者安全、自然環(huán)境造成的物此外，開發(fā)過程涉及的人員機制和組織流程也會對人工智能產(chǎn)品落地具有直接影響。而良好的風(fēng)險評估有助于降低產(chǎn)品失敗的幾率、避免可能的資金與時間損失、相對提高企業(yè)本身的附加價值，更有利于人工智能產(chǎn)因此，確保人工智能技術(shù)平穩(wěn)安全落地，不是被動地在發(fā)生危險后緊急處理相關(guān)問題，而是提前預(yù)防人工智能產(chǎn)品在不同應(yīng)用場景中存在的潛在風(fēng)險，防止技術(shù)手段在實際運用中可能出現(xiàn)的故障、失效、被入侵等隱來引導(dǎo)人工智能產(chǎn)品的開發(fā)和應(yīng)用全生命周期涉及的各類組織開展相關(guān)工作，建立人工智能產(chǎn)品設(shè)計者、制造者、使用者以及其他利益相關(guān)者合作本文件提出了人工智能風(fēng)險管理能力評估參考模型，規(guī)定了人工智能風(fēng)險管理能力框架、能力等級和評估方法。本文件適用于對組織級人工智2024年3月，編制組在北京組織標(biāo)準(zhǔn)開題暨標(biāo)準(zhǔn)研討會，充2024年9月，編制組在青島召開標(biāo)準(zhǔn)研討會，3本文件提出了人工智能風(fēng)險管理能力評估參考模型，規(guī)定了人工智能本文件適用于對組織級人工智能利益相關(guān)方所提供的人工智能風(fēng)險管該文件按照GB/T1.1—2020《標(biāo)準(zhǔn)化工作導(dǎo)則第1部分：標(biāo)準(zhǔn)化文件GB/T23694:2013《風(fēng)險管理術(shù)語》、GB/T41867:2022《信息技術(shù)人工智能術(shù)語》、ISO/IEC22989:2022《人工智能概念和術(shù)語》、ISO/IEC指南》、ISO/IEC42001:2023《人工智能管確保本文件規(guī)定的內(nèi)容科學(xué)合理，具有普適性，可以為我國人工智能在標(biāo)準(zhǔn)研制過程中，在中科院軟件所進行了組織風(fēng)險管理能力的試點評估，通過標(biāo)準(zhǔn)試驗驗證，進一步完善了標(biāo)準(zhǔn)規(guī)定的風(fēng)險管理能力主