2024人工智能安全標(biāo)準(zhǔn)與風(fēng)險(xiǎn)評(píng)估預(yù)警

目錄 31.1 41.1.1 41.1.2 51. 52. 61.1.3ISO/IECJTC1 81.1.4ITU-T 101.1.5IEEE 101.1.6NIST 121.1.7 121.1.8 151. 152. 183. 234. 245. 256. 257. 258. 261.2 271.2.1 271.2.2 281. 282. 283. 291.2.3 301. 302. 313. 324. 345. 36 401.3 421.3.1 421.3.2 441.4 45利和義務(wù)，只是對(duì)生產(chǎn)、管理、服務(wù)的技術(shù)性要求，體現(xiàn)科學(xué)性、合理性及使用的靈活性1。在科技發(fā)展日新月異的當(dāng)下，社會(huì)情況不斷變化，法律也要隨之變動(dòng)，但修訂制理效果。[2]標(biāo)準(zhǔn)的重要性，為搶占新一輪科技制高點(diǎn)，紛紛出臺(tái)相關(guān)政策，加快完善標(biāo)準(zhǔn)化建設(shè)3。我國(guó)于2017年5月份發(fā)布《互聯(lián)網(wǎng)人工智能三年行動(dòng)實(shí)施方案》，提出要加強(qiáng)建設(shè)人工智能領(lǐng)域融合標(biāo)準(zhǔn)規(guī)范體系。2017年7月，國(guó)務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，其中提到標(biāo)準(zhǔn)多達(dá)24次，并明確指出要加強(qiáng)人工智能標(biāo)準(zhǔn)框架體系研究，逐步建立并完善人工智能基礎(chǔ)共性、互聯(lián)互通、行業(yè)應(yīng)用、網(wǎng)絡(luò)安全、隱私保護(hù)等技術(shù)標(biāo)準(zhǔn)。切實(shí)加強(qiáng)人工智能安全標(biāo)準(zhǔn)化工作，是保障人工智能安全發(fā)展的必由之路。準(zhǔn)化組織/國(guó)際電工委員會(huì)第一聯(lián)合技術(shù)委員會(huì)（ISO/IECJTC1）、國(guó)際電信聯(lián)盟電信標(biāo)2017年10月，ISO/IECJTC1在俄羅斯召開會(huì)議，決定成立人工智能分技術(shù)委員會(huì)SC42，負(fù)責(zé)人工智能標(biāo)準(zhǔn)化工作，SC42建立了基礎(chǔ)標(biāo)準(zhǔn)（FoundationalStandards）、計(jì)算方法（opuonlhod）、可信賴（uohn）、社會(huì)關(guān)注（olonn）4個(gè)工作組，并將C19（大數(shù)據(jù)工作組）歸入42。2017年，發(fā)布E7000系列標(biāo)準(zhǔn)，共14系統(tǒng)軟件收集個(gè)人信息的倫理問(wèn)題、消除算法負(fù)偏差、兒童和學(xué)生數(shù)據(jù)安全、人工智能代理等；和已組織研制人工智能應(yīng)用安全相關(guān)標(biāo)準(zhǔn)。工智能監(jiān)管測(cè)試框架和工具集——A.I.Verify，旨在融合測(cè)試和過(guò)程檢查，提升企業(yè)和相徑》，指導(dǎo)美國(guó)國(guó)防部實(shí)現(xiàn)其可信人工智能（）生態(tài)系統(tǒng)建設(shè)的目標(biāo)；其是2020年制能倫理審查。（2019版）2020年3月，全國(guó)信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會(huì)（SAC/TC28，與ISO/IECJTC1對(duì)口）下設(shè)人工智能分技術(shù)委員會(huì)（SAC/TC28/SC42，與ISO/IECJTC1/SC42對(duì)口），負(fù)責(zé)人工智作。除此之外，SAC/TC28開展了人機(jī)交互、生物特征識(shí)別、計(jì)算機(jī)視覺(jué)等人工智能相關(guān)領(lǐng)域的標(biāo)準(zhǔn)化工作。用戶界面分技術(shù)委員會(huì)（SAC/TC28/SC35）在人機(jī)交互領(lǐng)域開展智用和高效的人工智能安全標(biāo)準(zhǔn)對(duì)建立產(chǎn)業(yè)生態(tài)和攻克產(chǎn)業(yè)瓶頸來(lái)說(shuō)非常關(guān)鍵，可以通特點(diǎn)。不成熟，以及存在由惡意應(yīng)用導(dǎo)致的安全風(fēng)險(xiǎn)，本質(zhì)上屬于人工智能的技術(shù)短板，如模型缺陷、算法不可解釋性、數(shù)據(jù)強(qiáng)依賴性等，是限制人工智能發(fā)展最明顯的軟肋。算法突破是人工智能行業(yè)發(fā)展的基石和熱點(diǎn)。中國(guó)信息通信研究院于2018安全白皮書》指出，算法安全是人工智能六大安全風(fēng)險(xiǎn)之一，同時(shí)認(rèn)為對(duì)抗樣本攻擊誘使算法識(shí)別出現(xiàn)誤判漏判這一算法模型缺陷是算法安全的重要風(fēng)險(xiǎn)項(xiàng)。品或服務(wù)評(píng)估標(biāo)準(zhǔn)及深度學(xué)習(xí)算法的可靠性評(píng)估標(biāo)準(zhǔn)，主要包括T/CESA1039—2019《信ISO/IECJTC1ISO/IECJTC1目前涉及人工智能安全標(biāo)準(zhǔn)的研究組主要是于1990年成立的信息安全、網(wǎng)絡(luò)安全和隱私保護(hù)分技術(shù)委員會(huì)（SC27）及于2018年成立的人工智能分技術(shù)委員會(huì)（SC42）。SC42下設(shè)基礎(chǔ)工作組（WG1）（1）、可信研究組（2）、用例與應(yīng)用研究組（3），重點(diǎn)在人工智能術(shù)語(yǔ)、參展人工智能安全標(biāo)準(zhǔn)研究。C28C42研制標(biāo)準(zhǔn)如表81所示。除此之外，2021年4月，C27全會(huì)批準(zhǔn)立項(xiàng)新標(biāo)準(zhǔn)研究項(xiàng)目——解決人工智能中的安全威脅和故障指南。表8-1SAC/TC28/SC42（續(xù)表ITU-T織于2017年、2018年分別組織了兩次“AIforGoodGlobal”峰會(huì)，重點(diǎn)關(guān)注確保人工智能技IEEE是世界上最大的非營(yíng)利性專業(yè)技術(shù)學(xué)會(huì)，致力于電氣、電子、計(jì)算機(jī)工程及與科學(xué)900多項(xiàng)行業(yè)標(biāo)準(zhǔn)，現(xiàn)已成為具有較大影響力的國(guó)際學(xué)術(shù)組織。開展了多項(xiàng)人工智能倫理道德研究，發(fā)布了多項(xiàng)人工智能倫理標(biāo)準(zhǔn)和研究報(bào)告。2017年年底，在優(yōu)先地位的愿景（第二版）》，收集了250多名在全球從事人工智能、法律倫理、哲學(xué)、政策相關(guān)工作的專家對(duì)人工智能及自主系統(tǒng)領(lǐng)域的問(wèn)題見(jiàn)解及建議。表8-2IEEEP7000（續(xù)表NIST見(jiàn)》，概述了多項(xiàng)有助于美國(guó)政府推動(dòng)使用人工智能的舉措，并列出了一些指導(dǎo)原則（些原則可為未來(lái)的技術(shù)標(biāo)準(zhǔn)制定提供指導(dǎo)）；估人工智能系統(tǒng)質(zhì)量的技術(shù)工具（這些工具包括標(biāo)準(zhǔn)化的測(cè)試機(jī)制和強(qiáng)大的績(jī)效指標(biāo)可讓政府更好地了解各系統(tǒng)，并確定如何制定有效的標(biāo)準(zhǔn)。建議專注于理解人工智控和緩解風(fēng)險(xiǎn)等人工智能風(fēng)險(xiǎn)管理；研究人工智能的設(shè)計(jì)、開發(fā)和使用的信任需求和方法；通過(guò)人工智能挑戰(zhàn)問(wèn)題和測(cè)試平臺(tái)促進(jìn)創(chuàng)造性的問(wèn)題解決等。表8-3TC260（續(xù)表基于人工智能模塊，可以從8個(gè)維度[6]表8-4（續(xù)表（續(xù)表表8-5（續(xù)表[8]（GB/T37988—2019）為例，其給出了圖8-1圖8-2據(jù)場(chǎng)景建?！贰断到y(tǒng)數(shù)據(jù)安全基本情況調(diào)研》《安全能力調(diào)研表》《系統(tǒng)評(píng)估表》等。其中，對(duì)4個(gè)安全能力的評(píng)估方法如下。①組織建設(shè)：評(píng)估是否具有開展工作的專職兼職崗位、團(tuán)隊(duì)或人員，其工作職責(zé)是否通過(guò)規(guī)范要求或其他手段得到了確認(rèn)和經(jīng)過(guò)了專業(yè)的技能和安全意識(shí)教育培訓(xùn)。表8-6術(shù)等制定的安全標(biāo)準(zhǔn)。人工智能技術(shù)和系統(tǒng)類安全標(biāo)準(zhǔn)ISO/IECTR24372《人工智能系統(tǒng)計(jì)算方法概述》、IEEEP7001《自治系統(tǒng)的透明度》、IEEEP7009《自主和半自主系統(tǒng)的則，PartnershiponAI、百度、谷歌、微軟等共同探索人工智能行業(yè)倫理標(biāo)準(zhǔn)，IEEE發(fā)布IEEEP7000《在系統(tǒng)設(shè)計(jì)中處理倫理問(wèn)題的模型過(guò)程》、IEEEP7002《數(shù)據(jù)隱私處理》、IEEEP7007《倫理驅(qū)動(dòng)的機(jī)器人和自動(dòng)化系統(tǒng)的本體標(biāo)準(zhǔn)》、IEEEP7008《機(jī)器人、智能與自主系統(tǒng)中倫理驅(qū)動(dòng)的助推標(biāo)準(zhǔn)》、IEEEP7010《合乎倫理的人工智能與自主系統(tǒng)的福騰訊研究院和騰訊AILab聯(lián)合研究形成的人工智能倫理報(bào)告《智能時(shí)代的技術(shù)倫理觀——年發(fā)布的AIOSS—01—2018ISO/IEC23894ISO/IEC38507《信息技術(shù)IT駕駛、智能門鎖、智能音箱、智慧風(fēng)控、智慧客服等領(lǐng)域的標(biāo)準(zhǔn)。除表83提到的標(biāo)準(zhǔn)體系外，人工智能應(yīng)用層安全標(biāo)準(zhǔn)和規(guī)范如表87所示。表8-7（續(xù)表性[9]。1901年，美國(guó)學(xué)者威雷特提出風(fēng)險(xiǎn)是不希望發(fā)生的不確定性的客觀體現(xiàn)。1921負(fù)面影響最小化。安全風(fēng)險(xiǎn)評(píng)估（kn，）是指應(yīng)用安全系統(tǒng)工程的原理和方法，辨識(shí)與分析系統(tǒng)中的危險(xiǎn)有害因素，評(píng)估事故發(fā)生的可能性及其嚴(yán)重程度，并對(duì)安全風(fēng)險(xiǎn)進(jìn)行綜合評(píng)估，得出評(píng)估報(bào)告。故障樹分析（FaultTreeAnalysis，F(xiàn)AT）法：遵循從結(jié)果中找原因的原則，將風(fēng)險(xiǎn)定量的風(fēng)險(xiǎn)評(píng)估方法12是對(duì)系統(tǒng)風(fēng)險(xiǎn)的各要素進(jìn)行賦值，對(duì)指標(biāo)進(jìn)行量化，進(jìn)而得到系法、模糊綜合評(píng)價(jià)法、決策樹法。層次分析（AnalyticHierarchyProcess，AHP）法：一種能有效且靈活地處理不易定模糊綜合評(píng)價(jià)法（FuzzyComprehensiveEvaluationMethod，F(xiàn)CEM）：基于模糊數(shù)決策樹（DecisionTree，DT）法：利用概率論原理和樹形圖作為分析工具的決策方構(gòu)建評(píng)估指標(biāo)體系的方法主要有頭腦風(fēng)暴法（BrainStorming法，又稱BS法）（Delphi）法、層次分析法、綜合法（SynthesisMethod）（StepwiseRegression）和人機(jī)互動(dòng)等因素都會(huì)引發(fā)人工智能風(fēng)險(xiǎn)。我國(guó)發(fā)布的AIOSS—01—2018度學(xué)習(xí)算法評(píng)估規(guī)范》、ISO/IEC13335GB/T20984—2007箱”表8-8（續(xù)表ISO/IEC13335GB/T20984—2007圖8-3表8-95表8-10▼表8-11▼表8-12▼表8-13▼表8-14步驟2步驟3步驟4表8-15

表8-16人工智能安全風(fēng)險(xiǎn)評(píng)估因素各層次權(quán)重可信度分析法、事件樹分析法、概率神經(jīng)網(wǎng)絡(luò)、神經(jīng)網(wǎng)絡(luò)等。這些方法推動(dòng)著人工智能安全風(fēng)險(xiǎn)預(yù)警的發(fā)展，為人工智能行業(yè)的穩(wěn)定、可持續(xù)發(fā)展奠定了良好的安全保障。的主觀性、經(jīng)驗(yàn)性。證據(jù)及推理規(guī)則的不確定性都用可信度因子CF（Certainty