人工智能風(fēng)險(xiǎn)治理報(bào)告（2024年）-構(gòu)建面向產(chǎn)業(yè)的人工智能安全治理實(shí)踐方案

1 1 3 4 6 6 9 12 12 14 17 18 19 19 21 23 25 27 29 29 30 30 31 5 7 9 201一、概述（一）人工智能風(fēng)險(xiǎn)挑戰(zhàn)引發(fā)全球關(guān)注倍，并呈現(xiàn)持續(xù)增長(zhǎng)態(tài)勢(shì)1。與此同時(shí)，人工智能風(fēng)險(xiǎn)1https://aiindex.stanf2/view/journals/006/2024/03/threat/reportdeta2外，政府驅(qū)動(dòng)的人工智能風(fēng)險(xiǎn)治理逐漸完備。根據(jù)加拿大咨詢公司法規(guī)已達(dá)317份4；產(chǎn)業(yè)驅(qū)動(dòng)的人工智能標(biāo)準(zhǔn)化行改革推進(jìn)中國式現(xiàn)代化的決定》中提出建立“人工智能安全監(jiān)管制4https://www.fairly.ai/blog/map-5秦銘浩徐慧芳.全球人工智能標(biāo)準(zhǔn)化進(jìn)展及我國發(fā)展建議[J].世界科技研究與發(fā)展,203（二）人工智能風(fēng)險(xiǎn)治理模式亟需創(chuàng)新4主體多個(gè)維度復(fù)雜互動(dòng)，產(chǎn)業(yè)鏈的延展使得治理結(jié)構(gòu)變得更加復(fù)雜，統(tǒng)，或?qū)⒃黾舆@些軟件錯(cuò)誤和失控風(fēng)險(xiǎn)6。人工（三）推動(dòng)面向產(chǎn)業(yè)界的人工智能風(fēng)險(xiǎn)治理落地框架迫在眉睫6/articles/early-thoughts-on-regulating-generative56環(huán)節(jié)，為不同優(yōu)先級(jí)的風(fēng)險(xiǎn)制定定制化方案，并動(dòng)態(tài)優(yōu)化治理措施。二、人工智能風(fēng)險(xiǎn)認(rèn)知漸進(jìn)深化（一）人工智能內(nèi)生安全與衍生安全復(fù)雜交織業(yè)替代、不可持續(xù)發(fā)展等衍生安全問題（見圖2）。安全問題的客觀7“投毒”，數(shù)據(jù)標(biāo)注不規(guī)范也會(huì)降低數(shù)據(jù)質(zhì)量，誘發(fā)能會(huì)被第三方用于訓(xùn)練包括生成式人工智能在內(nèi)的人工智能模型7。7/en/priv88/news/show/189/9（二）人工智能風(fēng)險(xiǎn)認(rèn)知邁向多維度深化融合人工智能風(fēng)險(xiǎn)的認(rèn)知向全球性融合、前瞻性10/20240115/66fe98299e11https://www.c1播虛假信息，這些問題只能通過全球協(xié)調(diào)加以解13.uk/government/publications/ai-safety-summit-2023-the-bletchleydeclaration-by-countries-attending-the-ai-safety-summit-1-2-novem14.uk/government/publications/seoul-declaration-for-safe-inno15.uk/government/publications/ai-safety-summit-2023-the-bletchleydeclaration-by-countries-attending-the-ai-safety-summit-1-2-novem明、數(shù)據(jù)歧視、責(zé)任界定困難和隱私泄露等問題16/content/dam/oecd/en/publications/reports/2024/11intelligence-risks-benefits-and-policy-imperatives_8a491447/3f4e3dfb-en.pdf17/nistpubs/ai/NIST.AI.6018/kxyj/qwfb/bps/202107/P0202107093198664139 位圖靈獎(jiǎng)得主和25位權(quán)威專家在《科學(xué)》（Science）期刊聯(lián)合發(fā)表甚至產(chǎn)生新的風(fēng)險(xiǎn)20。三、人工智能風(fēng)險(xiǎn)治理全球?qū)嵺`（一）國際層面：加速推進(jìn)風(fēng)險(xiǎn)治理行動(dòng)及合作19.uk/media/666ac68ca8b7ec4fae43d0f9/international_sci_safety_of_advanced_ai_executive_summary_chinese.pdf20/rain/a/20240526A01TUD00?web_channel=wap&openApp=false&suid=&media_id=沿人工智能帶來的風(fēng)險(xiǎn)和采取行動(dòng)的必要性達(dá)成共識(shí)，并提出建立韓國及英國共同主辦人工智能首爾峰會(huì)，16家頂尖人工智能科技公供指引。2024年4月，聯(lián)合國下屬標(biāo)準(zhǔn)組織世界數(shù)字技術(shù)研究院聯(lián)盟（ITU）在“AIforGood”全球峰會(huì)期間組織了“檢測(cè)深度（二）主要經(jīng)濟(jì)體：迭代完善風(fēng)險(xiǎn)劃分與管控舉措包括成立人工智能辦公室，負(fù)責(zé)監(jiān)管人工智能發(fā)展，同時(shí)防范風(fēng)險(xiǎn)；先治理醫(yī)療保健、消費(fèi)市場(chǎng)等領(lǐng)域。2024年品監(jiān)管機(jī)構(gòu)（MHRA）規(guī)劃報(bào)告重點(diǎn)之一是（三）產(chǎn)業(yè)組織：協(xié)同推進(jìn)治理框架和安全工具院依托中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟發(fā)起大模型安全基準(zhǔn)測(cè)試AISafetyBenchmark。在內(nèi)容安全維度，整理了50（四）企業(yè)主體：深化技管融合的風(fēng)險(xiǎn)應(yīng)對(duì)方案技術(shù)解決方案逐步向一體化和定制化發(fā)展，涵蓋了從研發(fā)方評(píng)估人工智能系統(tǒng)的安全狀況并實(shí)施防護(hù)。微軟的AzureAIContentSafety提供了自動(dòng)識(shí)別和干預(yù)有害四、面向產(chǎn)業(yè)的人工智能風(fēng)險(xiǎn)治理實(shí)踐方案（一）打造全鏈條人工智能風(fēng)險(xiǎn)治理框架（二）提升人工智能風(fēng)險(xiǎn)系統(tǒng)治理能力（三）設(shè)立人工智能風(fēng)險(xiǎn)精準(zhǔn)識(shí)別機(jī)制人工智能系統(tǒng)生命周期中可能造成負(fù)面影響的不確定性和潛在威脅（四）健全人工智能風(fēng)險(xiǎn)科學(xué)評(píng)估體系風(fēng)險(xiǎn)評(píng)估是對(duì)人工智能風(fēng)險(xiǎn)進(jìn)行挖掘分析和精準(zhǔn)把脈的重要階可接受度評(píng)價(jià)標(biāo)準(zhǔn)。風(fēng)險(xiǎn)可接受度不僅與現(xiàn)對(duì)于嚴(yán)重程度遠(yuǎn)高于可接受度的風(fēng)險(xiǎn)種類，可以劃定為“高優(yōu)先級(jí)”對(duì)于“低優(yōu)先級(jí)”風(fēng)險(xiǎn)，組織可以選擇接受風(fēng)險(xiǎn)，并持續(xù)進(jìn)行監(jiān)控。五、展望建議（一）促進(jìn)全球合作，共筑人工智能治理新格局一是參與并主導(dǎo)多邊治理框架，通過聯(lián)合國、二十國集團(tuán)（G20）、協(xié)作性，積極代表新興經(jīng)濟(jì)體發(fā)聲，