建構(gòu)人工智能發(fā)展的國際規(guī)則-趨勢、領域與中國角色-2023.11

建構(gòu)人工智能發(fā)展的國際規(guī)則--

趨勢、領域與中國角色魯傳穎

田麗

封

帥

周亦奇王玉柱

王天禪

張璐瑤上海國際問題研究院國際傳播中心2023

年

10

月建構(gòu)人工智能發(fā)展的國際規(guī)則：趨勢、領域與中國角色作者簡介魯傳穎上海國上研院網(wǎng)絡空間國際治理研究中心秘書長清華大學戰(zhàn)略與安全研究中心特約專家際問題研究院公共政策與創(chuàng)新研究所副所長田麗北京大學新媒體研究院副院長北京大學互聯(lián)網(wǎng)發(fā)展研究中心主任封帥上海國際問題研究院國際戰(zhàn)略與安全研究所所長助理周亦奇上海國際問題研究院公共政策與創(chuàng)新研究所副研究員王玉柱上海國際問題研究院世界經(jīng)濟研究所研究員上研院“一帶一路”與上海研究中心秘書長王天禪上海國際問題研究院網(wǎng)絡空間國際治理研究中心實習生張璐瑤上海國際問題研究院網(wǎng)絡空間國際治理研究中心實習生作者簡介目錄引

言······································································································

01一、人工智能國際規(guī)則建構(gòu)的總體趨勢···························································

02二、人工智能國際規(guī)則覆蓋的領域·································································

05三、人工智能治理進程的中國價值觀······························································

11四、中國參與人工智能國際規(guī)則制定的路徑·····················································

14關于上海國際問題研究院·············································································

17關于清華大學戰(zhàn)略與安全研究中心·································································

18關于北京大學互聯(lián)網(wǎng)發(fā)展研究中心··································································19建構(gòu)人工智能發(fā)展的國際規(guī)則：趨勢、領域與中國角色01引

言2023年以來，人工智能技術的突破又一次成為全球矚目的焦點。在高速進步的生成式人工智能，以及取得突破性進展的大語言模型的帶動下，人類似乎已經(jīng)開始觸及通用人工智能技術的門檻。圍繞著人工智能技術跨越式發(fā)展而展開的關于智能化社會的想象吸引了全球社交媒體與資本市場的追捧，但關于人工智能技術可能引發(fā)的各種安全風險和社會問題也成為社會關注的焦點。為了確保人工智能技術始終保持良性發(fā)展，確保技術進步與人類價值觀相向而行，為人工智能發(fā)展設定合理的國際規(guī)則逐漸成為全球范圍的重要共識。2023

年

7

月

18

日，聯(lián)合國安理會舉行了主題為“人工智能給國際和平與安全帶來的機遇與風險”的高級別公開會議，這是聯(lián)合國安理會首次舉行人工智能主題會議。在本次會議上，聯(lián)合國秘書長古特雷斯公開呼吁對人工智能技術風險進行有效治理，并且提議在聯(lián)合國框架內(nèi)成立一個新的監(jiān)管機構(gòu)推動人工智能領域的全球治理。國際規(guī)則具有重要的導向性作用，世界各國政府和企業(yè)都希望參與甚至主導人工智能國際規(guī)則的建構(gòu)議程?？梢灶A見，全球圍繞人工智能國際規(guī)則制定問題將會展開復雜的競合博弈，最終形成的國際規(guī)則體系也將成為影響全球人工智能技術、產(chǎn)業(yè)和安全的重要變量。多年來，在有關各方的共同努力下，我國人工智能技術和產(chǎn)業(yè)都取得了較為豐碩的成果，人工智能已經(jīng)成為推動我國經(jīng)濟高質(zhì)量發(fā)展的重要力量，中國也已經(jīng)成為全球人工智能版圖上的重要一環(huán)。中國在人工智能領域已經(jīng)積累了豐富的治理經(jīng)驗，能夠為全球人工智能規(guī)則建設提供寶貴的發(fā)展中國家視角。因此，中國應積極參與人工智能國際規(guī)則制定，一方面，將中國在人工智能領域的治理經(jīng)驗轉(zhuǎn)化為國際規(guī)則。另一方面，通過參與國際規(guī)則的討論，加深對先進治理理念的理解，更好地促進國內(nèi)人工智能的安全與發(fā)展。引言02建構(gòu)人工智能發(fā)展的國際規(guī)則：趨勢、領域與中國角色一、人工智能國際規(guī)則建構(gòu)的總體趨勢人工智能國際規(guī)則建構(gòu)之所以受到世界各國的普遍重視，在于人工智能已經(jīng)成為影響國家安全和發(fā)展的重要力量。美國、中國、歐盟等主要大國先后發(fā)布了人工智能的國家發(fā)展戰(zhàn)略，圍繞著人工智能而展開的國際競爭已經(jīng)成為當前國際議程的重要組成部分。人工智能及其相關衍生技術本身具有強滲透性和高賦能性，能夠與諸多社會生產(chǎn)部門建立深度鏈接。如果其技術潛能得到充分釋放，可能對人類社會的生產(chǎn)生活帶來顛覆式的影響。因此，在推動人工智能技術進步的過程中，必須充分重視技術發(fā)展與社會穩(wěn)定之間的動態(tài)平衡。在這種情況下，世界各國逐漸認識到通過規(guī)則建構(gòu)推動人工智能治理的必要性。美歐等發(fā)達國家認為掌握人工智能規(guī)則建構(gòu)的主動權是保持其在技術與產(chǎn)業(yè)領域優(yōu)勢地位的重要一環(huán)。他們積極推動相關議題的研究，并試圖主導規(guī)則建構(gòu)的國際議程，嘗試在國內(nèi)、國際兩個層面著手進行機制完善和規(guī)則構(gòu)建。然而，相比于更具同質(zhì)性的國內(nèi)環(huán)境而言，國家之間的互動關系更為復雜、不同主體之間的利益糾纏更為突出、文化和價值觀更為多元，這也造成了形成人工智能國際規(guī)則的共識更加困難。從實際進展情況來看，當前人工智能國際規(guī)則仍處于早期階段，各主體在不同層次上都在嘗試推動各種形式的治理方案，歸納起來包括以下幾個方面的內(nèi)容：2023

年

6第一，在多邊層面，聯(lián)合國積極主導人工智能國際治理規(guī)則建設。月，聯(lián)合國秘書長古特雷斯公開表示，支持建立人工智能領域的“國際原子能機構(gòu)（IAEA）”，對人工智能技術進行監(jiān)管。這一事件意味著聯(lián)合國希望在未來的人工智能國際規(guī)則制定的進程中將進行角色調(diào)整和功能增強，將其作用范圍從原則層面深入到機制層面，建設更具約束力的人工智能監(jiān)管機構(gòu)，這可能會成為未來人工智能國際規(guī)則建構(gòu)的基礎架構(gòu)。此外，在

2023

年

7

月聯(lián)合國最新出臺的《和平新議程》中，也專門提及人工智能和致命性自主武器系統(tǒng)對國際和平與安全的影響，建議各國緊急制定關于負責任地設計、開發(fā)和使用人工智能的國家戰(zhàn)略；通過多邊、多方進程推動人工智能軍事領域的設計、開發(fā)和使用；最終就一、人工智能國際規(guī)則建構(gòu)的總體趨勢建構(gòu)人工智能發(fā)展的國際規(guī)則：趨勢、領域與中國角色03人工智能全球范圍內(nèi)的監(jiān)管框架達成一致。近年，聯(lián)合國下屬多個機構(gòu)積極參與人工智能治理議程，取得階段性成果。2021

年，由聯(lián)合國教科文組織人工智能倫理建議特設專家組出臺的《人工

智

能

倫

理

問

題

建

議

書》（Recommendation

on

the

Ethics

of

ArtificialIntelligence）是人工智能國際規(guī)則制定的重要里程碑。該建議書從人類共同的價值觀和可持續(xù)發(fā)展目標的基本立場出發(fā)，提出了十一項關于人工智能發(fā)展的指導性原則，被

193

個成員國共同接納。2014

年起，聯(lián)合國在特定常規(guī)武器公約會談機制下召開了多次非正式專家會議，圍繞著致命性自主武器系統(tǒng)的相關問題進行了討論，已有近

100

個國家參與了相關活動。此外，在聯(lián)合國裁軍研究所、聯(lián)合國毒品和犯罪問題辦公室等機構(gòu)的活動和議程中，也有將致命性自主武器系統(tǒng)的倫理和安全、深度偽造的政治風險等問題納入討論的范圍，但尚未出臺明確的原則倡議或國際規(guī)則。第二，在發(fā)達國家陣營，美國、英國、荷蘭加大籌碼試圖壟斷人工智能國際規(guī)則主導權。美國在推動其國內(nèi)規(guī)則國際化方面做了很多工作，在美國《關鍵

與

新

興

技

術

國

家

戰(zhàn)

略》（National

Strategy

for

Critical

and

EmergingTechnology）等戰(zhàn)略文件的引導下，美國將“推動與盟友的合作”

“建設新興技術的世界領導者地位”作為基本立場，建立了一系列人工智能的國際合作機制。例如，在軍事防務領域，美國不僅在北約框架內(nèi)發(fā)布《人工智能戰(zhàn)略》，宣揚自身的安全和地緣競爭立場，還新建立了人工智能防務伙伴關系（AI

PfD）、美英澳三國集團（AUKUS）新機制，進行國防和安全領域人工智能的使用規(guī)則協(xié)調(diào)；在標準協(xié)調(diào)領域，美國則依托四方（QUAD）關鍵新興技術工作組、美歐貿(mào)易和技術委員會（TTC）以及美印人工智能倡議（USIAI）等機制，融合亞太、印太和西歐的關鍵盟友，進行技術合作并推行共同的人工智能技術標準；在價值觀領域，美國則通過民主峰會、自由在線聯(lián)盟人工智能與人權工作組（T-FAIR）等機制，選擇性聽取其“小圈子”內(nèi)的伙伴對于意識形態(tài)和價值觀的贊許和認同，理所當然地證實其觀念的真理性，并積極推動其從區(qū)域化走向國際化。英國、荷蘭等西方國家也開始搭建起人工智能領域的“觀念一致同盟”，希望把主導人工智能國際規(guī)則的能力控制在少數(shù)幾個發(fā)達國家之內(nèi)。2023

年

2

月，荷蘭在海牙舉行“軍事領域負責任人工智能”峰會，該峰會邀請了全球

80

多個國家參加，會議核心目標有三：提升軍事領域負責人使用人工智能的政治重要性、一、人工智能國際規(guī)則建構(gòu)的總體趨勢04建構(gòu)人工智能發(fā)展的國際規(guī)則：趨勢、領域與中國角色動員激活更廣泛的利益攸關方參與、分享經(jīng)驗實踐。該會議雖號稱尋求凝聚國際社會在人工智能在軍事領域內(nèi)的共識，但其實際包容性依然受到西方地緣政治議程的影響，俄羅斯未獲此會議邀請。在會上中國代表詳細闡釋了中國在人工智能安全治理領域的主張，提出智能向善、以人為本、多邊主義的治理原則。2023年3月，英國政府發(fā)布題為《促進創(chuàng)新的人工智能監(jiān)管方法》白皮書，提出了自己的人工智能監(jiān)管框架。此外，英國宣布將在

2023

年內(nèi)舉辦首屆人工智能安全全球峰會。該會議雖然打著“協(xié)調(diào)各國應對人工智能風險的共同方法”的旗號，似乎能夠?qū)θ斯ぶ悄車H規(guī)則制定起到正向的促進作用。但事實上，英國首相蘇納克卻無意透露出英國的真實意圖：努力協(xié)調(diào)英美合作并鞏固“在未來技術領域的共同領導地位”。英國試圖在倫敦設立人工智能監(jiān)管國際機構(gòu)，從而掌控人工智能規(guī)則制定方面的國際話語權。第三，發(fā)展中國家在人工智能國際規(guī)則建立上仍處弱勢地位。發(fā)展中國家作為一個整體，在人工智能的國際規(guī)則制定上還處于早期階段。一方面，這與廣大發(fā)展中國家的人工智能發(fā)展還處于落后階段有關；另一方面也與發(fā)展中國家參與國際規(guī)則的動力和意識不強有很大關系。面對西方國家不斷強化人工智能國際規(guī)則體系，廣大發(fā)展中國家應當快速覺醒，加大參與力度，貢獻各自智慧。作為非西方國家和發(fā)展中國家的代表，中國是為數(shù)不多在人工智能國際規(guī)則領域積極發(fā)聲的國家。中國不僅積極參與聯(lián)合國在人工智能國際規(guī)則領域的工作，還在G20、金磚國家和上合組織等國際組織中積極推動和加強人工智能國際規(guī)則方面的合作。不僅如此，中國也在積極推動廣大發(fā)展中國家在人工智能領域規(guī)則制定方面的合作。例如，中國與東盟國家和中東國家圍繞著人工智能議題舉辦了各種形式的會晤合作，并成功建立起了的默契和互動規(guī)范。公平合理的國際規(guī)則需要兼顧西方與非西方國家的立場和聲音。在當前失衡的現(xiàn)實背景下，需要非西方國家更加團結(jié)努力，在國際規(guī)則制定中積極作為，為自身爭取應有的利益。一個真正合理的國際規(guī)則體系應該是包容而非排斥的，是尊重最廣泛國家利益和關切，而非僅僅關注小團體利益的。人工智能可能帶來的各種安全風險是人類需要共同面對的挑戰(zhàn)，非西方國家在人工智能領域的合理訴求不能被忽視，非西方國家在治理方面的智慧也值得借鑒。一、人工智能國際規(guī)則建構(gòu)的總體趨勢建構(gòu)人工智能發(fā)展的國際規(guī)則：趨勢、領域與中國角色05二、人工智能國際規(guī)則覆蓋的領域人工智能已經(jīng)成為數(shù)字經(jīng)濟發(fā)展的核心驅(qū)動力。尤其是在生成式人工智能（AIGC）和通用型人工智能（AGI）不斷取得技術突破的背景下，人工智能在技術上的治理需求和主權國家治理效能之間的鴻溝有日益擴大之勢。目前，全球范圍內(nèi)人工智能的國際規(guī)則制定仍處于起步階段，在形式和內(nèi)容上主要以國際軟法和間接規(guī)制為主。但是，由于全球主要國家和地區(qū)組織都提高了對人工智能領域建章立制的重視程度，全球范圍內(nèi)的人工智能規(guī)制競賽實際上已然開始。各國和地區(qū)不僅積極起草、出臺規(guī)范人工智能技術的法律法規(guī)，還競相出臺與人工智能技術向善發(fā)展相關的政策指南等。這種規(guī)制競賽有助于推動全球形成一個完善的、基于普遍共識的人工智能治理框架，也為我國爭取國際規(guī)則制定的“先手”帶來了機遇與挑戰(zhàn)。根據(jù)現(xiàn)階段人工智能技術發(fā)展狀況，結(jié)合各國在人工智能治理方面的經(jīng)驗總結(jié)，目前全球人工智能國際規(guī)則已經(jīng)形成了較為穩(wěn)定的覆蓋領域，在相關領域的規(guī)則建構(gòu)將成為國際規(guī)則的主要支柱。（一）倫理問題人工智能技術倫理問題一直是國際規(guī)則制定的重點領域，其目的是通過對人工智能倫理的有效規(guī)范，確保技術進步不會偏離人類基本的利益軌道和道德法則。在倫理問題方面，國際上已經(jīng)出現(xiàn)了很多關于規(guī)則的探索，部分重要的國際組織和機構(gòu)提出了人工智能的倫理原則和指導方針，也有一些國家也開始規(guī)范專門領域的技術倫理問題。其中有代表性的成果包括下列內(nèi)容：2021

年

11

月聯(lián)合國教科文組織（UNESCO）發(fā)布了《人工智能倫理問題建議書》，成為首個規(guī)范性的人工智能全球倫理框架，同時賦予各國在相應層面應用該框架的責任；歐盟方面，2021年4月提出的《人工智能法案》經(jīng)過多輪磋商后已進入最后階段，未來極大可能成二、人工智能國際規(guī)則覆蓋的領域06建構(gòu)人工智能發(fā)展的國際規(guī)則：趨勢、領域與中國角色為全球首份人工智能監(jiān)管法案，并以此形成規(guī)則示范效應；美國在人工智能倫理問題上的規(guī)范則更為細化，例如，2020

年

2

月美國國防部發(fā)布《人工智能倫理原則》，以及美國國家情報總監(jiān)辦公室

7

月發(fā)布的《情報界人工智能倫理原則》和《情報界人工智能倫理框架》等；2021

年

12

月，中國發(fā)布《關于規(guī)范人工智能軍事應用的立場文件》，呼吁各方遵守國家或地區(qū)人工智能倫理道德準則；2022年

11

月，中國發(fā)布《關于加強人工智能倫理治理的立場文件》，從技術監(jiān)管、研發(fā)、使用及國際合作等方面提出具體主張，呼吁各方秉持共商共建共享理念，推動國際人工智能倫理治理。這些原則和指導方針雖然在具體內(nèi)容上有所差異，但都強調(diào)了人工智能應該符合人類的價值觀和利益，尊重人的尊嚴和權利，保障公平、透明、可解釋、可信賴和可問責等方面的內(nèi)容，該領域的規(guī)則制定將確保人工智能發(fā)展的基本方向。（二）國際安全人工智能技術的發(fā)展能夠產(chǎn)生廣泛的國際影響，對于全球安全具有重要意義。從國際安全的角度來看，人工智能與軍事武器的結(jié)合已經(jīng)對國際安全構(gòu)成了實際上的挑戰(zhàn)。目前國際上已經(jīng)有很多組織和機構(gòu)在關注和討論人工智能對軍事化、核武器等方面的影響和挑戰(zhàn)。例如，聯(lián)合國裁軍研究所于

2023

年

2

月發(fā)布《邁向負責任的國防人工智能：繪制和比較各國采用的人工智能原則》報告，為“邁向負責任的國防人工智能”項目第

1

階段成果。該項目旨在建立對負責任的人工智能系統(tǒng)研究、設計、開發(fā)、部署、使用的關鍵共識，審查負責任的人工智能在國防領域的應用情況。2021年，紅十字國際委員會在日內(nèi)瓦發(fā)布了《關于自主武器系統(tǒng)的立場》文件，明確指出當前軍事利益和投資的趨勢已經(jīng)充分表明，如果不確立國際公認的限制標準，未來的自主武器系統(tǒng)可能會日益依賴人工智能和機器學習軟件，由此其在設計層面存在的不可預測性令人擔憂。這些組織和機構(gòu)呼吁加強對人工智能在軍事領域的監(jiān)督和限制，防止人工智能引發(fā)新的沖突和危機，維護國際和平與安全。針對人工智能在不同領域的安全影響仍會不斷擴大這一情況，建立相應的國際規(guī)則具有重要意義。人工智能技術在核領域的應用也逐漸受到國際社會的關注，尤其是人工智能二、人工智能國際規(guī)則覆蓋的領域建構(gòu)人工智能發(fā)展的國際規(guī)則：趨勢、領域與中國角色07對核安全的影響。2020

年

9

月，第

64

屆國際原子能機構(gòu)大會首次討論了人工智能在核領域的應用問題，并展示了人工智能賦能下的核技術如何造福于人類健康、水資源管理和核聚變研究。2022

年

8

月，國際原子能機構(gòu)發(fā)布題為《人工智能加速核應用、核科學與核技術》的報告，介紹了人工智能在核科學和核應用、核電，以及核安全和保障核查等領域的應用。2023

年

6

月，《人工智能將如何改變核世界的信息和計算機安全》一文在《國際原子能機構(gòu)簡報》中刊出，專門強調(diào)了人工智能的快速發(fā)展對核安全帶來的諸多風險。文章指出，惡意行為者可能會利用人工智能發(fā)起更先進、更有針對性的攻擊，或利用它來破壞核設施和放射性設施中網(wǎng)絡、系統(tǒng)和敏感信息的完整性。為此，國際原子能機構(gòu)還制定了題為“加強核設施計算機安全事件分析”的“聯(lián)合研究計劃”（CRP），以支持加強計算機安全的研究。這一計劃匯集了

13

個國家的代表，致力于提高核設施的計算機安全能力，包括通過人工智能技術來檢測網(wǎng)絡攻擊帶來的異常情況。自此，人工智能的核安全問題被正式納入國際機制的議事日程。（三）技術安全從人工智能技術誕生伊始，如何確保技術本身的安全性就是各國關注的焦點。簡單來說，人工智能的技術安全集中在算法、數(shù)據(jù)和場景三個層面。而通過相關標準的設定，設置技術發(fā)展的規(guī)范將構(gòu)成人工智能國際規(guī)則的另一個重要組成部分。具體而言，人工智能技術的發(fā)展應秉持以下原則：其一，可擴展監(jiān)督，即確保人工智能技術在開發(fā)、使用和更新過程中得到有效的監(jiān)督，防止人工智能技術被用于危害人類安全的目的；其二，機制可解釋性，即幫助人們理解人工智能技術的決策過程，從而更好地預防和應對人工智能技術可能產(chǎn)生的負面影響；其三，危險能力測試可以幫助識別人工智能技術的潛在風險，并采取措施降低這些風險。當前，國際社會已經(jīng)圍繞上述三項技術安全標準開展了大量工作，諸多國際組織和地區(qū)、國家都開始在標準領域發(fā)力。在技術安全方面，國際上已經(jīng)有一些標準化組織和機構(gòu)在積極制定和推進人工智能的安全標準和規(guī)范。2022

年

7

月，國際標準化組織（ISO）和國際電工委員會（IEC）聯(lián)合發(fā)布了兩項人工智能領域新的基礎標準，即《信息技術——人工智能概念和術語》（ISO/IEC

22989:2022）和《運用機器學習的人工智能二、人工智能國際規(guī)則覆蓋的領域08建構(gòu)人工智能發(fā)展的國際規(guī)則：趨勢、領域與中國角色系統(tǒng)框架》（ISO/IEC

23053:2022）。上述技術標準和框架的提出旨在為全球數(shù)字化轉(zhuǎn)型提供規(guī)范保障，并且為通用型人工智能技術的發(fā)展提供系統(tǒng)性框架。此外，國際電信聯(lián)盟（ITU）也積極投身于人工智能技術標準與規(guī)范的建立，并通過下設的電信標準化部門（ITU-T）和無線電通信部門（ITU-R）來專門負責人工智能和機器學習相關的標準化工作。此外，由中國電信牽頭在國際電信聯(lián)盟制定的國際標準《AI增強電信運營管理架構(gòu)》（Framework

of

ArtificialIntelligence

Enhanced

Telecom

Operation

and

Management，AITOM）于2021年正式發(fā)布，將中國電信的智慧電信運營管理技術與安全實踐以標準的形式推廣到全球產(chǎn)業(yè)界，幫助行業(yè)解決電信運營管理中人工智能技術應用的問題。在國家和地區(qū)組織層面，圍繞人工智能技術規(guī)范和標準的制定也在如火如荼推進。其中，歐盟作為全球首屈一指的“規(guī)范性力量”，早在

2019

年

4

月就提出了人工智能的倫理準則，列出了

7

項評價“可信賴人工智能”的標準。2019

年5月22

日，經(jīng)濟合作與發(fā)展組織（OECD）通過了《人工智能建議書》，這是首個人工智能領域的政府間標準，旨在通過對人工智能技術的負責任管理，確保其尊重人權和民主價值觀，并促進人工智能的技術創(chuàng)新。2022年，歐盟委員會提出了《人工智能責任指令》提案，進一步提出人工智能安全責任認定機制，來確定當人工智能發(fā)生故障或造成傷害時誰應該承擔責任。2023

年

6

月，歐洲議會又通過歐盟《人工智能法案》草案，對人工智能系統(tǒng)進行風險分類，限制深度偽造，并對

ChatGPT

等生成式人工智能提出了更高透明度的要求。此外，美國、英國等國在人工智能技術安全的基本原則和具體標準方面也展開了一定的規(guī)范實踐活動。例如，英國在

2021

年

9

月

22

日發(fā)布的首份《國家人工智能戰(zhàn)略》中指出，對內(nèi)要制定跨部門標準以確保人工智能算法的透明度，對外則要參與全球人工智能標準化制定工作，并且要提高政府對人工智能技術安全的認識。美國人工智能國家安全委員會（NSCAI）在

2021

年

3

月

2

日正式發(fā)布的最終研究報告中也強調(diào)，要對人工智能系統(tǒng)建立合理的信心，即確保人工智能系統(tǒng)的堅實、魯棒和可靠。此外，2023

年

5

月

23

日美國白宮發(fā)布了《國家人工智能研發(fā)戰(zhàn)略計劃》（The

National

Artificial

Intelligence

R&D

StrategicPlan），其中的戰(zhàn)略支柱之一就是確保人工智能系統(tǒng)的安全性。值得注意的是，2020

年以來學術界和產(chǎn)業(yè)界對于人工智能價值對齊（AIValue

Alignment）問題的討論進入白熱化階段，并認為這是人工智能技術安全二、人工智能國際規(guī)則覆蓋的領域建構(gòu)人工智能發(fā)展的國際規(guī)則：趨勢、領域與中國角色09面臨的重大挑戰(zhàn)之一。由于人工智能技術的發(fā)展產(chǎn)生了諸多不確定性，如何通過從設計到使用的“全鏈式”治理來確保人工智能與人類的預期目標、道德準則和價值觀保持一致成為當前的核心關切，即價值對齊問題。目前，IBM、谷歌，以及

OpenAI

等領先的人工智能企業(yè)都發(fā)布了自己在價值對齊問題上的解決方案和路徑，成為全球人工智能技術規(guī)范建立的生力軍。2023年，數(shù)百名世界領先的技術研發(fā)人員、學者和企業(yè)領袖在非政府組織人工智能安全中心（Center

for

AISafety）的協(xié)調(diào)下共同簽署了一份網(wǎng)絡聲明，表明“減輕人工智能帶來的滅絕風險應該與流行病和核戰(zhàn)爭等其他社會規(guī)模風險一起成為全球優(yōu)先事項?！笨傮w而言，當前國際社會中關于人工智能技術安全的標準和規(guī)范涵蓋了人工智能的術語、框架、方法、理念等多個方面，旨在提升人工智能的安全性、可靠性和質(zhì)量。該領域的規(guī)則制定確保人工智能技術始終在安全的標準下運動。（四）技術創(chuàng)新促進人工智能安全有效發(fā)展是人工智能國際規(guī)則的落腳點。通過規(guī)則建構(gòu)保障技術要素能力的充分釋放，也是規(guī)則制定的重要目的。因而可以說，技術創(chuàng)新發(fā)展是推動人工智能國際規(guī)則制定的充分條件，也是國際規(guī)則制定的目標與歸宿。目前，國際上較為領先的地區(qū)和國家已經(jīng)著手推動和支持在人工智能技術創(chuàng)新發(fā)展方面的布局。歐盟委員會在

2020

年

2

月發(fā)布的《人工智能白皮書》中提出，要大幅提高人工智能研究和創(chuàng)新領域的投資水平。日本在

2019

年發(fā)布的《人工智能戰(zhàn)略》中提出，要把人工智能作為國家戰(zhàn)略性技術來發(fā)展，并推動人工智能技術發(fā)展與社會應用的結(jié)合。韓國在

2019

年

12

月發(fā)布的《人工智能國家戰(zhàn)略》中提出擴充人工智能基礎設施、確保掌握人工智能技術競爭力，以及創(chuàng)新規(guī)制和調(diào)整法律制度等目標。2023

年

5

月，美國白宮繼

2016

年、2019

年之后發(fā)布第三版《國家人工智能研發(fā)戰(zhàn)略計劃》，在規(guī)劃中將投資人工智能技術研發(fā)置于首位，并強調(diào)了人才和國際合作對于技術創(chuàng)新的支持作用。中國在人工智能技術發(fā)展方面也進行了規(guī)劃部署，例如

2017

年國務院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》，是我國第一份在人工智能技術發(fā)展和應用領域進行系統(tǒng)部署的戰(zhàn)略規(guī)劃。2022年7月，科技部等六部委聯(lián)合印發(fā)《關于加快場景創(chuàng)新以人工智能高水平應用促進經(jīng)濟高質(zhì)量發(fā)展的指導意見》的通知，系統(tǒng)性地指導各地方和各主體加快人工智二、人工智能國際規(guī)則覆蓋的領域10建構(gòu)人工智能發(fā)展的國際規(guī)則：趨勢、領域與中國角色能場景應用，以場景創(chuàng)新推動人工智能的技術升級、產(chǎn)業(yè)增長，進而實現(xiàn)經(jīng)濟高質(zhì)量發(fā)展?？梢钥闯?，當前國際社會在推動人工智能技術創(chuàng)新領域的著力點主要包括基礎研究、應用開發(fā)、人才培養(yǎng)、倫理規(guī)范以及國際合作等。上述國家和國際組織通過一系列戰(zhàn)略計劃和政策措施的部署，在人工智能技術創(chuàng)新發(fā)展方面投入大量的資金和資源，用以培育人才和團隊、建設基礎設施和平臺，以及促進跨領域和跨國的合作與交流。（五）社會發(fā)展充分利用人工智能技術，帶動社會各領域的全面發(fā)展，是世界各國的共同愿望。但要保證智能技術的成果能夠成功外溢到其他社會領域，相關的制度引導非常重要。從發(fā)展問題的視角來看，目前國際上已經(jīng)有一些組織和機構(gòu)在關注和應對人工智能對經(jīng)濟社會發(fā)展的影響和挑戰(zhàn)，但總體來看相關制度建設仍有進一步完善的空間。目前，就人工智能與社會發(fā)展問題形成的國際機制主要集中在多邊領域。例如，2023

年

7

月

6

日在中國上海舉行的

2023

世界人工智能大會（WAIC

2023）開幕式上，聯(lián)合國工業(yè)發(fā)展組織（UNIDO）發(fā)布了成立全球工業(yè)和制造業(yè)人工智能聯(lián)盟的倡議（簡稱“AIM-Global”聯(lián)盟）。這一開創(chuàng)性的舉措旨在聯(lián)合國家政府、私營部門和國際組織，以及專注于推動人工智能技術負責的、可持續(xù)和包容性應用的行業(yè)領導者，共同為全人類創(chuàng)造一個共享開放、自由和安全的數(shù)字未來。此外，世界經(jīng)濟論壇關注到人工智能對人類工作模式可能造成的沖擊。在

2023

年

6月發(fā)布的《2023年十大新興技術報告》認為，生成式人工智能（AIGC）技術除了能對社會和經(jīng)濟帶來巨大發(fā)展外，將無可避免地造成就業(yè)的流失。在教育領域，世界銀行于

2021

年

9

月發(fā)布《高等教育轉(zhuǎn)向面向人工智能的彈性系統(tǒng)》報告，介紹了世行在人工智能時代發(fā)展有效、公平、高效和有彈性的高等教育系統(tǒng)方面的一系列做法。當前的國際組織和機構(gòu)主要分析了人工智能對就業(yè)、教育、健康、環(huán)境等方面的影響，提出了一些應對建議和措施。但如果想實現(xiàn)更加全面的社會發(fā)展目標，還需要更多研討與設計。二、人工智能國際規(guī)則覆蓋的領域建構(gòu)人工智能發(fā)展的國際規(guī)則：趨勢、領域與中國角色11三、人工智能治理進程的中國價值觀中國政府高度重視人工智能技術的發(fā)展，對其可能帶來的產(chǎn)業(yè)變革和社會變遷給予了高度關注。國務院先后出臺了《新一代人工智能發(fā)展規(guī)劃》等一系列政府文件，對于人工智能技術和產(chǎn)業(yè)發(fā)展提供了卓有成效的頂層設計。同時，中方也密切關注人工智能發(fā)展可能帶來的各種風險與挑戰(zhàn)，積極探索適用于我國國情的治理方案，確保人工智能產(chǎn)業(yè)的健康發(fā)展。在治理方面，中方先后發(fā)布了《新一代人工智能治理原則》等重要文件，對于人工智能治理的認知也逐漸成熟。經(jīng)過一段時間的實踐磨合與深入的理論探討，具有中國特色的人工智能治理規(guī)則的獨特價值觀逐步形成，它也將為我國參與人工智能國際規(guī)則建構(gòu)提供堅實的思想內(nèi)核。長期以來，中方積極參與聯(lián)合國框架內(nèi)關于人工智能治理議題的討論，曾先后在聯(lián)合國框架內(nèi)提交了關于規(guī)范人工智能軍事應用、加強人工智能倫理治理兩份立場文件。在

2023

年

7

月

18

日聯(lián)合國安理會關于人工智能的討論中，中方又明確提出了關于人工智能治理的五條原則，即堅持倫理先行、堅持安全可控、堅持公平普惠、堅持開放包容、堅持和平利用。這五條原則是人類命運共同體理念在人工智能領域的反映，是中國關于人工智能治理價值觀的充分展現(xiàn)，具有重要的現(xiàn)實意義。概括而言，經(jīng)過長時間的研究與磨合，中方已經(jīng)初步形成了關于人工智能治理和規(guī)則制定方面的中國價值觀，將為全球人工智能規(guī)則建構(gòu)和治理議程提供卓越的“中國智慧”。第一，促進技術與產(chǎn)業(yè)的安全有序發(fā)展是中國價值觀的基本導向。“發(fā)展才是硬道理”是改革開放時代中國社會的底層邏輯，也是所有價值觀的基礎支撐。中方一直將洶涌而來的人工智能技術浪潮視為重大戰(zhàn)略機遇，希望能夠借助技術進步和產(chǎn)業(yè)發(fā)展，帶動國家競爭力整體躍升和跨越式發(fā)展。因此，中國在人工智能治理方面的一個基本導向是：人工智能治理的目標是要減少阻礙人工智能技術發(fā)展的不利因素，推動技術的廣泛利用，使得更多生產(chǎn)部門和人口三、人工智能治理進程的中國價值觀12建構(gòu)人工智能發(fā)展的國際規(guī)則：趨勢、領域與中國角色可以享受技術帶來的紅利。安全是發(fā)展的前提，如果沒有安全，發(fā)展取得的成果也會得而復失。中國政府高度重視人工智能安全問題，針對人工智能技術發(fā)展可能帶來的潛在安全風險積極推進相應的治理體系建構(gòu)。例如，面對生成式人工智能的迅猛發(fā)展，國家網(wǎng)信辦聯(lián)合七部委于

2023

年

7

月

10

日頒布《生成式人工智能服務管理暫行辦法》，成為全球最早對

AIGC

治理做出貢獻的國家之一。該辦法深刻地體現(xiàn)了我國在人工智能治理領域的基本價值理念：一方面，通過管理辦法闡明我國積極支持

AIGC

技術發(fā)展，推動其創(chuàng)造更大的商業(yè)、社會價值的立場；另一方面，又對其生成內(nèi)容與服務提出了清晰的道德倫理要求，并且明確了監(jiān)管主體與責權分配原則。面對新興技術的挑戰(zhàn)，中國堅持以包容審慎的態(tài)度處理新技術所帶來的安全問題，保持發(fā)展與安全并重的基本立場，系統(tǒng)建構(gòu)相應的治理體系。在人工智能治理的中國價值觀中，治理本身是為了促進技術和產(chǎn)業(yè)的安全有序發(fā)展，其目的始終要在維持發(fā)展進程的基礎上，通過相關的規(guī)則建構(gòu)，確保人工智能技術安全，增進人類的共同福祉。發(fā)展與治理密不可分，治理是為了更好地發(fā)展，脫離了發(fā)展的治理就將成為無源之水無本之木。因此，在推進相關國內(nèi)規(guī)則建設過程中，不能以犧牲技術發(fā)展和產(chǎn)業(yè)進步為代價，要始終在發(fā)展與安全、變革與穩(wěn)定等多重維度之間尋找合理的平衡點。第二，建構(gòu)“負責任的人工智能”是中國價值觀的核心內(nèi)涵。在國家新一代人工智能治理專業(yè)委員會頒布的《新一代人工智能治理原則》中，將“負責任的人工智能”作為治理原則的主題加以描述。發(fā)展“負責任的人工智能”作為一個重要的標準貫穿于人工智能的研發(fā)與應用過程，構(gòu)成了人工智能治理的中國價值觀的核心內(nèi)涵。建構(gòu)“負責任的人工智能”就要求從基礎研發(fā)到實踐應用，始終要保持在安全可控的范圍內(nèi)，所有的參與主體都要以負責任的態(tài)度維持相應的倫理和安全的標準。在倫理方面，要確保人工智能技術始終符合人類的價值觀和倫理道德，應以保障社會安全、尊重人類權益為前提，避免誤用，禁止濫用、惡用。同時，要確保公民能夠較為公平地享受技術進步的成果，推動各行各業(yè)轉(zhuǎn)型升級，縮小區(qū)域差距，提升弱勢群體適應性，努力消除數(shù)字鴻溝。在安全方面，則應不斷提升人工智能透明性、可解釋性、可靠性、可控性，逐步實現(xiàn)可審核、可監(jiān)督、可追溯、可信賴等方面的要求。在數(shù)據(jù)獲取方面則要尊重和保護個人隱私，充分保障個人三、人工智能治理進程的中國價值觀建構(gòu)人工智能發(fā)展的國際規(guī)則：趨勢、領域與中國角色13的知情權和選擇權，防止信息數(shù)據(jù)濫用。人工智能研發(fā)者、使用者及其他相關方應以建構(gòu)“負責任的人工智能”為目標，以高度的社會責任感和自律意識，嚴格遵守法律法規(guī)、倫理道德和標準規(guī)范。建立人工智能問責機制，明確研發(fā)者、使用者和受用者等的責任。只有建立在這一價值觀基礎上的治理規(guī)則，才能夠最大限度體現(xiàn)中方的意愿。第三，堅持開放交流與多元協(xié)作是中國價值觀的基本精神。人工智能技術和產(chǎn)業(yè)的發(fā)展是一個系統(tǒng)工程，需要廣泛的交流與協(xié)作。這種協(xié)作既包括多元主體之間的分工協(xié)作，又包括全球范圍內(nèi)的充分交流與資源分享。在長期的實踐中，中國充分理解開放交流與多元協(xié)作對于人工智能技術發(fā)展的重要意義，它也構(gòu)成了人工智能治理的中國價值觀的基本精神。多元協(xié)作，指的是人工智能技術的發(fā)展需要跨學科、跨領域、跨地區(qū)、跨國界的充分交流，要積極推動國際組織、政府部門、科研機構(gòu)、教育機構(gòu)、企業(yè)、社會組織、公眾在人工智能發(fā)展與治理中的協(xié)調(diào)互動。在協(xié)作互動過程中，應以公正的態(tài)度回饋所有的貢獻者，以公平的精神保障利益相關者的權益，充分釋放各主體的潛能，提供均等的機會。開放交流，則強調(diào)在人工智能領域，世界各國所處的發(fā)展階段不同，人工智能發(fā)展存在著各種獨特的應用場景，這就需要在交流溝通的基礎上開展合作研究和對話，不斷推動國際合作，在充分尊重各國人工智能治理原則和實踐的前提下，推動形成具有廣泛共識的國際人工智能治理框架和標準規(guī)范。人工智能的發(fā)展不是一國一地之事，閉關自守和以鄰為壑都不是人工智能發(fā)展的合理方式，只有在充分尊重各國人工智能治理原則和實踐的前提下，推動形成具有廣泛共識的國際人工智能治理框架和標準規(guī)范，才能增進人類共同福祉。綜上所述，當前全球人工智能發(fā)展已經(jīng)進入了新階段，技術的進步正在深刻改變?nèi)祟惿鐣?，人類正在進入到一個全新的世界。面對全新的局面，如何確保人工智能技術的發(fā)展安全、可靠、可控，且始終保持在向善的軌道上，已經(jīng)成為中國與世界需要共同面對的挑戰(zhàn)。在理論研究與實踐磨合的基礎上，中方逐漸形成了具有中國特色的治理思路與價值觀。在它的指引下，中方將不斷提升智能化技術手段，優(yōu)化管理機制，完善治理體系，并以此為思想的錨點，參與到國際規(guī)則的制定中去。以此促進新一代人工智能健康有序發(fā)展，更好協(xié)調(diào)發(fā)展與治理的關系，確保人工智能推動經(jīng)濟、社會及生態(tài)可持續(xù)進步，共同建構(gòu)人工智能領域的人類命運共同體。三、人工智能治理進程的中國價值觀14建構(gòu)人工智能發(fā)展的國際規(guī)則：趨勢、領域與中國角色四、中國參與人工智能國際規(guī)則制定的路徑為了人類經(jīng)濟社會生活的持續(xù)發(fā)展和人工智能技術的持續(xù)向善，中國應當以人類命運共同體理念為引導，主動參與人工智能國際規(guī)則制定，以國際社會可理解、可接受的方式來展示和推廣人工智能領域的中國價值觀與中國經(jīng)驗，并主動提出中國的人工智能國際規(guī)則建構(gòu)方案，爭取國際規(guī)則建構(gòu)的主導權。為此，本報告提出中國參與人工智能國際規(guī)則制定的四大原則，即以聯(lián)合國為主舞臺開展國際治理（AI

Governanceby

UN）、以促進全球經(jīng)濟社會發(fā)展作為關鍵目標（AIfor

Development）、以大國穩(wěn)定機制建構(gòu)作為基本保障（AI

for

Stability），并優(yōu)先發(fā)展以私營部門的知識、經(jīng)驗和資源為基礎的人工智能應用解決方案（AIImplication

by

Private

Sector）。由此，形成了我國參與人工智能國際規(guī)則制定的獨特路徑，即“以聯(lián)合國為中心實現(xiàn)人工智能的穩(wěn)定發(fā)展以造福全人類”（Multilateraland

Stable

Development

ofAI

forAllPeople，MSDP）。第一，以聯(lián)合國為代表的多邊主義平臺為基本立足點。作為當前全球最具代表性和權威性的國際組織，聯(lián)合國在全球數(shù)字治理和規(guī)則制定方面發(fā)揮著不可替代的主導作用。聯(lián)合國秘書長古特雷斯在安理會就人工智能舉行的首場公開辯論上強調(diào)，各方必須共同為發(fā)展人工智能努力，以彌合社會、數(shù)字與經(jīng)濟鴻溝，而不是讓人們之間的距離進一步拉大。為此，中方應積極響應聯(lián)合國秘書長的號召，在聯(lián)合國框架內(nèi)通過廣泛的國際協(xié)商，在確保發(fā)展中國家合理發(fā)展利益的情況下制定相關規(guī)則。例如，在聯(lián)合國秘書長科技特使辦公室的引領下，積極參與2024年聯(lián)合國未來峰會上就《全球數(shù)字契約》達成一致的進程，并在

2026

年之前與各方共同制定一個禁止使用完全自主武器系統(tǒng)的法律約束性協(xié)議。中國還要繼續(xù)支持聯(lián)合國教科文組織等機構(gòu)在人工智能倫理和標準方面的工作，并促進《人工智能倫理建議》在全球范圍內(nèi)的實施和監(jiān)督。第二，積極參與人工智能國際規(guī)則，為彌合發(fā)展中國家參與人工智能治理的鴻溝作出更大貢獻。當前，在全球人工智能治理領域存在著明顯的數(shù)字鴻溝，廣大發(fā)展中國家由于技術和政治的多重原因，在人工智能治理領域明顯失語。他們四、中國參與人工智能國際規(guī)則制定的路徑建構(gòu)人工智能發(fā)展的國際規(guī)則：趨勢、領域與中國角色15的內(nèi)在訴求無法得到有效表達，往往只能被動接受發(fā)達國家制定的各種標準，很難深度分享人工智能發(fā)展的紅利。因此，作為全球最大的發(fā)展中國家的中國，在人工智能國際規(guī)則制定過程中有著特殊的角色，既是發(fā)展中國家參與人工智能規(guī)則制定的主要代表，也是扭轉(zhuǎn)發(fā)展中國家在人工智能治理方面話語權缺失的關鍵力量。中國需積極協(xié)調(diào)發(fā)展中國家立場，切實理解發(fā)展中國家對于相關國際規(guī)則的核心關切，并將其與中國立場有機結(jié)合，在國際規(guī)則建構(gòu)過程中給予充分表達，為發(fā)展中國家參與人工智能全球治理體系建設提供有效路徑。第三，以推動全球南方的經(jīng)濟社會發(fā)展作為優(yōu)先事項。從根本上說，想要彌平數(shù)字鴻溝，讓世界各國共享人工智能技術所帶來的發(fā)展紅利，就要全力推進全球南方在人工智能領域的深度合作，促使其深度參與人工智能產(chǎn)業(yè)發(fā)展。因此，中國應以推動全球南方國家研發(fā)和應用人工智能技術為優(yōu)先選項，并積極開展與重要國家和區(qū)域的技術、產(chǎn)業(yè)合作。尤其要重視在東南亞、中東等潛力市場，積極嘗試不同的合作方案，從南方國家視角積累人工智能發(fā)展與治理方面的有益經(jīng)驗，積極推動南方國家參與全球人工智能產(chǎn)業(yè)鏈和價值鏈，在實踐中增強其綜合影響力和在國際規(guī)則建構(gòu)過程中的話語權。此外，中國在利用人工智能促進經(jīng)濟社會發(fā)展方面也有著豐富的實踐和案例，如智慧城市、智慧醫(yī)療、智慧教育和智慧農(nóng)業(yè)等。中國應積極與全球南方國家共享在人工智能領域的知識、經(jīng)驗和資源，以此助力經(jīng)濟社會發(fā)展和治理體系建設。第四，以建構(gòu)人工智能穩(wěn)定機制為契機推動大國合作。當前關于人工智能國際規(guī)則制定的形勢復雜，部分國家希望將他們所主導的小圈子的共識，以國際規(guī)則的形式推廣到全世界，從而獲得規(guī)則制定主導權。盡管存在著激烈的競爭與博弈，但規(guī)則制定本身對于人工智能技術發(fā)展而言仍意義重大。2023

年

2

月，由荷蘭與韓國聯(lián)辦的“在軍事領域負責任使用人工智能”峰會在海牙舉行，包括美國、中國在內(nèi)的

60

多個國家簽署聯(lián)合聲明，倡議負責任開發(fā)使用軍事人工智能。作為發(fā)展中國家的代表，中國在堅持維護發(fā)展中國家利益的同時，亦需積極與美、歐、日等科技前沿國家開展相關對話與合作，以尋求共識和防止誤判，并且據(jù)此建立多層次的對話機制以不斷更新治理理念。例如，中國可以推動建立多個面向的人工智能安全穩(wěn)定對話機制，在區(qū)域?qū)用嫱ㄟ^歐盟、亞太經(jīng)合組織等建立一個協(xié)調(diào)性、互補性、協(xié)作性的人工智能合作網(wǎng)絡，以推動人工智能的技術交流和產(chǎn)業(yè)協(xié)同；在雙邊層面，可與美國、英國等科技強國建立人工智能安全穩(wěn)定對話機制，以促四、中國參與人工智能國際規(guī)則制定的路徑16建構(gòu)人工智能發(fā)展的國際規(guī)則：趨勢、領域與中國角色進雙方在人工智能研發(fā)和應用方面的交流合作。第五，優(yōu)先發(fā)展以私營部門的知識、經(jīng)驗和資源方案。作為全球人工智能發(fā)展的重要力量，中國國內(nèi)與人工智能技術和產(chǎn)業(yè)發(fā)展相關的各類主體數(shù)量龐大，包括眾多技術與產(chǎn)業(yè)主管部門、行業(yè)協(xié)會、互聯(lián)網(wǎng)企