人工智能術(shù)語研究階段性成果

INTERNATIONALSECURITYANDSTRATEGYSTUDIESREPORTCENTERFORINTERNATIONALSECURITYANDSTRATEGYTSINGHUAUNIVERSITYCISS人工智能與國際安全項目術(shù)語工作組一、武器（系統(tǒng)）泛指用于攻擊或保衛(wèi)自身的作戰(zhàn)器械與裝置，被用于直接殺傷敵人的有生力量、破壞敵方設(shè)施的器械、裝置，或在遭受進攻時進行防御的器械、裝置，可區(qū)分為攻擊性武器與防御性武器兩類。武器裝備：武器裝備是作戰(zhàn)人員用于執(zhí)行和保障作戰(zhàn)行動的武器、武器系統(tǒng)以及相關(guān)的其他軍事技術(shù)裝備的統(tǒng)稱，是進行戰(zhàn)爭的重要物質(zhì)基礎(chǔ)，是軍隊戰(zhàn)斗力生成的重要力量，是完成各種軍事行動的重要支撐。①軍械：軍械主要包括槍械、火炮、彈藥、戰(zhàn)術(shù)導彈、光學儀器（偵察器材，如望遠鏡、潛望鏡、炮隊鏡、高炮指揮鏡等）、瞄準器材、測角器材、通用雷達、指揮儀、移動電站、防暴器材、冷兵器②等一系列用于軍事目的的武器與裝備。彈藥：指含有火藥、炸藥或其他填充物，能夠?qū)δ繕嗽斐蓳p害或完成其他戰(zhàn)術(shù)任務(wù)的物品。這包括炮彈、火炮炮彈、手榴彈、步槍榴彈、航空炸彈、火箭、導彈、魚雷、水雷、地雷等，以及用于狩獵和③射擊運動等非軍事用途的禮炮和彈藥。③參謀部、總政治部、總后勤部、總裝備部發(fā)布國際戰(zhàn)略與安全研究報告裝備：給軍隊配備的武器、軍裝、器材、技術(shù)力量等。④由若干功能上相互關(guān)聯(lián)的武器、技術(shù)裝備等有序組合，協(xié)同完成一定作戰(zhàn)任務(wù)的有機整體。⑤不可接受的致命性自主武器系統(tǒng)：根據(jù)《中國關(guān)于“致命性自主武器系統(tǒng)”問題的工作文件》⑥,中國認為“不可接受的”自主武器系統(tǒng)應(yīng)滿足但不限于以下五個基本特征：（1）致命性：即具有足以致命的載荷和手段；（2）全自主性：即在執(zhí)行任務(wù)整個過程中均無人的介入和控制：（3）無法終止性：即啟動后沒有終止手段；（4）濫殺性：即不分條件、場合和對象，自動執(zhí)行殺傷任務(wù)；（5）進化性：即在與環(huán)境交互過程中，通過自主學習，實現(xiàn)功能擴展和能力進化，且超出人的預測?！翱山邮艿摹弊灾魑淦飨到y(tǒng)：具有較高的自主程度，但應(yīng)始終處于人類控制之下，且可被安全、可信、可靠、可控地使用，人類可隨時中止其運行。在軍事行動中應(yīng)能夠遵循區(qū)分、比例、預防等國際人道主義法基本原則。⑦3.非致命性武器非致命性武器是軍隊等強力部門在執(zhí)勤、處突、反恐等任務(wù)中廣⑤/CN/abstract/abstract11322.shtml⑥/wp-content/uploads/2022/07/Working-Paper-of-the-Peoples-Republic-of-China-on-Lethal-Autonomous-Weapons-SystemsChinese.pdf/wp-content/uploads/2022/07/Working-Paper-of-the-Peoples-Republic-of-China-on-Lethal-Autonomous-Weapons-SystemsChinese.pdf泛使用的武器，在不致命的前提下使目標快速失能并且失能后果具有最大概率的可逆性。非致命性武器提供了以最低限度的武力開展行動的能力，控制了暴力和防止不必要的附帶傷亡和破壞。⑧4.機器人自動執(zhí)行工作的機器裝置。既可以接受人類指揮，又可以運行預先編排的程序，也可以根據(jù)以人工智能技術(shù)制定的原則綱領(lǐng)行動。機器人的主要任務(wù)是協(xié)助或取代人類的工作，例如生產(chǎn)業(yè)、建筑業(yè)，或是危險的工作。⑨5.智能武器是指配備了人工智能（AI）、傳感器、自動化系統(tǒng)等使其具備一定程度自主決策、目標識別、跟蹤和攻擊能力，用于實施和保障戰(zhàn)斗行動的武器、武器系統(tǒng)和與之配套的其他軍事技術(shù)器材的統(tǒng)稱。這些武器能夠在復雜的戰(zhàn)場環(huán)境中不同程度地提高作戰(zhàn)效率和精度，并減少對人為操作的依賴。所謂智能是對人的能力延伸和發(fā)展，是人機交互環(huán)境中的一部分。人作為軍事活動和智能活動的主體，對自主化程度較高的智能武器系統(tǒng)應(yīng)擁有必要的干預能力。⑩關(guān)于“自主性”，其主要目的應(yīng)是降低軍事行動中武器系統(tǒng)對人類及外部資源的依賴程度，提高對復雜動態(tài)環(huán)境的適應(yīng)性和戰(zhàn)場生存⑩結(jié)合過去20年中國學者觀點，并基于智能武器基本邏輯進行編纂而成。國際戰(zhàn)略與安全研究報告性，從而更好地完成人類賦予的任務(wù)。應(yīng)根據(jù)不同場景、不同程度的自主能力，有針對性規(guī)范相關(guān)武器系統(tǒng)的使用。如果自主能力未用于殺傷鏈（例如用于情報搜集和偵察的無人機），即使一些武器系統(tǒng)自主程度很高，其所具有的自主性也不會引發(fā)人道主義關(guān)切。武器系統(tǒng)殺傷鏈包括觀察、判斷、決策、行動等多個關(guān)鍵環(huán)節(jié)，在某些環(huán)節(jié)具有自主功能的武器系統(tǒng)并不必然導致濫殺濫傷。因此，籠統(tǒng)地推出禁止或限制措施或?qū)p害各國正當國防能力，甚至損害各國和平利用相關(guān)技術(shù)的權(quán)利。各方應(yīng)考慮將自主武器系統(tǒng)分為“不可接受的”和“可接受的”兩類，對“不可接受的”部分加以禁止，對“可接受的”部分加以規(guī)范，以確保有關(guān)武器系統(tǒng)安全、可靠、可控，遵循國際人道法及其他適用的國際法。⑩——《中國關(guān)于“致命性自主武器系統(tǒng)”問題的工作文件》人工智能集群l：遵循統(tǒng)一控制的，人工智能計算功能單元的集合。注1：人工智能計算功能單元可包含人工智能加速處理器、人工智能服務(wù)器、人工智能加速模組等。注2：當由人工智能服務(wù)器組成時，人工智能集群可稱為人工智能服務(wù)器集群，其中的人工智能服務(wù)器可稱為節(jié)點。群體智能m：群體智能（swarml年5月1日實施第1頁。若其個體具有能通過彼此間的簡單合作來完成一個整體任務(wù)的能力，則稱該群體具有“群體智能”……群體智能的核心是由眾多簡單個體組成的群體能夠通過相互之間的簡單合作來實現(xiàn)某一較復雜的功能，完成某一較復雜的任務(wù)。群體智能可以在沒有集中控制并且缺少全局信息和模型的前提下，為解決復雜的分布式問題提供了可能。8.無人系統(tǒng)無人系統(tǒng)指配備必要的數(shù)據(jù)處理單元、傳感器、自動控制和通信系統(tǒng)，能夠在無需搭載人類操作員的情況下發(fā)揮其力量執(zhí)行指定任務(wù)9.無人（作戰(zhàn)）平臺無人作戰(zhàn)平臺是指在沒有搭載人類操作人員的情況下執(zhí)行作戰(zhàn)任務(wù)的一種武器系統(tǒng)。無人駕駛航空器：是指沒有機載駕駛員且自備動力系統(tǒng)的航空器。n遙控飛機：由遙控站操作的無人駕駛飛機。遙控飛機是無人駕駛飛機的一個子類。o11.無人地面平臺（自動駕駛車輛、無人駕駛車輛）無人地面平臺是地面作戰(zhàn)的重要力量，能夠在沒有搭載人類操作員的情況下執(zhí)行各種任務(wù)。n國務(wù)院、中央軍委.《無人駕駛航空器飛行管理暫行條例》.31May2023,/zhengce/content/20oCivilUnmannedAircraftSystemsAirTraf?cManagementMeasures,https://jxj./zwgk/zcwj/bj國際戰(zhàn)略與安全研究報告無人水面艦艇是一種具備自主航行能力、通過搭載任務(wù)載荷來執(zhí)行相關(guān)任務(wù)的水面艦艇。無人水下航行器是一種無需搭載人類操作員，可以自動執(zhí)行任務(wù)人工智能是利用數(shù)字計算機或者數(shù)字計算機控制的機器模擬、延伸和擴展人的智能，感知環(huán)境、獲取知識并使用知識獲得最佳結(jié)果的人工智能已經(jīng)進入全面反映人類智能的第三代技術(shù)。第一代利用知識、算法和算力三個要素構(gòu)造，第二代利用數(shù)據(jù)、算法與算力三個要素構(gòu)造。為了發(fā)展安全、可信、可靠與可擴展的AI技術(shù)，要同時利用知識、數(shù)據(jù)、算法和算力構(gòu)造?！獜堚摗⒅燔姷?，《邁向第三代人工智能》機器學習指通過計算技術(shù)優(yōu)化模型參數(shù)的過程，使模型的行為反映數(shù)據(jù)或經(jīng)驗。⑩作為一門學科，機器學習（MachineLearning）涉及統(tǒng)計學、系統(tǒng)辨識、逼近理論、神經(jīng)網(wǎng)絡(luò)、優(yōu)化理論、計算機科學、腦科學等諸多領(lǐng)域。機器學習研究計算機怎樣模擬或?qū)崿F(xiàn)人類的學習⑩“Informationtechnology-Artificialintelligence-Terminology”(GB/T41867-2022)issuedonMay1,2023,ChineseElectronicsStandardizationInstitute,https://std./gb/search/gbDetailed?id=行為，以獲取新的知識或技能，重新組織已有的知識結(jié)構(gòu)使之不斷改善自身的性能，也是人工智能技術(shù)的核心?；跀?shù)據(jù)的機器學習是現(xiàn)代智能技術(shù)中的重要方法之一，研究從觀測數(shù)據(jù)（樣本）出發(fā)尋找規(guī)律，利用這些規(guī)律對未來數(shù)據(jù)或無法觀測的數(shù)據(jù)進行預測。⑦深度學習：通過訓練具有許多隱層的神經(jīng)網(wǎng)絡(luò)來創(chuàng)建豐富層次表示的方法。注：深度學習是機器學習的一個子集。——《國家標準｜GB/T41867-2022》深度學習：根據(jù)學習方法可以將機器學習分為傳統(tǒng)機器學習和深度學習。深度學習是建立深層結(jié)構(gòu)模型的學習方法，典型的深度學習算法包括深度置信網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)、受限玻爾茲曼機和循環(huán)神經(jīng)網(wǎng)絡(luò)等。深度學習又稱為深度神經(jīng)網(wǎng)絡(luò)（指層數(shù)超過3層的神經(jīng)網(wǎng)絡(luò)）。深度學習作為機器學習研究中的一個新興領(lǐng)域，由Hinton等人于2006年提出。深度學習源于多層神經(jīng)網(wǎng)絡(luò)，其實質(zhì)是給出了一種將特征表神經(jīng)網(wǎng)絡(luò)：由加權(quán)鏈路且權(quán)值可調(diào)整連接的基本處理元素的網(wǎng)絡(luò)，通過把非線性函數(shù)作用到其輸入值上使每個單元產(chǎn)生一個值，并把它傳送給其他單元或把它表示成輸出值。注：雖然某些神經(jīng)網(wǎng)絡(luò)旨在模擬神經(jīng)系統(tǒng)中神經(jīng)元的功能，但大多數(shù)神經(jīng)網(wǎng)絡(luò)用于人工智能以實現(xiàn)連接模型?！秶覙藴剩麲B/T5271.34-2006》⑦中國電子技術(shù)標準化研究院ChineseElectronicsStandardizationInstitute.(2018).Whitepaperonarti?cialintelligencestandardization,人工智能標準化白皮書國際戰(zhàn)略與安全研究報告神經(jīng)網(wǎng)絡(luò)：由一層或多層神經(jīng)元組成的網(wǎng)絡(luò)，通過權(quán)值可調(diào)的加權(quán)連接，接收輸入數(shù)據(jù)并產(chǎn)生輸出。注1：神經(jīng)網(wǎng)絡(luò)是連接主義方法的一個突出例子。注2：雖然神經(jīng)網(wǎng)絡(luò)的設(shè)計最初是受生物神經(jīng)元功能的啟發(fā)，但大多數(shù)神經(jīng)網(wǎng)絡(luò)的研究不再遵循這種啟發(fā)。——《國家標準｜GB/T41867-2022》自主控制是在沒有人的干預下，把自主控制系統(tǒng)的感知能力、決策能力、協(xié)同能力和行動能力有機的結(jié)合起來，在非結(jié)構(gòu)化環(huán)境下根據(jù)一定的控制策略自我決策并持續(xù)執(zhí)行一系列控制功能完成預定目標自動控制⑩：在沒有人直接參與的情況下，利用外加的設(shè)備或裝置，使機器、設(shè)備或生產(chǎn)過程的某個工作狀態(tài)或參數(shù)自動地按照預定的規(guī)律運行。自主控制系統(tǒng)⑩：通過計算機、伺服執(zhí)行機構(gòu)、傳感反饋機構(gòu)、穩(wěn)定校正環(huán)節(jié)、數(shù)-模及模-數(shù)變換與分時采樣通道、支持軟件等構(gòu)成的能實現(xiàn)自穩(wěn)定、自調(diào)節(jié)、自錄最優(yōu)、自適應(yīng)等功能的系統(tǒng)。AI生命周期指從AI項目概念階段到部署和維護階段結(jié)束的整個過程。中國在《人工智能標準化白皮書（2021版）》中引用國際標準化組織和國際電工組織第一聯(lián)合技術(shù)委員會人工智能分委會(ISO/IECJTC1/SC42)在ISO/IEC22989《人工智能概念與術(shù)語》中提出了人工智能系統(tǒng)生命周期模型定義：人工智能系統(tǒng)生命周期包括初始階段、設(shè)計與開發(fā)、驗證與確認、部署、運行與監(jiān)測、重新評估及退出階段。該生命周期模型源于系統(tǒng)和軟件工程系統(tǒng)生命周期，并在此基礎(chǔ)上強調(diào)了人工智能領(lǐng)域特性方面，包括開發(fā)運營、可追溯性、透明度及可解釋性、安全與隱私、風險管理、治理等。⑩20.指揮鏈況下，指揮鏈或指揮關(guān)系是指從作戰(zhàn)指揮高層延伸到基本作戰(zhàn)單元的這樣一條持續(xù)的職權(quán)線。根據(jù)等級、編制序列和任務(wù)的不同對指揮鏈上各級的指揮權(quán)限進行不同的職權(quán)劃分，通常從上級到下級形成指揮與被指揮關(guān)系。根據(jù)作戰(zhàn)需要或部隊編制調(diào)整，可能會進行指揮關(guān)系轉(zhuǎn)換，即改變原指揮關(guān)系，形成新指揮關(guān)系。21.指揮控制（系統(tǒng)）指揮控制系統(tǒng)等手段，掌握、調(diào)配、協(xié)調(diào)、制約作戰(zhàn)部隊和作戰(zhàn)行動，以完成既定的作戰(zhàn)任務(wù)。聯(lián)合作戰(zhàn)指揮控制，既包括對各種作戰(zhàn)活動的掌控調(diào)控，也包括對各種行為主體職能行使和權(quán)責關(guān)系的規(guī)制約束。指揮控制系統(tǒng)是保障指揮員和指揮機關(guān)對部隊作戰(zhàn)人員、作戰(zhàn)行動、武器系統(tǒng)等實施指揮、控制、制約的系統(tǒng)。根據(jù)應(yīng)用層級的不同，指揮控制系統(tǒng)可區(qū)分為戰(zhàn)略、戰(zhàn)役、戰(zhàn)術(shù)級指揮控制系統(tǒng)。國際戰(zhàn)略與安全研究報告22.決策點中文語境中與決策點相近的概念是定下決心（decision-making它指的是指揮員在接受上級任務(wù)、領(lǐng)會上級意圖后，結(jié)合對作戰(zhàn)態(tài)勢的判斷而作出的行動決定。23.有目的的人類控制這不是一個官方軍事術(shù)語，是學者在論文中提出的概念。我們的理解是，自主武器系統(tǒng)或致命性AI賦能武器系統(tǒng)在目標核查、鎖定目標、實施打擊前等關(guān)鍵任務(wù)點，由人類進行最后確認，而不是完全依靠傳感器、自主武器系統(tǒng)、或致命性AI武器系統(tǒng)的預測或判斷。24.人機交互人機交互是指人類用戶與軟硬件單元結(jié)合的計算機系統(tǒng)間進行信息輸入和輸出的交互活動，以協(xié)作實現(xiàn)符合人類需求的任務(wù)目標。在人的互動方式，通過智能技術(shù)提升人—機—環(huán)境的交互效率，使人類與計算機系統(tǒng)之間的溝通更加自然和真實，其主要涉及的領(lǐng)域包括自然處理、語音識別、手勢識別、情感計算、虛擬現(xiàn)實和增強現(xiàn)實等。u25.可信賴的人工智能發(fā)展人工智能應(yīng)堅持“以人為本”理念，以增進人類共同福祉u參考資料：《以人為中心的交互系統(tǒng)設(shè)計過程》，中華人民共和國國家標準與人工智能：從交替浮沉到協(xié)同共進》，載《中國科學：信息科學》2019年第3期；為目標，以保障社會安全、尊重人類權(quán)益為前提，確?！爸悄芟蛏啤?，保障個人隱私和數(shù)據(jù)安全，確保人工智能始終朝著有利于人類文明進步的方向發(fā)展。為此目的，不斷提升人工智能系統(tǒng)的透明性、穩(wěn)定性、可解釋性、可預測性、公平性和可靠性，提升數(shù)據(jù)真實性和準確性，確保人工智能技術(shù)可審核、可監(jiān)督、可追溯，確保人工智能始終處于人類控制之下。v透明性：人工智能系統(tǒng)的決策機制、運作過程、數(shù)據(jù)使用、行為結(jié)果等能夠被人類清晰地理解、解釋并信任，主要可體現(xiàn)為算法的透明性、數(shù)據(jù)的透明性、決策的透明性等，旨在實現(xiàn)人工智能技術(shù)可解釋、可預測、可追溯、可審查、可問責。透明性有助于所有利益攸關(guān)方清楚地了解人工智能系統(tǒng)的工作方式，但不得危害國家利益和人工w智能系統(tǒng)利益攸關(guān)方的利益。w可解釋性：人工智能系統(tǒng)能夠以清晰、易懂和有意義的方式向人類揭示其推理、決策和預測過程，使人類能夠理解并信任其作出的行為或得出的結(jié)論?？山忉屝詡?cè)重于為人工智能系統(tǒng)作出的決策提供可理解的原因，而不是嘗試為“實現(xiàn)必要的優(yōu)越特性”提供理由。x國家新一代人工智能治理專業(yè)委員會：《新一代人工智能治理原則——發(fā)展負責任x參考文獻：《信息技術(shù)人工智能術(shù)語》，中華人民共和國國家標準GB/T41867-2022，2022年10月；ISO/IEC22989:2022(en)IArti?cialintelligence-Arti?cialintelligenceconceptsandterminology；中國信息通信國際戰(zhàn)略與安全研究報告可追溯性：人工智能系統(tǒng)在整個生命周期中各個環(huán)節(jié)的決策數(shù)據(jù)集、處理過程和輸出結(jié)果能夠被記錄、追蹤和回溯，使人工智能系統(tǒng)的決策結(jié)果可被人類理解和追蹤。y可靠性：人工智能系統(tǒng)在各種條件下持續(xù)有效地與其預設(shè)目標一致地運行并獲得期望結(jié)果的能力，既要有一定程度抵抗惡意攻擊的能力，也要有遇到嚴重問題時的退回機制。z可預測性：人類能夠預見并理解人工智能系統(tǒng)在不同條件下會產(chǎn)生何種輸出和行為，使人類能夠?qū)τ跀M產(chǎn)生的輸出作出可靠的假設(shè)，這要求人工智能系統(tǒng)的輸出結(jié)果準確、可靠且可被重復，且能有效抵御漏洞和惡意攻擊。ヒ可控性：又稱為“人類控制”，是指人類的判斷應(yīng)融入人工智能系統(tǒng)的研發(fā)、部署和使用流程，使人類能夠有效地指導、監(jiān)督、評估、干預、中止或終止人工智能系統(tǒng)的行為，確保人工智能系統(tǒng)符合倫理、法律和安全標準，同時建立問責機制，確保人類是最終責任主體。フy參考文獻：國家人工智能標準化總體組、全國信標委人工智能分委會：《人z參考文獻：國家人工智能標準化總體組、全國信標委人工智能分委會：《人中華人民共和國國家標準GB/T41867-2022，2022年10月。中華人民共和國國家標準GB/T41867-2022，2022年10月。家人工智能標準化總體組、全國信標委人工智能分委會：《人工智能倫理治理標準26.決策鏈目標識別：根據(jù)各種傳感器提供的目標信息，由人工智能系統(tǒng)判定目標所處的環(huán)境、目標類別和類型以及目標敵我屬性等。ヘ目標確認：在識別目標后，人工智能系統(tǒng)對目標的身份和性質(zhì)進行驗證和確認，以確保識別結(jié)果的準確性和可靠性，并依據(jù)戰(zhàn)爭法和交戰(zhàn)規(guī)則確認目標是合法的攻擊對象。行動授權(quán)：基于明確的規(guī)則、目的和限制條件，將特定的行動權(quán)限授予人工智能系統(tǒng)，使其能夠在一定的范圍內(nèi)在人類的監(jiān)督和控制下作出決策、采取行動或執(zhí)行任務(wù)，確保任務(wù)安全且有效地完成。決策確認：在人