DB37T-人工智能技術(shù)應(yīng)用倫理風(fēng)險的治理要求編制說明

-1-《人工智能技術(shù)應(yīng)用倫理風(fēng)險的治理要求（報批稿）》地方標(biāo)準(zhǔn)編制說明一、工作簡況任務(wù)來源2020年12月21日，山東省市場監(jiān)督管理局印發(fā)《2020年第二批地方標(biāo)準(zhǔn)制修訂計(jì)劃項(xiàng)目》的通知（魯市監(jiān)標(biāo)字〔2020〕329號），本標(biāo)準(zhǔn)列為推薦性地方標(biāo)準(zhǔn)，計(jì)劃編號為“2020年第二批地方標(biāo)準(zhǔn)制修訂計(jì)劃項(xiàng)目—12”，立項(xiàng)標(biāo)準(zhǔn)名稱為《人工智能倫理風(fēng)險的治理要求》。本標(biāo)準(zhǔn)由山東省工業(yè)和信息化廳提出并組織實(shí)施，由山東省人工智能標(biāo)準(zhǔn)化技術(shù)委員會歸口。起草單位、起草人及任務(wù)分工本標(biāo)準(zhǔn)起草單位包括山東省計(jì)算中心（國家超級計(jì)算濟(jì)南中心）、山東新一代標(biāo)準(zhǔn)化研究院有限公司、濟(jì)南大學(xué)、浪潮云洲工業(yè)互聯(lián)網(wǎng)有限公司、山東科技大學(xué)、聊城大學(xué)、山東省人工智能研究院、山東博遠(yuǎn)視訊信息技術(shù)有限公司、山東財經(jīng)大學(xué)、山東聯(lián)合電力產(chǎn)業(yè)發(fā)展有限公司、山東省人工智能協(xié)會、山東省科學(xué)技術(shù)情報研究院、山東省腫瘤防治研究院（山東省腫瘤醫(yī)院）、山東博物館。本標(biāo)準(zhǔn)的主要起草人為王妍、高永超、吳林、紀(jì)科、曾慶田、劉瀟、李文博、劉培德、李超、楊成偉、陳貞翔、單珂、盧曉建、賈仰理、劉洋、張振領(lǐng)、張文博、翟虎、蘇冠群、徐鵬搖、陳瑤瑤、蔣金廣。所做工作如下：王妍、高永超負(fù)責(zé)總體設(shè)計(jì)和技術(shù)把關(guān)，吳林、紀(jì)科、曾慶田、劉瀟、李文博負(fù)責(zé)標(biāo)準(zhǔn)調(diào)研、文本起草，劉培德、李超、楊成偉、陳貞翔、單珂負(fù)責(zé)技術(shù)資料收集分析，盧曉建、賈仰理、劉洋、張振領(lǐng)、張文博、翟虎、蘇冠群、徐鵬搖、陳瑤瑤、蔣金廣等參與標(biāo)準(zhǔn)起草。起草過程1.成立起草組山東省市場監(jiān)督管理局標(biāo)準(zhǔn)制修訂計(jì)劃下達(dá)后，山東省計(jì)算中心（國家超級計(jì)算濟(jì)南中心）高度重視本標(biāo)準(zhǔn)的制定工作，為確保標(biāo)準(zhǔn)制定的科學(xué)性、普適性和嚴(yán)謹(jǐn)性，于2021年1月成立標(biāo)準(zhǔn)起草工作組，負(fù)責(zé)本標(biāo)準(zhǔn)的制定工作。2.形成標(biāo)準(zhǔn)工作組討論稿標(biāo)準(zhǔn)起草工作組充分收集研究國際國內(nèi)有關(guān)人工智能技術(shù)應(yīng)用倫理風(fēng)險的文獻(xiàn)資料，重點(diǎn)了解人工智能技術(shù)應(yīng)用倫理風(fēng)險的類別以及造成人工智能倫理風(fēng)險的主要原因。在此基礎(chǔ)上，標(biāo)準(zhǔn)起草工作組認(rèn)真研究了國家及山東省關(guān)于人工智能倫理的政策文件，經(jīng)過多次討論和修改于2022年6月形成標(biāo)準(zhǔn)的工作組討論稿。3.形成標(biāo)準(zhǔn)征求意見稿2022年9月，在山東省人工智能標(biāo)委會內(nèi)部征求本標(biāo)準(zhǔn)草案的修改意見，標(biāo)準(zhǔn)起草工作組從內(nèi)容科學(xué)性、表述規(guī)范性等方面，對標(biāo)準(zhǔn)文本進(jìn)行了相應(yīng)的修改完善，形成本標(biāo)準(zhǔn)的征求意見稿。4.標(biāo)準(zhǔn)公開征求意見2022年10月，山東省人工智能標(biāo)委會就本標(biāo)準(zhǔn)向社會公開征求意見，同時通過山東省物聯(lián)網(wǎng)協(xié)會、山東省人工智能協(xié)會，面向人工智能領(lǐng)域研究機(jī)構(gòu)、企業(yè)和相關(guān)行業(yè)協(xié)會等32個單位和專家發(fā)送“地方標(biāo)準(zhǔn)草案征求意見稿”及相關(guān)材料，廣泛征求意見，收到“地方標(biāo)準(zhǔn)草案征求意見稿”后，回函的單位或?qū)＜覕?shù)為22個，回函并有建議或意見的單位或?qū)＜覕?shù)為13個，沒有回函的單位或?qū)＜覕?shù)為10個，共收到48條意見，反饋意見包括格式的規(guī)范性、技術(shù)內(nèi)容的準(zhǔn)確性以及建議名稱修改為《人工智能技術(shù)應(yīng)用倫理風(fēng)險的治理要求》等。5.形成標(biāo)準(zhǔn)送審稿根據(jù)公開征求意見情況，標(biāo)準(zhǔn)起草組對標(biāo)準(zhǔn)的范圍和框架、人工智能技術(shù)應(yīng)用倫理風(fēng)險的治理參與方等關(guān)鍵問題進(jìn)行充分研討，逐項(xiàng)處理反饋意見，進(jìn)一步修改完善了標(biāo)準(zhǔn)文本，2023年3月形成本標(biāo)準(zhǔn)的送審稿和相關(guān)配套材料，并于2023年4月通過省級地方標(biāo)準(zhǔn)管理系統(tǒng)上報《人工智能技術(shù)應(yīng)用倫理風(fēng)險的治理要求》地方標(biāo)準(zhǔn)送審稿及配套材料。收到系統(tǒng)反饋意見后，標(biāo)準(zhǔn)起草組于2024年2月、3月多次召開會議針對術(shù)語定義、人工智能技術(shù)應(yīng)用倫理風(fēng)險的治理要求等方面研究討論，進(jìn)一步完善草案送審稿內(nèi)容，于2024年4月形成更新的標(biāo)準(zhǔn)送審稿及配套材料并提交系統(tǒng)。2024年8月，第二次收到系統(tǒng)反饋意見，編制組逐條討論反饋意見，2024年9月形成更新的標(biāo)準(zhǔn)送審稿及配套材料。2024年11月，系統(tǒng)送審審核通過，同意召開標(biāo)準(zhǔn)審查會。6.技術(shù)審查2025年1月21日，山東省工業(yè)和信息化廳在濟(jì)南組織召開了專家審查會議，共邀請9名專家組成地方標(biāo)準(zhǔn)專家審查委員會，全面審查了本標(biāo)準(zhǔn)的先進(jìn)性、合理性、適用性、規(guī)范性等，會議一致同意該標(biāo)準(zhǔn)通過審查。標(biāo)準(zhǔn)起草組根據(jù)地方標(biāo)準(zhǔn)技術(shù)審查意見修改并經(jīng)審查專家復(fù)審后，形成本標(biāo)準(zhǔn)草案報批稿。二、地方標(biāo)準(zhǔn)制定目的和意義以人工智能技術(shù)的研發(fā)和應(yīng)用為代表的新一輪科技革命，在方便人們生活的同時也帶來了復(fù)雜的倫理問題和治理挑戰(zhàn)，人工智能倫理已經(jīng)成為各國各地區(qū)持續(xù)關(guān)注的重點(diǎn)。2020年國家標(biāo)準(zhǔn)化管理委員會、中央網(wǎng)信辦、國家發(fā)展改革委、科技部及工業(yè)和信息化部聯(lián)合印發(fā)《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》，將人工智能倫理列入國家人工智能標(biāo)準(zhǔn)體系，提出規(guī)范人工智能服務(wù)沖擊傳統(tǒng)道德倫理和法律秩序而產(chǎn)生的要求。2022年中共中央辦公廳、國務(wù)院辦公廳印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見》，首次對我國科技倫理治理工作做出系統(tǒng)部署，填補(bǔ)了我國科技倫理治理的制度空白。在人工智能技術(shù)應(yīng)用過程中，隱私泄露、數(shù)據(jù)濫用、算法偏見等倫理風(fēng)險的出現(xiàn)不僅影響用戶體驗(yàn)，也可能對社會穩(wěn)定和安全造成威脅。本標(biāo)準(zhǔn)的提出是為了明確人工智能技術(shù)應(yīng)用過程中的倫理要求，規(guī)范技術(shù)使用行為，通過制定統(tǒng)一的倫理規(guī)范和要求，可以促進(jìn)人工智能技術(shù)的合理應(yīng)用，避免技術(shù)濫用和誤用，從而推動整個行業(yè)的可持續(xù)發(fā)展。同時，人工智能技術(shù)應(yīng)用倫理治理方面的地方標(biāo)準(zhǔn)也將為相關(guān)企業(yè)和機(jī)構(gòu)提供明確的指導(dǎo)和參考，以幫助其在技術(shù)應(yīng)用過程中遵守倫理規(guī)范，降低倫理風(fēng)險。本標(biāo)準(zhǔn)的制定填補(bǔ)了國內(nèi)有關(guān)人工智能技術(shù)應(yīng)用倫理治理的標(biāo)準(zhǔn)空白，可減少人工智能技術(shù)帶來的負(fù)面影響，有助于推動人工智能技術(shù)在各領(lǐng)域的廣泛應(yīng)用，也有利于人工智能安全、可靠、可控發(fā)展。三、地方標(biāo)準(zhǔn)編制原則、主要技術(shù)內(nèi)容和確定依據(jù)（一）標(biāo)準(zhǔn)編制原則1.科學(xué)性原則本標(biāo)準(zhǔn)在遵循國家關(guān)于人工智能相關(guān)政策技術(shù)文件的基礎(chǔ)上開展，在制定過程中參考了國內(nèi)外有關(guān)人工智能技術(shù)應(yīng)用倫理風(fēng)險類別及成因等技術(shù)文獻(xiàn)，并及時根據(jù)相關(guān)專家反饋的問題進(jìn)行調(diào)整完善，合理確定了人工智能技術(shù)應(yīng)用倫理風(fēng)險各方面的治理要求，具有較高的科學(xué)性。2.可操作性原則本標(biāo)準(zhǔn)制定過程中，起草工作組對人工智能技術(shù)應(yīng)用各利益相關(guān)者進(jìn)行了深入的研究，力求標(biāo)準(zhǔn)內(nèi)容全面具體，給出了對人工智能技術(shù)研發(fā)者、人工智能系統(tǒng)供應(yīng)商、使用人工智能系統(tǒng)的用戶、人工智能利益相關(guān)組織等的具體要求，便于各相關(guān)方在實(shí)踐中開展人工智能技術(shù)應(yīng)用倫理風(fēng)險的治理工作，具有較高的可操作性。3.規(guī)范性原則本標(biāo)準(zhǔn)依據(jù)GB/T1.1—2020《標(biāo)準(zhǔn)化工作導(dǎo)則第1部分：標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則》的規(guī)定起草，符合標(biāo)準(zhǔn)編寫要求。（二）標(biāo)準(zhǔn)主要內(nèi)容（1）范圍本文件規(guī)定了人工智能技術(shù)應(yīng)用倫理風(fēng)險的治理框架、治理原則、治理參與方和治理核心要求。本文件適用于人工智能技術(shù)應(yīng)用倫理風(fēng)險的研究以及人工智能系統(tǒng)的規(guī)劃、設(shè)計(jì)等。（2）規(guī)范性引用文件本部分主要列出了標(biāo)準(zhǔn)中引用其他文件的清單。（3）術(shù)語和定義介紹人工智能、倫理等需要界定的術(shù)語和定義。（4）治理框架本部分給出了人工智能技術(shù)應(yīng)用倫理治理框架的結(jié)構(gòu)，并概述框架的組成部分。（5）治理原則本部分給出了人工智能技術(shù)應(yīng)用倫理治理的主要原則并進(jìn)行描述。（6）治理參與方本部分描述了人工智能技術(shù)應(yīng)用倫理治理的主要參與方，并針對人工智能技術(shù)應(yīng)用管理者、人工智能技術(shù)研發(fā)者、人工智能產(chǎn)品與服務(wù)供應(yīng)商、人工智能產(chǎn)品與服務(wù)使用者等描述了各相關(guān)方視角下的治理目標(biāo)。（7）治理核心要求本部分提出了在人工智能技術(shù)應(yīng)用倫理治理中應(yīng)關(guān)注的核心要求，主要包括以人為本、隱私保護(hù)、知情同意、安全可控、公平無歧視、透明可追溯、責(zé)任明確、技術(shù)中立性、監(jiān)測與改進(jìn)、教育與培訓(xùn)等方面。（三）確定依據(jù)1.術(shù)語和定義的確定現(xiàn)行國家標(biāo)準(zhǔn)GB/T41867-2022《信息技術(shù)人工智能術(shù)語》中有對“人工智能”、“人工智能系統(tǒng)”、“偏見”的定義，這些定義專門針對人工智能，易于理解，基于優(yōu)先采用現(xiàn)行國家標(biāo)準(zhǔn)的原則，本標(biāo)準(zhǔn)中使用的“人工智能”等相關(guān)術(shù)語的定義，直接引用了GB/T41867-2022的定義。ISO31000:2018《風(fēng)險管理指南》中有對“風(fēng)險”的定義（ISO31000:2018,3.1），本標(biāo)準(zhǔn)中使用的“風(fēng)險”的定義，直接引用了ISO31000:2018的3.1。國際標(biāo)準(zhǔn)化組織（ISO）、國際電工委員會（IEC）等國際機(jī)構(gòu)，以及人工智能領(lǐng)域的專業(yè)組織，都發(fā)布了一系列關(guān)于人工智能倫理的標(biāo)準(zhǔn)和規(guī)范。這些文檔提供了大量的術(shù)語和定義，是我們界定本標(biāo)準(zhǔn)中術(shù)語和定義的重要參考。本標(biāo)準(zhǔn)中其他術(shù)語的界定，主要來源于公眾意見和專家咨詢、學(xué)術(shù)研究成果等，人工智能領(lǐng)域的學(xué)術(shù)研究，特別是倫理學(xué)、法學(xué)、社會學(xué)等相關(guān)學(xué)科的研究，為我們提供了豐富的理論支持。人工智能技術(shù)應(yīng)用倫理治理框架的確定（1）人工智能倫理問題的來源人工智能的倫理問題包括隱私和安全、歧視性結(jié)果、決策困境以及對人類自主性的影響等，其來源包括但不限于：——未經(jīng)授權(quán)的收集、處理或披露個人數(shù)據(jù)的手段或措施；——購買和使用有偏見、不準(zhǔn)確或不具有代表性的訓(xùn)練數(shù)據(jù)；——算法泄露、被惡意修改；——算法濫用；——缺乏可解釋性，機(jī)器學(xué)習(xí)決策不透明或文檔不足；——缺乏可追溯性；——對技術(shù)部署后的社會影響認(rèn)識不足，如失業(yè)、資源失衡等。（2）治理參與方的多樣性及其角色定位人工智能技術(shù)應(yīng)用倫理治理框架首先識別了倫理治理過程中涉及的不同對象和主體，如人工智能技術(shù)應(yīng)用管理者、人工智能技術(shù)研發(fā)者、人工智能產(chǎn)品與服務(wù)供應(yīng)商、人工智能產(chǎn)品與服務(wù)使用者等。這些主體在人工智能技術(shù)應(yīng)用倫理治理中扮演不同的角色，具有不同的治理目標(biāo)和要求，因此，框架的確定需要充分考慮這些參與方的特點(diǎn)和需求，確保治理策略的全面性和有效性。（3）治理原則的指導(dǎo)作用治理原則為實(shí)施人工智能技術(shù)應(yīng)用倫理治理提供了基本指導(dǎo)，包括以人為本、公平公正、隱私保護(hù)、可控可信、責(zé)任擔(dān)當(dāng)、素養(yǎng)提升等方面，是制定治理策略、設(shè)計(jì)治理機(jī)制、評估治理效果的重要依據(jù)。因此，本標(biāo)準(zhǔn)中人工智能技術(shù)應(yīng)用倫理治理框架的構(gòu)建緊密圍繞以上原則，確保治理活動的合規(guī)性和道德性。（4）治理核心要求的關(guān)鍵性治理核心要求是倫理治理框架的關(guān)鍵組成部分，提出了針對人工智能技術(shù)應(yīng)用的具體倫理要求。這些要求涵蓋了數(shù)據(jù)隱私保護(hù)、算法公正性、系統(tǒng)安全性等方面，是確保人工智能技術(shù)應(yīng)用符合倫理標(biāo)準(zhǔn)的關(guān)鍵所在。因此，人工智能技術(shù)應(yīng)用倫理治理框架的確定重點(diǎn)關(guān)注了這些核心要求，并制定有效的治理措施和保障機(jī)制。3.治理原則的確定治理原則是構(gòu)建倫理治理框架的基本指導(dǎo)，為實(shí)施人工智能技術(shù)應(yīng)用倫理治理提供了方向，確保治理活動能夠遵循一定的倫理規(guī)范和價值標(biāo)準(zhǔn)。同時，治理原則為提出倫理治理的核心要求提供了基石，確?？蚣艿臉?gòu)建既符合倫理要求，又能夠指導(dǎo)具體的治理實(shí)踐。國家《新一代人工智能倫理規(guī)范》提出基本倫理規(guī)范，以“以人為本、公平公正、隱私保護(hù)、可控可信、責(zé)任擔(dān)當(dāng)”為治理原則，《人工智能倫理治理標(biāo)準(zhǔn)化指南》提出了以人為本、可持續(xù)、透明等人工智能倫理準(zhǔn)則，國際標(biāo)準(zhǔn)ISO/IECTR24368:2022《信息技術(shù)人工智能倫理和社會問題概述》闡述了人工智能技術(shù)面臨的倫理和社會問題以及人工智能應(yīng)遵循的關(guān)鍵原則，這些關(guān)鍵準(zhǔn)則為本標(biāo)準(zhǔn)中人工智能技術(shù)應(yīng)用倫理治理原則的提出提供了關(guān)鍵性的參考。4.治理參與方的識別在構(gòu)建人工智能技術(shù)應(yīng)用倫理治理框架時，識別治理參與方是框架確定的基礎(chǔ)。人工智能技術(shù)應(yīng)用倫理治理的過程中，涉及多個對象和主體，包括人工智能技術(shù)應(yīng)用管理者、人工智能技術(shù)研發(fā)者、人工智能產(chǎn)品與服務(wù)供應(yīng)商、人工智能產(chǎn)品與服務(wù)使用者等，每類主體在治理過程中都有各自的治理目標(biāo)和基本治理要求。通過明確這些參與方，可以確保倫理治理框架能夠全面覆蓋各相關(guān)方，保障各方的權(quán)益和利益。國家人工智能標(biāo)準(zhǔn)化總體組2019年發(fā)布的《人工智能倫理風(fēng)險分析報告》將人工智能技術(shù)的倫理風(fēng)險劃分為算法相關(guān)的倫理風(fēng)險、數(shù)據(jù)相關(guān)的倫理風(fēng)險、應(yīng)用相關(guān)的倫理風(fēng)險、長期和間接的倫理風(fēng)險四大類，同時闡述了多種人工智能倫理風(fēng)險產(chǎn)生的原因、造成的影響以及應(yīng)對的方法。人工智能倫理風(fēng)險產(chǎn)生的原因與利益相關(guān)者息息相關(guān)，因此本標(biāo)準(zhǔn)從人工智能利益相關(guān)者出發(fā)，對人工智能技術(shù)研發(fā)者、人工智能系統(tǒng)供應(yīng)商、使用人工智能系統(tǒng)的用戶以及人工智能利益相關(guān)組織等相關(guān)方提出治理要求，并歸納總結(jié)各參與方的共性，提出治理目標(biāo)和基本治理要求。5.治理核心要求的確定治理核心要求是倫理治理框架的關(guān)鍵組成部分。這些要求提出了人工智能技術(shù)應(yīng)用倫理治理的核心要求，涵蓋了數(shù)據(jù)隱私保護(hù)、算法公正性、責(zé)任歸屬等多個方面。通過對這些核心要求的明確和規(guī)定，可以確保人工智能技術(shù)的應(yīng)用能夠在符合倫理要求的前提下進(jìn)行，減少潛在的倫理風(fēng)險和問題。外交部2022年發(fā)布的《中國關(guān)于加強(qiáng)人工智能倫理治理的立場文件》中，結(jié)合在科技倫理領(lǐng)域的政策實(shí)踐，參考國際社會相關(guān)有益成果，從人工智能技術(shù)監(jiān)管、研發(fā)、使用及國際合作等方面提出一系列主張，為本標(biāo)準(zhǔn)中人工智能技術(shù)應(yīng)用倫理治理核心治理要求的提出提供了最基本的遵循和準(zhǔn)則。2021年全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會秘書處發(fā)布《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南—人工智能倫理安全風(fēng)險防范指引》，針對人工智能倫理安全風(fēng)險，給出了研究開發(fā)者、設(shè)計(jì)制造者、部署應(yīng)用者、用戶等的安全風(fēng)險防范措施。2021年國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能倫理規(guī)范》，提出了增進(jìn)人類福祉、促進(jìn)公平公正、保護(hù)隱私安全、確?？煽乜尚拧?qiáng)化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)等6項(xiàng)基本倫理要求。同時，提出人工智能管理、研發(fā)、供應(yīng)、使用等特定活動的18項(xiàng)具體倫理要求。結(jié)合人工智能技術(shù)應(yīng)用倫理治理方面的文獻(xiàn)材料，圍繞人工智能全生命周期，確定人工智能倫理風(fēng)險來源，重點(diǎn)從數(shù)據(jù)、算法模型、系統(tǒng)等維度定義，并給出人工智能倫理風(fēng)險的屬性。這些都為確定治理核心要求提供了重要研究基礎(chǔ)。（1）數(shù)據(jù)維度：明確數(shù)據(jù)在人工智能應(yīng)用的全生命周期中的倫理風(fēng)險及屬性，設(shè)計(jì)開發(fā)階段，明確數(shù)據(jù)來源主體、數(shù)據(jù)規(guī)模和均衡度、數(shù)據(jù)預(yù)處理過程、模型訓(xùn)練過程中的數(shù)據(jù)安全和隱私保護(hù)問題；驗(yàn)證測試階段，需明確模型測試數(shù)據(jù)規(guī)模、數(shù)據(jù)均衡性、測試數(shù)據(jù)與訓(xùn)練數(shù)據(jù)重合度等可能存在的倫理風(fēng)險問題。部署運(yùn)行階段，在部署過程中是否存在數(shù)據(jù)處理、數(shù)據(jù)完整性、數(shù)據(jù)均衡、數(shù)據(jù)處理流程存在倫理風(fēng)險的問題。維護(hù)升級階段，在模型迭代更新過程中是否存在數(shù)據(jù)相關(guān)倫理風(fēng)險問題。數(shù)據(jù)維度可能存在的倫理風(fēng)險屬性包括：隱私風(fēng)險、公平公正性、數(shù)據(jù)安全風(fēng)險、可解釋性和可問責(zé)性等。（2）模型算法維度：明確算法在人工智能應(yīng)用的全生命周期中的倫理風(fēng)險及屬性，在設(shè)計(jì)開發(fā)階段，明確算法是否存在特定人群及性別歧視、對社會惡意設(shè)計(jì)、潛在危害、算法安全可控，明確模型訓(xùn)練過程中是否存在不可解釋性等風(fēng)險問題；在驗(yàn)證測試階段，明確模型評估過程中，是否存在算法偏見、算法安全、版本管理、不可追溯和不可解釋等問題；在部署運(yùn)行階段，明確模型對環(huán)境是否可控、算法安全、算法不可控問題、算法濫用問題、模型版本管理、不可預(yù)測等問題；在升級維護(hù)階段，明確模型更新參與配置、版本管理問題。模型算法維度可能存在的倫理風(fēng)險屬性包括：公平性、可持續(xù)發(fā)展、安全性、透明及可解釋性、監(jiān)督和可控性、可問責(zé)性、隱私保護(hù)等。（3）系統(tǒng)維度：明確人工智能系統(tǒng)的漏洞、設(shè)計(jì)缺陷等引發(fā)的個人信息數(shù)據(jù)泄露、遠(yuǎn)程被動控制等問題，明確人工智能系統(tǒng)可控，確保有權(quán)選擇是否接受人工智能提供的服務(wù)，有權(quán)隨時退出與人工智能的交互，有權(quán)隨時中止人工智能系統(tǒng)的運(yùn)行。系統(tǒng)維度可能存在的倫理風(fēng)險屬性包括：可控性、隱私風(fēng)險、公平公正性、數(shù)據(jù)安全風(fēng)險、可解釋性、可問責(zé)性等。（4）其他維度：明確可能存在的人為因素，不可抗因素等產(chǎn)生的人工智能倫理風(fēng)險。結(jié)合上述文獻(xiàn)及相關(guān)國內(nèi)外標(biāo)準(zhǔn)文獻(xiàn)對人工智能技術(shù)應(yīng)用倫理風(fēng)險的治理要求及措施，基于當(dāng)前人工智能發(fā)展以及道德倫理的治理現(xiàn)狀，本標(biāo)準(zhǔn)從知情同意、隱私保護(hù)、安全可靠性、公平無歧視等方面提出基本治理要求。四、與現(xiàn)行相關(guān)法律、行政法規(guī)和其他標(biāo)準(zhǔn)的關(guān)系本標(biāo)準(zhǔn)在制定過程中，充分考慮了我國現(xiàn)行關(guān)于人工智能技術(shù)應(yīng)用的法律、行政法規(guī)，如在隱私保護(hù)方面，標(biāo)準(zhǔn)中要求人工智能技術(shù)的數(shù)據(jù)收集、存儲、處理、使用等應(yīng)遵循合法、正當(dāng)、必要的原則，確保人工智能技術(shù)的開發(fā)、應(yīng)用和管理活動在法律框架內(nèi)進(jìn)行，依據(jù)了《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個人信息保護(hù)法》等相關(guān)法律中對于數(shù)據(jù)隱私防護(hù)的相關(guān)規(guī)定。本標(biāo)準(zhǔn)中提出的治理原則，如以人為本、公平公正、隱私保護(hù)、可控可信、責(zé)任擔(dān)當(dāng)?shù)?，均與法律精神相一致，體現(xiàn)了對法律法規(guī)的遵循和補(bǔ)充。同時，標(biāo)準(zhǔn)中明確了責(zé)任追究機(jī)制，包括明確責(zé)任主體、建立監(jiān)管機(jī)制和審查機(jī)制，這與《個人信息保護(hù)法》等相關(guān)法律中對違法行為進(jìn)行追責(zé)的要求相銜接。與其他標(biāo)準(zhǔn)的關(guān)系方面，本標(biāo)準(zhǔn)在術(shù)語和定義部分引用了GB/T41867—2022《信息技術(shù)人工智能術(shù)語》等標(biāo)準(zhǔn)，確保術(shù)語的準(zhǔn)確性和一致性，與信息技術(shù)領(lǐng)域的其他標(biāo)準(zhǔn)相