版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡介
可信虛擬人白皮書可信虛擬人白皮書(2023)虛擬現(xiàn)實(shí)與元宇宙產(chǎn)業(yè)聯(lián)盟2023
年
09
月1可信虛擬人白皮書前
言近年來,作為元宇宙中真人沉浸式體驗(yàn)的重要載體和
AIGC
的關(guān)鍵要素,虛擬人技術(shù)產(chǎn)業(yè)乘勢而起,在元宇宙和
AIGC
雙輪產(chǎn)業(yè)進(jìn)步下迎來了新一輪發(fā)展熱潮,在影視、傳媒、金融、營銷等行業(yè)呈現(xiàn)出強(qiáng)勁的增長態(tài)勢。但是,虛擬人產(chǎn)業(yè)在快速發(fā)展的同時(shí),也迎來了一系列風(fēng)險(xiǎn)隱患、倫理思考和法律挑戰(zhàn),如近日通過虛擬人軟件“AI
換臉”“AI
換聲”以替換、偽造他人聲音形象,形成高度寫實(shí)逼真且肉眼難以分辨的音視頻影像,從而開展虛假信息傳播、造謠生事,甚至誹謗和詐騙等不法活動的案例頻繁出現(xiàn),在隱私保護(hù)、內(nèi)容合規(guī)、問責(zé)追溯和倫理等方面帶來諸多風(fēng)險(xiǎn)和挑戰(zhàn)。當(dāng)前國內(nèi)外針對可信虛擬人的研究和實(shí)踐還尚處于初期階段,在企業(yè)側(cè)、行業(yè)側(cè)和監(jiān)管側(cè)尚未形成一套完整的指導(dǎo)方針和行動方案,虛擬人的可信建設(shè)刻不容緩。什么是可信虛擬人?可信虛擬人涉及虛擬人全生命周期與可信要素的結(jié)合,在虛擬人技術(shù)研發(fā)、生成服務(wù)、運(yùn)營使用等各個(gè)環(huán)節(jié)和可信手段進(jìn)行緊密融合,即虛擬人技術(shù)研發(fā)可信建設(shè)、生成平臺可信建設(shè)、運(yùn)營使用可信建設(shè)等,使其符合標(biāo)準(zhǔn)規(guī)范、倫理道德等方面的可信要求。本白皮書圍繞“虛擬人全生命周期的可信建設(shè)”這一關(guān)鍵問題,結(jié)合可信手段將可信要素與虛擬人全生命周期進(jìn)行深度融合,構(gòu)建可信虛擬人框架體系,總結(jié)提出七大可信目標(biāo),即:身份及權(quán)利保障、隱私保護(hù)與增強(qiáng)、生成內(nèi)容安全、可靠性可控性、可理解可解釋、無偏見多樣化、可問責(zé)可追溯。探討可信虛擬人發(fā)展路徑和具體能力要求,從功能完備度、系統(tǒng)可信能力、產(chǎn)業(yè)化能力三大維度構(gòu)建可信虛擬人分級評估體系。實(shí)現(xiàn)手段上,白皮書從可信技術(shù)和可信管理兩方面,針對技術(shù)研發(fā)階段、生成服務(wù)階段、運(yùn)營使用階段的不同主體的可信能力建設(shè)提出建議,推動行業(yè)合規(guī)化發(fā)展。未來,以可信原則指導(dǎo)發(fā)展成為虛擬人產(chǎn)業(yè)安全、可控、高質(zhì)量發(fā)展的必經(jīng)之路。業(yè)界亟須將虛擬人的高速發(fā)展與內(nèi)容安全、隱私保護(hù)、數(shù)據(jù)安全、算法合規(guī)、系統(tǒng)可控等諸多因素相互協(xié)同,通過虛擬人的可信建設(shè)實(shí)現(xiàn)對技術(shù)支持方和服務(wù)提供者的道德約束,指導(dǎo)其所提供產(chǎn)品滿足法規(guī)要求和倫理要求。未來,更需匯聚行業(yè)普遍共識,探索建設(shè)新模式;推動技術(shù)創(chuàng)新,深化技術(shù)融合;加強(qiáng)流程管理,完善可信生態(tài);構(gòu)建標(biāo)準(zhǔn)體系,加快合規(guī)發(fā)展;完善政策體系,推動倫理治理;規(guī)范場景應(yīng)用,打造示范項(xiàng)目,從而促進(jìn)社會對虛擬人的認(rèn)知、信任與支持??尚盘摂M人白皮書本文件由
XRMA
聯(lián)盟虛擬化身特設(shè)組制訂,并負(fù)責(zé)解釋。本文件發(fā)布日期:2023
年
9
月
18
日。本文件由虛擬現(xiàn)實(shí)與元宇宙產(chǎn)業(yè)聯(lián)盟提出并歸口。本文件歸屬虛擬現(xiàn)實(shí)與元宇宙產(chǎn)業(yè)聯(lián)盟。任何單位與個(gè)人未經(jīng)聯(lián)盟書面允許,不得以任何形式轉(zhuǎn)售、復(fù)制、修改、抄襲、傳播全部或部分內(nèi)容。本文件牽頭單位:
中國信息通信研究院本文件參編單位:上海商湯智能科技有限公司、中國工商銀行股份有限公司、廈門黑鏡科技有限公司、東北大學(xué)、世輝律師事務(wù)所、訊飛幻境(北京)科技有限公司、北方工業(yè)大學(xué)、中國移動通信研究院、維沃移動通信有限公司、拓元(廣州)智慧科技有限公司、北京度量科技有限公司、無錫市城市運(yùn)行管理中心、二六三網(wǎng)絡(luò)通信股份有限公司、北京世紀(jì)好未來教育科技有限公司、綠洲創(chuàng)元數(shù)字科技(漳州)有限公司、北京特美通傳媒科技有限公司、寰宇信任(北京)技術(shù)有限公司、福建超數(shù)科技有限公司、北京美舫科技有限公司本文件參編人:許聞苑、楊燕、高天寒、施佳子、肖揚(yáng)、張庭翔、吳松城、楊建順、肖悅、米慶巍、張晉、李家豪、林思宇、王英博、胡逸、朱伯虎、毛儲懿、鄭嘉煌、石慧、雷景伊、周博、田密、劉子韜、任亞軍、王婷、吳文熙、郭樂、宿盛禹、宋園藝、李文凱、艾芳、郭悅、羅振華、孫喜慶、王輝柏、趙鵬、鄧遠(yuǎn)達(dá)、李慧、夏文燕、劉冉、王亞忠、郭飛、劉磊、鄭紫陽、徐東升、劉上免責(zé)說明:本文件免費(fèi)使用,僅供參考,不對使用本文件的產(chǎn)品負(fù)責(zé)??尚盘摂M人白皮書目錄1.
可信虛擬人發(fā)展背景.......................................................................................................................................................41.1
元宇宙和
AIGC
浪潮下,虛擬人產(chǎn)業(yè)迎來發(fā)展熱潮.....................................................................................41.2
市場機(jī)遇下面臨倫理及法律等多重風(fēng)險(xiǎn)...........................................................................................................41.3
全球范圍虛擬人的可信實(shí)踐...............................................................................................................................
102.
可信虛擬人體系構(gòu)建.....................................................................................................................................................132.1
什么是可信虛擬人..................................................................................................................................................132.2
虛擬人可信建設(shè)的必要性....................................................................................................................................132.3
可信虛擬人體系構(gòu)建.............................................................................................................................................
143.
可信目標(biāo)、可信手段、分級原則..............................................................................................................................173.1
虛擬人組織可信建設(shè)目標(biāo)....................................................................................................................................173.2
虛擬人組織可信能力建設(shè)手段...........................................................................................................................213.3
虛擬人組織可信能力建設(shè)的分級原則.............................................................................................................284.
可信虛擬人能力建設(shè)建議...........................................................................................................................................
314.1
技術(shù)研發(fā)階段建設(shè)建議.........................................................................................................................................314.2
生成服務(wù)階段建設(shè)建議.........................................................................................................................................374.3
運(yùn)營使用階段建設(shè)建議.........................................................................................................................................434.4
全生命周期建設(shè)建議.............................................................................................................................................
455.
可信虛擬人展望和建議................................................................................................................................................49參考文獻(xiàn)...................................................................................................................................................................................1可信虛擬人白皮書1.
可信虛擬人發(fā)展背景1.1
元宇宙和
AIGC
浪潮下,虛擬人產(chǎn)業(yè)迎來發(fā)展熱潮1.虛擬人的定義和分類業(yè)界虛擬人概念繁雜,當(dāng)前對虛擬人的具體定義尚未有統(tǒng)一的論述,一般而言,虛擬人指通過計(jì)算機(jī)圖形學(xué)、計(jì)算機(jī)視覺和人工智能等技術(shù),進(jìn)行形象、聲音、動作等模型訓(xùn)練后,借助真人或計(jì)算驅(qū)動、在多模態(tài)輸出設(shè)備呈現(xiàn)的與人類形象接近的虛擬人物。根據(jù)技術(shù)維度、身份維度、視覺維度、外形風(fēng)格等不同角度,虛擬人有多種分類方式。其中,根據(jù)與現(xiàn)實(shí)自然人是否有映射的身份維度分類方式劃分,可將虛擬人分為真人映射型和非真人映射型兩類。基于真人自身映射的虛擬化身為本白皮書重點(diǎn)聚焦的研究對象。2.
虛擬人產(chǎn)業(yè)高速發(fā)展作為元宇宙中真人沉浸式體驗(yàn)的重要載體和
AIGC
的關(guān)鍵要素,伴隨元宇宙和
AIGC
雙輪產(chǎn)業(yè)進(jìn)步,虛擬人迎來新一輪發(fā)展熱潮,在服務(wù)、營銷等行業(yè)迎來爆發(fā)式增長。根據(jù)
IDC
數(shù)據(jù)顯示,2026
年中國
AI
數(shù)字人市場規(guī)模將達(dá)到
102.4
億元。據(jù)天眼查數(shù)據(jù)顯示,截至
2023
年
7
月,現(xiàn)存“數(shù)字人”相關(guān)企業(yè)
68.7
萬余家,其中
2022
年新增注冊企業(yè)
26.5
萬余家,新增相關(guān)企業(yè)注冊增速達(dá)
84.2%。當(dāng)前,虛擬人產(chǎn)業(yè)不斷升級,商業(yè)模式多元化發(fā)展,廣泛應(yīng)用于金融、傳媒、營銷、文旅等各行各業(yè),呈現(xiàn)出日新月異的變化。伴隨技術(shù)革新與進(jìn)步,人工智能的發(fā)展將促進(jìn)虛擬人的生成效率、理解能力與情感互動能力迅速進(jìn)步;空間計(jì)算、動作捕捉、實(shí)時(shí)云渲染、空間音視頻等技術(shù)的深度融合將促進(jìn)虛擬人與場景應(yīng)用深度鏈接,為產(chǎn)業(yè)降本增效的同時(shí)持續(xù)提升用戶的臨場感受;虛擬人的角色定位和商業(yè)模式將根據(jù)場景需求與客戶類型呈現(xiàn)出不同的價(jià)值表現(xiàn)。1.2
市場機(jī)遇下面臨倫理及法律等多重風(fēng)險(xiǎn)虛擬人產(chǎn)業(yè)規(guī)模和應(yīng)用范圍目前處于高速發(fā)展階段,在搶抓市場機(jī)遇的同時(shí),虛擬人產(chǎn)業(yè)也面臨著一系列倫理、社會和法律問題,真假難辨的虛擬人在隱私保護(hù)、內(nèi)容合規(guī)、問責(zé)追溯和倫理等方面帶來諸多風(fēng)險(xiǎn)和挑戰(zhàn)。本白皮書將從科技與法律、道德、倫理等方面的動態(tài)融合視角對虛擬人產(chǎn)業(yè)進(jìn)行風(fēng)險(xiǎn)審視與探討。可信虛擬人白皮書1.隱私安全所面臨的風(fēng)險(xiǎn)虛擬人生成、運(yùn)營、使用過程中面臨非法獲取與使用個(gè)人信息的風(fēng)險(xiǎn)。虛擬人涉及的隱私安全問題一直以來都被廣泛關(guān)注,其在收集訓(xùn)練數(shù)據(jù)及后續(xù)輸出信息等諸多環(huán)節(jié)(包括虛擬人的收集訓(xùn)練階段或在對外提供服務(wù)、輸出信息等過程)是否符合個(gè)人信息保護(hù)、是否符合隱私安全政策等要求,是目前實(shí)操中被關(guān)注的重點(diǎn)問題。如在虛擬人生成、運(yùn)營、使用等相關(guān)過程中存在任何非法獲取、使用個(gè)人信息(包括但不限于姓名、證件號碼、生物識別信息等)的,將可能侵犯公民個(gè)人信息,違反隱私安全、數(shù)據(jù)合規(guī)要求,并因此承擔(dān)相應(yīng)法律責(zé)任。在部分國外案例中,未經(jīng)同意采集、使用他人的生物識別數(shù)據(jù)的行為被判定構(gòu)成對個(gè)人隱私安全的侵犯,該侵權(quán)行為常被訴諸集體訴訟。專欄
1:國外案例案例
1:Facebook、Google、Microsoft、Amazon
違反
BIPA
相關(guān)案件案件詳情:Facebook、Google、Microsoft、Amazon
違反伊利諾伊州《生物識別信息隱私法》(“BIPA”)相關(guān)案件是指
2020
年在美國伊利諾伊州發(fā)生的集體訴訟案件,強(qiáng)調(diào)企業(yè)在使用人工智能技術(shù)處理用戶數(shù)據(jù)時(shí),應(yīng)尊重用戶肖像權(quán)、個(gè)人隱私并遵守相關(guān)法律法規(guī)。相關(guān)案件中,F(xiàn)acebook
因未經(jīng)用戶同意收集和存儲面部識別數(shù)據(jù)并使用進(jìn)行算法訓(xùn)練,最終同意支付
6.5
億美元的賠償。Google
因在未經(jīng)適當(dāng)通知和同意的情況下收集和存儲個(gè)人生物識別數(shù)據(jù)而支付了
1
億美元進(jìn)行和解。Microsoft
則因在未經(jīng)授權(quán)的情況下使用用戶上傳的照片來訓(xùn)練其面部識別技術(shù)被認(rèn)定違反了
BIPA,法院支持了原告的不當(dāng)?shù)美麚p害賠償請求。而
Amazon
則被指控通過其照片識別服務(wù)收集生物特征數(shù)據(jù),但未向用戶提供相關(guān)信息,并且法院支持了原告基于
BIPA
的不當(dāng)?shù)美麚p害賠償請求。
互聯(lián)網(wǎng)巨頭在使用人工智能技術(shù)處理用戶數(shù)據(jù)時(shí),觸犯
BIPA
引發(fā)集體訴訟,需承擔(dān)損害賠償責(zé)任。案例
2:Replika
被意大利政府機(jī)構(gòu)宣布限制使用2023
年
2
月,意大利數(shù)據(jù)保護(hù)機(jī)構(gòu)發(fā)布了一項(xiàng)緊急命令,禁止由美國公司
Luka
Inc.開發(fā)的人工智能聊天虛擬人
Replika
處理意大利用戶的個(gè)人數(shù)據(jù)。原因是
Replika
違反了歐盟通用數(shù)據(jù)保護(hù)條例中規(guī)定的透明度原則和義務(wù),在收集和使用個(gè)人信息時(shí),沒有征得用戶的同意,也沒有設(shè)置相關(guān)隱私政策和安全措施對用戶數(shù)據(jù)進(jìn)行保護(hù)。
聊天虛擬人收集和使用個(gè)人信息沒有有效的法律基礎(chǔ)和適當(dāng)?shù)碾[私政策,未征得用戶同意且未設(shè)置安全措施保護(hù)??尚盘摂M人白皮書案例
3:凱蘭德·楊訴
NeoCortext
公司案2023
年
4
月
3
日,美國演員凱蘭德·楊(Kyland
Young)在美國加利福尼亞中區(qū)聯(lián)邦地區(qū)法院對NeoCortext
公司提起訴訟,指控該公司的換臉應(yīng)用
Reface
侵犯了加利福尼亞州的個(gè)人形象權(quán)。原告凱蘭德·楊表示,NeoCortext
公司在未經(jīng)其同意的情況下擅自使用其肖像、圖像、姓名和聲音進(jìn)行商業(yè)推廣。他希望通過訴訟禁止
NeoCortext
公司將他的“姓名、聲音、簽名、照片或肖像用于商業(yè)目的”,并尋求金錢賠償,同時(shí)要求認(rèn)證擬議的集體訴訟。目前,此案仍在審理中。
“換臉”類應(yīng)用程序未經(jīng)允許擅自使用他人信息進(jìn)行商業(yè)行為涉嫌侵權(quán)。國內(nèi)虛擬人相關(guān)廠商存在用戶隱私協(xié)議不規(guī)范,個(gè)人隱私、數(shù)據(jù)易被泄露和濫用問題。專欄
2:國內(nèi)案例案例
1:“AI
換臉”App
侵權(quán)案2022
年
3
月,上海某公司的“AI
換臉”APP
讓用戶支付會員費(fèi)使用古風(fēng)漢服模特樓某提供的“換臉”視頻模板。用戶只需上傳個(gè)人照片,將視頻模板中的人臉替換為自己的人臉,即可生成換臉后的古風(fēng)造型視頻。除了五官發(fā)生實(shí)質(zhì)性變化外,其余內(nèi)容與原視頻保持一致。樓某認(rèn)為該公司侵犯了她的肖像權(quán),將其訴諸法院。2022
年
12
月,法院判決支持樓某的訴訟請求,要求該公司停止侵權(quán)、賠禮道歉并賠償損失。
AI
換臉技術(shù)商用可能構(gòu)成對個(gè)人隱私權(quán)的侵害。案例
2:“AI
陪伴”軟件侵害人格權(quán)案2023
年
4
月,公眾人物何某將某款智能手機(jī)記賬軟件告上法庭。在該軟件中,用戶可以自行創(chuàng)設(shè)或添加“AI
陪伴者”,設(shè)定“AI
陪伴者”的名稱、頭像、與用戶的關(guān)系、相互稱謂等。何某認(rèn)為,在其本人未同意的情況下,該軟件中出現(xiàn)了以其姓名、肖像為標(biāo)識的“AI
陪伴者”,同時(shí),該軟件通過算法應(yīng)用,將該角色開放給眾多用戶,允許用戶上傳大量關(guān)于其本人的“表情包”。法院對該案件進(jìn)行受理,認(rèn)為被告軟件未經(jīng)同意使用原告姓名、肖像,設(shè)定涉及原告人格自由和人格尊嚴(yán)的系統(tǒng)功能,構(gòu)成對原告姓名權(quán)、肖像權(quán)、一般人格權(quán)的侵害,遂判決被告向原告賠禮道歉、賠償損失。
虛擬人相關(guān)軟件未經(jīng)允許使用他人姓名和肖像生成“AI
陪伴者”造成侵權(quán)。2.內(nèi)容合規(guī)所面臨的風(fēng)險(xiǎn)虛擬人的內(nèi)容輸入與模型訓(xùn)練階段指工具開發(fā)者通過輸入大量的文字、圖像、視頻、聲音等(“訓(xùn)練素材”)對其模型進(jìn)行訓(xùn)練,內(nèi)容生成階段系基于其上述模型的訓(xùn)練并根據(jù)使用者需求生成相應(yīng)的創(chuàng)作內(nèi)容??尚盘摂M人白皮書在虛擬人的內(nèi)容輸入與模型訓(xùn)練階段,存在非法使用訓(xùn)練素材及侵犯知識產(chǎn)權(quán)的風(fēng)險(xiǎn)。開發(fā)者需輸入大量訓(xùn)練素材以供模型訓(xùn)練,訓(xùn)練素材的主要來源包括從資源方處批量購買、批量爬取互聯(lián)網(wǎng)資源、通過開源網(wǎng)站獲得資源等。在獲取并使用相關(guān)訓(xùn)練素材時(shí),開發(fā)者面臨的內(nèi)容合規(guī)問題,包括需要提前取得相關(guān)權(quán)利人的書面同意后方可將相關(guān)訓(xùn)練素材進(jìn)行下載、存儲、使用等;未經(jīng)相關(guān)權(quán)利人事先同意,利用虛擬人復(fù)制、發(fā)行、通過信息網(wǎng)絡(luò)向公眾傳播相關(guān)文字、圖像、音樂、視頻等他人享有知識產(chǎn)權(quán)的內(nèi)容的,將很可能構(gòu)成侵犯他人知識產(chǎn)權(quán)。在虛擬人的內(nèi)容輸出階段,存在侵犯個(gè)人人格權(quán)益、侵犯知識產(chǎn)權(quán)、生成虛假和不良信息、損害公共利益的問題。虛擬人的輸出內(nèi)容亦應(yīng)符合合規(guī)要求,其合規(guī)性的判斷標(biāo)準(zhǔn)應(yīng)與真實(shí)世界主體輸出內(nèi)容合規(guī)性的判斷標(biāo)準(zhǔn)原則保持一致,即從考慮其輸出內(nèi)容的合法合規(guī)性角度約束其不得侵犯其他主體的合法權(quán)益,同時(shí)也從其內(nèi)容本身是否由創(chuàng)作者獨(dú)立完成而并非抄襲的角度保護(hù)創(chuàng)作者的“智力成果”。首先,使用者在虛擬人的內(nèi)容生成過程中可能涉及諸如恐怖主義、危害國家安全、宣揚(yáng)民族主義、種族歧視、暴力、色情、違反公序良俗等內(nèi)容。這些內(nèi)容不僅損害了社會公共利益,還有可能導(dǎo)致嚴(yán)重的法律后果,給個(gè)人、企業(yè)和國家?guī)碡?fù)面影響,并有可能產(chǎn)生更加自動化和復(fù)雜的犯罪行為的可能性。其次,虛擬人在內(nèi)容創(chuàng)作過程中不得侵犯他人的人格權(quán)益,如姓名權(quán)、肖像權(quán)、名譽(yù)權(quán)等,否則將嚴(yán)重?fù)p害當(dāng)事人的人格權(quán)益,情節(jié)嚴(yán)重的有可能進(jìn)一步構(gòu)成侮辱、誹謗。再次,
虛擬人的相關(guān)內(nèi)容不得侵犯他人的經(jīng)濟(jì)性權(quán)益,如知識產(chǎn)權(quán)等。在數(shù)字時(shí)代,虛擬人有可能通過復(fù)制、傳播侵犯他人的著作權(quán)、商標(biāo)權(quán)、專利權(quán)等知識產(chǎn)權(quán),這不僅僅是對原創(chuàng)者權(quán)益的侵害,也可能對整個(gè)知識產(chǎn)權(quán)保護(hù)體系造成破壞。最后,虛擬人在內(nèi)容創(chuàng)作時(shí),有可能產(chǎn)生虛假、不真實(shí)、不準(zhǔn)確、不客觀的信息。這類內(nèi)容往往具有誤導(dǎo)性,容易引發(fā)社會恐慌,甚至引起錯(cuò)誤決策。與此同時(shí),這些信息可能會在互聯(lián)網(wǎng)上快速傳播,加劇負(fù)面效應(yīng)。國外虛擬人內(nèi)容合規(guī)方面的問題,主要在于以下幾方面:基于使用數(shù)據(jù)對人工智能的不當(dāng)訓(xùn)練、相關(guān)數(shù)據(jù)本身可能涉及對知識產(chǎn)權(quán)的侵犯,訓(xùn)練行為引發(fā)
AI
傳播違規(guī)內(nèi)容或虛假信息,以及利用
AI
技術(shù)實(shí)施詐騙行為等。專欄
3:國外案例案例
1:“Luda
Lee”語言歧視案韓國的聊天
AI“Luda
Lee”是一款可以模擬戀愛的人工智能型虛擬偶像,可根據(jù)用戶的問題做出模擬真實(shí)人類的反應(yīng)。2022
年,部分用戶在和其聊天的過程中發(fā)現(xiàn),在面對“殘疾人”“同性戀”“孕婦”等話題的討論中,Luda
Lee
表現(xiàn)出歧視,因此遭到了部分網(wǎng)友的抵制??尚盘摂M人白皮書
違規(guī)言論生成與傳播:AI
型虛擬人在內(nèi)容輸出階段可能出現(xiàn)生成群體歧視言論的風(fēng)險(xiǎn)。案例
2:桐生可可直播涉敏感話題事件日本虛擬主播
Hololive
進(jìn)駐中國后,2020
年
9
月,其成員赤井心和桐生可可在直播中涉及敏感地域政治話題,其直播間遭到封禁。
虛擬人直播時(shí)可能涉及不當(dāng)言論、敏感話題或引發(fā)爭議。案例
3:AI
換臉技術(shù)生成特朗普假圖片2023
年
6
月,美國總統(tǒng)競選人德桑蒂斯公關(guān)團(tuán)隊(duì)發(fā)布了一段視頻,特意選用的“特朗普親吻福奇”以及兩人擁抱的圖片,抨擊競選對手、前總統(tǒng)特朗普在任時(shí)抗疫不力,后被證實(shí)該照片是
Deep
fake
偽造。
AI
換臉造成公眾人物信息濫用,傳播不實(shí)信息,引發(fā)社會恐慌、影響國際關(guān)系等。國內(nèi)虛擬人內(nèi)容合規(guī)相關(guān)的違法行為主要在于:假扮熟人進(jìn)行詐騙、假扮公眾人物進(jìn)行商業(yè)化運(yùn)作、利用AI
技術(shù)傳播虛假信息、侵害虛擬人相關(guān)知識產(chǎn)權(quán),以及傳播低俗、惡意的行為及言論等。專欄
4:國內(nèi)案例案例
1:AI
孫燕姿事件2023
年以來,B
站中的多位
UP
主通過
so-vits-svc(音色轉(zhuǎn)換)的開源項(xiàng)目訓(xùn)練發(fā)布帶有孫燕姿聲音的歌曲,“AI
孫燕姿”在
B
站走紅,“她”翻唱的《半島鐵盒》《發(fā)如雪》等歌曲播放量突破百萬。盡管孫燕姿本人暫未對“AI
孫燕姿”進(jìn)行公開回應(yīng)或提起訴訟,但這類創(chuàng)作仍涉及對孫燕姿姓名、聲紋權(quán)利、對周杰倫詞曲的著作權(quán)的侵害風(fēng)險(xiǎn)。
侵犯人格權(quán)與知識產(chǎn)權(quán):虛擬人內(nèi)容生成階段可能涉及未經(jīng)同意而通過
AI
技術(shù)將公眾人物的姓名、肖像、聲紋進(jìn)行商業(yè)化使用的行為。案例
2:“染染_Ranoca”抄襲事件2022
年
2
月,B
站
UP
主
Lemon
夾子發(fā)文稱
B
站電競旗下虛擬偶像“染染_Ranoca”的面部形象和其創(chuàng)作的虛擬主播“格蕾緹婭
Gretia”高度相似。2022
年
2
月
23
日,嗶哩嗶哩電競官方發(fā)聲,確認(rèn)二者的確高度相似,稱對相關(guān)運(yùn)營人員和
VUP
藝人經(jīng)紀(jì)部負(fù)責(zé)人都進(jìn)行了相應(yīng)的處罰,決定暫停使用該立繪形象。
知識產(chǎn)權(quán)保護(hù)與侵權(quán):虛擬人形象面臨被抄襲等知識產(chǎn)權(quán)保護(hù)問題,虛擬人形象制作可能涉及對其他虛擬人形象的抄襲冒用等問題。案例
3:柏凜
Porin
虛構(gòu)拐賣事件2022
年
5
月
21
日,B
站一位名為“柏凜
Porin”的虛擬主播,發(fā)布了一則名為《關(guān)于我消失了半年其實(shí)是被拐賣了這件事》的視頻。視頻中,該主播提到:“自己消失半年,是因?yàn)樽约罕还召u了,后來是被警察解可信虛擬人白皮書救?!苯?jīng)警方查證,該視頻內(nèi)容不屬實(shí)。2022
年
6
月
1
日,B
站宣布該賬號永久封禁。虛擬人生成內(nèi)容環(huán)節(jié)可能涉及發(fā)布虛假信息、不實(shí)信息等問題。案例
4:“AI
換臉”新騙局
2023
年
4
月,詐騙分子佯裝為福建郭某的好友,通過
AI
換臉和擬聲技術(shù)生成和真人極為相似的虛擬人,與郭某進(jìn)行視頻聊天并借款
430
萬元,郭某未經(jīng)核實(shí),轉(zhuǎn)賬受騙。
不法分子利用個(gè)人生物數(shù)據(jù)生成真假難辨的虛擬人實(shí)施詐騙。3.難追溯問責(zé)當(dāng)前,由于技術(shù)原因、法律認(rèn)定標(biāo)準(zhǔn)等因素,追溯問責(zé)虛擬人背后的責(zé)任主體存在一定的難度。首先,難以通過虛擬人文件追溯生產(chǎn)平臺和開發(fā)創(chuàng)作者。當(dāng)前,虛擬人文件多以
3D
格式、圖片、視頻等形式存在,大多數(shù)生成平臺并未對虛擬人文件進(jìn)行可追溯標(biāo)記,僅通過文件本身難以追溯到內(nèi)容生產(chǎn)平臺和虛擬人的創(chuàng)作主體。第二,內(nèi)容生產(chǎn)涉及多個(gè)“環(huán)節(jié)”導(dǎo)致責(zé)任難以界定。虛擬人的生產(chǎn)過程涉及人工智能、圖形渲染、音視頻合成等多種技術(shù)的結(jié)合,其創(chuàng)造和運(yùn)營過程涉及多方參與。在生成和運(yùn)營虛擬人的過程中,不同團(tuán)隊(duì)或個(gè)人可能分別負(fù)責(zé)設(shè)計(jì)、制作和推廣等環(huán)節(jié),當(dāng)發(fā)生侵權(quán)事件時(shí)難以區(qū)分具體責(zé)任主體。第三,因技術(shù)開源、主體隱蔽導(dǎo)致難以追責(zé)。一方面,使用
AI
換臉的深度偽造部分技術(shù)源于開源社區(qū)
,難以確定具體的責(zé)任主體;另一方面,生成式
AI
技術(shù)因其訓(xùn)練過程不公開(即“黑匣子模式”)、內(nèi)容輸出作品具有隨機(jī)性、使用開源軟件等問題導(dǎo)致更加難以明確追責(zé)。4.倫理風(fēng)險(xiǎn)虛擬人能夠模擬人類的思維、情感和行為,并且具有一定的認(rèn)知能力和交互能力,其擬人化可能帶來一些倫理風(fēng)險(xiǎn),包括但不限于:虛擬人基于其訓(xùn)練素材來源,可能形成固有的價(jià)值觀、價(jià)值取向和價(jià)值判斷,如基于數(shù)據(jù)驅(qū)動的某虛擬人偶在訓(xùn)練后表現(xiàn)出對“殘疾人”“同性戀”“孕婦”等群體的歧視;虛擬人的存在可能會導(dǎo)致人類之間的關(guān)系變得更加冷漠和疏離,可能導(dǎo)致社交能力下降和人際關(guān)系的破裂,中國青年報(bào)社社會調(diào)查中心聯(lián)合問卷網(wǎng)對
2001
名
18-35
歲的受訪青年進(jìn)行的一項(xiàng)調(diào)查顯示,71.3%的受訪青年認(rèn)為太多虛擬社交讓人更孤獨(dú);此外,虛擬人的行為和決策可能會涉及自然人自身權(quán)利享有及責(zé)任承擔(dān),自然人與虛擬人之間的界限日漸模糊,影響自然人的精神狀態(tài)、思考方式和行為習(xí)慣等問題??尚盘摂M人白皮書1.3
全球范圍虛擬人的可信實(shí)踐1.虛擬人可信要求成為國內(nèi)外政策布局方向以歐盟和美國為代表的發(fā)達(dá)國家積極布局虛擬人領(lǐng)域政策法規(guī),主要聚焦于生物識別、深度偽造換臉等方面的規(guī)定。2023
年
5
月
11
日,歐洲議會通過關(guān)于《人工智能法》的談判授權(quán)草案,同意全面禁止在公共場所使用遠(yuǎn)程生物識別技術(shù)(即人工智能輔助技術(shù),如面部識別,從照片或錄像中識別個(gè)人)。2019
年
6
月,美國國會提出《深度偽造責(zé)任法案》(Deep
Fakes
Accountability
Act),旨在通過限制深度偽造合成技術(shù),打擊虛假信息的傳播。深度偽造制作者在其制作的深度偽造換臉記錄中,應(yīng)當(dāng)包含一個(gè)嵌入的數(shù)字水印,該水印清楚地說明該記錄中改變的音頻或視頻元素,表明該段視頻屬于深度偽造合成視頻。違反披露義務(wù)會被處以高額罰款或者監(jiān)禁。德國、新加坡、英國、韓國等國家,則選擇將虛擬人“深度合成”的相關(guān)犯罪納入刑法范疇,但尚未出臺國家層面的專門立法。2.我國多項(xiàng)政策對虛擬人深度合成、內(nèi)容審核、身份授權(quán)等方面做出了初步規(guī)定和要求2022
年
11
月,國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部和公安部發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,對深度合成技術(shù)及其應(yīng)用可信方面做出了初步的規(guī)定。管理規(guī)定中提出了深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。深度合成服務(wù)提供者提供合成人聲、仿聲和人臉生成、人臉替換、人臉操控、姿態(tài)操控等顯著改變個(gè)人身份特征的編輯服務(wù)時(shí),應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識。規(guī)定還要求深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識別信息編輯功能的,應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人,并取得其單獨(dú)同意。2023
年
7
月
13
日,國家互聯(lián)網(wǎng)信息辦公室發(fā)布《生成式人工智能服務(wù)管理暫行辦法》,明確規(guī)定提供和使用生成式人工智能服務(wù)應(yīng)尊重知識產(chǎn)權(quán),采取有效措施防止產(chǎn)生民族、信仰、國別等歧視,不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益,對使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護(hù)義務(wù)等。3.虛擬人相關(guān)可信規(guī)范和標(biāo)準(zhǔn)國外虛擬人相關(guān)指南準(zhǔn)則集中于保護(hù)用戶隱私、促進(jìn)透明度和確保人工智能的道德使用
。2021
年
11
月24
日,在聯(lián)合國教科文組織大會第
41
屆會議上,發(fā)布《人工智能倫理問題建議書》,提出了應(yīng)確保用戶能夠輕松識別與自己互動的對象是生物還是模仿人類或動物特征的人工智能系統(tǒng),并且能夠有效拒絕此類互動和要求人工介入。歐盟于
2018
年
5
月通過了《通用數(shù)據(jù)保護(hù)條例》(GDPR),該條例要求對涉及個(gè)人數(shù)據(jù)處理的自動化決策提供可解釋性,確保人們能理解和質(zhì)疑決策依據(jù);并于
2019
年
4
月
8
日公開發(fā)布了《可信賴人工智能倫理準(zhǔn)則》(Ethics
Guidelines
for
Trustworthy
AI,亦稱
"《歐盟準(zhǔn)則》"),指出人工智能的發(fā)展方向應(yīng)為"可信賴
AI",并據(jù)此確立了人工智能發(fā)展的三項(xiàng)基本要素。2023
年
1
月
26
日,美國國家標(biāo)準(zhǔn)與技可信虛擬人白皮書術(shù)研究院發(fā)布
NIST
AI
100-1《AI
風(fēng)險(xiǎn)管理框架
1.0》,其目標(biāo)在于為設(shè)計(jì)、開發(fā)、部署、應(yīng)用
AI
系統(tǒng)的組織提供參考,以使之能夠在控制多樣性風(fēng)險(xiǎn)的同時(shí),促進(jìn)可信賴、負(fù)責(zé)任
AI
系統(tǒng)的開發(fā)與應(yīng)用??蚣芴岢隽丝尚?/p>
AI
系統(tǒng)的特性以及實(shí)現(xiàn)這些特性的指南,包括:有效和可靠性、安全(safe)、安全(secure)和彈性、可追責(zé)和透明性、可說明和可解釋性、隱私增強(qiáng)性、公平性。2022
年
8
月,韓國科學(xué)技術(shù)信息通信部發(fā)布了一份針對元宇宙應(yīng)用參與者(包括用戶和開發(fā)者)的核心道德原則指南,標(biāo)識其元宇宙指南基于三個(gè)核心價(jià)值,包括真實(shí)的身份、安全的體驗(yàn)和可持續(xù)的繁榮。該準(zhǔn)則確定了支持其核心價(jià)值的八項(xiàng)原則:真實(shí)性、自主性、互惠性、隱私性、公平性、數(shù)據(jù)保護(hù)、包容性和對未來的責(zé)任。另外,國際工程師學(xué)會通過了
IEEE
P7003
標(biāo)準(zhǔn),其目標(biāo)是通過明確道德原則和技術(shù)指南,為虛擬人設(shè)計(jì)和應(yīng)用提供倫理指導(dǎo),旨在解決虛擬人技術(shù)的透明度、隱私、信任、可替代性等道德和社會問題。國內(nèi)政府和企業(yè)相繼發(fā)布虛擬人相關(guān)指南準(zhǔn)則,集中于保護(hù)用戶隱私、透明度和可理解性、道德使用和公平性、多樣性和包容性。2021
年
9
月,國家新一代人工智能治理專業(yè)委員會發(fā)布了《新一代人工智能倫理規(guī)范》,提出人工智能各類活動應(yīng)保障個(gè)人隱私與數(shù)據(jù)安全、堅(jiān)持人類是最終責(zé)任主體、避免偏見歧視、加強(qiáng)倫理審查等要求。2023
年
5
月,字節(jié)跳動公司旗下的抖音平臺發(fā)布了《關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議》,
提出虛擬人需在平臺進(jìn)行注冊,虛擬人技術(shù)使用者需實(shí)名認(rèn)證。平臺將提供虛擬人的實(shí)名注冊備案能力,并對已注冊的虛擬人形象進(jìn)行保護(hù)。此外,用戶使用已注冊的虛擬人形象直播時(shí),必須由真人驅(qū)動進(jìn)行實(shí)時(shí)互動,不允許完全由人工智能驅(qū)動等。4.國內(nèi)外企業(yè)的虛擬人相關(guān)可信實(shí)踐(1)
通過技術(shù)創(chuàng)新探索虛擬人的可信建設(shè)通過區(qū)塊鏈、AI、加密傳輸和存儲等技術(shù)手段增強(qiáng)虛擬人在數(shù)據(jù)傳輸、運(yùn)營使用過程中的安全性。專欄
6:相關(guān)案例案例
1:某數(shù)字人平臺采取了包括身份認(rèn)證和權(quán)限控制、數(shù)據(jù)安全和加密、隱私保護(hù)、防御惡意行為、審計(jì)和監(jiān)控等安全保障措施,并已廣泛應(yīng)用于企業(yè)服務(wù)、教育培訓(xùn)、娛樂媒體等領(lǐng)域。案例
2:Google
虛擬人助手
Assistant、Apple
Siri、微軟個(gè)人智能助理
Cortana
均采用加密傳輸和存儲技術(shù)來保護(hù)用戶的隱私安全和數(shù)據(jù)安全。案例
3:在虛擬人技術(shù)應(yīng)用過程中,某虛擬人平臺運(yùn)用區(qū)塊鏈技術(shù)推出多項(xiàng)安全保護(hù)措施,同時(shí)提供全面的安全漏洞檢測和修復(fù)服務(wù),以確保用戶數(shù)據(jù)和隱私不被泄露,增強(qiáng)虛擬人使用過程中的安全性。案例
4:某虛擬人平臺采用人臉識別、聲紋識別等多種安全技術(shù),提升用戶信息安全。案例
5:某公司基于
AI
技術(shù)推出具有身份認(rèn)證的虛擬人。通過數(shù)字版權(quán)認(rèn)證加強(qiáng)虛擬人的知識產(chǎn)權(quán)保護(hù),避免虛擬人知識產(chǎn)權(quán)被惡意使用或竊取,規(guī)范虛擬人
IP
的使用和管理??尚盘摂M人白皮書(2)
通過管理創(chuàng)新探索虛擬人的可信建設(shè)數(shù)據(jù)治理:虛擬人的數(shù)據(jù)質(zhì)量對其可信度具有重要影響。因此,建立有效的數(shù)據(jù)治理機(jī)制可以提高虛擬人的準(zhǔn)確性和可信度。例如,某企業(yè)通過制定數(shù)據(jù)管理政策和標(biāo)準(zhǔn)來確保數(shù)據(jù)的完整性、一致性和安全性。人員管理:虛擬人的開發(fā)和維護(hù)需要一支專業(yè)的團(tuán)隊(duì)進(jìn)行管理和維護(hù),通過人員管理創(chuàng)新可以提高虛擬人的穩(wěn)定性和可靠性。某企業(yè)設(shè)立了虛擬人質(zhì)量評估團(tuán)隊(duì),對虛擬人的回答和表現(xiàn)進(jìn)行嚴(yán)格審核和監(jiān)控,以確保其準(zhǔn)確性和可靠性,這種質(zhì)量控制機(jī)制提高了用戶對虛擬人服務(wù)的信任。質(zhì)量管理:通過質(zhì)量管理創(chuàng)新可以提高虛擬人的穩(wěn)定性和可靠性。例如,某企業(yè)采用自動化測試和持續(xù)集成技術(shù)對虛擬人進(jìn)行測試和部署,減少錯(cuò)誤和故障的發(fā)生。透明度與控制權(quán):用戶需能清晰了解虛擬人的運(yùn)作原理和數(shù)據(jù)使用方式,用戶需要有權(quán)掌控虛擬人服務(wù),能夠自由選擇是否使用虛擬人服務(wù)、提供哪些信息等。某企業(yè)在虛擬人生成過程中注重用戶參與和共創(chuàng),通過開放平臺和合作伙伴生態(tài)系統(tǒng),鼓勵(lì)開發(fā)者和用戶參與虛擬人的開發(fā)和應(yīng)用,推動虛擬人技術(shù)的創(chuàng)新和進(jìn)步,以滿足不斷變化的用戶需求。某虛擬人管理平臺提供了全面的虛擬人搭建、培訓(xùn)和管理工具。企業(yè)可以通過該平臺自主創(chuàng)建、優(yōu)化和監(jiān)控虛擬人,確保其準(zhǔn)確性和可靠性。同時(shí),該虛擬人平臺通過提供完善的管理工具和技術(shù)支持,幫助企業(yè)建設(shè)可信賴的虛擬人系統(tǒng)。用戶隱私保護(hù)和信息安全管理:Google
虛擬人助手
Assistant,用戶可以通過控制面板管理個(gè)人數(shù)據(jù),并有權(quán)訪問和刪除自己的語音和使用數(shù)據(jù);Apple
的虛擬人助手
Siri
的語音識別和處理操作在設(shè)備上進(jìn)行,不會將用戶的語音數(shù)據(jù)發(fā)送到云端進(jìn)行處理;微軟的虛擬人助手
Cortana
提供了隱私設(shè)置和控制,用戶可以管理和刪除個(gè)人數(shù)據(jù),以保護(hù)用戶個(gè)人隱私數(shù)據(jù)。平臺治理規(guī)范:虛擬人服務(wù)應(yīng)該遵守一定的道德規(guī)范,不得利用虛擬人服務(wù)進(jìn)行不正當(dāng)?shù)挠騻τ脩舻男袨?。法律?guī)定:虛擬人服務(wù)需要遵守相關(guān)法律法規(guī)和標(biāo)準(zhǔn),確保服務(wù)的合法性和可信度。如微軟制定了虛擬人倫理原則,以規(guī)范其虛擬人助手(如
Cortana)的開發(fā)和應(yīng)用。這些原則包括尊重用戶隱私、確保信息準(zhǔn)確性和透明度、防止歧視等,致力于確保虛擬人技術(shù)符合道德要求,并推動其他行業(yè)參與者采取類似的措施。某平臺于
2022
年
7
月
21
日發(fā)布《虛擬主播專項(xiàng)治理公告》,對低俗色情類及其他違規(guī)惡意行為進(jìn)行整治,采取措施如降低曝光、下架視頻、封禁直播間和賬號封禁。上述實(shí)踐案例表明,國內(nèi)外政府和相關(guān)機(jī)構(gòu)均十分重視虛擬人的可信實(shí)踐,積極探索并制定相應(yīng)的技術(shù)規(guī)范與管理準(zhǔn)則。這些舉措旨在確保虛擬人技術(shù)的合法合規(guī)、道德可信,保護(hù)用戶權(quán)益,促進(jìn)虛擬人的健康發(fā)展與應(yīng)用。隨著相關(guān)技術(shù)和應(yīng)用的發(fā)展,未來可預(yù)期將會有更多的實(shí)踐和措施出現(xiàn),進(jìn)一步規(guī)范和引導(dǎo)虛擬人的倫理和法律要求。可信虛擬人白皮書2.
可信虛擬人體系構(gòu)建虛擬人行業(yè)在發(fā)展過程中將會面臨諸多風(fēng)險(xiǎn)挑戰(zhàn),可信建設(shè)既是虛擬人技術(shù)發(fā)展的要求,也是虛擬人市場發(fā)展的保障。因此,在當(dāng)下社會實(shí)踐中,我們認(rèn)為將“可信”作為行業(yè)發(fā)展的指導(dǎo)原則進(jìn)行探討和研究,同時(shí)構(gòu)建并完善可信虛擬人體系至關(guān)重要,以確保虛擬人在滿足安全合規(guī)要求的基礎(chǔ)上服務(wù)客戶和社會。2.1
什么是可信虛擬人探討“虛擬人”的可信需要從“人本”理念出發(fā)?!叭吮尽奔匆环N以人為中心的核心理念。它不僅反映了一種設(shè)計(jì)理念,強(qiáng)調(diào)從用戶的需求、情感和體驗(yàn)出發(fā),提供有價(jià)值的虛擬人產(chǎn)品或服務(wù),也包括虛擬人發(fā)展所要考慮的社會、倫理、法律等方面的影響和責(zé)任。因此,我們既要允許和鼓勵(lì)虛擬人技術(shù)的快速發(fā)展和廣泛應(yīng)用,同時(shí)也需要預(yù)先做出體系化規(guī)范化的預(yù)防措施,其目的是要確保虛擬人技術(shù)與應(yīng)用符合“人本”理念,以使虛擬人在研發(fā)、生成、使用過程中對于人類始終保持“有用且無害”的可信關(guān)系。那么,什么是可信虛擬人?我們認(rèn)為,可信虛擬人涉及虛擬人全生命周期與可信要素的結(jié)合,在虛擬人技術(shù)研發(fā)、生成服務(wù)、運(yùn)營使用等各個(gè)環(huán)節(jié)和可信手段進(jìn)行緊密融合,即虛擬人技術(shù)研發(fā)可信建設(shè)、生成平臺可信建設(shè)、運(yùn)營使用可信建設(shè)等,使其符合標(biāo)準(zhǔn)、規(guī)范、倫理道德等方面的可信要求,包括但不限于:虛擬人形象本身不能造成對他人人格權(quán)、所有權(quán)等身份、權(quán)利上的非法侵犯;虛擬人的行為、思想要符合人類社會的法律法規(guī)和公序良俗;當(dāng)虛擬人發(fā)生違規(guī)違法行為或事件時(shí),能夠明確并追究相關(guān)方的法律責(zé)任。2.2
虛擬人可信建設(shè)的必要性數(shù)字孿生、AIGC
技術(shù)和元宇宙生態(tài)的迅猛發(fā)展,正在快速構(gòu)建起人類數(shù)字新世界。虛擬人是虛擬空間的重要身份載體。虛擬人不是僅徒有其表的數(shù)字人形象,還有支撐其運(yùn)行的“大腦和靈魂”,也就是為其賦能的人工智能平臺和各類算法。不同于人類的緩慢進(jìn)化,虛擬人基于代碼的進(jìn)化可謂是日新月異。1982
年世界迎來首位虛擬歌姬林明美——日本動畫《超時(shí)空要塞》女主角,是首個(gè)和現(xiàn)實(shí)世界產(chǎn)生虛實(shí)交互的手繪虛擬人。2000-2012
年間,隨著計(jì)算機(jī)圖形學(xué)、光場采集、動作捕捉技術(shù)的進(jìn)步,虛擬人制作門檻逐步降低并開始邁入工業(yè)化生產(chǎn);2012-2021
年間,深度學(xué)習(xí)在語音和圖像的模式識別應(yīng)用領(lǐng)域取得實(shí)質(zhì)進(jìn)展,極大提升了虛擬人制作效率和可信虛擬人白皮書呈現(xiàn)效果;2022
年,ChatGPT
的火爆標(biāo)志著
NLP
技術(shù)取得重要突破,驅(qū)動虛擬人的交互能力實(shí)現(xiàn)智能化飛躍。國內(nèi)外針對可信虛擬人的研究和實(shí)踐還處于初級階段?;仡?/p>
AI
技術(shù)的簡短發(fā)展歷史,尤其是深度神經(jīng)網(wǎng)絡(luò),其進(jìn)化過程僅用了
16
年時(shí)間,而且進(jìn)化速度還在持續(xù)加速。與這些科技成果產(chǎn)業(yè)化實(shí)踐相比,國內(nèi)外針對可信虛擬人的研究和實(shí)踐還處于初級階段。盡管社會各界對科技倫理、AI
引發(fā)的道德危機(jī)等許多方面都有所關(guān)切,但多數(shù)停留在擔(dān)憂和警示層面,還未形成體系化的、可操作的指導(dǎo)性規(guī)范。人類與虛擬人之間如何構(gòu)建可信關(guān)系?需要構(gòu)建怎樣的可信關(guān)系?是行業(yè)須面對的重大議題。虛擬人可信建設(shè),是對相關(guān)利益方的道德倫理、價(jià)值觀的約束,以及對其所提供產(chǎn)品及其行為合法合規(guī)性的要求和管制。在日漸形成的元宇宙數(shù)字世界中,虛擬人的技術(shù)應(yīng)用必須遵循“主流價(jià)值觀主導(dǎo)算法”的原則。當(dāng)前,虛擬人的智能化還處于初等和中等水平,只能執(zhí)行“被允許”的人類指令,無法理解復(fù)雜微妙的人類情感或意圖,無法按自主“意愿”與人進(jìn)行自然交互和行為。這類虛擬人的可信建設(shè)主要集中在準(zhǔn)確性和穩(wěn)健性、安全性、非歧視性、透明度和問責(zé)制、可解釋性等方面。在未來十年,虛擬人的智能將達(dá)到高等水平,虛擬人將從被動響應(yīng)執(zhí)行模式發(fā)展到主動創(chuàng)造和決策模式,這將要求虛擬人生成系統(tǒng)同時(shí)具有識別和預(yù)防潛在風(fēng)險(xiǎn)的能力。這類虛擬人的可信建設(shè),將涉及數(shù)字資產(chǎn)、數(shù)字權(quán)利、可解釋性、可監(jiān)控性、可追溯性、遵守法律法規(guī)、知識沖突/邏輯違背等方面。在不遠(yuǎn)的未來,虛擬人的智能有望達(dá)到超級水平,有可能進(jìn)化成為具有獨(dú)立意識的“數(shù)字生命”,具備了自組織、自復(fù)制能力,此時(shí),這類虛擬人的可信問題,將關(guān)乎反壟斷/反戰(zhàn)/反暴力、反政治/宗教/性別歧視、確保人類無條件掌控權(quán)等方面。2.3
可信虛擬人體系構(gòu)建宏觀而言,可信虛擬人在繼承人類文明成果的同時(shí),要遵循“和平、發(fā)展、公平、正義、民主、自由”的全人類共同價(jià)值觀。中觀而言,可信虛擬人應(yīng)遵循國家法律法規(guī),遵守基本邏輯規(guī)律和事理規(guī)則。微觀而言,可信虛擬人所采用的技術(shù)應(yīng)安全可信,虛擬人相關(guān)組織及其行為應(yīng)合法合規(guī),虛擬人系統(tǒng)和平臺等應(yīng)遵守相關(guān)標(biāo)準(zhǔn)規(guī)范的約束。面對加速發(fā)展的市場趨勢以及伴生而來的風(fēng)險(xiǎn)挑戰(zhàn),需要以理論結(jié)合實(shí)踐、在技術(shù)和應(yīng)用層面進(jìn)行創(chuàng)新和探索,構(gòu)建起一套完整且具有落地指導(dǎo)意義的可信虛擬人框架體系,將可信技術(shù)、機(jī)制等可信要素與虛擬人全生命周期進(jìn)行深度融合,為各主體在可信虛擬人發(fā)展路徑和能力建設(shè)上提供明確且具體的規(guī)范標(biāo)準(zhǔn)和管理要求,從而促進(jìn)社會對虛擬人行業(yè)的信任和支持??尚盘摂M人白皮書1.可信虛擬人體系框架圖圖
2.1:
可信虛擬人總體框架本白皮書基于以上對虛擬人行業(yè)可信建設(shè)的整體定位,結(jié)合第一章所討論的主要行業(yè)風(fēng)險(xiǎn)及相關(guān)重要監(jiān)管要求等,給出可信虛擬人總體框架圖。該框架所涉及的可信建設(shè)有四大特點(diǎn):一是該框架貫穿虛擬人行業(yè)全生命周期,包括技術(shù)研發(fā)、生成服務(wù)和運(yùn)營使用三大重要環(huán)節(jié),分別面向技術(shù)支持方、服務(wù)提供方、服務(wù)使用方三大企業(yè)主體。二是該框架重點(diǎn)關(guān)注各個(gè)企業(yè)主體如何利用可信技術(shù)、可信管理等要素手段,圍繞不同可信目標(biāo)進(jìn)行企業(yè)內(nèi)部可信能力的建設(shè)和實(shí)踐。三是該框架還定義了虛擬人可信建設(shè)的分級原則和評估維度。四是除企業(yè)主體外,該框架也為虛擬人行業(yè)組織、監(jiān)管機(jī)構(gòu)等重要參與方提出了可信建設(shè)依據(jù)和建議,為虛擬人行業(yè)可信發(fā)展提供指引。2.可信虛擬人框架內(nèi)容綜述虛擬人的七大可信目標(biāo):身份及權(quán)利保障、隱私保護(hù)與增強(qiáng)、生成內(nèi)容安全、可靠性可控性、可理解可解釋、無偏見多樣化、可問責(zé)可追溯。虛擬人行業(yè)可信建設(shè)首先需要確立明確、可執(zhí)行的可信目標(biāo)。當(dāng)前針對虛擬人領(lǐng)域的可信研究相對空白,鑒于虛擬人是數(shù)字時(shí)代的重要產(chǎn)物,是包括人工智能、3D
數(shù)字建模、擴(kuò)展現(xiàn)實(shí)等諸多數(shù)字技術(shù)融合應(yīng)用的結(jié)果體現(xiàn),因此本白皮書參考數(shù)字技術(shù)在研發(fā)和應(yīng)用過程中所遵循的可信原則,并結(jié)合虛擬人自身所特有的風(fēng)險(xiǎn)要素、行業(yè)特征等探討并確立可信目標(biāo)。當(dāng)前數(shù)字技術(shù)治理原則已經(jīng)逐步收斂為有效和可靠、安全性、彈性、隱私增強(qiáng)、可理解和可解釋、可問責(zé)、透明及公平等幾大方面。盡管由于文化可信虛擬人白皮書背景、業(yè)務(wù)性質(zhì)及管理制度等差異,不同組織對于這些共同原則的理解及實(shí)施方法各有偏重,但從產(chǎn)業(yè)維度看,以上共識的核心理念均是圍繞如何構(gòu)建多方可信的數(shù)字技術(shù)而提出的。與此同時(shí),正如第一章所述,虛擬人市場發(fā)展中所涉及的知識產(chǎn)權(quán)保護(hù)、人格權(quán)保障、內(nèi)容安全等方面的風(fēng)險(xiǎn)和監(jiān)管挑戰(zhàn)又對可信目標(biāo)的確立提出了新的內(nèi)涵要求。本白皮書參考全球共識并結(jié)合行業(yè)特性,總結(jié)提出七大可信目標(biāo),分別是:身份及權(quán)利保障、隱私保護(hù)與增強(qiáng)、生成內(nèi)容安全、可靠性可控性、可理解可解釋、無偏見多樣化、可問責(zé)可追溯,用以作為各參與方,尤其是企業(yè)主體可信虛擬人實(shí)踐時(shí)所參考的目標(biāo)指引。虛擬人行業(yè)的可信建設(shè)需要強(qiáng)有力的可信手段,其中可信技術(shù)和可信管理是實(shí)現(xiàn)可信目標(biāo)的重要方法和途徑。在可信技術(shù)層面,圍繞著上述七大可信目標(biāo),以理論研究和技術(shù)創(chuàng)新為核心抓手,將可信元素通過技術(shù)應(yīng)用注入企業(yè)或行業(yè)的可信實(shí)踐中,從而降低虛擬人在各生命周期的信任成本。本框架針對不同主體在實(shí)踐中所涉及的數(shù)據(jù)、算法、平臺、業(yè)務(wù)等提出可信技術(shù)手段,主要包括隱私保護(hù)與增強(qiáng)技術(shù)、內(nèi)容安全技術(shù)、穩(wěn)定性技術(shù)、可解釋增強(qiáng)技術(shù)、公平性技術(shù)、可問責(zé)技術(shù)等。在可信管理層面,主要是為實(shí)現(xiàn)可信目標(biāo)而制定的一系列流程制度等非技術(shù)性可信手段。包括企業(yè)主體為實(shí)現(xiàn)可信建設(shè)而建立的內(nèi)部管理流程,行業(yè)組織為推動可信建設(shè)而形成的行業(yè)政策、標(biāo)準(zhǔn)評測等,監(jiān)管機(jī)構(gòu)為保障可信建設(shè)而出臺的各類法律法規(guī)、管理辦法等。在可信能力建設(shè)中,按照可信能力建設(shè)難度逐級遞增,以及可信資源投入產(chǎn)出比逐級遞減的原則,該框架也提出了可信評估維度,作為衡量企業(yè)可信水平的重要參考。其中,評估維度主要涉及三大方向,一是系統(tǒng)可信能力,二是系統(tǒng)功能完備度,三是產(chǎn)業(yè)化水平。前兩大維度對應(yīng)可信能力建設(shè)難度,第三大維度對應(yīng)可信虛擬人的實(shí)際應(yīng)用情況。這三大維度可反映企業(yè)為實(shí)現(xiàn)可信目標(biāo)所采取可信手段的積極性和主動性。此外,每個(gè)維度下針對不同企業(yè)主體,并結(jié)合其業(yè)務(wù)差異性延展出具體的評估指標(biāo),而不同指標(biāo)的評估結(jié)果結(jié)合即可得到企業(yè)可信能力水平。本框架將企業(yè)虛擬人可信建設(shè)分為
L1、L2、L3
三級。在可信目標(biāo)的指引下,各企業(yè)主體可結(jié)合自身業(yè)務(wù)特性進(jìn)行企業(yè)內(nèi)部的可信能力建設(shè),同樣,行業(yè)組織和監(jiān)管機(jī)構(gòu)也可以參考企業(yè)可信實(shí)踐內(nèi)容及能力等級差異,采取相應(yīng)行動來保障、激勵(lì)虛擬人整個(gè)行業(yè)的可信發(fā)展??尚盘摂M人白皮書3.
可信目標(biāo)、可信手段、分級原則3.1
虛擬人組織可信建設(shè)目標(biāo)正如上文所述,可信目標(biāo)是虛擬人行業(yè)中各組織進(jìn)行可信能力建設(shè)的重要指引和參考,分別為身份及權(quán)利保障、隱私保護(hù)與增強(qiáng)、生成內(nèi)容安全、可靠性可控性、無偏見多樣化、可理解可解釋、可問責(zé)可追溯共七大可信目標(biāo)。1.身份及權(quán)利保障依據(jù)是否與自然人有映射的特點(diǎn),虛擬人可分為真人映射型和非映射型兩大類。其中,真人映射型虛擬人是現(xiàn)實(shí)世界中自然人在網(wǎng)絡(luò)世界的映射,應(yīng)具備名稱、肖像、榮譽(yù)和隱私等人格屬性。也即當(dāng)虛擬人人格受到侵害時(shí),會映射為其現(xiàn)實(shí)主體帶來一定程度的人格損害。因此,即使虛擬人本身不是民事主體,但仍應(yīng)獲得現(xiàn)實(shí)人格類似的保護(hù)。此外,對于真人映射型虛擬人,由于映射關(guān)系的存在,還會涉及自然人應(yīng)向虛擬人的權(quán)利授予,包括創(chuàng)作授權(quán)和使用授權(quán)兩大類。同時(shí),由于可能存在由同一自然人授權(quán)的多個(gè)虛擬人,虛擬人被授權(quán)的權(quán)利需要進(jìn)一步細(xì)分。而對于非映射型虛擬人,與真人映射型虛擬人在身份及權(quán)利上有共同性,在身份上均需要明確名稱、身份標(biāo)識
ID、創(chuàng)作者信息、版權(quán)所有者信息等,在授權(quán)方面也都需要明確此虛擬人實(shí)體具有哪些使用權(quán)利,包括不限于應(yīng)用行業(yè),應(yīng)用場景(游戲、演出、客服、廣告、教育、企業(yè)宣傳、產(chǎn)品設(shè)計(jì)、社交、實(shí)物創(chuàng)作等),是否允許實(shí)體化(3D
打印等)。因此,我們認(rèn)為,無論對于映射型或非映射型虛擬人的可信建設(shè),身份及權(quán)利保障作為可信目標(biāo)之一非常必要,需要從標(biāo)準(zhǔn)、技術(shù)、管理等多個(gè)層面建立可信機(jī)制,包括但不限于:研制具有行業(yè)共識的身份描述數(shù)據(jù)標(biāo)準(zhǔn)、權(quán)利授權(quán)許可數(shù)據(jù)描述標(biāo)準(zhǔn);結(jié)合技術(shù)及管理手段建立身份認(rèn)證及授權(quán)系統(tǒng)等以保障虛擬人的身份可信、權(quán)利可信,并實(shí)現(xiàn)虛擬人在使用時(shí)對身份及權(quán)利數(shù)字許可證進(jìn)行驗(yàn)證,以防止越權(quán)使用引發(fā)風(fēng)險(xiǎn)。對于真人映射型虛擬人,更需要在法律法規(guī)上逐漸明確來自自然人的身份定義及權(quán)利定義。2.隱私保護(hù)與增強(qiáng)在虛擬人生成算法研發(fā)、生成服務(wù)提供及最終使用過程中可能會涉及到大量包括個(gè)體生物特征、個(gè)人或組織不宜公開的數(shù)據(jù)信息,需要在數(shù)據(jù)采集、存儲、流轉(zhuǎn)、查詢、訓(xùn)練、使用等過程中加以保護(hù),以防發(fā)生個(gè)人信息泄露、隱私侵犯、數(shù)據(jù)濫用等風(fēng)險(xiǎn)??尚盘摂M人白皮書為保護(hù)虛擬人行業(yè)中的用戶隱私,降低隱私風(fēng)險(xiǎn)為用戶帶來的實(shí)質(zhì)侵害,并強(qiáng)化用戶對虛擬人生成研發(fā)及服務(wù)全流程的信賴程度,我們需要將隱私保護(hù)與增強(qiáng)作為重要的可信目標(biāo)之一,借此來引導(dǎo)行業(yè)在該方向上大力投入技術(shù)、管理等可信資源完善相應(yīng)的可信能力建設(shè)。具體來說,虛擬人行業(yè)中隱私保護(hù)與增強(qiáng)目標(biāo)又可根據(jù)風(fēng)控對象不同,進(jìn)一步細(xì)分為針對數(shù)據(jù)隱私風(fēng)險(xiǎn)控制、模型隱私風(fēng)險(xiǎn)控制這兩大類別下的隱私保護(hù)與增強(qiáng)。其中,數(shù)據(jù)隱私風(fēng)險(xiǎn)控制主要針對包括數(shù)據(jù)隱私泄露、濫用等問題進(jìn)行隱私保護(hù)與增強(qiáng),貫穿于技術(shù)研發(fā)、生成服務(wù)、運(yùn)營使用全生命周期。例如,在技術(shù)研發(fā)階段,會涉及對算法訓(xùn)練數(shù)據(jù)的過度采集、匿名化不足、標(biāo)注泄露等風(fēng)險(xiǎn)因素;在生成服務(wù)階段,會涉及用戶上傳隱私數(shù)據(jù)的濫用問題;在運(yùn)營使用階段則可能表現(xiàn)為不經(jīng)授權(quán)任意編輯他人個(gè)人信息等。模型隱私風(fēng)險(xiǎn)控制則是針對包括算法模型在訓(xùn)練、推理和部署階段的隱私風(fēng)險(xiǎn)問題進(jìn)行隱私保護(hù)與增強(qiáng)。例如,模型訓(xùn)練過程中,梯度變化、輸出向量等均存在暴露用戶信息的風(fēng)險(xiǎn);在推理過程中,輸入數(shù)據(jù)常常包含隱私信息;在部署過程中,通過查詢模型細(xì)節(jié)還原模型參數(shù)和功能也可能造成個(gè)人隱私泄露問題等。不同主體可以有選擇地依據(jù)不同類別的風(fēng)險(xiǎn)特征,結(jié)合自身業(yè)務(wù)性質(zhì)采取相應(yīng)的風(fēng)控手段進(jìn)行可信能力建設(shè),從而達(dá)成隱私保護(hù)與增強(qiáng)的可信目標(biāo)。3.生成內(nèi)容安全隨著生成式
AI
技術(shù)的發(fā)展和應(yīng)用,虛擬人生成及相關(guān)內(nèi)容創(chuàng)作門檻得到了大幅降低,在豐富和充實(shí)網(wǎng)絡(luò)世界中虛擬人及其應(yīng)用生態(tài)的同時(shí),也帶來了虛擬人生成內(nèi)容識別難度高,以及內(nèi)容本身的合規(guī)性、合法性等各式問題。正如第一章談及的網(wǎng)信辦等國家監(jiān)管機(jī)構(gòu)發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理辦法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法律法規(guī),雖然對虛擬人生成內(nèi)容未做單獨(dú)說明,但都從不同角度明確了包括技術(shù)研發(fā)、生成服務(wù)及使用各方在內(nèi)容安全方面所需承擔(dān)的責(zé)任和義務(wù)。因此,為了維護(hù)網(wǎng)絡(luò)信息秩序,保護(hù)用戶和平臺利益,在虛擬人可信能力建設(shè)中,將生成內(nèi)容安全作為可信目標(biāo)之一的重要性不言而知。從用戶角度出發(fā),虛擬人生成內(nèi)容安全的可信目標(biāo)可進(jìn)一步分解成兩大主要特征要求:一是生成內(nèi)容的可識別性,主要體現(xiàn)在所生成的虛擬人及相關(guān)內(nèi)容能否被用戶或系統(tǒng)明確地區(qū)分出其來源和性質(zhì),以防止混淆真實(shí)與虛假、原創(chuàng)與轉(zhuǎn)載等問題。例如,將虛擬人誤認(rèn)為真人,或是生成內(nèi)容被不法分子篡改以混淆用戶視聽等,都可能對用戶產(chǎn)生誤導(dǎo)從而影響判斷,造成權(quán)益侵害。二是生成內(nèi)容的合規(guī)、合法性,即生成的虛擬人及相關(guān)內(nèi)容是否符合法律法規(guī)和社會公序良俗,是否有違反國家安全、社會穩(wěn)定、公共利益等方面的內(nèi)容??尚盘摂M人白皮書對于可識別性特征,我們可以采用顯著或隱形標(biāo)識等方式對生成的相關(guān)內(nèi)容進(jìn)行標(biāo)記和驗(yàn)證,從而幫助用戶進(jìn)行真實(shí)與虛假的區(qū)分,或防止被篡改及盜用等問題;而對于生成內(nèi)容的合規(guī)、合法性,我們可以在內(nèi)容生成或傳播過程中融入內(nèi)容審核機(jī)制,通過建立違規(guī)或敏感特征庫并結(jié)合人工或機(jī)器鑒別方式,對非法違規(guī)內(nèi)容進(jìn)行實(shí)時(shí)鑒別,并同步構(gòu)建違規(guī)內(nèi)容反饋機(jī)制,不斷更新優(yōu)化內(nèi)容審核系統(tǒng)的性能和效果。4.可靠性可控性用戶訂閱虛擬人生成服務(wù)的目的是高效制作并生成符合自身預(yù)期及標(biāo)準(zhǔn)的虛擬人內(nèi)容,以滿足在特定場景下的使用需求。因此,對虛擬人生成系統(tǒng)在其整個(gè)生命周期內(nèi)能夠安全、可靠、可控地運(yùn)行提出了較高要求。具體來說,虛擬人可信建設(shè)中的可靠性可控性目標(biāo)主要包含四大特征要求,分別是安全性、成熟度、穩(wěn)健性,以及人類對系統(tǒng)的監(jiān)督和接管能力。安全性要求是虛擬人行業(yè)可信建設(shè)的底線要求,其貫穿全生命周期中技術(shù)研發(fā)、生成服務(wù)及運(yùn)營使用各個(gè)階段,涵蓋數(shù)據(jù)樣本安全、算法安全、功能安全、系統(tǒng)安全、應(yīng)用安全等諸多層面。成熟度要求主要衡量各階段主體能否依據(jù)下游環(huán)節(jié)的客戶/用戶需求,為其提供相適應(yīng)的解決方案,包括算法模型的準(zhǔn)確率、系統(tǒng)功能的完整度、生成服務(wù)的效率成本等重要衡量指標(biāo),從而保障虛擬人內(nèi)容輸出結(jié)果的高質(zhì)量和高可信水準(zhǔn)。穩(wěn)健性要求則是指算法、功能、系統(tǒng)等在發(fā)生異?;蛎媾R不確定及外部環(huán)境干擾時(shí),能夠避免錯(cuò)誤出現(xiàn)或快速恢復(fù)到正常運(yùn)行狀態(tài),例如算法的魯棒性、系統(tǒng)的韌性都可以歸類到穩(wěn)健性范疇??煽匦砸笾饕w現(xiàn)在虛擬人在生成或使用階段,一旦發(fā)生突發(fā)情況導(dǎo)致系統(tǒng)做出錯(cuò)誤決策或行為,系統(tǒng)可以被外界的操作者(人或智能體)及時(shí)干預(yù)或快速接管,避免系統(tǒng)失控的負(fù)面影響。例如,當(dāng)
AI
驅(qū)動的虛擬人在交互過程中發(fā)生超出預(yù)期的情況時(shí),可以以真人驅(qū)動的方式及時(shí)接管,確保用戶體驗(yàn)的連續(xù)性。5.無偏見多樣化無偏見多樣化,包括公平、尊重、包容、多元等可信特征,貫穿虛擬人技術(shù)研發(fā)、生成服務(wù)到使用過程的全生命周期,是實(shí)現(xiàn)虛擬人創(chuàng)作自由、應(yīng)用價(jià)值多樣化的重要前提,也是虛擬人行業(yè)可信建設(shè)的重要目標(biāo)之一。換句話說,無偏見多樣化目標(biāo)實(shí)踐,即需要各階段的企業(yè)主體采取主動措施來加強(qiáng)上述可信特征的融入,消除可能會出現(xiàn)的固有偏見和歧視,削弱偏見帶來的負(fù)面影響,從而更加包容地滿足不同群體的多樣化需求。例如:在技術(shù)研發(fā)階段,開發(fā)人員在設(shè)計(jì)和構(gòu)建虛擬人生成系統(tǒng)時(shí),應(yīng)了解偏見如何被引入系統(tǒng)以及如何影響系統(tǒng)的生成及決策。為了幫助減少偏見,應(yīng)該使用反映社會多樣性的訓(xùn)練數(shù)據(jù)集,例如不同性別、種族、民族、年齡、地域、職業(yè)等,還應(yīng)在設(shè)計(jì)算法模型時(shí)引入公平性因素,并對模型進(jìn)行不斷優(yōu)化和調(diào)整,進(jìn)而逐步減少偏見和歧視等??尚盘摂M人白皮書在生成服務(wù)階段,服務(wù)提供方應(yīng)面向更多元的用戶群體,無差別地提供生成服務(wù)。例如,在
UI
設(shè)計(jì)上,要考慮弱勢群體的使用需求,提高工具或平臺的易用性,降低用戶使用的操作門檻;在產(chǎn)品邏輯上,應(yīng)考慮用戶對生成內(nèi)容多樣化的需求,為用戶提供盡可能更豐富的功能選擇,提高用戶進(jìn)行虛擬人創(chuàng)作的自由度等。當(dāng)虛擬人投入使用時(shí),運(yùn)營方需要關(guān)注虛擬人在應(yīng)用和交互過程中,可能因場景存在不合理、不合法、不合規(guī)的設(shè)計(jì),從而造成對某些用戶或群體的排斥、剝奪或傷害等負(fù)面影響。因此該階段企業(yè)主體在進(jìn)行可信能力建設(shè)時(shí),需要保證應(yīng)用場景的合理性、合法性和合規(guī)性,避免應(yīng)用過程中產(chǎn)生歧視和偏見??傊?,無偏見多樣化可信目標(biāo)實(shí)踐是一個(gè)涉及多個(gè)階段、多個(gè)主體的復(fù)雜問題,需要各方參與和協(xié)作,研發(fā)并建立相應(yīng)的標(biāo)準(zhǔn)、技術(shù)、規(guī)范和機(jī)制,以確保虛擬人能夠在不同的場景中,為不同的用戶提供高質(zhì)量、高效率和高價(jià)值的服務(wù),并且尊重用戶的權(quán)利、尊嚴(yán)和多樣性。6.可理解可解釋隨著人工智能技術(shù)在虛擬人生成、交互和使用過程中的廣泛應(yīng)用,對算法模型及技術(shù)功能的可理解、可解釋性要求也越來越受到行業(yè)各方的普遍關(guān)注,尤其是大模型、生成式
AI
等更加復(fù)雜模型的應(yīng)用使得人們對模型內(nèi)部工作機(jī)理以及模型如何做出特定決策等重要問題的理解難度也變得越來越高,這也使得人們對生成及使用虛擬人服務(wù)時(shí)缺乏信任,由此對虛擬人行業(yè)的可持續(xù)發(fā)展造成不利影響。因此,在可信建設(shè)中將可理解可解釋作為可信目標(biāo)之一就顯得尤為重要。在虛擬人可信建設(shè)中,可理解可解釋可進(jìn)一步分為以下三類:一是數(shù)據(jù)的可理解可解釋,即要求“數(shù)據(jù)特征”的可解釋性,也就是在進(jìn)行模型訓(xùn)練前,對數(shù)據(jù)的特征進(jìn)行分析和可視化,以了解訓(xùn)練數(shù)據(jù)的分布、相關(guān)性等特征,作為模型訓(xùn)練的依據(jù),從而能夠更好地理解和利用數(shù)據(jù),作為模型訓(xùn)練的依據(jù)。二是模型的可理解可解釋,是指模型本身的結(jié)構(gòu)、參數(shù)和預(yù)測結(jié)果等能夠以一種人類可理解的方式進(jìn)行表達(dá)和解釋,需要開發(fā)人員在建模過程中就要將可解釋因素納入考量,從而構(gòu)建一個(gè)既有高性能又有高可解釋性的算法模型。三是功能/系統(tǒng)的可理解可解釋,主要是指在虛擬人生成過程中所調(diào)用的功能模塊是否易被用戶所理解和使用,對于提高用戶體驗(yàn),建立信任、降低風(fēng)險(xiǎn)和保障公平性等諸多方面都起到重要作用。數(shù)據(jù)、模型、功能/系統(tǒng)的可理解可解釋,不僅向用戶提供可理解的模型處理邏輯,有助于讓用戶了解訓(xùn)練數(shù)據(jù)與結(jié)果模型參數(shù)之間的關(guān)系,推理輸入、過程與結(jié)果之間的關(guān)系,提升透明性,同時(shí)也提高了用戶的使用體驗(yàn)和使用信心。7.可問責(zé)可追溯我們認(rèn)為,可問責(zé)可追溯在虛擬人可信建設(shè)中扮演著重要的守門員角色??尚盘摂M人白皮書可問責(zé),是指虛擬人系統(tǒng)及其全生命周期中的相關(guān)主體能為其行為責(zé)任作出解釋、說明的特性;從監(jiān)管角度,也可指監(jiān)管機(jī)構(gòu)的一種權(quán)利,即可針對虛擬人技術(shù)研發(fā)、生成服務(wù)和運(yùn)營使用各方在出現(xiàn)問題或遭受損害時(shí),行使基于法律、協(xié)議或授權(quán)等方面的監(jiān)管和審查職能,并要求相關(guān)方承擔(dān)相應(yīng)的后果和懲罰??勺匪?,是可問責(zé)的前提,也是行使可問責(zé)權(quán)利的重要手段,即各階段主體通過記錄和保留相關(guān)數(shù)據(jù)、算法、人員、操作和任務(wù)日志等必要信息,或采用嵌入標(biāo)識、區(qū)塊鏈存證等方式,以便在必要時(shí)進(jìn)行查詢、分析、驗(yàn)證、評估等操作,為明確責(zé)任主體、強(qiáng)化責(zé)任落實(shí)提供有力依據(jù)。3.2
虛擬人組織可信能力建設(shè)手段1.可信技術(shù)手段(1)
隱私保護(hù)與增強(qiáng)技術(shù)隱私保護(hù)與增強(qiáng)技術(shù)是防止虛擬人系統(tǒng)隱私數(shù)據(jù)泄露或隱私數(shù)據(jù)被濫用的可信技術(shù)手段,主要包括差分隱私、聯(lián)邦學(xué)習(xí)、匿名技術(shù)和加密技術(shù)等。與傳統(tǒng)人工智能系統(tǒng)相比,虛擬人系統(tǒng)需要收集更多敏感的用戶信息,如聲音聲紋、眼球運(yùn)動和面部表情等。因此建立可信的虛擬人系統(tǒng),保護(hù)數(shù)據(jù)隱私變得尤為重要。針對用戶隱私信息的常見攻擊有成員推理攻擊、屬性推理攻擊、模型反轉(zhuǎn)攻擊和模型提取攻擊等。成員推理攻擊通過識別目標(biāo)用戶是否作為樣本參與訓(xùn)練目標(biāo)虛擬人系統(tǒng)竊取隱私信息;屬性推理攻擊主要竊取目標(biāo)虛擬人系統(tǒng)中模型的全局屬性;模型反轉(zhuǎn)攻擊通過還原訓(xùn)練數(shù)據(jù)竊取隱私信息;模型提取攻擊通過創(chuàng)建與目標(biāo)模型行為相似的新替換模型來竊取目標(biāo)模型的參數(shù)和結(jié)構(gòu)。抵御隱私攻擊的方法主要包括差分隱私、聯(lián)邦學(xué)習(xí)、匿名技術(shù)和加密技術(shù)等。差分隱私可以為數(shù)據(jù)隱私提供嚴(yán)格的統(tǒng)計(jì)保障,可以抵御成員推理攻擊和模型反轉(zhuǎn)攻擊。差分隱私通過添加隨機(jī)的數(shù)據(jù)噪聲,在保護(hù)用戶數(shù)據(jù)的同時(shí)不損害虛擬人系統(tǒng)的準(zhǔn)確性。聯(lián)邦學(xué)習(xí)允許用戶在本地設(shè)備上進(jìn)行模型訓(xùn)練,而不需要將原始數(shù)據(jù)上傳到中央服務(wù)器。這樣可以避免敏感用戶數(shù)據(jù)的集中存儲,抵御模型提取攻擊和屬性推理攻擊。在聯(lián)邦學(xué)習(xí)中,多個(gè)參與方通過合作訓(xùn)練共享模型更新,而不共享原始數(shù)據(jù),從而保護(hù)了用戶隱私。匿名技術(shù)可以將用戶的敏感信息和真實(shí)身份隔離,確保用戶的身份和敏感數(shù)據(jù)無法被直接關(guān)聯(lián),從而減少用戶隱私泄露的風(fēng)險(xiǎn);常見的匿名技術(shù)包括數(shù)據(jù)脫敏和數(shù)據(jù)泛化等,可以抵御成員推理攻擊和模型提取攻擊。加密技術(shù)可以保護(hù)用戶隱私數(shù)據(jù)的傳輸和存儲,可以抵御模型反轉(zhuǎn)攻擊和模型提取攻擊。通過使用加密算法,可以將用戶數(shù)據(jù)轉(zhuǎn)化為不可讀的形式,防止數(shù)據(jù)泄露和未經(jīng)授權(quán)的訪問。當(dāng)前,虛擬人的生成訓(xùn)練過程需要收集大量的生物特征信息,隨著人們對隱私數(shù)據(jù)保護(hù)的需求日益增加,各種隱私保護(hù)方法也在不斷演進(jìn)。在未來的技術(shù)發(fā)展中,匿名和加密的計(jì)算效率和靈活性將會進(jìn)一步提高,從而更安全高效地處理隱私數(shù)據(jù)。在大規(guī)模和異構(gòu)環(huán)境中部署聯(lián)邦學(xué)習(xí)中,將會進(jìn)一步減少通信和計(jì)算的成本,可信虛擬人白皮書提高虛擬人系統(tǒng)的效率和有效性。差分隱私領(lǐng)域則將涌現(xiàn)更多高效的算法準(zhǔn)確地權(quán)衡效用和隱私損失,以提高虛擬人系統(tǒng)的可信度。(2)
內(nèi)容安全技術(shù)內(nèi)容安全技術(shù)是識別虛擬人系統(tǒng)生成內(nèi)容中的違規(guī)、違法情況的可信技術(shù)手段,主要包括生成內(nèi)容審核技術(shù)和深度偽造檢測技術(shù)。在虛擬人系統(tǒng)的內(nèi)容生成和發(fā)布的過程中,存在生成違規(guī)或違法內(nèi)容的風(fēng)險(xiǎn)。此外,基于人工智能技術(shù)偽造生成的違規(guī)或違法內(nèi)容具有隱蔽性,對個(gè)人財(cái)產(chǎn)安全,
社會穩(wěn)定和國家安全等造成了潛在威脅。例如,利用人工智能技術(shù)偽造語音進(jìn)行詐騙的事件在世界范圍內(nèi)引起廣泛關(guān)注;用虛擬人形象生成低俗圖片大量散布色情內(nèi)容,危害社會公共道德風(fēng)尚;假冒政治公眾人物生成“換臉”視頻,
對社會造成惡劣的負(fù)面影響?,F(xiàn)有的生成內(nèi)容審核技術(shù)通過機(jī)器學(xué)習(xí)等技術(shù)手段對大量數(shù)據(jù)進(jìn)行分析,從中提取出一系列與違規(guī)、非法信息相關(guān)的關(guān)鍵數(shù)據(jù),并以此作為內(nèi)容審核的依據(jù)。常見的生成內(nèi)容審核技術(shù)有自然語言處理技術(shù)、機(jī)器學(xué)習(xí)算法、內(nèi)容哈希技術(shù)、計(jì)算機(jī)視覺技術(shù)和深度學(xué)習(xí)算法等。這些技術(shù)通常結(jié)合使用,形成一個(gè)綜合性的生成內(nèi)容審核系統(tǒng),可以快速、準(zhǔn)確地識別并處理不適宜發(fā)布的虛擬人內(nèi)容?,F(xiàn)有的深度偽造檢測技術(shù)主要基于深度學(xué)習(xí)模型實(shí)現(xiàn)對偽造特征的提取并構(gòu)建分類器。偽造視頻檢測方法主要有基于視覺特征檢測、基于時(shí)序檢測、基于深度學(xué)習(xí)檢測、基于
Transformer
模型檢測等。1)基于視覺特征檢測通過分析視頻中的視覺特征來檢測偽造視頻。包括圖像和視頻中的不連續(xù)性、紋理不匹配、光照和陰影異常、人臉邊緣模糊等。通過觀察視頻的視覺特征是否與真實(shí)視頻一致,可以判斷其真實(shí)性;2)基于時(shí)序分析可以識別偽造視頻在時(shí)序上存在的異常。包括面部表情和嘴唇運(yùn)動的不自然變化、人物的姿態(tài)不連貫等。通過對視頻時(shí)序的分析,可以檢測出偽造視頻中的時(shí)序異常。3)基于深度學(xué)習(xí)檢測主要通過卷積神經(jīng)和LSTM
提取判別特征,
并將這些特征分配至深層或淺層分類器中進(jìn)行訓(xùn)練,
其中深層分類器基于神經(jīng)網(wǎng)絡(luò)模型實(shí)現(xiàn),
而淺層分類器則采用簡單的機(jī)器學(xué)習(xí)模型實(shí)現(xiàn),
最終完成對深度偽造視頻的準(zhǔn)確檢測。對于聽覺偽造的檢測,常見的方法包括語音識別和聲紋識別。這些方法利用深度學(xué)習(xí)模型對聲音進(jìn)行分析和建模,識別出偽造聲音的特征。例如,可以使用循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)或卷積神經(jīng)網(wǎng)絡(luò)(CNN)對聲音進(jìn)行建模,然后通過訓(xùn)練分類器來區(qū)分真實(shí)和偽造聲音。4)隨著大語言模型(LMM)技術(shù)的發(fā)展,以注意力(Attention)為核心概念的
Transformer
模型也逐步被引入至內(nèi)容簡析場景,用于完成分類、判別、回歸等各項(xiàng)任務(wù)。結(jié)合嵌入(Embedding)特征處理以及位置編碼等處理方法,Transformer
類算法可以在兼顧時(shí)間信息和空間信息的基礎(chǔ)上,對圖像、音頻、視頻等多模態(tài)信息進(jìn)行聯(lián)合處理,從多層次和多角度實(shí)現(xiàn)對數(shù)字人內(nèi)容合規(guī)的監(jiān)測與判定,從而更好地支持技術(shù)標(biāo)準(zhǔn)化規(guī)范化的需求??尚盘摂M人白皮書隨著網(wǎng)信辦等監(jiān)管機(jī)構(gòu)對各廠商生成內(nèi)容的監(jiān)管力度日益加強(qiáng),內(nèi)容安全的審核規(guī)范也變得更加清晰和明確。同時(shí)也需要發(fā)展更加高效、準(zhǔn)確的偽造內(nèi)容檢測技術(shù)。未來,虛擬人系統(tǒng)的內(nèi)容安全有賴于多特征提取結(jié)合和樣本學(xué)習(xí)技術(shù)的進(jìn)一步提升。探索多個(gè)特征提取結(jié)合方法,從不同角度融合特征,可以增強(qiáng)對偽造內(nèi)容的檢測能力。通過綜合利用視覺、音頻、時(shí)序等多種特征,可以提高檢測算法的準(zhǔn)確性和魯棒性。引入元學(xué)習(xí)和小樣本學(xué)習(xí)等技術(shù),可以幫助檢測算法在有限的樣本情況下進(jìn)行快速學(xué)習(xí)和適應(yīng)。隨著技術(shù)的發(fā)展,偽造內(nèi)容檢測技術(shù)的能力不斷增強(qiáng),可以更全面地覆蓋不同內(nèi)容風(fēng)險(xiǎn),為虛擬人系統(tǒng)生成的內(nèi)容提供更可靠的內(nèi)容審核和保護(hù)機(jī)制。(3)
穩(wěn)定性技術(shù)穩(wěn)定性技術(shù)是虛擬人系統(tǒng)在應(yīng)對復(fù)雜應(yīng)用環(huán)境和惡意攻擊的可信技術(shù)手段,涉及模型建立、數(shù)據(jù)收集和模型訓(xùn)練等過程。在虛擬人系統(tǒng)的實(shí)際應(yīng)用中,需要面對多種復(fù)雜的應(yīng)用環(huán)境??煽糠€(wěn)定的虛擬人系統(tǒng)可以在各種復(fù)雜環(huán)境中保持良好的性能,而穩(wěn)定性差的虛擬人系統(tǒng)則會表現(xiàn)性能不佳或輸出不期望的行為。在機(jī)器學(xué)習(xí)中對穩(wěn)定性的定義是“模型性能對其參數(shù)計(jì)算錯(cuò)誤的不敏感性”。例如,特斯拉虛擬人導(dǎo)航系統(tǒng)誤將月亮識別成黃色信號燈導(dǎo)致運(yùn)行錯(cuò)誤,或者人工智能系統(tǒng)遭受外部攻擊產(chǎn)生錯(cuò)誤??紤]到虛擬人系統(tǒng)在醫(yī)療、金融等安全關(guān)鍵領(lǐng)域的應(yīng)用,因此設(shè)計(jì)可靠穩(wěn)定的虛擬人系統(tǒng)至關(guān)重要。虛擬人系統(tǒng)的穩(wěn)定性涉及模型建立、數(shù)據(jù)收集到模型訓(xùn)練的全過程。在建立虛擬人系統(tǒng)模型時(shí),可以通過調(diào)整神經(jīng)網(wǎng)絡(luò)層和引入噪聲處理機(jī)制增加系統(tǒng)的穩(wěn)定性。對神經(jīng)網(wǎng)絡(luò)進(jìn)行層級調(diào)整能有效地改善模型的性能、減少過擬合,并適應(yīng)特定的輸入數(shù)據(jù)特征;在虛擬人系統(tǒng)模型的輸入層中引入附加隨機(jī)噪聲,并對后續(xù)層重新進(jìn)行參數(shù)化,可以利用這些附加信息增加系統(tǒng)對噪聲的穩(wěn)定性。在收集數(shù)據(jù)時(shí),可以通過擴(kuò)充訓(xùn)練數(shù)據(jù)減小噪聲、常見擾動或?qū)剐怨魧μ摂M人系統(tǒng)的干擾。對已有的訓(xùn)練數(shù)據(jù)進(jìn)行轉(zhuǎn)換擴(kuò)展生成新的訓(xùn)練數(shù)據(jù)可以有效提高虛擬人系統(tǒng)的穩(wěn)定性。此外,針對不同的攻擊方式,生成對抗性樣本數(shù)據(jù)、擾動和邊界樣本數(shù)據(jù),可以保護(hù)虛擬人系統(tǒng)抵御對抗性攻擊。模型訓(xùn)練也在創(chuàng)建虛擬人系統(tǒng)中起著不可或缺的作用。在模型訓(xùn)練過程中,用干擾數(shù)據(jù)來補(bǔ)充自然數(shù)據(jù)可以使模型包含有關(guān)數(shù)據(jù)的信息,更好地代表真實(shí)世界場景的可變性;動態(tài)擾動訓(xùn)練通過在訓(xùn)練過程中引入隨機(jī)性,增加數(shù)據(jù)集的多樣性,從而增強(qiáng)了虛擬人系
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 課題申報(bào)參考:進(jìn)一步全面深化改革推進(jìn)中國式現(xiàn)代化的學(xué)理性研究
- 課題申報(bào)參考:建設(shè)用地減量化的空間優(yōu)化效應(yīng)、機(jī)制與政策優(yōu)化研究
- 2025年erp沙盤模擬學(xué)習(xí)心得(3篇)
- 2025版投資協(xié)議補(bǔ)充協(xié)議:產(chǎn)業(yè)鏈整合投資合作補(bǔ)充協(xié)議3篇
- 2025年度個(gè)性化定制汽車租賃合同書4篇
- 二零二五版漫畫連載網(wǎng)絡(luò)平臺版權(quán)合作協(xié)議4篇
- 2025年汕尾貨車從業(yè)資格證考什么
- 2025年食堂承包經(jīng)營食品安全風(fēng)險(xiǎn)評估與防控合同3篇
- 二零二五年度城市公交車輛掛靠經(jīng)營許可合同4篇
- 二零二五年度廠房污水處理及排放合同匯編3篇
- 2025年溫州市城發(fā)集團(tuán)招聘筆試參考題庫含答案解析
- 2025年中小學(xué)春節(jié)安全教育主題班會課件
- 2025版高考物理復(fù)習(xí)知識清單
- 除數(shù)是兩位數(shù)的除法練習(xí)題(84道)
- 2025年度安全檢查計(jì)劃
- 2024年度工作總結(jié)與計(jì)劃標(biāo)準(zhǔn)版本(2篇)
- 全球半導(dǎo)體測試探針行業(yè)市場研究報(bào)告2024
- 反走私課件完整版本
- 2024年注冊計(jì)量師-一級注冊計(jì)量師考試近5年真題附答案
- 【可行性報(bào)告】2023年電動自行車行業(yè)項(xiàng)目可行性分析報(bào)告
- 臨床見習(xí)教案COPD地診療教案
評論
0/150
提交評論