《人工智能生成合成內(nèi)容標(biāo)識辦法（征求意見稿）》解讀

《人工智能生成合成內(nèi)容標(biāo)識辦法（征求意見稿）》解讀作者丨樊曉娟

印磊黃海逸2024年9月14日，《人工智能生成合成內(nèi)容標(biāo)識辦法（征求意見稿）》（簡稱“《標(biāo)識辦法》”）發(fā)布；作為配套，《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識方法》強制性國家標(biāo)準(zhǔn)（征求意見稿）（簡稱“《標(biāo)識方法標(biāo)準(zhǔn)》”與《標(biāo)識辦法》合成“標(biāo)識規(guī)范”）也于同日發(fā)布。人工智能生成內(nèi)容（簡稱“AIGC”）標(biāo)識是中國人工智能治理的主要監(jiān)管措施之一，對標(biāo)識的要求規(guī)定較為原則。如今兩個征求意見稿的落地，意味著AIGC標(biāo)識不但有據(jù)可依，而且將有更為細(xì)致的規(guī)范。本文將通過解讀兩個征求意見稿，一覽AIGC標(biāo)識的具體規(guī)范與監(jiān)管趨勢。一、法律基礎(chǔ)中國對人工智能監(jiān)管，尤其是AIGC領(lǐng)域監(jiān)管的相關(guān)規(guī)定主要包括《網(wǎng)絡(luò)安全法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》及《生成式人工智能服務(wù)管理暫行辦法》。而《標(biāo)識辦法》也開宗明義地援引了前述規(guī)定。二、規(guī)制對象兩份標(biāo)識規(guī)范的規(guī)制對象均為AIGC。根據(jù)《標(biāo)識辦法》的定義，AIGC指利用人工智能技術(shù)制作、生成、合成的文本、圖片、音頻、視頻等信息。這一定義與《生成式人工智能服務(wù)管理暫行辦法》中對于“生成式人工智能服務(wù)”的定義互相匹配。三、適用法域《標(biāo)識辦法》的規(guī)定僅適用于向境內(nèi)公眾提供服務(wù)的情形。因此，如服務(wù)提供者僅向境外用戶提供服務(wù)，無需遵守《標(biāo)識辦法》。但需要提醒的是，向境外用戶提供人工智能生成合成服務(wù)的服務(wù)提供者需要遵守相應(yīng)境外法域的法律規(guī)定。四、責(zé)任主體及其主要義務(wù)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》及《生成式人工智能服務(wù)管理暫行辦法》均對AIGC標(biāo)識有所規(guī)定。但《標(biāo)識辦法》對于責(zé)任主體及其責(zé)任作出了細(xì)化，涉及了AIGC的多個行業(yè)。（一）生成服務(wù)提供者與既有規(guī)定一樣，根據(jù)《標(biāo)識辦法》第二條的規(guī)定，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》規(guī)定情形的網(wǎng)絡(luò)信息服務(wù)提供者（簡稱“生成服務(wù)提供者”）是責(zé)任主體，主要指人工智能生成合成服務(wù)的服務(wù)提供者。例如，AI繪畫、AI寫作、AI音樂合成、AI視頻合成等服務(wù)的提供者等都在其列。

該等服務(wù)提供者有義務(wù)在對規(guī)制范圍內(nèi)的AIGC按照強制性國家標(biāo)準(zhǔn)的要求添加相應(yīng)標(biāo)識，包括根據(jù)不同情況添加顯式標(biāo)識和隱式標(biāo)識（下文詳述），并在履行算法備案、安全評估等手續(xù)時配合提供相關(guān)材料。例如，提供AI換臉視頻應(yīng)用時，服務(wù)提供者應(yīng)當(dāng)通過技術(shù)手段在合成后的視頻的指定位置添加必要的標(biāo)識。

值得注意的是，《標(biāo)識辦法》對生成服務(wù)提供者的責(zé)任予以了一定程度的松綁?！稑?biāo)識辦法》第九條規(guī)定：“如用戶需要服務(wù)提供者提供沒有添加顯式標(biāo)識的生成合成內(nèi)容，可在通過用戶協(xié)議明確用戶的標(biāo)識義務(wù)和使用責(zé)任后，提供不含顯式標(biāo)識的生成合成內(nèi)容，并留存相關(guān)日志不少于六個月。”根據(jù)該規(guī)定，如果用戶需要且通過用戶協(xié)議明確用戶的義務(wù)和使用責(zé)任后，服務(wù)提供者提供顯式標(biāo)識的義務(wù)可以豁免，但仍有義務(wù)留存日志。（二）網(wǎng)絡(luò)平臺服務(wù)提供者《標(biāo)識辦法》第六條、第七條進(jìn)一步明確提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺服務(wù)的服務(wù)提供者和互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺（簡稱“網(wǎng)絡(luò)平臺”）也屬于該辦法的責(zé)任主體之一。例如，社交媒體平臺、網(wǎng)絡(luò)直播平臺、視頻分享平臺等都屬于該類責(zé)任主體。

網(wǎng)絡(luò)平臺服務(wù)提供者有義務(wù)采取措施，規(guī)范生成合成內(nèi)容傳播活動。根據(jù)《標(biāo)識辦法》第六條、第七條，網(wǎng)絡(luò)平臺在AIGC標(biāo)識方面的義務(wù)主要是兩方面。一方面是核驗與提醒，在發(fā)現(xiàn)應(yīng)含未含標(biāo)識的情形時，采取適當(dāng)方式添加標(biāo)識，以提醒用戶該內(nèi)容屬于或疑似生成合成內(nèi)容；另一方面是提供必要的標(biāo)識功能，提醒用戶主動聲明其生成合成內(nèi)容。舉例而言，如果網(wǎng)絡(luò)直播平臺應(yīng)當(dāng)發(fā)現(xiàn)平臺有虛擬主播帶貨，但未標(biāo)識的，應(yīng)當(dāng)采取適當(dāng)方式添加標(biāo)識，以提醒用戶該內(nèi)容屬于或疑似生成合成內(nèi)容。再例如，手機(jī)應(yīng)用市場平臺在審核AI繪畫應(yīng)用上架時，應(yīng)核驗服務(wù)提供者是否按要求提供生成合成內(nèi)容標(biāo)識功能。（三）用戶《標(biāo)識辦法》還明確了用戶也屬于AIGC標(biāo)識的義務(wù)主體之一。根據(jù)《標(biāo)識辦法》第十條的規(guī)定：“用戶向提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺服務(wù)的服務(wù)提供者上傳生成合成內(nèi)容時，應(yīng)當(dāng)主動聲明并使用平臺提供的標(biāo)識功能進(jìn)行標(biāo)識。任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標(biāo)識，不得為他人實施上述惡意行為提供工具或服務(wù)，不得通過不正當(dāng)標(biāo)識手段損害他人合法權(quán)益?！蔽?、標(biāo)識要求和方法《標(biāo)識辦法》和《標(biāo)識方法標(biāo)準(zhǔn)》在現(xiàn)有規(guī)定的基礎(chǔ)上對標(biāo)識要求和方法作出了細(xì)化規(guī)定。（一）標(biāo)識分類《標(biāo)識辦法》將標(biāo)識分為顯式標(biāo)識和隱式標(biāo)識。《標(biāo)識方法標(biāo)準(zhǔn)》對顯式標(biāo)識和隱式標(biāo)識的定義與《標(biāo)識辦法》的定義一致。根據(jù)《標(biāo)識辦法》第二條，顯式標(biāo)識和隱式標(biāo)識的定義如下。

1、顯式標(biāo)識

顯式標(biāo)識是指在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可被用戶明顯感知到的標(biāo)識。

2、隱式標(biāo)識

隱式標(biāo)識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識。根據(jù)《標(biāo)識辦法》第五條的規(guī)定，隱式標(biāo)識應(yīng)包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或編碼、內(nèi)容編號等制作要素信息。（二）不同標(biāo)識的適用范圍不同標(biāo)識的適用范圍分別如下。

1、顯式標(biāo)識

根據(jù)《標(biāo)識辦法》服務(wù)提供者提供的生成合成服務(wù)屬于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形的，應(yīng)當(dāng)按照《標(biāo)識辦法》第四條的要求對生成合成內(nèi)容添加顯式標(biāo)識。

《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形指下列情形：

“（一）智能對話、智能寫作等模擬自然人進(jìn)行文本的生成或者編輯服務(wù)；（二）合成人聲、仿聲等語音生成或者顯著改變個人身份特征的編輯服務(wù)；（三）人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務(wù)；（四）沉浸式擬真場景等生成或者編輯服務(wù)；（五）其他具有生成或者顯著改變信息內(nèi)容功能的服務(wù)?！?/p>

而根據(jù)《標(biāo)識方法標(biāo)準(zhǔn)》顯式標(biāo)識的應(yīng)用場景還包括：

*文生圖片等圖片內(nèi)容生成服務(wù)；*音樂等音頻內(nèi)容生成服務(wù)；*文生視頻、圖生視頻等視頻內(nèi)容生成服務(wù)

《標(biāo)識方法標(biāo)準(zhǔn)》將顯式標(biāo)識具體分為文本內(nèi)容顯式標(biāo)識、圖片內(nèi)容顯式標(biāo)識、音頻內(nèi)容顯式標(biāo)識、視頻內(nèi)容顯式標(biāo)識和交互場景界面顯式標(biāo)識，與《標(biāo)識方法》第四條的要求互相匹配。

2、隱式標(biāo)識

除《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形外，服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條的規(guī)定，在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識。

《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條的規(guī)定為：“深度合成服務(wù)提供者對使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識，并依照法律、行政法規(guī)和國家有關(guān)規(guī)定保存日志信息。”

《標(biāo)識方法標(biāo)準(zhǔn)》將隱式標(biāo)識分為元數(shù)據(jù)隱式標(biāo)識和內(nèi)容隱式標(biāo)識。但《標(biāo)識方法標(biāo)準(zhǔn)》僅詳細(xì)列舉了元數(shù)據(jù)隱式標(biāo)識的方法。（三）標(biāo)識方法標(biāo)識必須符合強制性國家標(biāo)準(zhǔn)的要求。

目前制定中的《標(biāo)識方法標(biāo)準(zhǔn)》從征求意見稿顯示的代號為GB/T。根據(jù)《國家標(biāo)準(zhǔn)管理辦法》，推薦性國家標(biāo)準(zhǔn)的代號為“GB/T”。《標(biāo)識方法標(biāo)準(zhǔn)》生效時仍冠以GB/T為代號，則其應(yīng)屬推薦性國家標(biāo)準(zhǔn)而非強制性國家標(biāo)準(zhǔn)。至于AIGC標(biāo)識何時出臺強制性國家標(biāo)準(zhǔn)有待觀察。

1、顯式標(biāo)識的標(biāo)識方法

根據(jù)兩個標(biāo)識規(guī)范，標(biāo)識方法的具體要求如下。2、隱式標(biāo)識的標(biāo)識方法

根據(jù)兩個標(biāo)識規(guī)范，在生成合成內(nèi)容的文件元數(shù)據(jù)中應(yīng)添加隱式標(biāo)識?！拔募獢?shù)據(jù)”指按照特定編碼格式嵌入到文件頭部的描述性信息，用于記錄文件來源、屬性、用途、版權(quán)等信息內(nèi)容。

《標(biāo)識方法標(biāo)準(zhǔn)》規(guī)定的元數(shù)據(jù)隱式標(biāo)識方法如下：

“a)隱式標(biāo)識應(yīng)包括以下要素：

1)生成合成標(biāo)簽要素：內(nèi)容的人工智能生成合成屬性信息，包括確定、可能、疑似；2)生成合成服務(wù)提供者要素：生成合成服務(wù)提供者的名稱或編碼；3)內(nèi)容制作編號要素：生成合成服務(wù)提供者對該內(nèi)容的唯一編號；4)內(nèi)容傳播服務(wù)提供者要素：內(nèi)容傳播服務(wù)提供者的名稱或編碼；5)內(nèi)容傳播編號要素：內(nèi)容傳播服務(wù)提供者對該內(nèi)容的唯一編號。

b)元數(shù)據(jù)隱式標(biāo)識格式應(yīng)符合《標(biāo)識方法標(biāo)準(zhǔn)》附錄E。

c)確定、可能、疑似為人工智能生成合成的內(nèi)容文件中，應(yīng)僅保留一份元數(shù)據(jù)隱式標(biāo)識?！绷⑾嚓P(guān)企業(yè)的合規(guī)應(yīng)對作為人工智能生成合成內(nèi)容的服務(wù)提供者的企業(yè)，網(wǎng)絡(luò)信息內(nèi)容傳播平臺運營企業(yè)和互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺運營企業(yè)，都涉及相關(guān)主體的AIGC標(biāo)識義務(wù)。那么相關(guān)企業(yè)應(yīng)當(dāng)如何應(yīng)對呢？（一）識別首先，企業(yè)可以梳理正在運營的業(yè)務(wù)和計劃運營的業(yè)務(wù)，在專業(yè)律師指導(dǎo)下識別適用《標(biāo)識辦法》的業(yè)務(wù)范圍和業(yè)務(wù)體量，對業(yè)務(wù)涉及的人工智能生成合成內(nèi)容進(jìn)行分類和評估。（二）制度建設(shè)其次，企業(yè)可以在專業(yè)律師指導(dǎo)下，對AIGC標(biāo)識的流程和審核建立內(nèi)部機(jī)制，確保AIGC被適當(dāng)標(biāo)識