《人工智能生成合成內(nèi)容標識辦法（征求意見稿）》解讀

《人工智能生成合成內(nèi)容標識辦法（征求意見稿）》解讀作者丨樊曉娟

印磊黃海逸2024年9月14日，《人工智能生成合成內(nèi)容標識辦法（征求意見稿）》（簡稱“《標識辦法》”）發(fā)布；作為配套，《網(wǎng)絡安全技術(shù)人工智能生成合成內(nèi)容標識方法》強制性國家標準（征求意見稿）（簡稱“《標識方法標準》”與《標識辦法》合成“標識規(guī)范”）也于同日發(fā)布。人工智能生成內(nèi)容（簡稱“AIGC”）標識是中國人工智能治理的主要監(jiān)管措施之一，對標識的要求規(guī)定較為原則。如今兩個征求意見稿的落地，意味著AIGC標識不但有據(jù)可依，而且將有更為細致的規(guī)范。本文將通過解讀兩個征求意見稿，一覽AIGC標識的具體規(guī)范與監(jiān)管趨勢。一、法律基礎(chǔ)中國對人工智能監(jiān)管，尤其是AIGC領(lǐng)域監(jiān)管的相關(guān)規(guī)定主要包括《網(wǎng)絡安全法》《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》及《生成式人工智能服務管理暫行辦法》。而《標識辦法》也開宗明義地援引了前述規(guī)定。二、規(guī)制對象兩份標識規(guī)范的規(guī)制對象均為AIGC。根據(jù)《標識辦法》的定義，AIGC指利用人工智能技術(shù)制作、生成、合成的文本、圖片、音頻、視頻等信息。這一定義與《生成式人工智能服務管理暫行辦法》中對于“生成式人工智能服務”的定義互相匹配。三、適用法域《標識辦法》的規(guī)定僅適用于向境內(nèi)公眾提供服務的情形。因此，如服務提供者僅向境外用戶提供服務，無需遵守《標識辦法》。但需要提醒的是，向境外用戶提供人工智能生成合成服務的服務提供者需要遵守相應境外法域的法律規(guī)定。四、責任主體及其主要義務《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》及《生成式人工智能服務管理暫行辦法》均對AIGC標識有所規(guī)定。但《標識辦法》對于責任主體及其責任作出了細化，涉及了AIGC的多個行業(yè)。（一）生成服務提供者與既有規(guī)定一樣，根據(jù)《標識辦法》第二條的規(guī)定，《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》規(guī)定情形的網(wǎng)絡信息服務提供者（簡稱“生成服務提供者”）是責任主體，主要指人工智能生成合成服務的服務提供者。例如，AI繪畫、AI寫作、AI音樂合成、AI視頻合成等服務的提供者等都在其列。

該等服務提供者有義務在對規(guī)制范圍內(nèi)的AIGC按照強制性國家標準的要求添加相應標識，包括根據(jù)不同情況添加顯式標識和隱式標識（下文詳述），并在履行算法備案、安全評估等手續(xù)時配合提供相關(guān)材料。例如，提供AI換臉視頻應用時，服務提供者應當通過技術(shù)手段在合成后的視頻的指定位置添加必要的標識。

值得注意的是，《標識辦法》對生成服務提供者的責任予以了一定程度的松綁。《標識辦法》第九條規(guī)定：“如用戶需要服務提供者提供沒有添加顯式標識的生成合成內(nèi)容，可在通過用戶協(xié)議明確用戶的標識義務和使用責任后，提供不含顯式標識的生成合成內(nèi)容，并留存相關(guān)日志不少于六個月?！备鶕?jù)該規(guī)定，如果用戶需要且通過用戶協(xié)議明確用戶的義務和使用責任后，服務提供者提供顯式標識的義務可以豁免，但仍有義務留存日志。（二）網(wǎng)絡平臺服務提供者《標識辦法》第六條、第七條進一步明確提供網(wǎng)絡信息內(nèi)容傳播平臺服務的服務提供者和互聯(lián)網(wǎng)應用程序分發(fā)平臺（簡稱“網(wǎng)絡平臺”）也屬于該辦法的責任主體之一。例如，社交媒體平臺、網(wǎng)絡直播平臺、視頻分享平臺等都屬于該類責任主體。

網(wǎng)絡平臺服務提供者有義務采取措施，規(guī)范生成合成內(nèi)容傳播活動。根據(jù)《標識辦法》第六條、第七條，網(wǎng)絡平臺在AIGC標識方面的義務主要是兩方面。一方面是核驗與提醒，在發(fā)現(xiàn)應含未含標識的情形時，采取適當方式添加標識，以提醒用戶該內(nèi)容屬于或疑似生成合成內(nèi)容；另一方面是提供必要的標識功能，提醒用戶主動聲明其生成合成內(nèi)容。舉例而言，如果網(wǎng)絡直播平臺應當發(fā)現(xiàn)平臺有虛擬主播帶貨，但未標識的，應當采取適當方式添加標識，以提醒用戶該內(nèi)容屬于或疑似生成合成內(nèi)容。再例如，手機應用市場平臺在審核AI繪畫應用上架時，應核驗服務提供者是否按要求提供生成合成內(nèi)容標識功能。（三）用戶《標識辦法》還明確了用戶也屬于AIGC標識的義務主體之一。根據(jù)《標識辦法》第十條的規(guī)定：“用戶向提供網(wǎng)絡信息內(nèi)容傳播平臺服務的服務提供者上傳生成合成內(nèi)容時，應當主動聲明并使用平臺提供的標識功能進行標識。任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標識，不得為他人實施上述惡意行為提供工具或服務，不得通過不正當標識手段損害他人合法權(quán)益。”五、標識要求和方法《標識辦法》和《標識方法標準》在現(xiàn)有規(guī)定的基礎(chǔ)上對標識要求和方法作出了細化規(guī)定。（一）標識分類《標識辦法》將標識分為顯式標識和隱式標識?！稑俗R方法標準》對顯式標識和隱式標識的定義與《標識辦法》的定義一致。根據(jù)《標識辦法》第二條，顯式標識和隱式標識的定義如下。

1、顯式標識

顯式標識是指在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可被用戶明顯感知到的標識。

2、隱式標識

隱式標識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標識。根據(jù)《標識辦法》第五條的規(guī)定，隱式標識應包含生成合成內(nèi)容屬性信息、服務提供者名稱或編碼、內(nèi)容編號等制作要素信息。（二）不同標識的適用范圍不同標識的適用范圍分別如下。

1、顯式標識

根據(jù)《標識辦法》服務提供者提供的生成合成服務屬于《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》第十七條第一款情形的，應當按照《標識辦法》第四條的要求對生成合成內(nèi)容添加顯式標識。

《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》第十七條第一款情形指下列情形：

“（一）智能對話、智能寫作等模擬自然人進行文本的生成或者編輯服務；（二）合成人聲、仿聲等語音生成或者顯著改變個人身份特征的編輯服務；（三）人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務；（四）沉浸式擬真場景等生成或者編輯服務；（五）其他具有生成或者顯著改變信息內(nèi)容功能的服務?！?/p>

而根據(jù)《標識方法標準》顯式標識的應用場景還包括：

*文生圖片等圖片內(nèi)容生成服務；*音樂等音頻內(nèi)容生成服務；*文生視頻、圖生視頻等視頻內(nèi)容生成服務

《標識方法標準》將顯式標識具體分為文本內(nèi)容顯式標識、圖片內(nèi)容顯式標識、音頻內(nèi)容顯式標識、視頻內(nèi)容顯式標識和交互場景界面顯式標識，與《標識方法》第四條的要求互相匹配。

2、隱式標識

除《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》第十七條第一款情形外，服務提供者應當按照《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》第十六條的規(guī)定，在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標識。

《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》第十六條的規(guī)定為：“深度合成服務提供者對使用其服務生成或者編輯的信息內(nèi)容，應當采取技術(shù)措施添加不影響用戶使用的標識，并依照法律、行政法規(guī)和國家有關(guān)規(guī)定保存日志信息。”

《標識方法標準》將隱式標識分為元數(shù)據(jù)隱式標識和內(nèi)容隱式標識。但《標識方法標準》僅詳細列舉了元數(shù)據(jù)隱式標識的方法。（三）標識方法標識必須符合強制性國家標準的要求。

目前制定中的《標識方法標準》從征求意見稿顯示的代號為GB/T。根據(jù)《國家標準管理辦法》，推薦性國家標準的代號為“GB/T”。《標識方法標準》生效時仍冠以GB/T為代號，則其應屬推薦性國家標準而非強制性國家標準。至于AIGC標識何時出臺強制性國家標準有待觀察。

1、顯式標識的標識方法

根據(jù)兩個標識規(guī)范，標識方法的具體要求如下。2、隱式標識的標識方法

根據(jù)兩個標識規(guī)范，在生成合成內(nèi)容的文件元數(shù)據(jù)中應添加隱式標識?！拔募獢?shù)據(jù)”指按照特定編碼格式嵌入到文件頭部的描述性信息，用于記錄文件來源、屬性、用途、版權(quán)等信息內(nèi)容。

《標識方法標準》規(guī)定的元數(shù)據(jù)隱式標識方法如下：

“a)隱式標識應包括以下要素：

1)生成合成標簽要素：內(nèi)容的人工智能生成合成屬性信息，包括確定、可能、疑似；2)生成合成服務提供者要素：生成合成服務提供者的名稱或編碼；3)內(nèi)容制作編號要素：生成合成服務提供者對該內(nèi)容的唯一編號；4)內(nèi)容傳播服務提供者要素：內(nèi)容傳播服務提供者的名稱或編碼；5)內(nèi)容傳播編號要素：內(nèi)容傳播服務提供者對該內(nèi)容的唯一編號。

b)元數(shù)據(jù)隱式標識格式應符合《標識方法標準》附錄E。

c)確定、可能、疑似為人工智能生成合成的內(nèi)容文件中，應僅保留一份元數(shù)據(jù)隱式標識?！绷?、相關(guān)企業(yè)的合規(guī)應對作為人工智能生成合成內(nèi)容的服務提供者的企業(yè)，網(wǎng)絡信息內(nèi)容傳播平臺運營企業(yè)和互聯(lián)網(wǎng)應用程序分發(fā)平臺運營企業(yè)，都涉及相關(guān)主體的AIGC標識義務。那么相關(guān)企業(yè)應當如何應對呢？（一）識別首先，企業(yè)可以梳理正在運營的業(yè)務和計劃運營的業(yè)務，在專業(yè)律師指導下識別適用《標識辦法》的業(yè)務范圍和業(yè)務體量，對業(yè)務涉及的人工智能生成合成內(nèi)容進行分類和評估。（二）制度建設其次，企業(yè)可以在專業(yè)律師指導下，對AIGC標識的流程和審核建立內(nèi)部機制，確保AIGC被適當標識