我國Chat GPT 類產(chǎn)品運(yùn)行中的風(fēng)險(xiǎn)和風(fēng)險(xiǎn)規(guī)制問題研究

一、ChatGPT類產(chǎn)品合規(guī)治理(一)人工智能產(chǎn)品律法的發(fā)展歷程2012年影音圖像識(shí)別技術(shù)和識(shí)別精度的提升，讓人們能夠更加便捷地使用軟件將影音圖像進(jìn)行深度合成，比如人工智能換臉技術(shù)，就是將一個(gè)人的肖像剪切到另外一個(gè)人的頭上。但換臉技術(shù)會(huì)產(chǎn)生一些道德倫理方面的問題，甚至?xí)胁环ǚ肿永闷溥M(jìn)行犯罪活動(dòng)。我國目前對(duì)于人工智能這一方面的法規(guī)只有一些零星的規(guī)定，未能形成系統(tǒng)性的法律法規(guī)體系，導(dǎo)致犯罪分子的定罪較為困難。下面五部法規(guī)為我國目前對(duì)人工智能監(jiān)管方面進(jìn)行合規(guī)治理的依據(jù)：1.《網(wǎng)絡(luò)音頻信息服務(wù)管理規(guī)定》由網(wǎng)信辦、文旅部和廣電總局聯(lián)合發(fā)布，2020年1月1日起實(shí)施。該規(guī)定第十條(具有媒體屬性或者社會(huì)動(dòng)員功能的音視頻信息服務(wù))和第十一條(生成內(nèi)容標(biāo)識(shí)和不得發(fā)布虛假信息)對(duì)人工智能生成內(nèi)容的音頻方面做出了規(guī)定。2.《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》由網(wǎng)信辦發(fā)布，2020年3月1日起實(shí)施。該規(guī)定第二十三條指出，網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者和網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者、網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺(tái)不得利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用從事法律、行政法規(guī)禁止的活動(dòng)。該規(guī)定對(duì)網(wǎng)絡(luò)信息生成內(nèi)容生態(tài)進(jìn)行了約束，人工智能利用深度學(xué)習(xí)、機(jī)器學(xué)習(xí)和網(wǎng)絡(luò)虛擬技術(shù)所生成的內(nèi)容都要符合相關(guān)主管部門的規(guī)定。3.《民法典》第一千零一十九條規(guī)定，任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)?！睹穹ǖ洹返谝磺Я愣龡l規(guī)定，對(duì)自然人聲音的保護(hù)，參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定。上述規(guī)定適用于人的肖像權(quán)和聲音的保護(hù)。4.《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》由網(wǎng)信辦、公安部、工信部和市場(chǎng)監(jiān)督管理總局聯(lián)合發(fā)布，2022年3月1日起實(shí)施。該規(guī)定第二條、第九條和第十三條，均對(duì)合成內(nèi)容做出了規(guī)定，特別是規(guī)范了算法的適用范疇。5.《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》由網(wǎng)信辦、工信部和公安部聯(lián)合發(fā)布，2023年1月10日起實(shí)施。該文件對(duì)于深度合成服務(wù)和產(chǎn)品提出了全方位的合規(guī)要求，是我國當(dāng)前人工智能內(nèi)容以及人工智能發(fā)布平臺(tái)進(jìn)行合規(guī)治理最核心的一個(gè)依據(jù)，也就是深度合成內(nèi)容的一個(gè)管理規(guī)定。(二)產(chǎn)品的牌照和備案我國實(shí)行行業(yè)準(zhǔn)入制度，在互聯(lián)網(wǎng)行業(yè)內(nèi)，互聯(lián)網(wǎng)產(chǎn)品在上市的時(shí)候需要滿足基礎(chǔ)牌照的要求。我國的主管機(jī)關(guān)對(duì)于互聯(lián)網(wǎng)平臺(tái)的治理會(huì)提出的很高的一些要求，那么存在ChatGPT類產(chǎn)品的平臺(tái)或者軟件運(yùn)營者又都需要滿足哪些基礎(chǔ)的要求？另外，互聯(lián)網(wǎng)平臺(tái)一般除了主營業(yè)務(wù)之外，其他旁支業(yè)務(wù)也會(huì)不斷地進(jìn)行擴(kuò)大與發(fā)展，衍生出更多的業(yè)務(wù)線，但基礎(chǔ)要求的前提是其生成的內(nèi)容是一些相對(duì)簡單的文字類的解釋，并且其問答的性質(zhì)是能不具有文化屬性的，所以業(yè)務(wù)的升級(jí)，則又需要滿足哪些要求？1.產(chǎn)品上線的基礎(chǔ)要求(1)基礎(chǔ)牌照。人工智能學(xué)習(xí)所需要的內(nèi)容和輸出的內(nèi)容均屬于互聯(lián)網(wǎng)信息。按照《互聯(lián)網(wǎng)信息服務(wù)管理辦法》第七條從事經(jīng)營性互聯(lián)網(wǎng)信息服務(wù)，應(yīng)向電信管理機(jī)構(gòu)或者國務(wù)院信息產(chǎn)業(yè)主管部門申請(qǐng)辦理互聯(lián)網(wǎng)信息服務(wù)增值電信業(yè)務(wù)經(jīng)營許可證。ChatGPT類產(chǎn)品則適用《電信業(yè)務(wù)分類目錄》B類增值電信業(yè)務(wù)項(xiàng)下的B21(在線數(shù)據(jù)處理和交易處理業(yè)務(wù))和B25(信息服務(wù)業(yè)務(wù)，包括信息發(fā)布平臺(tái)和遞送服務(wù)、信息檢索查詢服務(wù)、信息社區(qū)平臺(tái)服務(wù)、信息即時(shí)交互服務(wù)、信息保護(hù)和處理服務(wù)等)許可證。一個(gè)目的是在兩個(gè)監(jiān)管機(jī)構(gòu)存檔，讓他們知道這個(gè)網(wǎng)站誰在做，做什么，如何聯(lián)系；另一個(gè)目的則是為將來的業(yè)務(wù)發(fā)展預(yù)留空間。(2)算法備案。人工智能的深度合成內(nèi)容有清晰的規(guī)定，根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十九條指出，具有輿論屬性和或社會(huì)動(dòng)員能力的深度合成服務(wù)提供者，應(yīng)該履行算法備案、變更、注銷手續(xù)。所以互聯(lián)網(wǎng)平臺(tái)只要具有社會(huì)輿論性質(zhì)或是具有社會(huì)動(dòng)員能力，產(chǎn)品上線以及運(yùn)營都需要經(jīng)過該規(guī)定進(jìn)行備案。(3)安全評(píng)估。在互聯(lián)網(wǎng)平臺(tái)上線產(chǎn)品前，除了需要遵守《數(shù)據(jù)安全法》《網(wǎng)絡(luò)安全法》《個(gè)人信息保護(hù)法》外，還需要遵循《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》第三條，聯(lián)網(wǎng)信息服務(wù)提供者應(yīng)當(dāng)依照本規(guī)定自行開展安全評(píng)估，并對(duì)評(píng)估結(jié)果負(fù)責(zé)。綜上所述，我國互聯(lián)網(wǎng)平臺(tái)上線ChatGPT類產(chǎn)品時(shí)，需要首先申請(qǐng)對(duì)應(yīng)的互聯(lián)網(wǎng)信息服務(wù)增值電信業(yè)務(wù)經(jīng)營許可證，其次是將算法進(jìn)行備案，最后是根據(jù)三大法規(guī)及評(píng)估規(guī)定進(jìn)行安全評(píng)估，均通過后方可上線產(chǎn)品。2.業(yè)務(wù)升級(jí)的進(jìn)階要求(1)網(wǎng)絡(luò)文化經(jīng)營許可證。在互聯(lián)網(wǎng)技術(shù)和媒體發(fā)展推動(dòng)下，網(wǎng)絡(luò)文藝蓬勃發(fā)展，網(wǎng)絡(luò)文學(xué)、網(wǎng)絡(luò)影視、網(wǎng)絡(luò)綜藝、網(wǎng)絡(luò)比賽、網(wǎng)絡(luò)動(dòng)漫、網(wǎng)絡(luò)音樂、短視頻等文化藝術(shù)類創(chuàng)作不斷迸發(fā)。如果ChatGPT類產(chǎn)品的平臺(tái)進(jìn)行了以盈利為目地的營業(yè)性互聯(lián)網(wǎng)文藝活動(dòng)，向上網(wǎng)客戶收費(fèi)或是網(wǎng)絡(luò)技術(shù)、廣告宣傳、冠名贊助等方法獲得權(quán)益，展出互聯(lián)網(wǎng)文化產(chǎn)品以及服務(wù)項(xiàng)目的主題活動(dòng)，就需要辦理《網(wǎng)絡(luò)文化經(jīng)營許可證》。(2)網(wǎng)絡(luò)出版服務(wù)許可證。傳統(tǒng)的圖書和音像制品是以物質(zhì)的形式存在，并且是通過出版社、報(bào)紙、期刊、唱片公司進(jìn)行發(fā)行，具有版權(quán)，受到法律的保護(hù)。經(jīng)過互聯(lián)網(wǎng)的發(fā)展，大部分圖書和音響制品不再需要通過其他渠道進(jìn)行發(fā)行，直接上傳至平臺(tái)即可，載體從實(shí)物轉(zhuǎn)化成數(shù)據(jù)，需要獲取網(wǎng)絡(luò)出版的版權(quán)。所以ChatGPT類產(chǎn)品的平臺(tái)發(fā)展不能缺少《網(wǎng)絡(luò)出版服務(wù)許可證》。(3)信息網(wǎng)絡(luò)傳播視聽節(jié)目許可證。網(wǎng)絡(luò)視聽節(jié)目比網(wǎng)絡(luò)文化涵蓋面更廣，包括網(wǎng)絡(luò)劇、網(wǎng)絡(luò)電影、紀(jì)錄片、文藝、娛樂、科技、財(cái)經(jīng)、體育、教育、原創(chuàng)試聽節(jié)目等。如今ChatGPT的接收與輸出也在從圖文類正在向影像類發(fā)展，所以也需要《信息網(wǎng)絡(luò)傳播視聽節(jié)目許可證》來支撐其發(fā)展。該證在我國申請(qǐng)難度大，但含金量極高。(4)互聯(lián)網(wǎng)新聞信息服務(wù)許可證。用戶在使用ChatGPT的時(shí)候會(huì)為其提供一些新聞事件的報(bào)導(dǎo)或是讓其輸出，相當(dāng)于向社會(huì)公眾提供了互聯(lián)網(wǎng)的新聞信息服務(wù)，所以應(yīng)當(dāng)取得《互聯(lián)網(wǎng)新聞信息服務(wù)許可》，才可開展互聯(lián)網(wǎng)新聞信息服務(wù)活動(dòng)。(5)數(shù)據(jù)安全評(píng)估。ChatGPT的本質(zhì)是一個(gè)大的語言模型，之所以ChatGPT能夠以人類自然語言的形式輸出，是因?yàn)樗康氖菍?duì)于海量內(nèi)容進(jìn)行分析所得出來的人類語言的相關(guān)規(guī)則。因?yàn)橛袛?shù)據(jù)的交互，所以這里就涉及到數(shù)據(jù)安全的問題。用戶使用產(chǎn)品的時(shí)候，會(huì)遺留大量的個(gè)人信息，比如所填寫電話的實(shí)名信息、接入ChatGPT時(shí)的網(wǎng)絡(luò)IP、個(gè)人語言習(xí)慣等。根據(jù)《網(wǎng)絡(luò)安全法》標(biāo)準(zhǔn)要求，需要分析網(wǎng)絡(luò)運(yùn)營者相關(guān)活動(dòng)存在的數(shù)據(jù)安全風(fēng)險(xiǎn)，并對(duì)其進(jìn)行評(píng)估。綜上所述，我國互聯(lián)網(wǎng)平臺(tái)ChatGPT類產(chǎn)品業(yè)務(wù)升級(jí)時(shí)，應(yīng)該根據(jù)拓展的業(yè)務(wù)類型，開具相應(yīng)的資質(zhì)許可證明及備案，并且進(jìn)行數(shù)據(jù)的安全評(píng)估，方可繼續(xù)發(fā)展。二、ChatGPT類產(chǎn)品運(yùn)營風(fēng)險(xiǎn)防控ChatGPT類產(chǎn)品主要包含兩個(gè)端口，一個(gè)是輸入端，另外一個(gè)是輸出端。輸入端包含兩種：第一種是用戶的交互型的輸入；第二種是爬蟲主動(dòng)抓取網(wǎng)上的各種信息，是最主要的輸入來源。輸出端的輸出則為人工智能以自然語言文字或影音圖像為形式給用戶的反饋。ChatGPT通過分析輸入端的信息進(jìn)行信息檢索，使用爬蟲來抓取網(wǎng)絡(luò)上的各種信息數(shù)據(jù)，并對(duì)信息進(jìn)行自然語言的加工，在輸出端輸出。比如，用戶詢問關(guān)于秦國的歷史問題，ChatGPT將用戶輸入信息上傳至后端檢索關(guān)于秦國的發(fā)展歷程、相關(guān)事件、關(guān)鍵人物、時(shí)代典故等進(jìn)行綜合分析，形成一個(gè)清晰完整的脈絡(luò)，用自然語言加工后輸出你所需要的回答。如果沒有這些基礎(chǔ)前提，是無法滿足用戶需求的。ChatGPT不斷循環(huán)上述過程，將每次檢索的內(nèi)容和用戶的反饋存入數(shù)據(jù)庫，從而達(dá)到學(xué)習(xí)的目的。我們主要探討的是以下兩點(diǎn)：輸入端通過爬蟲所抓取的內(nèi)容所獲得信息，這個(gè)行為存在什么問題和運(yùn)營風(fēng)險(xiǎn)？輸出端所輸出的內(nèi)容是否存在侵權(quán)、違法信息所在？(一)輸入端輸入端通過用戶的交互型輸入從風(fēng)險(xiǎn)角度來分析，用戶把相關(guān)內(nèi)容提供給供給ChatGPT類產(chǎn)品去進(jìn)行學(xué)習(xí)知識(shí)，尤其是專業(yè)論文方面的知識(shí)，是一個(gè)比較好的方式，所以這種輸入方式風(fēng)險(xiǎn)較小。基于互聯(lián)網(wǎng)互聯(lián)、互通、公開的基礎(chǔ)理念，Robert協(xié)議里面沒有明令禁止爬蟲抓取相關(guān)的規(guī)定，所以原則上搜索引擎就可以對(duì)數(shù)據(jù)(如：網(wǎng)絡(luò)上的文本數(shù)據(jù)、社交媒體數(shù)據(jù)、問答網(wǎng)站數(shù)據(jù)、新聞?wù)緮?shù)據(jù)、文學(xué)作品數(shù)據(jù)等)通過爬蟲抓取，建立共存共融的網(wǎng)絡(luò)生態(tài)環(huán)境。上述理念雖然很好，但是這會(huì)出現(xiàn)一個(gè)互聯(lián)網(wǎng)平臺(tái)流量無法變現(xiàn)的問題，出現(xiàn)破壞互聯(lián)網(wǎng)生態(tài)的風(fēng)險(xiǎn)。常規(guī)的搜索引擎為互聯(lián)網(wǎng)平臺(tái)做信息定位，用戶通過搜索引擎的定位訪問互聯(lián)網(wǎng)平臺(tái)，為后者帶來流量。任何虛擬產(chǎn)業(yè)都需要有實(shí)體產(chǎn)業(yè)的支撐，實(shí)體產(chǎn)業(yè)通過互聯(lián)網(wǎng)平臺(tái)投放的大量廣告來增大銷售量，而后返利給互聯(lián)網(wǎng)平臺(tái)和搜索引擎，從而形成一種共存共融的產(chǎn)業(yè)鏈。但ChatGPT類產(chǎn)品的出現(xiàn)打破了這條產(chǎn)業(yè)鏈，它通過爬蟲直接獲取互聯(lián)網(wǎng)平臺(tái)的數(shù)據(jù)，雖然通過搜索引擎進(jìn)入了該網(wǎng)站，但是不會(huì)引導(dǎo)用戶進(jìn)入其中。所以最終結(jié)果是搜索引擎無法引導(dǎo)真實(shí)的流量，實(shí)體產(chǎn)業(yè)無法通過互聯(lián)網(wǎng)平臺(tái)的廣告增加銷售量，最終導(dǎo)致該產(chǎn)業(yè)鏈的總資金減少，形成三者俱敗的局面。輸入端除了上述的問題以外，往更深層次去探究其風(fēng)險(xiǎn)，互聯(lián)網(wǎng)平臺(tái)會(huì)因?yàn)闊o法獲取公共流量帶來的紅利，打破互聯(lián)網(wǎng)互聯(lián)、互通、公開的理念，封鎖自身的信息，搭建自己的信息孤島，最終破壞了互聯(lián)網(wǎng)生態(tài)。例如，QQ和微信是同一個(gè)公司的兩款通訊類產(chǎn)品，他們之間的聯(lián)系緊密，只要是微信能夠使用的程序，無需額外的渠道去進(jìn)行對(duì)接，直接在QQ打開也能夠使用，反之亦然。但是微信和短視頻平臺(tái)卻無法做到，短視頻用戶想要分享視頻給微信用戶，短視頻用戶需要下載視頻或者微信用戶要打開相應(yīng)的短視頻APP才能夠觀看，也就是需要額外的渠道進(jìn)行連接兩個(gè)平臺(tái)。這就是ChatGPT類產(chǎn)品在運(yùn)營中所存在的風(fēng)險(xiǎn)，讓信息孤島加快形成，大大降低了互聯(lián)網(wǎng)的傳輸效率，違背了互聯(lián)網(wǎng)互通有無的宗旨。(二)輸出端輸出端的問題主要圍繞其輸出的內(nèi)容來開展。第一，著作權(quán)侵權(quán)。ChatGPT類產(chǎn)品使用的模式，一定是構(gòu)成侵權(quán)的。這就涉及到后端的分析，也就是ChatGPT抓取進(jìn)行學(xué)習(xí)這個(gè)行為原則上會(huì)和后端結(jié)合在一起，并不是孤立的概念。如果從孤立的角度來分析，那就是其是否影響了轉(zhuǎn)換性的使用。比如某出版社將紙質(zhì)書籍收錄進(jìn)了書籍管理系統(tǒng)里面進(jìn)行線上售賣，它是不構(gòu)成侵權(quán)的，因?yàn)樵摮霭嫔鐡碛性搱D書的版權(quán)。但是ChatGPT類產(chǎn)品在引用這些書籍的時(shí)候是沒有版權(quán)的，所以其輸出內(nèi)容(文字、音頻、圖片、視頻)和方式會(huì)很大程度上決定它是否著作權(quán)侵權(quán)，這就是商業(yè)風(fēng)險(xiǎn)所在。第二，不正當(dāng)競爭。任何網(wǎng)站和平臺(tái)的運(yùn)營都需要大量的資金投入進(jìn)行開發(fā)，并且許多網(wǎng)站需要雇傭大量的創(chuàng)作者為網(wǎng)站創(chuàng)作內(nèi)容，并且經(jīng)過長時(shí)間的產(chǎn)出，才能穩(wěn)定其發(fā)展。但是ChatGPT只需要使用爬蟲，便可以極低的成本快速將其創(chuàng)作內(nèi)容全部抓取，除了涉嫌侵犯著作權(quán)之外，還構(gòu)成不正當(dāng)競爭。第三，個(gè)人信息侵權(quán)?；趥€(gè)人信息保護(hù)法，信息主體可以行使遺忘權(quán)，要求相關(guān)平臺(tái)刪除已經(jīng)被發(fā)布在網(wǎng)絡(luò)上有關(guān)自身不符的信息，以及此前收集的個(gè)人信息。ChatGPT類產(chǎn)品是在你不知情的情況下將數(shù)據(jù)存放至數(shù)據(jù)庫，如果沒有關(guān)鍵詞檢索它是不會(huì)輸出相關(guān)的內(nèi)容，所以難以界定是否侵犯該權(quán)力。三、ChatGPT類產(chǎn)品生成內(nèi)容的法律保護(hù)無論是ChatGPT產(chǎn)品的研發(fā)者，還是用戶將其作為輔助工具去創(chuàng)作，過程都會(huì)進(jìn)行勞動(dòng)力的投入。我國法律進(jìn)行保護(hù)的前提是具有勞動(dòng)力價(jià)值的投入，無論是物質(zhì)，還是精神層面損耗，它都需要有對(duì)等的等價(jià)物的概念，才能夠受到法律的保護(hù)。我們將圍繞這幾個(gè)關(guān)鍵問題展開論述：ChatGPT類產(chǎn)品生成的文章、影音圖像等內(nèi)容能否受到法律保護(hù)？ChatGPT產(chǎn)品的本身是否受到法律保護(hù)？ChatGPT產(chǎn)品的著作權(quán)人使用其進(jìn)行創(chuàng)作，生成的內(nèi)容是否歸屬于著作權(quán)人？我國法律保護(hù)的是人的權(quán)力，而不是人工智能的權(quán)力。根據(jù)《著作權(quán)法實(shí)施條例》第二條規(guī)定，“著作權(quán)法所稱作品，是指文學(xué)、藝術(shù)和科學(xué)領(lǐng)域內(nèi)具有獨(dú)創(chuàng)性并能以某種有形形式復(fù)制的智力成果”。該條例表明了著作權(quán)法保護(hù)的客體是自然人通過智慧勞動(dòng)創(chuàng)作出具有獨(dú)創(chuàng)性的作品。人工智能雖然可以模擬人的智力活動(dòng)進(jìn)行創(chuàng)作，并且生成內(nèi)容與自然人創(chuàng)作的作品大同小異，但是該創(chuàng)作是依賴于算法的機(jī)械運(yùn)算，所以不能與人類智力勞動(dòng)相提并論。綜上所述，ChatGPT類產(chǎn)品生成的內(nèi)容不存在于法律保護(hù)的范疇之中。ChatGPT是人類智慧勞動(dòng)所創(chuàng)造出來的產(chǎn)物，屬于計(jì)算機(jī)類軟件作品。根據(jù)《中華人民共和國著作權(quán)法》第三條規(guī)定，“本法所稱的作品，是指文學(xué)、藝術(shù)和科學(xué)領(lǐng)域內(nèi)具有獨(dú)創(chuàng)性并能以一定形式表現(xiàn)的智力成果”。其中包含計(jì)算機(jī)軟件，所以只要是軟件的著作權(quán)人或者其受讓者，都享有軟件著作權(quán)的各項(xiàng)權(quán)利，也表明ChatGPT產(chǎn)品本身受到法律保護(hù)。ChatGPT產(chǎn)品的著作權(quán)人使用其進(jìn)行創(chuàng)作，不符合主客體屬性邏輯，生成的內(nèi)容也并非創(chuàng)作者的主觀意志。ChatGPT產(chǎn)品被軟件制作者創(chuàng)作出來，則有一個(gè)明確的主體與客體，制作者為主體創(chuàng)作了客體ChatGPT產(chǎn)品。ChatGPT創(chuàng)作過程中再將其視為創(chuàng)作主體，這就意味著ChatGPT同時(shí)具有了主體與客體屬性，形成了二元對(duì)立的局面，從而無法判斷是否符合法律法規(guī)。除此之外，按照著作權(quán)體系的基本觀點(diǎn)，獨(dú)創(chuàng)性應(yīng)當(dāng)反映作者個(gè)性、作者思想和情感的表達(dá)。從ChatGPT的創(chuàng)作流程來看，ChatGPT使用者只是發(fā)出指令，并未參與生成