77.生成式人工智能分類分級應用指南

生成式人工智能分類分級應用指南標準名稱：生成式人工智能分類分級應用指南二、項目提出單位：上海市經(jīng)濟和信息化委員會起草單位：上海計算機軟件技術(shù)開發(fā)中心、騰訊科技（上海）有限公司、上海市人工智能行業(yè)協(xié)會、上海人工智能創(chuàng)新中心(上海人工智能實驗室)、信通院華東分院、上海交通大學、上海人工智能研究院有限公司、華東師范大學等。四、立項理由：中央網(wǎng)信辦聯(lián)合七部委2023年7月10日發(fā)布《生成式人工智能服務管理暫行辦法》，明確提出對生成式人工智能服務實行包容審慎和分類分級監(jiān)管。當前，生成式人工智能在社會生產(chǎn)和生活的方方面面開始發(fā)揮重要的作用，但存在著諸如虛假內(nèi)容傳播、侵犯隱私等倫理、安全方面的風險。目前政府、社會、相關(guān)企業(yè)對規(guī)范AIGC技術(shù)應用的重要性和必要性已達成基本共識。國內(nèi)外還沒有生成式人工智能分類分級相關(guān)的標準。國際標準方面，目前沒有專門針對生成式人工智能相關(guān)的標準，只有一些相關(guān)的技術(shù)報告。國內(nèi)標準方面，目前生成式人工智能相關(guān)的標準研制也剛剛起步，主要集中在深度合成相關(guān)的標準方面。因此，制定生成式人工智能分類分級應用指南，提出AIGC應用的“上海方案”，有利于AIGC技術(shù)更加安全可信的應用于社會的各項生產(chǎn)活動中，指導人工智能企業(yè)構(gòu)建AIGC系統(tǒng)的實施與自我評估，加強前瞻預防與約束引導，降低AIGC應用風險。指導第三方測評機構(gòu)通過標準對AIGC系統(tǒng)的應用風險進行評估，為政府對AIGC系統(tǒng)應用的監(jiān)管提供規(guī)范。五、主要內(nèi)容：該標準規(guī)定了生成式人工智能分類分級應用的基本原則、生成式人工智能分類方法、分級分類應用要求及評估方法。生成式人工智能分類分級的基本原則包括：合理性原則、安全性原則、良性發(fā)展原則、權(quán)責一致原則、未成年人保護原則。生成式人工智能分類按照常見應用場景分類：按照內(nèi)容模態(tài)、內(nèi)容細分、應用領(lǐng)域進行了三級劃分；內(nèi)容模態(tài)分為文本、音頻、圖像、3D模型四大類，內(nèi)容細分是在內(nèi)容模態(tài)之下對于內(nèi)容類型的進一步詳細分類，應用領(lǐng)域是各內(nèi)容細分依照行業(yè)進行進一步劃分。生成式人工智能風險等級考慮：應用目的風險、內(nèi)容侵權(quán)風險、數(shù)據(jù)泄漏風險、內(nèi)容越界風險、覆蓋廣度風險、管理水平風險、網(wǎng)絡環(huán)境風險等要素，從低到高劃分為低風險、中低風險、中風險、中高風險、高風險五個風險等級。該標準進一步明確了生成式人工智能分級分類的應用要求和評估方法，按照公平性、透明性、嚴謹性的評估原則和特定的評估流程對AIGC的風險等級進行評估。六、適用范圍標準適用于上海市企業(yè)內(nèi)部在研發(fā)生成式人工智能系統(tǒng)時對風險進行自我評估，以及第三方機構(gòu)對企業(yè)生成式人工智能系統(tǒng)的風險進行評價。適用的產(chǎn)品