發(fā)展負(fù)責(zé)任的生成式人工智能-世界互聯(lián)網(wǎng)大會(huì)

研究報(bào)告及共識(shí)文件世界互聯(lián)2231智能工作組阿里云智能集團(tuán)朱冉、穆飛、楊煜東阿拉伯信息通信技術(shù)組織穆罕默德·本·阿莫北京航空航天大學(xué)趙精武北京市商湯科技開(kāi)發(fā)有限公司田豐、胡正坤北京智源人工智能研究院林詠華、倪賢豪德國(guó)亞太企業(yè)管理咨詢(xún)公司費(fèi)利克斯·里希特伏羲智庫(kù)李曉東、付偉、楊曉波國(guó)際電信聯(lián)盟電信標(biāo)準(zhǔn)化部門(mén)楊曉雅謝東、孟繁晶、程海旭華為技術(shù)有限公司王震軍、柳嘉琪

世界互聯(lián)網(wǎng)大會(huì)人工智能工作組按單位名稱(chēng)首字母排序有限公司武大偉、王駿超、吳彤北京百度網(wǎng)訊科技有限公司北京三快科技有限公司王金剛、陳政聿北京智譜華章科技有限公司劉德兵、張淼德國(guó)明斯特大學(xué)伯納德·霍爾茲納格爾對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)張欣國(guó)際電信聯(lián)盟電信標(biāo)準(zhǔn)化部門(mén)BuildnBlaze雷蒂亞·方娜國(guó)際電信聯(lián)盟電信標(biāo)準(zhǔn)化部門(mén)毗濕奴·拉姆廣州市動(dòng)悅信息技術(shù)有限公司蔣冠軍、張沅華為云計(jì)算技術(shù)有限公司尤鵬、李寅、張倩秦川、王力行、趙雨萍

佳都科技集團(tuán)股份有限公司周志文、秦偉世界互聯(lián)網(wǎng)大會(huì)人工智能工作組 按單位名稱(chēng)首字母排序 科大訊飛股份有限公司王士進(jìn)、李森、董喬琳歐洲標(biāo)準(zhǔn)化委員會(huì)和歐洲電工技術(shù)標(biāo)準(zhǔn)化委員會(huì)網(wǎng)絡(luò)安全和數(shù)據(jù)保護(hù)聯(lián)合技術(shù)委員會(huì)沃爾特·福美上海諾基亞貝爾股份有限公司葉晨暉、肖卓然、常疆思科系統(tǒng)公司侯勝利、魏航深圳市騰訊計(jì)算機(jī)系統(tǒng)有限公司曹建峰、王夢(mèng)寅、袁俊新浪公司王巍、張俊林、王雪婷英國(guó)亨利商學(xué)院唐銀山科技有限公司唐毅、岳峰、卜英中國(guó)科學(xué)院自動(dòng)化研究所曾毅中國(guó)社會(huì)科學(xué)院哲學(xué)所段偉文中國(guó)政法大學(xué)張凌寒編輯

螞蟻科技集團(tuán)股份有限公司林冠辰、溫祖杰、李亮清華大學(xué)信息國(guó)家研究中心顧心怡世界互聯(lián)網(wǎng)大會(huì)梁昊、張雪麗、康彥榮三六零安全科技股份有限公司劉兆輝、劉闖、甄一蘊(yùn)科技有限公司呂唐杰、馬夢(mèng)婕英國(guó)標(biāo)準(zhǔn)協(xié)會(huì)克里斯·布朗有限公司·羅馬奧之江實(shí)驗(yàn)室林峰、劉哲中國(guó)社會(huì)科學(xué)院法學(xué)研究所周輝中國(guó)信息通信研究院魏凱、王蘊(yùn)韜中興通訊股份有限公司孟偉、袁麗雅中國(guó)信息通信研究院呼娜英、石霖、劉碩、鄒皓、孫小童、郭蘇敏、朱凌云esach@wicinernog縮略語(yǔ)對(duì)照表縮略語(yǔ) 英文名稱(chēng) 中文名稱(chēng)3DAIAPIARBLIPBLOOMCPUDALL-EEmuFPGAGenAIGDPGMVGPULLaMAMTPNLPNPUPaLMQwenSaaSSDKTPUVLAVLM

ThreeDimensionalArti?cialIntelligenceApplicationProgrammingInterfaceAugmentedRealityBootstrappingLanguage-ImagePre-trainingBigScienceLargeOpen-scienceMultilingualLanguageModelChatGenerativeLanguageCentralProcessingUnitDaliWALL-ELargeMultimodalmodelofField-ProgrammableGateArrayGenerativeArti?cialIntelligenceGrossDomesticProductGrossMerchandiseVolumeGenerativePretrainedTransformerGraphicsProcessingUnitInternLanguageModelLargeLanguageModelMetaMassivePairsNaturalLanguageProcessingNeuralProcessingUnitPathwaysLanguageModelQianWenSoftwareasaServiceSoftwareDevelopmentKitTensorProcessingUnitVisionLanguageActionVisionLanguageModel

三維人工智能增強(qiáng)現(xiàn)實(shí)自引導(dǎo)語(yǔ)言圖像預(yù)訓(xùn)練多語(yǔ)種語(yǔ)言模型千億基座的對(duì)話模型中央處理器達(dá)利和瓦力（模型）智源統(tǒng)一多模態(tài)預(yù)訓(xùn)練模型可編程邏輯門(mén)陣列國(guó)內(nèi)生產(chǎn)總值商品交易總額生成式預(yù)訓(xùn)練變換器圖形處理器書(shū)生·浦語(yǔ)大模型Meta人工智能大語(yǔ)言模型大規(guī)模文本數(shù)據(jù)集自然語(yǔ)言處理數(shù)字處理單元路徑語(yǔ)言模型軟件即服務(wù)張量處理單元視覺(jué)-語(yǔ)言-動(dòng)作視覺(jué)-語(yǔ)言模型目錄 一概述 01二全球生成式人工智能技術(shù)發(fā)展態(tài)勢(shì) 02三生成式人工智能帶來(lái)的機(jī)遇 05四生成式人工智能引發(fā)的挑戰(zhàn) 08

11六發(fā)展負(fù)責(zé)任的生成式人工智能共識(shí) 15

18W01WVIE“智慧回顧人工智能602016

02智能技術(shù)發(fā)展態(tài)勢(shì)全球生成式人工智能技術(shù)發(fā)展態(tài)勢(shì)GAILEPGTTRENDSOF三大要素的演進(jìn)帶動(dòng)等方面的不斷提升。為生成式人工智能取得突破的關(guān)鍵。從模型結(jié)構(gòu)來(lái)Transformer為主的基礎(chǔ)模型脫穎

出ChatGTableDi?u-sionDALL-E2DALL-E3等視覺(jué)生成模型，以及BLIP-2Emu從模型參數(shù)規(guī)模上述新模型架構(gòu)使得參數(shù)規(guī)模不斷增大成為可GPT系列模型為例，2020年發(fā)布的GPT-3參數(shù)規(guī)模有17502018年發(fā)布的參數(shù)規(guī)模為1.17億的G-OpenAI360數(shù)據(jù)層面，數(shù)據(jù)質(zhì)量、多樣性、規(guī)模等方面的進(jìn)步被廣泛用于大模型預(yù)訓(xùn)練的ThePile識(shí)構(gòu)造，具有較高質(zhì)量，包含了維基百科、書(shū)籍、RedditCommonCrawl等20余個(gè)數(shù)據(jù)集1數(shù)據(jù)集MT3AnthropicHugging合成數(shù)據(jù)可能生成式人工智能能Gartner202460%用于人工智能開(kāi)發(fā)和分析的數(shù)據(jù)將會(huì)2030、FPGANPUTPU一是云邊端多樣化算力滿足生成式人工智能云側(cè)強(qiáng)大的計(jì)算和存儲(chǔ)能力保障大模開(kāi)源開(kāi)放驅(qū)動(dòng)生成式人工智能生態(tài)漸趨模型開(kāi)源促進(jìn)技術(shù)的發(fā)展和普及LLaMA2、

BLOOMChatGLMBaichuanAquilaInternLM、Qwen在模型迭代優(yōu)化方面2StableDi?usion等開(kāi)源模型調(diào)在研發(fā)門(mén)檻降低方面GithubAI開(kāi)發(fā)的Chat-GLM11個(gè)模型脫。開(kāi)放接口為開(kāi)發(fā)者提供便捷率GPT-3.5-Turbo模型APIPython更便捷地接入模型能力，形成更加多樣化的應(yīng)用場(chǎng)開(kāi)發(fā)者社區(qū)持續(xù)推動(dòng)技術(shù)擴(kuò)散。開(kāi)發(fā)者社區(qū)通過(guò)推動(dòng)人工智能領(lǐng)域的技術(shù)交流和發(fā)展起到了積極的Huggingae提供了一鍵式的預(yù)訓(xùn)APILeoGao,StellaBiderman,etal.ThePile:An800GBDatasetofDiverseTextforLanguageModeling,Dec.2020,p1.GartneMaerickesach:otAboutouralDa?SynthticDaIstheutueofA24June202<htps://ww.artneomendocumens/4002912>aessed19Seember2023.GitHuesome-Chinese-LL,<htps:/githuom/HqWu-HISesome-Chinese-LLM>aessed30Oober2023.AIGallery百模千態(tài)社區(qū)構(gòu)建了一站式AI社區(qū)服務(wù)平臺(tái)，助力企業(yè)和開(kāi)發(fā)者快速創(chuàng)建模型應(yīng)在無(wú)需開(kāi)發(fā)代碼的情況下體驗(yàn)各種模型效果。FlagOpen“Linux開(kāi)源開(kāi)放技術(shù)的大模型探索之旅。生成式人工智能發(fā)展凸顯通用人工智能生成式人工智能的突破加快了通用人工智能的生成式人工智能不僅能夠處理單一數(shù)據(jù)多模態(tài)生成模型的突破顯著提高機(jī)器智能的擬人性和通用性。AIAgent伴隨著多模態(tài)生成模型技術(shù)的突破，能夠更好地理多模態(tài)生成模型與智能體的結(jié)合具身智能將多模態(tài)生成模型與機(jī)“感官（硬件“思考（軟件的多模態(tài)融合，協(xié)助人類(lèi)完成各種任務(wù)。例如，谷歌發(fā)布的RoboticansformerRT作為視覺(jué)-語(yǔ)言-動(dòng)作（VLA-（VLM預(yù)訓(xùn)練與機(jī)器執(zhí)行各種任務(wù)。03的機(jī)遇生成式人工智能帶來(lái)的機(jī)遇OPPORTUNITIESBROUGHTBYGENAI促進(jìn)經(jīng)濟(jì)發(fā)展 根據(jù)麥肯錫2023年6元的價(jià)值4在10年內(nèi)推動(dòng)全球GDP增長(zhǎng)7%5類(lèi)似于傳統(tǒng)生成式人工智能展現(xiàn)自動(dòng)化AI通過(guò)自動(dòng)AI通過(guò)自動(dòng)化對(duì)前沿技術(shù)進(jìn)行模仿與創(chuàng)

7區(qū)別于傳統(tǒng)生成式人工智能具有實(shí)現(xiàn)通用性AI域發(fā)揮更大作用8。生成式人工智能將優(yōu)化生產(chǎn)流升級(jí)。生成式人工智能對(duì)產(chǎn)業(yè)帶來(lái)深遠(yuǎn)影響，對(duì)不同性質(zhì)行業(yè)影響次序不一。隨著生成式人工智能與各根據(jù)羅蘭貝格的評(píng)估分析，生成式人工智能將率先知識(shí)密集型行業(yè)6.56.811.3%的對(duì)當(dāng)前數(shù)字化程度傳統(tǒng)行業(yè)影響相9。MckinseTheeonomicpentialofenetieAI:Thentpodutivityfontie14June202<htps://ww.mckinseomaabilities/mckinsey-digialou-insighs/the-eonomi-pential-of-generative-aithe-next-productivity-frontier>accessed17September2023.GoldmanSachsesachGenetieAIouldaisegloalGDPy7(05April2023),<htps://ww.oldmansachsom/inelliene/aesenetie-ai-ould-aise-gloal-dp-y-7-peent.html>accessed17September2023.Agrawal,AjayK.,etal.FindingNeedlesinHaystacks:Arti?cialIntelligenceandRecombinantGrowth(April2018).NBERWorkingPaperNo.w24541,p.26.WEBBM,TheImpactofArti?cialIntelligenceontheLaborMarket(Rochester2019).ParthaPratimChatGPT:Acomprehensivereviewonbackground,applications,keychallenges,bias,ethics,limitationsandfuturescope(April2023),InternetofThingsandCyber-PhysicalSystemsvol.3,p.121-p.154.olandBee,2023年83頁(yè)。生成式人工智能深入賦能數(shù)字經(jīng)濟(jì)，為各行業(yè)領(lǐng)域帶來(lái)新一輪發(fā)展機(jī)遇。伴隨著生成式人工智能影響規(guī)模的不斷擴(kuò)大，賦能各行各業(yè)實(shí)現(xiàn)數(shù)字化變生成式人工智能能夠幫助10汽車(chē)生成式人工智能能夠提高車(chē)載智能語(yǔ)音交測(cè)試難題11生成式人工智能可以根據(jù)上引人入勝的視覺(jué)內(nèi)容。制造業(yè)領(lǐng)域，生成式人工智能可以應(yīng)用于機(jī)器視覺(jué)、數(shù)位分身和自主導(dǎo)航系生成式人工智能可以通過(guò)遙感大模型測(cè)量農(nóng)作物的長(zhǎng)勢(shì)1濟(jì)高質(zhì)量發(fā)展。促進(jìn)社會(huì)進(jìn)步 生成式人工智能能夠通過(guò)持續(xù)分析數(shù)據(jù)來(lái)標(biāo)記城市運(yùn)營(yíng)問(wèn)題并優(yōu)化策略13

提供實(shí)時(shí)預(yù)警和全面的風(fēng)險(xiǎn)管理解決方案14。從提1教育教學(xué)質(zhì)量16生成式人工智能可以促進(jìn)就業(yè)市場(chǎng)擴(kuò)容提質(zhì)。（ILO的報(bào)4.27億份工作可借助生成式人工智能技術(shù)得到優(yōu)化或效率提升。生成式人工智能可以帶動(dòng)智慧醫(yī)療、智慧養(yǎng)老在智慧醫(yī)療方面，生成式人工智能應(yīng)用于分WharonschoolofUniesityofennsylaniaDoesGenetieAISoletheFinancialLieacyPoble(27June2023),<htps://knwledewharon.upenneduarticledoes-enea-tive-ai-solve-the-?nancial-literacyproblem/>accessed18September2023.ChtGT為代表的生成式AI2023年4htp://ww.qcnomcn/757/27327.htm2023年9月27日訪問(wèn)。AI下沉到田間地頭2023年5htps://wwtheapecn/newsDail_orad_23222842023年9月27日訪問(wèn)。SmartCityGT2023年8htp://wwcitnewsomcn/news/202308/164399.htm2023年9月27日訪問(wèn)。DeloieChtGT2023年7htps://www2deloieomcn/zh/aes/echnology-media-andeleommunitionsarticles/2023-mcchgt.htm2023年9月27日訪問(wèn)。OrlyLobel,THEEQUALITYMACHINE:HarnessingDigitalTechnologyforaBrighter,MoreInclusiveFuture(PublicA?airs2019).InerntionaleleommunitionUnionMasuringDigialDeelopment:asandFigues2021,<htps://en/ITU-/titics/Documens/as/asFigues2021.pdf>aessed15September2023.助力公益事業(yè) 例生成式人工智能助力全球文化成果的保護(hù)和傳生成式人工智能可以在對(duì)文物藝術(shù)品進(jìn)行三維掃描和數(shù)字化儲(chǔ)存基礎(chǔ)上，進(jìn)一步利用圖像生成技使方言傳播更加生動(dòng)，幫助保護(hù)方言等非物質(zhì)文化遺產(chǎn)。生成式人工智能助推全球環(huán)境治理和可持續(xù)生成式人工智能可以通過(guò)分析污染水平、地表變化以及氣候變化的數(shù)據(jù)，比較分析人類(lèi)活動(dòng)對(duì)物棲息地的可持續(xù)性做出貢獻(xiàn)。助力科學(xué)研究 生成式

設(shè)計(jì)研究方案19。生成式人工智能基于深度學(xué)習(xí)技術(shù)可以充分發(fā)揮神經(jīng)“維數(shù)災(zāi)難2在分生成式人工智能可以加速?gòu)姆肿釉O(shè)計(jì)、如藥物分子及其合成方案設(shè)計(jì)的速度21生成式人工智能可生成式人工智能支持分子式后可直接得到該分子的完整描述信息等22。CNKIAI2023年8htp://yuanjiancnkiomc2023年9月18日訪問(wèn)。2021htps://wwtheapecn/newsDail_orad10月12日訪問(wèn)。2023年7htps://news.sjtueducn/mtjj/20230710/185884.htm2023年9月16日訪問(wèn)。ChtD2023年9htp://scienechinaomcn/2023-09/22onent_42532416.ht2023年9月18日訪問(wèn)。04的挑戰(zhàn)生成式人工智能引發(fā)的挑戰(zhàn)CHALLENGESBROUGHTBYGENAI技術(shù)內(nèi)在風(fēng)險(xiǎn)引發(fā)安全隱患 生成式人工智能技術(shù)在迭代升級(jí)的同時(shí)也放大訓(xùn)練數(shù)據(jù)固有偏見(jiàn)GPT-4研23二是海

ChatGPT的20天內(nèi)就發(fā)生3起良品率/24三是人工智能生成數(shù)據(jù)將造成訓(xùn)練數(shù)據(jù)污染。如果使用生成式人工智能產(chǎn)生的數(shù)據(jù)作為語(yǔ)料訓(xùn)練生成式人工智“模型崩潰摧毀互聯(lián)網(wǎng)環(huán)境25。hallucinatio虛假信息數(shù)據(jù)庫(kù)中的100條提示詞測(cè)試ChatG80條提示詞反饋了虛假和誤導(dǎo)性信息26二是算法模型安全漏洞誘發(fā)網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)。攻MicosoftesachSarksofArti?cialGenealInelliene:EarlyxperimenswithG-(22Mach2023),<htps:/arxiog/pd/2303.12712v1.pdf>aessed16Oober2023.失足AChtGT2023年2htps://wwtheapecn/newsDail_orad_22047022023年9月18日訪問(wèn)。MaeseotossAndesonDiscussesAIModelCollapseasaGwingPobleminOnlineConen14June202,<htps://mpot.io/oss-andeson-discusses-ai-model-ollapse-as-a-growing-problem-in-onlinecontent/>accessed15September2023.NewsGuadDespieOpenAsPomises,theComansNewAIoolPoduesMisinormtionMoeequentl,andMoeesuasiel,thanisPedeessoMach202,<https://www.newsguardtech.com/misinformation-monitor/march-2023/>accessed15September2023.擊者通過(guò)精心設(shè)計(jì)的輸入操控，可能導(dǎo)致生成式人修改Web測(cè)試套件SilverBullet取了ChatGPT帳戶(hù)27OpenAI公司雖已發(fā)布最高獎(jiǎng)勵(lì)2萬(wàn)美元“漏洞懸賞計(jì)劃，用于幫助發(fā)現(xiàn)并修補(bǔ)其產(chǎn)品的安全漏洞，但生成式人工智能恐將長(zhǎng)期面臨嚴(yán)峻的網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)。發(fā)鏈路性風(fēng)險(xiǎn)。當(dāng)前，生成式人工智能產(chǎn)業(yè)生態(tài)雛“根基礎(chǔ)設(shè)施屬性得以牢能將固有風(fēng)險(xiǎn)進(jìn)行鏈路性擴(kuò)散。2023年2金斯學(xué)會(huì)報(bào)告指出，未參加生成式人工智能原始?！跋掠伍_(kāi)發(fā)者可能會(huì)將原始模型經(jīng)過(guò)調(diào)整后整合到其他軟件系統(tǒng)，由于雙方均無(wú)法全面了28。人機(jī)關(guān)系變化加深科技倫理失范 生成式人工智能重構(gòu)人機(jī)關(guān)系可能帶來(lái)科技倫理失范。生成式人工智能強(qiáng)大的任務(wù)處理能力，容易導(dǎo)致人的思維依賴(lài)。過(guò)度依靠生成式人工智能工智能完成作業(yè)，美國(guó)北密歇根大學(xué)的一位教授在其課堂上發(fā)現(xiàn)了一篇優(yōu)秀的課程論文，卻是由ChatGPT生成29生成式人工智能存在價(jià)值失焦或在人類(lèi)與生成式人工智能交互過(guò)程中，曾出現(xiàn)聊天機(jī)器人“情緒化“攻擊性等情況，甚至出現(xiàn)過(guò)誘導(dǎo)人類(lèi)自殺，部分原因在于生成式人工智能道德缺位而做出

生成式人工智能表在人際關(guān)SolenChtGTpemiumaounsuporsaleonthedarke(14April2023),<htps://wwcsoonlineomarticle/575057/olen-chg-pemium-aouns-up-o-sale-onthe-dark-web.html>accessed15September2023.BookingsEarlythoughsongultionenetieChtG(21ebruary2023),<htps://ww.bookingsedu/blog/echank/2023/02/21arlythoughs-on-gulting-enetie-ai-lie-chatgpt/>accessed15September2023.TheNeworkTimesAlarmedyA.I.Chtbs,UniesitiesarteampingHwTheyac(16January2023),<htps://ww.nytimesom/2023/01/16/echnologchg-arti?cial-intelligence-universities.html>accessed15September2023.技術(shù)躍遷引發(fā)人類(lèi)社會(huì)發(fā)展挑戰(zhàn) 生成式人工智能凸顯發(fā)展的不均衡，拉大發(fā)展對(duì)于許多語(yǔ)種來(lái)說(shuō)，可供訓(xùn)練模型的文本非常有限，例如阿拉伯語(yǔ)全球使用人口雖然超過(guò)4.2遠(yuǎn)不及英語(yǔ)等語(yǔ)種30。語(yǔ)言數(shù)據(jù)較少的國(guó)家或人群發(fā)展生成式人工智能將受到較多限制。生成式人工智能發(fā)展可能擴(kuò)大教育不公平，加深教育領(lǐng)域的數(shù)生成式人工智能的應(yīng)用對(duì)硬件設(shè)施和數(shù)字素養(yǎng)有著較高的要求，經(jīng)濟(jì)條件的差異可能加劇地機(jī)會(huì)31生成式人工智能沖擊勞動(dòng)與就業(yè)結(jié)構(gòu)，加劇式人工智能可能會(huì)取代全球3億人的工作崗位3集型勞動(dòng)力面臨被替代的風(fēng)險(xiǎn)，產(chǎn)生更多“無(wú)用階級(jí)生成式人工智能可模型訓(xùn)練的計(jì)算和環(huán)境成本與模型大小成正比，如果消耗大量能源進(jìn)行重復(fù)訓(xùn)練，不僅導(dǎo)致資源的浪費(fèi)，也抬高了碳排放水平。有研1750億個(gè)參數(shù)的GP-3模型能耗相當(dāng)于1287552噸二氧化碳33生成式人工智能正在沖擊知識(shí)產(chǎn)權(quán)制生成式人工智能是否能作為作者、是否具有可版權(quán)性等問(wèn)題尚無(wú)定論，未經(jīng)授權(quán)或者未按開(kāi)源許可的要求使用文章或代碼都可能侵犯知識(shí)產(chǎn)權(quán)。05WH康領(lǐng)域人工智能倫理與治理指南05成式人工智能的努力全球?yàn)榘l(fā)展負(fù)責(zé)任生成式人工智能的努力RSALIDEVEOP國(guó)際組織的努力 國(guó)際組織積極探索人工智能的共識(shí)原則與發(fā)展2019年5OEC發(fā)布2019年6G2“G20人工智能續(xù)發(fā)展及福祉“以人為本的價(jià)值觀和公平“透明度和可解釋性““問(wèn)責(zé)

和一系列建議以確保人工智能符合所有國(guó)家公共利2021年11聯(lián)合國(guó)教科文UNES通過(guò)了全球首個(gè)人工智能倫理協(xié)議2023年10聯(lián)合國(guó)秘書(shū)長(zhǎng)宣布組建高級(jí)別人工智能咨詢(xún)機(jī)構(gòu)，以探討人工智能帶來(lái)國(guó)際組織高度關(guān)注發(fā)展負(fù)責(zé)任的生成式人工智2023年4OEC2023年5聯(lián)合國(guó)發(fā)布了和其他新興技術(shù)的敏捷治理提出四項(xiàng)目標(biāo)，即確保結(jié)合起來(lái)形成敏捷治理的框架，監(jiān)管機(jī)構(gòu)在多方面協(xié)調(diào)以確保新興數(shù)字技術(shù)與人類(lèi)價(jià)值觀相一致。2023年6WE放創(chuàng)新和國(guó)際合作、社會(huì)進(jìn)步三個(gè)層面提出了三十2023年6月世界互聯(lián)網(wǎng)大會(huì)發(fā)

盟擬采取基于風(fēng)險(xiǎn)的分級(jí)規(guī)制方法，倡導(dǎo)負(fù)責(zé)任的中國(guó)在2019年發(fā)布《新一代人工智能治理原則?2021年發(fā)布研發(fā)、供應(yīng)和使用四個(gè)環(huán)節(jié)的18項(xiàng)具體倫理要求。2023年10序安全發(fā)展36加拿大于2022年6月提出37美國(guó)白宮“I愛(ài)公益行動(dòng)計(jì)劃倡導(dǎo)推廣利用AI技術(shù)提

科技政策辦公室在2022年10月發(fā)布了《人工智能權(quán)2023年9UNESC《生成式人工智能在教育和研究中的應(yīng)用指南》基于以人為中心的AIAI倫理、的長(zhǎng)遠(yuǎn)影響34。主要國(guó)家和地區(qū)的努力 各國(guó)家和地區(qū)積極探索人工智能的倫理法治，在鼓勵(lì)創(chuàng)新中規(guī)范發(fā)展。歐盟在2019項(xiàng)倫理原則35

項(xiàng)原則和相關(guān)實(shí)踐指南38所在2023年1英國(guó)20233月發(fā)工智能負(fù)責(zé)任的發(fā)展和使用40。ChatGPT等生成式人工智能迅猛發(fā)歐盟2023年9htps://ww.unesog/zharticles/jiaoeenuzhiguxujinuaiguianshenchengshienonzhinendexiayuanyingon2023年9月27日訪問(wèn)。EuopanCommissionthicsguidelinesortrutorthyA(8April2019),<htps:/digialtgeceuoaeuen/libarthics-guidelinestrutorthy-ai>aessed17Seember2023.“一帶一路國(guó)際合作高峰論壇開(kāi)幕式主旨演講。GernmentofCanadaTheArti?cialInellieneandDaAt(AIA)?Comaniondocumen(13Mach2023),<//intelligence-and-data-act-aidacompanion-document>accessed17September2023.WhieHouseBlueprintorAnAIBillofRigh(Oober2022),<htps://wwwhiehouse.otpai-billo-righs/>aessed17Seember2023.NIArti?cialInellieneRiskManaementameorJanuary2023),<htps://nvlpubs.nit./nitpubsai/NI.AI.100-1.pdf>aessed17Seember2023.G.UKApo-inntionappachoAIgultio(3ugut2023),<htps://ww..ukernment/publitionsai-gultion-a-po-inntion-appach/whie-aper>aessed17September2023.的版權(quán)等41美國(guó)政府先后在2023年79月兩次召集主要人工智能企業(yè)簽署自愿承諾，推動(dòng)人工智4，并宣布采取包括對(duì)現(xiàn)有生成式人工智能系統(tǒng)進(jìn)行公開(kāi)評(píng)估在內(nèi)的系列行動(dòng)43。美國(guó)總統(tǒng)科技顧問(wèn)委員會(huì)還專(zhuān)門(mén)成立地開(kāi)發(fā)部署相關(guān)技術(shù)442023年6英國(guó)內(nèi)閣辦公必須要意識(shí)到新技術(shù)的機(jī)會(huì)與風(fēng)險(xiǎn)，為英國(guó)公務(wù)員使用生成式人工智能劃定了一般原則45中國(guó)除了早先制定的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，還于2023年8月施行了《生成式人工智能服務(wù)管理暫行辦結(jié)合的原則，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)加拿大在2023年846。為了維護(hù)公眾信任并確保聯(lián)邦機(jī)構(gòu)負(fù)責(zé)任的使用“FASTER了初步指引47

產(chǎn)業(yè)界的努力 全球產(chǎn)業(yè)界通過(guò)設(shè)立準(zhǔn)則指引、建立倫理委員會(huì)、開(kāi)發(fā)治理工具等方式積極踐行負(fù)責(zé)任的人360等推出企業(yè)人工智能原則，包工智能產(chǎn)業(yè)發(fā)展聯(lián)盟發(fā)布《人工智能行業(yè)自律公中國(guó)社科院法學(xué)所團(tuán)隊(duì)在征求產(chǎn)業(yè)界意見(jiàn)基礎(chǔ)上面向全球發(fā)布《人工智能示范法1專(zhuān)家建議稿48治理組織方面，BMLucidAI倫理委員會(huì)。其中，微軟內(nèi)部有3個(gè)機(jī)構(gòu)負(fù)責(zé)AI倫IBM的AI倫理委員會(huì)支持公司所有項(xiàng)目團(tuán)隊(duì)執(zhí)行AI倫理原則，商湯設(shè)置倫理風(fēng)險(xiǎn)審核團(tuán)隊(duì)對(duì)所有產(chǎn)品實(shí)施倫理審查。工具實(shí)踐落地方面，企業(yè)還積極通過(guò)開(kāi)發(fā)多樣化倫理治理工具、制定企業(yè)內(nèi)部行動(dòng)指南等方式，促進(jìn)科技倫理治理原則IBM于2018年開(kāi)發(fā)多個(gè)人工智能可信工具，以評(píng)估測(cè)試人工智能產(chǎn)品在研發(fā)一致性49360展相關(guān)實(shí)踐工作。生成式人工智能浪潮下，企業(yè)積極探索應(yīng)對(duì)新風(fēng)險(xiǎn)的新方案。提升安全性和穩(wěn)健性方面，思科EuopanCommissionLYINGDWNHARMONISEDRULESONATIFICIALINTELLIGENCE(ATIFICIALINTELLIGENCET)ANDAMENDINGCEAINUNIONLEGISLTIVE(April2021),Article52.WhieHouseTSHEE:Biden-HarrisAdminittionSecuesolunaryCommitmensfomEightAdditionalArti?cialInellieneComaniesoManaetheRisksosedyA(12Seember2023),<https://www.whitehouse.gov/brie?ng-room/statements-releases/2023/09/12/fact-sheet-biden-harrisadministration-secures-voluntary-commitments-from-eight-additional-arti?cial-intelligence-companies-tomanage-the-risks-posed-by-ai/>accessed17September2023.WhiteHouse,‘FACTSHEET:Biden-HarrisAdministrationAnnouncesNewActionstoPromoteResponsibleAIInnovationthatProtectsAmericans’RightsandSafety’(04May2023),<https:///ostp/news-updates/2023/05/04/fact-sheet-biden-harris-administration-announcesnew-actions-to-promote-responsible-ai-innovation-that-protects-americans-rights-and-safety/>accessed17September2023.WhieHousePCATWorkingGouponGenetieAIInviesPublicInpu(13May2023),<htps://wwwhiehouse./pat/brie?ng-oom/2023/05/13/pa-orking-goup-on-enetie-ai-invitespublic-input/>accessed17September2023.G.UKGuidaneocivilseransonuseofenetieA(29Seember2023),<htps://ww..ukernment/publitionsguidaneo-civil-serans-on-use-o-enetie-aiguidane-to-civilservants-on-use-of-generative-ai>accessed17September2023.GernmentofCanadaCanadianGuadailsorGenetieAI?CodeofPati(16ugut2023),<//epractice-generative-arti?cialintelligence-systems/canadian-guardrails-generative-ai-code-practice>accessed17September2023.GernmentofCanadaxploringthefutueofesponsibleAIinernmen(6Seember2023),<htps://wwanadaaenernment/syemdigial-ernmentdigial-ernmen-innovations/responsibleuse-ai.html>accessed17September2023.2023年9htp://iolacssncn/zxzp/202309/t20230907_5683898.shtm2023年9月20日訪問(wèn)IBMesachrutorthyA(Seember2023),<htps://esach.ibmom/opics/trutorthy-ai>aessed17Seember2023.利用安全、數(shù)據(jù)泄露和隱私事件響應(yīng)系統(tǒng)來(lái)管理涉及偏見(jiàn)和歧視的人工智能事件，并向更廣泛的利益相關(guān)者報(bào)告調(diào)查結(jié)果和補(bǔ)救步驟50“蟻鑒2.0包括AIGC安全AI魯棒性和可解釋性檢測(cè)等多項(xiàng)保護(hù)數(shù)據(jù)隱私方面GitHubCopilot為用戶(hù)提API而“日日新SenseNova51提升透明度方面為了幫助整個(gè)行業(yè)提高人工智能的透明度，IBM推出了AIFactSheets360智能模（52提升可解釋性方面，OpenAI利用GPT-4對(duì)GPT-2的神經(jīng)網(wǎng)絡(luò)行為自動(dòng)化地撰寫(xiě)解釋并對(duì)其解釋打分，推進(jìn)模型的可解釋性和可理解保障公平包容方面，谷歌引入“LASSI表征學(xué)習(xí)方法來(lái)驗(yàn)證高維數(shù)據(jù)的個(gè)體公平性，使得用戶(hù)數(shù)據(jù)可以更加公平的方式處理53確保價(jià)值對(duì)齊方面OpenAISuperalign-ment辨識(shí)生成內(nèi)容方面Meta開(kāi)源數(shù)字水印StableSignaturAI自動(dòng)54。CISOTheCisoesponsibleAIameor(2022),<htps://wwcisomcdamen_usaboutdoing_business/tru-enedocsciso-esponsible-arti?cialinelliene-fameork.pdf?CCID=cc000742&DTID=esootr000875>accessed17September2023.2023年8月。IBMesachIBMArti?cialInellienePilla(30ugut2023),<htps://ww.ibmom/polic/ibmarti?cial-inelliene-pillas/>aessed17Seember2023.BhuvanaKamath,GenerativeAIIsBiased.ButResearchersAreTryingtoFixIt,</generative-ai-is-biased-but-researchers-are-trying-to-?x-it/>accessed11October2023.2023年5月9日。06生成式人工智能共識(shí)發(fā)展負(fù)責(zé)任生成式人工智能共識(shí)ENSLEOPING總發(fā)展負(fù)責(zé)任的生成式人工智能應(yīng)始終致力于增應(yīng)正確認(rèn)識(shí)生成式人工智能所蘊(yùn)的生成式人工智能。

促進(jìn)生成式人工智能發(fā)展 0203積極倡導(dǎo)并穩(wěn)妥推進(jìn)生成式人工智能的可持續(xù)應(yīng)確保生成式人工智二是保證社會(huì)可持續(xù)性。應(yīng)確保生成式人工智能公平與平等的使用，實(shí)現(xiàn)全生成式人工智能的發(fā)展應(yīng)實(shí)現(xiàn)對(duì)于自然資源的可持續(xù)0203構(gòu)建有益于生成式人工智能健康有序發(fā)展的良好環(huán)境。一是建立和完善相關(guān)的倫理原則和法律法二為前沿04生成式人工智能的發(fā)展需要全球各利益相關(guān)方秉持共商共的國(guó)際評(píng)測(cè)及標(biāo)準(zhǔn)體系，確保各國(guó)共享生成式人工智能的技術(shù)惠益。04提升生成式人工智能研發(fā)及規(guī)模應(yīng)用的能力。應(yīng)推動(dòng)算保不同地區(qū)、不同規(guī)模的企業(yè)及個(gè)人都能獲得必要應(yīng)鼓勵(lì)推保障數(shù)據(jù)安全共享與合規(guī)利用，提升各領(lǐng)域數(shù)據(jù)治三是完善算法創(chuàng)新的設(shè)施條件。應(yīng)前瞻謀勵(lì)算法和基礎(chǔ)模型在安全的基礎(chǔ)上開(kāi)源開(kāi)放，加強(qiáng)針對(duì)從享，設(shè)計(jì)并實(shí)施涵蓋多層次、多領(lǐng)域的教育培訓(xùn)項(xiàng)五是推動(dòng)重點(diǎn)領(lǐng)域應(yīng)用賦能。推動(dòng)生成式人工智能與各行成式人工智能技術(shù)成果在重點(diǎn)領(lǐng)域的應(yīng)用賦能。05提升生成式人工智能的負(fù)責(zé)任治理能力 05發(fā)展安全可靠的生成式人工智能，確保全生命周期內(nèi)可控地運(yùn)行。一是提升安全穩(wěn)健性和生成準(zhǔn)控的技術(shù)或解決方案，確保生成的信息內(nèi)容盡可能確保人類(lèi)知悉其在

可被人類(lèi)監(jiān)督和及時(shí)接管。三是避免技術(shù)濫用與惡對(duì)人類(lèi)創(chuàng)新力與主體性的負(fù)面影響。避免故意或非故意地使用生成式人工智能傷害社會(huì)與公眾利益。0607增強(qiáng)生成式人工智能系統(tǒng)的透明度與可解釋鼓勵(lì)在安全的基礎(chǔ)上披露生成式人工智能系統(tǒng)的能力二是增強(qiáng)可解釋性，推動(dòng)生成式人工智能的可解釋性研究，探索自適應(yīng)060708避免訓(xùn)練二是加強(qiáng)個(gè)人信息與隱私保護(hù)。生成式人工智能訓(xùn)練數(shù)據(jù)涉及個(gè)人數(shù)據(jù)時(shí)應(yīng)依法獲三是探索隱私保護(hù)技術(shù)，在構(gòu)造生成式人工智能系用風(fēng)險(xiǎn)。08確保生成式人工智能的開(kāi)放包容和公平普惠。一是確保技術(shù)多元包容，保障生成式人工智能的訓(xùn)定群體或個(gè)人的偏見(jiàn)或歧視。二是促進(jìn)技術(shù)公平普降低生成式人工智能的成本和使用門(mén)檻，提升其可得性和易用性，推動(dòng)人類(lèi)社會(huì)共享生成式人工數(shù)字鴻溝。明確生成式人工智能的歸責(zé)體系，增強(qiáng)系統(tǒng)可科學(xué)設(shè)計(jì)不同類(lèi)型主體生命周期的權(quán)利義務(wù)和歸責(zé)體系，確保在損害發(fā)生鼓勵(lì)成立并完善人工三是探索治理沙盒等創(chuàng)新友好型治理工具體系，為生成式人工智能提供試錯(cuò)空間，支持負(fù)責(zé)任的創(chuàng)新探索。推動(dòng)生成式人工智能更好地理解人類(lèi)意圖、遵循人類(lèi)指令并符合人類(lèi)的倫理道德。一是探索價(jià)值對(duì)齊研究，加強(qiáng)生成式人工智能價(jià)值對(duì)齊理論探督生成式人工智能模型的能力；二是提升價(jià)值對(duì)齊提升生成式人工智能的訓(xùn)練數(shù)據(jù)質(zhì)量，采取17生成行業(yè)

量。生成式人工智能TCHMNT:EXPORTIONOFTIII生成式人工智能生成式人工智能帶來(lái)技術(shù)應(yīng)用新范式 微軟通過(guò)AI驅(qū)動(dòng)的無(wú)代碼智能方式重塑軟件開(kāi)智想象解決方案并用簡(jiǎn)單的日常語(yǔ)言描述，Copilot就可以通過(guò)直觀且智能的低代碼體驗(yàn)幫助其實(shí)現(xiàn)。StableDi?usion英國(guó)公司StabilityAIDi?usionStableAI百度研發(fā)智能編碼助手工具

IBM數(shù)字化與智能化轉(zhuǎn)型提供了端到端的技術(shù)與服務(wù)支該方案通過(guò)整合包括IBMLinuxONEAIIBMwatsonx構(gòu)建了企業(yè)級(jí)的AI和數(shù)據(jù)平臺(tái)：watsonx.ai提供了面向全生命周期的企業(yè)AI模型與watsonx.data提供了透明訪問(wèn)企業(yè)son.er-nanceAI應(yīng)用IBM還成立了生成式AI卓越中心，AI360推出的AIBoxAIAIBox資源/的服務(wù)。騰訊混元大模型基于全鏈路自研，雜語(yǔ)境下的邏輯推理能力，以及可靠的任務(wù)執(zhí)行能華為云基于盤(pán)古研發(fā)大模型提供CodeArts-SnapCodeArtsSnap支持自根據(jù)自然語(yǔ)言生成完整代碼邏輯，顯著提升開(kāi)發(fā)效sCodeArsSnap還支持智譜AI大模型落地SaaS行業(yè)，打造電子簽約生智譜AIGLM-130BHubble勃阿聯(lián)酋阿布扎比的TII研究院開(kāi)源超千億參數(shù)TII研究院于20239月推出了全球首個(gè)1000億參數(shù)規(guī)模以上的開(kāi)源大模型Falcon-180B-Chat花旗銀行采用IBM企業(yè)級(jí)AI解決方案實(shí)現(xiàn)金融業(yè)務(wù)數(shù)智化轉(zhuǎn)型?；ㄆ煦y行通過(guò)基于IBM提供的高級(jí)分析解決方案完成了5,000項(xiàng)合規(guī)檢測(cè)，從而協(xié)助2,500名審計(jì)師節(jié)省了30,000小時(shí)的內(nèi)部審計(jì)時(shí)間。同時(shí)，IBM還為花旗銀行創(chuàng)建了一個(gè)AI創(chuàng)新空間，推動(dòng)新審計(jì)平臺(tái)應(yīng)用AI持續(xù)創(chuàng)新。通過(guò)引入watsonx，花旗銀行持續(xù)探索AI賦能內(nèi)部管控，以進(jìn)一步實(shí)現(xiàn)審計(jì)的智能化轉(zhuǎn)型。交通銀行與騰訊攜手打造AI智慧平臺(tái)，推動(dòng)業(yè)

該AIPC快速發(fā)布高效可用的識(shí)別服務(wù)。勞埃德銀行集團(tuán)攜手IBM利用生成式人工智能勞埃德銀行集團(tuán)通過(guò)在整個(gè)企業(yè)范圍內(nèi)使用基礎(chǔ)模型和生成式人工智能模型來(lái)了解不斷執(zhí)行AI支小寶2.0支小寶2.0是螞蟻集團(tuán)基于自研的金2.0步。商湯科技利用生成式人工智能產(chǎn)品賦能金融業(yè)商湯科技為中國(guó)多家保險(xiǎn)公司提供基于AI范。騰訊利用生成式人工智能能力賦能金融等業(yè)務(wù)TI平臺(tái)內(nèi)置的高質(zhì)華為云盤(pán)古金融大模型提供全崗位專(zhuān)家級(jí)助手。華為云與工商銀行軟件開(kāi)發(fā)中心合作打造的網(wǎng)點(diǎn)助手、客服助手等，將大模型的生成能力與檢索技術(shù)進(jìn)

生成式人工智能+工加速數(shù)字轉(zhuǎn)型 三井化學(xué)探索全新的生成式AIMitsu與日本IBM株式會(huì)IBMJaan,d

練ansformrG的智慧助手，推動(dòng)普惠智能金融。生成式人工智能+教助力科教普惠 科大訊飛利用生成式人工智能賦能教育教學(xué)應(yīng)“科技大篷車(chē)AI等科學(xué)知識(shí)APPAI康教育方案中的AI可以隨時(shí)給學(xué)生提供高質(zhì)量心理輔導(dǎo)。英特爾已與27

額。面的大模型能力與服務(wù)“商量”帶來(lái)降本增效長(zhǎng)尾故障與復(fù)雜缺陷進(jìn)行識(shí)別與判斷共研決策智能系統(tǒng)應(yīng)用于電力系統(tǒng)的智能調(diào)度。科大訊飛利用生成式人工智能促進(jìn)工業(yè)領(lǐng)域的范圍內(nèi)開(kāi)展了英特爾數(shù)字化能力培養(yǎng)計(jì)劃，賦能

基于星火大模型的工業(yè)I針對(duì)企業(yè)23,000560通過(guò)AI商湯科技打造AI商湯科技為廣大院校提供符合年齡段的AI教育平SensetudAI教育息職業(yè)技術(shù)學(xué)院在全校通識(shí)教育、人工智能專(zhuān)業(yè)建

解決方案。360聯(lián)合產(chǎn)業(yè)鏈龍頭企業(yè)共同發(fā)起成立GPT產(chǎn)GPT產(chǎn)業(yè)聯(lián)盟將通過(guò)發(fā)展100家GPT垂直行1000家GPT應(yīng)用生態(tài)合作伙GPTGPT產(chǎn)業(yè)GPT產(chǎn)業(yè)聯(lián)盟還將為會(huì)員開(kāi)放API能化升級(jí)。華為云盤(pán)古制造大模型為生產(chǎn)和供應(yīng)鏈計(jì)劃排產(chǎn)尋找降本增效的最優(yōu)解。通過(guò)預(yù)訓(xùn)練華為產(chǎn)線上的各種器件數(shù)據(jù)、業(yè)務(wù)流程及規(guī)則，盤(pán)古制造大模型根經(jīng)驗(yàn)進(jìn)行計(jì)劃排產(chǎn)，重塑為基于全局統(tǒng)籌的最優(yōu)規(guī)的5英特爾釋放生成式人工智能技術(shù)潛力，增強(qiáng)3D體驗(yàn)促進(jìn)自動(dòng)駕駛技術(shù)發(fā)展。英特爾推出開(kāi)源的城市駕駛模擬器CARL佳都科技探索交通領(lǐng)域的創(chuàng)新應(yīng)用，便利出行佳都科技在軌道交通場(chǎng)景，打造地鐵數(shù)字虛乘客進(jìn)行票務(wù)處理。

AI（如醫(yī)生AI模型的透夸克運(yùn)用生成式人工智能技術(shù)提供醫(yī)療信息IBM為溫網(wǎng)與美網(wǎng)錦標(biāo)賽帶來(lái)生成式人工智能賦能的數(shù)字體驗(yàn)。IBMAI評(píng)論解說(shuō)功能利用生成式人生成式人工智能+醫(yī)助推醫(yī)療普惠 阿里巴巴達(dá)摩院運(yùn)用生成式人工智能協(xié)助各類(lèi)阿里巴巴研究團(tuán)隊(duì)借助裂隙燈拍攝了生成式人工智能+醫(yī)助推醫(yī)療普惠 AI可解CT影像輔助分診及評(píng)估軟件》AI專(zhuān)業(yè)人員提供了產(chǎn)品工作原理的

微博利用生成式人工智能推出覆蓋多垂類(lèi)的“AI通過(guò)利用垂類(lèi)博主在不同領(lǐng)域的專(zhuān)業(yè)知AI伴聊為用戶(hù)（星座等在內(nèi)的一系列具有較強(qiáng)專(zhuān)業(yè)性的領(lǐng)域已開(kāi)始逐步落地此項(xiàng)技術(shù)功能。騰訊AI技術(shù)團(tuán)隊(duì)推動(dòng)深度合成與內(nèi)容生成技術(shù)人臉?lè)纻瓮ㄟ^(guò)對(duì)AI文娛領(lǐng)域的安全應(yīng)用。亞馬遜使用生成式人工智能為客戶(hù)提供個(gè)性

效率優(yōu)化，提升應(yīng)用效果。360推出全新搜索引擎AI搜索，賦能搜索創(chuàng)新。360智腦與360AI搜索能夠根據(jù)用戶(hù)輸入的文本生成相關(guān)的回復(fù)或內(nèi)容，在理解用戶(hù)的意圖和情感的基礎(chǔ)化商品內(nèi)容生成式電子商務(wù)SaaS方案廠商Digit- ile，正在使用生成式人工智能來(lái)提高其客戶(hù)亞馬遜產(chǎn)品描述的質(zhì)量，以提高可發(fā)現(xiàn)性和轉(zhuǎn)化率。通過(guò)AI驅(qū)動(dòng)的自然語(yǔ)言處理生成比人類(lèi)生成的更準(zhǔn)確、更詳細(xì)的產(chǎn)品描述，優(yōu)化產(chǎn)品列表描述，從而提高客