CIC灼識(shí)咨詢(xún)-大模型與AIGC藍(lán)皮書(shū)-2023

CIC灼識(shí)咨詢(xún)

大模型與AIGC藍(lán)皮書(shū)

?2023ChinaInsightsConsultancy.Allrightsreserved.Thisdocumentcontainshighlyconfidentialinformationandissolelyfortheuseofourclient.

Nopartofitmaybecirculated,quoted,copiedorotherwisereproducedwithoutthewrittenconsentofChinaInsightsConsultancy.1

灼識(shí)咨詢(xún)是一家知名咨詢(xún)公司。其服務(wù)包括IPO行業(yè)咨詢(xún)、商業(yè)盡職調(diào)查、戰(zhàn)略咨詢(xún)、專(zhuān)家網(wǎng)絡(luò)

服務(wù)等。其咨詢(xún)團(tuán)隊(duì)長(zhǎng)期追蹤物流、互聯(lián)網(wǎng)、消費(fèi)品、大數(shù)據(jù)、高科技、能源電力、供應(yīng)鏈、

人工智能、金融服務(wù)、醫(yī)療、教育、文娛、環(huán)境和樓宇科技、化工、工業(yè)、制造業(yè)、農(nóng)業(yè)等方

面最新的市場(chǎng)趨勢(shì)，并擁有上述行業(yè)最相關(guān)且有見(jiàn)地的市場(chǎng)信息。

灼識(shí)咨詢(xún)通過(guò)運(yùn)用各種資源進(jìn)行一手研究和二手研究。一手研究包括訪(fǎng)談行業(yè)專(zhuān)家和業(yè)內(nèi)人士。

二手研究包括分析各種公開(kāi)發(fā)布的數(shù)據(jù)資源，數(shù)據(jù)來(lái)源包括中華人民共和國(guó)國(guó)家統(tǒng)計(jì)局、上市

公司公告等。灼識(shí)咨詢(xún)使用內(nèi)部數(shù)據(jù)分析模型對(duì)所收集的信息和數(shù)據(jù)進(jìn)行分析，通過(guò)對(duì)使用各

類(lèi)研究方法收集的數(shù)據(jù)進(jìn)行參考比對(duì)，以確保分析的準(zhǔn)確性。

所有統(tǒng)計(jì)數(shù)據(jù)真實(shí)可靠，并是基于截至本報(bào)告發(fā)布日的可用信息。

若您希望獲取CIC灼識(shí)咨詢(xún)的詳細(xì)資料、與灼識(shí)建立媒體/市場(chǎng)合作，或加入灼識(shí)行業(yè)交流群，

歡迎掃碼、致致函marketing@。

2

目錄

I.大模型如今已展現(xiàn)出卓越的能力，隨著其不斷演進(jìn)和完善，

必將引領(lǐng)AI的未來(lái)道路，開(kāi)創(chuàng)智能時(shí)代的新紀(jì)元

II.受益于大模型技術(shù)的日益成熟，AIGC有望掀起新一輪產(chǎn)業(yè)革

命，開(kāi)啟人類(lèi)發(fā)展的智能新時(shí)代

III.GPGPU高度并行的計(jì)算資源為大型模型的訓(xùn)練和推理提供了

不可或缺的支持，推動(dòng)了大模型與AI領(lǐng)域的不斷進(jìn)步和創(chuàng)新

IV.彩蛋：生成式AI如何提升工作效率

3

AI應(yīng)用現(xiàn)狀

全球AI市場(chǎng)預(yù)計(jì)將于2030年達(dá)到1萬(wàn)億美元，并且全球超過(guò)15%的GDP將由AI驅(qū)動(dòng)；AI在各垂直領(lǐng)域的應(yīng)用滲

透率也將繼續(xù)提升。

AI在垂直領(lǐng)域中的應(yīng)用強(qiáng)/主要的弱/次要的

數(shù)據(jù)及AI基礎(chǔ)設(shè)施建設(shè)中國(guó)AI應(yīng)用情況

行業(yè)占支出比例AI應(yīng)用的挑戰(zhàn)

中國(guó)AI支出占AI市場(chǎng)AIITAI支出CAGR，

數(shù)據(jù)量數(shù)據(jù)質(zhì)量IT系統(tǒng)成熟度

比例，

202220222027E22-27E

?不同機(jī)構(gòu)之間的數(shù)據(jù)孤島

金融12.1%11.8%19.8%28.1%

?數(shù)據(jù)系統(tǒng)安全及隱私

?傳統(tǒng)零售商獲取結(jié)構(gòu)化/高度可用的數(shù)據(jù)

零售5.7%3.7%5.7%26.6%

?供應(yīng)鏈機(jī)器學(xué)習(xí)算法優(yōu)化

?專(zhuān)注單點(diǎn)技術(shù)突破，但無(wú)法跨場(chǎng)景規(guī)模化應(yīng)用

制造業(yè)8.6%1.8%4.4%43.6%?數(shù)據(jù)整合程度低，管理欠佳

?AI解決方案供應(yīng)商分散

能源2.6%5.1%9.8%41.4%?AI應(yīng)用/轉(zhuǎn)型進(jìn)度較慢

?數(shù)據(jù)分散在各醫(yī)院/管理機(jī)構(gòu)

醫(yī)療5.6%5.5%8.2%27.6%

?數(shù)據(jù)系統(tǒng)安全及隱私

汽車(chē)12.3%19.5%25.5%21.0%?自動(dòng)駕駛數(shù)據(jù)融合難度高

?不同機(jī)構(gòu)之間的數(shù)據(jù)孤島

政府27.1%21.6%28.3%18.7%

?數(shù)據(jù)系統(tǒng)安全及隱私

資料來(lái)源：灼識(shí)咨詢(xún)4

大模型的定義

大模型是基于海量多源數(shù)據(jù)打造的模型，其是實(shí)現(xiàn)通用人工智能（AGI）的重要路徑。大模型可以整合多種不

同類(lèi)型的數(shù)據(jù)和信息，實(shí)現(xiàn)多模態(tài)處理和分析，從而更全面地理解和解決復(fù)雜問(wèn)題，其具備通用性、涌現(xiàn)性等

諸多特點(diǎn)。

定義

?AI可分為ANI(ArtificialNarrowIntelligence)、AGI(ArtificialGeneralIntelligence)和ASI(ArtificialSuperIntelligence）。ANI是專(zhuān)注于執(zhí)行某一領(lǐng)域任務(wù)的經(jīng)過(guò)訓(xùn)練的人工智能，是目前大多數(shù)的AI

形式；AGI是通用人工智能，是指一種具有與人類(lèi)相當(dāng)?shù)恼J(rèn)知能力的智能系統(tǒng)，能夠理解、學(xué)習(xí)、計(jì)劃和解決問(wèn)題；ASI是超級(jí)人工智能，指在幾乎所有領(lǐng)域都超過(guò)最優(yōu)秀的人類(lèi)所具備的智能、知

識(shí)、創(chuàng)造力、智慧和社交能力的智能系統(tǒng)。目前，ANI已經(jīng)廣泛應(yīng)用，AGI處于研發(fā)階段，而大模型是實(shí)現(xiàn)AGI的重要路徑。

AI的三種類(lèi)型比較大模型是實(shí)現(xiàn)AGI的重要路徑，其具有諸多特點(diǎn)

擅長(zhǎng)領(lǐng)域具備能力發(fā)展成熟度

?通用性?高投入

大模型可以快速并大模型具有重投入、

大規(guī)模地與云計(jì)算、長(zhǎng)周期的特點(diǎn)，如每

互聯(lián)網(wǎng)等其他技術(shù)次測(cè)試需要海量的算

某一特定領(lǐng)域具備執(zhí)行能力已應(yīng)用廣泛結(jié)合，廣泛地應(yīng)用力資源，訓(xùn)練一次成

專(zhuān)用人工智能

(ANI)在經(jīng)濟(jì)的各個(gè)領(lǐng)域。本高達(dá)千萬(wàn)美元。

四大特點(diǎn)

擁有能夠與人類(lèi)相媲美

大部分領(lǐng)域處于研發(fā)階段?工程化

通用人工智能(AGI)的智慧?涌現(xiàn)性

大模型對(duì)數(shù)據(jù)、算法、

大模型參數(shù)超過(guò)百

算力要求極高，需要

億級(jí)時(shí)，模型性能

工程化的經(jīng)營(yíng)思路。

會(huì)呈現(xiàn)出指數(shù)級(jí)增

需要嚴(yán)格把控?cái)?shù)據(jù)清

長(zhǎng)，同時(shí)能夠?qū)ξ?/p>

洗，把控用于關(guān)鍵性

經(jīng)專(zhuān)門(mén)訓(xùn)練的問(wèn)題

訓(xùn)練的數(shù)據(jù)，和構(gòu)建

所有領(lǐng)域全知全能尚處早期舉一反三。

超級(jí)人工智能(ASI)大規(guī)模高質(zhì)量訓(xùn)練的

算力。

資料來(lái)源：灼識(shí)咨詢(xún)5

大模型產(chǎn)業(yè)圖譜

大模型產(chǎn)業(yè)涵蓋了行業(yè)應(yīng)用、產(chǎn)品服務(wù)、模型工具和基礎(chǔ)設(shè)施四個(gè)關(guān)鍵層面，廣泛應(yīng)用于各行業(yè)與垂直場(chǎng)景，

前景廣闊。

大模型相關(guān)產(chǎn)業(yè)圖譜

金融教育藝術(shù)設(shè)計(jì)游戲醫(yī)藥文化娛樂(lè)其他

行

業(yè)

應(yīng)

用

文本圖像音頻視頻虛擬空間代碼

產(chǎn)

品

服

務(wù)

算法模型

模

型

與

工工具平臺(tái)模型托管/交易

具

基數(shù)據(jù)芯片云平臺(tái)

礎(chǔ)

設(shè)

施

資料來(lái)源：中國(guó)信通院，灼識(shí)咨詢(xún)6

大模型的演變

大模型的演變經(jīng)歷3個(gè)階段：基礎(chǔ)大模型具備大量知識(shí)儲(chǔ)備，能理解并生成內(nèi)容，質(zhì)量差強(qiáng)人意；精調(diào)大模型能

按照人類(lèi)偏好及普世價(jià)值取向、并保證一定安全性的前提下，生成高度可用的內(nèi)容；而出現(xiàn)能力涌現(xiàn)的大模型

所生成的內(nèi)容接近人類(lèi)水平。

大模型演變概覽高/強(qiáng)低/弱

1基礎(chǔ)大模型2精調(diào)大模型3能力涌現(xiàn)的大模型

模型示意圖，以GPT-3模型為例指令精調(diào)示意圖能力涌現(xiàn)示意圖

取余數(shù)國(guó)際音單詞解謎修辭手法

學(xué)習(xí)輸出模板運(yùn)算標(biāo)轉(zhuǎn)寫(xiě)

每層

…千個(gè)人工對(duì)大量問(wèn)題的回答形成模板供模型學(xué)習(xí)準(zhǔn)準(zhǔn)準(zhǔn)

確準(zhǔn)確確

性確性性

節(jié)點(diǎn)性

每層

…千個(gè)建立評(píng)分機(jī)制

模節(jié)點(diǎn)人工對(duì)模型的數(shù)個(gè)輸出進(jìn)行排序，建立獎(jiǎng)勵(lì)模型真實(shí)場(chǎng)景映射多任務(wù)自然語(yǔ)境理解

型并為后續(xù)結(jié)果進(jìn)行打分問(wèn)答語(yǔ)言理解

變每層

準(zhǔn)準(zhǔn)準(zhǔn)準(zhǔn)

化…千個(gè)確確確確

根據(jù)結(jié)果重復(fù)優(yōu)化過(guò)程性性性性

節(jié)點(diǎn)

…模型根據(jù)打分結(jié)果調(diào)整后續(xù)輸出，并不斷重復(fù)上

述過(guò)程以?xún)?yōu)化模型

共128層

模型規(guī)模

?GPT-3采用了96層的多頭Transformer，參數(shù)量達(dá)?指令精調(diào)在于確保模型輸出結(jié)果的準(zhǔn)確性及安全性，?隨著模型參數(shù)的指數(shù)級(jí)增長(zhǎng)，大模型能力呈現(xiàn)明顯

到1,750億，并使用45TB數(shù)據(jù)進(jìn)行訓(xùn)練。在該階段需要使用較多的人工標(biāo)注介入。在此基礎(chǔ)上，的爆發(fā)增長(zhǎng)，呈現(xiàn)能力涌現(xiàn)的情況。

引入獎(jiǎng)勵(lì)模型，讓模型脫落人工指引，實(shí)現(xiàn)自?xún)?yōu)化。

模

型

特?具備大量知識(shí)儲(chǔ)備，能理解并生成語(yǔ)言，質(zhì)量差強(qiáng)?能按照人類(lèi)偏好及普世價(jià)值取向，并保證一定安全?具備邏輯推理能力及上下文理解能力，更接近人類(lèi)

征人意。性的前提下生成高度可用的內(nèi)容。水平。

資料來(lái)源：“AreEmergentAbilitiesofLargeLanguageModelsaMirage?”，灼識(shí)咨詢(xún)7

大模型的終端用戶(hù)

大模型的終端用戶(hù)包括C端、B端和企業(yè)自用三類(lèi)。C端用戶(hù)一般使用標(biāo)準(zhǔn)化的模型產(chǎn)品，B端用戶(hù)更傾向于選擇

能滿(mǎn)足行業(yè)或企業(yè)特定需求的個(gè)性化解決方案，而企業(yè)自用的模型則旨在降低運(yùn)營(yíng)成本、提高運(yùn)營(yíng)效率、優(yōu)化

產(chǎn)品的用戶(hù)體驗(yàn)。

大模型的終端用戶(hù)分類(lèi)

主要特點(diǎn)主要變現(xiàn)模式應(yīng)用案例

?主要用于個(gè)人娛樂(lè)、學(xué)習(xí)和創(chuàng)作

?標(biāo)準(zhǔn)化程度高，普適性強(qiáng)?C端用戶(hù)訂閱

C端

?強(qiáng)調(diào)用戶(hù)友好性與互動(dòng)性

?針對(duì)企業(yè)和機(jī)構(gòu)，提供針對(duì)性解決方案的大

模型

?通?；诨A(chǔ)大模型，根據(jù)不同企業(yè)、行業(yè)

?B端企業(yè)用戶(hù)訂閱或購(gòu)買(mǎi)非

的需求進(jìn)行一定程度的定制，模型較為異質(zhì)

定制化行業(yè)模型

B端化、用途多樣

?強(qiáng)調(diào)模型在不同領(lǐng)域的專(zhuān)業(yè)能力，以及客戶(hù)

的數(shù)據(jù)隱私和安全

?主要用于內(nèi)部業(yè)務(wù)優(yōu)化

?無(wú)直接變現(xiàn)，主要作用在于

企業(yè)自用?個(gè)性化定制，解決企業(yè)獨(dú)特的問(wèn)題和需求

降低企業(yè)自身運(yùn)營(yíng)成本并提

?數(shù)據(jù)保密性至關(guān)重要，強(qiáng)調(diào)內(nèi)部控制和數(shù)據(jù)升效率

安全

資料來(lái)源：灼識(shí)咨詢(xún)8

大模型的表現(xiàn)

大模型在多領(lǐng)域表現(xiàn)卓越，在自然語(yǔ)言理解、學(xué)習(xí)能力、視覺(jué)聽(tīng)覺(jué)識(shí)別等領(lǐng)域可以媲美甚至超越人類(lèi)。提高大

模型的創(chuàng)造能力、減少對(duì)數(shù)據(jù)的依賴(lài)性、加強(qiáng)隱私保護(hù)等將會(huì)是大模型迭代的重點(diǎn)。

大模型在不同場(chǎng)景中與人類(lèi)表現(xiàn)對(duì)比

MNISTMNIST(handwriting（手寫(xiě)識(shí)別）recognition)SwitchboardSwitchboard(speech（語(yǔ)音識(shí)別）recognition)

ImageNetImageNet(image（圖像識(shí)別）recognition)SQuADSQuAD1.11.1(reading（綜合閱讀）comprehension)

聽(tīng)覺(jué)識(shí)別

直覺(jué)視覺(jué)SQuADSQuAD2.02.0(reading（綜合閱讀）comprehension)2GLUEGLUE(language（語(yǔ)言理解）understanding)

識(shí)別

0.2

創(chuàng)造性思維

抽象思維

倫理是非人類(lèi)表現(xiàn)

學(xué)習(xí)能力判斷

自然語(yǔ)言0

理解

藝術(shù)表現(xiàn)

情感判斷

大模型尚不具備-0.2

大模型具備但仍需改進(jìn)

大模型具備且可與人類(lèi)媲美

-0.4

?視覺(jué)/聽(tīng)覺(jué)識(shí)別：基本達(dá)到甚至一定程度上超越人類(lèi)，準(zhǔn)確率較高

?學(xué)習(xí)能力：具備自動(dòng)學(xué)習(xí)能力，在特定任務(wù)和數(shù)據(jù)集上可以超越

人類(lèi)

-0.6

?自然語(yǔ)言理解：熟練掌握多種人類(lèi)語(yǔ)言，基本達(dá)到甚至一定程度

上超越人類(lèi)，存在一定語(yǔ)言不夠自然（機(jī)械化）的問(wèn)題

?創(chuàng)造性思維：能夠生成創(chuàng)造性?xún)?nèi)容，但通常是在已知樣本的基礎(chǔ)

上進(jìn)行創(chuàng)作或是需要人類(lèi)指導(dǎo)/二次修改

?抽象思維：相對(duì)有限，依賴(lài)于數(shù)據(jù)與模型參數(shù)-0.8

?藝術(shù)表現(xiàn)：可以生成藝術(shù)作品，但通常缺乏情感和創(chuàng)新

?情感判斷：能夠進(jìn)行情感分析，但不具備真實(shí)情感體驗(yàn)

?倫理是非判斷：不具備，可能引發(fā)錯(cuò)誤或數(shù)據(jù)隱私等安全問(wèn)題

?直覺(jué)：不具備-1

19982003200820132018

資料來(lái)源：“ComputersaceIQtestsbutstillmakedumbmistakes.Candifferenttestshelp?”，灼識(shí)咨詢(xún)9

大模型的發(fā)展現(xiàn)狀

隨著大模型的不斷演進(jìn)，它們的參數(shù)規(guī)模也呈現(xiàn)出指數(shù)級(jí)增長(zhǎng)的趨勢(shì)；與此同時(shí)，它們的復(fù)雜性和功能愈發(fā)提

升，使得大模型能夠在各領(lǐng)域擔(dān)任更加多樣和復(fù)雜的任務(wù)。

大模型的發(fā)展及參數(shù)量

參數(shù)數(shù)量

WuDao2.0

3.2e+12Megatron-GPT-4(1.8T)

TuringNLG

530BPaLM(540B)

GPT-3175BMinerva(540B)

BLOOM

HyperClovaGopherErnieBot(260B)

(davinci)PanGu-uOPT-175B

3.2e+11日日新

Jurassic-1-GLM-130B(180B)

JumboChinchillaSparrow(70B)

Claude(52B)

3.2e+10TuringNLG

T5-11BDALL-ECodexGPT-NeoX-20B

Megatron-LM通義千問(wèn)(7B)

GPT-J-6BERNIE3.0

(Original,8.3B)Jurassic-XChatGL

T5-3BM-6B

CogViewDALL·E2

3.2e+9MeenaGPT-Neo

WuDao-WenStableDiffusion

Yuan(LDM-KL-8-G)

GPT-2Grover-Mega

ERNIE-GEN

3.2e+8(large)

20192020202120222023時(shí)間

分析

?在大模型出現(xiàn)之前，機(jī)器學(xué)習(xí)算法的參數(shù)量以平均每5-6年翻一個(gè)數(shù)量級(jí)的速度快速增長(zhǎng)，而大模型的出現(xiàn)使模型參數(shù)量的增長(zhǎng)速度大幅提升。

?舉例而言，大模型及多模態(tài)模型的鼻祖之一GPT-2發(fā)布于2019年，參數(shù)量為15億；GPT-3發(fā)布于2020年，參數(shù)量即達(dá)到了1,750億，相比GPT-2增長(zhǎng)了100多倍。粗略計(jì)算，在大模型興起的前幾年，

大模型的參數(shù)量每年即可增長(zhǎng)1-2個(gè)數(shù)量級(jí)。

?在目前已公開(kāi)參數(shù)量的大模型中，參數(shù)量最多的達(dá)到了1.75萬(wàn)億。

資料來(lái)源：HAI，灼識(shí)咨詢(xún)10

大模型的應(yīng)用

大模型正在各應(yīng)用場(chǎng)景嶄露頭角，其應(yīng)用場(chǎng)景廣泛且多樣化。從自然語(yǔ)言處理到圖像生成，從音頻處理到視頻、

3D場(chǎng)景創(chuàng)建，大模型能夠應(yīng)對(duì)多領(lǐng)域的挑戰(zhàn)。未來(lái)，大模型有望為更多應(yīng)用場(chǎng)景帶來(lái)更多機(jī)會(huì)和創(chuàng)新。

大模型的應(yīng)用場(chǎng)景

應(yīng)用場(chǎng)景主要用途相關(guān)大模型描述

GPTCohere?模型比較擅長(zhǎng)通用的短/中篇幅寫(xiě)作，通常用于初稿

及更新稿撰寫(xiě)

?營(yíng)銷(xiāo)（內(nèi)容）?通用寫(xiě)作GopherAnthropic

文本?模型能夠理解上下文，生成更自然的文本，準(zhǔn)確性

?銷(xiāo)售（郵件）?記筆記

OPTAI2逐漸接近人類(lèi)水平，廣泛應(yīng)用于智能客服、文本摘

要、內(nèi)容生成等領(lǐng)域

BloomYandex

?代碼生成可能在短期內(nèi)對(duì)開(kāi)發(fā)人員的生產(chǎn)力帶來(lái)重

?代碼生成?文本到SQLGPT

編程大影響

?代碼文檔化?網(wǎng)頁(yè)應(yīng)用構(gòu)建Stability.ai

Tabnine?能降低非開(kāi)發(fā)人員編程的門(mén)檻

?在圖像識(shí)別、分割、風(fēng)格轉(zhuǎn)換等領(lǐng)域有廣泛應(yīng)用，

?圖像生成?媒體/廣告Dall-E2

圖像能夠處理復(fù)雜的視覺(jué)任務(wù)

?消費(fèi)者/社交應(yīng)用?設(shè)計(jì)Craiyon

StableDiffusion?不同風(fēng)格的圖像模型以及編輯和修改生成圖像技術(shù)

?對(duì)聲音和語(yǔ)音的理解能力逐漸提高，生成的音頻逐

音頻?語(yǔ)音合成

OpenAI漸自然、不機(jī)械，且接近人類(lèi)水平

?用于自動(dòng)剪輯、特效創(chuàng)作、噪音修復(fù)、虛擬場(chǎng)景制

視頻?視頻編輯/生成

X-CLIPMake-A-Video作等，大大提升了編輯效率

DreamFusion?在游戲、電影、虛擬現(xiàn)實(shí)、建筑和實(shí)體產(chǎn)品設(shè)計(jì)等

3D?3D模型/場(chǎng)景搭建

MDM(MotionDiffusionModel)大型創(chuàng)意市場(chǎng)極具潛力