2023-AI行業(yè)：華為+AI大模型開源生態(tài)及大模型平臺實踐

Al大模型開源生態(tài)及大模型平臺實踐

CONTENTS01

●生態(tài)基石：

AI

大模型開源生態(tài)發(fā)展洞察分析02

●模型底座：華為AI

大模型全景架構(gòu)及應(yīng)用案例03

●平臺架構(gòu)：大模型平臺技術(shù)架構(gòu)及技術(shù)分析01生態(tài)基石：Al大模型開源生態(tài)發(fā)展洞察分析ChatGPT:在GPT-3大模型的基礎(chǔ)上，通過100

人標(biāo)注1年高質(zhì)量人工數(shù)據(jù)，強化學(xué)

習(xí)所訓(xùn)練出的大模型圖像生成：stable

diffusion、DALL

·E2、紫東.太

初等業(yè)界知名的可以進行圖像生成的

Al模型均是大模型2022年ChatGPTAI螺旋上升式發(fā)展、重大變革機會，從感知理解世界到生成創(chuàng)造世界，

A

I增長新曲線Al重點事件里程碑

1956年達特茅斯會議定義：Artificial

intelligence2007年視覺識別超過人類2020年Alpha

Fold蛋白質(zhì)結(jié)構(gòu)預(yù)測感知理解世界分析數(shù)據(jù)給出建議產(chǎn)業(yè)輔助生成創(chuàng)造世界合成數(shù)據(jù)創(chuàng)造結(jié)果新產(chǎn)業(yè)控制論

NLP

CV

深度學(xué)習(xí)

GAN1997年深藍機器人戰(zhàn)勝

國際象棋大師Stable

Diffusion*圖片生成Al產(chǎn)業(yè)發(fā)展

“三疊浪”安防-視覺

互聯(lián)網(wǎng)-推薦ChatGPT文本生成Al技術(shù)里程碑專家系統(tǒng)17%->58%Al4S增大模型方法優(yōu)勢劣勢難度可行性增加模型參數(shù)蠟大模型根本方法；(1)模型結(jié)構(gòu)需要基于先驗設(shè)計；(2)結(jié)構(gòu)與參數(shù)需要復(fù)雜設(shè)計過程：(3)參數(shù)提升，工程訓(xùn)練難空施之提升；高高增加訓(xùn)練數(shù)據(jù)能與模型解械；(1)增加數(shù)據(jù)是昂貴的行為；(2)數(shù)據(jù)來源無法保證多樣性和均一性；中中增加訓(xùn)練輪數(shù)充分利用模型容量：過多訓(xùn)練導(dǎo)致模型過擬合低低增加模型參數(shù)是當(dāng)前曾大模型容量的最可行方法·

提升模型參數(shù)和增加訓(xùn)練數(shù)據(jù)見效最佳為什么近年模型容量提升速度卻在放緩?·

模型參數(shù)持續(xù)提升，當(dāng)前模型性能提升逐漸趨于平緩

·

模型參數(shù)提升帶來了極大的成本提升

LLM

從量變到質(zhì)變

從chatGPT和更多實驗中發(fā)現(xiàn)，語言模型規(guī)模超過一定閾值產(chǎn)生了超預(yù)期的能力涌現(xiàn)，比如語言理解能力，意圖理解能

力，多輪對話記憶能力等；大規(guī)模語言模型(LLM)所涌現(xiàn)出來的能力超出預(yù)期，使得LLM成為技術(shù)演進方向文章重點考察了小樣本提示任務(wù)中各種模型的涌現(xiàn)能力

更大規(guī)模是否能夠促使更多涌現(xiàn)能力，

LLM

規(guī)模天花板在哪，將是NLP

未來的重要研究方向增

加

模

型

參

數(shù)增

加

訓(xùn)

練

數(shù)

據(jù)>

增減訓(xùn)練輪數(shù)

增大模型容量有效辦法

互聯(lián)網(wǎng)爬取海量數(shù)據(jù)GPT-3無標(biāo)注數(shù)據(jù)自監(jiān)督學(xué)習(xí)大規(guī)模分布式訓(xùn)練ChatGPT:

大算力+大數(shù)據(jù)=大模型，人工反饋強化學(xué)習(xí)增強模型效果ChatGPT2022年12月參數(shù)：1750億

數(shù)據(jù)：45T+X敢于質(zhì)疑、上下文理解、連續(xù)對話能力

承認(rèn)不知道、用戶意圖有效捕捉……ChatGPT

是在GPT-3

的基礎(chǔ)上，通過高質(zhì)量人工數(shù)據(jù)進行強化學(xué)習(xí)所訓(xùn)練出的模型基于人工標(biāo)注數(shù)據(jù)增量訓(xùn)練GPT-3代碼數(shù)據(jù)100人標(biāo)注1年高質(zhì)量數(shù)據(jù)(2000字文稿)效果：單一模型統(tǒng)一所有NLP

任務(wù)，超越現(xiàn)有模型問題：會生成錯誤信息，結(jié)果不可控GPT-22019年2月

參數(shù)：15億

數(shù)據(jù)：40

GB催熟算法架構(gòu)解決了GPT-3

的問題，實現(xiàn)90%+的準(zhǔn)確性

生成創(chuàng)造，已接近人的水平GPT-32020年6月參數(shù)：1750億

數(shù)據(jù)：45

TB參數(shù)量提升10

0

倍數(shù)據(jù)量提升

1

0

0

0

倍RM

對生成結(jié)果(代碼)準(zhǔn)確性評價好壞(強化學(xué)習(xí)糾偏)GPT-12018年6月參數(shù)：1.17億核心訓(xùn)練流程ChatGPT評價數(shù)據(jù)洲導(dǎo)

模型選代人工標(biāo)注數(shù)據(jù)&強化學(xué)習(xí)評價模型

RM基于人工打分

數(shù)據(jù)訓(xùn)練ChatGPT生成結(jié)果(如代碼)高素質(zhì)領(lǐng)域?qū)＜覅⑴c數(shù)據(jù)標(biāo)注和增強工作可顯性化的推理范式與基于人類反饋的迭代更新GPT-3:

海量數(shù)據(jù)無監(jiān)督訓(xùn)練，具備很強的上下文學(xué)習(xí)能力GPT-3.5:

代碼微調(diào)+指令微調(diào)學(xué)習(xí)，具備可顯性化的思維鏈和推理能力GPT+RLHF:

具備向用戶偏好對齊的能力，答案更符合人類預(yù)期50+

研究人員5年探索研究巨量的通用領(lǐng)域無標(biāo)注數(shù)據(jù) GPT-3:

從45TB

原始文本語料篩選出570+GB

高質(zhì)量數(shù)據(jù)(約3000億單詞)GPT-3.5:

訓(xùn)練數(shù)據(jù)包含5400萬個代碼庫，僅Python

語言就有159GBChatGPT

模型還涉及自建/第三方客戶/線上用戶等來源的數(shù)據(jù)ChatGPT

成功關(guān)鍵：龐大算力支持+RLHF使模型更對齊人類語境+高質(zhì)量數(shù)據(jù)持續(xù)訓(xùn)練

GPT-3->InstructGPT

至少需要10萬條高質(zhì)量標(biāo)注數(shù)據(jù)，

ChatGPT

則需要更多龐大的算力

未

來

GPT模型注入企業(yè)內(nèi)部領(lǐng)域知識則需要構(gòu)建額外的高質(zhì)量標(biāo)注數(shù)據(jù)訓(xùn)練：

992塊GPU(A10080GB)推理/路：

8塊GPU

(A10040GB)訓(xùn)練/次：

460萬美元總訓(xùn)練成本：

1200

萬美元ChatGPT

生成文本5萬條越高質(zhì)量

人工標(biāo)注數(shù)據(jù)檢

數(shù)

評檢模型

(RM

0000RM

對生成文本內(nèi)容評價好壞ChatGPT

訓(xùn)練階段引入RLHF

微調(diào)范式，指導(dǎo)模型對齊人類語境高速旋轉(zhuǎn)的數(shù)據(jù)飛輪、大算力驅(qū)動模型更快的進化高質(zhì)量的垂直領(lǐng)域人工標(biāo)注數(shù)據(jù)Al治

理

與

倫理月活1億，且

聲期不集容戶

數(shù)制，用于模型

練1

.5萬條超高質(zhì)

量人工標(biāo)注數(shù)據(jù)數(shù)拇ChatGPT快速自助料錯RLHF

帶來的威力·

有效的回應(yīng)：·

用實的回應(yīng)：默認(rèn)傾向長答案·

公正的回應(yīng)：特別針對政治事件·

拒絕不當(dāng)問題：利用RLHF,chatGPT

性能領(lǐng)先一眾模型：如左圖，

chatGPT

輸出4個結(jié)果都對·

對話者更傾向于“業(yè)界先進企業(yè)一

般<100天”;其他回答對于對話者無幫助；即

，RLHF目的是提升chatGPT

輸出

答案有效性；什么是RLHF?RLHF:

Reinforcement

Learning

from

Human

Feedback即，人類反饋的強化學(xué)習(xí)：增強了人對模型輸出結(jié)果的調(diào)節(jié)，并且對結(jié)果進行了更具理解性的排序。為什么需要RLHF?華為2022年納稅額?策略模型

理

多

輸出結(jié)果

60分全國排第二位更新模型98分全國邦第二位.672億人民節(jié)；打分第二步：對答案優(yōu)劣排序，訓(xùn)練獎勵模型

老

師

閱

卷

：

通

過OpenAl開放的若干API

收集數(shù)據(jù)(模型對同一

問題的不同回

答),收集人類的評分并排序，以此數(shù)據(jù)訓(xùn)練獎勤模型，告訴機器人類的喜第一步：精心標(biāo)注語言以Prompt方式微調(diào)模型學(xué)生刷題：

OpenAl

招募了40位專家，標(biāo)注了5萬條高質(zhì)量數(shù)據(jù)，有監(jiān)督

微調(diào)訓(xùn)練模型，通過樣例學(xué)習(xí)教會機器理解人類prompt

包含的意圖，并·

我也不知道，請你告訴我；·

那資產(chǎn)負(fù)債率多少合適?·

不能過高也不能過低?業(yè)界先進企業(yè)

一般<100天學(xué)生模考：

從數(shù)據(jù)集中采樣prompt

樣例，從監(jiān)督模型初始化策路模型，

使用獎勵模型考察策略模型的輸出，類似模擬考提升策略模型的效果。第三步：通過強化學(xué)習(xí)訓(xùn)練出策略模型

ChatGPT

過人之處：

RLHF基于人類反饋的強化學(xué)習(xí)

Why

RLHF?

華為主要經(jīng)營范圍包居，無線通信設(shè)備。滴費電子產(chǎn)品，數(shù)字能軍，光清信，新能涵汽車…chatGPT

How

RLHF?

企業(yè)運營效率多少最為合適?學(xué)為們立于1987年。

60分：95華為是一家滿信公司。9分：信意評原華為土要程貫范圍包況

無線活信沒備，同費行

們

分

市

庫四據(jù)此給出回答。華為主要經(jīng)營范圍有影些?a舉為主要得營想圍有

哪

?問題回答0分：無關(guān)信息獎勵模型好

。人模型名模型架構(gòu)參數(shù)量算力框架GPT-3Dense

Decoder-only175B10000

V100pytorchMegatron-530BDense

Decoder-only530B2240

A100pytorchGShard-M4MoE

Encoder-decoder600B2048

TPUv3TFGLaMMoE

Decoder-only1.2T1024

TPUv4JaxPalmDense

Decoder-only540B6144

TPUv4JaxGopherDense

Decoder-only280B4096

TPUv3Jax悟道GLMDense

Decoder-improve130B768

A100pytorch·

參

數(shù)

大

：GPT-3/ChatGPT

訓(xùn)練數(shù)據(jù)量45

TB

相當(dāng)于170個維基百科；單次訓(xùn)練算力費用高達2000萬美元(OpenAI

萬

卡V100/A100

持續(xù)迭代3

年);·

模

型

老

：ChatGPT

模型閉源，國內(nèi)存在1~2年差距；

科研團隊、算法公司積極參與算法創(chuàng)新需要大算力支持?！?/p>

全棧技術(shù)難：ChatGPT

大模型+大數(shù)據(jù)持續(xù)學(xué)習(xí)、基于人類反饋強化學(xué)習(xí)和微調(diào)、多機多卡/單卡推理等全棧全流程技術(shù)要求；·

行業(yè)結(jié)合難：優(yōu)質(zhì)模型+專業(yè)知識投入+廠商AI技術(shù)支撐，是大模型可以產(chǎn)業(yè)落地的關(guān)鍵ChatGPT

國內(nèi)商業(yè)化落地，對算力集群軟硬件提出全新挑戰(zhàn)ChatGPT

是大算力、大數(shù)據(jù)驅(qū)動的大模型，通過人工反饋強化學(xué)習(xí)增強模型效果模型訓(xùn)練、推理的技術(shù)挑戰(zhàn)集群建設(shè)的挑戰(zhàn)模型和數(shù)據(jù)解決方案ChatGPT

模型基礎(chǔ)軟件

數(shù)據(jù)硬件●

智譜AI●

垂類初創(chuàng)等云服務(wù)變現(xiàn)ChatGPT

PaaS/SaaSlaaS云服務(wù)器硬件●

OpenAI●

微軟Azure●

微軟：

New

Bing,對google

發(fā)起挑戰(zhàn)●

百度：文心一言嵌入百度搜索●

360搜索等其他搜索公司●

科大訊飛：新一代智能客服●

嗶哩嗶哩：新一代虛擬人業(yè)務(wù)升級傳統(tǒng)推薦式搜索

精準(zhǔn)問答式搜索PGC-UGC

AlGCChatGPT

商業(yè)模式：云服務(wù)、傳統(tǒng)業(yè)務(wù)升級、垂類解決方案下游：應(yīng)用與分發(fā)內(nèi)容生產(chǎn)廠商內(nèi)容創(chuàng)作應(yīng)用服務(wù)商內(nèi)容分發(fā)平臺1)協(xié)助用戶使用模型和算法生成內(nèi)

容，如圖像、文本、語音等。2)將生成的丙容分發(fā)到各種渠道，如社交媒體、娛樂平臺、新聞媒體等。中游：模型開發(fā)與定制算法開發(fā)訓(xùn)練深度學(xué)習(xí)模型二次開發(fā)定制化模型1)使用注釋數(shù)據(jù)開發(fā)和訓(xùn)練AL

模型以生成內(nèi)容：2)在垂直細(xì)分領(lǐng)域進行模型的二

次開發(fā)，以便適應(yīng)定制化需求。上游：數(shù)據(jù)供給數(shù)據(jù)收集數(shù)據(jù)標(biāo)記數(shù)據(jù)預(yù)處理收集大量原始數(shù)據(jù)并對其進行

預(yù)處理，以便提供給模型訓(xùn)練。Microsoft

MetaFlorence

(視覺識別)OPT-175B

(視覺識別)Turing-NLG

(對話系

M2M-100

(語言理解

統(tǒng))

生成)現(xiàn)有產(chǎn)業(yè)鏈拆解：數(shù)據(jù)供給→模型定制→內(nèi)容分發(fā)OpenAI

stablity

ai理解)、生成、

Dision

(

語

CLIP&DALL-E

言理解與圖像

(圖像生成)生成)IBERI

(語言理解與

生

成)Bard(聊天機器人)DeepMindIGato(多模態(tài))|Gopher

(語言理解、1生成)AlphaCode(代碼代碼代碼生成代碼糾錯

代碼優(yōu)化

App制作視頻智能渲染視頻剪輯素材匹配

特效生成音頻AI編曲Al配音

有聲播客

會議還原圖像繪畫生成Al換臉

畫作修復(fù)廣告制作文本郵件撰寫會議紀(jì)要

文案策劃

對話聊天nVIDIA

Megatron-Turing

NIG

(語言理解、

生成、推理)GatGFT

(

語生

成

)上下游各賽道百花齊放，商業(yè)模式持續(xù)探索以ChatGPT

為代表的AIGC行業(yè)，上游主要包括數(shù)據(jù)供給方、算法/模型機構(gòu)、創(chuàng)作者生態(tài)以及底層配合工具等，中游主要包括文字、圖像、音頻、視頻等數(shù)字內(nèi)容的處理加工方，下游主要是各類數(shù)字內(nèi)容分發(fā)平臺、消費方及相關(guān)服務(wù)機構(gòu)等。數(shù)據(jù)供給方(業(yè)務(wù)數(shù)據(jù)聯(lián)通、素材數(shù)據(jù)收集等，如第三方營銷

公司、版權(quán)圖庫方等)相關(guān)算法/模型研究機構(gòu)運營增效智能客服、簡單決策等自動實時交互創(chuàng)

作

者

生

態(tài)生物資產(chǎn)、內(nèi)容素材、

音視頻等多模態(tài)內(nèi)容底層配合工具渲染引擎、混音設(shè)備等數(shù)據(jù)分析標(biāo)注自動標(biāo)注工具、圖像

分割算法等相關(guān)開源算法個性化市場營銷廣告植入、品牌虛擬形象打造、營銷內(nèi)容生成等數(shù)據(jù)梳理內(nèi)外部數(shù)據(jù)分析及更新、數(shù)據(jù)分析及算法訓(xùn)練內(nèi)容制作工具音頻/視頻編輯工具、新聞采編、游戲制作等內(nèi)容設(shè)計視覺設(shè)計、文案設(shè)計、結(jié)構(gòu)設(shè)計等各內(nèi)容創(chuàng)作及分發(fā)平臺基于AICG激發(fā)PGC

及UGC

活力內(nèi)容終端生產(chǎn)廠商新聞媒體機構(gòu)、金融機構(gòu)等第三方內(nèi)容服務(wù)機構(gòu)MCN

公司、公關(guān)公司等周邊售賣NFT、

個性化產(chǎn)品等嵌入/結(jié)合能力的業(yè)務(wù)平臺/業(yè)務(wù)生態(tài)第三方

分發(fā)渠道消費品

廠

商AIGC

內(nèi)容檢測上游下游中游頭部公司聚焦基礎(chǔ)設(shè)施+大模型，初創(chuàng)集中各領(lǐng)域應(yīng)用層模型底座：華為Al大模型全景架構(gòu)及應(yīng)用案例高并發(fā)分布式訓(xùn)推框架·

多維混合并行：自動尋優(yōu)，數(shù)據(jù)、算子、pipeline、

模型自動切分，大規(guī)模并發(fā)執(zhí)行·

多級存儲優(yōu)化：全局內(nèi)存復(fù)用、稀疏特征緩存，CPU/NVMe

offload大規(guī)模集群算力穩(wěn)定輸出·

芯片內(nèi)置200G

網(wǎng)卡，

NPU

規(guī)模從1

K→8K

·

千卡規(guī)模集群線性度55%→80%高階Transformer

API分布式并行、異構(gòu)計算、內(nèi)存優(yōu)化策略自動生成

超大樣本自動切分多維混合并行

數(shù)據(jù)并行

模型并行

流水線并行

優(yōu)化器并行

MoE并行

多副本井行多級存儲優(yōu)化

內(nèi)存復(fù)用

重計算

ofoad

ap

稀疏特征緩存

NVMe

OffloadSwPU&C·

NLP

、CV、多模態(tài)、

AIGC

等12+基礎(chǔ)大模型，

E2E

極簡、開箱即用高效微調(diào)+小型化部署·

微調(diào)組件：

5%參數(shù)微調(diào)即實現(xiàn)全參精度調(diào)優(yōu)

·

小型化組件：量化/蒸餾/剪枝/部署一站式工具鏈，多維混合壓縮20

X壓縮比，精度損失<0.5%華為大模型方案：集群全棧軟硬件能力，使能大模型開發(fā)、訓(xùn)練、微調(diào)、部署產(chǎn)業(yè)化落地案例大模型部署組件模型壓縮模型加密服務(wù)化部署微調(diào)框架Prompt

TuningHead配置化Prompt

模板分布式

微調(diào)多模態(tài)Prompt跨模態(tài)像

0T3

ap

語

Subie

言

DiviionMetricsUtilsTask圖購任務(wù)貫供pipelineNLPBET

T5GP1大模型

使能層MindFormersAI框架昇思大模型統(tǒng)一服務(wù)平臺CVwtsww-TDERI大模型在線微調(diào)

推理服務(wù)平臺ModelsTansfomer

MHA

FN開放服務(wù)平臺Tools模出轉(zhuǎn)換數(shù)據(jù)標(biāo)注分調(diào)切詞大模型預(yù)訓(xùn)練模型市場昇騰硬件社區(qū)競賽

社區(qū)活動大模型微調(diào)組件大模型開發(fā)套件預(yù)訓(xùn)練

檢測大模型培訓(xùn)Data

Module預(yù)費理/下世

[mb

昇騰大模型沙盤，構(gòu)筑中國大模型創(chuàng)新高地基因研究

藥物研發(fā)鵬程.神農(nóng)已發(fā)布城市治理

防災(zāi)減災(zāi)變化監(jiān)測

地物分類武漢.LuoJia已發(fā)布基礎(chǔ)大模型海河.諦聽發(fā)布科研創(chuàng)新使能計劃，推動大模型研究與創(chuàng)新盤古NLP已發(fā)布自然語言處理鵬程.盤古已發(fā)布鵬城-百度

·文心已發(fā)布盤古CV

城為云已發(fā)布計算機視覺素東太初.智能決策博弈智能盤古電力已發(fā)布電力盤古礦山已發(fā)布煤礦智能客服

金融大腦金融MEGA-Protein已發(fā)布流體仿真推薦搜索互聯(lián)網(wǎng)紫東太初.多模態(tài)已發(fā)布人工智能科學(xué)計算秦嶺.用語即將發(fā)布皮帶異

物識別智慧城市生物醫(yī)藥智

能

巡檢2008,4096卡11084096卡多模態(tài)100B256卡語音遙感華為云華為云中

陋

基減碎為率業(yè)界AI框架均已開始布局大模型技術(shù)，探索通用AI能力

主流AI框架開始從并行及存儲優(yōu)化能力探索支持大模型

-2021—

DeepSpeedMicrosoftFairScalefacebook.Mesh-Tensorflow

·

算子級模型并行

·

MoE并行GoogleTensorflowMegatron-LMnVIDIA.·

Transformer草子級模型并行·優(yōu)化器并行·

PipeLine并行、

稀疏Attention、·

優(yōu)化器并行、流水并行基于PyTorch

擴展的框架根據(jù)Transformer定制并行策略，

TensorFlow

也正探索框架內(nèi)支持大模型技術(shù)PyTorch

based英偉達、微軟等基于

PyTorch擴展開發(fā)·

Transformer

流水并行、重計算·模型NVMe

存儲·算子級模型并行

(部分特性拓展到/GPU)·

算子級模型并行

(僅TPU)TensorFlow

based·

MoE支持

異構(gòu)并行IDCPyTorch:33%

飛槳：26%TensorFlow:22%具思：8%其他：7%+OMDIAQ11h,2sant,n

Oslbs,MwsoransEgyiby中國開發(fā)者主類人工智經(jīng)程量使用事拼名滿

私PyTorch:34%

TensorFlow:30%算思：11%飛槳：11%其他：14%+樣本總量531個(通蓋7大領(lǐng)域)(教房利研常：因求實控度，中利院實教意，家級實驗室，高收興生等)樣本總量350個(涵蓋10大行業(yè)領(lǐng)域)互聯(lián)網(wǎng)：5(143%)金融：40(114%)零售：20(5.7%)制造：40(114%)醫(yī)療：25(7.1%)能源：8(23%)物流：7(2%)交通：7(2%)教育：30(8.6%)ISV:100(28.6%)其他：30(8.6%)全球?qū)W術(shù)生態(tài)份額PapersWithCode網(wǎng)站2023年Q1

排名PyTorch

:60%(2168repos)界思：7%(243

repos)TensorFlow:

5%(179

repos)JAX:1

%(21repos)飛槳：0

%

(

3

repos)其他：24%(1014

repos)2023年Q1基于異思的頂會論文243+(連續(xù)全球第二)Pytorch:

起源學(xué)術(shù)界向工業(yè)級滲透，經(jīng)過8年已

成為業(yè)界領(lǐng)導(dǎo)者；飛槳：

依托上層應(yīng)用套件得到部分行業(yè)認(rèn)可；昇思：學(xué)術(shù)生態(tài)具備一定規(guī)模，產(chǎn)業(yè)影響力不足；互聯(lián)網(wǎng)：158(30%)教育/科研交通：100(19%)金融：59(11%)數(shù)字政府：48(9%】通信：59(11%)醫(yī)療：32(6%)國內(nèi)深度學(xué)習(xí)框架市場份額現(xiàn)狀國內(nèi)AI框架市場份額調(diào)研TrendsFrameworkstesafenAI框架持續(xù)迭代和升級，大模型、

AI4S

、

動靜統(tǒng)一是主流技術(shù)趨勢二、

AI

for

Science,融合AI和HPC

技術(shù)生態(tài)·

融合編程，數(shù)值方法和AI方法融合高效混合編程·

融合計算，AI和HPC

負(fù)載混合、異構(gòu)硬件統(tǒng)一加速一、超大模型，高效能訓(xùn)練和推理·

千億參數(shù)、

K級~萬級集群高性能、高穩(wěn)定訓(xùn)練·

大模型及下游任務(wù)，高并發(fā)、低時延極致推理服務(wù)AI框架隨AI產(chǎn)業(yè)迭代演進的四個階段

AI框架的技術(shù)挑戰(zhàn)和趨勢·

生態(tài)錨點從API趨于模型和套件，簡化端到端全流程·

動態(tài)圖和靜態(tài)圖統(tǒng)一，兼顧開發(fā)效、執(zhí)行、部署效率動靜態(tài)圖能力兼顧大規(guī)模分布式三、

易用性覆蓋開發(fā)、訓(xùn)練、部署全流程201

0~20142015~2017學(xué)術(shù)科研

編程加速庫性能優(yōu)先靜態(tài)圖為主靈活性優(yōu)先動態(tài)圖為主DNN

在CV領(lǐng)域突破大規(guī)模研究與應(yīng)用AI4S、大模型、GPT.2021至今20182020NLP持續(xù)突破昇思持續(xù)演進，

MindSpore

2.0全新技術(shù)升級原生支持大模型，從AI框架走向AI+HPC

融合三方框架兼容兼容各類開發(fā)接口，降低

90%遷移成本編程門檻降低API完備度大幅提升，文檔及

工具進一步完善融合AI與HPC,融合計算科學(xué)計算加速庫，支持250+科學(xué)計算

API自動并行，開發(fā)效率提升2倍+加速應(yīng)用創(chuàng)新統(tǒng)一微分自動微分引擎，自持高階高維

混合微分，性能加速5倍+分子模擬套件

99.99%自然界蛋白質(zhì)預(yù)測范圍電磁仿真套件

10x米級陣列天線仿真速度流體仿真套件20x機翼氣動仿真效率端邊云全場景部署統(tǒng)—API,

模型格式免轉(zhuǎn)換，支

持7

種主流OS,

16

種硬件2020.09MindSpore

1.0

全場景AI框架動/靜態(tài)圖能力提升動態(tài)圖執(zhí)行性能提升，靜態(tài)

圖語法完備，編譯性能提升2020.03MindSpore正式開源夯實全場景AI能力，全面提升易用性MindSpore

2.0

AI融合框架MindSpore

1.5

原生支持大模型MindSpore

1.8

全面提升易用性Now

[M]‘

異思2021.092022.04生態(tài)足跡走進國內(nèi)大中城市京津冀中西部

長三角成渝人工計算中心粵港潰與高校、科研院所及企業(yè)進行全方位合作·

大模型合作·

論文基金項目合作

·

眾智項目合作·

行業(yè)方案合作昇思MindSpore

行業(yè)生態(tài)5500+

服務(wù)企業(yè)金融、醫(yī)療、制造、數(shù)字政府等昇思MindSpore

技術(shù)生態(tài)400+

600+會文已發(fā)布紫東.太初、鵑程.神農(nóng)等10個創(chuàng)新大模型昇思MindSpore

開源生態(tài)1.3w+

獻

3

0

sg擔(dān)為開源社區(qū)貢獻代碼、提交issue/合入PR昇思2020年開源至今，匯聚行業(yè)、科研及開源力量，正在繁榮發(fā)展MSG國內(nèi)22座城市、

海外7個國家成立(俄羅斯、新加坡等):舉辦開

發(fā)者線上、線下活動；聯(lián)合啟智社區(qū)已舉辦31場校園行Gitee

AI開源項目綜合排名TOP1師資培訓(xùn)、企業(yè)行在遍布深圳、武漢、上海等開發(fā)者遍及全球下載量480萬+重點區(qū)試算力同·

新增Expander微分機制·

新增Trace的Graph

Capture機制·大算子融合·動態(tài)算子下發(fā)流水化動態(tài)圖執(zhí)行性能：

平均提升50%(vs

1.10版本)·靜態(tài)圖語法完備提升(60%->90%)·

JIT

Fallback支持使用三方庫(numpy、sklearn等100+三方庫)·

Cell級編譯復(fù)用，大模型編譯大幅提

升Jit

Fallback

:支持編譯/運行時回退Python

執(zhí)行Cell編譯共享：干億盤古編譯性能大幅提升盤古Alpha

17581.10版本教程文檔完善豐富實踐案例/配套視須教程/優(yōu)化API文檔官網(wǎng)使用體驗優(yōu)化官網(wǎng)結(jié)構(gòu)憂化/在線CodeLab體撿優(yōu)化/搜素優(yōu)化豐富社區(qū)資源豐富經(jīng)驗、問題案例/專項團隊支撐，問題快速閉環(huán)網(wǎng)絡(luò)動態(tài)執(zhí)行性能提升Resnet10133%Resnet185%Densenet12146%inceptionV458%inceptionV360%Bert-base92%接口類別接口數(shù)量接口占比遷移工作量網(wǎng)絡(luò)表達類141480.57%50%數(shù)據(jù)處理類1528.66%40%執(zhí)行流程715.05%10%·

新增400+API接口，覆蓋90%Pytroch計算和數(shù)據(jù)類API·

支持120+

Pandas

API·數(shù)據(jù)處理支持Dict類型·

函數(shù)式+面向?qū)ο笕诤暇幊绦路妒健PI

文檔全面支持中文·優(yōu)化報錯機制，提供系統(tǒng)化指導(dǎo)·

MindSpore

Dev

Toolkit:支持API

映射掃描，提供VSCode

智能代碼補

全插件開發(fā)態(tài)：編程門檻進一步降低API完備度大幅提升

文檔及工具進一步完善基礎(chǔ)能力全面增強，易用性扎實提升動態(tài)圖執(zhí)行性能提升

靜態(tài)圖語法完備，編譯性能提升API完備：接口覆蓋90%

PT

API,

降低90%的遷移、學(xué)習(xí)成本，模型腳本做到一行代碼遷移文檔工具完善：優(yōu)化API文檔和官網(wǎng)使用體驗，重點輸出問題處理案例部署態(tài)：動/靜態(tài)圖能力進一步提升編澤時間開發(fā)&訓(xùn)練高模塊化，開箱即用·

覆蓋CV/NLP/AIGC/Rec

等熱門領(lǐng)城，10行

代碼實現(xiàn)模型定義、訓(xùn)練、微調(diào)和驗證·實現(xiàn)典型模型開發(fā)效率月->周級別MindFormers預(yù)制預(yù)訓(xùn)練模型GpT

VT/MAE

BERTBLOOM

LaMA預(yù)制下游任務(wù)文本生成

問答圖像分類

填詞MindDiffusion預(yù)制預(yù)訓(xùn)練模型俗空滿畫

SD

TaichuGlide預(yù)制下游任務(wù)圖像修復(fù)

圖像拓展

圖家編輯MindRec1.支

持TB級推薦模型2.

支

持Ascend

異構(gòu)平臺的hash

table微調(diào)算法無loraprefixlowrank-adapterbitfit精度0.5550.55120.54200.55700.5517微調(diào)參數(shù)量1(26Z)0.01670.0550.01580.0150內(nèi)存

(靜&動)9752M+19245M3808M+18994M5504M+4232M3800M+23267M3768M+18665M部署高性能部署·支持干億參數(shù)單卡推理·支持百億大模型分布式和增量推理，平均

性能30ms/tokenMindSpore

Lite多種優(yōu)化特性微調(diào)低參微調(diào)，降低內(nèi)存·在5%參數(shù)量上持平全參微調(diào)精度·降低30%的計算內(nèi)存，有效提升吞吐量原生支持大模型，實現(xiàn)訓(xùn)練-推理全流程技術(shù)閉環(huán)MindPet多種低參微調(diào)算法LoRA

BitFit

Adapter

LowRankAdapter

PrefixTuning4

633.4

ms

43.2

msBatchSizeAscend

910

4卡8

1303.0ms

52.1

ms基于盤古sigma-38B實驗1152

ms運行環(huán)境33.5

ms自

動

并

行分布式推理圖優(yōu)化多酒言接口增量準(zhǔn)理

AOE

優(yōu)化基于盤古alpha

實驗MindSpore

SPONGE

1.0,架構(gòu)全面升級，新增20+生

物計算SOTA模型，覆蓋藥物研發(fā)全流程，包含抗體序列

設(shè)計、蛋白質(zhì)動態(tài)結(jié)構(gòu)解析等超級應(yīng)用，計算、實驗雙重

驗證有效，

效率提升10X+

;MindSpore

Flow

0.1

,構(gòu)建基于物理、數(shù)據(jù)和數(shù)據(jù)機理融合驅(qū)動的三種AI流體仿真技術(shù)以及端到端可微分的CFD

求解器；提供流體領(lǐng)域案例14個，網(wǎng)絡(luò)模型8個；MindSpore

Elec

0.2

,構(gòu)建端到端可微的時域有限差分FDTD

求解器；完成大規(guī)模陣列天線的電磁仿真，精度媲美

傳統(tǒng)方法，

性能提升10X+

;融合計算框架，

兼容Python生態(tài)，支持Numpy

接口

200+,Pandas

接口100+;支持微分方程表達Sympy;

豐富的微分能力，支持高階高緯微分，函數(shù)式

微分；支持稀疏計算。創(chuàng)新打造AI+HPC

融合架構(gòu)，廣泛支持科學(xué)計算聯(lián)合高校/開發(fā)者構(gòu)建領(lǐng)域套件，涵蓋各領(lǐng)域SOTA模型/常用數(shù)據(jù)集/前后處理，各領(lǐng)域全流程打通，支持三大科學(xué)智能范式高效開發(fā)編

評

級

存基礎(chǔ)能力編譯優(yōu)化

融合表達

融合計算循環(huán)半展開

符號計算

多語言后第

高階微分

復(fù)數(shù)變量表達

自動并行

數(shù)值求解對接Numpy/ScipyAI4S

框架套件基礎(chǔ)模型套件MindEarthSciAl科

學(xué)

智

能

創(chuàng)

新場景應(yīng)用蛋白質(zhì)設(shè)計水分子團績性質(zhì)預(yù)測昇騰/鯤鵬化學(xué)文獻氣象預(yù)報化合物設(shè)計流體仿真MindSPONGEMindElecMindFlowMindMaterial領(lǐng)域套件模型規(guī)格I

magenet

ik

acctopl牌比相累bs/8:ms/step性航對比(倍數(shù))業(yè)界SOTA

Toolkit

1業(yè)界SOTA

Toolkit

2MindGVVSToolkit

1VSToolkit

2Toolklt

2

+A100MindCV+910Avgg1972.3872.377521+2.83+2.8485.6581.131.06resnt34733175.117415+0.84-0.9649.1623.982.05densenet16975675.9177.26+1.66+1.35128.473.141.76seNet3474.817536+0.555650.541.11gcogLeNet69.7872.68·2.9542523.262.33nceptionV377.2977447911+1.82+1.6796.961.751.57xception79.0579.01-0.04120.569831.23SqueezeNt158.0959.01+0.9235.6228.181.26mobilenet

v2718872.977218+0.30.7951.5129.91.72mobilenet

v3imall67.6767.6567.81+0.14+0.16125.0784.151.49hmetw3278.4580.64+2.19226.46126.491.79repvgg81783678.81+0.4583.3468.881.21comnetsmall83.6283.7183.40.220.3167272405.961.66ptv2bl78.697891+0.22609.88337.9418MindSporeYOLOMindSpore

AudioModel

Zooyolov3/v5/v7/.wavegrad/deepspeech2/tdnn訓(xùn)練策略數(shù)據(jù)增強10+訓(xùn)練策略組件loss

EMAoptimizer

schedulercutmixrand

augrepeated

aug

auto

aug基礎(chǔ)組件數(shù)據(jù)create

datasetcreate

transformscreate

loader模型create

modelcreate

losscreate

optimizer輔助visualizeexportmetric根型規(guī)格精度精度對比相同bs/8長：ms/step性能對比(信數(shù))業(yè)界SOTA實線MindOCR業(yè)界SOTA實裁

+A100MindoCR+910AdbnetResnet5082.3884.99+2.61468.57414.291.13crnnResnet3483.9984.45+0.4679.2476.401.04利用A+M

親和訓(xùn)練策略、混合精度、數(shù)據(jù)下沉等關(guān)鍵技術(shù)

CV/OCR

領(lǐng)域關(guān)鍵模型精度性能領(lǐng)先CV基礎(chǔ)骨干模型(訓(xùn)練)模型FPS看吐率性能對比(倍數(shù))業(yè)界SOTA實踐MindOCR+310pdbnet+cmn10-1217-181.2+豐富北向領(lǐng)域套件，降低開發(fā)門檻，加速AI場景化應(yīng)用集成主流SOTA

模型、易用數(shù)據(jù)/模型接口，開箱即用resnet/mobilenet/vit/.dbnet/crnn/svtr/.OCR文字檢測/識別(訓(xùn)練)MindSpore

NLPMindSpore

OCROCR文字檢測/識別(推理)MindSpore

CV預(yù)訓(xùn)練

模型MSAdapterAPI(nn/ops)/數(shù)據(jù)處理兼容/微分管理等MindSpore

核心引擎前端API表達NN.Nu

mpy.SciPy.

Pandas等編譯優(yōu)化動/靜態(tài)圖、自動微分、分布式并行、圖算融合、高階被分等運行時管理整圖下沉、異構(gòu)并行、分布式并行調(diào)度等硬件抽象層第三方生態(tài)模型遷移開發(fā)

兼容各類開發(fā)接口，降低90%遷移成本MSAdapter

工具：<15%代碼，全流程實現(xiàn)模型遷移聯(lián)合啟智社區(qū)完成70+主流PyTorch模型遷移模型平均遷移周期1人周數(shù)據(jù)處理代碼一致150+數(shù)據(jù)處理API兼容模型表達代碼一致

1000+模型表達API支持第三方框架兼容，實現(xiàn)低成本遷移Pytorch

模型庫/開發(fā)套件/工具組件/..三方生態(tài)1人月◆

基于昇騰昇思的紫東太初2.0-3.8B模型，開源圖像-

文本多模態(tài)部分◆

相比紫東太初1

.0,支持更細(xì)粒度的圖像識別、更具知識的視覺問答、更豐富的圖像描述紫東

·太初2.0首次提出全模態(tài)大模型圖像語音

多通道語言

視頻3D使能中科院-紫東

·太初升級2.0,從三模態(tài)演進到全模態(tài)的大模型紫東

·太初1.0全球首個三模態(tài)大模型視覺高效協(xié)同文本

語音紫東

·太初2.0:全模態(tài)大模型

基于異思社區(qū)開源：紫東太初2.0-3.8B圖文Chat機器人音樂+圖片

理解與生成三維場量

理解與對話法律案件拆解分析神經(jīng)外科手術(shù)輔助+新媒體全媒體創(chuàng)新開發(fā)平臺+手語手語虛擬人+醫(yī)療互聯(lián)網(wǎng)

虛擬醫(yī)生1000億參數(shù)

2021正式發(fā)布跨模態(tài)行業(yè)應(yīng)用創(chuàng)新干億參數(shù)

2023發(fā)布全模態(tài)行業(yè)應(yīng)用創(chuàng)新紫東太初2.0-3.8B相比1.0版本全面提升·更高集群線性度：512卡集群線性度高達96.5%·更強分布式計算：多維度混合全自動并行，訓(xùn)練性能提升38%·

更優(yōu)圖編譯能力：

支持算子自動融合及調(diào)優(yōu)，訓(xùn)練性能提升43%·

支持異構(gòu)計算：

Ctrl-CPU支持整圖下沉計算，訓(xùn)練性能提升

18%

昇思MinaSporeRBO

序列突變概率輸入4億蛋白質(zhì)序列高通量第選算法覺詞支撐新冠疫苗和藥物研發(fā)提前部署通過6.3*1022

次運算實現(xiàn)演化模擬領(lǐng)先于新冠病毒進化5個月時間聯(lián)合鵬城實驗室發(fā)布鵬程.神農(nóng)，入圍戈登貝爾新冠特別獎首個面向新冠病毒RBD

區(qū)域變異的全環(huán)節(jié)模擬流程

異思：大規(guī)模集群分布式計算的極致性能Ascend鵬城云腦Ⅱ基于昇騰基礎(chǔ)軟硬件為本項目提供：4096卡/1000P算力鵬城實驗室模型與算法研究高院士領(lǐng)隊該研究入圍戈登貝爾新冠特別獎聯(lián)合

創(chuàng)新

RmingAbuadof

kSABS-CV2Vnmtststin-Alaud

Sindlutiont

PeftinRBD

區(qū)

域提取所得約束數(shù)目約束信息正確率耗時FAAST164099.5%<1

hour傳統(tǒng)方法103099.5%>3

month抗體序列設(shè)計-A4針對病毒快速生成或改造抗體，得到高活性、高可用抗體，助力抗體研發(fā)0micron

BA5Omicron

BAQ1.1原始序列強活性弱活性A4設(shè)計序列強活性強活性動態(tài)蛋白結(jié)構(gòu)解析-FAAST全自動解析取蛋白質(zhì)動態(tài)結(jié)構(gòu)，解析時間降至小時級，助力藥物研發(fā)FAAST:<1小時·AI+

約束蛋白質(zhì)結(jié)構(gòu)預(yù)測模型交互迭代AI方法與傳統(tǒng)

解析方法·

全自動解析蛋白質(zhì)動態(tài)結(jié)構(gòu)傳統(tǒng)方法：>

3

個

月·傳統(tǒng)解析方法單條數(shù)據(jù)解析需專家投入一年·

AlphaFold2僅能解析

靜態(tài)結(jié)構(gòu)助力昌平實驗室，打造AI4S

兩大創(chuàng)新場景應(yīng)用傳統(tǒng)抗體設(shè)計方法速度慢成本高依賴人工經(jīng)驗抗

體

設(shè)

計

模

型A4基于多段功能區(qū)域的聯(lián)合分布生成抗體序列還可針對特定抗原的生成抗體序列新方法氨基酸平均約束數(shù)目15-20,符合實驗組要求

·

單結(jié)構(gòu)解析時間約1小時，

全程自動化·計算驗證有效抗體數(shù)量對比傳統(tǒng)方法15倍提升

·實驗驗證針對多種毒株有強活性24%的A4模型生成抗體可發(fā)展性超越原始抗體相比傳統(tǒng)方法提升15倍實現(xiàn)全自動解析，性能指數(shù)級提升，實驗驗證精度持平驗證結(jié)果：

A4

設(shè)計的抗體針對多種毒株有效FAAST超級

應(yīng)用實驗驗證超級應(yīng)用實驗驗證A4支撐行業(yè)用戶基于昇思套件，加速金融AI業(yè)務(wù)上線開發(fā)訓(xùn)練1周/模型主流模型覆蓋開箱即用業(yè)務(wù)遷移僅需適配數(shù)據(jù)集分布式訓(xùn)練周>天全棧軟硬件協(xié)同優(yōu)化8卡分布式訓(xùn)練縮短周期MindFormers多維度混合并行：數(shù)據(jù)、模型、

流水線、MOE

并行多維存儲優(yōu)化：內(nèi)存復(fù)用、重

計算、CPU

Offload&SwapMindSpore

Audio·

主流ASR模型分布式訓(xùn)練

·

訓(xùn)練一鍵轉(zhuǎn)推理，支持流式推理MindSpore

OCR·

主流模型支持·

訓(xùn)-推全流程全棧優(yōu)化部署上線1天/模型保留原有服務(wù)接口

業(yè)務(wù)遷移<10行修改吞吐率提升5倍現(xiàn)金計數(shù)吞吐率從2>10fps

優(yōu)勢模型推理性能極致優(yōu)化原模型

基于異思

原模型

基于異思精度

提升效率

提升95.8%基于異思某頭部

銀行昇思

領(lǐng)域

套件94.8%原模型92.1%原模型97.9%

98.7%92%

92.3%基于異思94.3%MSG

校園行啟智校園行(6場)&

HPDC

高校分論

壇(10+場)、HC

高校分論壇(20+

場)、智能基座具思高校行(16場)專題Workshop社區(qū)治理類(技術(shù)/專家委員會，4+場)技術(shù)專題類(分子動力學(xué)/調(diào)試調(diào)優(yōu)/開發(fā)者體驗/10類大模型等，15+場)MSG

城市行城市自組織Meetup(20+

城市40+場)MindCon

極客周(6/12月各15+場)海外直播(12+場)開發(fā)者活動基礎(chǔ)模型之夏、新版本集訓(xùn)營(4+場)

實戰(zhàn)課程(4+場)、社區(qū)SIG/WG

會議(40+場)、開源實習(xí)國際開源大會PyCon

US、LFAI&Data、KubeConEU、KubeCon、ONNX

Workshop、

KubeCon

US相關(guān)賽事互聯(lián)網(wǎng)+、綠盟杯、CCF

BDCI大賽、

信通院創(chuàng)新大賽、

GSoC、Kaggle、

異思Al挑戰(zhàn)賽、異思AI新人賽國內(nèi)大型峰會Valse大會、CCIG

大會、WAIC

開發(fā)

者論壇、ACM

圖靈大會、1024程序員節(jié)、CCF

各類會議首屆昇思峰會一起異思，突破創(chuàng)新邊界匯聚政、產(chǎn)、學(xué)、研、用領(lǐng)軍人物

共同發(fā)聲，共同譜寫具思價值加入昇思生態(tài)，社區(qū)全年200+場活動期待您的參與03平臺架構(gòu)：大模型平臺技術(shù)架構(gòu)及技術(shù)分析北京太罩。西安成都人工管旗計算中心翩城海南sM]

昇思鵬程.盤古

NLP

大模型鵬程.神農(nóng)生物醫(yī)藥平臺紫東.太初多模態(tài)大模型武漢.Luojia

遙感領(lǐng)域大模型大算力賦能大模型，大模型使能新應(yīng)用，牽引生態(tài)聚合，加速產(chǎn)業(yè)發(fā)展各領(lǐng)域行業(yè)用戶金融醫(yī)療互聯(lián)網(wǎng)教育遙感制造盤古產(chǎn)業(yè)集群神農(nóng)產(chǎn)業(yè)集群多模態(tài)產(chǎn)業(yè)集群遙感產(chǎn)業(yè)集群人工智能算力網(wǎng)絡(luò)

使能大模型科研，收編大模型開發(fā)

推動大模型行業(yè)新應(yīng)用落地

建立大模型產(chǎn)業(yè)集群“青島上

海n大算力+大數(shù)據(jù)使能大模型賦能新應(yīng)用大模型為先的新一代基礎(chǔ)設(shè)施和工具·

有些需要大量資本，但是是新時代早期的好“工具生意”

·

更有效算力如芯片架構(gòu)和算力系統(tǒng)·

網(wǎng)絡(luò)和數(shù)據(jù)中心基礎(chǔ)設(shè)施(如RDMA,RoCE

等)大規(guī)模訓(xùn)練，微調(diào)，推理系統(tǒng)·

數(shù)據(jù)系統(tǒng)，數(shù)據(jù)堆棧，如Embedding,

向量數(shù)據(jù)庫和檢索

·開發(fā)工具鏈：尤其是框架(比如基于Triton的)開源：模型、代碼、數(shù)據(jù)集、設(shè)計等·

新一代尤其是跨學(xué)科/大模型驅(qū)動的科研發(fā)展計算系統(tǒng)文字符號系統(tǒng)疊加向量系統(tǒng)量子計算系統(tǒng)計算基板基于硅的(芯片)量子(電子、光子、離子、原子)基于碳的(生物計算)開發(fā)系統(tǒng)和環(huán)境：工具鏈、已發(fā)表的研究、開源軟件、數(shù)據(jù)集、設(shè)計、信息安全、隱私、產(chǎn)權(quán)保護事的機會：數(shù)字化基礎(chǔ)-大模型時代新一代基礎(chǔ)設(shè)施和工具芯

片+模

塊+操作系統(tǒng)：服務(wù)器、交換機、數(shù)據(jù)中心，衛(wèi)呈載荷/呈座能力提供

通信網(wǎng)絡(luò)、數(shù)據(jù)中心、數(shù)據(jù)堆棧、分布式系統(tǒng)、區(qū)塊鏈能力供給

云、邊球計算，Web3

(

信

任

)

、

模

型(

知

識

)數(shù)字化平臺的解剖結(jié)構(gòu)數(shù)字化發(fā)展基礎(chǔ)④

Web-2移動互聯(lián)同/云計算⑧

腦機接口⑨

量子⑩

生物基③

Web-

1個人電腦互聯(lián)同①

個人電腦1

磁盤操作系統(tǒng)②

PC客戶端

服務(wù)器⑥

元字由⑦

Web-3⑤

Al/邊緣計算后

端設(shè)備前端體驗畫布文檔、圖片、音視頻聊天(文本),代碼空間、世界、人類(化身)生物/蛋白質(zhì)/++感知刺激體驗容器2D:查看/聽取的頁面樞架、文本3D:具體化的元宇宙XR-現(xiàn)實嵌入式

嘀機接口設(shè)備芯片+模塊+操作系統(tǒng)PC、手機、手表、眼鏡、耳機、可穿戴設(shè)備可植入設(shè)備、機器人、汽車、地點、設(shè)務(wù)(生物醫(yī)學(xué)于)殺手級應(yīng)用程序：垂直擴展，獲取實質(zhì)性的價值錨點：潛在的擴展——工具鏈、基礎(chǔ)設(shè)施、硅堆棧錨點：未來的擴展——設(shè)備和設(shè)備計算系統(tǒng)文字符號系統(tǒng)

規(guī)?？涨暗纳虡I(yè)機會：可能有未來第一家$10T公司的機會計算基板基于硅的(芯片)基于碳的(生歲

激烈競爭開始：OpenAI、微軟、谷歌、創(chuàng)業(yè)公司、中國企開發(fā)系統(tǒng)和環(huán)境：工具鏈、已發(fā)表的研究、開源軟件、數(shù)據(jù)集、設(shè)計、信息安全、隱私、產(chǎn)權(quán)保護后

端能力供給云、邊緣計算。Web3(信任)、

模型(知識)網(wǎng)絡(luò)、數(shù)據(jù)中心、數(shù)據(jù)堆棧、分布式系統(tǒng)、區(qū)塊鏈能力提供

新平臺：基于大模型的模型可延申能力，自然語言全交互界面

商業(yè)模式：為開發(fā)者和合作伙伴創(chuàng)造價值①

個人電腦/②

PC

客戶端③

Web-

1④

Web-2⑤

AI1⑥元宇由⑧腦機接口磁盤操作系統(tǒng)服

務(wù)

器個人電腦互聯(lián)網(wǎng)移動互聯(lián)網(wǎng)/云計算邊練計算⑦Web-3⑨

⑩量子生物基事的機會：數(shù)字化基礎(chǔ)-大模型時代的新平臺

完整：開箱即用，有足夠的使用價值數(shù)字化平臺的解剖結(jié)構(gòu)