計(jì)算機(jī)行業(yè)華為昇騰一體機(jī)深度研究：國(guó)產(chǎn)AI算力的星辰大海

目錄昇騰一體機(jī)打通AI落地“最后一公里” 3昇騰一體機(jī)瞄準(zhǔn)大模型本地化部署藍(lán)海市場(chǎng) 4國(guó)內(nèi)G端率先落地，樂觀預(yù)計(jì)市場(chǎng)規(guī)模超4500億元 6市場(chǎng)格局：軟硬件一體化能力或成為核心競(jìng)爭(zhēng)力 9昇騰軟硬件生態(tài)不斷成熟賦能一體機(jī)發(fā)展 12昇騰AI芯片提供強(qiáng)大算力 12昇騰軟件體系不斷成熟 13昇騰五類生態(tài)伙伴，覆蓋眾多主流廠商 17昇騰一體機(jī)重點(diǎn)公司 20科大訊飛：聯(lián)手華為打造國(guó)產(chǎn)AI“Wintel”聯(lián)盟 20軟通動(dòng)力：昇騰AI生態(tài)圈踐行者 21云從科技：昇騰一體機(jī)賦能千行百業(yè)數(shù)字化轉(zhuǎn)型 22恒為科技：AI算力可視化的“光模塊”，昇騰一體機(jī)業(yè)務(wù)有序推進(jìn)中 24風(fēng)險(xiǎn)提示 26插圖目錄 27表格目錄 27AI落地“最后一公里”昇騰AI一體機(jī)是國(guó)內(nèi)AI軟硬件技術(shù)的黃金交點(diǎn)，是以國(guó)產(chǎn)算力領(lǐng)軍者華為AI基礎(chǔ)軟硬件平臺(tái)為基礎(chǔ)，聯(lián)合國(guó)內(nèi)領(lǐng)先AI廠商打造的先進(jìn)生產(chǎn)力工具。202376WAIC2023會(huì)上聯(lián)合四家伙伴共同發(fā)布昇騰AI大模型訓(xùn)推一體化解決方案，雙方通過共同設(shè)計(jì)、聯(lián)合開發(fā)、協(xié)同上市、持續(xù)迭AIAtlasCANNAIMindSporeMindXModelArtsMindStudio圖1：昇騰大模型訓(xùn)推一體化解決方案聯(lián)合發(fā)布儀式 資料來源：36氪公眾號(hào)，AI全場(chǎng)20233AIAIAIAI6AIAI2023AIAIAI表1：國(guó)內(nèi)重點(diǎn)昇騰一體機(jī)發(fā)布時(shí)間軸合作廠商名稱算力簡(jiǎn)述時(shí)間AIAIAI華鯤振宇A(yù)I訓(xùn)練開發(fā)一體機(jī)2.24PFLOPS開發(fā)組件和存儲(chǔ)高效融合，構(gòu)建完整的AI數(shù)據(jù)服務(wù)與開發(fā)工作流2023/3/14一體化系統(tǒng)基于昇騰AI基礎(chǔ)硬件平臺(tái)，整合天鶴OS操作系統(tǒng)等組件，搭載軟通動(dòng)力訓(xùn)推一體化平臺(tái)2.5PFLOPS自有AI中臺(tái)，支持一站式AI開發(fā)，為用戶提供多種交互式AI模2023/6/5型，深度適配不同AI應(yīng)用場(chǎng)景從容大模型推訓(xùn)一體機(jī)結(jié)合云從傳統(tǒng)視覺優(yōu)勢(shì)，可以提供語言、視云從科技從容大模型訓(xùn)推一體機(jī)2.5PFLOPS2023/8/2企業(yè)打造專屬行業(yè)大模型，實(shí)現(xiàn)5倍效率提升?？拼笥嶏w星火一體機(jī)2.5PFLOPS知識(shí)圖譜構(gòu)建、智能推薦等多個(gè)領(lǐng)域的應(yīng)用，具備大模型預(yù)訓(xùn)練、2023/8/15多模態(tài)理解與生成、多任務(wù)學(xué)習(xí)和遷移等能力AI華鯤振宇醫(yī)渡科技

訓(xùn)推/理/代碼體機(jī) 暫未披露醫(yī)療領(lǐng)域?qū)俅竽Ｐ陀?xùn)推暫未披露一體機(jī)

GLMAI安恒信息恒腦·安全垂域大模型已順利通過AI框架昇思

2023/9/62023/9/21安恒信息大模型一體機(jī)暫未披露 MindSpore互兼性測(cè)認(rèn)，基于騰聯(lián)開發(fā)大模一 2023/9/22體機(jī)已完成適配中軟國(guó)際昇騰云+混合云一體機(jī)“昇騰云+混合云一體機(jī)”是基于鯤鵬920系列+昇騰910系列的新一代GPU芯片的大模型訓(xùn)練和推理一體機(jī)，具備更高算力、極暫未披露 2023/10/20致能效比和高速網(wǎng)絡(luò)寬帶，可用于大模型開發(fā)、大模型使用和大模型的運(yùn)維管理。資料來源：華鯤振宇、軟通動(dòng)力、華為中國(guó)政企業(yè)務(wù)等微信公眾號(hào)，本地化部署市場(chǎng)需求清晰大模型本地化部署市場(chǎng)需求主要有數(shù)據(jù)安全需求和技術(shù)需求兩大類：習(xí)泄露數(shù)據(jù)內(nèi)容，造成不可逆損失。據(jù)澎拜新聞援引韓國(guó)媒體《economist》報(bào)道，20233ChatGPTChatGPTCyberhavenChatGPT11%都是敏感數(shù)據(jù)。圖2：11%敏感數(shù)據(jù)被傳輸給ChatGPT資料來源：量子位，的市場(chǎng)環(huán)境中積累經(jīng)驗(yàn)，而單單使用APIwillows.aiAI的模型，會(huì)限制進(jìn)一步進(jìn)行實(shí)驗(yàn)和增強(qiáng)模型的可能性。此外，AIAIAI海外巨頭爭(zhēng)先入局驗(yàn)證賽道景氣度L40SL40SNVLink8A100單卡相比，L40S在AI推理效能提高20%，AI練效率提高70%，微調(diào)方面比A100快50%。圖3：英偉達(dá)L40S發(fā)布后供不應(yīng)求資料來源：英偉達(dá)官網(wǎng)，戴爾集團(tuán)與英偉達(dá)聯(lián)合發(fā)布用于安全、本地化部署生成式AI的ProjectHelix。據(jù)英偉達(dá)官網(wǎng)，ProjectHelix將支持從基礎(chǔ)設(shè)施配置、建模、訓(xùn)練、微調(diào)、應(yīng)用開發(fā)和部署一直到部署推理和精簡(jiǎn)結(jié)果等整個(gè)生成式AI的生命周期。。ProjectHelix還包含NVIDIAAIEnterprise軟件，為客戶提供用于整個(gè)AI生命周期的工具。NVIDIAAIEnterprise包含100多個(gè)框架、預(yù)訓(xùn)練模型和開發(fā)工具，例如用于構(gòu)建主題鮮明、安全可靠的生成式AI聊天機(jī)器人的NVIDIANeMo?大型語言模型框架與NeMoGuardrails軟件。此外，ProjectHelix還將安全和隱私功能內(nèi)置在基礎(chǔ)組件中，如SecuredComponentVerification等在本地保護(hù)數(shù)據(jù)可以降低固有風(fēng)險(xiǎn)，幫助企業(yè)滿足監(jiān)管要求。圖4：戴爾ProjectHelix實(shí)拍圖 資料來源：戴爾官網(wǎng)，G4500億元G端數(shù)據(jù)安全最為迫切，推動(dòng)大模型本地化部署需求率先落地。從數(shù)據(jù)的自主可控出發(fā)，黨政軍對(duì)數(shù)據(jù)安全需求強(qiáng)烈：據(jù)維創(chuàng)，政府?dāng)?shù)據(jù)和軍隊(duì)國(guó)防機(jī)密若泄密極易造成重大負(fù)面影響，甚至危及國(guó)家安全和社會(huì)穩(wěn)定。優(yōu)刻得與沐曦、智譜華章共同在寧夏的開放平臺(tái)上面向第一批用戶也正是GAIAI一體機(jī)以及編程一體機(jī)三類。圖5：國(guó)內(nèi)G端數(shù)據(jù)安全需求最為迫切資料來源：CCW，深圳龍知政政務(wù)垂直領(lǐng)域GPT或在全國(guó)范圍內(nèi)形成標(biāo)桿效應(yīng)。據(jù)深圳龍華微信公眾號(hào)，深圳龍知政政務(wù)垂直領(lǐng)GPT”GPT專業(yè)技術(shù)保障團(tuán)隊(duì)，自研技術(shù)支撐服務(wù)，操作流程更合規(guī)；二是通過大模型的私有化部署，確保政務(wù)數(shù)據(jù)隔離，使用更安全；三是針對(duì)政務(wù)服務(wù)需求定向優(yōu)化，業(yè)務(wù)處理更高效準(zhǔn)確，服務(wù)更貼心便捷。圖6：龍知政GPT大模型技術(shù)原理資料來源：深圳龍華微信公眾號(hào)，從最優(yōu)化角度計(jì)算市場(chǎng)規(guī)模，AI一體機(jī)需求量等于接入AI的PCAIAI芯片為主預(yù)計(jì)AI一體機(jī)硬件參數(shù)接近，使用摩爾線程一體機(jī)40智譜一體機(jī)最低180萬單價(jià)進(jìn)行市場(chǎng)測(cè)算：1）2022年國(guó)家機(jī)關(guān)和事業(yè)單位住房公積金實(shí)繳職工數(shù)量約4745萬人，假70%PC2023-2027GPC3300-3400樂觀/中性/悲觀情況下，至2027年接入大模型的PC滲透率分別為30%/20%/10%；AI40AI180/臺(tái)（最低配置產(chǎn)品）綜上可得，2027/中性/AI4590/3060/15302024E2025E2026E2027E備注PC數(shù)量（萬臺(tái)）33002024E2025E2026E2027E備注PC數(shù)量（萬臺(tái)）33003325335033753400AI滲透率預(yù)測(cè)值樂觀1.0%15.0%23.0%27.0%30.00%中性5.00%10.00%15.00%20.00%悲觀2.50%5.00%7.50%10.00%接入AI的PC數(shù)量（萬臺(tái)）樂觀33498.75770.5911.251020中性16.5166.25335506.25680悲觀083.125167.5253.125340AI（最大并發(fā)40臺(tái)樂觀0.812.519.322.825.5中性0.44.28.412.717.0悲觀0.02.14.26.38.5AI一體機(jī)市場(chǎng)規(guī)模（億元）單價(jià)180萬元樂觀 1492244346741014590中性 74748150822783060悲觀 037475411391530資料來源：摩爾線程，智譜AI，《全國(guó)住房公積金2022年年度報(bào)告》，測(cè)算AIITPCAI40AI1801）2022年國(guó)家機(jī)關(guān)和事業(yè)單位住房公積金實(shí)繳職工數(shù)量約4745萬人，假設(shè)70%職工配PC、假設(shè)職工數(shù)量穩(wěn)定略微波動(dòng)，則2023-2027年G端PC數(shù)量為3300-3400萬臺(tái)；根據(jù)中公教育的2024中央黨群機(jī)關(guān)公務(wù)員招聘信息估算，2024年負(fù)責(zé)IT公務(wù)員占比約為6%，假設(shè)2023-2027年穩(wěn)定6%；ITAI2027IT部門50%接入編程A，高于政府部門總體30%滲透率（上文；參考摩爾線程和智譜40180萬元；綜上可得，2027/中性/G92/55/3720232024E2025E2026E2027E備注20232024E2025E2026E2027E備注PC數(shù)量（萬臺(tái)）33003325335033753400政府IT員工占比6%6%6%6%6%編程AI滲透率預(yù)測(cè)樂觀1%25%40%45%50%中性1%15%20%25%30%悲觀0%5%10%15%20%接入編程AI政府IT員工PC數(shù)量（萬臺(tái)）樂觀2508091102中性130405161悲觀010203041（）最大并發(fā)40臺(tái)樂觀0.00.20.40.50.5中性0.00.10.20.30.3悲觀0.00.00.10.20.2編程一體機(jī)市場(chǎng)規(guī)模（億元）單價(jià)180萬元樂觀 245728292中性 127364655悲觀 09182737資料來源：摩爾線程，智譜AI，《全國(guó)住房公積金2022年年度報(bào)告》，測(cè)算昇騰一體機(jī)需要AI廠商擁有強(qiáng)大的AI領(lǐng)域軟硬件一體化工程能力。AIAI針對(duì)人工智能所需要的最重要的算子庫(kù)進(jìn)行甄別和打磨；此外，科大訊飛的訓(xùn)練和數(shù)據(jù)閉環(huán)全流程設(shè)計(jì)，以及訓(xùn)練和推理一體化設(shè)計(jì)的自研大模型訓(xùn)練平臺(tái)支持大規(guī)模的異構(gòu)算力兼容、也支持混合云架構(gòu)易拓展等特性也起到重要作用。華為徐直軍在1024騰生態(tài)的“飛星一號(hào)”平臺(tái)。公司與華為昇騰合作，實(shí)現(xiàn)從算力底層硬件基礎(chǔ)設(shè)GPUA10020185ICT基礎(chǔ)設(shè)施產(chǎn)品、智能終端、以及辦公I(xiàn)T深度戰(zhàn)略合作；在2023年7通用智能新底座，通過軟硬件的完美協(xié)同優(yōu)化，構(gòu)建算力集中、性能優(yōu)越、供給穩(wěn)定、數(shù)據(jù)安全的大模型訓(xùn)練集群，加速了訓(xùn)練和數(shù)據(jù)的全流程閉環(huán)。據(jù)科大訊飛董事長(zhǎng)劉慶峰，在華為派出專門工作組在訊飛成立專班工作優(yōu)化的背景下，華GPUA100。此外，公司于200947AIAIIT20231024華為輪值董事長(zhǎng)徐直軍表示4.0支撐，目前華為公司在全球所有智能終端的語音技術(shù)都來自科大訊飛，未來將與科大訊飛在大模型領(lǐng)域開展更多合作?？拼笥嶏w董事長(zhǎng)劉慶峰表示，半年內(nèi)訊飛和華為成立的“聯(lián)合特戰(zhàn)隊(duì)”實(shí)現(xiàn)星火大模型訓(xùn)練和推理效率均翻番。圖7：科大訊飛與華為昇騰強(qiáng)強(qiáng)聯(lián)合 資料來源：WAIC2023，訊飛星火一體機(jī)競(jìng)爭(zhēng)優(yōu)勢(shì)顯著。智譜AI的大模型ChatGLM與星火大模型、3960萬元/15（星火一體機(jī)憑借自身豐富軟硬件一體化產(chǎn)品開發(fā)經(jīng)驗(yàn)或能夠帶來更強(qiáng)性價(jià)比；云從科技、恒為科技、軟通動(dòng)力等公司也發(fā)布基于昇騰硬件的一體機(jī)產(chǎn)品，但上述公司大模型性能很難與國(guó)產(chǎn)大模型TOP3件部分使用體驗(yàn)或低于星火一體機(jī)；因此，我們認(rèn)為星火一體機(jī)在市場(chǎng)競(jìng)爭(zhēng)優(yōu)勢(shì)顯著。圖8：昇騰一體機(jī)競(jìng)品比較 資料來源：，智譜AI官網(wǎng)，昇騰軟硬件生態(tài)不斷成熟賦能一體機(jī)發(fā)展AI基于達(dá)芬奇架構(gòu)的兩顆“芯”。2018年10月，代號(hào)為310和910的昇騰處理器系列產(chǎn)品推出。1）昇騰310處理器：本質(zhì)上是人工智能片上系統(tǒng)，主要應(yīng)用于邊緣計(jì)算產(chǎn)品和移動(dòng)端設(shè)備等低功耗的領(lǐng)域。該芯片采用12nm制造工藝，（INT8）算力16TOPS16通道全高清視頻解碼器。2）910處理器：V100GPU910表現(xiàn)非常出色，半精度（FP16）算力可達(dá)320TFLOPS，整數(shù)精（INT8）640TOPS310W7nm128910A100圖9：昇騰310關(guān)鍵特性 圖10：昇騰910關(guān)鍵特性 資料來源：華為海思官網(wǎng)， 資料來源：華為海思官網(wǎng)，公司名稱產(chǎn)品型號(hào)運(yùn)算能力（理論峰值性能）性能功耗比公司名稱產(chǎn)品型號(hào)運(yùn)算能力（理論峰值性能）性能功耗比峰值半精度性能峰值雙精度（FP64）性能架構(gòu)顯存帶寬面向訓(xùn)練/推理任務(wù)英偉達(dá)A100624TOPS@INT8(非稀疏模式）約2TOPS/W(非稀疏模式）312TFLOPs19.5TFLOPsAmpere1935GB/s推理和訓(xùn)練AMDMI100184.6TOPS@INT8約0.6TOPS/W184.6TFLOPs11.5TFLOPsCDNA1.2TB/s推理和訓(xùn)練寒武紀(jì)思元590MLUarch05推理和訓(xùn)練海光深算一號(hào)1024GB/s推理和訓(xùn)練百度昆侖昆侖2256TOPS@INT8約2.1TOPS/W128TFLOPSXPU-R推理和訓(xùn)練HUAWEI華為海思 Ascend910 640TOPS@INT8 約320TFLOPs 推理和練DaVinci資料來源：nvidia官網(wǎng)、AMD官網(wǎng)、寒武紀(jì)官網(wǎng)、海光招股書明書、昆侖芯官網(wǎng)，華為海思官網(wǎng)，AICANNAIMindSpore第三方適配以及全流程開發(fā)工具鏈MindStudio。本文主要關(guān)注CANNMindStudio。CANNCUDACANNAIAscendCL對(duì)外提供Device管理、Context管理、Stream管理、內(nèi)存管理、模型加載與執(zhí)行、算子加載與執(zhí)行、媒體數(shù)據(jù)處理等API，幫助開發(fā)者實(shí)現(xiàn)在CANN平臺(tái)上進(jìn)行深度學(xué)習(xí)推理計(jì)算、圖像預(yù)處理、單算子加速計(jì)算。在離線推理場(chǎng)景和訓(xùn)練場(chǎng)景都有應(yīng)用。CANN釋放AI硬件的極致性能，其高性能算子庫(kù)和調(diào)優(yōu)引擎，支撐快速部署神經(jīng)網(wǎng)絡(luò)。深度學(xué)習(xí)框架構(gòu)建的模型是由一個(gè)個(gè)計(jì)算單元組成，這些計(jì)算單元CANN140090080%DSLDSL70AOE，取代了繁瑣的手動(dòng)優(yōu)化操作，降低了調(diào)優(yōu)的門檻，并提高了調(diào)優(yōu)的效率。以ResNet50AOE100%CANN6.090%。圖11：CANNAI異構(gòu)計(jì)算架構(gòu) 資料來源：華為昇騰官網(wǎng)，CANN3CANN的I論文PGAN強(qiáng)勢(shì)上榜2022CR512月，的創(chuàng)新應(yīng)用”突破“互聯(lián)網(wǎng)+”國(guó)賽金獎(jiǎng)。2）在科研領(lǐng)域方面：服務(wù)在CANN的助力下成功商用，AI預(yù)測(cè)性能達(dá)到現(xiàn)有產(chǎn)品的1.510000AIAIBaseline2年底已支持3800+長(zhǎng)度的蛋白質(zhì)氨基酸序列，達(dá)到業(yè)界領(lǐng)先水平。MindSpore2012年以前的、OpenNN等原始深度學(xué)習(xí)框架的發(fā)布，到后面形成了和雙頭壟斷，再到現(xiàn)在2020MindSpore正式開源，和、、飛槳等框架共同為人工智能領(lǐng)域發(fā)力。圖12：昇思MindSpore總體架構(gòu) 資料來源：華為昇騰官網(wǎng)，MindSporeAI創(chuàng)新算法和應(yīng)用，大幅提升效率。2018MindSporeAI全可信等功能，能夠?qū)崿F(xiàn)模型的訓(xùn)練-推理-全場(chǎng)景部署。圖13：支持全場(chǎng)景統(tǒng)一推理，大幅提高部署效率和推理性能資料來源：昇思MindSpore官方公眾號(hào)，MindSpore易用性和性能全國(guó)領(lǐng)先。根據(jù)Omdia發(fā)布的2023年《中國(guó)人工智能框架市場(chǎng)調(diào)研報(bào)告》可知，有40%的開發(fā)者將“易用性”作為選擇框架的首選因素，35%的開發(fā)者將”性能“作為選擇框架的首選因素。其易用性是指產(chǎn)品被用戶使用時(shí)，能夠被用戶理解、學(xué)習(xí)、使用和吸引用戶的能力，易用性是產(chǎn)品的基本自然屬性，標(biāo)志著最終產(chǎn)的可用性和成熟度。MindSpore在易學(xué)習(xí)低門檻、易開發(fā)高效率、問題快速閉環(huán)三方面，提升易用性，并且成立了易用性SIG。《中國(guó)人工智能框架市場(chǎng)調(diào)研報(bào)告》中提到，在國(guó)外的端到端框架中，開發(fā)者認(rèn)為TensorFlow，PyTorch的易用性更好，而本土框架昇思MindSpore和飛槳PaddlePaddle在易用性方面緊隨其后。在端到端人工智能框架性能方面，MindSpore以13%的占比排名第三。圖14：融合編程新范式優(yōu)勢(shì)突出，實(shí)現(xiàn)易用性和性能的完美結(jié)合資料來源：昇思MindSpore官方公眾號(hào)，MindSpore在全球AI框架使用率方面處于第一梯隊(duì)。根據(jù)Omdia的調(diào)研11%在人MindSpore和飛槳合計(jì)占了86%indSpore以1%的占比在全球框架里排名第三，AI框架的第一梯隊(duì)。圖15：中國(guó)開發(fā)者主流人工智能框架使用率排名 資料來源：《中國(guó)人工智能框架市場(chǎng)調(diào)研報(bào)告》，MindSporeMindSpore2002022800MindSporeGiteeAI370量。圖16：昇思MindSpore合作伙伴 資料來源：華為昇思官網(wǎng)，提供全流程開發(fā)的工具鏈MindStudio。開發(fā)者可以利用MindStudio提供的簡(jiǎn)單易用的開發(fā)工具，高效地完成端到端開發(fā)，讓開發(fā)者能夠在安裝部署、模型訓(xùn)練、模型推理、算子開發(fā)、應(yīng)用開發(fā)、調(diào)試調(diào)優(yōu)和應(yīng)用部署全流程中一站式完成，無需切換不同的工具，從而顯著降低了開發(fā)門檻。MindStudio支持訓(xùn)練、推理場(chǎng)景。1）訓(xùn)練場(chǎng)景：MindStudio（昇騰訓(xùn)練加速工具）利用獨(dú)有的算法，使訓(xùn)練速度提升25%。2）推理場(chǎng)景：MindStudio（昇騰模型壓縮工具）利用獨(dú)有的智能算法，加速推理進(jìn)程，可大致提速47%。圖17：MindStudio開發(fā)流程資料來源：華為昇騰官網(wǎng)，昇騰生態(tài)伙伴包含整機(jī)硬件伙伴、IHV硬件伙伴、應(yīng)用軟件伙伴、一體機(jī)解13IHV伴有6家、軟件伙伴大約1200家，以薩技術(shù)是其一體機(jī)解決方案伙伴，極視角科技以及中軟國(guó)際是其生態(tài)運(yùn)營(yíng)伙伴。鯤振宇、神州數(shù)碼等眾多主流的廠商合作，內(nèi)容主要涵蓋服務(wù)器，共同打造適應(yīng)產(chǎn)業(yè)發(fā)展的產(chǎn)品。圖18：整機(jī)硬件伙伴資料來源：華為昇騰官網(wǎng)，AIHuangheOceanAI900H訓(xùn)練服務(wù)器、HuangheOceanAI800H推理服務(wù)器、HuangheOceanAI500Pro智能邊緣服務(wù)器等。產(chǎn)品名稱AI算力AI產(chǎn)品名稱AI算力AI處理器AI加速卡HuangheOceanAI900H訓(xùn)練服務(wù)器2.56/2.24/2/1.76PFLOPSFP168個(gè)昇騰910最大支持8個(gè)Atlas300I推理卡HuangheOceanAI900訓(xùn)練服務(wù)器2.56/2.24/2/1.76PFLOPSFP168個(gè)昇騰910HuangheOceanAI800H推理務(wù)器 最大980INT8 英特爾昇騰AI+鯤鵬

最多支持7張Atlas300I/300IPro/300VPro推理卡最大支持8張Atlas300I/300IHuangheOceanAI800推服器 最大1120INT8

920

Pro/300VPro推理卡最大支持3張Atlas300I/300IHuangheOceanAI500Pro智邊緣服器 最大420INT8 鯤鵬920資料來源：華為昇騰官網(wǎng)，IHV6IHV伙伴名稱 產(chǎn)品名稱 AI算力 功耗表6伙伴名稱 產(chǎn)品名稱 AI算力 功耗

Pro/300VPro凌華科技 AES-2001U緣服器研揚(yáng)科技 研揚(yáng)邊智能子

16核1.9GxHzARMCPU188TOPS算力NPU22/16INT811/8FP16

98W飛云智盒Z507典型功耗11W飛途 RTSO-7001 典型耗飛云智盒Z507典型功耗11W東聲智能 DS-ATS200-506A系列能相機(jī) 最高持INT820W20W22/16TOPSINT811/8TFLOPSFP16QA200EP推理卡全愛科技通用型邊緣計(jì)算平臺(tái)IPC-NS0188TOPSINT8850W研華科技 嵌入式緣計(jì)平臺(tái)MIC-770Q 88TOPS通用型邊緣計(jì)算平臺(tái)IPC-NS0188TOPSINT8850W短款邊計(jì)算臺(tái)HPC-7420 264TOPSINT8 1200W資料來源：華為昇騰官網(wǎng)，19：IHV硬件伙伴 資料來源：華為昇騰官網(wǎng)，應(yīng)用軟件伙伴：對(duì)接昇騰服務(wù)器、智能小站、集群、加速模塊和卡以及MindSpore軟件、垂直細(xì)分應(yīng)用等產(chǎn)品。該合作伙伴屬于數(shù)字政府和制造行業(yè)的居多。圖20：應(yīng)用軟件伙伴 資料來源：華為昇騰官網(wǎng)，以薩技術(shù)成為華為昇騰唯一的一體機(jī)解決方案伙伴視角通過昇騰產(chǎn)品構(gòu)建了“智慧城市”解決方案，具有部署方便、一鍵式安裝、一站式管理和數(shù)據(jù)不外泄功能；而中軟國(guó)際年蟬聯(lián)中國(guó)軟件和信息服務(wù)綜合競(jìng)爭(zhēng)15昇騰一體機(jī)重點(diǎn)公司AI“Wintel”聯(lián)盟與華為聯(lián)合發(fā)布星火一體機(jī)，合作共建全國(guó)產(chǎn)化算力底座。華為與科大訊飛共同在昇騰AI的軟硬件平臺(tái)和軟件的支撐工具上，把高算力AI算子庫(kù)、多卡高速互聯(lián)以及分布式存儲(chǔ)結(jié)合起來，尤其是聯(lián)合針對(duì)人工智能所需要的最重要的算子庫(kù)進(jìn)行甄別和打磨，然后在此基礎(chǔ)上，架構(gòu)科大訊飛的訓(xùn)練和數(shù)據(jù)閉環(huán)全流程設(shè)計(jì)，以及訓(xùn)練和推理一體化設(shè)計(jì)的自研大模型訓(xùn)練平臺(tái)，中間是支持大規(guī)模的異構(gòu)算力兼容，也支持混合云架構(gòu)易拓展。在單卡算力上，平臺(tái)產(chǎn)算力集群，形成集群化優(yōu)勢(shì)。圖21：科大訊飛聯(lián)合華為昇騰打造算力底座 資料來源：科大訊飛官方公眾號(hào)，星火一體機(jī)有望成為助力行業(yè)和企業(yè)快速部署私有化大模型的重要抓手。在應(yīng)用端，科大訊飛給出了5種特別需要又方便的定制優(yōu)化模式，支持場(chǎng)景開發(fā)，7000每一個(gè)行業(yè)、每一個(gè)學(xué)校、每一個(gè)醫(yī)院，都有機(jī)會(huì)構(gòu)建自己的專屬大模型，企業(yè)可以從頭到尾訓(xùn)練大模型，也可以基于科大訊飛的星火大模型來定制?？拼笥嶏w130650175020%技術(shù)指標(biāo)。因此，星火一體機(jī)的發(fā)布，可以幫助每一個(gè)企業(yè)、每個(gè)行業(yè)快速部署私有化大模型。圖22：科大訊飛聯(lián)合華為昇騰打造算力底座 資料來源：科大訊飛官方公眾號(hào)，風(fēng)險(xiǎn)提示：技術(shù)路線變革具有不確定性；行業(yè)格局變化科大訊飛盈利預(yù)測(cè)與財(cái)務(wù)指標(biāo)項(xiàng)目/年度2022A2023E2024E2025E營(yíng)業(yè)收入（百萬元）18,82021,61927,20035,215增長(zhǎng)率（%）2.814.925.829.5歸屬母公司股東凈利潤(rùn)（百萬元）5611,1951,8032,682增長(zhǎng)率（%）-63.9112.950.948.8每股收益（元）0.240.520.781.16PE196926141PB6.76.45.95.2資料來源：，預(yù)測(cè)；（注：股價(jià)為2023年11月10日收盤價(jià)）AIAI中心(AIC)AIAI三大優(yōu)勢(shì)的AI端云一體化產(chǎn)品（昇騰版，該產(chǎn)品已與華為ts300/VPo推AI移、應(yīng)用創(chuàng)新、人才培養(yǎng)等工作。同時(shí)，軟通動(dòng)力作為首批合作企業(yè)簽約入駐北京昇騰人工智能計(jì)算中心，并將參與到“人工智能安全可信護(hù)航計(jì)劃”的理論研AIAI端云一體化產(chǎn)品在中鐵十一局集團(tuán)有限公司財(cái)務(wù)共享中心RPA+AI設(shè)計(jì)開始，對(duì)現(xiàn)有管理模式、業(yè)務(wù)系統(tǒng)進(jìn)行改造升級(jí)，實(shí)現(xiàn)了單位日處理數(shù)據(jù)10倍以上的提升知識(shí)圖譜技術(shù)通過知識(shí)圖譜技術(shù)軟通動(dòng)力為某物聯(lián)網(wǎng)公司的5GAI端云一體化產(chǎn)品在中鐵十一局集團(tuán)有限公司財(cái)務(wù)共享中心RPA+AI設(shè)計(jì)開始，對(duì)現(xiàn)有管理模式、業(yè)務(wù)系統(tǒng)進(jìn)行改造升級(jí)，實(shí)現(xiàn)了單位日處理數(shù)據(jù)10倍以上的提升知識(shí)圖譜技術(shù)通過知識(shí)圖譜技術(shù)軟通動(dòng)力為某物聯(lián)網(wǎng)公司的5G知識(shí)庫(kù)管理、推薦模型管理、評(píng)估管理等四大模塊升級(jí)，提升工作效率自研echo智能客服軟通動(dòng)力形成以自研echo智能客服為代表的生態(tài)產(chǎn)品服務(wù)，通過iRSP智能機(jī)器人軟件平臺(tái)，TTS+ASR語音識(shí)別與合成及RPA機(jī)器人流程自動(dòng)化三種產(chǎn)品，解決了企業(yè)客戶廣泛面臨的人員成本高等問題資料來源：軟通動(dòng)力官方公眾號(hào)，風(fēng)險(xiǎn)提示：AI技術(shù)路線具有不確定性；公司新產(chǎn)品研發(fā)進(jìn)度具有不確定性。軟通動(dòng)力盈利預(yù)測(cè)與財(cái)務(wù)指標(biāo)項(xiàng)目/年度2022A2023E2024E2025E營(yíng)業(yè)收入（百萬元）19,10421,42525,97331,233增長(zhǎng)率（%）14.912.221.220.3歸屬母公司股東凈利潤(rùn)（百萬元）9731,0021,2601,574增長(zhǎng)率（%）3.02.925.824.9每股收益（元）1.021.051.321.65PE37362823PB3.63.33.12.8資料來源：，預(yù)測(cè)；（注：股價(jià)為2023年11月10日收盤價(jià)）從容大模型訓(xùn)推一體機(jī)是重慶人工智能創(chuàng)新中心孵化的首個(gè)大模型及解決方案，基于從容大模型，用戶可以訓(xùn)練、構(gòu)建和管理自己的大模型。云從科技遵循AIAI新，實(shí)現(xiàn)場(chǎng)景通用化。從容大模型推訓(xùn)一體機(jī)用著降本增效、安全可控的特點(diǎn)。從容大模型推訓(xùn)一體機(jī)結(jié)合云從傳統(tǒng)視覺優(yōu)勢(shì)，可以提供語言、視覺、多模態(tài)三大類基礎(chǔ)模型推理和訓(xùn)練能力。并基于從容大模型算法及工具，大大降低了用戶訓(xùn)練、構(gòu)建和管理大模型的難度，助力企業(yè)打造專屬行業(yè)大模型，實(shí)現(xiàn)5倍效率提升。該解決方案支持私人定制，模型參數(shù)規(guī)格十億、百億、千億均可選，結(jié)合云從科技提供的語言、視覺和多模態(tài)三類基礎(chǔ)模型，利用企業(yè)相關(guān)數(shù)據(jù)，能進(jìn)行SFT、RM和PPO等強(qiáng)化學(xué)習(xí)和模型精調(diào)，為基礎(chǔ)模型注入專業(yè)知識(shí)和技術(shù)，使之在企業(yè)關(guān)注的領(lǐng)AI提升業(yè)務(wù)效率和產(chǎn)品競(jìng)爭(zhēng)力；支持企業(yè)私有化部署，滿足數(shù)據(jù)不出廠的信息安全要求。圖24：云從科技從容一體機(jī)主要指標(biāo)資料來源：華為中國(guó)政企業(yè)務(wù)微信公眾號(hào)，云從科技主營(yíng)業(yè)務(wù)主要分為人機(jī)協(xié)同操作系統(tǒng)和人工智能解決方案兩大類，面向智慧金融、智慧治理、智慧出行、智慧商業(yè)、泛AI等領(lǐng)域提供綜合解決方案，同時(shí)根據(jù)客戶需求基于公司人工智能核心技術(shù)并結(jié)合其他應(yīng)用領(lǐng)域的技術(shù)為客戶提供定制化軟件開發(fā)服務(wù)。圖25：云從科技業(yè)務(wù)版圖資料來源：云從科技2023年半年報(bào)，公司網(wǎng)絡(luò)可視化對(duì)于流量采集、分發(fā)、分析等能力與智能計(jì)算業(yè)務(wù)各類服務(wù)器、AI一體機(jī)等技術(shù)相結(jié)合，能夠很好滿足智算可視化技術(shù)需求。2020年8月就已經(jīng)推出"登云"AI計(jì)算平臺(tái)解決方案，2023AIAI1500AI實(shí)現(xiàn)對(duì)視頻結(jié)構(gòu)化、人臉識(shí)別、物品識(shí)別、視頻內(nèi)容增強(qiáng)等典型應(yīng)用的AI加速運(yùn)算。同時(shí)，公司表示，與華為在