電子行業(yè)芯片算力市場分析

電子行業(yè)芯片算力市場分析1.美國加強限制規(guī)則，海外高性能芯片進(jìn)口受限1.1.從“性能指標(biāo)”到“性能密度指標(biāo)”，英偉達(dá)高端芯片進(jìn)口受限范圍擴(kuò)大2023年10月17日，美國商務(wù)部出臺了出口管制清單的ECNN3A090和4A090要求，以進(jìn)一步限制高性能AI芯片的出口，同時將13家中國公司列入實體清單。修改后的出國管制設(shè)計產(chǎn)品包括但不限于：英偉達(dá)A100、A800、H100、H800、L40、L40S以及RTX4090產(chǎn)品。實際上，任何集成了一個或多個及以上的芯片的系統(tǒng)，包括但不限于英偉達(dá)DGX、HGX系統(tǒng)，都在新規(guī)涵蓋范圍之內(nèi)。此前，2022年8月26日，美國政府要求英偉達(dá)停止向中國（包括中國香港）出口兩款用于人工智能發(fā)展的高端計算芯片，涉及英偉達(dá)A100和H100兩款芯片，以及未來推出峰值性能等同或超過A100的其他芯片。同時，英偉達(dá)應(yīng)用這些高性能芯片的系統(tǒng)級產(chǎn)品也均在新的管制范圍內(nèi)。2022年9月1日，英偉達(dá)發(fā)布聲明稱美國政府允許英偉達(dá)在2023年9月1日前，通過公司的香港工廠履行A100和H100的訂單和物流運輸，但售賣給中國的終端客戶仍需要受美國政府批準(zhǔn)。限制強度加大，新增多款芯片受到新規(guī)限制。根據(jù)英偉達(dá)主要芯片規(guī)格，可以計算每種芯片的性能密度指標(biāo)。在新規(guī)發(fā)布之前，超過舊規(guī)性能指標(biāo)限制的芯片僅為英偉達(dá)A100，但當(dāng)加入性能密度指標(biāo)后，新規(guī)不僅限制了廠商出略低于性能標(biāo)準(zhǔn)的芯片以規(guī)避限制情況，同時針對數(shù)據(jù)中心芯片與非數(shù)據(jù)中心芯片進(jìn)行了不同的限制約定，使更多的英偉達(dá)芯片受到禁令限制。1.2.人工智能大勢所趨，各地政策推進(jìn)實施“1+N”政策體系全面推動人工智能產(chǎn)業(yè)。2017年國務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，部委層面陸續(xù)出臺相關(guān)發(fā)展規(guī)劃、實施方案等落地政策，形成“1+N”政策體系，從相關(guān)法律法規(guī)和倫理規(guī)范、人工智能發(fā)展支持政策、標(biāo)準(zhǔn)和產(chǎn)權(quán)體系、監(jiān)管和評估體系以及AI人才培訓(xùn)等五個角度全面推動人工智能健康快速發(fā)展。同時，各一二線城市均針對AI產(chǎn)業(yè)制定了產(chǎn)業(yè)規(guī)模目標(biāo)和企業(yè)數(shù)量目標(biāo)，其中北京市于2023年5月30日發(fā)布《北京市加快建設(shè)具有全球影響力的人工智能創(chuàng)新策源地實施方案(2023-2025年)》與《北京市促進(jìn)通用人工智能創(chuàng)新發(fā)展的若干措施》兩項重磅政策，以迅速建設(shè)具有全球廣泛影響力的人工智能創(chuàng)新策源地。算力發(fā)展目標(biāo)明確，將帶動AI算力的迅速發(fā)展。2023年10月，工業(yè)和信息化部、中央網(wǎng)信辦、教育部、國家衛(wèi)生健康委、中國人民銀行、國務(wù)院國資委等六部門聯(lián)合發(fā)布《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動計劃》，在計算力、運載力、存儲力、應(yīng)用賦能等方面提出了具體目標(biāo)，以進(jìn)一步加強算力資源配置，提升國內(nèi)算力總體水平。智算的快速發(fā)展，一方面要求智算中心的建設(shè)需要更加合理，要兼顧東西部協(xié)同發(fā)展和資源的合理利用。另一方面，智能算力更多的采用AI芯片，帶來更大帶寬的網(wǎng)絡(luò)傳輸需求，這些都將顯著促進(jìn)AI芯片和網(wǎng)絡(luò)技術(shù)的研發(fā)創(chuàng)新。2.構(gòu)建完整的芯片生態(tài)系統(tǒng)，“硬件+軟件”缺一不可芯片方面，英偉達(dá)通過“CPU+GPU+DPU”三芯布局，數(shù)據(jù)中心正成長為公司最大業(yè)務(wù)。CPU作為邏輯處理單元，能更好地處理各種需要快速邏輯判斷和并行處理能力的計算任務(wù)；GPU側(cè)重對圖像像素進(jìn)行大規(guī)模的數(shù)據(jù)矩陣運算處理，與AI算法的并行結(jié)構(gòu)運算匹配，GPU在AI領(lǐng)域有著先天優(yōu)勢；DPU則特別適合處理數(shù)據(jù)中心和網(wǎng)絡(luò)設(shè)備的需求，能有效處理數(shù)據(jù)包和協(xié)議。英偉達(dá)通過將CPU、GPU和DPU集成到同一平臺上，可以為客戶提供更全面、高效的計算解決方案。公司推出的GraceHopper超級芯片將Grace和Hopper架構(gòu)相結(jié)合，為加速AI和高性能計算(HPC)應(yīng)用提供CPU+GPU相結(jié)合的一致內(nèi)存模型，并在大型服務(wù)器上廣泛部署。2021年及以前，游戲業(yè)務(wù)營收占比最高，但隨著AGI引爆算力需求，公司數(shù)據(jù)中心成長極快。根據(jù)公司2022年年報，其數(shù)據(jù)中心業(yè)務(wù)營收約150億美元（占比約56%），已成為公司最大業(yè)務(wù)。GPU領(lǐng)域深耕數(shù)十年，長期占據(jù)市場領(lǐng)導(dǎo)地位。1999年英偉達(dá)推出的首個GPU架構(gòu)，開創(chuàng)了現(xiàn)代顯卡的時代，代表產(chǎn)品是GeForce256顯卡，此后其架構(gòu)經(jīng)歷了多次變革迭代，GPU計算能力的不斷提升，從2017到2022這五年間，公司先后推出了Volta、Ampere、Hopper等針對高性能計算和AI訓(xùn)練的架構(gòu)，并以此為基礎(chǔ)發(fā)布了V100、A100、H100等高端GPU。通過不斷的技術(shù)革新，英偉達(dá)GPU產(chǎn)品向量雙精度浮點算力已從7.8TFLOPS增至30TFLOPS。根據(jù)JonPeddieResearch（JPR）報告顯示，2023年Q1，英偉達(dá)GPU市場份額達(dá)到84%，Q2達(dá)到80%，占據(jù)市場領(lǐng)導(dǎo)地位。2022年3月GTC2022大會上，英偉達(dá)正式發(fā)布了基于Hopper架構(gòu)的面向數(shù)據(jù)中心的新一代頂級計算核心GH100、計算卡H100。在機器學(xué)習(xí)及人工智能領(lǐng)域開放產(chǎn)業(yè)聯(lián)盟MLCommons公布了最新的MLPerf基準(zhǔn)評測中，英偉達(dá)H100TensorCoreGPU在每次AI推理測試中都展現(xiàn)出最高性能。得益于軟件優(yōu)化，該GPU的性能比去年9月份首次亮相時提高了54%，，A100則是英偉達(dá)于2020年推出的上一代數(shù)據(jù)中心專用GPU，但依然是目前AI訓(xùn)練的主流芯片產(chǎn)品。根據(jù)NewStreetResearch的數(shù)據(jù)，英偉達(dá)占據(jù)了可用于機器學(xué)習(xí)的圖形處理器市場的95%。NVLink是英偉達(dá)自研的高速互連技術(shù)，解決了多GPU并行計算時內(nèi)存共享和通信的瓶頸問題，能有效提升數(shù)據(jù)中心的整體運算能力。PCIe是Intel主導(dǎo)的高速串行計算機擴(kuò)展總線標(biāo)準(zhǔn)，是當(dāng)前服務(wù)器主流的總線解決方案，PCIe標(biāo)準(zhǔn)迭代周期約為3年/代，PCIe3.0是目前消費市場的主流選擇，4.0于2017年正式推出，自2021年下半年開始在數(shù)據(jù)中心逐步應(yīng)用，并逐漸從企業(yè)級市場下沉到消費市場。目前Intel/AMD等主流CPU廠商正快速推出PCIe5.0產(chǎn)品，用于AI的高性能企業(yè)級服務(wù)器通常采用PCIe5.0接口。NVLink是英偉達(dá)自研的高速接口，可以提供更強大的數(shù)據(jù)傳輸能力和更高的吞吐量，能有效縮短數(shù)據(jù)傳輸時間，滿足當(dāng)前針對大數(shù)據(jù)和復(fù)雜運算的高帶寬需求。隨著NVIDIAGPU架構(gòu)的更新和技術(shù)的不斷發(fā)展，NVLink的版本也在不斷演進(jìn)，以滿足不斷增長的計算需求和提供更優(yōu)秀的性能。CUDA架構(gòu)搭建英偉達(dá)軟件生態(tài)，是英偉達(dá)AI解決方案的核心優(yōu)勢之一。CUDA（ComputeUnifiedDeviceArchitecture）是由英偉達(dá)公司推出的GPU加速平臺，在推出CUDA之前，程序員想要調(diào)用GPU的運算資源必須先編寫大量底層代碼，在開發(fā)和調(diào)試上需要花費大量的時間，而CUDA提供了易于使用的編程模型和軟件環(huán)境，允許開發(fā)者使用類似于C/C++的高層語言進(jìn)行編程，使得開發(fā)者可以借助英偉達(dá)的圖形處理器（GPU）進(jìn)行更為高效的并行運算。經(jīng)過多年優(yōu)化，目前CUDA已成為全球AI基礎(chǔ)設(shè)施，主流的AI框架、庫、工具都以CUDA為基礎(chǔ)進(jìn)行開發(fā)。國內(nèi)第一批大模型廠商使用的基本都是英偉達(dá)已經(jīng)構(gòu)建完善的CUDA生態(tài)。即便競爭對手的GPU性能的硬件參數(shù)上比肩英偉達(dá)，如果缺乏CUDA的優(yōu)化，其性能依然無法達(dá)到英偉達(dá)GPU的水平。基于其“芯片+NVLink+CUDA”的生態(tài)系統(tǒng)，英偉達(dá)穩(wěn)坐行業(yè)龍頭地位，產(chǎn)品全面覆蓋AI場景。公司20多年來始終引領(lǐng)GPU行業(yè)的發(fā)展，將GPU的主要應(yīng)用場景從游戲以及畫圖等圖像顯示擴(kuò)展到了以AI、云計算等大數(shù)據(jù)相關(guān)的并行計算領(lǐng)域。根據(jù)JonPeddieResearch發(fā)布的GPU市場數(shù)據(jù)統(tǒng)計報告，英偉達(dá)2022年全年P(guān)CGPU出貨量高達(dá)3034萬塊，是AMD的近4.5倍；截至2022年四季度，在獨立GPU市場，英偉達(dá)占據(jù)84%的市場份額，遠(yuǎn)超同業(yè)競爭公司。3.華為昇騰軟硬件全面布局，構(gòu)建國產(chǎn)AI算力基石3.1.昇騰生態(tài)包括全棧的AI計算基礎(chǔ)設(shè)施、行業(yè)應(yīng)用及服務(wù)昇騰生態(tài)包括昇騰系列處理器、系列硬件、CANN異構(gòu)計算架構(gòu)、AI計算框架、應(yīng)用使能、開發(fā)工具鏈、管理運維工具、行業(yè)應(yīng)用及服務(wù)等全產(chǎn)業(yè)鏈。其硬件系統(tǒng)包括：基于華為達(dá)芬奇內(nèi)核的昇騰系列處理器等多樣化AI算力；給予昇騰處理器的系列硬件產(chǎn)品，比如嵌入式模組、板卡、小站、服務(wù)器、集群等。其基礎(chǔ)軟件體系包括：異構(gòu)計算架構(gòu)CANN以及對應(yīng)的驅(qū)動、運行時、加速庫、編譯器、調(diào)試調(diào)優(yōu)工具、開發(fā)工具鏈MindStudio和各種運維管理工具等；AI計算框架，包括開源的MindSpore，以及各種業(yè)界流行的框架，作為生態(tài)的有機組成部分。同時昇騰計算產(chǎn)業(yè)支持各種計算框架的對接?；谶_(dá)芬奇架構(gòu)的昇騰芯片，運算性能優(yōu)異，可應(yīng)用于AI訓(xùn)練/推理場景。DaVinci架構(gòu)是面向AI計算設(shè)計的架構(gòu)，通過獨創(chuàng)的16*16*16的3DCube設(shè)計，每時鐘周期可以進(jìn)行4096個16位半精度浮點MAC計算。同樣是完成4096次運算，2D結(jié)構(gòu)需要64行*64列才能計算，3DCube只需要16*16*16的結(jié)構(gòu)就能算出，因此在核數(shù)與頻率確定的情況下，每時鐘周期進(jìn)行越多的計算則算力指標(biāo)越高，而Davinci架構(gòu)的3D設(shè)計實現(xiàn)了這一點。從性能指標(biāo)上來看，昇騰910半精度FP16的運算性能可達(dá)320TFLOPS，整型INT8算力可達(dá)640TOPS，英偉達(dá)A100的FP16運算性能為312TFLOPS。計算代價大幅縮小，功耗水平明顯降低。Davinci架構(gòu)的3D設(shè)計以最小的計算代價增加矩陣乘的算力，實現(xiàn)更高的AI能效。2018年10月華為聯(lián)合奧迪展示了L4級無人駕駛的路測，汽車上配備了華為的MDC車載計算單元，但根據(jù)第五屆世界互聯(lián)網(wǎng)大會上前華為公司董事兼華為企業(yè)BG總裁閻力大披露，支持L4級無人駕駛這樣非常復(fù)雜的邊緣計算場景時，昇騰310芯片組僅消耗共計200瓦的能耗，相比英偉達(dá)系列芯片均有大幅縮減。HCCS是華為自研的高速互連接口，可為內(nèi)核、設(shè)備、集群提供系統(tǒng)內(nèi)存的一致訪問，片間帶寬最高可達(dá)480Gbps，是業(yè)界主流CPU互聯(lián)速率的2倍多，HCCS單個AI處理器提供3條鏈路能實現(xiàn)最多4個鯤鵬920處理器互聯(lián)和最高256個物理核的NUMA架構(gòu)。相比于英偉達(dá)NVLink與PCIe5.0，NVLink單條鏈路雙向帶寬最大為50GB/s，PCIe5.0僅為4GB/s，HCCS單條鏈路雙向帶寬可以達(dá)到20GB/s，HCCS在單一鏈路的單向/雙向互聯(lián)帶寬上比PCIe5.0更具優(yōu)勢，將有效提升多個AI處理器協(xié)同訓(xùn)練的能力。CANN是華為針對AI場景推出的異構(gòu)計算架構(gòu)，通過提供多層次的編程接口，支持用戶快速構(gòu)建基于異騰平臺的AI應(yīng)用和業(yè)務(wù)。CANN支持端邊云全場景協(xié)同，支持超過10種設(shè)備形態(tài)、EMUI、Andriod、openEuler、UOS、Ubuntu、Debian、Suse等超過14種操作系統(tǒng)和多種AI計算框架，一套體系支持CPU、NPU等架構(gòu)；軟件生態(tài)建設(shè)是華為的一大優(yōu)勢。為了幫助AI開發(fā)者更簡單、更高效的開發(fā)和使用AI技術(shù)，華為推出面向全流程開發(fā)工具鏈MindStudio。MindStudio針對算子開發(fā)、模型訓(xùn)練、模型推理、應(yīng)用開發(fā)、應(yīng)用部署的所有全流程工具鏈進(jìn)行整合，為開發(fā)者提供工程管理、編譯、調(diào)試、運行、性能分析等全流程開發(fā)，提高開發(fā)效率。3.2.基于“自研芯片+自研接口+自研軟件生態(tài)”，華為推出全系列解決方案供開發(fā)者使用的高性能開發(fā)板Atlas200DK，Atlas200DK開發(fā)者套件（型號3000）是以Atlas200AI加速模塊（型號3000）為核心的開發(fā)者板形態(tài)終端類產(chǎn)品（其中Atlas200AI加速模塊是高性能AI計算模塊，集成了昇騰310AI處理器，芯片內(nèi)置2個AIcore，可支持128位寬的LPDDR4X，最大算力為22TOPS）。訓(xùn)練卡Atlas300T。Atlas300T訓(xùn)練卡（型號9000）可以配合服務(wù)器為數(shù)據(jù)中心提供AI加速卡，單卡最高可提供220TFLOPSFP16算力。產(chǎn)品具有強算力、高度集成、高速帶寬等特點，可滿足大量人工智能訓(xùn)練以及高性能計算領(lǐng)域的算力需求。推理卡Atlas300I。Atlas300I推理卡采用4個昇騰310AI處理器的PCIeHHHL卡，實現(xiàn)快速高效的推理計算、圖像識別及視頻處理等工作，支持多種規(guī)格的H.264、H.265視頻編解碼。Atlas800訓(xùn)練服務(wù)器，8顆昇騰算力芯片+4顆鯤鵬CPU。Atlas800訓(xùn)練服務(wù)器（型號：9000）是基于華為鯤鵬+昇騰處理器的AI訓(xùn)練服務(wù)器，具有超強算力密度、超高能效與高速網(wǎng)絡(luò)帶寬等特點。該服務(wù)器廣泛應(yīng)用于深度學(xué)習(xí)模型開發(fā)和訓(xùn)練，適用于智慧城市、智慧醫(yī)療、天文探索、石油勘探等需要大算力的行業(yè)領(lǐng)域。Atlas800推理服務(wù)器，8顆昇騰推理卡+2顆鯤鵬CPU。Atlas800推理服務(wù)器（型號：3000）是基于昇騰處理器的推理服務(wù)器，最大可支持8個Atlas300I推理卡，提供強大的實時推理能力，廣泛應(yīng)用于中心側(cè)AI推理場景。由數(shù)千顆昇騰處理器構(gòu)成的Atlas900AI集群。Atlas900AI集群由數(shù)千顆昇騰處理器構(gòu)成，整合HCCS、PCIe4.0和100GRoCE三種高速接口。其總算力達(dá)到256P～1024PFLOPS@FP16，相當(dāng)于50萬臺PC的計算能力。它可以在60秒完成基于Resnet-50模型訓(xùn)練，比第2名快15%，這可以讓使用者更快的進(jìn)行AI訓(xùn)練，高效地推進(jìn)預(yù)測天氣、勘探石油、自動駕駛等等商用進(jìn)程。4.科技巨頭紛紛布局算力芯片，AI浪潮勢不可擋4.1.AMD的“MI系列+InfinityFabric+ROCm平臺”，成為英偉達(dá)全球范圍內(nèi)最強勁的對手RadeonInstinct系列是AMD專為數(shù)據(jù)中心和企業(yè)市場推出的GPU解決方案，旨在支持深度學(xué)習(xí)、高性能計算和科學(xué)研究等。從2017年發(fā)布RadeonInstinctMI6，到如今更新至RadeonInstinctMI300系列，采用高性能的GCN或RDNA架構(gòu)，支持大規(guī)模的并行計算和機器學(xué)習(xí)任務(wù)。同時支持ROCm（RadeonOpenCompute）平臺，以提供開發(fā)和部署機器學(xué)習(xí)模型的工具和庫。2023年AMD公司推出RadeonInstinctMI300系列，正式邁進(jìn)“百億億級計算”時代。AMDInstinctMI300系列加速器基于AMDCDNA3架構(gòu)打造，包括AMDInstinctMI300AAPU加速器（創(chuàng)新的AI和HPC工作負(fù)載專用APU）和AMDInstinctMI300XGPU加速器，可為廣泛的AI和HPC工作負(fù)載提供領(lǐng)先的應(yīng)用程序性能。隨著AI工作負(fù)載的擴(kuò)展，AMDInstinctMI300X加速器提供了采用UBB業(yè)界標(biāo)準(zhǔn)OCP平臺設(shè)計的普適性解決方案，支持客戶將8個GPU整合為一個性能主導(dǎo)型節(jié)點，并且具有全互聯(lián)式點對點環(huán)形設(shè)計，單一平臺內(nèi)的HBM3顯存總計可達(dá)到1.5TB——提供足以應(yīng)對各類AI或HPC工作負(fù)載部署的性能密集型解決方案。2023年6月，AMD首席執(zhí)行官蘇姿豐（LisaSu）在舊金山舉行的發(fā)布會上表示，MI300X提供的HBM密度最高是英偉達(dá)Al芯片H100的2.4倍，其HBM帶寬最高是H100的1.6倍。MI300X是針對LLM的優(yōu)化版，擁有192GB的HBM3內(nèi)存、5.2TB/秒的帶寬和896GB/秒的InfinityFabric帶寬。AMD將1530億個晶體管集成在共12個5納米的小芯片中。InfinityFabric是AMD的高速接口技術(shù)，用于連接CPU和GPU內(nèi)部的不同部分，以及連接不同的CPU和GPU，理論峰值P2PI/O帶寬最高可達(dá)896GB/s，與NVLink旗鼓相當(dāng)。多達(dá)8個InfinityFabric鏈接將AMDInstinctMI300X與節(jié)點中的第三代EPYC處理器和其他GPU相連，以實現(xiàn)統(tǒng)一的CPU內(nèi)存/GPU顯存一致性和系統(tǒng)吞吐量最大化，通過加速器的強大性能使CPU代碼更簡化。ROCm是一個開源項目，支持多種加速器廠商和架構(gòu)，提供了開放的可移植性和互操作性。作為一個開源平臺，任何CPU/GPU供應(yīng)商都可以利用ROCm，這意味著用CUDA或其他平臺編寫的代碼可以移植到供應(yīng)商中立的HIP格式，用戶可以從那里為ROCm平臺編譯代碼。ROCm平臺針對AMD的RedeonInstinct系列有優(yōu)化，并對主流機器學(xué)習(xí)框架都有所支持。AMD將AI方案部署到RadeonInstinct系列上，使開發(fā)者可以使用ROCm平臺在RadeonInstinct系列上實現(xiàn)更加高效和穩(wěn)定的運行。同時，ROCm平臺提供了對TensorFlow和PyTorch等主要機器學(xué)習(xí)框架的原生支持，從優(yōu)化的MIOpen庫到全面的MIVisionX計算機視覺和機器智能庫、實用程序和應(yīng)用程序，AMD與人工智能開放社區(qū)廣泛合作，以促進(jìn)和擴(kuò)展機器和深度學(xué)習(xí)功能和優(yōu)化，從而幫助擴(kuò)大加速計算所適用的工作負(fù)載。但在生態(tài)系統(tǒng)和性能上，ROCm還和CUDA有一定差距。相比于NVIDIA的CUDA，ROCm的生態(tài)系統(tǒng)相對較弱，且只支持Linux，同時更新速度較慢，生態(tài)不夠完善。而在性能上，在大部分應(yīng)用場景中，盡管在測試中MI系列的理論性能高于NVIDIA的加速器，但由于ROCm平臺的優(yōu)化問題，AMD的程序性能普遍低于NVIDIA。4.2.特斯拉自研Dojo超算服務(wù)器，芯片間高帶寬互連為其一大特色特斯拉自研宏、微架構(gòu)提高運行效率與可編程性，D1芯片在算力、互聯(lián)帶寬具有很強的優(yōu)勢。與Nvidia，Google等廠商的計算集群相比，Dojo在互連、內(nèi)存訪問以及互聯(lián)和內(nèi)存訪問的IO上是對稱的，這就使得其具有獨一檔的ScaleOut（橫向拓展）的能力，從而提高系統(tǒng)運行效率。微架構(gòu)上，D1芯片內(nèi)部核心TrainingNode采用了圖靈完備的SMT+SIMD設(shè)計，其可編程性有可能會強于英偉達(dá)的TensorCore架構(gòu)和華為的Cube架構(gòu)，并且為每一個Node設(shè)計了上下左右各64bit的片上NoC通道，這使得Node之間核心堆疊和數(shù)據(jù)傳輸?shù)碾y度大大降低。D1芯片采用臺積電7nm制程，算力達(dá)22.6TFLOPS，總互連帶寬可達(dá)16TB/s，遠(yuǎn)超英偉達(dá)A100的600GB/s、華為昇騰910的90GB/s。其組成的機柜集群DojoExaPOD算力在BF16/FP32精度下可達(dá)到1.1ExaFLOPs，相當(dāng)于約3200片A100的算力，并擁有1.3TB的高速SRAM和13TB的高帶寬DRAM。同時，美國時間2023年8月28日，特斯拉上線了由1萬片H100組成的超級計算機，將用來訓(xùn)練包括FSD自動駕駛系統(tǒng)在內(nèi)的各種AI應(yīng)用。目前，特斯拉的AI訓(xùn)練方向主要為自動駕駛，其硬件Hardware4.0已經(jīng)搭載自研FSD2.0。特斯拉將加快Dojo建設(shè)更新，全新版本Dojo性能將提升近十倍。據(jù)特斯拉AI官方賬號在Twitter上披露的算力預(yù)期圖顯示，預(yù)計在2024年10月，Dojo整體算力規(guī)模達(dá)到100EFLOPs，相當(dāng)于約30萬塊A100的算力總和。在2022年AIDay上，特斯拉公布了Dojo的未來路線規(guī)劃，同時宣布公司正在研發(fā)全新版本的Dojo構(gòu)建，包括DojoD2芯片、DojoTrainingTileV2、DipV2和DNICV2。通過硬件研發(fā)更新，全新版本Dojo超級計算機將在性能上提升近十倍。馬斯克在Twitter上曾表示，DojoV1主要面向大量的視頻數(shù)據(jù)訓(xùn)練而優(yōu)化，并不是面向通用人工智能（AGI），但DojoV2將突破這一點。因此，Dojo未來有望成為特斯拉的AI支柱，依靠其強大算力，特斯拉擁有的海量數(shù)據(jù)將充分釋放其功能，Dojo可全方面促進(jìn)特斯拉前沿科技領(lǐng)域如自動駕駛、人形機器人、SpaceX等領(lǐng)域。自主研發(fā)FSD2.0芯片推動HW4.0更新，助力特斯拉自動駕駛突破。特斯拉在自動駕駛領(lǐng)域多年來不斷探索，處于行業(yè)前列，其依賴于FSD芯片與HW硬件。2023年2月HW4.0發(fā)布，其搭載了FSD2.0芯片。FSD2.0芯片的ARMCortex-A72CPU內(nèi)核由12個增加至20個，運行頻率在1.37GHz-2.35GHz之間，采用7nm工藝，算力預(yù)測最多達(dá)到216TOPS，仍低于英偉達(dá)Orin254TOPS。顯存方面，特斯拉成為第一個在車載領(lǐng)域用GDRR的公司。通過FSD2.0芯片更新升級以及HW4.0架構(gòu)調(diào)整，特斯拉自動駕駛有望突破。4.3.Intel推出GPU系列芯片和oneAPI開發(fā)平臺，完善其AI數(shù)據(jù)中心布局英特爾在數(shù)據(jù)中心的布局主要通過優(yōu)化其至強系列CPU與推出數(shù)據(jù)中心GPUmax系列和flax系列以及對標(biāo)DPU的IPU數(shù)據(jù)接口芯片來實現(xiàn)。在英特爾2022年投資者會議上，英特爾DCAI公布了2022年至2024年下一代英特爾?至強產(chǎn)品的路線圖。數(shù)據(jù)中心GPUmax系列有max1550與max1100兩個系列，其專為AI和科學(xué)計算領(lǐng)域的數(shù)據(jù)密集型計算模型提供突破性性能。在2021年6月，英特爾首度提出IPU的產(chǎn)品概念。IPU可以釋放CPU的計算資源，以便于解決現(xiàn)代工作負(fù)載挑戰(zhàn)，幫助提升云服務(wù)的性能。英特爾IPU既有基于FPGA的方案，如OakSpringsCanyon，也有基于ASIC的方案，如MountEvans。在軟件生態(tài)上，英特爾推出了與英偉達(dá)的CUDA和AMD的ROCm對標(biāo)的oneAPI。oneAPI是由英特爾提出的一種開放的、統(tǒng)一的編程模型，它旨在簡化在英特爾芯片上進(jìn)行并行計算的復(fù)雜性。優(yōu)點是它可以跨CPU、GPU、FPGA和其他硬件架構(gòu)運行。通過這種方式，一套代碼就可以應(yīng)用于多種硬件平臺，實現(xiàn)跨平臺的并行計算，大大提高了開發(fā)效率和應(yīng)用性能，其精簡程度對標(biāo)英偉達(dá)CUDA架構(gòu)與AMD的ROCm。4.4.Google推出CloudTPU解決方案，更專注于機器學(xué)習(xí)領(lǐng)域GoogleCloudTPUv5e專為提供大中型訓(xùn)練與推理所需的成本效益和性能而設(shè)計。性能上，TPUv5e能夠平衡性能、靈活性和效率，允許多達(dá)256個芯片互連，聚合帶寬超過400Tb/s和100petaOps的INT8性能，更加高的帶寬，對于大模型的數(shù)據(jù)傳輸非常有利。CloudTPUv5e通過基準(zhǔn)測試顯示，大模型的訓(xùn)練速度提高了5倍。在推理指標(biāo)方面，CloudTPUv5e也實現(xiàn)了巨大的提升，能夠每秒實時處理1000秒的內(nèi)部語音到文本和情感預(yù)測模型。和英偉達(dá)通用型GPU相比，谷歌TPU更加專注深度學(xué)習(xí)領(lǐng)域，可加快深度學(xué)習(xí)運算速度，降低功耗。英偉達(dá)的A100和H100屬于廣義上的通用型GPU，GPU具有通用計算能力，適用于高性能計算、深度學(xué)習(xí)以及大規(guī)模數(shù)據(jù)分析等多種計算工作負(fù)載，而不僅僅是深度學(xué)習(xí)。谷歌TPU采用低精度計算，在幾乎不影響深度學(xué)習(xí)處理效果的前提下大幅降低了功耗、加快運算速度，尤其對于中型LLM設(shè)計者來說完全夠用，因此他們可能不需要依賴高性能的英偉達(dá)A100/H100。同時，TPU使用了脈動陣列等設(shè)計來優(yōu)化矩陣乘法與卷積運算。TensorFlow框架的廣泛性、泛用性為Google構(gòu)筑AI護(hù)城河。TensorFlow是由Google團(tuán)隊開發(fā)的最重要的深度學(xué)習(xí)框架，也是全世界使用人數(shù)最多、社區(qū)最為龐大的一個框架。Tensorflow靈活的架構(gòu)可以部署在一個或多個CPU、GPU的臺式及服務(wù)器中，支持多家NVIDIA、AMD等多家廠商的GPU加速器，或者使用單一的API應(yīng)用在移動設(shè)備中。Google以軟件優(yōu)勢帶動硬件發(fā)展，以TensorFlow框架助力CloudTPU。Google的CloudTPU系列加速器經(jīng)過優(yōu)化，可加速和擴(kuò)展使用TensorFlow編程的特定ML工作負(fù)載。CloudTPU還簡化了對ML計算資源的計算和管理，可使得ML模型加速最優(yōu)化，并根據(jù)需求動態(tài)調(diào)整容量；CloudTPU的大規(guī)模、高集群的ML模型已經(jīng)過多年優(yōu)化，無需投入專門的能源、冷卻、網(wǎng)絡(luò)和存儲設(shè)備等方面的精力、時間和專業(yè)知識來進(jìn)行設(shè)計、安裝和維護(hù)。4.5.Meta2020年推出第一代MTIA方案，側(cè)重于處理低/中復(fù)雜度模型作為Facebook母公司，META在AR/VR頭顯全球市場上有明顯份額優(yōu)勢，并開發(fā)有Llama2、Falcon40B、StableDiffusion等LLM模型；為實現(xiàn)差異化競爭、提高公司核心實力，META在AI、AR芯片生態(tài)領(lǐng)域持續(xù)探索自研，目前已推出AI推理定制芯片MTIAv1、RSC超算集群與深度學(xué)習(xí)框架Pytorch、Caffe2go等。2020年Meta推出第一代MTIA全棧解決方案，包括MTIA芯片、PyTorch與推薦模型，目前側(cè)重于處理低/中復(fù)雜度的AI模型。其中，加速器采用臺積電7nm工藝制造，具備800MHz的運行功率，在INT8、FP16精度下分別能夠提供102.4TOPS、51.2TFLOPS算力。MTIA第一代致力于提高推薦模型效率、應(yīng)用于廣告及其他新聞推送，采用開源芯片架構(gòu)RISC-V，功耗僅有25瓦，遠(yuǎn)低于英偉達(dá)等主流廠商的芯片產(chǎn)品；在基準(zhǔn)測試中第一代MTIA芯片處理低/中等復(fù)雜度的AI模型效率高于GPU，在這方面相較競品芯片有明顯優(yōu)勢。根據(jù)Facebook官網(wǎng)披露，RSCAI服務(wù)器系列由META與PenguinComputing、英偉達(dá)、PureStorage合作組裝，于2022年1月首次亮相。目前，RSC包含2000個英偉達(dá)DGXA100系統(tǒng)和16000個英偉達(dá)A100GPU，能實現(xiàn)近5exaflops的混合精度算力，已用于推動包括生成式AI在內(nèi)的多領(lǐng)域前沿研究。Meta將RSC應(yīng)用于訓(xùn)練有650億參數(shù)的大語言模型LLaMA并將該模型作為門控版本分享給研究社區(qū)，以幫助研究人員在無大量硬件的情況下對特定任務(wù)進(jìn)行研究、微調(diào)。5.AI產(chǎn)業(yè)帶動國內(nèi)算力數(shù)據(jù)中心建設(shè)，大規(guī)模招標(biāo)陸續(xù)啟動AI產(chǎn)業(yè)崛起，國產(chǎn)AI芯片和服務(wù)器的需求在快速增長。2023年11月29日，在AICC2023中國人工智能算力大會上，國際數(shù)據(jù)公司（IDC）與浪潮信息聯(lián)合發(fā)布《2023-2024中國人工智能計算力發(fā)展評估報告》。根據(jù)報告，2023年中國AI服務(wù)器市場規(guī)模將達(dá)91億美元，同比增長82.5%，智能算力規(guī)模預(yù)計達(dá)到414.1EFLOPS，同比增長59.3%。在GPU、CPU領(lǐng)域，國產(chǎn)廠商如華為、中科曙光、兆芯、海光等紛紛推出自主研發(fā)的芯片產(chǎn)品，打破了國外廠商在高端芯片市場的壟斷。在算力需求不斷增長的大背景下，數(shù)據(jù)中心的建設(shè)也在加速進(jìn)行。新技術(shù)和新應(yīng)用的快速發(fā)展，如工業(yè)互聯(lián)網(wǎng)、云計算、大數(shù)據(jù)等，加上ChatGPT技術(shù)的推廣，對數(shù)據(jù)資源的存儲、計算和應(yīng)用需求提出了更高要求。國內(nèi)外的數(shù)據(jù)中心建設(shè)有望迎來一個高峰期。根據(jù)《新型數(shù)據(jù)中心發(fā)展三年行動計劃（2021-2023年）》、《數(shù)字中國發(fā)展報告（2022年）》以及共研產(chǎn)業(yè)咨詢數(shù)據(jù)，到2023年，我國數(shù)據(jù)中心機架行業(yè)市場規(guī)模將達(dá)到750萬架，市場規(guī)模預(yù)計將達(dá)到2470.1億元人民幣。2023年10月15日，中國電信官網(wǎng)披露，AI算力服務(wù)器（2023-2024年）集中采購項目總計4157臺，預(yù)計采購總額超過80億元，根據(jù)評審結(jié)果，超聚變、浪潮、新華三等廠商入圍，并顯著增加了對訓(xùn)練型服務(wù)器的投資。這一采購規(guī)模與2021-2022年僅采購1268臺GPU型服務(wù)器相比，有顯著增長。具體到各標(biāo)包的分布，標(biāo)包1和標(biāo)包2均屬于I系列服務(wù)器，包括2073臺訓(xùn)練型風(fēng)冷服務(wù)器、125臺訓(xùn)練型液冷服務(wù)器和1182臺InfiniBand交換機。而標(biāo)包3和標(biāo)包4則為G系列服務(wù)器，分別包括1048臺訓(xùn)練型風(fēng)冷服務(wù)器和929臺訓(xùn)練型液冷服務(wù)器。中標(biāo)廠商主要為國內(nèi)服務(wù)器集成商，為國產(chǎn)芯片導(dǎo)入營造良好的環(huán)境。超聚變、浪潮信息、紫光華山、寧暢、中興通訊、烽火通信和聯(lián)想在I系列風(fēng)冷和液冷服務(wù)器的投標(biāo)中各占一席之地，超聚變在風(fēng)冷服務(wù)器和液冷服務(wù)器的中標(biāo)金額和市場份額中均是第一。另一方面，在G系列服務(wù)器的標(biāo)包中，華鯤振宇、昆侖、烽火通信、寶德計算、新華三、湘江鯤鵬、DCN和黃河信產(chǎn)等公司均成為中標(biāo)候選人。6.重點公司分析6.1.興森科技興森科技是國內(nèi)領(lǐng)先的印制電路板（PCB）樣板及批量板的設(shè)計和制造服務(wù)提供商，公司于2012年開始涉足CSP封裝基板領(lǐng)域，是國內(nèi)IC封裝基板行業(yè)的先行者之一。目前，公司在薄板加工能力和精細(xì)路線能力方面居于國內(nèi)領(lǐng)先地位，并與國內(nèi)外主流的芯片廠商、封裝廠建立了合作關(guān)系，積極投入FCBGA封裝基板領(lǐng)域。6.2.新益昌新益昌是國內(nèi)領(lǐng)先的LED和半導(dǎo)體固晶機綜合解決方案提供商，隨近年來3C電子產(chǎn)品需求增加，同時以云計算、大數(shù)據(jù)、新能源及可穿戴設(shè)備等為主的新型應(yīng)用領(lǐng)域強勁需求下，半導(dǎo)體市場出現(xiàn)巨大需求。根據(jù)WSTS預(yù)測，2024年全球半導(dǎo)體銷售額預(yù)計可回升至5760億美元。其中，半導(dǎo)體封裝環(huán)節(jié)的重點是固晶及焊線環(huán)節(jié)，固晶環(huán)節(jié)對設(shè)備的超高精度、定位能力具有極高的要求，技術(shù)壁壘很高，是公司的核心競爭力所在。根據(jù)公司2023半年報披露，公司憑借過硬的產(chǎn)品質(zhì)量和技術(shù)創(chuàng)新能力以及配套服務(wù)能力，在半導(dǎo)體封裝領(lǐng)域為晶導(dǎo)微、燦瑞科技、揚杰科技、通富微、固锝電子、華天科技等知名公司在內(nèi)的龐大優(yōu)質(zhì)客戶群體提供定制化服務(wù)。目前，公司半導(dǎo)體固晶設(shè)備近年來客戶導(dǎo)入順利，受到業(yè)內(nèi)認(rèn)可，業(yè)務(wù)收入快速增長，根據(jù)公司12月27日發(fā)布的自愿披露訂單情況，公司截至12月26日，固晶機板塊在手訂單共計4.13億元。6.3.天承科技天承科技成立于2010年，主要經(jīng)營PCB所需要的專用電子化學(xué)品的研發(fā)、生產(chǎn)和銷售（功能濕電子化學(xué)品）。PCB專用電子化學(xué)品專用性強、品種多，公司經(jīng)過多年積累，目前技術(shù)已經(jīng)涵蓋水平沉銅、電鍍、垂直沉銅、化學(xué)沉錫、去膜、棕化、粗化、微蝕等多個PCB制作工藝流程，技術(shù)指標(biāo)與應(yīng)用性能達(dá)到行業(yè)先進(jìn)水平，能夠滿足下游廠商對于生產(chǎn)高頻高速PCB、HDI、多層軟板及軟硬結(jié)合板等高端PCB需求，同時公司也解決了觸摸屏金屬網(wǎng)格沉銅，品牌知名度較高。6.4.德邦科技公司以其在高端電子封裝材料研發(fā)及產(chǎn)業(yè)化領(lǐng)域的專業(yè)實力，已被認(rèn)定為國家級的專精特新“小巨人”企業(yè)，其業(yè)務(wù)聚焦于集成電路封裝材料、智能終端封裝材料、新能源應(yīng)用材料及高端裝備應(yīng)用材料等四大類別。這些產(chǎn)品廣泛用于不同的封裝工藝環(huán)節(jié)和應(yīng)用場景，如晶圓加工、芯片級封裝、功率器件封裝、板級封裝、模組及系統(tǒng)集成封裝等，在國家集成電路產(chǎn)業(yè)基金的重點支持下，已在集成電路封裝、智能終端封裝、動力電池封裝、光伏疊瓦封裝等領(lǐng)域取得顯著的技術(shù)突破。6.5.華海誠科公司是一家專注于半導(dǎo)體封裝材料的研發(fā)及產(chǎn)業(yè)化的國家級專精特新“小巨人”企業(yè)，以其在環(huán)氧塑封料領(lǐng)域的顯著成就而聞名。在先進(jìn)封裝領(lǐng)域，華海誠科也取得了顯著進(jìn)展。據(jù)公司業(yè)績會披露，其應(yīng)用于QN封裝的產(chǎn)品已通過通富微電和長電科技等知名企業(yè)的驗收，并開始小批量銷售。此外，跟據(jù)公司招股書,FC底填膠等多款產(chǎn)品也已進(jìn)入小批量生產(chǎn)和銷售階段，而應(yīng)用于FCBGA的產(chǎn)品和液態(tài)塑封材料(LMC)目前正處于客戶驗證階段,2021年，公司成為長電科技、華天科技等多家知名封裝企業(yè)的主要內(nèi)資供應(yīng)商。6.6.英維克液冷系統(tǒng)是一種先進(jìn)的散熱技術(shù)，它通過利用液體的高導(dǎo)熱系數(shù)，有效提升了散熱效率，尤其在處理高功率、高熱量的AI服務(wù)器和GPU/CPU等高性能計算設(shè)備時表現(xiàn)卓越。2005年創(chuàng)立以來，深圳英維克公司在精密溫控節(jié)能設(shè)備領(lǐng)域持續(xù)發(fā)展和創(chuàng)新，成為該領(lǐng)域在國內(nèi)的技術(shù)領(lǐng)導(dǎo)者。最初，該公司專注于為信息和通信行業(yè)提供溫控解決方案，產(chǎn)品范圍涵蓋了通信基站、戶外機柜和數(shù)據(jù)中心節(jié)能空調(diào)等，根據(jù)公司2020年報披露，公司與華為、中興等行業(yè)巨頭建立了深入合作關(guān)系。2013年，英維克洞察市場前景，進(jìn)入儲能溫控領(lǐng)域，到2020年，已牢固占據(jù)行業(yè)領(lǐng)先地位。2015年，公司進(jìn)一步擴(kuò)張，設(shè)立深圳科泰，進(jìn)軍新能源車空調(diào)領(lǐng)域，并于2018年收購上?？铺卣怪淋壍澜煌I(lǐng)域。在不斷拓寬溫控解決方案的同時，公司通過構(gòu)建平臺化解決方案，發(fā)揮了協(xié)同效應(yīng)，增強了市場競爭力。6.7.飛榮達(dá)自1993年成立以來，公司在電子輔料產(chǎn)品生產(chǎn)領(lǐng)域取得了顯著發(fā)展。自2000年開始，公司著手開發(fā)國際主流品牌的電磁屏蔽和導(dǎo)熱材料與相關(guān)散熱解決方案，逐步擴(kuò)展其產(chǎn)品線至金屬屏蔽器件、導(dǎo)電布襯墊、導(dǎo)熱界面器件等，拓展應(yīng)用至計算機和手機等高端領(lǐng)域。據(jù)公司公告與2022年年報，在通信基站領(lǐng)域，通過與中興通訊的合作，公司成功開發(fā)并試制了3DVC技術(shù)樣機，標(biāo)志著5G基站首次采用這一先進(jìn)的散熱技術(shù)。在服務(wù)器領(lǐng)域，飛榮達(dá)向包括華為和超聚變在內(nèi)的多個知名客戶提供了一系列散熱與電磁屏蔽解決方案和產(chǎn)品。其產(chǎn)品線涵蓋單相和兩相液冷模組、軸流風(fēng)扇以及專門設(shè)計的散熱器等，以滿足客戶多樣化的散熱需求。公司不僅擁有華為、中興、微軟等國內(nèi)外大型企業(yè)客戶，還成功擴(kuò)展至Facebook和Google等全球知名企業(yè)。這一廣泛的客戶基礎(chǔ)證明了其產(chǎn)品的實力和市場認(rèn)可度。飛榮達(dá)的優(yōu)勢還體現(xiàn)在其完整的散熱產(chǎn)業(yè)鏈布局上，公司不僅在散熱器件和材料領(lǐng)域具有強勁競爭力，而且上下游一體化的產(chǎn)業(yè)鏈布局進(jìn)一步增強了公司在整個散熱行業(yè)的綜合競爭優(yōu)勢。隨著液冷散熱市場的不斷擴(kuò)大及市場潛力逐步釋放，飛榮達(dá)有望獲得顯著的市場機遇。6.8.思泉新材思泉新材是一家專注于熱管理材料的多元化功能性材料提供商，在電子電氣產(chǎn)品穩(wěn)定性及可靠性提升方面表現(xiàn)卓越。其主營業(yè)務(wù)包括研發(fā)、生產(chǎn)和銷售熱管理材料、磁性材料、納米防護(hù)材料等。作為國內(nèi)電子電氣功能性材料領(lǐng)域的領(lǐng)先高新技術(shù)企業(yè)，思泉新材在自主研發(fā)和技術(shù)創(chuàng)新方面具有顯