AIGC行業(yè)市場分析

AIGC行業(yè)市場分析ChatGPT開啟大模型“軍備賽”，存儲作為計(jì)算機(jī)重要組成部分明顯受益:ChatGPT開啟算力軍備賽，大模型參數(shù)呈現(xiàn)指數(shù)規(guī)模，引爆海量算力需求，模型計(jì)算量增長速度遠(yuǎn)超人工智能硬件算力增長速度，同時(shí)也對數(shù)據(jù)傳輸速度提出了更高的要求。XPU、內(nèi)存、硬盤組成完整的馮諾依曼體系，以一臺通用服務(wù)器為例，芯片組+存儲的成本約占70%以上，芯片組、內(nèi)部存儲和外部存儲是組成核心部件；存儲是計(jì)算機(jī)的重要組成結(jié)構(gòu)，“內(nèi)存”實(shí)為硬盤與CPU之間的中間人，存儲可按照介質(zhì)分類為ROM和RAM兩部分。存算一體，后摩爾時(shí)代的必然發(fā)展:過去二十年中，算力發(fā)展速度遠(yuǎn)超存儲，“存儲墻”成為加速學(xué)習(xí)時(shí)代下的一代挑戰(zhàn)，原因是在后摩爾時(shí)代，存儲帶寬制約了計(jì)算系統(tǒng)的有效帶寬，芯片算力增長步履維艱。因此存算一體有望打破馮諾依曼架構(gòu)，是后摩時(shí)代下的必然選擇，存算一體即數(shù)據(jù)存儲與計(jì)算融合在同一個(gè)芯片的同一片區(qū)之中，極其適用于大數(shù)據(jù)量大規(guī)模并行的應(yīng)用場景。存算一體優(yōu)勢顯著，被譽(yù)為AI芯片的“全能戰(zhàn)士”，具有高能耗、低成本、高算力等優(yōu)勢；存算一體按照計(jì)算方式分為數(shù)字計(jì)算和模擬計(jì)算，應(yīng)用場景較為廣泛，SRAM、RRAM有望成為云端存算一體主流介質(zhì)。存算一體前景廣闊、漸入佳境:存算一體需求旺盛，有望推動下一階段的人工智能發(fā)展，原因是我們認(rèn)為現(xiàn)在存算一體主要AI的算力需求、并行計(jì)算、神經(jīng)網(wǎng)絡(luò)計(jì)算等；大模型興起，存算一體適用于從云至端各類計(jì)算，端測方面，人工智能更在意及時(shí)響應(yīng)，即“輸入”即“輸出”，目前存算一體已經(jīng)可以完成高精度計(jì)算；云端方面，隨著大模型的橫空出世，參數(shù)方面已經(jīng)達(dá)到上億級別，存算一體有望成為新一代算力因素；存算一體適用于人工智能各個(gè)場景，如穿戴設(shè)備、移動終端、智能駕駛、數(shù)據(jù)中心等。我們認(rèn)為存算一體為下一代技術(shù)趨勢并有望廣泛應(yīng)用于人工智能神經(jīng)網(wǎng)絡(luò)相關(guān)應(yīng)用、感存算一體，多模態(tài)的人工智能計(jì)算、類腦計(jì)算等場景。01、存算一體，開啟算力新篇章1.1、ChatGPT開啟大模型“軍備賽”，算力呈現(xiàn)明顯缺口ChatGPT開啟算力軍備賽:我們已經(jīng)在《ChatGPT:百度文心一言暢想》中證明數(shù)據(jù)、平臺、算力是打造大模型生態(tài)的必備基礎(chǔ)，且算力是訓(xùn)練大模型的底層動力源泉，一個(gè)優(yōu)秀的算力底座在大模型(AI算法)的訓(xùn)練和推理具備效率優(yōu)勢；同時(shí)，我們在《ChatGPT打響AI算力“軍備戰(zhàn)”》中證明算力是AI技術(shù)角逐“入場券”，其中AI服務(wù)器、AI芯片等為核心產(chǎn)品；此外，我們還在《ChatGPT，英偉達(dá)DGX引爆AI“核聚變”》中證明以英偉達(dá)為代表的科技公司正在快速補(bǔ)足全球AI算力需求，為大模型增添必備“燃料”。大模型參數(shù)呈現(xiàn)指數(shù)規(guī)模，引爆海量算力需求:根據(jù)財(cái)聯(lián)社和OpenAI數(shù)據(jù)，ChatGPT浪潮下算力缺口巨大，根據(jù)OpenAI數(shù)據(jù)，模型計(jì)算量增長速度遠(yuǎn)超人工智能硬件算力增長速度，存在萬倍差距。運(yùn)算規(guī)模的增長，帶動了對AI訓(xùn)練芯片單點(diǎn)算力提升的需求，并對數(shù)據(jù)傳輸速度提出了更高的要求。根據(jù)統(tǒng)計(jì)，過去五年，大模型發(fā)展呈現(xiàn)指數(shù)級別，部分大模型已達(dá)萬億級別，因此對算力需求也隨之攀升。1.2、深度拆解服務(wù)器核心硬件組成部分服務(wù)器的組成:我們以一臺通用服務(wù)器為例，服務(wù)器主要由主板、內(nèi)存、芯片組、磁盤、網(wǎng)卡、顯卡、電源、主機(jī)箱等硬件設(shè)備組成；其中芯片組、內(nèi)部存儲和外部存儲是組成核心部件。GPU服務(wù)器優(yōu)勢顯著:GPU服務(wù)器超強(qiáng)的計(jì)算功能可應(yīng)用于海量數(shù)據(jù)處理方面的運(yùn)算，如搜索、大數(shù)據(jù)推薦、智能輸入法等，相較于通用服務(wù)器，在數(shù)據(jù)量和計(jì)算量方面具有成倍的效率優(yōu)勢。此外，GPU可作為深度學(xué)習(xí)的訓(xùn)練平臺，優(yōu)勢在于1、GPU服務(wù)器可直接加速計(jì)算服務(wù)，亦可直接與外界連接通信；2、GPU服務(wù)器和云服務(wù)器搭配使用，云服務(wù)器為主，GPU服務(wù)器負(fù)責(zé)提供計(jì)算平臺；3、對象存儲COS可以為GPU服務(wù)器提供大數(shù)據(jù)量的云存儲服務(wù)。AI服務(wù)器芯片組價(jià)值成本凸顯:以一臺通用服務(wù)器為例，主板或芯片組占比最高，大約占成本50%以上，內(nèi)存(內(nèi)部存儲+外部存儲)占比約為20%。此外，根據(jù)Wind及芯語的數(shù)據(jù)，AI服務(wù)器相較于高性能服務(wù)器、基礎(chǔ)服務(wù)器在芯片組(CPU+GPU)的價(jià)格往往更高，AI服務(wù)器(訓(xùn)練)芯片組的成本占比高達(dá)83%、AI服務(wù)器(推理)芯片組占比為50%，遠(yuǎn)遠(yuǎn)高于通用服務(wù)器芯片組的占比。1.3、存儲，計(jì)算機(jī)的重要組成結(jié)構(gòu)存儲是計(jì)算機(jī)的重要組成結(jié)構(gòu):存儲器是用來存儲程序和數(shù)據(jù)的部件，對于計(jì)算機(jī)來說，有了存儲器才有記憶功能，才能保證正常工作。存儲器按其用途可分為主存儲器和輔助存儲器，主存儲器又稱內(nèi)存儲器(簡稱內(nèi)存)，輔助存儲器又稱外存儲器(簡稱外存)。內(nèi)存:主板上的存儲結(jié)構(gòu)，與CPU直接溝通，并用其存儲數(shù)據(jù)的部件，存放當(dāng)前正在使用的（即執(zhí)行中）的數(shù)據(jù)和程序，一旦斷電，其中的程序和數(shù)據(jù)就會丟失；外存:磁性介質(zhì)或光盤，像硬盤，軟盤，CD等，能長期保存信息，并且不依賴于電力來保存信息。XPU、內(nèi)存、硬盤組成完整的馮諾依曼體系:“內(nèi)存”實(shí)為硬盤與CPU之間的中間人，CPU如果直接從硬盤中抓數(shù)據(jù)，時(shí)間會太久。所以“內(nèi)存”作為中間人，從硬盤里面提取數(shù)據(jù)，再讓CPU直接到內(nèi)存中拿數(shù)據(jù)做運(yùn)算。這樣會比直接去硬盤抓數(shù)據(jù)，快百萬倍；CPU里面有一個(gè)存儲空間Register(寄存器)，運(yùn)算時(shí)，CPU會從內(nèi)存中把數(shù)據(jù)載入Register,再讓Register中存的數(shù)字做運(yùn)算，運(yùn)算完再將結(jié)果存回內(nèi)存中，因此運(yùn)算速度Register>內(nèi)存>硬盤，速度越快，價(jià)格越高，容量越低。1.4、存算一體，后摩爾時(shí)代的必然發(fā)展算力發(fā)展速度遠(yuǎn)超存儲，存儲帶寬限制計(jì)算系統(tǒng)的速度:在過去二十年，處理器性能以每年大約55%的速度提升，內(nèi)存性能的提升速度每年只有10%左右。因此，目前的存儲速度嚴(yán)重滯后于處理器的計(jì)算速度。能耗方面，從處理單元外的存儲器提取所需的時(shí)間往往是運(yùn)算時(shí)間的成百上千倍，因此能效非常低；“存儲墻”成為加速學(xué)習(xí)時(shí)代下的一代挑戰(zhàn)，原因是數(shù)據(jù)在計(jì)算單元和存儲單元的頻繁移動。存儲墻、帶寬墻和功耗墻成為首要限制關(guān)鍵:在傳統(tǒng)計(jì)算機(jī)架構(gòu)中，存儲與計(jì)算分離，存儲單元服務(wù)于計(jì)算單元，因此會考慮兩者優(yōu)先級；如今由于海量數(shù)據(jù)和AI加速時(shí)代來臨，不得不考慮以最佳的配合方式為數(shù)據(jù)采集、傳輸、處理服務(wù)，然而存儲墻、帶寬墻和功耗墻成為首要挑戰(zhàn)，雖然多核并行加速技術(shù)也能提升算力，但在后摩爾時(shí)代，存儲帶寬制約了計(jì)算系統(tǒng)的有效帶寬，芯片算力增長步履維艱。1.5、存算一體:AI芯片的“全能戰(zhàn)士”存算一體優(yōu)勢顯著，被譽(yù)為AI芯片的“全能戰(zhàn)士”其優(yōu)勢如下:1、成百上千倍的提高計(jì)算效率，降低成本:存算一體的優(yōu)勢是打破存儲墻，消除不必要的數(shù)據(jù)搬移延遲和功耗，使用存儲單元提升算力；2、特定領(lǐng)域提供更高算力與能效:存算一體架構(gòu)消除了計(jì)算與存儲的界限，直接在存儲器內(nèi)完成計(jì)算，因此屬于非馮諾伊曼架構(gòu)，在特定領(lǐng)域可以提供更大算力（1000TOPS以上）和更高能效（超過10-100TOPS/W），明顯超越現(xiàn)有ASIC算力芯片；3、存算一體代表了未來AI計(jì)算芯片的主流架構(gòu):除AI計(jì)算外，存算技術(shù)也可用于感存算一體芯片和類腦芯片，可減少不必要的數(shù)據(jù)搬運(yùn)與使用存儲單元參與邏輯計(jì)算提升算力，原因在于等效于在面積不變的情況下規(guī)?；黾佑?jì)算核心數(shù)。1.6、存算一體存儲介質(zhì)百花齊放存算一體應(yīng)用場景極其廣闊:端側(cè)小算力場景，算力范圍約從16TOPS至100TOPS，例如智能可穿戴設(shè)備、智能安防、移動終端、AR\VR等。大算力場景，算力序曲在1000TOPS以上，例如云計(jì)算數(shù)據(jù)中心、自動駕駛、GPT-4等大模型等。我們認(rèn)為云和邊緣大算力場景，是存算一體芯片的優(yōu)勢領(lǐng)域，存算一體更具備核心影響力和競爭力；SRAM、RRAM有望成為云端存算一體主流介質(zhì):目前可用于存算一體的成熟存儲器有NORFLASH、SRAM、DRAM、RRAM、MRAM等；NorFlash屬于非易失性存儲介質(zhì)，在工藝制成上有明顯瓶頸；DRAM成本較低，容量大，但是速度慢；SRAM在速度方面和能效比方面具有優(yōu)勢，特別是在存內(nèi)邏輯技術(shù)發(fā)展起來之后具有明顯的高能效和高精度特點(diǎn)；此外，PRAM有望成為下一代主流研究方向，雖然目前來看材料依舊不穩(wěn)定，但是具有高速、結(jié)構(gòu)簡單的優(yōu)點(diǎn)，有希望成為未來發(fā)展最快的新型存儲器。02、存算一體，打開海量應(yīng)用空間2.1、存算一體前景廣闊、漸入佳境存算一體需求旺盛，有望推動下一階段的人工智能發(fā)展:我們認(rèn)為現(xiàn)在存算一體主要AI的算力需求、并行計(jì)算、神經(jīng)網(wǎng)絡(luò)計(jì)算等，因此存算一體需求旺盛；以數(shù)據(jù)中心為例，百億億次（E級）的超級計(jì)算機(jī)成為各國比拼算力的關(guān)鍵點(diǎn)，為此美國能源部啟動了“百億億次計(jì)算項(xiàng)目”，我國則聯(lián)合國防科大、中科曙光等機(jī)構(gòu)推出首臺E級超算，而E級超算面臨的主要問題為功耗過高、現(xiàn)有技術(shù)超算功率高達(dá)千兆瓦，需要一個(gè)專門的核電站來給它供電，而其中50%以上的功耗都來源于數(shù)據(jù)的“搬運(yùn)”，本質(zhì)原因是計(jì)算與存儲分離所致。大模型興起，存算一體適用于從云至端各類計(jì)算:ChatGPT等“大模型”興起，本質(zhì)即為神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)等計(jì)算，因此，我們認(rèn)為對算力需求旺盛；端測方面，人工智能更在意及時(shí)響應(yīng)，即“輸入”即“輸出”，同時(shí)，隨著存算一體發(fā)展，存內(nèi)計(jì)算和存內(nèi)邏輯，已經(jīng)可以完成高精度計(jì)算；云端方面，隨著大模型的橫空出世，參數(shù)方面已經(jīng)達(dá)到上億級別，因此對算力的能耗方面考核更加嚴(yán)格，隨著SRAM和PRAM等技術(shù)進(jìn)一步成熟，存算一體有望成為新一代算力因素，從而推動人工智能產(chǎn)業(yè)的發(fā)展。2.2、存算一體為人工智能發(fā)展的必然選擇我們認(rèn)為存算一體為下一代技術(shù)趨勢，原因及創(chuàng)新應(yīng)用科技場景如下:人工智能神經(jīng)網(wǎng)絡(luò)相關(guān)應(yīng)用:存算一體具有能耗優(yōu)勢，其使用成本能大幅降低，可將帶AI計(jì)算的中大量乘加計(jì)算的權(quán)重部分存在存儲單元中從而在讀取的同時(shí)進(jìn)行數(shù)據(jù)輸入和計(jì)算處理，從而完成卷積運(yùn)算。因此存內(nèi)計(jì)算和存內(nèi)邏輯非常適合人工智能的深度神經(jīng)網(wǎng)絡(luò)應(yīng)用和基于AI的大數(shù)據(jù)技術(shù)；感存算一體，多模態(tài)的人工智能計(jì)算:集傳感、儲存和運(yùn)算為一體構(gòu)建感存算一體架構(gòu)，我們認(rèn)為其為多模態(tài)時(shí)代下的應(yīng)用場景，通過傳感器AI存算一體芯片，來實(shí)現(xiàn)零延時(shí)和超低功耗的智