北京金融科技產(chǎn)業(yè)聯(lián)盟-人工智能行業(yè)：金融機構(gòu)AI芯片應(yīng)用情況專題報告

編委會成員：潘潤紅編寫組成員：聶麗琴胡達川王碩紀鐘羅方華徐斌劉玉海崔雨萍伊純方科徐梓丞王靜逸張彬李銀鳳胡捷鄧玉潔徐小芳王景俊 1 4 5 1習(xí)近平總書記在中共中央政治局第九次集體學(xué)習(xí)上的講話加快發(fā)展新一代人工智能是事關(guān)我國能否抓住新一輪科技革命信息分散，沒有充分發(fā)揮數(shù)據(jù)價值。光學(xué)字符識別（Optical文件信息進行了識別處理，實現(xiàn)自動化分類整理、內(nèi)容級2;效率低下、信息安全等現(xiàn)實問題，有助于滿足金融機構(gòu)對于AI4可以承擔相應(yīng)的工作任務(wù)？CPU作為中央處理器，最擅長的是表格1不同AI芯片技術(shù)路線對比平臺性能資源效率靈活性軟件生態(tài)CPU單核性能強，但核心數(shù)較少CPU硬件加速效率最低程靈活廣泛應(yīng)用，軟件生態(tài)龐大且成熟GPGPU并行計算性能相較CPU大幅提升，比DSA/ASIC有較大差距高效集成數(shù)千至上萬個高效率小核，以及數(shù)百個AI加速核，資源效率很高本質(zhì)是眾核并行，具有很高的靈活1.由于GPGPU有極強通用性，主流的和新出的AI算子和框架都基于GPGPU實現(xiàn)，AI生態(tài)較健全2.硬件產(chǎn)品升級后，計算框架生態(tài)可持續(xù)維護ASIC針對特定場景定論上有極致的性能。受限于設(shè)計復(fù)雜度，難以超大規(guī)模設(shè)計理論上最高的資源效率，但不可避免存在功能超集1.功能邏輯完全式調(diào)整功能2.不支持AI算子編寫不同領(lǐng)域及不同廠家的ASIC實現(xiàn)都存在巨大差別，且都需要特定驅(qū)動程序，軟件生態(tài)不完善FPGA針對特定場景定制，無冗余設(shè)計AIAI算法硬件定制，資源利用效率取決于算法設(shè)靈活性較ASIC和DSA高，但是AI算法設(shè)計難度大，需要針對具體AI算法或應(yīng)用進行定制化設(shè)計和開發(fā)，軟件生態(tài)不完善5算法和應(yīng)用，計算性能高計水平和實際需求需要大規(guī)模開發(fā)DSANPU、DSP接近ASIC的性能，由于一定程度的軟硬件解耦，能夠?qū)崿F(xiàn)較大規(guī)模設(shè)計1.在AI算子與DSA指令集高度DSA資源效率很ASIC2.在AI算子與DSA指令集不適配時，算子性能表現(xiàn)很差，甚至無法適配要強大的編譯器，把算法映射到特定DSA架構(gòu)；相比ASIC，具有一定的可編程性研框架2.對主流計算框架不支持或支持度十分有限3.AI算法及框架層出不窮且持或無法支持，無法構(gòu)建持續(xù)的AI軟件生態(tài)編程通用性，基于該架構(gòu)的CUDA（ComputeUnifiedDevice6通信，其存在的目的是為了對程序某些模塊或者函數(shù)進行加速。圖1GPGPU整體架構(gòu)處理單元，因此其吞吐量非常高，如果任務(wù)有足夠的并行性，7考慮數(shù)據(jù)排布和讀取方式等優(yōu)化方法來提升緩存命中率。8線程可以通過計算單元上的共享內(nèi)存交換數(shù)據(jù)或者把一些常用圖2常見異構(gòu)計算節(jié)點內(nèi)部互聯(lián)結(jié)構(gòu)9GPGPU之間的互聯(lián)GPGPU之間通過PCI-E互連并完成數(shù)據(jù)傳輸，在高級模塊化的軟件開發(fā)環(huán)境，可以提供多種開發(fā)工具和運行時圖3GPU生態(tài)系統(tǒng)架構(gòu)OpenCL是為異構(gòu)平臺編程設(shè)計的框架，此異構(gòu)平臺可由CPU、GPU、FPGA或其他類型的處理器與硬件加速器組成。個供應(yīng)商平臺編寫的OpenCL應(yīng)用程序正常情況下可以在其他SYCL作為基于C++的單源特定于域的嵌入式語言，是（如高性能計算、機器學(xué)習(xí)、內(nèi)嵌計算等簡單來說構(gòu)計算代碼的可移植性和編程效率。SYCL在在計算上已經(jīng)超越了通用的性，在風(fēng)險評估和交易決策等場景中有重要意義。此外，使用金融機構(gòu)正在越來越多地使用人工智能和機器學(xué)習(xí)技術(shù)來GPU的過程。這種技術(shù)可以使多個用戶同時使用同一個物理進行抽象，軟件化后形成一個統(tǒng)一的資源池，方便用戶按需對隱私計算可以幫助金融機構(gòu)在保護客戶隱私的同時滿足合傳輸安全與運行時安全想結(jié)合，打造基于國密的金融業(yè)務(wù)中需要處理大量的交易數(shù)據(jù)和財務(wù)報表等文本信GPGPU在金融行業(yè)的自然語言處理（NaturalLanguageProcessing,NLP）方面應(yīng)用可以加速算法的運行，從而更快地提更好的投資決策。（Automatic化客戶服務(wù)場景，LLM模型支持風(fēng)格和音色控制，神經(jīng)網(wǎng)絡(luò)處理單元（Neural-networkProcessUnits,NPU）采NPU是專門用于硬件加速人工智能應(yīng)用的微處理器或計算圖4神經(jīng)網(wǎng)絡(luò)模式圖TNN2參考來源：主流手機NPU軟件棧調(diào)研（2021Q2/p/38031/developer/article/1819147?areaSource=102001.13&traceId=HDLu9TPBTtI6eFfa45參考來源1：PaddlePaddle/Paddle-Lite:PaddlePaddleHighPerfo），6參考來源2：Paddle-Lite文檔，https://pNPU擁有對矩陣和卷積運算的高效性，主要得益于其架構(gòu)NPU能夠快速地處理大量的傳感器數(shù)據(jù)，在自動駕駛系統(tǒng)人臉識別是一個需要高效計算的應(yīng)用場景，NPU可以為人開發(fā)將更加注重多樣性，以支持更廣泛的應(yīng)用場景和算國際上主流的并行計算平臺和編程模型以英偉達公司的platform）為主。其中英偉達公司的用戶數(shù)量具有較大優(yōu)勢。表格2開發(fā)平臺對比列NCCL算因此可能會出現(xiàn)某些廠商的硬件資源不夠而另外一些廠商的硬可根據(jù)業(yè)務(wù)需求及算力負載情況提供算力資源彈性擴縮容的能 圖圖6芯片產(chǎn)業(yè)鏈術(shù)”的大型企業(yè)的資本支出稅收優(yōu)惠從目前的最高3％提高到;;時API則是對驅(qū)動API的封裝。程序設(shè)計過程中既可以調(diào)用開發(fā)庫是基于CUDA技術(shù)所提供的應(yīng)用開發(fā)庫。其中，CUDA包含了兩個重要的標準數(shù)學(xué)運算庫——CUDA快語言或接口，指令最終都會被驅(qū)動程序轉(zhuǎn)換成并行線程執(zhí)行AMD的開發(fā)平臺Radeon開放計算平臺（RadeonOpenComputingplatform,ROCm）是基于開表格3我國人工智能芯片重點政策匯總7將“集成電路及專用設(shè)備將“集成電路及專用設(shè)備”作為新一代信息技術(shù)產(chǎn)業(yè)的重點突破口列在需要大力推動的重點領(lǐng)域之首。提出著力提升集成電路設(shè)計水平,不斷豐富知識產(chǎn)權(quán)(IP)核和設(shè)計工具,突破關(guān)系國家信息與網(wǎng)絡(luò)安全及電子整機產(chǎn)業(yè)發(fā)展的核心通用芯片,提對人工智能芯片發(fā)展方案提出多項要求,并促進智面向2030年體現(xiàn)國家戰(zhàn)略意圖的重大科技項目中，類腦計算的開發(fā)是重點之一;新一代信息技術(shù)《國家信息化發(fā)展戰(zhàn)制定國家信息領(lǐng)域核心技術(shù)設(shè)備發(fā)展戰(zhàn)略綱要,以體系化思維彌補單點弱勢,打造國際先進、安全可《產(chǎn)業(yè)技術(shù)創(chuàng)新能力發(fā)展規(guī)劃2016-2020著力提升集成電路設(shè)計水平,發(fā)展高端芯片,不斷豐富知識產(chǎn)權(quán)IP核和設(shè)計工具,推動先進制造和特色制造工藝發(fā)展,提升封裝測試產(chǎn)業(yè)的發(fā)展水平，形成關(guān)鍵制造裝備和關(guān)鍵材料供貨能力,加緊略性新興產(chǎn)業(yè)發(fā)展規(guī)平,發(fā)展面向新應(yīng)用的芯片。加強類腦芯片、超導(dǎo)組件研發(fā),推進后摩爾定律時代微電子技術(shù)開發(fā)與《新一代人工智能發(fā)平同步,人工智能產(chǎn)業(yè)成為新的重要經(jīng)濟增長點,《促進新一代人工智能產(chǎn)業(yè)發(fā)展三年行動從推動產(chǎn)業(yè)發(fā)展角度出發(fā),結(jié)合“中國制造2025”,對《新一代人工智能發(fā)展規(guī)劃》相關(guān)任務(wù)進行細化和落實,以信息技術(shù)與制造技術(shù)深度融合為主線,以新一代人工智能技術(shù)的產(chǎn)業(yè)化和集成應(yīng)《大數(shù)據(jù)產(chǎn)業(yè)發(fā)展規(guī)《人工智能標準化白宣布成立國家人工智能標準化總體組、專家咨詢組,負責全面統(tǒng)籌規(guī)劃和協(xié)調(diào)管理我國人工智能標《擴大和升級信息消動電子產(chǎn)品智能化升級,提升手機、計算機、彩色《關(guān)于集成電路生產(chǎn)企業(yè)有關(guān)企業(yè)所得稅對滿足要求的集成電路生產(chǎn)企業(yè)實行稅收優(yōu)惠減免政策,符合條件的集成電路生產(chǎn)企業(yè)可享受前五年免征企業(yè)所得稅,第六年至第十年按照25%的法定稅率減半征收企業(yè)所得稅,并享受至期滿為止的《關(guān)于集成電路設(shè)計和軟件產(chǎn)業(yè)企業(yè)所得依法成立且符合條件的集成電路設(shè)計企業(yè)和軟件優(yōu)惠期,第一年至第二年免征企業(yè)所得稅,第三年至第五年按照25%的法定稅率減半征收企業(yè)所得《工業(yè)和信息化部關(guān)于加快培育共享制造新模式新業(yè)態(tài)促進制造業(yè)高質(zhì)量發(fā)展的指大容量、低延時網(wǎng)絡(luò)覆蓋范圍,鼓勵制造企業(yè)通過內(nèi)網(wǎng)改造升級實現(xiàn)人、機、物互聯(lián),為共享制造提中共中央政治局常務(wù)應(yīng)用的解耦。其異構(gòu)軟件開發(fā)平臺DTK（DCUToAI框架的主要目的是把程序員從繁瑣細致的具體編程工作科學(xué)行業(yè)應(yīng)用開發(fā)。目前已推出面向電子信息行業(yè)的MindElecAI芯片行業(yè)發(fā)展政策、市場供需、競爭格/pid_277705567.s技在技術(shù)方面積極創(chuàng)新，OrionX現(xiàn)在已經(jīng)能兼容除英偉達以外單機多卡、多機多卡在內(nèi)的多種部署模式。MTTS3000兼容工具鏈的全棧式解決方案，涵蓋元宇宙的多個核心要素。MUSA(MooreThreadsUnif并行計算引擎。MUSA帶有一個軟件環(huán)境，開發(fā)人員可以使用完整的MUSA開發(fā)環(huán)境提供co用按照技術(shù)復(fù)雜度和應(yīng)用成熟度等可分為傳統(tǒng)場景和創(chuàng)新客戶提出的業(yè)務(wù)咨詢，并能根據(jù)客戶語音導(dǎo)航至指定業(yè)務(wù)款對象進行風(fēng)險排查。個人客戶需要提供銀行流水，經(jīng)過OCR屏助手、手機銀行營銷助手、自助終端虛擬形象等檔分析與識別國際會議（InternationalConferenceonDocument