2024年中國AI大模型產(chǎn)業(yè)發(fā)展與應用研究報告-第一新聲

研究范疇及目的世界對大模型的廣泛關(guān)注，也激發(fā)了中國AI大模型發(fā)展熱潮。2023年3月中旬，百度發(fā)布大語言模型產(chǎn)品文心一言，拉開了國內(nèi)AI大模型產(chǎn)業(yè)戰(zhàn)”的序幕，之后通義千問、盤古大模型、星火認知大模型、360智腦、豆包等紛紛問世。2024年中國AI大模型產(chǎn)業(yè)落地明顯加速，AI大模型產(chǎn)品化、AI大模型是指擁有億級以上參數(shù)的深度學習模型，從應用場景角度可分為通用大模型和垂直大模型，其中垂直大模型又可以分為行業(yè)大模型和垂直場景醫(yī)療、教育、交通等垂直行業(yè)和營銷、客服、運營等2024年以來，我國AI大模型的產(chǎn)業(yè)應用已經(jīng)迅速展開，本報告通過調(diào)研中國AI大模型產(chǎn)業(yè)發(fā)展和市場應用，梳理深入調(diào)研AI大模型的典型行業(yè)和場景應用，挖掘行業(yè)里應用相對成熟、落地2目錄CONTENTS3研究背景定義及分類數(shù)據(jù)集大小和訓練用的計算量之間存在冪律關(guān)系；AI大模型基于注意按應用領(lǐng)域大模型分類按應用領(lǐng)域大模型分類按輸入數(shù)據(jù)類型在多個領(lǐng)域和任務上通用，具有基礎的認知能力，各學科知識都懂一點；通用大模型就像完成了大學前素質(zhì)教育階段的學生。針對特定的行業(yè)或領(lǐng)域的大模型，通常使用行業(yè)相關(guān)的數(shù)據(jù)進行預訓練或微調(diào)，來提高在該領(lǐng)域的性能和準確度；行業(yè)大模型就像選擇了專業(yè)的大學生，對所在專業(yè)領(lǐng)域的知識有了更深入的了解。針對特定任務或場景的大模型，使用更加專業(yè)的知識和數(shù)據(jù)進行預訓練和微調(diào)，在專業(yè)任務上的性能和效果更優(yōu)；垂直大模型就像研究生，在所在具體領(lǐng)域有了比較深入的研究。通過處理大量文本數(shù)據(jù)來理解和生成人類語言的大模型，執(zhí)行自然語言處理任務，如文本分類、問答、對話、摘要總結(jié)等；常見的語言大模型包括ChatGPT、文心一言、訊飛星火等。是一種基于大規(guī)模數(shù)據(jù)和強大計算能力訓練的深度學習模型，通過模擬人類視覺系統(tǒng)的工作原理，通過復雜的神經(jīng)網(wǎng)絡結(jié)構(gòu)，實現(xiàn)對圖像和視頻數(shù)據(jù)的高度識別、分析和表達的效果；常見的視覺大模型包括智譜CogVLM、書生·視覺大模型等。多模態(tài)大模型指的是將文本、圖像、視頻、音頻等多模態(tài)信息聯(lián)合起來進行訓練的模型；典型的多模態(tài)大模型包括騰訊的hunyuan-vision、商湯科技的日日新等。5發(fā)展歷程1956-2006年，深度學習和神經(jīng)網(wǎng)絡技術(shù)的提出和發(fā)展，為AI大模型的出現(xiàn)奠定了技術(shù)基礎，1956-2006年，深度學習和神經(jīng)網(wǎng)絡技術(shù)的提出和發(fā)展，為AI大模型的出現(xiàn)奠定了技術(shù)基礎，大模型技術(shù)萌芽的發(fā)展，為大模型預訓練算法技術(shù)和架構(gòu)奠定了基礎；2018年OpenAI和Google分別發(fā)布GPT-1與BERT，預訓練大模型成為自然語言處理領(lǐng)域的主流；2022年底，2024年生成式人工智能服務備案數(shù)量2024年4月（第一批）2024年8月（第二批）2024年11月（第三批）2023-2024年國產(chǎn)大模型價格走勢（元/百萬Tokens）02023年H12023年H22024年H12024年H266AI大模型產(chǎn)業(yè)發(fā)展現(xiàn)狀大模型發(fā)展與應用結(jié)構(gòu)我國AI大模型需要依照《生成式人工智能管理暫行辦法》進行備案，截止到2024年11月，已有3批次共計309個大模型通過國家互聯(lián)網(wǎng)信息辦公室備案。從應用類型看，通視頻大模型12%多模態(tài)大模型10%語言大模型78%洞察一：得益于語言大模型的能力和豐富的應用場景洞察一：得益于語言大模型的能力和豐富的應用場景，語言大模型的數(shù)量明顯多于其他模態(tài)；隨著大模型多任務適應性和多模態(tài)能力持續(xù)增強，對齊視覺特征和文本特征，實現(xiàn)跨模態(tài)的統(tǒng)一理解，并根據(jù)指令創(chuàng)造新的內(nèi)容或增強現(xiàn)有數(shù)據(jù)表達，成為當前大模型創(chuàng)新的焦點。洞察二：閉源大模型的商業(yè)化輸出和開源大模型的涌現(xiàn)洞察二：閉源大模型的商業(yè)化輸出和開源大模型的涌現(xiàn)，推動大模型落地門檻持續(xù)降低，垂直行業(yè)成為創(chuàng)新的重要賽道，吸引了產(chǎn)業(yè)資本支持；2024年，我國垂直大模型涌現(xiàn)，快速向垂直行業(yè)滲透。8洞察三：垂類大模型覆蓋互聯(lián)網(wǎng)、金融、醫(yī)療、教育、政務等眾多行業(yè)；8洞察三：垂類大模型覆蓋互聯(lián)網(wǎng)、金融、醫(yī)療、教育、政務等眾多行業(yè)；目前垂類大模型行業(yè)用戶對知識助手、智能客服、智能營銷、編碼助手等應用接受程度高，同時對數(shù)據(jù)分析、辦公助手等應用抱有較高期待。產(chǎn)品發(fā)展當前當前AI大模型產(chǎn)品進化路線有兩條，一是通過增加模型參數(shù)量、擴大數(shù)據(jù)集、提升訓練計算量來獲得性能更強大的大模型產(chǎn)品；二是通過優(yōu)化模型架構(gòu)適應性和計算效率，獲得更具性價比的產(chǎn)品，如70B參數(shù)的模型，通過優(yōu)化架構(gòu)和訓練策略，可獲得接近或超越更大規(guī)模模型的性能。隨著大模型能力和性價比AIAI大模型代表廠商大模型版本模型特點智譜華章GLM-4-字節(jié)跳動豆包通用模型pro阿里巴巴Qwen2.5-Turbo百度文心大模型4.0Turbo景深度求索DeepSeek-V3科大訊飛訊飛星火4.0Turbo公司模型名稱價格(元/百萬Tokens)輸入輸出智譜華章GLM-4-Air0.50.5字節(jié)跳動Doubao-vision-lite-32k4.5阿里巴巴Qwen-vl-plus4.5百度ERNIE3.50.82騰訊hunyuan-standard0.82科大訊飛SparkPro0.50.59產(chǎn)業(yè)圖譜辦公具身智能數(shù)據(jù)智能致照couLAipICI來畫通用模型基礎設施 辦公具身智能數(shù)據(jù)智能致照couLAipICI來畫通用模型基礎設施垂直模型芯片芯片服務器智算中心智算中心浪潮信息浪潮信息H3CZTE中興商業(yè)化模式AI大模型商業(yè)化形式AI大模型商業(yè)化形式5%）5%）API及訂閱模式適用于中小企業(yè)及機構(gòu)：采用API及訂閱模式采購大模型服務，具有節(jié)省資源、快速集成、實時更新和可擴展性強等優(yōu)勢，適用于中小型企業(yè)；如豆包大模型等采用API對外提供問答等服務。此外，企業(yè)用戶調(diào)用API需要注意數(shù)據(jù)安全和隱私保護。嵌入智能終端和APP中收取廣告費的模式逐漸落地：隨著大模型應用的普及，將大模型嵌入智能終端和APP中，向廣告主收取廣告費的模式，將成為大模型產(chǎn)品變現(xiàn)的重要方式，未來大模型應用將成為互聯(lián)網(wǎng)廣告提升和優(yōu)化流量的重要抓手。2024年11月，蘋果與百度達成合作，國行版iPhone接入百度最新的AI大模型Ernie4.0，iPhone將能夠提供更精準、更智能的語音助手、圖像識別和數(shù)據(jù)處理等功能，將拉開大模型規(guī)?；度胫悄芙K端、收取廣告費的序幕。AI大模型應用落地路徑應用層應用層增強檢索類應用智能體類應用事務處理類應用分析決策類應用（定制大模型）應用軟件應用軟件應用軟件應用軟件應用軟件示詞工程等）示詞工程等）示詞工程等）示詞工程等）示詞工程等）市場規(guī)模2022-2027年中國AI大模型應用市場規(guī)模及增速單位：億元02022-2027年中國AI大模型應用市場規(guī)模及增速單位：億元0洞察一：2024年，中國AI大模型商用加速，根據(jù)第一新聲研究院不完模將達到157億，市場用戶主要以定制化和API調(diào)用模式為主；大模型應用市場規(guī)模包括企業(yè)用戶購買大模型產(chǎn)品、大模型服務、大模型應用服務和軟硬一體化大模型應用平臺形成的市場總量。洞察二：中國AI大模型商用主要通過三種通路，一是大模型廠商直接向終端用戶提供模型產(chǎn)品和部署服務；二是大模型服務商通過系統(tǒng)集成商，將大模型產(chǎn)品以行業(yè)解決方案的形式提供給用戶；三是大模型服務商通過API接口，通過企業(yè)級軟件服務商或直接向用戶提供服務。系統(tǒng)集成商和企業(yè)級軟件服務商將成為AI大模型提升產(chǎn)業(yè)滲透的關(guān)鍵洞察三：2024年，中國大模型產(chǎn)業(yè)新增GPU需求量超過190力投資達千億規(guī)模，其中80%的新增算力用于頭部互聯(lián)網(wǎng)大模型訓練和自有業(yè)務支撐，20%用于行業(yè)用戶大模型能力建設和對外提供MaaS服務，2024年，服務商大模型業(yè)務收入，主未實現(xiàn)盈利，整體市場規(guī)模約157億元，預計至2025年后將有部分大發(fā)展驅(qū)動?2024年2月，國資委提出中央企業(yè)要“開展AI+專項行動”，加快建設一批智能算力中心，進一步深化開放合作，構(gòu)建一批產(chǎn)業(yè)多模態(tài)優(yōu)質(zhì)數(shù)據(jù)集?2024年2月，國資委提出中央企業(yè)要“開展AI+專項行動”，加快建設一批智能算力中心，進一步深化開放合作，構(gòu)建一批產(chǎn)業(yè)多模態(tài)優(yōu)質(zhì)數(shù)據(jù)集，打造從基礎設施、算法工具、智能平臺到解決方案的大模型賦能產(chǎn)業(yè)生態(tài)；?根據(jù)第一新聲智庫調(diào)研，未來3年，每家央企每年在大模型領(lǐng)域的投入普遍超過2億元。?政府主導的大模型采購主要分為兩個部分，一是政務大模型平臺，用于提升政務效率；二是政府主導的區(qū)域智算中心配套大模型平臺，用于支持區(qū)域企業(yè)智能化轉(zhuǎn)型，凝聚新型產(chǎn)業(yè)發(fā)展形態(tài)；?預計未來3年，以地市政府為主導的大模型采購規(guī)模將超過百億/年，將極大推動AI大模型產(chǎn)業(yè)發(fā)展，尤其是滿足信創(chuàng)要求的大模型。?金融、工業(yè)、教育、醫(yī)療、交通等領(lǐng)域大模型的落地場景需求豐富程度高，頭部用戶具有建設軟硬一體的大模型能力平臺強烈訴求，中小用戶對大模型抱有較高期待，傾向于采購MaaS和SaaS模式賦能業(yè)務；?未來1-2年，政策和需求牽引下，大模型應用將逐漸從客服、營銷、知識管理、聊天等場景延伸到風控、運營分析等對大模型能力和準確度要求更高的場景。?研發(fā)和訓練能力更為強大的通用大應用場景及案例AI大模型應用成熟度AI大模型在ToB領(lǐng)域已廣泛應用于互聯(lián)網(wǎng)、金融、政務、工業(yè)、教育、消費等多個領(lǐng)域，行業(yè)用戶通過引入AI大模型解決方案，優(yōu)化業(yè)務流程、提升決策效率、創(chuàng)新服務模金融行業(yè)痛點及解決方案確率客戶問題：確率客戶問題：解決方法：金融行業(yè)普遍存在以下痛點1）營銷獲客難：金融機構(gòu)存在用戶需求分散、獲客成本高等痛點2）風險管理體系效率低：金融機構(gòu)在信用風險控制、貸中監(jiān)控、反欺詐、貸后管理等領(lǐng)域面臨很多難點，如在與黑灰產(chǎn)不斷升級演變的攻擊對抗中，提升機構(gòu)全流程業(yè)務安全、基礎安全、技術(shù)安全等3）產(chǎn)品設計精準定位難：隨著外資機構(gòu)、新的金融公司、股份制銀行的快速發(fā)展，金融機構(gòu)對優(yōu)質(zhì)客戶的競爭也愈發(fā)激烈，如何打造直擊用戶需求的金融產(chǎn)品，成為各家金融機構(gòu)競爭的關(guān)鍵之一；（4）全流程數(shù)字化轉(zhuǎn)型成本高、周期長、難以快速形成收益：金融機構(gòu)數(shù)字化轉(zhuǎn)型，需要布局全流程數(shù)字化，局部數(shù)字化會造成無法和前后流程對接，而全流程數(shù)字化醫(yī)療健康行業(yè)痛點及解決方案知識問答準確率客戶問題：解決方法：知識問答準確率客戶問題：解決方法：測準確率等導致檢測和治療效率低3）用藥處方開具涉及信息眾；（ 與解讀找 與解讀找GLM-4CharacterGLMCodeG教育行業(yè)痛點及解決方案400%400%針對以上問題美世教育先后采用美洽全渠道AI客服解決售前接待與咨詢客服場景普遍存在以下痛點1）線上多渠道咨詢接待效率不高：咨詢來源官網(wǎng)、APP、小程序、熱線電話等多個渠道，咨詢科目眾多，正式接待之前；（全渠道接入業(yè)務場景：售前接待、咨詢服務企業(yè)私域：?官網(wǎng)獨立接待人機協(xié)同內(nèi)置行業(yè)標準知識庫集成知識庫生態(tài)簡易操作一鍵上傳輕量維護上傳即用獨立接待人機協(xié)同內(nèi)置行業(yè)標準知識庫集成知識庫生態(tài)簡易操作一鍵上傳輕量維護上傳即用服務效率質(zhì)量提升語音AI機器人AI輔助豐富的文檔格式支持一處更新全局豐富的文檔格式支持一處更新全局同步AI分析AI分析???App小程序主流廣告平臺：?百度?360?搜狗?騰訊廣告……社交新媒體：?微信客服?小紅書?抖音?快手……海外社媒：?Facebook?Instagram?WhatsApp?Telegram?Line?Email……語音/400電話政務領(lǐng)域市場監(jiān)督場景痛點及解決方案撰寫時易出現(xiàn)不規(guī)范的情況；（4）咨詢回復慢、投訴處客戶問題：人工撰寫文書耗時費力，且涉及業(yè)務復雜、法律法規(guī)多，信息易缺漏、錯誤……解決方法：基于國產(chǎn)化環(huán)境私有化部署，依托大模型能力客戶問題：人工撰寫文書耗時費力，且涉及業(yè)務復雜、法律法規(guī)多，信息易缺漏、錯誤……解決方法：基于國產(chǎn)化環(huán)境私有化部署，依托大模型能力，構(gòu)建市場監(jiān)管領(lǐng)域的專屬知識庫，可以輔助生成符合要求的調(diào)查報告、行政處罰決定書等文書，同時保障文書的規(guī)范性與準確性，有效減輕文書撰寫壓力。提升80%私有化部署提升至75%導入一篇“詢問筆錄”報告類型模板+訓練知識深度訓練與學習快捷高效地生成一篇調(diào)查報告!!!!認定的經(jīng)過自由裁量當事人情況案件性質(zhì)導入一篇“詢問筆錄”報告類型模板+訓練知識深度訓練與學習快捷高效地生成一篇調(diào)查報告!!!!認定的經(jīng)過自由裁量當事人情況案件性質(zhì)調(diào)查事實處理意見處罰告知其他文書蜜巢文稿寫作能力詢問筆錄立案審批有關(guān)事項其他材料零售消費行業(yè)痛點及解決方案到店率提升業(yè)績增長企微沉淀50%175%280%客戶問題：到店率提升業(yè)績增長企微沉淀50%175%280%客戶問題：解決方法：率客戶服務與體驗優(yōu)化營銷與銷售策略精準營銷與個性化推薦精準營銷與個性化推薦新客戶拓展與老客戶維系新客戶拓展與老客戶維系智能推薦熱銷商品并優(yōu)化效率庫存與供應鏈管理AI倉儲助手AI倉儲助手數(shù)據(jù)分析與決策支持制造行業(yè)痛點及解決方案需求：賽力斯始創(chuàng)于1986年，是以新能源汽車為核心業(yè)務的技術(shù)科技型汽車企業(yè)。公司業(yè)務涉及新能源汽車及核心三電等產(chǎn)品的研發(fā)、制造、銷售及服務。數(shù)十年需求：賽力斯始創(chuàng)于1986年，是以新能源汽車為核心業(yè)務的技術(shù)科技型汽車企業(yè)。公司業(yè)務涉及新能源汽車及核心三電等產(chǎn)品的研發(fā)、制造、銷售及服務。數(shù)十年制造型企業(yè)，產(chǎn)品開發(fā)生命周期長，跨部門；（；（難以提高：過往經(jīng)驗和案例總結(jié)不到位，質(zhì)量問題得不到及時的解決，導致問題重復發(fā)生；（4）營銷與研發(fā)生產(chǎn)脫節(jié)：產(chǎn)品相關(guān)資料不全，營銷人員賦能不夠體系，導銷業(yè)務開展受阻5）知識缺少場景化應用：不能根據(jù)應用場景進行精準知識推送和嵌入、知識和業(yè)務兩張皮6）知識運營應搜索推薦決策支持決策支持決策支持層決策支持層33.決策支持以知識圖譜為依托，提供面向研發(fā)、生產(chǎn)、營銷等場景的決策支持應用場景服務場景服務場景服務層2.場景做精以主題知識、文檔協(xié)同、知識空間為主的場景知識服務內(nèi)容資產(chǎn)內(nèi)容資產(chǎn)內(nèi)容資產(chǎn)層11.存量盤活以知識倉庫+AI為核心的智能知識管理應用發(fā)展趨勢及挑戰(zhàn)技術(shù)趨勢MoE架構(gòu)鼓勵在模型設計和訓練過程中采用創(chuàng)新方法，有助于促進AI領(lǐng)域內(nèi)的多樣性和創(chuàng)新，MoE架構(gòu)鼓勵在模型設計和訓練過程中采用創(chuàng)新方法，有助于促進AI領(lǐng)域內(nèi)的多樣性和創(chuàng)新，MoE架構(gòu)具有平衡大模型訓推成本和計算效率等優(yōu)勢，適合處理大規(guī)模數(shù)據(jù)和復雜任務，已成為谷歌、OpenAI、阿里、騰訊等企業(yè)控制成本、提升模型性能、應對大模型“價格戰(zhàn)”的新方向。當前AI大模型技術(shù)發(fā)展呈現(xiàn)四大趨勢1）ScalingLaw面臨挑戰(zhàn)，大模型研究重點從預訓練轉(zhuǎn)向后訓練2）算力平臺和模型創(chuàng)新緊密耦合，提升大模型創(chuàng)新效率；；（隨著互聯(lián)網(wǎng)文本數(shù)據(jù)的耗盡，預訓練階段的Scalinglaw面臨挑戰(zhàn)，大模型研究關(guān)注焦點從預訓練階段轉(zhuǎn)移至后訓練階段，提升數(shù)據(jù)質(zhì)量、提升模型復雜邏輯推理能力、降低成本并減少幻覺成為大模型研究工作的重點。大模型工具鏈包括訓練工具、推理工具和應用開發(fā)工具，工具鏈的不斷完善對構(gòu)建大模型服務體系，應對大模型訓推復雜性的挑戰(zhàn)和降低大模型開發(fā)和部署的門檻起到較強的推動作用，大模型工具鏈包括訓練工具、推理工具和應用開發(fā)工具，工具鏈的不斷完善對構(gòu)建大模型服務體系，應對大模型訓推復雜性的挑戰(zhàn)和降低大模型開發(fā)和部署的門檻起到較強的推動作用，不斷完善工具鏈是推動大模型研發(fā)和落地的重要方向?！按竽Ｐ?大算力+大數(shù)據(jù)”是推動大模型創(chuàng)新和能力提升的重要路線，大模型創(chuàng)新效率提升需要算力芯片、大模型訓練和推理加速框架、高質(zhì)量多模態(tài)數(shù)據(jù)集等緊密耦合共同推動。市場應用趨勢大模型商業(yè)化落地需要找到合適的產(chǎn)品方向應用軟件廠商將更專注于AI大模型應用場景的探索以及與現(xiàn)有應用的融合，未來大模型廠商將會承擔絕大部分的底層算法開發(fā)優(yōu)化工作，應用軟件廠商則會更專注在應用場景，以及與現(xiàn)有AI大模型更深度的融合應用；例如美洽將大模型融入全渠道客服解決方案，并發(fā)布大模型客服機器人，大幅提升了產(chǎn)品性能，提高了終端用戶的接受程度；工具軟件與AI的融合能夠優(yōu)化用戶體驗與生產(chǎn)效率，提升產(chǎn)品競爭力，帶給用戶“新奇感”，提升用戶生產(chǎn)效率，由于短期接入大模型的試錯成本較低，市場接受程度高，工具軟件廠商對于AI大模型接入抱開放態(tài)度，AI大模型融合應用的功能或?qū)⒊蔀楣ぞ哕浖脑隽扛顿M點。大語言模型提升了智能助手的自然語言理解、生成能力和多模態(tài)能力，通過執(zhí)行各種任務，提升用戶的生活和工作效率；秘塔、藍凌軟件、動悅信息等開發(fā)了基于大模型的知識助手，泛微、致遠互聯(lián)、蜜度等開發(fā)了基于大模型的辦公助手等產(chǎn)品；當前基于大模型的智能助手已經(jīng)具備較豐富應用場景，例如天工AI，可用于包括寫作、娛樂、PPT、圖片生成、英文學習等應用場景；通義的應用場景包括寫作、語音識別、升學、金融等；豆包在情感陪伴、職場辦公、教育學習等場景中表現(xiàn)突出。AIAgent作為一種滿足企業(yè)智能化需求、打通業(yè)務場景的AI大模型產(chǎn)品化落地形態(tài)，可承接日益復雜的提質(zhì)增效需求，幫助強化內(nèi)外部協(xié)同效能；多模態(tài)大模型能利用大量異構(gòu)的數(shù)據(jù)資源提升應用的效率和能力上限，利好AIAgent發(fā)展。多模態(tài)大模型能提高智能體的工作效率，賦能單個智能體能完成更多復雜的任務，有效減少智能體數(shù)量和任務中的交互次數(shù)。智能體有望解決跨行業(yè)、跨領(lǐng)域的復雜問題和各類長尾場景；目前，Agent研究開發(fā)已經(jīng)包括多模態(tài)信息識別與理解技術(shù)以及群體智能技術(shù)，這將有望加速人工智能從感知向認知的轉(zhuǎn)變。面臨的挑戰(zhàn)