2023大模型金融應(yīng)用實踐及發(fā)展建議報告

IL-e-ó?afg'üf€bP??@ FlTl2023?11@主 任：潘潤紅副主任：黃程林、莊文君編委會成員（排名不分先后，按姓氏拼音排序）：陳志明、代鐵、董佳藝、方科、胡利明、黃煒、李鋒、李金龍、李一昂、林冠峰、劉承巖、劉殿興、劉漢西、劉訓(xùn)艷、陸鑫、潘華、沈劍平、孫莉、汪航、王建軍、王玲、王麒、王彥博、吳永飛、肖京、楊波、俞楓、張海燕、張潔、趙海、趙煥芳編寫組成員（排名不分先后，按姓氏拼音排序）：曹伯翰、陳超、陳廣浩、陳鴻、陳明、陳志豪、遲倩倩、崔雨萍、刁翔宇、段旭歡、范容、茍志龍、何平、何巧媚、何幸杰、胡國強、胡師陽、胡應(yīng)明、黃彪、黃韋、金睿、金昕、李大偉、李冬妮、李峰、李娟、李夢霄、劉暢、劉威、羅安揚、羅方華、毛奕凱、彭晉、戚翯、邱曉慧、談健、唐登龍、王瑩、王煜惠、王振、溫昱暉、文俊杰、吳青松、徐崚峰、鄢勝利、楊洋、于飛、曾培基、占可非、張彬、張紳、張笑冬、趙輝、周思霽、宗宇主要執(zhí)筆人（排名不分先后，按姓氏拼音排序）：鮑思佳、盧金環(huán)、屈 洋、孫 曦、王帥主編單位：北京金融信息化研究所中國農(nóng)業(yè)銀行股份有限公司中國郵政儲蓄銀行有限責(zé)任公司上海銀行股份有限公司騰訊云計算(北京)有限責(zé)任公司螞蟻科技集團股份有限公司參編單位：中國銀行股份有限公司平安銀行股份有限公司招商銀行股份有限公司華夏銀行股份有限公司興業(yè)銀行股份有限公司華泰證券股份有限公司國信證券股份有限公司中國銀聯(lián)股份有限公司北京國家金融科技認(rèn)證中心北京銀聯(lián)金卡科技有限公司海光信息技術(shù)股份有限公司北京火山引擎科技有限公司北京瑞萊智慧科技有限公司 AI 一、概述 1二、大模型技術(shù)與產(chǎn)品發(fā)展現(xiàn)狀 2（一）工程化應(yīng)用主要環(huán)節(jié)與技術(shù) 2（二）國內(nèi)外主要產(chǎn)品情況 9三、大模型在金融業(yè)應(yīng)用與探索實踐 10（一）技術(shù)路線 10（二）使用方式 14（三）應(yīng)用場景 17（四）應(yīng)用趨勢 29四、大模型在金融業(yè)應(yīng)用面臨的風(fēng)險與挑戰(zhàn) 30（一）金融應(yīng)用規(guī)范與指南亟需完善 30（二）金融應(yīng)用場景缺少范式 31（三）高質(zhì)量金融訓(xùn)練數(shù)據(jù)欠缺 32（四）訓(xùn)練算力支撐普遍不足 32（五）算法可信度和安全性有待提升 33五、多措并舉提升大模型金融業(yè)應(yīng)用水平 34（一）加強金融應(yīng)用的指導(dǎo)與管理 34（二）有序推動金融應(yīng)用場景落地 34（三）積極構(gòu)建高質(zhì)量金融數(shù)據(jù)集 35（四）產(chǎn)用協(xié)同共筑AI算力基礎(chǔ)設(shè)施 35（五）完善算法優(yōu)化與風(fēng)險管控體系 36附錄 38案例一：郵儲銀行基于大模型的智能知識問答 38案例二：某股份制銀行基于騰訊云TI-OCR大模型單據(jù)處理 41案例三：某股份制銀行基于騰訊云金融大模型的智能客服 45案例四：某股份制銀行基于中科可控的金融大模型服務(wù)平臺 48案例五：北京銀行AIB金融智能應(yīng)用平臺 52案例六：上海銀行基于開源大模型的智能辦公助手 55案例七：國信證券輔助運營人員服務(wù)客戶場景 57案例八：螞蟻金融大模型應(yīng)用-支小寶2.0 59ChatGPT多個行業(yè)的工作方式和格局。2023（征求意見稿給出了生成式人工智能服務(wù)在語料安全、模型安全、安全措施、提升智能技術(shù)的可獲得性，助力金融服務(wù)降本增效。（一）工程化應(yīng)用主要環(huán)節(jié)與技術(shù)數(shù)據(jù)構(gòu)建高質(zhì)量的數(shù)據(jù)預(yù)處理是提升模型表現(xiàn)和安全可靠性的重要質(zhì)量過濾，對于包含個人消除帶有種族/性其目標(biāo)是在保留基本信息的通過人工創(chuàng)建對現(xiàn)有數(shù)模型算法大模型技術(shù)的突破源于自然語言處理領(lǐng)域的Transformer1Transformer編碼到解碼三大類，其主要特點和代表性模型如表1所示。表1 大模型結(jié)構(gòu)主要分類及特點Transformer比如語音領(lǐng)域的OpenAIwhisperDaLL-EDiffusion模型訓(xùn)練預(yù)訓(xùn)練微調(diào)LoRAAdapterP-tuningQ-learningQ大模型訓(xùn)練場景對中高端AIGPU務(wù)、AIAI機構(gòu)現(xiàn)有AI模型壓縮與加速模型壓縮是指通過各種技術(shù)手段來減小機器學(xué)習(xí)模型的大知識蒸餾剪枝量化型參數(shù)和運算中數(shù)字精度以降低模型的存儲需求和計算復(fù)雜度模型加速數(shù)增長，正逐漸成為研究熱點。訓(xùn)練環(huán)節(jié)推理環(huán)節(jié)GPUTPUASICAI結(jié)合加速芯片軟件棧及開發(fā)工具鏈等配套的軟件生態(tài)能力。模型評測模型評測在機器學(xué)習(xí)和自然語言處理領(lǐng)域扮演著至關(guān)重要幫助模型迭代優(yōu)化。200估基準(zhǔn)包括HELMMMLUC-EVALBigBenchHumanEvalAGIEVal、SuperCLUE、OpenLLM模型運營工程化方面部署方面性。管理方面，使用身份和訪問管理工具可以控制資源的訪問權(quán)常檢測，基于實時跟蹤和警報設(shè)置，確保模型的可靠運行。安全可信一般而言，大模型的安全可信會從多個維度進行考量和評估，可靠性內(nèi)容安全性公平無偏性魯棒性可解釋性數(shù)據(jù)安全和隱私保護數(shù)據(jù)處理環(huán)節(jié)模型開發(fā)階段模型上線前大模型對客提供服務(wù)時模型運營過程中化模型。（二）國內(nèi)外主要產(chǎn)品情況自ChatGPTAI一是相對ChatGPT數(shù)據(jù)來源：金融信息化研究所更新1圖1國內(nèi)外典型大模型產(chǎn)品發(fā)展時間線人工智能技術(shù)的應(yīng)用一直是金融機構(gòu)數(shù)字化轉(zhuǎn)型和智能化升級的核心領(lǐng)域，大模型具備的理解、學(xué)習(xí)、生成和推理能力，可觀的知識容量和卓越的多任務(wù)泛化能力，將進一步推動金融服務(wù)的智能化升級。（一）技術(shù)路線技術(shù)選型在調(diào)研、匯報和POC1/RUCAIBox/LLMSurvey開源大模型是指通過開源方式發(fā)布和GLM、Llama研究，同時將其與商用大模型的應(yīng)用效果進行比對。二是產(chǎn)學(xué)研聯(lián)合創(chuàng)新大模型研制。金融機構(gòu)、科技企業(yè)、科工商銀行與清華、鵬城實驗室、華為等高等院校、科研院所、科技企業(yè)開展大模型聯(lián)合創(chuàng)新。專欄一產(chǎn)學(xué)研聯(lián)合創(chuàng)新大模型研制工商銀行與清華、鵬城實驗室、華為等高等院校、科研院所、科技企業(yè)開展大模型聯(lián)合創(chuàng)新。專欄一產(chǎn)學(xué)研聯(lián)合創(chuàng)新大模型研制交通銀行與華為、科大訊飛共建了聯(lián)合創(chuàng)新實驗室，推進大模型及算力集群技術(shù)、人工智能等先進技術(shù)在金融領(lǐng)域的落地應(yīng)用。交通銀行與華為、科大訊飛共建了聯(lián)合創(chuàng)新實驗室，推進大模型及算力集群技術(shù)、人工智能等先進技術(shù)在金融領(lǐng)域的落地應(yīng)用。北京銀行與火山引擎、華為、中科院自動化所、中科聞歌共建聯(lián)合創(chuàng)新實驗室，圍繞金融大模型體系構(gòu)建、前沿金融科技應(yīng)用等領(lǐng)域開展合作創(chuàng)新，共同探索銀行智能化技術(shù)的最佳實踐。三是商用大模型采購。眾多國內(nèi)外商用大模型正在逐步推廣工程化、易用性強、服務(wù)有保障的解決方案。金融機構(gòu)在大模型技術(shù)選型時需要綜合考慮大模型對業(yè)務(wù)開發(fā)平臺，更好地充分利用業(yè)界多種領(lǐng)先的通用大模型。部署方式其次要根據(jù)業(yè)務(wù)場景和技術(shù)要求，選擇合適的硬件和軟件環(huán)境，一是私有化部署。金融機構(gòu)將大模型部署于自有服務(wù)器，由人力來建設(shè)和維護。二是行業(yè)云部署。由行業(yè)內(nèi)起主導(dǎo)作用或掌握關(guān)鍵資源的組迫切。三是公有云部署。金融機構(gòu)通過標(biāo)準(zhǔn)接口調(diào)用部署在公有云因此該部署方式可能更適用于互聯(lián)網(wǎng)類的金融企業(yè)或非敏感類業(yè)務(wù)場景。報撰寫，行業(yè)云或公有云部署具有一定優(yōu)勢。目前，國外已有API行業(yè)云或公有云來降低大模型金融應(yīng)用的門檻。（二）使用方式APIAPI調(diào)用APIAPIAPI快速將大模型在項目中進行測試驗證，且成本低廉。然而，APIAPI訓(xùn)練的方式進行優(yōu)化。提示工程模型微調(diào)二次訓(xùn)練精準(zhǔn)匹配業(yè)務(wù)需求，使得大模型回答結(jié)果較為可信。（三）應(yīng)用場景AI要場景探索實踐來構(gòu)建金融行業(yè)大模型應(yīng)用場景全景圖。數(shù)據(jù)來源：金融信息化研究所圖2金融行業(yè)大模型應(yīng)用場景全景圖智能客服24專欄二智能客服場景工商銀行利用大模型的語義理解、生成能力，結(jié)合基于知識庫的檢索提取能力，精準(zhǔn)理解客戶意圖，生成符合其業(yè)務(wù)特性的結(jié)果，為客戶提供更準(zhǔn)確、更個性化的服務(wù)，提升應(yīng)答效率和質(zhì)量，從而提升客戶滿意度。20233試一程度提升客戶緒識效果縮了約50的力農(nóng)業(yè)銀行大模型ChatABC面向行內(nèi)客服員工提供遠(yuǎn)程銀行AI輔助客服問答助手服務(wù)。此助手基于遠(yuǎn)程銀行問答數(shù)據(jù)完成訓(xùn)練微調(diào)，支持模型在多輪問答中識別客戶的主要意圖，結(jié)合遠(yuǎn)程銀行知識庫和知識圖譜，生成擬人問答，輔助坐席人員在問答中獲取知識，有效提升坐席人員的答復(fù)效率。中國銀行正探索將大語言模型運用于客服場景，幫助業(yè)務(wù)人員實現(xiàn)更自然靈活的智能問答功能，有效地應(yīng)用到坐席問答輔助、員工培訓(xùn)、行內(nèi)員工辦公等多個場景。交通銀行正探索使用大模型來準(zhǔn)確識別客戶意圖和坐席人員的知識檢索需求，進行相應(yīng)客服知識的提煉和推薦，并在坐席通話結(jié)束后，對服務(wù)內(nèi)容進行自動的標(biāo)準(zhǔn)化分類，生成通話小結(jié)，以提升坐席人員整體工作效率。光大銀行探索大模型技術(shù)與現(xiàn)有智能客服相融合，基于大模型意圖理解能力對客戶問題進一步理解，以提升客戶問答滿意度；基于大模型技術(shù)探索坐席工單自動生成可能性，對客戶與坐席對話內(nèi)容快速生成摘要工單，提升客戶服務(wù)效率。民生銀行探索運用大模型技術(shù)輔助坐席完成問題回復(fù)和工單生興業(yè)銀行基于大模型技術(shù)實現(xiàn)客服語料智能泛化，對當(dāng)前語料標(biāo)注過程中存在的標(biāo)注工作繁瑣、工作量大等痛點，通過大模型生成符合業(yè)務(wù)需求的語料，以幫助客服運營人員提升標(biāo)注效率，進而提升智能客服回答準(zhǔn)確率，減少客戶投訴。上海銀行正探索在客戶服務(wù)領(lǐng)域運用大模型優(yōu)秀的語言理解能力并結(jié)合行內(nèi)知識庫，在充分洞察客戶訴求的前提下，對復(fù)雜場景進行分解，能夠從知識庫中自動完成有效知識的提取與采編，解決知識庫運維完全依賴人力、多語義理解、語義纏繞等問題，為客戶提供優(yōu)質(zhì)解答。國信證券探索運用大模型技術(shù)自動化生成服務(wù)話術(shù)和客戶指標(biāo)數(shù)據(jù)，包括：知識問答、行業(yè)分析、行情快報、客戶資產(chǎn)配置建議、資訊推送摘要、投訴建議反饋等，提升運營人員的服務(wù)質(zhì)量和效率。平安保險運用大模型技術(shù)解決傳統(tǒng)知識庫梳理成本高、培訓(xùn)成本高、推薦話術(shù)僵化等問題，在客服人員與客戶通話過程中，實時根據(jù)客戶需求，生成個性化話術(shù)，從而提升客戶滿意度，大大降低坐席人員學(xué)習(xí)成本。智能辦公專欄三智能辦公場景工商銀行通過搜索技術(shù)與大模型結(jié)合，將知識庫檢索到的信息作為大模型的生成依據(jù)，實現(xiàn)自然語言的向量搜索，輔助業(yè)務(wù)人員在業(yè)務(wù)辦理過程中快速查詢到客戶問題的準(zhǔn)確應(yīng)答，提升應(yīng)答效率和質(zhì)量，從而提升客戶滿意度。農(nóng)業(yè)銀行大模型ChatABC面向行內(nèi)員工辦公場景推出智能問答應(yīng)用。此應(yīng)用著眼于大模型在金融領(lǐng)域的知識理解能力、內(nèi)容生成能力，并融合知識庫，具備研發(fā)服務(wù)領(lǐng)域級知識理解和問答能力，可完成自由閑聊、行內(nèi)知識問答、內(nèi)容摘要等多類型任務(wù)，并以行內(nèi)研發(fā)服務(wù)平臺的問答助手、工單自動化回復(fù)助手、行內(nèi)即時聊天工具等多渠道形式進行試點。交通銀行正探索在辦公軟件中嵌入基于大模型的智能問答助手，為員工提供人資規(guī)章、授信、對公、零售業(yè)務(wù)場景的會話式咨詢。同時，交通銀行利用大模型搭建會議紀(jì)要助手，從口語化的會議記錄中提取關(guān)鍵信息，包括討論主題、觀點、結(jié)論等，組織成連統(tǒng)采用Langchain民生銀行通過大模型的理解能力建立多場景文檔助手，對文檔的主要內(nèi)容進行摘要匯總整理，全面提升員工工作效率，實現(xiàn)針對文檔不同場景的個性化需求。興業(yè)銀行探索通過大模型嵌入行內(nèi)WPS辦公套件，實現(xiàn)包括PPT大綱生成，文章內(nèi)容生成，內(nèi)容擴寫與改寫，文章風(fēng)格轉(zhuǎn)變等功能，以減輕總分行一線員工的文字材料撰寫潤色的負(fù)擔(dān)。北京銀行搭建“京智助手”大模型對話機器人，提供行內(nèi)知識10000放，并同步建設(shè)移動端和PAD上海銀行利用大模型的理解和生成能力，搭建智能辦公助手，一方面接入行內(nèi)知識庫，提升知識檢索能力，并由大模型對于長文檔自動檢索生成知識條目等，另一方面接入行內(nèi)各類辦公系統(tǒng)，提供公文檢查、寫作、總結(jié)潤色等功能，在大幅提升辦公效率的基礎(chǔ)上，極大地提升員工交互體驗。中信證券正在積極探索利用大模型建立跨境實時通訊系統(tǒng)，旨在實現(xiàn)境內(nèi)外員工用母語進行無障礙交流，提高員工工作效率，加強團隊協(xié)作力度，以及提升對國際化客戶的服務(wù)質(zhì)量，加強全球化布局和業(yè)務(wù)發(fā)展。國泰君安將大模型技術(shù)與OCR、語音識別等技術(shù)相結(jié)合，圍繞智慧辦公場景開發(fā)智能辦公助手和基于大模型的知識庫問答應(yīng)用，提供會議紀(jì)要生成、郵件撰寫等常見辦公任務(wù)小工具，通過自然語言問答的形式實現(xiàn)文檔問答，為員工提供一個智能、高效、便捷的工作伙伴，提升辦公效率和工作質(zhì)量。智能研發(fā)大模型在智能研發(fā)場景展示出很大的潛力。大模型具有處理自然語言和生成多種編程語言高質(zhì)量代碼的能力，在系統(tǒng)設(shè)計、代碼生成與補全、代碼翻譯與注釋、輔助測試等方面為科技人員讀理解和SQLSQLBI技術(shù)人員更直觀且深入地理解、利用數(shù)據(jù)，降低技術(shù)門檻。專欄四智能研發(fā)場景農(nóng)業(yè)銀行大模型ChatABC推出AI輔助編程應(yīng)用，面向行內(nèi)研發(fā)員工提供輔助編程服務(wù)。通過行內(nèi)多個系統(tǒng)的代碼和代碼規(guī)范進行微調(diào)，實現(xiàn)Java、Python、JavaScript、SQL等語言的代碼生成、代碼補全、代碼解釋等能力，可在前端、后端、單元測試等多類研發(fā)編碼場景提供輔助，提升研發(fā)人員的開發(fā)效率。平安銀行在ChatBI項目中應(yīng)用了BankGPT的金融理解能力，旨在為業(yè)務(wù)人員和管理層提供即時的數(shù)據(jù)分析服務(wù)，當(dāng)業(yè)務(wù)人員面臨數(shù)據(jù)相關(guān)的問題時，系統(tǒng)可以迅速給出精確答案，實現(xiàn)提問與回答的無縫對接。民生銀行探索運用大模型技術(shù)輔助用戶完成高質(zhì)量代碼編寫，按需完成代碼生成、代碼補全等功能，促進分析平民化，提升代碼效率，實現(xiàn)質(zhì)量和效率的雙提升。興業(yè)銀行通過大模型嵌入行內(nèi)開發(fā)IDE的方式，探索基于大模型技術(shù)實現(xiàn)代碼輔助生成，以提升科技研發(fā)單位的開發(fā)效率和代碼質(zhì)量。上海銀行通過在軟件開發(fā)過程中引入大模型進行代碼補全、注釋生成、代碼糾錯等自動化輔助功能，極大地提升了開發(fā)人員的開發(fā)效率和代碼質(zhì)量;在代碼測試方面，應(yīng)用大模型生成能力，輔助自動生成測試案例，有效提升測試效率及案例覆蓋度；在數(shù)據(jù)分析方面，上海銀行正在探索大模型與行內(nèi)經(jīng)營管理工具--“掌上行”的有效結(jié)合，通過自然語言交互方式，允許用戶就經(jīng)營指標(biāo)自由提問，進一步降低數(shù)據(jù)分析的門檻，提升數(shù)據(jù)驅(qū)動經(jīng)營管理的有效性。中信證券探索運用大模型實現(xiàn)股價預(yù)測等模型構(gòu)建，根據(jù)用戶輸入的自然語言，生成相應(yīng)SQL語句，準(zhǔn)確地完成用戶數(shù)據(jù)查詢需求，以期適配不同數(shù)據(jù)庫、完成多表數(shù)據(jù)查詢。國信證券通過大模型的輔助代碼生成能力，協(xié)助IT人員、業(yè)務(wù)產(chǎn)品經(jīng)理、運營人員進行代碼編寫、數(shù)據(jù)分析、輔助代碼生成檢查等工作，提升系統(tǒng)開發(fā)、數(shù)據(jù)分析等內(nèi)部工作效率。智能投研工商銀行綜合應(yīng)用大模型的核心信息提取、智能文本生成等能1專欄五智能投研場景工商銀行綜合應(yīng)用大模型的核心信息提取、智能文本生成等能1專欄五智能投研場景縮短至5分鐘，提升了投研人員對海量文本數(shù)據(jù)的整合歸納提煉效率。興業(yè)銀行通過大模型技術(shù)實現(xiàn)研報摘要的智能生成，構(gòu)建了一套包括研報文檔結(jié)構(gòu)化、信息抽取和大語言模型語義理解摘要生成的一體化解決方案，實現(xiàn)研報核心內(nèi)容智能提煉，提高了興銀理財子公司投研團隊查詢、閱讀內(nèi)外部研報的效率，加快了投資決策效率，一定程度節(jié)省人力成本，同時提升了客戶體驗。國泰君安證券利用大模型的自然語言到結(jié)構(gòu)化查詢(NL2SQL)等能力，改進傳統(tǒng)問答系統(tǒng)的精準(zhǔn)性和靈活性，實現(xiàn)對投研領(lǐng)域內(nèi)包括行情、公司、基金等數(shù)據(jù)的精確、高效問答。華泰證券正探索運用大模型對文本的學(xué)習(xí)理解能力，學(xué)習(xí)歷史研報的撰寫模式、分析邏輯和行文風(fēng)格等內(nèi)容，從而實現(xiàn)研究報告初稿的自動撰寫。目前已初步搭建內(nèi)容召回、內(nèi)容生成的線上撰寫服務(wù)框架，打通從財務(wù)報告的非結(jié)構(gòu)化文檔解析，利用embedding技術(shù)構(gòu)建財報知識庫，根據(jù)歷史研報進行高相關(guān)內(nèi)容召回，結(jié)合內(nèi)容召回與大模型服務(wù)，通過建設(shè)Prompt工程，打通大模型撰寫能力鏈路。智能營銷結(jié)合金融業(yè)語料進行適應(yīng)性訓(xùn)練后，大模型可輔助生成營銷話術(shù)和營銷文案，幫助客戶更快地獲取最新資訊和產(chǎn)品的信息。同時，通過對話式營銷，大模型可優(yōu)化客戶參與度，提升服務(wù)的效率與質(zhì)量，引導(dǎo)其做出決策。此外，隨著投資者數(shù)據(jù)、產(chǎn)品知專欄六智能營銷場景平安銀行借助BankGPT優(yōu)秀的文案生成能力，針對不同客戶，批量生成個性化營銷文案，從而更有針對性地提升客戶粘性和業(yè)務(wù)轉(zhuǎn)化率，為營銷運營團隊提供支持。同時，平安銀行利用BankGPT的自然語言理解能力，助力多媒體運營團隊實現(xiàn)自動化FAQ抽取功能。民生銀行探索運用大模型技術(shù)賦能客戶意圖理解營銷場景，通過搜索知識庫、產(chǎn)品庫、聊天記錄等，洞察客戶真實意圖，自動提供廣告等營銷文案、自動生成個性化營銷內(nèi)容、自動提供各類分析報告，提升營銷成功率。平安保險通過大模型的自然語言交互、內(nèi)容生成等能力，智能化分析并提取客戶需求，輔助生成保險產(chǎn)品營銷素材，并根據(jù)客戶標(biāo)簽屬性提供針對該客群的產(chǎn)品推薦以及推薦理由相關(guān)話術(shù)，基于個人醫(yī)療歷史和分線因素，提供個性化保險建議和方案，有助于產(chǎn)品精算人員制定針對性保險方案。智能運維上海銀行探索將大模型應(yīng)用于故障分析及解決等場景，結(jié)合歷史生產(chǎn)事件解決工單、運維文檔或問答對等知識庫，當(dāng)故障發(fā)生時大模型能夠自動根據(jù)歷史解決經(jīng)驗及知識庫給出故障分析及解決方案，從而為運維人員提供輔助支持，以提升事件解決效率。專欄七智能運維場景，上海銀行探索將大模型應(yīng)用于故障分析及解決等場景，結(jié)合歷史生產(chǎn)事件解決工單、運維文檔或問答對等知識庫，當(dāng)故障發(fā)生時大模型能夠自動根據(jù)歷史解決經(jīng)驗及知識庫給出故障分析及解決方案，從而為運維人員提供輔助支持，以提升事件解決效率。專欄七智能運維場景智能風(fēng)控專欄八智能風(fēng)控場景一定作用。專欄八智能風(fēng)控場景風(fēng)險。風(fēng)險。華夏銀行探索利用大語言模型技術(shù)疊加合規(guī)圖譜，以高質(zhì)量內(nèi)外規(guī)數(shù)據(jù)為基礎(chǔ)，以結(jié)構(gòu)化合規(guī)知識標(biāo)簽為輔助，利用大語言模型語義理解、信息匯總和自然語句生成能力實現(xiàn)智能化合規(guī)知識問答功能，降低合規(guī)知識查詢門檻。平安保險運用大模型技術(shù)，基于歷史數(shù)據(jù)和模擬數(shù)據(jù)進行風(fēng)險模擬和壓力測試，評估產(chǎn)品設(shè)計的可靠程度和穩(wěn)定性，以便產(chǎn)品精算人員更好地了解產(chǎn)品可能面臨的風(fēng)險和挑戰(zhàn)，助力產(chǎn)品精算人員制定相應(yīng)保險策略。智能投顧國泰君安證券運用大模型的理解分析能力，進行金融資訊熱點話題提取和歸納，對相關(guān)信息做正面/負(fù)面消息的評分和整理，生成每天/周/月的熱點話題榜單，既能實時跟蹤行業(yè)網(wǎng)站熱點，又能回顧過去一段時間的熱點話題，基于榜單排名走勢預(yù)測股市熱點信息專欄九智能投顧場景。國泰君安證券運用大模型的理解分析能力，進行金融資訊熱點話題提取和歸納，對相關(guān)信息做正面/負(fù)面消息的評分和整理，生成每天/周/月的熱點話題榜單，既能實時跟蹤行業(yè)網(wǎng)站熱點，又能回顧過去一段時間的熱點話題，基于榜單排名走勢預(yù)測股市熱點信息專欄九智能投顧場景大模型在提升金融服務(wù)效率和體驗、降低金融風(fēng)險和成本、創(chuàng)新金融產(chǎn)品和模式等方面有著顯著作用。大模型在金融領(lǐng)域的（四）應(yīng)用趨勢一是金融機構(gòu)將采用先內(nèi)后外、從易到難、場景遷移的方式落地大模型金融應(yīng)用。由于目前大模型直接對客難度較大、可控性不強，金融機構(gòu)主要對內(nèi)應(yīng)用大模型能力，待技術(shù)逐漸成熟，可以考慮對外輸出。此外，金融機構(gòu)也將優(yōu)先選擇風(fēng)險等級低、二是大小模型協(xié)同進化是大模型發(fā)展的一個必然趨勢。大模三是多模態(tài)金融大模型的發(fā)展與應(yīng)用仍有較大潛力。大模型穩(wěn)健的金融環(huán)境。四是AIAgent未來可能推動人工智能成為金融業(yè)信息基礎(chǔ)設(shè)施。AIAgentAgent演進，AIAgent創(chuàng)造更深度的價值。（一）金融應(yīng)用規(guī)范與指南亟需完善絡(luò)安全標(biāo)準(zhǔn)實踐指南——生成式人工智能服務(wù)內(nèi)容標(biāo)識方法》（征求意見稿大模型在金融領(lǐng)域的應(yīng)用尚且缺少可實施落地的標(biāo)準(zhǔn)規(guī)范和指AI（二）金融應(yīng)用場景缺少范式替換傳統(tǒng)的AI（三）高質(zhì)量金融訓(xùn)練數(shù)據(jù)欠缺PDFExcel（四）訓(xùn)練算力支撐普遍不足GPUAIAIAIAI及CPUAI個層次，適配工作復(fù)雜且難度大，牽一發(fā)而動全身。（五）算法可信度和安全性有待提升（一）加強金融應(yīng)用的指導(dǎo)與管理化工作，推動金融行業(yè)的AI和兼容性。（二）有序推動金融應(yīng)用場景落地的迭代優(yōu)化。（三）積極構(gòu)建高質(zhì)量金融數(shù)據(jù)集（四）產(chǎn)用協(xié)同共筑AI算力基礎(chǔ)設(shè)施AIGPUDCUNPU（五）完善算法優(yōu)化與風(fēng)險管控體系A(chǔ)I不斷提升金融業(yè)大模型算法安全性、合規(guī)性、專業(yè)性和兼容性。面提供了非常大的幫助。郵儲銀行自主打造了基于大模型的智能知識問答系統(tǒng)“靈Llama2區(qū)活躍的Langchain銀行在金融領(lǐng)域內(nèi)的人機交互場景提供了自主可控的大模型能力。（一）LangchainLlama2確性及合理性，系統(tǒng)更智能；（二）CPUGPU碼的修改、相關(guān)軟件包的依賴更改，完成了CPUx86arm64架構(gòu)的全適配；（三）6G32G010G情況下即可運行系統(tǒng)；（四）更具擴展性的特定領(lǐng)域知識庫。系統(tǒng)基于Langchain“靈犀”上線以來，通過在向量檢索率提升、提示詞優(yōu)化、100錄入系統(tǒng)。若純依賴人工，耗時長、效率低、成本高、易出錯，而用傳統(tǒng)的OCROCR騰訊云TI平臺TI-OCR是一款專注于OCR細(xì)分場景建模大的OCR內(nèi)置模型和專家豐富的模型優(yōu)化經(jīng)驗，能助力非AI專業(yè)的客戶輕松實現(xiàn)自主構(gòu)建自定義業(yè)務(wù)下的OCR應(yīng)用解決方案。（一）支持四種識別模式智能結(jié)構(gòu)化從單一版式或混合版式的圖片中提取出Key字段、Value字段，以及Key-Value的鍵值對關(guān)系。固定版式結(jié)構(gòu)化定的單一版式類型的數(shù)據(jù)信息進行提取。檢測/識別中英文的字段提取。智能分揀類別。（二）先進的技術(shù)架構(gòu)整體架構(gòu)上，TI-OCRMaster-Worker式架構(gòu)。MasterHTTP協(xié)議的產(chǎn)品功能接口，WorkerTI-OCR100個Worker節(jié)點，每個節(jié)點可以配置一塊或多塊GPU卡。模型訓(xùn)練可以使用單機多卡以提升訓(xùn)練速度，也可以在多個節(jié)點上同時運行多個訓(xùn)練/推理任務(wù)，以提升系統(tǒng)吞吐量。數(shù)據(jù)存儲方面，TI-OCR訓(xùn)練平臺使用MySQL存儲元數(shù)據(jù)，使用普通硬盤存儲圖像、模型等數(shù)據(jù)。部署方面，TI-OCR訓(xùn)練平臺支持單機或者集群模式。在單機模式下，平臺只需要一臺GPU機器即可安裝運行，成本低且1-2機器，外加可橫向擴展的多臺GPU機器，平臺占用資源少，性價比高。行模式，Master/推理任務(wù)的運行。圖1TI-OCR訓(xùn)練平臺的技術(shù)架構(gòu)（三）主要技術(shù)特點騰訊云TI-OCR93；二是通過prompt設(shè)計，不經(jīng)過訓(xùn)練，支持復(fù)雜下游任務(wù)小樣本學(xué)習(xí)泛化召回率可達(dá)95三是通過多模態(tài)技術(shù)小樣本精調(diào)解決傳統(tǒng)OCR3-20。該行利用騰訊云TOR提取并轉(zhuǎn)換為結(jié)構(gòu)化數(shù)據(jù)，實現(xiàn)對各種格式數(shù)據(jù)的高精度識別，識別準(zhǔn)確率95以上通過應(yīng)用騰訊云該行在單據(jù)處理中141模型能力賦能智能客服場景。通過騰訊云TIAPIAI圖2銀行客服智能解決方案架構(gòu)AI礎(chǔ)上，極大的提升用戶交互體驗。NLP二是智能外呼和智能質(zhì)檢。一方面，該銀行利用NLP、情緒識別、語音識別等技術(shù)，將人工客服的服務(wù)的錄音進行轉(zhuǎn)寫，席提供即時的協(xié)助，提升工作效率。GPUGPUH100、A100、L40SGPUAI中科可控聯(lián)合捷通華聲、百川智能為金融領(lǐng)域的客戶提供“量知大模型平臺”，全部國產(chǎn)化，符合信創(chuàng)要求，全方位安全保障；垂直領(lǐng)域訓(xùn)練模型定制，用戶全面參與；打通數(shù)據(jù)接口，結(jié)合搜索引擎，做到實時數(shù)據(jù)呈現(xiàn)與風(fēng)險及時預(yù)警。該平臺包含基礎(chǔ)的LLM服務(wù)以及典型大模型應(yīng)用，不僅包含http方便進行二次開發(fā)，更便捷地集成到業(yè)務(wù)系統(tǒng)。（一）自帶應(yīng)用，效率即刻提升用，用戶無需開發(fā)，幫助企業(yè)內(nèi)部即刻提升工作效率。（二）多套底座，擇優(yōu)使用量知大模型平臺適配了Baichuan2LLAMA2不同的場景使用不同的微調(diào)模型，從而達(dá)到最優(yōu)效果。（三）API封裝，便捷開發(fā)應(yīng)的API（四）訓(xùn)推一體，及時優(yōu)化針對非通用的知識以及推理過程中收集到的估，在使用過程中及時優(yōu)化模型，回答效果越用越好。（五）信創(chuàng)環(huán)境，安全可控CPUDCUGPU的應(yīng)用示范，化解人工智能芯片供應(yīng)“卡脖子”風(fēng)險的路徑。（六）安全使用，拒絕敏感律紅線。前、話中和話后階段都可以發(fā)揮重要作用。任務(wù)，實現(xiàn)知識圖譜的自動構(gòu)建。數(shù)據(jù)庫來進