大模型應(yīng)用實(shí)踐報(bào)告

目錄1.報(bào)告綜述"2.市場(chǎng)洞察#3.數(shù)據(jù)分析市場(chǎng)$4.知識(shí)庫(kù)/智能客服市場(chǎng)"%&'結(jié)語(yǔ)(&報(bào)告綜述報(bào)告綜述型。大模型以其在模型精度和泛化能力等多個(gè)指標(biāo)上超越傳統(tǒng)AI模型的表現(xiàn)，以及賦能千行百業(yè)的巨大潛力，成為當(dāng)今世界各國(guó)人工智能技術(shù)發(fā)展的核心方向。進(jìn)行更深入、更廣泛的融合。大模型應(yīng)用百花齊放，其中數(shù)據(jù)分析和知識(shí)庫(kù)/2024202478%70%計(jì)劃在知識(shí)庫(kù)/智能客服場(chǎng)景落地?；诖?，本報(bào)告將重點(diǎn)研究數(shù)據(jù)分析和知識(shí)庫(kù)/智能客服兩個(gè)特定市場(chǎng)。圖表1：2024年大模型重點(diǎn)應(yīng)用場(chǎng)景市場(chǎng)洞察市場(chǎng)洞察立項(xiàng)、選型、實(shí)施和運(yùn)營(yíng)等全流程。本報(bào)告將選取三個(gè)重點(diǎn)挑戰(zhàn)進(jìn)行論述并提出解決方案。挑戰(zhàn)1：大模型項(xiàng)目未與企業(yè)保持戰(zhàn)略一致性CEOCIO2024IT202320242024心定位，或者說(shuō)確定其與戰(zhàn)略的緊密聯(lián)系，這對(duì)于項(xiàng)目的順利進(jìn)行至關(guān)重要。KPI目標(biāo)，再到業(yè)務(wù)執(zhí)行略對(duì)齊，從而提升大模型項(xiàng)目的價(jià)值。圖表2：戰(zhàn)略解碼過(guò)程示意圖BI挑戰(zhàn)2：大模型業(yè)務(wù)收益難設(shè)定疑是更為有效的切入點(diǎn)。2024挑戰(zhàn)3：提升數(shù)據(jù)分析結(jié)果的準(zhǔn)確率20232024體說(shuō)明。7xx理解起來(lái)比較輕松，因?yàn)檫@是一個(gè)單任務(wù)，并且訂單量、產(chǎn)品、時(shí)間等指標(biāo)比較明確。含義模糊的單任務(wù)問(wèn)題對(duì)于大模型而言，難度也不大。例如“xx產(chǎn)品今年累計(jì)賣(mài)了多少？”大模型開(kāi)始發(fā)揮優(yōu)勢(shì)，因?yàn)榇竽Ｐ蜕瞄L(zhǎng)將模糊語(yǔ)義對(duì)齊標(biāo)準(zhǔn)語(yǔ)義。一些涉及多表數(shù)據(jù)處理的問(wèn)題，開(kāi)始給大模型增加難度。例如“今年xx品牌在國(guó)內(nèi)和國(guó)外的整ttnlSQL不限制問(wèn)題長(zhǎng)度的復(fù)雜問(wèn)題帶來(lái)更大挑戰(zhàn)。例如“xx3一款？每個(gè)產(chǎn)品平均每月銷(xiāo)量是多少？”大模型需要先查詢過(guò)去某品牌三個(gè)月每個(gè)產(chǎn)品的銷(xiāo)量，復(fù)雜且需要調(diào)用專業(yè)算法的問(wèn)題最為困難。例如“華北地區(qū)xx的效率月環(huán)比為什么下降了？”式讓大模型去調(diào)度，把之前的結(jié)果做參數(shù)解析填充到對(duì)應(yīng)插件里，并生成最終的結(jié)果。API的輸入?yún)?shù)。任務(wù)務(wù)拆解成多個(gè)子任務(wù)后，每個(gè)子任務(wù)做協(xié)同執(zhí)行，再完成用戶最終的提問(wèn)需求。AgentAgent數(shù)據(jù)分析市場(chǎng)數(shù)據(jù)分析市場(chǎng)SQL生成，二是如何借助大模型實(shí)現(xiàn)深度分析。實(shí)現(xiàn)這兩個(gè)要點(diǎn)，才能推動(dòng)到大模型數(shù)據(jù)分析從“可用”到“好用”。第一個(gè)落地要點(diǎn)是如何借助大模型實(shí)現(xiàn)更準(zhǔn)確的意圖理解和SQL生成。傳統(tǒng)的取數(shù)過(guò)程中，用戶需要SQLNL2SQLSQLNL2SQLNL2SQL人員持續(xù)維護(hù)。為保證準(zhǔn)確率，目前主要采用限定查詢邊界的解決思路。具體而言，有兩種實(shí)現(xiàn)路徑。一是基于指標(biāo)第二個(gè)落地要點(diǎn)是如何借助大模型實(shí)現(xiàn)深度分析。取數(shù)可以視為分析的前置動(dòng)作，也可以視為淺層分析。其屬于描述性分析，用于回答“發(fā)生了什么？”，核心要求是呈現(xiàn)全面、準(zhǔn)確、實(shí)時(shí)、可視化的發(fā)揮更大價(jià)值。企業(yè)需要和具備訓(xùn)練或微調(diào)大模型能力的廠商進(jìn)行合作。企業(yè)可以直接用基礎(chǔ)大模型進(jìn)行相關(guān)性分析前，通過(guò)大模型實(shí)現(xiàn)因果推斷難度較大，對(duì)廠商而言不屬于必要能力項(xiàng)。案例1:AI賦能?chē)?guó)有銀行理財(cái)經(jīng)理，業(yè)務(wù)收益提升30倍不能避免。業(yè)績(jī)壓力與營(yíng)銷(xiāo)資源出現(xiàn)矛盾，某國(guó)有銀行的存量客戶復(fù)購(gòu)潛力難以釋放某國(guó)有銀行重點(diǎn)分行主要有三項(xiàng)業(yè)務(wù)，分別為銷(xiāo)售投資型產(chǎn)品的個(gè)人金融業(yè)務(wù)、放貸的消費(fèi)金融業(yè)務(wù)以及信用卡業(yè)務(wù)。三項(xiàng)業(yè)務(wù)發(fā)展較為獨(dú)立，其中個(gè)人金融業(yè)務(wù)有1000多萬(wàn)個(gè)客戶。要改進(jìn)。1%。40021000求的客戶，最后導(dǎo)致銷(xiāo)售機(jī)會(huì)的喪失與客戶流失，客戶陷入“睡眠”與“流失”狀態(tài)。高風(fēng)險(xiǎn)：過(guò)度打擾客戶，可能引起投訴?？蛻敉对V較多時(shí)，監(jiān)管部門(mén)會(huì)中止外呼渠道。飛算科技分析該銀行業(yè)務(wù)流程，發(fā)現(xiàn)各環(huán)節(jié)均存在明顯痛點(diǎn)飛算科技對(duì)該銀行業(yè)務(wù)流程進(jìn)行全面分析，發(fā)現(xiàn)三個(gè)業(yè)務(wù)環(huán)節(jié)均存在痛點(diǎn)，且至今均未得到妥善解決。圖表3：業(yè)務(wù)流程及各環(huán)節(jié)痛點(diǎn)第一個(gè)業(yè)務(wù)環(huán)節(jié)是“獲得長(zhǎng)名單”ITITIT人員容易出現(xiàn)理解偏差；三是ITIT的“溝通鴻溝”仍然比較原始的形態(tài)，業(yè)務(wù)人員提需求，IT人員手工取數(shù)。AI建模來(lái)環(huán)節(jié)的業(yè)務(wù)現(xiàn)狀便是專家建模小范圍使用，經(jīng)驗(yàn)法則仍是主力。的問(wèn)題。一是營(yíng)銷(xiāo)閉環(huán)沒(méi)有打通，依賴人工執(zhí)行，不能自動(dòng)化營(yíng)銷(xiāo)。二是無(wú)法做到跨渠道資源整合與客戶溝通策略優(yōu)化。該環(huán)節(jié)的業(yè)務(wù)現(xiàn)狀便是暫且使用傳統(tǒng)營(yíng)銷(xiāo)系統(tǒng)。飛算科技借助自動(dòng)化、人工智能和大模型技術(shù)，為該銀行輸出端到端解決方案飛算為該銀行輸出端到端解決方案，該解決方案由三部分組成。第一部分是大模型+BI增強(qiáng)分是自動(dòng)化營(yíng)銷(xiāo)，用來(lái)解決營(yíng)銷(xiāo)效率和資源優(yōu)化問(wèn)題。圖表4：飛算科技解決方案概覽AI.Insight該產(chǎn)品具備自動(dòng)生成客戶畫(huà)像功能以及趨tt來(lái)智能交互、智能洞察兩個(gè)預(yù)期效果。智能交互自然語(yǔ)言交互：產(chǎn)品與理財(cái)經(jīng)理能夠使用自然語(yǔ)言和語(yǔ)義搜索任何問(wèn)題。答案將以見(jiàn)解、報(bào)告和推薦的儀表板的形式展現(xiàn)。智能圖表推薦：通過(guò)智能圖表推薦引擎展示合適的圖表，并支持理財(cái)經(jīng)理靈活切換圖表。智能洞察異常分析：自動(dòng)對(duì)數(shù)據(jù)進(jìn)行時(shí)序異常檢測(cè)、因果關(guān)聯(lián)、波動(dòng)歸因等原因分析，并給出結(jié)論性描述。AutoOLAP度分析?？蛻籼卣鞣治觯夯跀?shù)據(jù)洞察點(diǎn)進(jìn)行客戶特征分析，定位異?？蛻羧后w。rrr個(gè)預(yù)期效果。精準(zhǔn)定位：生成存量客戶短名單，精準(zhǔn)營(yíng)銷(xiāo)，提升轉(zhuǎn)化率。r即可實(shí)現(xiàn)30分鐘、4步驟、全流程、全自動(dòng)建模，效果媲美專業(yè)建模人員。與銷(xiāo)售”業(yè)務(wù)環(huán)節(jié)帶來(lái)營(yíng)銷(xiāo)策略優(yōu)化、營(yíng)銷(xiāo)資源管理、活動(dòng)設(shè)計(jì)、活動(dòng)執(zhí)行等預(yù)期效果。tr產(chǎn)品經(jīng)理和理財(cái)經(jīng)理制定有效的營(yíng)銷(xiāo)策略。營(yíng)銷(xiāo)資源管理：銀行產(chǎn)品經(jīng)理可通過(guò)營(yíng)銷(xiāo)資源管理功能，讓資源效益最大化?；顒?dòng)設(shè)計(jì)：流程化設(shè)計(jì)概念，產(chǎn)品經(jīng)理可以使用圖形化拖、拉、拽的操作形式快速建立營(yíng)銷(xiāo)活動(dòng)流程。活動(dòng)執(zhí)行：支持產(chǎn)品經(jīng)理進(jìn)行實(shí)時(shí)與批量調(diào)度，設(shè)定活動(dòng)的預(yù)期執(zhí)行時(shí)間區(qū)間，執(zhí)行周期頻率等，方便自動(dòng)化執(zhí)行。飛算科技和該銀行以第二個(gè)業(yè)務(wù)環(huán)節(jié)為合作切入點(diǎn)，業(yè)務(wù)收益顯著該銀行第二個(gè)業(yè)務(wù)環(huán)節(jié)痛點(diǎn)最為嚴(yán)重，雙方將其作為首要解決的問(wèn)題。該銀行要求在實(shí)際業(yè)務(wù)環(huán)境中測(cè)試飛算科技解決方案，看到實(shí)際效果后再正式采購(gòu)。202261030下驗(yàn)證，驗(yàn)證結(jié)果如下。圖表5：線下驗(yàn)證結(jié)果818550解決方案平均購(gòu)買(mǎi)金額是傳統(tǒng)方式的3.6倍?？傮w而言，業(yè)務(wù)收益提升將近30倍。r畫(huà)像、事件營(yíng)銷(xiāo)、營(yíng)銷(xiāo)自動(dòng)化事宜，推進(jìn)POC。知識(shí)庫(kù)/智能客服市場(chǎng)知識(shí)庫(kù)/智能客服市場(chǎng)知識(shí)庫(kù)/智能客服有兩個(gè)落地要點(diǎn)，一是需要借助大模型降低知識(shí)庫(kù)冷啟動(dòng)時(shí)間，二是需要借助大模型實(shí)現(xiàn)用戶體驗(yàn)的全流程賦能。第一個(gè)落地要點(diǎn)是需要借助大模型降低知識(shí)庫(kù)冷啟動(dòng)時(shí)間。知識(shí)庫(kù)構(gòu)建環(huán)節(jié)是搭建智能客服體系的重1-3答對(duì)拆分和相似問(wèn)擴(kuò)寫(xiě)。第二個(gè)落地要點(diǎn)是需要借助大模型實(shí)現(xiàn)用戶體驗(yàn)的全流程賦能。大模型和客服流程結(jié)合點(diǎn)眾多，全流和自動(dòng)生成優(yōu)化策略。案例2:某股份制銀行利用大模型等數(shù)智技術(shù)賦能消費(fèi)者權(quán)益保護(hù)全流程，降訴效果顯著格局。在此背景下，銀行產(chǎn)生了明確的降訴需求。數(shù)字化、智能化技術(shù)是實(shí)現(xiàn)銀行降訴需求的有效路徑。其中，大模型技術(shù)為降訴帶來(lái)了諸多新思考和新解決方案。某性股份制銀行高度重視消費(fèi)者權(quán)益保護(hù)工作，希望進(jìn)一步完善消保工作機(jī)制步推進(jìn)消保管理體制建設(shè)，制定或修訂多項(xiàng)消保相關(guān)工作制度，不斷健全消保審查、內(nèi)部培訓(xùn)、監(jiān)督檢查、考核評(píng)價(jià)等各項(xiàng)消保工作機(jī)制，切實(shí)保護(hù)消費(fèi)者個(gè)人信息安全。產(chǎn)品/服務(wù)進(jìn)入市場(chǎng)前的消保審查，投訴處理工單系統(tǒng)用于對(duì)事后投訴處理進(jìn)行線上化流轉(zhuǎn)和記錄。2023年，該銀行認(rèn)為消保中心消保工作機(jī)制存在以下痛點(diǎn)，需要升級(jí)改進(jìn)。事前消保審查權(quán)威性不足，缺乏審查意見(jiàn)未采納事項(xiàng)的剛性控制流程，難以跟蹤審查意見(jiàn)的執(zhí)行落實(shí)；事前消保審查專業(yè)性不足，缺少規(guī)范化統(tǒng)一化審查標(biāo)準(zhǔn)，且極度依賴審查人員的專業(yè)知識(shí)與業(yè)務(wù)經(jīng)驗(yàn)，“一事一策”現(xiàn)象嚴(yán)重；投訴數(shù)據(jù)的處理分析能力較弱，目前投訴處理與分析工作大量依賴人工處理后，投訴處理效率低，且難以結(jié)合行內(nèi)業(yè)務(wù)需求進(jìn)行深入分析，預(yù)警能力與業(yè)務(wù)賦能能力較差；串聯(lián)，難以構(gòu)建客戶精細(xì)畫(huà)像，實(shí)現(xiàn)產(chǎn)品服務(wù)全生命周期監(jiān)控，或進(jìn)行營(yíng)銷(xiāo)觸點(diǎn)分析，不利于數(shù)據(jù)的統(tǒng)一管理與整合且利用率低；拓爾思依托豐富的銀行消保項(xiàng)目經(jīng)驗(yàn)和領(lǐng)先的金融行業(yè)大模型，獲得該銀行青睞拓爾思信息技術(shù)股份有限公司(簡(jiǎn)稱“拓爾思”)成立于1993年，是一家人工智能、大數(shù)據(jù)和數(shù)10000在消費(fèi)者權(quán)益保護(hù)領(lǐng)域，拓爾思具備豐富的銀行消保項(xiàng)目經(jīng)驗(yàn)。拓爾思已服務(wù)多家全國(guó)性股份制商業(yè)銀行和頭部城商行的消保需求，皆在提升客戶體驗(yàn)和降低投訴方面取得顯著效果。拓爾思基于自有的110億30億+產(chǎn)2500+10000+10客服、智能消保審查、自動(dòng)業(yè)務(wù)批處理等業(yè)務(wù)場(chǎng)景。拓爾思基于大模型技術(shù)構(gòu)建消保智能解決方案，為消保全流程提質(zhì)增效拓爾思的總體思路是運(yùn)用多模態(tài)識(shí)別、NLP、LLMAIagent周期各個(gè)關(guān)口。審、審查、反饋、歸檔全流程線上管理，同時(shí)不斷完善消保審查因子體系和智能審查功能。動(dòng)推薦。AIAgent員開(kāi)展審查，能有效解決基層審查能力不足的問(wèn)題，行方審查速度和審查準(zhǔn)確性得到大幅提升。爾思構(gòu)建投訴處理分析智能Agent轉(zhuǎn)變。在電話接入環(huán)節(jié)，與資深客服進(jìn)行匹配，實(shí)現(xiàn)客服資源的優(yōu)化配置。傳統(tǒng)方ASR技術(shù)實(shí)現(xiàn)自動(dòng)記錄客戶投訴內(nèi)容，利用自然語(yǔ)言處理（NLP）技術(shù)構(gòu)建智能投訴分類(lèi)模型，實(shí)現(xiàn)自動(dòng)分類(lèi)，加速投訴受理。服務(wù)整改意見(jiàn)。同時(shí)，系統(tǒng)支持監(jiān)管報(bào)表自動(dòng)生成和報(bào)送，避免消保部門(mén)需要在監(jiān)管報(bào)送工作中投入大量人力進(jìn)行手工導(dǎo)出和整合。該銀行客戶投訴顯著下降，在股份制銀行中的排名持續(xù)改