B站大模型×領域RAG：打造高效、智能化的用戶服務體驗

B站大模型×領域RAG打造高效、智能化的用戶服務體驗Author：Feng

FanV》

目錄傳統(tǒng)智能客服

vs．大模型智能客服msup傳統(tǒng)智能客服

vs.

RAG?模型智能客服傳統(tǒng)智能客服系統(tǒng)還是需要為每種任務單獨設計和維護特定模型RAG?模型客服在單?框架內同時?持多種任務，?效靈活傳統(tǒng)智能客服

vs.

RAG?模型智能客服B站線上智能客服攔截率：傳統(tǒng)智能客服（基線組）

vs.

RAG?模型智能客服（?模型組）RAG?模型智能客服框架3.

如何做到準確安全回答？1.

領域知識庫如何構建？2.

怎么?效檢索知識？總流程：流程模塊拆分：V》

目錄■領域知識庫的有效構建msup業(yè)務知識信息全?、實時冗余、?結構化、檢索效率低領域知識庫如何有效構建歷史??會話信息提煉噪?、?結構化、檢索效率低FAQ信息提煉結構化、檢索效率???運營FAQ：精準但覆蓋有限LLM由歷史??會話抽取FAQ：覆蓋全?領域知識庫如何有效構建業(yè)務知識信息全?、實時冗余、?結構化、檢索效率低歷史??會話信息提煉噪?、?結構化、檢索效率低FAQ信息提煉結構化、檢索效率???運營FAQ：精準但覆蓋有限LLM由歷史??會話抽取FAQ：覆蓋全?V》

目錄怎樣高效檢索知識．msupquery改寫1.

Re-writing:指代消解補全querymemory信息補全query效果：增加有效攔截如何?效檢索知識query改寫2.

Step-back:向上泛化，提出更基本概念，獲取相關背景信息，補充query效果：query理解更準確?如何?效檢索知識query改寫2.

Step-back:向上泛化，提出更基本概念，獲取相關背景信息，補充query效果：query理解更準確?如何?效檢索知識query改寫3.

Sub-query:分解?查詢如何?效檢索知識https://docs.llamaindex.ai/en/stable/examples/query_engine/sub_question_query_engine.html檢索q-q

search如何?效檢索知識重排q-a

matchV》

目錄．如何準確回答安全落地msup如何準確回答安全落地ASurveyonRAGMeetsLLMs:TowardsRetrieval-AugmentedLargeLanguage

Models通?LLM

+

prompt?程：?

零訓練成本?

幻覺較難控制：通?模型較常?現象，prompt控制有限?

默認提供答案：不具備充分信息，模型傾向提供回答??拒答，增加誤導?險?向RAG微調LLM：?

幻覺可有效控制且顯著降低?

跨?檔整合能?增強?

信息溯源更準確?

擁有拒答能?保障可靠?

訓練成本和資源投?增加如何準確回答安全落地強化RAG模型：效果整體優(yōu)化后內外部RAG評測集上平均提升

20%在答案準確度、答案整合度、拒答能?均顯著改進，業(yè)務評測中滿?落地要求。*通?LLM是基于B站?研?模型bilibili

index，作為強化RAG模型的基座。當前評估結果基于index前代版本，新版本已推出并具有更強性能。強化RAG模型：任務設計輸?端：先拼接query和對應的檢索結果，并引?思維鏈來構造prompt；輸出端：將任務拆解為多步推理步驟，并在訓練過程中顯示引導模型掌握這種推理模式。如何準確回答安全落地強化RAG模型：數據準備如何準確回答安全落地根據偏好數據訓練reward

model，便于模型迭代和優(yōu)化，同時輔助??質檢評價模型V》

目錄■長文本與R

AG

如何協(xié)同msupRAG和??本如何協(xié)同?尾問題的應?局限知識稀疏：

相關信息的稀缺，RAG模型難以從檢索組件獲取充?的直接相關知識，拒答降低?戶問題解決率復雜關聯：

問題答案依賴于多個邏輯步驟和?泛的信息源??本解決?尾的痛點??本挑戰(zhàn)擴?上下?窗?，更全?的知識覆蓋，即使是弱相關的知識，將?尾問題轉化為多種弱相關參考點，為?戶提供豐富背景信息，也可以引導?戶交互澄清等。帶來延遲和成本V》

目錄智能客服與大模型的未來展望msup多模態(tài)理解及檢索增強推理集成業(yè)務系統(tǒng)Agent交互?模型智能客服的未來展望/pdf/2310.12823麥思博(msup)有限公司是一家面向技術型企業(yè)的培訓咨詢機構，攜手2000余位中外客座導師，服務于技術團隊的能力提升、軟件工