《數(shù)智化技術(shù)應(yīng)用與創(chuàng)新》課件 第4章 探秘大模型

大模型探秘與學(xué)習(xí)目標(biāo)數(shù)智化技術(shù)應(yīng)用與創(chuàng)新4.1大模型技術(shù)發(fā)展4.1Developmentoflargemodeltechnology4.2大模型應(yīng)用-以DeepSeek為例4.2Applicationsoflargemodels-TakingDeepSeekasanexample4.3提示詞技術(shù)4.3Promptengineeringtechnology4.4大模型技術(shù)的行業(yè)應(yīng)用-以DeepSeek為例4.4Industryapplicationsoflargemodeltechnology-TakingDeepSeekasanexampleCONTENT目錄4.5典型案例-中關(guān)村科金大模型+“醫(yī)保小智”4.5Atypicalcase:ZhongguancunKejin'slargemodel+"MedicalInsuranceXiaozhi"知識(shí)目標(biāo)概覽PART01從萌芽到成熟，具有時(shí)代意義技術(shù)突破歷程不同階段技術(shù)特點(diǎn)各異，推動(dòng)AI變革不同階段特點(diǎn)大模型發(fā)展對(duì)AI領(lǐng)域有重要意義時(shí)代意義大模型發(fā)展歷程不同階段技術(shù)特點(diǎn)顯著，推動(dòng)變革技術(shù)特點(diǎn)成員特點(diǎn)各異，架構(gòu)功能多樣，有優(yōu)勢(shì)也有局限性大模型家族0201大模型應(yīng)用于多領(lǐng)域，解決實(shí)際問題應(yīng)用領(lǐng)域03技術(shù)特點(diǎn)與家族介紹原理明確，作用于文本生成、問答等系統(tǒng)提示詞技術(shù)應(yīng)用于文本生成、問答、對(duì)話系統(tǒng)大模型應(yīng)用于各行業(yè)，創(chuàng)造價(jià)值實(shí)際應(yīng)用場(chǎng)景提示詞技術(shù)原理應(yīng)用領(lǐng)域?qū)嶋H應(yīng)用與提示詞技術(shù)能力目標(biāo)培養(yǎng)PART02基于技術(shù)特點(diǎn)與市場(chǎng)趨勢(shì)預(yù)測(cè)應(yīng)用前景考慮大模型在各行業(yè)的潛力分析發(fā)展方向評(píng)估變革影響評(píng)估對(duì)AI領(lǐng)域的長遠(yuǎn)影響預(yù)測(cè)大模型發(fā)展方向定制化開發(fā)與技術(shù)應(yīng)用0102選擇合適大模型根據(jù)行業(yè)需求匹配最佳模型解決行業(yè)問題利用大模型優(yōu)化行業(yè)流程03提升用戶體驗(yàn)通過提示詞技術(shù)提高響應(yīng)速度學(xué)習(xí)成功案例的策略與方法成功案例分析分析失敗原因，避免重蹈覆轍失敗教訓(xùn)總結(jié)整合案例經(jīng)驗(yàn)，形成實(shí)用策略提煉可借鑒經(jīng)驗(yàn)案例分析與經(jīng)驗(yàn)提煉素質(zhì)目標(biāo)提升PART03技術(shù)前瞻與創(chuàng)新意識(shí)敏銳洞察新技術(shù)趨勢(shì)技術(shù)前瞻勇于探索未知領(lǐng)域創(chuàng)新意識(shí)推動(dòng)技術(shù)創(chuàng)新與應(yīng)用推動(dòng)創(chuàng)新整合知識(shí)整合不同領(lǐng)域知識(shí)應(yīng)用知識(shí)應(yīng)用于實(shí)際問題解決跨學(xué)科能力培養(yǎng)跨學(xué)科學(xué)習(xí)與思考能力跨學(xué)科學(xué)習(xí)能力培養(yǎng)010203面對(duì)復(fù)雜問題面對(duì)復(fù)雜問題與挑戰(zhàn)獨(dú)立思考獨(dú)立思考與分析問題提出解決方案提出有效解決方案并批判性審視解決實(shí)際問題能力4.1大模型技術(shù)應(yīng)用大模型變革與演講概述presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield大模型時(shí)代開啟presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield大模型發(fā)展階段presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield大模型家族進(jìn)化presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield目錄大模型開發(fā)路徑presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield大模型評(píng)測(cè)方法presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield大模型商用之路presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield總結(jié)與展望presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield目錄大模型變革與演講概述PART01演講主題與地點(diǎn)0102演講主題大模型帶來的變革和機(jī)會(huì)演講地點(diǎn)上海、深圳、北京等演講目的引發(fā)業(yè)界思考思考大模型技術(shù)的未來趨勢(shì)引發(fā)業(yè)界關(guān)注關(guān)注大模型技術(shù)及其影響0102大模型時(shí)代開啟PART02大模型處理信息并指導(dǎo)行動(dòng)技術(shù)和社會(huì)層面的重大進(jìn)步進(jìn)入大模型新時(shí)代信息社會(huì)進(jìn)化信息-模型-行動(dòng)框架云時(shí)代到大模型躍遷云時(shí)代到大模型時(shí)代技術(shù)實(shí)現(xiàn)從專用到通用的跨越弱AI到通用AI生產(chǎn)力因大模型而大幅提升算力到機(jī)器智能躍升數(shù)字到智能社會(huì)躍升社會(huì)形態(tài)因大模型而深刻變革三大革命性變化大模型發(fā)展階段PART03萌芽期（1950-2005年）1950年代起開始發(fā)展傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型在萌芽期內(nèi)逐步成型CNN的誕生發(fā)展為后續(xù)發(fā)展奠定基礎(chǔ)技術(shù)基礎(chǔ)積累2006年后開始探索Transformer架構(gòu)出現(xiàn)推動(dòng)大模型技術(shù)沉淀GPT-1和BERT發(fā)布0201奠定大模型發(fā)展基礎(chǔ)技術(shù)框架初步形成03探索沉淀期（2006-2019年）2020年后迅猛發(fā)展GPT-3及以上大模型成為大模型發(fā)展里程碑ChatGPT和GPT-4成功開啟大模型商用新時(shí)代技術(shù)商用加速推進(jìn)迅猛發(fā)展期（2020年至今）大模型家族進(jìn)化PART04從億級(jí)到百萬億級(jí)參數(shù)規(guī)模突破Transformer架構(gòu)技術(shù)架構(gòu)主流GPT和BERT兩條路線技術(shù)路線參數(shù)規(guī)模與技術(shù)架構(gòu)應(yīng)用場(chǎng)景從單一到多模態(tài)模態(tài)多樣性通用大模型與行業(yè)大模型模態(tài)與應(yīng)用場(chǎng)景大模型開發(fā)路徑PART05訓(xùn)練基座模型構(gòu)建大模型基礎(chǔ)框架策略精調(diào)與判別訓(xùn)練優(yōu)化模型性能與準(zhǔn)確性獎(jiǎng)勵(lì)機(jī)制優(yōu)化利用強(qiáng)化學(xué)習(xí)提升模型效果從頭構(gòu)建完整大模型開源模型調(diào)優(yōu)低成本選擇開源模型選用成熟模型降低開發(fā)成本LoRA技術(shù)微調(diào)利用LoRA技術(shù)實(shí)現(xiàn)參數(shù)高效調(diào)整大模型評(píng)測(cè)方法PART06目前業(yè)界沒有權(quán)威評(píng)測(cè)標(biāo)準(zhǔn)缺乏統(tǒng)一評(píng)測(cè)方法呼喚建立統(tǒng)一的評(píng)測(cè)體系需標(biāo)準(zhǔn)化不同評(píng)測(cè)方法結(jié)果差異大評(píng)測(cè)結(jié)果多樣010203評(píng)測(cè)現(xiàn)狀0102語言理解數(shù)據(jù)集通過特定數(shù)據(jù)集評(píng)估模型理解力評(píng)測(cè)指標(biāo)體系包括人工評(píng)測(cè)和裁判大模型評(píng)測(cè)等手段主要評(píng)測(cè)手段大模型商用之路PART07互聯(lián)網(wǎng)、SaaS、插件等MaaS應(yīng)用形式提供開放API，大模型云服務(wù)開放API與云服務(wù)提供定制化解決方案解決方案模型即服務(wù)（MaaS）行業(yè)應(yīng)用前景長期潛力領(lǐng)域醫(yī)療、交通、制造等領(lǐng)域快速滲透行業(yè)互聯(lián)網(wǎng)、金融、傳媒、教育總結(jié)與展望PART08帶來革命性變化開啟新時(shí)代參數(shù)規(guī)模達(dá)百萬億級(jí)重要技術(shù)突破廣泛應(yīng)用前景互聯(lián)網(wǎng)、金融等行業(yè)快速滲透大模型重要性未來展望0102持續(xù)技術(shù)進(jìn)化技術(shù)架構(gòu)、模態(tài)不斷升級(jí)廣泛商用趨勢(shì)MaaS模式推動(dòng)行業(yè)應(yīng)用03構(gòu)建智能社會(huì)推動(dòng)從數(shù)字社會(huì)到智能社會(huì)躍升4.2大模型應(yīng)用-以Deepseek為例大模型應(yīng)用場(chǎng)景PART01NLP應(yīng)用場(chǎng)景實(shí)現(xiàn)語音識(shí)別與回復(fù)聊天機(jī)器人自動(dòng)翻譯多種語言文章文本翻譯自動(dòng)生成高質(zhì)量文章內(nèi)容文章生成識(shí)別圖像中特定對(duì)象對(duì)象識(shí)別監(jiān)控視頻中異常行為檢測(cè)異常檢測(cè)圖像分類對(duì)圖像進(jìn)行自動(dòng)分類處理圖像視頻分析應(yīng)用推薦系統(tǒng)應(yīng)用0102用戶行為分析分析用戶行為提升推薦精度個(gè)性化推薦根據(jù)用戶喜好推薦內(nèi)容03提升用戶體驗(yàn)優(yōu)化推薦策略提高用戶滿意度預(yù)測(cè)和管理金融風(fēng)險(xiǎn)風(fēng)險(xiǎn)管理利用模型預(yù)測(cè)股票價(jià)格走勢(shì)股價(jià)預(yù)測(cè)0201自動(dòng)化交易策略提高收益交易算法03金融分析應(yīng)用智能運(yùn)維應(yīng)用自動(dòng)檢測(cè)系統(tǒng)故障故障檢測(cè)分析系統(tǒng)日志定位問題日志分析自動(dòng)化執(zhí)行運(yùn)維任務(wù)提高效率自動(dòng)化運(yùn)維24小時(shí)自動(dòng)回答客戶問題全天候回答快速解決客戶問題問題解決提升客戶服務(wù)響應(yīng)速度提高服務(wù)效率智能客服應(yīng)用自動(dòng)評(píng)估作業(yè)和考試根據(jù)學(xué)生學(xué)習(xí)情況定制路徑提供個(gè)性化學(xué)習(xí)方案智能教育平臺(tái)自動(dòng)化評(píng)估個(gè)性化學(xué)習(xí)教育培訓(xùn)應(yīng)用生物醫(yī)學(xué)數(shù)據(jù)分析生物醫(yī)學(xué)數(shù)據(jù)藥物發(fā)現(xiàn)加速新藥研發(fā)進(jìn)程疾病診斷輔助醫(yī)生進(jìn)行疾病診斷生物醫(yī)學(xué)研究應(yīng)用自動(dòng)生成音樂旋律音樂創(chuàng)作輔助繪畫和設(shè)計(jì)工作繪畫設(shè)計(jì)提供創(chuàng)作靈感和設(shè)計(jì)方案創(chuàng)新靈感創(chuàng)作設(shè)計(jì)應(yīng)用處理傳感器數(shù)據(jù)實(shí)現(xiàn)自動(dòng)駕駛傳感器數(shù)據(jù)處理根據(jù)環(huán)境數(shù)據(jù)制定行駛策略決策制定理解周圍環(huán)境做出決策環(huán)境理解010203自動(dòng)駕駛機(jī)器人應(yīng)用AI模型推理工作內(nèi)容PART02接收輸入處理文本圖片輸入接收文本或圖片形式的輸入多模態(tài)處理支持多種形式的輸入數(shù)據(jù)綜合處理輸入內(nèi)容處理輸入檢測(cè)預(yù)篩檢測(cè)并預(yù)處理輸入，過濾有害問題文本編碼為向量將文本轉(zhuǎn)換為數(shù)字向量以便處理0102010203使用訓(xùn)練模型應(yīng)用預(yù)先訓(xùn)練好的AI模型進(jìn)行推理自回歸生成如ChatGPT，生成連貫文本序列束搜索優(yōu)化使用束搜索算法優(yōu)化生成結(jié)果模型推理過程將推理結(jié)果轉(zhuǎn)化為可理解的語言轉(zhuǎn)換為自然語言對(duì)輸出進(jìn)行合規(guī)性檢查合規(guī)性檢測(cè)生成并輸出最終回答結(jié)果輸出最終回答輸出結(jié)果生成4.3提示詞技術(shù)提示詞技術(shù)與自然語言處理presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield文本生成技術(shù)presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield問答系統(tǒng)概述presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield對(duì)話系統(tǒng)介紹presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield目錄提示詞技術(shù)與自然語言處理PART01語言在AI中的重要性語言是人與AI交互的關(guān)鍵溝通橋梁AI通過語言理解人類知識(shí)與經(jīng)驗(yàn)理解世界語言處理能力是衡量AI智能水平的重要指標(biāo)智能表現(xiàn)自然語言復(fù)雜多變，語義理解是NLP的核心挑戰(zhàn)語義理解難題深度學(xué)習(xí)技術(shù)顯著提升了NLP的性能與效果深度學(xué)習(xí)突破0201持續(xù)推動(dòng)NLP模型向更高效、更精準(zhǔn)方向發(fā)展模型優(yōu)化需求03NLP的挑戰(zhàn)與深度學(xué)習(xí)推動(dòng)文本生成技術(shù)PART02文本生成的意義與應(yīng)用0102文本生成意義提升內(nèi)容創(chuàng)作效率應(yīng)用領(lǐng)域廣泛寫作、翻譯、摘要生成03創(chuàng)新價(jià)值激發(fā)新創(chuàng)意，豐富內(nèi)容形式預(yù)測(cè)文本序列概率語言模型基礎(chǔ)循環(huán)神經(jīng)網(wǎng)絡(luò)處理序列數(shù)據(jù)神經(jīng)網(wǎng)絡(luò)架構(gòu)模型訓(xùn)練通過大量文本數(shù)據(jù)學(xué)習(xí)語言規(guī)律語言模型與神經(jīng)網(wǎng)絡(luò)基礎(chǔ)通過溫度參數(shù)、Top-k采樣增加多樣性在多樣性與準(zhǔn)確性間尋求最佳平衡如貪心、束搜索、隨機(jī)采樣采樣策略多樣性提升文本質(zhì)量平衡采樣策略與文本多樣性提升問答系統(tǒng)概述PART03自動(dòng)回答用戶問題的系統(tǒng)問答系統(tǒng)定義自然語言處理、信息檢索、知識(shí)庫系統(tǒng)組成深度學(xué)習(xí)、自然語言理解技術(shù)基礎(chǔ)問答系統(tǒng)定義與組成針對(duì)特定領(lǐng)域或問題集限定域系統(tǒng)面向廣泛主題，無特定限制開放域系統(tǒng)知識(shí)范圍、訓(xùn)練數(shù)據(jù)及算法差異區(qū)分標(biāo)準(zhǔn)限定域與開放域系統(tǒng)區(qū)分應(yīng)用挑戰(zhàn)與解決方案解決方案深度學(xué)習(xí)優(yōu)化、實(shí)時(shí)知識(shí)更新、對(duì)話管理策略應(yīng)用挑戰(zhàn)語義理解、知識(shí)更新、多輪對(duì)話0102對(duì)話系統(tǒng)介紹PART04010203對(duì)話系統(tǒng)定義模擬人類對(duì)話的系統(tǒng)系統(tǒng)組成自然語言處理、知識(shí)庫等交互方式文本、語音、圖形等多種方式對(duì)話系統(tǒng)定義與組成生成式系統(tǒng)基于模型生成回復(fù)，靈活性強(qiáng)檢索式系統(tǒng)從預(yù)設(shè)庫中匹配回復(fù)，準(zhǔn)確率高對(duì)比生成式靈活但可能不準(zhǔn)確，檢索式準(zhǔn)確但缺乏靈活性生成式與檢索式系統(tǒng)對(duì)比對(duì)話系統(tǒng)評(píng)價(jià)方法用戶對(duì)話體驗(yàn)的直觀反饋用戶滿意度系統(tǒng)完成用戶請(qǐng)求的比例任務(wù)完成率系統(tǒng)維持連貫對(duì)話的能力多輪對(duì)話能力提示詞技術(shù)實(shí)施要點(diǎn)PART05分析用戶場(chǎng)景與需求背景深入理解用戶意圖根據(jù)用戶反饋調(diào)整優(yōu)化策略持續(xù)跟蹤反饋通過對(duì)話挖掘用戶未明確表達(dá)的需求挖掘潛在需求010203洞察用戶需求提示詞精心設(shè)計(jì)設(shè)計(jì)清晰、具體的提示詞引導(dǎo)模型明確指導(dǎo)意圖采用不同表述方式提高模型理解力多樣化表達(dá)確保提示詞準(zhǔn)確無歧義，提升模型輸出質(zhì)量避免歧義根據(jù)訓(xùn)練情況調(diào)整學(xué)習(xí)率以優(yōu)化模型性能調(diào)整學(xué)習(xí)率01調(diào)整模型層數(shù)與節(jié)點(diǎn)數(shù)，提升模型泛化能力優(yōu)化模型結(jié)構(gòu)02采用L1、L2正則化防止模型過擬合正則化策略03模型參數(shù)精細(xì)化調(diào)整定期評(píng)估模型性能，發(fā)現(xiàn)潛在問題定期評(píng)估性能持續(xù)引入新數(shù)據(jù)，提升模型適應(yīng)性引入新數(shù)據(jù)關(guān)注最新算法進(jìn)展，適時(shí)升級(jí)模型算法算法升級(jí)迭代與優(yōu)化策略4.4大模型技術(shù)的行業(yè)應(yīng)用—以DeepSeek為例大模型技術(shù)概述presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield跨領(lǐng)域知識(shí)融合應(yīng)用presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield自然語言處理能力presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield圖像識(shí)別能力presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield目錄大模型技術(shù)概述PART01融合多領(lǐng)域知識(shí)，應(yīng)用廣泛在自然語言處理等方面表現(xiàn)突出大規(guī)模預(yù)訓(xùn)練模型大模型定義特點(diǎn)一：跨領(lǐng)域融合特點(diǎn)二：處理能力強(qiáng)大模型定義與特點(diǎn)跨領(lǐng)域知識(shí)融合應(yīng)用PART02結(jié)合多領(lǐng)域數(shù)據(jù)進(jìn)行學(xué)習(xí)跨領(lǐng)域知識(shí)整合提升模型綜合理解能力知識(shí)融合應(yīng)用0201增強(qiáng)AI系統(tǒng)實(shí)用性與適應(yīng)性概念意義03跨領(lǐng)域知識(shí)融合概念智能客服系統(tǒng)案例0102用戶意圖識(shí)別準(zhǔn)確理解用戶問題需求精準(zhǔn)匹配與回答基于知識(shí)庫快速提供解決方案03交互優(yōu)化與反饋持續(xù)優(yōu)化提升用戶體驗(yàn)自然語言處理能力PART03強(qiáng)大的自然語言生成GPT-3特點(diǎn)廣泛應(yīng)用于文本創(chuàng)作GPT-3應(yīng)用BERT在搜索應(yīng)用提升搜索結(jié)果的準(zhǔn)確性GPT系列及BERT模型T5與DeepSeek模型支持多種NLP任務(wù)T5多任務(wù)處理高效代碼生成工具DeepSeekCoder智能對(duì)話系統(tǒng)DeepSeekChat圖像識(shí)別能力PART04圖像識(shí)別應(yīng)用領(lǐng)域智能識(shí)別在自動(dòng)駕駛、醫(yī)療影像中廣泛應(yīng)用安防監(jiān)控用于人臉識(shí)別、異常行為檢測(cè)0102大模型在圖像識(shí)別優(yōu)勢(shì)精準(zhǔn)度和效率高利用深度學(xué)習(xí)，提高識(shí)別精度和速度深度特征提取能提取圖像深層特征，增強(qiáng)識(shí)別能力個(gè)性化推薦與預(yù)測(cè)PART05收集并分析用戶行為數(shù)據(jù)用戶行為分析深度挖掘用戶偏好信息偏好分析應(yīng)用機(jī)器學(xué)習(xí)算法分析數(shù)據(jù)機(jī)器學(xué)習(xí)算法數(shù)據(jù)收集與分析方式基于用戶數(shù)據(jù)生成個(gè)性化推薦個(gè)性化推薦方式推薦精準(zhǔn)，滿足用戶個(gè)性化需求精準(zhǔn)性與個(gè)性化大模型提升推薦效率與質(zhì)量大模型優(yōu)勢(shì)個(gè)性化推薦生成及優(yōu)勢(shì)大模型技術(shù)應(yīng)用案例PART06數(shù)字化員工“崔筱盼”案例背景介紹高效、準(zhǔn)確，獲同事認(rèn)可與喜愛員工評(píng)價(jià)涵蓋財(cái)務(wù)、人力、運(yùn)營等多領(lǐng)域工作內(nèi)容擴(kuò)展010203“崔筱盼”數(shù)字化員工介紹010203工作內(nèi)容自動(dòng)化處理財(cái)務(wù)、人力等事務(wù)員工評(píng)價(jià)正面提高工作效率，減少錯(cuò)誤率同事認(rèn)可獲得同事高度評(píng)價(jià)與喜愛工作內(nèi)容及員工評(píng)價(jià)總結(jié)與展望PART07多方面能力強(qiáng)涵蓋NLP、圖像識(shí)別等精準(zhǔn)高效圖像識(shí)別精準(zhǔn)度高，NLP處理能力強(qiáng)應(yīng)用廣泛跨領(lǐng)域知識(shí)融合，個(gè)性化推薦大模型多方面能力未來科技發(fā)展作用大模型引領(lǐng)AI技術(shù)前沿推動(dòng)技術(shù)創(chuàng)新在各行業(yè)實(shí)現(xiàn)智能化升級(jí)提升行業(yè)效率個(gè)性化推薦提升用戶體驗(yàn)改變生活方式4.5典型案例-中關(guān)村科金大模型+“醫(yī)保小智”醫(yī)保服務(wù)數(shù)字化轉(zhuǎn)型背景presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield醫(yī)保服務(wù)問題與新質(zhì)生產(chǎn)力presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield新質(zhì)生產(chǎn)力應(yīng)用與成效presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield總結(jié)與展望presentationandmakeitintoafilmto