月說·數(shù)智化分享會(huì)·第41期 吳濤老師

分享會(huì)·第41期吳濤@360數(shù)智化首席咨詢專家吳濤@360數(shù)智化首席咨詢專家以樂于分享，自我提升，賦能他人聞道有先后，術(shù)業(yè)有專攻共同創(chuàng)造一個(gè)牛逼的數(shù)據(jù)分析交流圈子2024年10月在數(shù)智領(lǐng)域碰撞出另一番火花22吳濤數(shù)智化首席咨詢專家負(fù)責(zé)城市/政府/央國企/解決方案商數(shù)智化咨詢，引導(dǎo)客戶不斷完善數(shù)字化和智能化體系建設(shè)。大模型具有泛化能力和理解能力傳統(tǒng)AI模型擁有簡單識(shí)別能力，在單一任務(wù)上超過人類傳統(tǒng)AI模型：具備簡單識(shí)別能力，處理單一任務(wù)大語言模型：具備理解能力，處理復(fù)雜場景業(yè)務(wù)33Transformer算法基本原理通過其特有的自注意力機(jī)制通過其特有的自注意力機(jī)制，模擬人類神經(jīng)網(wǎng)絡(luò)思考的過程44大模型可生成符合物理規(guī)律的視頻大模型不僅能理解圖像，還能理解他們互動(dòng)的時(shí)候應(yīng)符合哪些物理定律OpenAISora實(shí)現(xiàn)了大模型對世界的觀察、交互、認(rèn)知，以及建立常識(shí)55大模型模擬人腦的學(xué)習(xí)和工作能力大模型通過預(yù)訓(xùn)練（學(xué)習(xí)）和推理（工作）過程不斷提升思考能力大模型訓(xùn)練過程人類學(xué)習(xí)過程大模型預(yù)訓(xùn)練音頻、視頻、文檔、圖文聽覺、視覺、圖書、文章大模型提問過程人類提問過程大模型推理音頻、視頻、文檔、圖文聽覺、視覺、圖書、文章66大模型可調(diào)用各種API工具操作硬件設(shè)備大模型不僅能思考和生成內(nèi)容，而且可以通過調(diào)用API操縱硬件設(shè)備大模型驅(qū)動(dòng)的特斯拉汽車自動(dòng)駕駛77大模型通過Agent框架復(fù)制人類技能通過Playbook可視化界面，拖拽式創(chuàng)建某任務(wù)技能的工作流大模型組件大模型組件代碼組件代碼組件外部外部API組件搜索組件搜索組件知識(shí)庫組件知識(shí)庫組件函數(shù)調(diào)用組件函數(shù)調(diào)用組件88大模型是“新質(zhì)生產(chǎn)力”的關(guān)鍵要素大模型通過學(xué)習(xí)人類專家工作流程掌握復(fù)雜技能搜索讓人類獲取信息的成本趨近于零大模型讓人類獲取技能的成本趨近于零任何行業(yè)都值得用大模型重做一遍兩種創(chuàng)新1、做從來沒有做過的事，比如說OpenAI做出大模型，也只有這一家；2、把原來老業(yè)務(wù)用新的方法重做一遍，這個(gè)機(jī)會(huì)就很多。MicrosoftCopilotSalesforceEinsteinGPT360安全大模型大模型應(yīng)用的五大關(guān)鍵問題100多個(gè)PoC測試得出的結(jié)論AI應(yīng)用的五大關(guān)鍵問題AI應(yīng)用的五大關(guān)鍵問題①場景選擇：擺脫宏大敘事，選擇有效場景，發(fā)揮大模型應(yīng)用價(jià)值②知識(shí)積累：企業(yè)知識(shí)的發(fā)現(xiàn)、沉淀、積累、管理、價(jià)值發(fā)揮③場景大模型：打造企業(yè)專屬的場景大模型④業(yè)務(wù)融合：不只是聊天機(jī)器人，還要促進(jìn)業(yè)務(wù)發(fā)展⑤AI和數(shù)據(jù)安全：保護(hù)企業(yè)私有數(shù)據(jù)和AI安全AI落地的四個(gè)誤區(qū)1.總想搞一個(gè)宏大的產(chǎn)業(yè)大模型，如金融大模型、交通大模型——垂直場景大模型2.企業(yè)總想用一個(gè)萬能大模型解決所有企業(yè)問題，如企業(yè)hr、ERP、財(cái)務(wù)、稅務(wù)等——多個(gè)垂直模型+MoE架構(gòu)3.有了大模型原來的IT系統(tǒng)就淘汰了——大模型是對IT系統(tǒng)的增強(qiáng)，需要和IT系統(tǒng)打通4.有大模型就不用做數(shù)字化了，可以彎道超車——需要有數(shù)據(jù)和知識(shí)，原來的數(shù)字化搞得越好，大模型越順利應(yīng)對五大關(guān)鍵問題，產(chǎn)生五大方法論：挑場景找知識(shí)訓(xùn)模型融業(yè)務(wù)保安全1、場景選擇方法論?大模型不能全面取代現(xiàn)在的數(shù)字化系統(tǒng) 小切口 小切口某業(yè)務(wù)環(huán)節(jié)某業(yè)務(wù)場景某業(yè)務(wù)環(huán)節(jié)某業(yè)務(wù)環(huán)節(jié)某業(yè)務(wù)場景某業(yè)務(wù)環(huán)節(jié)大縱深大縱深業(yè)務(wù)主導(dǎo)業(yè)務(wù)主導(dǎo)內(nèi)部知識(shí)管理平臺(tái)內(nèi)部知識(shí)管理平臺(tái)2、知識(shí)積累方法論企業(yè)部署大模型驅(qū)動(dòng)的知識(shí)管理平臺(tái)和情報(bào)管理平臺(tái)知識(shí)采集知識(shí)源情報(bào)采集情報(bào)源外部情報(bào)管理平臺(tái)知識(shí)管理大模型用戶訪問員工情報(bào)大模型3、模型打造方法論360安全大模型的Agent智能體架構(gòu)任務(wù)編排引擎監(jiān)督評測引擎任務(wù)生成引擎指令調(diào)度引擎任務(wù)編排引擎監(jiān)督評測引擎任務(wù)生成引擎指令調(diào)度引擎…………4、業(yè)務(wù)融合方法論通過業(yè)務(wù)融合平臺(tái)，全面融合到企業(yè)數(shù)字化流程中大語言模型員工智能體大語言模型員工智能體數(shù)字人智能體數(shù)字人智能體交互插件交互插件知識(shí)插件技能插件規(guī)劃插件工作流插件 產(chǎn)研系統(tǒng)營銷系統(tǒng) 產(chǎn)研系統(tǒng)營銷系統(tǒng) 5、安全管理方法論大模型的全新特性帶來了前所未有的安全挑戰(zhàn)網(wǎng)絡(luò)數(shù)據(jù)安全?網(wǎng)絡(luò)安全：系統(tǒng)漏洞、網(wǎng)絡(luò)攻擊?數(shù)據(jù)安全：數(shù)據(jù)泄漏、隱私泄露、數(shù)據(jù)投毒（含訓(xùn)練語料安全）生成內(nèi)容安全?內(nèi)容合規(guī)：違規(guī)內(nèi)容?虛假內(nèi)容：deepfake?幻覺問題：杜撰內(nèi)容惡意使用問題?提示注入攻擊?越獄：PUA、欺騙?惡意利用：生成惡意代碼、詐騙視頻失控問題?可控問題：Agent框架將大模型能力擴(kuò)展到物理空間，具有操控破壞能力?產(chǎn)生意識(shí)：硅基生物危害人類企業(yè)大模型項(xiàng)目落地流程數(shù)智化項(xiàng)目落地實(shí)施一般需要完成以下任務(wù)要點(diǎn)66平臺(tái)推廣2篩選重點(diǎn)場景44平臺(tái)系統(tǒng)研發(fā)1數(shù)智化水平評估33平臺(tái)產(chǎn)品設(shè)計(jì)55平臺(tái)運(yùn)營360數(shù)字化團(tuán)隊(duì)：全程陪跑企業(yè)數(shù)智化項(xiàng)目1、數(shù)智化應(yīng)用水平評估可根據(jù)典型應(yīng)用大致評估當(dāng)前所在階段可根據(jù)典型應(yīng)用大致評估當(dāng)前所在階段反向促進(jìn)反向促進(jìn)持續(xù)迭代2、全程陪跑的數(shù)智化咨詢提供從戰(zhàn)略到落地的解決方案設(shè)計(jì)與交付業(yè)務(wù)戰(zhàn)略咨詢數(shù)智化戰(zhàn)略咨詢平臺(tái)運(yùn)營咨詢平臺(tái)營銷咨詢業(yè)務(wù)戰(zhàn)略咨詢數(shù)智化戰(zhàn)略咨詢平臺(tái)運(yùn)營咨詢平臺(tái)營銷咨詢供應(yīng)鏈管理平臺(tái)建設(shè)咨詢立項(xiàng)方案是智能化咨詢的關(guān)鍵要點(diǎn)數(shù)智化咨詢交付體系根據(jù)客戶戰(zhàn)略、產(chǎn)品、研發(fā)、運(yùn)營、營銷團(tuán)隊(duì)需求輸出方案第1周需求調(diào)研模塊第1月戰(zhàn)略咨詢模塊3.《企業(yè)內(nèi)部環(huán)境調(diào)研報(bào)告》4.《企業(yè)戰(zhàn)略定位建議書》第2月產(chǎn)品咨詢模塊第3月技術(shù)咨詢模塊4.《線下門店運(yùn)營規(guī)范與策劃》第4月運(yùn)營咨詢模塊4.《流量增長運(yùn)營策劃》第5月營銷咨詢模塊4.《供應(yīng)鏈體系建設(shè)與執(zhí)行計(jì)劃》5.《銷售渠道建設(shè)與執(zhí)行計(jì)劃》第6月人力財(cái)務(wù)咨詢模塊3.《員工培訓(xùn)體系建設(shè)方案》5.《員工勞動(dòng)合同樣本》第7月項(xiàng)目結(jié)案2.《客戶反饋問卷-售后》20203、深度融合數(shù)智化底座對接現(xiàn)有和新建業(yè)務(wù)系統(tǒng)，一站式解決業(yè)務(wù)系統(tǒng)研發(fā)和運(yùn)維問題IT服務(wù)管理客戶管理服務(wù)目錄服務(wù)交付