穿越智算奇點(diǎn) 解鎖大模型的無(wú)限可能

騰訊云秦若毅騰訊云秦若毅>他來(lái)了!他來(lái)了!大模型的基礎(chǔ)概念2013年電影《HER(觸不到的她)》ANTHROP\CXMeta騰訊混元通義大模型“你從哪里來(lái)?我的朋友”大模型的歷史脈絡(luò)1990神經(jīng)網(wǎng)絡(luò)的興起與衰退：2012大模型的誕生：2022預(yù)訓(xùn)練模型的興起：1956早期的探索：2017Transformer(轉(zhuǎn)換器)架構(gòu)的革命：NOW多模態(tài)模型的探索：“千萬(wàn)里，我追尋著你”國(guó)際大模型的創(chuàng)新浪潮·開(kāi)源的文生圖大模型月之暗面Kimi:長(zhǎng)文理解的先驅(qū)04月之暗面Kimi:長(zhǎng)文理解的先驅(qū)042024年3月，開(kāi)放支持200萬(wàn)字超長(zhǎng)文本·2024年6月，開(kāi)源QWEN2·2024年6月，開(kāi)源QWEN2·2023年10月，發(fā)布文心一言4.0部分部分GPT-4基準(zhǔn)測(cè)試結(jié)果·美國(guó)生物奧林匹克競(jìng)賽：超過(guò)99%考生美國(guó)律師資格考試：超過(guò)90%考生·美國(guó)高考：1410/600(寫(xiě)作+數(shù)學(xué))●哪敢自稱學(xué)霸?大模型的關(guān)鍵技術(shù)大腦基底大模型的定義：智能的基石書(shū)架大腦心臟02模型規(guī)模與性能：規(guī)模的力量03模型壓縮：效率與性能的平衡書(shū)桌作業(yè)本高性能集群高性能網(wǎng)絡(luò)高性能存儲(chǔ)會(huì)議網(wǎng)易逆水寒米哈游崩壞3網(wǎng)易逆水寒米哈游崩壞3過(guò)去5分鐘說(shuō)了什么?過(guò)去5分鐘說(shuō)了什么?你好秦若逸Rois,我是騰訊文檔智能助你好秦若逸Rois,我是騰訊文檔智能助手!日制作PPT日制作PPT60%生態(tài)建設(shè)目標(biāo)，需加強(qiáng)個(gè)人外設(shè)論文開(kāi)題報(bào)告寫(xiě)祝福語(yǔ)學(xué)習(xí)計(jì)劃小紅書(shū)種草落提醒論文開(kāi)題報(bào)告寫(xiě)祝福語(yǔ)學(xué)習(xí)計(jì)劃小紅書(shū)種草企業(yè)智能化：面向企業(yè)的大模型應(yīng)用·橫軸：企業(yè)業(yè)務(wù)流程(內(nèi)部<=>外部)縱軸：業(yè)務(wù)改造程度分類(改善<=>創(chuàng)新)外部用戶體驗(yàn)外部用戶體驗(yàn)客戶體驗(yàn)提升象限：外部用戶提升體驗(yàn)業(yè)務(wù)流程增強(qiáng)運(yùn)營(yíng)效牢提升發(fā)發(fā)文旅運(yùn)營(yíng)效率運(yùn)營(yíng)效率客戶體驗(yàn)提升產(chǎn)品價(jià)值創(chuàng)新產(chǎn)品價(jià)值創(chuàng)新運(yùn)營(yíng)效審提升業(yè)務(wù)流運(yùn)營(yíng)效審提升常客戶體驗(yàn)提升?？蛻趔w驗(yàn)提升辦公營(yíng)銷·節(jié)省學(xué)習(xí)理解產(chǎn)品的時(shí)間·對(duì)話式交互快速定位異常原因診前(售前)診中(售中)診后(售后)·解決掛錯(cuò)診室、醫(yī)生不匹配等問(wèn)題大模型應(yīng)用落地的三大路線購(gòu)買自建評(píng)估維度評(píng)估維度騰訊云產(chǎn)品方案合作分工騰訊云產(chǎn)品方案合作分工1.標(biāo)準(zhǔn)軟件1.標(biāo)準(zhǔn)軟件知識(shí)數(shù)據(jù)開(kāi)發(fā)投入數(shù)據(jù)安全輸出內(nèi)容控制項(xiàng)目預(yù)算算力資源數(shù)據(jù)安全輸出內(nèi)容控制項(xiàng)目預(yù)算算力資源應(yīng)用成本成本全鏈路遙測(cè)細(xì)分領(lǐng)域模型訓(xùn)練平臺(tái)應(yīng)用平臺(tái)全鏈路遙測(cè)行業(yè)模型企業(yè)模型基礎(chǔ)設(shè)施大模型核心服務(wù)找數(shù)-表/指標(biāo)查數(shù)-多模型指標(biāo)口徑查詢知識(shí)庫(kù)+緩存找數(shù)-表/指標(biāo)查數(shù)-多模型指標(biāo)口徑查詢知識(shí)庫(kù)+緩存技能管理技能管理知識(shí)問(wèn)答在線調(diào)用-定制化擴(kuò)展離線訓(xùn)練-知識(shí)內(nèi)化在線調(diào)用-定制化擴(kuò)展離線訓(xùn)練-知識(shí)內(nèi)化指標(biāo)向量庫(kù)指標(biāo)向量庫(kù)知識(shí)生產(chǎn)端放大知識(shí)價(jià)值與產(chǎn)出知識(shí)消費(fèi)端提高員工知識(shí)獲取效率小彩蛋——送給聽(tīng)眾的禮物專門解答智算與大模型問(wèn)題的AI助手(掃碼可獲得使用權(quán)限)Q搜索樂(lè)享管理后臺(tái)樂(lè)享管理后臺(tái)等你解鎖!■查看平臺(tái)公約，開(kāi)啟社區(qū)之旅!我的積分待辦中心我的積分騰訊云WeTele你好秦若毅，我是樂(lè)享你好秦若毅，我是樂(lè)享AI助手，你想讓我?guī)湍阕鍪裁?站內(nèi)知識(shí)問(wèn)答內(nèi)容創(chuàng)作生成式生成式Al在金融行業(yè)有哪些應(yīng)用?生成式AI生成式AI在金融行業(yè)的應(yīng)用主要包括以下幾個(gè)方面：6車IT業(yè)務(wù)流程中，生成式Al可以輔助IT技術(shù)人員自動(dòng)完成代碼補(bǔ)全工作，從而提高了金融機(jī)構(gòu)對(duì)客APP的研發(fā)迭代速度。2.在辦公業(yè)務(wù)流程中，生成式AI打造的辦公助手可以在會(huì)議結(jié)束之后自動(dòng)生成會(huì)議紀(jì)要。金融行業(yè)的專業(yè)術(shù)語(yǔ)眾多，基于行業(yè)大模型的生成式AI均可以理解并準(zhǔn)確生成會(huì)議紀(jì)要，助網(wǎng)網(wǎng)個(gè)個(gè)個(gè)開(kāi)箱即用的應(yīng)用類型(應(yīng)用中心)靈活定制的原子能力(原子能力中心)開(kāi)箱即用的應(yīng)用類型(應(yīng)用中心)知識(shí)摘要標(biāo)簽分類知識(shí)摘要標(biāo)簽分類總結(jié)類問(wèn)答類開(kāi)放對(duì)接層文檔解析向量檢索總結(jié)類問(wèn)答類開(kāi)放對(duì)接層更多應(yīng)用配置層模型層配置層模型層向量數(shù)據(jù)庫(kù)向量數(shù)據(jù)庫(kù)底層能力智能應(yīng)用智能應(yīng)用平臺(tái)&工具基礎(chǔ)設(shè)施細(xì)分領(lǐng)域模型訓(xùn)練平臺(tái)精調(diào)客戶專屬大模型應(yīng)用平臺(tái)◆定制化模型精調(diào)：騰訊云行業(yè)大模型——醫(yī)學(xué)大模型應(yīng)用場(chǎng)景數(shù)據(jù)問(wèn)答數(shù)據(jù)·醫(yī)典問(wèn)答：三甲醫(yī)院醫(yī)生撰寫(xiě)，醫(yī)學(xué)編輯三審三?！徍藛?wèn)答：醫(yī)學(xué)專業(yè)人士審核過(guò)的問(wèn)答數(shù)據(jù)對(duì)話數(shù)據(jù)·醫(yī)患多輪的對(duì)話醫(yī)院數(shù)據(jù)·門診病歷醫(yī)療行業(yè)數(shù)據(jù)醫(yī)學(xué)知識(shí)數(shù)據(jù)知識(shí)圖譜數(shù)據(jù)·100萬(wàn)+實(shí)體，描述某些醫(yī)學(xué)概念的醫(yī)學(xué)實(shí)體·1000萬(wàn)+關(guān)系三元組，描述某些醫(yī)學(xué)概念之間的關(guān)聯(lián)關(guān)系·40萬(wàn)+屬性三元組，描述某些醫(yī)學(xué)概念的從屬屬性文章數(shù)據(jù)·騰訊醫(yī)典文章：醫(yī)學(xué)專家撰寫(xiě)，三審三校·收集文章：購(gòu)買后醫(yī)學(xué)專業(yè)人士審核醫(yī)學(xué)專業(yè)數(shù)據(jù)·人衛(wèi)等全套教材·臨床職業(yè)醫(yī)師考試題一體化醫(yī)學(xué)語(yǔ)言系統(tǒng)，針對(duì)生物醫(yī)學(xué)與健康領(lǐng)域的一體化醫(yī)學(xué)語(yǔ)言系統(tǒng)，針對(duì)生物醫(yī)學(xué)與健康領(lǐng)域的數(shù)據(jù)庫(kù)系統(tǒng)、本體知識(shí)庫(kù)·包括460萬(wàn)概念、890萬(wàn)代碼、26種語(yǔ)言、182個(gè)詞匯表·該數(shù)據(jù)庫(kù)收錄了目前已知的最全面的藥物和化學(xué)信息資源，提供詳細(xì)的藥物和相關(guān)藥物靶標(biāo)信息數(shù)據(jù)中文論文數(shù)據(jù)·醫(yī)學(xué)相關(guān)中文文獻(xiàn)，包含期刊、會(huì)議、碩博論文、報(bào)紙等PubMed文章3500萬(wàn)條生物醫(yī)學(xué)文獻(xiàn)及在線書(shū)籍其它(公開(kāi))英文數(shù)據(jù)影像報(bào)告數(shù)據(jù)·MIMIC患者出院小結(jié)入院數(shù)據(jù)海量、優(yōu)質(zhì)訓(xùn)練數(shù)據(jù)數(shù)據(jù)中心數(shù)據(jù)中心訓(xùn)練工坊訓(xùn)練工坊遠(yuǎn)程調(diào)試模擬部署模擬部署內(nèi)置推理加速大模型調(diào)用訓(xùn)練集群訓(xùn)練集群GPUA100GPUAGPUA100GPUA800(性能線性擴(kuò)容)(性能線性擴(kuò)容)騰訊云星脈RDMA網(wǎng)絡(luò)騰訊云星脈RDMA網(wǎng)絡(luò)-—業(yè)務(wù)流量的“導(dǎo)航儀”定制化模型精調(diào)：面向視覺(jué)場(chǎng)景的紫霄推理卡紫霄V1:高性價(jià)比的國(guó)產(chǎn)推理卡圖像合成機(jī)器翻·圖像合成機(jī)器翻·在深度優(yōu)化場(chǎng)景，最高可以做到A10的1.5-2倍性能。●小模型(7B以下)性價(jià)比紫霄v1llama43b高算力性價(jià)比(65B以上)高顯存高算力性價(jià)比傳統(tǒng)AI性價(jià)比紫霄v1自然語(yǔ)言處理(NLP)高內(nèi)存帶寬或許都有美好的未來(lái)大模型的未來(lái)發(fā)展部分主要技術(shù)的經(jīng)濟(jì)影響國(guó)內(nèi)大模型未來(lái)發(fā)展的挑戰(zhàn)人才挑戰(zhàn)：AI人才集中在美國(guó)·全球TOP2000頂級(jí)學(xué)者，美國(guó)占57%,谷歌微軟Meta占17%全球60%的AI人才在美國(guó)工作，其中三分之二來(lái)自國(guó)外，主要是中印算力挑戰(zhàn)：智算需求爆發(fā)式增長(zhǎng)·GPT-5算力需求預(yù)計(jì)是GPT-4的9倍以上·美國(guó)禁令對(duì)國(guó)內(nèi)企業(yè)的算力需求產(chǎn)生較大影響目前國(guó)產(chǎn)訓(xùn)練芯片僅有昇騰，且受限于產(chǎn)能和軟件生態(tài)數(shù)據(jù)挑戰(zhàn)：缺乏高質(zhì)量數(shù)據(jù)集·中文語(yǔ)料數(shù)據(jù)集占比低于5%,多元化不足，缺乏專用領(lǐng)域開(kāi)源數(shù)據(jù)數(shù)據(jù)荒正在到來(lái)，全球高質(zhì)量語(yǔ)言數(shù)據(jù)預(yù)計(jì)在三年內(nèi)耗盡——Al權(quán)威學(xué)者吳恩達(dá)AIAI智能體是什么?實(shí)例：如何快速開(kāi)發(fā)一個(gè)"兒童家庭教師"實(shí)例：如何快速開(kāi)發(fā)一個(gè)"兒童家庭教師"AI智能體?1)兒童通過(guò)微信語(yǔ)音向智能體提問(wèn)(感知)。2)智能體將語(yǔ)音轉(zhuǎn)成文字、并理解問(wèn)題(行動(dòng))。3)智能體通過(guò)網(wǎng)絡(luò)搜索和知識(shí)庫(kù)獲取相關(guān)知識(shí)(學(xué)習(xí))。5)智能體將文字轉(zhuǎn)化為語(yǔ)音，回答兒童的問(wèn)題(行動(dòng))。AIAI智能體平臺(tái)是什么?過(guò)去5分鐘說(shuō)了什么?