騰訊云教育行業(yè)大模型產(chǎn)品方案手冊

騰訊云教育?業(yè)?模型?模型發(fā)展歷程?模型發(fā)展歷程?、?、回到熱點，ChatGPT演進(jìn)過程Google發(fā)布Gym強(qiáng)化學(xué)習(xí)平臺半監(jiān)督語言模型效果驗證2020數(shù)超大模型2022年初微調(diào)后用來改提升性能，人人第二階段：利用人工標(biāo)注引導(dǎo)生成2021年底-至今演進(jìn)動力:從人類反饋中學(xué)習(xí)第一階段：模型規(guī)模增大，融合的任務(wù)更多2017-2022年初演進(jìn)動力:訓(xùn)練語料&模型容量更大r6500萬參數(shù)3億參數(shù)ChatGPT的關(guān)鍵技術(shù)點1：千億參數(shù)大模型以及對應(yīng)的海量訓(xùn)練數(shù)據(jù)從“量變”到“質(zhì)變”，AI進(jìn)入“大模型”時代應(yīng)用場景營銷文案、模版寫作、劇本創(chuàng)作、編曲填詞、訪談提綱、論文綜述、課程設(shè)計、廣告創(chuàng)意……推薦系統(tǒng)商品推薦、廣告投放、搜索引擎、商戶運(yùn)營、用戶運(yùn)營、內(nèi)容運(yùn)營、視頻標(biāo)簽、服務(wù)匹配……風(fēng)控模型應(yīng)用場景營銷文案、模版寫作、劇本創(chuàng)作、編曲填詞、訪談提綱、論文綜述、課程設(shè)計、廣告創(chuàng)意……推薦系統(tǒng)商品推薦、廣告投放、搜索引擎、商戶運(yùn)營、用戶運(yùn)營、內(nèi)容運(yùn)營、視頻標(biāo)簽、服務(wù)匹配……風(fēng)控模型信用評估、欺詐檢測、訂單評估、賬號安全、支付風(fēng)險、內(nèi)容審核、工業(yè)質(zhì)檢、輿情分析……prompt智能問答語音助手、企業(yè)客服、呼叫中心、專家咨詢、智能助教、智能導(dǎo)診、銷售助手、培訓(xùn)輔導(dǎo)……感知智能計算智能認(rèn)知智能感知智能計算智能“涌現(xiàn)”“涌現(xiàn)”能力表示、計算、存儲與人機(jī)輸入、輸出大大模型Ref.《清華大學(xué)：人工智能發(fā)展報告2020》購物推薦購物推薦聊天對話旅行攻略更多場景文本翻譯營銷方案廣告營銷購物推薦文案創(chuàng)作視頻生成文字識別文檔摘要圖片生成商業(yè)客服我國10億參數(shù)規(guī)模以上的大模型已發(fā)布79個產(chǎn)業(yè)落地實效成大模型價值重要評估維度金融金融客戶服務(wù)風(fēng)險管理分析決策工業(yè)工業(yè)研發(fā)設(shè)計生產(chǎn)制造管理服務(wù)交通交通智能調(diào)度運(yùn)行監(jiān)測模擬預(yù)測政務(wù)政務(wù)流程管理決策支持社會保障傳媒傳媒媒資管理內(nèi)容生產(chǎn)媒體傳播能源能源自動監(jiān)測報警診斷運(yùn)維管理能力更“強(qiáng)”能力更“強(qiáng)”效率更“高”場景更“廣”應(yīng)用更應(yīng)用更“深”5/30，北京市政府發(fā)布《北京市加快建設(shè)具有全球影響力的人工智能創(chuàng)新策源地實施方案（2023-2025年）》、《北京市促進(jìn)通用人工智能創(chuàng)新發(fā)展的若干措施》。國產(chǎn)人工智能芯片和深度學(xué)習(xí)框架等基礎(chǔ)軟硬件產(chǎn)品市場占比顯著提升，算力芯片等基本實現(xiàn)自主可控。國產(chǎn)硬5/30，北京市政府發(fā)布《北京市加快建設(shè)具有全球影響力的人工智能創(chuàng)新策源地實施方案（2023-2025年）》、《北京市促進(jìn)通用人工智能創(chuàng)新發(fā)展的若干措施》。國產(chǎn)人工智能芯片和深度學(xué)習(xí)框架等基礎(chǔ)軟硬件產(chǎn)品市場占比顯著提升，算力芯片等基本實現(xiàn)自主可控。國產(chǎn)硬6/5，成都市公布《成都市關(guān)于進(jìn)一步促進(jìn)人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展的若干政策措施（征求意支持企業(yè)、科研機(jī)構(gòu)開展核心算法與專業(yè)算法研發(fā)，布局大規(guī)模語義模型、行業(yè)模型等，對取得國家科技重大專項（含科技創(chuàng)新2030－到2025年，人工智能核心產(chǎn)業(yè)規(guī)模達(dá)到400億元，帶動相關(guān)產(chǎn)業(yè)規(guī)模4000億元。以自動駕駛、智能制造、生成式人工智能為主攻方向，加快人工智能關(guān)鍵技術(shù)轉(zhuǎn)化推動以國產(chǎn)化CPU、GPU等硬件，算力平臺和大模型的自主研發(fā)，對于參數(shù)量超過百億、典型應(yīng)用場景超過5個的大模型，根產(chǎn)品概述產(chǎn)品概述科研創(chuàng)新家長終端科研創(chuàng)新家長終端AIforEducation自由對話角色扮演教案潤色生成課本/教學(xué)材料文獻(xiàn)摘要文獻(xiàn)問答AIforService專業(yè)咨詢培養(yǎng)計劃選課咨詢成績查詢獎助學(xué)金后勤事務(wù)AIforScience醫(yī)療行業(yè)大模型金融行業(yè)大模型教育行業(yè)大模型交通行業(yè)大模型口語評測任務(wù)對話教學(xué)視頻教育行業(yè)大模型開源大模型混元大模型知識解析和應(yīng)用知識管理應(yīng)用配置運(yùn)營調(diào)優(yōu)慎型管理模型層AIAI能?層知識問知識庫問答知識總結(jié)類知識摘要標(biāo)簽分類運(yùn)營調(diào)優(yōu)應(yīng)用評測知識庫管理知識問知識庫問答知識總結(jié)類知識摘要標(biāo)簽分類運(yùn)營調(diào)優(yōu)應(yīng)用評測知識庫管理應(yīng)用配置應(yīng)?共創(chuàng)知識引擎核?功能?知識引擎產(chǎn)品定義2.0：基于大語言模型的知識應(yīng)用構(gòu)建平臺，提供知識問答、知識總結(jié)等應(yīng)用類型及原子能力服務(wù)虛擬虛擬助汽車汽車汽車汽車助手員工員工服務(wù)騰訊內(nèi)部騰訊內(nèi)部安燈安燈樂享樂享開放對接層模型層混元大慎型混元大慎型精調(diào)知識大慎型精調(diào)知識大慎型應(yīng)用場景應(yīng)用場景口語對話評測對話記錄跟讀模式單詞記錄詞匯建議翻譯字幕騰訊自研大模型智聆口語評測數(shù)智人核心能力數(shù)智人對話任意主題對話語音輸入口語對話評測對話記錄跟讀模式單詞記錄詞匯建議翻譯字幕騰訊自研大模型智聆口語評測數(shù)智人核心能力數(shù)智人對話任意主題對話語音輸入子跟讀訓(xùn)練，并實時給出用戶發(fā)音評測結(jié)果，輔助方案場景方案能力數(shù)據(jù)接口底層能力英語口語英語口語中文口語主題對話練習(xí)主題對話練習(xí)多輪對話發(fā)音糾正對話提示評測報告語法糾正設(shè)定場景對話時長對話時長單詞數(shù)量評測分?jǐn)?shù)痛點一鍵生成教案聲情并茂潤色請生成一張人教版語文五年級《威尼斯小艇》的課程片多模態(tài)素材生成然特征與農(nóng)業(yè)》的課件PPT大綱然特征與農(nóng)業(yè)》的課件PPT大綱：痛點一鍵生成教案聲情并茂潤色請生成一張人教版語文五年級《威尼斯小艇》的課程片多模態(tài)素材生成然特征與農(nóng)業(yè)》的課件PPT大綱然特征與農(nóng)業(yè)》的課件PPT大綱：場景示例智能生成課件大綱課件輔助生成智能生成課件配圖給定教材、課時，生成教案 教案撰寫耗時了解學(xué)情，80%的精力用于書寫教案。教師每周工作中54%時間用于備課教案、匯報材料撰寫等教學(xué)活動枯燥2023年8月，教育部發(fā)布《職業(yè)教育專業(yè)教學(xué)資源庫建設(shè)指南》鼓勵合理運(yùn)用視頻類、動畫類、虛擬仿真類等資源，傳統(tǒng)教案面臨著形式枯燥、多媒體素材缺失挑戰(zhàn)教學(xué)案例老舊新課改背景下，《職業(yè)教育專業(yè)教學(xué)資源庫建設(shè)指南》明確，高職教學(xué)資源庫每年更新比例不低于10%，知識更新周期縮短。教學(xué)案例更新的時效性要求相應(yīng)提升課件復(fù)制照搬一線教師課件更新頻率低、教學(xué)精力不足，制作課件就等于下載或組合課件，學(xué)校的集體備課就相當(dāng)于分工搜索下載，到置課件內(nèi)容質(zhì)量低、創(chuàng)新性不足場景三：校園?政問答助?面向?qū)ο蟾咝Ｂ毮懿块T高校職能部門學(xué)生工作部門后勤部門科研部門黨委組織部門國際交流部門科研部門教務(wù)部門痛點溝通成本高溝通成本高效率低下服務(wù)質(zhì)量不高舉例，從《2023中國大學(xué)生滿意度調(diào)查報告》中可知，目前中國2000多所高校學(xué)生僅有23.1%的學(xué)生對學(xué)?？傮w滿意度為非常滿意。接咨詢壓力大甚至整個學(xué)校的師生對接。在5*8以外的場景示例流程咨詢流程咨詢業(yè)務(wù)辦理業(yè)務(wù)辦理今年在廣東省錄取人數(shù)為123人。其中通過高考統(tǒng)招計劃招中，普通批物理類錄取97人， 高?？蒲性核蒲形墨I(xiàn)大模型幫助研究人員提高科研效率、捕捉前沿觀點，促進(jìn)科研轉(zhuǎn)化面向?qū)ο蟾咝８咝?高職院校教育部將高職高校的理、科研項目等指標(biāo)納入考核大模型幫助高校建設(shè)科研文獻(xiàn)平臺，提高科研效率，助力科研成果轉(zhuǎn)化痛點文獻(xiàn)術(shù)語文獻(xiàn)術(shù)語晦澀文獻(xiàn)閱讀耗時分鐘，至少需要14個小時檢索定位費力大量文獻(xiàn)，但短期內(nèi)融合全庫跨專業(yè)背景的知識，形成學(xué)術(shù)觀點并標(biāo)注觀點溯潤色翻譯費力學(xué)術(shù)專業(yè)表達(dá)、跨語種翻譯有嚴(yán)格要求場景示例一鍵概括綜述文獻(xiàn)大意概括一鍵概括綜述文獻(xiàn)大意概括問答深度理解預(yù)置問題模版、支持自主提問、多輪對話、深度答疑問答深度理解預(yù)置問題模版、支持自主提問、多輪對話、深度答疑智能糾錯潤色智能糾錯潤色智能增刪、文本替換潤色精準(zhǔn)檢索定位精準(zhǔn)檢索定位精準(zhǔn)定位答案溯源處 痛點咨詢問題復(fù)雜求繁多溝通響應(yīng)緩慢難以承接日均8000+的并發(fā)咨響應(yīng)率低審核核對頻繁政策和信息、耗費大量時間精力問答重復(fù)機(jī)械號線上咨詢通常采用預(yù)置模板和回應(yīng)話術(shù)，問答對話過程僵硬機(jī)械高校信息化中心教育信息化明確將招生就業(yè)、教學(xué)科研等信息服務(wù)應(yīng)用納入考核體系大模型招生咨詢助手打造高校信息化亮點，提升高校信息化水平，鞏固高校長期影響力面向?qū)ο蟾咝Ｕ猩k高校招生辦2023年高考報名數(shù)達(dá)到1291萬，凈增長近100萬。普通本科校均規(guī)模16793人，高職校均規(guī)模高考志愿填報高峰時段最多8000通電話/天。大模型承接咨詢需求，提高咨詢響應(yīng)率，數(shù)智人還原校場景示例“新鮮的皮囊”——校友、校長、歷史名人數(shù)智人“新鮮的皮囊”——校友、校長、歷史名人數(shù)智人“有趣的靈魂”——搭載了角色扮演能力的大模型場景六：?模型+醫(yī)學(xué)科研探索騰訊醫(yī)學(xué)?模型騰訊醫(yī)學(xué)?模型通?數(shù)據(jù)互聯(lián)?線上診療、智慧問答、智能導(dǎo)診、智能預(yù)互聯(lián)?數(shù)據(jù)50+8000+50+8000+知名專家患者全周期健康管理產(chǎn)?的數(shù)據(jù)，包括物聯(lián)?設(shè)患者全周期健康管理產(chǎn)?的數(shù)據(jù)，包括物聯(lián)?設(shè)webMD獨家授權(quán)以業(yè)務(wù)流程為驅(qū)動的信息化→以知識、模型、算法為驅(qū)動的診療新范式投資顧問…場景六：?模型投資顧問…業(yè)務(wù)流程指引業(yè)務(wù)流程指引研報摘要與?成研報摘要與?成宏觀研究行業(yè)研究投資策略查詢投資產(chǎn)品查詢金融行業(yè)大模型智能??圖智能圖?圖場景七-智能圖像創(chuàng)作-智能??圖&智能圖?圖智能??圖智能圖?圖水彩畫水彩畫核?能?介紹核?能?介紹教案生成教育行業(yè)大慎型核心能力教案生成口語陪練口語陪練能力一：英語口語陪練大模型扮演口語老師的角色，牽引學(xué)生等英語學(xué)習(xí)者圍繞特定主題或課文內(nèi)容，進(jìn)行英語的對話練習(xí)。為學(xué)生提供低成本易獲取的英語口語練習(xí)學(xué)伴，提升英文表達(dá)能力能力二：教案生成智能生成符合教學(xué)設(shè)計語言描述和章節(jié)要求的教案內(nèi)容。支持遵循指令生成章節(jié)篇章要求，生成內(nèi)容豐富、結(jié)構(gòu)嚴(yán)謹(jǐn)?shù)慕贪竷?nèi)容，有效提升教師備課效率能力三：行政知識問答行政類文檔素材的知識問答。支持導(dǎo)入私域行政類文檔素材（如政策約束條件、事務(wù)處理流程、平臺/軟件操作指引等），大模型理解用戶實際意圖，結(jié)合知識庫內(nèi)容回答相應(yīng)問題。提高行政知識解答咨詢的效率，減輕人力壓力核心能力一：英語侖語陪練核心能力一：英語侖語陪練功能項輸入討論的主題和角色說明，大模型牽引用戶圍繞特定主題進(jìn)行英語對話練習(xí)，在對話過程中，根據(jù)對話歷史和最近一句模型從語法正確性和內(nèi)容合理性等方面對用戶的回復(fù)進(jìn)行評價難度的設(shè)置與調(diào)節(jié)按照指定的學(xué)段的難度要求設(shè)定模型輸出的預(yù)計難度，并支持在保持相同語義的情況下，增對于模型與用戶完成一段對話后，對于會話過程中用戶的語言組織、語法、用詞等方面進(jìn)行分析核心能力一：英語侖語陪練達(dá)低核心能力二：教案生成-能力展示核心能力二：教案生成-功能列表功能項支持根據(jù)教學(xué)要求，針對學(xué)情信息和地域特色等因素對教案全篇或部分章節(jié)內(nèi)容進(jìn)行潤核心能力二：教案生成能力-當(dāng)前版本亮點表現(xiàn)在初中階段我們已經(jīng)學(xué)會了兩個重要的能量轉(zhuǎn)化：①把機(jī)械能轉(zhuǎn)化為電蒸汽推動汽輪機(jī)旋轉(zhuǎn)，最后帶動發(fā)電機(jī)發(fā)電?，F(xiàn)在，隨著科技的發(fā)展，越來越多的新能源被人并加以開發(fā)利用，發(fā)電的方式越來越多樣化了。各種各樣的發(fā)電方式和家用電器給人們解：①若要了解夏熱鎮(zhèn)居民日平均用水量,只對個別居民進(jìn)行調(diào)查或?qū)λ芯用襁M(jìn)行調(diào)的;對于②,對所有運(yùn)動員進(jìn)行調(diào)查也是不合理的核心能力二：教案生成能力-當(dāng)前版本亮點表現(xiàn)性混合物有很多種類如：懸濁液、乳濁液、溶液等。除了這兩種不均一的混合物以外，還有【活動二】分別取廚房里的食鹽、蔗糖、食用油加入水中充分振蕩。實驗[學(xué)生討論]學(xué)生回答后教師播放實驗視頻：氯化鈉、硝酸鉀、硫酸銅在）：家想想玻璃儀器洗凈的標(biāo)準(zhǔn)是什么呢？是不是能繼續(xù)溶解洗滌劑呢？類似這樣通過不斷加入溶劑讓其量、溶解、裝瓶存放3.生活中處處充滿化學(xué)，下列各組化學(xué)知識的總結(jié)完全正確的一組是核心能力二：教案生成-算法選代規(guī)劃力持題目生成等細(xì)節(jié)內(nèi)容理度領(lǐng)先核?能?三：?政知識問答應(yīng)?配置測試及發(fā)布體驗核?能?三：?政知識問答應(yīng)?配置測試及發(fā)布體驗知識管理知識管理核?能?三：?政知識問答功能項知識庫管理知識解析知識問答知識圍欄對于超出知識庫范圍的內(nèi)容，大模型按照指產(chǎn)品優(yōu)勢說明產(chǎn)品優(yōu)勢說明知識助手無監(jiān)督：近百B數(shù)據(jù)無監(jiān)督：數(shù)百B數(shù)據(jù)有監(jiān)督：數(shù)千萬條數(shù)據(jù)無監(jiān)督數(shù)據(jù)通用大慎型知識助手無監(jiān)督：近百B數(shù)據(jù)無監(jiān)督：數(shù)百B數(shù)據(jù)有監(jiān)督：數(shù)千萬條數(shù)據(jù)無監(jiān)督數(shù)據(jù)通用大慎型?業(yè)?模型的特點.加入大量行業(yè)的無監(jiān)督/有監(jiān)督的數(shù)據(jù)，降低落地的成本;.融入大量從應(yīng)用場景積累而來的領(lǐng)域知識，提升執(zhí)行行業(yè)任務(wù)的能力應(yīng)用層應(yīng)用層通用大慎型通用大慎型?業(yè)?模型與混元的定位差異混元大慎型定位在基礎(chǔ)大模型的基礎(chǔ)上面向特定行業(yè)的能力需求優(yōu)化強(qiáng)化學(xué)習(xí)增強(qiáng)的教育行業(yè)對話模型使用客戶反饋的問題以及教育專家的建議，針對性迭代優(yōu)化模型模型能更貼近真實使用場景，回答更加專業(yè)教育行業(yè)對話模型教育教學(xué)問答，教案生成等近百萬條有監(jiān)督數(shù)據(jù)模型具備教育領(lǐng)域?qū)I(yè)能力教育行業(yè)預(yù)訓(xùn)練模型中小學(xué)及高校教材、期刊論文、課標(biāo)等，強(qiáng)化學(xué)習(xí)增強(qiáng)的教育行業(yè)對話模型使用客戶反饋的問題以及教育專家的建議，針對性迭代優(yōu)化模型模型能更貼近真實使用場景，回答更加專業(yè)教育行業(yè)對話模型教育教學(xué)問答，教案生成等近百萬條有監(jiān)督數(shù)據(jù)模型具備教育領(lǐng)域?qū)I(yè)能力教育行業(yè)預(yù)訓(xùn)練模型中小學(xué)及高校教材、期刊論文、課標(biāo)等，100B+Token無監(jiān)督數(shù)據(jù)模型具備完善的教育領(lǐng)域?qū)I(yè)知識體系基礎(chǔ)預(yù)訓(xùn)練模型不同應(yīng)用場景下海量高質(zhì)量無監(jiān)督數(shù)據(jù)集模型具備深厚的通識知識基礎(chǔ)騰訊云教育?業(yè)?語?模型：全流程數(shù)據(jù)驅(qū)動的模型訓(xùn)練強(qiáng)化學(xué)習(xí)SFT教育數(shù)據(jù)增訓(xùn)預(yù)訓(xùn)練模型模型優(yōu)勢：騰訊云教育?業(yè)領(lǐng)域數(shù)據(jù)沉淀教育?業(yè)?模型從模型的預(yù)訓(xùn)練、精調(diào)和強(qiáng)化學(xué)習(xí)階段加?了教育?業(yè)的數(shù)據(jù)，從基礎(chǔ)知識到領(lǐng)域知識全?位優(yōu)化提升模型在教育領(lǐng)域任務(wù)表現(xiàn)，數(shù)據(jù)范圍覆蓋以下內(nèi)容??監(jiān)督數(shù)據(jù)：教育領(lǐng)域的海量的?本內(nèi)容?課程標(biāo)準(zhǔn)：義務(wù)教育課程標(biāo)準(zhǔn)、普通高中課程標(biāo)準(zhǔn)等?教材：中小學(xué)教材、高校教材等?學(xué)術(shù)文章：學(xué)術(shù)論文、期刊等?有監(jiān)督精調(diào)：教育?業(yè)領(lǐng)域數(shù)據(jù)?教案：小學(xué)、初中、高中教案?對話：英文對話，教材的英文對話?題目：初中、高中的各學(xué)科題目、編程題目模型優(yōu)勢：從數(shù)據(jù)構(gòu)建到模型訓(xùn)練全周期>修改模型結(jié)構(gòu)的增量預(yù)訓(xùn)練>凍結(jié)基礎(chǔ)模型的參數(shù)，只訓(xùn)練增量參數(shù)細(xì)粒度、體系化的數(shù)據(jù)構(gòu)建流程>細(xì)粒度無監(jiān)督數(shù)據(jù)收集和清洗>針對特定任務(wù)的數(shù)據(jù)構(gòu)建方案>全參數(shù)有監(jiān)督精調(diào)>基于DPO的強(qiáng)化學(xué)習(xí)對齊測試集準(zhǔn)確率騰訊云智能73.09OpenAI友商Z8192測試集準(zhǔn)確率騰訊云智能73.09OpenAI友商Z819252.0070.54友商A友商W72.4963.66最大長度模型名2.使用向量關(guān)鍵詞混合檢索策略、表格文字混合檢索策略等，提1211知識解析22知識切分4433知識檢索數(shù)字問答數(shù)字問答表格問答表格問答操作步驟問答操作步驟問答推理比較推理比較辱罵文本涉黃文