傅盛2024開年AI大課 -AI大潮下如何創(chuàng)新 從技術(shù)狂歡到商業(yè)落地 私有化大模型是王道

GPT引領(lǐng)AI浪潮GPT引領(lǐng)AI浪潮技術(shù)的底層范式發(fā)生重大變化牛頓開辟光學(xué)，創(chuàng)立微積分推導(dǎo)出引力公式底層范式正在改變，智能和技術(shù)“涌現(xiàn)”，新的創(chuàng)新機遇開啟愛因斯坦發(fā)表狹義相對論、質(zhì)能方程等四篇論文AI將帶來整個社會的底層重構(gòu)如何抓住這次創(chuàng)新大潮？讓我們從上一次科技大潮的小故事開始20年前一個年輕人懷揣400元來到北京過著很卷的北漂生活盡管有幸加入互聯(lián)網(wǎng)大潮，每天起早貪黑30歲前三個愿望一個都沒有實現(xiàn)同質(zhì)化的勤奮只會更卷不同的道路才可能勝出以更少的投入換取更大的產(chǎn)出猛然一刻意識到它是創(chuàng)新的底層思維模式卷的思維模式是ThinkBetter創(chuàng)新的思維模式是ThinkDifferent與其更好不如不同Part1ThinkDifferent創(chuàng)新的不二法門為什么偉大不能被計劃？只有ThinkDifferent找到新的道路才能實現(xiàn)偉大但新的道路不在大多數(shù)人的認知地圖中獵豹移動ThinkDifferent，Alli獵戶星空ThinkDifferent，AllinAIAI起步早取得了一些技術(shù)優(yōu)勢北京冬奧服務(wù)型機器人創(chuàng)新測評大賽五項產(chǎn)品入選，獨占半壁AI1.0時代深度學(xué)習(xí)成為熱潮獵戶星空搶先出擊全行業(yè)一起卷卻難破瓶頸一個小小的分支正在成長獵戶NLPV2.0獵戶語音識別v2.0ChatGPT橫空出世，震驚世界AI進入2.0時代，徹底開啟生產(chǎn)力革命獵戶NLP獵戶NLPV2.0獵戶語音識別v2.0AI2.0時代曾最被人看不起的ChatGPT分支成為主流OpenAIOpenAIUniverseOpenAI在同樣的技術(shù)路線下也卷不過巨頭也就是后來的ChatGPT學(xué)母語模式建立基本的邏輯認知學(xué)母語模式建立基本的邏輯認知產(chǎn)生邏輯能力和推理能力學(xué)外語模式學(xué)外語模式OpenAI,與其說是技術(shù)積累的成功不如說是技術(shù)信仰的成功更是ThinkDifferent的成功ChatGPT的橫空出世更像是哥倫布航?；仡櫥ヂ?lián)網(wǎng)創(chuàng)業(yè)大潮再看這次AI技術(shù)浪潮ThinkDifferent是創(chuàng)新的不二法門都是ThinkDifferent的成果Part2AI大模型創(chuàng)新依然可以ThinkDifferentChatGPT是一次底層范式正在改變每個業(yè)務(wù)用大模型重做一遍都能獲得十倍增長2023年市值超越蘋果“設(shè)計外包公司”“視頻翻譯公司”成為全球市值40名員工30名員工4名員工最高公司年收入超2億美金估值100億美金收入超過1800萬美金估值7500萬美金融資5500萬美金估值超2億美金面對這一次的AI大潮萬變不離其宗找到適合自己的道路20232023我們也曾很焦慮：2023年3月，國內(nèi)千億大模型創(chuàng)業(yè)如火如荼，團隊躁動不安“老板，再不動手訓(xùn)大模型就落伍了對于AllinAI七年的獵戶星空訓(xùn)練千億大模型本質(zhì)上是資本的投入只有做千億大模型才是唯一路徑嗎？大力發(fā)展Copilot應(yīng)用的微軟成為最大贏家WindowsCopilotOfficeCopilot不是只有跟隨OpenAI才能成功20234月大模型創(chuàng)新的兩種模式訓(xùn)練千億級模型垂直模型尋找應(yīng)用場景挖掘應(yīng)用場景垂直模型打造最適合模型20232023內(nèi)部生長出AI應(yīng)用對外提供咨詢服務(wù)4月3月CFO助理寫出的小工具自設(shè)計線上服務(wù)機器人自寫小工具自建應(yīng)用開發(fā)交流平臺垂直技術(shù)領(lǐng)域，AI可能帶來生產(chǎn)力的躍遷應(yīng)用組件模型組件月320236月4月月320236月4月朱嘯虎：大模型對創(chuàng)業(yè)者很不友好?傅盛：做好應(yīng)用，依然是創(chuàng)業(yè)者最好的機會！紙上得來終覺淺絕知此事要躬行2023年5月客戶問:能否幫我私有化部署大模型A100x8服務(wù)器每臺價格約160萬，只能滿足很小的并發(fā)請求恰逢其時LLaMA來了開源社區(qū)使得千億參數(shù)大模型性能護城河消失小參數(shù)模型能力迅速提升忽然一夜開源來千模萬模智能開AI大模型進入二元對立時代更小資源更專業(yè)性能更小資源更專業(yè)性能更靈活配置更全面性能更大的算力數(shù)據(jù)&應(yīng)用≈百億參數(shù)基座千億參數(shù)數(shù)據(jù)&應(yīng)用≈百億參數(shù)基座大模型數(shù)據(jù)圖表I文案打磨I創(chuàng)意腦暴I合同審核客戶案例，通過百億參數(shù)+應(yīng)用打磨專業(yè)回答問題超越GPT-4%回答準確率60%回答準確率Part3每個企業(yè)都有私有化大模型的時代到來了三個時代企業(yè)核心價值的變化互聯(lián)網(wǎng)和信息化經(jīng)營數(shù)據(jù)和數(shù)智化AIGC到底是什么？CICIC2C2C3私有數(shù)據(jù)企業(yè)經(jīng)營數(shù)據(jù)私有數(shù)據(jù)企業(yè)經(jīng)營數(shù)據(jù)數(shù)字員工和輔助決策才是真正的AI提效公有數(shù)據(jù)公有數(shù)據(jù)專崗私有數(shù)據(jù)企業(yè)經(jīng)營數(shù)據(jù)ChatGPT只從公開出版物上獲取數(shù)據(jù)互聯(lián)網(wǎng)公開大數(shù)據(jù)互聯(lián)網(wǎng)公開大數(shù)據(jù)GPTStoreGPTStore推出GPTStore調(diào)侃的說：給ChatGPT短期內(nèi)可以提高效率都可能在幫你的競爭對手成長甚至ChatGPT成了你的競爭對手山姆·奧特曼只給了我500美金OpenAI代金券卻毀掉了我300萬美金的初創(chuàng)公司為了讓企業(yè)有持久競爭力應(yīng)該使用私有化大模型讓經(jīng)營數(shù)據(jù)內(nèi)循環(huán)生長企業(yè)實現(xiàn)應(yīng)用AI的王者段位Part4獵戶星空大模型為企業(yè)應(yīng)用而生我們更關(guān)心百億模型我們更關(guān)心百億模型用的好不好刷分高不高是時候打造我們的百億參數(shù)模型了訓(xùn)練千億級模型挖掘應(yīng)用場景垂直模型垂直模型尋找應(yīng)用場景打造最適合模型七年磨一劍場景認知數(shù)據(jù)積累頂級團隊場景認知數(shù)據(jù)積累頂級團隊算法理解應(yīng)用打磨七大應(yīng)用微調(diào)方向七大應(yīng)用微調(diào)方向千元顯卡即可運行獵戶星空大模型千億效果用得好用得起用得安心為什么有些大模型在榜單上靠前，用起來一般般?對大模型來說，C-EVALHellaSwag（沒有刷過題）所以遇到?jīng)]有見過的新問題時，它的水平是一致的行業(yè)領(lǐng)先的百億參數(shù)大模型基座能力模型CMMLU學(xué)科MMLU學(xué)科C-EVAL知識AGIEval知識Lambada理解RACE理解HellaSwag推理BBH推理Orion-14B70.670.072.854.778.878.556.5LLaMA2-13B38.455.030.976.558.945.6Skywork-13B62.759.143.684.148.3Baichuan2-13B59.559.070.849.0QWEN-14B70.267.990.380.253.7InternLM-20B59.062.158.844.683.378.152.5基于第三方機構(gòu)OpenCompass獨立評測結(jié)果700億參數(shù)以下基座模型中文第一一次讀入一本小說在三十萬文字中任意位置隨機隱藏關(guān)鍵信息，對模型進行提問，推理速度提升30%推理速度提升30%(GB)(tokens/s)C-EvalRACEHellaSwagOrionStar-14B28.072.870.670.093.378.5OrionStar-14B-INT48.369.869.293.178.0獵戶星空大模型小企業(yè)專用版為滿足小企業(yè)需求推出量化后智能水平幾乎無損的版本為滿足小企業(yè)需求推出量化后智能水平幾乎無損的版本多語言能力多語言能力日語、韓語評測百億模型全球第一69.179.567.666.5Baichuan2-13B58.750.865.864.565.446.363.755.3Yi-34B58.768.8-70.7--KOGPT-6B-70.1--StableLM-7B---52.3---Weblab-10B50.7---ELYZA-7B48.8---日文為JNLI等8項評測集平均得分；韓文為COPA等4項評測集平均得分；中文英文為OpenCompass對應(yīng)語言評測集平均得分即便在評測成績上超越了某些更大參數(shù)的模型但坦率地說，跟GPT-4的全面性還是有差距企業(yè)應(yīng)用場景可超越GPT-4獵戶星空大模型下一個用得好用得好為了企業(yè)更好應(yīng)用獨家推出微調(diào)全家桶獵戶星空大模型獵戶星空大模型同頭部客戶一起同頭部客戶一起-用檢索的方法配合大模型進行任務(wù)處理，可以很好的使用企業(yè)數(shù)據(jù)進行知識問答知識片段：1、新浪科技：周鴻祎解釋為啥喜歡穿紅衣服：提醒別人叫對2、騰訊云：...會上主持人調(diào)侃360集團創(chuàng)始人、董事長新浪科技：周鴻祎解釋為啥喜歡穿紅衣服：提醒別人叫對名字...騰訊云：...會上主持人調(diào)侃360集團創(chuàng)始人、董事長周鴻祎喜RAG開源框架很多,可現(xiàn)實很骨感一周出Demo半年用不好VectorVectorDatabaseLLMAPI休閑跑步(普通普通RAG套件)休閑跑步(普通普通RAG套件)獵戶星空大模型RAG套件Q2EQ2EQ2Q2CoT獵戶星空傳統(tǒng)NLP技術(shù)插件獵戶星空傳統(tǒng)NLP技術(shù)插件CPTCPT場景化場景化SFT獵戶星空大模型基座獵戶星空大模型基座課程解析回答正確率課程解析94.5%課程解析課程解析回答正確率課程解析回答正確率52.88%胡編亂造讓大模型像人一樣工作自主完成任務(wù)。拆解任務(wù)目標·制定任務(wù)規(guī)劃·使用外部工具查詢知識庫I調(diào)用記憶I與企業(yè)系統(tǒng)打通做應(yīng)用所需的獵戶星空大模型均接近GPT-4水平100%90.3%91.07%100%90.3%91.07%%%意圖識別成功率首輪抽參成功率多輪抽參成功率缺槽反問成功率插件調(diào)用成功率一般的百億參數(shù)大模型表現(xiàn)不超過70%獵戶星空大模型RAG和Agent套件企業(yè)數(shù)字員工應(yīng)用最牛套件企業(yè)經(jīng)營數(shù)據(jù)私有數(shù)據(jù)企業(yè)經(jīng)營數(shù)據(jù)私有數(shù)據(jù)公有數(shù)據(jù)公有數(shù)據(jù)私有數(shù)據(jù)企業(yè)經(jīng)營數(shù)據(jù)大模型服務(wù)器可放置于企業(yè)內(nèi)網(wǎng)所有數(shù)據(jù)不連公網(wǎng)I免費I開源I可商用I社區(qū)技術(shù)支持獵戶星空百億參數(shù)大模型企業(yè)標配首選私有數(shù)據(jù)企業(yè)經(jīng)營數(shù)據(jù)私有數(shù)據(jù)企業(yè)經(jīng)營數(shù)據(jù)用好企業(yè)定制應(yīng)用才是王者段位公有數(shù)據(jù)公有數(shù)據(jù)私有數(shù)據(jù)企業(yè)經(jīng)營數(shù)據(jù)讓老板對經(jīng)營細節(jié)全掌握人力資產(chǎn)人力資產(chǎn)、云資產(chǎn)、數(shù)字資產(chǎn)，全天候細節(jié)無遺漏更多老板助手定制云資產(chǎn)助手創(chuàng)意助手人力助手獵戶星空大模型1定制服務(wù)為你的企業(yè)插上AI翅膀2LLM戰(zhàn)略建設(shè)4實施與測試6交付與培訓(xùn) 小公司深度不足大廠不愿做保姆“最后一個知道公司要倒閉的人?！吧蠈雍軣?，中層溫暖，底層很冷。你聽得到一線的呼聲嗎？讓一個老板可以看2000名員工的周報幫助公司發(fā)掘真正的核心員工傅盛三問老板（二）你知道公司云成本花到哪里了嗎？云資產(chǎn)助手傅盛三問老板（三）你是否為新營銷策略決策而苦惱？創(chuàng)意助手多AI智能體智囊團，讓各領(lǐng)域?qū)＜覟槟?024年預(yù)測1千億大模型過半凋零，私有化百億大模型百花盛開2超越OpenAI的機會來自大模型應(yīng)用公司3具身智能很火，但人形機器人必定不能量產(chǎn)亮點回顧ThinkDifferent規(guī)律不斷應(yīng)驗企業(yè)經(jīng)營數(shù)據(jù)私有數(shù)據(jù)企業(yè)經(jīng)營數(shù)據(jù)私有