人工智能專題：小米AI布局-國信證券

證券研究報(bào)告證券研究報(bào)告|2024年12月30日人工智能專題：小米AI布局投資評(píng)級(jí)：優(yōu)于大市（維持）xiongli1@.yunmengze@請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容摘要速度和量化性能，且長文本處理能力處于行業(yè)領(lǐng)先地位。團(tuán)隊(duì)在預(yù)訓(xùn)練、量化、推理加速等領(lǐng)域也進(jìn)行了一系列技術(shù)創(chuàng)新，包括SUBLLM、TransAct、INTRADoc等新結(jié)構(gòu)，進(jìn)一步提升了訓(xùn)練和推理效率。小米的「人車家全生態(tài)」戰(zhàn)略，旨在構(gòu)建涵蓋人、車、家等場(chǎng)景的智能生態(tài)系統(tǒng)，在實(shí)時(shí)交互需求日益uMiLM2大模型矩陣靈活擴(kuò)展，充分適配多元化場(chǎng)需求。針對(duì)終端場(chǎng)景，0.3B到6B的模型可完成具體、低成本任務(wù)，并在微調(diào)后與百億參數(shù)開源模型相媲美；6B至13B的模型支持多任務(wù)微調(diào)，達(dá)到幾百億開源u小米大模型應(yīng)用落地，全面賦能各類設(shè)備。提升用戶體驗(yàn)。在手機(jī)端，支持AI圖片編輯和智能視頻剪輯；平板用于自動(dòng)生成會(huì)議紀(jì)要和行業(yè)報(bào)告，提高工作效率；電視端提供影視問答、健身和家庭計(jì)劃等功能；汽車端具備語音控車、智能導(dǎo)航等功能，提升出行便捷性。這些成果已應(yīng)用于澎湃OS、小愛同學(xué)、智能座u2023年，小米正式宣布將集團(tuán)戰(zhàn)略升級(jí)為“人車家全生態(tài)”?！俺?jí)小愛”借助AI算法與大模型技術(shù)，大幅提升自然語言處理與決策能力；小米澎湃OS2請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容小米AI生態(tài)全景2023年，小米正式宣布將集團(tuán)戰(zhàn)略升級(jí)為“人車家全生態(tài)”。“超級(jí)小愛”借助AI算法與大模型技術(shù)，大幅提升自然語言處理與決策能力；小為全生態(tài)設(shè)備賦能；小米智能家庭平臺(tái)作為生態(tài)鏈的控制與電商中樞，連接米家生態(tài)鏈公司，開放接入第人車家全生態(tài)操作系統(tǒng)：小米澎湃OS基于AI人車家全生態(tài)操作系統(tǒng)：小米澎湃OS基于AI的操作系統(tǒng)：XiaomiHyperOS2AI大模型矩陣：包括MiLM-6B等模型8月：小米聲音大模型在SU7首次上車10月底：城市NOA全國都能開，開啟全量推送12月底：端到端全場(chǎng)景智能駕駛，開啟先鋒版推送智能語音助手小愛同學(xué)：全面搭載大模型，多模態(tài)能力升級(jí)涵蓋小愛通話、小愛翻譯、小愛視覺、家庭傳聲、聽聲識(shí)人等多種功能智能手機(jī)：小米15系列搭載驍龍8至尊版平板：Pad7Pro搭載第三代驍龍8s旗艦處理器智能家居：空調(diào)、冰箱、洗衣機(jī)等可穿戴設(shè)備：手環(huán)、手表、耳機(jī)等WPS365：包含了WPSOffice、WPSAI企業(yè)版和WPS協(xié)作，打通了文檔、AI、協(xié)作三大能力WPSOffice：內(nèi)置在線智能文檔、智能表格、智能表單等WPS云文檔（金山文檔提供多樣化的云辦公體驗(yàn)WPSAI：升級(jí)至2.0，推出WPSAI辦公助手、企業(yè)版、政務(wù)版國內(nèi)第一梯隊(duì)游戲云服務(wù)商，提供全套云產(chǎn)品，包括統(tǒng)一的國內(nèi)第一梯隊(duì)游戲云服務(wù)商，提供全套云產(chǎn)品，包括統(tǒng)一的IaaS基礎(chǔ)設(shè)施、PaaS層和SaaS應(yīng)用軟件資料來源：小米官網(wǎng)，金山辦公官網(wǎng)，金山云官網(wǎng)，國信證券經(jīng)濟(jì)研究所整理請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容小米科技戰(zhàn)略升級(jí)，小米自研大模型正式亮相聚焦底層技術(shù)與AI賦能，自研大模型正式推出。2023年8月14日，雷軍在年度演講中宣布小米科技戰(zhàn)略升級(jí)：深耕底層技術(shù)、長期持續(xù)投戶在享受安心的數(shù)據(jù)保護(hù)的同時(shí)，擁有大模型帶來的先進(jìn)生產(chǎn)力。小米自研大模型在當(dāng)時(shí)權(quán)威中文評(píng)測(cè)榜單C-EVAL和CMMLU中，取得同以AI為基石，沉淀技術(shù)積累。小米很早就對(duì)人工智能進(jìn)行布局，2016年小米AI實(shí)驗(yàn)室成立，并組建了第一支視覺AI團(tuán)隊(duì)，2023年4月成立專職大模型團(tuán)隊(duì)，截至2023年8月小米人工智能團(tuán)隊(duì)已經(jīng)有3000多人，逐步建立了視覺、語音、聲學(xué)、知識(shí)圖譜、NLP、機(jī)器學(xué)習(xí)、多模圖1：小米AI發(fā)展歷程資料來源：小米公司公眾號(hào)，國信證券經(jīng)濟(jì)研究所整理請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容小米大語言模型MiLM正式備案，多場(chǎng)景賦能提升效率2024年5月16日，小米大語言模型MiLM正?數(shù)據(jù)上，小米自身挖掘整理的訓(xùn)練數(shù)據(jù)占比達(dá)到了80%，其中小米自有的產(chǎn)品和業(yè)務(wù)數(shù)據(jù)量達(dá)到3TB（截至2023.8?訓(xùn)練策略上，采用小米提出的ScaledAdam優(yōu)化器和Eden學(xué)習(xí)率調(diào)度器，顯著提升收斂速度的同時(shí)減少了優(yōu)化器中顯存的浪費(fèi)，實(shí)資料來源：小米公司公眾號(hào)，小米技術(shù)公眾號(hào)，國信證券經(jīng)濟(jì)研究所整理請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容小米MiLM2升級(jí)發(fā)布：性能與技術(shù)全面提升，云邊端協(xié)同優(yōu)化?在10大能力維度上，相比于第一代模型平均提升超過45%，其中指令跟隨、翻譯、閑聊等關(guān)鍵能力處于業(yè)界前列；?支持的最長窗口為200k（第一代為4k在長文本評(píng)測(cè)中，效果處于業(yè)界前列。小米大模型團(tuán)隊(duì)在預(yù)訓(xùn)練、后訓(xùn)練、量化、推理加速等方向做了大量的技術(shù)?SUBLLM模型結(jié)構(gòu)：模型能夠區(qū)分重要token和不重要token，訓(xùn)練和推理速度分別提升34%和52%。?TransAct大模型結(jié)構(gòu)化剪枝方法：目的是同時(shí)實(shí)?INTRADoc注意力機(jī)制：通過屏蔽無關(guān)文檔，讓每個(gè)token的概率僅取決于同一文檔中的上文信息。?MixtureofDiverseSizeExperts：每一層中設(shè)計(jì)大小不同的專家結(jié)構(gòu)，并引入了一種專家對(duì)分配策略，資料來源：小米技術(shù)公眾號(hào)，國信證券經(jīng)濟(jì)研究所整理請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容MiLM2實(shí)力進(jìn)階，二代效果全方位提升小米大模型團(tuán)隊(duì)采用自主構(gòu)建的通用能力評(píng)測(cè)集Mi-LLMBM2.0，對(duì)最新一代的MiLM2模型進(jìn)行了全方位評(píng)估。該評(píng)測(cè)集涵蓋了廣泛的應(yīng)用場(chǎng)景，包括生成、腦暴、對(duì)話、問答、改寫、摘要、分類、提取、代碼處理以及安全回復(fù)等10個(gè)大類，共計(jì)170個(gè)細(xì)分測(cè)試項(xiàng)。以每時(shí)每刻都需要精確對(duì)接用戶千差萬別的個(gè)性化需求，這對(duì)于大模型的生成、閑聊、翻譯等能力提出了更高的要求。在這些關(guān)鍵能力上，圖7：MiLM2模型效果顯著提升資料來源：小米技術(shù)公眾號(hào)，國信證券經(jīng)濟(jì)研究所整理請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容MiLM2大模型矩陣靈活擴(kuò)展，充分適配多元化場(chǎng)景?0.3B~6B：終端（on-device）場(chǎng)景，應(yīng)用時(shí)通常是一項(xiàng)非常具體的、低成本的任務(wù)?30B：云端場(chǎng)景，具備堅(jiān)實(shí)的zero-小米自研大模型矩陣不僅包含多樣的參數(shù)量級(jí)，同時(shí)也納入了各種不同的模型結(jié)構(gòu)。在二代模型系列中，大模型團(tuán)隊(duì)加入了兩個(gè)MoE結(jié)構(gòu)圖9：MiLM2模型矩陣，參數(shù)規(guī)模靈活擴(kuò)展圖10：MiLM2-2B×8與MiLM2-6B效果不相上下資料來源：小米技術(shù)公眾號(hào)，國信證券經(jīng)濟(jì)研究所整理請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容端云并重：4B模型端側(cè)落地，30B模型云端部署端側(cè)新增4B模型：小米的大模型團(tuán)隊(duì)在端側(cè)部署方面取得了顯著進(jìn)展，成為業(yè)界首個(gè)在移動(dòng)設(shè)備上成功運(yùn)行1.3B和6B大模型的公司。小米大模型團(tuán)隊(duì)創(chuàng)新性地提出了“TransAct大模型結(jié)構(gòu)化剪枝方法”，僅用8%的訓(xùn)練計(jì)算量即從6B模型剪枝了4B模型，訓(xùn)練效率大大提升；同時(shí)小米大模型團(tuán)隊(duì)自研了“基于權(quán)重轉(zhuǎn)移的端側(cè)量化方法”和“基于Outliers分離的端側(cè)量化方法”，大幅降低了端側(cè)量化的精度損失。云端新增30B模型：MiLM2-30B模型是小米二代大模型系列中參數(shù)量級(jí)最大的模型，專為云端場(chǎng)景設(shè)計(jì)。在云端環(huán)境中，大模型需要更圖11：MiLM2端側(cè)能力與同行業(yè)比較資料來源：小米技術(shù)公眾號(hào)，國信證券經(jīng)濟(jì)研究所整理請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容小米第二代大模型應(yīng)用落地，賦能設(shè)備與提升業(yè)務(wù)效率?手機(jī)端支持AI圖片編輯，用戶可進(jìn)行動(dòng)漫風(fēng)轉(zhuǎn)換、背景替換等操作；文檔問答與智能成片功能幫助快速提取要點(diǎn)和自動(dòng)剪輯個(gè)性化視頻。?平板在辦公和學(xué)習(xí)場(chǎng)景中提供強(qiáng)大支持，可自動(dòng)生成會(huì)議紀(jì)要框架、行?電視端提供影視問答、健身休閑和家庭計(jì)劃等功能，豐富娛樂體驗(yàn)的同時(shí)增強(qiáng)健康和家庭生活的管理。?汽車端具備語音深度控車、智能導(dǎo)航、旅行助手等功能，提升駕駛安全和出行便捷性。資料來源：小米公司公眾號(hào)，國信證券經(jīng)濟(jì)研究所整理請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容相關(guān)合作標(biāo)的梳理業(yè)務(wù)領(lǐng)域相關(guān)個(gè)股IDC世紀(jì)互聯(lián)訓(xùn)練數(shù)據(jù)集銷售服務(wù)拓爾思服務(wù)器GPU英偉達(dá)、寒武紀(jì)、海光信息（合作待定）手機(jī)芯片高通、聯(lián)發(fā)科、芯?？萍?、慧智微、唯捷創(chuàng)芯（射頻）、艾為電子（音頻/馬達(dá)等）、圣邦股份（電源/模擬開關(guān)等）IOTSoC高通、匯頂科技、瑞芯微、恒玄科技（手表/手環(huán)芯片）、炬芯科技（手表芯片）、全志科技（音箱、CyberDog機(jī)器人等）手機(jī)硬件組件等比亞迪電子、華勤技術(shù)、舜宇光學(xué)、瑞聲科技、思特威、樂鑫科技小米汽車龍旗科技、無錫振華、經(jīng)緯恒潤、模塑科技、藍(lán)思科技小米家電TCL、創(chuàng)維數(shù)字、晶晨股份、視源股份AI辦公軟件及服務(wù)金山辦公測(cè)試技術(shù)和軟件服務(wù)慧博云通獨(dú)家供應(yīng)小米首款機(jī)器人所需軟板弘信電子資料來源：國信證券經(jīng)濟(jì)研究所整理請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容風(fēng)險(xiǎn)提示?AI應(yīng)用落地不及預(yù)期、市場(chǎng)需求不及預(yù)期、行業(yè)競(jìng)爭(zhēng)加劇、宏觀經(jīng)濟(jì)波動(dòng)。資料來源：國信證券研究所整理請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容請(qǐng)務(wù)必閱讀正文之后的免責(zé)聲明及其項(xiàng)下所有內(nèi)容國信證券投資評(píng)級(jí)投資評(píng)級(jí)標(biāo)準(zhǔn)類別級(jí)別說明報(bào)告中投資建議所涉及的評(píng)級(jí)（如有）分為股票評(píng)級(jí)和行業(yè)評(píng)級(jí)（另有說明的除外）。評(píng)級(jí)標(biāo)準(zhǔn)為報(bào)告發(fā)布日后6到12個(gè)月內(nèi)的相對(duì)市場(chǎng)表現(xiàn)，也即報(bào)告發(fā)布日后的6到12個(gè)月內(nèi)公司股價(jià)（或行業(yè)指數(shù)）相對(duì)同期相關(guān)證券市場(chǎng)代表性指數(shù)的漲跌幅作為基準(zhǔn)。A股市場(chǎng)以滬深300指數(shù)（000300.SH）作為基準(zhǔn)；新三板市場(chǎng)以三板成指（899001.CSI）為基準(zhǔn)；香港市場(chǎng)以恒生指數(shù)(HSI.HI)作為基準(zhǔn)；美國市場(chǎng)以標(biāo)普500指數(shù)(SPX.GI)或納斯達(dá)克指數(shù)（IXIC.GI）為基準(zhǔn)。股票投資評(píng)級(jí)優(yōu)于大市股價(jià)表現(xiàn)優(yōu)于市場(chǎng)代表性指數(shù)10%以上股價(jià)表現(xiàn)介于市場(chǎng)代表性指數(shù)±10%之間弱于大市股價(jià)表現(xiàn)弱于市場(chǎng)代表性指數(shù)10%以上無評(píng)級(jí)股價(jià)與市場(chǎng)代表性指數(shù)相比無明確觀點(diǎn)行業(yè)投資評(píng)級(jí)優(yōu)于大市行業(yè)指數(shù)表現(xiàn)優(yōu)于市場(chǎng)代表性指數(shù)10%以上行業(yè)指數(shù)表現(xiàn)介于市場(chǎng)代表性指數(shù)±10%之間弱于大市行業(yè)指數(shù)表現(xiàn)弱于市場(chǎng)代表性指數(shù)10%以上分析師承諾作者保證報(bào)告所采用的數(shù)據(jù)均來自合規(guī)渠道；分析邏輯基于作者的職業(yè)理解，通過合理判斷并得出結(jié)論，力求獨(dú)立、客觀、公正，結(jié)論不受任何第三方的授意或影響；作者在過去、現(xiàn)在或未來未就其研究報(bào)告所提供的具體建議或所表述的意見直接或間接收取任何報(bào)酬，特此聲明。重要聲明本報(bào)告由國信證券股份有限公司（已具備中國證監(jiān)會(huì)許可的證券投資咨詢業(yè)務(wù)資格）制作；報(bào)告版權(quán)歸國信證券股份有限公司（以下簡(jiǎn)稱“我公司”）所有。本報(bào)告僅供我公司客戶使用，本公司不會(huì)因接收人收到本報(bào)告而視其為客戶。未經(jīng)書面許可，任何機(jī)構(gòu)和個(gè)人不得以任何形式使用、復(fù)制或傳播。任何有關(guān)本報(bào)告的摘要或節(jié)選都不代表本報(bào)告正式完整的觀點(diǎn)，一切須以我公司向客戶發(fā)布的本報(bào)告完整版本為準(zhǔn)。本報(bào)告基于已公開的資料或信息撰寫，但我公司不保證該資料及信息的完整性、準(zhǔn)確性。本報(bào)告所載的信息、資料、建議及推測(cè)僅反映我公司于本報(bào)告公開發(fā)布當(dāng)日的判斷，在不同時(shí)期，我公司可能撰寫并發(fā)布與本報(bào)告所載資料、建議及推測(cè)不一致的報(bào)告。我公司不保證本報(bào)告所含信息及資料處于最新狀態(tài)；我公司可能隨時(shí)補(bǔ)充、更新和修訂有關(guān)信息及資料，投資者應(yīng)當(dāng)自行關(guān)注相關(guān)更新和修訂內(nèi)容。我公司或關(guān)聯(lián)機(jī)構(gòu)可能會(huì)持有本報(bào)告中所提到的公司所發(fā)行的證券并進(jìn)行交易，還可能為這些公司提供或爭(zhēng)取提供投資銀行、財(cái)務(wù)顧問或金融產(chǎn)品等相關(guān)服務(wù)。本公司的資產(chǎn)管理部門、自營部門以及其他投資業(yè)務(wù)部門可能獨(dú)立做出與本報(bào)告中意見或建議不一致的投資決策。本報(bào)告僅供參考之用，不構(gòu)成出售或購買證券或其他投資標(biāo)的要約或邀請(qǐng)。在任何情況下，本報(bào)告中的信息和意見均不構(gòu)成對(duì)任何個(gè)人的投資建議。任何形式的分享證券投資收益或者分擔(dān)證券投資損失的書面或口頭承諾均為無效。投資者應(yīng)結(jié)合自己的投資目標(biāo)和財(cái)務(wù)狀況自行判斷是否采用本報(bào)告所載內(nèi)容和信息并自行承擔(dān)風(fēng)險(xiǎn)，我公司及雇員對(duì)投資者使用本報(bào)告及其內(nèi)容而造成的一切后果不承擔(dān)任何法律責(zé)任。證券投資咨詢業(yè)務(wù)的說明本公司具備中國證監(jiān)會(huì)核準(zhǔn)的證券投資咨詢業(yè)務(wù)資格。證券投資咨詢，是指從事證券投資咨詢業(yè)務(wù)的機(jī)構(gòu)及其投資咨詢?nèi)藛T以下列形式為證券投資人或者客戶提供證券投資分析、預(yù)測(cè)或者建議等直接或者間接有償咨詢服務(wù)的活動(dòng)：接受投資人或者客戶委托，提供證券投資咨詢服務(wù)；舉辦有關(guān)證券投資咨詢的講座、報(bào)告會(huì)、分析會(huì)等；在報(bào)刊上發(fā)表證券投資咨詢的文章、評(píng)論、報(bào)告，以及通過電臺(tái)、電視臺(tái)等公眾傳播媒體提供證券投資咨詢服務(wù)；通過電話、傳真、電腦網(wǎng)絡(luò)等電信設(shè)備系統(tǒng)，提供證券投資