聚焦安全治理和人形機器人痛難點推動人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展

聚焦安全治理和人形機器人痛難點推動人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，加快發(fā)展新一代人工智能是事關(guān)我國能否抓住新一輪科技革命和產(chǎn)業(yè)變革機遇的戰(zhàn)略問題。目前，我國人工智能產(chǎn)業(yè)蓬勃發(fā)展，尤其是大模型涌現(xiàn)后，其強大的創(chuàng)新潛能給千行百業(yè)帶來了新的發(fā)展機遇。但目前國內(nèi)及北京市人工智能產(chǎn)業(yè)在安全治理及人形機器人等重點細(xì)分領(lǐng)域仍面臨“大模型存在技術(shù)漏洞、價值對齊困難及數(shù)據(jù)價值開發(fā)利用不足”、“人形機器人技術(shù)路徑不確定、通用泛化能力弱、應(yīng)用場景不足和降本路徑不清晰”等問題。一、國內(nèi)人工智能產(chǎn)業(yè)發(fā)展現(xiàn)狀及存在的機遇我國人工智能產(chǎn)業(yè)近年來蓬勃發(fā)展，北京市領(lǐng)跑全國。據(jù)中國信息通信研究院測算，2022年中國人工智能核心產(chǎn)業(yè)規(guī)模達(dá)5080億元。截至目前，10億參數(shù)規(guī)模以上的大模型已發(fā)布近80個。據(jù)《2022年北京人工智能產(chǎn)業(yè)發(fā)展白皮書》顯示，截至2022年，北京擁有人工智能核心企業(yè)1000余家，位列全國第一；核心區(qū)產(chǎn)業(yè)集聚能力全國第一，已經(jīng)形成全棧式的人工智能產(chǎn)業(yè)鏈；工信部“揭榜掛帥”優(yōu)勝項目數(shù)量居全國第一；人工智能算力發(fā)展排名居全國第一。諸多數(shù)據(jù)表明人工智能已成為北京“強項”，并有望在全國范圍內(nèi)發(fā)揮“頭雁”效應(yīng)，1免責(zé)申明：本內(nèi)容非原報告內(nèi)容;報告來源互聯(lián)網(wǎng)公開數(shù)據(jù)；如侵權(quán)請聯(lián)系客服微信，第一時間清理；報告僅限社群個人學(xué)習(xí)，如需它用請聯(lián)系版權(quán)方；如有其他疑問請聯(lián)系微信。

行業(yè)報告資源群進群福利：進群即領(lǐng)萬份行業(yè)研究、管理方案及其他學(xué)習(xí)資源，直接打包下載每日分享：6+份行研精選、3個行業(yè)主題報告查找：群里直接咨詢，免費協(xié)助查找嚴(yán)禁廣告：僅限行業(yè)報告交流，禁止一切無關(guān)信息微信掃碼長期有效知識星球行業(yè)與管理資源專業(yè)知識社群：每月分享8000+份行業(yè)研究報告、商業(yè)計劃、市場研究、企業(yè)運營及咨詢管理方案等，涵蓋科技、金融、教育、互聯(lián)網(wǎng)、房地產(chǎn)、生物制藥、醫(yī)療健康等；已成為投資、產(chǎn)業(yè)研究、企業(yè)運營、價值傳播等工作助手。微信掃碼行研無憂引領(lǐng)“群雁”活力。另外，近五成大模型集中在北京。截至10月初，北京發(fā)布大模型數(shù)量達(dá)115個，其中通用大模型12個，垂類大模型103個。大模型強大的創(chuàng)新潛能給千行百業(yè)帶來了新的發(fā)展機遇。如在人工智能Transformer模型引入CV領(lǐng)域和智能駕駛領(lǐng)域后，智駕能力的提升明顯加速；未來，基于Transformer有望出現(xiàn)感知決策一體化的大模型，進一步促進自動駕駛領(lǐng)域發(fā)展。AIGC領(lǐng)域，代碼生成、編程助手、軟件助手、操作助手等產(chǎn)品顯著提升大企業(yè)內(nèi)部的生產(chǎn)、客戶運營、市場營銷等環(huán)節(jié)的效率，有望重塑企業(yè)生產(chǎn)力。機器人領(lǐng)域，把大模型當(dāng)做“大腦”來輔助運行的人形機器人技術(shù)加速演進，已成為科技競爭的新高地、未來產(chǎn)業(yè)的新賽道、經(jīng)濟發(fā)展的新引擎，應(yīng)用前景廣闊。二、國內(nèi)人工智能產(chǎn)業(yè)發(fā)展面臨的風(fēng)險和挑戰(zhàn)（一）大模型面臨技術(shù)漏洞、價值對齊及數(shù)據(jù)價值開發(fā)利用不足等挑戰(zhàn)AI大模型的發(fā)展并非一片坦途，在孕育巨大機遇的同時，也面臨著諸多的安全挑戰(zhàn)。一是面臨技術(shù)漏洞等內(nèi)生安全問題和幻覺、濫用等。當(dāng)前許多大模型難以確保訓(xùn)練過程中數(shù)據(jù)質(zhì)量和清潔度，模型設(shè)計的安全性、模型訓(xùn)練的穩(wěn)定性都存在大的問題。因此大模型存在后門、數(shù)據(jù)隱私泄露等安全漏洞。例如，模型被黑客攻擊、惡意注入病毒等問題時有發(fā)生。2代碼實現(xiàn)不當(dāng)也可能導(dǎo)致AI大模型出現(xiàn)安全問題，比如有些模型在實現(xiàn)過程中可能存在未經(jīng)驗證的功能或邏輯漏洞，給惡意攻擊者留下可乘之機。由于大模型通常能夠在互聯(lián)網(wǎng)上可搜集到的數(shù)據(jù)上進行訓(xùn)練，因此不可避免地包含用戶隱私信息，可能造成隱私泄露。除此之外，預(yù)訓(xùn)練大模型還存在大模型幻覺1、恐怖等不良信息濫用等新型安全問題，給人們帶來潛在的安全威脅。二是價值觀對齊方面也面臨兩大挑戰(zhàn)。一是對齊的基礎(chǔ)-人類價值觀，是多元且動態(tài)變化的。比如在不同的意識形態(tài)下，詢問chatGPT和百度文心一言“中國的經(jīng)濟怎么樣”，可能得到不同的回答。甚至模型在訓(xùn)練后會對具有不同宗教、種族、性別等特征的人群產(chǎn)生不一致的結(jié)果等。這對很多沒有自主意識及判斷能力的低齡人群存在危害。二是大模型有用性跟無害性之間目標(biāo)不是完全一致，也會發(fā)生沖突。這導(dǎo)致對齊成為復(fù)雜的跨學(xué)科研究問題。三是數(shù)據(jù)價值開發(fā)利用與保護數(shù)據(jù)安全之間存在沖突。目前國內(nèi)80%的數(shù)據(jù)實際上是在防火墻后面。數(shù)據(jù)利用新需求、新模式、新業(yè)態(tài)與保護數(shù)據(jù)安全之間存在天然沖突，形成了數(shù)據(jù)利用與保護國家數(shù)據(jù)資源、保護商業(yè)秘密、保護個人隱私三個主要矛盾。如何在不引發(fā)新的安全風(fēng)險、隱私泄漏風(fēng)險的基礎(chǔ)上將這部分?jǐn)?shù)據(jù)的價值開發(fā)出來仍是一項嚴(yán)峻的課題。目前國內(nèi)已經(jīng)在成立國家大數(shù)據(jù)局的基礎(chǔ)上出臺了促進數(shù)據(jù)發(fā)揮價值、保大模型幻覺問題是指一些人工智能模型在面對某些輸入時，會生成不準(zhǔn)確、不完整或誤導(dǎo)性的輸出。3護數(shù)據(jù)知識產(chǎn)權(quán)、隱私以及安全的數(shù)據(jù)資產(chǎn)入表等相關(guān)規(guī)劃；作為數(shù)字經(jīng)濟時代的第一生產(chǎn)要素，數(shù)據(jù)有望成為政企報表及財政等收入的重要支撐。未來仍需要國家層面出臺更多關(guān)于數(shù)據(jù)要素確權(quán)、定價、交易流通、收益分配、試點等框架性的規(guī)定促進數(shù)據(jù)價值的開發(fā)利用。（二）人形機器人面臨技術(shù)路徑不確定、通用泛化能力弱、應(yīng)用場景不足和降本路徑不清晰的問題2023年起，隨著以ChatGPT為代表的AI大模型風(fēng)靡全球，人形機器人產(chǎn)業(yè)加速。10月，工業(yè)和信息化部印發(fā)《人形機器人創(chuàng)新發(fā)展指導(dǎo)意見》，指出人形機器人有望成為繼計算機、智能手機、新能源汽車后的顛覆性產(chǎn)品，發(fā)展?jié)摿Υ?、?yīng)用前景廣，是未來產(chǎn)業(yè)的新賽道。但國內(nèi)人形機器人產(chǎn)業(yè)目前仍處于0-1的階段，發(fā)展中仍面臨著諸多難點。一是基礎(chǔ)技術(shù)能力薄弱、技術(shù)路徑不確定。首先，人形機器人的外形問題上產(chǎn)業(yè)界仍存在分歧。如有的認(rèn)為人形機器人發(fā)展過程中還可能出現(xiàn)其它中間態(tài)，而有的認(rèn)為通用機器人的終極形態(tài)一定是人形機器人，因為其更適應(yīng)人類社會的環(huán)境。外形設(shè)計也是機器人研發(fā)的基礎(chǔ)和關(guān)鍵所在，既要考慮到機器人的獨特性，與人類的文化基因、社會背景相匹配，還必須符合機器人本身的結(jié)構(gòu)、功能、使用方法，機器人的安全性、機器人與人溝通等問題。其次，從核心零部件看，目前國內(nèi)外人形機器人的技術(shù)路徑處于百花齊放、百家爭鳴的狀態(tài)。4各科技企業(yè)、主機廠在量產(chǎn)前會大量試用各種零部件組裝方案，該階段對各種路線無法證偽。如特斯拉的人形機器人采用了14個線性執(zhí)行器、14個旋轉(zhuǎn)執(zhí)行器，采用無框力矩電機、力傳感器、行星滾柱絲杠、諧波減速器、行星減速器和空心杯電機等零部件。國內(nèi)廠家技術(shù)路線則不同。但總體來看，國內(nèi)在核心關(guān)鍵零部件雖然具有了一定的基礎(chǔ)，但在人形機器人專用傳感器、高功率密度執(zhí)行器、專用芯片，以及高能效專用動力組件等核心零部件方面技術(shù)仍較為薄弱。依靠現(xiàn)有的產(chǎn)業(yè)鏈支持，實現(xiàn)人形機器人的產(chǎn)品創(chuàng)新仍具有一定難度。二是智能化、通用泛化是人形機器人發(fā)展的最大難點。長期以來,人形機器人的用戶痛點主要集中在人機交互、智能感知、行為控制等方面。目前國內(nèi)外科技巨頭（而非工業(yè)機器人巨頭）和初創(chuàng)企業(yè)在用大模型等技術(shù)解決這些問題方面已經(jīng)做了一些探索，讓大家看到了通用機器人的曙光。如決策規(guī)劃算法是人形機器人智能化的關(guān)鍵，特斯拉將自動駕駛的FSD系統(tǒng)復(fù)用到機器人領(lǐng)域，使機器人擁有了智能屬性。國內(nèi)小鵬汽車也參照特斯拉的思路，遷移其自動駕駛算法、靈犀大模型等進入人形機器人賽道。AI大模型賦能從技術(shù)層面直接提升了人形機器人的人機交互能力，使機器人通用泛化成為可能。例如谷歌Palm-e大模型可將自然語言轉(zhuǎn)化為機器人可執(zhí)行的任務(wù)步驟，從而補全其推理決策能力并泛化至更通用的場景；Deepmind推出了自我改進的AI智能體RoboCat和RT-2模型，大幅提升機5器人對新事物的適應(yīng)性，并展現(xiàn)出對未出現(xiàn)指令的解釋和推理能力。上海稚暉君“遠(yuǎn)征A1”的WorkGPT應(yīng)用使其具備了理解人的指令并執(zhí)行任務(wù)的能力。但總體在通用機器人“大腦”方面仍有許多待解決的問題，而且國外巨頭憑借強大的資金和AI能力在該領(lǐng)域展現(xiàn)出更強大的競爭力。三是應(yīng)用場景和商業(yè)化降本路徑仍不明晰。成本下降是推動人形機器人落地的必備條件。人形機器人最早出現(xiàn)在上世紀(jì)七十年代，但成本高企一直是其難以商業(yè)化的重要原因，如波士頓動力的Atlas成本達(dá)到200萬美元，小米CyberOne單臺造價目前是60-70萬元人民幣。目前已有的人形機器人囿于技術(shù)、成本等因素應(yīng)用場景較為有限，主要在工業(yè)場景。未來一方面仍應(yīng)在技術(shù)進步的基礎(chǔ)上大幅降低軟硬件成本，另一方面仍需尋找能推動人形機器人大規(guī)模降本落地的場景，通過爆款場景帶動成本攤薄，進而推動人形機器人的商業(yè)化和產(chǎn)業(yè)爆發(fā)。業(yè)界預(yù)期，人形機器人產(chǎn)業(yè)將類似自動駕駛產(chǎn)業(yè)發(fā)展呈現(xiàn)出類似L0-L5等分階段發(fā)展的趨勢。目前，特斯拉憑借其優(yōu)秀的汽車配套產(chǎn)業(yè)鏈、汽車降本經(jīng)驗以及自動駕駛FSD算法協(xié)同提出使人形機器人降本至2萬美元，使人形機器人落地出現(xiàn)了可能。國內(nèi)智元機器人遠(yuǎn)征A1也提出要將整體硬件成本控制在20萬元以內(nèi)，并將產(chǎn)品應(yīng)用于比亞迪的應(yīng)用場景。但目前兩家公司的產(chǎn)品仍均在研發(fā)中，落地時間仍需進一步跟蹤。其它相關(guān)廠商暫時沒有提出明確的降本路徑。三、推動人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展的對策建議6（一）統(tǒng)籌大模型安全與發(fā)展，加大科研投入和技術(shù)推廣一是大模型監(jiān)管要兼顧安全與發(fā)展。今年7月，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了關(guān)于《生成式人工智能服務(wù)管理辦法》，旨在促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用。這也意味著國家已經(jīng)開始出手應(yīng)對大模型火熱帶來的一系列的安全問題。未來應(yīng)通過進一步細(xì)化大模型相關(guān)制度與規(guī)則、拓寬管轄范圍、加大監(jiān)督落實力度等方式，為大模型的發(fā)展探索劃定原則底線。二是更前置全面考慮大模型的安全問題，防御思路從“被動"變?yōu)椤爸鲃印?，加大科研投入，完善基礎(chǔ)設(shè)施，建立示范樣本。支持各大安全廠商開發(fā)適應(yīng)新的安全需求的產(chǎn)品。三是加強數(shù)據(jù)資產(chǎn)管理、數(shù)據(jù)全生命周期管控，提高數(shù)據(jù)質(zhì)量，積極尋求多種手段以增強模型的抵御能力，并鼓勵在模型的應(yīng)用和布署階段實施多重保護策略，推廣擬態(tài)防御、“AI識別AI”等技術(shù)應(yīng)對大模型的內(nèi)生安全挑戰(zhàn)。（二）探索保障數(shù)據(jù)安全的數(shù)據(jù)資源價值利用，推動數(shù)據(jù)財政體系構(gòu)建一是進一步完善數(shù)據(jù)要素評估、定價、入表、流通、價值分配的政策工具箱。在政策框架下，鼓勵政府、企業(yè)、投資機構(gòu)多方參與數(shù)據(jù)要素生態(tài)建設(shè)，推動數(shù)據(jù)要素產(chǎn)業(yè)發(fā)展。二是選擇數(shù)據(jù)要素市場化運營水平相對較高的地區(qū)作為試點，推動政府進行數(shù)據(jù)要素財政的探索。從國內(nèi)看，今年11月，衡陽市政務(wù)數(shù)據(jù)資源和智慧城市7特許經(jīng)營權(quán)出讓項目交易公告發(fā)布，項目起始價為180244.12萬元，已經(jīng)開始了國內(nèi)公共數(shù)據(jù)特許經(jīng)營權(quán)出讓交易的探索。未來仍將通過試點或者市場化案例的方式探索數(shù)據(jù)財政的可行性。并利用財政政策逐步引導(dǎo)社會資本參與公共數(shù)據(jù)運營產(chǎn)業(yè)投資和經(jīng)營。三是不斷改進和優(yōu)化數(shù)據(jù)治理手段，提升數(shù)據(jù)質(zhì)量分級分類處理效率，保障數(shù)據(jù)財政順利推進和落實。積極探索基于保障數(shù)據(jù)安全的技術(shù)手段在數(shù)據(jù)財政運行過程中的作用路徑。（三）強化頭部引領(lǐng)與產(chǎn)業(yè)協(xié)同，推動人形機器人技術(shù)躍升一是鼓勵科技巨頭加緊布局人形機器人“安卓”平臺。結(jié)合目前國際科技巨頭占據(jù)產(chǎn)業(yè)生態(tài)位的實際情況、特斯拉復(fù)用自動駕駛FSD系統(tǒng)后的顯著優(yōu)勢、人形機器人研發(fā)與落地均需要巨量資金等因素考慮，再加上國內(nèi)科技巨頭已在資金、算力、算法、數(shù)據(jù)、大模型垂直應(yīng)用場景等方面擁有豐富的積累，建議聚焦政策和資源支持國內(nèi)在AI領(lǐng)域具有較強實力的科技巨頭加緊在該領(lǐng)域布局或進一步加大研發(fā)投入，著力打造機器人“大腦”。鼓勵巨頭企業(yè)通過開源平臺，加快產(chǎn)品研發(fā)和提升。同時，對北京市新涌現(xiàn)的優(yōu)異的專注開發(fā)機器人通用大模型以及致力于將機器人硬件與行業(yè)垂直大模型結(jié)合的初創(chuàng)和中小企業(yè)進行精準(zhǔn)扶持，打造該領(lǐng)域優(yōu)異的鼓勵創(chuàng)新環(huán)境。二是鼓勵以科技巨頭為引領(lǐng)打造國內(nèi)人形機器8免責(zé)申明：本內(nèi)容非原報告內(nèi)容;報告來源互聯(lián)網(wǎng)公開數(shù)據(jù)；如侵權(quán)請聯(lián)系客服微信，第一時間清理；報告僅限社群個人學(xué)習(xí)，如需它用請聯(lián)系版權(quán)方；如有其他疑問請聯(lián)系微信。

行業(yè)報告資源群進群福利：進群即領(lǐng)萬份行業(yè)研究、管理方案及其他學(xué)習(xí)資源，直接打包下載每日分享：6+份行研精選、3個行業(yè)主題報告查找：群里直接咨詢，免費協(xié)助查找嚴(yán)禁廣告：僅限行業(yè)報告交流，禁止一切無關(guān)信息微信掃碼長期有效知識星球行業(yè)與管理資源專業(yè)知識社群：每月分享8000+份行業(yè)研究報告、商業(yè)計劃、市場研究、企業(yè)運營及咨詢管理方案等，涵蓋科技、金融、教育、互聯(lián)網(wǎng)、房地產(chǎn)、生物制藥、醫(yī)療健康等；已成為投資、產(chǎn)業(yè)研究、企業(yè)運營、價值傳播等工作助手。微信掃碼行研無憂人創(chuàng)新聯(lián)合體，以協(xié)同創(chuàng)新的方式推動核心零部件攻關(guān)和成本降低。引導(dǎo)中小企業(yè)關(guān)注產(chǎn)業(yè)前沿進展，做好公司業(yè)務(wù)數(shù)據(jù)積累，主動與科技巨頭進行鏈接，共同研發(fā)。三是鼓勵多種技術(shù)路線研發(fā)，建立現(xiàn)有重點企業(yè)及新進者的技術(shù)路線及產(chǎn)業(yè)化進程的跟蹤目錄，并關(guān)注成熟產(chǎn)業(yè)遷移到人形機器