人工智能白皮書（2022年）

工中國(guó)信通院2022年4月版權(quán)聲明本白皮書版權(quán)屬于中國(guó)信息通信研究院，并受法律保護(hù)。轉(zhuǎn)載、摘編或利用其它方式使用本白皮書文字或者觀點(diǎn)的，應(yīng)注明“來源：中國(guó)信息通信研究院”。違反上述聲明者，本院將追究其相關(guān)法律責(zé)任。在新科技革命和產(chǎn)業(yè)變革的大背景下，人工智能與產(chǎn)業(yè)深度融合，是釋放數(shù)字化疊加倍增效應(yīng)、加快戰(zhàn)略新興產(chǎn)業(yè)發(fā)展、構(gòu)筑綜合競(jìng)爭(zhēng)優(yōu)勢(shì)的必然選擇。當(dāng)前，人工智能加快向各產(chǎn)業(yè)滲透，正在促進(jìn)新興產(chǎn)業(yè)之間、新興產(chǎn)業(yè)與傳統(tǒng)產(chǎn)業(yè)之間以及技術(shù)與社會(huì)的跨界融合發(fā)展。在“十四五”開端，全面梳理人工智能的發(fā)展態(tài)勢(shì)，具本白皮書重點(diǎn)從人工智能政策、技術(shù)、應(yīng)用和治理等維度進(jìn)行了闡述。政策層面，國(guó)內(nèi)外不斷強(qiáng)化人工智能的戰(zhàn)略地位，推動(dòng)釋放人工智能紅利。技術(shù)及應(yīng)用層面，以深度學(xué)習(xí)為代表的人工智能技術(shù)飛速發(fā)展，新技術(shù)開始探索落地應(yīng)用；工程化能力不斷增強(qiáng)，在醫(yī)療、制造、自動(dòng)駕駛等領(lǐng)域的應(yīng)用持續(xù)深入；可信人工智能技術(shù)引起社會(huì)廣泛關(guān)注。與此同時(shí)，治理層面工作也受到全球高度關(guān)注，各國(guó)規(guī)制進(jìn)程不斷加速，基于可信人工智能的產(chǎn)業(yè)實(shí)踐不斷深總體來看，本白皮書認(rèn)為人工智能逐步進(jìn)入新的階段，下一步的發(fā)展方向，將由技術(shù)創(chuàng)新、工程實(shí)踐、可信安全“三維”坐標(biāo)來定義和牽引。具體來看，第一個(gè)維度突出創(chuàng)新，圍繞著算法和算力方面的創(chuàng)新仍會(huì)不斷涌現(xiàn)。第二個(gè)維度突出工程，工程化能力逐漸成為人工智能大規(guī)模賦能千行百業(yè)的關(guān)鍵要素。第三個(gè)維度突出可信，發(fā)展負(fù)責(zé)任和可信的人工智能成為共識(shí)，將抽象的治理原則落由于人工智能發(fā)展速度之快、輻射范圍之廣、影響程度之深前所未有，我們對(duì)人工智能的認(rèn)識(shí)還有待進(jìn)一步深化，白皮書中存在 4 1一、人工智能發(fā)展概述人工智能是引領(lǐng)未來的新興戰(zhàn)略性技術(shù)，是驅(qū)動(dòng)新一輪科技革命和產(chǎn)業(yè)變革的重要力量。習(xí)近平總書記多次作出重要指示，強(qiáng)調(diào)“要深入把握新一代人工智能發(fā)展的特點(diǎn)，加強(qiáng)人工智能和產(chǎn)融合，為高質(zhì)量發(fā)展提供新動(dòng)能”。近年來，人工智能相關(guān)技術(shù)持續(xù)演進(jìn)，產(chǎn)業(yè)化和商業(yè)化進(jìn)程不斷提速，正在加快與千行百業(yè)深度融合。站在“十四五”開端這一特殊的節(jié)點(diǎn)，我們堅(jiān)信全面梳理人工智能政策、技術(shù)、應(yīng)用以及治理的發(fā)展態(tài)勢(shì)，能夠有益于凝聚業(yè)界共識(shí)，推動(dòng)人工智能持續(xù)健康發(fā)展。(一)全球不斷升級(jí)人工智能戰(zhàn)略，紛紛搶抓重要發(fā)展機(jī)遇人工智能已成為科技創(chuàng)新的關(guān)鍵領(lǐng)域和數(shù)字經(jīng)濟(jì)時(shí)代的重要支上升到國(guó)家戰(zhàn)略高度。近兩年來，特別是新冠疫情的沖擊下，越來越多的國(guó)家認(rèn)識(shí)到，人工智能對(duì)于提升全球競(jìng)爭(zhēng)力具有關(guān)鍵作用，力，其中將推動(dòng)人工智能發(fā)展列為重要的工作。美國(guó)陸續(xù)成立了國(guó)集出臺(tái)了系列政策，將人工智能提到“未來產(chǎn)業(yè)”和“未來技術(shù)”領(lǐng)域的高度，不斷鞏固和提升美國(guó)在人工智能領(lǐng)域的全球競(jìng)爭(zhēng)力，確?！邦I(lǐng)頭羊”地位。日本繼制定《科學(xué)技術(shù)創(chuàng)新指出，要瞄準(zhǔn)人工智能等前沿領(lǐng)域，實(shí)施一批具有前瞻性、戰(zhàn)略性面向人工智能領(lǐng)域創(chuàng)新需求的投資不斷加大。主要經(jīng)濟(jì)體通過激勵(lì)計(jì)劃和直接投資項(xiàng)目等推動(dòng)人工智能發(fā)展已廣泛實(shí)踐。歐盟不斷加大人工智能產(chǎn)業(yè)資金支持力度，大力促進(jìn)歐洲的數(shù)字變革。歐盟有史以來最大的支持研發(fā)和創(chuàng)新項(xiàng)目——“地平線歐洲”計(jì)劃總投資額達(dá)955億歐元，明確將人工智能列1https://www8.cao.go.jp/cstp/ai/aistrategy2021_gaiyo.pdf2行研發(fā)工作。英國(guó)將投資和規(guī)劃人工智能生態(tài)系統(tǒng)作為長(zhǎng)期戰(zhàn)略，啟動(dòng)國(guó)家人工智能研究與創(chuàng)新計(jì)劃，支持人工智能先進(jìn)研究等。據(jù)通過應(yīng)用牽引推動(dòng)人工智能技術(shù)落地成為各國(guó)共識(shí)。美國(guó)引導(dǎo)能研究機(jī)構(gòu)，涵蓋了人機(jī)交互、人工智能優(yōu)化、動(dòng)態(tài)系統(tǒng)、增強(qiáng)學(xué)習(xí)等方向，研究項(xiàng)目更是涵蓋了建筑、醫(yī)療、生物、地質(zhì)、電氣、教育、能源等多個(gè)領(lǐng)域。英國(guó)支持人工智能產(chǎn)業(yè)化，啟動(dòng)人工智能辦公室和英國(guó)研究與創(chuàng)新局聯(lián)合計(jì)劃等，確保人工智能惠及所有行智能應(yīng)用作為重點(diǎn)，提出加快建設(shè)相關(guān)基礎(chǔ)設(shè)施，重點(diǎn)強(qiáng)調(diào)了跨行業(yè)的數(shù)據(jù)傳輸平臺(tái)以及人工智能相關(guān)標(biāo)準(zhǔn)等，全面推動(dòng)人工智能在醫(yī)療、農(nóng)業(yè)、交通物流、智慧城市、制造業(yè)等各個(gè)行業(yè)開展應(yīng)用，并加大對(duì)中小企業(yè)的支援。我國(guó)十四五規(guī)劃綱要明確大力發(fā)展人工州、成都等第二批國(guó)家人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)，不斷強(qiáng)化應(yīng)用牽4.uk/government/news/new-ten-year-plan-to-make-b34引作用?？萍疾恐С纸ㄔO(shè)多個(gè)人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)，陸續(xù)批復(fù)(二)人工智能開始邁入全新階段，持續(xù)健康發(fā)展成為近十年，得益于深度學(xué)習(xí)等算法的突破、算力的不斷提升以及海量數(shù)據(jù)的持續(xù)積累，人工智能才得以真正大范圍地從實(shí)驗(yàn)室研究走向產(chǎn)業(yè)實(shí)踐。產(chǎn)業(yè)發(fā)展和賦能的過程中，一方面，大量的實(shí)踐場(chǎng)景均能看到從“可用”到“好用”的發(fā)展路徑，這離不開技術(shù)自身的持續(xù)迭代，工程實(shí)現(xiàn)的不斷優(yōu)化，以及管理體系的支撐保障。另一方面，隨著人工智能應(yīng)用暴露出各種風(fēng)險(xiǎn)和挑戰(zhàn)，以及人們對(duì)人工智能認(rèn)識(shí)的不斷深入，人工智能治理已經(jīng)成為全球各界高度關(guān)注的議未來人工智能除了重視技術(shù)創(chuàng)新以外，還更加關(guān)注工程實(shí)踐和可信安全，這也構(gòu)成了新的“三維”發(fā)展坐標(biāo)，牽引人工智能技術(shù)產(chǎn)業(yè)邁向新的階段。事實(shí)上，業(yè)界在各個(gè)維度上的努力早已開始，并且從未停止過，只是時(shí)至今日，工程實(shí)踐和可信安全被擺在了更5追求特定場(chǎng)景下的技術(shù)創(chuàng)新一直是人工智能發(fā)展的目標(biāo)和驅(qū)動(dòng)計(jì)算機(jī)視覺、智能語音、自然語言處理等領(lǐng)域廣泛應(yīng)用，相繼超過人類識(shí)別水平5。人工智能算力的多元化以及單點(diǎn)算力的不斷提升，有力支撐了人工智能的發(fā)展。再到近期，國(guó)內(nèi)外超大規(guī)模預(yù)訓(xùn)練模型頻繁涌現(xiàn)，不斷刷新各個(gè)應(yīng)用領(lǐng)域的榜單。未來，在算法、算力工程實(shí)踐能力日益成為釋放人工智能技術(shù)紅利的重要支撐。在等開源框架的誕生，通過屏蔽底層硬件和操作系統(tǒng)細(xì)節(jié)，大幅降低模型開發(fā)和部署難度，有效推動(dòng)了人工智能技術(shù)的擴(kuò)散。當(dāng)前，人工智能與云計(jì)算、大數(shù)據(jù)等支撐技術(shù)的融合不斷深入，圍繞著數(shù)據(jù)受到越來越多的關(guān)注。隨著工程實(shí)踐能力的不斷提升，“小作坊、項(xiàng)目制”的賦能方式正在成為歷史，未來將會(huì)更加便捷、高效地實(shí)可信安全逐漸成為人工智能賦能過程中不可或缺的保障?？尚湃斯ぶ悄茏钤缬蓪W(xué)術(shù)界提出，近年來圍繞著安全性、穩(wěn)定性、可解釋性、隱私保護(hù)、公平性等方面的可信人工智能研究持續(xù)升溫。可5/2021-report/gathering-strength-gathering-storms-one-hundred-year-study-artifi67工智能創(chuàng)新發(fā)展，成為了重要的共識(shí)。可信人工智能的理念逐步貫徹到人工智能的全生命周期之中，產(chǎn)業(yè)實(shí)踐不斷豐富總的來看，人工智能正在邁入“創(chuàng)新驅(qū)動(dòng)、應(yīng)用深化、規(guī)范發(fā)展”的新階段。從人工智能自身產(chǎn)業(yè)化的角度來看，技術(shù)迭代升級(jí)是發(fā)展的源動(dòng)力，目前人工智能尚不完善，智能化路徑還在加快探索，技術(shù)的創(chuàng)新驅(qū)動(dòng)將有助于拓展新的發(fā)展空間。從人工智能賦能傳統(tǒng)產(chǎn)業(yè)的角度來看，特別是疫情以來，數(shù)字化、智能化轉(zhuǎn)型不斷提速，推動(dòng)人工智能應(yīng)用邁入加速軌道，相關(guān)應(yīng)用不斷深化。從治理角度來看，技術(shù)和產(chǎn)業(yè)發(fā)展要領(lǐng)先于監(jiān)管和制度，治理問題日益嚴(yán)峻，保障人工智能的健康發(fā)展成為全球共同關(guān)注。這里面既有漸進(jìn)的變化，也有結(jié)構(gòu)性甚至方向性的調(diào)整，需要全面、系統(tǒng)地提升二、人工智能技術(shù)及應(yīng)用沿著“創(chuàng)新、工程、可信”三個(gè)方向持續(xù)演進(jìn)在新的背景下，人工智能技術(shù)亦需要適應(yīng)新的變化。本章按照新三維坐標(biāo)對(duì)人工智能技術(shù)及應(yīng)用的發(fā)展態(tài)勢(shì)進(jìn)行了梳理。圍繞著算法、算力和數(shù)據(jù)的技術(shù)創(chuàng)新始終是前進(jìn)主旋律；工程實(shí)踐中的相關(guān)技術(shù)開始覆蓋人工智能全流程，加速人工智能大規(guī)模落地應(yīng)用；8(一)人工智能在追求極致創(chuàng)新方面不斷突破一直以來，算法、算力和數(shù)據(jù)被認(rèn)為是人工智能發(fā)展的三駕馬車，也是推動(dòng)人工智能發(fā)展的重要基礎(chǔ)。在算法層面，超大規(guī)模預(yù)成為基礎(chǔ)科學(xué)研究的重要工具。在基礎(chǔ)算力層面，單點(diǎn)算力持續(xù)提升，算力定制化、多元化成為重要發(fā)展趨勢(shì)；計(jì)算技術(shù)圍繞數(shù)據(jù)處理、數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)交互三大能力要素演進(jìn)升級(jí)，類腦芯片、量子技術(shù)需要大量的標(biāo)注數(shù)據(jù)，這也催生了專門的技術(shù)乃至服務(wù)，隨著面向問題的不斷具體化和深入，數(shù)據(jù)服務(wù)走向精細(xì)化和定制化；此外，隨著知識(shí)在人工智能的重要性被廣泛提及，對(duì)知識(shí)集的構(gòu)建和1.新算法不斷涌現(xiàn)，技術(shù)融合成重要趨勢(shì)超大規(guī)模預(yù)訓(xùn)練模型推動(dòng)技術(shù)效果不斷提升，繼續(xù)朝著規(guī)模更谷歌、華為、智源研究院、中科院、阿里巴巴等企業(yè)和研究機(jī)構(gòu)相9紀(jì)錄，百度ERNIE3.0模型[6]在自然語言理解任務(wù)上的綜合評(píng)分當(dāng)前，預(yù)訓(xùn)練模型參數(shù)數(shù)量、訓(xùn)練數(shù)據(jù)規(guī)模按照300倍/年的趨勢(shì)增跨模態(tài)預(yù)訓(xùn)練大模型日益普遍，已經(jīng)從早期只學(xué)習(xí)文本數(shù)據(jù)，到聯(lián)合學(xué)習(xí)文本和圖像，再到如今可以處理文本、圖像、語音三種模態(tài)數(shù)據(jù)，未來使用更多種圖像編碼、更多種語言、以及更多類型數(shù)據(jù)的預(yù)訓(xùn)練模型將會(huì)涌現(xiàn)，這也是實(shí)現(xiàn)人工智能通用化的有益探輕量化深度學(xué)習(xí)技術(shù)不斷探索，計(jì)算效率顯著提升。復(fù)雜的深度學(xué)習(xí)模型往往需要消耗大量的存儲(chǔ)空間和計(jì)算資源，難以在端、邊等資源受限情形下應(yīng)用，具備低內(nèi)存和低計(jì)算量?jī)?yōu)勢(shì)的技術(shù)成為業(yè)界需求。輕量化深度學(xué)習(xí)成為解決這一挑戰(zhàn)的重要技術(shù)，包括設(shè)掉部分模型結(jié)構(gòu)），以及對(duì)網(wǎng)絡(luò)參數(shù)進(jìn)行量化從而減少計(jì)算量等方模型的典型代表；百度推出的輕量化PaddleOCR模型規(guī)模減小至“生成式人工智能”技術(shù)不斷成熟，未來聽、說、讀、寫等能智能寫作、代碼生成、有聲閱讀、新聞播報(bào)、語音導(dǎo)航、影像修復(fù)等領(lǐng)域，通過機(jī)器自動(dòng)合成文本、語音、圖像、視頻等正在推動(dòng)互聯(lián)網(wǎng)數(shù)字內(nèi)容生產(chǎn)的變革。聽、說、讀、寫等能力的有機(jī)結(jié)合成為化生產(chǎn)，相關(guān)數(shù)字人主播和數(shù)字人記者，已在全國(guó)兩知識(shí)計(jì)算成為推動(dòng)人工智能從感知智能向認(rèn)知智能轉(zhuǎn)變的重要探索。知識(shí)凝聚了人的智慧，知識(shí)和數(shù)據(jù)的雙驅(qū)動(dòng)有助于解決不完全信息、不確定性和動(dòng)態(tài)環(huán)境下的推理決策問題，可以提高人工智能系統(tǒng)的智能化水平。目前，圍繞著知識(shí)獲取、知識(shí)建模、知識(shí)管6/PaddlePaddle/Paddl理、知識(shí)應(yīng)用等過程，已經(jīng)形成了涵蓋知識(shí)等技術(shù)，覆蓋知識(shí)表示、知識(shí)計(jì)算、知識(shí)推理與決策能力的體系，可實(shí)現(xiàn)對(duì)知識(shí)的管理與利用。學(xué)術(shù)界和產(chǎn)業(yè)界都已經(jīng)開始推出基于知識(shí)的人工智能應(yīng)用平臺(tái)或解決方案，例如清華大學(xué)、浙江大學(xué)、華為云、智源研究院、百度、竹間智能、國(guó)雙等推出的知識(shí)計(jì)算引擎、知識(shí)中臺(tái)、知識(shí)工程平臺(tái)、知識(shí)智能平臺(tái)等解決方案。未來，知識(shí)計(jì)算將著力在深度學(xué)習(xí)算法中嵌入先驗(yàn)知識(shí)建立可解釋模型，讓知識(shí)深入?yún)⑴c模型求解，進(jìn)一步提高人工智能的效率、水平以及人工智能與科學(xué)研究融合不斷深入，開始“顛覆”傳統(tǒng)研究范式。近年來，人工智能對(duì)海量數(shù)據(jù)的分析能力能夠讓研究者不再局限于常規(guī)的“推導(dǎo)定理式”研究，可以基于高維數(shù)據(jù)發(fā)現(xiàn)相關(guān)信息高精度的同時(shí)，將分子動(dòng)力學(xué)極限提升了數(shù)個(gè)量級(jí)，比過去同類工7/skhtmlne生物學(xué)乃至工程領(lǐng)域等融合探索不斷涌現(xiàn)，未來將不斷拓展人工智2.單點(diǎn)算力持續(xù)突破，新技術(shù)仍處于探索階段當(dāng)前人工智能算力持續(xù)突破，面向訓(xùn)練用和推斷用的芯片仍在快速演進(jìn)。這主要源于算力需求的驅(qū)動(dòng)，一方面體現(xiàn)在模型訓(xùn)練階推斷用算力需求持續(xù)增長(zhǎng)。與此同時(shí)，新的算力架構(gòu)也在不斷研究中，類腦芯片、存內(nèi)計(jì)算、量子計(jì)算等備受關(guān)注，但總體上處于探上的算力提升。專用定制的端側(cè)推理芯片百花齊放，面向手機(jī)應(yīng)用的智能芯片成為亮點(diǎn)。2021年1月，聯(lián)發(fā)科推出了高端手機(jī)芯片類腦芯片、存內(nèi)計(jì)算、量子計(jì)算等依舊是重點(diǎn)探索方向。類腦芯片、存內(nèi)計(jì)算、量子計(jì)算等技術(shù)在理論層面可實(shí)現(xiàn)高算力、低功耗等優(yōu)點(diǎn)，取得了一些進(jìn)展，但總體上來看目前技術(shù)成熟度相對(duì)較低。北京大學(xué)類腦智能芯片中心在2021年ISS3.數(shù)據(jù)規(guī)模不斷提升，構(gòu)建領(lǐng)域知識(shí)集成熱點(diǎn)據(jù)服務(wù)進(jìn)入深度定制化的階段，百度、阿里巴巴、京東等公司推出根據(jù)不同場(chǎng)景和需求進(jìn)行數(shù)據(jù)定制的服務(wù)；企業(yè)需求的數(shù)據(jù)集從通用簡(jiǎn)單場(chǎng)景向個(gè)性化復(fù)雜場(chǎng)景過渡，例如語音識(shí)別數(shù)據(jù)集從普通話向小語種、方言等場(chǎng)景發(fā)展，智能對(duì)話數(shù)據(jù)集從簡(jiǎn)答問答、控制等各方積極探索建立高質(zhì)量知識(shí)集，支撐未來知識(shí)驅(qū)動(dòng)的人工智能應(yīng)用發(fā)展。知識(shí)集中包含語音、圖像、文本等傳統(tǒng)數(shù)據(jù)和定義、FashionAI知識(shí)集，加速了AI在服裝設(shè)計(jì)產(chǎn)(二)人工智能工具鏈成為工程實(shí)踐能力核心隨著人工智能技術(shù)不斷發(fā)展，近年來工程落地應(yīng)用呈現(xiàn)加速態(tài)勢(shì)。金融領(lǐng)域，人工智能技術(shù)開始深入前臺(tái)、中臺(tái)、后臺(tái)全過程；款產(chǎn)品獲批三類醫(yī)療器械注冊(cè)證；制造領(lǐng)域人工智能快速發(fā)展，德人工智能呈現(xiàn)出從初步探索到規(guī)模應(yīng)用的過渡，總體上來看，不斷人工智能工程化開始成為各界關(guān)注焦點(diǎn)。學(xué)術(shù)界，卡耐基梅隆大學(xué)軟件工程學(xué)研究所于近年啟動(dòng)人工智能工程化研究，并聯(lián)合高校和工業(yè)界承擔(dān)了一項(xiàng)由美國(guó)官方機(jī)構(gòu)資助的國(guó)家研究計(jì)劃；世界知名人工智能專家喬丹（MichaelI.Jordan）、邢波等認(rèn)為人工智能工程化是一門新興的工程科學(xué)，是人工智能從理論學(xué)科到工程學(xué)科人工智能工程化聚焦工具體系、開發(fā)流程、模型管理全生命流程的高效耦合。工具體系層面，體系化與開放化成為研發(fā)平臺(tái)技術(shù)工具鏈的發(fā)展特點(diǎn)。圍繞機(jī)器學(xué)習(xí)和深度學(xué)習(xí)等技術(shù)，已初步構(gòu)建起較為完備的工具體系，大幅降低數(shù)據(jù)處理、模型開發(fā)和部署、運(yùn)持續(xù)交付和持續(xù)部署，最終以最佳的模型進(jìn)入應(yīng)用層面產(chǎn)生商業(yè)價(jià)企業(yè)智能化應(yīng)用的逐步加深，模型種類和數(shù)量大幅增長(zhǎng)，企業(yè)需要建設(shè)對(duì)模型生命周期的管理機(jī)制，對(duì)模型的版本歷程、性能表現(xiàn)、習(xí)是指在機(jī)器學(xué)習(xí)開發(fā)應(yīng)用全流程的部分環(huán)節(jié)或者全部環(huán)節(jié)實(shí)現(xiàn)自動(dòng)化，可以有效降低當(dāng)前階段人工智能開發(fā)門檻高、技術(shù)人才匱乏等挑戰(zhàn)。該技術(shù)主要包括自動(dòng)數(shù)據(jù)預(yù)處理、自動(dòng)特征工程、自動(dòng)超參數(shù)搜索、自動(dòng)模型網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)、自動(dòng)模型部署等內(nèi)容，低代碼開發(fā)、預(yù)訓(xùn)練模型等技術(shù)也與自動(dòng)機(jī)器學(xué)習(xí)密切相關(guān)，并呈現(xiàn)融合發(fā)展的趨勢(shì)。當(dāng)前，頭部互聯(lián)網(wǎng)企業(yè)和創(chuàng)新企業(yè)已經(jīng)開始積極布局停留在某些開發(fā)環(huán)節(jié)（如特征工程）或者某些特定的技術(shù)領(lǐng)域（如語音識(shí)別、目標(biāo)檢測(cè)、智能對(duì)話等）。云邊端協(xié)同管理的技術(shù)需求逐漸凸顯，人工智能上云進(jìn)程不斷加速。隨著人工智能與各個(gè)行業(yè)的深度融合，人工智能邊緣端和終端設(shè)備將得到越來越廣泛的應(yīng)用，同時(shí)開發(fā)者也將面臨邊端設(shè)備繁雜不易適配、運(yùn)維管理難等問題。一方面，平臺(tái)通過模型壓縮、自適應(yīng)模型生成等技術(shù)實(shí)現(xiàn)邊端設(shè)備的模型適配和部署；另一方面，通過對(duì)編譯優(yōu)化、中間表示等的設(shè)計(jì)和配臵，實(shí)現(xiàn)云邊端設(shè)備的協(xié)(三)安全可信人工智能技術(shù)朝著一體化發(fā)展隨著社會(huì)各界對(duì)人工智能信任問題的不斷關(guān)注，安全可信的人工智能技術(shù)已成為研究熱點(diǎn)。研究的焦點(diǎn)主要是提升人工智能系統(tǒng)穩(wěn)定性、可解釋性、隱私保護(hù)、公平性等，這些技術(shù)構(gòu)成了可信人人工智能系統(tǒng)穩(wěn)定性技術(shù)重點(diǎn)逐步從數(shù)字域擴(kuò)展到物理域。人工智能系統(tǒng)面臨中毒攻擊、對(duì)抗攻擊、后門攻擊等特有攻擊，這加大了安全性方面的挑戰(zhàn)。這些攻擊技術(shù)既可互相獨(dú)立也可以同時(shí)存在，例如通過打印對(duì)抗樣本眼鏡等能夠直接對(duì)人臉識(shí)別系統(tǒng)造成物理層面的干擾，攻擊者在路牌上粘貼對(duì)抗樣本擾動(dòng)圖案，使得自動(dòng)駕駛系統(tǒng)錯(cuò)誤地將“停止”路牌識(shí)別為“限速”路牌等[10]。圍繞著人工智能系統(tǒng)的穩(wěn)定性測(cè)試技術(shù)也成為了關(guān)鍵，華為、百度等紛紛推出基于模糊理論的相關(guān)測(cè)試技術(shù)，致力于探索提高人工智能系統(tǒng)人工智能可解釋性增強(qiáng)技術(shù)仍處在初期階段，多種路徑持續(xù)探包括建立適當(dāng)?shù)目梢暬瘷C(jī)制嘗試評(píng)估和解釋模型的中間狀態(tài)；通過影響函數(shù)來分析訓(xùn)練數(shù)據(jù)對(duì)于最終收斂的人工智能模型的影響；通過方法分析人工智能模型利用哪些數(shù)據(jù)特征做出預(yù)測(cè)；通過使用簡(jiǎn)單的可解釋模型對(duì)復(fù)雜的黑盒模型進(jìn)行局部近似來研究黑盒模型的隱私計(jì)算技術(shù)助力人工智能數(shù)據(jù)安全可信地進(jìn)行協(xié)作。人工智能系統(tǒng)需要依賴大量數(shù)據(jù)，然而數(shù)據(jù)的流轉(zhuǎn)過程以及人工智能模型提升人工智能公平性的關(guān)鍵在于從數(shù)據(jù)和技術(shù)兩方面入手。隨著人工智能系統(tǒng)的廣泛應(yīng)用，不公平?jīng)Q策行為以及對(duì)部分群體的歧視等問題越來越突出，導(dǎo)致這些決策偏見主要原因如下：受數(shù)據(jù)采集條件限制，不同群體在數(shù)據(jù)中所占權(quán)重不均衡；在不平衡數(shù)據(jù)集上訓(xùn)練得到的人工智能模型，造成模型決策不公平。為了保障人工智能系統(tǒng)的決策公平性，從數(shù)據(jù)層面來看，主要通過構(gòu)建完整異構(gòu)保證數(shù)據(jù)高質(zhì)量性。從技術(shù)層面來看，需要通過引入公平?jīng)Q策量化體系化推進(jìn)人工智能可信安全技術(shù)將是重要趨勢(shì)。一方面，當(dāng)前相關(guān)研究多是從穩(wěn)定、隱私、公平等單一維度展開。已有研究工作表明，穩(wěn)定性、公平性、可解釋性等不同要求之間存在相互協(xié)同或相互制約的關(guān)系，若僅考慮某一個(gè)方面的要求則可能會(huì)造成其他要求的沖突。如何構(gòu)建系統(tǒng)的研究框架，從而保持不同特征要素之間的最優(yōu)動(dòng)態(tài)平衡成為關(guān)鍵。另一方面，需要從系統(tǒng)層面開展可信安全的研究[14]，這一問題不僅僅是人工智能算法層面問題，還涉及到整個(gè)系統(tǒng)，例如人工智能承載操作系統(tǒng)、軟件框架、第三方庫，以及硬件設(shè)備自身的安全問題等，需要構(gòu)建人工智能全鏈條、全生三、全球高度關(guān)注人工智能治理工作，人工智能安全可信成重點(diǎn)人工智能發(fā)展的空間越大、影響越深、挑戰(zhàn)越多，對(duì)它的治理就越重要、越緊迫。當(dāng)前，全球已經(jīng)形成多元主體參與、協(xié)同共治的治理模式，各國(guó)及各組織推出了一系列治理原則，立法進(jìn)程取得(一)人工智能風(fēng)險(xiǎn)不斷增多，全球初步建立治理機(jī)制1.人工智能深入賦能引發(fā)挑戰(zhàn)人工智能帶來的風(fēng)險(xiǎn)與挑戰(zhàn)是多方面的。除了人工智能技術(shù)自身存在天然的缺陷外，區(qū)別于純粹的技術(shù)風(fēng)險(xiǎn)，人工智能風(fēng)源是人工智能系統(tǒng)的應(yīng)用對(duì)現(xiàn)有的規(guī)范體系以及倫理與社會(huì)秩序的能技術(shù)正在不斷暴露出由其自身特性引發(fā)的風(fēng)險(xiǎn)隱患。一是深度學(xué)習(xí)模型存在脆弱和易受攻擊的缺陷，使得人工智能系統(tǒng)的可靠性難以得到足夠的信任。二是黑箱模型具備高度復(fù)雜性和不確定性，算法不透明容易引發(fā)不確定性風(fēng)險(xiǎn)。三是人工智能算法產(chǎn)生的結(jié)果過度依賴訓(xùn)練數(shù)據(jù)，如果訓(xùn)練數(shù)據(jù)中存在偏見歧視，會(huì)導(dǎo)致不公平的現(xiàn)有法律及規(guī)范體系受到的挑戰(zhàn)不斷擴(kuò)大。人工智能對(duì)就法律及規(guī)范體系造成了多個(gè)方面沖擊：在主體資格界定方面，沙特阿拉伯授予機(jī)器人索菲亞以公民資格引發(fā)全球爭(zhēng)議，此外還產(chǎn)生了人工邦法院裁定人工智能系統(tǒng)可被列為專利申請(qǐng)中的發(fā)明人，與美國(guó)、9.au/news/2021-08-01/historic-decision-allows-ai-to-be-recognised-as-an-in4?utm_campaign=news-article-share-2-control&utm_content=twitter&utm_medium=content_shared&utm_顧客人臉信息用于商業(yè)目的10。在責(zé)任劃分方面，2015年英國(guó)首例倫理及社會(huì)秩序受到的沖擊愈發(fā)嚴(yán)重。人工智能存在對(duì)人類權(quán)利造成沖擊的風(fēng)險(xiǎn)，人工智能引發(fā)歧視、對(duì)人類行為提出新規(guī)則、2.全球掀起人工智能治理浪潮當(dāng)前，面臨人工智能深入賦能而引發(fā)的多方面風(fēng)險(xiǎn)及挑戰(zhàn)，全球各國(guó)越來越重視人工智能治理。人工智能治理是一項(xiàng)復(fù)雜的系統(tǒng)行業(yè)組織、企業(yè)以及公眾等多元主體共同參與、協(xié)同合作，形成了10/te12https://new.qq.13/2021/08/04/xsolla-fires-150-employees-using-big-dat14/s?id=1685477846545190363&https://www.dailymail.co.uk/news/article-7809269/Amazon-Alexa-told-terrified-mother-29倫理原則等“軟法”以及法律法規(guī)等“硬法”相結(jié)合的治理手段，旨在實(shí)現(xiàn)科技向善、造福人類的總體目標(biāo)愿景，推動(dòng)人工智能健康有序世界主要經(jīng)濟(jì)體聚焦人工智能治理焦點(diǎn)議題的討論，政府間國(guó)全球人工智能治理的重要組織。OECD相關(guān)研究成果對(duì)于推動(dòng)全球?yàn)橹谷澜缭谡畬用孢_(dá)成的最廣泛的共識(shí)，同時(shí)賦予各國(guó)在相應(yīng)日發(fā)布了第一份關(guān)于在醫(yī)療衛(wèi)生中使用人工智能的指南《醫(yī)療衛(wèi)生的首個(gè)政府間國(guó)際共識(shí)，確立了以人為本的發(fā)展理念。中國(guó)支持圍），能政策及實(shí)踐的最佳案例，促進(jìn)國(guó)際合作，幫助成員國(guó)打造可信賴七國(guó)集團(tuán)（G7）在全球發(fā)達(dá)經(jīng)濟(jì)體間就人工智能治理開啟了共示未來將把數(shù)據(jù)保護(hù)和隱私監(jiān)管作為人工智能治理的核心工作，并16/2021/01/hancock-uk-will-work-with-g7-and-others(二)人工智能治理邁入軟硬法協(xié)同和場(chǎng)景規(guī)制新階段索制定人工智能倫理原則的熱潮。當(dāng)前，G20人工智能原則被全球各國(guó)加速完善人工智能治理相關(guān)規(guī)則體系。20出《人工智能法》草案標(biāo)志著人工智能治理從原則性約束的“軟法”向更具實(shí)質(zhì)性監(jiān)管的“硬法”加速推進(jìn)；與此同時(shí)，隨著人工智能與實(shí)體經(jīng)濟(jì)融合程度不斷加深，對(duì)人工智能治理越來越聚焦到具體的1.人工智能治理實(shí)質(zhì)化進(jìn)程加速推進(jìn)當(dāng)前，各國(guó)人工智能治理側(cè)重各有不同，但整體上呈現(xiàn)加速演進(jìn)態(tài)勢(shì)，即從初期構(gòu)建以“軟法”為導(dǎo)向的社會(huì)規(guī)范體系，開始邁向歐盟從倫理向監(jiān)管穩(wěn)步推進(jìn)，欲引領(lǐng)全球人工智能監(jiān)管規(guī)則。首部系統(tǒng)化規(guī)制人工智能的法律，細(xì)化了人工智能四級(jí)風(fēng)險(xiǎn)框架，這是歐盟繼發(fā)布《可信人工智能倫理指南》（2018）和《人工智能標(biāo)志著全球人工智能治理從倫理原則等軟性約束，邁向全面且具有持美國(guó)在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位》奠定了美國(guó)在人工智能治理方美國(guó)參議院發(fā)布《國(guó)家生物識(shí)別信息隱私法案》，在個(gè)人隱私數(shù)據(jù)美國(guó)政府問責(zé)局發(fā)布人工智能問責(zé)框架，以確保人工智能系統(tǒng)的公發(fā)布《新一代人工智能倫理規(guī)范》，旨在將倫理道德融入人工智能全生命周期，積極引導(dǎo)全社會(huì)負(fù)責(zé)任的開展人工智能研發(fā)與應(yīng)用活動(dòng)。法律進(jìn)程方面，我國(guó)尚未出臺(tái)人工智能相關(guān)的統(tǒng)一法律，但是據(jù)安全法》共同形成了治理人工智能底層要素的堅(jiān)固法律體系。此與此同時(shí)，英國(guó)、法國(guó)、日本、韓國(guó)等國(guó)家也針對(duì)人工智能治理開展了相關(guān)工作。英國(guó)強(qiáng)調(diào)人工智能規(guī)范發(fā)展并推動(dòng)AI教育及（2021）多份文件和報(bào)告中呼吁建立國(guó)家層面的人工智能準(zhǔn)則與倫理框架。法國(guó)通過專家研討、學(xué)術(shù)辯論等方式深化對(duì)人工智能倫理問題的認(rèn)識(shí)。日本、韓國(guó)等從制造業(yè)智能化轉(zhuǎn)型和新興技術(shù)應(yīng)用等2.典型場(chǎng)景化治理各有側(cè)重加速落地人工智能治理的復(fù)雜還體現(xiàn)在其應(yīng)用場(chǎng)景的多樣化和差異化。在不同場(chǎng)景下，人工智能技術(shù)的應(yīng)用深度和影響各有不同，典型場(chǎng)景的治理成為各國(guó)的工作重點(diǎn)，特別聚焦于自動(dòng)駕駛、智慧醫(yī)療和自動(dòng)駕駛領(lǐng)域，德國(guó)率先制定倫理準(zhǔn)則及框架法案，各國(guó)加緊數(shù)據(jù)安全管理若干規(guī)定（征求意見稿）》，向社智慧醫(yī)療領(lǐng)域，倫理原則逐步得到發(fā)展，監(jiān)管層面注重規(guī)制醫(yī)械軟件監(jiān)管行動(dòng)。歐盟出臺(tái)醫(yī)療器械條例（MDR），要求自2021工智能醫(yī)療器械注冊(cè)審查指導(dǎo)原則（征求意見稿）》，并推動(dòng)人工人臉識(shí)別領(lǐng)域，全球各國(guó)邁入隱私保護(hù)和信息數(shù)據(jù)安全的強(qiáng)監(jiān)關(guān)的司法解釋針對(duì)性地規(guī)制人臉信息處理。美國(guó)州或地方層面通過(三)人工智能安全框架成為有效防范風(fēng)險(xiǎn)的關(guān)鍵指引為有效防范人工智能技術(shù)應(yīng)用帶來的安全風(fēng)險(xiǎn)，保障事關(guān)國(guó)家安全、經(jīng)濟(jì)命脈、社會(huì)穩(wěn)定等的人工智能系統(tǒng)的安全，亟需提出人工智能系統(tǒng)安全體系，為行業(yè)逐步提升人工智能安全能力提供有效指引。人工智能安全框架是從人工智能安全保護(hù)需求出發(fā)，將人工智能安全技術(shù)體系和人工智能安全管理體系進(jìn)行有機(jī)融合，構(gòu)建的人工智能安全整體體系設(shè)計(jì)與規(guī)劃，對(duì)維護(hù)國(guó)家人工智能安全和網(wǎng)1.人工智能安全框架逐漸形成雛形人工智能安全框架需包含安全目標(biāo)、安全能力、安全技術(shù)和安層遞進(jìn)的方式指導(dǎo)企業(yè)構(gòu)建人工智能安全防護(hù)體系。其中，設(shè)定合理安全目標(biāo)是保障人工智能應(yīng)用安全的起點(diǎn)和基礎(chǔ)，安全能力是實(shí)現(xiàn)安全目標(biāo)的有效保障，安全技術(shù)和安全管理是安全能力的支撐和17/kxyj/qwfb/ztbg/22.分類分級(jí)成為框架構(gòu)建的新方向草案、美國(guó)《算法問責(zé)法案》、加拿大《自動(dòng)化決策指令》、中國(guó)《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》等世界主要國(guó)家的法律法規(guī)和政策文件均提出建立人工智能系統(tǒng)或算法分類分級(jí)管理方式的要求。然而，上述法律法規(guī)或僅提出分類分級(jí)管理要求或采用列舉典型人工智能系統(tǒng)的方式描述分級(jí)方式，缺少分級(jí)原則，沒有可遵循的分級(jí)方法和流程，無法適用于快速涌現(xiàn)的新型人工智能應(yīng)用,亟需提出人工智能分類分級(jí)體系，明確分類分級(jí)原理以按照分類管理、分級(jí)保護(hù)的思路，本白皮書提出了以下人工智能分類分級(jí)建議。根據(jù)人工智能系統(tǒng)的自主程度的不同，將人工智能系統(tǒng)分為輔助人類智能系統(tǒng)、人機(jī)混合智能系統(tǒng)和完全自主智能系統(tǒng)三類。依據(jù)人工智能系統(tǒng)的重要性和危害程度，將人工智能系統(tǒng)分為中低風(fēng)險(xiǎn)智能系統(tǒng)、高風(fēng)險(xiǎn)智能系統(tǒng)和超高風(fēng)險(xiǎn)智能系統(tǒng)三(四)可信人工智能已成為落實(shí)治理要求的重要方法論焦慮，發(fā)展可信人工智能已經(jīng)成為全球共識(shí)?？尚湃斯ぶ悄苁菑漠a(chǎn)業(yè)維度出發(fā)，落實(shí)人工智能治理要求的一整套方法論，是人工智能1.可信理念逐漸深入到人工智能全生命周期可信人工智能從學(xué)術(shù)界提出，到各界積極研究，再到產(chǎn)業(yè)界開始落地實(shí)踐，其內(nèi)涵也在逐步的豐富和演進(jìn)。可信人工智能已經(jīng)不再僅僅局限于對(duì)人工智能技術(shù)、產(chǎn)品和服務(wù)本身狀態(tài)的界定，而是逐步擴(kuò)展至一套體系化的方法論，涉及到如何構(gòu)造“可信”人工智能的方方面面，包括企業(yè)內(nèi)部管理、研發(fā)、運(yùn)營(yíng)等環(huán)節(jié)，以及行業(yè)相關(guān)工作，將相關(guān)抽象要求轉(zhuǎn)化為實(shí)踐所需的具體能力要求，從而提2.企業(yè)已成為實(shí)踐可信人工智能的主要力量企業(yè)作為人工智能技術(shù)研發(fā)和創(chuàng)新應(yīng)用的一線，需要直面人工智能信任挑戰(zhàn)，主動(dòng)開展自律自治工作，充分發(fā)揮企業(yè)能動(dòng)性落實(shí)IBM、曠視、騰訊等眾多國(guó)內(nèi)外企業(yè)紛紛推出了企業(yè)人工智能治理準(zhǔn)則，并形成相應(yīng)部門機(jī)構(gòu)推動(dòng)落實(shí)治理責(zé)任。另外，企業(yè)也在積極探索以實(shí)踐可信為核心理念的人工智能治理模型，IBM、微軟、華為、京東等國(guó)內(nèi)外企業(yè)發(fā)布多個(gè)人工智能可信工具，以幫助人工智能產(chǎn)品在研發(fā)過程中提升安全性、魯棒性、可解釋性、公平性等3.行業(yè)組織推進(jìn)打造人工智能安全可信生態(tài)可信人工智能的實(shí)現(xiàn)不僅僅是企業(yè)單方面的實(shí)踐和努力就能夠完成的，更需要多方參與和協(xié)同，最終形成一個(gè)相互影響、相互支息安全技術(shù)人臉識(shí)別數(shù)據(jù)安全要求》面向社會(huì)公開征求意見。在行個(gè)人工智能系統(tǒng)，為用戶選型提供了重要參考。當(dāng)前，正在聯(lián)界共同編制《可信人工智能研發(fā)管理指南》等，以期推動(dòng)人工智能四、總結(jié)與展望將涌現(xiàn)出一批發(fā)展?jié)摿Υ蟮膬?yōu)質(zhì)企業(yè)和產(chǎn)業(yè)集群，成為引領(lǐng)經(jīng)濟(jì)高追求技術(shù)創(chuàng)新、聚焦工程實(shí)踐、確保可信安全逐漸成為未來人工智能發(fā)展的重要方向。回顧近十年的人工智能發(fā)展歷程，不難發(fā)現(xiàn)技術(shù)創(chuàng)新與工程實(shí)踐相輔相成，算法和算力突破后帶動(dòng)了工具體系的發(fā)展，工具