“新基建”下人工智能面臨的安全態(tài)勢與對策

一、“新基建”中的安全挑戰(zhàn)1.“新算力”挑戰(zhàn)：人工智能安全在“新基建”的發(fā)展進(jìn)程中，一方面，人工智能、異構(gòu)計算處理器等先進(jìn)計算機(jī)軟硬件技術(shù)將極大提升算法效率和計算能力；另一方面，5G、云計算等新型信息基礎(chǔ)設(shè)施的建設(shè)使高算力變得人人可及，對網(wǎng)絡(luò)空間安全提出了新的挑戰(zhàn)。首先，人工智能的關(guān)鍵任務(wù)對安全防護(hù)的及時性提出了更高要求。從銀行業(yè)務(wù)到自動駕駛，從家庭自動化到機(jī)器人輔助手術(shù)，這些應(yīng)用通常都具有高動態(tài)、強(qiáng)實(shí)時等特征，要求系統(tǒng)快速適應(yīng)新環(huán)境并學(xué)習(xí)新技能。例如，汽車自動駕駛技術(shù)通過實(shí)時學(xué)習(xí)其他成功駕駛案例，可以快速適應(yīng)意外和危險的道路條件。同時，此類關(guān)鍵任務(wù)型的人工智能系統(tǒng)也必須具備快速檢測入侵事件、識別攻擊模式并采取抵御措施的實(shí)時防護(hù)能力，從而處理噪聲輸入、抵御惡意攻擊。其次，人工智能的個性化服務(wù)需求對敏感信息保護(hù)提出了更高要求。人工智能應(yīng)用的場景越來越廣泛，根據(jù)用戶行為的特征（例如，適用于用戶口音的虛擬助理）和用戶偏好（例如，學(xué)習(xí)用戶駕駛習(xí)慣的自動駕駛系統(tǒng)）提供定制化的智能決策服務(wù)已成為人工智能應(yīng)用的主要方向之一。然而，在為用戶提供更精準(zhǔn)服務(wù)的同時，系統(tǒng)需要收集大量的用戶個人信息（包括個人敏感信息）。盡管歐盟已發(fā)布GDRP，但目前關(guān)于隱私保護(hù)的政策法規(guī)和技術(shù)手段尚不完善，使得保護(hù)用戶個人隱私信息和利用這些數(shù)據(jù)獲取巨大商業(yè)利益之間的矛盾日益突出。再次，人工智能跨組織融合對數(shù)據(jù)安全共享提出了更高要求。在“新基建”趨勢下，各類系統(tǒng)和業(yè)務(wù)的融合速度加快，跨組織、跨地域的數(shù)據(jù)共享需求越來越高。例如，醫(yī)院共享數(shù)據(jù)以預(yù)防流行病爆發(fā)，金融機(jī)構(gòu)共享數(shù)據(jù)以提高其欺詐檢測能力擴(kuò)散等。這些智能應(yīng)用有時需要使用不同機(jī)構(gòu)（甚至是有競爭關(guān)系的實(shí)體）擁有的數(shù)據(jù)進(jìn)行聯(lián)合訓(xùn)練，一方面可能造成數(shù)據(jù)所有者敏感信息（如商業(yè)秘密等）泄露，另一方面也為惡意攻擊提供了更高價值的攻擊目標(biāo)和更多源的攻擊渠道。最后，基于機(jī)器學(xué)習(xí)的安全算法與軟件漏洞問題日益突出。近年來，越來越多的網(wǎng)絡(luò)安全解決方案正在應(yīng)用機(jī)器學(xué)習(xí)方法來提高安全效率和能力。然而，機(jī)器學(xué)習(xí)系統(tǒng)引入了特定的漏洞，熟練的攻擊者可以利用這些漏洞來危害整個系統(tǒng)。因此，基于機(jī)器學(xué)習(xí)的算法和軟件本身可能成為安全鏈中最薄弱的環(huán)節(jié)。此外，在開放互聯(lián)的數(shù)字世界中，學(xué)習(xí)系統(tǒng)經(jīng)常被部署在對抗性的環(huán)境中處理“未知”的未知信息。由于建模攻擊通常依賴于“已知”的未知信息，而“未知”的未知信息是不可預(yù)測的，這使得對機(jī)器學(xué)習(xí)系統(tǒng)的大量潛在攻擊也成為不可預(yù)測的。2.“新網(wǎng)絡(luò)”挑戰(zhàn)：5G生態(tài)安全5G網(wǎng)絡(luò)變革將帶來技術(shù)和產(chǎn)業(yè)的顛覆式發(fā)展，是數(shù)字經(jīng)濟(jì)的全面實(shí)踐和完整體現(xiàn)。雖然在網(wǎng)絡(luò)安全方面5G技術(shù)進(jìn)一步加強(qiáng)了認(rèn)證授權(quán)、隱私保護(hù)、網(wǎng)絡(luò)架構(gòu)與互通安全等保障力度，但實(shí)際應(yīng)用中的5G生態(tài)極為復(fù)雜，傳統(tǒng)的在遠(yuǎn)端集中部署的安全保護(hù)模式已經(jīng)不能滿足5G時代行業(yè)數(shù)字化、業(yè)務(wù)邊緣化的安全防護(hù)需求。首先，5G的“萬物互聯(lián)”模式打通了物理世界和數(shù)字世界，數(shù)字資產(chǎn)的價值和意義日益突出。隨著工業(yè)互聯(lián)網(wǎng)、車聯(lián)網(wǎng)等發(fā)展，社會場景數(shù)字化、人工智能算法化、工業(yè)數(shù)據(jù)模型化、工業(yè)知識軟件化等趨勢越來越明顯，使得數(shù)字資產(chǎn)的范圍不斷擴(kuò)大，其價值已逐步接近物理世界資產(chǎn)，未來甚至?xí)轿锢硎澜缳Y產(chǎn)。目前，由于數(shù)字資產(chǎn)的內(nèi)涵和邊界尚不清晰，使得建立以數(shù)字資產(chǎn)保護(hù)為核心的數(shù)據(jù)保護(hù)體系面臨巨大挑戰(zhàn)。其次，5G網(wǎng)絡(luò)提供網(wǎng)絡(luò)切片機(jī)制來服務(wù)于不同的應(yīng)用業(yè)務(wù)，靈活的整體端到端切片管理編排和資源管理，使得網(wǎng)絡(luò)邊界變得十分模糊，對傳統(tǒng)依賴物理網(wǎng)絡(luò)邊界保護(hù)網(wǎng)絡(luò)空間安全的方法帶來極大挑戰(zhàn)。原則上，每個網(wǎng)絡(luò)切片是一個相對獨(dú)立的網(wǎng)絡(luò)域，配置各自不同的安全機(jī)制。但如果切片間出現(xiàn)信息泄露，攻擊者就可能從一個低安全等級的切片進(jìn)入另一個高安全等級切片，竊取、干擾目標(biāo)切片通信內(nèi)容。此外，由于是在同一物理網(wǎng)絡(luò)上共存多個切片，因此很容易受到側(cè)信道攻擊等。最后，5G利用邊緣計算模式將業(yè)務(wù)決策能力下沉到終端，從而提升用戶體驗。但由于邊緣節(jié)點(diǎn)所處的用戶側(cè)環(huán)境復(fù)雜，容易受到非授權(quán)訪問、惡意數(shù)據(jù)篡改等攻擊，一旦用戶側(cè)5G業(yè)務(wù)被攻擊，如果沒有配套的安全監(jiān)測手段，很容易對整個安全生產(chǎn)和基礎(chǔ)設(shè)施產(chǎn)生巨大影響。另外，由于5G網(wǎng)絡(luò)支持多樣化終端，使其面臨著終端軟件和硬件設(shè)計漏洞導(dǎo)致的安全風(fēng)險。3.“新模式”挑戰(zhàn)：新型融合創(chuàng)新應(yīng)用安全隨著我國城市化進(jìn)程的快速推進(jìn)，“新基建”將新型交通網(wǎng)絡(luò)（尤其是軌道交通）和新型能源網(wǎng)絡(luò)建設(shè)作為傳統(tǒng)基礎(chǔ)設(shè)施升級的典型示范領(lǐng)域，進(jìn)而帶動國民經(jīng)濟(jì)各行業(yè)的生產(chǎn)基礎(chǔ)設(shè)施向網(wǎng)絡(luò)化、數(shù)字化、智能化轉(zhuǎn)型，有效推動各行業(yè)在技術(shù)、產(chǎn)業(yè)和商業(yè)模式的融合創(chuàng)新。隨著這些基礎(chǔ)設(shè)施智能化和自動化程度的提高，其面臨的安全問題日益突出。以近年來發(fā)展迅猛的軌道交通為例，我國即將進(jìn)入以全自動駕駛、智能調(diào)度、智能維修、多模態(tài)生物信息識別等新技術(shù)為代表的智能運(yùn)營時代。然而，針對軌道交通系統(tǒng)的信息安全防護(hù)還集中在對傳統(tǒng)網(wǎng)絡(luò)和信息系統(tǒng)的各類主機(jī)及關(guān)鍵節(jié)點(diǎn)的資產(chǎn)管理、威脅預(yù)警和應(yīng)急響應(yīng)等，無法滿足未來智能交通系統(tǒng)的安全保障需求。首先，交通關(guān)鍵信息基礎(chǔ)設(shè)施安全防護(hù)體系尚不完善。隨著交通系統(tǒng)的自動化和智能化程度越來越高，其關(guān)鍵信息基礎(chǔ)設(shè)施（如軌道交通中列車運(yùn)行控制系統(tǒng)、調(diào)度指揮系統(tǒng)、運(yùn)輸調(diào)度管理信息系統(tǒng)、客票發(fā)售與預(yù)訂系統(tǒng)等）之間的耦合關(guān)系愈發(fā)緊密。而針對這類緊耦合復(fù)雜系統(tǒng)的安全防護(hù)體系目前還處于理論自洽階段，還遠(yuǎn)不能滿足以調(diào)度控制一體化、軌道交通公交化、旅客出行個性化等為代表的實(shí)際運(yùn)營需求。其次，交通外場設(shè)備成為網(wǎng)絡(luò)安全保障盲點(diǎn)。我國交通網(wǎng)絡(luò)規(guī)模急速增長，各類交通外場設(shè)施、載運(yùn)工具和移動終端等數(shù)量大幅度增長且分布極為廣泛。而針對交通外場設(shè)施的安全保障方法受限于接口種類、通信協(xié)議等尚沒有實(shí)現(xiàn)統(tǒng)一管理，無法實(shí)時了解各類交通外場設(shè)施的運(yùn)行狀態(tài)和正在面臨的網(wǎng)絡(luò)安全威脅等內(nèi)容，更不能對這些設(shè)施實(shí)現(xiàn)遠(yuǎn)程防護(hù)和應(yīng)急響應(yīng)等功能，遠(yuǎn)未達(dá)到智能化安全管理的應(yīng)用需求。最后，交通網(wǎng)絡(luò)未知威脅感知能力尚顯不足。針對交通運(yùn)輸網(wǎng)絡(luò)中特有的交調(diào)設(shè)備、氣象設(shè)備、監(jiān)控設(shè)備、邊坡設(shè)備等，業(yè)內(nèi)尚缺乏對攻擊特征的積累，一旦遭受攻擊就可能是毫無防御能力的未知攻擊。另外，以高級持續(xù)攻擊(APT)攻擊為代表的網(wǎng)絡(luò)攻擊往往采用多種綜合的攻擊手法，能夠繞開傳統(tǒng)基于規(guī)則的安全產(chǎn)品的檢測，使得傳統(tǒng)的基于脆弱性、反應(yīng)性、邊界性的周界安全模型很難應(yīng)對全球化、規(guī)模化、快速演變的網(wǎng)絡(luò)攻擊。這些都極大限制了軌道交通系統(tǒng)應(yīng)對突發(fā)網(wǎng)絡(luò)安全事件的應(yīng)急響應(yīng)技術(shù)能力。二、“新基建”給安全帶來的新機(jī)遇1.人工智能為安全防護(hù)賦能人工智能技術(shù)為網(wǎng)絡(luò)空間安全防護(hù)智能化提供了新的發(fā)展機(jī)遇，可以為網(wǎng)絡(luò)空間安全防護(hù)在預(yù)測、檢測、防御和響應(yīng)等各環(huán)節(jié)全面提升安全性能提供技術(shù)支撐。在網(wǎng)絡(luò)攻擊預(yù)測方面，人工智能系統(tǒng)可以利用機(jī)器學(xué)習(xí)預(yù)判網(wǎng)絡(luò)攻擊，并結(jié)合專家系統(tǒng)給出智能決策，以抵御攻擊并且評估風(fēng)險；在安全檢測方面，可以實(shí)時監(jiān)控網(wǎng)絡(luò)系統(tǒng)，無需人工監(jiān)視，感知網(wǎng)絡(luò)安全態(tài)勢；在網(wǎng)絡(luò)防御方面，可以利用已有的攻擊樣本判斷攻擊類型，實(shí)現(xiàn)安全防御自動化；在攻擊響應(yīng)方面，可以實(shí)現(xiàn)安全響應(yīng)自動化，并允許人工干預(yù)，快速形成攻擊案件分析，為專家系統(tǒng)的決策支持提供基礎(chǔ)數(shù)據(jù)。2.區(qū)塊鏈的基礎(chǔ)作用區(qū)塊鏈作為一種基于密碼學(xué)原理、共識機(jī)制和數(shù)據(jù)存儲結(jié)構(gòu)等關(guān)鍵機(jī)制的分布式數(shù)據(jù)庫技術(shù)，使傳統(tǒng)上難以流通和商品化的“注意力”與“信用度”成為可以批量化生產(chǎn)的流通商品，革命性地擴(kuò)展了經(jīng)濟(jì)活動的范圍與提高效率的途徑。2020年4月20日，國家發(fā)改委首次明確新型基礎(chǔ)設(shè)施的范圍，基于區(qū)塊鏈的新技術(shù)基礎(chǔ)設(shè)施是其中重要組成部分。區(qū)塊鏈的兩個核心性質(zhì)“去中心化”和“不可篡改”，保證了區(qū)塊鏈的高度透明化和可追溯性，在高度開放的動態(tài)計算環(huán)境中創(chuàng)造了可信任基礎(chǔ)，有助于在“新基建”中建設(shè)數(shù)字社會可信體系。另外，通過將區(qū)塊鏈技術(shù)與人工智能、物聯(lián)網(wǎng)和5G等新興信息技術(shù)進(jìn)行深度融合，可以自底向上地與互聯(lián)網(wǎng)基礎(chǔ)架構(gòu)融合，實(shí)現(xiàn)可信、可靠、可用、高效的集成化應(yīng)用，從而促進(jìn)數(shù)據(jù)共享、優(yōu)化業(yè)務(wù)流程、提升協(xié)同效率、降低運(yùn)營成本。三、“新基建”下的安全新范式“新基建”將極大促進(jìn)物理世界、人工世界和心理世界的融合進(jìn)程，為社會物理信息系統(tǒng)（Cyber-Physical-SocialSystems,CPSS）的構(gòu)建提供重要支撐?！靶禄ā睍r代的網(wǎng)絡(luò)空間安全內(nèi)涵也需要不斷發(fā)展和進(jìn)化，安全防護(hù)理念、技術(shù)思想、產(chǎn)業(yè)思維和人才培養(yǎng)等都需要全面升級。其核心就是要求安全防護(hù)體系從傳統(tǒng)“打補(bǔ)丁”式的被動檢測防護(hù)向“增強(qiáng)免疫力”為目標(biāo)的預(yù)測引導(dǎo)防護(hù)演進(jìn)。1.建立并完善“共識性”網(wǎng)絡(luò)空間安全標(biāo)準(zhǔn)體系目前，我國已經(jīng)在大數(shù)據(jù)、人工智能、云計算等領(lǐng)域建立了較完善的技術(shù)體系和較深厚產(chǎn)業(yè)積累，在5G、智能交通、新能源等方面甚至取得了先發(fā)技術(shù)和產(chǎn)業(yè)優(yōu)勢，這使得在“新基建”發(fā)展過程中，同步建立新型網(wǎng)絡(luò)安全標(biāo)準(zhǔn)體系的技術(shù)條件和時機(jī)日漸成熟，從而促進(jìn)網(wǎng)絡(luò)空間安全領(lǐng)域從安全觀和安全策略等方面實(shí)現(xiàn)進(jìn)一步升級。在安全觀方面，傳統(tǒng)的安全觀主要強(qiáng)調(diào)物理系統(tǒng)（如工業(yè)設(shè)備）或者網(wǎng)絡(luò)空間（如互聯(lián)網(wǎng)）的單一世界安全，而在安全邊界延展過程中，基于波普爾的“三個世界”理論將成為新安全觀演化的基礎(chǔ)，即未來的安全應(yīng)該是能夠同時保障物理世界、心理世界和人工世界均安全的“大安全”。整體的、動態(tài)的、開放的、相對的和共同的安全觀已經(jīng)成為網(wǎng)絡(luò)信息安全領(lǐng)域的普遍共識。在安全策略方面，傳統(tǒng)的安全策略還停留在描述性安全為主、預(yù)測性安全為輔的“打補(bǔ)丁”式被動檢測防護(hù)模式，這種“兵來將擋水來土掩”的安全策略在面對系統(tǒng)復(fù)雜性不斷提升而帶來的安全威脅時顯得力不從心。因此，需要將攻防雙方的心理和社會因素納入到安全策略的建設(shè)體系中，利用生成式對抗模型產(chǎn)生的安全大數(shù)據(jù)填補(bǔ)認(rèn)知鴻溝，建立以引導(dǎo)安全為主、預(yù)測性安全和描述性安全為輔的主動式安全防護(hù)體系，不斷增強(qiáng)系統(tǒng)的免疫力。此外，隨著我國“一帶一路”“高鐵走出去”等的推進(jìn)，在更大范圍內(nèi)建立并完善具有共識性的網(wǎng)絡(luò)空間安全標(biāo)準(zhǔn)體系，可以有效延展網(wǎng)絡(luò)空間安全邊界，為建立網(wǎng)絡(luò)空間縱深防御體系提供基礎(chǔ)支撐。2.建立以ACP理論為基礎(chǔ)的平行安全智能系統(tǒng)通過深入分析CPSS系統(tǒng)的安全特征，融合人工智能、區(qū)塊鏈等新技術(shù)和心理學(xué)、社會學(xué)等人因要素，建立以平行智能理論為基礎(chǔ)，集描述性安全、預(yù)測性安全和引導(dǎo)性安全為一體的平行安全理論與技術(shù)體系，就成為“新基建”時代保護(hù)各類CPSS系統(tǒng)的一種有效解決方案。其核心思想是利用人工系統(tǒng)來模擬和表示復(fù)雜的實(shí)際安全系統(tǒng)，通過計算實(shí)驗進(jìn)行各種安全模型的訓(xùn)練分析和評估，借助虛實(shí)互動的平行執(zhí)行來在線優(yōu)化安全模型，形成虛實(shí)空間的反饋與閉環(huán)，從而提升對復(fù)雜系統(tǒng)的智能安全防護(hù)與免疫能力。平行安全系統(tǒng)的基本框架如圖1所示。首先，通過綜合考慮CPSS系統(tǒng)中的各種復(fù)雜因素，結(jié)合理論建模、經(jīng)驗建模和數(shù)據(jù)建模方法，建立與實(shí)際安全系統(tǒng)“伴生”的一個或多個人工安全系統(tǒng)。其次，在人工安全系統(tǒng)中，利用生成式對抗學(xué)習(xí)等智能方法與人工參與相結(jié)合的方式對系統(tǒng)攻防雙方特征與行為進(jìn)行精確建模，以自底向上的涌現(xiàn)方式實(shí)施海量計算實(shí)驗，并在實(shí)驗過程中模擬、記錄系統(tǒng)實(shí)時狀態(tài)及演化特性，輔助推理和預(yù)測實(shí)際安全系統(tǒng)各核心要素在不同情況下的耦合關(guān)系與演化規(guī)律。最終，通過特定的平行交互機(jī)制與協(xié)議將人工安全系統(tǒng)和實(shí)際安全系統(tǒng)連接，實(shí)時同步數(shù)據(jù)、模型、場景和決策等要素，并通過人工系統(tǒng)中場景推演，實(shí)現(xiàn)對系統(tǒng)未來狀態(tài)的預(yù)測，并相應(yīng)地調(diào)節(jié)各自的管理與控制方式。3.培養(yǎng)網(wǎng)絡(luò)空間安全優(yōu)秀人才現(xiàn)階段我國網(wǎng)絡(luò)空間安全人才培養(yǎng)遠(yuǎn)遠(yuǎn)不能滿足網(wǎng)絡(luò)大國向網(wǎng)絡(luò)強(qiáng)國轉(zhuǎn)變的需求。因此，網(wǎng)絡(luò)空間安全優(yōu)秀人才的培養(yǎng)已成為當(dāng)務(wù)之急。首先，打造“國家政策護(hù)航、高校教育為主，產(chǎn)業(yè)實(shí)踐支撐”的人才培養(yǎng)新格局。從國家層面提高網(wǎng)絡(luò)空間安全的政治站位，從保障國家安全的戰(zhàn)略高度，支持網(wǎng)絡(luò)空間安全人才的培養(yǎng)；從高校、科研機(jī)構(gòu)層面，加強(qiáng)理論知識和實(shí)際應(yīng)用的結(jié)合，提升網(wǎng)絡(luò)空間安全人才的整體水平；從產(chǎn)業(yè)應(yīng)用方面，加強(qiáng)與科研院校的實(shí)踐合作，交換信息，分享經(jīng)驗，從而共同建設(shè)一支國際