深度學(xué)習(xí)與工業(yè)互聯(lián)網(wǎng)安全：應(yīng)用與挑戰(zhàn)

導(dǎo)讀：本文從產(chǎn)業(yè)宏觀、安全技術(shù)、深度學(xué)習(xí)系統(tǒng)等角度全面分析了發(fā)展需求，從設(shè)備層、控制層、網(wǎng)絡(luò)層、應(yīng)用層、數(shù)據(jù)層的角度剖析了深度學(xué)習(xí)應(yīng)用于工業(yè)互聯(lián)網(wǎng)安全的發(fā)展現(xiàn)狀；闡述了工業(yè)互聯(lián)網(wǎng)深度學(xué)習(xí)應(yīng)用在模型訓(xùn)練、模型預(yù)測(cè)方面的安全挑戰(zhàn)。文章前瞻研判了未來(lái)研究的重點(diǎn)方向：深度神經(jīng)網(wǎng)絡(luò)可解釋性、樣本收集和計(jì)算成本、樣本集不均衡、模型結(jié)果可靠性、可用性與安全性平衡等。文章建議，在總體安全策略方面，深化促進(jìn)兩者的融合發(fā)展，建立動(dòng)態(tài)的縱深防御體系；在技術(shù)攻關(guān)研究方面，采用應(yīng)用驅(qū)動(dòng)和前沿探索相結(jié)合的攻關(guān)方式，加快領(lǐng)域關(guān)鍵技術(shù)問題的攻關(guān)突破；在政策支持與引導(dǎo)方面，合理增加交叉領(lǐng)域的資源投入，建立“產(chǎn)學(xué)研”聯(lián)合研發(fā)與應(yīng)用的生態(tài)體系。

1、前言

工業(yè)互聯(lián)網(wǎng)是新一代信息技術(shù)與制造業(yè)深度融合的新興工業(yè)生態(tài)與應(yīng)用模式，通過“人、機(jī)、物”的泛在可靠互聯(lián)，連接生產(chǎn)全要素、全產(chǎn)業(yè)鏈、全價(jià)值鏈，推動(dòng)制造業(yè)生產(chǎn)方式和企業(yè)形態(tài)變革。工業(yè)互聯(lián)網(wǎng)安全是實(shí)現(xiàn)工業(yè)互聯(lián)網(wǎng)高質(zhì)量發(fā)展的前提條件?！都訌?qiáng)工業(yè)互聯(lián)網(wǎng)安全工作的指導(dǎo)意見》（2019年）強(qiáng)調(diào)了工業(yè)互聯(lián)網(wǎng)安全的重要價(jià)值，要求探索利用人工智能等新興技術(shù)來(lái)提升安全防護(hù)水平。深度學(xué)習(xí)具有較強(qiáng)的自動(dòng)特征提取能力，為大數(shù)據(jù)時(shí)代的工業(yè)互聯(lián)網(wǎng)安全（以應(yīng)用場(chǎng)景復(fù)雜、數(shù)據(jù)規(guī)模龐大為特征）提供了更智能、更準(zhǔn)確、更先進(jìn)的分析工具：基于原始數(shù)據(jù)，使用一系列非線性處理層來(lái)學(xué)習(xí)不同抽象級(jí)別的數(shù)據(jù)表示；通過端到端的優(yōu)化來(lái)定義、識(shí)別隱藏模式，提取高度非線性、極為復(fù)雜的特征；無(wú)需人工從領(lǐng)域知識(shí)中提取最佳特征，支持?jǐn)?shù)據(jù)驅(qū)動(dòng)的工業(yè)應(yīng)用。也要注意到，深度學(xué)習(xí)的引入和應(yīng)用，使得工業(yè)互聯(lián)網(wǎng)系統(tǒng)更易面臨惡意攻擊或非法利用（見圖1），具有導(dǎo)致決策判斷失準(zhǔn)、造成工業(yè)制造損失的潛在風(fēng)險(xiǎn)。圖1

工業(yè)互聯(lián)網(wǎng)安全面臨深度學(xué)習(xí)引入的攻擊威脅深度學(xué)習(xí)應(yīng)用于工業(yè)互聯(lián)網(wǎng)，有關(guān)安全方面的研究開始出現(xiàn)，但依然缺乏較為完善的應(yīng)用圖景，且對(duì)深度學(xué)習(xí)系統(tǒng)自身安全問題關(guān)注較少

[3]。因此，本文針對(duì)這一空白領(lǐng)域展開前瞻研究，分析工業(yè)互聯(lián)網(wǎng)安全需求，概括深度學(xué)習(xí)的具體應(yīng)用，凝練新技術(shù)引入后面臨的安全挑戰(zhàn)，研判領(lǐng)域重點(diǎn)研究方向，以期為我國(guó)工業(yè)互聯(lián)網(wǎng)安全發(fā)展提供策略參考。

2、工業(yè)互聯(lián)網(wǎng)安全的需求分析

（1）工業(yè)互聯(lián)網(wǎng)自身的安全需求工業(yè)互聯(lián)網(wǎng)安全是制造強(qiáng)國(guó)和網(wǎng)絡(luò)強(qiáng)國(guó)建設(shè)的基石，關(guān)系到我國(guó)經(jīng)濟(jì)高質(zhì)量發(fā)展。制造要素全面互聯(lián)、接入開放的工業(yè)互聯(lián)網(wǎng)網(wǎng)絡(luò)，帶來(lái)了規(guī)模和效率優(yōu)勢(shì)，也伴生了潛在安全問題：原本處于封閉狀態(tài)的海量制造資源暴露于網(wǎng)絡(luò)，面臨更加開放的互聯(lián)網(wǎng)環(huán)境，更容易被外部組織觸達(dá)和發(fā)起惡意攻擊；制造要素本身的計(jì)算資源有限、原生于封閉環(huán)境的防護(hù)能力普遍薄弱，易于被攻破和非法利用；鑒于工業(yè)系統(tǒng)普遍對(duì)可靠性、準(zhǔn)確性、低時(shí)延等要求很高，即使網(wǎng)絡(luò)化協(xié)同工業(yè)系統(tǒng)的單點(diǎn)被破壞，所造成的危害也可能很大。因此，工業(yè)互聯(lián)網(wǎng)應(yīng)用對(duì)安全保障提出了更高要求，需要利用諸如深度學(xué)習(xí)等先進(jìn)技術(shù)來(lái)解決這些挑戰(zhàn)。從技術(shù)層面看，傳統(tǒng)工業(yè)互聯(lián)網(wǎng)的安全防護(hù)措施可以防御許多已知的安全威脅；但隨著工業(yè)互聯(lián)網(wǎng)應(yīng)用領(lǐng)域的不斷拓寬，接入設(shè)備數(shù)量與種類的不斷增加，加之各類攻擊方式的“推陳出新”，目前工業(yè)互聯(lián)網(wǎng)攻擊的數(shù)量、規(guī)模、速度、種類正在持續(xù)增加，現(xiàn)有的傳統(tǒng)型安全防御工具和技術(shù)已難以全面應(yīng)對(duì)這些新型攻擊行為，亟需引入更加快速、高效、智能的安全防護(hù)新方法。深度學(xué)習(xí)的自學(xué)習(xí)能力強(qiáng)，在特征發(fā)現(xiàn)及自動(dòng)分析方面具有優(yōu)異性能，因此將之用于工業(yè)互聯(lián)網(wǎng)設(shè)備、控制、網(wǎng)絡(luò)、應(yīng)用、數(shù)據(jù)等多個(gè)層次的安全防范，成為防護(hù)新型攻擊形式的可行技術(shù)方向。（2）工業(yè)互聯(lián)網(wǎng)中深度學(xué)習(xí)系統(tǒng)的安全需求深度學(xué)習(xí)技術(shù)能夠廣泛應(yīng)用于工業(yè)互聯(lián)網(wǎng)的五層體系架構(gòu)、全生命周期各個(gè)階段（見圖2），可顯著減少人工操作、提高自動(dòng)化水平與生產(chǎn)效率。例如，設(shè)備層采用有監(jiān)督的深度學(xué)習(xí)，檢測(cè)機(jī)器設(shè)備的使用情況與故障原因，與基于聲紋的產(chǎn)品質(zhì)量檢測(cè)系統(tǒng)結(jié)合，實(shí)現(xiàn)質(zhì)量檢測(cè)自動(dòng)化及智能化；應(yīng)用層采用基于深度學(xué)習(xí)的圖像識(shí)別技術(shù)進(jìn)行視覺檢測(cè)、分揀、定位等，提高流水線的效率和智能化水平；還有需求/銷量預(yù)測(cè)、客戶畫像、供應(yīng)鏈優(yōu)化等可輔助企業(yè)進(jìn)行決策的深度學(xué)習(xí)應(yīng)用。圖2

深度學(xué)習(xí)在工業(yè)互聯(lián)網(wǎng)安全方面的應(yīng)用分類當(dāng)前已有一些面向工業(yè)互聯(lián)網(wǎng)安全的深度學(xué)習(xí)技術(shù)研究，如基于深度學(xué)習(xí)的入侵檢測(cè)系統(tǒng)，可實(shí)現(xiàn)范圍、速度、適應(yīng)性等更優(yōu)的惡意行為檢測(cè)；基于深度學(xué)習(xí)的數(shù)據(jù)審計(jì)系統(tǒng)，可支撐從海量工業(yè)數(shù)據(jù)中提取關(guān)鍵信息，尋找威脅工業(yè)互聯(lián)網(wǎng)安全的行為。隨著這些深度學(xué)習(xí)應(yīng)用的拓展和深入，深度學(xué)習(xí)系統(tǒng)自身存在的安全問題也引起了關(guān)注，如不防范這些安全問題，對(duì)可靠性、穩(wěn)定性、可預(yù)測(cè)性等要求較高的工業(yè)互聯(lián)網(wǎng)可能帶來(lái)重大隱患。

3、工業(yè)互聯(lián)網(wǎng)安全深度學(xué)習(xí)應(yīng)用的發(fā)展現(xiàn)狀

工業(yè)互聯(lián)網(wǎng)安全可細(xì)分為設(shè)備、控制、網(wǎng)絡(luò)、應(yīng)用、數(shù)據(jù)等層次的安全，以下分別討論各個(gè)層次的安全需求及深度學(xué)習(xí)應(yīng)用。（1）深度學(xué)習(xí)應(yīng)用于設(shè)備層安全工業(yè)互聯(lián)網(wǎng)的設(shè)備安全包括設(shè)備身份鑒別與訪問控制、固件安全保護(hù)等。深度學(xué)習(xí)對(duì)特征自動(dòng)智能發(fā)現(xiàn)的能力、在二進(jìn)制分析方面所具有的強(qiáng)大性能，為工業(yè)互聯(lián)網(wǎng)中非加密設(shè)備的身份識(shí)別及固件代碼分析提供了新思路。工業(yè)互聯(lián)網(wǎng)的開放性決定了大量非加密設(shè)備的接入導(dǎo)致相應(yīng)設(shè)備易受身份欺騙攻擊；攻擊者會(huì)模仿合法設(shè)備的身份，在工業(yè)互聯(lián)網(wǎng)中發(fā)送虛假信息或進(jìn)行其他惡意活動(dòng)。這類攻擊對(duì)關(guān)鍵工業(yè)設(shè)施而言非常危險(xiǎn)，可能造成物理?yè)p壞。防止身份欺騙的傳統(tǒng)方法是使用加密算法來(lái)驗(yàn)證設(shè)備身份，然而許多現(xiàn)有的工業(yè)互聯(lián)網(wǎng)系統(tǒng)并未使用密碼密鑰操作。例如，全球航空領(lǐng)域廣泛使用的ADS-B系統(tǒng)就未采用任何加密認(rèn)證，對(duì)該系統(tǒng)進(jìn)行密碼安全改造將需要重大投資。接入工業(yè)互聯(lián)網(wǎng)的設(shè)備在制造過程中會(huì)隨機(jī)得到某些細(xì)微特征，這些特征會(huì)反映在設(shè)備產(chǎn)生的脈沖驅(qū)動(dòng)信號(hào)中。一種可行的技術(shù)路徑是利用自動(dòng)編碼器、卷積神經(jīng)網(wǎng)絡(luò)對(duì)接入工業(yè)互聯(lián)網(wǎng)設(shè)備發(fā)出的物理層信號(hào)進(jìn)行學(xué)習(xí)，在不知道設(shè)備發(fā)出信號(hào)具體特征的條件下建立對(duì)設(shè)備的辨識(shí)能力，進(jìn)而判斷設(shè)備的屬性與身份，開展對(duì)所有已知設(shè)備的身份鑒別、對(duì)未知設(shè)備的情況報(bào)告。工業(yè)互聯(lián)網(wǎng)平臺(tái)和固件眾多，固件安全對(duì)工業(yè)互聯(lián)網(wǎng)整體安全架構(gòu)起著至關(guān)重要的作用。跨平臺(tái)固件代碼的二進(jìn)制相似性分析是常用的設(shè)備固件漏洞安全檢測(cè)方法，旨在檢測(cè)來(lái)自不同平臺(tái)的兩段二進(jìn)制函數(shù)是否相似。常規(guī)檢測(cè)方法是近似圖匹配算法，檢測(cè)速度慢，如果僅存在幾個(gè)指令不同的微小差異則會(huì)發(fā)生誤判，在對(duì)速度和安全性要求很高的工業(yè)互聯(lián)網(wǎng)領(lǐng)域難以應(yīng)用。深度神經(jīng)網(wǎng)絡(luò)可以將二進(jìn)制代碼函數(shù)段的圖嵌入表示為一個(gè)神經(jīng)網(wǎng)絡(luò)，通過對(duì)兩個(gè)相似二進(jìn)制代碼函數(shù)的圖嵌入接近程度進(jìn)行比對(duì)，即可準(zhǔn)確高效地開展二進(jìn)制相似度分析；比傳統(tǒng)檢測(cè)速度提高3~4個(gè)數(shù)量級(jí)，能夠克服傳統(tǒng)方法的誤判問題。因此深度學(xué)習(xí)技術(shù)可用于二進(jìn)制代碼段的相似性推斷、漏洞檢測(cè)，有效支持固件安全分析工作。（2）深度學(xué)習(xí)應(yīng)用于控制層安全工業(yè)互聯(lián)網(wǎng)的控制系統(tǒng)向上接入網(wǎng)絡(luò)層、向下連接海量工業(yè)設(shè)備，其安全防護(hù)措施極為重要。工業(yè)互聯(lián)網(wǎng)控制安全包括控制協(xié)議安全機(jī)制、指令安全審計(jì)、控制軟件安全加固等。利用深度學(xué)習(xí)的自動(dòng)特征發(fā)現(xiàn)能力，為控制協(xié)議指令攻擊檢測(cè)、控制軟件檢測(cè)提供了新思路。工業(yè)互聯(lián)網(wǎng)的控制系統(tǒng)分為過程控制子系統(tǒng)、監(jiān)控與數(shù)據(jù)采集子系統(tǒng)、分布式控制子系統(tǒng)、現(xiàn)場(chǎng)總線控制子系統(tǒng)等。這些子系統(tǒng)都是利用控制協(xié)議進(jìn)行控制指令下發(fā)，而針對(duì)控制協(xié)議的攻擊較多通過在協(xié)議傳遞的控制指令中注入錯(cuò)誤數(shù)據(jù)來(lái)實(shí)現(xiàn)。常規(guī)的指令攻擊檢測(cè)方式是分析攻擊消息的異常規(guī)律，發(fā)現(xiàn)相似攻擊行為；但在攻擊方式不斷更新的工業(yè)互聯(lián)網(wǎng)環(huán)境下，這種檢測(cè)方法并不能可靠地發(fā)現(xiàn)新的攻擊形式?；谏疃壬窠?jīng)網(wǎng)絡(luò)的特征發(fā)現(xiàn)能力，有望解決這一問題：深度神經(jīng)網(wǎng)絡(luò)從過程控制裝置獲取的傳感器和執(zhí)行器信號(hào)中學(xué)習(xí)正?？刂茀f(xié)議下的通信規(guī)律，進(jìn)行控制協(xié)議和指令的安全檢測(cè)；既可以檢測(cè)已知的指令攻擊，還能識(shí)別新的攻擊形式。工業(yè)互聯(lián)網(wǎng)的控制軟件面臨惡意軟件注入等安全威脅，常見的惡意軟件樣本是精心制作的計(jì)算機(jī)程序片段，意圖在不被發(fā)現(xiàn)的前提下對(duì)受感染工業(yè)互聯(lián)網(wǎng)資產(chǎn)進(jìn)行控制和監(jiān)視。傳統(tǒng)的惡意軟件檢測(cè)方式是人工發(fā)現(xiàn)惡意軟件攻擊特征，利用已知特征進(jìn)行軟件檢測(cè)；但涉及多態(tài)性蠕蟲或病毒檢測(cè)時(shí)，這種方法不再可行。當(dāng)前，諸多反病毒軟件供應(yīng)商對(duì)增強(qiáng)惡意軟件檢測(cè)能力的深度學(xué)習(xí)方法開展了深入研究，在實(shí)際測(cè)試中取得了很好的效果。因此，在工業(yè)互聯(lián)網(wǎng)控制層中引入深度學(xué)習(xí)技術(shù)，發(fā)揮其對(duì)特征自動(dòng)提取的固有優(yōu)勢(shì)，動(dòng)態(tài)分析工業(yè)互聯(lián)網(wǎng)控制軟件活動(dòng)的特征；持續(xù)分析軟件活動(dòng)情況、軟件執(zhí)行某些特定命令的活動(dòng)情況，檢測(cè)控制軟件的行為，提高控制軟件抵御惡意軟件注入等安全威脅的能力。（3）深度學(xué)習(xí)應(yīng)用于網(wǎng)絡(luò)層安全工業(yè)互聯(lián)網(wǎng)的網(wǎng)絡(luò)層安全包括通信與傳輸保護(hù)、網(wǎng)絡(luò)攻擊防護(hù)等。利用深度學(xué)習(xí)的特征提取能力、自學(xué)能力、信息壓縮能力，為工業(yè)互聯(lián)網(wǎng)的通信數(shù)據(jù)加密、網(wǎng)絡(luò)入侵檢測(cè)提供新思路。工業(yè)互聯(lián)網(wǎng)包含數(shù)量眾多的傳感器、終端、控制、計(jì)算、存儲(chǔ)等設(shè)備，設(shè)備之間需要實(shí)時(shí)、可靠、安全地傳輸來(lái)自周圍環(huán)境、自身狀態(tài)、控制指令等各種信息。尤其在資源受限的工業(yè)互聯(lián)網(wǎng)終端節(jié)點(diǎn)，因其組成相對(duì)簡(jiǎn)單、計(jì)算和存儲(chǔ)能力較弱，數(shù)據(jù)的安全傳輸是重大挑戰(zhàn)。依靠加密算法的傳統(tǒng)傳輸方式可靠性較高，但攻擊檢測(cè)的復(fù)雜度、延遲均比較高，不適合在通信低延遲、組成復(fù)雜的工業(yè)互聯(lián)網(wǎng)環(huán)境進(jìn)行大規(guī)模部署。因此，考慮基于工業(yè)互聯(lián)網(wǎng)信號(hào)的深度學(xué)習(xí)框架，采用長(zhǎng)短期記憶模塊（LSTM）從工業(yè)互聯(lián)網(wǎng)信號(hào)中提取隨機(jī)特征（如譜平坦度、偏度、峰度、中心矩等），將之轉(zhuǎn)換為水印并加載在原始信號(hào)中，利用云計(jì)算或邊緣計(jì)算節(jié)點(diǎn)驗(yàn)證水印信息以保證信號(hào)的可靠性，據(jù)此完成針對(duì)工業(yè)互聯(lián)網(wǎng)的網(wǎng)絡(luò)攻擊行為檢測(cè)。工業(yè)互聯(lián)網(wǎng)因其復(fù)雜性、敏感性而易受各種針對(duì)性的網(wǎng)絡(luò)攻擊，需要配置入侵檢測(cè)系統(tǒng)來(lái)掃描網(wǎng)絡(luò)流量活動(dòng)、識(shí)別惡意或異常行為。傳統(tǒng)的入侵檢測(cè)系統(tǒng)通常采用（淺層）機(jī)器學(xué)習(xí)技術(shù)，無(wú)法有效解決具有實(shí)時(shí)性要求、來(lái)自環(huán)境的海量數(shù)據(jù)入侵分類檢測(cè)問題。深度學(xué)習(xí)是十分理想的隱藏流量發(fā)現(xiàn)手段，可用于區(qū)分攻擊流量和檢測(cè)正常流量。例如，使用雙向長(zhǎng)短期記憶遞歸神經(jīng)網(wǎng)絡(luò)（BLSTM-RNN）方法，詳細(xì)學(xué)習(xí)異常入侵所具有的網(wǎng)絡(luò)流量特征，快速準(zhǔn)確地識(shí)別針對(duì)工業(yè)互聯(lián)網(wǎng)的網(wǎng)絡(luò)攻擊和網(wǎng)絡(luò)欺詐等異常活動(dòng)。（4）深度學(xué)習(xí)應(yīng)用于應(yīng)用層安全工業(yè)互聯(lián)網(wǎng)的應(yīng)用層安全包括用戶授權(quán)認(rèn)證、代碼安全等。利用深度學(xué)習(xí)在“理解”自然語(yǔ)言、特征提取等方面的獨(dú)特優(yōu)勢(shì)，為工業(yè)互聯(lián)網(wǎng)的代碼安全分析、用戶授權(quán)認(rèn)證提供新思路。工業(yè)互聯(lián)網(wǎng)的構(gòu)成和功能復(fù)雜，涉及軟件眾多，對(duì)軟件源代碼的安全性提出了很高要求。傳統(tǒng)的代碼漏洞檢測(cè)較多依賴分析人員對(duì)代碼的人工分析、對(duì)安全問題的認(rèn)識(shí)和經(jīng)驗(yàn)積累，這一模式很難滿足工業(yè)互聯(lián)網(wǎng)的代碼漏洞分析需求。一種可行的思路是借鑒自然語(yǔ)言處理方法，利用深度學(xué)習(xí)在“理解”自然語(yǔ)言方面的獨(dú)特優(yōu)勢(shì)、LSTM對(duì)自然語(yǔ)言上下文的“記憶”功能，對(duì)由源代碼的抽象語(yǔ)法樹、控制/數(shù)據(jù)流圖、程序依賴圖等構(gòu)成的代碼屬性進(jìn)行理解與分析，在源代碼編程階段及時(shí)發(fā)現(xiàn)并修正代碼缺陷，主動(dòng)完成代碼漏洞分析檢測(cè)。工業(yè)互聯(lián)網(wǎng)覆蓋面廣，對(duì)安全性和隱私性要求高，涉及大量用戶授權(quán)認(rèn)證過程。傳統(tǒng)上基于密碼和個(gè)人識(shí)別碼的認(rèn)證系統(tǒng)雖然有效，但不足以抵御多類惡意攻擊行為。因此，利用深度學(xué)習(xí)在生物特征發(fā)現(xiàn)的優(yōu)勢(shì)發(fā)展形成的人臉識(shí)別等技術(shù)，已成功應(yīng)用于應(yīng)用層安全，起到配合傳統(tǒng)認(rèn)證系統(tǒng)、提高用戶授權(quán)認(rèn)證能力的作用。此外，為了有效提升用戶授權(quán)認(rèn)證的安全性、降低認(rèn)證成本，有研究者提出了在鍵盤端利用深度學(xué)習(xí)技術(shù)提取用戶每次敲擊鍵盤的時(shí)間、鍵入時(shí)施加的壓力以及移動(dòng)設(shè)備、觸摸面積、觸摸位置等特征信息，輔助進(jìn)行用戶身份判斷。這一方案為提升工業(yè)互聯(lián)網(wǎng)用戶授權(quán)認(rèn)證能力提供了新途徑。（5）深度學(xué)習(xí)應(yīng)用于數(shù)據(jù)層安全工業(yè)互聯(lián)網(wǎng)數(shù)據(jù)安全的主要工作之一是數(shù)據(jù)防泄露。在包含大量碎片化數(shù)據(jù)的工業(yè)互聯(lián)網(wǎng)中，減少不必要的跨地域、跨組織的原始數(shù)據(jù)共享和流動(dòng)，是提高數(shù)據(jù)安全性的重要方向，而這也是聯(lián)邦深度學(xué)習(xí)技術(shù)的優(yōu)勢(shì)所在。在聯(lián)邦深度學(xué)習(xí)系統(tǒng)中，自有數(shù)據(jù)不出本地，通過加密機(jī)制進(jìn)行參數(shù)交換，在不違反數(shù)據(jù)隱私保護(hù)法規(guī)的情況下建立虛擬的共有模型。關(guān)于數(shù)據(jù)安全審計(jì)，敏感度低的工業(yè)互聯(lián)網(wǎng)數(shù)據(jù)可以存儲(chǔ)在成本價(jià)格相對(duì)低的工業(yè)大數(shù)據(jù)云平臺(tái)，采用基于深度學(xué)習(xí)的數(shù)據(jù)安全審計(jì)機(jī)制來(lái)監(jiān)管數(shù)據(jù)的訪問等行為，防止數(shù)據(jù)被竊取、篡改、破壞，實(shí)現(xiàn)數(shù)據(jù)存儲(chǔ)安全。工業(yè)互聯(lián)網(wǎng)存在傳感器、邊緣計(jì)算節(jié)點(diǎn)、云端、用戶端等多點(diǎn)通信需求。傳統(tǒng)的數(shù)據(jù)處理流程是數(shù)據(jù)產(chǎn)生于傳感器端，初步采集的數(shù)據(jù)會(huì)先存儲(chǔ)在相關(guān)軟件中。數(shù)據(jù)入侵、非法訪問較多隱藏在合理的授權(quán)之下，不容易被發(fā)現(xiàn)。使用無(wú)監(jiān)督深度學(xué)習(xí)對(duì)異常行為進(jìn)行分類，確保數(shù)據(jù)不受到竊取、篡改、破壞。感知數(shù)據(jù)會(huì)反饋至邊緣計(jì)算節(jié)點(diǎn)，經(jīng)清洗、預(yù)處理分析后，再上傳至云端并經(jīng)進(jìn)一步加工處理供用戶調(diào)用。敏感性、碎片化、海量數(shù)據(jù)流動(dòng)十分不利于工業(yè)互聯(lián)網(wǎng)環(huán)境下的數(shù)據(jù)安全保護(hù)，因此針對(duì)工業(yè)互聯(lián)網(wǎng)數(shù)據(jù)的安全多方計(jì)算需求，可行的解決方案是引入聯(lián)邦深度學(xué)習(xí)技術(shù)，在不直接共享敏感數(shù)據(jù)的前提下開展數(shù)據(jù)處理，最大限度地減少數(shù)據(jù)流動(dòng)和不必要的數(shù)據(jù)傳輸，確保工業(yè)互聯(lián)網(wǎng)的數(shù)據(jù)安全。4、工業(yè)互聯(lián)網(wǎng)安全深度學(xué)習(xí)應(yīng)用面臨的挑戰(zhàn)

深度學(xué)習(xí)技術(shù)在賦予工業(yè)互聯(lián)網(wǎng)安全新前景的同時(shí)，可能存在被攻擊者利用的漏洞，可能受到高級(jí)可持續(xù)威脅攻擊。例如，攻擊者可以針對(duì)性地修改惡意文件來(lái)繞過基于深度學(xué)習(xí)的檢測(cè)工具，加入一些不易察覺的噪音使得工廠語(yǔ)音控制系統(tǒng)被惡意調(diào)用，在交通指示牌或其他車輛上貼一些小標(biāo)志使得基于深度學(xué)習(xí)的自動(dòng)駕駛系統(tǒng)出現(xiàn)誤判。在高價(jià)值或高風(fēng)險(xiǎn)的工業(yè)生產(chǎn)過程中，如果深度學(xué)習(xí)系統(tǒng)被惡意攻擊，可能會(huì)造成設(shè)備損壞，甚至威脅人員生命安全。針對(duì)深度學(xué)習(xí)的攻擊分為5種（見圖3）：投毒攻擊、模型逆向攻擊、模型提取攻擊、物理攻擊、對(duì)抗性攻擊，主要發(fā)生在模型訓(xùn)練階段和模型預(yù)測(cè)階段。圖3

工業(yè)互聯(lián)網(wǎng)中深度學(xué)習(xí)系統(tǒng)面臨的安全挑戰(zhàn)（1）模型訓(xùn)練階段投毒攻擊指通過攻擊訓(xùn)練數(shù)據(jù)集，使得模型無(wú)法正常工作。在工業(yè)互聯(lián)網(wǎng)中，競(jìng)爭(zhēng)對(duì)手可能通過篡改傳感器的測(cè)量值來(lái)操縱訓(xùn)練數(shù)據(jù)。對(duì)于基于深度學(xué)習(xí)的故障檢測(cè)器來(lái)說，微小的數(shù)據(jù)篡改可能會(huì)導(dǎo)致有針對(duì)性的錯(cuò)誤分類或不良行為。后門攻擊也是一種投毒攻擊，在訓(xùn)練數(shù)據(jù)過程中添加特殊標(biāo)志（后門觸發(fā)器）來(lái)繞過模型的分類，如向標(biāo)注為非惡意的文件中加入一段特殊的代碼（文字），將之用于訓(xùn)練深度學(xué)習(xí)模型。訓(xùn)練好的模型能夠正常識(shí)別惡意文件，但是當(dāng)檢測(cè)到帶有這段特殊代碼的惡意文件時(shí)，模型將會(huì)把它識(shí)別為非惡意的，從而繞過檢測(cè)。這種攻擊大多數(shù)時(shí)間不影響模型正常工作，極為隱蔽。模型逆向攻擊發(fā)生在訓(xùn)練完成階段，可以通過模型的輸出（黑盒攻擊）、模型參數(shù)（白盒攻擊）將訓(xùn)練數(shù)據(jù)集信息從模型中逆向提取出來(lái)；換言之，通過已經(jīng)訓(xùn)練好的模型數(shù)據(jù)，還原出模型的訓(xùn)練數(shù)據(jù)成員。在工業(yè)互聯(lián)網(wǎng)中數(shù)據(jù)是寶貴資源，特別是涉及到商業(yè)價(jià)值的敏感數(shù)據(jù)。例如，產(chǎn)品質(zhì)量檢測(cè)模型的訓(xùn)練需要的產(chǎn)品參數(shù)（如重量、尺寸型號(hào)等），入侵檢測(cè)系統(tǒng)需要的工業(yè)生產(chǎn)系統(tǒng)中傳感器數(shù)據(jù)，這些都涉及到產(chǎn)品隱私，具有一定的商業(yè)價(jià)值。（2）模型預(yù)測(cè)階段不同于數(shù)字樣本攻擊，物理攻擊屬于實(shí)體樣本攻擊，通過在現(xiàn)實(shí)生活中改變目標(biāo)物體的形態(tài)或者貼上特殊標(biāo)記來(lái)欺騙深度學(xué)習(xí)模型。物理攻擊不需要對(duì)模型的訓(xùn)練數(shù)據(jù)“做手腳”，只需通過一定次數(shù)的模型功能測(cè)試，就能發(fā)現(xiàn)模型的漏洞和缺陷，進(jìn)而設(shè)計(jì)實(shí)現(xiàn)物理攻擊。例如，自動(dòng)駕駛汽車的視覺系統(tǒng)能夠使用深度學(xué)習(xí)技術(shù)對(duì)道路上的行人、車輛、道路標(biāo)志等進(jìn)行分類，但在道路標(biāo)志上粘貼精心設(shè)計(jì)的紙條后，視覺系統(tǒng)便無(wú)法正確識(shí)別該道路標(biāo)志。對(duì)于基于深度學(xué)習(xí)的人臉識(shí)別系統(tǒng)而言，帶有特殊標(biāo)記的眼鏡便能干擾其正常工作；即使在相對(duì)穩(wěn)定的物理?xiàng)l件下，只需針對(duì)性調(diào)整姿勢(shì)、距離、光線，也能使人臉識(shí)別系統(tǒng)發(fā)生識(shí)別錯(cuò)誤。工業(yè)互聯(lián)網(wǎng)中有很多人臉識(shí)別、產(chǎn)品質(zhì)量檢測(cè)的深度學(xué)習(xí)類應(yīng)用，如果內(nèi)部人員具有惡意，則這種物理攻擊將比較隱蔽且威脅明顯。模型提取攻擊指通過公開的應(yīng)用程序接口（API）來(lái)模擬功能類似甚至相同的模型，具體參數(shù)很難被掌握，且攻擊目的是復(fù)刻模型而不是還原數(shù)據(jù)成員。訓(xùn)練1個(gè)模型通常需要20~30d，較為復(fù)雜的模型甚至需要更長(zhǎng)的時(shí)間，一些應(yīng)用于工業(yè)互聯(lián)網(wǎng)的模型具有一定的商業(yè)價(jià)值，如異常行為分類系統(tǒng)。這些模型具有一定的可移植性，如果將之公開在網(wǎng)絡(luò)上，即使只提供API接口，不法分子也能通過隨機(jī)組合的輸入來(lái)獲取輸入與輸出關(guān)系，從而復(fù)刻功能相同的模型，使得公司知識(shí)產(chǎn)權(quán)利益受到損失。對(duì)抗性攻擊又稱為躲避攻擊，指在正常樣本中加入了一些人眼難以察覺的干擾，從而造成模型預(yù)測(cè)錯(cuò)誤；分為無(wú)特定目標(biāo)攻擊、特定目標(biāo)攻擊，前者只是干擾模型的正確判斷，后者需要模型將特定的輸入判斷為指定的一種輸出。目前，深度學(xué)習(xí)模型對(duì)于對(duì)抗性攻擊是比較脆弱的，較為輕微的擾動(dòng)就可以干擾到模型的正常工作。例如，工業(yè)互聯(lián)網(wǎng)的產(chǎn)品檢測(cè)模型易受無(wú)特定目標(biāo)的對(duì)抗性攻擊，攻擊者只需在產(chǎn)品圖片上加入肉眼不可見的噪聲點(diǎn)，就可以使得模型失去判斷能力，嚴(yán)重時(shí)甚至可以破壞整個(gè)工業(yè)生產(chǎn)流程。對(duì)于面向安全檢測(cè)的深度學(xué)習(xí)系統(tǒng)，攻擊者也可以通過添加一些特殊語(yǔ)句來(lái)繞過安全檢測(cè)模型，從而干擾工業(yè)系統(tǒng)的安全運(yùn)行。

5、工業(yè)互聯(lián)網(wǎng)安全深度學(xué)習(xí)應(yīng)用的未來(lái)研究方向

（1）深度神經(jīng)網(wǎng)絡(luò)的可解釋性人類思維很難理解深度神經(jīng)網(wǎng)絡(luò)的決策依據(jù)，這是因?yàn)樯疃壬窠?jīng)網(wǎng)絡(luò)通常被當(dāng)成“黑盒”模型使用，每個(gè)神經(jīng)元都是由上一層的線性組合再疊加1個(gè)非線性函數(shù)得到的，具有高度非線性的特征。對(duì)于工業(yè)互聯(lián)網(wǎng)安全應(yīng)用，除了模型輸出的最終結(jié)果外，人們還應(yīng)知道模型是基于哪些因素考量得出結(jié)論的；如果模型不可解釋，則意味著模型本身是不可知、不安全的。因此，只有確保信息可靠性（如沒有受到投毒攻擊、對(duì)抗性攻擊等）、明晰模型輸入輸出的因果關(guān)系，模型的預(yù)測(cè)結(jié)果才能令人信服，也才能交由深度學(xué)習(xí)來(lái)承擔(dān)工業(yè)互聯(lián)網(wǎng)安全體系中的核心任務(wù)。（2）樣本收集和計(jì)算成本隨著深度學(xué)習(xí)方法的發(fā)展，神經(jīng)網(wǎng)絡(luò)層數(shù)越來(lái)越深，所需的訓(xùn)練樣例數(shù)目、算力要求（電力消耗）也在迅猛增加。即使深度學(xué)習(xí)模型相比于傳統(tǒng)方法具有更好的效果，但提升效率帶來(lái)的收益甚至可能無(wú)法彌補(bǔ)增加成本，這將直接制約深度學(xué)習(xí)技術(shù)在工業(yè)互聯(lián)網(wǎng)安全中的推廣應(yīng)用。工業(yè)互聯(lián)網(wǎng)安全的應(yīng)用場(chǎng)景多樣，需要針對(duì)性地收集數(shù)量可觀的數(shù)據(jù)并加以手工標(biāo)注，人力成本較高；深度神經(jīng)網(wǎng)絡(luò)規(guī)模龐大，為達(dá)到精度、實(shí)時(shí)性等要求，需要高性能計(jì)算系統(tǒng)的支持，帶來(lái)較高能耗需求。因此，需要研究更高效、自動(dòng)化的數(shù)據(jù)集構(gòu)建方法，更低功耗的深度學(xué)習(xí)模型與計(jì)算系統(tǒng)。（3）樣本集不均衡深度學(xué)習(xí)在消費(fèi)互聯(lián)網(wǎng)應(yīng)用方面體現(xiàn)出了優(yōu)勢(shì)，但工業(yè)互聯(lián)網(wǎng)的應(yīng)用領(lǐng)域及場(chǎng)景千變?nèi)f化，難以為深度學(xué)習(xí)模型提供足夠多的樣本量。因此，需要研究通過自動(dòng)化工具增加樣本量的方法，基于小樣本的深度學(xué)習(xí)方法。面對(duì)碎片化、復(fù)雜多變的工業(yè)互聯(lián)網(wǎng)安全應(yīng)用及場(chǎng)景，構(gòu)建具有均衡性、可全面反映數(shù)據(jù)真實(shí)分布的樣本集，將之用于訓(xùn)練深度學(xué)習(xí)模型仍是挑戰(zhàn)。目前已有過采樣、欠樣本等方法來(lái)緩解深度學(xué)習(xí)中樣本不均衡的問題，但依然缺乏實(shí)際可用的系統(tǒng)性研究成果。（4）模型結(jié)果的可靠性工業(yè)互聯(lián)網(wǎng)涉及領(lǐng)域眾多，框架構(gòu)成復(fù)雜，對(duì)系統(tǒng)的整體可靠性要求很高。例如，航空、航天類飛行器的零部件生產(chǎn)，要求設(shè)備達(dá)到可靠性不低于99.999%；如果重要節(jié)點(diǎn)發(fā)生故障，會(huì)造成批次性的產(chǎn)品損壞或性能降級(jí)。在實(shí)際工業(yè)生產(chǎn)過程中，模型的穩(wěn)定性要比表達(dá)能力更為重要，一旦某個(gè)生產(chǎn)環(huán)節(jié)出現(xiàn)問題，可能影響整條生產(chǎn)線的運(yùn)轉(zhuǎn)；很多深度學(xué)習(xí)模型的預(yù)測(cè)準(zhǔn)確率不足90%，幾乎無(wú)法移植到