2024智能無人系統(tǒng)安全

目錄 1 31.1 31.1.1 31.1.2 51. 52. 61.1.3 81.1.3.1 81.1.3.2 131.1.3.3 201.1.4 251.1.4.1 251.1.4.2 261.2 271.2.1 281. 282. 283. 291.2.2 301. 302. 331.2.3 381. 382. 393. 394. 391.3 41對(duì)無人駕駛的過分樂觀宣傳降低了公眾對(duì)危害的防范意識(shí)。與一般的人工智能系統(tǒng)不同，無人駕駛車輛的安全性和可靠性必須達(dá)到或盡可能接近100才可以全面應(yīng)用。固開展引導(dǎo)和規(guī)范。美國(guó)的無人駕駛技術(shù)研究保持領(lǐng)先，管理立法機(jī)構(gòu)適時(shí)出臺(tái)相關(guān)政策法規(guī)，如《聯(lián)邦自動(dòng)駕駛汽車政策》（2016年）、《自動(dòng)駕駛法案》（2017年）路交通法（第八修正案）》（2017年）段；產(chǎn)業(yè)管理層面積極跟進(jìn)，如《智能汽車創(chuàng)新發(fā)展戰(zhàn)略》（2018年）行了頂層規(guī)劃，《車聯(lián)網(wǎng)（智能網(wǎng)聯(lián)汽車）產(chǎn)業(yè)發(fā)展行動(dòng)計(jì)劃》（2018年）產(chǎn)業(yè)體系的構(gòu)建并提出了車聯(lián)網(wǎng)的中長(zhǎng)期規(guī)劃。自動(dòng)駕駛汽車依賴計(jì)算機(jī)系統(tǒng)、人工智能技術(shù)、攝像與圖像識(shí)別、雷達(dá)探測(cè)、高精度地圖、高精度定位系統(tǒng)等的協(xié)同合作，利用電子控制單元（），下安全地行駛14；不調(diào)整汽車自身的架構(gòu)，不改動(dòng)車輛原有的功能，而是在車身上集成自動(dòng)駕駛所需的智能器件（含軟件和硬件）3；根據(jù)國(guó)際汽車工程師協(xié)會(huì)制定的標(biāo)準(zhǔn)，自動(dòng)駕駛分為0～5共6個(gè)級(jí)別15。為使研究范圍、概念定義更加聚焦和精準(zhǔn)，本書將無人駕駛自動(dòng)駕駛加以區(qū)分，無人駕駛指在完全沒有人類司機(jī)操作的情況下，由自動(dòng)駕駛系統(tǒng)自動(dòng)安全地操作機(jī)動(dòng)車輛。行控制[2]機(jī)器處理與應(yīng)對(duì)策略。有研究者對(duì)社會(huì)的道德取向進(jìn)行了調(diào)查，其中道德機(jī)器研究11最希望他人購(gòu)買，但自身更愿意乘坐能夠保護(hù)乘客的無人駕駛汽車13。也有試驗(yàn)得出了不同的結(jié)論，即參與者的道德傾向更高，更愿意舍己救人；特別是在考慮年齡因素后，參與者傾向于為了更多人的安全而采取措施（如控制車輛轉(zhuǎn)向路側(cè)）12。圖3-1采用探索性的案例調(diào)查和質(zhì)性研究方法17開展風(fēng)險(xiǎn)識(shí)別研究，待討論的無人駕駛風(fēng)險(xiǎn)涉細(xì)分方向。表3-1企業(yè)和政府案例范疇化編碼列表（部分（續(xù)表單一框架（見表32）：第一層為主范疇，包括6類安全風(fēng)險(xiǎn)要素，其中，前3類為工程風(fēng)險(xiǎn)，后3類為人文社會(huì)風(fēng)險(xiǎn)；第二層為安全風(fēng)險(xiǎn)要素的度量因子；第三層為安全風(fēng)險(xiǎn)要素的度量問卷測(cè)量題項(xiàng)數(shù)。表3-2（續(xù)表本次調(diào)查通過網(wǎng)絡(luò)自填問卷的形式進(jìn)行，借助長(zhǎng)沙冉星信息科技有限公司的問卷星平臺(tái)進(jìn)行問卷發(fā)放，時(shí)間為2020年7月25日至31日；共收到反饋問卷1310份，其中有效問卷1195份（有效率為91.22）。綜合考慮信度、結(jié)構(gòu)效度、區(qū)分效度、收斂效度、整體模圍刪減與修正，如單車安全部分的測(cè)量模型經(jīng)過調(diào)整后（見圖32）具有較好的擬合效圖3-2在信度方面，3個(gè)因子的Cronbach'sα系數(shù)取值分別為0.742、0.782、0.822（均在0.7占比為47.7，女性占比為52.3，比例更均衡；年齡在20～30歲、30～40歲的分別占28.6、35.1；學(xué)歷水平以大專、本科為主，分別占29.1、36.3，占比基本均衡，具3種狀態(tài)的調(diào)查對(duì)象共有838人，沒有集中于某一行業(yè)的情況；制造業(yè)信息傳輸、軟件和信息技術(shù)服務(wù)業(yè)人數(shù)占比稍高（分別為22.91、15.04），這些行業(yè)與無人駕駛關(guān)聯(lián)業(yè)工作過的調(diào)查對(duì)象有166人，從業(yè)時(shí)長(zhǎng)的分布較為均衡，少于1年的占24.1，1～3年的占45.78，3～5年的占13.86，5～10年的占12.65，10年以上的占3.61；從業(yè)1～3年顯。圖3-3在信度方面，4個(gè)因子的Cronbach'sα系數(shù)取值分別為0.693、0.837、0.813、0.844（1個(gè)接障”外，其余因子的Cronbach'sα系數(shù)均大于0.7。在結(jié)構(gòu)效度方面，5個(gè)安全風(fēng)險(xiǎn)模型的結(jié)▼表3-3（續(xù)表▼表3-4（續(xù)表▼表3-5（續(xù)表4、4，則二級(jí)節(jié)點(diǎn)得分為這3個(gè)三級(jí)節(jié)點(diǎn)得分的算術(shù)平均值4圖3-4產(chǎn)業(yè)風(fēng)險(xiǎn)貝葉斯網(wǎng)絡(luò)節(jié)點(diǎn)概率分布如圖35全的419題，的概率為57%；在二級(jí)節(jié)點(diǎn)中，第三方測(cè)試認(rèn)證需求”的狀態(tài)比較危險(xiǎn)，“不安全的概率為72%，配套保險(xiǎn)業(yè)不足”的狀態(tài)也稍不安全，不安全”概率為45%，但其他二級(jí)節(jié)點(diǎn)的狀態(tài)較安全；一級(jí)節(jié)點(diǎn)產(chǎn)業(yè)風(fēng)險(xiǎn)”在的概率為56%。圖3-5法律政策風(fēng)險(xiǎn)貝葉斯網(wǎng)絡(luò)節(jié)點(diǎn)概率分布如圖36所示，三級(jí)節(jié)點(diǎn)的狀態(tài)都偏安全，大部分在70%以上，在的概率最低的304題，其安全”的概率也有64%；在二級(jí)節(jié)點(diǎn)中，準(zhǔn)空缺”和相關(guān)領(lǐng)域監(jiān)管空白的狀態(tài)較為不安全，其狀態(tài)在1的概率分別為60、56%，而另外2個(gè)節(jié)點(diǎn)狀態(tài)安全”的概率都在60以上；一級(jí)節(jié)點(diǎn)“法律政策風(fēng)險(xiǎn)的狀態(tài)也較為安全，在的概率為58%。圖3-6表3-6（續(xù)表圖3-7政府管理部門的監(jiān)管采用控制監(jiān)管引導(dǎo)策略。以政府許可和準(zhǔn)入的模式，增強(qiáng)第三方測(cè)試認(rèn)證、安全認(rèn)證的真實(shí)性，加強(qiáng)對(duì)無人駕駛的核心部件軟件產(chǎn)品準(zhǔn)入流程的控的使用和流動(dòng)機(jī)制。務(wù)。同無人系統(tǒng)的概念類似，多無人系統(tǒng)協(xié)同并不僅僅包括無人機(jī)、無人車及無人艇潛成各智能無人系統(tǒng)非協(xié)同作業(yè)時(shí)難以實(shí)現(xiàn)的目標(biāo)。歐洲中空長(zhǎng)航時(shí)無人機(jī)項(xiàng)目于2015多、空客防務(wù)公司承擔(dān)具體設(shè)計(jì)研發(fā)工作；2016年，西班牙參與了該項(xiàng)目。2018國(guó)防部公開發(fā)布的《無人系統(tǒng)綜合路線圖（2017—2042）同化、安全化發(fā)展趨勢(shì)，闡明了對(duì)多無人系統(tǒng)協(xié)同網(wǎng)絡(luò)安全的研究規(guī)劃。2018年，緊隨其他國(guó)家，澳大利亞發(fā)布了其第一份機(jī)器人發(fā)展路線圖。該路線圖以澳大利亞在利基多無人系統(tǒng)協(xié)同所涉及的技術(shù)主要有以下兩個(gè)方面[21]自主無人系統(tǒng)的智能技術(shù)。研究無人機(jī)自主控制和汽車、船舶、軌道交通自動(dòng)駕駛等智能技術(shù)，服務(wù)機(jī)器人、空間機(jī)器人、海洋機(jī)器人、極地機(jī)器人技術(shù)，無人車間智能的定位、導(dǎo)航、識(shí)別等機(jī)器人及機(jī)械手臂自主控制技術(shù)。在感知技術(shù)與認(rèn)知技術(shù)方面，在2019AudeBillard借助柔性執(zhí)行器，在視覺和觸覺感知方面取得進(jìn)步，可提供自然柔順性，但仍需要對(duì)機(jī)器人感知機(jī)理進(jìn)行進(jìn)一步研究。GuillerminaLópezBendito提出觸覺地圖概念，從而形成全身各部位的觸覺系統(tǒng)。在智能單體研究方面，2015年，BrendenM.Lake提出型，提高從經(jīng)驗(yàn)中逐漸形成常識(shí)的能力。2017年，GangYan在《生物神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和。2019年，ShuguangLi提出群體機(jī)器人，通過試驗(yàn)和仿真，驗(yàn)證了24個(gè)物理機(jī)器人和10圖3-8多無人系統(tǒng)能夠自主地處理通信網(wǎng)絡(luò)中的數(shù)據(jù)和指令，并直接反映在多無人系統(tǒng)的行為同中的人工智能依賴的網(wǎng)絡(luò)節(jié)點(diǎn)多，數(shù)據(jù)交互頻繁，其協(xié)同控制中的通信交互安全保障通信造成大范圍影響，容易在依賴關(guān)系鏈上產(chǎn)生連鎖反應(yīng)3336。布各異的敏感數(shù)據(jù)在通信傳輸、信號(hào)處理及數(shù)據(jù)存儲(chǔ)過程中易受到虛假數(shù)據(jù)植入攻擊，可能導(dǎo)致出現(xiàn)敏感數(shù)據(jù)盜竊泄露等問題，危害內(nèi)部敏感數(shù)據(jù)的安全，同時(shí)導(dǎo)致特定任務(wù)加密方式相對(duì)于對(duì)稱加密方式計(jì)算量更大、計(jì)算時(shí)間更長(zhǎng)，必須根據(jù)實(shí)際情況評(píng)估可行性。目前，針對(duì)3.2.1節(jié)中所述理論和技術(shù)的研究正在如火如荼地進(jìn)行25，但同時(shí)，這些基礎(chǔ)理論框架和關(guān)鍵性技術(shù)中潛在的安全風(fēng)險(xiǎn)也應(yīng)該得到重視。在《新一代人工智能發(fā)展規(guī)在應(yīng)用上給機(jī)器學(xué)習(xí)方法帶來較大的安全隱患。dddd等學(xué)習(xí)框架的深度學(xué)習(xí)。（obotpngy）是一個(gè)用于編寫機(jī)樣化的現(xiàn)實(shí)世界中實(shí)現(xiàn)對(duì)機(jī)器人的控制。目前，在機(jī)器人領(lǐng)域，是使用最為廣泛的一個(gè)平臺(tái)，其既有兼容性強(qiáng)的軟硬件接口，能夠支持、多關(guān)節(jié)機(jī)器臂控制、機(jī)器學(xué)習(xí)、3運(yùn)動(dòng)等，又有通用的文件格式及可視化界面。但是，由于的開源特性和自身特質(zhì)，所以當(dāng)代碼量較大時(shí)，存在漏洞的可能性較高，這對(duì)的商業(yè)應(yīng)用造成了一定的影響。noo、yoh、dddd等作為人工智能領(lǐng)域廣泛應(yīng)用的深度學(xué)習(xí)框最早、最成熟的是美國(guó)的全球定位系統(tǒng)（GlobalPositioningSystem，GPS），已經(jīng)有了大（InertialMeasurementUnit，IMU）的信息，然而IMU也有自身的問題，如果用于長(zhǎng)時(shí)位多無人系統(tǒng)內(nèi)部和外部都有許多網(wǎng)絡(luò)設(shè)備，因此網(wǎng)絡(luò)設(shè)備安全也需要重點(diǎn)考慮。5、人工智能、（軟件定義網(wǎng)絡(luò)）、V（網(wǎng)絡(luò)功能虛擬化）網(wǎng)絡(luò)設(shè)備的更新。在5技術(shù)發(fā)展并成熟的過程中，大量新型設(shè)備被啟用，如5基站、終大眾視野；技術(shù)則催生了虛擬路由器、虛擬防火墻等大量軟件形態(tài)的網(wǎng)絡(luò)設(shè)備。干擾或自身系統(tǒng)出現(xiàn)故障，無論作戰(zhàn)是由無人機(jī)群完成的，還是由有人-無人機(jī)群協(xié)同完成的，多無人系統(tǒng)中單體的失控都可能威脅其他單體的安全，如發(fā)生撞擊、墜毀或誤傷通常不超過500米，并遠(yuǎn)離飛機(jī)場(chǎng)與軍事設(shè)施。民用無人機(jī)群的應(yīng)用環(huán)境更加復(fù)雜，更有積大等特點(diǎn)，其非法使用將會(huì)嚴(yán)重威脅人身財(cái)產(chǎn)安全。式，利用一對(duì)多無線通信來控制大量的無人機(jī)。而無人機(jī)集群作戰(zhàn)則更多利用分布式控性，將對(duì)整個(gè)無人機(jī)集群造成致命的危害。圖39記錄了2018年5月1日晚紅五月·西安城墻國(guó)際文化節(jié)”的無人機(jī)表演事故。圖3-9圖3-10的作戰(zhàn)模式將隨著多智能無人武器協(xié)同的出現(xiàn)而徹底改變20。在軍事上，我們不僅要具安全領(lǐng)域已有兩個(gè)著名的實(shí)例，一是武裝人