2022聯(lián)邦學(xué)習(xí)安全需求白皮書(shū)

聯(lián)邦學(xué)習(xí)安全需求白皮書(shū)（2022）聯(lián)邦學(xué)習(xí)安全需求白皮書(shū)（2022聯(lián)邦學(xué)習(xí)安全需求白皮書(shū)（2022）PAGEPAGE目錄第一邦習(xí)展述 2數(shù)據(jù)素場(chǎng)展安合規(guī)求 2聯(lián)邦習(xí)術(shù)其展 3聯(lián)邦習(xí)臨突問(wèn)和挑戰(zhàn) 5第二邦習(xí)全險(xiǎn)分析 6信息統(tǒng)全險(xiǎn) 6聯(lián)邦議全險(xiǎn) 7聯(lián)邦務(wù)全險(xiǎn) 8第三邦習(xí)全求總框架 9聯(lián)邦習(xí)全計(jì)路 9聯(lián)邦習(xí)全架 9聯(lián)邦習(xí)全級(jí)議 第四望倡議 12參考獻(xiàn) 17第一章聯(lián)邦學(xué)習(xí)發(fā)展概述數(shù)據(jù)要素市場(chǎng)發(fā)展與安全合規(guī)要求國(guó)家持續(xù)推動(dòng)數(shù)字經(jīng)濟(jì)的發(fā)展，著力促進(jìn)數(shù)據(jù)要素市場(chǎng)發(fā)展。黨的十九屆（數(shù)據(jù)的隱私安全受到世界各國(guó)的廣泛和高度重視，法律法規(guī)的監(jiān)管和要求20185AI聯(lián)邦學(xué)習(xí)技術(shù)及其發(fā)展參數(shù)，從而達(dá)到協(xié)同訓(xùn)練效果的分布式機(jī)器學(xué)習(xí)方法。習(xí)，分布式機(jī)器學(xué)習(xí)，密碼學(xué)（對(duì)稱非對(duì)稱加密，同態(tài)加密等，差分隱私，安全多方計(jì)算等多種不同的技術(shù)。圖1聯(lián)邦學(xué)習(xí)與相關(guān)技術(shù)概念的關(guān)系Google2016下載更新到自己的移動(dòng)設(shè)備，提高訓(xùn)練模型的準(zhǔn)確性。目前聯(lián)邦學(xué)習(xí)技術(shù)收到業(yè)界廣泛關(guān)注和深度參與，在框架、產(chǎn)品/應(yīng)用以及標(biāo)準(zhǔn)化方面都已經(jīng)有大量公司和機(jī)構(gòu)在積極布局。應(yīng)用應(yīng)用泛金融醫(yī)療物聯(lián)網(wǎng)智慧城市運(yùn)營(yíng)商平臺(tái)框架標(biāo)準(zhǔn)化圖2聯(lián)邦學(xué)習(xí)技術(shù)的產(chǎn)業(yè)生態(tài)平臺(tái)框架標(biāo)準(zhǔn)化GoogleFacebook企業(yè)以及同盾、富數(shù)、藍(lán)象科技等新興創(chuàng)業(yè)公司。主流聯(lián)邦學(xué)習(xí)開(kāi)源框架包括FAT（微眾PaddleF（百度Fedlearne（字節(jié)跳動(dòng)TensorFlowPySyft（Facebook）等。3GPPITU-TCCSA20213IEEE（IEEEP3652.1CCSATC1TC8，TC601了相關(guān)的研究課題和標(biāo)準(zhǔn)立項(xiàng)。20215經(jīng)營(yíng)。聯(lián)邦學(xué)習(xí)面臨的突出問(wèn)題和挑戰(zhàn)（一）缺乏合規(guī)及安全性評(píng)測(cè)認(rèn)證（二）性能開(kāi)銷劣化成為發(fā)展與應(yīng)用瓶頸（三）異構(gòu)框架并存帶來(lái)新的互聯(lián)互通壁壘重制約聯(lián)邦學(xué)習(xí)技術(shù)的應(yīng)用推廣和規(guī)模化發(fā)展。第二章聯(lián)邦學(xué)習(xí)安全風(fēng)險(xiǎn)分析邦學(xué)習(xí)的安全風(fēng)險(xiǎn)。信息系統(tǒng)安全風(fēng)險(xiǎn)信息平臺(tái)安全風(fēng)險(xiǎn),結(jié)合《信息系統(tǒng)安全等級(jí)保護(hù)定級(jí)指南》要求，風(fēng)險(xiǎn)的分類包括：物理安全風(fēng)險(xiǎn)是指針對(duì)系統(tǒng)所用設(shè)備的物理風(fēng)險(xiǎn)，如自然災(zāi)害、電源故障、無(wú)靜電防護(hù)、設(shè)備被盜、電磁泄露等造成物理硬件資產(chǎn)損害。險(xiǎn)指的是在基于網(wǎng)絡(luò)構(gòu)建的傳輸線路上存在竊聽(tīng)風(fēng)險(xiǎn)或者通信鏈路存在三方干擾風(fēng)險(xiǎn)。漏洞等；非法授權(quán)訪問(wèn)以及應(yīng)用操作無(wú)法安全存證審計(jì)等。由于未采用合適加密技術(shù)導(dǎo)致的數(shù)據(jù)泄露風(fēng)險(xiǎn)以及影響數(shù)據(jù)完整性的風(fēng)險(xiǎn)；聯(lián)邦協(xié)議安全風(fēng)險(xiǎn)聯(lián)邦學(xué)習(xí)系統(tǒng)的分布式架構(gòu)帶來(lái)了不同于傳統(tǒng)信息系統(tǒng)以及傳統(tǒng)機(jī)器學(xué)習(xí)聯(lián)邦協(xié)議安全風(fēng)險(xiǎn)；多方計(jì)算層面的算子安全風(fēng)險(xiǎn)，以及基礎(chǔ)密碼算法層面的密碼安全風(fēng)險(xiǎn)；訓(xùn)練風(fēng)險(xiǎn)及模型推斷風(fēng)險(xiǎn)等；聯(lián)邦協(xié)議安全風(fēng)險(xiǎn)按照實(shí)現(xiàn)方案可分為基于RSA盲簽名的隱私對(duì)齊方案風(fēng)現(xiàn)一致性安全；從邏輯層次的角度詳細(xì)分析和描述聯(lián)邦學(xué)習(xí)協(xié)議安全的內(nèi)容如下：協(xié)議安全風(fēng)險(xiǎn):即聯(lián)邦學(xué)習(xí)節(jié)點(diǎn)間的交互協(xié)議存在的安全風(fēng)險(xiǎn)，該安全風(fēng)險(xiǎn)算子安全風(fēng)險(xiǎn)包括算子庫(kù)的實(shí)現(xiàn)錯(cuò)誤，引用無(wú)認(rèn)證來(lái)源算子庫(kù)等；密碼算法的安全風(fēng)險(xiǎn)包括密碼算法的實(shí)現(xiàn)錯(cuò)誤，引用無(wú)認(rèn)證來(lái)源密碼算法庫(kù),未如密鑰長(zhǎng)度或者強(qiáng)度不足，沒(méi)有加密處理等；聯(lián)邦業(yè)務(wù)安全風(fēng)險(xiǎn)AIAI臨的安全問(wèn)題在聯(lián)邦學(xué)習(xí)依然存在，這些典型安全風(fēng)險(xiǎn)包括：或者社會(huì)規(guī)范道德方面的安全風(fēng)險(xiǎn)；法對(duì)模型決策做出合適的解釋。(ML)AI第三章聯(lián)邦學(xué)習(xí)安全需求總體框架聯(lián)邦學(xué)習(xí)安全設(shè)計(jì)思路原則：及實(shí)踐上的階段可操性性；分類分級(jí)原則：聯(lián)邦學(xué)習(xí)安全框架一方面要能體現(xiàn)出安全風(fēng)險(xiǎn)的分類原則，傳統(tǒng)的信息系統(tǒng)安全和機(jī)器學(xué)習(xí)系統(tǒng)安全；聯(lián)邦學(xué)習(xí)安全框架安全目標(biāo)及要求聯(lián)邦學(xué)習(xí)系統(tǒng)由于人工智能模型的結(jié)果不確定性以及算法的分布式交互等（性（魯棒性防攻擊和可解釋性等安全屬性。聯(lián)邦學(xué)習(xí)的安全目標(biāo)和具體的安全屬性要求為：1）平臺(tái)安全的安全目標(biāo)包括：保密性、完整性、可用性、可審計(jì)性。聯(lián)邦學(xué)習(xí)安全需求白皮書(shū)（2022聯(lián)邦學(xué)習(xí)安全需求白皮書(shū)（2022）1010特性。完整性：確保平臺(tái)相關(guān)數(shù)據(jù)信息等不被未經(jīng)授權(quán)的方式替換或破壞的特性。性，即在事件發(fā)生后迅速恢復(fù)運(yùn)行狀態(tài)的能力。2）協(xié)議安全的安全目標(biāo)包括：安全性、穩(wěn)定性、可靠性。據(jù)的特性。穩(wěn)定性：聯(lián)邦學(xué)習(xí)算法在存在各種干擾情況下保持其性能水平穩(wěn)定的特性。時(shí)的自動(dòng)或者手工接管機(jī)制。3）業(yè)務(wù)安全的安全目標(biāo)包括：合規(guī)性、公平性、可解釋性、防攻擊性。律、法規(guī)以及規(guī)定的特性；及規(guī)范要求的特性。準(zhǔn)確性解釋的特性。性。安全框架聯(lián)邦學(xué)習(xí)安全需求白皮書(shū)（2022聯(lián)邦學(xué)習(xí)安全需求白皮書(shū)（2022）11PAGE邦學(xué)習(xí)新領(lǐng)域的擴(kuò)展。RSA務(wù)的攻擊性檢測(cè)及預(yù)防安全即攻防安全。聯(lián)邦學(xué)習(xí)安全分級(jí)建議對(duì)于聯(lián)邦學(xué)習(xí)目前還沒(méi)有機(jī)構(gòu)或者標(biāo)準(zhǔn)組織來(lái)制定聯(lián)邦學(xué)習(xí)安全的能力分級(jí)標(biāo)準(zhǔn)，建議可以將聯(lián)邦學(xué)習(xí)的安全能力分為如下三級(jí)：I平臺(tái)層面資產(chǎn)保密，完整，功能可用；聯(lián)邦學(xué)習(xí)安全I(xiàn)II協(xié)議層面安全防護(hù)以及業(yè)務(wù)層面社會(huì)規(guī)范道德公平正義,應(yīng)用攻擊檢測(cè)等；聯(lián)邦學(xué)習(xí)安全I(xiàn)IIII以及應(yīng)用層面業(yè)務(wù)層面的模型可解釋、攻擊主動(dòng)防御等；第四章展望與倡議聯(lián)邦學(xué)習(xí)的安全研究目前尚處于起步階段，還存在著眾多有待解決的問(wèn)題，未來(lái)可重點(diǎn)推動(dòng)和開(kāi)展如下三方面的工作：（一）構(gòu)建聯(lián)邦學(xué)習(xí)安全標(biāo)準(zhǔn)體系和安全能力分級(jí)標(biāo)準(zhǔn)（二