2024年全球隱私計算報告

杭州數(shù)據(jù)協(xié)同創(chuàng)新未來實驗中心×

2024年9月2024年全球隱私計算報告數(shù)據(jù)要素社l:杭州數(shù)據(jù)交易所HANGZHOU

DATA

EXCHANGE中國聯(lián)通China

unicom目錄01

隱私計算產(chǎn)業(yè)發(fā)展概況02

2024隱私計算產(chǎn)業(yè)圖譜

03

隱私計算技術(shù)演進和融合04

隱私計算產(chǎn)業(yè)應(yīng)用分析05

隱私計算與人工智能06

隱私計算未來展望·

浙江省大數(shù)據(jù)產(chǎn)業(yè)技術(shù)聯(lián)盟·

杭州國際數(shù)字交易聯(lián)盟特別支持單位·

中關(guān)村實驗室·

杭州金智塔科技有限公司·

浙江螞蟻密算科技有限公司

·

聯(lián)通數(shù)字科技有限公司·浙江大學(xué)區(qū)塊鏈與數(shù)據(jù)安全全國重點實驗室·

中國聯(lián)通智能城市研究院·

數(shù)據(jù)要素社·

杭州數(shù)據(jù)交易所組織單位指導(dǎo)單位支持單位聯(lián)合發(fā)起單位·

杭州市數(shù)據(jù)資源管理局主編張秉晟

王

鵬

熊婷參編人員許苗峰、殷澤原、郭大宇、胡爽、應(yīng)琦、潘凱偉、林洋、梁子軒、劉澤宇、申奇、申冠生、武通、盧天培、錢潤芃、盧益彪、田磊原、馮宇揚、徐澤森、張洵、張文、吳鈺沁、彭樂坤、張菊芳、黃益超、謝琴超、周旦、鄭超編寫成員2024全球隱私計算報告

×××隱私計算產(chǎn)業(yè)發(fā)展概況

圣賀鑒蓋:杭州數(shù)據(jù)交易所HANGZHOU

DATA

EXCHANGE數(shù)據(jù)要素社中國聯(lián)通China

unicom·

隱私計算是用于保護數(shù)據(jù)安全、個人信息和商業(yè)秘密，促進數(shù)據(jù)高效流通、處理和分享等一系列技術(shù)的總稱·助力實現(xiàn)數(shù)據(jù)

“供得出”“流得動”"用得好”“保安全”隱私計算技術(shù)分類

安全多方計算同態(tài)加密零知識證明

不經(jīng)意傳輸

可信執(zhí)行環(huán)境差分隱私數(shù)據(jù)脫敏國家數(shù)據(jù)局圍繞數(shù)據(jù)要素市場化改革開展系列工作·2023年，國家數(shù)據(jù)局會同有關(guān)部門制定《“數(shù)據(jù)要素×”三年行動計劃(2024—2026年)》·

國家數(shù)據(jù)局積極探索布局數(shù)據(jù)基礎(chǔ)設(shè)施，加快數(shù)據(jù)空間等技術(shù)研究，推動隱私計算技術(shù)應(yīng)用，打造安

全可信流通環(huán)境，為數(shù)據(jù)要素流通、開發(fā)、利用提供支撐隱私計算技術(shù)是保障數(shù)據(jù)安全的關(guān)鍵技術(shù)2024全球隱私計算報告

×××:杭州數(shù)據(jù)交易所"HANGZHOU

DATA

EXCHANGE數(shù)據(jù)要素社中國聯(lián)通China

unicom安全多方計算(MPC)·

學(xué)術(shù)界嚴謹?shù)陌踩C明·

數(shù)據(jù)控制力強·

不依賴特殊硬件·無硬件信任根，國密化方案較為可控·有通用運算能力，但性能相對較低·數(shù)據(jù)提供方增多性能會下降，一般適用于5方以下聯(lián)邦學(xué)習(xí)(FL)·

數(shù)據(jù)控制力強·

不依賴特殊硬件·無硬件信任根，國密化方案較為可控·

存在部分安全風(fēng)險·

無通用運算能力·數(shù)據(jù)提供方增多性能會下降，垂直場景一般建議于10方以下可信執(zhí)行環(huán)境(TEE)·

理論上支持所有算法·

計算精度高，與明文一致·計算性能支持大規(guī)模且性能損失小·

隨著數(shù)據(jù)提供方增多不會有明顯性能下降·

數(shù)據(jù)控制力比較弱·

需要相信硬件信任根·

需要額外硬件成本差分隱私(DP)·可證明可衡量的個體隱私保護技術(shù)·

與上面所有技術(shù)路線可獨立疊加·計算精度明文比會有所下降，需結(jié)合算法流程設(shè)計·

不保護數(shù)據(jù)使用價值同態(tài)加密(HE)·是經(jīng)典MPC、聯(lián)邦學(xué)習(xí)方案重要基石，是目前隱私計算PK性能的關(guān)鍵·通用FHE方案性能挑戰(zhàn)大，硬件加速還在發(fā)展中零知識證明(ZK)·驗證速度快，證明通信量較小·

不泄露任何隱私信息·

能與其他隱私計算技術(shù)聯(lián)合使用·

協(xié)議復(fù)雜，開發(fā)成本高·

大規(guī)模計算時證明開銷大·

隱私計算是“隱私保護計算”(Privacy-Preserving

Computation的

簡

稱

，可以

在保證數(shù)據(jù)提供方不泄露原始數(shù)據(jù)的前提

下，對數(shù)據(jù)進行分析計算，有效提取數(shù)據(jù)

要素價值，保障了數(shù)據(jù)在產(chǎn)生、存儲、計

算、應(yīng)用、銷毀等各個環(huán)節(jié)中的"可用不

可見"?！?/p>

隱私計算以安全多方計算

(SecureMulti-party

Computation,MPC)、聯(lián)邦學(xué)習(xí)

(Federated

Learning,FL)、可信執(zhí)行環(huán)境(Trusted

ExecutionEnvironment,TEE)

三大技術(shù)路線為代

表，同時發(fā)展出了同態(tài)加密、差分隱私等

其他密碼學(xué)技術(shù)為輔助的成熟技術(shù)體系。隱私計算，通常又被稱為隱私保護計算，是“在計算中和計算后保護數(shù)據(jù)隱私的技術(shù)”。-----《聯(lián)合國隱私保護計算技術(shù)手冊》

隱私計算技術(shù)是保障數(shù)據(jù)安全的關(guān)鍵技術(shù)隱私計算概述2024全球隱私計算報告

×××隱私計算技術(shù)路線:

杭州數(shù)據(jù)交易所HANGZHOU

DATA

EXCHANGE數(shù)據(jù)要素社中國聯(lián)通China

unicom隱私計算作為獨立的概念在產(chǎn)學(xué)研界得到關(guān)注和發(fā)展，并融合密碼學(xué)、人工智能等多學(xué)科技術(shù)逐漸形成了綜合性技術(shù)體系。主流技術(shù)相繼出現(xiàn)：·

1982年姚百萬富翁問題·

1987年Goldreich等人提出的安全多方計算協(xié)議·

2009年Gentry

提出全同態(tài)加密及OMTP

提出首個可信執(zhí)行環(huán)境標準·2016年《中華人民共和國網(wǎng)絡(luò)安全法》使隱私計算技術(shù)不可或缺·

克勞德·香農(nóng)在20世紀40年代發(fā)表的重要論文《保密系統(tǒng)的通信理論》《密碼學(xué)數(shù)學(xué)理論》·

1976年Diffie和Hellman

創(chuàng)建了公鑰加密體制·

1978年Rivest等人設(shè)計的非對稱加密算法RSA和首次提出的同態(tài)加密概念·

1981年Rabin

首次提出不經(jīng)意傳輸協(xié)議·

隨著數(shù)字經(jīng)濟的快速增長，隱私計算技術(shù)快速發(fā)展，成為促進數(shù)據(jù)要素跨域流通和應(yīng)用的核心技術(shù)，廣泛用于金融、通信、互聯(lián)網(wǎng)、政務(wù)等領(lǐng)域·

相關(guān)政策標準不斷細化完善，如：2018年歐盟GDPR,2019年聯(lián)合國《隱私保護計算技術(shù)聯(lián)合國手冊》,2020年中國“數(shù)據(jù)二十條”2022年美國《促進數(shù)字隱私技術(shù)法案》等·

產(chǎn)業(yè)方面，開源項目如FATE,Mesa

開始商用和落地·

隱私計算開始在實際應(yīng)用中發(fā)揮重要作用，技術(shù)不斷成熟，應(yīng)用規(guī)模將呈現(xiàn)

穩(wěn)定增長趨勢·

隱私計算在技術(shù)上將迎來一系列創(chuàng)新迭代，各個主流技術(shù)路線持續(xù)優(yōu)化，業(yè)

內(nèi)探索技術(shù)融合等方式來突破應(yīng)用瓶頸

隱私計算技術(shù)的四個發(fā)展階段2024全球隱私計算報告

×××穩(wěn)定期(2025至未來)探索期(1982-2016)萌芽期(1949-1981)增長期(2017-2025):杭州數(shù)據(jù)交易所HANGZHOU

DATA

EXCHANGE數(shù)據(jù)要素社中國聯(lián)通

China

unicom產(chǎn)業(yè)需求增加●隱私計算生態(tài)包括數(shù)據(jù)提供方、數(shù)據(jù)加工方、數(shù)據(jù)使用方、服

務(wù)商與交易所等●企業(yè)和個人需求日益增長，有巨大市場空間●開源產(chǎn)品目前是生態(tài)中的主流2021-2025年(預(yù)計我國隱私計算市場規(guī)模120-

1.5145.80%1

44.50%

1.4100-1.280-1S2

.60%G0

0.875.8060.6400.4200.202021

2022基礎(chǔ)產(chǎn)品服務(wù)(億元)數(shù)據(jù)來源：36氪研究院根據(jù)公開資料整理

應(yīng)用擴展、產(chǎn)業(yè)鏈融合●隱私計算在金融、通訊、政務(wù)、醫(yī)療、保險等產(chǎn)業(yè)應(yīng)用更廣泛●產(chǎn)業(yè)鏈從上游的可信硬件，到中游的技術(shù)提供方，再到下游的應(yīng)

用方，已形成較完整的生態(tài)金融

53%通信17%·

政策法規(guī)支持，產(chǎn)業(yè)需求增加·

技術(shù)加速創(chuàng)新并與區(qū)塊鏈、人工智能等新興技術(shù)融合·

相關(guān)技術(shù)標準和產(chǎn)業(yè)規(guī)范逐步完善、產(chǎn)業(yè)鏈完整、應(yīng)用擴展

隱私計算技術(shù)市場前景廣闊20232024E2025E數(shù)據(jù)運營《億元)

-

-

增速(

%

)數(shù)據(jù)來源：億歐，國泰君安，36氪研究院整理2024全球隱私計算報告圣鑒蓋:杭州數(shù)據(jù)交易所HANGZHOU

DATA

EXCHANGE×××數(shù)據(jù)要素社政務(wù)13%中國聯(lián)通

China

unicom·

2023年人工智能相關(guān)法規(guī)25項·歐盟Al法案

(EUAlAct,2024):全球首個全面的Al

法律框架，基于風(fēng)險分類對高風(fēng)

險Al系統(tǒng)設(shè)置了嚴格的監(jiān)管·

美

國Al權(quán)利法案

(AIBill

of

Rights):防

止Al系統(tǒng)中的歧視，確保算法透明性和隱私保

護·中

國AI監(jiān)管法案：加強對Al技術(shù)的監(jiān)管，特

別是涉及國家安全風(fēng)險的應(yīng)用，如生物識別

和監(jiān)控技術(shù)?！?/p>

加拿大人工智能和數(shù)據(jù)法案

(AIDA):

重

點

強調(diào)數(shù)據(jù)隱私和Al的倫理使用，如金融和保險

領(lǐng)域·其他國家和地區(qū)：南韓《SouthKorea's

AlFramework

Act》;巴西《Brazil's

AlRegulationBill》;印

度

《DigitalIndiaAct》·

2023年，具有開放許可證的日益高效的基礎(chǔ)模型呈爆炸式增長，比2022年增加一倍以上，

新模型如：LlaMa、StableLM、Falcon、Mistral、LlaMa2、DeepFloyd和

Stable

Diffusion等·

以

ChatGPT為代表的新一代生成式人工智能

問世，在全球范圍大火，改變了人工智能(Al)

技術(shù)與應(yīng)用的發(fā)展軌跡，加速了人與

Al的互動，是人工智能發(fā)展史上的新里程碑

·GPT-4、Gemini、Gemini

Ultra和Claude3等先進模型展示出強大的多模態(tài)能力，綜合性能優(yōu)越·

麥肯錫2024年調(diào)查發(fā)現(xiàn)，在過去六年中，全球的Al采用率2019年之前一直在50%以下，

2023年躍升至72%;生成式Al采用率從2023年的33%增加到2024年的65%,幾乎翻

了一倍。超過60%的中國企業(yè)計劃在未來1-

2年內(nèi)部署生成式Al2023年對生成式Al的投資激增，達到252億

美元，比2022年增長近八倍Aladoptionworldwide

has

increaseddramatically

inthe

pastyear,after

yearsoflittle

meaningfulchange.OrganizationsthathaveadoptedAlinat

least

1

businessfunction,%of

respondents100-

1002023-2024年間，Al

在技術(shù)創(chuàng)新、政策法規(guī)與應(yīng)用投資等方面均取得較大進展。目前60個國家擁有A|戰(zhàn)略，預(yù)計生成式Al每年將為全球經(jīng)濟貢獻4.4萬億美元。

人工智能技術(shù)的發(fā)展332020201720182019202020212022202320249

應(yīng)用和投資規(guī)模擴大

政策法規(guī)支持2024全球隱私計算報告

×××

技術(shù)創(chuàng)新:杭州數(shù)據(jù)交易所HANGZHOU

DATA

EXCHANGE數(shù)據(jù)要素社中國聯(lián)通China

unicom5650Use

of

generative

AI806055582080Al大模型在創(chuàng)造巨大價值的同時，可能帶來明文訓(xùn)練數(shù)據(jù)被泄露或個人信息被濫用等安全和隱私風(fēng)險，隱私計算技術(shù)通過提供安全計算環(huán)境，可以有效降低這些風(fēng)險。

產(chǎn)業(yè)界進展·

2019年，微眾銀行人工智能團隊發(fā)起了全球首個聯(lián)邦學(xué)習(xí)工業(yè)級開源框架FATE,可以讓企業(yè)和機構(gòu)在保護數(shù)據(jù)安全和數(shù)據(jù)隱私的前提下進行數(shù)據(jù)協(xié)作，核心功能包括聯(lián)邦特征工程，聯(lián)邦統(tǒng)計，聯(lián)邦機器學(xué)習(xí)，聯(lián)邦深度學(xué)習(xí)，聯(lián)邦遷移學(xué)習(xí)等·2024年，螞蟻集團發(fā)布“隱語Cloud”

大模型密態(tài)計算平臺，提高大模型密態(tài)托管和大模型密態(tài)推理服務(wù)

未來發(fā)展方向·

增強的模型安全性：隱私計算技術(shù)可以增強A|模型的安全性，防止模型被惡意攻擊或篡改。例如，使用同態(tài)加密技術(shù)可以在加密狀態(tài)下對數(shù)據(jù)進行處理，確保模型訓(xùn)練和預(yù)測過程的安全性，使用聯(lián)邦學(xué)習(xí)、差分隱私等技術(shù)可以在不暴露原始數(shù)據(jù)的情況下訓(xùn)練模型·

技術(shù)融合與創(chuàng)新：

隱私計算與A

技術(shù)的融合將催生新的技術(shù)路線和創(chuàng)新應(yīng)用。例如，結(jié)合區(qū)塊鏈技術(shù)可創(chuàng)建更透明、可追溯的數(shù)據(jù)處理流程，促進跨域數(shù)

據(jù)合作·

性能優(yōu)化：當(dāng)前隱私計算和A

技術(shù)面臨的一個挑戰(zhàn)是性能問題，尤其是在處理大規(guī)模數(shù)據(jù)時。隨著算法和硬件的優(yōu)化，隱私計算和A技術(shù)的性能將有望得

到顯著提升，從而更好地支持Al應(yīng)

用·

產(chǎn)業(yè)定制化解決方案：不同產(chǎn)業(yè)對隱私計算和A

技術(shù)的需求不同。未來將出現(xiàn)更多針對特定產(chǎn)業(yè)需求的定制化解決方案，如醫(yī)療健康、金融風(fēng)控等專用隱

私平臺·

Al

倫理和合規(guī)性：通過確保數(shù)據(jù)處理過程符合隱私保護要求，隱私計算可以幫助A

技術(shù)更好地適應(yīng)法律法規(guī)，解決A

應(yīng)用中的倫理和合規(guī)性問題

隱私計算與人工智能的技術(shù)融合2024全球隱私計算報告

×××:杭州數(shù)據(jù)交易所HANGZHOU

DATA

EXCHANGE數(shù)據(jù)要素社中國聯(lián)通China

unicom2024隱私計算產(chǎn)業(yè)圖譜

圣賀鑒蓋》Part

TW第二章2024全球隱私計算報告

×××:杭州數(shù)據(jù)交易所HANGZHOU

DATA

EXCHANGE數(shù)據(jù)要素社中國聯(lián)通China

unicomAIX

科太OpenAI新精口日部senseri0塑BaseBitai°翼

方

健

數(shù)

崴

科

技inpherCape

Privacy數(shù)牘sudo二

RYPTICL?aS2024全球隱私計算報告

×××通信通用硬件服務(wù)商HUAWEI

ARMinspur

浪潮

intel.AMDA原語科技PRIMITIVE

HUBTONGTAI同態(tài)科技SEAGLYSPrimiHubpiranha政務(wù)上期放據(jù)集四有限公司門]數(shù)字浙江交易所北京國際大數(shù)據(jù)交易所BeijingMernatianat

Data

Exchange貴陽大數(shù)據(jù)交易所

2024隱私計算圖譜專精服務(wù)商凡藍象智聯(lián)

洞見科技經(jīng)

敲1CJLO作

nlsnaHUAWEIMicrosoftZAMASECRETFLOW隱語EzPC螞蟻集團

ANTGROUPhlByieDance字節(jié)跳動金智塔科技讓

數(shù)

智

世

界

更

可

信融

安

數(shù)

科

cDnG3nDIGITeCH富數(shù)PU2開源服務(wù)商FudanMPLMP-SPDZ金融Eank

中國光大銀行d

溥發(fā)銀行6交通銀行中國電信CHINATELECOM世

界

觸

手

可

及隱私計算垂直類服務(wù)商隱私計算融合類服務(wù)商硬件服務(wù)商融

安

數(shù)

科hGlTEC鋅

裁

科

技Tencent騰訊

Oogle中

圣

在

結(jié)水母智能U綜合服務(wù)商場景應(yīng)用三6O趣鏈科技HYPER

CHAIN螞蟻集團ANTGROUPBai山

百度聯(lián)通數(shù)科necmbH中國聯(lián)通

China

unicomFATE軟硬一體機服務(wù)商APar8diqm算

國

它

餌杭州數(shù)據(jù)交易所HANGZHOUDATA

EXCHANGE杭州數(shù)據(jù)交易所HANGZHOUDATA

EXCHANGE數(shù)據(jù)要素社中國聯(lián)通China

unicom中國農(nóng)業(yè)銀行rm*Ko*c上

取

題招商銀行信息安全中國工商銀行區(qū)塊鏈醫(yī)療hl:i應(yīng)用場景國外ZamaInpherEaglysCape

PrivacyPyte.aiCryptolabsConcrete,Concrete-MLSecret

ComputingR,SecurAl隱私增強技術(shù)，MPC和安全多方數(shù)據(jù)分析平臺保密計算技術(shù)，API加密狀態(tài)下的機器學(xué)習(xí)工具集安全多方計算(MPC),區(qū)塊鏈安全金融、醫(yī)療、區(qū)塊

鏈金融、醫(yī)療金融、醫(yī)療醫(yī)療、金融醫(yī)療、金融金融、區(qū)塊鏈提供隱私保護應(yīng)用程序開發(fā)，支持機器學(xué)習(xí)和其他計算任務(wù)安全計算，跨組織數(shù)據(jù)孤島協(xié)作，大語言模型推理

數(shù)據(jù)安全共享和協(xié)作數(shù)據(jù)去識別化和重新識別，安全文檔處理加密狀態(tài)下訓(xùn)練和推理模型多方協(xié)作計算，智能合約安全杭州金智塔科技有限公司國

內(nèi)

浙江螞蟻密算科技有限公司神州融安數(shù)字科技(北京)有

限公司隱私計算平臺、數(shù)據(jù)合規(guī)流通平臺、容器計算平臺、

數(shù)據(jù)資產(chǎn)登記平臺等以密態(tài)計算技術(shù)創(chuàng)新應(yīng)用及開源社區(qū)共建賦能可信數(shù)據(jù)要素流通建設(shè)政務(wù)、金融、零售、

制造業(yè)政務(wù)、金融、醫(yī)療、

互聯(lián)網(wǎng)政公共數(shù)據(jù)授權(quán)運營、智能風(fēng)控、反欺詐、智能營銷、

智能選址、智能制造等公共數(shù)據(jù)開放、密態(tài)醫(yī)療大模型、密態(tài)大模型知識庫、

智能風(fēng)控、車險定價等融安隱私計算平臺、融安隱私計算一體機

保險、公安、營銷醫(yī)保智能風(fēng)控業(yè)務(wù)、銀行營銷用戶畫像及標簽等隱私計算垂類服務(wù)商正在快速成長，國外企業(yè)專注技術(shù)研發(fā)，在技術(shù)層面取得較多成果；國內(nèi)企業(yè)技術(shù)研發(fā)和商業(yè)化落地協(xié)同發(fā)展。國內(nèi)外隱私計算垂類服務(wù)商分析2024全球隱私計算報告

×××數(shù)據(jù)要素社中國聯(lián)通China

unicom差分隱私TensorFlow

Privacy

框架(谷歌)提供用于訓(xùn)練差分隱私模

型的工具。提供跟蹤和管理隱私預(yù)算

功

能

。Privacy-PreservingData

Analytics(Uber)利

用差分隱私與匿名化技術(shù)。幫助公司在處理用戶乘車數(shù)

據(jù)時保護隱私，同時進行交

通流量和其他分析。聯(lián)邦學(xué)習(xí)FATE聯(lián)邦學(xué)習(xí)框

架(微眾)支持多種機器學(xué)習(xí)模型聯(lián)

邦

建

模

。社區(qū)多達570家企業(yè)參加(2021年)

但代碼性能低(Python)。JaxFed計算庫(谷歌)通過提供相關(guān)組件提高編寫

和部署聯(lián)邦學(xué)習(xí)算法效率。支持TPU、GPU等硬件加速。同態(tài)加密②

l

)態(tài)加密首個開源實現(xiàn)全同態(tài)加密

算法

(BGV

算法)提供

密文自舉代碼實現(xiàn)。但使

用成本高，代碼缺乏維護。O

t(

態(tài))計提供密文自舉代碼實現(xiàn)(TFHE

算法)。前端兼容科學(xué)計算庫Numpy。實

現(xiàn)

零成本編寫同態(tài)應(yīng)用。ZAMAe全同算框架ConcreIBMb全同庫HE利用MPC

技術(shù)完成用戶瀏覽頁面廣告位的隱私保

護集合競價。隱語SecretFlow安全計算框架(螞蟻)統(tǒng)一前端編寫成本低加入

中間層解耦前后端易于擴

展新協(xié)議?？尚艌?zhí)行環(huán)境目

O(高易用性，只需要少量修改程序源碼即可在TEE上

執(zhí)行

。高性能，支持多TEE任務(wù)

同時高效執(zhí)行。)系統(tǒng)螞蟻TEE華&um清ccl

國內(nèi)外隱私計算產(chǎn)品概況自研TEE,

高性能密態(tài)計算能力，支持主流全同態(tài)加密算法與52種全同態(tài)加密算子的硬

件加速，比軟件性能提升200

倍以上。"翠湖"安全處理器和全同態(tài)協(xié)處理器(中

關(guān)村實驗室)隱私保護廣告位集

合競價平臺

(Meta)2024全球隱私計算報告

×××安全多方計算:杭州數(shù)據(jù)交易所HANGZHOU

DATA

EXCHANGE數(shù)據(jù)要素社目目中國聯(lián)通China

unicom■

開源促進了隱私計算的快速發(fā)展開源技術(shù)可以有效促進隱私計算技術(shù)的發(fā)展、普及及應(yīng)用推廣，開源項目降低了隱私計算產(chǎn)業(yè)門檻，從而進一步促進產(chǎn)業(yè)的發(fā)展與繁榮?！?/p>

開源提升了隱私計算平臺的安全性在隱私計算領(lǐng)域，安全性是核心關(guān)切。開源社區(qū)的代碼透明、審查公開，用戶可以檢驗和監(jiān)督平臺的安全性。這種開放性有助于及時發(fā)現(xiàn)并解決產(chǎn)品中的潛在安全問題。國內(nèi)外開源隱私計算技術(shù)與應(yīng)用不斷涌現(xiàn)，

包括微軟、螞蟻集團、原語科技、UC伯克利、復(fù)旦大學(xué)等國內(nèi)外企業(yè)與高校推出多個隱私計算開源項目，進一步促進隱私計算技術(shù)普及、應(yīng)

用和發(fā)展。SECRETFLOW隱語由螞蟻集團研發(fā)的開源可信隱私計算框架，以安全、中立、易用為核心設(shè)計理念，用一套通用框架支持了包括安全多

方計算

(MPC)、

聯(lián)邦學(xué)習(xí)

(FL)、同態(tài)加密

(HE)、可

信執(zhí)行環(huán)境

(TEE)

以及差分隱私

(DP)

在內(nèi)的多種主流

隱私計算技術(shù)，是國內(nèi)生態(tài)影響力最大的開源社區(qū)，技術(shù)

方案最為齊全的隱私計算框架之一。uiepiranha由UC

Berkley

Rise實驗室維護安全多方

學(xué)習(xí)框架，主要通過GPU

對本地密文計

算進行加速，提高本地運算效率，是隱私

計算領(lǐng)域中使用GPU

加速本地密文計算

的先行者。EzPC由微軟開源的安全多方學(xué)習(xí)框架，針對安

全推理場景提供了相對完備的安全級別定

義，相關(guān)研究工作自成一體，是安全多方

學(xué)習(xí)框架中安全推理場景的標桿之一。Zama由Zama公司開發(fā)的Concrete

和Concrete-ML

框架，是由Rust編寫的FHE

框架，旨在讓密碼學(xué)家和開發(fā)人員能

夠以最小的開銷創(chuàng)建隱私保護應(yīng)用程序。FudenMPL由復(fù)旦大學(xué)Daslab實驗室韓偉力教授及

其學(xué)生獨立研發(fā)的開源安全多方學(xué)習(xí)平

臺，是基于BGW

協(xié)議的開源安全多方學(xué)

習(xí)框架。FATE由微眾銀行開源的聯(lián)邦學(xué)習(xí)開源項目，提供了一種基于數(shù)據(jù)隱私保護的安全計算框

架，為機器學(xué)習(xí)、深度學(xué)習(xí)、遷移學(xué)習(xí)算

法提供強有力的安全計算支持。MP-SPDZ由CSIRO

Data61

Engineering

&Design

機構(gòu)Marcel

Keller獨立維護，支

持安全多方計算(MPC)

及同態(tài)加密(HE)

隱私計算技術(shù)。由原語科技研發(fā)的開源可信隱私計算平臺，該平臺融合了安全多

方計算(MPC)、

聯(lián)邦學(xué)習(xí)(FL)、

同態(tài)加密

(HE)、

可

信執(zhí)行環(huán)境

(TEE)等多種隱私

計算技術(shù)。

隱私計算技術(shù)開源情況國外開源隱私計算技術(shù)國內(nèi)開源隱私計算技術(shù)2024全球隱私計算報告

×××數(shù)據(jù)要素社:杭州數(shù)據(jù)交易所HANGZHOU

DATA

EXCHANGE中國聯(lián)通China

unicom圣鑒蓋2024全球隱私計算報告

×××隱私計算技術(shù)演進和融合

圣賀鑒蓋:杭州數(shù)據(jù)交易所HANGZHOU

DATA

EXCHANGE數(shù)據(jù)要素社中國聯(lián)通China

unicom

隱私計算技術(shù)演進與融合-總體進展2023-2024年各類隱私計算論文發(fā)表數(shù)量

2023-2024年各類隱私計算論文占比1601402024全球隱私計算報告

×××數(shù)據(jù)來源(安全和密碼學(xué)頂級會議):·

IEEES&P2023、2024USENIXSecurity2023、2024·ACM

CCS

2023、2024·

NDSS

2023、2024·

CRYPTO

2023、2024·EUROCRYPT

2023、2024●

ASIACRYPT

2023技術(shù)分類：MPC:

Secure

Multi-Party

Computation

安全多方計算·

ZKP:Zero-KnowledgeProof

零知識證明FHE:

FullyHomomorphicEncryption全同態(tài)加密·

DP:DifferentialPrivacy差分隱

私·TEE:TrustedExecutionEnvironment

可信執(zhí)行環(huán)境·

PSI:

PrivateSet

Intersection隱

私集合求交·PIR:

Private

InformationRetrieval

隱私信息查詢806040200MPC

ZKPPSI&PIRFHEDP■2024年發(fā)表數(shù)量■2023年發(fā)表數(shù)量TEE6%TEEDP

12%ZKP28%MPC33%PSI&PIR11%FHE10%說

明

：MPC中除去PSI、PIR相關(guān)工作

說

明

：MPC

中除去PSI、PIR相關(guān)工作圣鑒蓋

數(shù)據(jù)要素社:杭州數(shù)據(jù)交易所HANGZHOU

DATA

EXCHANGEunic聯(lián)120100····

門限加密/簽名算法、混淆算法是MPC

中經(jīng)典的研究課題。門限方案允許一組參與方分享密鑰，超過t個參與方能夠?qū)ο⑦M行解密/簽名；混淆算法起源于經(jīng)典的姚氏混淆電路。·關(guān)于Schnorr、BLS、BBS+、ECDSA

等簽名算法的研究數(shù)量較多。關(guān)注點包括：簽名的輪數(shù)復(fù)雜度、抵御適應(yīng)性敵手的能力、底層假設(shè)、在實際場景下的健壯性等?！?/p>

關(guān)于混淆算法的研究聚焦于：算法的性能、算術(shù)電路/算術(shù)-布爾混合電路的混淆算法?！PC的論文也關(guān)注一些特殊場景下的有趣問題，包括：相關(guān)隨機數(shù)的生成、非平衡場景MPC、可

追

責(zé)

MPC?！は嚓P(guān)隨機數(shù)通過離線階段的預(yù)處理，使協(xié)議的在線階段取得巨大的性能提升。·非平衡場景有：星型網(wǎng)絡(luò)拓撲場景、算力非平衡場景、參與方權(quán)重不同場景等。·

可

追

責(zé)MPC協(xié)議能夠在運行失敗時識別出作惡的參與方，大大增加參與方的作惡成本。·

理論界，關(guān)于MPC

協(xié)議的輪數(shù)復(fù)雜度(或非交互式計算)、通信復(fù)雜度以及計算復(fù)雜度也受到了廣泛

的

研

究

。·

對于不同的目標/模型，研究者證明復(fù)雜度下界或設(shè)計線性/亞線性復(fù)雜度的高效協(xié)議?！?/p>

一些反直覺的結(jié)論：例如，Lin

等人通過對輸入的預(yù)處理，使得參與方在承諾、零知識證明、MPC

協(xié)議中甚至不需要讀取整個輸入，達到亞線性的在線時間復(fù)雜度

(Doubly

Efficient

Cryptography:

Commitments,Arguments

and

RAM

MPC)?！PC

的在各場景下的應(yīng)用以及高效實現(xiàn)，同樣受到業(yè)界人員的廣泛關(guān)注?！?/p>

研究最多的是MPC在機器學(xué)習(xí)/深度學(xué)習(xí)中的應(yīng)用，其他的例子包括：使用MPC進行時間序列分析、認證、網(wǎng)絡(luò)服務(wù)、密鑰管理、動態(tài)數(shù)據(jù)庫分析等等?！PC

落地實現(xiàn)方面，研究包括：(布爾-算術(shù)-姚)混合模式MPC、

有協(xié)助者的MPC、MPC

編譯器等。

其

中

，Silph

是一個能自動將高級程序語言程序編譯成混合MPC協(xié)議的框架

(Silph:A

Framework

forScalable

and

Accurate

Generation

of

Hybrid

MPC

Protocols)。統(tǒng)計了2023與2024年發(fā)表在四大安全會議

(CCS,USENIX

Security,IEEE

S&P,NDSS)和三大密碼學(xué)會議

(CRYPTO,EUROCRYPT,ASIACRYPT)的

關(guān)

于MPC的論文，共144篇。截至本報告寫作之時，ASIACRYPT

2024的論文尚未公布，因此未加入統(tǒng)計。6%3%5%4%9%■相關(guān)隨機數(shù)■輪數(shù)復(fù)雜度/非交互

■應(yīng)用4%13%4%

9%

(門限)加密/簽名

■混淆算法有些論文同時屬于多個類別。18%25%■非平衡場景■通信復(fù)雜度

■實現(xiàn)■可追責(zé)性■計算復(fù)雜度

■其他安全多方計算MPC

研究動態(tài)

MPC論文分類統(tǒng)計

各研究方向進展2024全球隱私計算報告

×××:杭州數(shù)據(jù)交易所HANGZHOU

DATA

EXCHANGE數(shù)據(jù)要素社中國聯(lián)通China

unicom技術(shù)分類與論文數(shù)量構(gòu)建11%攻擊36%應(yīng)用25%防御28%·

技術(shù)分類：攻擊、防御、應(yīng)用、構(gòu)建；

·

安全類頂級會議相關(guān)論文總數(shù)28篇?？尚艌?zhí)行環(huán)境

(Trusted

Execution

Environment,TEE)是軟硬件協(xié)同構(gòu)成的隔離環(huán)境，可以保護敏感數(shù)據(jù)并執(zhí)行隱私計算。常用的TEE技術(shù)

各研究方向進展工

MyTEE通過制作頁表進行內(nèi)存隔離、過濾DMA

數(shù)據(jù)包以及啟用安全IO,

在嵌入式設(shè)備新型可信執(zhí)行環(huán)

上實現(xiàn)了可信執(zhí)行環(huán)境境開發(fā)EnigMap

通過在外部存儲和飛地間建立隱蔽映射，實現(xiàn)了大規(guī)模數(shù)據(jù)的安全高效處理D?rre

等人利用不完全可信的可信執(zhí)行環(huán)境構(gòu)建了高效隱私集合求交協(xié)議，其中可信執(zhí)行環(huán)境可能受到側(cè)信道攻擊，或是將信息泄露給硬件制造商Gramine-TDX

基于Gramine項目和IntelTDX,專門為機密虛擬機設(shè)計了輕量級操作系統(tǒng)Schaik等人的綜述性文章發(fā)現(xiàn)，現(xiàn)有的IntelSGX更新策略無法幫助開發(fā)人員即時修復(fù)安全漏洞多篇文章利用數(shù)據(jù)競爭攻擊、指令計數(shù)攻擊、惡意#VC

中斷、總線故障攻擊等攻擊方式，成功攻破了現(xiàn)有的商用可信執(zhí)行環(huán)境

可信執(zhí)行環(huán)境研究動態(tài)·IntelSGX、IntelTDX、AMDSEV和ARMTrustZoneAEX-Notify

解決方案已被納入IntelSGX修訂版規(guī)范

SymGX發(fā)現(xiàn)多個零日漏洞，并獲開發(fā)者確認跡防御和漏洞探測

手段品隱私計算和可信

應(yīng)用開發(fā)圣鑒蓋中國聯(lián)通China

unicom2024全球隱私計算報告潛在安全隱患:杭州數(shù)據(jù)交易所HANGZHOU

DATA

EXCHANGE×××數(shù)據(jù)要素社ZK

數(shù)據(jù)庫。零知識基本數(shù)據(jù)庫(ZK-EDB)使得證明者能夠?qū)?shù)據(jù)庫D

(其中包含

(x,v)對的鍵值)進行承諾，并隨后為“發(fā)送與x相關(guān)聯(lián)的值D(x)”的查詢提供令人信服的答案，而不

會泄露任何額外的知識。其技術(shù)貢獻有兩方面。首先，引入了一種支持集合合并操作的新型

零知識集(ZKS),

并給出了一個基于未知階群的實際構(gòu)造。其次，開發(fā)了一種將布爾電路查詢

轉(zhuǎn)換為相關(guān)集合合并操作查詢的變換。ZK隱私保護。在區(qū)塊鏈研究中，實現(xiàn)隱私保護的審計而不犧牲系統(tǒng)的安全性和可信性是一個

關(guān)鍵的研究領(lǐng)域。zkCross,這是一種新穎的雙層跨鏈架構(gòu)，配備了三種跨鏈協(xié)議，以實現(xiàn)隱

私保護的跨鏈審計。其中，兩個協(xié)議分別用于隱私保護的跨鏈轉(zhuǎn)賬和交換，第三個協(xié)議則是

高效的跨鏈審計協(xié)議。這些協(xié)議基于堅實的跨鏈方案，以保證隱私保護和審計效率。ZK

投票。為了保證電子投票中沒有選票被添加、遺漏或更改，使用零知識證明來提供公開可驗證的證明，證明輸出的選票是輸入選票的重新加密的排列。通過Coq

證明助手對Bayer-Groth

洗牌證明的安全性進行了機器檢查。隨后提取了驗證器(軟件),用于檢查Bayer-Groth

實現(xiàn)生成的證明，并使用該驗證器對正在為瑞士國家選舉開發(fā)的瑞士郵政電子投票系統(tǒng)的證明進行檢查。ZK

身份驗證。對于許多用戶來說，基于私鑰的錢包是進入?yún)^(qū)塊鏈的主要方式。常見的錢包認證方法可能會顯得繁瑣。這種用戶入門的難度顯著阻礙了區(qū)塊鏈應(yīng)用的普及。zkLogin,

這

是一種新穎的技術(shù)，利用由流行平臺(如啟用OpenlD

Connect的平臺，例如Google、Facebook

等)發(fā)行的身份令牌來認證交易。zkLogin

提供了強大的安全性和隱私保障。然

而，與之前相關(guān)的工作不同，zkLogin

避免了額外的受信方(如受信硬件或預(yù)言機)來提供其

安全保障。zkLogin

利用零知識證明確保用戶的鏈下身份和鏈上身份之間的鏈接被隱藏，甚至

對平臺本身也是不可見的。zkLogin核心的簽名方案使得在區(qū)塊鏈之外進行許多重要應(yīng)用成

為可能。ZKVM

(零知識證明虛擬機)。使用高級語言編寫的程序可以自動生成零知識證明。D

ora是專為ZKVM設(shè)計的高效零知識證明協(xié)議，它很好的平衡了指令數(shù)量和指令復(fù)雜度，使得向處

理器添加指令的開銷幾乎為零。另一個新奇的ZKVM

實現(xiàn)途徑是，使用定制的零知識證明系

統(tǒng)，證明在Satisfiability

ModuloTheories(SMT)范式下的各種等式，如布爾邏輯。FoldingScheme。Nova

是為IVC(incrementalverifiablecomputation)

專門設(shè)計的零

知識證明方案。其本質(zhì)是一種高效的算術(shù)化表示方法，通過對約束系統(tǒng)的不斷壓縮，只需驗

證一次，大大減少了開銷。SuperNova處理了每次調(diào)用函數(shù)不同時的情況，同時運行多個folding

實例，根據(jù)調(diào)用的不同，更新相對應(yīng)的實例。而HyperNova

適應(yīng)于最新的算術(shù)約束系

統(tǒng)CSS(customizable

constraint

system),并使用了名為CycleFold的技術(shù)，使得證明方

案能在一對循環(huán)曲線上進行高效的遞歸。Post

Quantum。后量子安全的零知識證明方案一直是研究的前沿方向，基于格的零知識證

明方案近兩年在實用性上得到了較大的突破。其中，LaBRADOR

證明系統(tǒng)通過基于格的遞歸

攤銷R1CS證明系統(tǒng)，實現(xiàn)了證明大小優(yōu)化，其證明大小僅由遞歸的最后一步?jīng)Q定，與初始R1CS實例的大小無關(guān)。Greyhound是第一個基于標準的格假設(shè)的多項式承諾方案，當(dāng)多項式

的度高時，其evaluation

證明大小較小，達到了實用的程度。分布式。減少零知識證明高昂的證明開銷、將證明過程并行或者分布式是現(xiàn)實的需求。Pianist是一個基于Plonk的高效分布式零知識證明協(xié)議，為并行電路和通用電路都設(shè)計了并行化方法。該框架包含了一個分布式的多項式IOP協(xié)議和一個可分布式計算的多項式承諾方案。

Collaborative零知識證明系統(tǒng)中，證明者會分發(fā)證明任務(wù)給多個子證明者，其他證明者會協(xié)

作生成證明。ZKSaas是一個典型代表，其證明者可以通過秘密分享技術(shù)，讓一組其他證明者

通過安全多方計算的方式，安全生成證明，而不會泄露隱私信息。零知識證明(zero-knowledge

proof,ZKP)是一種密碼學(xué)技術(shù)，其中證明者能夠向驗證者證明某一陳述為真，但在此過程中，除了該陳述的真實性外，驗證者無法獲得任何額外的信息。理論進展

應(yīng)用方面進展

零知識證明研究動態(tài)2024全球隱私計算報告

×××:

杭州數(shù)據(jù)交易所HANGZHOU

DATA

EXCHANGE數(shù)據(jù)要素社中國聯(lián)通China

unicom·PSI,

即隱私集合求交，要求兩方或多方在不泄露額外信息的前提下得到集合的交集。大多數(shù)文獻的研究聚焦于標準PSI,關(guān)注點包括安全性、通信效率、計算效率?！?/p>

安

全

性

方

面

，D?rre

等人提出能夠在含有側(cè)信道的可信執(zhí)行環(huán)境(TEE)

下安全運行的PSI協(xié)議?！?/p>

通信效率方面，Bienstock

等人通過對不經(jīng)意鍵值存儲(OKVS)進行改進，優(yōu)化了鍵值對編碼效率。在計算效率上，Kerschbaum

等人提出在離線階段執(zhí)行昂貴操作的比較協(xié)議，可用于PSI協(xié)議并提高響應(yīng)速度?！?/p>

除

標

準PSI外，許多文獻關(guān)注PSI的變體，例如電路PSI,模

糊PSI,

閾

值PSI,

結(jié)構(gòu)感知PSI?！?/p>

電

路PSI的輸出是集合交集的秘密分享，允許參與方基于集合交集做進一步的計算，而交集本身對兩方保密。Hao

等

人提出了不經(jīng)意鍵值檢索

(OKVR),并據(jù)此構(gòu)建了高效的不平衡電路PSI方案?！つ：齈SI將“距離接近”的兩個元素視作相同元素匹配。Chakraborti等人提出DA-PSI

返回在距離閾值內(nèi)的匹配。·閾值PSI僅在交集大小高于閾值時獲得交集，Liu等人在閾值PSI的基礎(chǔ)上提出了多方概率閾值PSI,以較小概率的不良事件為代價，換取了協(xié)議的高效性和可擴展性?！?/p>

結(jié)

構(gòu)

感

知PSI(sa-PSI)由Garimella等人在2022年提出，其中一方持有的集合為公開的結(jié)構(gòu)，近年來Garimella

等人又對sa-PSI在抗惡意性和計算開銷等方面進行了優(yōu)化。·PIR,

即隱私信息檢索，指用戶向服務(wù)器提交查詢請求時，在用戶查詢隱私信息不被泄漏的條件下完成查詢。多數(shù)文獻聚焦于PIR在效率上的優(yōu)化，關(guān)注點包括：底層假設(shè)、預(yù)處理、計算外包。·

底層假設(shè)方面，Lazzaretti等人提出了基于DDH

假設(shè)的雙服務(wù)器PIR協(xié)議，在性能上優(yōu)于前人基于LWE的構(gòu)造。·

許多研究通過使用預(yù)處理方式，增加查詢的響應(yīng)速度。例如，Ghoshal

等人分別在雙服務(wù)器和單服務(wù)器上提出了新

的預(yù)處理PIR方案，有效降低了在線帶寬。·

此

外

，Li等人通過將計算中昂貴的部分“外包”給服務(wù)器，同樣對PIR查詢的效率進行了優(yōu)化?！?/p>

一些文獻則更加關(guān)注協(xié)議的抗惡意性與隱私性。例

如

，Park等人提出了容忍至多兩個惡意節(jié)點的高性能多服務(wù)器PIR方案；Dietz等人提出了抗惡意的、允許查詢中途終止的PIR協(xié)議?！?/p>

一些文獻對批量PIR進行了研究。Mughees

等人提出了計算和通信效率都較高的批量PIR協(xié)

議

，Liu等人提出了支持

批量查詢的PIR協(xié)議PIRANA,且該協(xié)議對數(shù)據(jù)庫頻繁更新的場景更加友好?！ぁSI類型

文獻數(shù)標準PSI

11電路PSI

2模糊PSI

2閾值PSI

1結(jié)構(gòu)感知PSI

2PIR研究方向

文獻數(shù)效率優(yōu)化

16抗惡意性

4隱私性

2批量PIR

2其它

4

PSI&PSU&PIR研究動態(tài)此外，許多研究關(guān)注不平衡場景——這在實際應(yīng)用中更為常見。例如，Sun

等人對個多客戶端與服務(wù)器分別獨立執(zhí)

行PSI協(xié)議的場景進行了優(yōu)化，使每個客戶端的執(zhí)行協(xié)議的復(fù)雜度與自身集合大小呈線性關(guān)系?！?/p>

共有5篇文獻對PSU

進行研究，主要聚焦于新的PSU

協(xié)議框架，以及對非平衡PSU的優(yōu)化。根據(jù)PIR

研究方向統(tǒng)計文獻數(shù)據(jù)

PSI類型統(tǒng)計文獻數(shù)2024全球隱私計算報告

×××u

,

杭

州

數(shù)

據(jù)

交

早

所HANGZHOU

DAA

EXCHANGE數(shù)據(jù)要素社中國聯(lián)通China

unicom優(yōu)化Bootstrapping

提升FHE的計算效率·Bootstrapping作為FHE

中的關(guān)鍵操作，用于恢復(fù)加密

數(shù)據(jù)的精度·通過優(yōu)化盲旋轉(zhuǎn)操作、使用小型評估密鑰來優(yōu)化FHEW的Bootstrapping過程·基于SIMD技術(shù)的BatchBootstrapping框架將FHE乘

法操作的需求減少到常數(shù)級別·

對于經(jīng)典FHE

加密方案BGV、BFV、CKKS

的Bootstrapping

過程也有不同方式的優(yōu)化FHE的標準化·

統(tǒng)一的中間表示方法HEIR、新型的明文編碼方案

VERITAS、專為FHE設(shè)計的編譯器HECOFHE

的安全性分析·

精

確FHE

方案(如BFV、BGV

和TFHE)

也容易受到

CPAD攻

擊·

提出了一種改進的FHE

方案，通過引入可驗證性機制，超越了傳統(tǒng)IND-CCA1

安全性模型·

提

出了PELTA

機制，通過零知識證明和一系列的驗證機制抵御惡意參與者的攻擊優(yōu)化同態(tài)運算的速度提升FHE的計算效率·

對密鑰分解、多項式計算、矩陣向量乘法進行優(yōu)化…

·

研究者們提出了一種基于LWE

問題的簡化門限FHE

加密方案FHE

在機器學(xué)習(xí)領(lǐng)域的應(yīng)用·

在深度神經(jīng)網(wǎng)絡(luò)、在卷積神經(jīng)網(wǎng)絡(luò)、算法方面提高了

計算效率·

神經(jīng)網(wǎng)絡(luò)推理方面提出了一種創(chuàng)新的方法NeuJeans,通過聯(lián)合優(yōu)化卷積操作和Bootstrapping,解決了隱私保護神經(jīng)網(wǎng)絡(luò)推理中的效率問題。FHE的其他應(yīng)用·

轉(zhuǎn)

密

、PSU、

數(shù)據(jù)存儲與檢索·加速FHE運算的硬件加速器、高效可擴展的數(shù)據(jù)庫系統(tǒng)、

利用同態(tài)加密的單服務(wù)器PIR方案.·

量子全同態(tài)方案的安全性和實用性產(chǎn)生了重要的改進品

FHE

論文分類統(tǒng)計Bootstrapping

12算法改進

11安全性分析

4標準化研究

3機器學(xué)習(xí)

5其他應(yīng)用

9統(tǒng)計了2023與2024年發(fā)表在四大安全會議(CCS,USENIX

Security,IEEE

S&P,NDSS)

和三大密碼學(xué)會議

(CRYPTO,EUROCRYPT,ASIACRYPT)的關(guān)于MPC

的論文，共44篇。截至本報告寫作之時，ASIACRYPT2024的論文尚未公布，故未加入統(tǒng)計。

圣鑒蓋

全同態(tài)加密(FHE)

研究動態(tài)2024全球隱私計算報告

×××三

各研究方向進展:杭州數(shù)據(jù)交易所"HANGZHOU

DATA

EXCHANGE數(shù)據(jù)要素社中國聯(lián)通China

unicom·

針對差分隱私的定義，可提出新的模型，并定義新的差分隱私算法，使其滿足差分隱私定義，且有某些方面的改進與提升?！i

等人提出的R1MSG機制，通過使用一種特殊的低秩協(xié)方差矩陣，顯著降低了精度損失，且能生成更穩(wěn)定的噪聲。·

差分隱私的應(yīng)用或是差分隱私與其他隱私計算技術(shù)結(jié)合后的應(yīng)用，得到了研究者廣泛關(guān)注?！?/p>

差分隱私與零知識證明：Biswas

等人提出了一種可驗證的差分隱私計數(shù)查詢機制，要求發(fā)布方生成零知識證明，確保輸出既符合差分隱私，同時又能保證不暴露任何隨機性信息?！?/p>

差分隱私與安全多方計算：Wei

等人將差分隱私用于安全多方計算，可以較快地生成安全參數(shù)較高的離散高斯樣本。·差分隱私與聯(lián)邦學(xué)習(xí)：跨機構(gòu)聯(lián)邦學(xué)習(xí)中實現(xiàn)記錄級個性化差分隱私的rPDP-FL

框

架

、PrivateFL

方法改進了差分隱私用于聯(lián)邦學(xué)習(xí)時的精度下降?！げ罘蛛[私與機器學(xué)習(xí)：評估不同的差分隱私算法在圖像分類任務(wù)中的效用和抵御成員推理攻擊的能力的評估工具DPMLBench、模型在面對差分隱私引入的噪聲時能夠保持更好的性能的新技術(shù)

DPAdapter,還有一些差分隱私用于機器學(xué)習(xí)的新算法等。·

其他：差分隱私應(yīng)用于側(cè)信道的研究、差分隱私與其他數(shù)學(xué)模型結(jié)合等?！?/p>

有部分研究對經(jīng)典的DP-SGD

算法進行了更深入的分析，比如“數(shù)據(jù)依賴”分析、驗證該算法的信息泄露、研究該算法梯度裁剪引入的偏差等?！?/p>

也有研究工作提出了更好的算法，比如Du

等人提出了一種通過在語言模型前向傳播中直接擾動嵌入矩陣的差分隱私方法DP-Forward,與

DP-SGD

相比減少了計算和存儲成本；Feng

等人提出了

Spectral-DP

算法，結(jié)合頻域梯度擾動和頻譜濾波，通過降低噪聲規(guī)模以提高效用?！?/p>

差分隱私理論方面的研究也有不少進展：·在差分隱私的預(yù)算方面，近兩年的研究工作研究了如何解決預(yù)算管理不足、如何有效分配預(yù)算等問題。其他工作研究了差分隱私中最優(yōu)隨機化的構(gòu)建、錯誤界限改進、差分盲目性改進、審批機

制改進、差分隱私和自適應(yīng)數(shù)據(jù)在空間復(fù)雜度上的差異分析等問題。主要集中在用戶級差分隱私和本地差分隱私。·

用戶級差分隱私：Dong等人研究了針對用戶級差分隱

私的持續(xù)觀察機制，這些機制無需對數(shù)據(jù)進行先驗限

制，并在效用上接近靜態(tài)情況的最優(yōu)值?！?/p>

本地差分隱私：基于鏈接的局部差分隱私方法，可以

保護圖中鏈接的隱私；針對本地差分隱私頻繁項集挖

掘協(xié)議的數(shù)據(jù)投毒攻擊；首個在本地差分隱私下進行

數(shù)據(jù)挖掘任務(wù)的方法LDP-RM;優(yōu)化局部差分隱私協(xié)

議中的頻率估計問題的卷積框架等。DP

論文分類

統(tǒng)計※研究熱點

差分隱私DP

研究動態(tài)DP應(yīng)用，9本地DP,6DP

理論研究，

DP-SGD

相13

關(guān)研究，52024全球隱私計算報告

×××各研究

方向

進展DP結(jié)合其他

技術(shù)，4:杭州數(shù)據(jù)交易所HANGZHOU

DATA

EXCHANGE數(shù)據(jù)要素社新DP

定義，4中國聯(lián)通China

unicom其他，7·

聯(lián)邦學(xué)習(xí)中的分布式模型更新和聚合協(xié)議旨在確?？蛻舳烁碌碾[私，同時抵御惡意客戶端的攻擊?，F(xiàn)有

方法如安全聚合協(xié)議、基于概率的檢測機制提供了初步的解決方案，但面臨通信成本和計算效率的挑戰(zhàn)。·例

如

，Ma

等人提出

Flamingo

協(xié)議，引入輕量級丟棄容錯機制，顯著提高了訓(xùn)練效率，同時保持模型準

確

性

。Rathee

等人提出了ELSA安全聚合協(xié)議，專注于應(yīng)對惡意行為者的存在，并通過創(chuàng)新的分布式信任

機制保證了客戶端更新的隱私和防御惡意客戶端。·

聯(lián)邦學(xué)習(xí)的魯棒性設(shè)計旨在防御惡意更新和各種對抗性攻擊?，F(xiàn)有研究提出了基于認證、評分和排名的機

制來提高FL模型的穩(wěn)健性。·

例

如Xie等人探討了差分隱私與中毒攻擊認證魯棒性之間的內(nèi)在聯(lián)系。通過用戶級和實例級差分隱私的形

式分析，研究提供了兩種魯棒性認證標準，并展示了如何在提高隱私保護的同時增強認證攻擊的無效性。

Fang

等人提出BALANCE算法，并通過理論和實驗結(jié)果證明了該算法在面對中毒攻擊時的有效性?！?/p>

個性化聯(lián)邦學(xué)習(xí)

(PFL)

允許每個客戶端根據(jù)自身的局部數(shù)據(jù)分布定制模型，提升個體性能。然而，這種

個性化也為潛在攻擊者提供了新的攻擊向量，特別是后門攻擊等復(fù)雜威脅。·

例

如

，Lyu

等人探討了個性化FL中的潛在后門攻擊，提出了PFedBA

攻擊策略，通過優(yōu)化觸發(fā)器生成過程

有效規(guī)避現(xiàn)有防御機制。Xu

等人提出ACE攻擊，展示了惡意客戶端如何通過操控本地模型參數(shù)提升自身

的貢獻評估，并探索了六種防御措施，結(jié)果顯示這些防御不足以阻止ACE

攻擊?！?/p>

聯(lián)邦學(xué)習(xí)的隱私保護是其主要優(yōu)勢之一，差分隱私(DP)技術(shù)已經(jīng)被廣泛應(yīng)用于保障用戶數(shù)據(jù)的安全。

然而，DP

帶來的精度損失和對異質(zhì)性數(shù)據(jù)的影響仍是待解決的挑戰(zhàn)·

例

如，Yang

等人通過個性化數(shù)據(jù)轉(zhuǎn)換減少了差分隱私引入的異質(zhì)性，從而提高聯(lián)邦學(xué)習(xí)模型的精度。Jiang等人提出了標簽分布擾動機制，實現(xiàn)個體隱私和標簽分布隱私的雙重保護·

聯(lián)邦學(xué)習(xí)容易受到中毒攻擊和后門攻擊威脅，攻擊者可以通過惡意客戶端修改模型更新。現(xiàn)有的防御機制主要通過檢測惡意更新、限制更新空間或引入認證機制來提高魯棒性·

例

如MESAS、RoFL、FedVal、FreqFed、CrowdGuard、AutoAdapt、Backdoorlndicator、3DFed、BayBFed、FedRecover

等多種防御框架被提出，被用于攻擊檢測、自適應(yīng)工具防御、后門攻擊等各種復(fù)

雜場景之下的攻擊防御。03個性化聯(lián)邦學(xué)習(xí)和定制防御，

分布式模型更6

聯(lián)邦學(xué)習(xí)魯棒新和安全聚合性和穩(wěn)健性，2

協(xié)議，4

04隱私保護與差分隱私技術(shù)，3其它，13

中毒攻擊和后門攻擊的防御，

12*統(tǒng)計了2023與2024年發(fā)表在四大安全會議

(CCS,USENIXSecurity,IEEE

S&P,NDSS)上關(guān)于FL的論文，共36篇。截至本

報告寫作之時，ASIACRYPT

2024的論文尚未公布，因此未加入

統(tǒng)計。有些論文同時屬于多個類別，分類時存在重疊。

聯(lián)邦學(xué)習(xí)FL研究動態(tài)FL論文分類統(tǒng)計

各研究方向進展2024全球隱私計算報告

×××數(shù)據(jù)要素社0102繁贊備蓋:杭州數(shù)據(jù)交易所HANGZHOU

DATA

EXCHANGE中國聯(lián)通

China

unicom05FL的應(yīng)用場景正在不斷擴大，研究者正致力于開發(fā)更加智能和自適應(yīng)的防御機制來應(yīng)對復(fù)雜的攻擊。去中心化和個性化隱私保護技術(shù)、激勵機制、分布式架構(gòu)優(yōu)化等也將成為未來研究的重點，發(fā)展趨勢如下：隱私保護技術(shù)的進一步發(fā)展

增強攻擊防御能力

高效、安全的聚合協(xié)議

個性化與魯棒性的平衡隨著FL應(yīng)用場景的擴大，如何在大規(guī)模分布式系統(tǒng)中高效地進行

安全聚合將成為一個關(guān)鍵問題。

未來的研究可能會探索更加輕量

化且魯棒的協(xié)議設(shè)計。未來的FL系統(tǒng)需要更智能的差分隱私應(yīng)用，以在不顯著影響模型

性能的前提下提高隱私保護的能

力。個性化隱私保護方案將是一

個重要的發(fā)展方向。個性化模型訓(xùn)練與全局魯棒性的平衡將是未來的研究重點。個性

化技術(shù)將繼續(xù)發(fā)展，尤其是在保

護安全的同時提高本地模型的性

能。FL中的攻擊防御需要應(yīng)對越來越復(fù)雜的自適應(yīng)攻擊，特別是針對后門攻擊和中毒攻擊。新的防御

策略應(yīng)具備動態(tài)適應(yīng)不同攻擊模

式的能力。

聯(lián)邦學(xué)習(xí)未來發(fā)展趨勢2024全球隱私計算報告

×××:杭州數(shù)據(jù)交易所"HANGZHOU

DATA

EXCHANGE數(shù)據(jù)要素社中國聯(lián)通China

unicom》Part

Fo第四章隱私計算產(chǎn)業(yè)應(yīng)用分析

2024全球隱私計算報告

×××:杭州數(shù)據(jù)交易所HANGZHOU

DATA

EXCHANGE數(shù)據(jù)要素社中國聯(lián)通China

unicom圣賀鑒蓋隱私計算產(chǎn)業(yè)資本熱度有所降低，但隨著應(yīng)用加深，新的增長機會不斷涌現(xiàn)，市場規(guī)模仍會持續(xù)增長。隱私計算市場規(guī)模/招標數(shù)量

趨勢分析

團

增長機會隱私計算技術(shù)與前沿技術(shù)不斷融合，隱私計算技術(shù)與AI、云計算、區(qū)塊鏈等技術(shù)深

度融合，多種技術(shù)融合的應(yīng)用解決方案已

逐漸成為各場景的主要技術(shù)應(yīng)用模式，持

續(xù)提高數(shù)據(jù)安全性和隱私性。數(shù)據(jù)要素流通促進隱私計算不斷發(fā)展，隨

著各地公共數(shù)據(jù)授權(quán)運營機制逐漸完善，

各方數(shù)據(jù)用戶意識到隱私計算成為必需投

入的內(nèi)容。隱私計算應(yīng)用場景不斷深化，隱私計算在金融、醫(yī)療、政務(wù)、人工智能等業(yè)務(wù)場景

不斷深化，各個業(yè)務(wù)場景均需多方數(shù)據(jù)的

可信流通，實現(xiàn)數(shù)據(jù)價值釋放。受整體經(jīng)濟環(huán)境，隱私計算產(chǎn)業(yè)資本熱度有所降低，資本逐漸回歸理性。隨著隱私計算技術(shù)成熟度和產(chǎn)業(yè)認知度逐

漸提升，隱私計算產(chǎn)業(yè)仍處于快速增長階

段，預(yù)計市場規(guī)模將進一步擴大。

隱私計算產(chǎn)業(yè)市場分析16014012010080604020020212024全球隱私計算報告

×××<←250200150100500數(shù)據(jù)來源：中國信通院、2023全球隱私計算報告市場規(guī)模一招標項目數(shù):杭州數(shù)據(jù)交易所HANGZHOU

DATA

EXCHANGE數(shù)據(jù)要素社中國聯(lián)通China

unicom億元/人民幣2025e2023·隱私成為云端智能計算的核心競爭力在日益重視隱私的時代，Private

Cloud

Compute提供了一種新模式，

確保在享受云計算帶來的強大智能時，用戶的隱私和數(shù)據(jù)安全不會受到

侵犯。這一模式使Apple

成為了產(chǎn)業(yè)內(nèi)隱私保護領(lǐng)域的標桿?！ご蚱啤半[私與智能化無法兼得”的認知傳統(tǒng)上，用戶常常認為要想獲得智能化的服務(wù)，必須犧牲部分隱私，而

Apple

的Private

Cloud

Compute平臺通過技術(shù)創(chuàng)新打破了這種矛盾，

使得用戶能夠在不損害隱私的前提下，享受與日俱增的智能服務(wù)?！ね苿赢a(chǎn)業(yè)隱私保護標準提升Private

Cloud

Compute的推出推動了云計算和Al產(chǎn)業(yè)的隱私保護標

準，促使更多公司關(guān)注用戶數(shù)據(jù)隱私問題，進一步推動了全球數(shù)據(jù)隱

私保護法律法規(guī)的落實?！みm應(yīng)AI時代的數(shù)據(jù)需求Al需要大量數(shù)據(jù)進行訓(xùn)練和推理，而如何在不泄露隱私的前提下處理這

些數(shù)據(jù)是一個巨大挑戰(zhàn)。Private

Cloud

Compute提供了一個新的解

決方案，允許Al技術(shù)繼續(xù)進步的同時，不必擔(dān)心用戶隱私泄露。Private

Cloud

Compute是2024年Apple

推出的云計算平臺，旨在提供強大的計算能力，同時確保用戶數(shù)據(jù)的隱私和安全。這個平臺標志著Apple在隱私保護領(lǐng)域的進一步創(chuàng)新。該平臺是Apple

基于其強大的隱私保護傳統(tǒng)，構(gòu)建的一個全新云計算架構(gòu)。它將iPhone

等本地設(shè)備上已有的隱私保

護措施擴展到了云端計算環(huán)境中。該平臺的設(shè)計理念是通過確保數(shù)據(jù)隱私，使用戶可以在不暴露個人數(shù)據(jù)的前提下，享受人工智能和云計算技術(shù)帶

來的智能服務(wù)?！黾用芴幚砼c計算平臺采用先進的同態(tài)加密和多方安全計算技術(shù)，確保數(shù)據(jù)在加密狀態(tài)下依然可以進行處理和分析。這意味著即使在云端，數(shù)據(jù)也不會被解密，從而實現(xiàn)完全的數(shù)據(jù)隱私保護?！鰝€性化與隱私的平衡用戶可以通過平臺享受個性化服務(wù)，比如廣告推薦、智能助手等，而這些服務(wù)不需要實際讀取或存儲用戶的個人數(shù)據(jù)。所有個性化推薦和分析均在加密數(shù)據(jù)上完成，保護了用戶的隱私?！?/p>

端到端加密保障所有用戶與云端之間的數(shù)據(jù)傳輸都經(jīng)過端到端加密，確保數(shù)據(jù)在傳輸過程中無法被竊取或篡改。無論是用戶的輸入還是云端計算的輸出，Apple

都保證數(shù)據(jù)始終處于加密狀態(tài)?！霰镜丶墑e的隱私保護擴展到云端Private

Cloud

Compute將Apple

在設(shè)備端的隱私保護技術(shù)(如差分隱私、設(shè)備端處理、端對端加密等)

無縫擴展到云端。這樣，用戶的數(shù)據(jù)即使在云端進行處理，依然享有與本地設(shè)備上同等的隱私保護?！霾罘蛛[私技術(shù)Private

Cloud

Comput