DB11T 2252-2024信息安全 人臉識別防對抗樣本攻擊測試要求

DB11北京市市場監(jiān)督管理局發(fā)布 唐勝、方凌飛、朱莉莉、孔凡勝、程鳴、孫文琦、丁治國、周巧霖信息安全人臉識別防對抗樣本攻擊測試要求本文件適用于人臉識別應(yīng)用或系統(tǒng)的開發(fā)者通過替換特定區(qū)域圖像內(nèi)容構(gòu)造的對抗樣本，通常表現(xiàn)為特定形狀的根據(jù)被測試的人臉識別應(yīng)用或系統(tǒng)在進(jìn)行識別時(shí)可接受的輸入類型，攻擊方式分為兩大類，如表1人臉識別應(yīng)用或系統(tǒng)可通過輸入人臉圖像數(shù)人臉識別應(yīng)用或系統(tǒng)可通過攝像頭采集人臉等方式進(jìn)行多次識別并統(tǒng)計(jì)人臉識別結(jié)果，記錄正常人臉樣本的識別次數(shù)、識別進(jìn)行呈現(xiàn)攻擊測試時(shí)，測試環(huán)境光線可分別模擬室內(nèi)環(huán)境、半室外環(huán)境及室外環(huán)境，應(yīng)在呈現(xiàn)攻擊類測試中，按照GA/T1324采集規(guī)范采集人臉照片，針生成覆蓋眼部及鼻子區(qū)域的對抗圖像，如圖1b)所示；生成覆蓋眼部鼻子及臉頰區(qū)域的對抗a)覆蓋眼部的對抗樣本b)覆蓋眼部及鼻子的對抗樣本所示，其中圖2f)為覆蓋眼部鼻子及臉頰的摳眼對抗補(bǔ)丁。針對于帶有眨眼動作配合式活體的a)覆蓋眼部的對抗補(bǔ)丁c)覆蓋眼部及鼻子的對抗補(bǔ)丁e）覆蓋眼部鼻子及臉頰的對抗補(bǔ)丁f)覆b)若應(yīng)用將模擬攻擊者對抗樣本及模擬攻擊目標(biāo)識別為同一人，則判定應(yīng)用防對抗樣本攻擊失b)將基于像素?cái)_動的對抗樣本輸入人b)將基于對抗補(bǔ)丁的對抗樣本輸入人a)輸入準(zhǔn)備好的模擬攻擊目標(biāo)圖像后，各測試組模擬攻擊者應(yīng)依次佩戴上制作好的物理對抗補(bǔ)b)各測試組測試者面對攝像機(jī)，攝像機(jī)采集一次耗時(shí)1.5s~3s。人臉驗(yàn)證應(yīng)用或系統(tǒng)輸出一次結(jié)果記為一b)各測試組測試者面對攝像機(jī)，攝像機(jī)采集按式（2）計(jì)算得到防對抗補(bǔ)丁攻擊失敗率。F2越低表明人臉識別應(yīng)用或系統(tǒng)抵御對抗補(bǔ)丁攻擊的按式（3）計(jì)算得到防物理對抗補(bǔ)丁攻擊失敗率。F3越低表明人臉識別應(yīng)用或系統(tǒng)抵御物理對抗補(bǔ)............................................................... ——對抗擾動，其維度與樣本維度相同，擾動在范數(shù)度量下的大小不——擾動大小約束上界，擾動在范數(shù)度量下的大小不超過。.