安全大模型的最后一公里智能決策與自動響應(yīng)

安全大模型的最后一公里實(shí)踐：智能決策與自動響應(yīng)演講人：目錄01大模型在網(wǎng)絡(luò)安全領(lǐng)域應(yīng)用現(xiàn)狀0203大模型安全運(yùn)營應(yīng)用實(shí)踐案例大模型在智能決策領(lǐng)域的應(yīng)用探索04

未來展望大模型在網(wǎng)絡(luò)安全領(lǐng)域應(yīng)用正在積極擁抱，實(shí)質(zhì)場景相對較少～一切源于實(shí)戰(zhàn)，一切從救火開始想象一下，當(dāng)你正和家人享受著周末的美好時光，公司的服務(wù)器突然遭受了一次突發(fā)的網(wǎng)絡(luò)攻擊?，F(xiàn)在，你有兩個選擇：一是：打斷你的休息時間，召集團(tuán)隊緊急應(yīng)對；二是：讓AI安全專家“小A”來處理這個問題。5分鐘撲滅50分鐘撲滅一次典型的云上網(wǎng)絡(luò)安全攻擊事件人工團(tuán)隊的極限對抗（手工查情報）人工團(tuán)隊的極限對抗（跨系統(tǒng)比對）人工團(tuán)隊的極限對抗（下一次還能穩(wěn)定發(fā)揮？）4名人員，40分鐘止血，4小時復(fù)盤分析如何應(yīng)對下一次安全運(yùn)營的挑戰(zhàn)？基于對安全響應(yīng)的準(zhǔn)確性、即時性和專業(yè)性的要求，安全工作天然需要人工智能精準(zhǔn)識別智能決策快速響應(yīng)國內(nèi)“安全大模型”SecurityGPTQ-GPTY。GPTCyberGPT“人工智能+安全”將進(jìn)一步激發(fā)更多網(wǎng)絡(luò)安全防護(hù)新需求，催生網(wǎng)絡(luò)安全新技術(shù)、新產(chǎn)品、新模式，拓展網(wǎng)絡(luò)安全產(chǎn)業(yè)發(fā)展

新空間。但也需要客觀冷靜地看待事實(shí)：絕大多數(shù)公司并沒有能力打造所謂的“安全大模型”。無論是算力顯卡、還是人工智能算法本身，亦或是用于訓(xùn)練大模型的海量數(shù)據(jù)，能夠從零訓(xùn)練打造

“安全大模型”的企業(yè)微乎其微。為了跟風(fēng)，蹭流量，一些“宣布”自研了安全大模型的廠商，實(shí)際所做的工作仍然是新瓶裝老酒，新技術(shù)包裝老產(chǎn)品。擁抱新技術(shù) 緊跟新潮流 然后保住股價！直接承認(rèn)“探索大模型安全應(yīng)用場景”其實(shí)并不丟人。畢竟能用好通用大模型就已經(jīng)相當(dāng)了不起！國外安全大模型應(yīng)用Security

Copilot微軟公司發(fā)布的一款人工智能網(wǎng)絡(luò)安全產(chǎn)品，使安全專業(yè)人員能夠快速應(yīng)對網(wǎng)絡(luò)威脅，以機(jī)器速度處理信號，并在幾分鐘內(nèi)評估風(fēng)險暴露。Blink

Copilot每個安全專業(yè)人士的AI副駕，Blink是第一個提供以AI為主導(dǎo)的方法來實(shí)現(xiàn)工作流程自動化的平臺。用戶可以在幾秒鐘內(nèi)想到一個工作流程并完全實(shí)現(xiàn)自動化，只需輸入一個提示。大模型在安全運(yùn)營領(lǐng)域的應(yīng)用場景安全應(yīng)用場景1423用說人話的方式對安全事件的描述進(jìn)行文字再組織，輸出適合人類溝通或者匯報的語言，拆解專業(yè)術(shù)語，結(jié)合上下文對安全事件進(jìn)行“翻譯”。充分發(fā)揮大模型的代碼閱讀和理解能力，實(shí)現(xiàn)自動化Code

Review，并識別安全風(fēng)險；在逆向工程領(lǐng)域借助大模型提高二進(jìn)制代碼的可讀性和漏洞挖掘的準(zhǔn)確性和高效性。利用大模型文字閱讀和處理的優(yōu)勢，對非結(jié)構(gòu)化的文本進(jìn)行快速處理，并輸出結(jié)構(gòu)化的結(jié)果，便于安全人員快速理解，同時方便其他程序再處理。根據(jù)日內(nèi)多個安全事件的詳情（名稱、嚴(yán)重度、處置進(jìn)展、原因分析等）進(jìn)行整理，輸出安全團(tuán)隊工作日報或戰(zhàn)報，并快速完成數(shù)據(jù)抽取和可視化。安全事件“翻譯”結(jié)構(gòu)化輸出戰(zhàn)報日報總結(jié)漏洞挖掘增強(qiáng)智能威脅情報生成整合、自動化漏洞挖掘、自動化代碼審計、智能網(wǎng)絡(luò)攻擊溯源、自動化告警分析、智能報文檢測、智能釣魚郵件檢測、智能事件報告生成。大模型在安全運(yùn)營領(lǐng)域的應(yīng)用場景1423安全事件“翻譯”結(jié)構(gòu)化輸出戰(zhàn)報日報總結(jié)漏洞挖掘增強(qiáng)From:/v5/ip/5大模型在安全運(yùn)營領(lǐng)域的應(yīng)用場景1423安全事件“翻譯”結(jié)構(gòu)化輸出戰(zhàn)報日報總結(jié)漏洞挖掘增強(qiáng)大模型在安全運(yùn)營領(lǐng)域的應(yīng)用場景1423安全事件“翻譯”結(jié)構(gòu)化輸出戰(zhàn)報日報總結(jié)漏洞挖掘增強(qiáng)From:/v5/ip/5大模型在安全運(yùn)營領(lǐng)域的應(yīng)用場景1423安全事件“翻譯”結(jié)構(gòu)化輸出戰(zhàn)報日報總結(jié)漏洞挖掘增強(qiáng)From:

/s/cHSSjNgX88gAlzVFl6Vnbw共性與不足（重分析，輕決策，零執(zhí)行）{"brief":"Web快速暴力破解攻擊",

"asset_direction_description":"外對內(nèi)","dev_name":"探針3-核心1(3)","sub_attack_type_name":"Web賬號暴破",

"event_desc":"Web快速暴力破解攻擊",

"attack_ip":"29","attack_country":"美國",

"suffer_classify1_id_name":"服務(wù)器","attack_province":"未知","suffer_ip":"51","reliability_description":"中威脅","attack_state_description":"失敗",

"attack_state_description":"待研判","principle":"Web網(wǎng)站是常見的業(yè)務(wù)，并且是常見的初始攻擊點(diǎn)，攻擊者通過自動生成的賬號密碼組合嘗試登陸web賬號控制服務(wù)器，獲取非法權(quán)限","suggest":"1、查看和攻擊者有關(guān)的更多事件，溯源攻擊行為\\2、若攻擊者ip為外網(wǎng)ip則應(yīng)立即封禁相關(guān)ip，若攻擊者ip為內(nèi)網(wǎng)ip，將ip對應(yīng)的主機(jī)視為跳板機(jī)進(jìn)行溯源和殺毒處理\\3、若業(yè)務(wù)系統(tǒng)密碼為弱口令則應(yīng)立即修改，保證密碼強(qiáng)度要符合要求。","tags":["Web快速暴力破解攻擊

"]}然后呢？來自SIEM產(chǎn)品的安全告警基于大模型的標(biāo)準(zhǔn)反饋共性與不足安全運(yùn)營的最后一公里，也就是安全大模型的最后一公里“人們擅長用不同的方式解釋世界，問題在于改變世界?！贝竽Ｐ驮谥悄軟Q策領(lǐng)域的應(yīng)用探索智能決策的需求想象一下：當(dāng)你的系統(tǒng)遭受DDoS攻擊時，AI不僅能告訴你“這是一次DDoS攻擊”，還能說“我建議立即啟動流量清洗，同時增加帶寬”，并且完成了上述動作。這就是我們正在探索的方向。主動思考智能決策自動執(zhí)行大模型是否有能力給出合理建議“4正在暴力破解公司郵件網(wǎng)關(guān)服務(wù)器（云平臺服務(wù)器），對應(yīng)的內(nèi)網(wǎng)IP：50”用戶期望的輸出風(fēng)險評估：這是一起針對公司云上環(huán)境的暴力破解攻擊事件，暴力破解是一種常見的黑客攻擊手段，攻擊者會重復(fù)嘗試多組賬號、密碼的組合，企圖登錄系統(tǒng)。安全決策：1）查詢IP地址4的威脅情報，如果分值較高，直接封禁；2）檢查服務(wù)器50開放端口，是否一定需要暴露到互聯(lián)網(wǎng)，已經(jīng)除了SSH22端口，還有其他端口沒有？3）重新評估外網(wǎng)防火墻開放策略。4）查看登錄日志，有無成功登錄行為，通知員工改密，并進(jìn)一步評估風(fēng)險。動作執(zhí)行：1）調(diào)用VirusTotalAPI查詢4的情報，危險值：80，并且有掃描器和木馬的標(biāo)簽；2）調(diào)用阿里云防火墻/安全組API，攔截4對公司所有網(wǎng)絡(luò)資源的訪問；3）啟動公司內(nèi)部購買的綠盟極光漏洞掃描器，對

4進(jìn)行端口開放和安全漏洞掃描；4）調(diào)用ITSM工單系統(tǒng)，啟動防火墻策略評估，負(fù)責(zé)人安全運(yùn)營團(tuán)隊。5）通過ES服務(wù)器查詢登錄日志，確認(rèn)攻擊IP是否有成功登錄日志?！?正在暴力破解公司郵件網(wǎng)關(guān)服務(wù)器（云平臺服務(wù)器），對應(yīng)的內(nèi)網(wǎng)IP：50”自主決策，并自動執(zhí)行用戶期望的智能1.評估風(fēng)險對安全事件進(jìn)行評估，識別攻擊類型，提取關(guān)鍵特征，結(jié)構(gòu)化參數(shù)2.生成策略針對當(dāng)前風(fēng)險綜合決策，給出操作指導(dǎo)建議，如：封禁、凍結(jié)、查詢、分析和驗(yàn)證等。3.操作執(zhí)行基于自主生成的安全策略，調(diào)用內(nèi)外部安全能力，完成動作執(zhí)行，獲得返回結(jié)果。4.信息增強(qiáng)針對已經(jīng)下發(fā)的策略和動作執(zhí)行結(jié)果，完成綜合信息收集，豐富上下文。“4正在暴力破解公司郵件網(wǎng)關(guān)服務(wù)器（云平臺服務(wù)器），對應(yīng)的內(nèi)網(wǎng)IP：50”場景探索：基于BAS驗(yàn)證結(jié)果的智能響應(yīng)A03:基于安全驗(yàn)證的優(yōu)化建議，結(jié)合各品牌產(chǎn)品實(shí)際功能，實(shí)現(xiàn)自動化策略優(yōu)化配置。客戶要求：客戶集團(tuán)內(nèi)BAS驗(yàn)證涉及的各類安全產(chǎn)品中的TOP3實(shí)現(xiàn)100%覆蓋(例如郵件網(wǎng)關(guān)、終端防護(hù)產(chǎn)品、WAF等)BAS大模型適配器Web應(yīng)用防火墻終端安全防護(hù)郵件網(wǎng)關(guān)Breach

and

AttackSimulation（BAS）是一種模擬攻擊的安全測試方法，通過對網(wǎng)絡(luò)系統(tǒng)進(jìn)行模擬攻擊，檢測系統(tǒng)的安全性和抵抗能力。BAS通過使用模擬攻擊工具模擬真實(shí)的攻擊手段，對網(wǎng)絡(luò)系統(tǒng)進(jìn)行攻擊測試，以檢測系統(tǒng)的安全性和抵抗能力。2.上報問題3.輸出決策大模型安全運(yùn)營應(yīng)用實(shí)踐案例OWASP

TOP

10

典型場景失效的訪問控制加密機(jī)制失效注入不安全的設(shè)計安全配置錯誤易受攻擊和過時的組件識別和認(rèn)證失敗軟件和數(shù)據(jù)完整性故障安全日志記錄和監(jiān)控失敗服務(wù)器端請求偽造（SSRF）From：/Top10/A03_2021-Injection/OWASP

TOP

10

典型場景失效的訪問控制加密機(jī)制失效注入不安全的設(shè)計安全配置錯誤易受攻擊和過時的組件識別和認(rèn)證失敗軟件和數(shù)據(jù)完整性故障安全日志記錄和監(jiān)控失敗服務(wù)器端請求偽造（SSRF）SQL注入只是其中一種，實(shí)際還有命令注入，文件注入、模板注入等等形式。場景聚焦：基于BAS驗(yàn)證結(jié)果的智能響應(yīng)BAS系統(tǒng)發(fā)現(xiàn)安全漏洞（通常是發(fā)現(xiàn)防護(hù)能力的隱患及不足）后，給出整改建議；智能編排系統(tǒng)根據(jù)整改建議，生成漏洞整改/響應(yīng)劇本；自動執(zhí)行生成的整改/響應(yīng)劇本，完成風(fēng)險漏洞閉環(huán)。預(yù)期效果BAS產(chǎn)品輸出要容易解析，需要提供結(jié)構(gòu)化的輸出（先給出一部分樣例供參考）；BAS產(chǎn)品的優(yōu)化建議本身是否具備可操作性，直接影響安全優(yōu)化劇本的質(zhì)量（建議控制每類安全產(chǎn)品優(yōu)化動作的類別/數(shù)量（3～5個），先實(shí)現(xiàn)有代表性場景/產(chǎn)品的優(yōu)化劇本，如：WAF

HTTP虛擬補(bǔ)丁、

WAF

IP封禁、WAF模式切換、郵件網(wǎng)關(guān)查詢、攔截、撤回等操作）關(guān)鍵難點(diǎn)及對策BAS的建議也不完全是應(yīng)急、處置、修復(fù)類的，也可能是查詢、核驗(yàn)等建議，也可以通過劇本實(shí)現(xiàn)；本質(zhì)上仍然是大模型在安全運(yùn)營尤其是響應(yīng)環(huán)節(jié)的落地。精準(zhǔn)可靠的文本輸入，可以讓AI系統(tǒng)推薦出的劇本具有更高的可執(zhí)行性/采納率。補(bǔ)充說明Web攻擊事件智能處置的技術(shù)實(shí)現(xiàn)思路理想中的目標(biāo)：自動生成并執(zhí)行劇本難度太大，最終放棄讓模型設(shè)計劇本

讓模型選擇劇本關(guān)鍵決策（選擇劇本，填寫參數(shù)）交給大模型，動作執(zhí)行交給安全劇本基于開源WAF

ModSecurity構(gòu)建的防護(hù)劇本開源WAF（ModSecurity）中階段和變量的定義/chm/ProcessingPhases.html優(yōu)化提示詞：完善劇本詳情（名稱、描述和參數(shù)定義）效果：模型選擇了正確的劇本，并填寫了合理參數(shù)效果：模型選擇了正確的劇本，并填寫了合理參數(shù)模型決策結(jié)果的潛在風(fēng)險決策失誤判定失誤指令錯誤操作錯誤誤操作漏操作“AI參加安全運(yùn)營是必然的趨勢，而且應(yīng)該更加激進(jìn)。未來，AI犯錯誤的概率比人會更低?！辈换乇軉栴}，并系統(tǒng)性地降低風(fēng)險降低模型決策風(fēng)險的實(shí)踐思路先通知后執(zhí)行先風(fēng)評再推薦隨時切換操作模式未來展望百尺竿頭，更進(jìn)一步！如何讓模型給出更高質(zhì)量的決策強(qiáng)大的通用模型模型能力足夠強(qiáng)大，上下文支持的token越多，解決安全問題的能力自然越強(qiáng)。精心設(shè)計的提示詞合理的提示詞能夠讓大模型更加有邏輯地輸出符合預(yù)期的專業(yè)內(nèi)容和格式。適當(dāng)?shù)哪Ｐ臀⒄{(diào)為落地場景精心準(zhǔn)備數(shù)據(jù)，通過針對性的Fine-tuning，模型可以在特定任務(wù)上獲得更好的性能表現(xiàn)。足夠豐富的上下文就像人類專家一樣，大模型決策安全事件時同樣需要足夠豐富的事件上下文。大模型落地安全最后一公里（能力調(diào)度）如何實(shí)現(xiàn)模型推理決策模型外部觸手解決最后一公里問題大模型落地安全最后一公里（能力調(diào)度）如何實(shí)現(xiàn)豐富的劇本+可靠的基礎(chǔ)應(yīng)用幫助大模型觸及外部系統(tǒng)大模型落地安全最后一公里（能力調(diào)度）如何實(shí)現(xiàn)必要的基礎(chǔ)工作：預(yù)先對接基礎(chǔ)安全產(chǎn)品，或?qū)崿F(xiàn)function

calling的能力。做又臟又累的活，為機(jī)器賦能。大模型落地安全最后一公里（能力調(diào)度）如何實(shí)現(xiàn)全家桶模式靈活DIY模式提高大模型落地最后一公里的準(zhǔn)確性和采納率標(biāo)準(zhǔn)化輸入和結(jié)構(gòu)化輸出，讓大模型容易獲得背景知識，并遵從格式要求輸出結(jié)果。提高大模型落地最后一公里的準(zhǔn)確性和采納率標(biāo)準(zhǔn)化輸入和結(jié)構(gòu)化輸出，讓大模型容易獲得背景知識，并遵從格式要求輸出結(jié)果。最新推出的O1提供增強(qiáng)的“思考能力”，可以提升安全策略的成功率和輸出結(jié)果的可用率。更高的追求：AI虛擬SOC團(tuán)隊安全運(yùn)營領(lǐng)域的FSD：虛擬出多個不同的SOC團(tuán)隊人員角色，從各自視角開展安全工作，共同協(xié)同完成安全運(yùn)營。設(shè)置虛擬SOC團(tuán)隊人員角色定義工作方法，提供背景信息，明確輸出要求AI虛擬SOC團(tuán)隊運(yùn)行效果Tips：模型