AI韌性：AI安全的革命性基準模型

/research/working-groups/ai-go?2024云安全聯(lián)盟大中華區(qū)-保留所有權利。你可以在你的電腦上下載、儲存、展示、查看及打印，或者訪問云安全聯(lián)盟大中華區(qū)官網(wǎng)（）。須遵守以下：(a)本文只可作個人、信息獲取、非商業(yè)用途；(b)本文內(nèi)容不得篡改；(c)本文不得轉(zhuǎn)發(fā)；(d)該商標、版權或其他聲明不得刪除。在遵循中華人民共和國著作權法相關條款情況下合理使用本文內(nèi)容，使用時請?2024云安全聯(lián)盟大中華區(qū)版權所有2報告中文版支持單位標志著公司邁入全新的發(fā)展階段。多年來，啟明星辰持續(xù)深耕于信息安全行業(yè)，星辰入侵檢測/入侵防御、統(tǒng)一威脅管理、安全管理平臺、數(shù)據(jù)安全、運維安全審計、數(shù)據(jù)庫安全審計與防護、漏洞掃描、工業(yè)防火墻、硬件WAF、托管安全?2024云安全聯(lián)盟大中華區(qū)版權所有4報告英文版編寫專家主要作者貢獻者審稿人CSA全球員工?2024云安全聯(lián)盟大中華區(qū)版權所有5?2024云安全聯(lián)盟大中華區(qū)版權所有6 8 9 9 9 11 12 14 16 18 20 39 40 40 40 41 42 42?2024云安全聯(lián)盟大中華區(qū)版權所有7跟上技術進步的步伐，這將對企業(yè)的聲譽和運營帶?2024云安全聯(lián)盟大中華區(qū)版權所有8這一創(chuàng)新方法使決策者和技術團隊能夠評估人第一部分：基本理論1.1治理與合規(guī)1.1.1治理與合規(guī)：不斷變化的目標?2024云安全聯(lián)盟大中華區(qū)版權所有9低對個人或社會造成傷害的風險。要做到這一點，就必須進行嚴格的測試、（Privacy-by-Design）和安全設計（Secur測和評估，以識別并消除偏見和歧視。偏見為知情決策奠定基礎，同時發(fā)現(xiàn)可能存在的偏見。在醫(yī)療保健領域?2024云安全聯(lián)盟大中華區(qū)版權所有10學習。這對模型生成正確且有用的輸出結果至擾或操縱的人工智能。本文提出了一種新視角1.2人工智能概覽1.2.1人工智能簡史?2024云安全聯(lián)盟大中華區(qū)版權所有11段簡短的人工智能歷史展示了從最基本的計算器到生成1.2.2人工智能技術?2024云安全聯(lián)盟大中華區(qū)版權所有12l機器學習（ML）l微型機器學習（tinyML）傳感器數(shù)據(jù)分析，從而實現(xiàn)各種始終在線的用例并以電池供l深度學習（高級ML）l生成式人工智能（GenAI）成、匹配學習數(shù)據(jù)的高階模式和/或預測分析。數(shù)據(jù)的簡化表示進行編碼，并預測與原始數(shù)據(jù)相l(xiāng)通用人工智能（AGI）?2024云安全聯(lián)盟大中華區(qū)版權所有131.2.3訓練方法概述l監(jiān)督學習l無監(jiān)督學習示例算法：k-均值聚類（k-means）、k-中l(wèi)強化學習?2024云安全聯(lián)盟大中華區(qū)版權所有14l半監(jiān)督學習顯得尤為重要，因為它能讓模型充分利用未標l聯(lián)邦學習來說是一個很好的選擇，因為原始數(shù)據(jù)被認為是不可?2024云安全聯(lián)盟大中華區(qū)版權所有15聯(lián)邦學習的另一個優(yōu)勢（在之前提到的論文1.2.4訓練方法的監(jiān)管和倫理考量框架的影響，包括《通用數(shù)據(jù)保護條例》（GDPR）、《歐盟人工智能法案》和經(jīng)濟合作與發(fā)展組織（OECD）的人工智能原則。此許多政府機構正在積極制定相關法規(guī)，并促進行業(yè)內(nèi)合整和倫理考量，以及對數(shù)據(jù)收集和使用的限制/要求、），?2024云安全聯(lián)盟大中華區(qū)版權所有161.3人工智能技術的許可、專利和版權許多機器學習框架和庫都遵循開源計劃許可協(xié)議，如Apache2.0[16]或AI或ML發(fā)明的申請人必須更詳盡地闡明數(shù)學技術和訓練輸入/數(shù)據(jù)，以確保能結了這些變更的深遠影響，并就此主題進行第二部分：真實案例研究和行業(yè)挑戰(zhàn)?2024云安全聯(lián)盟大中華區(qū)版權所有172.1人工智能案例簡史研究l2016年：微軟的Tay微軟的人工智能聊天機器人Tay，最初用于在Twitter上進行有趣的對話，應。這一事件凸顯了人工智能從公共數(shù)據(jù)中學習并反映社會偏見的挑戰(zhàn)。盡管亞馬遜開發(fā)了一個人工智能招聘引擎，但由于該引擎在篩選時傾向于男性候選人，從而引發(fā)了問題。2017年，由于公平性擔l2019年：特斯拉自動駕駛汽車事故功能（Autopilot），隨后車輛與一輛半掛卡車相撞，導致Banner死亡。這一事?2024云安全聯(lián)盟大中華區(qū)版權所有18可能間接導致了事故的發(fā)生和人員的死亡。盡管有人已就Autopilot的局限性發(fā)l2019年：醫(yī)療算法中的種族偏差ZiadObermeyer等人的研究論文[23]指出，一種廣泛使用的醫(yī)療算法存在嚴l2019年：蘋果信用卡涉嫌性別歧視“在一位知名軟件開發(fā)商揭露了蘋果信用卡為男性和女性客戶提供不同信束的一項調(diào)查[36]發(fā)現(xiàn)，蘋果的銀行合作伙伴不存在基l2020年：有偏見的罪犯評估系統(tǒng)加拿大航空公司（AirCanada）面臨嚴格審查，因為其聊天機器人提供了有?2024云安全聯(lián)盟大中華區(qū)版權所有19在一場針對聯(lián)合健康保險（UnitedHealth）的法律訴訟中，多個家庭指控該人個體。埃隆-馬斯克和保守派人士指責谷歌的算法有偏見。作為回應，Google暫停了Gemini的進一步推廣，但其回應缺乏透明度。這一事件凸隨著谷歌努力恢復公眾信任，Gemini事件強調(diào)2.2行業(yè)：法規(guī)與挑戰(zhàn)?2024云安全聯(lián)盟大中華區(qū)版權所有202.2.1汽車汽車行業(yè)1尋求在自動駕駛和無人駕駛功能（SAE4級和5級[45]）中應用人許多監(jiān)管機構目前正在制定針對汽車行業(yè)的標準供支持。此外，ISO/TR4804:2020《道路車輛——自動駕全設計、驗證與確認》[52]也進一步強調(diào)了安準重點關注自動駕駛系統(tǒng)（SAE3級和4級）的開發(fā)與驗證，并提供了全球適用?2024云安全聯(lián)盟大中華區(qū)版權所有21相比的情況下，顯著降低因自動駕駛而引發(fā)的總體2.2.2航空認的信息技術安全標準，包括ISO/IEC27001[53]、ISO/IEC42001[54]、ISO/TR全球航空業(yè)的管理機構，如美國聯(lián)邦航空局（FA），車輛、機場和空軍基地的預測性維護和實體安全。此外，AI還用于管理IT安全客運和貨運管理等工作。大多數(shù)提出的AI使用方案都圍繞著預測性維護、航線在空中交通管理中應用的CORDIS成果包，涵蓋了歐洲人工智能控制空中交通的?2024云安全聯(lián)盟大中華區(qū)版權所有222.2.3關鍵基礎設施和基本服務點關注監(jiān)管框架、安全標準以及適應技術不斷而，在大多數(shù)情況下，僅通過物聯(lián)網(wǎng)（IoT）設備、集成tinyML[8]和邊緣計算來統(tǒng)響應速度，但卻擴大了潛在網(wǎng)絡威脅的攻擊面。國際標準化組織（ISO）和國27002等通用框架，以及以工業(yè)自動化和控制系統(tǒng)為重點的ISA/IEC6244礎設施中的物聯(lián)網(wǎng)和邊緣人工智能的法規(guī)具智能法案、NIS2指令和美國人工智能行政命令等現(xiàn)行法規(guī)非常重視網(wǎng)絡安全和?2024云安全聯(lián)盟大中華區(qū)版權所有23全球范圍內(nèi)采取一致、有效的方法來保護關鍵基礎設施的安全。2022年，由水范網(wǎng)絡安全威脅）、預測（系統(tǒng)狀態(tài)）和優(yōu)管措施和安全治理框架也要共同發(fā)展，這就要求我們在安全監(jiān)管方面采取謹慎、?2024云安全聯(lián)盟大中華區(qū)版權所有24且在實際決策或操作中，必須要有人類參與，僅將人現(xiàn)行舉措l歐盟人工智能法案?2024云安全聯(lián)盟大中華區(qū)版權所有25l經(jīng)合組織人工智能原則l人工智能和數(shù)據(jù)法案（AIDA）AIDA[72]旨在指導加拿大國內(nèi)人工智能系統(tǒng)可能會受到的傷害，避免可能產(chǎn)生的偏差結果。AIDA概述?2024云安全聯(lián)盟大中華區(qū)版權所有26國防機構的規(guī)則和要求也有助于國防和非國防部門推動的。利用自然語言處理（NLP）將語音轉(zhuǎn)為文案例不斷涌現(xiàn)。1970年，通過投放傳感器，人工智能模型?2024云安全聯(lián)盟大中華區(qū)版權所有27名的預言：“誰成為這一領域的領導者，誰就將成為世界的是否會造成戰(zhàn)爭發(fā)生得太快而人類無法干預A.Prabhakar博士的話說：“當我們審視人人工智能在國防領域的應用因其潛在的不可?2024云安全聯(lián)盟大中華區(qū)版權所有28（NATO）制定了一項戰(zhàn)略，聚焦于加快推動人工智能在國防當中的應用進程。2.2.5教育和政策制定者之間有必要開展合作，來指導開發(fā)符?2024云安全聯(lián)盟大中華區(qū)版權所有292.2.6金融但人們對這些法規(guī)的認識還很有限。它們屬于風險管?2024云安全聯(lián)盟大中華區(qū)版權所有30），?2024云安全聯(lián)盟大中華區(qū)版權所有31?2024云安全聯(lián)盟大中華區(qū)版權所有32模型風險管理（MRM）職能的范圍正在不斷擴大，銀框架、流程和工具，深化了對模型生命周期的數(shù)據(jù)安全標準（DSS）是一項全球信息安全標準2并不涉及人工智能條款。此外，不涉及交易的銀行應?2024云安全聯(lián)盟大中華區(qū)版權所有33首要關注點是監(jiān)管合規(guī)，保護敏感和機密數(shù)據(jù)以2.2.7醫(yī)療保健高度（但非全球性）監(jiān)管的行業(yè)中，區(qū)分ML（機器學習）和GenAI（生成式人解釋性）、安全性、隱私以及防止誤用和/或故意濫用的措施等方面帶來重大挑少和/或降低相關風險。給出的相關定義包括可解釋性、問責制、透明度、遵守法規(guī)和標準、道德和負責?2024云安全聯(lián)盟大中華區(qū)版權所有34文獻脫穎而出：世界衛(wèi)生組織（WHO）出版了一本非百多個相關文獻，提出了一個治理框架；A?2024云安全聯(lián)盟大中華區(qū)版權所有35在醫(yī)療保健及其他領域利用人工智?2024云安全聯(lián)盟大中華區(qū)版權所有36?2024云安全聯(lián)盟大中華區(qū)版權所有37ML/AI應用還有助于改善制藥行業(yè)的生）：為單個預測創(chuàng)建易于理解的解釋來實現(xiàn)這一點，即使模型本身很復雜，可以把它看作（SHapleyAdditiveexPlanations）：SHAP是另一種特征（如年齡、收入等）在進行預測時最為重要。它幫助我們看到不同因素如何影響?2024云安全聯(lián)盟大中華區(qū)版權所有38第三部分：人工智能韌性的重構，受進化論啟發(fā)的基準模型示人類智能（HI）與人工智能（AI）之間的差異，最后從心理學角度審視韌性，3.1比較：生物進化與人工智能的發(fā)展?2024云安全聯(lián)盟大中華區(qū)版權所有393.2人工智能系統(tǒng)的多樣性和韌性智能技術和可靠但個性化的人工智能韌性解能力適應變化的物種。”3.3對人工智能韌性進行基準測試的挑戰(zhàn)的飽和狀態(tài)，一些系統(tǒng)的性能已超過人類設定的基準[106]。斯坦福大學的基礎個場景和50個指標對模型進行評估。重點是性能和預防傷害。通過評估模型在兩個截然不同的數(shù)據(jù)集（IMDB和BooIQ）中的表現(xiàn)來檢查其韌性能力；重點是3.4人工智能韌性的定義?2024云安全聯(lián)盟大中華區(qū)版權所有40）：度和持續(xù)時間（外部因素）以及受壓對象的韌性/適應制、改進、糾正和預防行動和/或風險具有挑戰(zhàn)性。在3.5人工智能韌性評分標準?2024云安全聯(lián)盟大中華區(qū)版權所有413.6智能感知3.7智能系統(tǒng)的基本差異?2024云安全聯(lián)盟大中華區(qū)版權所有42?2024云安全聯(lián)盟大中華區(qū)版權所有43參考文獻/dictihttps://dictionary.camb2024]./topics/explainable-ai?utm_conten=43700074359379082&p5=e&gclid=CjwKCAjw4ZWkBhA4EiwAVJXw20HE0gNhPjlU09SzOtlJ888FRz91kTGBO2tRsZZBoC_aAQAvD_BwE&gclsrc=aw.ds.2024].Accountability,andTransparency.au/brain/intelligent-machines/history-artif?2024云安全聯(lián)盟大中華區(qū)版權所有44/blog/what-i/topics/strong-ft.me/2015/12/24/types/wiki/Wisdom/en/tos./2024/02/23/reddit-60m-deal-google-search-els-on-posts/.[Access/license/apache-2Available:/license/mit.[Accessed02 ____ ____/epo-updates-guidelines-for-e?2024云安全聯(lián)盟大中華區(qū)版權所有45https://www.privacyworld.blog/2024/03/japans-new-draft-guideyright-is-it-really-ok-to-train-ai-using-pirated-materials/.[Accessed012024]./2016/3/24/11297050/tay-micrAvailable:/blog/2016/03/25/learning-tays-introduction/./wiki/Tay_(chatbot).[27]J.Dastin,"httpshttps://globalnews.ca/news/4532172/amazon-jobs-ai-bias/2018/10/10/17958784/ai-recruiting[29]S.W.a.H.Schellmann,"LinkedIn’sj?2024云安全聯(lián)盟大中華區(qū)版權所有46/2021/06/23/1026825/linkedter-monster-artificial-intel/technology/interactive/2023//business/2019/11/11/apple-ks-gender-bias-allegations-against-goldman-sachs[Online].Available:/news/story/the-apple-card-didnt-see-gendera/2019/11/10/business/Apple-credit-ca/2019/11/11/20958953/apple-creditmination-algorithms-black-bo?2024云安全聯(lián)盟大中華區(qū)版權所有47investigatorssay,"The/2021/3/23/22347127/goldman-sacder-discrimination.[Access/2020/07/17/1005396/predicthms-racist-dismantled-machine-learning-bias-crimi2024].[40]A.Zilber,"AirCanadaorderedtorefundpassengerafter‘misleading’/2024/02/19/business/air-canada-ordered-after-ai-chatbots-misleading-messages/.[Acc/tech-policy/2024/02/air-canada-must-honvented-by-airlines-chatbot//news/unitedhealth-lawsuit-ai-deny-antage-health-insurance-denials/.[Acce/legal/lawsuit-claims-unitedhealth-ai-wderly-extendedcare-2023-11-14/.[Accehttps://blog.google/technology/ai/google-gemini-next-generatio?2024云安全聯(lián)盟大中華區(qū)版權所有48/6835975/google-gemini-backlash-bias/blog/sAvailable:https://eur-lex.europa.eu/eli/reg/2019/224022024].[Online].Available:ht2024].https://www.iks.fraunhofer.de/en/topics/artificial-intelligence/ai/standhttps://www.iec.ch/blog/new-standard-inc/s?2024云安全聯(lián)盟大中華區(qū)版權所有49Available:https://nvlpubs.nist2024].https://www.caa.co.2024]. __ __2024]./aviation-news/aerospace/2023-0on-how-ai-transformhttps://op.europa.eu/en/publication-detail/-/publication/c0e52-01aa75ed71a1.[AccessedTheWorld’sOnlyCo/standards-and-publications/isa-standards/ishttps://webstore.iec.ch/publihttps://webstore.iec.ch/publi?2024云安全聯(lián)盟大中華區(qū)版權所有50https://www.enisa.europa.eu/publications/cybersecurity-and-priva/sites/default/files/file/2022-11/2022_IW/briefing-room/presidential-acttive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificiaelligence/.[Accessed24DefenseAgency,[Onlinhttps://eur-lex.europa.eu/legal-contehttps://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a75ed71a1.0001.02/DOC_2&format=PDF.[Accessedhttps://www.europarl.europa.eu/news/en/press-room/20231206-intelligence-actdeal-on-comprehensive-rules-fo2024].?2024云安全聯(lián)盟大中華區(qū)版權所有51Available:https://oecd.ai/en/dashboardhttps://ised-isde.canada.ca/site/innovation-better-canada/en/artific/magazines/naval-history-magazine/2021/News/Releases/Release/Article/17utlines-path-forward-for-artificial-intelligence/.[Accessed02032024]./2017/09/01/world/putin-artificial-intellig/index.html.[Accessed02032014].?2024云安全聯(lián)盟大中華區(qū)版權所有52/supervi/article/286790/software-testing-lessons-letrack.us/congress/bill/bill/107th2024].https://www.bankingsupervision.europa.eu/press/pr/date/209~8c10a7d827.en.html.[Acce