德勤-人工智能在金融服務(wù)業(yè)的可靠應(yīng)用-亞太地區(qū)監(jiān)管概述-20正式版

010011001010010101000110010010010111010000100110100111001000110010001011100101011101000010001010100010001010100011001000100101100b=X人工智能在金融服務(wù)業(yè)的可靠應(yīng)用亞太地區(qū)監(jiān)管概述引言2透明性和問責(zé)制7公平性和穩(wěn)健性9隱私和數(shù)據(jù)安全12采用可信賴人工智能框架13聯(lián)系人14尾注17人工智能在金融服務(wù)業(yè)的可靠應(yīng)用：亞太地區(qū)監(jiān)管概述引言金融服務(wù)業(yè)數(shù)字化的發(fā)展高度依賴優(yōu)質(zhì)的信息質(zhì)量與分析技術(shù)，從而為客戶提供高效安全的服務(wù)及運營管理。人工智能（AI）的發(fā)展改變了信息處理和數(shù)據(jù)分析方式，并為金融機(jī)構(gòu)實現(xiàn)了諸如業(yè)務(wù)流程簡化、降低成本、提高效率和增強(qiáng)客戶參與度等多重益處，金融機(jī)構(gòu)很早便開始應(yīng)用人工智能服務(wù)。根據(jù)某技術(shù)服務(wù)商在2022年對全球金融機(jī)構(gòu)進(jìn)行的調(diào)研顯示，有78%的受訪者表示他們正在使用至少一種形式的人工智能，1包括機(jī)器學(xué)習(xí)、深度學(xué)習(xí)和高性能計算（HPC）。在本文中，我們將AI定義為計算機(jī)科學(xué)的一個分支，旨在探索并模擬人類認(rèn)知功能，例如如何學(xué)習(xí)和解決問題。我們將主要從監(jiān)管角度討論人工智能，包括亞太地區(qū)監(jiān)管機(jī)構(gòu)制定的AI相關(guān)原則及其對該地區(qū)金融機(jī)構(gòu)所產(chǎn)生的影響，以及金融機(jī)構(gòu)為應(yīng)對監(jiān)管要求和消除客戶的擔(dān)憂所需采取的行動。2人工智能在金融服務(wù)業(yè)的可靠應(yīng)用：亞太地區(qū)監(jiān)管概述圖1：AI應(yīng)用程序?qū)鹑诜?wù)業(yè)產(chǎn)生的影響降低成本轉(zhuǎn)變交互方式利用人工智能解決方案實現(xiàn)重復(fù)任務(wù)自動賦能技術(shù)產(chǎn)品與客戶進(jìn)行人性化溝通，而化，以此提高效率和質(zhì)量并降低成本非強(qiáng)迫客戶理解機(jī)器語言示例：示例：利用人工智能解決方案開展反洗錢和客戶利用能夠捕捉和回應(yīng)客戶情緒的對話機(jī)器盡職調(diào)查工作，以此減少人工完成此等工人有效滿足客戶需求作所需的資源加快執(zhí)行速度最大限度降低延遲以縮短實現(xiàn)運營和業(yè)務(wù)推動創(chuàng)新成果所需的時間人工智能的優(yōu)勢利用人工智能開發(fā)新產(chǎn)品、新市場和新商示例：業(yè)模式，以此增強(qiáng)競爭優(yōu)勢利用人工智能驅(qū)動的實時欺詐檢測及時阻示例：止欺詐活動開展數(shù)據(jù)分析以根據(jù)客戶需求和偏好推薦新的金融服務(wù)產(chǎn)品降低復(fù)雜性識別日益復(fù)雜的數(shù)據(jù)源模式，并通過更加加強(qiáng)信任有效的預(yù)測性分析改善決策制定示例：確保業(yè)務(wù)免受欺詐和網(wǎng)絡(luò)攻擊改善產(chǎn)品和服務(wù)質(zhì)量，提高透明度，以此利用社交媒體等非傳統(tǒng)數(shù)據(jù)源檢測潛在的增強(qiáng)品牌信任度洗錢或恐怖融資活動示例：在網(wǎng)絡(luò)攻擊和數(shù)據(jù)泄露發(fā)生之前進(jìn)行識別并做好準(zhǔn)備根據(jù)我們與客戶的合作經(jīng)驗，亞太地區(qū)金融服務(wù)業(yè)最常應(yīng)用的AI程序包括欺詐檢測、市場營銷和客戶引導(dǎo)（包括洗錢風(fēng)險評估）。銀行利用人工智能開展信用分析，保險公司利用人工智能處理索賠和改善承保流程，資產(chǎn)管理公司利用人工智能推動交易操作自動化并為客戶提供市場洞察。3圖2：AI在金融服務(wù)業(yè)的應(yīng)用實例1 2

人工智能在金融服務(wù)業(yè)的可靠應(yīng)用：亞太地區(qū)監(jiān)管概述3欺詐分析利用人工智能和機(jī)器學(xué)習(xí)實時檢測銀行價值鏈中的交易欺詐和賬戶盜用問題：結(jié)合大型數(shù)據(jù)集識別人工可能遺漏的可疑交易行為分析

市場營銷利用聊天機(jī)器人和虛擬助手等對話式人工智能解決方案處理各種面向客戶的活動，包括產(chǎn)品搜索、提供建議和賬戶注銷利用人工智能和機(jī)器學(xué)習(xí)模型識別目標(biāo)客戶群體和交叉銷售機(jī)會

信用風(fēng)險管理機(jī)器學(xué)習(xí)和大數(shù)據(jù)分析支持的信用審查實時債券分析，幫助投資者實現(xiàn)及時、有效的信用風(fēng)險管理雖然許多金融機(jī)構(gòu)已經(jīng)部署了AI應(yīng)用，但挑戰(zhàn)依然存在。根據(jù)我們的觀察，金融機(jī)構(gòu)在AI應(yīng)用方面面臨兩大問題：如何實現(xiàn)準(zhǔn)確和令人滿意的結(jié)果，滿足業(yè)務(wù)目標(biāo)；如何將AI應(yīng)用風(fēng)險納入風(fēng)險管理框架并進(jìn)行妥善管理。第一個問題的根源在于基于規(guī)則的分析（使用預(yù)定公式和算法進(jìn)行分析）和AI分析（使用訓(xùn)練數(shù)據(jù)進(jìn)行自學(xué)）之間的根本區(qū)別?；谝?guī)則的分析的預(yù)定性質(zhì)使其更易被利益相關(guān)者理解、實施和修改。相比之下，AI分析可以提供更深刻的洞察和更廣泛的覆蓋范圍，特別是在涉及大量變量的情況下。然而，AI應(yīng)用十分復(fù)雜，難以解釋，需要全面了解業(yè)務(wù)背景和人工智能技術(shù)才能取得滿足業(yè)務(wù)需求的準(zhǔn)確結(jié)果。第二個問題源于缺乏對AI應(yīng)用風(fēng)險的認(rèn)識以及適當(dāng)?shù)娘L(fēng)險管理框架。例如，人工智能可能引發(fā)對金融服務(wù)業(yè)客戶的性別、種族、年齡、身體狀況或國籍歧視，從而帶來法律和聲譽風(fēng)險。這些風(fēng)險及其對客戶保護(hù)的威脅已經(jīng)成為各司法轄區(qū)金融監(jiān)管機(jī)構(gòu)和立法機(jī)構(gòu)的關(guān)注重點。

在亞太地區(qū)，新加坡金融管理局（MAS）最早發(fā)布相關(guān)準(zhǔn)則以促進(jìn)金融服務(wù)業(yè)人工智能和數(shù)據(jù)分析方面的公平、道德、負(fù)責(zé)和透明（FEAT原則），2隨后在2021年針對選定銀行和保險公司進(jìn)行了專題審查。3中國香港金融管理局（HKMA）和韓國金融服務(wù)委員會（FSC）等其他亞太地區(qū)監(jiān)管機(jī)構(gòu)近年來也發(fā)布了指引，協(xié)助金融機(jī)構(gòu)了解、評估和緩解行業(yè)日益增加的AI應(yīng)用相關(guān)風(fēng)險。澳大利亞4和中國大陸5等司法管轄區(qū)也以政府或跨部門監(jiān)管機(jī)構(gòu)聯(lián)合發(fā)布的形式發(fā)布了人工智能相關(guān)道德準(zhǔn)則，專門針對金融服務(wù)業(yè)的法規(guī)也正在討論之中。4人工智能在金融服務(wù)業(yè)的可靠應(yīng)用：亞太地區(qū)監(jiān)管概述圖3：亞太地區(qū)人工智能準(zhǔn)則與歐盟可信賴人工智能道德準(zhǔn)則比較關(guān)鍵要素歐盟新加坡中國香港韓國澳大利亞穩(wěn)健性技術(shù)穩(wěn)健性和安全性準(zhǔn)確性充足的專業(yè)知識、可準(zhǔn)確性和安全性可靠性和安全性解釋性和良好的數(shù)據(jù)質(zhì)量公平性多樣性、非歧視性和合理性公平性公平性公平性公平性偏差客戶權(quán)利人類價值觀問責(zé)制問責(zé)制內(nèi)部問責(zé)制治理和問責(zé)制職責(zé)問責(zé)制外部問責(zé)制可審計性、模型驗證為第三方承包商提供和第三方監(jiān)督同等水平的安全保障透明性透明性透明性透明性和信息披露透明性透明性和可解釋性提供戰(zhàn)略建議可爭議性隱私和數(shù)據(jù)安全隱私和數(shù)據(jù)管理數(shù)據(jù)隱私和保護(hù)隱私保護(hù)和安全人類監(jiān)督人類能動性與監(jiān)督社會和環(huán)境福祉社會和環(huán)境福祉道德規(guī)范人類、社會和環(huán)境福祉5人工智能在金融服務(wù)業(yè)的可靠應(yīng)用：亞太地區(qū)監(jiān)管概述圖3展示了亞太地區(qū)監(jiān)管機(jī)構(gòu)發(fā)布的人工智能準(zhǔn)則與歐盟可信賴大多數(shù)亞太地區(qū)金融監(jiān)管機(jī)構(gòu)都通過要求金融機(jī)構(gòu)遵守相關(guān)法人工智能道德準(zhǔn)則的對比情況。6其中包含七個共同要素：穩(wěn)健律法規(guī)和采用完善的道德標(biāo)準(zhǔn)來間接遵循此等準(zhǔn)則。性、公平性、問責(zé)制、透明性、隱私和數(shù)據(jù)安全、人類監(jiān)督以及社會和環(huán)境福祉。一般而言，不同地區(qū)的人工智能準(zhǔn)則涵蓋相似的這些監(jiān)管準(zhǔn)則與德勤的高可信人工智能框架高度匹配，該框架關(guān)鍵要素。歐盟可信賴人工智能道德準(zhǔn)則明確強(qiáng)調(diào)了人類監(jiān)督以展示了有效的人工智能治理框架涵蓋的六個關(guān)鍵要素：公平性、及社會和環(huán)境福祉。澳大利亞人工智能倫理框架是亞太地區(qū)唯穩(wěn)健性、透明性、數(shù)據(jù)隱私、問責(zé)制和安全性。8一涵蓋人類監(jiān)督以及社會和環(huán)境福祉準(zhǔn)則的人工智能框架，而圖4：德勤高可信人工智能框架與亞太地區(qū)人工智能準(zhǔn)則要素的對應(yīng)關(guān)系公平、中立人工智能應(yīng)用包括內(nèi)部和外部審查以在所有參與者之間實現(xiàn)公平應(yīng)用透明、可解釋所有參與者都能夠了解其數(shù)據(jù)的用途以及人工智能系統(tǒng)做出決策的方式；算法、屬性和相關(guān)性均可供審查

信人工德架智能人理管合監(jiān)高可信人工智能TM

穩(wěn)健、可靠人工智能系統(tǒng)能夠?qū)W習(xí)人類和其他系 與亞太地區(qū)人工智能準(zhǔn)則對應(yīng)統(tǒng)并生成一致和可靠的輸出結(jié)果 公平性和穩(wěn)健性保護(hù)隱私政策規(guī)定了人工智能系統(tǒng)輸出結(jié)果的負(fù)責(zé)人 與亞太地區(qū)人工智能準(zhǔn)則對應(yīng)透明性和問責(zé)制保護(hù)隱私客戶隱私受到尊重，客戶數(shù)據(jù)的使用不會超出預(yù)期和規(guī)定用途；客戶可以選擇加入/退出數(shù)據(jù)共享

安全、穩(wěn)妥人工智能系統(tǒng)可以避免可能造成實質(zhì) 與亞太地區(qū)人工和/或數(shù)字傷害的 智能準(zhǔn)則對應(yīng)風(fēng)險（包括網(wǎng)絡(luò)隱私和數(shù)據(jù)安全風(fēng)險）6人工智能在金融服務(wù)業(yè)的可靠應(yīng)用：亞太地區(qū)監(jiān)管概述透明性和問責(zé)制監(jiān)管機(jī)構(gòu)共同關(guān)注的重點在于人工智能“黑匣子”的性質(zhì)，以及如何讓金融機(jī)構(gòu)對基于AI輸出結(jié)果所做出的決策負(fù)責(zé)。如上所述，AI應(yīng)用程序并非基于預(yù)先確定的規(guī)則而構(gòu)建的，而是可以理解為對規(guī)則、變量和數(shù)據(jù)輸入進(jìn)行解讀。本報告所定義的AI應(yīng)用依賴于機(jī)器學(xué)習(xí)中的訓(xùn)練數(shù)據(jù)和實時數(shù)據(jù)輸入，因此較難向內(nèi)外部用戶解釋其所輸出的結(jié)果。為解決該問題，透明性和可解釋性原則要求使用AI應(yīng)用程序的金融機(jī)構(gòu)要確保其人工智能模型的透明性和信息披露程度要達(dá)到能使客戶理解的水平。例如，當(dāng)AI模型根據(jù)投保人的生活方式建議保險公司對其增加保費時，保險公司應(yīng)當(dāng)能夠向投保人解釋為何這種生活方式會導(dǎo)致其保費增加。各司法轄區(qū)監(jiān)管機(jī)構(gòu)對透明性和可解釋性原則的具體監(jiān)管預(yù)期不同，香港金融管理局要求金融機(jī)構(gòu)建立相關(guān)機(jī)制，讓客戶可以對AI應(yīng)用所做出的決策進(jìn)行審查。9針對FEAT原則，新加坡金融管理局對披露AI應(yīng)用技術(shù)細(xì)節(jié)所需的成本和效益進(jìn)行了研究，并提出應(yīng)按受影響方的要求向其明確解釋人工智能決策過程，但不用披露AI應(yīng)用的專有技術(shù)信息。

澳大利亞人工智能道德框架在可解釋性方面增加一個維度，即AI應(yīng)用的可爭議性?？蔂幾h性是指人工智能應(yīng)用機(jī)構(gòu)為受影響方提供一條可以對AI輸出結(jié)果提起異議的通道。這一要求可以推動客戶與AI流程進(jìn)行交互并對某些影響決策結(jié)果的因素提出質(zhì)。。，方對AI決策提出質(zhì)疑時，應(yīng)向其提供明確的解釋，以確保決策所涉各方均了解決策制定過程11。透明性原則對客戶受到公平對待和機(jī)構(gòu)取得滿意的業(yè)務(wù)成果均具有重要意義。經(jīng)合組織（OCED）在其2019年發(fā)布的《人工智能指導(dǎo)原則》中指出，應(yīng)向所有與AI系統(tǒng)進(jìn)行交互的利益相關(guān)者。 ，的過程以做出明智的決策，包括在前端使用AI應(yīng)用為客戶提供產(chǎn)品的人員、基于AI模型判斷承保風(fēng)險的人員、使用AI應(yīng)用預(yù)測違約率和計算準(zhǔn)備金的風(fēng)險管理團(tuán)隊以及確保遵守法律法規(guī)的內(nèi)控團(tuán)隊。7人工智能在金融服務(wù)業(yè)的可靠應(yīng)用：亞太地區(qū)監(jiān)管概述風(fēng)險分級和重要性評估透明性和可解釋性原則對某些AI應(yīng)用更為重要，這主要取決于具體用例。例如，與反洗錢或欺詐類AI應(yīng)用程序相比，在定價方面的應(yīng)用程序?qū)ν该餍院涂山忉屝缘囊笸?。定價應(yīng)用程序的決策過程對大量客戶具有直接影響，缺乏透明性會增加公司的法律和聲譽風(fēng)險，而提高反洗錢或欺詐檢測應(yīng)用程序的透明性或?qū)⒆璧K其發(fā)揮作用。因此，某些監(jiān)管機(jī)構(gòu)在制定AI實施相關(guān)指引時對應(yīng)用程序重要性進(jìn)行了風(fēng)險分級。例如，擬議的歐盟《人工智能法案》將AI應(yīng)用分為三個風(fēng)險等級：不 、 。 。FEAT原則亦對每項實施指引中AI應(yīng)用的重要性做出考量。問責(zé)制原則要求金融機(jī)構(gòu)所采用的治理框架對AI應(yīng)用生命周期的監(jiān)督、驗證和審批責(zé)任進(jìn)行明確界定，從而對透明性原則起到了強(qiáng)化作用。對內(nèi)，金融機(jī)構(gòu)應(yīng)確保董事會和高級管理層了解AI相關(guān)風(fēng)險，并指派關(guān)鍵員工監(jiān)督AI應(yīng)用程序，并對基于AI應(yīng)用所作出的決策進(jìn)行審批。如涉及第三方，金融機(jī)構(gòu)應(yīng)對第三方機(jī)構(gòu)所開發(fā)的AI應(yīng)用負(fù)責(zé)。對外，金融機(jī)構(gòu)應(yīng)提供適當(dāng)?shù)那缼椭蛻袅私釧I應(yīng)用的決策過程。金融機(jī)構(gòu)應(yīng)如何遵循透明性和問責(zé)制原則在開發(fā)AI應(yīng)用時，具備符合透明性和問責(zé)制原則的有效治理框架與具備適當(dāng)?shù)慕＜夹g(shù)同等重要。金融機(jī)構(gòu)應(yīng)在AI模型的復(fù)雜性和可解釋性之間取得平衡，并采用涵蓋公司所有業(yè)務(wù)職能且界定和記錄了AI應(yīng)用相關(guān)風(fēng)險責(zé)任的全面治理框架。使用AI應(yīng)用的金融機(jī)構(gòu)應(yīng)考慮以下事項：確保使用AI應(yīng)用的所有利益相關(guān)者（業(yè)務(wù)中的各個層級）了解AI應(yīng)用的工作方式，并能對輸出結(jié)果進(jìn)行解讀。這其中亦包括董事會和高級管理層，他們需要負(fù)責(zé)確保AI應(yīng)用生成透明、準(zhǔn)確且符合道德準(zhǔn)則的結(jié)果。

2.在風(fēng)險管理框架中界定AI應(yīng)用相關(guān)風(fēng)險責(zé)任。董事會和高級管理層應(yīng)了解AI應(yīng)用程序及其風(fēng)險。3.建立一套標(biāo)準(zhǔn)來區(qū)分應(yīng)向客戶披露的信息和受知識產(chǎn)權(quán)保護(hù)的信息。4.建立主動溝通和響應(yīng)機(jī)制，在對客戶有用和可理解的范圍內(nèi)應(yīng)客戶要求披露AI應(yīng)用的決策過程。5.建立就客戶提出的質(zhì)疑對AI應(yīng)用所做決策進(jìn)行重新審視的機(jī)制。8人工智能在金融服務(wù)業(yè)的可靠應(yīng)用：亞太地區(qū)監(jiān)管概述公平性和穩(wěn)健性監(jiān)管機(jī)構(gòu)的另一關(guān)注重點在于保護(hù)客戶免受潛在歧視和其他不公平待遇。由于向客戶所收集的作為訓(xùn)練數(shù)據(jù)和模型輸入的個人數(shù)據(jù)體量較大，因此收集和使用這些數(shù)據(jù)的方式可能會對為客戶提供的產(chǎn)品和服務(wù)產(chǎn)生重大影響。AI生成的結(jié)果將用于幫助客戶做出決策，而公平性的核心是確保結(jié)果的準(zhǔn)確性和公正性。因此，穩(wěn)健性原則與公平性原則密切相關(guān)。公平性和穩(wěn)健性原則通常包括以下要求：第一、金融服務(wù)業(yè)的AI應(yīng)用應(yīng)具有包容性，不應(yīng)歧視某些個人或群體任何涉及個人屬性的使用均應(yīng)具有合理性14。 ；圖5：如何在AI應(yīng)用開發(fā)過程中確保結(jié)果的公正性和準(zhǔn)確性

第二基于AI應(yīng)用提出的建議應(yīng)符合客戶的實際情況15、 ；第三AI應(yīng)用使用的模型應(yīng)具有穩(wěn)健性準(zhǔn)確性和公正性16、 、 。公平性原則的實施面臨著識別和消除模型偏差的挑戰(zhàn)，這是AI應(yīng)用方面長期存在的問題，有時會造成對客戶的不公平待遇。模型偏差形成的原因較為復(fù)雜——許多因素均可導(dǎo)致結(jié)果偏差，模型偏差可能在模型開發(fā)過程的任何一個步驟中產(chǎn)生，如圖5所示：模型類型選擇不當(dāng)可能導(dǎo)致無法捕捉數(shù)據(jù)樣本錯誤理解業(yè)務(wù)背景可能 中的模式，從而降低結(jié)導(dǎo)致選擇錯誤的模型或 果的準(zhǔn)確性數(shù)據(jù)樣本類型步驟2確定最適合應(yīng)用的模型。步驟1了解業(yè)務(wù)背景和業(yè)務(wù)需求，開展成本效益分析并確定目標(biāo)群體。

由于業(yè)務(wù)背景和數(shù)據(jù)樣本隨著時間的推移而變適當(dāng)?shù)挠?xùn)練、測試和模化，持續(xù)監(jiān)測和再驗證使用非代表性數(shù)據(jù)樣本型驗證有助于識別前三對于減少應(yīng)用發(fā)布后產(chǎn)個步驟中的潛在問題生的偏差和錯誤至關(guān)可能導(dǎo)致模型漂移和模重要型性能下降步驟5步驟4發(fā)布應(yīng)用并進(jìn)行再驗證和步驟3上市后監(jiān)測。訓(xùn)練、測試和驗證模型。明確數(shù)據(jù)是否適用于所選模型。如不適用，確定可能的解決方案（更改模型類型、使用替代數(shù)據(jù)）。此步驟通常與步驟2相互作用。9人工智能在金融服務(wù)業(yè)的可靠應(yīng)用：亞太地區(qū)監(jiān)管概述對業(yè)務(wù)背景了解不足可能導(dǎo)致模型選擇不當(dāng)，從而影響結(jié)果的準(zhǔn)確性。模型通過數(shù)據(jù)進(jìn)行訓(xùn)練，因此，非代表性訓(xùn)練數(shù)據(jù)會造成模型偏差。除此之外，模型校準(zhǔn)不當(dāng)、抽樣方案選擇不當(dāng)或缺乏持續(xù)監(jiān)測和再驗證亦會導(dǎo)致結(jié)果偏差。在上述導(dǎo)致模型錯誤和偏差的因素中，數(shù)據(jù)質(zhì)量最為關(guān)鍵。例如，使用非代表性訓(xùn)練數(shù)據(jù)、非平衡數(shù)據(jù)的輸入以及模糊數(shù)據(jù)均可能導(dǎo)致模型性能下降，從而生成不準(zhǔn)確或有偏差的結(jié)果。反洗錢應(yīng)用中的事件標(biāo)記問題就是一個例子。在某些司法轄區(qū)，可用作標(biāo)簽或標(biāo)識的洗錢事件相關(guān)數(shù)據(jù)的缺乏增加了建立反洗錢人工智能應(yīng)用的難度。一些司法轄區(qū)的人工智能原則明確要求采用AI應(yīng)用的金融機(jī)構(gòu)對數(shù)據(jù)質(zhì)量負(fù)責(zé)，以確保AI應(yīng)用的穩(wěn)圖6：數(shù)據(jù)質(zhì)量評估的六要素

健性。新加坡金融管理局的FEAT準(zhǔn)則和香港金融管理局的應(yīng)用人工智能的高層次準(zhǔn)則均要求金融機(jī)構(gòu)進(jìn)行數(shù)據(jù)質(zhì)量評估，并定17,18。 ， ：完整性：檢查數(shù)據(jù)中是否存在信息缺失的情況。標(biāo)準(zhǔn)化：統(tǒng)一數(shù)據(jù)格式。一致性：統(tǒng)一數(shù)據(jù)視圖。準(zhǔn)確性：確保數(shù)據(jù)正確傳遞信息。唯一性：避免同一數(shù)據(jù)點的重復(fù)輸入。及時性：確保及時獲取信息。完整性 一致性 唯一性標(biāo)準(zhǔn)化準(zhǔn)確性及時性10人工智能在金融服務(wù)業(yè)的可靠應(yīng)用：亞太地區(qū)監(jiān)管概述金融機(jī)構(gòu)如何遵循公平性和穩(wěn)健性原則從模型開發(fā)的角度來看，金融機(jī)構(gòu)應(yīng)考慮以下事項:確定業(yè)務(wù)背景并開展驗證工作具有重要意義：AI系統(tǒng)通常不僅僅包括數(shù)學(xué)模型和數(shù)據(jù)；業(yè)務(wù)背景和人為判斷也是AI模型的關(guān)鍵組成部分，可以避免出現(xiàn)偏差并確保符合道德要求。針對AI應(yīng)用開展模型性能和公平性評估。定期進(jìn)行數(shù)據(jù)質(zhì)量評估，并將其納入數(shù)據(jù)治理框架，掌握數(shù)據(jù)質(zhì)量的所有重要方面。改進(jìn)數(shù)據(jù)管理框架，升級IT基礎(chǔ)設(shè)施，從源頭上提高數(shù)據(jù)質(zhì)量。當(dāng)數(shù)據(jù)質(zhì)量不能滿足要求時，考慮使用替代數(shù)據(jù)源或替代模型類型。

持續(xù)監(jiān)測將公平性評估納入AI系統(tǒng)開發(fā)生命周期。在商討過程中確定公平性指標(biāo)，以確保在部署系統(tǒng)之前的整個開發(fā)過程中對公平性進(jìn)行編碼和衡量。確定衡量承諾實現(xiàn)情況的標(biāo)準(zhǔn)和/或指標(biāo)。將相關(guān)概念、原則和承諾納入公司政策和程序以及AI模型治理框架，以做出合理決策。審慎設(shè)計和實施流程控制措施，以確保AI應(yīng)用不會在數(shù)據(jù)驅(qū)動的決策過程中引發(fā)意外風(fēng)險和危害。開展時間內(nèi)樣本驗證（模型開發(fā)階段）和定期的時間外樣本驗證（整個模型生命周期）。11人工智能在金融服務(wù)業(yè)的可靠應(yīng)用：亞太地區(qū)監(jiān)管概述隱私和數(shù)據(jù)安全隱私和數(shù)據(jù)安全原則并非僅針對人工智能在金融行業(yè)的應(yīng)用，其適用于所有收集、傳輸和存儲個人數(shù)據(jù)的公司。該項原則是人工智能應(yīng)用的基本構(gòu)建模塊。雖然在許多亞太司法轄區(qū)人工智能相關(guān)法規(guī)仍處于萌芽階段，但近年來，數(shù)據(jù)隱私法律法規(guī)已得到較好的發(fā)展和推廣。貫徹隱私和數(shù)據(jù)安全原則的關(guān)鍵是確保在人工智能應(yīng)用的整個生命周期內(nèi)遵守數(shù)據(jù)保護(hù)法律。在某些司法轄區(qū)，當(dāng)內(nèi)部數(shù)據(jù)不足時，AI應(yīng)用會使用替代數(shù)據(jù)源，例如社交媒體數(shù)據(jù)或第三方數(shù)據(jù)。為應(yīng)對個人數(shù)據(jù)的使用增加所帶來的風(fēng)險，亞太地區(qū)的監(jiān)管機(jī)構(gòu)和立法機(jī)關(guān)已推出各種金融機(jī)構(gòu)如何遵循隱私和數(shù)據(jù)安全原則采取有效措施，確保在AI應(yīng)用的整個生命周期內(nèi)遵守當(dāng)?shù)氐臄?shù)據(jù)隱私法律法規(guī)。將數(shù)據(jù)保護(hù)納入AI應(yīng)用設(shè)計以及持續(xù)監(jiān)測過程。

關(guān)于數(shù)據(jù)隱私、數(shù)據(jù)保護(hù)和網(wǎng)絡(luò)安全的法律法規(guī)。運營韌性方面的最新監(jiān)管要求也將對金融機(jī)構(gòu)的監(jiān)管審查擴(kuò)大到了外包承包商、第三方供應(yīng)商及其分包商。遵守這些法規(guī)對采用AI應(yīng)用的金融機(jī)構(gòu)至關(guān)重要。值得注意的是，在某些司法轄區(qū)，向客戶索取的數(shù)據(jù)必須具有既定用途，金融機(jī)構(gòu)不得在未明確未來用途的情況下索取和存儲數(shù)據(jù)并用于AI建模。因此，在不存在明確用例的情況下向系統(tǒng)中添加數(shù)據(jù)字段可能具有一定監(jiān)管風(fēng)險。就此而言，需要制定以相關(guān)法規(guī)為依據(jù)的長期數(shù)據(jù)戰(zhàn)略。制定能夠滿足業(yè)務(wù)需求且符合相關(guān)數(shù)據(jù)保護(hù)法律法規(guī)的長期數(shù)據(jù)戰(zhàn)略。12人工智能在金融服務(wù)業(yè)的可靠應(yīng)用：亞太地區(qū)監(jiān)管概述采用可信賴人工智能框架雖然企業(yè)可以從AI應(yīng)用中獲得諸多益處，但對相關(guān)風(fēng)險管理不善可能會帶來意想不到的后果，破壞企業(yè)與利益相關(guān)者之間的信任，并使實施AI應(yīng)用的初衷落空。如報告中所述，考慮實施AI應(yīng)用的金融機(jī)構(gòu)應(yīng)加強(qiáng)其在人工智能方面的技術(shù)能力以確保AI應(yīng)用和監(jiān)測過程的穩(wěn)健性，并采用涵蓋公平性、穩(wěn)健性、透明性、問責(zé)制、隱私和數(shù)據(jù)安全等原則的可信賴人工智能框架。我們還注意到，亞太地區(qū)監(jiān)管機(jī)構(gòu)正將這些原則納入金融服務(wù)業(yè)人工智能應(yīng)用指引中。亞太地區(qū)金融機(jī)構(gòu)可以利用德勤的可信賴人工智能框架來實施系統(tǒng)和全面的解決方案，以滿足不斷變化的客戶需求并降低法律和監(jiān)管風(fēng)險。金融機(jī)構(gòu)在建立人工智能框架時應(yīng)考慮以下事項：建立全面的治理框架并制定相應(yīng)的政策和程序，以確保落實AI應(yīng)用的問責(zé)制原則；確定人工智能相關(guān)愿景和長期戰(zhàn)略，收集公司內(nèi)的AI用例，并通過影響評估和差距分析明確其影響和可行性；開發(fā)AI解決方案，并通過白盒測試和偏差/穩(wěn)健性評估來確保符合上述人工智能原則；將AI應(yīng)用部署到系統(tǒng)環(huán)境中并保障信息技術(shù)安全；開展持續(xù)監(jiān)測和評估以分析并驗證數(shù)據(jù)管道和算法是否正常運行。

合乎道德的可信賴人工智能方面的要求超出了客戶和監(jiān)管機(jī)構(gòu)的預(yù)期。如上所述，歐盟可信賴人工智能道德準(zhǔn)則和澳大利亞人工智能倫理框架均明確要求保護(hù)人類的自主權(quán)和監(jiān)督權(quán)，以及在使用人工智能時維護(hù)社會和環(huán)境福祉。為確保人工智能服務(wù)于社會且不損害人類利益，金融機(jī)構(gòu)應(yīng)考慮采取以下措施：驗證AI應(yīng)用是否符合法律法規(guī)規(guī)定；制定符合公司價值觀和文化的人工智能道德標(biāo)準(zhǔn)；根據(jù)公司的人工智能道德標(biāo)準(zhǔn)確定具體的概念、原則和承諾；將這些概念、原則和承諾納入公司政策和程序以及AI模型治理框架，以做出合理決策；對所有員工進(jìn)行有關(guān)公司人工智能道德標(biāo)準(zhǔn)的培訓(xùn)，并就員工對道德問題提出的意見提供反饋渠道。建立道德框架并在各職能部門實施是金融機(jī)構(gòu)的一項重要工作，但由于金融機(jī)構(gòu)是社會活動的關(guān)鍵組成部分，這項工作顯得尤為重要。隨著人工智能在日常生活中愈發(fā)普及，金融機(jī)構(gòu)必須確保使用合乎道德的可信賴AI應(yīng)用。以人為本的人工智能和大數(shù)據(jù)應(yīng)用將有助于為全人類塑造包容、安全和繁榮的未來。13人工智能在金融服務(wù)業(yè)的可靠應(yīng)用：亞太地區(qū)監(jiān)管概述尾注NVIDIA,StateofAIinFinancialServices-2022Trends,2022,/content/dam/en-zz/Solutions/industries/finance/ai-financial-services-report-2022/fsi-survey-report-2022-web-1.pdfMonetaryAuthorityofSingapore,PrinciplestoPromoteFairness,Ethics,AccountabilityandTransparency(FEAT)intheUseofArtificialIntelligenceandDataAnalyticsinSingapore’sFinancialSector,November2018,.sg/~/media/MAS/News%20and%20Publications/Monographs%20and%20Information%20Papers/FEAT%20Principles%20Final.pdfMonetaryAuthorityofSingapore,ImplementationofFairnessPrinciplesinFinancialInstitutions'UseofArtificialIntelligence/MachineLearning,June2022,https://www..sg/-/media/MAS-Media-Library/publications/monographs-or-information-paper/IMD/2022/Info-Paper-on-Implementation-of-Fairness-Principles-in-FIs-Use-of-AIML-Final.pdfAustralianGovernmentDepartmentofIndustry,ScienceandResources,Australia’sArtificialIntelligenceEthicsFramework,November2019,.au/publications/australias-artificial-intelligence-ethics-frameworkChinaFinancialStandardizationTechnicalCommittee,Evaluationspecificationofartificialintelligencealgorithminfinancialindustrystandardofficiallyreleased,June2021,/en/2932554/2980201/index.htmlEuropeanCommission,EthicsGuidelinesforTrustworthyAI,April2019,https://ec.europa.eu/futurium/en/ai-alliance-consultation.1.htmlAustralianGovernmentDepartmentofIndustry,ScienceandResources,Australia’sArtificialIntelligenceEthicsFramework,November2019,.au/publications/australias-artificial-intelligence-ethics-frameworkMITTechnologyReview,‘TrustworthyAI’isaframeworktohelpmanageuniquerisk,March2020,/2020/03/25/950291/trustworthy-ai-is-a-framework-to-help-manage-unique-risk/HongKongMonetaryAuthority,ConsumerProtectioninrespectofUseofBigDataAnalyticsandArtificialIntelligencebyAuthorizedInstitutions,November2019,https://.hk/media/eng/doc/key-information/guidelines-and-circular/2019/20191105e1.pdfAustralianGovernmentDepartmentofIndustry,ScienceandResources,Australia’sAIEthicsPrinciples,November2019,.au/publications/australias-artificial-intelligence-ethics-framework/australias-ai-ethics-principlesMonetaryAuthorityofSingapore,PrinciplestoPromoteFairness,Ethics,AccountabilityandTransparency(FEAT)intheUseofArtificialIntelligenceandDataAnalyticsinSingapore’sFinancialSector,November2018,.sg/~/media/MAS/News%20and%20Publications/Monographs%20and%20Information%20Papers/FEAT%20Principles%20Final.pdfTheOECDAIPolicyObservatory,Transparencyandexplainability(Principle1.3),May2019,https://oecd.ai/en/dashboards/ai-principles/P7EuropeanCommission,ProposalforARegulationoftheEuropeanParliamentandoftheCouncilLayingDownHarmonisedRulesonArtificialIntelligence(ArtificialIntelligenceAct)andAmendingCertainUnionLegislativeActs,April2021,https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A52021PC0206MonetaryAuthorityofSingapore,FEATPrinciple,Principle1:"IndividualsorgroupsofindividualsarenotsystematicallydisadvantagedthroughAIDA-drivendecisionsunlessthesedecisionscanbejustified'.HongKongMonetaryAuthority,ConsumerProtectioninrespectofUseofDataAnalyticsandArtificialIntelligencebyAuthorizedInstitutions,Principle(c)onfairness:"customers’financialcapabilities,situationandneeds,includingtheirlevelofdigitalliteracy,aretakenintoaccount."MonetaryAuthorityofSingapore,FEATPrinciple,Principle3:“DataandmodelsusedforAIDA-drivendecisionsareregularlyreviewedandvalidatedforaccuracyandrelevance,andtominimizeunintentionalbias."MonetaryAuthorityofSingapore,PrinciplestoPromoteFairness,Ethics,AccountabilityandTransparency(FEAT)intheUseofArtificialIntelligenceandDataAnalyticsinSingapore’sFinancialSector,November2018,HYPERLINK".sg/~/media/MAS/News%20and%20Publications/Monographs%20and%20Information%20Papers/FEAT%20Princi