2022年人工智能行業(yè)之AI倫理道德方略

1、2022年人工智能行業(yè)之AI倫理道德方略1.推進(jìn)可信賴(lài)的人工智能迫在眉睫只需瀏覽頭條新聞，企業(yè)領(lǐng)導(dǎo)即可知道，面臨各種社會(huì)、環(huán)境和政治問(wèn) 題的公司比比皆是?？蛻?hù)、員工甚至股東會(huì)更頻繁地要求組織不僅對(duì)當(dāng)前關(guān)注的問(wèn)題采取有原則的立 場(chǎng)，而且還要采取有意義的行動(dòng)來(lái)實(shí)現(xiàn)明確的結(jié)果。（參見(jiàn)觀點(diǎn)“如果正確行事，做 得好的公司可以做得更好。”） 今天的高管越來(lái)越受到這些力量的影響，其中許多要求超出了高管通常的舒適區(qū)。 事實(shí)上，近 60% 的人表示，近期的社會(huì)和經(jīng)濟(jì)動(dòng)蕩預(yù)計(jì)將影響更廣泛的社會(huì)契約。1 正如 IBM 商業(yè)價(jià)值研究院 (IBV) 在 2018 年進(jìn)行的一項(xiàng)調(diào)查中首次研究的那樣， 此類(lèi) 動(dòng)蕩波及到了人

2、工智能和數(shù)據(jù)領(lǐng)域?qū)τ谄胀ㄈ巳簛?lái)說(shuō)，不可信人工智能的定義可能很明顯：歧視、不透明、濫用以及其他 方面未能達(dá)到普遍的信任預(yù)期。 然而，推進(jìn)值得信賴(lài)的人工智能仍然具有挑戰(zhàn)性， 因?yàn)橛袝r(shí)需要采取務(wù)實(shí)的平衡行動(dòng)，例如，“可解釋性”（理解人工智能算法結(jié)果背后 的基本原理的能力）與“穩(wěn)健性”（算法得出結(jié)果的準(zhǔn)確性）之間的平衡。 如果不解決這些權(quán)衡問(wèn)題和其他倫理問(wèn)題，組織就不能再采用人工智能。 他們唯一 的問(wèn)題在于，是否有策略地、有目的地和深思熟慮地面對(duì)這些挑戰(zhàn)。 廣義的技術(shù)部門(mén)已經(jīng)邁出了第一步。 這些企業(yè)包括許多數(shù)字原生代，他們擁有高增 長(zhǎng)、高利潤(rùn)的平臺(tái)，這些平臺(tái)可以補(bǔ)足以消費(fèi)者為導(dǎo)向的商業(yè)模式的倫理缺失。

3、 因 此，他們組建了龐大的團(tuán)隊(duì)和多層流程來(lái)滿(mǎn)足需求，并取得了不同程度的成功。如果正確行事，做得好的公司可以做得更好公司提高股東價(jià)值的傳統(tǒng)職權(quán)范圍越來(lái)越窄。 媒體放大了消費(fèi)者、公民、員工和投資 者的更廣泛需求，這促使組織更加關(guān)注利益相關(guān)者對(duì)業(yè)務(wù)結(jié)果所受影響的擔(dān)憂(yōu)。 這種增長(zhǎng)趨勢(shì)在 IBV 的可持續(xù)發(fā)展研究中有明顯反映：兩年前，只有 8% 的消費(fèi)者愿 意支付超過(guò) 100% 的溢價(jià)來(lái)支持有理念的品牌。3 最近，有 43% 的人表示他們?cè)敢庵?付溢價(jià)來(lái)支持可持續(xù)和對(duì)環(huán)境負(fù)責(zé)的品牌。4 近 70% 的員工表示，他們更有可能接受他們認(rèn)為對(duì)環(huán)境和社會(huì)負(fù)責(zé)的組織的工作機(jī) 會(huì)，類(lèi)似的動(dòng)態(tài)會(huì)影響員工留存率。5 此

4、外，68% 的組織客戶(hù)和 62% 的員工表示，他們有能力通過(guò)越來(lái)越多地表達(dá)自己的 觀點(diǎn)來(lái)迫使企業(yè)做出改變。6個(gè)人投資者也將可持續(xù)性納入其財(cái)務(wù)決策。 有一半人表示，公司的傾向變化風(fēng)險(xiǎn)會(huì)影 響其財(cái)務(wù)風(fēng)險(xiǎn)。 此群體的 92% 人預(yù)計(jì)將在未來(lái) 12 個(gè)月內(nèi)根據(jù)環(huán)境因素和/或社會(huì)責(zé) 任因素，決定投資、撤資，或游說(shuō)基金經(jīng)理改變投資組合。7 事實(shí)上，在重新設(shè)想傳統(tǒng)的股東資本主義以解決對(duì)更廣泛的利益相關(guān)者來(lái)說(shuō)很重要 的道德和倫理問(wèn)題方面，勢(shì)頭也有所增強(qiáng)。8 然而，這并非采用最新流行咒語(yǔ)一類(lèi)的簡(jiǎn)單操作。借助這些市場(chǎng)趨勢(shì)成功獲益的公 司，不只將可持續(xù)性視為另一個(gè)社會(huì)浪潮，更使之成為業(yè)務(wù)轉(zhuǎn)型的催化劑。 惟有如 此，

5、他們才得以在整個(gè)企業(yè)中努力開(kāi)展有意義的實(shí)踐。9 做正確的事，這類(lèi)企業(yè)價(jià)值觀不僅僅是陳詞濫調(diào)； 它們可以帶來(lái)真正的財(cái)務(wù)價(jià)值。身處這種不確定的環(huán)境中，其他行業(yè)的老牌企業(yè)為了推 動(dòng)盈利增長(zhǎng)，不得不在某些業(yè)務(wù)領(lǐng)域嘗試使用人工智 能。 對(duì)他們而言，更大的難題在于他們通常沒(méi)有多少資 源可用于處理人工智能引發(fā)的倫理問(wèn)題。組織面臨嚴(yán)峻的選擇。他們可以緊閉“艙門(mén)”，期待消費(fèi)者、員工和投資者所參 與的這場(chǎng)風(fēng)暴消退，抑或在更熟悉的監(jiān)管避風(fēng)港尋求庇 護(hù)。 但是，關(guān)乎人工智能治理的區(qū)域、國(guó)家甚至地方法 律框架仍在不斷發(fā)展。 因此，在不確定（和重疊）的監(jiān) 管環(huán)境中，以合規(guī)為策略可能更像是一場(chǎng)賭博。 不作為 的危害可能會(huì)持

6、續(xù)增大。 反之，組織可以采取戰(zhàn)略方法來(lái)應(yīng)對(duì)人工智能中的倫理 問(wèn)題，從而確定方向，并在眾多競(jìng)爭(zhēng)對(duì)手中脫穎而出。 他們?cè)谶呑鲞厡W(xué)的過(guò)程中，不可避免地要對(duì)具體行動(dòng)方 案進(jìn)行調(diào)整。 為了解組織在處理人工智能倫理問(wèn)題并將其納入業(yè)務(wù)實(shí) 踐方面取得的進(jìn)展，我們?cè)?2021 年與牛津經(jīng)濟(jì)研究院 合作，對(duì) 22 個(gè)國(guó)家/地區(qū)的 16 個(gè)業(yè)務(wù)和技術(shù)職位的 1,200 名高管進(jìn)行了調(diào)查。 （請(qǐng)參閱第 28 頁(yè)的“研究方 法和方法論”。）一種有意義的人工智能倫理規(guī)范方 法可以推進(jìn)值得信賴(lài)的人工智能。意向和實(shí)施之間的差距令人堪憂(yōu)先，讓我們定義人工智能倫理。 人工智能倫理被普遍認(rèn)為是一個(gè)多學(xué)科研究領(lǐng)域，旨在 通過(guò)優(yōu)先考慮

7、人類(lèi)能動(dòng)性和福祉來(lái)優(yōu)化人工智能的有 益影響，同時(shí)降低對(duì)所有利益相關(guān)者造成不利后果的風(fēng) 險(xiǎn)。10 有意義的人工智能倫理規(guī)范方法可以導(dǎo)致推進(jìn)值 得信賴(lài)的人工智能的結(jié)果。 在不同的專(zhuān)業(yè)領(lǐng)域，情況大同小異。 例如，醫(yī)學(xué)領(lǐng)域致 力于改善患者健康，安全、有效和值得信賴(lài)的治療是實(shí) 現(xiàn)這些目標(biāo)的手段。 工程是一門(mén)專(zhuān)注于設(shè)計(jì)和建造物 理基礎(chǔ)設(shè)施的學(xué)科，安全可靠的橋梁、隧道和建筑物是 預(yù)期的結(jié)果。IBV 的其他研究表明，消費(fèi)者、公民和員工將人工智能視 為幫助解決人類(lèi)面臨的最緊迫挑戰(zhàn)的頂級(jí)技術(shù)。11 因 此，對(duì)人工智能倫理采取嚴(yán)格方法可謂至關(guān)重要。此外， 超過(guò) 85% 的受訪(fǎng)者表示，組織在解決社會(huì)問(wèn)題的同時(shí)解 決人

8、工智能倫理問(wèn)題是非常重要的。12 但是，這些人對(duì)銀行、零售和保險(xiǎn)等傳統(tǒng)行業(yè)的公司在 負(fù)責(zé)任地使用技術(shù)方面打分不高。 這些行業(yè)中大多數(shù)的 評(píng)分甚至低于那些經(jīng)常受到媒體指責(zé)的社交媒體平臺(tái)的 評(píng)分（見(jiàn)圖1）13 此外，自 2018 年以來(lái)情況一直沒(méi)有明 顯改善，當(dāng)時(shí) 40% 的消費(fèi)者相信公司在開(kāi)發(fā)和實(shí)施人工 智能等新技術(shù)時(shí)負(fù)責(zé)任且合乎倫理，現(xiàn)今各行各業(yè)的平 均水平也不過(guò)如此。超過(guò) 85% 的受訪(fǎng)消費(fèi)者、 公民和員工表示，組織必須 解決人工智能倫理問(wèn)題。但是，接受本研究調(diào)查的高管表示，他們的組織確實(shí) 認(rèn)為人工智能倫理現(xiàn)在比 三年前更重要：從我們 2018 年調(diào)查15 中不到一半的受訪(fǎng)者增加到 2021

9、 年的 四分之三以上。 更具體地說(shuō)，他們估計(jì)，在此期間， 在訓(xùn)練、團(tuán)隊(duì)、流程、工具和其他運(yùn)營(yíng)能力方面支持 人工智能倫理制度化的支出翻了一番。 他們預(yù)測(cè)未 來(lái) 三年會(huì)有更大的投資。那么，如何解釋這些高管的觀點(diǎn)與他們的客戶(hù)和員工 評(píng)估之間的差異呢？組織為了滿(mǎn)足市場(chǎng)預(yù)期的緊迫感而增強(qiáng)的愿望似乎超出了 他們將意向迅速付諸實(shí)施以安撫利益相關(guān)者的能力。 雖然 超過(guò)一半的組織公開(kāi)認(rèn)可了人工智能倫理的共同原則，但只 有不到四分之一的組織將其付諸實(shí)施（見(jiàn)圖 2）。 不到 20% 的人強(qiáng)烈同意他們的組織在人工智能倫理方面的實(shí)踐和行 動(dòng)符合（或超過(guò)）他們既定的原則和價(jià)值觀。 這證實(shí)并量 化了世界經(jīng)濟(jì)論壇 (WEF)

10、 所稱(chēng)的“意向-行動(dòng)”差距。16不到 20% 的高管強(qiáng)烈支持他們的 人工智能倫理行為符合或超過(guò)其規(guī) 定的原則和價(jià)值觀?？s小這些操作差距至關(guān)重要。 例如，為了讓人工智能變 得更少偏見(jiàn)和更值得信賴(lài)，必須實(shí)現(xiàn)多樣性、非歧視和 公平的倫理原則。 組織認(rèn)識(shí)到這一點(diǎn)的重要性，在 2021 年的人工智能工作中提升了此項(xiàng)目的重要性（與 2018 年相比）。 在最新調(diào)查中，幾乎所有領(lǐng)導(dǎo)者都認(rèn)為 這是重要的，而將近 6 倍的高管認(rèn)為它“非常重要”。 為解決此問(wèn)題，從事人工智能倫理工作的員工應(yīng)該代表 更廣泛的受眾；但是，人工智能團(tuán)隊(duì)的多樣性仍然遠(yuǎn)低 于組織的總員工群體的多樣性。 我們的結(jié)果顯示，人 工智能團(tuán)隊(duì)中的女

11、性人數(shù)比組織中少 5.4 倍，LGBTQ+ 人數(shù)比組織中少 4 倍，黑人、原住民和有色人種 (BIPOC) 人數(shù)比組織中少 1.7 倍（見(jiàn)圖 3）。這些差異的根本原因各不相同。 但是，我們需要更加積 極和切實(shí)地關(guān)注改善員工的招聘、雇傭和保留實(shí)踐，以 增加那些在人工智能設(shè)計(jì)和實(shí)施過(guò)程中未被充分代表的 聲音。 這種強(qiáng)調(diào)有助于減輕偏見(jiàn)并建立對(duì)人工智能結(jié) 果的信任。 我們?cè)谡{(diào)查中看到了一些證據(jù)，表明這些努力也在經(jīng)濟(jì) 上得到了回報(bào)。 例如，員工與人工智能團(tuán)隊(duì)之間性別差 距最小的前四分之一的企業(yè)，其人工智能項(xiàng)目的投資回 報(bào)率更高。 為了消除其他人工智能倫理原則和實(shí)踐之間的差異，我們 需要做出具有切實(shí)目標(biāo)和

12、可衡量結(jié)果的類(lèi)似努力。 （請(qǐng) 參閱案例研究“Regions Bank：專(zhuān)注于高質(zhì)量和值得信賴(lài) 的人工智能”。）上述愿望和行動(dòng)之間的差距與公司在環(huán)境可持續(xù)性方面 的情況極為相似。 在最近的 IBV 研究中，只有 35% 的 組織實(shí)施了他們的可持續(xù)發(fā)展戰(zhàn)略，只有 37% 的組織 將可持續(xù)發(fā)展目標(biāo)與其業(yè)務(wù)戰(zhàn)略保持一致。17 只有三分 之一的企業(yè)將可持續(xù)發(fā)展目標(biāo)和指標(biāo)整合到他們的業(yè)務(wù) 流程中。18 組織和高管更多地關(guān)注將人工智能倫理和其他原則性?xún)?yōu) 先事項(xiàng)付諸實(shí)踐時(shí)，他們可以更成功地解決意向與行動(dòng) 之間的差距。2.巨變：人工智能影響業(yè)務(wù)主管領(lǐng)導(dǎo)，協(xié)作至關(guān)重要隨著組織努力縮小差距，在過(guò)去幾年中，關(guān)于誰(shuí)負(fù)責(zé)

13、帶 頭開(kāi)展這項(xiàng)工作的觀點(diǎn)發(fā)生了巨大變化。 2018 年，只 有 15% 的受訪(fǎng)者認(rèn)為非技術(shù)高管是人工智能倫理的 主要“擁護(hù)者”；19到 2021 年，80% 的受訪(fǎng)者會(huì)這樣 認(rèn)為。 公司尤其希望首席執(zhí)行官 (28%) 以及董事會(huì)成員 (10%)、總法律顧問(wèn) (10%)、隱私官 (8%) 和風(fēng)險(xiǎn)與合規(guī) 官 (6%) 引領(lǐng)潮流，這一發(fā)現(xiàn)在不同行業(yè)或地區(qū)沒(méi)有什 么差異（見(jiàn)圖 4）。 有了這種新的期望，CEO 可能會(huì)考 慮任命一位專(zhuān)門(mén)的人工智能倫理主管來(lái)分擔(dān)責(zé)任。20積極計(jì)劃對(duì)受人工智能影響的員工 進(jìn)行再培訓(xùn)和技能重塑的組織數(shù)量 從 2018 年的 37% 躍升至 2021 年 的 55%。對(duì)外部人工

14、智能監(jiān)管法規(guī)的預(yù)期可能也會(huì)提升人工智 能倫理的重要性。 74% 的組織報(bào)告他們所在地區(qū)即 將出臺(tái)法規(guī)，64% 的組織表示他們已準(zhǔn)備好應(yīng)對(duì)這些 法規(guī)。 然而，不管監(jiān)管環(huán)境的發(fā)展方式如何，受訪(fǎng)者 表示第三方專(zhuān)業(yè)機(jī)構(gòu)和其他非監(jiān)管團(tuán)體預(yù)計(jì)將發(fā)揮關(guān) 鍵作用，48% 的受訪(fǎng)者認(rèn)為這些更廣泛的生態(tài)系統(tǒng)的 影響和參與是非常重要的。 （請(qǐng)參閱案例研究“加拿 大銀行財(cái)團(tuán)：共同構(gòu)建可信數(shù)據(jù)和人工智能”。） 總體而言，組織參與趨勢(shì)似乎朝著正確的方向發(fā)展。 這為公司以及政府和教育機(jī)構(gòu)提供了動(dòng)力，可以采取 更多措施來(lái)實(shí)施人工智能倫理原則。3.行動(dòng)的動(dòng)力：值得信賴(lài)的人工智能可以帶來(lái)商業(yè)價(jià)值I 倫理從原則轉(zhuǎn)向?qū)嵺`的商業(yè)理由不

15、僅僅是降低下行風(fēng) 險(xiǎn)及滿(mǎn)足利益相關(guān)者對(duì)負(fù)責(zé)任行事的期望。 公司可以 實(shí)現(xiàn)潛在的額外收益 推進(jìn)可持續(xù)的實(shí)踐，保護(hù)信息 質(zhì)量，擁抱長(zhǎng)期思維而不只顧短期利潤(rùn)，切實(shí)增加消費(fèi) 者心目中的信任。28 同樣，我們?cè)谘芯恐邪l(fā)現(xiàn)，75% 的高管將倫理視為差異 化競(jìng)爭(zhēng)的來(lái)源。 同樣比例的高管在人工智能領(lǐng)域，將優(yōu) 勢(shì)轉(zhuǎn)化為業(yè)務(wù)合作伙伴和供應(yīng)商選擇的務(wù)實(shí)決策標(biāo) 準(zhǔn)。 超過(guò)一半的人愿意為他們認(rèn)為合乎倫理的公司支 付溢價(jià)。組織在這個(gè)問(wèn)題上相對(duì)于其同行的定位似乎主要受兩個(gè) 因素的推動(dòng)：（1）人工智能的重要性，以及 （2）人 工智能中倫理的重要性。我們發(fā)現(xiàn)，根據(jù)他們的評(píng)估，將人工智能視為對(duì)其業(yè)務(wù)戰(zhàn) 略重要的組織，其人工智能計(jì)

16、劃的效率提高了 1.5 倍。 他們的人工智能項(xiàng)目的投資回報(bào)率也提高了 2 倍（相對(duì)于 那些認(rèn)為人工智能不那么重要的公司）。 人工智能的戰(zhàn) 略重要性也與公司范圍內(nèi)更高收入增長(zhǎng)和更大盈利能力 相對(duì)應(yīng)。 此外，那些更重視人工智能倫理的組織報(bào)告說(shuō)，他們也 得到了客戶(hù)和員工的更大程度的信任。 因此，在務(wù)實(shí)行動(dòng)的支持下，戰(zhàn)略意圖可以幫助企業(yè)從 人工智能中實(shí)現(xiàn)更大的商業(yè)價(jià)值。 然而，組織當(dāng)如何應(yīng)對(duì)？將人工智能視為對(duì)其業(yè)務(wù)戰(zhàn)略重 要的公司報(bào)告稱(chēng)，與那些認(rèn)為人工 智能不那么重要的公司相比，他們 的人工智能項(xiàng)目實(shí)現(xiàn)了 2 倍的投 資回報(bào)率。圖 5 顯示，目前認(rèn)為人工智能和人工智能倫理不太重要 的人預(yù)計(jì)將在未來(lái) 3

17、 年內(nèi)移動(dòng)到右上象限，在此象限 中，具有前瞻性的接納者正在推動(dòng)領(lǐng)先實(shí)踐并產(chǎn)生更大 的影響。 根據(jù)高管的明確意圖，該細(xì)分市場(chǎng)中的組織數(shù) 量預(yù)計(jì)將在該時(shí)間段內(nèi)翻倍。我們認(rèn)為左上象限（在此象限中，人們認(rèn)為人工智能很 重要，但人工智能倫理不那么重要的位置）是不可持續(xù) 的，特別是考慮到本報(bào)告前面提到的消費(fèi)者、公民、投 資者和員工動(dòng)態(tài)。 組織付不起不致力于人工智能倫理 的代價(jià)。 正如社交媒體創(chuàng)造了一個(gè)記錄青少年弱點(diǎn)的 世界一樣，企業(yè)正在創(chuàng)建他們行為的歷史記錄，以供合 作伙伴和潛在員工評(píng)估現(xiàn)在和未來(lái)。 齊心協(xié)力（以及對(duì) 能力的投資）可以幫助組織走向更有活力的位置。正如許多先前的研究表明的那樣，這項(xiàng)研究是另一

18、個(gè) 示例，說(shuō)明財(cái)務(wù)績(jī)效的提高與人工智能的戰(zhàn)略性和有效 使用相關(guān)。29 現(xiàn)在看來(lái)，這種關(guān)系也適用于以合乎倫理 的方式采用人工智能的深思熟慮且穩(wěn)健的方法。 這可能 就是為什么一些將人工智能和人工智能倫理作為其業(yè)務(wù) 戰(zhàn)略核心的公司正在努力在組織內(nèi)擴(kuò)展此項(xiàng)實(shí)踐的原 因。 （請(qǐng)參閱第 16 頁(yè)的觀點(diǎn)“領(lǐng)先實(shí)踐：負(fù)責(zé)任地使用 技術(shù)”。）4.迎接當(dāng)下：將學(xué)術(shù)理想應(yīng)用于現(xiàn)實(shí)世界的行動(dòng)隨著組織啟動(dòng)他們的人工智能倫理計(jì)劃，他們可從豐 富的資源中受益。 人工智能倫理領(lǐng)域（最初在跨學(xué)科 研究環(huán)境中進(jìn)行研究）提供了許多建設(shè)性的框架、資 產(chǎn)和關(guān)聯(lián)以供使用（見(jiàn)圖 7）。即使是大學(xué)也承認(rèn)，他們的目標(biāo)一直是讓學(xué)術(shù)研究和抽 象概

19、念找到實(shí)用的途徑，而不僅僅是在計(jì)算機(jī)科學(xué)領(lǐng) 域。“人工智能倫理不能在扶手椅上完成，”Leverhulme 未來(lái)智能中心主任兼劍橋大學(xué)哲學(xué)系高級(jí)研究員 Stephen Cave 承認(rèn)。33 他所在的大學(xué)從 2021 年開(kāi)始試 行定制研究生學(xué)位以幫助培養(yǎng)下一代人工智能倫理學(xué) 家。一些大學(xué)已經(jīng)創(chuàng)建了具有類(lèi)似重點(diǎn)的研究所（例如，牛 津大學(xué)的人工智能倫理研究所）。 為其他教育環(huán)境中的 學(xué)生開(kāi)設(shè)的相關(guān)課程也在增加。 布魯金斯學(xué)會(huì)和未來(lái) 隱私論壇之類(lèi)的智庫(kù)；IEEE 等專(zhuān)業(yè)組織；美國(guó)國(guó)家標(biāo)準(zhǔn) 與技術(shù)研究院之類(lèi)的非監(jiān)管政府機(jī)構(gòu)；WEF、全球人工 智能伙伴關(guān)系和人工智能伙伴關(guān)系之類(lèi)的跨行業(yè)組織也 一直處于人工智能倫理的最前沿，并創(chuàng)造了有用的資 源。 其他基層合作（例如，美國(guó)全球服務(wù)管理局的技術(shù) 轉(zhuǎn)型服務(wù)）也不斷做出積極貢獻(xiàn)。組織領(lǐng)導(dǎo)現(xiàn)在可以利用這些進(jìn)步來(lái)幫助在那些需要協(xié) 同工作的企業(yè)職能中實(shí)施人工智能倫理規(guī)范。