推動(dòng)人工智能發(fā)展：駕馭風(fēng)險(xiǎn)攻克難關(guān)

1、隨著人工智能逐漸深入各行各業(yè)，由此產(chǎn)生的風(fēng)險(xiǎn)也引發(fā)出各種顧慮，導(dǎo)致人工智能應(yīng)用放緩。所幸的是，這些顧慮能得到有效緩解和應(yīng)對(duì)。概覽人工智能時(shí)代已經(jīng)全面來臨。1自2017年開始，德勤每年發(fā)布企業(yè)人工智能應(yīng)用現(xiàn)狀分析報(bào)告，以估量人工智能技術(shù)在全球范圍及各行各業(yè)的快速發(fā)展。在 2020年7月發(fā)布的最新一期報(bào)告中，大多數(shù)受訪者表示大幅增加了人工智能投資，超過四分之三的受訪者認(rèn)為人工智能將在未來三年為自己所在的企業(yè)帶來重大變革。此外，人工智能投資也為企業(yè)創(chuàng)造出更多 可衡量的價(jià)值：提升流程效率、改善決策、提高員工生產(chǎn)力、改進(jìn)產(chǎn)品和服務(wù)。2這些價(jià)值提升了企業(yè)對(duì)人工智能的認(rèn)知四分之三的受訪者表示，人工智能具有重

2、要戰(zhàn)略意義，較前一次調(diào)研結(jié)果上升10%。但另一方面，對(duì)人工智能風(fēng)險(xiǎn)的顧慮與這種上升趨勢形成反差：56%的受訪企業(yè)表示，出于對(duì)新興風(fēng)險(xiǎn)的顧慮，他們已經(jīng)或有計(jì)劃放緩人工智能的應(yīng)用。鑒于人工智能的價(jià)值和戰(zhàn)略意義已得到普遍認(rèn)可，這一比率造成了強(qiáng)烈反差。為了更好地理解這些問題，德勤將受訪企業(yè)的顧慮歸總為三類：對(duì)人工智能決策流程的信心、人工智能和數(shù)據(jù)使用的倫理規(guī)范，以及市場不確定性。3本文將針對(duì)上述問題進(jìn)行詳細(xì)闡述，并提供專業(yè)見解協(xié)助企業(yè)有效管理相關(guān)風(fēng)險(xiǎn)。由此，企業(yè)可對(duì)內(nèi)加強(qiáng)持續(xù)投資和創(chuàng)新的信心；對(duì)外則進(jìn)一步獲得利益相關(guān)方的信任，確保人工智能戰(zhàn)略得到有效執(zhí)行。出于對(duì)新興風(fēng)險(xiǎn)的顧慮， 56%的受訪企業(yè)表示已

3、 經(jīng)或計(jì)劃放緩人工智能的應(yīng)用。人工智能發(fā)展面臨的挑戰(zhàn)近年來，人工智能風(fēng)險(xiǎn)日益引起商業(yè)領(lǐng)袖 和普通民眾的關(guān)注。有關(guān)人工智能是否會(huì) 削減或創(chuàng)造工作崗位的爭論從未停止；而 對(duì)人工智能偏見或失敗的報(bào)道也屢見不鮮。 4 2020年7月，在公眾的一片反對(duì)與批評(píng)聲中，成立僅五天的人工智能初創(chuàng)公司 Genderify 被迫關(guān)閉。該公司稱其人工智能可以通過分析用戶的名字、用戶名和電子郵件地址來識(shí)別其性別，并宣稱這是一種增強(qiáng)客戶數(shù)據(jù)的能力。據(jù)報(bào)道，該系統(tǒng)充斥著對(duì)性別的誤解，并基于錯(cuò)誤的假設(shè)做出決定。例如，在包含“科學(xué)家” 的記錄中，識(shí)別為女性的概率僅為4.3%。但事實(shí)上，如今女性在科學(xué)領(lǐng)域的占比遠(yuǎn)高于此。5 而包

4、含“教授”的記錄中，識(shí)別為男性的概率高達(dá)98.4%，但男性占美國終身教授的比例僅為74%（該比例本身就反映出一種不平等）。6不難想象，諸如此類的事件以及事件曝光之后引發(fā)的公眾抵制，將導(dǎo)致許多企業(yè)高管更為謹(jǐn)慎，重新考慮如何在企業(yè)內(nèi)部、為客戶和員工以及在生態(tài)系統(tǒng)中推行人工智能。為了更準(zhǔn)確地了解企業(yè)的最大顧慮源自何處，我們請(qǐng)受訪者對(duì)顧慮事項(xiàng)進(jìn)行評(píng)分，評(píng)分標(biāo)準(zhǔn)從 “極少”到“極大顧慮”。列出的風(fēng)險(xiǎn)歸總為三類：信心、倫理規(guī)范和市場不確定性。信心是指企業(yè)普遍認(rèn)為一項(xiàng)人工智能工具本身可靠，包括信任人工智能提供的洞察和決策，信任系統(tǒng)的安全性，以及能夠理解、證明或解釋人工智能的決策過程。倫理規(guī)范是指從社會(huì)而非企

5、業(yè)的角度審視使用人工智能的益處和正確性，包括數(shù)據(jù)隱私、公平、偏見，以及可能造成的失業(yè)問題。市場不確定性則涵蓋那些不在企業(yè)直接控制范圍內(nèi)的因素，比如監(jiān)管環(huán)境的變化以及公眾或員工的意見。這些因素不一定與人工智能的本質(zhì)相關(guān)，但會(huì)影響人工智能的實(shí)施和應(yīng)用。圖1反映了在每個(gè)類別中，將兩個(gè)或兩個(gè)以上的顧慮事項(xiàng)評(píng)為“重大”或“極大顧慮”的受訪者比例。圖 1對(duì)人工智能風(fēng)險(xiǎn)的重大與極大顧慮重大顧慮極大顧慮對(duì)人工智能風(fēng)險(xiǎn)的顧慮兩個(gè)或兩個(gè)以上 與信心相關(guān)的顧慮兩個(gè)或兩個(gè)以上與倫理規(guī)范相關(guān)的顧慮兩個(gè)或兩個(gè)以上與市場不確定性相關(guān)的顧慮73%19%38%37%36%57%18%37%55%注：本圖反映在每個(gè)類別中將兩個(gè)或

6、兩個(gè)以上顧慮事項(xiàng)評(píng)為“重大”或“極大顧慮”的受訪者比例。來源：德勤分析信心對(duì)人工智能系統(tǒng)的信心是最大的顧慮所在， 73%的受訪企業(yè)高管在信心這一項(xiàng)中選擇 了兩個(gè)或兩個(gè)以上重大或極大顧慮。而在 計(jì)劃放緩人工智能應(yīng)用的受訪者中，有 85%選擇了兩個(gè)或兩個(gè)以上與信心相關(guān)的 重大或極大顧慮?？梢韵胍姡判牟蛔阍斐傻念檻]會(huì)引起不安。這些顧慮與公司產(chǎn)品和服務(wù)的質(zhì)量密切相關(guān)，因此會(huì)大大影響一個(gè)企業(yè)的聲譽(yù)以及公眾對(duì)其的看法，進(jìn)而影響企業(yè)推出的每一個(gè)產(chǎn)品。例如，醫(yī)療機(jī)構(gòu)可以利用人工智能的巨大潛力來識(shí)別癌癥類型并確定最佳治療方案。7 然而，人工智能決策引擎有可能推薦不安全的治療方案或錯(cuò)誤 識(shí)別癌癥類型。這會(huì)給患者

7、造成嚴(yán)重后果，使企業(yè)面臨風(fēng)險(xiǎn)并帶來投資損失。一旦失 敗，則可能讓企業(yè)付出比投資損失更為昂 貴的代價(jià)打擊員工持續(xù)創(chuàng)新的信心， 甚至破壞患者和客戶的信任。在上述案例中，該公司據(jù)稱建立了保障措施，以確保患者安全，從而降低破壞患者信任的可能。另外，相關(guān)錯(cuò)誤還被用來識(shí)別系統(tǒng)故障，改進(jìn)未來的算法。8如果從一開始就充分規(guī)避風(fēng)險(xiǎn)，這將轉(zhuǎn)化為一股積極的力量，推動(dòng)人工智能發(fā)展成熟。圖 2對(duì)人工智能信心的顧慮重大或極大顧慮總體而言，您的企業(yè)對(duì)以下人工智能潛在風(fēng)險(xiǎn)的顧慮程度如何？73%的受訪者選擇了兩個(gè)或以上與信心相關(guān)的顧慮網(wǎng)絡(luò)安全漏洞 62% 影響業(yè)務(wù)運(yùn)營的人工智能故障 58% 人工智能決策和行動(dòng)需承擔(dān)的責(zé)任 54

8、% 根據(jù)人工智能建議做出錯(cuò)誤決策 54% 缺乏透明度 53% 來源：德勤分析人工智能成熟度與企業(yè)管控預(yù)期風(fēng)險(xiǎn)的能力整體來看，隨著受訪企業(yè)人工智能能力的成熟度上升，對(duì)信心、倫理規(guī)范和市場不確定性的顧慮呈現(xiàn)為鈴型曲線。圖 3成熟度如何改變顧慮程度起步熟練精通在信心方面，至少有兩個(gè)“重大”或“極大顧慮”的企業(yè)占比在倫理規(guī)范方面，至少有兩個(gè)“重大或“極大顧慮”的企業(yè)占比在市場不確定性方面，至少有兩個(gè) 65% 79% 71% 64%”43% 60% 42% 61% 59% “重大”或“極大顧慮”的企業(yè)占比 來源：德勤分析低成熟度和高成熟度的企業(yè)展現(xiàn)出較低程度的顧慮，而中等成熟度的企業(yè)在三個(gè)類別中均表現(xiàn)出

9、最高程度的顧慮。原因可能在于低成熟度的企業(yè)還沒有全面看到風(fēng)險(xiǎn)，許多項(xiàng)目仍處于概念驗(yàn)證或試點(diǎn)階段。當(dāng)企業(yè)達(dá)到中等成熟度時(shí)，這些挑戰(zhàn)逐漸明晰，但企業(yè)尚未具備應(yīng)對(duì)這些挑戰(zhàn)所需的能力。最后，當(dāng)企業(yè)達(dá)到高度成熟時(shí)，也掌握了更多降低這些風(fēng)險(xiǎn)的技能，因此顧慮程度往往會(huì)相應(yīng)降低。事實(shí)上，有證據(jù)表明，隨著企業(yè)的人工智能能力日益成熟，企業(yè)可通過開發(fā)流程、采取行動(dòng)或提升技能來降低風(fēng)險(xiǎn)并實(shí)現(xiàn)更積極的成果，其顧慮程度也隨之下降。（參見側(cè)欄“人工智能成熟度與企業(yè)管控預(yù)期風(fēng)險(xiǎn)的能力”）。與信心相關(guān)的另一個(gè)重大挑戰(zhàn)是，如今的人工智能系統(tǒng)往往存在可解釋性和決策能力之間的權(quán)衡。一些機(jī)器學(xué)習(xí)模型異常復(fù)雜，即便是訓(xùn)練有素的數(shù)據(jù)科學(xué)家

10、也難以準(zhǔn)確理解算法是如何做出決策的。神經(jīng)網(wǎng)絡(luò)的廣泛運(yùn)用讓這個(gè)挑戰(zhàn)變得更為突出，進(jìn)一步涉及企業(yè)解釋決策、減少錯(cuò)誤和滿足監(jiān)管需求的能力。為了解決這個(gè)問題，計(jì)算機(jī)科學(xué)領(lǐng)域正在發(fā)展可解釋的人工智能，旨在開發(fā)能夠更好地進(jìn)行自我解釋的人工智能模型。目前，可解釋的人工智能可以提供人工智 能程序做出決策的相關(guān)信息，包括人工智 能程序的優(yōu)缺點(diǎn)、制定決策所采用的具體 標(biāo)準(zhǔn)，并針對(duì)各類決策的可信度提出建議。美國商務(wù)部最近提出了評(píng)估人工智能可解 釋性的四個(gè)原則：1. 人工智能系統(tǒng)需要為 每項(xiàng)輸出提供附帶的證據(jù)或理由；2. 人工 智能系統(tǒng)必須為個(gè)人用戶提供有意義的、 可理解的解釋；3. 人工智能系統(tǒng)提供的解 釋必須正確

11、反映系統(tǒng)輸出的過程；4. 系統(tǒng) 只應(yīng)在其設(shè)定條件下運(yùn)行，不應(yīng)在沒有充 足信心的情況下向用戶提供決策。9 掌握了人工智能的可解釋性，企業(yè)也能更好地在符合倫理規(guī)范的前提下運(yùn)用人工智能。倫理規(guī)范57%的受訪者稱在倫理規(guī)范方面有兩個(gè)或圖 4對(duì)人工智能倫理規(guī)范的顧慮重大或極大顧慮兩個(gè)以上的重大或極大顧慮。而在計(jì)劃放緩人工智能應(yīng)用的受訪者中，有73%聲稱在倫理規(guī)范方面至少有兩個(gè)重大或極大顧慮。人工智能在倫理規(guī)范方面存在特有的問題，尤其就公平和偏見而言，即人工智能賴以 建立的數(shù)據(jù)本身可能是不完整、有偏見或 不平等的。出于這個(gè)原因，即使公司本意 為善，也很難根除數(shù)據(jù)本身自帶的偏見。在構(gòu)建人工智能、分析系統(tǒng)輸出

12、以及應(yīng)用 系統(tǒng)決策的過程中，相關(guān)人員也可能受到 無意識(shí)偏見的影響，因此需要采取慎重措 施，盡可能地減少偏見。在最近的一個(gè)醫(yī) 療案例中，一個(gè)基于醫(yī)療支出的風(fēng)險(xiǎn)預(yù)測 算法最終在其結(jié)果中表現(xiàn)出種族偏見，使 白人患者比黑人患者更有可能從額外的醫(yī) 療計(jì)劃中獲益。10 雖然該算法準(zhǔn)確地反映 了這兩個(gè)群體的醫(yī)療支出，但沒有考慮到 黑人患者往往身處經(jīng)濟(jì)劣勢，從而影響他 們的醫(yī)療支出：價(jià)格高昂的急診室就診費(fèi)，參保率更低等。11總體而言，您的企業(yè)對(duì)以下人工智能潛在風(fēng)險(xiǎn)的顧慮程度如何？ 57%的受訪者選擇了兩個(gè)或兩個(gè)以上與倫理 規(guī)范相關(guān)的顧慮未經(jīng)同意使用個(gè)人數(shù)據(jù) 57% 人工智能系統(tǒng)的倫理問題 53% 人工智能自動(dòng)

13、化可能造成的失業(yè)問題 53% 來源：德勤分析這可能會(huì)導(dǎo)致完全不同的需求水平呈現(xiàn)相同的支出水平，而這正是該系統(tǒng)在分析數(shù)據(jù)時(shí)所忽略的。在上面的例子中，黑人患者的風(fēng)險(xiǎn)評(píng)分不準(zhǔn)確，被排除在額外醫(yī)療計(jì)劃之外的比例更高。重要的是，程序設(shè)計(jì)者應(yīng)全面檢測基于代理的決策和創(chuàng)建的變量，制定保障措施來評(píng)估這種設(shè)計(jì)是否反映了利益相關(guān)者的實(shí)際情況。此外，這些例子也表明，有必要納入多元化觀點(diǎn)，并對(duì)工程師和決策者開展培訓(xùn)，應(yīng)對(duì)算法設(shè)計(jì)中可能產(chǎn)生的意外結(jié)果。市場不確定性最后，55%的受訪者表示在市場不確定性 方面有兩個(gè)或兩個(gè)以上的重大或極大顧慮。這一比例排在第三位，但明顯與投資行為 有著巨大關(guān)聯(lián)。而在有計(jì)劃放緩人工智能應(yīng)用的

14、受訪者中，有71%表示至少有兩個(gè)與市場不確定性相關(guān)的重大顧慮。對(duì)市場不確定性的顧慮涵蓋范圍非常廣，從公眾輿論到監(jiān)管環(huán)境等等。57%的受訪 者表示其重大或極大顧慮與針對(duì)人工智能技術(shù)不斷推出的新規(guī)定和法規(guī)有關(guān)，例如數(shù)據(jù)隱私、人臉識(shí)別和決策透明度等。12 52%的受訪者表示其重大或極大顧慮在于，客戶一旦發(fā)現(xiàn)人工智能應(yīng)用中存在缺陷或侵犯隱私，就會(huì)發(fā)起強(qiáng)烈抵制。還有一半以上的受訪者擔(dān)心，使用人工智能系統(tǒng)將導(dǎo)致員工產(chǎn)生負(fù)面想法。如何駕馭人工智能應(yīng)用中的風(fēng)險(xiǎn)？人工智能帶來的巨大變革和潛在風(fēng)險(xiǎn)似乎令人生畏。我們的調(diào)研中，每十位受訪者圖 5對(duì)人工智能市場不確定性的顧慮重大或極大顧慮總體而言，您的企業(yè)對(duì)以下人工智

15、能潛在風(fēng)險(xiǎn)的顧慮程度如何？的受訪者選擇了兩個(gè)或兩個(gè)以上與市場 不確定性相關(guān)的顧慮 55%不斷變化的新法規(guī)對(duì)人工智能發(fā)展的影響 57% 客戶對(duì)人工智能系統(tǒng)應(yīng)用的強(qiáng)烈抵觸 52% 員工對(duì)人工智能系統(tǒng)的負(fù)面反應(yīng) 52% 來源：德勤分析中僅有四位表示做好了充分準(zhǔn)備。13 鑒于 人工智能技術(shù)的快速發(fā)展，這種不確定性 必將在一段時(shí)間內(nèi)持續(xù)存在。然而，企業(yè) 可以借鑒現(xiàn)有的一些框架，并從先前的技 術(shù)變革中吸取經(jīng)驗(yàn)，幫助駕馭當(dāng)前的風(fēng)險(xiǎn)。運(yùn)用可信賴的人工智能，減少對(duì)信心和倫理規(guī)范的顧慮在上文分析的三類顧慮中，信心和倫理規(guī) 范是企業(yè)關(guān)注的重點(diǎn)，而這兩點(diǎn)最終都指 向人工智能應(yīng)用是否可信的問題。為了增 強(qiáng)對(duì)人工智能的信

16、心，企業(yè)應(yīng)確保其工具 和解決方案是透明、可靠、安全的，并制 定相應(yīng)的問責(zé)制度。要減少對(duì)倫理規(guī)范的 顧慮，通常需要評(píng)估方案的設(shè)計(jì)是否在意 愿上和效果上都實(shí)現(xiàn)了公平，以及數(shù)據(jù)的 使用是否遵循了明確的隱私保護(hù)標(biāo)準(zhǔn)。企 業(yè)應(yīng)該制定保障措施來管控人工智能風(fēng)險(xiǎn)，涵蓋圖6中列出的六大關(guān)鍵維度。圖 6公平、中立管高可信人工智能TM安全、穩(wěn)妥高可信人工智能框架對(duì)于信心和倫理規(guī)范的顧慮本質(zhì)上歸結(jié)為企業(yè)對(duì)人工智能的運(yùn)用是否可信。企業(yè)實(shí)施這一框架的能力在很大程度上取決于負(fù)責(zé)任的數(shù)據(jù)管理、嚴(yán)格的治理標(biāo)準(zhǔn)，以及借助全面多樣的觀點(diǎn)集合來識(shí)別和應(yīng)對(duì)有害假設(shè)。德勤建議：注重?cái)?shù)據(jù)管理和治理對(duì)企業(yè)而言，有效處理數(shù)據(jù)對(duì)人工智能的質(zhì)

17、量和可解釋性至關(guān)重要，可以提升對(duì)人工智 能的信心，并增強(qiáng)企業(yè)管控倫理規(guī)范的能力。即使在今天，40%的受訪企業(yè)仍表示在一系列數(shù)據(jù)實(shí)踐中的成熟度為“低”或是“中等”，近三分之一的高管認(rèn)為與數(shù)據(jù)相關(guān)的挑戰(zhàn)是 阻礙其公司人工智能舉措的三大問題之一。14在數(shù)據(jù)治理方面，僅有五分之一的受訪企業(yè) 將例行監(jiān)測、管理和提高數(shù)據(jù)質(zhì)量作為正式 數(shù)據(jù)治理工作的一部分，而只有12%的企業(yè)認(rèn)為他們的數(shù)據(jù)是最新的，僅9%的企業(yè)認(rèn)為他們的數(shù)據(jù)是準(zhǔn)確的。15倘若缺少有效的數(shù)據(jù)管理和治理流程，企業(yè)就很難降低風(fēng)險(xiǎn)。專注于這兩大基礎(chǔ)要素，企業(yè)才能成功實(shí)現(xiàn)可信賴的人工智能所需的六個(gè)維度，減少對(duì)信心和倫理規(guī)范的顧慮，為人工智能應(yīng)用掃清障

18、礙。德勤建議：納入多元化觀點(diǎn)公司實(shí)施保障措施的能力還取決于企業(yè)內(nèi)部技術(shù)方和業(yè)務(wù)方的多元化思維。數(shù)據(jù)能力和治理流程為評(píng)估各種標(biāo)準(zhǔn)和法規(guī)的合規(guī)性創(chuàng)建了待查點(diǎn)，但多元化的觀點(diǎn)和思維才能讓重要見解浮出水面。l l來源：德勤“高可信人工智能服務(wù)”多元化觀點(diǎn)有助于在產(chǎn)品的設(shè)計(jì)和審查階段發(fā)現(xiàn)潛在問題，而不是在產(chǎn)品推出后才后知后覺。駕馭市場不確定性對(duì)市場不確定性的顧慮更多來自于外部環(huán)境中尚不明確的因素，因此需要采取不同的方法進(jìn)行應(yīng)對(duì)。伴隨新興技術(shù)和重大轉(zhuǎn)型出現(xiàn)的是不斷變化的法規(guī)和隨時(shí)波動(dòng)的輿論。雖然企業(yè)不可能完全掌控這些不確定因素，但企業(yè)高管依然可以采取措施，更有效地駕馭風(fēng)險(xiǎn)德勤建議：重視變革管理和有效溝通公

19、眾和員工的意見并不會(huì)影響人工智能的表現(xiàn)。經(jīng)過深思熟慮的變革管理和有效溝通對(duì)于成功駕馭市場不確定性至關(guān)重要。未來幾年，人工智能可能會(huì)改變?cè)S多工作崗位，因此幫助員工和客戶學(xué)習(xí)新的工作及互動(dòng)方式至關(guān)重要。Humana就是一個(gè)例子，該公司部署了人工智能客服助理來接聽讓人工客服不堪重負(fù)的每月數(shù)百萬個(gè)來電。Humana開發(fā)了人工智能助理來處理基本的信息請(qǐng)求，占來電總量的60%。事實(shí)上，配備自然語言理解能力的人工智能機(jī)器人還能做更多：協(xié)助員工在幕后收集信息，然后提供給Humana呼叫中心的工作人員。而這項(xiàng)新技術(shù)被定義為人工客服助手，減輕了員工可能感受到來自人工智能的威脅。該公司專注于利用人工智能來支持而非取

20、 代員工，包括與員工的溝通（例如恰當(dāng)表 達(dá)同理心）以及與人工智能協(xié)作解決問題。這些做法有助于最大化地實(shí)現(xiàn)成功。16了解員工的看法，同時(shí)有計(jì)劃地推行技術(shù)以減輕其顛覆程度，往往是獲得認(rèn)可的關(guān)鍵。企業(yè)可考慮與溝通和營銷團(tuán)隊(duì)合作，確保員工和客戶都能充分理解并看到人工智能帶來的價(jià)值。采取以用戶為中心的方法，而不是為了節(jié)約成本強(qiáng)行推進(jìn)，有助于避免抵觸和反擊。德勤建議：預(yù)測應(yīng)對(duì)監(jiān)管變化所需的能力歐洲議會(huì)和歐盟于2016年制定通用數(shù)據(jù)保護(hù)條例(GDPR)，要求于2018年實(shí)施，企業(yè)有兩年時(shí)間來了解和籌備。在GDPR生效前的幾個(gè)月，對(duì)監(jiān)管合規(guī)習(xí)以為常的 行業(yè)，比如金融業(yè)，往往準(zhǔn)備得較為充分。這類企業(yè)已經(jīng)建立了相

21、應(yīng)的技能和運(yùn)營能 力，可應(yīng)對(duì)與合規(guī)相關(guān)的必要變革。目前，有關(guān)新出臺(tái)人工智能政策和可能推出技術(shù) 法規(guī)的討論日益激烈，企業(yè)應(yīng)積極建立這 些能力，從而既能參與法規(guī)的制定，又能 及時(shí)應(yīng)對(duì)新法規(guī)的出臺(tái)。結(jié)論人工智能蘊(yùn)含著巨大的變革潛能。本次受訪的技術(shù)高管中，逾九成認(rèn)為人工智能將是下一次科技革命的核心所在，并且人工智能將逐漸承擔(dān)瑣碎的工作，讓人類有更多自由去追求更富創(chuàng)造性的工作和娛樂。人工智能對(duì)當(dāng)今世界的潛在價(jià)值不容忽視，商業(yè)領(lǐng)袖不能因過度謹(jǐn)慎而退縮。通過謹(jǐn) 慎地開發(fā)流程和提升能力，可以幫助企業(yè) 減輕對(duì)風(fēng)險(xiǎn)和挑戰(zhàn)的顧慮。即刻行動(dòng)，打 造競爭優(yōu)勢，攻克發(fā)展難關(guān)，助力企業(yè)贏 在未來。方法論本次調(diào)研于2019年

22、10月至12月期間開展，九個(gè)國家的2737名IT和業(yè)務(wù)線高管參與了調(diào)研。所有受訪企業(yè)都采用了人工智能技術(shù)，受訪者須滿足以下任一條件：負(fù)責(zé)確定人工智能技術(shù)的支出和/或批準(zhǔn)人工智能投資負(fù)責(zé)制定工智能技術(shù)戰(zhàn)略負(fù)責(zé)管理或監(jiān)督人工智能技術(shù)的實(shí)施是人工智能技術(shù)領(lǐng)域的專家可影響或制定有關(guān)人工智能技術(shù)的決策受訪者中，47%為IT高管，其余為業(yè)務(wù)線高管。70%是首席高管，包括：首席執(zhí)行官、總裁和所有者（35%）；首席信息官和首席技術(shù)官（32%）；以及其他首席高管（3%）。為了更準(zhǔn)確地了解企業(yè)最大的顧慮源自何 處，調(diào)研要求受訪者對(duì)一系列顧慮事項(xiàng)進(jìn) 行評(píng)分，評(píng)分標(biāo)準(zhǔn)從“極少”到“極大”。我們將列出的風(fēng)險(xiǎn)分為三類：信

23、心、倫理 規(guī)范和市場不確定性。圖 7對(duì)人工智能顧慮的類別類別對(duì)人工智能的顧慮缺乏透明度不能解釋人工智能系統(tǒng)如何做出具體決策人工智能決策和行動(dòng)需承擔(dān)的責(zé)任信心 倫理規(guī)范市場 不確定性根據(jù)人工智能建議做出錯(cuò)誤決策影響業(yè)務(wù)運(yùn)營的人工智能故障 網(wǎng)絡(luò)安全漏洞未經(jīng)同意使用個(gè)人數(shù)據(jù)人工智能系統(tǒng)的倫理問題人工智能自動(dòng)化可能造成的失業(yè)問題不斷變化的新法規(guī)對(duì)人工智能發(fā)展的影響客戶對(duì)人工智能系統(tǒng)應(yīng)用的強(qiáng)烈抵觸員工對(duì)人工智能系統(tǒng)的負(fù)面反應(yīng)尾注Beena Ammanath, David Jarvis, and Susanne Hupfer, Thriving in the era of pervasive AI: De

24、loittes State of AI in theEnterprise, 3rd Edition, Deloitte Insights, July 14, 2020.Ibid.Ibid.For a deeper look, see Meredith Broussard, Artificial Unintelligence: How Computers Misunderstand the World(Cambridge: MIT Press, 2018).Catalyst, “Women in science, technology, engineering, and mathematics

25、(STEM): Quick take,” August 4, 2020.Bridget Turner Kelly, “Though more women are on college campuses, climbing the professor ladder remainsa challenge,” Brookings Institution, March 29, 2020; Synced, “AI-powered Genderify platform shut down after bias-based backlash,” July 30, 2020.Adam Conner-Simon

26、s and Rachel Gordon, “Using AI to predict breast cancer and personalize care,” MIT News, May 7, 2019.Jo Cavallo, “Confronting the criticisms facing Watson for oncology,” ASCO Post, September 10, 2019.National Institute of Standards and Technology, “NIST asks A.I. to explain itself,” August 18, 2020.Ziad Obermeyer et al., “Dissecting racial bias in an algorithm used to mana