博弈：人類與人工智能

博弈人類與人工智能

自從去年阿爾法狗戰(zhàn)勝李世石后，人工智能在科技領(lǐng)域掀起了軒然大波，人工智能仿佛一夜之間就走入了我們的生活，科幻大片中的場景即將出現(xiàn)。劉宗凡：“機(jī)器覺醒”——虛驚一場的“新聞”關(guān)注人工智能的人可能會(huì)看到近期的一個(gè)新聞：Facebook（臉書）公司的兩個(gè)AI機(jī)器人，是社交網(wǎng)絡(luò)助手，可以用來進(jìn)行談判?？墒?，據(jù)說這兩個(gè)機(jī)器人，突然用我們無法理解的語言進(jìn)行對(duì)話，“嚇壞了”的工程師使出了絕招：關(guān)電源——就是停止了這個(gè)試驗(yàn)項(xiàng)目。于是，各種科技媒體慌了，國內(nèi)也以類似標(biāo)題：“Facebook關(guān)閉‘失控AI系統(tǒng)因其發(fā)展出人類無法理解的語言”進(jìn)行報(bào)道，大有山雨欲來風(fēng)滿樓之勢，甚至被當(dāng)作“人工智能覺醒元年”這樣的大事件。右面就是兩個(gè)機(jī)器人的對(duì)話情況截圖。對(duì)于這些我們完全無法理解的對(duì)話，大家紛紛猜測，是機(jī)器人為了不讓我們知道他們到底聊了什么，而發(fā)明的一種新的語言。如果是這樣，那就說明機(jī)器人有意識(shí)地避開人類進(jìn)行自己的某些“密謀”，讓人感到非?？只拧凶约阂庾R(shí)的機(jī)器人這么快就出現(xiàn)了？還好，很快就有相關(guān)技術(shù)人員做出了辟謠。真相是，在兩個(gè)機(jī)器人聊天時(shí)，工作人員在進(jìn)行系統(tǒng)設(shè)置時(shí)，將激勵(lì)條件忘記設(shè)置為英文語法，從而導(dǎo)致機(jī)器人出現(xiàn)了語法混亂。Facebook也沒有關(guān)閉這個(gè)系統(tǒng)，而是重新設(shè)定了正確的激勵(lì)。該研究的首席作者M(jìn)ichaelLewis說：“沒有恐慌，項(xiàng)目也沒有關(guān)閉，我們的目標(biāo)是建立可以與人交流的機(jī)器人。在一些實(shí)驗(yàn)中，我們發(fā)現(xiàn)他們沒有像人們那樣使用英語單詞，所以我們停止了這些實(shí)驗(yàn)，并使用了一些額外的技術(shù)來讓機(jī)器人按照我們的意愿工作。分析獎(jiǎng)勵(lì)功能和改變實(shí)驗(yàn)的參數(shù)不等同于‘拔掉或‘關(guān)閉AI?！蔽覀?cè)谒闪艘豢跉獾耐瑫r(shí)，還是要考慮，人工智能，現(xiàn)在發(fā)展到什么階段了？人工智能會(huì)和人如何相處？我們?cè)撛鯓永萌斯ぶ悄?？人工智能真的?huì)威脅到人類嗎？邱元陽：正本清源——人工智能還處于“石器時(shí)代”實(shí)際上，對(duì)于人工智能的研究，很多還停留在概念性的初級(jí)階段。新聞上非專業(yè)性的報(bào)道，常常會(huì)給我們一些錯(cuò)覺，以為現(xiàn)在的人工智能已經(jīng)非常強(qiáng)大了。如果以漫長的人類社會(huì)作比喻，人工智能現(xiàn)在僅僅是處于人類社會(huì)的“石器時(shí)代”。很多時(shí)候，我們需要區(qū)分一下普通程序和人工智能。拿聊天機(jī)器人來說，看似智能化程度很高，但實(shí)際上，那僅僅是程序預(yù)設(shè)的一些判斷及對(duì)應(yīng)策略，并沒有智能可言。它既不知道我們?cè)谡f什么，也不知道它自己在說什么。即使通過了圖靈測試，他們也未必具備哪怕微弱的智能。圖靈測試本身，還缺乏哲學(xué)層面的質(zhì)疑。不僅僅是聊天機(jī)器人，目前的所有的智能系統(tǒng)，都還無法做到對(duì)場景的常識(shí)理解。這種不理解會(huì)造成很多原設(shè)的判斷無法進(jìn)行，從而出現(xiàn)重大失誤。在笨拙的機(jī)器人足球比賽中，我們常?？梢钥吹綑C(jī)器人摔倒后爬不起來的情形。這對(duì)于無人駕駛汽車來說，可能是致命的。看起來智能化程度非常高的無人駕駛汽車，在研究人員認(rèn)為已經(jīng)考慮到各種因素而接近完美時(shí)，它們還是出現(xiàn)各種事故。因?yàn)樗鼈儫o法理解場景，僅僅依靠規(guī)則和程序是遠(yuǎn)遠(yuǎn)不夠的?？吹揭粋€(gè)人，我們可以知道它是要過路還是要停止，程序是做不到的，它甚至不能區(qū)分人與人像、草地與沼澤、場景與畫面。同樣地，機(jī)器翻譯看似可以翻譯不同的語言，其實(shí)它根本無法理解自然語言的語義，如果使用了“雙關(guān)”，肯定會(huì)被忽略。以前有新聞報(bào)道說機(jī)器人與人類比賽輸了，憤怒地通電電死了人類對(duì)手。我可以肯定寫這篇報(bào)道的記者不懂人工智能。情感和思想是機(jī)器無法逾越的高度，對(duì)于目前的人工智能而言，讓它自發(fā)產(chǎn)生情感實(shí)在是勉為其難，更別提具有獨(dú)立思想了。在科幻電影中，我們常?？吹綑C(jī)器人學(xué)習(xí)人類戰(zhàn)術(shù)、殺死人類并妄圖控制人類的場景。但是在人類的生命周期中，恐怕不可能實(shí)現(xiàn)人工智能的思想意識(shí)了，除非將人工智能與人體結(jié)合，產(chǎn)生一種新的有機(jī)體。思想是生命的特征，機(jī)器的生命與生物的生命，概念是不一樣的。人工智能要想與人類的大腦媲美，還有很多困難。初級(jí)的，是經(jīng)驗(yàn)和直覺；中級(jí)的，是情感和創(chuàng)新；高級(jí)的，是思維和思想。這些困難的克服，正是對(duì)人類自身大腦的挑戰(zhàn)，過程必然漫長而曲折。雖然不可能實(shí)現(xiàn)，我們還是希望能夠?qū)崿F(xiàn)，哪怕它是人類的災(zāi)難。雖然人工智能還處于混沌初開的時(shí)代，但在一些特定領(lǐng)域還是展露了曙光。我們來看看近年發(fā)生的一些新聞。1.阿爾法狗（AlphaGo）擊敗人類頂尖圍棋選手。要說人工智能元年最重磅的新聞，當(dāng)屬谷歌DeepMind團(tuán)隊(duì)下的作品阿爾法狗以4∶1的比分擊敗世界圍棋冠軍、人類頂尖選手之一的李世石。阿爾法狗的二代產(chǎn)品Master，在網(wǎng)絡(luò)上以60連勝的姿態(tài)橫掃人類，并在正式比賽中以3∶0的完美姿態(tài)擊敗目前圍棋屆的世界第一人柯潔。我們之所以震驚于阿爾法狗取得的成就，是因?yàn)榇蠹移毡檎J(rèn)為人工智能征服古老的圍棋，起碼是10年之后的事情。圍棋變化之繁復(fù)，用以前的思路來解決這個(gè)問題是不可能的。神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)、蒙特卡羅樹等一系列思想和算法，在人工智能領(lǐng)域掀起了軒然大波。2.特斯拉Autopilot將血栓病人送到醫(yī)院。和谷歌正在研發(fā)的無人駕駛技術(shù)相比，科技新貴特斯拉的Autopilot只具有半自動(dòng)駕駛功能，可以調(diào)節(jié)車速，切換車道，自動(dòng)剎車。據(jù)報(bào)道，美國密蘇里州的一名男子、特斯拉ModelX車主約書亞·尼利（JoshuaNeally）近期在上班途中突發(fā)肺栓塞。在趕往醫(yī)院的20英里（約合32公里）高速公路車程中，Autopilot完成了全自動(dòng)駕駛，抵達(dá)了醫(yī)院附近的一個(gè)高速公路匝道口。尼利隨后自行駕車抵達(dá)了醫(yī)院。在鋪天蓋地的無人駕駛新聞中，這樁小事可能無足掛齒，但卻折射了自動(dòng)駕駛正從實(shí)驗(yàn)室逐步走向現(xiàn)實(shí)中。無人駕駛的落地，將成為弱人工智能的巔峰。3.人工智能診斷癌癥。endprint“人工智能在醫(yī)療領(lǐng)域取得了重大進(jìn)步，”美國路易斯維爾大學(xué)網(wǎng)絡(luò)安全實(shí)驗(yàn)室主任羅曼·亞普爾斯基（RomanYampolskiy）說，“如IBM沃森就能判斷醫(yī)生無法判斷的問題?！盜BM沃森總經(jīng)理大衛(wèi)·肯尼（DavidKenny）在BusinessInsider的Ignition大會(huì)上講了一個(gè)故事——這臺(tái)認(rèn)知機(jī)器竟然在日本診斷了一位之前被漏診的白血病女患者。“從統(tǒng)計(jì)學(xué)上看，這種情況出現(xiàn)的概率約為三分之一，沃森建議再次診斷。”肯尼說。目前阿爾法狗在圍棋領(lǐng)域已經(jīng)退出，谷歌正在準(zhǔn)備將這套系統(tǒng)的方法應(yīng)用在醫(yī)療領(lǐng)域。我們可以想象，人工智能在進(jìn)行足夠的深度學(xué)習(xí)以后，其水平也將比肩甚至超過世界上頂尖的醫(yī)療專家。而這一技術(shù)的普及，將惠及千千萬萬普通百姓。4.中國的人工智能現(xiàn)狀?！叭斯ぶ悄堋备拍畹奶岢?，已經(jīng)經(jīng)過一個(gè)甲子了。在谷歌等一流公司的主導(dǎo)下，人工智能蓬勃興起。中國目前將這項(xiàng)偉大的項(xiàng)目執(zhí)行得如何呢？答案是，中國的語音識(shí)別和圖像識(shí)別的應(yīng)用已達(dá)到國際領(lǐng)先水平。中國在圖像及語音識(shí)別的基礎(chǔ)之上，模擬神經(jīng)網(wǎng)絡(luò)的輸入和輸出，并通過大規(guī)模的數(shù)據(jù)進(jìn)行訓(xùn)練，再對(duì)樣本進(jìn)行精準(zhǔn)分類和預(yù)測，從而實(shí)現(xiàn)了“計(jì)算”之外的“思考”。這便是中國著力研究人工智能所得到的令人欣喜的結(jié)果。當(dāng)然，研發(fā)中會(huì)遇到瓶頸，同時(shí)也是突破口——訓(xùn)練和建模邏輯的算法，但我相信，只要不懈努力，中國定能取得更多更高的科研成就。倪俊杰：家庭生活——人工智能真的解放了家長？前些日子，在學(xué)生家長的朋友圈里盛傳著一條信息：一款名為“愛作業(yè)”的APP一下子火了。家長只要拿起手機(jī)拍照，就能夠迅速檢查孩子的口算作業(yè)，算術(shù)作業(yè)的成績很快就統(tǒng)計(jì)出來，準(zhǔn)確度也很高，同時(shí)還會(huì)標(biāo)出算錯(cuò)的題目。由于該APP的推出時(shí)間和功能極佳，一經(jīng)推出就收到了奇效。第一天的下載量就達(dá)到了1800，第三天飆升到24萬的下載量，一周的時(shí)間總下載量達(dá)到了30萬。在上線第四天的時(shí)候，“愛作業(yè)”APP就在蘋果APPStore總排名第75位，在教育類APP下載排行第五。從技術(shù)角度來說，“愛作業(yè)”APP主要運(yùn)用了字符識(shí)別和機(jī)器計(jì)算等技術(shù)，其核心也是人工智能技術(shù)。從這點(diǎn)來說，人工智能確實(shí)解放了家長，速度也很快，節(jié)省了不少時(shí)間。但也透露出一些隱憂，有用戶在留言區(qū)就評(píng)論：“連算術(shù)題都需要借助APP，家長是不是太懶了？”“APP都能解決問題了，那么要家長和老師有什么用？”以上評(píng)論雖有些偏激，但細(xì)想也并非毫無道理?，F(xiàn)在借助技術(shù)手段，出現(xiàn)了很多能夠幫助孩子學(xué)習(xí)的“智能軟件”“智能設(shè)備”，甚至是陪讀機(jī)器人。這些軟件或設(shè)備的出現(xiàn)，看似解放了家長，但也給了家長一個(gè)借口：我反正不會(huì)，有這么好用的設(shè)備、軟件，何樂而不為呢？反正人家都在用，我們要是不用，就會(huì)落伍了。有些家長還將孩子學(xué)習(xí)的場景每天發(fā)到朋友圈“打卡”。此外，高考機(jī)器人的出現(xiàn)，也讓部分家長和學(xué)生認(rèn)為，十年寒窗的學(xué)習(xí)變得不是那么必要了。至此，我們不得不重新思考這樣一個(gè)問題：是不是所有的人工智能都是必要的？檢查作業(yè)這些看似瑣碎的工作，但卻能夠讓孩子感受到來自家長的關(guān)注。檢查過程中的親子溝通，更能夠激發(fā)孩子學(xué)習(xí)的興趣與積極性，也能讓家長更加全面地了解孩子學(xué)習(xí)過程中的實(shí)際情況，而不僅僅是答案的正確與否。如果技術(shù)成為主導(dǎo)，那么家長與孩子之間的連接，也會(huì)逐漸疏遠(yuǎn)。那樣的話，就因小失大了。人與人之間，有些必要的聯(lián)系，技術(shù)是無法替代的。愛因斯坦曾經(jīng)警告，人類作為一個(gè)種群的未來取決于我們?nèi)绾问谷找嬖鲩L的知識(shí)與運(yùn)用這些知識(shí)的智慧保持平衡。那么，技術(shù)與人性的平衡在哪里？我認(rèn)為，未來智能時(shí)代的教育，還應(yīng)當(dāng)是一種“人性”的教育，德行和情感等人性特有的東西應(yīng)當(dāng)受到極大的重視。邱元陽：自動(dòng)駕駛——繞不開的“電車難題”人工智能中一個(gè)非?；鸨姆较蚓褪亲詣?dòng)（無人）駕駛，谷歌是其中的翹楚。從2009年開始開發(fā)自動(dòng)駕駛技術(shù)，到現(xiàn)在谷歌的無人駕駛汽車已經(jīng)在路上行駛超過322萬公里。李開復(fù)在創(chuàng)新工場的“人工智能戰(zhàn)略展望會(huì)”上談到，無人駕駛將成為最會(huì)顛覆人類已有世界的技術(shù)。在我們看起來經(jīng)過簡單訓(xùn)練就可以掌握的駕駛技術(shù)，在人工智能領(lǐng)域有很多難題亟待突破。從行業(yè)發(fā)展歷程中可以看出，在以深度學(xué)習(xí)為突破的“人工智能時(shí)代”大風(fēng)口下，自動(dòng)駕駛被給予了前所未有的關(guān)注，包括互聯(lián)網(wǎng)公司、傳統(tǒng)車廠、新興創(chuàng)業(yè)公司，各路資本爭相競逐。無人駕駛將是弱人工智能的終極場景，機(jī)器視覺識(shí)別、深度學(xué)習(xí)、增強(qiáng)學(xué)習(xí)、GPU、傳感器技術(shù)等均在自動(dòng)駕駛領(lǐng)域發(fā)揮著重要的作用，甚至行業(yè)發(fā)展的瓶頸主要在于這些人工智能底層技術(shù)上能否實(shí)現(xiàn)突破。人工智能本身越來越需要與應(yīng)用場景結(jié)合才能最大限度地轉(zhuǎn)化技術(shù)上的創(chuàng)新和突破，因此考慮到汽車行業(yè)本身的體量以及與相關(guān)行業(yè)的關(guān)聯(lián)度，可以說自動(dòng)駕駛是人工智能實(shí)現(xiàn)場景落地的最重要方向。無人駕駛的發(fā)展，除了決定于人工智能技術(shù)的發(fā)展，還面臨著嚴(yán)重的倫理道德問題。我們來看一下哲學(xué)領(lǐng)域的“電車難題（TrolleyProblem）”。電車難題最早是由哲學(xué)家PhilippaFoot提出的，是倫理學(xué)領(lǐng)域最為知名的思想實(shí)驗(yàn)之一，其內(nèi)容大致是：一個(gè)瘋子把五個(gè)無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來，并且片刻后就要碾壓到他們。幸運(yùn)的是，你可以拉一個(gè)拉桿，讓電車開到另一條軌道上。然而問題在于，那個(gè)瘋子在另一個(gè)電車軌道上也綁了一個(gè)人?？紤]以上狀況，你是否應(yīng)拉桿？這個(gè)著名的心理實(shí)驗(yàn)，在無人駕駛中將變?yōu)橐粋€(gè)現(xiàn)實(shí)場景。無人駕駛雖然隨著人工智能的發(fā)展將非常安全，但肯定不是百分之百能避免事故發(fā)生。我們可以想象一下，無人駕駛汽車在正常高速行駛，左邊一部車失控將要撞上來，而右邊有一個(gè)無辜的行人。撞上去，兩部車上的人將同歸于盡；打方向變道，撞死旁邊的行人，自己活下來。面臨這兩個(gè)選擇，人工智能將以什么標(biāo)準(zhǔn)來進(jìn)行自己的操作呢？當(dāng)我們把生死交給冷冰冰的人工智能去裁決時(shí)，是不是會(huì)覺得非常殘酷？endprint倪俊杰：現(xiàn)實(shí)焦慮——人工智能會(huì)不會(huì)搶走我們的工作？人類發(fā)明人工智能技術(shù)的目的是解放生產(chǎn)力，提高工作效率，做人類做不到的事情。但是，甚至連人類都想不到，人工智能正在給人類帶來“反作用”。阿里巴巴集團(tuán)董事局主席馬云在美國底特律召開的阿里巴巴中小企業(yè)論壇會(huì)上曾經(jīng)說過：“隨著人工智能的逐步發(fā)展，未來30年人類每天只需要工作4小時(shí)，每周只工作4天。有更多工作被搶走，一些能順應(yīng)潮流的人將變得愈發(fā)富有和成功，而那些被時(shí)代甩在身后的人則會(huì)越來越痛苦?！笔聦?shí)確實(shí)如此，隨著“機(jī)器換人”的興起，未來20年內(nèi)，一半的人類勞動(dòng)力將會(huì)被機(jī)器和軟件所取代，今后的企業(yè)將充斥著各類高效工作且易管理的機(jī)器，越來越多的工作已經(jīng)轉(zhuǎn)交給人工智能機(jī)器人。還有人開始擔(dān)心，人工智能會(huì)威脅人類的生存。那么，人工智能會(huì)不會(huì)搶我們的工作呢？我倒是覺得，并不是人工智能在“搶”工作，而是我們?nèi)祟悓⒁呀?jīng)“不適合”自己去做的工作，“明智”地轉(zhuǎn)交給人工智能機(jī)器去做，人工智能幫助人類分擔(dān)了大量繁瑣、重復(fù)、單調(diào)的工作。俗話說，舊的不去，新的不來。只有放棄低效繁雜的活，人類才會(huì)以更高的效率向前進(jìn)。人類沒必要擔(dān)憂，想要不被大時(shí)代趨勢淘汰，就應(yīng)該正視這個(gè)趨勢，擺正態(tài)度，加強(qiáng)學(xué)習(xí)，提高自身本領(lǐng)。當(dāng)然，人工智能并不會(huì)搶走所有的工作。起碼在三個(gè)領(lǐng)域，是必須有人參與的：一是創(chuàng)造性工作，如對(duì)科學(xué)與藝術(shù)和對(duì)未來的探索等；二是設(shè)置KPI和價(jià)值觀的工作，AlphaGo圍棋上戰(zhàn)勝人類，但是它贏棋的目標(biāo)是由人來設(shè)定的；三是情緒勞動(dòng)，這個(gè)與愛及心理相關(guān)的概念，是由美國社會(huì)學(xué)家霍赫希爾德提出的。在短期內(nèi)，像醫(yī)生、廚師、駕駛員、教師這樣專業(yè)性和情感性較強(qiáng)的工作，人工智能是無法替代的。這也從側(cè)面說明了，人工智能和人類還是有本質(zhì)區(qū)別的。劉宗凡：“人機(jī)相戀”——終極的倫理拷問在人類發(fā)展的歷史長河中，男女相戀、結(jié)合，繁衍下一代，使得人類生生不息。如果戀愛的結(jié)果不能產(chǎn)生下一代，則這種“愛”會(huì)被認(rèn)為是不道德的，甚至是病態(tài)的、反人類的。比如“同性戀”，直到今天大多數(shù)國家還是不承認(rèn)其合法性。隨著人工智能的發(fā)展，比同性戀更可怕的畸戀——“人機(jī)戀”可能發(fā)生嗎？在我們看來，目前的機(jī)器人只不過是一堆冰冷的鐵塊和嚴(yán)謹(jǐn)?shù)某绦虻慕Y(jié)合，機(jī)器人產(chǎn)生人類感情是不可能實(shí)現(xiàn)的。我們也無法想象，人類會(huì)和機(jī)械及代碼產(chǎn)生什么感情。當(dāng)機(jī)器人與人相伴之后，即使它沒有情感，人類也是可能會(huì)對(duì)它產(chǎn)生情感的，這是作為生物體的人的特點(diǎn)。就好比我們用過的物件，我們?nèi)匀粫?huì)深深懷念或賦予情感加以保護(hù)，對(duì)它傾訴和交流。情感是高級(jí)生命的特征。這樣想來，那些想與機(jī)器人結(jié)婚的想法，應(yīng)該跟與充氣娃娃結(jié)婚的想法一樣，并不能說明機(jī)器的情感，終歸還是人的情感問題。但是，有一種觀點(diǎn)認(rèn)為：人工智能基于大數(shù)據(jù)，利用深度學(xué)習(xí)來學(xué)習(xí)模仿人類的思維和行為方式，通過大量的積累便能產(chǎn)生一定的情感。打個(gè)形