人工智能迷途：計算機的高技能等于高智能嗎？

1、人工智能迷途：計算機的高技能等于高智能嗎？來源：搜狐 人工智能(Artificial Intelligence，簡稱AI)開始于一個很簡單的想法。當計算機被發(fā)明之后，不少人很快認識到它的能力遠不限于數(shù)值計算，而是可以通過對信息編碼和對指令編程完成很多其它以往只有人腦才能完成的任務(wù)。這自然就導(dǎo)出了是否人腦的功能都能在計算機中實現(xiàn)的問題。這類研究開始有不同的名稱，最后“人工智能”這個詞被大多數(shù)人接受了，盡管對其解釋始終沒有統(tǒng)一(見當你談?wù)撊斯ぶ悄軙r，到底在談?wù)撌裁?)。計算機科學(xué)之父圖靈（Alan Turing）開始，AI研究者們以為可以在不遠的將來實現(xiàn)他們的目標。這個領(lǐng)域的先驅(qū)圖靈在1950年預(yù)

2、言在五十年內(nèi)可以造出言語行為和人難以分辨的“思維機器”，而這個領(lǐng)域的奠基人明斯基和西蒙等人的估計甚至還要更樂觀些。在AI歷史上，曾經(jīng)有過一些雄心勃勃的研發(fā)項目，如紐厄爾和西蒙的“通用問題求解器”和日本政府牽頭的“第五代計算機系統(tǒng)”等，但都沒有達到預(yù)期目的。這些失敗讓AI的名譽受到巨大的負面影響，導(dǎo)致經(jīng)費斷流、人員出走、崗位削減，史稱“AI之冬”。人工智能“腦死亡”了?痛定思痛，AI的大部分研究者覺得失敗的原因是前輩們太好高騖遠了。用一本權(quán)威AI教科書3的說法，在八十年代末“人工智能接受了科學(xué)方法”，其特征是從熱衷于發(fā)明新理論轉(zhuǎn)向基于經(jīng)典理論，從期望發(fā)現(xiàn)一攬子解決方案轉(zhuǎn)向解決具體問題。這使得AI

3、著力于一個一個地解決各種以往只有人能解決的實際問題，或一項一項地再現(xiàn)人的認知功能。由于各種“專家系統(tǒng)”在很多領(lǐng)域達到甚至超過了人類的水平，AI終于擺脫了“現(xiàn)代煉金術(shù)”的惡名。廣為人知的例子包括戰(zhàn)勝了國際象棋世界冠軍的“深藍”系統(tǒng)和近年來風頭正勁的“深度學(xué)習”技術(shù)在圖像、語音識別等領(lǐng)域的應(yīng)用等。但這個從通用系統(tǒng)向?qū)Ｓ孟到y(tǒng)的轉(zhuǎn)向是有代價的。由于“只有人能解決的問題”在不同的時期有不同的內(nèi)容(如曾經(jīng)包括四則運算、排序等)，以此定義“人工智能”實際上把它看成了計算機應(yīng)用的前沿。由于這個前沿在不斷擴展，所面對的問題千差萬別，解法也因問題而異，所以不可能全被囊括于一個理論之中，因此也就說不清AI和普通計算

4、機應(yīng)用到底有什么區(qū)別。甚至有人說“人工智能”專指那些尚未被計算機解決的問題，因為一旦一個問題被計算機解決了，它也就不再是“只有人能解決的問題”了。以這種標準來界定一個研究領(lǐng)域自然會造成大量的思想混亂。即使我們完全不在乎“人工智能”到底是什么意思，只是以“能抓耗子”來定義“好貓”，這種“分而治之”的戰(zhàn)略仍有致命問題存在。人類的各種認知功能顯然是有緊密的相互依存關(guān)系的，而人在各個領(lǐng)域的問題求解能力也不乏相通性和可轉(zhuǎn)移性。在目前AI各子領(lǐng)域中，都有不少核心問題是依賴于其它子領(lǐng)域的。以自然語言理解為例，有什么證據(jù)說明語言理解能力是和推理、學(xué)習、記憶、感知、規(guī)劃、決策等能力無關(guān)，而可以“就語言論語言”的

5、?對上面的詰問的常見答復(fù)是：智能之中的諸功能當然是互相依賴的，但由于它們太復(fù)雜，只能一個一個研究，將來再把它們集成一個完整的智能系統(tǒng)?；蛘哒f當具體問題解決多了，普適的辦法也可能就找到了。這種戰(zhàn)略在很多領(lǐng)域的確是恰當?shù)?，但在AI研究中似乎并非如此。解決具體問題的最有效手段常常是通過深入分析該問題的特點得到的，因此未必能推廣到其它問題。比如說“深藍”的技術(shù)對計算機下圍棋就不適用。類似地，當某種認知功能被孤立定義成一個計算過程時，其結(jié)果和該功能在人腦中的“原生態(tài)”常常已經(jīng)是大不相同了。大略翻翻一本AI教科書(如3) 就不難發(fā)現(xiàn)大量針對各種問題的解決方案。把它們都編成程序裝到同一個計算機系統(tǒng)里并不難，

6、難的是讓它們協(xié)調(diào)工作。由于這些方案是基于不同的理論和預(yù)設(shè)的，它們完全沒有協(xié)作的基礎(chǔ)。這就解釋了為什么整合各種AI功能的呼吁(如1)收效甚微。更重要的一點是，即使是這些打上“智能”標簽的技術(shù)仍常常讓我們覺得缺了些重要的東西。的確，它們在很多方面比人更強，因為它們速度更快、容量更大、功能更穩(wěn)定，但是這本來就是計算機的長項，而它們?nèi)匀蝗狈m應(yīng)性、靈活性、創(chuàng)造性等直觀上和智能密切相關(guān)的特征。即使是最新的機器學(xué)習算法也仍然受制于其中種種對應(yīng)用領(lǐng)域的預(yù)設(shè)，因而和人的學(xué)習能力的普遍性不可同日而語。明斯基曾在一次采訪中對AI主流轉(zhuǎn)向?qū)Ｓ孟到y(tǒng)大表不滿，斥之為“AI已經(jīng)腦死亡了”。通用人工智能的崛起其實就像歷史上

7、類似情形中那樣，總還是有些不改初衷的研究者，盡管他們只能在學(xué)術(shù)界的邊緣沉默堅持。在2001年，他們中的一些人為了改變這種狀況，開始把他們的研究成果編成一本書。最早草擬的書名是Real AI(真正的人工智能)，在2003年全書完稿時定為Artificial General Intelligence(通用人工智能，簡稱AGI)。這本書在出版過程中又經(jīng)歷了些周折，故2007年才得以面世2。在此期間，在2006年于華盛頓特區(qū)召開了為期兩天，大約50人參與的AGI研討會(4就是這次會議文集的引言)。在這些準備活動的基礎(chǔ)上，AGI年會(/)從2008年開始舉辦，而AGI

8、學(xué)報(一個常常被當作AGI同義詞的概念是“強人工智能”(Strong AI)。直觀來說這是可以理解的，因為AGI的野心顯然比目前的AI要強很多。但是按照這個詞的發(fā)明人哲學(xué)家塞爾的說法，即使一個計算機系統(tǒng)的外部表現(xiàn)完全像人，那也只是個“弱人工智能”，而“強人工智能”必須真正擁有自我意識。這樣一來一個AI系統(tǒng)是“強”還是“弱”就完全沒有外部標準了,這是很多AGI研究者所不同意的。與此相反，AI和AGI的差別是有明確外部標準的。如果要用一句話來概括，可以說AGI是把“智能”看作一個問題，而目前主流AI是將其看作一組問題。從AGI的觀點看，“智能”當然是個很復(fù)雜的問題，必須一步一步地解決，但這里的“一

9、步”不是“下圍棋”、“識別照片中的事物”或“聽懂中國話”，而是要根據(jù)一個智能理論來劃分。這就像蓋一棟房子應(yīng)該從畫圖紙開始，然后據(jù)此一間間、一層層地建，而不是各人根據(jù)自己的想法分別去建客廳、書房、臥室、廚房、閣樓、衛(wèi)生間等等，最后再設(shè)法把它們拼在一起。這聽上去像常識，只是這樣工程周期顯然比只造一個房間會長很多，而且在全部完工之前不容易看出好壞。因此，在主流AI的工地上，絕大部分施工隊都在忙著造各種房間，而不愿花功夫去捉摸那些成敗難料的圖紙。盡管有“建造多功能通用系統(tǒng)”這個共識，目前AGI領(lǐng)域內(nèi)對“智能到底是指什么”仍舊未達成一致意見，而在當你談?wù)撊斯ぶ悄軙r，到底在談?wù)撌裁?中介紹的幾種觀點在目前

10、AGI研究中均不同程度地有所體現(xiàn)。既然對“做什么”都有不同看法，對“怎么做”的答復(fù)就更是百家爭鳴了。盡管如此，已經(jīng)有若干AGI項目離開了紙上談兵的階段，開始有具體系統(tǒng)可以被檢驗了，雖然離完成都還有很遠的距離。高技能高智能在AGI中的“G”(General)不意味著能解決一切問題，而是指在系統(tǒng)設(shè)計時不限定其應(yīng)用范圍?！巴ㄓ谩弊匀皇莻€程度問題，“通用”和“專用”也是相對而言的，但這個差別仍然是明顯存在的，比如“深藍”就完全不能算個通用系統(tǒng)。一個常見的誤解是把一個通用系統(tǒng)看作一批專用系統(tǒng)的組合。實際上它們是兩類非常不同的系統(tǒng)，不能相互替代。不僅AGI不能通過堆砌現(xiàn)有AI技術(shù)來實現(xiàn)，而且即使在AGI實

11、現(xiàn)后也不會抹殺專用技術(shù)的價值。如4中所指出的，對一個可以明確刻畫的應(yīng)用問題而言，專用系統(tǒng)往往比通用系統(tǒng)更有效和更可靠。通用系統(tǒng)的應(yīng)用價值是在那些問題和解法都難以事先確定的領(lǐng)域。在理論價值上，這二者的差別就更顯著了。各種現(xiàn)存AI理論對于揭示智能的一般原理貢獻甚微，而AGI理論則往往是從一般原理入手的。在人工智能：何為“智”?中，我介紹了我對“智能”的工作定義是“在知識和資源相對不足的條件下的適應(yīng)能力”。按照這個定義構(gòu)建的系統(tǒng)可以被置于很多不同的環(huán)境中，而其智能使得它能夠逐漸通過學(xué)習獲得在該領(lǐng)域解決問題的能力。照這種觀點看，“智能”不是“解決具體問題的能力”，而是“獲得解決具體問題的能力的能力”，

12、因此是一種通用的“元能力”(meta-ability)。我對于“能力”和“元能力”的區(qū)別的最早認識來自于小時候讀到的一個寓言故事。故事的框架很老套：兩兄弟遇到一個白胡子老神仙，他們選擇了不同的法寶，因此走上了不同的人生道路。這個故事的特別之處是其中的法寶是兩雙手套，一雙是白色的，另一雙是黃色的。帶上黃手套就可以直接擁有各種技藝，而帶上白手套就可以很快學(xué)會各種技藝。后面的情節(jié)大家都能猜到：選了黃手套的馬上變身為成功人士，而選了白手套的仍需四處學(xué)徒。有一天兩個法寶同時失效了，這時前成功人士立刻被打回原形，而那位前學(xué)徒工卻仍身懷長技。這個故事的出處我已經(jīng)找不到了(如果哪位讀者知道請告訴我)，兩雙手套

13、的顏色也可能被我搞反了，但故事中的教益卻對我影響深遠，且不僅僅是“不要貪圖急功近利”這么簡單。在我看來，“能力”可以被分解成“技能”和“智能”兩個方面。一種“技能”指解決某類問題的專門化能力，而“智能”指那種獲得和提高各種技能的能力。如果把系統(tǒng)的總技能看成時間的函數(shù)，那么智能就是這個函數(shù)的導(dǎo)數(shù)。系統(tǒng)在某一時刻的技能等于其“本能”（先天技能）部分和智能所貢獻的部分的疊加。這兩個部分的關(guān)系在人類和計算機系統(tǒng)中非常不同。因為人類的本能差別較小，同齡人的技能差別可以近似地反映智能差別，這就是“智商”定義的基礎(chǔ)。相反，計算機系統(tǒng)的技能既可以來自本能，也可以來自智能。當一個計算機系統(tǒng)完全靠人編的程序解決問

14、題，而不根據(jù)自己的經(jīng)驗對其行為進行任何調(diào)整時，它仍可能擁有很高的技能，但完全沒有智能。而另一方面，一個高智能系統(tǒng)如果不依賴于預(yù)先編好的應(yīng)用程序，在開始運行時可能并沒有多高的技能。根據(jù)上述分析，把人類智商測試直接用于人工智能是錯誤的，因為計算機系統(tǒng)在一個時刻的“智能值”和“技能值”之間沒有相關(guān)性，而前者必須通過后者的變化來衡量。智能的具體衡量標準和方法仍是AGI領(lǐng)域中的一個熱點課題，但無論如何，這種衡量不能以一套固定的考題來進行，因為那樣一來，一定會有人去編制一些在這種考試中表現(xiàn)出色，但此外一無所能的系統(tǒng)。這絕不是正確的導(dǎo)向 圖靈測試已經(jīng)因此而遭到“鼓勵欺騙”的指責了。“機器學(xué)習”還遠遠不夠把智

15、能理解為學(xué)習能力遠非新想法。心理學(xué)家如皮亞杰已經(jīng)明確地指出智能是一種高級適應(yīng)能力，圖靈認為思維機器要通過學(xué)習實現(xiàn)其功能，而“機器學(xué)習”從一開始就是AI的一個子領(lǐng)域。在這種情況下，為什么上述想法不能在主流AI中發(fā)展呢?這是因為像“智能”一樣，對“學(xué)習”這個概念也有許多種不同的理解，而我的理解和主流AI的很不一樣。如上所述，我認為“學(xué)習”是一個通用的元能力，而且是智能的必要條件，但在目前的AI研究中，“學(xué)習”一般是被看做是諸多認知能力之一，是起錦上添花作用的，因而AI系統(tǒng)不一定都有學(xué)習能力。即使在機器學(xué)習的研究中，“學(xué)習”也是一般被看做達到一個確定的輸入輸出關(guān)系的手段。這種學(xué)習系統(tǒng)的技能在“訓(xùn)練”

16、階段的確隨時間增長，但達到某個水平后學(xué)習就停止了，而此后系統(tǒng)進入“工作”階段。與此相反，在我的設(shè)計中，系統(tǒng)沒有截然分開的“訓(xùn)練”階段和“工作”階段，學(xué)習是終生的，無處不在的，盡管在系統(tǒng)的“幼年期”和“成年期”學(xué)習和工作的比例有量的區(qū)別。最后，目前各種機器學(xué)習算法雖然有一定的通用性，但離AGI的要求還相差很遠?！板e把技能當智能”是一個目前普遍存在的問題。對于只關(guān)心某個具體應(yīng)用的人來說，到底一個計算機系統(tǒng)的某項功能是程序員設(shè)計好的還是系統(tǒng)自己學(xué)的，其間的差別大概并不重要，但如果關(guān)注點是系統(tǒng)的發(fā)展?jié)摿瓦m用范圍，這里的差別可就大了。以我的研究為例，“知識相對不足”意味著系統(tǒng)必須不斷學(xué)習新知識以應(yīng)對新

17、問題，而“資源相對不足”意味著系統(tǒng)必須不斷調(diào)整策略以滿足時間約束，而這種運行環(huán)境是不在現(xiàn)有AI研究(包括各種學(xué)習算法)的視野之內(nèi)的。更大的差別體現(xiàn)在對階段性結(jié)果的評價上。由于我的工作不是基于現(xiàn)有主流AI所接受的理論(主要是數(shù)理邏輯、概率統(tǒng)計、計算理論)之上的，而且尚未有具體應(yīng)用成果，這種工作在他們看來就沒什么價值。反過來，在我看來主流AI做的基本是“人工技能”，也不是我所感興趣的。雖然其他AGI研究者和我的觀點不完全一樣，他們同樣對主流AI的現(xiàn)有規(guī)范不滿，而對AGI的研究目標和評價標準有更強的認同感。目前介紹AI技術(shù)熱點的報道很多，但其中的問題也不少，尤其是常常把這些技術(shù)做直觀理解和外推，因而賦予它們很多它們本來不具有的性質(zhì)。我在賽先生上寫這個專欄的初衷是以我自己的研究為線索，逐步、系統(tǒng)、深入地分