人工智能導(dǎo)論課件第7章第1節(jié)

人工智能導(dǎo)論Introductiontoartificialintelligence人工智能導(dǎo)論Introductiontoartifici第7章機(jī)器學(xué)習(xí)第7章機(jī)器學(xué)習(xí)【導(dǎo)讀案例】Netflix的電影推薦引擎討論：【導(dǎo)讀案例】Netflix的電影推薦引擎討論：1什么是機(jī)器學(xué)習(xí)2機(jī)器學(xué)習(xí)的學(xué)習(xí)類型3機(jī)器學(xué)習(xí)的算法4機(jī)器學(xué)習(xí)的基本結(jié)構(gòu)5機(jī)器學(xué)習(xí)的分類與應(yīng)用1什么是機(jī)器學(xué)習(xí)2機(jī)器學(xué)習(xí)的學(xué)習(xí)類型3機(jī)器學(xué)習(xí)的算法4機(jī)器學(xué)1機(jī)器學(xué)習(xí)的發(fā)展2機(jī)器學(xué)習(xí)的定義第1節(jié)1機(jī)器學(xué)習(xí)的發(fā)展2機(jī)器學(xué)習(xí)的定義第1節(jié)7.1什么機(jī)器學(xué)習(xí)蘋果手機(jī)提供了一個智能語音助手Siri，而亞馬遜公司的子公司Alexa是一家專門發(fā)布網(wǎng)站世界排名的網(wǎng)站，其目的是讓互聯(lián)網(wǎng)網(wǎng)友們在分享虛擬資源的同時，更多地參與互聯(lián)網(wǎng)資源的組織。那么，日常生活中，你是否已經(jīng)在使用像Siri或Alexa這樣的個人助理客戶端呢？你是否依賴?yán)]件過濾器來保持你的電子郵件收件箱的清潔呢？你是否訂閱了類似Netflix的服務(wù)并依賴它驚人的準(zhǔn)確推薦來尋找你喜歡的新電影或書刊呢？如果你對這些問題回答說“是”，那么，事實上，你已經(jīng)在很好地利用機(jī)器學(xué)習(xí)了！7.1什么機(jī)器學(xué)習(xí)蘋果手機(jī)提供了一個智能語音助手Siri7.1什么機(jī)器學(xué)習(xí)機(jī)器學(xué)習(xí)是人工智能的一個分支，它所涉及的范圍非常大——語言處理、圖像識別、規(guī)劃等等，但它實際上是一個相當(dāng)簡單的概念。為了更好地理解它，我們來研究一下關(guān)于機(jī)器學(xué)習(xí)的what，who，when，

where，how以及why（什么、誰、何時、何地、如

何以及為什么）。

圖7-2什么是機(jī)器學(xué)習(xí)7.1什么機(jī)器學(xué)習(xí)機(jī)器學(xué)習(xí)是人工智能的一個分支，它所涉及7.1.1機(jī)器學(xué)習(xí)的發(fā)展機(jī)器學(xué)習(xí)最早的發(fā)展可以追溯到英國數(shù)學(xué)家貝葉斯（1701年~1761年）在1763年發(fā)表的貝葉斯定理，這是關(guān)于隨機(jī)事件A和B的條件概率（或邊緣概率）的一則數(shù)學(xué)定理，是機(jī)器學(xué)習(xí)的基本思想。其中，P(A|B)是在B發(fā)生的情況下A發(fā)生的可能性，即尋求根據(jù)以前的信息尋找最可能發(fā)生的事件。機(jī)器學(xué)習(xí)的發(fā)展過程大體上可分為4個時期（參見圖7-3）。7.1.1機(jī)器學(xué)習(xí)的發(fā)展機(jī)器學(xué)習(xí)最早的發(fā)展可以追溯到英國7.1.1機(jī)器學(xué)習(xí)的發(fā)展圖7-3機(jī)器學(xué)習(xí)的發(fā)展7.1.1機(jī)器學(xué)習(xí)的發(fā)展7.1.1機(jī)器學(xué)習(xí)的發(fā)展第一階段是在20世紀(jì)50年代中葉到60年代中葉，屬于熱烈時期。第二階段是在20世紀(jì)60年代中葉至70年代中葉，被稱為機(jī)器學(xué)習(xí)的冷靜時期。第三階段是從20世紀(jì)70年代中葉至80年代中葉，稱為復(fù)興時期。7.1.1機(jī)器學(xué)習(xí)的發(fā)展第一階段是在20世紀(jì)50年代中葉7.1.1機(jī)器學(xué)習(xí)的發(fā)展機(jī)器學(xué)習(xí)的最新階段始于1986年，進(jìn)入新階段的重要表現(xiàn)在下列諸方面：（1）機(jī)器學(xué)習(xí)成為新的邊緣學(xué)科并在高校成為一門課程，它綜合應(yīng)用心理學(xué)、生物學(xué)和神經(jīng)生理學(xué)以及數(shù)學(xué)、自動化和計算機(jī)科學(xué)形成機(jī)器學(xué)習(xí)理論基礎(chǔ)。（2）結(jié)合各種學(xué)習(xí)方法取長補(bǔ)短的多種形式的集成學(xué)習(xí)系統(tǒng)研究正在興起。特別是連接學(xué)習(xí)符號學(xué)習(xí)的耦合可以更好地解決連續(xù)性信號處理中知識與技能的獲取與求精問題而受到重視。7.1.1機(jī)器學(xué)習(xí)的發(fā)展機(jī)器學(xué)習(xí)的最新階段始于1986年7.1.1機(jī)器學(xué)習(xí)的發(fā)展（3）機(jī)器學(xué)習(xí)與人工智能各種基礎(chǔ)問題的統(tǒng)一性觀點(diǎn)正在形成。例如學(xué)習(xí)與問題求解結(jié)合進(jìn)行、知識表達(dá)便于學(xué)習(xí)的觀點(diǎn)產(chǎn)生了通用智能系統(tǒng)的組塊學(xué)習(xí)。類比學(xué)習(xí)與問題求解結(jié)合的基于案例方法已成為經(jīng)驗學(xué)習(xí)的重要方向。（4）各種學(xué)習(xí)方法的應(yīng)用范圍不斷擴(kuò)大，一部分已形成商品。歸納學(xué)習(xí)的知識獲取工具已在診斷分類型專家系統(tǒng)中廣泛使用；連接學(xué)習(xí)在聲圖文識別中占優(yōu)勢；分析學(xué)習(xí)已用于設(shè)計綜合型專家系統(tǒng)；遺傳算法與強(qiáng)化學(xué)習(xí)在工程控制中有較好的應(yīng)用前景；與符號系統(tǒng)耦合的神經(jīng)網(wǎng)絡(luò)連接學(xué)習(xí)將在企業(yè)的智能管理與智能機(jī)器人運(yùn)動規(guī)劃中發(fā)揮作用。7.1.1機(jī)器學(xué)習(xí)的發(fā)展（3）機(jī)器學(xué)習(xí)與人工智能各種基礎(chǔ)7.1.1機(jī)器學(xué)習(xí)的發(fā)展（5）與機(jī)器學(xué)習(xí)有關(guān)的學(xué)術(shù)活動空前活躍。國際上除每年舉行的機(jī)器學(xué)習(xí)研討會外，還有計算機(jī)學(xué)習(xí)理論會議以及遺傳算法會議。7.1.1機(jī)器學(xué)習(xí)的發(fā)展（5）與機(jī)器學(xué)習(xí)有關(guān)的學(xué)術(shù)活動空7.1.1機(jī)器學(xué)習(xí)的發(fā)展在1950年圖靈發(fā)明圖靈測試之后，1952年亞瑟·塞繆爾創(chuàng)建了第一個真正的機(jī)器學(xué)習(xí)程序——簡單的下棋游戲程序，這個程序具有學(xué)習(xí)能力，它可以在不斷的對弈中改善自己的棋藝。4年后，這個程序戰(zhàn)勝了設(shè)計者本人。又過了3年，這個程序戰(zhàn)勝了美國一個保持8年之久的常勝不敗的冠軍。這個程序向人們展示了機(jī)器學(xué)習(xí)的能力，提出了許多令人深思的社會問題與哲學(xué)問題。接著是唐納德·米奇在1963年推出的強(qiáng)化學(xué)習(xí)的tic-tac-toe（井字棋）程序。在接下來的幾十年里，機(jī)器學(xué)習(xí)的進(jìn)步遵循了同樣的模式——一項技術(shù)突破導(dǎo)致了更新的、更復(fù)雜的計算機(jī)，通常是通過與專業(yè)的人類玩家玩戰(zhàn)略游戲來測試的。7.1.1機(jī)器學(xué)習(xí)的發(fā)展在1950年圖靈發(fā)明圖靈測試之后7.1.1機(jī)器學(xué)習(xí)的發(fā)展機(jī)器學(xué)習(xí)在1997年達(dá)到巔峰，當(dāng)時，IBM深藍(lán)國際象棋電腦在一場國際象棋比賽中擊敗了世界冠軍加里·卡斯帕羅夫。近年來，谷歌開發(fā)了專注于中國棋類游戲圍棋（Go）的AlphaGo（阿爾法狗），該游戲被普遍認(rèn)為是世界上最難的游戲。盡管圍棋被認(rèn)為過于復(fù)雜，以至于一臺電腦無法掌握，但在2016年，AlphaGo終于獲得了勝利，在一場五局

比賽中擊敗了李世石。7.1.1機(jī)器學(xué)習(xí)的發(fā)展機(jī)器學(xué)習(xí)在1997年達(dá)到巔峰，當(dāng)7.1.1機(jī)器學(xué)習(xí)的發(fā)展機(jī)器學(xué)習(xí)最大的突破是深度學(xué)習(xí)（2006年）。深度學(xué)習(xí)的目的是模仿人腦的思維過程，經(jīng)常被用于圖像和語音識別。深度學(xué)習(xí)的出現(xiàn)導(dǎo)致了我們今天使用的（可能是理所當(dāng)然的）許多技術(shù)。試想，你有沒有把一張照片上傳到你的微信或者臉書賬戶，只是為了暗示給照片中的人貼上標(biāo)簽？微信或者臉書正在使用神經(jīng)網(wǎng)絡(luò)來識別照片中的面孔。7.1.1機(jī)器學(xué)習(xí)的發(fā)展機(jī)器學(xué)習(xí)最大的突破是深度學(xué)習(xí)（27.1.2機(jī)器學(xué)習(xí)的定義學(xué)習(xí)是人類具有的一種重要的智能行為，但究竟什么是學(xué)習(xí)，長期以來卻眾說紛紜。社會學(xué)家、邏輯學(xué)家和心理學(xué)家都各有其不同的看法。比如，蘭利（1996）的定義是：“機(jī)器學(xué)習(xí)是一門人工智能的科學(xué)，該領(lǐng)域的主要研究對象是人工智能，特別是如何在經(jīng)驗學(xué)習(xí)中改善具體算法的性能”。湯姆·米切爾的機(jī)器學(xué)習(xí)（1997）對信息論中的一些概念有詳細(xì)的解釋，其中定義機(jī)器學(xué)習(xí)時提到：“機(jī)器學(xué)習(xí)是對能通過經(jīng)驗自動改進(jìn)的計算機(jī)算法的研究”。Alpaydin（2004）提出自己對機(jī)器學(xué)習(xí)的定義：“機(jī)器學(xué)習(xí)是用數(shù)據(jù)或以往的經(jīng)驗，以此優(yōu)化計算機(jī)程序的性能標(biāo)準(zhǔn)”。7.1.2機(jī)器學(xué)習(xí)的定義學(xué)習(xí)是人類具有的一種重要的智能行7.1.2機(jī)器學(xué)習(xí)的定義為了便于進(jìn)行討論和估計學(xué)科的進(jìn)展，有必要對機(jī)器學(xué)習(xí)給出定義，即使這種定義是不完全的和不充分的。顧名思義，機(jī)器學(xué)習(xí)是研究如何使用機(jī)器來模擬人類學(xué)習(xí)活動的一門學(xué)科。稍為嚴(yán)格的提法是：機(jī)器學(xué)習(xí)是一門研究機(jī)器獲取新知識和新技能，并識別現(xiàn)有知識的學(xué)問。這里所說的“機(jī)器”，指的就是計算機(jī)，電子計算機(jī)，中子計算機(jī)、光子計算機(jī)或神經(jīng)計算機(jī)等等。7.1.2機(jī)器學(xué)習(xí)的定義為了便于進(jìn)行討論和估計學(xué)科的進(jìn)展7.1.2機(jī)器學(xué)習(xí)的定義機(jī)器能否像人類一樣能具有學(xué)習(xí)能力呢？機(jī)器的能力是否能超過人的，很多持否定意見的人的一個主要論據(jù)是：機(jī)器是人造的，其性能和動作完全是由設(shè)計者規(guī)定的，因此無論如何其能力也不會超過設(shè)計者本人。這種意見對不具備學(xué)習(xí)能力的機(jī)器來說的確是對的，可是對具備學(xué)習(xí)能力的機(jī)器就值得考慮了，因為這種機(jī)器的能力在應(yīng)用中不斷地提高，過一段時間之后，設(shè)計者本人也不知它的能力到了何種水平。由湯姆·米切爾給出的被廣泛引用的機(jī)器學(xué)習(xí)的定義給出了最佳解釋。下面是其中的內(nèi)容：“計算機(jī)程序可以在給定某種類別的任務(wù)T和性能度量P下學(xué)習(xí)經(jīng)驗E，如果其在任務(wù)T中的性能恰好可以用P度量，則隨著經(jīng)驗E而提高?！?.1.2機(jī)器學(xué)習(xí)的定義機(jī)器能否像人類一樣能具有學(xué)習(xí)能力7.1.2機(jī)器學(xué)習(xí)的定義讓我們用簡單的例子來分解下這個描述。示例1：機(jī)器學(xué)習(xí)和根據(jù)人的身高估算體重。假設(shè)你想創(chuàng)建一個能夠根據(jù)人的身高估算體重的系統(tǒng)（也許你出自某些理由對這件事情感興趣）。那么你可以使用

機(jī)器學(xué)習(xí)去找出任何可能的錯誤和數(shù)

據(jù)捕獲中的錯誤，首先你需要收集一

些數(shù)據(jù)。圖7-5根據(jù)人的身高估算體重7.1.2機(jī)器學(xué)習(xí)的定義讓我們用簡單的例子來分解下這個描7.1.2機(jī)器學(xué)習(xí)的定義圖7-5中的每一個點(diǎn)對應(yīng)一個數(shù)據(jù)，我們可以畫出一條簡單的斜線來預(yù)測基于身高的體重。這些斜線能幫助我們作出預(yù)測，盡管這些斜線表現(xiàn)得很棒，但是我們需要理解它是怎么表現(xiàn)的，我們希望去減少預(yù)測和實際之間的誤差，這也是衡量其性能的方法。深遠(yuǎn)一點(diǎn)地說，我們收集更多的數(shù)據(jù)（經(jīng)驗），模型就會變得更好。我們也可以通過添加更多變量（例如性別）和添加不同的預(yù)測斜線來完善我們的模型。7.1.2機(jī)器學(xué)習(xí)的定義圖7-5中的每一個點(diǎn)對應(yīng)一個數(shù)據(jù)7.1.2機(jī)器學(xué)習(xí)的定義示例2：颶風(fēng)預(yù)測系統(tǒng)。我們找一個復(fù)雜一點(diǎn)的例子。假如你要構(gòu)建一個颶風(fēng)預(yù)測系統(tǒng)，假設(shè)你手里有所有以前發(fā)生過的颶風(fēng)的數(shù)據(jù)和這次

颶風(fēng)產(chǎn)生前三個月的天氣信息。圖7-6預(yù)測颶風(fēng)7.1.2機(jī)器學(xué)習(xí)的定義示例2：颶風(fēng)預(yù)測系統(tǒng)。7.1.2機(jī)器學(xué)習(xí)的定義如果要手動構(gòu)建一個颶風(fēng)預(yù)測系統(tǒng)，我們應(yīng)該怎么做？首先是要清洗所有的數(shù)據(jù)，找到數(shù)據(jù)里面的模式進(jìn)而查找產(chǎn)生颶風(fēng)的條件。我們既可以將模型條件數(shù)據(jù)（例如氣溫高于40度，濕度在80-100等）輸入到我們的系統(tǒng)里面生成輸出，也可以讓我們的系統(tǒng)自己通過這些條件數(shù)據(jù)產(chǎn)生合適的輸出?？梢园阉幸郧暗臄?shù)據(jù)輸入到系統(tǒng)里面來預(yù)測未來是否會有颶風(fēng)?；谙到y(tǒng)條件的取值，評估系統(tǒng)性能（正確預(yù)測颶風(fēng)的次數(shù)）?？梢詫⑾到y(tǒng)預(yù)測結(jié)果作為反饋繼續(xù)多次迭代以上步驟。7.1.2機(jī)器學(xué)習(xí)的定義如果要手動構(gòu)建一個颶風(fēng)預(yù)測系統(tǒng)，7.1.2機(jī)器學(xué)習(xí)的定義根據(jù)前邊的解釋來定義我們的預(yù)測系統(tǒng)：任務(wù)是確定可能產(chǎn)生颶風(fēng)的氣象條件。性能P是在系統(tǒng)所有給定的條件下有多少次正確預(yù)測颶風(fēng)，經(jīng)驗E是系統(tǒng)的迭代次數(shù)。7.1.2機(jī)器學(xué)習(xí)的定義根據(jù)前邊的解釋來定義我們的預(yù)測系人工智能導(dǎo)論Introductiontoartificialintelligence人工智能導(dǎo)論Introductiontoartifici人工智能導(dǎo)論Introductiontoartificialintelligence人工智能導(dǎo)論Introductiontoartifici第7章機(jī)器學(xué)習(xí)第7章機(jī)器學(xué)習(xí)【導(dǎo)讀案例】Netflix的電影推薦引擎討論：【導(dǎo)讀案例】Netflix的電影推薦引擎討論：1什么是機(jī)器學(xué)習(xí)2機(jī)器學(xué)習(xí)的學(xué)習(xí)類型3機(jī)器學(xué)習(xí)的算法4機(jī)器學(xué)習(xí)的基本結(jié)構(gòu)5機(jī)器學(xué)習(xí)的分類與應(yīng)用1什么是機(jī)器學(xué)習(xí)2機(jī)器學(xué)習(xí)的學(xué)習(xí)類型3機(jī)器學(xué)習(xí)的算法4機(jī)器學(xué)1機(jī)器學(xué)習(xí)的發(fā)展2機(jī)器學(xué)習(xí)的定義第1節(jié)1機(jī)器學(xué)習(xí)的發(fā)展2機(jī)器學(xué)習(xí)的定義第1節(jié)7.1什么機(jī)器學(xué)習(xí)蘋果手機(jī)提供了一個智能語音助手Siri，而亞馬遜公司的子公司Alexa是一家專門發(fā)布網(wǎng)站世界排名的網(wǎng)站，其目的是讓互聯(lián)網(wǎng)網(wǎng)友們在分享虛擬資源的同時，更多地參與互聯(lián)網(wǎng)資源的組織。那么，日常生活中，你是否已經(jīng)在使用像Siri或Alexa這樣的個人助理客戶端呢？你是否依賴?yán)]件過濾器來保持你的電子郵件收件箱的清潔呢？你是否訂閱了類似Netflix的服務(wù)并依賴它驚人的準(zhǔn)確推薦來尋找你喜歡的新電影或書刊呢？如果你對這些問題回答說“是”，那么，事實上，你已經(jīng)在很好地利用機(jī)器學(xué)習(xí)了！7.1什么機(jī)器學(xué)習(xí)蘋果手機(jī)提供了一個智能語音助手Siri7.1什么機(jī)器學(xué)習(xí)機(jī)器學(xué)習(xí)是人工智能的一個分支，它所涉及的范圍非常大——語言處理、圖像識別、規(guī)劃等等，但它實際上是一個相當(dāng)簡單的概念。為了更好地理解它，我們來研究一下關(guān)于機(jī)器學(xué)習(xí)的what，who，when，

where，how以及why（什么、誰、何時、何地、如

何以及為什么）。

圖7-2什么是機(jī)器學(xué)習(xí)7.1什么機(jī)器學(xué)習(xí)機(jī)器學(xué)習(xí)是人工智能的一個分支，它所涉及7.1.1機(jī)器學(xué)習(xí)的發(fā)展機(jī)器學(xué)習(xí)最早的發(fā)展可以追溯到英國數(shù)學(xué)家貝葉斯（1701年~1761年）在1763年發(fā)表的貝葉斯定理，這是關(guān)于隨機(jī)事件A和B的條件概率（或邊緣概率）的一則數(shù)學(xué)定理，是機(jī)器學(xué)習(xí)的基本思想。其中，P(A|B)是在B發(fā)生的情況下A發(fā)生的可能性，即尋求根據(jù)以前的信息尋找最可能發(fā)生的事件。機(jī)器學(xué)習(xí)的發(fā)展過程大體上可分為4個時期（參見圖7-3）。7.1.1機(jī)器學(xué)習(xí)的發(fā)展機(jī)器學(xué)習(xí)最早的發(fā)展可以追溯到英國7.1.1機(jī)器學(xué)習(xí)的發(fā)展圖7-3機(jī)器學(xué)習(xí)的發(fā)展7.1.1機(jī)器學(xué)習(xí)的發(fā)展7.1.1機(jī)器學(xué)習(xí)的發(fā)展第一階段是在20世紀(jì)50年代中葉到60年代中葉，屬于熱烈時期。第二階段是在20世紀(jì)60年代中葉至70年代中葉，被稱為機(jī)器學(xué)習(xí)的冷靜時期。第三階段是從20世紀(jì)70年代中葉至80年代中葉，稱為復(fù)興時期。7.1.1機(jī)器學(xué)習(xí)的發(fā)展第一階段是在20世紀(jì)50年代中葉7.1.1機(jī)器學(xué)習(xí)的發(fā)展機(jī)器學(xué)習(xí)的最新階段始于1986年，進(jìn)入新階段的重要表現(xiàn)在下列諸方面：（1）機(jī)器學(xué)習(xí)成為新的邊緣學(xué)科并在高校成為一門課程，它綜合應(yīng)用心理學(xué)、生物學(xué)和神經(jīng)生理學(xué)以及數(shù)學(xué)、自動化和計算機(jī)科學(xué)形成機(jī)器學(xué)習(xí)理論基礎(chǔ)。（2）結(jié)合各種學(xué)習(xí)方法取長補(bǔ)短的多種形式的集成學(xué)習(xí)系統(tǒng)研究正在興起。特別是連接學(xué)習(xí)符號學(xué)習(xí)的耦合可以更好地解決連續(xù)性信號處理中知識與技能的獲取與求精問題而受到重視。7.1.1機(jī)器學(xué)習(xí)的發(fā)展機(jī)器學(xué)習(xí)的最新階段始于1986年7.1.1機(jī)器學(xué)習(xí)的發(fā)展（3）機(jī)器學(xué)習(xí)與人工智能各種基礎(chǔ)問題的統(tǒng)一性觀點(diǎn)正在形成。例如學(xué)習(xí)與問題求解結(jié)合進(jìn)行、知識表達(dá)便于學(xué)習(xí)的觀點(diǎn)產(chǎn)生了通用智能系統(tǒng)的組塊學(xué)習(xí)。類比學(xué)習(xí)與問題求解結(jié)合的基于案例方法已成為經(jīng)驗學(xué)習(xí)的重要方向。（4）各種學(xué)習(xí)方法的應(yīng)用范圍不斷擴(kuò)大，一部分已形成商品。歸納學(xué)習(xí)的知識獲取工具已在診斷分類型專家系統(tǒng)中廣泛使用；連接學(xué)習(xí)在聲圖文識別中占優(yōu)勢；分析學(xué)習(xí)已用于設(shè)計綜合型專家系統(tǒng)；遺傳算法與強(qiáng)化學(xué)習(xí)在工程控制中有較好的應(yīng)用前景；與符號系統(tǒng)耦合的神經(jīng)網(wǎng)絡(luò)連接學(xué)習(xí)將在企業(yè)的智能管理與智能機(jī)器人運(yùn)動規(guī)劃中發(fā)揮作用。7.1.1機(jī)器學(xué)習(xí)的發(fā)展（3）機(jī)器學(xué)習(xí)與人工智能各種基礎(chǔ)7.1.1機(jī)器學(xué)習(xí)的發(fā)展（5）與機(jī)器學(xué)習(xí)有關(guān)的學(xué)術(shù)活動空前活躍。國際上除每年舉行的機(jī)器學(xué)習(xí)研討會外，還有計算機(jī)學(xué)習(xí)理論會議以及遺傳算法會議。7.1.1機(jī)器學(xué)習(xí)的發(fā)展（5）與機(jī)器學(xué)習(xí)有關(guān)的學(xué)術(shù)活動空7.1.1機(jī)器學(xué)習(xí)的發(fā)展在1950年圖靈發(fā)明圖靈測試之后，1952年亞瑟·塞繆爾創(chuàng)建了第一個真正的機(jī)器學(xué)習(xí)程序——簡單的下棋游戲程序，這個程序具有學(xué)習(xí)能力，它可以在不斷的對弈中改善自己的棋藝。4年后，這個程序戰(zhàn)勝了設(shè)計者本人。又過了3年，這個程序戰(zhàn)勝了美國一個保持8年之久的常勝不敗的冠軍。這個程序向人們展示了機(jī)器學(xué)習(xí)的能力，提出了許多令人深思的社會問題與哲學(xué)問題。接著是唐納德·米奇在1963年推出的強(qiáng)化學(xué)習(xí)的tic-tac-toe（井字棋）程序。在接下來的幾十年里，機(jī)器學(xué)習(xí)的進(jìn)步遵循了同樣的模式——一項技術(shù)突破導(dǎo)致了更新的、更復(fù)雜的計算機(jī)，通常是通過與專業(yè)的人類玩家玩戰(zhàn)略游戲來測試的。7.1.1機(jī)器學(xué)習(xí)的發(fā)展在1950年圖靈發(fā)明圖靈測試之后7.1.1機(jī)器學(xué)習(xí)的發(fā)展機(jī)器學(xué)習(xí)在1997年達(dá)到巔峰，當(dāng)時，IBM深藍(lán)國際象棋電腦在一場國際象棋比賽中擊敗了世界冠軍加里·卡斯帕羅夫。近年來，谷歌開發(fā)了專注于中國棋類游戲圍棋（Go）的AlphaGo（阿爾法狗），該游戲被普遍認(rèn)為是世界上最難的游戲。盡管圍棋被認(rèn)為過于復(fù)雜，以至于一臺電腦無法掌握，但在2016年，AlphaGo終于獲得了勝利，在一場五局

比賽中擊敗了李世石。7.1.1機(jī)器學(xué)習(xí)的發(fā)展機(jī)器學(xué)習(xí)在1997年達(dá)到巔峰，當(dāng)7.1.1機(jī)器學(xué)習(xí)的發(fā)展機(jī)器學(xué)習(xí)最大的突破是深度學(xué)習(xí)（2006年）。深度學(xué)習(xí)的目的是模仿人腦的思維過程，經(jīng)常被用于圖像和語音識別。深度學(xué)習(xí)的出現(xiàn)導(dǎo)致了我們今天使用的（可能是理所當(dāng)然的）許多技術(shù)。試想，你有沒有把一張照片上傳到你的微信或者臉書賬戶，只是為了暗示給照片中的人貼上標(biāo)簽？微信或者臉書正在使用神經(jīng)網(wǎng)絡(luò)來識別照片中的面孔。7.1.1機(jī)器學(xué)習(xí)的發(fā)展機(jī)器學(xué)習(xí)最大的突破是深度學(xué)習(xí)（27.1.2機(jī)器學(xué)習(xí)的定義學(xué)習(xí)是人類具有的一種重要的智能行為，但究竟什么是學(xué)習(xí)，長期以來卻眾說紛紜。社會學(xué)家、邏輯學(xué)家和心理學(xué)家都各有其不同的看法。比如，蘭利（1996）的定義是：“機(jī)器學(xué)習(xí)是一門人工智能的科學(xué)，該領(lǐng)域的主要研究對象是人工智能，特別是如何在經(jīng)驗學(xué)習(xí)中改善具體算法的性能”。湯姆·米切爾的機(jī)器學(xué)習(xí)（1997）對信息論中的一些概念有詳細(xì)的解釋，其中定義機(jī)器學(xué)習(xí)時提到：“機(jī)器學(xué)習(xí)是對能通過經(jīng)驗自動改進(jìn)的計算機(jī)算法的研究”。Alpaydin（2004）提出自己對機(jī)器學(xué)習(xí)的定義：“機(jī)器學(xué)習(xí)是用數(shù)據(jù)或以往的經(jīng)驗，以此優(yōu)化計算機(jī)程序的性能標(biāo)準(zhǔn)”。7.1.2機(jī)器學(xué)習(xí)的定義學(xué)習(xí)是人類具有的一種重要的智能行7.1.2機(jī)器學(xué)習(xí)的定義為了便于進(jìn)行討論和估計學(xué)科的進(jìn)展，有必要對機(jī)器學(xué)習(xí)給出定義，即使這種定義是不完全的和不充分的。顧名思義，機(jī)器學(xué)習(xí)是研究如何使用機(jī)器來模擬人類學(xué)習(xí)活動的一門學(xué)科。稍為嚴(yán)格的提法是：機(jī)器學(xué)習(xí)是一門研究機(jī)器獲取新知識和新技能，并識別現(xiàn)有知識的學(xué)問。這里所說的“機(jī)器”，指的就是計算機(jī)，電子計算機(jī)，中子計算機(jī)、光子計算機(jī)或神經(jīng)計算機(jī)等等。7.1.2機(jī)器學(xué)習(xí)的定義為了便于進(jìn)行討論和估計學(xué)科的進(jìn)展7.1.2機(jī)器學(xué)習(xí)的定義機(jī)器能否像人類一樣能具有學(xué)習(xí)能力呢？機(jī)器的能力是否能超過人的，很多持否定意見的人的一個主要論據(jù)是：機(jī)器是人造的，其性能和動作完全是由設(shè)計者規(guī)定的，因此無論如何其能力也不會超過設(shè)計者本人。這種意見對不具備學(xué)習(xí)能力的機(jī)器來說的確是對的，可是對具備學(xué)習(xí)能力的機(jī)器就值得考慮了，因為這種機(jī)器的能力在應(yīng)用中不斷地提高，過一段時間之后，設(shè)計者本人也不知它的能力到了何種水平。由湯姆·米切爾給出的被廣泛引用的機(jī)器學(xué)習(xí)的定義給出了最佳解釋。下面是其中的內(nèi)容：“計算機(jī)程序可以在給定某種類別的任務(wù)T和性能度量P下學(xué)習(xí)經(jīng)驗E，如果其在任務(wù)T中的性能恰好可以用P度量，則隨著經(jīng)驗E而提高。”7.1.2機(jī)器學(xué)習(xí)的定義機(jī)器能否像人類一樣能具有學(xué)習(xí)能力7.1.2機(jī)器學(xué)習(xí)的定義讓我們用簡單的例子來分解下這個描述。示例1：機(jī)器學(xué)習(xí)和根據(jù)人的身高估算體重。假設(shè)你想創(chuàng)建一個能夠根據(jù)人的身高估算體重的系統(tǒng)（也許你出自某些理由對這件事情感興趣）。那么你可以使用

機(jī)器學(xué)習(xí)去找出任何可能的錯誤和數(shù)

據(jù)捕獲中的錯誤，首先你需要收集一

些數(shù)據(jù)。