人工智能、機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的區(qū)別

人工智能、機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的區(qū)別一．人工智能人工智能Artificialintelligenee(Al)是機(jī)器展示的智力，與人和動物所展示的自然智力不同，后者涉及意識和情感。前者和后者之間的區(qū)別通常通過選擇的首字母縮寫來揭示?！皬?qiáng)大”的AI通常被標(biāo)記為人工智能(AGI),而模仿“自然”智能的嘗試被稱為人工智能(ABI)。領(lǐng)先的AI教科書將這一領(lǐng)域定義為“智能代理”的研究：任何能感知其環(huán)境并采取行動以最大程度地成功實現(xiàn)其目標(biāo)的設(shè)備。通俗地說，“人工智能”一詞通常用于描述模仿人類與人類思維相關(guān)的“認(rèn)知”功能的機(jī)器，例如“學(xué)習(xí)”和“解決問題”。隨著機(jī)器能力的增強(qiáng)，通常被認(rèn)為需要“智能”的任務(wù)從AI的定義中刪除,這種現(xiàn)象被稱為AI效應(yīng)。特斯勒定理中的一則諷刺說：“人工智能還沒有完成?！崩?，光學(xué)字符識別經(jīng)常被視為常規(guī)技術(shù)而從被認(rèn)為是AI的事物中排除。通常被歸類為AI的現(xiàn)代機(jī)器功能包括成功理解人類的語音，在戰(zhàn)略游戲系統(tǒng)（如國際象棋和圍棋）中進(jìn)行最高級別的競爭，以及不完美的信息游戲，如撲克，自動駕駛汽車，內(nèi)容交付網(wǎng)絡(luò)中的智能路由以及軍事模擬。Y?SPRIY?SPRING2017人工智能成立于1955年，是一門學(xué)術(shù)學(xué)科，在此后的幾年中，經(jīng)歷了數(shù)次樂觀的浪潮，隨后是失望和資金短缺（稱為“AI冬季”），隨后是新方法，成功和新的資金投入。。在2015年AlphaGo成功擊敗專業(yè)的Go玩家之后，人工智能再次引起了全球的廣泛關(guān)注。在AI的大部分歷史中，其研究通常分為無法相互交流的子領(lǐng)域。這些子字段基于技術(shù)考慮，例如特定目標(biāo)（例如“機(jī)器人”或“機(jī)器學(xué)習(xí)”），特定工具的使用（“邏輯”或人工神經(jīng)網(wǎng)絡(luò)）或深層次的哲學(xué)差異。子領(lǐng)域也基于社會因素（特定機(jī)構(gòu)或特定研究人員的工作）。人工智能研究的傳統(tǒng)問題（或目標(biāo)）包括推理，知識表示，計劃，學(xué)習(xí)，自然語言處理，感知以及移動和操縱對象的能力。AGI是該領(lǐng)域的長期目標(biāo)之一。方法包括統(tǒng)計方法，計算智能和傳統(tǒng)的符號Al。AI中使用了許多工具，包括搜索和數(shù)學(xué)優(yōu)化版本，人工神經(jīng)網(wǎng)絡(luò)以及基于統(tǒng)計，概率和經(jīng)濟(jì)學(xué)的方法。AI領(lǐng)域借鑒了計算機(jī)科學(xué)，信息工程，數(shù)學(xué)，心理學(xué)，語言學(xué)，哲學(xué)以及許多其他領(lǐng)域。該領(lǐng)域是基于這樣的假設(shè)，即“可以如此精確地描述人類的智力，從而可以制造出可以模擬它的機(jī)器”。這引發(fā)了關(guān)于思想和倫理學(xué)的哲學(xué)爭論，這些思想和倫理學(xué)是創(chuàng)造具有人類般智能的人造生物的。自古以來，神話，小說和哲學(xué)都曾探索過這些問題。有些人還認(rèn)為，如果AI的發(fā)展步伐不減，它將對人類構(gòu)成威脅。其他人則認(rèn)為，與以前的技術(shù)革命不同，人工智能將帶來大規(guī)模失業(yè)的風(fēng)險。在二十一世紀(jì)，隨著計算機(jī)功能，大量數(shù)據(jù)和理論理解的同時發(fā)展，人工智能技術(shù)也開始復(fù)蘇。人工智能技術(shù)已成為技術(shù)行業(yè)的重要組成部分，有助于解決計算機(jī)科學(xué)，軟件工程和運籌學(xué)中的許多難題。計算機(jī)科學(xué)將AI研究定義為對“智能代理”的研究：即能感知其環(huán)境并采取能夠最大程度地成功實現(xiàn)其目標(biāo)的行動的任何設(shè)備。更為詳盡的定義將AI表征為“系統(tǒng)正確解釋外部數(shù)據(jù)，從此類數(shù)據(jù)中學(xué)習(xí)以及利用這些學(xué)習(xí)通過靈活的適應(yīng)來實現(xiàn)特定目標(biāo)和任務(wù)的能力”。典型的AI會分析其環(huán)境，并采取使成功機(jī)會最大化的行動。AI的預(yù)期效用函數(shù)（或目標(biāo)）可以是簡單的（“如果AI贏得圍棋，則為1，否則為0”），也可以是復(fù)雜的（“在數(shù)學(xué)上類似于過去成功的操作”）?？梢悦鞔_定義或誘導(dǎo)目標(biāo)。如果將AI編程用于“強(qiáng)化學(xué)習(xí)”，則可以通過獎勵某些類型的行為或懲罰其他類型的行為來隱式地誘發(fā)目標(biāo)。備選地，進(jìn)化系統(tǒng)可以通過使用“健身功能”突變并優(yōu)先復(fù)制高分AI系統(tǒng)來誘導(dǎo)目標(biāo)，類似于動物如何進(jìn)化以天生地渴望某些目標(biāo)（例如尋找食物）。某些AI系統(tǒng)（例如最鄰近的系統(tǒng)）通常不會給出目標(biāo)，而只是在其訓(xùn)練數(shù)據(jù)中隱含了目標(biāo)，而不是類似的推理。如果將非目標(biāo)系統(tǒng)構(gòu)架為“目標(biāo)”是成功完成其狹窄分類任務(wù)的系統(tǒng)，則仍可以對此類系統(tǒng)進(jìn)行基準(zhǔn)測試。人工智能通常圍繞算法的使用而展開。算法是機(jī)械計算機(jī)可以執(zhí)行的一組明確指令。復(fù)雜的算法通常建立在其他更簡單的算法之上。下面是一個簡單的算法示例（在第一個玩家中最佳），在井字游戲中玩法：1、 如果某人有“威脅”（即連續(xù)兩次），則取剩余的正方形。除此以外2、 如果某舉動“分叉”一次造成兩個威脅，則進(jìn)行該舉動。除此以外3、 如果有空的話，走中心廣場。除此以外，4、 如果您的對手在角落里玩，則走到對面的角落。除此以外，5、 如果有的話，走一個空的角落。除此以外，占據(jù)任何空的正方形。許多AI算法都可以從數(shù)據(jù)中學(xué)習(xí)；他們可以通過學(xué)習(xí)新的啟發(fā)式方法（過去曾行之有效的策略或“經(jīng)驗法則”）來增強(qiáng)自己，也可以自己編寫其他算法。下文所述的某些“學(xué)習(xí)者”，包括貝葉斯網(wǎng)絡(luò)，決策樹和最近鄰居，在理論上（給定無限數(shù)據(jù)，時間和記憶）可以學(xué)習(xí)近似任何函數(shù)，包括數(shù)學(xué)函數(shù)的哪種組合最能描述因此，這些學(xué)習(xí)者可以通過考慮每種可能的假設(shè)并將其與數(shù)據(jù)進(jìn)行匹配，從而得出所有可能的知識。實際上，由于“組合爆炸”現(xiàn)象，幾乎不可能考慮每種可能性，解決問題所需的時間呈指數(shù)增長。大量的AI研究涉及弄清楚如何識別并避免考慮各種不太可能是有益的可能性。例如，當(dāng)查看地圖并尋找從丹佛到東部紐約的最短行駛路線時，大多數(shù)情況下，人們可以跳過通過舊金山或西邊其他地區(qū)的任何路徑；因此，使用像A*這樣的尋路算法的AI可以避免組合爆炸，如果必須仔細(xì)考慮每條可能的路線，就會發(fā)生爆炸。最早（也是最容易理解）的人工智能方法是象征主義（例如形式邏輯）：“如果一個健康的成年人發(fā)燒，那么他們可能會患上流感”。第二種更普遍的方法是貝葉斯推論：“如果當(dāng)前患者發(fā)燒，以某種方式調(diào)整他們患流感的可能性”。第三種主要方法是在常規(guī)業(yè)務(wù)AI應(yīng)用程序中非常流行的方法，是類似器，例如SVM和最近鄰：“在檢查了已知過去患者的記錄后，這些患者的溫度，癥狀，年齡和其他因素與當(dāng)前患者基本相符，X%那些患者中證明有流行性感冒”第四種方法很難直觀地理解，但受到大腦機(jī)械的工作原理的啟發(fā)：人工神經(jīng)網(wǎng)絡(luò)方法使用人工“神經(jīng)元”，該神經(jīng)元可以通過將自身與所需輸出進(jìn)行比較并改變其內(nèi)部神經(jīng)元之間的連接強(qiáng)度來學(xué)習(xí)。以“加強(qiáng)”似乎有用的連接。這四種主要方法可以相互重疊，也可以與進(jìn)化系統(tǒng)重疊。例如，神經(jīng)網(wǎng)絡(luò)可以學(xué)習(xí)進(jìn)行推論，概括和進(jìn)行類比。一些系統(tǒng)隱含或顯式地使用這些方法中的多種方法，以及許多其他AI和非AI算法。最佳方法通常因問題而異。學(xué)習(xí)算法的工作原理是，過去有效的策略，算法和推理將來可能會繼續(xù)有效。這些推論可能是顯而易見的，例如“由于過去一萬天每天早晨都有太陽升起，所以明天早晨也可能會升起”它們可能會產(chǎn)生細(xì)微差別，例如“X%的家庭在地理上具有不同的物種，具有不同的顏色，因此存在Y%的可能性，即存在未發(fā)現(xiàn)的黑天鵝”。學(xué)習(xí)者還可以在“奧卡姆剃刀”的基礎(chǔ)上工作：解釋數(shù)據(jù)的最簡單理論是最可能的。因此，根據(jù)奧卡姆（Occam）的剃刀原理，必須設(shè)計一種學(xué)習(xí)器，使其在復(fù)雜理論被證明更好的情況下更喜歡簡單理論而不是復(fù)雜理論。為適應(yīng)過去的所有訓(xùn)練數(shù)據(jù)而建立的糟糕，過于復(fù)雜的理論被稱為過度擬合。許多系統(tǒng)試圖通過根據(jù)理論對數(shù)據(jù)的擬合程度來獎勵理論來減少過擬合，但是根據(jù)理論的復(fù)雜程度對理論進(jìn)行懲罰。除了經(jīng)典的過擬合之外，學(xué)習(xí)者還可以通過“學(xué)習(xí)錯誤的課程”而感到失望。一個玩具例子是，僅對棕色馬和黑貓的圖片進(jìn)行訓(xùn)練的圖像分類器可能會得出結(jié)論，所有棕色斑塊都可能是馬。一個真實的例子是，與人類不同，當(dāng)前的圖像分類器通常主要不是根據(jù)圖片各組成部分之間的空間關(guān)系做出判斷，而是學(xué)習(xí)人類所忽略的像素之間的關(guān)系，但仍然與人類的圖像相關(guān)聯(lián)。某些類型的真實對象。修改合法映像上的這些模式可能會導(dǎo)致系統(tǒng)對系統(tǒng)進(jìn)行錯誤分類的“對抗性”映像。與人類相比，現(xiàn)有的人工智能缺乏人類“常識性推理”的幾個特征。最值得注意的是，人類具有強(qiáng)大的機(jī)制來推理“天真的物理學(xué)”，例如空間，時間和物理相互作用。這樣一來，即使是年幼的孩子也可以輕松地做出類似“如果將筆從桌子上滾下來，它將掉在地上”的推論。人類還具有強(qiáng)大的“民間心理學(xué)”機(jī)制，可以幫助他們解釋自然語言的句子，例如“市議員拒絕示威者，因為他們提倡暴力”（通用AI難以辨別被指控提倡的人）。暴力是議員或示威者）。缺乏“常識”意味著Al常常犯著人類似乎無法理解的錯誤而犯下了與人類不同的錯誤。例如，現(xiàn)有的自動駕駛汽車不能以人類的確切方式來推斷行人的位置或意圖，而是必須使用非人類的推理方式來避免發(fā)生事故。二．機(jī)器學(xué)習(xí)機(jī)器學(xué)習(xí)Machinelearning(ML)是對計算機(jī)算法的研究，該算法可通過經(jīng)驗和數(shù)據(jù)使用自動提高。它被視為人工智能的一部分。機(jī)器學(xué)習(xí)算法基于樣本數(shù)據(jù)(稱為“訓(xùn)練數(shù)據(jù)”)構(gòu)建模型，以便進(jìn)行預(yù)測或決策而無需明確地編程。機(jī)器學(xué)習(xí)算法被廣泛用于許多應(yīng)用中，例如醫(yī)學(xué)，電子郵件過濾和計算機(jī)視覺，在這些應(yīng)用中，很難或不可行地開發(fā)常規(guī)算法來執(zhí)行所需的任務(wù)。機(jī)器學(xué)習(xí)的一個子集與計算統(tǒng)計緊密相關(guān)，計算統(tǒng)計側(cè)重于使用計算機(jī)進(jìn)行預(yù)測。但并非所有機(jī)器學(xué)習(xí)都是統(tǒng)計學(xué)習(xí)。數(shù)學(xué)優(yōu)化研究為機(jī)器學(xué)習(xí)領(lǐng)域提供了方法，理論和應(yīng)用領(lǐng)域。數(shù)據(jù)挖掘是一個相關(guān)的研究領(lǐng)域，專注于通過無監(jiān)督學(xué)習(xí)進(jìn)行探索性數(shù)據(jù)分析。在跨業(yè)務(wù)問題的應(yīng)用中，機(jī)器學(xué)習(xí)也稱為預(yù)測分析。機(jī)器學(xué)習(xí)涉及計算機(jī)發(fā)現(xiàn)他們?nèi)绾螆?zhí)行任務(wù)而無需顯式編程來執(zhí)行任務(wù)。它涉及計算機(jī)從提供的數(shù)據(jù)中學(xué)習(xí)，以便它們執(zhí)行某些任務(wù)。對于分配給計算機(jī)的簡單任務(wù)，可以對算法進(jìn)行編程，以告訴機(jī)器如何執(zhí)行解決當(dāng)前問題所需的所有步驟。在計算機(jī)方面，不需要學(xué)習(xí)。對于更高級的任務(wù)，人工手動創(chuàng)建所需的算法可能是一個挑戰(zhàn)。在實踐中，它可以更有效地幫助機(jī)器開發(fā)自己的算法，而不是由人工程序員指定每個所需的步驟。機(jī)器學(xué)習(xí)的學(xué)科采用各種方法來教計算機(jī)完成沒有完全令人滿意的算法可用的任務(wù)。在存在大量潛在答案的情況下，一種方法是將一些正確答案標(biāo)記為有效。然后可以將其用作計算機(jī)的訓(xùn)練數(shù)據(jù)，以改進(jìn)其用于確定正確答案的算法。例如，為了訓(xùn)練用于數(shù)字字符識別任務(wù)的系統(tǒng)，經(jīng)常使用手寫數(shù)字的MNIST數(shù)據(jù)集。三．深度學(xué)習(xí)深度學(xué)習(xí)Deeplearning（也稱為深度結(jié)構(gòu)化學(xué)習(xí)）是基于帶有表示學(xué)習(xí)的人工神經(jīng)網(wǎng)絡(luò)的更廣泛的機(jī)器學(xué)習(xí)方法系列的一部分。學(xué)習(xí)可以是有監(jiān)督的，半監(jiān)督的或無監(jiān)督的。諸如深度神經(jīng)網(wǎng)絡(luò)，深度信念網(wǎng)絡(luò)，圖神經(jīng)網(wǎng)絡(luò)，遞歸神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)之類的深度學(xué)習(xí)架構(gòu)已應(yīng)用于計算機(jī)視覺，語音識別，自然語言處理，機(jī)器翻譯，生物信息學(xué)，藥物設(shè)計，醫(yī)學(xué)等領(lǐng)域圖像分析，材料檢查和棋盤游戲程序，這些程序所產(chǎn)生的結(jié)果可與人類專家的表現(xiàn)相媲美，甚至在某些情況下超過人類專家的表現(xiàn)。人工神經(jīng)網(wǎng)絡(luò)（ANN）受到生物系統(tǒng)中信息處理和分布式通信節(jié)點的啟發(fā)。人工神經(jīng)網(wǎng)絡(luò)與生物大腦有各種差異。具體來說，神經(jīng)網(wǎng)絡(luò)往往是靜態(tài)的和象征性的，而大多數(shù)活生物體的生物大腦是動態(tài)的（可塑的）和類似的。深度學(xué)習(xí)中的形容詞“深度”是指在網(wǎng)絡(luò)中使用多層。早期的工作表明，線性感知器不能成為通用分類器，然后具有非多項式激活函數(shù)且具有一個無界寬度的隱藏層的網(wǎng)絡(luò)可以做到這一點。深度學(xué)習(xí)是一種現(xiàn)代變體，它涉及無邊界層數(shù)的無窮大，這允許實際應(yīng)用和優(yōu)化實現(xiàn)，同時在溫和條件下保留了理論上的普遍性。在深度學(xué)習(xí)中，出于效率，可培訓(xùn)性和可理解性的考慮，還允許這些層是異類的，并且可以廣泛地偏離生物學(xué)告知的連接主義者模型，因此是“結(jié)構(gòu)化”部分。深度學(xué)習(xí)是一類機(jī)器學(xué)習(xí)算法，它使用多層來從原始輸入中逐步提取更高級別的功能。例如，在圖像處理中，較低的層可以標(biāo)識邊緣，而較高的層可以標(biāo)識與人有關(guān)的概念，例如數(shù)字或字母或面部。

大多數(shù)現(xiàn)代深度學(xué)習(xí)模型都基于人工神經(jīng)網(wǎng)絡(luò),特別是卷積神經(jīng)網(wǎng)絡(luò)（CNN）,盡管它們也可以包含命題公式或在潛在生成模型中分層組織的潛在變量，例如深度信念網(wǎng)絡(luò)中的節(jié)點和深度玻爾茲曼機(jī)器。Conv_lCork^gl^tlani(5m5)kernelpaddlingMaM-PoollnaINPUTnlchannels(28x2flk1]{24jc24xml)fj4FullvfConv_2

Convolution

(Sk5)kernel

w/Wpaddingnlchannels(12xl2xnl)Max-Pooling,fc_aFullv-ConnectedConv_lCork^gl^tlani(5m5)kernelpaddlingMaM-PoollnaINPUTnlchannels(28x2flk1]{24jc24xml)fj4FullvfConv_2

Convolution

(Sk5)kernel

w/Wpaddingnlchannels(12xl2xnl)Max-Pooling,fc_aFullv-ConnectedNeuralNetworkn2channelsn2channels(8x3kn2) (4x4xn2)OUTPUTReLUactivation一—NeuralNetworkn3uinit^在深度學(xué)習(xí)中,每個級別都學(xué)習(xí)將其輸入數(shù)據(jù)轉(zhuǎn)換為稍微抽象和復(fù)合的表示形式。在圖像識別應(yīng)用程序中,原始輸入可以是像素矩陣；第一表示層可以提取像素并編碼邊緣；第二層可以組成并編碼邊緣的布置；第三層可以編碼鼻子和眼睛；第四層可以識別出圖像包含面部。重要的是,深度學(xué)習(xí)過程可以自行學(xué)習(xí)將哪些功能最佳地放置在哪個級別上。（當(dāng)然,這并不能完全消除手工調(diào)整的需要；例如,不同數(shù)量的層和層大小可以提供不同的抽象度。）“深度學(xué)習(xí)”中的“深度”一詞是指數(shù)據(jù)轉(zhuǎn)換所經(jīng)過的層數(shù)。更準(zhǔn)確地說,深度學(xué)習(xí)系統(tǒng)具有很大的學(xué)分分配路徑（CAP）深度。CAP是從輸入到輸出的轉(zhuǎn)換鏈。CAP描述了輸入和輸出之間的潛在因果關(guān)系。對于前饋神經(jīng)網(wǎng)絡(luò),CAP的深度是網(wǎng)絡(luò)的深度,并且是隱藏層的數(shù)量加一層（因為輸出層也已參數(shù)化）。對于遞歸神經(jīng)網(wǎng)絡(luò),其中信號可能會不止一次地傳播穿過一層,因此CAP深度可能不受限制。沒有公認(rèn)的深度閾值將淺層學(xué)習(xí)與深度學(xué)習(xí)區(qū)分開,但是大多數(shù)研究人員都同意深度學(xué)習(xí)涉及的CAP深度大于2。深度2的CAP在可以模擬任何功能的意義上已被證明是通用近似器。除此之外，更多的層不會增加網(wǎng)絡(luò)的函數(shù)逼近器功能。與淺層模型相比，深層模型（CAP>2）能夠提取更好的特征，因此，額外的圖層有助于有效地學(xué)習(xí)特征。N際N際n Urapdileaiuft?〔crnWdinia細(xì)致的門控圖神經(jīng)網(wǎng)絡(luò)，用于圖像場景圖生成?？梢允褂?/p>