版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
1、人工智能(AI)AlphaGo2016年3月,阿爾法圍棋與圍棋世界冠軍、職業(yè)九段棋手李世石進(jìn)行圍棋人機(jī)大戰(zhàn),以4比1的總比分獲勝;2016年末2017年初,該程序在中國棋類網(wǎng)站上以“大師”(Master)為注冊(cè)帳號(hào)與中日韓數(shù)十位圍棋高手進(jìn)行快棋對(duì)決,連續(xù)60局無一敗績;2017年5月,在中國烏鎮(zhèn)圍棋峰會(huì)上,它與排名世界第一的世界圍棋冠軍柯潔對(duì)戰(zhàn),以3比0的總比分獲勝。圍棋界公認(rèn)阿爾法圍棋的棋力已經(jīng)超過人類職業(yè)圍棋頂尖水平,在GoRatings網(wǎng)站公布的世界職業(yè)圍棋排名中,其等級(jí)分曾超過排名人類第一的棋手柯潔。2017年10月18日,DeepMind團(tuán)隊(duì)公布了最強(qiáng)版AlphaGo ,代號(hào)Alph
2、aGo Zero。人工智能概述人工智能的定義人工智能的學(xué)科基礎(chǔ)人工智能簡(jiǎn)史4關(guān)于人工智能的定義對(duì)AI的4種不同定義:類人行動(dòng)/類人思考理性思維/理性行動(dòng)人類智能與人工智能人類是一種智能體;我們,作為一個(gè)智能體,為什么能夠思考? 大腦這么一小堆東西怎么能夠感知、理解、預(yù)測(cè)和應(yīng)對(duì)一個(gè)遠(yuǎn)比自身龐大和復(fù)雜的世界?人工智能(AI)走得更遠(yuǎn):不僅試圖理解智能體,而且要建造智能體制造出像人類一樣完成某些智能任務(wù)的系統(tǒng)(軟件)。對(duì)AI的4種不同定義像人一樣思考的系統(tǒng)理性地思考的系統(tǒng)要使計(jì)算機(jī)能思考有頭腦的機(jī)器(Haugeland, 1985)使之自動(dòng)化與人類的思維相關(guān)的活動(dòng),諸如決策、問題求解、學(xué)習(xí)等活動(dòng)(B
3、ellman, 1978)通過對(duì)計(jì)算模型的使用來進(jìn)行心智能力的研究(Charniak & McDemontt, 1985)對(duì)使得知覺、推理和行動(dòng)成為可能的計(jì)算的研究(Winston, 1992)像人一樣行動(dòng)的系統(tǒng)理性地行動(dòng)的系統(tǒng)創(chuàng)造機(jī)器來執(zhí)行人需要智能才能完成的功能(Kurzweil, 1990)研究如何讓計(jì)算機(jī)能夠做到那些目前人比計(jì)算機(jī)做得更好的事情(Rich & Knight, 1991)計(jì)算智能是對(duì)設(shè)計(jì)智能化智能體的研究(Poole et al., 1998)AI關(guān)心的是人工制品中的智能行為(Nilsson, 1998)4種方法的比較思考過程類人思考模擬思維過程理性思考理性行為人類智能智
4、能行為類人行為模擬行為功能思維過程思維模型按照模型建立思維系統(tǒng)智能行為行為建模按照模型建立行為系統(tǒng)類人思考或類人行為:直接模擬 / 追隨人理性思考或理性行為:間接模擬 / 概括人類人行為:圖靈測(cè)試 (Turing test)圖靈建議(1950) :不是問“機(jī)器能否思考”,而是問“機(jī)器能否通過關(guān)于行為的智能測(cè)試”圖靈人工智能之父 1950年,圖靈發(fā)表了題為計(jì)算機(jī)能思考嗎? 圖靈實(shí)驗(yàn)的本質(zhì)就是讓人在不看外型的情況下不能區(qū)別是機(jī)器的行為還是人的行為時(shí),這個(gè)機(jī)器就是智慧的。 AlanMathisonTuring (1912 1954)圖靈測(cè)試測(cè)試過程:讓一個(gè)程序與一個(gè)人進(jìn)行5分鐘對(duì)話,然后人猜測(cè)交談對(duì)
5、象是程序還是人?如果在30%測(cè)試中程序成功地欺騙了詢問人,則通過了測(cè)試。圖靈期待最遲2000年出現(xiàn)這樣的程序。圖靈測(cè)試在2014圖靈測(cè)試競(jìng)賽上,俄羅斯人維西羅夫開發(fā)的超級(jí)計(jì)算機(jī)尤金古斯特曼讓測(cè)試者相信,它的回答中有33%是人類回答的。因此主辦方雷丁大學(xué)宣布,已有65年歷史的圖靈測(cè)試首次獲得通過。偽裝成為13歲男孩要想程序通過圖靈測(cè)試,還需要做大量工作,這些技能包括:自然語言處理, 使機(jī)器可以用人類語言交流知識(shí)表示, 存儲(chǔ)機(jī)器獲得的各種信息自動(dòng)推理, 運(yùn)用知識(shí)來回答問題和提取新結(jié)論機(jī)器學(xué)習(xí), 適應(yīng)新環(huán)境并檢測(cè)和推斷新模式以及(為了完全圖靈測(cè)試)計(jì)算機(jī)視覺, 機(jī)器感知物體機(jī)器人技術(shù), 操縱和移動(dòng)物
6、體圖靈測(cè)試AI 簡(jiǎn)單定義人工智能=人造物(計(jì)算機(jī))+智能(特殊化程序)作為人造智能體,人們期待計(jì)算機(jī)智能體在解決某些問題方面要達(dá)到專家水平,盡管從整體上它遠(yuǎn)遠(yuǎn)不及一個(gè)普通人。對(duì)AI的理解是一個(gè)過程對(duì)AI的理解不斷發(fā)展;重要的是:領(lǐng)悟人工智能的思想;學(xué)習(xí)人工智能的方法;應(yīng)用人工智能的方法解決實(shí)際問題。15人工智能的應(yīng)用領(lǐng)域Google BrainDeep Learning使用 1000 臺(tái)電腦創(chuàng)造出包含 10 億個(gè)連接的“神經(jīng)網(wǎng)絡(luò)”;通過掃描互聯(lián)網(wǎng)上無數(shù)的貓的圖片“認(rèn)識(shí)”了貓。吳恩達(dá)(Andrew Ng),斯坦福大學(xué)計(jì)算機(jī)科學(xué)系和電子工程系副教授,人工智能實(shí)驗(yàn)室主任。2014年加入百度,擔(dān)任百度
7、公司首席科學(xué)家。SiriSiri 的背后Apple在印度的海德拉巴建了一個(gè)巨大的用戶響應(yīng)中心,所有用戶和Siri的問題都被傳到這里,然后三哥三姐們飛快的打字回答。Apple內(nèi)部把這個(gè)叫印度云(Indian cloud),簡(jiǎn)稱iCloud。本地 + 云端Siri 的背后Siri脫胎于一個(gè)美國國防部項(xiàng)目,是一家總部位于舊金山的同名小公司,它誕生于2007年12月經(jīng)濟(jì)危機(jī)的寒冬中。2010年4月,蘋果公司以2億美元收購了這家公司,并將整個(gè)團(tuán)隊(duì)招致麾下。Siri把對(duì)話、自然語言理解、視覺、演說、機(jī)器學(xué)習(xí)、制定計(jì)劃、理性思考等融合到一個(gè)模仿人類的助理中,通過手機(jī)帶入人們的生活。氣象預(yù)報(bào)智能家居智能交通金
8、融商務(wù)能源開發(fā)電力傳輸生物制藥遙感測(cè)量空間技術(shù)軍事國防工業(yè)機(jī)器人娛樂機(jī)器人看護(hù)機(jī)器人 ROBEAR家用電器游戲人工智能的應(yīng)用領(lǐng)域工業(yè)自動(dòng)控制模式識(shí)別地質(zhì)勘察描述決策支持系統(tǒng)生產(chǎn)最優(yōu)規(guī)劃農(nóng)業(yè)專家系統(tǒng)石油工程金融證券氣象預(yù)報(bào)水產(chǎn)養(yǎng)殖公路工程智能家居智能監(jiān)控系統(tǒng)航天技術(shù)網(wǎng)絡(luò)搜索教育培訓(xùn)37人工智能的基礎(chǔ) 哲學(xué)/數(shù)學(xué) 經(jīng)濟(jì)學(xué) 神經(jīng)科學(xué)/心理學(xué) 計(jì)算機(jī)工程 控制論/語言學(xué)對(duì)人工智能有貢獻(xiàn)的學(xué)科哪些學(xué)科、思想和人物給予AI以貢獻(xiàn)?哲學(xué)(BC428現(xiàn)在)數(shù)學(xué)(800現(xiàn)在)經(jīng)濟(jì)學(xué)(1776現(xiàn)在)神經(jīng)科學(xué)(1861現(xiàn)在)心理學(xué)(1879現(xiàn)在)計(jì)算機(jī)工程(1940現(xiàn)在)控制論(1948現(xiàn)在)語言學(xué)(1957現(xiàn)在)
9、哲學(xué)的貢獻(xiàn)(1)哲學(xué)(BC428現(xiàn)在)貢獻(xiàn)的思想: 問題1:形式化規(guī)則能用來抽取合理的結(jié)論嗎?問題2:精神的意識(shí)是如何從物質(zhì)的大腦產(chǎn)生出來的?問題3:知識(shí)是從哪里來的?問題4:知識(shí)是如何導(dǎo)致行動(dòng)的?哲學(xué)的貢獻(xiàn)(2)問題1:形式化規(guī)則能用來抽取合理的結(jié)論嗎?(哲學(xué)家及其貢獻(xiàn))亞里士多德(Aristotle, BC384BC322),為形式邏輯奠定了基礎(chǔ) :第一個(gè)把支配意識(shí)的理性部分法則形式化為精確的法則集合/著名的三段論Ramon Lull、Leonardo da Vinci(達(dá)芬奇) 、Blaise Pascal(帕斯卡)、Gottfried Wilhelm Leibnitz(萊布尼茲)等人均
10、設(shè)計(jì)或制造了能計(jì)算的機(jī)器。哲學(xué)的貢獻(xiàn)(3)17世紀(jì), 有人提出推理如同數(shù)字計(jì)算,帕斯卡寫道: “算術(shù)機(jī)器產(chǎn)生的效果顯然更接近于思維而不是動(dòng)物的其他活動(dòng)”。問題1結(jié)論: 肯定的結(jié)論; 即可以用一個(gè)規(guī)則集合描述意識(shí)的形式化、理性的部分。哲學(xué)的貢獻(xiàn)(4)問題2:從物理系統(tǒng)的角度來考慮意識(shí): 意識(shí)與物質(zhì)的大腦之間的關(guān)系如何? Ren Descartes(笛卡爾)給出了第一個(gè)關(guān)于意識(shí)和物質(zhì)之間的區(qū)別以及由此產(chǎn)生的問題的清晰討論;笛卡爾是二元論的支持者:堅(jiān)持意識(shí)(或稱為靈魂/精神)的一部分是超脫于自然之外的,不受物理定律影響;而動(dòng)物不擁有這種二元屬性,它們可以被作為機(jī)器對(duì)待。哲學(xué)的貢獻(xiàn)(5)唯物主義認(rèn)為:
11、 大腦依照物理定律運(yùn)轉(zhuǎn)而構(gòu)成了意識(shí), 自由意志也就簡(jiǎn)化為對(duì)出現(xiàn)在選擇過程中可能選擇的感受方式。問題2結(jié)論: 存在兩種選擇:二元論.一元論.哲學(xué)的貢獻(xiàn)(6)問題3:知識(shí)是從哪里來的?關(guān)于知識(shí)的來源: Francis Bacon(培根)新工具論開始了經(jīng)驗(yàn)主義運(yùn)動(dòng);John Locke(洛克)指出:“無物非先感而后知”David Hume(休謨)提出歸納原理:一般規(guī)則是通過揭示形成規(guī)則的元素之間的重復(fù)關(guān)聯(lián)而獲得的。哲學(xué)的貢獻(xiàn)(7)基于Ludwig Wittgenstein, Bertrand Russell的工作,Rudolf Carnap領(lǐng)導(dǎo)維也納學(xué)派發(fā)展了實(shí)證邏輯主義,堅(jiān)持認(rèn)為所有的知識(shí)都可以用
12、最終和傳感器輸入相對(duì)應(yīng)的觀察語句相聯(lián)系的邏輯理論來描述.問題3結(jié)論: 知識(shí)來自于實(shí)踐哲學(xué)的貢獻(xiàn)(8)問題4:知識(shí)是如何導(dǎo)致行動(dòng)的?亞里士多德認(rèn)為: 行動(dòng)是通過目標(biāo)與關(guān)于行動(dòng)結(jié)果的知識(shí)之間的邏輯來判定的。他的進(jìn)一步闡述指出: 要深思的不是結(jié)局而是手段 , 手段在分析順序中是最后一個(gè), 在生成順序中是第一個(gè)。這實(shí)際上就是回歸規(guī)劃系統(tǒng), 2300年后由Newell和Simon在其GPS程序中實(shí)現(xiàn)。問題4結(jié)論: 知識(shí)用于指導(dǎo)行動(dòng)去達(dá)到目標(biāo)數(shù)學(xué)的貢獻(xiàn)(1)數(shù)學(xué)(800現(xiàn)在)貢獻(xiàn)的思想:什么是抽取合理結(jié)論的形式化規(guī)則?什么可以被計(jì)算?如何用不確定的知識(shí)進(jìn)行推理?AI成為一門規(guī)范科學(xué)要求在三個(gè)基礎(chǔ)領(lǐng)域完成一
13、定程度的數(shù)學(xué)形式化:邏輯、計(jì)算、概率數(shù)學(xué)的貢獻(xiàn)(2)問題1:如何抽取形式化規(guī)則?George Boole(布爾, 18151864), 1847年完成了形式邏輯的數(shù)學(xué)化,即命題邏輯或稱布爾邏輯;Gottlob Frege(弗雷格, 18481925), 1879年擴(kuò)展了布爾邏輯, 使其包含對(duì)象和關(guān)系, 創(chuàng)建了一階邏輯;Alfred Tarski(塔斯基)引入了一種參考理論,可以把邏輯對(duì)象與現(xiàn)實(shí)世界對(duì)象聯(lián)系起來。問題1結(jié)論: 形式化規(guī)則=命題邏輯和一階謂詞邏輯數(shù)學(xué)的貢獻(xiàn)(3)問題2:什么可以計(jì)算?可以被計(jì)算,就是要找到一個(gè)算法算法本身的研究可回溯至9世紀(jì)波斯數(shù)學(xué)家al-Khowarazmi19世
14、紀(jì)晚期,把一般的數(shù)學(xué)推理形式化為邏輯演繹的努力已經(jīng)展開。數(shù)學(xué)的貢獻(xiàn)(4)1900年,Hilbert(希爾伯特, 18621943)提出了包括23個(gè)問題的清單,其中最后一個(gè)問題是:是否存在一個(gè)算法可以判定涉及自然數(shù)的邏輯命題的真實(shí)性,即可判定性問題。他所要問的是: 有效證明過程的能力是否有基礎(chǔ)的局限性。這一問題被Kurt Gdel(哥德爾, 19061978)在1931年證實(shí):確實(shí)存在真實(shí)的局限。數(shù)學(xué)的貢獻(xiàn)(5)1930年,哥德爾提出: 存在一個(gè)有效過程可以證明羅素和弗雷格的一階邏輯中的任何真值語句,但是一階邏輯不能捕捉到刻畫自然數(shù)所需要的數(shù)學(xué)歸納法原則。1931年,哥德爾證明了他的不完備性定理
15、:在任何表達(dá)能力足以描述自然數(shù)的語言(如某種邏輯)中,在不能通過任何算法建立它們的真值的意義上, 存在不可判定的真值語句。不完備性定理還可以表述為: 整數(shù)的某些函數(shù)無法用算法表示, 即不可計(jì)算的。數(shù)學(xué)的貢獻(xiàn)(6)由此激發(fā)了Allen Turing(圖靈, 19121954)的熱情,他試圖精確地刻畫哪些函數(shù)是能夠被計(jì)算的,Church-Turing論題指出:圖靈機(jī)可以計(jì)算任何可計(jì)算的函數(shù),該結(jié)論作為一個(gè)充分的定義而被接受。圖靈說明了一些函數(shù)沒有對(duì)應(yīng)的圖靈機(jī),沒有通用的圖靈機(jī)可以判定一個(gè)給定的程序?qū)τ诮o定的輸入能否返回答案或者永遠(yuǎn)運(yùn)行下去。數(shù)學(xué)的貢獻(xiàn)(7)在不可計(jì)算性以外,不可操作性具有更重要的影
16、響,如果解決一個(gè)問題需要的計(jì)算時(shí)間隨著實(shí)例規(guī)模成指數(shù)級(jí)增長,則該問題被稱為不可操作的(計(jì)算復(fù)雜性問題);多項(xiàng)式級(jí)和指數(shù)級(jí)增長的區(qū)別在20世紀(jì)60年代得到重視;如何認(rèn)識(shí)不可操作問題? 以Steven Cook(1971)和Richard Carp為代表的NP-完全理論的研究提供了一種方法。數(shù)學(xué)的貢獻(xiàn)(8)Cook和Carp證明有大量各種類別的規(guī)范的組合搜索和推理問題屬于NP-完全問題;任何NP-完全問題類可歸約成的問題類很可能是不可操作的(目前尚未證明, 但大家猜測(cè)是如此)問題2結(jié)論: 可計(jì)算性和算法復(fù)雜性理論數(shù)學(xué)的貢獻(xiàn)(9)數(shù)學(xué)對(duì)AI的第三個(gè)貢獻(xiàn)是概率理論:Fermat, Pascal, Be
17、rnoulli, Laplace等都推進(jìn)了概率理論的發(fā)展及引入了新的統(tǒng)計(jì)方法論;Thomas Bayes(貝葉斯, 17491827)提出了根據(jù)證據(jù)更新概率的法則(貝葉斯公式/條件概率公式)。問題3結(jié)論: 使用貝葉斯理論進(jìn)行不確定推理經(jīng)濟(jì)學(xué)的貢獻(xiàn)(1)經(jīng)濟(jì)學(xué)(1776現(xiàn)在)貢獻(xiàn)的思想:如何決策以獲得最大收益?在他人不合作的情況下如何做到這點(diǎn)?在收益遙遙無期的情況下如何做到這點(diǎn)?問題1: 效用理論問題2: 決策理論問題3: 運(yùn)籌學(xué)經(jīng)濟(jì)學(xué)的貢獻(xiàn)(2)Herbert Simon(西蒙, 19162001)是AI研究的先驅(qū)者,他于1978年獲得諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng),是因?yàn)樗缒甑墓ぷ鳎夯跐M意度的模型:制定
18、“足夠好”的決策,而不是艱苦計(jì)算獲得最優(yōu)化決策;能更好地描述真實(shí)人類行為。在智能體系統(tǒng)中使用決策理論技術(shù)越來越重要。神經(jīng)科學(xué)的貢獻(xiàn)(1)神經(jīng)科學(xué)(1861現(xiàn)在)的貢獻(xiàn):大腦是如何處理信息的?神經(jīng)科學(xué)是研究神經(jīng)系統(tǒng)特別是大腦的科學(xué):雖然幾千年來人類一直贊同大腦以某種方式與思維相聯(lián)系(因?yàn)樽C據(jù)表明頭部受重?fù)魰?huì)導(dǎo)致精神缺陷),但是直到18世紀(jì)中期人類才廣泛地承認(rèn)大腦是意識(shí)的居所。神經(jīng)科學(xué)的貢獻(xiàn)(2)Paul Proca(布魯卡)通過研究大腦損傷病人的失語癥,闡明了語言產(chǎn)生定位于大腦左半球的一部分,現(xiàn)在稱為布魯卡區(qū);1873年Camillo Golgi開發(fā)出一項(xiàng)染色技術(shù),允許人們觀察大腦的各個(gè)神經(jīng)元;
19、1929年Hans Berger發(fā)明腦電圖記錄儀;1990年核磁共振成像為神經(jīng)科學(xué)家提供了關(guān)于大腦活動(dòng)的細(xì)致圖像;使得以某種方式與正在進(jìn)行的認(rèn)知過程相符合的測(cè)量成為可能。神經(jīng)元神經(jīng)科學(xué)的貢獻(xiàn)(3)真正令人震驚的結(jié)論是:簡(jiǎn)單細(xì)胞的集合能夠?qū)е滤季S、行動(dòng)和意識(shí),換句話說,大腦產(chǎn)生意識(shí)(西爾勒, 1992)。計(jì)算機(jī)和大腦如何相比? 大腦活動(dòng)過程對(duì)計(jì)算機(jī)工作過程有啟發(fā)。計(jì)算機(jī)與大腦的比較盡管計(jì)算機(jī)在原始的轉(zhuǎn)換速度上快100萬倍, 大腦最終在做事上比計(jì)算機(jī)快10萬倍計(jì)算機(jī)人腦計(jì)算單元數(shù)存儲(chǔ)單元數(shù)運(yùn)算周期時(shí)間帶寬記憶更新次數(shù)/秒1個(gè)CPU/108邏輯門1010比特RAM1011比特磁盤10-9秒1010比
20、特/秒1091011個(gè)神經(jīng)元1011個(gè)神經(jīng)元1014個(gè)突觸10-3秒1014比特/秒1014計(jì)算機(jī)工程的貢獻(xiàn)(1)計(jì)算機(jī)工程(1940現(xiàn)在)的貢獻(xiàn):如何才能制造出能干的計(jì)算機(jī)?計(jì)算機(jī)被視為智能和人工制品的結(jié)合最早的可計(jì)算的裝置應(yīng)該從17世紀(jì)算起;19世紀(jì)中葉,Charles Babbage(巴貝奇, 17921871)設(shè)計(jì)了兩臺(tái)機(jī)器,名為“差分機(jī)”和“分析機(jī)”,前者最終于1991年建造出來并在倫敦展出。計(jì)算機(jī)工程的貢獻(xiàn)(2)最早的現(xiàn)代計(jì)算機(jī)幾乎同時(shí)在二戰(zhàn)期間分別在英國、德國和美國發(fā)明出來;1945年在賓夕法尼亞大學(xué)(UPenn)開發(fā)出來的ENIAC被公認(rèn)為現(xiàn)代計(jì)算機(jī)最有影響的先驅(qū),研制者包括J
21、ohn Mauchly和John Eckert;計(jì)算機(jī)硬件按照摩爾定律每18個(gè)月性能翻一番, 但現(xiàn)在就不得不尋求新技術(shù)了。計(jì)算機(jī)工程的貢獻(xiàn)(3)計(jì)算機(jī)軟件技術(shù)為AI提供了操作系統(tǒng)、程序設(shè)計(jì)語言、工具軟件等;AI反過來也對(duì)主流計(jì)算機(jī)科學(xué)產(chǎn)生了影響:分時(shí)技術(shù)、交互式編譯器、窗口和鼠標(biāo)的個(gè)人機(jī)、快速開發(fā)環(huán)境、鏈接表數(shù)據(jù)類型、自動(dòng)存儲(chǔ)管理、面向?qū)ο蟮木幊痰???刂普摰呢暙I(xiàn)(1)控制論(1948現(xiàn)在)的貢獻(xiàn):人工制品怎樣才能在自己的控制下運(yùn)轉(zhuǎn)?現(xiàn)代控制論控制論的創(chuàng)始人Norbert Wiener(維納, 1894 1964)的暢銷書Cybernetics(控制論)喚醒了人們對(duì)人工制造智能機(jī)器的可能性的熱情
22、;現(xiàn)代控制論,特別是隨機(jī)優(yōu)化控制的分支,把設(shè)計(jì)出能隨時(shí)間變化使目標(biāo)函數(shù)最大化的系統(tǒng)作為其目的,也粗略符合對(duì)AI的觀點(diǎn)。維納維納系統(tǒng)地創(chuàng)建了控制論:或關(guān)于在動(dòng)物和機(jī)器中控制和通訊的科學(xué) ,根據(jù)這一理論,一個(gè)機(jī)械系統(tǒng)完全能進(jìn)行運(yùn)算和記憶。他在反饋理論上的研究認(rèn)為所有人類智力的結(jié)果都是一種反饋的結(jié)果,通過不斷地將結(jié)果反饋給機(jī)體而產(chǎn)生的動(dòng)作,進(jìn)而產(chǎn)生了智能。 控制論的貢獻(xiàn)(2)AI和控制論為什么是兩個(gè)不同領(lǐng)域?控制論的數(shù)學(xué)工具是微積分和矩陣代數(shù),適合于用固定的連續(xù)變量集合描述的系統(tǒng),精確分析在典型情況下只對(duì)線性系統(tǒng)可行。AI自20世紀(jì)50年代建立以來,部分起因是尋求擺脫控制論數(shù)學(xué)方法的局限性。邏輯推理
23、和計(jì)算工具使得AI研究者考慮語言/視覺/規(guī)劃等問題,完全脫離了控制論的范圍。語言學(xué)的貢獻(xiàn)(1)語言學(xué)(1957現(xiàn)在)貢獻(xiàn)的思想:語言和思維是怎樣聯(lián)系起來的?喬姆斯基最先作出了貢獻(xiàn)1957年句法結(jié)構(gòu)出版,顛覆了行為主義,認(rèn)為該理論不能解釋兒童怎么能理解和構(gòu)造他們以前沒有聽到的句子,而喬姆斯基關(guān)于語法模型的理論則能夠解釋這個(gè)現(xiàn)象,并且足夠形式化,喬姆斯基理論的影響一直持續(xù)到20世紀(jì)80年代末。語言學(xué)的貢獻(xiàn)(2)計(jì)算語言學(xué)或者自然語言處理與AI差不多同時(shí)誕生, 一直在發(fā)展,但是距離徹底理解語言和思維的關(guān)系尚很遠(yuǎn)。研究語言的理解過程是人類智能研究的核心之一。各學(xué)科的貢獻(xiàn)哲學(xué)邏輯/推理方法/智能作為一種
24、物理系統(tǒng)/理性的基礎(chǔ)數(shù)學(xué)形式表示與證明/算法/可計(jì)算性/可操作性/不確定性神經(jīng)科學(xué)智能活動(dòng)的物理基礎(chǔ)經(jīng)濟(jì)學(xué)復(fù)雜系統(tǒng)中的決策/驗(yàn)證環(huán)境各學(xué)科的貢獻(xiàn)控制理論自我平衡系統(tǒng)/穩(wěn)定性/優(yōu)化設(shè)計(jì)計(jì)算機(jī)工程計(jì)算機(jī)硬件和軟件系統(tǒng)心理學(xué)自適應(yīng)性/感知和控制的現(xiàn)象語言學(xué)知識(shí)表示/語法73人工智能簡(jiǎn)史 7個(gè)歷史時(shí)期:孕育期/誕生/早期的成功/困難期/基于知識(shí)系統(tǒng)的崛起/AI成為工業(yè)/AI成為科學(xué)人工智能發(fā)展的7個(gè)時(shí)期按照Russell的觀點(diǎn), AI六十年的發(fā)展歷史可以分為以下7個(gè)時(shí)期:AI孕育期(19431955)AI的誕生(1956)早期的成功與期望(19521969)現(xiàn)實(shí)的困難(19661973)基于知識(shí)的系統(tǒng)
25、: 力量的鑰匙? (19691979)AI成為工業(yè)(1980現(xiàn)在)AI成為科學(xué)(1987現(xiàn)在)人工智能孕育期(19431955)神經(jīng)網(wǎng)絡(luò)最早的AI工作是1943年McCulloch和Pitts人工神經(jīng)元模型的研究,他們證明任何可計(jì)算的函數(shù)都可以通過某種由神經(jīng)元連接成的網(wǎng)絡(luò)進(jìn)行計(jì)算,還提出適當(dāng)?shù)木W(wǎng)絡(luò)能夠?qū)W習(xí);1951年,普林斯頓大學(xué)數(shù)學(xué)系研究生Marvin Minsky(明斯基)和Dean Edmonds建造了第一臺(tái)神經(jīng)元網(wǎng)絡(luò)計(jì)算機(jī)。圖靈的論文圖靈1950年的論文第一個(gè)清晰地描繪出AI的完整圖像:Computing Machinery and Intelligence提出了圖靈測(cè)試、機(jī)器學(xué)習(xí)、遺
26、傳算法、增量學(xué)習(xí)人工智能的誕生(1956)(1)1956年夏天,AI正式誕生于達(dá)特茅斯大學(xué)John McCarthy(麥卡錫)自普林斯頓大學(xué)畢業(yè)以后去了達(dá)特茅斯大學(xué),他說服了另外2個(gè)人幫助召開了為期2個(gè)月的研討會(huì)。會(huì)議組織者4人:麥卡錫、Minsky(明斯基)、Claude Shannon(香儂)、IBM的Nathaniel Rochester(羅切斯特),參加者共10人。其他6位是:普林斯頓大學(xué)Trenchard More、IBM的Arthur Samuel(塞繆爾)、MIT的Ray Solomonoff和Oliver Selfridge、CMU的紐厄爾和西蒙人工智能的誕生(1956)(2)
27、盡管這次會(huì)議沒有新突破,但聚集了AI的主要人物特別是AI領(lǐng)域的4位著名專家,他們后來所在的大學(xué)也成為了美國AI研究的3大基地: MIT明斯基Stanford麥卡錫(先在MIT后去了Stanford)CMU紐厄爾和西蒙此外, 還有IBM人工智能的誕生(1956)(3)這次會(huì)議最為長久的貢獻(xiàn)就是麥卡錫為該領(lǐng)域起的名字:人工智能為什么AI有必要成為一個(gè)新領(lǐng)域?目標(biāo)不同:AI從一開始就承載著復(fù)制人的才能如創(chuàng)造性、自我修養(yǎng)、語言功能等思想,沒有任何一個(gè)其他領(lǐng)域涉及這些問題;方法論不同:是唯一一個(gè)明確屬于計(jì)算機(jī)科學(xué)的分支,因而不是數(shù)學(xué)或者控制論或其他學(xué)科的分支;AI是唯一這樣的領(lǐng)域:它試圖建造在復(fù)雜和變化
28、的環(huán)境中自動(dòng)發(fā)揮功能的機(jī)器。麥卡錫Uncle John McCarthy 1956 首次提出人工智能Artificial Intelligence1971年獲圖靈獎(jiǎng)。Lisp語言的發(fā)明者。麥卡錫 (19272011)早期的熱情, 巨大的期望(19521969)(1)當(dāng)時(shí),主流的思想是“一臺(tái)機(jī)器永遠(yuǎn)不能做X”(而不是考慮“看看計(jì)算機(jī)能不能做X?”)AI研究者們就演示一個(gè)接一個(gè)的XCMU:紐厄爾和西蒙完成通用問題求解器(GPS), 該系統(tǒng)及其后續(xù)程序的成功導(dǎo)致了他們提出著名的物理符號(hào)系統(tǒng)假設(shè)。早期的熱情, 巨大的期望(19521969)(2)IBM:1959Herbert Gelernter建造了
29、幾何定理證明機(jī);1952年起,塞繆爾寫了一系列西洋跳棋程序,通過學(xué)習(xí)可達(dá)業(yè)余高手的級(jí)別;MIT:1958年麥卡錫到了以后作出了三項(xiàng)重要貢獻(xiàn) /貢獻(xiàn)1: 定義了LISP語言 / 貢獻(xiàn)2: 與MIT其他人發(fā)明了分時(shí)技術(shù) / 貢獻(xiàn)3: 發(fā)表了題為Programs with Common Sense的論文, 文中描述了“建議采納者”程序. 該程序?qū)崿F(xiàn)了知識(shí)表示和推理的中心原則: 具備明確的知識(shí)表示, 并能通過演繹過程處理這些表示早期的熱情, 巨大的期望(19521969)(3)Stanford: 1963年麥卡錫啟動(dòng)了斯坦福的AI實(shí)驗(yàn)室, 著重研究邏輯推理的通用方法(后來如Robinson發(fā)現(xiàn)歸結(jié)方法
30、) / 以及機(jī)器人研究MIT: 1958年明斯基也到了, 不過他對(duì)程序如何實(shí)現(xiàn)更感興趣, 并最終發(fā)展出反邏輯的觀點(diǎn) / 指導(dǎo)了一系列學(xué)生, 選擇那些顯然需要智能才能解決的受限問題 / 貢獻(xiàn): 微世界模型MIT: 最著名的微世界是積木世界, 在此基礎(chǔ)上完成了許多研究工作如: 視覺項(xiàng)目、自然語言理解項(xiàng)目(Terry Winograd)、規(guī)劃器等現(xiàn)實(shí)的困難(19661973)(1)早期AI研究者過于盲目的樂觀態(tài)度:10年預(yù)見象棋世界冠軍,而實(shí)際上至少40年。早期的AI系統(tǒng)在試圖解決更寬范圍和更難的問題時(shí),都悲慘地失敗了,原因何在?第一類困難: 缺少主題知識(shí)(通用而非專門化)典型例子: 機(jī)器翻譯(MT
31、) / 最早對(duì)AI研究的發(fā)難始于機(jī)器翻譯(1966ALPAC報(bào)告) The spirit is willing but the flesh is weekThe vodka is good but the meat is rotten現(xiàn)實(shí)的困難(19661973)(2)第二類困難:AI試圖解決的很多問題是不可操作的(NP類):在計(jì)算復(fù)雜性理論建立之前,對(duì)“問題放大”(從玩具到現(xiàn)實(shí))的認(rèn)識(shí)局限于速度和存儲(chǔ)容量。例子: 早期遺傳算法實(shí)驗(yàn)(195859)無限計(jì)算能力的幻覺:程序原則上能夠找到解并不意味著程序?qū)嶋H上包含找到解的機(jī)制1973年英國政府在Lighthill報(bào)告之后終止了除2所大學(xué)以外所有的
32、AI研究資助?,F(xiàn)實(shí)的困難(19661973)(3)第三類困難:用于產(chǎn)生智能行為的基本結(jié)構(gòu)存在某些限制例子:1969年Minsky和Papert證明了感知器簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)所能表示的東西很少(單層感知器對(duì)XOR函數(shù))神經(jīng)網(wǎng)絡(luò)研究由此沉寂了20年,直到80年代后期多層網(wǎng)絡(luò)的反向傳播算法出現(xiàn)引起了神經(jīng)網(wǎng)絡(luò)的復(fù)興;這一算法首次發(fā)現(xiàn)恰恰是在1969年發(fā)現(xiàn)的(Bryson & Ho)。基于知識(shí)的系統(tǒng): 力量的鑰匙? (19691979)(1)早期研究中的通用搜索機(jī)制稱為弱方法;通用但不能擴(kuò)展到大規(guī)模問題或困難問題需要更強(qiáng)有力的、領(lǐng)域相關(guān)的知識(shí)DENDRAL是第一個(gè)成功的知識(shí)密集型系統(tǒng),1969年在Stanf
33、ord開發(fā),參與者包括Ed Feigenbaum等,根據(jù)質(zhì)譜儀信息推斷分子結(jié)構(gòu);該系統(tǒng)改進(jìn)后, 把知識(shí)和推理部分清楚地劃分開80年代專家系統(tǒng)的典型結(jié)構(gòu)?;谥R(shí)的系統(tǒng): 力量的鑰匙? (19691979)(2)由DENDRAL系統(tǒng)開始的專家系統(tǒng)方法論又應(yīng)用到其他需要人類專家知識(shí)的領(lǐng)域: MYCIN檢測(cè)血液感染的專家系統(tǒng)MYCIN知識(shí)庫的特點(diǎn): 直接來自經(jīng)驗(yàn) / 反映出知識(shí)的不確定性自然語言理解領(lǐng)域的專家系統(tǒng):耶魯大學(xué)Roger Schank和其學(xué)生們開發(fā)的一系列程序(19771983)AI成為工業(yè)(1980現(xiàn)在)(1)1982年,第一個(gè)成功的商用專家系統(tǒng)R1在DEC公司開始運(yùn)轉(zhuǎn),到1986年為
34、止每年為公司節(jié)省4千萬美元:美國主要公司都曾開發(fā)或使用專家系統(tǒng);AI工業(yè)在1980年只是幾百萬美元,1988年漲到數(shù)十億美元。AI成為工業(yè)(1980現(xiàn)在)(2)在八十年代的AI研究熱潮中,1981年日本提出五代機(jī)計(jì)劃,目的是建造運(yùn)行Prolog程序的智能機(jī);美國則對(duì)應(yīng)成立了MCC研究集團(tuán);實(shí)際上,“AI成為工業(yè)”目前在一些家電中可以找到影子。神經(jīng)網(wǎng)絡(luò)的回歸(1986現(xiàn)在)神經(jīng)網(wǎng)絡(luò): Frank Rosenblatt1962年提出感知器, 證明了感知器收斂定理 / 但1969年以后沉寂反向傳播算法引起了神經(jīng)網(wǎng)絡(luò)研究的復(fù)興,Rumelhart和McClelland的文集引起反響連接主義方法崛起,被
35、認(rèn)為是Newell和Simon提出的符號(hào)模型和McCarthy主張的邏輯方法的直接競(jìng)爭(zhēng)者當(dāng)前的觀點(diǎn)是:連接主義和符號(hào)主義方法是互補(bǔ)的AI成為科學(xué)(1987現(xiàn)在)(1)近年AI研究在內(nèi)容和方法論方面的特點(diǎn):在已有的理論基礎(chǔ)上進(jìn)行研究而不是提出嶄新理論;理論建立在嚴(yán)格定理或者確鑿實(shí)驗(yàn)證據(jù)基礎(chǔ)上而不是靠直覺;顯示與現(xiàn)實(shí)世界應(yīng)用的相關(guān)性而不是與玩具樣例的相關(guān)性。AI成為科學(xué)(1987現(xiàn)在)(2)從對(duì)控制論和統(tǒng)計(jì)學(xué)的某種叛逆到開始接受這些領(lǐng)域的理論和方法;語音識(shí)別中HMM模型應(yīng)用 / 貝葉斯網(wǎng)絡(luò);數(shù)據(jù)挖掘:綜合神經(jīng)元網(wǎng)絡(luò) / 統(tǒng)計(jì)學(xué);機(jī)器人、計(jì)算機(jī)視覺等;智能化智能體出現(xiàn)(1995現(xiàn)在)重新審視“完整智
36、能體” :嵌入真實(shí)環(huán)境的智能體:目前最重要的智能化智能體環(huán)境是Internet, AI技術(shù)成為重要的Internet工具,例如搜索引擎。為什么要采納智能體觀點(diǎn)?AI歷史上分離的子領(lǐng)域需要重新組織起來;AI與其他涉及智能體的領(lǐng)域的聯(lián)系被拉近了(如控制論和經(jīng)濟(jì)學(xué))人工智能的未來AI是新興學(xué)科,也是激動(dòng)人心的學(xué)科;Alan Turing:我們只能向前看到很短的距離,但是我們能夠看到仍然有很多事情要做。Russell聲稱:不同于物理學(xué),這里還有出現(xiàn)幾個(gè)愛因斯坦的余地;為什么?研究主觀世界的成果遠(yuǎn)少于研究客觀世界的成果。處于探索初期的學(xué)科AI的未來弱人工智能Artificial Narrow Intel
37、ligence (ANI):弱人工智能是擅長于單個(gè)方面的人工智能。比如有能戰(zhàn)勝象棋世界冠軍的人工智能,但是它只會(huì)下象棋,你要問它怎樣更好地在硬盤上儲(chǔ)存數(shù)據(jù),它就不知道怎么回答你了。強(qiáng)人工智能Artificial General Intelligence (AGI):人類級(jí)別的人工智能。強(qiáng)人工智能是指在各方面都能和人類比肩的人工智能,人類能干的腦力活它都能干。創(chuàng)造強(qiáng)人工智能比創(chuàng)造弱人工智能難得多,我們現(xiàn)在還做不到。Linda Gottfredson教授把智能定義為“一種寬泛的心理能力,能夠進(jìn)行思考、計(jì)劃、解決問題、抽象思維、理解復(fù)雜理念、快速學(xué)習(xí)和從經(jīng)驗(yàn)中學(xué)習(xí)等操作?!睆?qiáng)人工智能在進(jìn)行這些操作時(shí)
38、應(yīng)該和人類一樣得心應(yīng)手。超人工智能Artificial Superintelligence (ASI):牛津哲學(xué)家,知名人工智能思想家Nick Bostrom把超級(jí)智能定義為“在幾乎所有領(lǐng)域都比最聰明的人類大腦都聰明很多,包括科學(xué)創(chuàng)新、通識(shí)和社交技能?!背斯ぶ悄芸梢允歉鞣矫娑急热祟悘?qiáng)一點(diǎn),也可以是各方面都比人類強(qiáng)萬億倍的。超人工智能也正是為什么人工智能這個(gè)話題這么火熱的緣故,同樣也是為什么永生和滅絕這兩個(gè)詞會(huì)在本文中多次出現(xiàn)。AI的未來人工智能是否導(dǎo)致人類的永生或者滅絕?參考資料謝熊貓君,為什么最近有很多名人,比如比爾蓋茨,馬斯克、霍金等,讓人們警惕人工智能? 知乎/xiepanda/199
39、50456我們現(xiàn)在的位置充滿了弱人工智能的世界汽車上有很多的弱人工智能系統(tǒng),從控制防抱死系統(tǒng)的電腦,到控制汽油注入?yún)?shù)的電腦。谷歌正在測(cè)試的無人駕駛車,就包括了很多弱人工智能,這些弱人工智能能夠感知周圍環(huán)境并作出反應(yīng)。你的手機(jī)也充滿了弱人工智能系統(tǒng)。當(dāng)你用地圖軟件導(dǎo)航,接受音樂電臺(tái)推薦,查詢明天的天氣,和Siri聊天,以及其它很多很多應(yīng)用,其實(shí)都是弱人工智能。垃圾郵件過濾器是一種經(jīng)典的弱人工智能它一開始就加載了很多識(shí)別垃圾郵件的智能,并且它會(huì)學(xué)習(xí)并且根據(jù)你的使用而獲得經(jīng)驗(yàn)。智能室溫調(diào)節(jié)也是一樣,它能根據(jù)你的日常習(xí)慣來智能調(diào)節(jié)。你在上網(wǎng)時(shí)候出現(xiàn)的各種其它電商網(wǎng)站的產(chǎn)品推薦,還有社交網(wǎng)站的好友推薦
40、,這些都是弱人工智能的組成的,弱人工智能聯(lián)網(wǎng)互相溝通,利用你的信息來進(jìn)行推薦。網(wǎng)購時(shí)出現(xiàn)的“買這個(gè)商品的人還購買了”推薦,其實(shí)就是收集數(shù)百萬用戶行為然后產(chǎn)生信息來賣東西給你的弱人工智能。我們現(xiàn)在的位置充滿了弱人工智能的世界智能之路通往強(qiáng)人工智能的第一步:增加電腦處理速度通往強(qiáng)人工智能的第二步:讓電腦變得智能 1)抄襲人腦 2)模仿生物演化 3)讓電腦來解決這些問題人工智能的優(yōu)勢(shì)硬件上:-速度。腦神經(jīng)元的運(yùn)算速度最多是200赫茲,今天的微處理器就能以2G赫茲,也就是神經(jīng)元1000萬倍的速度運(yùn)行,而這比我們達(dá)成強(qiáng)人工智能需要的硬件還差遠(yuǎn)了。大腦的內(nèi)部信息傳播速度是每秒120米,電腦的信息傳播速度是
41、光速,差了好幾個(gè)數(shù)量級(jí)。-容量和儲(chǔ)存空間。人腦就那么大,后天沒法把它變得更大,就算真的把它變得很大,每秒120米的信息傳播速度也會(huì)成為巨大的瓶頸。電腦的物理大小可以非常隨意,使得電腦能運(yùn)用更多的硬件,更大的內(nèi)存,長期有效的存儲(chǔ)介質(zhì),不但容量大而且比人腦更準(zhǔn)確。-可靠性和持久性。電腦的存儲(chǔ)不但更加準(zhǔn)確,而且晶體管比神經(jīng)元更加精確,也更不容易萎縮(真的壞了也很好修)。人腦還很容易疲勞,但是電腦可以24小時(shí)不停的以峰值速度運(yùn)作。軟件上來說:-可編輯性,升級(jí)性,以及更多的可能性。和人腦不同,電腦軟件可以進(jìn)行更多的升級(jí)和修正,并且很容易做測(cè)試。電腦的升級(jí)可以加強(qiáng)人腦比較弱勢(shì)的領(lǐng)域人腦的視覺元件很發(fā)達(dá),但
42、是工程元件就挺弱的。而電腦不但能在視覺元件上匹敵人類,在工程元件上也一樣可以加強(qiáng)和優(yōu)化。-集體能力。代表人物Ray Kurzweil相信電腦會(huì)在2029年達(dá)成強(qiáng)人工智能,而到了2045年,我們不但會(huì)有超人工智能,還會(huì)有一個(gè)完全不同的世界奇點(diǎn)時(shí)代。谷歌技術(shù)總監(jiān)。人工智能、機(jī)器人、深度學(xué)習(xí)等領(lǐng)域奇才。微軟創(chuàng)始人蓋茨曾經(jīng)稱他是“我知道在預(yù)測(cè)人工智能上最厲害的人”。過去 30 年,他對(duì)未來預(yù)測(cè)的準(zhǔn)確率超過 86%。為什么未來會(huì)是天堂人工智能+納米技術(shù) 資源問題:超大豐富 醫(yī)療問題:人類可能會(huì)永生 環(huán)境問題未來可能是我們最糟的惡夢(mèng)霍金馬斯克、蓋茨Nick Bostrom 超級(jí)人工智能Bill Gates
43、 2004“If you invent a breakthrough in artificial intelligence, so machines can learn,” Mr. Gates responded, “that is worth 10 Microsofts.” (Quoted in New York Times, Monday, March 4, 2004)Bill Gates 2015比爾蓋茨在Reddit的“Ask Me Anything”論壇上表示,人類應(yīng)該敬畏人工智能的崛起。蓋茨解釋,人工智能將最終構(gòu)成一個(gè)現(xiàn)實(shí)性的威脅,但它在此之前會(huì)使我們的生活更輕松。微軟的研發(fā)董事總經(jīng)理埃里克
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 個(gè)人借款合同重要注意事項(xiàng)
- 大學(xué)畢業(yè)生就業(yè)協(xié)議書簽訂流程解析
- 2024年兼職協(xié)議樣本
- 2024銷售合作協(xié)議示例
- 個(gè)人租房合同書范本
- 房屋室內(nèi)裝修合同書樣式
- 合作契約:展會(huì)活動(dòng)合作契約-合同樣本
- 廣東省餐飲行業(yè)勞動(dòng)合同
- 2024年技術(shù)開發(fā)合作協(xié)議參考
- 高速公路盾構(gòu)隧道建筑信息模型分類與編碼標(biāo)準(zhǔn)
- 倉儲(chǔ)物流中心物業(yè)安全管理
- 醫(yī)療器械注冊(cè)專員培訓(xùn)
- 期末復(fù)習(xí)重要考點(diǎn)03 《一元一次方程》十大考點(diǎn)題型(熱點(diǎn)題型+限時(shí)測(cè)評(píng))(原卷版)
- 生物丨金太陽(25-69C)廣東省2025屆高三10月大聯(lián)考生物試卷及答案
- 車隊(duì)車輛掛靠合同模板
- 期中 (試題) -2024-2025學(xué)年人教PEP版英語四年級(jí)上冊(cè)
- 動(dòng)物疫病防治員(高級(jí))理論考試題及答案
- 跨境電商行業(yè)研究框架專題報(bào)告
- 提升初中生英語寫作
- 2024年深圳市優(yōu)才人力資源有限公司招考聘用綜合網(wǎng)格員(派遣至吉華街道)高頻500題難、易錯(cuò)點(diǎn)模擬試題附帶答案詳解
- 高中政治必修四哲學(xué)與文化知識(shí)點(diǎn)總結(jié)
評(píng)論
0/150
提交評(píng)論