機器學(xué)習(xí)算法與實踐 課件 第1章 機器學(xué)習(xí)概述

第一章機器學(xué)習(xí)概述機器學(xué)習(xí)（MachineLearning，ML）是一門多領(lǐng)域交叉學(xué)科，涉及概率論、統(tǒng)計學(xué)、逼近論、凸分析、算法復(fù)雜度理論等多門學(xué)科，專門研究計算機怎樣模擬或?qū)崿F(xiàn)人類的學(xué)習(xí)行為，以獲取新的知識或技能，使之不斷改善自身的性能。機器學(xué)習(xí)發(fā)展極迅速，目前已經(jīng)成為一個廣袤的學(xué)科。1.1人工智能與機器學(xué)習(xí)

人工智能（artificialintelligence，AI）泛指讓機器具有人的智力的技術(shù)。人工智能是一個寬泛的技術(shù)領(lǐng)域，包括自然語言理解、計算機視覺、機器人、邏輯和規(guī)劃等，它可以被看作計算機專業(yè)的子領(lǐng)域。1.2機器學(xué)習(xí)的概念

機器學(xué)習(xí)的一個主要目的就是把人類思考和歸納經(jīng)驗的過程轉(zhuǎn)化為計算機對數(shù)據(jù)的處理，計算得出模型的過程。經(jīng)過計算得出的模型能夠以近似于人的方式解決更為復(fù)雜的問題。簡單地理解，機器學(xué)習(xí)就是指計算機通過觀察環(huán)境，與環(huán)境交互，在吸取信息中學(xué)習(xí)、自我更新和進步。機器學(xué)習(xí)算法是一種能夠從數(shù)據(jù)中學(xué)習(xí)的算法。關(guān)于其中“學(xué)習(xí)”的定義，參照TomMitchell在1997年出版的MachineLearning一書中提供的定義：“對于某類任務(wù)T和性能度量P，一個計算機程序被認為可以從經(jīng)驗E中學(xué)習(xí)是指，通過經(jīng)驗E改進后，它在任務(wù)T上由性能度量P衡量的性能有所提升?！?.2.1機器學(xué)習(xí)的定義

20世紀(jì)初至60年代初期的萌芽期20世紀(jì)60年代至80年代的摸索期20世紀(jì)90年代到目前的崛起期1.2.2機器學(xué)習(xí)的發(fā)展從學(xué)習(xí)方式上（1）監(jiān)督學(xué)習(xí)（SupervisedLearning）（2）無監(jiān)督學(xué)習(xí)（UnsuperisedLearning）（3）半監(jiān)督學(xué)習(xí)（Semi-supervisedLearning）（4）強化學(xué)習(xí)（ReinforcementLearning）1.2.3機器學(xué)習(xí)的分類從算法功能上（1）分類（Classification）（2）回歸（Regression）（3）聚類（Cluster）（4）降維（Dimensionalityreduction）1.2.3機器學(xué)習(xí)的分類1.3機器學(xué)習(xí)工具Python語言第三方工具庫編譯環(huán)境庫的下載與安裝1.3.1Python語言Python是一種開源的、解釋型、面向?qū)ο蟮木幊陶Z言。Python的特點如下：簡單易學(xué)解釋型語言面向?qū)ο竺赓M和開源跨平臺和可移植性豐富的標(biāo)準(zhǔn)庫可擴展性和可嵌入性1.3.2第三方工具庫Python語言除了自身具備的優(yōu)點外，還具有大量優(yōu)秀的第三方函數(shù)模塊，對學(xué)科交叉應(yīng)用非常有幫助。（1）操作系統(tǒng)管理與維護（2）科學(xué)計算與數(shù)據(jù)可視化（3）圖形用戶界面（GUI）開發(fā)（4）文本處理（5）網(wǎng)絡(luò)編程及Web開發(fā)（6）數(shù)據(jù)庫編程（7）游戲開發(fā)1.3.3編譯環(huán)境Python是跨平臺的，可以運行在Windows、Mac和Linux/Unix等操作系統(tǒng)上Python的下載與安裝（/downloads/windows/）1.3.3編譯環(huán)境（1）定制安裝Python（2）Python選定特性設(shè)置1.3.3編譯環(huán)境（3）Python高級選項設(shè)置（4）Python安裝進行中1.3.3編譯環(huán)境（5）Python成功安裝（6）Python3.11程序組1.3.3編譯環(huán)境系統(tǒng)環(huán)境變量的設(shè)置（1）安裝時直接添加安裝Python系統(tǒng)時選中“AddPython.exetoPATH”復(fù)選框，則系統(tǒng)自動將安裝路徑添加到環(huán)境變量Path中。（2）安裝后手動添加如果安裝時未選中“AddPython.exetoPATH”復(fù)選框，則可在安裝完成后手動添加。（操作過程如圖1-10所示）。1.3.3編譯環(huán)境Python運行（1）選擇“Python3.11（64-bit）”啟動Python解釋器1.3.3編譯環(huán)境Python運行（2）選擇“IDLE（Python3.1164-bit）”啟動Python集成開發(fā)環(huán)境IDLE1.3.4庫的下載與安裝1.

NumPyNumPy（NumerialPython的簡稱）是Python科學(xué)計算的基礎(chǔ)包。它提供了以下功能（不限于此）：快速高效的多維數(shù)組對象ndarray。用于對數(shù)組執(zhí)行元素級計算以及直接對數(shù)組執(zhí)行數(shù)學(xué)運算的函數(shù)。?于讀寫硬盤上基于數(shù)組的數(shù)據(jù)集的工具。線性代數(shù)運算、傅里葉變換，以及隨機數(shù)生成。1.3.4庫的下載與安裝2.PandasPandas提供了快速便捷處理結(jié)構(gòu)化數(shù)據(jù)的大量數(shù)據(jù)結(jié)構(gòu)和函數(shù)。Pandas兼具NumPy高性能的數(shù)組計算功能以及電子表格和關(guān)系型數(shù)據(jù)庫（如SQL）靈活的數(shù)據(jù)處理功能。它提供了復(fù)雜精細的索引功能，以便更為便捷地完成重塑、切片和切塊、聚合以及選取數(shù)據(jù)子集等操作。1.3.4庫的下載與安裝3.MatplotlibMatplotlib是最流行的用于繪制圖表和其它二維數(shù)據(jù)可視化的Python庫。它非常適合創(chuàng)建出版物上用的圖表。雖然還有其它的Python可視化庫，Matplotlib卻是使用最廣泛的，并且它和其它生態(tài)工具配合也非常完美。Matplotlib的安裝并沒有什么特別之處，可以通過“pipinstallmatplotlib”命令安裝或者自行下載源代碼安裝。1.3.4庫的下載與安裝4.SciPySciPy是一組專?解決科學(xué)計算中各種標(biāo)準(zhǔn)問題域的包的集合，主要包括下面這些包：egrate：數(shù)值積分例程和微分方程求解器。scipy.linalg：擴展了由numpy.linalg提供的線性代數(shù)例程和矩陣分解功能。scipy.optimize：函數(shù)優(yōu)化器（最小化器）以及根查找算法。scipy.signal：信號處理工具。scipy.sparse：稀疏矩陣和稀疏線性系統(tǒng)求解器。scipy.special：SPECFUN（這是一個實現(xiàn)了許多常用數(shù)學(xué)函數(shù)（如伽瑪函數(shù)）的Fortran庫）的包裝器。scipy.stats：標(biāo)準(zhǔn)連續(xù)和離散概率分布（如密度函數(shù)、采樣器、連續(xù)分布函數(shù)等）、各種統(tǒng)計檢驗方法，以及更好的描述統(tǒng)計法。1.3.4庫的下載與安裝5.Scikit-learn它的子模塊包括:分類：SVM、近鄰、隨機森林、邏輯回歸等等。回歸：Lasso、嶺回歸等等。聚類：k-均值、譜聚類等等。降維：PCA、特征選擇、矩陣分解等等。選型：網(wǎng)格搜索、交叉驗證、度量。預(yù)處理：特征提取、標(biāo)準(zhǔn)化。1.4機器學(xué)習(xí)示例自動駕駛機器翻譯游戲中的人工智能1.4.1自動駕駛“自動駕駛”這個詞最早來自于飛機、列車、航運領(lǐng)域的輔助駕駛系統(tǒng)。它的廣義定義為：自動駕駛是無須人工的持續(xù)干預(yù)下，用于自動控制交通工具行駛軌跡的系統(tǒng)。上層控制：路線規(guī)劃，交通分析，交通安排。中層控制：無提示表，路障監(jiān)測，遵守交規(guī)。底層控制：巡航控制，防抱死，電子系統(tǒng)控制牽引力，燃油噴射系統(tǒng)，引擎調(diào)諧。1.4.2機器翻譯機器翻譯，即通過計算機將一種語言的文本翻譯成另一種語言，已成為目前解決語言屏障的重要方法之一。神經(jīng)網(wǎng)絡(luò)模型首先需要將源語言和目標(biāo)語言的詞語轉(zhuǎn)化為向量表達，隨后用循環(huán)神經(jīng)網(wǎng)絡(luò)對翻譯過程進行建模，如圖所示。通常會先使用一個循環(huán)神經(jīng)網(wǎng)絡(luò)作為編碼器，將輸入序列（源語言句子的詞序列）編碼成為一個向量表示，然后再使用一個循環(huán)神經(jīng)網(wǎng)絡(luò)作為解碼器，從編碼器得到的向量表示里解碼得到輸出序列。1.4.3游戲中