七步精通Python機(jī)器學(xué)習(xí)

1、七步精通Python機(jī)器學(xué)習(xí)主題 數(shù)據(jù)挖掘 Python開(kāi)始。這是最容易令人喪失斗志的兩個(gè)字。邁出第一步通常最艱難。當(dāng)可以選擇的方向太多時(shí)，就更讓人兩腿發(fā)軟了。從哪里開(kāi)始？本文旨在通過(guò)七個(gè)步驟，使用全部免費(fèi)的線上資料，幫助新人獲取最基本的 Python 機(jī)器學(xué)習(xí)知識(shí)，直至成為博學(xué)的機(jī)器學(xué)習(xí)實(shí)踐者。這篇概述的主要目的是帶領(lǐng)讀者接觸眾多免費(fèi)的學(xué)習(xí)資源。這些資源有很多，但哪些是最好的？哪些相互補(bǔ)充？怎樣的學(xué)習(xí)順序才最好？我假定本文的讀者不是以下任何領(lǐng)域的專家：  機(jī)器學(xué)習(xí)  Python   任何Python的機(jī)器學(xué)習(xí)、科學(xué)計(jì)算、

2、數(shù)據(jù)分析庫(kù)如果你有前兩個(gè)領(lǐng)域其一或全部的基礎(chǔ)知識(shí)，可能會(huì)很有幫助，但這些也不是必需的。在下面幾個(gè)步驟中的前幾項(xiàng)多花點(diǎn)時(shí)間就可以彌補(bǔ)。第一步：基本 Python 技能 如果要使用 Python 進(jìn)行機(jī)器學(xué)習(xí)，擁有對(duì) Python 有基礎(chǔ)的理解非常關(guān)鍵。幸運(yùn)的是，Python 是當(dāng)前普遍使用的流行語(yǔ)言，并納入了科學(xué)計(jì)算和機(jī)器學(xué)習(xí)的內(nèi)容，所以找到入門教程并不困難。在選擇起點(diǎn)時(shí)，很大程度上要取決于你之前的 Python 經(jīng)驗(yàn)和編程經(jīng)驗(yàn)。首先要安裝 Python 。由于我們要使用機(jī)器學(xué)習(xí)和科學(xué)計(jì)算的 packages ，這里建議安裝 Anaconda 。Anaconda 是一個(gè)可在 Linux

3、 , OSX , Windows 上運(yùn)行的 Python 實(shí)現(xiàn)工具，擁有所需的機(jī)器學(xué)習(xí) packages ，包括 numpy，scikit-learn，matplotlib。它還包含iPython Notebook ，一個(gè)帶有許多教程的交互式環(huán)境。這里推薦使用 Python 2.7 ，不是因?yàn)樘厥庠颍皇且驗(yàn)樗悄壳鞍惭b版本中的主流。如果你之前沒(méi)有編程知識(shí)，建議你閱讀這本免費(fèi)電子書(shū)，然后再接觸其他學(xué)習(xí)材料：   Python The Hard Way 作者Zed A. Shaw 如果你之前有編程知識(shí)，但不是Python的，又或者你的Python水平很基礎(chǔ)，推薦下

4、列一種或幾種教程：   Google Developers Python Course （(強(qiáng)烈推薦給視覺(jué)型學(xué)習(xí)者）   An Introduction to Python for Scientific Computing (from UCSB Engineering) 作者 M. Scott Shell (一個(gè)很好的 Python 科學(xué)計(jì)算簡(jiǎn)介，60 頁(yè)) 對(duì)于想要速成課程的人，這里有：   Learn X in Y Minutes (X = Python)當(dāng)然，如果你是個(gè)經(jīng)驗(yàn)豐富的Python程序員，可以跳過(guò)這一步。盡管

5、如此，還是建議你把通俗易懂的  Python documentation   放在手邊。 第二步：機(jī)器學(xué)習(xí)基礎(chǔ)技能KDnuggets 的 Zachary Lipton 指出，人們對(duì)于“數(shù)據(jù)科學(xué)家”的認(rèn)知千差萬(wàn)別。這實(shí)際上是對(duì)機(jī)器學(xué)習(xí)領(lǐng)域的反映。數(shù)據(jù)科學(xué)家在不同程度上使用計(jì)算學(xué)習(xí)算法。要建立和使用支持向量機(jī)模型，熟知 核函數(shù)方法是否是必需的？ 答案當(dāng)然不是。就像現(xiàn)實(shí)生活中的許多事情一樣，所需要的理論深入程度與具體的實(shí)際應(yīng)用有關(guān)。獲取對(duì)機(jī)器學(xué)習(xí)算法的深入理解不是本文的討論范圍， 而且這通常需要在學(xué)術(shù)領(lǐng)域投入大量時(shí)間，或者至少要通過(guò)密集的自學(xué)才能達(dá)到。好消息是，你不必?fù)?/p>

6、有博士級(jí)別的機(jī)器學(xué)習(xí)理論能力才能進(jìn)行實(shí)踐，就如同不是所有程序員都必須接受計(jì)算機(jī)理論教育才能寫(xiě)好代碼。吳恩達(dá)在 Coursera 的課程飽受贊譽(yù)。但我的建議是去看看一名以前的學(xué)生做的筆記。略過(guò)那些針對(duì) Octave（一個(gè)與 Python 無(wú)關(guān)的，類 Matlab 語(yǔ)言）的內(nèi)容。需要注意，這些不是“官方”的筆記，雖然看起來(lái)的確抓住了吳恩達(dá)課程材料的相關(guān)內(nèi)容。如果你有時(shí)間，可以自己去 Coursera 完成這個(gè)課程 ： Andrew Ng's Machine Learning course 。   非官方課程筆記 鏈接 除了吳恩達(dá)的課程以外，還有很多其

7、他視頻教程。我是Tom Mitchell的粉絲，下面是他（與Maria-Florina Balcan共同完成的）最新的課程視頻，對(duì)學(xué)習(xí)者非常友好： Tom Mitchell Machine Learning Lectures你不需要現(xiàn)在看完全部的筆記和視頻。比較好的策略是向前推進(jìn)，去做下面的練習(xí)，需要的時(shí)候再查閱筆記和視頻。比如，你要做一個(gè)回歸模型，就可以去查閱吳恩達(dá)課程有關(guān)回歸的筆記以及/或者M(jìn)itchell的視頻。 第三步：科學(xué)計(jì)算 Python packages 一覽 好了?，F(xiàn)在我們有了 Python 編程經(jīng)驗(yàn)，并對(duì)機(jī)器學(xué)習(xí)有所了解。Python 有很多為機(jī)器學(xué)習(xí)提供

8、便利的開(kāi)源庫(kù)。通常它們被稱為Python科學(xué)庫(kù)（ scientific Python libraries ），用以執(zhí)行基本的數(shù)據(jù)科學(xué)任務(wù)（這里有一點(diǎn)程度主觀色彩）： numpy - 主要用于N維數(shù)組 pandas - Python數(shù)據(jù)分析庫(kù)，包含dataframe等結(jié)構(gòu) matplotlib - 2D繪圖庫(kù)，產(chǎn)出質(zhì)量足以進(jìn)行印刷的圖 scikit-learn - 數(shù)據(jù)分析、數(shù)據(jù)挖掘任務(wù)使用的機(jī)器學(xué)習(xí)算法學(xué)習(xí)以上這些內(nèi)容可以使用： Scipy Lecture Notes 作者 Gaël Varoquaux， Emmanuelle Gouillart， Olav Vahtras

9、 下面這個(gè)pandas教程也不錯(cuò)，貼近主題： 10 Minutes to Pandas在后面的教程中你會(huì)看到其他一些packages，比如包括Seaborn，一個(gè)基于matplotlib的可視化庫(kù)。前面提到的packages （再次承認(rèn)具有一定主觀色彩）是許多Python機(jī)器學(xué)習(xí)任務(wù)的核心工具。不過(guò)，理解它們也可以讓你在之后的教程中更好理解其他相關(guān)packages。好了，現(xiàn)在到了有意思的部分.第四步：開(kāi)始用Python進(jìn)行機(jī)器學(xué)習(xí)Python。搞定。機(jī)器學(xué)習(xí)基礎(chǔ)。搞定。Numpy。搞定。Pandas。搞定。Matplotlib。搞定。是時(shí)候用Python的標(biāo)準(zhǔn)機(jī)器學(xué)習(xí)庫(kù)，scikit

10、-learn，實(shí)現(xiàn)機(jī)器學(xué)習(xí)算法了。scikit-learn 算法選擇圖下面許多教程和練習(xí)都基于交互式環(huán)境iPython (Jupyter) Notebook。這些iPython Notebooks有些可以在網(wǎng)上觀看，有些可以下載到本地電腦。   iPython Notebook 概覽 斯坦福大學(xué) 也請(qǐng)注意下面的資源來(lái)自網(wǎng)絡(luò)。所有資源屬于作者。如果出于某種原因，你發(fā)現(xiàn)有作者沒(méi)有被提及，請(qǐng)告知我，我會(huì)盡快改正。在此特別要向 Jake VanderPlas ， Randal Olson ， Donne Martin ， Kevin Markham ， Colin Raf

11、fel 致敬，感謝他們提供的優(yōu)秀免費(fèi)資源。下面是scikit-learn的入門教程。在進(jìn)行下一個(gè)步驟之前，推薦做完下列全部教程。對(duì)于scikit-learn的整體介紹，它是Python最常用的通用機(jī)器學(xué)習(xí)庫(kù)，包含knn最近鄰算法：   An Introduction to scikit-learn 作者 Jake VanderPlas 更深入更寬泛的介紹，包含一個(gè)新手項(xiàng)目，從頭到尾使用一個(gè)著名的數(shù)據(jù)集：   Example Machine Learning Notebook 作者Randal Olson 專注于scikit-learn

12、中評(píng)估不同模型的策略，涉及訓(xùn)練集/測(cè)試集拆分：   Model Evaluation 作者 Kevin Markham 第五步：Python機(jī)器學(xué)習(xí)主題在scikit-learn打下基礎(chǔ)以后，我們可以探索更多有用的常見(jiàn)算法。讓我們從最知名的機(jī)器學(xué)習(xí)算法之一，k-means聚類開(kāi)始。對(duì)于無(wú)監(jiān)督學(xué)習(xí)問(wèn)題，k-means通常簡(jiǎn)單有效：   k-means Clustering 作者Jake VanderPlas 接下來(lái)是分類，讓我們看看史上最流行的分類方法之一，決策樹(shù)：   Decision Trees via 

13、; The Grimm Scientist分類之后，是連續(xù)數(shù)字變量的預(yù)測(cè)：   Linear Regression 作者 Jake VanderPlas 通過(guò)邏輯斯蒂回歸，我們可以用回歸解決分類問(wèn)題：   Logistic Regression 作者Kevin Markham 第六步：Python高級(jí)機(jī)器學(xué)習(xí)接觸過(guò)scikit-learn，現(xiàn)在讓我們把注意力轉(zhuǎn)向更高級(jí)的內(nèi)容。首先是支持向量機(jī)，一個(gè)無(wú)需線性的分類器，它依賴復(fù)雜的數(shù)據(jù)轉(zhuǎn)換，把數(shù)據(jù)投向高維空間。   Support Vector Machines 作者

14、Jake VanderPlas 接下來(lái)是隨機(jī)森林，一種集成分類器。下面的教程通過(guò)  Kaggle Titanic Competition 講解。    Kaggle Titanic Competition (with Random Forests) 作者 Donne Martin 降維是一種減少問(wèn)題涉及的變量數(shù)目的方法。PCA主成分分析是一種無(wú)監(jiān)督學(xué)習(xí)降維的特殊形式：   Dimensionality Reduction 作者 Jake VanderPlas 在開(kāi)始下一步之前，可以暫停一下，回想我們?cè)诙潭?/p>

15、的時(shí)間已經(jīng)走了多遠(yuǎn)。通過(guò)使用Python和它的機(jī)器學(xué)習(xí)庫(kù)，我們涵蓋了一些最常用最知名的機(jī)器學(xué)習(xí)算法（knn最近鄰，k-means聚類，支持向量機(jī)），了解了一種強(qiáng)有力的集成方法（隨機(jī)森林），涉及了一些其他機(jī)器學(xué)習(xí)支持方案（降維，模型驗(yàn)證技巧）。在一些基礎(chǔ)機(jī)器學(xué)習(xí)的技巧的幫助下，我們開(kāi)始有了一個(gè)漸漸豐富的工具箱。在結(jié)束以前，讓我們給工具箱增加一個(gè)需求很大的工具：第七步 ：Python深度學(xué)習(xí)學(xué)習(xí)，深深地 。到處都在深度學(xué)習(xí)！深度學(xué)習(xí)基于過(guò)去幾十年的神經(jīng)網(wǎng)絡(luò)研究，但最近幾年的發(fā)展大大增加了深度神經(jīng)網(wǎng)絡(luò)的能力和對(duì)于它的興趣。如果你不熟悉深度學(xué)習(xí)， KDnuggets 有 許多文章 

16、，詳細(xì)介紹最近的進(jìn)展、成果，以及對(duì)這項(xiàng)技術(shù)的贊譽(yù)。 本文的最后一部分并不想成為某種深度學(xué)習(xí)示范教程。我們會(huì)關(guān)注基于兩個(gè)Python深度學(xué)習(xí)庫(kù)的簡(jiǎn)單應(yīng)用。對(duì)于想了解更多的讀者，我推薦下面這本免費(fèi)在線書(shū)：   Neural Networks and Deep Learning 作者  Michael NielsenTheanoTheano是我們關(guān)注的第一個(gè)Python深度學(xué)習(xí)庫(kù)。根據(jù)作者所說(shuō)：作為一個(gè)Python庫(kù)，Theano讓你可以有效定義、優(yōu)化、評(píng)估包含多維數(shù)組的數(shù)學(xué)表達(dá)式。下面的Theano深度學(xué)習(xí)教程很長(zhǎng)，但非常不錯(cuò)，描述詳細(xì)，有大量評(píng)論：   Theano Deep Learning Tutorial 作者  Colin RaffelCaffe我們關(guān)注的另一個(gè)庫(kù)是Caffe。根據(jù)它的作者所說(shuō)：Caffe是一個(gè)深度學(xué)習(xí)框架。開(kāi)發(fā)過(guò)程中時(shí)刻考慮著表達(dá)式、速度、模型。 它是由Berkeley Vision and Learning Center (BVLC) 和社區(qū)貢獻(xiàn)者共同開(kāi)發(fā)的。這個(gè)教程是本文的壓軸。盡管上