大數(shù)據(jù)技術原理

大數(shù)據(jù)技術張瑞芝計算機科學與技術16081200210009DeeplearningYannLeCun,YoshuaBengio,GeoffreyHinton

SupervisedlearningBackpropagationtotrainmultilayerarchitecturesConvolutionalneuralnetworksImageunderstandingwithdeepconvolutionalnetworksDistributedrepresentationsandlanguageprocessingRecurrentneuralnetworksThefutureofdeeplearningSupervisedlearning監(jiān)督學習是利用一組已知類別的樣本調整分類器的參數(shù)，并使其達到所要求性能的過程，監(jiān)督學習完成了從標記的訓練數(shù)據(jù)來實現(xiàn)分類功能的機器學習任務。傳統(tǒng)的方法是通過手工方法來設計良好的特征提取器，這需要大量的工程技術和專業(yè)領域知識。深度學習的關鍵優(yōu)勢在于使用了通用的學習過程從數(shù)據(jù)中學到良好的特征，從而避免了傳統(tǒng)方法中所需的人工工程。Backpropagationtotrainmultilayerarchitectures通過反向傳播算法來訓練多層神經(jīng)網(wǎng)絡反向傳播算法（Backpropagation）是目前用來訓練人工神經(jīng)網(wǎng)絡的最常用且最有效的算法。Convolutionalneuralnetworks卷積神經(jīng)網(wǎng)絡是一種前饋神經(jīng)網(wǎng)絡，它包括卷積層和池化層，它的人工神經(jīng)元可以響應一定覆蓋范圍內(nèi)的周圍單元，對大型圖像的處理表現(xiàn)得很出色。在BP神經(jīng)網(wǎng)絡中，每一層都是全連接的，這使訓練變得困難。而CNN的卷積層每個節(jié)點與上一層某個區(qū)域通過卷積核連接，而與這塊區(qū)域以外的區(qū)域無連接。但每個節(jié)點對應不同的卷積核導致訓練量依然很大。為此，CNN提出了權值共享概念，即同一個卷積層內(nèi)，所有神經(jīng)元的權值是相同的。池化層夾在卷積層中間，其主要作用是逐步壓縮減少數(shù)據(jù)和參數(shù)的數(shù)量，也在一定程度上減少過擬合現(xiàn)象。其功能是把上一層輸入數(shù)據(jù)的某塊區(qū)域壓縮成一個值。Imageunderstandingwithdeepconvolutionalnetworks左圖為人工智能專家李飛飛利用大數(shù)據(jù)來訓練計算機視覺，通過深度CNN來教計算機理解圖片。而且李飛飛共享了ImageNet。作為和大腦神經(jīng)原理類似的卷積神經(jīng)網(wǎng)絡，使用ImageNet進行訓練是非常合適的選擇。Distributedrepresentationsandlanguageprocessing要將自然語言交給機器學習中的算法來處理，通常需要首先將語言數(shù)學化，詞向量就是用來將語言中的詞進行數(shù)學化的一種方式。DistributedRepresentation的基本想法是：通過訓練將某種語言中的每一個詞映射成一個固定長度的短向量，將所有這些向量放在一起形成一個詞向量空間，而每一個向量則為該空間中的一個點，在這個空間上引入“距離”，則可以根據(jù)詞之間的距離來判斷它們之間的（詞法、語義上的）相似性了。下面的左、右兩幅圖中五個詞在兩個向量空間中的相對位置差不多，這說明兩種不同語言對應向量空間的結構之間具有相似性，從而進一步說明了在詞向量空間中利用距離刻畫詞之間相似性的合理性。Recurrentneuralnetworks在RNN中，輸入層和來自序列中上一元素隱藏層的信號共同作用于當前的隱藏層數(shù)據(jù)挖掘與醫(yī)學數(shù)據(jù)資源開發(fā)利用醫(yī)學數(shù)據(jù)資料的狀況數(shù)據(jù)挖掘的應用數(shù)據(jù)挖掘的方法以及具體應用聚類分析（ClusteringAnalysis）關聯(lián)分析（CorrelationAnalysis）決策樹（DecisionTree）

結論聚類分析（ClusteringAnalysis）聚類分析是對輸入集中的記錄進行分類。根據(jù)一定的規(guī)則，合理地進行分組或聚類，并用顯式或者隱式的方法描述不同的類別。聚類分析是一種探索性的統(tǒng)計分析方法，是在沒有先驗知識的情況下對數(shù)據(jù)資料進行分類，其實質就是按照資料的內(nèi)在相似或相關程度將數(shù)據(jù)分為若干個類別，以使得類別內(nèi)數(shù)據(jù)的“差異”盡可能小，類別間“差異”盡可能大。關聯(lián)分析（CorrelationAnalysis）表示數(shù)據(jù)庫中一組對象之間某種關聯(lián)關系的規(guī)則，挖掘一個事件和其他事件之間依賴或關聯(lián)的知識。如果兩項或多項屬性之間存在關聯(lián)，那么其中一項的屬性值就可以依據(jù)其他屬性值進行預測。關聯(lián)規(guī)則的挖掘問題就是在給定的數(shù)據(jù)庫中，找出滿足最小支持度和最小置信度的關聯(lián)規(guī)則。關聯(lián)規(guī)則有如下優(yōu)點：可以產(chǎn)生清晰有用的結果；支持間接數(shù)據(jù)挖掘；可以處理變長的數(shù)據(jù)；計算的消耗量可以預見。決策樹（DecisionTree）首先通過一批已知的訓練數(shù)據(jù)建立一顆決策樹；然后，利用建好的決策樹，對數(shù)據(jù)進行預測。這是一種用樹枝狀展現(xiàn)數(shù)據(jù)受各變量影響情況的分析預測模型，根據(jù)對目標變量產(chǎn)生效應的不同，而制定分類規(guī)則，它是建立在信息論基礎之上的對數(shù)據(jù)進行分類的一種方法。決策樹的建立過程是數(shù)據(jù)規(guī)則的生成過程，因此這種方法實現(xiàn)了數(shù)據(jù)規(guī)則的可視化，其輸出結果容易理解，精確度較好，效率較高，因而較為常用。結論聚類分析、關聯(lián)分析以及決策樹是醫(yī)學數(shù)據(jù)挖掘中的主要方法，三者的結合，可以對某一類疾病進行