人工智能8神經網絡

人工神經網絡陳志華主要內容人工神經網絡概述生物神經元人工神經元1.人工神經網絡概述什么是人工神經網絡？T.Koholen的定義：“人工神經網絡是由具有順應性的簡單單元組成的廣泛并行互連的網絡，它的組織可以模擬生物神經系統(tǒng)對真實世界物體所作出的交互反響。〞ANN研討的目的和意義(1)經過提示物理平面與認知平面之間的映射，了解它們相互聯(lián)絡和相互作用的機理，從而提示思想的本質，探求智能根源。(2)爭取構造出盡能夠與人腦具有類似功能的計算機，即ANN計算機。(3)研討仿照腦神經系統(tǒng)的人工神經網絡，將在方式識別、組合優(yōu)化和決策判別等方面，獲得傳統(tǒng)計算機所難以到達的效果。神經網絡研討的開展(1)第一次熱潮(40-60年代未)1943年,美國心思學家W.McCulloch和數學家W.Pitts在提出了一個簡單的神經元模型，即MP模型。1958年，F(xiàn).Rosenblatt等研制出了感知機(Perceptron〕。(2)低潮(70-80年代初)(3)第二次熱潮1982年，美國物理學家J.J.Hopfield提出Hopfield模型，它是一個互聯(lián)的非線性動力學網絡。它處理問題的方法是一種反復運算的動態(tài)過程,這是符號邏輯處置方法所不具備的性質.1987年首屆國際ANN大會在圣地亞哥召開，國際ANN結合會成立，興辦了多種ANN國際刊物。1990年12月，北京召開首屆學術會議。神經網絡的優(yōu)點普通而言,ANN與經典計算方法相比并非優(yōu)越,只需當常規(guī)方法處理不了或效果不佳時ANN方法才干顯示出其優(yōu)越性。對問題的機理不甚了解或不能用數學模型表示的系統(tǒng),如缺點診斷、特征提取和預測等問題,ANN往往是最有利的工具。對處置大量原始數據而不能用規(guī)那么或公式描畫的問題,表現(xiàn)出極大的靈敏性和自順應性。人工神經網絡以其具有自學習、自組織、較好的容錯性和優(yōu)良的非線性逼近才干，遭到眾多領域學者的關注。在實踐運用中，80%～90%的人工神經網絡模型是采用BP網絡，目前主要運用于函數逼近、方式識別、分類和數據緊縮或數據發(fā)掘。人工神經網絡研討的局限性〔1〕ANN研討遭到腦科學研討成果的限制?！?〕ANN短少一個完好、成熟的實際體系?！?〕ANN研討帶有濃重的戰(zhàn)略和閱歷顏色。〔4〕ANN與傳統(tǒng)技術的接口不成熟。2.生物神經元神經元是大腦處置信息的根本單元人腦大約由1011個神經元組成，神經元相互銜接成神經網絡神經元以細胞體為主體，由許多向周圍延伸的不規(guī)那么樹枝狀纖維構成的神經細胞，其外形很像一棵枯樹的枝干神經元主要由細胞體、樹突、軸突和突觸組成生物神經元表示圖細胞體用于處置從其他神經元傳送過來的信息軸突相當于神經元的輸出電纜，利用尾部的神經末梢和梢端的突觸輸出樹突神經元的輸入端突觸神經元之間相互銜接的接口，即一個神經元的神經末梢與另一個神經元的樹突相接觸的交接面突觸的信息處置神經元各組成部分的功能來看，信息的處置與傳送主要發(fā)生在突觸附近神經元細胞體經過軸突將脈沖傳送到突觸前膜當脈沖幅度到達一定強度，即超越其閾值電位后，突觸前膜將向突觸間隙釋放神經傳送的化學物質生物神經元傳送信息的過程為多輸入、單輸出突觸有兩種類型：興奮性突觸和抑制性突觸。前者產生正突觸后電位，后者產生負突觸后電位突觸的傳送功能與特點不可逆性脈沖只從突觸前傳到突觸后，不逆向傳送對信息傳送具有時延和不應期，普通為0.3～lms相鄰的兩次輸入之間，需求一定的間隔；在此間隔內，突觸不傳送信息可塑性突觸傳送信息的強度是可變的，即具有學習功能學習、遺忘或疲勞〔飽和〕效應對應突觸傳送作用加強、減弱和飽和生物神經網絡根本模型3.人工神經元人工神經網絡神經網絡是一個并行和分布式的信息處置網絡構造它普通由大量神經元組成每個神經元只需一個輸出，可以銜接到很多其他的神經元每個神經元的輸入有多個銜接通道，每個銜接通道對應于一個銜接權系數M-P神經元模型心思學家麥克洛奇(W.McCulloch)和數理邏輯學家皮茲(W.Pitts)于1943年首先提出了一個簡化的神經元模型,稱為M-P模型y……興奮性輸入e抑制性輸入i闡明圓表示神經元的細胞體；外部輸入包括興奮性輸入和抑制性輸入符號θ表示神經元興奮的閾值M-P模型的輸入輸出關系常用的神經元構造模型…模型闡明閾值函數S型函數雙曲正切函數4.人工神經網絡的互聯(lián)構造ANN可分為兩種相互銜接網絡分層網絡單層兩層網絡構造多層網絡構造相互銜接網絡典型的網絡構造單層網絡多層前向網絡帶側抑制的多層