《人工智能概論》 課件 第四章 人工神經(jīng)網(wǎng)絡(luò)基礎(chǔ)

《人工智能概論》第四章人工神經(jīng)網(wǎng)絡(luò)基礎(chǔ)目

錄CONTENT01人工神經(jīng)元02感知機(jī)多層感知機(jī)0304Hopfield神經(jīng)網(wǎng)絡(luò)05卷積神經(jīng)網(wǎng)絡(luò)人工神經(jīng)網(wǎng)絡(luò)的思想是通過仿真生物神經(jīng)系統(tǒng)的微結(jié)構(gòu)——人工神經(jīng)元，在此基礎(chǔ)上構(gòu)建更加復(fù)雜的網(wǎng)絡(luò)系統(tǒng)，以達(dá)到仿真生物神經(jīng)系統(tǒng)的目的，最終使機(jī)器擁有類似人類的智能。本章將介紹人工神經(jīng)網(wǎng)絡(luò)的基本原理及應(yīng)用。PART01生物神經(jīng)元的構(gòu)造生物神經(jīng)元的構(gòu)造如圖所示。樹突及其突觸。上級神經(jīng)元傳來的沖動信號由樹突上的突觸負(fù)責(zé)接收，再經(jīng)由樹突傳入細(xì)胞體。細(xì)胞體。由樹突傳入的沖動信號由細(xì)胞體處理，處理方式大致為：如果傳入的沖動信號達(dá)到或超過一定的閾值，則神經(jīng)元處于興奮狀態(tài)，否則神經(jīng)元處于抑制狀態(tài)。軸突及其突觸。細(xì)胞體產(chǎn)生的沖動信號經(jīng)由軸突傳到軸突的突觸，再經(jīng)由各突觸傳到下級神經(jīng)元。010203正常人約有1011個神經(jīng)元，每個神經(jīng)元通過其軸突與其他神經(jīng)元有10～104個（平均103個）鏈接，整個大腦約共有1014個連接，從而構(gòu)成極其復(fù)雜的神經(jīng)網(wǎng)絡(luò)。生物神經(jīng)元主要由三部分構(gòu)成，三個部分的功能如下：人工神經(jīng)元模型1.

人工神經(jīng)元的結(jié)構(gòu)為了模擬生物神經(jīng)元的信息處理機(jī)制，麥克洛奇（Warren

McCulloch）和皮茲（Walter

Pitts）于1943年提出了人工神經(jīng)元模型（M-P模型），該模型可以看作是對生物神經(jīng)元的簡化和抽象。他們將樹突及其突觸簡化并抽象為一組輸入變量，將細(xì)胞體抽象為一個激活函數(shù)（也稱為傳遞函數(shù)），軸突及其突觸簡化并抽象為一個輸出變量y。結(jié)構(gòu)上，該模型可用圖表示。圖中為輸入變量的權(quán)重，b為偏置。人工神經(jīng)元的結(jié)構(gòu)示意圖02人工神經(jīng)元模型2.

人工神經(jīng)元的推理功能上，該模型可以用式（4.1）表示：（4.1）為了簡化書寫，式（4.1）也可以寫成向量形式：（4.2）式中， ， 。注意，此處偏置 已融合到權(quán)重向量 中，因此輸入向量 的第一個元素恒為1。同時，為了簡化敘述，如不特別說明，后面提到的權(quán)重都是指包含偏置的權(quán)重。這里還要特別介紹一下人工神經(jīng)元的激活函數(shù)，或稱為傳遞函數(shù)（Transfer

Function）。激活函數(shù)模擬了生物神經(jīng)元的決策機(jī)制，即負(fù)責(zé)決定人工神經(jīng)元處于興奮還是處于抑制狀態(tài)，是人工神經(jīng)元最為關(guān)鍵的部分。激活函數(shù)有多種形式，這里我們先介紹最為簡單、最為直接的一種——階躍函數(shù)。02人工神經(jīng)元模型如果用0代表抑制，1代表興奮，則激活函數(shù)可以簡單地設(shè)計為（4.3）該函數(shù)也稱為單極型階躍函數(shù)，或者稱為二值硬限器（Binary

Hard

Limiter）。如果用-1代表抑制，1代表興奮，則激活函數(shù)可以簡單地設(shè)計為（4.4）02人工神經(jīng)元模型該函數(shù)也稱為對稱型階躍函數(shù)，或者稱為雙極硬限器（Symmetric

Hard

Limiter）。下圖就是這兩類函數(shù)的圖像。（a）單極型階躍函數(shù)圖像（b）對稱型階躍函數(shù)圖像階躍函數(shù)的函數(shù)圖像02人工神經(jīng)元模型請你驗(yàn)證右圖所示的人工神經(jīng)元與“與”邏輯等價。其中，激活函數(shù)為式（4.3）所示的單極型階躍函數(shù)。階躍函數(shù)的函數(shù)圖上圖人工神經(jīng)元的真值人工神經(jīng)元的知識就包含在它的權(quán)值和偏置中。只要給人工神經(jīng)元設(shè)置適當(dāng)?shù)臋?quán)值和偏置，就可以讓