利用神經(jīng)網(wǎng)絡(luò)生成評語

1、利用神經(jīng)網(wǎng)絡(luò)生成評語陳 燁（四川大學(xué)電氣信息學(xué)院 610065）內(nèi)容摘要 本文介紹了人工神經(jīng)網(wǎng)絡(luò)用于協(xié)助老師生成評語的方法。用這種方法，只需輸入學(xué)生的各項指數(shù)就能生成對學(xué)生的評價。由于神經(jīng)網(wǎng)絡(luò)具有較好的學(xué)習(xí)和推廣能力，生成的評語能夠較準(zhǔn)確的反映學(xué)生的表現(xiàn)。關(guān)鍵詞 人工神經(jīng)網(wǎng)絡(luò)，BP算法，評語Generating Remarks Using Neural NetworksChen Ye(School of Electrics Information, Sichuan University, Sichuan, 610065) Abstract A method of helping teacher

2、s to generate remarks using artificial neural networks is presented. Using this method to generate remarks of students, the only thing you need to do is to input the index of the students. Since the neural networks has good performance in studying and extending, the remarks generated by this method

3、can report the performance of the students accurately. Keywords Artificial Neural Networks, BP algorithm, remarks1 前言人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Networks, ANN）是在研究大腦工作原理的基礎(chǔ)上提出來的。它是生物神經(jīng)網(wǎng)絡(luò)（Biological Neural Networks, BNN）的一種簡化模型。人工神經(jīng)網(wǎng)絡(luò)具有較強的學(xué)習(xí)和推廣能力參考文獻1 袁曾任. 人工神經(jīng)元網(wǎng)絡(luò)及其應(yīng)用. 清華大學(xué)出版社：19992 閻平凡，張長水. 人工神經(jīng)網(wǎng)絡(luò)與模擬進化

4、計算. 清華大學(xué)出版社：20003 易繼鍇，侯媛彬. 智能控制技術(shù). 北京工業(yè)大學(xué)出版社：19994 Mike Gunderloy著. 張光霞，孫月琴，劉 釗 等譯.Visual Basic 開發(fā)指南ADO篇. 電子工業(yè)出版社：2000。它可以用硬件實現(xiàn)，也可以用軟件模擬。本文就是用軟件來模擬神經(jīng)網(wǎng)絡(luò)。迄今為止，已有十種以上的人工神經(jīng)網(wǎng)絡(luò)模型被提出并應(yīng)用到實踐中。其中，BP網(wǎng)絡(luò)是應(yīng)用的最廣泛的一種。它能夠在學(xué)習(xí)幾個樣本的基礎(chǔ)上進行推廣，從而掌握這一類問題。經(jīng)過學(xué)習(xí)后，它就能根據(jù)已學(xué)習(xí)的內(nèi)容對外部的輸入做出正確的響應(yīng)。BP網(wǎng)絡(luò)屬于前饋網(wǎng)絡(luò)。它可看成是一從輸入到輸出的高度非線性映射。Hecht-N

5、ielsen于1987年證明了Kolmogorov定理。其內(nèi)容為：:給定任何一個連續(xù)函數(shù)f:UnRm,Y=f(X), 其中，Un0，1，f可以精確地用一個三層前饋網(wǎng)絡(luò)實現(xiàn)，該網(wǎng)絡(luò)的第一層（即輸入層）有n個神經(jīng)元,中間隱含層有2n+1個神經(jīng)元，第三層（即輸出層）有m個神經(jīng)元1。 由于BP網(wǎng)絡(luò)具有上述一些優(yōu)良特性，一些學(xué)者已成功地將基于BP算法的人工神經(jīng)網(wǎng)絡(luò)運用解決倒立擺問題，直接根據(jù)地面信息預(yù)報天氣等。本文也將利用BP網(wǎng)絡(luò)的這些特點來達到智能生成評語的目的。下面將首先對評語的生成方法作一個簡單介紹，接著介紹本文方法中用到的BP網(wǎng)絡(luò)模型，然后介紹這種方法所需的數(shù)據(jù)結(jié)構(gòu)，最后簡要描述一下本文方法的工

6、作流程。2 評語生成方法人工寫評語時，總是由某個學(xué)生各個方面的各種表現(xiàn)推出這個學(xué)生在各方面能得到的評語。例如，一個學(xué)生在遵守紀律方面的表現(xiàn)為：遲到1次，曠課1次，上課講話2次。教師更具這幾個數(shù)據(jù)就會得出“不很遵守紀律”這樣的評語。這里，各種表現(xiàn)（如，遲到次數(shù)、曠課次數(shù)、上課講話次數(shù)等）與學(xué)生在各個方面能得到的評語（如，遵守紀律、不遵守紀律等）之間的關(guān)系通常是復(fù)雜的，是很難用一個簡明的解析式來表達的。用計算機生成評語不可能通過尋求這個簡明的解析式來生成評語。同時，也不能讓教師逐一輸入前面提到的那個復(fù)雜的關(guān)系。因此，本文選用神經(jīng)網(wǎng)絡(luò)來表示這個關(guān)系。這種方法不僅能減少教師的工作量，還能生成能夠準(zhǔn)確反

7、映學(xué)生情況的評語。3 BP網(wǎng)絡(luò)模型BP（Back Propagation）網(wǎng)絡(luò)是由P.Werbos, David Rumelhart等人提出的。它由多層神經(jīng)元通過一定的連接權(quán)連接起來，并采用BP算法作為訓(xùn)練算法。下面將作具體描述。3.1 BP網(wǎng)絡(luò)結(jié)構(gòu)BP網(wǎng)絡(luò)由若干個神經(jīng)元組成，這些神經(jīng)元可分為幾層，任何一個神經(jīng)元于同一層的神經(jīng)元之間無直接關(guān)系，而且各神經(jīng)元的輸出信號只能向前傳播，輸入信號只能由該神經(jīng)元后面的神經(jīng)元（或輸入節(jié)點）傳來。單個神經(jīng)元的結(jié)構(gòu)如圖1所示。它將多個輸入加權(quán)求和并減去閾值i，在激活函數(shù)f(·)的作用下，得到一個輸出。這個關(guān)系可表述為 （1） （2）其中，xj是輸入信

8、號，wij表示從神經(jīng)元i到神經(jīng)元j的連接權(quán)值，i為閾值，Oi為第i個神經(jīng)元的輸出。f(·)為激活函數(shù)。激活函數(shù)有多種類型，如閾值型、飽和型等。本文采用S型激活函數(shù)（本文中取1） （3）本文中用到的神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如圖2。這是一個三層網(wǎng)絡(luò)。輸入的數(shù)據(jù)通過輸入節(jié)點的神經(jīng)元經(jīng)過計算得出這一層中各神經(jīng)元的輸出。這一層的神經(jīng)元又計算出自己的輸出并傳給下一層。如此進行直到計算出輸出節(jié)點的輸出為止。學(xué)生各方面的表現(xiàn)與評語內(nèi)容之間是一種非線性關(guān)系。因此根據(jù)Kolmogorov定理，為了保證該神經(jīng)網(wǎng)絡(luò)能成功地學(xué)習(xí)，根據(jù)該問題的特點，本文取BP網(wǎng)絡(luò)的輸出節(jié)點數(shù)為1，隱含層神經(jīng)元數(shù)為輸入層的2倍加上1，輸入

9、層的節(jié)點數(shù)與生成當(dāng)前評語所需的評價等級數(shù)目一致（后面將作具體闡述）。3.2 BP網(wǎng)絡(luò)的學(xué)習(xí)算法BP網(wǎng)絡(luò)在正常工作前必須經(jīng)過訓(xùn)練。訓(xùn)練時通常需要有多個訓(xùn)練樣本，以保證神經(jīng)網(wǎng)絡(luò)具有良好的推廣能力。訓(xùn)練所要求的樣本數(shù)可近似的表達為：若允許的訓(xùn)練誤差為,那么，訓(xùn)練樣本數(shù)應(yīng)大于連接權(quán)個數(shù)與的商。訓(xùn)練時，先將訓(xùn)練樣本的輸入部分從輸入神經(jīng)元輸入，然后根據(jù)公式（1）（3）依次計算各層的神經(jīng)元的輸出。最后從輸出節(jié)點開始按下式調(diào)整各連接權(quán)值 如果神經(jīng)元i是輸出單元i= （4） 如果神經(jīng)元i不是輸出單元其中， ci表示訓(xùn)練集中當(dāng)前輸入對應(yīng)的輸出的第i分量。由激活函數(shù)解析式可求出 （5）計算出個神經(jīng)元的i后，按下式調(diào)

10、節(jié)權(quán)值 （6）反復(fù)按照公式（4）、（5）、（6）調(diào)節(jié)權(quán)值直到均方誤差E足夠小。其中，E的定義如下 （7）其中，k表示訓(xùn)練樣本序號。3.3 BP網(wǎng)絡(luò)的使用BP網(wǎng)絡(luò)經(jīng)過學(xué)習(xí)后，就可以它來解決問題使用了。需要解決已訓(xùn)練的問題時，就將需要輸入信息從神經(jīng)網(wǎng)絡(luò)的輸入節(jié)點輸入，根據(jù)公式（1）（3）從輸入節(jié)點開始計算各神經(jīng)元的輸出。最后，輸出節(jié)點的輸出即為所求問題的解。4 數(shù)據(jù)結(jié)構(gòu)本文根據(jù)算法的需要，將評語按以下方式來確定：評價角度1評價角度n評價點1評價等級1具體等級1評語等級1評語等級2具體內(nèi)容1具體內(nèi)容2表 1 評語確定方式由表1可知，整個數(shù)據(jù)結(jié)構(gòu)由n個評價角度（如，德、智、體等）組成，每一個評價角度又

11、由一定數(shù)量的評價點組成（如，“德”可由“是否遵守紀律”、“是否尊敬師長”等組成），每一個評價點又由若干個評價等級組成（如，“是否遵守紀律”可由“上課隨便講話次數(shù)”、“遲到次數(shù)”、“曠課次數(shù)”等組成），每個評價等級還包含若干個具體等級（如，“曠課次數(shù)”可包括“一次”、“兩次”、“三次及以上”等具體等級）。當(dāng)某個評價點的每一個評價等級對應(yīng)的具體等級都已確定時，就通過神經(jīng)網(wǎng)絡(luò)計算出學(xué)生在該評價點上能得到的評語等級的序號（如，“是否遵守紀律”可包含“遵守紀律”、“不遵守紀律”等評語等級），然后根據(jù)這個序號，從對應(yīng)的評語內(nèi)容下的具體內(nèi)容（如，“不遵守紀律”可包含“不能遵守紀律”、“希望能遵守紀律”等具體

12、內(nèi)容）中任選一個寫入評語，這樣可保證評語語句的多樣性。從這里的敘述可看出對數(shù)據(jù)結(jié)構(gòu)進行這樣的劃分是必要的。由于評價點與評價等級、具體等級、評語等級之間有這樣一個關(guān)系：對某一個學(xué)生進行評價時，對某一個評價點，該學(xué)生所得到的評語由該學(xué)生在該評價點下的各個評價等級上所得到的具體等級確定。這個確定與被確定的關(guān)系就由神經(jīng)網(wǎng)絡(luò)來完成。因此每個評價點都對應(yīng)于一個神經(jīng)網(wǎng)絡(luò)。上面所述的幾個數(shù)據(jù)結(jié)構(gòu)將分為如下所示的幾個表來存儲：表 2 評價角度的存儲評價角度編號評價角度名是否已刪除長整形字符串布爾型表 3 評價點的存儲評價點編號評價點名評價點所對應(yīng)的評價角度編號是否已刪除對應(yīng)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)及權(quán)值長整形字符串長整形

13、布爾型字符串表 4 評價等級的存儲評價等級編號評價等級名評價等級對應(yīng)的評價點編號是否已刪除長整形字符串長整形布爾型表 5 具體等級的存儲具體等級編號具體等級內(nèi)容具體等級對應(yīng)的評價等級編號是否已刪除長整形字符串長整形布爾型表 6 評語等級的存儲評語等級編號評語等級的內(nèi)容評價等級對應(yīng)的評價點編號是否已刪除長整形字符串長整形布爾型表 7 具體內(nèi)容的存儲具體內(nèi)容編號具體內(nèi)容具體內(nèi)容對應(yīng)的評語等級編號是否已刪除長整形字符串長整形布爾型表27中，“是否已刪除”用于標(biāo)記已經(jīng)刪除的內(nèi)容。這是由于在進行刪除其中某一項的操作時，如果直接刪除，就會使各種編號無法指向原來所指向的目標(biāo)，而這些表通常會很大，如果調(diào)整這些

14、編號，會花去很多時間，因此采用對已刪除項作上標(biāo)記的方法，當(dāng)添加項時，只需搜索一個作有標(biāo)記的項，將內(nèi)容填入該項即可。這種操作類似于現(xiàn)在大多數(shù)文件系統(tǒng)刪除或添加文件的方法。這是一種十分有效的方法。每個所評價點對應(yīng)的神經(jīng)網(wǎng)絡(luò)以字符串的形式存儲在表3中。5 具體實現(xiàn)可用VB6編程實現(xiàn)神經(jīng)網(wǎng)絡(luò)部分，通過ADO技術(shù)來實現(xiàn)數(shù)據(jù)庫部分5 宛延闿，定 海. 面向?qū)ο蠓治龊驮O(shè)計.清華大學(xué)出版社：2001作者簡歷：陳燁，男，1984年11月出生，現(xiàn)為四川大學(xué)電氣信息學(xué)院 2002級本科學(xué)生。目前已發(fā)表6篇論文中2篇發(fā)表在核心期刊上，3篇為會議論文，另有一篇即將發(fā)表。聯(lián)系地址：四川大學(xué)電氣信息學(xué)院 17號信箱聯(lián)系電話：（028）85407764E-mail: arrowcy。評語生成系統(tǒng)的結(jié)構(gòu)如圖3。該系統(tǒng)共分為四個模塊和一個數(shù)據(jù)庫。數(shù)據(jù)庫修改部分主要處理添加、刪除評價角度、評價點、評價等級、具體等級和評語內(nèi)容以及調(diào)整它們各自的內(nèi)容之間的順序。神經(jīng)網(wǎng)絡(luò)訓(xùn)練部分按照本文第2部分所述內(nèi)容根據(jù)用戶輸入的樣本對每一個評價點對應(yīng)的神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練。學(xué)生信息輸入部分提供用戶輸入當(dāng)前所選擇學(xué)生各方面表現(xiàn)的接口。神經(jīng)網(wǎng)絡(luò)評語生成部分將根據(jù)其他幾個部分提供的信息，按照2.3中所述方法計算出當(dāng)前學(xué)生的每一個評價點對應(yīng)的評語內(nèi)容。6 結(jié)束語本文介紹了用神經(jīng)網(wǎng)絡(luò)的方法