weka實驗報告.doc

基于weka的數(shù)據(jù)分類分析實驗報告姓名：黃學(xué)波 學(xué)號：3130407055一、實驗?zāi)康氖褂脭?shù)據(jù)挖掘中的分類算法，對數(shù)據(jù)集進(jìn)行分類訓(xùn)練并測試。應(yīng)用不同的分類算法，比較他們之間的不同。與此同時了解Weka平臺的基本功能與使用方法。二、實驗環(huán)境實驗采用Weka 平臺，數(shù)據(jù)使用Weka安裝目錄下data文件夾下的默認(rèn)數(shù)據(jù)集iris.arff。Weka是懷卡托智能分析系統(tǒng)的縮寫，該系統(tǒng)由新西蘭懷卡托大學(xué)開發(fā)。Weka使用Java寫成的，并且限制在GNU通用公共證書的條件下發(fā)布。它可以運行于幾乎所有操作平臺，是一款免費的，非商業(yè)化的機(jī)器學(xué)習(xí)以及數(shù)據(jù)挖掘軟件。Weka提供了一個統(tǒng)一界面，可結(jié)合預(yù)處理以及后處理方法，將許多不同的學(xué)習(xí)算法應(yīng)用于任何所給的數(shù)據(jù)集，并評估由不同的學(xué)習(xí)方案所得出的結(jié)果。三、數(shù)據(jù)預(yù)處理Weka平臺支持ARFF格式和CSV格式的數(shù)據(jù)。由于本次使用平臺自帶的ARFF格式數(shù)據(jù)，所以不存在格式轉(zhuǎn)換的過程。實驗所用的ARFF格式數(shù)據(jù)集如圖1所示圖1 ARFF格式數(shù)據(jù)集(iris.arff)對于iris數(shù)據(jù)集，它包含了150個實例（每個分類包含50個實例），共有sepal length、sepal width、petal length、petal width和class五種屬性。期中前四種屬性為數(shù)值類型，class屬性為分類屬性，表示實例所對應(yīng)的的類別。實驗數(shù)據(jù)集中所有的數(shù)據(jù)都是實驗所需的，因此不存在屬性篩選的問題。若所采用的數(shù)據(jù)集中存在大量的與實驗無關(guān)的屬性，則需要使用weka平臺的Filter(過濾器)實現(xiàn)屬性的篩選。實驗所需的訓(xùn)練集和測試集均為iris.arff。四、實驗過程及結(jié)果應(yīng)用iris數(shù)據(jù)集，分別采用KNN、C4.5決策樹分類器和樸素貝葉斯分類器進(jìn)行測試和評價，分別在訓(xùn)練數(shù)據(jù)上訓(xùn)練出分類模型，找出各個模型最優(yōu)的參數(shù)值，并對三個模型進(jìn)行全面評價比較，得到一個最好的分類模型以及該模型所有設(shè)置的最優(yōu)參數(shù)。最后使用這些參數(shù)以及訓(xùn)練集和校驗集數(shù)據(jù)一起構(gòu)造出一個最優(yōu)分類器，并利用該分類器對測試數(shù)據(jù)進(jìn)行預(yù)測。1、 LibSVM分類Weka 平臺內(nèi)部沒有集成libSVM分類器，要使用該分類器，需要下載libsvm.jar并導(dǎo)入到Weka中。用“Explorer”打開數(shù)據(jù)集“iris.arff”，并在Explorer中將功能面板切換到“Classify”。點“Choose”按鈕選擇“functions(weka.classifiers.functions.LibSVM)”，選擇LibSVM分類算法。在Test Options 面板中選擇Cross-Validatioin folds=10，即十折交叉驗證。然后點擊“start”按鈕：使用KNN分類算法訓(xùn)練數(shù)據(jù)集得出的結(jié)果參數(shù)：S 0 K 2 D 3 G 0.0 R 0.0 N 0.5 M 40.0 C 1.0 E 0.0010 P 0.1結(jié)果分析：使用該參數(shù)指定的KNN訓(xùn)練數(shù)據(jù)集，得到準(zhǔn)確率為96.6667%，其中150個實例中的145個被正確分類，5個被錯誤分類。根據(jù)混淆矩陣，被錯誤分類實例的為：2個b類實例被錯誤分類到c；3個c類實例被錯誤分類到b。該算法P=0.967，R=0.967，ROC面積為0.975。將模型應(yīng)用于測試集：使用KNN分類算法測試數(shù)據(jù)集得出的結(jié)果結(jié)果分析：準(zhǔn)確率為98.6667%，只有兩個實例被錯誤分類。P=0.987，R=0.987，ROC面積為0.992、 C4.5決策樹分類器依然使用十折交叉驗證，訓(xùn)練集和測試集相同。將模型應(yīng)用于測試集：使用C4.5分類算法測試數(shù)據(jù)集得出的結(jié)果結(jié)果分析：準(zhǔn)確率為98%，有3個實例被錯誤分類。P=0.98，R=0.98，ROC面積為0.9933、 樸素貝葉斯分類器使用樸素貝葉斯分類算法訓(xùn)練數(shù)據(jù)集得出的結(jié)果參數(shù)：無結(jié)果分析：使用樸素貝葉斯分類器訓(xùn)練數(shù)據(jù)集，得到準(zhǔn)確率為95.3333%，其中150個實例中的143個被正確分類，7個被錯誤分類。根據(jù)混淆矩陣，被錯誤分類實例的為：4個b類實例被錯誤分類到c；3個c類實例被錯誤分類到b。該算法P=0.953，R=0.953，ROC面積為0.994。將模型應(yīng)用于測試集：使用樸素貝葉斯分類算法測試數(shù)據(jù)集得出的結(jié)果結(jié)果分析：準(zhǔn)確率為96%，有6個實例被錯誤分類。P=0.96，R=0.96，ROC面積為0.9954、 三種分類算法比較：KNNC4.5決策樹樸素貝葉斯校驗準(zhǔn)確率98.6667%98%96%訓(xùn)練混淆矩陣校驗混淆矩陣標(biāo)準(zhǔn)誤差0.09430.1080.1483比較結(jié)果分析：KNN算法相比C4.5決策樹算法、樸素貝葉斯算法具有更好的分類