數(shù)據(jù)挖掘weka數(shù)據(jù)分類實(shí)驗(yàn)報(bào)告1

1、數(shù)據(jù)挖掘weka數(shù)據(jù)分類實(shí)驗(yàn)報(bào)告一、實(shí)驗(yàn)?zāi)康氖褂脭?shù)據(jù)挖掘中的分類算法，對數(shù)據(jù)集進(jìn)行分類訓(xùn)練并測試。應(yīng)用不同的分類算法，比較他們之間的不同。與此同時(shí)了解weka平臺的基本功能與使用方法。二、實(shí)驗(yàn)環(huán)境實(shí)驗(yàn)采用weka 平臺，數(shù)據(jù)使用weka安裝目錄下data文件夾下的默認(rèn)數(shù)據(jù)集。weka是懷卡托智能分析系統(tǒng)的縮寫，該系統(tǒng)由新西蘭懷卡托大學(xué)開發(fā)。weka使用java 寫成的，并且限制在gnu通用公共證書的條件下發(fā)布。它可以運(yùn)行于幾乎所有操作平臺，是一款免費(fèi)的，非商業(yè)化的機(jī)器學(xué)習(xí)以及數(shù)據(jù)挖掘軟件。weka提供了一個(gè)統(tǒng)一界面，可結(jié)合預(yù)處理以及后處理方法，將許多不同的學(xué)習(xí)算法應(yīng)用于任何所給的數(shù)據(jù)集，并評估

2、由不同的學(xué)習(xí)方案所得出的結(jié)果。三、數(shù)據(jù)預(yù)處理weka平臺支持arff格式和csv格式的數(shù)據(jù)。由于本次使用平臺自帶的arff格式數(shù)據(jù)，所以不存在格式轉(zhuǎn)換的過程。實(shí)驗(yàn)所用的arff格式數(shù)據(jù)集如圖1所示圖1 arff格式數(shù)據(jù)集對于iris數(shù)據(jù)集，它包含了150個(gè)實(shí)例（每個(gè)分類包含50個(gè)實(shí)例），共有sepal length、 sepal width、petal length、petal width和class五種屬性。期中前四種屬性為數(shù)值類型，class屬性為分類屬性，表示實(shí)例所對應(yīng)的的類別。該數(shù)據(jù)集中的全部實(shí)例共可分為三類：iris setosa、iris versicolour和iris virg

3、inica。 實(shí)驗(yàn)數(shù)據(jù)集中所有的數(shù)據(jù)都是實(shí)驗(yàn)所需的，因此不存在屬性篩選的問題。若所采用的數(shù)據(jù)集中存在大量的與實(shí)驗(yàn)無關(guān)的屬性，則需要使用weka平臺的filter(過濾器)實(shí)現(xiàn)屬性的篩選。實(shí)驗(yàn)所需的訓(xùn)練集和測試集均為。四、實(shí)驗(yàn)過程及結(jié)果應(yīng)用iris數(shù)據(jù)集，分別采用libsvm、決策樹分類器和樸素貝葉斯分類器進(jìn)行測試和評價(jià)，分別在訓(xùn)練數(shù)據(jù)上訓(xùn)練出分類模型，找出各個(gè)模型最優(yōu)的參數(shù)值，并對三個(gè)模型進(jìn)行全面評價(jià)比較，得到一個(gè)最好的分類模型以及該模型所有設(shè)置的最優(yōu)參數(shù)。最后使用這些參數(shù)以及訓(xùn)練集和校驗(yàn)集數(shù)據(jù)一起構(gòu)造出一個(gè)最優(yōu)分類器，并利用該分類器對測試數(shù)據(jù)進(jìn)行預(yù)測。1、libsvm分類weka 平臺內(nèi)部沒

4、有集成libsvm分類器，要使用該分類器，需要下載并導(dǎo)入到weka中。用“explorer”打開數(shù)據(jù)集“”，并在explorer中將功能面板切換到“classify”。點(diǎn)“choose”按鈕選擇“functions，選擇libsvm分類算法。在test options 面板中選擇cross-validatioin folds=10，即十折交叉驗(yàn)證。然后點(diǎn)擊“start”按鈕： 結(jié)果分析：使用該參數(shù)指定的libsvm訓(xùn)練數(shù)據(jù)集，得到準(zhǔn)確率為%，其中150個(gè)實(shí)例中的145個(gè)被正確分類，5個(gè)被錯(cuò)誤分類。根據(jù)混淆矩陣，被錯(cuò)誤分類實(shí)例的為：2個(gè)b類實(shí)例被錯(cuò)誤分類到c；3個(gè)c類實(shí)例被錯(cuò)誤分類到b。該算法p

5、=，r=，roc面積為。將模型應(yīng)用于測試集：使用libsvm分類算法測試數(shù)據(jù)集得出的結(jié)果 分類誤差：結(jié)果分析：準(zhǔn)確率為%，只有兩個(gè)實(shí)例被錯(cuò)誤分類。p=，r=，roc面積為 2、決策樹分類器 依然使用十折交叉驗(yàn)證，訓(xùn)練集和測試集相同。使用決策樹分類算法訓(xùn)練數(shù)據(jù)集得出的結(jié)果參數(shù)：-c -m 2 結(jié)果分析： 使用該參數(shù)指定的決策樹分類器訓(xùn)練數(shù)據(jù)集，得到準(zhǔn)確率為96%，其中150個(gè)實(shí)例中的144個(gè)被正確分類，6個(gè)被錯(cuò)誤分類。根據(jù)混淆矩陣，被錯(cuò)誤分類實(shí)例的為：2個(gè)b類實(shí)例被錯(cuò)誤分類到c,1個(gè)b類實(shí)例被錯(cuò)誤分類到a；3個(gè)c類實(shí)例被錯(cuò)誤分類到b。該算法p=，r=，roc面積為。將模型應(yīng)用于測試集：使用分類算

6、法測試數(shù)據(jù)集得出的結(jié)果分類誤差： 結(jié)果分析：準(zhǔn)確率為98%，有3個(gè)實(shí)例被錯(cuò)誤分類。p=，r=，roc面積為3、樸素貝葉斯分類器使用樸素貝葉斯分類算法訓(xùn)練數(shù)據(jù)集得出的結(jié)果參數(shù)：無 結(jié)果分析： 使用樸素貝葉斯分類器訓(xùn)練數(shù)據(jù)集，得到準(zhǔn)確率為%，其中150個(gè)實(shí)例中的143個(gè)被正確分類，7個(gè)被錯(cuò)誤分類。根據(jù)混淆矩陣，被錯(cuò)誤分類實(shí)例的為：4個(gè)b類實(shí)例被錯(cuò)誤分類到c；3個(gè)c類實(shí)例被錯(cuò)誤分類到b。該算法p=，r=，roc面積為。將模型應(yīng)用于測試集：使用樸素貝葉斯分類算法測試數(shù)據(jù)集得出的結(jié)果分類誤差： 結(jié)果分析：準(zhǔn)確率為96%，有6個(gè)實(shí)例被錯(cuò)誤分類。p=，r=，roc面積為4、三種分類算法比較：libsvm決策樹樸素貝葉斯校驗(yàn)準(zhǔn)確率%98%96%訓(xùn)練混淆矩陣校驗(yàn)混淆矩陣標(biāo)準(zhǔn)誤差比較結(jié)果分析：libsvm算法相比決策樹算法、樸素貝葉斯算法具有更好的分類性能。五、實(shí)驗(yàn)總結(jié)通