商務(wù)智能實驗7報告

.."數(shù)據(jù)挖掘與商務(wù)智能實驗"實驗報告實驗題目：統(tǒng)計分析：邏輯回歸：王俊學(xué)號：4指導(dǎo)教師：大斌實驗時間：2016.11.092016年11月10日實驗題綱：實驗?zāi)康牧私夂褪煜PSSModeler及其相關(guān)知識。掌握SPSSModeler工具建立多項Logistic回歸的方法。學(xué)會運用SPSSModeler進展多項Logistic回歸的容。實驗容本實驗采用的數(shù)據(jù)源來自文件Brand.sav。該數(shù)據(jù)集的變量分別是不同性別〔x2，1為男，2為女〕、三種職業(yè)〔x1〕顧客選購三種品牌〔x3〕的數(shù)據(jù)。本實驗主要探討的例子說明多項Logistic回歸的操作和意義。實驗步驟與結(jié)果步驟1構(gòu)建多項式Logistic回歸數(shù)據(jù)流通過"Statistic文件〞節(jié)點讀入文件名為Brand.sav的數(shù)據(jù)。數(shù)據(jù)流中添加"類型〞節(jié)點。在"建模〞模塊下選擇"Logistic〞節(jié)點連接在數(shù)據(jù)流的恰當位置。步驟2設(shè)置相關(guān)參數(shù)右擊"類型〞節(jié)點，將x3設(shè)置為目標，其他保持不變，如下圖。右擊"Logistic〞節(jié)點，在模型下，將使用分區(qū)數(shù)據(jù)勾選為"無〞，采用的過程選擇"多項式〞，"多項式過程〞中"方法〞采用"進入法〞，其他保持不變，如下圖。步驟3結(jié)果運行本例的計算結(jié)果如下圖。結(jié)果包含兩個回歸方程。以第三種職業(yè)作為職業(yè)的參照水平，以女性作為性別的參照水平，研究對象是選擇第一品牌的概率與第三品牌概率之比的自然對數(shù)。當性別一樣時，第一種職業(yè)的比數(shù)自然對數(shù)比第三種職業(yè)〔參照水平〕平均減少了1.315，第一種職業(yè)是第三種職業(yè)的0.269倍。第一種職業(yè)選擇第一品牌的傾向不如第三種職業(yè)，且統(tǒng)計顯著，第一種職業(yè)選擇第一品牌的傾向性與第三種職業(yè)有顯著差異。當職業(yè)一樣時，男性的比數(shù)自然對數(shù)比女性〔參照水平〕平均多0.747個單位，男性是女性的2.112倍。男性較女性更傾向選擇第一品牌，且統(tǒng)計說明，男性選擇第一品牌的傾向性與女性有顯著差異。實驗分析與擴展練習(xí)實驗分析：請總結(jié)分析下面幾個問題：結(jié)合本次試驗數(shù)據(jù)結(jié)果，分析邏輯回歸模型的二分類原理；答：原理：當本次實驗選擇的是第2個方程時，說說方程代表的意義；意義：以第三種職業(yè)作為職業(yè)的參照水平，以女性作為性別的參照水平，研究對象是選擇第一品牌的概率與第三品牌的概率之比的自然對數(shù)如圖采用二項Logistic回歸會出現(xiàn)什么樣的結(jié)果和問題。出現(xiàn)的問題：擴展訓(xùn)練嘗試改變挖掘算法的參數(shù)，來提高預(yù)測的準確率，在"挖掘模型確定性表〞中，對挖掘模型進展驗證。更改圖中所示數(shù)據(jù)：參數(shù)改變?nèi)缦?左邊為改變前，右邊為改變后五、結(jié)論與討論(重點)對于邏輯回歸的理解：雖然叫做"回歸〞，但是這個算法是用來解決分類問題的?；貧w與分類的區(qū)別在于：回歸所預(yù)測的目標量的取值是連續(xù)的〔例如房屋的價格〕；而分類所預(yù)測的目標變量的取值是離散的〔例如判斷是否為垃圾〕。當然，為了便于理解，從二值分類〔binaryclassification〕開場，在這類分類問題中，y只能取0或1。更好的理解問題，先舉個小例子：假設(shè)我們要制作一個垃圾過濾系統(tǒng)，如果一封是垃圾系統(tǒng)，y=1，否那么y=0。給定訓(xùn)練樣本集，當然它們的特征和label都，我們就是要訓(xùn)練一個分類器，將它們分開。1、邏輯回歸模型

回歸是一種極易理解的模型，就相當于y=f(x)，說明自變量x與因變量y的關(guān)系。最常見問題有如醫(yī)生治病時的望、聞、問、切，之后判定病人是否生病或生了什么病，其中的望聞問切就是獲取自變量x，即特征數(shù)據(jù)，判斷是否生病就相當于獲取因變量y，即預(yù)測分類。

最簡單的回歸是線性回歸，有如圖1.a所示，X為數(shù)據(jù)點——腫瘤的大小，Y為觀測值——是否是惡性腫瘤。通過構(gòu)建線性回歸模型，如hθ(x)所示，構(gòu)建線性回歸模型后，即可以根據(jù)腫瘤大小，預(yù)測是否為惡性腫瘤hθ(x)≥.05為惡性，hθ(x)<0.5為良性。圖1線性回歸例如

然而線性回歸的魯棒性很差，例如在圖1.b的數(shù)據(jù)集上建立回歸，因最右邊噪點的存在，使回歸模型在訓(xùn)練集上表現(xiàn)都很差。這主要是由于線性回歸在整個實數(shù)域敏感度一致，而分類圍，需要在[0,1]。邏輯回歸就是一種減小預(yù)測圍，將預(yù)測值限定為[0,1]間的一種回歸模型，其回歸方程與回歸曲線如圖2所示。邏輯曲線在z=0時，十分敏感，在z>>0或z<<0處，都不敏感，將預(yù)測值限定為(0,1)。圖2邏輯方程與邏輯曲線邏輯回歸其實僅為在線性回歸的根底上，套用了一個邏輯函數(shù)，但也就由于這個邏輯函數(shù)，邏輯回歸成為了機器學(xué)習(xí)領(lǐng)域一顆耀眼的明星，更是計算廣告學(xué)的核心。對于多元邏輯回歸，可用如下公式似合分類，其中公式(4)的變換，將在邏輯回歸模型參數(shù)估計時，化簡公式帶來很多益處，y={0,1}為分類結(jié)果。

對于訓(xùn)練數(shù)據(jù)集，特征數(shù)據(jù)x={x1,x