機(jī)器學(xué)習(xí)課次8~9-邏輯回歸

彭輝94031097（QQ）機(jī)器學(xué)習(xí)MachineLearning邏輯回歸(Logistic)01~02任務(wù)目標(biāo)能力目標(biāo)使用python進(jìn)行邏輯回歸模型應(yīng)用了解邏輯回歸求解方法掌握邏輯回歸分類的原理任務(wù)目標(biāo)素質(zhì)目標(biāo)團(tuán)隊(duì)協(xié)作學(xué)會(huì)學(xué)習(xí)實(shí)踐創(chuàng)新邏輯回歸背景疝氣病是描述馬胃腸痛的術(shù)語。這種病不一定源自馬的腸胃問題，其他問題也可能引發(fā)馬疝病?，F(xiàn)有數(shù)據(jù)集中包含了醫(yī)院檢測馬疝病的2個(gè)指標(biāo)，以及對于的診斷結(jié)果。此數(shù)據(jù)集共有100個(gè)樣本（特征+標(biāo)簽）。請根據(jù)數(shù)據(jù)集中的前80個(gè)樣本特征與診斷結(jié)果的關(guān)系，對后20個(gè)樣本進(jìn)行結(jié)果預(yù)測。廣義線性模型

這就是對數(shù)線性回歸，他試圖讓逼近y，即：如果線性回歸的輸出標(biāo)記是在指數(shù)刻度上變化，那就可以將輸出標(biāo)記的對數(shù)作為線性模型逼近的目標(biāo)，即：廣義線性模型更一般地，考慮單調(diào)可微函數(shù)g(.),令：這樣得到的模型稱為“廣義線性模型”，其中函數(shù)g(.)稱為聯(lián)系函數(shù)。

我們討論了如何使用線性模型進(jìn)行回歸學(xué)習(xí)，但若要做的是分類任務(wù)，該怎么辦？邏輯回歸基礎(chǔ)知識(shí)可以將線性模型稍作改變，即可完成分類任務(wù)。若有樣本特征點(diǎn)(40,80),(50,20),判斷他們在劃分平面中的位置兩個(gè)坐標(biāo)對應(yīng)樣本特征x1，x2利用線性模型解分類問題簡單分類器邏輯回歸基礎(chǔ)知識(shí)在二分類問題中，用1表示正向的類別，用0表示負(fù)向的類別。線性回歸模型中，預(yù)測值是一個(gè)連續(xù)的實(shí)值，如何才能將線性回歸的結(jié)果用于分類呢？單位階躍函數(shù)考慮回歸線：令：，根據(jù)z的取值，實(shí)現(xiàn)對預(yù)測結(jié)果的分類如果預(yù)測的z值大于0，就判斷為正例；

如果預(yù)測的z值小于0，就判斷為負(fù)例；預(yù)測值為臨界值0.5則可任意判別。但單位階躍函數(shù)不連續(xù)，數(shù)學(xué)性質(zhì)不好，需要找到一個(gè)類似階躍函數(shù)的替代函數(shù)。利用線性模型解分類問題邏輯回歸基礎(chǔ)知識(shí)Sigmoid函數(shù)—邏輯函數(shù)/對數(shù)幾率函數(shù)（LogisticFunction）

邏輯回歸就是將邏輯函數(shù)用在線性回歸函數(shù)上層，將回歸問題轉(zhuǎn)換成分類問題。為正例的概率邏輯回歸模型利用邏輯函數(shù)解決分類問題利用邏輯函數(shù)解決分類問題的流程：計(jì)算點(diǎn)與分類模型（回歸線）的距離；通過sigmoid函數(shù)，將距離值轉(zhuǎn)換成概率值。邏輯回歸模型利用邏輯函數(shù)解決分類問題第一步：計(jì)算點(diǎn)與分類模型的距離；第二步：將距離值轉(zhuǎn)換成概率值?？紤]樣本點(diǎn)(40,80),(50,20)40-30(50,20)(40,80)(40,約1.0)(-30,約0.0)邏輯回歸模型邏輯回歸模型原理將對Sigmoid函數(shù)作為聯(lián)系函數(shù)，帶入到線性回歸模型，可得邏輯回歸模型：邏輯回歸模型/對數(shù)幾率回歸模型線性回歸模型對數(shù)幾率函數(shù)回歸問題分類問題練習(xí)-1利用Sklearn中的邏輯回歸算法模型LogisticRegression進(jìn)行馬疝氣病的預(yù)測。fromsklearn.linear_modelimportLogisticRegression1-讀取文本數(shù)據(jù)練習(xí)-12-使用LogisticRegression進(jìn)行模型訓(xùn)練、預(yù)測練習(xí)-13-使用matpl