logistic回歸模型總結(jié)

1、轉(zhuǎn)載 logistic 回歸模型總結(jié)logistic 回歸模型是最成熟也是應(yīng)用最廣泛的分類模型， 通過學(xué)習(xí)和實(shí)踐擬通過從入門、進(jìn)階到高級的過程對其進(jìn)行 總結(jié)，以便加深自己的理解也為對此有興趣者提供學(xué)習(xí)的便 利。一、有關(guān) logistic 的基本概念logistic 回歸主要用來預(yù)測離散因變量與一組解釋變量 之間的關(guān)系最常用的是二值型 logistic 。即因變量的取值只包含兩個(gè)類別 例如：好、壞 ；發(fā)生、不發(fā)生；常用 Y=1 或 Y=0 表示 X 表示解釋變量則P(Y=1|X )表示在 X 的條件下 Y=1 的概率， logistic 回歸的 數(shù)學(xué)表達(dá)式為：log ( p/1-p )=A+BX

2、 =L其中 p/1 -p 稱為優(yōu)勢比(ODDS) 即發(fā)生與不發(fā)生的概率之比可以根據(jù)上式反求出P (Y=1|X )=1 / (l + eA -L)根據(jù)樣本資料可以通過最大似然估計(jì)計(jì)算出模型的參數(shù) 然后根據(jù)求出的模型進(jìn)行預(yù)測下面介紹logistic回歸在SAS中的實(shí)現(xiàn)以及輸出結(jié)果的解釋二、logistic回歸模型初步SAS中1 ogistic回歸輸出結(jié)果主要包括預(yù)測模 型的評價(jià)以及模型的參數(shù) 預(yù)測模型的評價(jià)與多元線性回歸模型的評價(jià)類似主要從以 下幾個(gè)層次進(jìn)行(1)模型的整體擬合優(yōu)度主要評價(jià)預(yù)測值與觀測值之間的總體一致性?？梢酝ㄟ^以下 兩個(gè)指標(biāo)來進(jìn)行檢驗(yàn)1、H osmer-Lemeshowz 指標(biāo)H

3、L 統(tǒng)計(jì)量的原假設(shè) Ho 是預(yù)測值和觀測值之間無顯著差異， 因此 HL 指標(biāo)的 P-Value 的值越大，越不能拒絕原假設(shè)，即 說明模型很好的擬合了數(shù)據(jù)。在SAS中這個(gè)指標(biāo)可以用 LACKFIT選項(xiàng)進(jìn)行調(diào)用2、AIC和SC指標(biāo) 即池雷準(zhǔn)則和施瓦茨準(zhǔn)則與線性回歸類似 AIC 和 SC 越小說明模型擬合的越好( 2 )從整體上看解釋變量對因變量有無解釋作用 相當(dāng)于多元回歸中的 F 檢驗(yàn) 在 logistic 回歸中可以通過似然 比( likelihood ratiotest ）進(jìn)行檢驗(yàn) (3)解釋變量解釋在多大程度上解釋了因變量與線性回歸中的 RA2作用類似在 logistic 回歸中可以通過 Rsquare 和 C 統(tǒng)計(jì)量進(jìn)行度量 在 SAS 中通過 RSQ 來調(diào)用 Rsquare ，C 統(tǒng)計(jì)量自動(dòng)輸出(4)模型評價(jià)指標(biāo)匯總 統(tǒng)計(jì)量 趨勢 擬合 作用SAS 調(diào)用命令 備注 AIC 、 SC 越小 越好 類似與多元回歸中的殘差平方和 模型自動(dòng)輸出 似然比卡方 越大 越好 類似與多元回歸中的回歸平方和 自動(dòng)輸出P 值越小越好RSQUARE 越大 越好 類似與多元回歸中的RA2 用 RSQ 選項(xiàng)調(diào)用C 統(tǒng)計(jì)量 越大 越好 度量觀測值和條件預(yù)測的相