定性數(shù)據(jù)的建模分析-課件

2022/12/19ncutstat1第八章定性數(shù)據(jù)的建模分析

目錄上頁下頁返回結(jié)束

§8.1對數(shù)線性模型基本理論和方法§8.2對數(shù)線性模型分析的上機實驗§8.3Logistic回歸基本理論和方法§8.4Logistic回歸的方法與步驟2022/12/17ncutstat1第八章定性數(shù)據(jù)的建模12022/12/19ncutstat2第八章定型數(shù)據(jù)的建模分析

目錄上頁下頁返回結(jié)束

第三章我們曾討論過定性數(shù)據(jù)的列聯(lián)表分析，對數(shù)線性模型是進一步用于離散型數(shù)據(jù)或整理成列聯(lián)表格式的數(shù)據(jù)的統(tǒng)計分析工具。它可以把方差分析和線性模型的一些方法應用到對交叉列聯(lián)表的分析中，從而對定性變量間的關(guān)系作更進一步的描述和分析。2022/12/17ncutstat2第八章定型數(shù)據(jù)的建模22022/12/19ncutstat3列聯(lián)表分析無法系統(tǒng)地評價變量間的聯(lián)系，也無法估計變量間交互作用的大小，而對數(shù)線性模型是處理這些問題的最佳方法。當被解釋變量是非度量變量時，可以用判別分析。然而當被解釋變量只有兩組時，Logistic回歸由于多種原因更受歡迎。

首先，判別分析依賴于嚴格的多元正態(tài)性和相等協(xié)差陣的假設，這在很多情況下是達不到的。Logistic回歸沒有類似的假設，而且這些假設不滿足時，結(jié)果非常穩(wěn)定。2022/12/17ncutstat3列聯(lián)表分32022/12/19ncutstat4第八章定型數(shù)據(jù)的建模分析

目錄上頁下頁返回結(jié)束

其次，即使?jié)M足假定，許多研究者仍偏好Logistic回歸，因為它類似于回歸分析。兩者都有直接的統(tǒng)計檢驗，都能包含非線性效果和大范圍的診斷。因為這些和更多技術(shù)原因，Logistic回歸等同于兩組的判別分析，在很多情況下更加適用。再者，Logistic回歸對于自變量沒有要求，度量變量或者非度量變量都可以進行回歸，

這樣，本章僅介紹定性數(shù)據(jù)建模的對數(shù)線性模型和Logistic回歸方法。2022/12/17ncutstat4第八章定型數(shù)據(jù)的建模42022/12/19ncutstat5§8.1對數(shù)線性模型基本理論和方法

目錄上頁下頁返回結(jié)束

本節(jié)將利用2×2維的交叉列聯(lián)表來說明對數(shù)線性模型的基本理論和方法，同時利用SPSS軟件對真實的經(jīng)濟定性數(shù)據(jù)作分析。從2×2維的交叉列聯(lián)表的概率表，介紹對數(shù)線性模型的基本理論和方法。2022/12/17ncutstat5§8.1對數(shù)線性模52022/12/19ncutstat6§8.1對數(shù)線性模型基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat6§8.1對數(shù)線性模62022/12/19ncutstat7§8.1對數(shù)線性模型基本理論和方法

目錄上頁下頁返回結(jié)束

對上面三式各取其平均數(shù)為：

該式的結(jié)構(gòu)與有交互效應，且各水平均為二的雙因素方差分析模型的結(jié)構(gòu)相似，因此模仿方差分析，可以有如下關(guān)系式：

2022/12/17ncutstat7§8.1對數(shù)線性模72022/12/19ncutstat8§8.1對數(shù)線性模型基本理論和方法

目錄上頁下頁返回結(jié)束

若記其中移項，可得與有交互效應的雙因素方差分析數(shù)學模型極為相似的關(guān)系式：2022/12/17ncutstat8§8.1對數(shù)線性模82022/12/19ncutstat9§8.1對數(shù)線性模型基本理論和方法

目錄上頁下頁返回結(jié)束

(8.2)

2022/12/17ncutstat9§8.1對數(shù)線性模92022/12/19ncutstat10§8.1對數(shù)線性模型基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat10§8.1對數(shù)線性102022/12/19ncutstat11§8.1對數(shù)線性模型基本理論和方法

目錄上頁下頁返回結(jié)束

在實際分析中，概率表中各項值，以交叉列聯(lián)表計算得的頻率表的對應項為無偏估計值。公式表示為：2022/12/17ncutstat11§8.1對數(shù)線性112022/12/19ncutstat12§8.1對數(shù)線性模型基本理論和方法

目錄上頁下頁返回結(jié)束

將以上三式代入公式（8.3）即可得的估計值。實際分析中，二維數(shù)據(jù)表并不是每個因素都是雙水平的，在分析中，把公式的的取值上限調(diào)整即可。2022/12/17ncutstat12§8.1對數(shù)線性122022/12/19ncutstat13§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

可以使用SPSS軟件來實現(xiàn)對數(shù)線性模型分析。這里舉一個例子是3×2維的交叉列聯(lián)表的分析。我們用SPSS軟件中的Loglinear模塊實現(xiàn)分析?！纠?.1】某企業(yè)想了解顧客對其產(chǎn)品是否滿意，同時還想了解不同收入的人群對其產(chǎn)品的滿意程度是否相同。在隨機發(fā)放的1000份問卷中收回有效問卷792份，根據(jù)收入高低和滿意回答的交叉分組數(shù)據(jù)如表8-1：2022/12/17ncutstat13§8.2對數(shù)線132022/12/19ncutstat14§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

表8.1.

滿意不滿意合計高533891中434108542低11148159合計5981947922022/12/17ncutstat14§8.2對數(shù)線142022/12/19ncutstat15§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

首先要準備數(shù)據(jù)，上面的交叉列連表的數(shù)據(jù)要輸入到spss的表格里去，具體應當是入下：頻數(shù)收入情況滿意情況5311434211113138121082248322022/12/17ncutstat15§8.2對數(shù)線152022/12/19ncutstat16§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat16§8.2對數(shù)線162022/12/19ncutstat17§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

按上面的形勢輸入數(shù)據(jù)后，還不能馬上進行對數(shù)線性模型分析，必須先激活頻數(shù)，即讓頻數(shù)有效。具體步驟是：使用SPSS軟件，從主菜單中，以Data→WeightCases...順序，打開WeightCases對話框，選中Weightcasesby單選框，從變量列表中選出“頻數(shù)”變量,點擊鈕，使之進入FrequencyVariable框，然后點擊OK鈕，回到數(shù)據(jù)表格，這時分析前的準備工作就完成了。這一步很重要，如果頻數(shù)沒有被激活，對數(shù)線性模型的模塊仍會執(zhí)行命令，但是得出的結(jié)果是錯誤的，所以使用時一定要小心。2022/12/17ncutstat17§8.2對數(shù)線172022/12/19ncutstat18§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

數(shù)據(jù)準備工作完成后，就可以進行下一步的分析了。從主菜單中，按Analyze→Loglinear→ModelSelection...的流程可打開ModelSelectionLoglinearAnalysis對話框，從左側(cè)變量欄里選中“收入情況”，點擊鈕使之進入Factor(s)框，這時該框下面的DefineRange...鈕就會從灰色變?yōu)楹谏?，點擊彈出LoglinearAnalysis:DefineRange對話框，可以定義變量的范圍，即該變量的水平范圍，本例中“收入情況”共有三種類型，代號分別是1、2、3，所以在Minimum處鍵入1，在Maximum處鍵入3，2022/12/17ncutstat18§8.2對數(shù)線182022/12/19ncutstat19§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

點擊Continue鈕，返回ModelSelectionLoglinearAnalysis對話框；按同樣方法，把“滿意情況”變量選入，并定以其范圍為1、2；然后選中“頻數(shù)”變量，點擊鈕使之進入CellWeight框；最后，點擊Options...鈕，進入LoglinearAnalysis:Options對話框，選擇DisplayforSaturatedModel欄下的Parameterestimates項，點擊Continue鈕返回ModelSelectionLoglinearAnalysis對話框，其他選項保持默認值，最后點擊OK鈕即完成分析步驟。2022/12/17ncutstat19§8.2對數(shù)線192022/12/19ncutstat20§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat20§8.2對數(shù)線202022/12/19ncutstat21§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

首先顯示系統(tǒng)對792例資料進行分析，這792例資料可分為6類（3×2）。模型中共有二個分類變量：其中“收入情況”變量為3水平，“滿意情況”情況變量為2水平；分析的效應除了兩個分類變量，還有兩者的交互作用（收入情況*滿意情況）。系統(tǒng)經(jīng)1次疊代后，即達到相鄰二次估計之差不大于規(guī)定的0.001。2022/12/17ncutstat21§8.2對數(shù)線212022/12/19ncutstat22§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat22§8.2對數(shù)線222022/12/19ncutstat23§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat23§8.2對數(shù)線232022/12/19ncutstat24§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

這是對模型是否有交互效應和高階效應進行檢驗，原假設是高階效應為0，即沒有高階效應。檢驗結(jié)果認為拒絕原假設，存在交互效應和高階效應。在Note里，表示對飽和模型的觀測單元進行了變換。2022/12/17ncutstat24§8.2對數(shù)線242022/12/19ncutstat25§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat25§8.2對數(shù)線252022/12/19ncutstat26§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

為了唯一地估計參數(shù)，系統(tǒng)強行限定同一分類變量的各水平參數(shù)之和為0，故根據(jù)上表結(jié)果可推得各參數(shù)為：2022/12/17ncutstat26§8.2對數(shù)線262022/12/19ncutstat27§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat27§8.2對數(shù)線272022/12/19ncutstat28§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

參數(shù)值為正，表示正效應；反之為負效應；零為無效應。分析提供的信息是：（1）為正值，說明接受調(diào)查了的多數(shù)顧客對其產(chǎn)品還是滿意的；（2）<<，說明各收入階層的顧客對其產(chǎn)品的滿意程度是不同的，其中，高收入的顧客滿意程度最低，而中層收入的顧客滿意程度最高；（3）通過對企業(yè)顧客的收入情況和滿意情況交互效應的研究，為負值表示高收入與對產(chǎn)品的滿意程度是負效應的，為正表示中等收入者與對其產(chǎn)品的滿意程度是正效應的，同理，低收入人群對其產(chǎn)品的滿意程度也是負效應的。該企業(yè)的產(chǎn)品主要的消費階層是中等收入者，同時中等收入者對其產(chǎn)品的滿意程度也最好。2022/12/17ncutstat28§8.2對數(shù)線282022/12/19ncutstat29§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat29§8.3Log292022/12/19ncutstat30§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat30§8.3Log302022/12/19ncutstat31§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat31§8.3Log312022/12/19ncutstat32§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

Logistic回歸不同于一般回歸分析的地方在于它直接預測出了事件發(fā)生的概率。盡管這個概率值是個度量尺度，Logistic回歸與多元回歸還是有著很大的差異。概率值可以是0~1之間的任何值，但是預測值必須落入0~1的區(qū)間。這樣，Logistic回歸假定解釋變量與被解釋變量之間的關(guān)系類似于S形曲線。而且，不能從普通回歸的角度來分析Logistic回歸，因為這樣做會違反幾個假定。2022/12/17ncutstat32§8.3Log322022/12/19ncutstat33首先，離散變量的誤差形式服從貝努里分布，而不是正態(tài)分布，這樣使得基于正態(tài)性假設的統(tǒng)計檢驗無效。其次，二值變量的方差不是常數(shù)，會造成異方差性。Logistic回歸是專門處理這些問題的。它的解釋變量與被解釋變量之間獨特的關(guān)系使得在估計、評價擬合度和解釋系數(shù)方面有不同的方法。2022/12/17ncutstat33首先，離散變量的誤差332022/12/19ncutstat34§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

估計Logistic回歸模型與估計多元回歸模型的方法是不同的。多元回歸采用最小二乘估計，將解釋變量的真實值與預測值差異的平方和最小化。而Logistic變換的非線性特征使得在估計模型的時候采用極大似然估計的疊代方法，找到系數(shù)的“最可能”的估計。這樣在計算整個模型擬合度的時候，就采用似然值而不是離差平方和。2022/12/17ncutstat34§8.3Log342022/12/19ncutstat35§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat35§8.3Log352022/12/19ncutstat36§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

前面已提到Logistic回歸在估計系數(shù)時，是用的極大似然估計法。就象多元回歸中的殘差平方和，Logistic回歸對模型擬合好壞通過似然值來測量。（實際上是用－2乘以似然值的自然對數(shù)即－2Log似然值，簡記為－2LL）。一個好的模型應該有較小的－2LL。如果一個模型完全擬合，則似然值為１，這時－2LL達到最小，為0。Logistic回歸對于系數(shù)的檢驗采用的是與多元回歸中t檢驗不同的統(tǒng)計量，稱為Wald統(tǒng)計量。有關(guān)Logistic回歸的參數(shù)估計和假設檢驗詳見參考文獻[8]。2022/12/17ncutstat36§8.3Log362022/12/19ncutstat37§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

一、分組數(shù)據(jù)的Logistic回歸模型針對0-1型因變量產(chǎn)生的問題，我們對回歸模型應該做兩個方面的改進。

第一，回歸函數(shù)應該改用限制在[0，1]區(qū)間內(nèi)的連續(xù)曲線，而不能再沿用直線回歸方程。限制在[0，1]區(qū)間內(nèi)的連續(xù)曲線有很多，例如所有連續(xù)型隨機變量的分布函數(shù)都符合要求，我們常用的是Logistic函數(shù)與正態(tài)分布函數(shù)。Logistic函數(shù)的形式為（8.4）

Logistic函數(shù)的中文名稱是邏輯斯諦函數(shù)，或簡稱邏輯函數(shù)。這里給出幾個Logistic函數(shù)的圖形。見圖8-1、圖8-2。2022/12/17ncutstat37§8.3Log372022/12/19ncutstat38§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

圖8-1的圖形

2022/12/17ncutstat38§8.3Log382022/12/19ncutstat39§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

圖8-2的圖形

2022/12/17ncutstat39§8.3Log392022/12/19ncutstat40§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat40§8.3Log402022/12/19ncutstat41§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

【例8.2】在一次住房展銷會上，與房地產(chǎn)商簽定初步購房意向書的共有n=325名顧客中，在隨后的3個月的時間內(nèi)，只有一部分顧客確實購買了房屋。購買了房屋的顧客記為1，沒有購買房屋的顧客記為0。以顧客的年家庭收入（萬元）為自變量x，對如下的數(shù)據(jù)，建立Logistic回歸模型2022/12/17ncutstat41§8.3Log412022/12/19ncutstat42§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

表8.2序號年家庭收入(萬元)x簽定意向書人數(shù)ni實際購房人數(shù)mi實際購房比例pi=mi/ni邏輯變換權(quán)重wi=nipi(1-pi)11.52580.320000-0.753775.44022.532130.406250-0.379497.71933.558260.448276-0.2076414.34544.552220.423077-0.3101512.69255.543200.465116-0.1397610.69866.539220.5641030.2578299.59077.528160.5714290.2876826.85788.521120.5714290.2876825.14399.515100.6666670.6931473.3332022/12/17ncutstat42§8.3Log422022/12/19ncutstat43§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat43§8.3Log432022/12/19ncutstat44§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat44§8.3Log442022/12/19ncutstat45§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat45§8.3Log452022/12/19ncutstat46§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat46§8.3Log462022/12/19ncutstat47§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

表8.32022/12/17ncutstat47§8.3Log472022/12/19ncutstat48§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat48§8.3Log482022/12/19ncutstat49§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

得年收入8萬元的家庭預計實際購房比例為58.5%，這個結(jié)果與未加權(quán)的結(jié)果很接近。以上的例子是只有一個自變量的情況，分組數(shù)據(jù)的Logistic回歸模型可以很方便的推廣到多個自變量的情況，在此就不舉例說明了。分組數(shù)據(jù)的Logistic回歸只適用于大樣本的分組數(shù)據(jù)，對小樣本的未分組數(shù)據(jù)不適用。并且以組數(shù)c為回歸擬合的樣本量，使擬合的精度低。實際上，我們可以用極大似然估計直接擬合未分組數(shù)據(jù)的Logistic回歸模型，以下就介紹這個方法。二、未分組數(shù)據(jù)的Logistic回歸模型2022/12/17ncutstat49§8.3Log492022/12/19ncutstat50§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat50§8.3Log502022/12/19ncutstat51§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat51§8.3Log512022/12/19ncutstat52§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat52§8.3Log522022/12/19ncutstat53§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat53§8.3Log532022/12/19ncutstat54§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

表8.4：序號性別年齡月收入序號性別年齡月收入10188500151201000020211200016125120003023850117127130004023950118128150005028120011913095016031850020132100002022/12/17ncutstat54§8.3Log542022/12/19ncutstat55§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

表8.4（續(xù)）703615001211331800080421000122133100009046950123138120001004812000241411500011055180012514518001120562100126148100001305818001271521500114118850028156180012022/12/17ncutstat55§8.3Log552022/12/19ncutstat56§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

依次點選SPSS軟件的Statistics-Regression-Logistic命令，進入Logistic回歸對話框，選入變量，點選OK運行，以下表8-5是部分運行結(jié)果.表8.52022/12/17ncutstat56§8.3Log562022/12/19ncutstat57§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

表8.5中SEX（性別）、AGE（年齡）、X2（月收入）是3個自變量，Wald是回歸系數(shù)檢驗的統(tǒng)計量值，（8.16）

Sig是Wald檢驗的顯著性概率，R是偏相關(guān)系數(shù)?？梢钥吹?，X2（月收入）不顯著，決定將其剔除。用y對性別與年齡兩個自變量做回歸，輸出結(jié)果見8-6.2022/12/17ncutstat57§8.3Log572022/12/19ncutstat58§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

表8.6可以看到，SEX、AGE兩個自變量都是顯著的，因而最終的回歸方程為：2022/12/17ncutstat58§8.3Log582022/12/19ncutstat59§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

以上方程式表明，女性乘公共汽車的比例高于男性，年齡越高乘車的比例也越高。SPSS軟件沒有給出Logistic回歸的標準化回歸系數(shù)，對于Logistic回歸，回歸系數(shù)也沒有普通線性回歸那樣的解釋，因而計算標準化回歸系數(shù)并不重要。如果要考慮每個自變量在回歸方程中的重要性，不妨直接比較Wald值（或Sig值），Wald值大者（或Sig值小者）顯著性高，也就更重要。當然這里假定自變量間沒有強的復共線性，否則回歸系數(shù)的大小及其顯著性概率都沒有意義。2022/12/17ncutstat59§8.3Log592022/12/19ncutstat60§8.4Logistic回歸的方法與步驟

目錄上頁下頁返回結(jié)束

鑒于Logistic回歸與判別分析的相似性，我們可以對比兩種方法的相似性和不同點。Logistic回歸的自變量可以是定量變量或定性變量（需要編碼），這樣可以檢驗自變量對于Logistic回歸模型的貢獻、自變量的顯著性以及Logistic模型的判別精度。Logistic回歸一般有以下幾個步驟。（1）選擇自變量和因變量。這里因變量為分組變量（限于篇幅，我們僅介紹因變量分兩組的情況），自變量可以是定量變量和定性變量。Logistic回歸對于資料數(shù)據(jù)有較強的穩(wěn)健性(robustness)，無須各組自變量的協(xié)差陣相等的假定。2022/12/17ncutstat60§8.4Log602022/12/19ncutstat61§8.4Logistic回歸的方法與步驟

目錄上頁下頁返回結(jié)束

（2）將一部分樣品用于估計Logistic函數(shù)（分析樣品），另一部分樣品用于檢驗模型的判別精度（保留樣品）。（3）模型中假定自變量之間不存在高度相關(guān)，因變量發(fā)生概率的模型服從于Logistic模型。這樣我們可以進行Logistic回歸估計。（4）估計模型參數(shù)，評估擬合情況。我們選擇回歸估計的方法對回歸參數(shù)進行估計并檢驗回歸參數(shù)的顯著性，對模型的擬合程度檢驗。（5）解釋所得到的模型結(jié)果。通過參數(shù)的顯著性和符號、大小來解釋自變量對因變量的意義。（6）通過保留樣本來驗證模型的判別精度。Logistic回歸的邏輯框圖如下：2022/12/17ncutstat61§8.4Log612022/12/19ncutstat62§8.4Logistic回歸的方法與步驟

目錄上頁下頁返回結(jié)束

圖8-3Logistic回歸邏輯框圖

2022/12/17ncutstat62§8.4Log622022/12/19ncutstat63§8.4Logistic回歸的方法與步驟

目錄上頁下頁返回結(jié)束

(8.11)2022/12/17ncutstat63§8.4Log632022/12/19ncutstat64§8.4Logistic回歸的方法與步驟

目錄上頁下頁返回結(jié)束

[14]。2022/12/17ncutstat64§8.4Log642022/12/19ncutstat65§8.4Logistic回歸的方法與步驟

目錄上頁下頁返回結(jié)束

因變量為多組（大于兩組）的情況下也可以使用Logistic回歸模型。Logistic回歸分析大部分用于建構(gòu)二元(dichotomous)因變量與一組解釋變量之間的關(guān)系，不過有時候因變量多于兩水平時，Logistic回歸仍可使用，稱為多元(Polytomous)Logistic回歸，它用在很多研究領(lǐng)域，如企業(yè)上，研究者可能希望將公司資源執(zhí)行大、中、小全面質(zhì)量管理與公司大小、公司類型及其他可用的解釋變量的關(guān)系找出來；又如，建構(gòu)疾病的輕、中、重的嚴重性與患者的年齡、性別及其他有興趣的解釋變量。多元Logistic回歸模型是二元Logistic回歸模型的推廣，這種推廣問題變成很復雜，由于模型的建構(gòu)基礎、偏差的使用及統(tǒng)計推斷，可以利用逼近法配合幾個二元Logistic回歸模型做多元Logistic回歸。這里不作詳細介紹?？蓞⒁妳⒖嘉墨I[14]、[16]。2022/12/17ncutstat65§8.4Log652022/12/19ncutstat662022/12/17ncutstat66662022/12/19ncutstat67第八章定性數(shù)據(jù)的建模分析

目錄上頁下頁返回結(jié)束

§8.1對數(shù)線性模型基本理論和方法§8.2對數(shù)線性模型分析的上機實驗§8.3Logistic回歸基本理論和方法§8.4Logistic回歸的方法與步驟2022/12/17ncutstat1第八章定性數(shù)據(jù)的建模672022/12/19ncutstat68第八章定型數(shù)據(jù)的建模分析

目錄上頁下頁返回結(jié)束

第三章我們曾討論過定性數(shù)據(jù)的列聯(lián)表分析，對數(shù)線性模型是進一步用于離散型數(shù)據(jù)或整理成列聯(lián)表格式的數(shù)據(jù)的統(tǒng)計分析工具。它可以把方差分析和線性模型的一些方法應用到對交叉列聯(lián)表的分析中，從而對定性變量間的關(guān)系作更進一步的描述和分析。2022/12/17ncutstat2第八章定型數(shù)據(jù)的建模682022/12/19ncutstat69列聯(lián)表分析無法系統(tǒng)地評價變量間的聯(lián)系，也無法估計變量間交互作用的大小，而對數(shù)線性模型是處理這些問題的最佳方法。當被解釋變量是非度量變量時，可以用判別分析。然而當被解釋變量只有兩組時，Logistic回歸由于多種原因更受歡迎。

首先，判別分析依賴于嚴格的多元正態(tài)性和相等協(xié)差陣的假設，這在很多情況下是達不到的。Logistic回歸沒有類似的假設，而且這些假設不滿足時，結(jié)果非常穩(wěn)定。2022/12/17ncutstat3列聯(lián)表分692022/12/19ncutstat70第八章定型數(shù)據(jù)的建模分析

目錄上頁下頁返回結(jié)束

其次，即使?jié)M足假定，許多研究者仍偏好Logistic回歸，因為它類似于回歸分析。兩者都有直接的統(tǒng)計檢驗，都能包含非線性效果和大范圍的診斷。因為這些和更多技術(shù)原因，Logistic回歸等同于兩組的判別分析，在很多情況下更加適用。再者，Logistic回歸對于自變量沒有要求，度量變量或者非度量變量都可以進行回歸，

這樣，本章僅介紹定性數(shù)據(jù)建模的對數(shù)線性模型和Logistic回歸方法。2022/12/17ncutstat4第八章定型數(shù)據(jù)的建模702022/12/19ncutstat71§8.1對數(shù)線性模型基本理論和方法

目錄上頁下頁返回結(jié)束

本節(jié)將利用2×2維的交叉列聯(lián)表來說明對數(shù)線性模型的基本理論和方法，同時利用SPSS軟件對真實的經(jīng)濟定性數(shù)據(jù)作分析。從2×2維的交叉列聯(lián)表的概率表，介紹對數(shù)線性模型的基本理論和方法。2022/12/17ncutstat5§8.1對數(shù)線性模712022/12/19ncutstat72§8.1對數(shù)線性模型基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat6§8.1對數(shù)線性模722022/12/19ncutstat73§8.1對數(shù)線性模型基本理論和方法

目錄上頁下頁返回結(jié)束

對上面三式各取其平均數(shù)為：

該式的結(jié)構(gòu)與有交互效應，且各水平均為二的雙因素方差分析模型的結(jié)構(gòu)相似，因此模仿方差分析，可以有如下關(guān)系式：

2022/12/17ncutstat7§8.1對數(shù)線性模732022/12/19ncutstat74§8.1對數(shù)線性模型基本理論和方法

目錄上頁下頁返回結(jié)束

若記其中移項，可得與有交互效應的雙因素方差分析數(shù)學模型極為相似的關(guān)系式：2022/12/17ncutstat8§8.1對數(shù)線性模742022/12/19ncutstat75§8.1對數(shù)線性模型基本理論和方法

目錄上頁下頁返回結(jié)束

(8.2)

2022/12/17ncutstat9§8.1對數(shù)線性模752022/12/19ncutstat76§8.1對數(shù)線性模型基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat10§8.1對數(shù)線性762022/12/19ncutstat77§8.1對數(shù)線性模型基本理論和方法

目錄上頁下頁返回結(jié)束

在實際分析中，概率表中各項值，以交叉列聯(lián)表計算得的頻率表的對應項為無偏估計值。公式表示為：2022/12/17ncutstat11§8.1對數(shù)線性772022/12/19ncutstat78§8.1對數(shù)線性模型基本理論和方法

目錄上頁下頁返回結(jié)束

將以上三式代入公式（8.3）即可得的估計值。實際分析中，二維數(shù)據(jù)表并不是每個因素都是雙水平的，在分析中，把公式的的取值上限調(diào)整即可。2022/12/17ncutstat12§8.1對數(shù)線性782022/12/19ncutstat79§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

可以使用SPSS軟件來實現(xiàn)對數(shù)線性模型分析。這里舉一個例子是3×2維的交叉列聯(lián)表的分析。我們用SPSS軟件中的Loglinear模塊實現(xiàn)分析?！纠?.1】某企業(yè)想了解顧客對其產(chǎn)品是否滿意，同時還想了解不同收入的人群對其產(chǎn)品的滿意程度是否相同。在隨機發(fā)放的1000份問卷中收回有效問卷792份，根據(jù)收入高低和滿意回答的交叉分組數(shù)據(jù)如表8-1：2022/12/17ncutstat13§8.2對數(shù)線792022/12/19ncutstat80§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

表8.1.

滿意不滿意合計高533891中434108542低11148159合計5981947922022/12/17ncutstat14§8.2對數(shù)線802022/12/19ncutstat81§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

首先要準備數(shù)據(jù)，上面的交叉列連表的數(shù)據(jù)要輸入到spss的表格里去，具體應當是入下：頻數(shù)收入情況滿意情況5311434211113138121082248322022/12/17ncutstat15§8.2對數(shù)線812022/12/19ncutstat82§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat16§8.2對數(shù)線822022/12/19ncutstat83§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

按上面的形勢輸入數(shù)據(jù)后，還不能馬上進行對數(shù)線性模型分析，必須先激活頻數(shù)，即讓頻數(shù)有效。具體步驟是：使用SPSS軟件，從主菜單中，以Data→WeightCases...順序，打開WeightCases對話框，選中Weightcasesby單選框，從變量列表中選出“頻數(shù)”變量,點擊鈕，使之進入FrequencyVariable框，然后點擊OK鈕，回到數(shù)據(jù)表格，這時分析前的準備工作就完成了。這一步很重要，如果頻數(shù)沒有被激活，對數(shù)線性模型的模塊仍會執(zhí)行命令，但是得出的結(jié)果是錯誤的，所以使用時一定要小心。2022/12/17ncutstat17§8.2對數(shù)線832022/12/19ncutstat84§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

數(shù)據(jù)準備工作完成后，就可以進行下一步的分析了。從主菜單中，按Analyze→Loglinear→ModelSelection...的流程可打開ModelSelectionLoglinearAnalysis對話框，從左側(cè)變量欄里選中“收入情況”，點擊鈕使之進入Factor(s)框，這時該框下面的DefineRange...鈕就會從灰色變?yōu)楹谏?，點擊彈出LoglinearAnalysis:DefineRange對話框，可以定義變量的范圍，即該變量的水平范圍，本例中“收入情況”共有三種類型，代號分別是1、2、3，所以在Minimum處鍵入1，在Maximum處鍵入3，2022/12/17ncutstat18§8.2對數(shù)線842022/12/19ncutstat85§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

點擊Continue鈕，返回ModelSelectionLoglinearAnalysis對話框；按同樣方法，把“滿意情況”變量選入，并定以其范圍為1、2；然后選中“頻數(shù)”變量，點擊鈕使之進入CellWeight框；最后，點擊Options...鈕，進入LoglinearAnalysis:Options對話框，選擇DisplayforSaturatedModel欄下的Parameterestimates項，點擊Continue鈕返回ModelSelectionLoglinearAnalysis對話框，其他選項保持默認值，最后點擊OK鈕即完成分析步驟。2022/12/17ncutstat19§8.2對數(shù)線852022/12/19ncutstat86§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat20§8.2對數(shù)線862022/12/19ncutstat87§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

首先顯示系統(tǒng)對792例資料進行分析，這792例資料可分為6類（3×2）。模型中共有二個分類變量：其中“收入情況”變量為3水平，“滿意情況”情況變量為2水平；分析的效應除了兩個分類變量，還有兩者的交互作用（收入情況*滿意情況）。系統(tǒng)經(jīng)1次疊代后，即達到相鄰二次估計之差不大于規(guī)定的0.001。2022/12/17ncutstat21§8.2對數(shù)線872022/12/19ncutstat88§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat22§8.2對數(shù)線882022/12/19ncutstat89§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat23§8.2對數(shù)線892022/12/19ncutstat90§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

這是對模型是否有交互效應和高階效應進行檢驗，原假設是高階效應為0，即沒有高階效應。檢驗結(jié)果認為拒絕原假設，存在交互效應和高階效應。在Note里，表示對飽和模型的觀測單元進行了變換。2022/12/17ncutstat24§8.2對數(shù)線902022/12/19ncutstat91§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat25§8.2對數(shù)線912022/12/19ncutstat92§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

為了唯一地估計參數(shù)，系統(tǒng)強行限定同一分類變量的各水平參數(shù)之和為0，故根據(jù)上表結(jié)果可推得各參數(shù)為：2022/12/17ncutstat26§8.2對數(shù)線922022/12/19ncutstat93§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat27§8.2對數(shù)線932022/12/19ncutstat94§8.2對數(shù)線性模型分析的上機實踐

目錄上頁下頁返回結(jié)束

參數(shù)值為正，表示正效應；反之為負效應；零為無效應。分析提供的信息是：（1）為正值，說明接受調(diào)查了的多數(shù)顧客對其產(chǎn)品還是滿意的；（2）<<，說明各收入階層的顧客對其產(chǎn)品的滿意程度是不同的，其中，高收入的顧客滿意程度最低，而中層收入的顧客滿意程度最高；（3）通過對企業(yè)顧客的收入情況和滿意情況交互效應的研究，為負值表示高收入與對產(chǎn)品的滿意程度是負效應的，為正表示中等收入者與對其產(chǎn)品的滿意程度是正效應的，同理，低收入人群對其產(chǎn)品的滿意程度也是負效應的。該企業(yè)的產(chǎn)品主要的消費階層是中等收入者，同時中等收入者對其產(chǎn)品的滿意程度也最好。2022/12/17ncutstat28§8.2對數(shù)線942022/12/19ncutstat95§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat29§8.3Log952022/12/19ncutstat96§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat30§8.3Log962022/12/19ncutstat97§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat31§8.3Log972022/12/19ncutstat98§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

Logistic回歸不同于一般回歸分析的地方在于它直接預測出了事件發(fā)生的概率。盡管這個概率值是個度量尺度，Logistic回歸與多元回歸還是有著很大的差異。概率值可以是0~1之間的任何值，但是預測值必須落入0~1的區(qū)間。這樣，Logistic回歸假定解釋變量與被解釋變量之間的關(guān)系類似于S形曲線。而且，不能從普通回歸的角度來分析Logistic回歸，因為這樣做會違反幾個假定。2022/12/17ncutstat32§8.3Log982022/12/19ncutstat99首先，離散變量的誤差形式服從貝努里分布，而不是正態(tài)分布，這樣使得基于正態(tài)性假設的統(tǒng)計檢驗無效。其次，二值變量的方差不是常數(shù)，會造成異方差性。Logistic回歸是專門處理這些問題的。它的解釋變量與被解釋變量之間獨特的關(guān)系使得在估計、評價擬合度和解釋系數(shù)方面有不同的方法。2022/12/17ncutstat33首先，離散變量的誤差992022/12/19ncutstat100§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

估計Logistic回歸模型與估計多元回歸模型的方法是不同的。多元回歸采用最小二乘估計，將解釋變量的真實值與預測值差異的平方和最小化。而Logistic變換的非線性特征使得在估計模型的時候采用極大似然估計的疊代方法，找到系數(shù)的“最可能”的估計。這樣在計算整個模型擬合度的時候，就采用似然值而不是離差平方和。2022/12/17ncutstat34§8.3Log1002022/12/19ncutstat101§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat35§8.3Log1012022/12/19ncutstat102§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

前面已提到Logistic回歸在估計系數(shù)時，是用的極大似然估計法。就象多元回歸中的殘差平方和，Logistic回歸對模型擬合好壞通過似然值來測量。（實際上是用－2乘以似然值的自然對數(shù)即－2Log似然值，簡記為－2LL）。一個好的模型應該有較小的－2LL。如果一個模型完全擬合，則似然值為１，這時－2LL達到最小，為0。Logistic回歸對于系數(shù)的檢驗采用的是與多元回歸中t檢驗不同的統(tǒng)計量，稱為Wald統(tǒng)計量。有關(guān)Logistic回歸的參數(shù)估計和假設檢驗詳見參考文獻[8]。2022/12/17ncutstat36§8.3Log1022022/12/19ncutstat103§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

一、分組數(shù)據(jù)的Logistic回歸模型針對0-1型因變量產(chǎn)生的問題，我們對回歸模型應該做兩個方面的改進。

第一，回歸函數(shù)應該改用限制在[0，1]區(qū)間內(nèi)的連續(xù)曲線，而不能再沿用直線回歸方程。限制在[0，1]區(qū)間內(nèi)的連續(xù)曲線有很多，例如所有連續(xù)型隨機變量的分布函數(shù)都符合要求，我們常用的是Logistic函數(shù)與正態(tài)分布函數(shù)。Logistic函數(shù)的形式為（8.4）

Logistic函數(shù)的中文名稱是邏輯斯諦函數(shù)，或簡稱邏輯函數(shù)。這里給出幾個Logistic函數(shù)的圖形。見圖8-1、圖8-2。2022/12/17ncutstat37§8.3Log1032022/12/19ncutstat104§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

圖8-1的圖形

2022/12/17ncutstat38§8.3Log1042022/12/19ncutstat105§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

圖8-2的圖形

2022/12/17ncutstat39§8.3Log1052022/12/19ncutstat106§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat40§8.3Log1062022/12/19ncutstat107§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

【例8.2】在一次住房展銷會上，與房地產(chǎn)商簽定初步購房意向書的共有n=325名顧客中，在隨后的3個月的時間內(nèi)，只有一部分顧客確實購買了房屋。購買了房屋的顧客記為1，沒有購買房屋的顧客記為0。以顧客的年家庭收入（萬元）為自變量x，對如下的數(shù)據(jù)，建立Logistic回歸模型2022/12/17ncutstat41§8.3Log1072022/12/19ncutstat108§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

表8.2序號年家庭收入(萬元)x簽定意向書人數(shù)ni實際購房人數(shù)mi實際購房比例pi=mi/ni邏輯變換權(quán)重wi=nipi(1-pi)11.52580.320000-0.753775.44022.532130.406250-0.379497.71933.558260.448276-0.2076414.34544.552220.423077-0.3101512.69255.543200.465116-0.1397610.69866.539220.5641030.2578299.59077.528160.5714290.2876826.85788.521120.5714290.2876825.14399.515100.6666670.6931473.3332022/12/17ncutstat42§8.3Log1082022/12/19ncutstat109§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat43§8.3Log1092022/12/19ncutstat110§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat44§8.3Log1102022/12/19ncutstat111§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat45§8.3Log1112022/12/19ncutstat112§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat46§8.3Log1122022/12/19ncutstat113§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

表8.32022/12/17ncutstat47§8.3Log1132022/12/19ncutstat114§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat48§8.3Log1142022/12/19ncutstat115§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

得年收入8萬元的家庭預計實際購房比例為58.5%，這個結(jié)果與未加權(quán)的結(jié)果很接近。以上的例子是只有一個自變量的情況，分組數(shù)據(jù)的Logistic回歸模型可以很方便的推廣到多個自變量的情況，在此就不舉例說明了。分組數(shù)據(jù)的Logistic回歸只適用于大樣本的分組數(shù)據(jù)，對小樣本的未分組數(shù)據(jù)不適用。并且以組數(shù)c為回歸擬合的樣本量，使擬合的精度低。實際上，我們可以用極大似然估計直接擬合未分組數(shù)據(jù)的Logistic回歸模型，以下就介紹這個方法。二、未分組數(shù)據(jù)的Logistic回歸模型2022/12/17ncutstat49§8.3Log1152022/12/19ncutstat116§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat50§8.3Log1162022/12/19ncutstat117§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat51§8.3Log1172022/12/19ncutstat118§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat52§8.3Log1182022/12/19ncutstat119§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

2022/12/17ncutstat53§8.3Log1192022/12/19ncutstat120§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

表8.4：序號性別年齡月收入序號性別年齡月收入10188500151201000020211200016125120003023850117127130004023950118128150005028120011913095016031850020132100002022/12/17ncutstat54§8.3Log1202022/12/19ncutstat121§8.3Logistic回歸基本理論和方法

目錄上頁下頁返回結(jié)束

表8.4（續(xù)）7036150012113318000804210001221331000090469501231381200010048120002414115000110551800125145180011205621001261481000013058180012715215001141188500