第9章定性數(shù)據(jù)的建模分析

1、第九章 定性數(shù)據(jù)的建模分析本章內(nèi)容第一節(jié) 解釋變量中含有定性變量的回歸模型第二節(jié) 二項(xiàng)Logistic回歸模型 第三節(jié) 判別分析 第一節(jié) 解釋變量中含有定性變量的回歸模型 在回歸分析中，我們對(duì)一些解釋變量是定性變量的情形先給予數(shù)理化，處理方法是引進(jìn)只取0和1兩個(gè)值的虛擬變量。當(dāng)某一屬性出現(xiàn)時(shí)，虛擬變量取值為1，否則為0。 （一）簡(jiǎn)單情況 簡(jiǎn)單情況是指定性變量只取兩類(lèi)可能性的情況。 例如研究企業(yè)資本結(jié)構(gòu)問(wèn)題， 為企業(yè)資本結(jié)構(gòu)， 為企業(yè)規(guī)模。另外再考慮審計(jì)意見(jiàn)兩種情況： 企業(yè)資本結(jié)構(gòu)的回歸模型為： (9.1)（二）復(fù)雜情況 復(fù)雜情況是指定定性變量可能取多類(lèi)值的情況。 假設(shè)以采掘業(yè)、建筑業(yè)、房地產(chǎn)業(yè)

2、和社會(huì)服務(wù)業(yè)4個(gè)行業(yè)的上市公司為例，研究企業(yè)資本結(jié)構(gòu)問(wèn)題，其中 為企業(yè)資本結(jié)構(gòu)， 為企業(yè)規(guī)模， 為審計(jì)意見(jiàn)，另外再考慮行業(yè)差異 。為了用虛擬變量反映這4個(gè)行業(yè)，我們初步設(shè)想引入如下4個(gè)0-1型解釋變量： 可是這樣作卻產(chǎn)生了一個(gè)新的問(wèn)題，即4個(gè)自變量之和恒等于1，構(gòu)成完全多重共線(xiàn)性。解決這個(gè)問(wèn)題的方法很簡(jiǎn)單，我們只需去掉一個(gè)0-1型變量，只保留3個(gè)0-1型解釋變量即可。所以，對(duì)于具有 個(gè)分類(lèi)的變量，當(dāng)確定了參照系后，只需設(shè)置 個(gè)0-1型解釋變量。 企業(yè)資本結(jié)構(gòu)的回歸模型為： (9.2)第二節(jié) 二項(xiàng)Logistic回歸模型 一、二項(xiàng)Logistic回歸模型概述（一）二項(xiàng)Logistic回歸模型的應(yīng)

3、用背景 在許多會(huì)計(jì)研究問(wèn)題中，所研究的被解釋變量往往只有“是”或“否”兩個(gè)可能結(jié)果，就需要設(shè)置虛擬變量。當(dāng)被解釋變量為虛擬變量時(shí)，建立一般的多元線(xiàn)性回歸模型就會(huì)出現(xiàn)以下問(wèn)題：（1）殘差不再滿(mǎn)足且的假設(shè)條件。（2）殘差不再服從正態(tài)分布。（3）被解釋變量的取值區(qū)間受限制。由此可見(jiàn)，當(dāng)被解釋變量是0-1型變量時(shí)，無(wú)法直接采用一般的多元線(xiàn)性回歸模型建模，通常應(yīng)采用Logistic回歸模型。本章只介紹二項(xiàng)Logistic回歸模型。 利用Logistic回歸可以直接預(yù)測(cè)觀(guān)測(cè)量相對(duì)于某一事件的發(fā)生概率在一般的多元回歸中，若以概率 為被解釋變量，則方程為： (9.3) 但用該方程計(jì)算時(shí)，常會(huì)出現(xiàn) 或 的不合理

4、情形。為此需要對(duì) 作對(duì)數(shù)單位轉(zhuǎn)換，即 ，于是可得到Logistic回歸方程為： (9.4) 其中 、 為常數(shù)和解釋變量的系數(shù)， 為自然數(shù)，其曲線(xiàn)為 型。某一事件不發(fā)生地概率為:Prob(no event)=1- Prob(event) (9.5)二元Logistic模型對(duì)數(shù)據(jù)要求為：（1）被解釋變量應(yīng)具二分特點(diǎn)。（2）解釋變量數(shù)據(jù)最好為多元正態(tài)分布。 （三）二項(xiàng)Logistic回歸模型中回歸系數(shù)的含義 在應(yīng)用中人們通常更關(guān)心的是解釋變量給發(fā)生比 帶來(lái)的變化。 當(dāng)Logistic回歸模型的回歸系數(shù)確定后，將其代入的函數(shù)，即 (9.6) 當(dāng)其他解釋變量保持不變而研究 變化一個(gè)單位對(duì) 的影響時(shí)，可將

5、新的發(fā)生比設(shè)為 ，則有： (9.7)于是有 (9.8) 由此可知，當(dāng) 增加一個(gè)單位時(shí)，將引起發(fā)生比擴(kuò)大 倍。一般化則為 (9.9) 式（9.9）表明，當(dāng)?shù)?個(gè)解釋變量發(fā)生一個(gè)單元的變化時(shí)，幾率的變化值為 。解釋變量的系數(shù)為正值，意味著事件發(fā)生的幾率會(huì)增加， 的值大于1；解釋變量的系數(shù)為負(fù)值，意味著事件發(fā)生的幾率會(huì)減少， 的值小于1；當(dāng)為0時(shí)，此值等于1。（四）二項(xiàng)Logistic回歸模型的檢驗(yàn) 1、回歸模型的顯著性檢驗(yàn) Logistic回歸模型顯著性檢驗(yàn)的目的是檢驗(yàn)解釋變量全體與Logit的線(xiàn)性關(guān)系是否顯著，是否可以用線(xiàn)性模型擬合。其原假設(shè)是：各回歸系數(shù)同時(shí)為0，解釋變量全體與Logit的線(xiàn)性

6、關(guān)系不顯著。 (9.10) 好的模型的似然比值較高，其 值相對(duì)較小。似然比值的變化說(shuō)明當(dāng)變量進(jìn)入與被剔除出模型對(duì)數(shù)據(jù)擬合度方面的變化。 常用的3種卡方統(tǒng)計(jì)量分別為Model、Block、Step。 （1）Model統(tǒng)計(jì)量檢驗(yàn)除常數(shù)項(xiàng)以外，模型中所有變量系數(shù)為零的假設(shè)。 （2）Block卡方值為當(dāng)前 值與后一組變量進(jìn)入模型后的 值之差。 （3）Step卡方值是在建立模型的過(guò)程中，當(dāng)前與下一步 之間的差值。 SPSS將自動(dòng)計(jì)算似然比卡方的觀(guān)測(cè)值和相伴概率 值。如果相伴概率值小于給定的顯著水平 ，則應(yīng)拒絕零假設(shè)；反之，如果相伴概率值大于給定的顯著水平，則不應(yīng)拒絕零假設(shè)。2、回歸系數(shù)的顯著性檢驗(yàn) Lo

7、git回歸系數(shù)顯著性檢驗(yàn)的目的是逐個(gè)檢驗(yàn)?zāi)Ｐ椭懈鹘忉屪兞渴欠衽cLogit有顯著的線(xiàn)性關(guān)系，對(duì)解釋Logit是否有重要貢獻(xiàn)。其原假設(shè)是，即某回歸系數(shù)與零無(wú)顯著差異，相應(yīng)的解釋變量與Logit之間的線(xiàn)性關(guān)系不顯著。 回歸系數(shù)顯著性檢驗(yàn)采用的檢驗(yàn)統(tǒng)計(jì)量是統(tǒng)計(jì)量，數(shù)學(xué)定義為 (9.11) 式（9.11）中， 是回歸系數(shù)， 是回歸系數(shù)的標(biāo)準(zhǔn)誤差。檢驗(yàn)統(tǒng)計(jì)量服從自由度為1的卡方分布。 SPSS將自動(dòng)計(jì)算各解釋變量的的觀(guān)測(cè)值和相伴概率值。如果概率值小于給定的顯著性水平，則應(yīng)拒絕零假設(shè)，認(rèn)為某解釋變量的回歸系數(shù)與零有顯著差異，該解釋變量與Logit之間的線(xiàn)性關(guān)系顯著，應(yīng)保留在模型中；反之，如果概率值大于給定的

8、顯著性水平，則不應(yīng)拒絕零假設(shè)，可以認(rèn)為某解釋變量的回歸系數(shù)與零無(wú)顯著差異，該解釋變量與Logit之間的線(xiàn)性關(guān)系不顯著，不應(yīng)保留在模型中。 3、回歸模型的擬合優(yōu)度檢驗(yàn) 在Logistic回歸分析中，擬合優(yōu)度可以從兩大方面考察。第一，回歸模型能夠解釋被解釋變量變差的程度。第二，回歸模型計(jì)算出的預(yù)測(cè)值與實(shí)際值之間吻合的程度，即模型的總體錯(cuò)判率是低還是高。常用的指標(biāo)有Cox & Snell 統(tǒng)計(jì)量、Nagelkerke 統(tǒng)計(jì)量、錯(cuò)判矩陣、Hosmer-Lemeshow統(tǒng)計(jì)量。 4、殘差分析 Logistic回歸中可以利用一下殘差指標(biāo)進(jìn)行殘差分析，主要包括：非標(biāo)準(zhǔn)化殘差、標(biāo)準(zhǔn)化殘差、Logit殘差等。

9、二、二項(xiàng)Logistic回歸分析在SPSS中的實(shí)現(xiàn) 1建立或打開(kāi)數(shù)據(jù)文件后，進(jìn)入Analyze RegressionBinary Logistic對(duì)話(huà)框，如圖9-1所示。圖9-1 Logistic 邏輯回歸分析主對(duì)話(huà)框 2、選擇被解釋變量放入Dependent框，選擇一個(gè)或多個(gè)解釋變量放入Covariates框。也可以將不同解釋變量組放在不同的塊（Block）中，進(jìn)而分析不同解釋變量組對(duì)解釋變量的貢獻(xiàn)。 3、在Method框后選擇解釋變量的篩選策略，包括Enter選項(xiàng)、Forward: Conditional選項(xiàng)、Forward: LR選項(xiàng)、Forward: Wald選項(xiàng)、Backward:

10、Conditional選項(xiàng)、Backward: LR選項(xiàng)、Backward: Wald選項(xiàng)。 4、Selection Variable框，根據(jù)指定變量的取值范圍，選擇參與分析的觀(guān)察量。 5、單擊Categorical按鈕，展開(kāi)如圖9-2對(duì)話(huà)框，設(shè)置處理分類(lèi)變量的方式。適用于解釋變量（協(xié)變量）為非定距的品質(zhì)變量。圖9-2 定義分類(lèi)協(xié)變量對(duì)話(huà)框 （1）在Covariates框中包含了在主對(duì)話(huà)框中已經(jīng)選擇好的全部協(xié)變量及交互項(xiàng)。 （2）Categorical Covariates框中列出了所選擇的分類(lèi)變量。 （3）Change Contrast欄，設(shè)置分類(lèi)協(xié)變量中各類(lèi)水平的對(duì)比方式。有Indicat

11、or選項(xiàng)、Simple選項(xiàng)、Difference選項(xiàng)、Helmert選項(xiàng)、Repeated選項(xiàng)、Polynomial選項(xiàng)、Deviation選項(xiàng)。 （4）Reference Category選項(xiàng)，如果選擇了Deviation、Simple、Indicator對(duì)比方式，可選擇First或Last，指定分類(lèi)變量的第一類(lèi)或最后一類(lèi)作為參考類(lèi)。 （5）如果改變了Change Covariates的設(shè)置，單擊Change按鈕以示對(duì)選項(xiàng)的確定。 6、單擊Save按鈕，激活儲(chǔ)存新變量對(duì)話(huà)框，如圖9-3所示。選擇在數(shù)據(jù)文件中保存的新變量。圖9-3 保存新變量對(duì)話(huà)框 (1) Predicted Value欄，預(yù)

12、測(cè)值選項(xiàng)。其中，Probability復(fù)選項(xiàng)，表示每個(gè)觀(guān)測(cè)量發(fā)生特定事件的預(yù)測(cè)概率；Group membership復(fù)選項(xiàng)，表示依據(jù)預(yù)測(cè)概率得到的每個(gè)觀(guān)測(cè)量的預(yù)測(cè)分組。 (2) Residual欄，保存殘差，包括Unstandardized非標(biāo)準(zhǔn)化殘差、Logit殘差、Studentized學(xué)生化殘差、Standardized標(biāo)準(zhǔn)化殘差和Deviance偏差。 (3) Influence欄，保存每一個(gè)觀(guān)測(cè)量的影響力指標(biāo)，包括Cook距離、Leverage values杠桿值和Dfbeta(s)統(tǒng)計(jì)量。7單擊Options按鈕，展開(kāi)如圖9-4所示對(duì)話(huà)框。圖9-4 Options 選擇項(xiàng)對(duì)話(huà)框 （

13、1）Statistics and Plot欄，輸出統(tǒng)計(jì)量和圖形。包括Classification plots復(fù)選項(xiàng)、Correlations of esti復(fù)選項(xiàng)、Hosmer-Lemeshow goodness-of-f復(fù)選項(xiàng)、Iteration history復(fù)選項(xiàng)、Casewise listing of residuals復(fù)選項(xiàng)、CI for exp(B) 復(fù)選項(xiàng)。 （2）Display欄中，At each step選項(xiàng)，表示對(duì)每一步計(jì)算過(guò)程輸出表、統(tǒng)計(jì)量和圖形。At last step選項(xiàng)，表示只輸出最終方程的表、統(tǒng)計(jì)量和圖形。 （3）Probability for Stepwise欄

14、，設(shè)置變量進(jìn)入模型及從模型中刪除的判據(jù)。 （4）Classification 欄，被解釋變量分類(lèi)界限。 （5）Maximum 欄，設(shè)定最大迭代次數(shù)。 （6）Include constant in m：模型包含常數(shù)項(xiàng)。8、圖形診斷模型，包括：（1）使用Graphs圖形功能，對(duì)保存在數(shù)據(jù)文件中的Deviance統(tǒng)計(jì)量做P-P圖。（2）將保存的Standardized Residuals， Df Beta(s)和Leverage統(tǒng)計(jì)量，用SPSS圖形功能做散點(diǎn)圖（橫坐標(biāo)為變量ID，縱坐標(biāo)為各種保存的新變量）。第三節(jié) 判別分析一、判別分析的概念和基本步驟（一）判別分析的概念 判別分析是根據(jù)觀(guān)察到的若干

15、變量值，判斷研究對(duì)象如何分類(lèi)的方法。判別分析能夠解決兩組或者更多組的情況，當(dāng)包含兩組時(shí)，稱(chēng)做兩組判別分析；當(dāng)包含三組或者三組以上時(shí)，稱(chēng)做多組判別分析 聚類(lèi)分析和判別分析都是分類(lèi)學(xué)的基本方法，但它們也有很大的不同。（二）判別分析的基本步驟 1、判別分析的研究設(shè)計(jì) （1）解釋變量和被解釋變量的選擇。判別分析中，被解釋變量為定性變量。解釋變量可以為定量變量，也可以為定性變量。 （2）樣本容量。在判別分析中，最小的組的大小必須超過(guò)解釋變量的個(gè)數(shù)。 （3）樣本的分割。在實(shí)際研究中，很多時(shí)候樣本需要分割為兩個(gè)子樣本，一個(gè)子樣本用于估計(jì)判別函數(shù)，另一個(gè)子樣本用于驗(yàn)證判別函數(shù)，每個(gè)子樣本都要有適當(dāng)?shù)臉颖救萘縼?lái)

16、支持結(jié)論。分割樣本有很多種方法，最常用的是將整個(gè)樣本隨機(jī)的分為兩組，這種驗(yàn)證方法稱(chēng)為分割樣本法或者交叉驗(yàn)證法。2、判別分析的假定 （1）每一個(gè)判別變量（解釋變量）不能是其他判別變量的線(xiàn)性組合，即不能出現(xiàn)多重共線(xiàn)性問(wèn)題。 （2）各組變量的協(xié)方差矩陣相等。判別分析最簡(jiǎn)單和最常用的形式是采用線(xiàn)性判別函數(shù)，它們是判別變量的簡(jiǎn)單線(xiàn)性組合。在各組協(xié)方差矩陣相等的假設(shè)條件下，可以使用很簡(jiǎn)單的公式來(lái)計(jì)算判別函數(shù)和進(jìn)行顯著性檢驗(yàn)。 （3）各判別變量之間具有多元正態(tài)分布，即每個(gè)變量對(duì)于所有其他變量的固定值有正態(tài)分布。在這種條件下可以精確計(jì)算顯著性檢驗(yàn)值和分組歸屬的概率。當(dāng)違背該假設(shè)時(shí)，計(jì)算的概念將非常不準(zhǔn)確。3、

17、估計(jì)判別模型和評(píng)估整體擬合 （1）計(jì)算方法。推導(dǎo)判別函數(shù)時(shí)可以使用兩種計(jì)算方法：聯(lián)立（直線(xiàn)）法和逐步法。聯(lián)立估計(jì)在計(jì)算時(shí)同時(shí)考慮所有的解釋變量。而當(dāng)研究者考慮了相對(duì)較多的解釋變量時(shí)，逐步法是適用的。 （2）統(tǒng)計(jì)顯著性。在計(jì)算了判別函數(shù)以后，必須評(píng)估它的顯著性。有一系列不同的統(tǒng)計(jì)準(zhǔn)則可用。Wilks lambda，Mahalanobis distance和Raos V等都可以用來(lái)評(píng)估判別函數(shù)。（3）評(píng)估整體擬合。這個(gè)評(píng)估包括三個(gè)任務(wù)：計(jì)算每個(gè)觀(guān)測(cè)的判別得分、檢驗(yàn)各組在判別得分上的差異、評(píng)估組關(guān)系預(yù)測(cè)的精度。 4、結(jié)果的解釋 這個(gè)過(guò)程主要是解釋在判別分析中每個(gè)解釋變量的相對(duì)重要性，主要有三種方法：

18、標(biāo)準(zhǔn)化判別權(quán)重、判別載荷、偏 值。 5、結(jié)果的驗(yàn)證 判別分析的最后一個(gè)階段就是驗(yàn)證判別分析的結(jié)果，通常采用分割樣本和交叉驗(yàn)證法。 1、建立或打開(kāi)數(shù)據(jù)文件后，按AnalyzeClassify Discriminant的順序打開(kāi)Discriminant Analysis對(duì)話(huà)框。見(jiàn)圖9-7所示。圖9-7 判別分析主對(duì)話(huà)框 2、選擇分類(lèi)變量及其范圍 在主對(duì)話(huà)框中左面的矩形框中選擇表明已知的觀(guān)測(cè)量所屬類(lèi)別的變量，按向右按鈕，使該變量名移到右面的Grouping Variable 框中。此時(shí)矩形框下面的“Define Range”按鈕加亮，按該按鈕，顯示如圖9-8所示的對(duì)話(huà)框，在該框中分類(lèi)變量的最小值和最

19、大值。圖9-8 Define Range 對(duì)話(huà)框 3、指定判別分析的解釋變量在主對(duì)話(huà)框左面的變量表中選擇表明觀(guān)測(cè)量特征的變量，按下面一個(gè)箭頭按鈕把選中的變量移到Independents 矩形框中，作為參與判別分析的變量。 完成前面3步驟的操作即可使用各種系統(tǒng)默認(rèn)值對(duì)數(shù)據(jù)集的數(shù)據(jù)進(jìn)行判別分析了，但結(jié)果有時(shí)不能令人滿(mǎn)意，因此有必要根據(jù)以下步驟做進(jìn)一步的分析。 4、選擇觀(guān)測(cè)量 如果希望使用一部分觀(guān)測(cè)量進(jìn)行判別函數(shù)的推導(dǎo)，而且有一個(gè)變量的某個(gè)值可以作為這些觀(guān)測(cè)量的標(biāo)識(shí)，則用Select功能進(jìn)行選擇。展開(kāi)Set Value子對(duì)話(huà)框，如圖9-9所示，鍵入標(biāo)識(shí)參與分析的觀(guān)測(cè)量所具有的該變量值。圖9-9 Se

20、t Value 子對(duì)話(huà)框 在分析中一般均使用數(shù)據(jù)文件中的所有合法觀(guān)測(cè)量，因此此步驟也可以省略。5、選擇分析方法 在主對(duì)話(huà)框中解釋變量矩形框下面有兩個(gè)選擇項(xiàng)，用于選擇判別分析方法。 （1）Enter independent together 選項(xiàng)。當(dāng)認(rèn)為所有解釋變量都能對(duì)觀(guān)測(cè)量的特性提供豐富的信息且彼此獨(dú)立時(shí)，使用該選擇項(xiàng)。建立全模型，不需要進(jìn)一步進(jìn)行選擇。 （2）Use stepwise method 選項(xiàng)。當(dāng)不認(rèn)為所有解釋變量都能對(duì)觀(guān)測(cè)量的特性提供豐富的信息時(shí)，因此需要使用該選擇項(xiàng)，根據(jù)判別貢獻(xiàn)的大小再進(jìn)行選擇。單擊該項(xiàng)，“Method”按鈕加亮，可以進(jìn)一步選擇判別分析方法。 6、單擊“Me

21、thod”按鈕，展開(kāi)Stepwise Method 對(duì)話(huà)框，如圖9-10所示。其中：圖9-10 Stepwise Method 對(duì)話(huà)框 (1) Method 欄選擇，進(jìn)行逐步判別分析的方法?？晒┻x擇的判別分析方法有：Wilks lambda 選項(xiàng)、Unexplained variance 選項(xiàng)、Mahalanobis distance 選項(xiàng)、Smallest F ratio 選項(xiàng)、Raos V 選項(xiàng)。 (2) Criteria 欄，選擇逐步判別停止的判據(jù)?？晒┻x擇的判據(jù)有：Use F value 選項(xiàng)使用 值、Use Probability of F 選項(xiàng)，用 檢驗(yàn)的概率決定變量是否加入函數(shù)或

22、被剔除。 (3) Display 欄顯示選擇的內(nèi)容，有Summary of steps 復(fù)選項(xiàng)和F for Pairwise distances 復(fù)選項(xiàng)進(jìn)行選擇。 7、單擊Statistics按鈕，展開(kāi)Statistics對(duì)話(huà)框，指定輸出的統(tǒng)計(jì)量，如圖9-11所示。圖9-11 Statistics 對(duì)話(huà)框 (l) Descriptives 欄，選擇對(duì)原始數(shù)據(jù)的描述統(tǒng)計(jì)量的輸出，包括Means 復(fù)選項(xiàng)、Univariate ANOV 復(fù)選項(xiàng)、Boxs M 復(fù)選項(xiàng)。 (2) Function coefficients 欄，選擇判別函數(shù)系數(shù)的輸出形式，有Fisherhs 復(fù)選項(xiàng)、Unstandardized 復(fù)選項(xiàng)。 (3) Matrices 欄，選擇要求給出的解釋變量的系數(shù)矩陣。包括Within-groups correlation 復(fù)選項(xiàng)、Within-groups covariance 復(fù)選項(xiàng)、Separate-groups covariance 復(fù)選項(xiàng)、 Total covariance 復(fù)選項(xiàng)。 8、在主對(duì)話(huà)框中單擊Classify按鈕，展開(kāi)Classification對(duì)話(huà)框，指定分類(lèi)參數(shù)和判別結(jié)果，如圖9-12所示。圖9-12 Classification 對(duì)話(huà)框 (1) 在Prior Probabiliti