3 虛擬變量與方差分析

1、營(yíng)銷(xiāo)研究方法 - 數(shù)量分析方法1問(wèn)題引入例 6. 在表 2-7給出了一些女性曾生子女?dāng)?shù)的數(shù)據(jù)，同時(shí)也給出了她們的年齡，受教育程度和居住地。如果我們想知道女性的年齡（AGE），文化程度（EDU，5個(gè)級(jí)別）及居住地（AREA，城市和農(nóng)村）對(duì)其曾生子女?dāng)?shù)的影響， 怎樣建模？關(guān)鍵是文化程度和居住地2表 2-7 CEB AGE EDU AREA 1 20 3 1 1 22 4 2 2 24 3 2 1 25 5 1 1 28 5 1 3社會(huì)科學(xué)研究中，有許多分類(lèi)變量，如民族，文化程度，性別，公司類(lèi)型，品牌等它們也可以被包含在線性回歸模型中，用以解釋因變量的變化在將它們引入回歸模型之前，必須先將它們轉(zhuǎn)化為

2、虛擬變量（啞變量）。為什么？4因?yàn)榉诸?lèi)變量的各類(lèi)根本沒(méi)有定量關(guān)系，不能像間距變量的情形那樣，分析 變化一個(gè)單位時(shí)， 的平均變化如 男（0）- 女（1） 但我們可以以類(lèi)為單位，分析各類(lèi)對(duì) 的影響5虛擬變量的建立設(shè)是有個(gè)分類(lèi)的分類(lèi)變量，在數(shù)據(jù)處理時(shí)以不同編碼值代表案例所屬的類(lèi)型用個(gè)取值為 0 和的虛擬（dummy）變量分別代表各個(gè)類(lèi)的屬性當(dāng)案例屬于一個(gè)虛擬變量所代表的類(lèi)時(shí)，這個(gè)虛擬變量就取，否則取 0分類(lèi)變量 ： 有問(wèn)題嗎？6這 個(gè)虛擬變量線性相關(guān)，違背了最小二乘回歸的條件。怎樣解決？取消一個(gè)虛擬變量，即對(duì)有 個(gè)分類(lèi)的變量用 個(gè)虛擬變量編碼。有沒(méi)有信息損失，為什么？稱不設(shè)虛擬變量明確表示的類(lèi)為參照

3、類(lèi)7例 6.（續(xù)）文化程度(EDU)有 5 類(lèi)，分別為 (1)文盲或半文盲(2)小學(xué) (3)初中 (4)高中 (5)大學(xué)5 類(lèi)需 4 個(gè)虛擬變量， 取(1)為參照類(lèi)，則虛擬變量取值規(guī)則如下 8地區(qū)(AREA)有兩類(lèi)，分別為 (1)城市和 (2)農(nóng)村，只用一個(gè)虛擬變量 DU 就可以了。取農(nóng)村為參照類(lèi)，編碼規(guī)則為 根據(jù)原變量值建立虛擬變量的工作可以用 SPSS 數(shù)據(jù)轉(zhuǎn)換功能來(lái)完成SPSS Show！9用表 2-7 的數(shù)據(jù)建立如下回歸方程 回歸結(jié)果如下 方程的 為 0.96，各變量的回歸系數(shù)均在 0.05 水平顯著10虛擬變量回歸系數(shù)的意義當(dāng)兩個(gè)分類(lèi)變量都屬于參照類(lèi)時(shí)，所有虛擬變量都取值 0，回歸方

4、程(41)可以簡(jiǎn)化為上式為參照類(lèi)女性的曾生子女?dāng)?shù)對(duì)年齡的回歸直線， 為直線的截距， 為直線的斜率（表示？）11當(dāng)受教育程度為小學(xué)，居住地為農(nóng)村時(shí)，方程為(44) 是 (43) 的平行線，但截距增加了 ，因此 是小學(xué)文化程度女性比文盲半文盲女性在相同的年齡和居住地條件下曾生子女?dāng)?shù)多的局部12表示各類(lèi)別的虛擬變量的回歸系數(shù) 表示該類(lèi)別與參照類(lèi)均值之差，因此它又稱為差異截距 回歸方程 （42）各系數(shù)的解釋?zhuān)?3如何衡量各個(gè)變量（組）作用的大??？ 用偏確定系數(shù)。分別做不含有 （作為一組，代表EDU），AGE 和 DU 的線性回歸，然后根據(jù)（23）式，可得 表 2-814表 2-815如果只關(guān)心 AGE

5、 和 AREA 對(duì) CEB 的影響，我們可以做 CEB 對(duì) AGE 和 AREA 的回歸為什么不建立兩個(gè)線性回歸模型，分別對(duì)城鄉(xiāng)女性擬合她們?cè)优當(dāng)?shù)與其年齡的回歸直線？分別估計(jì)和用虛擬變量回歸將他們合并一起估計(jì)有何差異？16多元回歸比簡(jiǎn)單回歸的優(yōu)越性：只有將各方面的變量放在同一模型中，才能在控制其他自變量的情況下對(duì)各自自變量的邊際作用進(jìn)行考察和檢驗(yàn)統(tǒng)計(jì)控制17與單因素方差分析的關(guān)系如果一個(gè)回歸分析中只有虛擬變量，并且這些虛擬變量都代表某一個(gè)原變量的不同類(lèi)別，那么這一回歸的整體檢驗(yàn)等價(jià)于單因素方差分析（one-way analysis of variance，1-way ANOVA）如只納入代

6、表 EDU 的四個(gè)虛擬變量的回歸 回歸方程的顯著性檢驗(yàn) F=10.079SPSS Show! 方差分析 v.s. 回歸分析18在只有一方面的虛擬變量的回歸方程中，由于沒(méi)有其他變量，各回歸系數(shù)的表現(xiàn)十分單純，回歸常數(shù)項(xiàng) 就是參照類(lèi)案例的 平均值本例中 即為兩個(gè)文盲、半文盲案例的 CEB 值 4 和 5 的平均值其他教育水平類(lèi)的平均值則通過(guò)參照類(lèi)平均值加上相應(yīng)差值 來(lái)表現(xiàn)，如大學(xué)這一方程完美再現(xiàn)了樣本按教育程度分類(lèi)的類(lèi)平均值19與雙因素方差分析的關(guān)系如果一個(gè)回歸分析中只有兩個(gè)因素形成的虛擬變量，那么這一回歸分析等價(jià)于雙因素方差分析（2-way ANOVA）如例 6 中將代表教育程度和城鄉(xiāng)的所有虛擬

7、變量納入回歸中嚴(yán)格來(lái)說(shuō)，它是只考慮了主效應(yīng)的雙因素方差分析，它沒(méi)有考慮教育程度和城鄉(xiāng)兩個(gè)因素之間的交互作用（Interaction）如何在回歸中納入交互作用呢？20交互作用用兩個(gè)因素的各項(xiàng)虛擬變量相乘得到如例 6 中，EDU 與 AREA 的交互作用為SPSS Show-How to get these interaction terms? 方差分析 v.s. 回歸分析？21含交互作用的回歸方程為將交互作用包含在內(nèi)的飽和雙因素方差模型，能夠完美再現(xiàn)各交互分類(lèi)的組平均值常數(shù)項(xiàng)仍然是參照類(lèi)的平均值，這時(shí)的參照類(lèi)是交互參照類(lèi)，即兩個(gè)因素的所有虛擬變量都取 0 時(shí)的類(lèi)本例中的交互參照類(lèi)為農(nóng)村文盲半文盲

8、女性，樣本中這一類(lèi)只有一例，其平均值直接為這一例的 CEB 值22其他交互類(lèi)的平均值也可以由上述回歸方程計(jì)算出來(lái)對(duì)于城市小學(xué)水平的女性，有 其他所有代表主效應(yīng)和交互效應(yīng)的虛擬變量的值都為 0 ，算得該交互類(lèi)的平均值為 23在交互效應(yīng)比較小，或者出于簡(jiǎn)化模型的目的，在模型中不考慮交互項(xiàng)例 6 的雙因素分析的簡(jiǎn)化模型為常數(shù)項(xiàng)仍為參照類(lèi)的 CEB 平均值的估計(jì)，由于沒(méi)有考慮交互項(xiàng)的影響，估計(jì)出現(xiàn)了誤差（4.73 v.s. 5），但同樣可以通過(guò)其他各系數(shù)計(jì)算任一交互類(lèi)的估計(jì)值城市小學(xué)水平 出現(xiàn)了偏差24由于沒(méi)有考慮交互作用，各交互類(lèi)的估計(jì)就會(huì)出現(xiàn)估計(jì)誤差，這是簡(jiǎn)化的代價(jià)但是回歸分析對(duì)所有案例估計(jì)誤差之

9、和等于 0。為什么？25考慮了所有交互作用的模型稱為飽和模型當(dāng)有 K 個(gè)因素時(shí)，飽和模型中不僅有二階交互項(xiàng)，而且還有三階，四階直至 K 階所有因素組合的各階交互項(xiàng)。當(dāng)因素很多時(shí)，一般不再采用虛擬變量回歸，而是直接用 SPSS 中的方差分析來(lái)做26協(xié)方差分析如果一個(gè)回歸分析中不僅有虛擬變量，而且還有其他間距測(cè)度變量，那么這一回歸等價(jià)于協(xié)方差分析（Analysis of Covariance，ANCOVA）。間距測(cè)度變量在協(xié)方差分析中稱為協(xié)變量（Covariate）例 6 中，AGE 是間距測(cè)度變量， 和 是虛擬變量27模型 (41) 中沒(méi)有考慮因素之間的交互效應(yīng)由于控制了（引入了）協(xié)變量 AGE

10、，使得所有類(lèi)別平均值中都不含有年齡的影響，常數(shù)項(xiàng)成了抽象的無(wú)年齡的“農(nóng)村文盲、半文盲女性的平均生育數(shù)（為什么）CEB 被分解為 AGE，EDU 和 AREA 三個(gè)獨(dú)立因素的影響（認(rèn)為交互效應(yīng)為 0）28多元回歸中的控制，就是通過(guò)統(tǒng)計(jì)方法將所有案例中這三個(gè)方面的影響剝離開(kāi)，而常數(shù)項(xiàng)是剝離以后參照組的平均生育水平控制年齡后，參照組的平均生育水平降低了很多。現(xiàn)實(shí)中不存在沒(méi)有年齡的女性，所以在估計(jì)一個(gè)女性的生育水平時(shí)，必須給定一個(gè)年齡。年齡的邊際奉獻(xiàn)和實(shí)際奉獻(xiàn)在這個(gè)例子中都很大29在這個(gè)例子中，年齡只是一個(gè)控制變量，不是分析的焦點(diǎn)。通常我們關(guān)注的是社會(huì)科學(xué)中的抽象變量（生育，教育，城鄉(xiāng)）之間的關(guān)系和差

11、異選擇不同的參照類(lèi)對(duì)結(jié)果是否有影響？ 那些結(jié)果受影響，那些不受影響？30含虛擬變量的回歸分析的檢驗(yàn)在回歸分析中采用虛擬變量，無(wú)論是對(duì)整個(gè)模型的顯著性檢驗(yàn)（F 檢驗(yàn)），還是對(duì)回歸系數(shù)的顯著性檢驗(yàn)（t 檢驗(yàn)），與一般回歸分析完全一樣對(duì)于虛擬變量，由于取值只能是 0 和 1，所以檢驗(yàn)的只是該變量取值為 1 的類(lèi)別的平均值是否與參照類(lèi)的平均值有顯著差異31在其他條件相同的情況下，如何對(duì)同一因素的不同類(lèi)進(jìn)行比較？如小學(xué)和大學(xué)其他條件相同的情況下，同一因素不同類(lèi)的平均值之差為 。相應(yīng)的假設(shè)檢驗(yàn)為檢驗(yàn)統(tǒng)計(jì)量為 （服從 ） 32小結(jié)在因素?cái)?shù)目較少，各因素的類(lèi)別較少且可以忽略交互效應(yīng)時(shí)，較適宜用回歸方法進(jìn)行方差

12、分析回歸方法同時(shí)解決了方差分析，計(jì)算各類(lèi)平均值與參照類(lèi)平均值之差，并對(duì)其顯著性進(jìn)行了檢驗(yàn)但在因素?cái)?shù)目較多，類(lèi)別較多，而且不能忽略交互效應(yīng)時(shí)，直接用 SPSS 的方差分析模塊比較方便，它不需建立虛擬變量，還可以按照用戶要求規(guī)定各階交互項(xiàng)33其他分類(lèi)變量編碼方法用于事后比較（即根據(jù)抽樣調(diào)查的觀測(cè)數(shù)據(jù)來(lái)進(jìn)行分析）的編碼：虛擬編碼和效應(yīng)編碼用于事先設(shè)計(jì)好的比較方案（即觀測(cè)數(shù)據(jù)是通過(guò)可控制的試驗(yàn)研究取得的）的編碼：正交編碼和非正交編碼 34效應(yīng)編碼反映各類(lèi)與總平均值之間的差距一個(gè)分類(lèi)變量如果包括 k 類(lèi)，則需要 k-1 個(gè)效應(yīng)變量。習(xí)慣選第一類(lèi)或最后一類(lèi)不設(shè)立單獨(dú)變量，他們可通過(guò)其他效應(yīng)變量表示35用

13、分別表示文盲半文盲，小學(xué)，初中和高中，不對(duì)“大學(xué)單獨(dú)設(shè)立效應(yīng)變量，對(duì)教育水平的效應(yīng)編碼如下36效應(yīng)編碼賦值規(guī)則如下：對(duì)于 k-1 個(gè)效應(yīng)變量，當(dāng)案例屬于該效應(yīng)變量代表的類(lèi)別時(shí)，效應(yīng)變量賦值 1；當(dāng)案例不屬于該效應(yīng)變量代表的類(lèi)別時(shí)，效應(yīng)變量賦值 0當(dāng)案例屬于不設(shè)立效應(yīng)變量的一類(lèi)時(shí)，所有效應(yīng)變量賦值為 -137對(duì)于“大學(xué)為不設(shè)立效應(yīng)變量的類(lèi)，CEB對(duì)教育因素效應(yīng)變量的回歸方程為回歸方程的顯著性檢驗(yàn) F=10.079，與采用虛擬編碼的回歸方程一致系數(shù)的解釋?zhuān)?各類(lèi)平均值與采用虛擬編碼的結(jié)果是否一致？38無(wú)論用虛擬編碼還是效應(yīng)編碼，無(wú)論選哪個(gè)類(lèi)為參照類(lèi)或不設(shè)立獨(dú)立效應(yīng)變量，對(duì)應(yīng)模型的 和回歸模型的 F 檢驗(yàn)是完全相同的只不過(guò)各個(gè)系數(shù)的解釋不一樣 數(shù)學(xué)推導(dǎo)說(shuō)明虛擬編碼和效應(yīng)編碼的意義39作業(yè) 2對(duì)于例 6 中提供的背景和表 2-7中給出的數(shù)據(jù)，采用效應(yīng)變量完成簡(jiǎn)化的（無(wú)交互效應(yīng)）和飽和的（含交互效應(yīng)