固定效應(yīng)和隨機效應(yīng)

1、方差分析(寫成英文我就認識了。analysis of variance (ANOVA) )主要有三種模型：即固定效應(yīng)模型（fixed effects model），隨機效應(yīng)模型（random effects model），混合效應(yīng)模型（mixed effects model）。所謂的固定、隨機、混合，主要是針對分組變量而言的。固定效應(yīng)模型，表示你打算比較的就是你現(xiàn)在選中的這幾組。例如，我想比較3種藥物的療效，我的目的就是為了比較這三種藥的差別，不想往外推廣。這三種藥不是從很多種藥中抽樣出來的，不想推廣到其他的藥物，結(jié)論僅限于這三種藥。“固定”的含義正在于

2、此，這三種藥是固定的，不是隨機選擇的。隨機效應(yīng)模型，表示你打算比較的不僅是你的設(shè)計中的這幾組，而是想通過對這幾組的比較，推廣到他們所能代表的總體中去。例如，你想知道是否名牌大學(xué)的就業(yè)率高于普通大學(xué)，你選擇了北大、清華、北京工商大學(xué)、北京科技大學(xué)4所學(xué)校進行比較，你的目的不是為了比較這4所學(xué)校之間的就業(yè)率差異，而是為了說明他們所代表的名牌和普通大學(xué)之間的差異。你的結(jié)論不會僅限于這4所大學(xué)，而是要推廣到名牌和普通這樣的一個更廣泛的范圍。“隨機”的含義就在于此，這4所學(xué)校是從名牌和普通大學(xué)中隨機挑選出來的。混合效應(yīng)模型就比較好理解了，就是既有固定的因素，也有隨機的因素。一般來說，只有固定效應(yīng)模型，才

3、有必要進行兩兩比較，隨機效應(yīng)模型沒有必要進行兩兩比較，因為研究的目的不是為了比較隨機選中的這些組別。固定效應(yīng)和隨機效應(yīng)的選擇是大家做面板數(shù)據(jù)常常要遇到的問題，一個常見的方法是做huasman檢驗，即先估計一個隨機效應(yīng)，然后做檢驗，如果拒絕零假設(shè)，則可以使用固定效應(yīng)，反之如果接受零假設(shè)，則使用隨機效應(yīng)。但這種方法往往得到事與愿違的結(jié)果。另一個想法是在建立模型前根據(jù)數(shù)據(jù)性質(zhì)確定使用那種模型，比如數(shù)據(jù)是從總體中抽樣得到的，則可以使用隨機效應(yīng)，比如從N個家庭中抽出了M個樣本，則由于存在隨機抽樣，則建議使用隨機效應(yīng)，反之如果數(shù)據(jù)是總體數(shù)據(jù)，比如31個省市的Gdp，則不存在隨機抽樣問題，可以使用固定效應(yīng)。

4、同時，從估計自由度角度看，由于固定效應(yīng)模型要估計每個截面的參數(shù)，因此隨機效應(yīng)比固定效應(yīng)有較大的自由度.固定效應(yīng)模型固定效應(yīng)模型（fixed effects model）的應(yīng)用前提是假定全部研究結(jié)果的方向與效應(yīng)大小基本相同，即各獨立研究的結(jié)果趨于一致，一致性檢驗差異無顯著性。因此固定效應(yīng)模型適用于各獨立研究間無差異，或差異較小的研究。固定效應(yīng)模型是指實驗結(jié)果只想比較每一自變項之特定類目或類別間的差異及其與其他自變項之特定類目或類別間交互作用效果，而不想依此推論到同一自變項未包含在內(nèi)的其他類目或類別的實驗設(shè)計。例如：研究者想知道教師的認知類型在不同教學(xué)方法情境中，對兒童學(xué)習(xí)數(shù)學(xué)的效果有何不同，其中

5、教師和學(xué)生的認知類型，均指場地依賴型和場地獨立型，而不同的教學(xué)方法，則指啟發(fā)式、講演式、編序式。當(dāng)實驗結(jié)束時，研究者僅就兩種類型間的交互作用效果及類型間的差異進行說明，而未推論到其他認知類型，或第四種教學(xué)方法。象此種實驗研究模式，即稱為固定效果模式。與本詞相對者是隨機效應(yīng)模型（random effect model）、混合效應(yīng)模型（mixed effect model）。 隨機效應(yīng)模型 random effects models隨機效應(yīng)模型(random effects models)是經(jīng)典的線性模型的一種推廣，就是把原來（固定）的回歸系數(shù)看作是隨機變量，一般都是假設(shè)是來自正態(tài)分布。

6、如果模型里一部分系數(shù)是隨機的，另外一些是固定的，一般就叫做混合模型（mixed models）。雖然定義很簡單，對線性混合模型的研究與應(yīng)用也已經(jīng)比較成熟了，但是如果從不同的側(cè)面來看，可以把很多的統(tǒng)計思想方法綜合聯(lián)系起來。概括地來說，這個模型是頻率派和貝葉斯模型的結(jié)合，是經(jīng)典的參數(shù)統(tǒng)計到高維數(shù)據(jù)分析的先驅(qū)，是擬合具有一定相關(guān)結(jié)構(gòu)的觀測的典型工具。隨機效應(yīng)最直觀的用處就是把固定效應(yīng)推廣到隨機效應(yīng)。注意，這時隨機效應(yīng)是一個群體概念，代表了一個分布的信息 or 特征，而對固定效應(yīng)而言，我們所做的推斷僅限于那幾個固定的（未知的）參數(shù)。例如，如果要研究一些水稻的品種是否與產(chǎn)量有影響，如果用于分析的品種是從

7、一個很大的品種集合里隨機選取的，那么這時用隨機效應(yīng)模型分析就可以推斷所有品種構(gòu)成的整體的一些信息。這里，就體現(xiàn)了經(jīng)典的頻率派的思想-任何樣本都來源于一個無限的群體(population)。同時，引入隨機效應(yīng)就可以使個體觀測之間就有一定的相關(guān)性，所以就可以用來擬合非獨立觀測的數(shù)據(jù)。經(jīng)典的就有重復(fù)觀測的數(shù)據(jù)，多時間點的記錄等等，很多時候就叫做縱向數(shù)據(jù)(longitudinal data)，已經(jīng)成為很大的一個統(tǒng)計分支。上述兩點基本上屬于頻率派，分析的工具也很經(jīng)典，像極大似然估計，似然比檢驗，大樣本的漸近性等。但是，應(yīng)該注意到把固定的參數(shù)看做是隨機變量，可是貝葉斯學(xué)派的觀念。當(dāng)然，mixed mode

8、ls 不能算是完全的貝葉斯模型，因為貝葉斯學(xué)派要把所有的未知的參數(shù)都看作是隨機的。所以有人把它看做是半貝葉斯的 or 經(jīng)驗貝葉斯的。在這個模型上，我們可以看到兩個學(xué)派很好的共存與交流，在現(xiàn)代的統(tǒng)計方法里兩種學(xué)派互相結(jié)合的例子也越來越多。眾所周知，隨機效應(yīng)有壓縮(shrinkage)的功能, 而且可以使模型的自由度(df) 變小。這個簡單的結(jié)果，對現(xiàn)在的高維數(shù)據(jù)分析的發(fā)展起到了至關(guān)重要的作用。事實上，隨機效應(yīng)模型就是一個帶懲罰(penalty)的一個線性模型，有引入正態(tài)隨機效應(yīng)就等價于增加的一個二次懲罰。有趣的是，著名的嶺回歸(ridge regression) 就是一個二次懲罰，它的提出解決了

9、當(dāng)設(shè)計矩陣不滿秩時最小二乘估計（LSE）無法計算以及提高了預(yù)測能力。于是，引入隨機效應(yīng)或者二次懲罰就可以處理當(dāng)參數(shù)個數(shù)p 大于觀測個數(shù)n的情形，這是在分析高維數(shù)據(jù)時必須面對的問題。當(dāng)然，二次懲罰還有一個特性，如：計算簡便，能選擇相關(guān)的predictors，對前面的幾個主成分壓縮程度較小等。    根據(jù)面板數(shù)據(jù)的特性，在回歸模型的設(shè)定的有效性問題上，我們需要檢驗混合估計模型、固定效應(yīng)模型（Fixed-Effect Model）以及隨機效應(yīng)模型（Random-Effect Model）的有效性1，其中固定效應(yīng)又包括個體固定效應(yīng)和時間固定效應(yīng)（如果同時具備個體

10、固定效應(yīng)和時間固定效應(yīng)，則稱之為雙向固定效應(yīng)）。對于混合估計模型和固定效應(yīng)模型，我們可以使用F檢驗來判別其有效性；對于混合估計模型和隨機效應(yīng)模型，通?？梢杂肔M檢驗判別其有效性；對于固定效應(yīng)模型和隨機效應(yīng)模型，通常用Hausman檢驗判斷其適用性。有關(guān)模型設(shè)定和檢驗的細節(jié)可以參考Baltagi（2005）所以，你需要分別檢驗是否加入時間固定效應(yīng)、是否需要加入個體固定效應(yīng)。1 簡言之，混合估計模型就是假定所有公司年度都具有相同的截距項；固定效應(yīng)模型假定截距項隨公司和年度而變；隨機效應(yīng)模型不但假定截距項隨公司和年度而變，而且假定這些不同的截距項和其它解釋變量不相關(guān)。更為具體的模型設(shè)定問題可以參見李

11、子奈、葉阿忠（2000），Wooldridge（2003），以及Baltagi（2005）。   面板數(shù)據(jù)分析方法步驟 步驟一：分析數(shù)據(jù)的平穩(wěn)性（單位根檢驗）按照正規(guī)程序，面板數(shù)據(jù)模型在回歸前需檢驗數(shù)據(jù)的平穩(wěn)性。李子奈曾指出，一些非平穩(wěn)的經(jīng)濟時間序列往往表現(xiàn)出共同的變化趨勢，而這些序列間本身不一定有直接的關(guān)聯(lián)，此時，對這些數(shù)據(jù)進行回歸，盡管有較高的R平方，但其結(jié)果是沒有任何實際意義的。這種情況稱為稱為虛假回歸或偽回歸（spurious regression）。他認為平穩(wěn)的真正含義是：一個時間序列剔除了不變的均值（可視為截距）和時間趨勢以后，剩余的序列為零

12、均值，同方差，即白噪聲。因此單位根檢驗時有三種檢驗?zāi)Ｊ剑杭扔汹厔萦钟薪鼐?、只有截距、以上都無。因此為了避免偽回歸，確保估計結(jié)果的有效性，我們必須對各面板序列的平穩(wěn)性進行檢驗。而檢驗數(shù)據(jù)平穩(wěn)性最常用的辦法就是單位根檢驗。首先，我們可以先對面板序列繪制時序圖，以粗略觀測時序圖中由各個觀測值描出代表變量的折線是否含有趨勢項和（或）截距項，從而為進一步的單位根檢驗的檢驗?zāi)Ｊ阶鰷?zhǔn)備。單位根檢驗方法的文獻綜述：在非平穩(wěn)的面板數(shù)據(jù)漸進過程中,Levin andLin(1993) 很早就發(fā)現(xiàn)這些估計量的極限分布是高斯分布,這些結(jié)果也被應(yīng)用在有異方差的面板數(shù)據(jù)中,并建立了對面板單位根進行檢驗的早期版本。后來經(jīng)過

13、Levin et al. (2002)的改進,提出了檢驗面板單位根的LLC 法。Levin et al. (2002) 指出,該方法允許不同截距和時間趨勢,異方差和高階序列相關(guān),適合于中等維度(時間序列介于25250 之間,截面數(shù)介于10250 之間) 的面板單位根檢驗。Im et al. (1997) 還提出了檢驗面板單位根的IPS 法,但Breitung(2000) 發(fā)現(xiàn)IPS 法對限定性趨勢的設(shè)定極為敏感,并提出了面板單位根檢驗的Breitung 法。Maddala and Wu(1999)又提出了ADF-Fisher和PP-Fisher面板單位根檢驗方法。由上述綜述可知，可以使用LLC

14、、IPS、Breintung、ADF-Fisher 和PP-Fisher5種方法進行面板單位根檢驗。其中LLC-T 、BR-T、IPS-W 、ADF-FCS、PP-FCS 、H-Z 分別指Levin, Lin & Chu t* 統(tǒng)計量、Breitung t 統(tǒng)計量、lm Pesaran & Shin W 統(tǒng)計量、ADF- Fisher Chi-square統(tǒng)計量、PP-Fisher Chi-square統(tǒng)計量、Hadri Z統(tǒng)計量，并且Levin, Lin & Chu t* 統(tǒng)計量、Breitung t統(tǒng)計量的原假設(shè)為存在普通的單位根過程，lm Pesaran &

15、; Shin W 統(tǒng)計量、ADF- Fisher Chi-square統(tǒng)計量、PP-Fisher Chi-square統(tǒng)計量的原假設(shè)為存在有效的單位根過程， Hadri Z統(tǒng)計量的檢驗原假設(shè)為不存在普通的單位根過程。有時，為了方便，只采用兩種面板數(shù)據(jù)單位根檢驗方法，即相同根單位根檢驗LLC（Levin-Lin-Chu）檢驗和不同根單位根檢驗 Fisher-ADF檢驗（注：對普通序列（非面板序列）的單位根檢驗方法則常用ADF檢驗），如果在兩種檢驗中均拒絕存在單位根的原假設(shè)則我們說此序列是平穩(wěn)的，反之則不平穩(wěn)。如果我們以T（trend）代表序列含趨勢項，以I（intercept）代表序列含截距項，

16、T&I代表兩項都含，N（none）代表兩項都不含，那么我們可以基于前面時序圖得出的結(jié)論，在單位根檢驗中選擇相應(yīng)檢驗?zāi)Ｊ?。但基于時序圖得出的結(jié)論畢竟是粗略的，嚴格來說，那些檢驗結(jié)構(gòu)均需一一檢驗。具體操作可以參照李子奈的說法：ADF檢驗是通過三個模型來完成，首先從含有截距和趨勢項的模型開始，再檢驗只含截距項的模型，最后檢驗二者都不含的模型。并且認為，只有三個模型的檢驗結(jié)果都不能拒絕原假設(shè)時，我們才認為時間序列是非平穩(wěn)的，而只要其中有一個模型的檢驗結(jié)果拒絕了零假設(shè)，就可認為時間序列是平穩(wěn)的。此外，單位根檢驗一般是先從水平（level）序列開始檢驗起，如果存在單位根，則對該序列進行一階差分后繼

17、續(xù)檢驗，若仍存在單位根，則進行二階甚至高階差分后檢驗，直至序列平穩(wěn)為止。我們記I(0)為零階單整，I(1)為一階單整，依次類推，I(N)為N階單整。 步驟二：協(xié)整檢驗或模型修正情況一：如果基于單位根檢驗的結(jié)果發(fā)現(xiàn)變量之間是同階單整的，那么我們可以進行協(xié)整檢驗。協(xié)整檢驗是考察變量間長期均衡關(guān)系的方法。所謂的協(xié)整是指若兩個或多個非平穩(wěn)的變量序列，其某個線性組合后的序列呈平穩(wěn)性。此時我們稱這些變量序列間有協(xié)整關(guān)系存在。因此協(xié)整的要求或前提是同階單整。但也有如下的寬限說法：如果變量個數(shù)多于兩個，即解釋變量個數(shù)多于一個，被解釋變量的單整階數(shù)不能高于任何一個解釋變量的單整階數(shù)。另當(dāng)解釋變量的單整

18、階數(shù)高于被解釋變量的單整階數(shù)時，則必須至少有兩個解釋變量的單整階數(shù)高于被解釋變量的單整階數(shù)。如果只含有兩個解釋變量，則兩個變量的單整階數(shù)應(yīng)該相同。也就是說，單整階數(shù)不同的兩個或以上的非平穩(wěn)序列如果一起進行協(xié)整檢驗，必然有某些低階單整的，即波動相對高階序列的波動甚微弱（有可能波動幅度也不同）的序列，對協(xié)整結(jié)果的影響不大，因此包不包含的重要性不大。而相對處于最高階序列，由于其波動較大，對回歸殘差的平穩(wěn)性帶來極大的影響，所以如果協(xié)整是包含有某些高階單整序列的話（但如果所有變量都是階數(shù)相同的高階，此時也被稱作同階單整，這樣的話另當(dāng)別論），一定不能將其納入?yún)f(xié)整檢驗。協(xié)整檢驗方法的文獻綜述：(1)Kao(

19、1999)、Kao and Chiang(2000)利用推廣的DF和ADF檢驗提出了檢驗面板協(xié)整的方法,這種方法零假設(shè)是沒有協(xié)整關(guān)系,并且利用靜態(tài)面板回歸的殘差來構(gòu)建統(tǒng)計量。(2)Pedron(1999)在零假設(shè)是在動態(tài)多元面板回歸中沒有協(xié)整關(guān)系的條件下給出了七種基于殘差的面板協(xié)整檢驗方法。和Kao的方法不同的是,Pedroni的檢驗方法允許異質(zhì)面板的存在。(3)Larsson et al(2001)發(fā)展了基于Johansen(1995)向量自回歸的似然檢驗的面板協(xié)整檢驗方法，這種檢驗的方法是檢驗變量存在共同的協(xié)整的秩。我們主要采用的是Pedroni、Kao、Johansen的方法。通過了協(xié)整

20、檢驗，說明變量之間存在著長期穩(wěn)定的均衡關(guān)系，其方程回歸殘差是平穩(wěn)的。因此可以在此基礎(chǔ)上直接對原方程進行回歸，此時的回歸結(jié)果是較精確的。這時，我們或許還想進一步對面板數(shù)據(jù)做格蘭杰因果檢驗（因果檢驗的前提是變量協(xié)整）。但如果變量之間不是協(xié)整（即非同階單整）的話，是不能進行格蘭杰因果檢驗的，不過此時可以先對數(shù)據(jù)進行處理。引用張曉峒的原話，“如果y和x不同階，不能做格蘭杰因果檢驗，但可通過差分序列或其他處理得到同階單整序列，并且要看它們此時有無經(jīng)濟意義。”下面簡要介紹一下因果檢驗的含義：這里的因果關(guān)系是從統(tǒng)計角度而言的，即是通過概率或者分布函數(shù)的角度體現(xiàn)出來的：在所有其它事件的發(fā)生情況固定不變的條件下

21、，如果一個事件X的發(fā)生與不發(fā)生對于另一個事件Y的發(fā)生的概率（如果通過事件定義了隨機變量那么也可以說分布函數(shù)）有影響，并且這兩個事件在時間上又有先后順序（A前B后），那么我們便可以說X是Y的原因?？紤]最簡單的形式，Granger檢驗是運用F-統(tǒng)計量來檢驗X的滯后值是否顯著影響 Y（在統(tǒng)計的意義下，且已經(jīng)綜合考慮了Y的滯后值；如果影響不顯著，那么稱X不是Y的“Granger原因”（Granger cause）；如果影響顯著，那么稱X是Y的“Granger原因”。同樣，這也可以用于檢驗Y是X的“原因”，檢驗Y的滯后值是否影響X（已經(jīng)考慮了X 的滯后對X自身的影響）。Eviews好像沒有在POOL窗口

22、中提供Granger causality test，而只有unit root test和cointegration test。說明Eviews是無法對面板數(shù)據(jù)序列做格蘭杰檢驗的，格蘭杰檢驗只能針對序列組做。也就是說格蘭杰因果檢驗在Eviews中是針對普通的序列對(pairwise)而言的。你如果想對面板數(shù)據(jù)中的某些合成序列做因果檢驗的話，不妨先導(dǎo)出相關(guān)序列到一個組中(POOL窗口中的Proc/Make Group)，再來試試。情況二：如果如果基于單位根檢驗的結(jié)果發(fā)現(xiàn)變量之間是非同階單整的，即面板數(shù)據(jù)中有些序列平穩(wěn)而有些序列不平穩(wěn)，此時不能進行協(xié)整檢驗與直接對原序列進行回歸。但此時也不要著急，我

23、們可以在保持變量經(jīng)濟意義的前提下，對我們前面提出的模型進行修正，以消除數(shù)據(jù)不平穩(wěn)對回歸造成的不利影響。如差分某些序列，將基于時間頻度的絕對數(shù)據(jù)變成時間頻度下的變動數(shù)據(jù)或增長率數(shù)據(jù)。此時的研究轉(zhuǎn)向新的模型，但要保證模型具有經(jīng)濟意義。因此一般不要對原序列進行二階差分，因為對變動數(shù)據(jù)或增長率數(shù)據(jù)再進行差分，我們不好對其冠以經(jīng)濟解釋。難道你稱其為變動率的變動率？ 步驟三：面板模型的選擇與回歸面板數(shù)據(jù)模型的選擇通常有三種形式：一種是混合估計模型（Pooled Regression Model）。如果從時間上看，不同個體之間不存在顯著性差異；從截面上看，不同截面之間也不存在顯著性差異，那么就可以

24、直接把面板數(shù)據(jù)混合在一起用普通最小二乘法（OLS）估計參數(shù)。一種是固定效應(yīng)模型（Fixed Effects Regression Model）。如果對于不同的截面或不同的時間序列，模型的截距不同，則可以采用在模型中添加虛擬變量的方法估計回歸參數(shù)。一種是隨機效應(yīng)模型（Random Effects Regression Model）。如果固定效應(yīng)模型中的截距項包括了截面隨機誤差項和時間隨機誤差項的平均效應(yīng)，并且這兩個隨機誤差項都服從正態(tài)分布，則固定效應(yīng)模型就變成了隨機效應(yīng)模型。在面板數(shù)據(jù)模型形式的選擇方法上，我們經(jīng)常采用F檢驗決定選用混合模型還是固定效應(yīng)模型，然后用Hausman檢驗確定應(yīng)該建立隨

25、機效應(yīng)模型還是固定效應(yīng)模型。檢驗完畢后，我們也就知道該選用哪種模型了，然后我們就開始回歸：在回歸的時候，權(quán)數(shù)可以選擇按截面加權(quán)（cross-section weights）的方式，對于橫截面?zhèn)€數(shù)大于時序個數(shù)的情況更應(yīng)如此，表示允許不同的截面存在異方差現(xiàn)象。估計方法采用PCSE（Panel Corrected Standard Errors，面板校正標(biāo)準(zhǔn)誤）方法。Beck和Katz(1995)引入的PCSE估計方法是面板數(shù)據(jù)模型估計方法的一個創(chuàng)新，可以有效的處理復(fù)雜的面板誤差結(jié)構(gòu)，如同步相關(guān)，異方差，序列相關(guān)等，在樣本量不夠大時尤為有用。 原文：   &#

26、160; 固定效應(yīng)模型分為三種：個體固定效應(yīng)模型、時刻固定效應(yīng)模型和個體時刻固定效應(yīng)模型）。如果我們是對個體固定，則應(yīng)選擇個體固定效用模型。但是，我們還需作個體固定效應(yīng)模型和混合估計模型的選擇。所以，就要作F值檢驗。    相對于混合估計模型來說，是否有必要建立個體固定效應(yīng)模型可以通過F檢驗來完成。    H0：對于不同橫截面模型截距項相同（建立混合估計模型）。SSEr    H1：對于不同橫截面模型的截距項不同（建立時刻固定效應(yīng)模型）。SSEu    F統(tǒng)計量定義為：    F=( SSEr - SSEu)/(T+k2)/ SSEu/(NT-T-k)