第十八對(duì)數(shù)極大似然估計(jì)

第十八對(duì)數(shù)極大似然估計(jì)第1頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月使用對(duì)數(shù)極大似然估計(jì)時(shí)，我們用EViews的序列生成器，將樣本中各個(gè)觀測(cè)值的對(duì)數(shù)似然貢獻(xiàn)描述為一個(gè)未知參數(shù)的函數(shù)。可以給出似然函數(shù)中一個(gè)或多個(gè)參數(shù)的解析微分，也可以讓EViews自動(dòng)計(jì)算數(shù)值微分。EViews將尋找使得指定的似然函數(shù)最大化的參數(shù)值，并給出這些參數(shù)估計(jì)的估計(jì)標(biāo)準(zhǔn)差。在本章，我們將詳細(xì)論述對(duì)數(shù)極大似然估計(jì)，說(shuō)明其一般特征。并給出了一些可以使用該方法的具體的例子。

第2頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月§18.1概論用對(duì)數(shù)極大似然估計(jì)來(lái)估計(jì)一個(gè)模型，主要的工作是建立用來(lái)求解似然函數(shù)的說(shuō)明文本。用EViews指定對(duì)數(shù)極大似然函數(shù)的說(shuō)明是很容易的，因?yàn)樗迫缓瘮?shù)的說(shuō)明只是一系列對(duì)序列的賦值語(yǔ)句，這些賦值語(yǔ)句在極大化的過(guò)程中被反復(fù)的計(jì)算。我們所要做的只是寫(xiě)下一組語(yǔ)句，在計(jì)算時(shí)，這些語(yǔ)句將描述一個(gè)包含每個(gè)觀測(cè)值對(duì)似然函數(shù)貢獻(xiàn)的序列。第3頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月首先，我們簡(jiǎn)單地回顧一下線性回歸模型的對(duì)數(shù)極大似然估計(jì)方法。考慮多元線性回歸模型的一般形式

t=1,2,…,T(1)其中k是解釋變量個(gè)數(shù)，T是觀測(cè)值個(gè)數(shù)，隨機(jī)擾動(dòng)項(xiàng)

～，那么服從如下的正態(tài)分布：～(2)其中第4頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月Y的隨機(jī)抽取的T個(gè)樣本觀測(cè)值的聯(lián)合概率為

(3)這就是變量Y的似然函數(shù)。對(duì)似然函數(shù)求極大值和對(duì)對(duì)數(shù)似然函數(shù)求極大值是等價(jià)的，對(duì)數(shù)似然函數(shù)為

(4)

第5頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月注意到，我們能將對(duì)數(shù)似然函數(shù)寫(xiě)成所有觀測(cè)值t的對(duì)數(shù)似然貢獻(xiàn)和的形式，(5)這里單個(gè)貢獻(xiàn)由下面的式子給出：(6)

第6頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月以只含一個(gè)解釋變量的方程為例。假定知道模型參數(shù)的真實(shí)值，并且想用EViews產(chǎn)生一個(gè)包含每個(gè)觀測(cè)值的貢獻(xiàn)的序列。可以將已知的參數(shù)賦值給系數(shù)向量的c(1)到c(3)元素，然后把下面的賦值語(yǔ)句作為EViews的命令或程序來(lái)執(zhí)行。Seriesres=y-c(1)-c(2)*xSeriesvar=c(3)SerieslogL1=-log(2*3.14159*var)/2-(res^2/var)/2前面兩行語(yǔ)句描述了用來(lái)存儲(chǔ)計(jì)算時(shí)的中間結(jié)果的序列。第一個(gè)語(yǔ)句創(chuàng)建了殘差序列：res，而第二個(gè)語(yǔ)句創(chuàng)建了方差序列：var。而序列l(wèi)ogL1包含了每個(gè)觀測(cè)值的對(duì)數(shù)似然貢獻(xiàn)的集合。第7頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月下面考慮稍復(fù)雜的例子，假設(shè)數(shù)據(jù)是由條件異方差回歸模型生成的：(18.1)這里，x,y,z是觀測(cè)序列，而1,2,3,,是模型的參數(shù)。有T個(gè)觀測(cè)值的樣本的對(duì)數(shù)似然函數(shù)可以寫(xiě)成：

(18.2)這里，是標(biāo)準(zhǔn)正態(tài)分布的密度函數(shù)。第8頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月Eviews中的標(biāo)準(zhǔn)正態(tài)分布的對(duì)數(shù)似然函數(shù)為，將對(duì)數(shù)似然函數(shù)寫(xiě)成所有觀測(cè)值

t

的對(duì)數(shù)似然貢獻(xiàn)的和的形式：(18.3)這里每個(gè)觀測(cè)值的貢獻(xiàn)由下面的式子給出：(18.4)第9頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月將這一例子的對(duì)數(shù)極大似然函數(shù)過(guò)程寫(xiě)成下面的賦值語(yǔ)句：

Seriesres=y-c(1)-c(2)*x-c(3)*zSeriesvar=c(4)*z^c(5)SerieslogL1=log(@dnorm(res/@sqrt(var)))-log(var)/2前面兩行語(yǔ)句創(chuàng)建了殘差序列res和方差序列var，參數(shù)c(1),c(2),c(3)代表了回歸系數(shù)，c(4)代表了，c(5)代表了，序列l(wèi)ogL1包含了每個(gè)觀測(cè)值的對(duì)數(shù)似然貢獻(xiàn)的集合。

第10頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月現(xiàn)在假定不知道模型參數(shù)的真實(shí)值，而想使用數(shù)據(jù)來(lái)估計(jì)它。參數(shù)的極大似然估計(jì)被定義為：使得樣本中所有隨機(jī)抽取的一組觀測(cè)值的聯(lián)合概率密度，即似然函數(shù)取最大值的那組參數(shù)值。而對(duì)數(shù)極大似然方法使得尋找這些極大似然估計(jì)變得容易了。只需創(chuàng)建一個(gè)新的對(duì)數(shù)似然對(duì)象，把上面的賦值語(yǔ)句輸入到logL的說(shuō)明窗口，然后讓EViews來(lái)估計(jì)這個(gè)模型。在輸入賦值語(yǔ)句時(shí)，只需對(duì)上面的文本做兩處微小的改動(dòng)就可以了。首先，把每行開(kāi)頭的關(guān)鍵字series刪掉（因?yàn)樗迫徽f(shuō)明暗含了假定序列是當(dāng)前的）。第二，必須在說(shuō)明中加入額外的一行（它為包含似然貢獻(xiàn)的序列命名）。第11頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月這樣，要在logL說(shuō)明窗口輸入下面的內(nèi)容：@logLlogL1res=y-c(1)-c(2)*x-c(3)*zvar=c(4)*z^c(5)logL1=log(@dnorm(res/@sqrt(var)))-log(var)/2對(duì)數(shù)似然函數(shù)的第一行，@logLlogL1，告訴EViews用logL1序列來(lái)存儲(chǔ)似然貢獻(xiàn)。余下的行定義了中間結(jié)果的計(jì)算和實(shí)際的似然貢獻(xiàn)的計(jì)算。當(dāng)用EViews估計(jì)模型參數(shù)時(shí)，它將對(duì)不同參數(shù)值重復(fù)執(zhí)行說(shuō)明中的賦值語(yǔ)句，使用迭代法來(lái)求使得對(duì)數(shù)似然貢獻(xiàn)最大的一組參數(shù)值。當(dāng)EViews再不能提高全部的似然貢獻(xiàn)時(shí)，它將停止迭代并在估計(jì)輸出中報(bào)告最終參數(shù)值和估計(jì)標(biāo)準(zhǔn)差。本章下面的部分將更詳細(xì)地討論使用似然方法說(shuō)明，估計(jì)和檢驗(yàn)時(shí)要遵循的規(guī)則。

第12頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月要?jiǎng)?chuàng)建一個(gè)似然對(duì)象，選擇Objects/NewObject.../LogL或者在命令窗口輸入“l(fā)ogL”。似然窗口將打開(kāi)一個(gè)空白說(shuō)明視圖。說(shuō)明視圖是一個(gè)文本窗口，在這個(gè)窗口里可以輸入描述統(tǒng)計(jì)模型的說(shuō)明語(yǔ)句，還可以設(shè)置控制估計(jì)程序各個(gè)方面的選項(xiàng)。

一．似然的定義正如概述中所描述的那樣，似然說(shuō)明的主線是一系列賦值語(yǔ)句，在計(jì)算時(shí)，這些賦值語(yǔ)句將產(chǎn)生一個(gè)包含樣本中每個(gè)觀測(cè)值的對(duì)數(shù)似然貢獻(xiàn)的序列。賦值語(yǔ)句的多少可以由自己決定。

§18.2似然說(shuō)明第13頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月每個(gè)似然說(shuō)明都必須包含一個(gè)控制語(yǔ)句，該語(yǔ)句命名了保存似然貢獻(xiàn)的序列。語(yǔ)句的格式為：@logLseries_name這里series_name是保存似然貢獻(xiàn)的序列的名字，可以寫(xiě)在似然說(shuō)明的任何位置。如果想在估計(jì)完成后刪除說(shuō)明中的一個(gè)或多個(gè)序列，可以使用@temp語(yǔ)句：@tempseries_name1sereis_name2...這個(gè)語(yǔ)句告訴EViews在對(duì)說(shuō)明的計(jì)算完成后，刪除列表中的序列。如果在logL中創(chuàng)建了許多中間結(jié)果，又不愿意工作文件因包含這些結(jié)果的序列而弄得混亂的話，那么就刪除這些序列。第14頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月二．參數(shù)名在上面的例子中，我們使用了系數(shù)c(1)到c(5)作為未知參數(shù)的名稱。更一般的，出現(xiàn)在說(shuō)明中一個(gè)已命名的系數(shù)向量中的每一個(gè)元素都將被視為待估參數(shù)。例如在條件異方差性的例子中，可以在三個(gè)不同的系數(shù)向量中選擇使用的系數(shù)：一個(gè)均值方程向量，一個(gè)方差方程向量，一個(gè)方差參數(shù)向量。首先用下面的命令創(chuàng)建三個(gè)命名的系數(shù)向量：coef(3)betacoef(1)sigmacoef(1)alpha第15頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月于是可以寫(xiě)出下面的似然說(shuō)明：@logLlogL1res=y-beta(1)-beta(2)*x-beta(3)*zvar=sigma(1)*z^alpha(1)logL1=log(@dnorm(res/@sqrt(var)))-log(var)/2由于說(shuō)明中的已命名的系數(shù)向量的所有元素都將被視為待估參數(shù)，必須確定所有的系數(shù)確實(shí)影響了一個(gè)或多個(gè)似然貢獻(xiàn)的值。如果一個(gè)參數(shù)對(duì)似然沒(méi)有影響，那么在試圖進(jìn)行參數(shù)估計(jì)時(shí)，將遇到一個(gè)奇異錯(cuò)誤。應(yīng)該注意到除了系數(shù)元素外所有的對(duì)象在估計(jì)過(guò)程中都將被視為固定的，不可改變的。例如，假定omega是工作文件中一個(gè)已命名的標(biāo)量，如果將子表達(dá)式var定義如下：var=omega*z^alpha(1)EViews將不會(huì)估計(jì)omega。omega的值將被固定在估計(jì)的開(kāi)始值上。

第16頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月

三．估計(jì)的順序logL說(shuō)明包含了一個(gè)或多個(gè)能夠產(chǎn)生包含似然貢獻(xiàn)的序列的賦值語(yǔ)句。在執(zhí)行這些賦值語(yǔ)句的時(shí)候，EViews總是從頂部到底部執(zhí)行，所以后面計(jì)算要用到的表達(dá)式應(yīng)放在前面。EViews對(duì)整個(gè)樣本重復(fù)地計(jì)算每個(gè)表達(dá)式。EViews對(duì)模型進(jìn)行重復(fù)計(jì)算時(shí)采用方程順序和樣本觀測(cè)值順序兩種不同方式，這樣就必須指定采用那種方式，即觀測(cè)值和方程的執(zhí)行順序。

第17頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月默認(rèn)情形下，EViews用觀測(cè)值順序來(lái)計(jì)算模型，此種方式是先用第一個(gè)觀測(cè)值來(lái)計(jì)算所有的賦值語(yǔ)句，接下來(lái)是用第二個(gè)觀測(cè)值來(lái)計(jì)算所有的賦值語(yǔ)句，如此往復(fù)，直到估計(jì)樣本中所有觀測(cè)值都使用過(guò)。這是用觀測(cè)值順序來(lái)計(jì)算遞歸模型的正確順序，遞歸模型中每一個(gè)觀測(cè)值的似然貢獻(xiàn)依賴于前面的觀測(cè)值，例如AR模型或ARCH模型?？梢愿淖冇?jì)算的順序，這樣EViews就可以用方程順序來(lái)計(jì)算模型，先用所有的觀測(cè)值來(lái)計(jì)算第一個(gè)賦值語(yǔ)句，然后用所有的觀測(cè)值計(jì)算第二個(gè)賦值語(yǔ)句，如此往復(fù)，對(duì)說(shuō)明中每一個(gè)賦值語(yǔ)句都用同樣方式進(jìn)行計(jì)算。這是用中間序列的總量統(tǒng)計(jì)作為后面計(jì)算的輸入的模型的正確順序。可以通過(guò)在說(shuō)明中加入一條語(yǔ)句來(lái)聲明所選擇的計(jì)算方法。要用方程順序來(lái)計(jì)算，僅加一行關(guān)鍵字“@byeqn”。要用樣本順序來(lái)計(jì)算，可以用關(guān)鍵字“@byobs”。如果沒(méi)有給出關(guān)鍵字，那么系統(tǒng)默認(rèn)為“@byobs”。第18頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月

例1對(duì)于一個(gè)普通回歸方程（18-1/eq-qgdptc)(18.5)

qgdptc是季度GDP季節(jié)調(diào)整后序列，ratec是實(shí)際利率，m1tc是M1季節(jié)調(diào)整后序列，其極大似然函數(shù)貢獻(xiàn)為利用極大似然方法求解，作為@byobs語(yǔ)句的一個(gè)例子，考慮下面的說(shuō)明（18-1/logl-qgdptc)：

第19頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月@logllogl1@byobsres=log(qgdptc)-c(1)-c(2)*ratec(-3)-c(3)*log(m1tc(-1))var=c(4)logl1=log(@dnorm(res/@sqrt(var)))-log(var)/2@tempresvarlogl1如果在說(shuō)明中有遞歸結(jié)構(gòu)，或要求基于中間結(jié)果總量統(tǒng)計(jì)的計(jì)算的條件下，如果想得到正確的結(jié)果，就必須選擇適當(dāng)?shù)挠?jì)算順序。第20頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月利用極大似然方法估計(jì)出未知參數(shù)0，1，2，

2后，寫(xiě)出方程為：(2.43)(-2.3)(17.16)第21頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月例2我們?cè)?2章研究人均家庭交通及通訊支出(CUM)和可支配收入(IN

)的關(guān)系，考慮如下方程：cumi

=c0+c1ini

+ui

。為消除方程中的異方差，利用加權(quán)最小二乘求解（18-2/eq-w)。也可用同樣的處理方法利用極大似然方法求解，作為@byeqn語(yǔ)句的一個(gè)例子，考慮下面的說(shuō)明：

@logLl_w@byeqnres=cum-c(1)-c(2)*invar=c(3)weight=1/abs(res)l_w=-log(2*3.1415926)/2-log(weight*@sqrt(var))-(weight*res)^2/(weight^2*var))/2@tempresvarl_wweight這個(gè)說(shuō)明通過(guò)利用殘差res建立加權(quán)向量weight=1/abs(res)來(lái)完成一個(gè)加權(quán)最小二乘回歸。res的賦值語(yǔ)句計(jì)算了在每次計(jì)算時(shí)的殘差，而這被用做構(gòu)造權(quán)重序列。@byeqn語(yǔ)句指示EViews在一個(gè)給定的迭代過(guò)程中，必須先算出所有的殘差res，然后再計(jì)算殘差的加權(quán)向量weight。

第22頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月利用極大似然方法估計(jì)出未知參數(shù)c0，c1，

2后，寫(xiě)出方程為：(-2656507)(22105600)第23頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月

四．解析導(dǎo)數(shù)默認(rèn)情形下，當(dāng)極大化似然函數(shù)和形成標(biāo)準(zhǔn)差的估計(jì)時(shí)，EViews計(jì)算似然函數(shù)關(guān)于參數(shù)的數(shù)值微分。也可以用@deriv語(yǔ)句為一個(gè)或多個(gè)導(dǎo)數(shù)指定解析表達(dá)式，該語(yǔ)句格式為：@derivpname1sname1pname2sname2...這里pname是模型中的一個(gè)參數(shù)名稱，而sname是由模型產(chǎn)生的對(duì)應(yīng)的導(dǎo)數(shù)序列的名稱。例如@deriva(1)grad1a(2)grad2a(3)grad3grad1=xa/dgrad2=grad1*x1grad3=grad2*x2

第24頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月五．導(dǎo)數(shù)步長(zhǎng)如果模型的參數(shù)沒(méi)有指定解析微分，EViews將用數(shù)值方法來(lái)計(jì)算似然函數(shù)關(guān)于這些參數(shù)的導(dǎo)數(shù)。在計(jì)算導(dǎo)數(shù)時(shí)的步長(zhǎng)由兩個(gè)參數(shù)控制：r

(相對(duì)步長(zhǎng))和m（最小步長(zhǎng)）。用表示參數(shù)在第i次迭代時(shí)的值，那么在第i+1次迭代時(shí)的步長(zhǎng)由下式定義：(18.6)雙側(cè)數(shù)值微分被定義為：(18.7)

第25頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月而單側(cè)數(shù)值微分則由下式計(jì)算：(18.8)這里f是似然函數(shù)。雙側(cè)導(dǎo)數(shù)更加精確，但它要對(duì)似然函數(shù)進(jìn)行的計(jì)算量大概是單側(cè)導(dǎo)數(shù)的兩倍，運(yùn)行時(shí)間上也是如此。@derivstep可以用來(lái)控制步長(zhǎng)和在每次迭代時(shí)計(jì)算導(dǎo)數(shù)的方法。關(guān)鍵字@derivstep后面必須設(shè)置三項(xiàng)：被設(shè)置的參數(shù)名（或用關(guān)鍵字@all代替）；相對(duì)步長(zhǎng)；最小步長(zhǎng)。默認(rèn)設(shè)置（近似的）為：@derivstep(1)@all1.49e-81e-10這里括弧里的“１”表示用的是單側(cè)導(dǎo)數(shù)，而@all關(guān)鍵字表示設(shè)置的步長(zhǎng)適用于所有參數(shù)。@all后面第一個(gè)數(shù)值是相對(duì)步長(zhǎng)，第二個(gè)數(shù)值是最小步長(zhǎng)。默認(rèn)的相對(duì)步長(zhǎng)被設(shè)置為1.4910-8，而最小步長(zhǎng)為m＝10-10。

第26頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月§18.3估計(jì)一旦定義了一個(gè)似然對(duì)象，可以用EViews來(lái)尋找使得似然函數(shù)取最大值的參數(shù)值。只需在似然窗口工具欄中單擊Estimate就可以打開(kāi)估計(jì)對(duì)話框。在這個(gè)對(duì)話框里有許多用來(lái)控制估計(jì)過(guò)程不同方面的選項(xiàng)。大多數(shù)問(wèn)題使用默認(rèn)設(shè)置就可以。單擊OK，EViews將用當(dāng)前的設(shè)置開(kāi)始估計(jì)。

第27頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月

一．初值由于EViews使用迭代法來(lái)求極大似然估計(jì)，初值的選擇就顯得非常重要了。對(duì)于似然函數(shù)只有一個(gè)極大值的問(wèn)題，只是經(jīng)過(guò)多少次迭代使估計(jì)收斂的問(wèn)題。對(duì)于那些多個(gè)極大值的似然函數(shù)所面臨的問(wèn)題是決定選擇極大值中哪一個(gè)。在某些情況下，如果不給出合理的初值，EViews將無(wú)法作出估計(jì)。默認(rèn)情況下，EViews使用儲(chǔ)存在系數(shù)向量或估計(jì)前的向量中的值。如果在說(shuō)明中用了@param語(yǔ)句，那么就用語(yǔ)句指定的值來(lái)代替。在模型(18-1)的例子中，為均值方程系數(shù)賦初值的一個(gè)方法是簡(jiǎn)單的OLS法，這是因?yàn)榧词乖诋惙讲钚裕ㄓ薪纾┐嬖诘臈l件下，OLS也提供了一致的點(diǎn)估計(jì)。為了用OLS估計(jì)值作為初值，首先要用下面的命令來(lái)估計(jì)OLS方程：equationeq1.1sycxz在對(duì)這個(gè)方程進(jìn)行估計(jì)后，C系數(shù)向量中的元素c(1)，c(2)，c(3)將包含OLS估計(jì)的結(jié)果。第28頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月要設(shè)置c(4)表示OLS估計(jì)的殘差方差，可以在命令窗口中輸入下面的賦值語(yǔ)句：c(4)=eq1.@se^2?？蛇x擇地，可以利用簡(jiǎn)單的賦值語(yǔ)句任意設(shè)置參數(shù)值：c(4)=0.005現(xiàn)在，如果在執(zhí)行了OLS估計(jì)及其后面的命令后馬上估計(jì)logl模型的話，那么將用設(shè)置在C向量里的值作為初值。象上面我們提到的那樣，將參數(shù)初始值賦值為已知值的另一種方法是在似然模型說(shuō)明中加入@param語(yǔ)句。例如，如果在logl的說(shuō)明中加入了下面的行:@paramc(1)0.1c(2)0.1c(3)0.1c(4)0.005那么EViews會(huì)將初值設(shè)置為:c(1)=c(2)=c(3)=0.1，c(4)=0.005。第29頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月

二．估計(jì)樣本在估計(jì)對(duì)數(shù)似然函數(shù)的參數(shù)時(shí)，EViews就在EstimationOption對(duì)話框里指定了將使用的觀測(cè)值的樣本。EViews在當(dāng)前參數(shù)值下，將使用觀測(cè)值順序或方程順序用樣本中的每一個(gè)觀測(cè)值來(lái)對(duì)logl中每個(gè)表達(dá)式進(jìn)行計(jì)算。所有這些計(jì)算都服從于EViews中關(guān)于序列表達(dá)式計(jì)算的規(guī)則。如果在對(duì)數(shù)似然序列的初始參數(shù)值中有缺少值，EViews將發(fā)出錯(cuò)誤信息而估計(jì)過(guò)程也將終止。相對(duì)于其他的EViews內(nèi)部過(guò)程的處理方式，在估計(jì)模型參數(shù)時(shí)logl估計(jì)不能進(jìn)行終點(diǎn)調(diào)整或是去掉那些欠缺值的觀測(cè)值。

第30頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月§18.4LogL視圖

(1)likelihoodSpecification:顯示定義和編輯似然說(shuō)明的窗口。(2)EstimationOutput:顯示通過(guò)最大化似然函數(shù)得到的估計(jì)結(jié)果。(3)CovarianceMatrix:顯示參數(shù)估計(jì)的協(xié)方差矩陣。這是通過(guò)計(jì)算在最優(yōu)參數(shù)值下一階導(dǎo)數(shù)的外積的和的逆求得的?？梢杂聾cov這個(gè)函數(shù)將其保存為(SYM)矩陣。(4)WaldCoefficientTest:執(zhí)行Wald系數(shù)限制檢驗(yàn)。參看第15章，系數(shù)檢驗(yàn)，關(guān)于Wald檢驗(yàn)的討論。

第31頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月(5)Gradients:如果模型沒(méi)有被估計(jì)，顯示當(dāng)前參數(shù)值下logL的梯度（一階導(dǎo)數(shù)）視圖，若模型已經(jīng)被估計(jì)，則顯示收斂的參數(shù)值下logL的梯度視圖。當(dāng)你處理收斂問(wèn)題時(shí)，這些圖將成為有用的鑒別工具。(6)

CheckDerivatives:如果使用了@param語(yǔ)句，顯示在初值下數(shù)值微分和解析微分（如果可獲得）的值，如果沒(méi)有使用@param語(yǔ)句，則給出在當(dāng)前值下數(shù)值微分和解析微分的值，以及用模型中所有樣本計(jì)算的每個(gè)系數(shù)數(shù)值微分的和。

第32頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月§18.5LogL過(guò)程

(1)Estimate:彈出一個(gè)設(shè)置估計(jì)選項(xiàng)的對(duì)話框，并估計(jì)對(duì)數(shù)似然函數(shù)的參數(shù)。(2)MakeModel:建立一個(gè)估計(jì)對(duì)數(shù)似然函數(shù)說(shuō)明的未命名的模型對(duì)象。(3)MakeGradientGroup:在參數(shù)估計(jì)值下創(chuàng)建一個(gè)未命名的對(duì)數(shù)似然函數(shù)的梯度組（一階導(dǎo)數(shù)）。這些梯度常用來(lái)構(gòu)造拉格朗日乘數(shù)檢驗(yàn)。(4)UpdateCoefsfromLogL:用似然函數(shù)對(duì)象得出的估計(jì)值來(lái)更新系數(shù)向量。該過(guò)程讓你可以將極大似然估計(jì)結(jié)果作為其他估計(jì)問(wèn)題的初始值。大多數(shù)這些過(guò)程和EViews的其他估計(jì)對(duì)象相似。下面我們將著重介紹LogL對(duì)象所獨(dú)有的特征。

第33頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月

1．估計(jì)輸出LogL對(duì)象的標(biāo)準(zhǔn)輸出除了包含系數(shù)和標(biāo)準(zhǔn)差估計(jì)外，還描述了估計(jì)的方法，估計(jì)使用的樣本，估計(jì)的日期和時(shí)間，計(jì)算順序以及估計(jì)過(guò)程收斂的信息,EViews還提供了對(duì)數(shù)似然函數(shù)值，平均對(duì)數(shù)似然函數(shù)值，系數(shù)個(gè)數(shù)以及三個(gè)信息標(biāo)準(zhǔn)。

第34頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月

2．梯度梯度表格視圖可以檢查似然函數(shù)的梯度。如果模型尚未估計(jì)，那么就在當(dāng)前參數(shù)值下計(jì)算梯度，若模型已經(jīng)估計(jì)出來(lái)了，就在收斂的參數(shù)值下計(jì)算。

視圖在處理收斂性或奇點(diǎn)問(wèn)題時(shí)是一個(gè)有用的鑒別工具。一個(gè)常見(jiàn)的問(wèn)題是，由錯(cuò)誤的定義似然過(guò)程，不恰當(dāng)?shù)某踔?，或是模型不可識(shí)別等導(dǎo)致某個(gè)參數(shù)的導(dǎo)數(shù)為零可能產(chǎn)生奇異矩陣。

第35頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月

3．檢查導(dǎo)數(shù)可以用CheckDerivatives視圖來(lái)檢查數(shù)值微分或是解析微分表達(dá)式的是否有效。如果在對(duì)數(shù)似然函數(shù)說(shuō)明中包含了@param語(yǔ)句，那么將用指定的值來(lái)計(jì)算導(dǎo)數(shù)，否則將用當(dāng)前系數(shù)值來(lái)計(jì)算導(dǎo)數(shù)。該視圖的第一部分列出了用戶提供的導(dǎo)數(shù)的名稱，步長(zhǎng)參數(shù)和計(jì)算導(dǎo)數(shù)時(shí)使用的系數(shù)值。本例中列出的相對(duì)步長(zhǎng)和最小步長(zhǎng)都是默認(rèn)設(shè)置。第二部分用模型中所有樣本計(jì)算了每個(gè)系數(shù)的數(shù)值微分的和，如果可能的話，還要計(jì)算解析微分的和。第36頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月§18.6問(wèn)題解答

由于logL對(duì)象的極大的靈活性，在使用對(duì)數(shù)似然方法進(jìn)行估計(jì)時(shí)比使用其他EViews的內(nèi)部估計(jì)方法更容易出錯(cuò)。如果在估計(jì)時(shí)遇到了困難，下面的建議將幫助解決這些問(wèn)題：

(1)檢查似然說(shuō)明

一個(gè)簡(jiǎn)單錯(cuò)誤包括錯(cuò)誤符號(hào)就可以使估計(jì)過(guò)程停止工作。必須檢查模型的每個(gè)參數(shù)是否確實(shí)定義了（在某些說(shuō)明中可能不得不將參數(shù)標(biāo)準(zhǔn)化）。另外，模型中出現(xiàn)的每個(gè)參數(shù)必須直接的或間接的影響似然貢獻(xiàn)。CheckDerivatives視圖可以部分的解決后者的問(wèn)題。

第37頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月

(2)選擇初值如果由于缺失值或數(shù)學(xué)運(yùn)算域錯(cuò)誤（對(duì)負(fù)數(shù)取對(duì)數(shù)或取平方根，除數(shù)為零等等）導(dǎo)致樣本中似然貢獻(xiàn)無(wú)法評(píng)價(jià)，那么將立刻停止估計(jì)并給出錯(cuò)誤信息：“Cannotcompute@loglduetomissingvalues(由于缺失值無(wú)法計(jì)算@logL)”。另外，選擇的初值不恰當(dāng)也可能使似然函數(shù)效果不理想。應(yīng)該給參數(shù)一個(gè)合理的初值。如果有一個(gè)近似求解該問(wèn)題的簡(jiǎn)單的估計(jì)技術(shù)，可以把由該方法得到的估計(jì)值作為極大似然估計(jì)的初值。

(3)檢查導(dǎo)數(shù)如果使用解析微分，使用CheckDerivatives視圖來(lái)確認(rèn)是否已經(jīng)正確的標(biāo)記了導(dǎo)數(shù)。如果使用的是數(shù)值微分，就要考慮指定解析微分或是調(diào)整導(dǎo)數(shù)方法或步長(zhǎng)選項(xiàng)。

第38頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月

(4)估計(jì)前正確地處理滯后值問(wèn)題和其他EViews估計(jì)程序相比，在估計(jì)一個(gè)對(duì)數(shù)似然模型時(shí)，logL估計(jì)程序不會(huì)用NA或滯后形式從樣本中自動(dòng)去掉某個(gè)觀測(cè)值。如果似然說(shuō)明包含滯后值，必須從估計(jì)樣本的開(kāi)始值中去掉一些觀測(cè)值，或者必須對(duì)說(shuō)明作出標(biāo)記從而使前面樣本中的錯(cuò)誤值不會(huì)影響到整個(gè)樣本（參見(jiàn)AR(1)和GARCH模型的示例）。既然用來(lái)評(píng)價(jià)似然函數(shù)的序列包含在工作文件中（除非使用了@temp語(yǔ)句刪除它們），那么可以利用這些中間結(jié)果序列來(lái)檢驗(yàn)對(duì)數(shù)似然和中間序列的值，以發(fā)現(xiàn)滯后和缺值的問(wèn)題。

第39頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月

(5)修正模型參數(shù)如果有導(dǎo)致數(shù)學(xué)錯(cuò)誤的參數(shù)值的問(wèn)題，可以考慮修正模型參數(shù)以將之限制在其有效域內(nèi)。我們看到的大多數(shù)估計(jì)過(guò)程中的錯(cuò)誤信息本身具有解釋。而錯(cuò)誤信息“nearsingularmatrix(近似奇異矩陣)”卻不是很明確的。當(dāng)EViews不能求由導(dǎo)數(shù)外積的和構(gòu)成的矩陣的逆以致不能決定最優(yōu)化過(guò)程下一步的方向時(shí)，就給出這個(gè)錯(cuò)誤信息。這個(gè)錯(cuò)誤可能意味著各種類(lèi)型的錯(cuò)誤，其中包括不適當(dāng)?shù)某踔?，但是?dāng)在理論上或?qū)τ行?shù)據(jù)，模型不可識(shí)別時(shí)，幾乎總是出現(xiàn)這種錯(cuò)誤。

第40頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月§18.7限制

必須注意對(duì)數(shù)似然中估計(jì)參數(shù)使用的算法并不是對(duì)任意的問(wèn)題都適用的。在似然貢獻(xiàn)的導(dǎo)數(shù)的外積的和的基礎(chǔ)上，該算法給出了對(duì)數(shù)似然函數(shù)的Hessian矩陣的近似值。該近似值是建立在極大似然目標(biāo)函數(shù)的函數(shù)形式和統(tǒng)計(jì)特性的基礎(chǔ)之上的，而且在一般條件它并不是一個(gè)理想的近似值。因此，可能或不可能用其他函數(shù)形式來(lái)獲得結(jié)果。此外，只有當(dāng)描述似然貢獻(xiàn)的序列，其單個(gè)貢獻(xiàn)都被正確的設(shè)定并具有好的理論對(duì)數(shù)似然定義時(shí)，參數(shù)值的標(biāo)準(zhǔn)差才有意義?，F(xiàn)在，用來(lái)描述似然貢獻(xiàn)的表達(dá)式必須遵守EViews關(guān)于序列表達(dá)式的規(guī)則。這些限制暗示我們不能在似然說(shuō)明中使用矩陣運(yùn)算。為了寫(xiě)出聯(lián)立方程模型的似然函數(shù)，必須寫(xiě)出行列式和二次型的表達(dá)式。對(duì)于那些多于三個(gè)方程的模型而言，這樣做盡管是可能的，但會(huì)很繁瑣。這種情況的例子參見(jiàn)多元GARCH程序。另外，對(duì)數(shù)似然方法不能直接處理一般的不等式約束的最優(yōu)化問(wèn)題。

第41頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月§18.8實(shí)例

一、AR(1)模型的極大似然函數(shù)一階自回歸過(guò)程有如下形式，記作AR(1)：

(18.9)～在此情形下，總體參數(shù)向量為。首先考察樣本中第一個(gè)觀察值y1的概率分布。由于在時(shí)，存在一個(gè)滿足(18.9)的協(xié)方差平穩(wěn)過(guò)程，此時(shí)，，所以，第一個(gè)觀察值的密度函數(shù)形如(18.10)

第42頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月接下來(lái)考慮第二個(gè)觀察值Y2在觀察到的Y1=y1條件下的分布。由(18.9)(18.11)可以將隨機(jī)變量Y1視做確定性常數(shù)y1。在此情形下，(18.11)給出Y2作為常數(shù)和隨機(jī)變量的和。因此～，(18.12)一般地，只通過(guò)Yt-1

對(duì)Yt起作用，第t個(gè)觀察值以前t-1個(gè)觀察值為條件的分布為：

(18.13)第43頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月完全樣本的似然函數(shù)為

(18.14)其對(duì)數(shù)似然函數(shù)（記作log）可由(18.14)取對(duì)數(shù)求得：(18.15)將(18.10)和(18.14)代入(18.15)，由AR(1)過(guò)程得到一個(gè)樣本量為T(mén)的樣本的對(duì)數(shù)似然為(18.16)第44頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月

例3AR(1)模型的極大似然估計(jì)

（18-ar1)

我們用數(shù)據(jù)生成過(guò)程生成Y，其中t是一個(gè)白噪聲過(guò)程，即t～。AR(1)過(guò)程的樣本量為T(mén)的對(duì)數(shù)似然函數(shù)為(18.16)式，總體參數(shù)向量為。利用極大似然估計(jì)方法估計(jì)的AR(1)模型:@LOGLLOGL1@PARAMC(1)-0.5RHO(1)0.85RES=@RECODE(D1=1,Y-C(1)/(1-RHO(1)),Y-C(1)-RHO(1)*Y(-1))VAR=@RECODE(D1=1,S2(1)/(1-RHO(1)^2),S2(1))SRES=RES/@SQRT(VAR)LOGL1=LOG(@DNORM(SRES))-LOG(VAR)/2@TEMPRESVARSRESLOGL1

其中@RECODE函數(shù)的第1個(gè)參數(shù)是條件，如果滿足，執(zhí)行第2個(gè)表達(dá)式；否則執(zhí)行第3個(gè)表達(dá)式。第45頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月AR(1)模型的表達(dá)式為：（-3.05)(17.22)第46頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月

二、GARCH（1,1）的極大似然函數(shù)標(biāo)準(zhǔn)的GARCH（p,q）模型的形式為：(18.16)要想寫(xiě)出GARCH（p,q）模型的極大似然函數(shù)，首先要分析擾動(dòng)項(xiàng)ut

的密度函數(shù)。為了方便起見(jiàn)，我們對(duì)方程(18.16)采用另外一種方法來(lái)表示，它對(duì)ut的序列相關(guān)施以更強(qiáng)的假定。假定；(18.17)這里，{vt}是一個(gè)i.i.d.序列，其均值為0，方差為1：第47頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月如果ht的變化服從(18.18)那么(18.17)意味著，(18.19)因此，如果ut是由(18.17)和(18.18)產(chǎn)生的話，那么ut服從GARCH（p,q）過(guò)程，并且線性投影(18.19)是其條件期望。如果vt

～N(0,1)，yt的條件分布為正態(tài)分布，其均值為，方差為ht，則其密度函數(shù)為:(18.20)式中Yt-1表示

t

-1時(shí)刻前的信息集合，第48頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月(18.21)將欲估計(jì)的未知參數(shù)列成一個(gè)向量：則樣本對(duì)數(shù)似然函數(shù)是(18.22)

第49頁(yè)，課件共54頁(yè)，創(chuàng)作于2023年2月但是，很多金融時(shí)間序列的無(wú)條件分布不同于正態(tài)分布，它們具有更寬的尾部，也就是說(shuō)，即使(18.17)中的vt為正態(tài)分布，ut的無(wú)條件分布也是一個(gè)非正態(tài)分布。大量事實(shí)表明，ut的條件分布也常常是非正態(tài)的。對(duì)于非正態(tài)分布可以使用原來(lái)的基本方法。例如，博勒斯萊文（1987）認(rèn)為(18.17)中的vt可以取自一個(gè)自由度為k