線性回歸分析及應(yīng)用6

本文格式為Word版，下載可任意編輯——線性回歸分析及應(yīng)用6第六章：置信區(qū)間第六章：置信區(qū)間(域域)與置信帶與置信帶6.1置信橢球(confidenceellipsoid)設(shè)線性模型eXYpn，),0(~2nINe，rXrank)(，mpmhhH1為m個獨(dú)立的可估函數(shù)，即mHrank)(，)()(XH。

令YXXX)(?，那么??H為的BLUE，且),(~?2VNm，這里0)(HXXHV。由推論3.2.2221~)?()?(mV。

由定理4.2.1，2的估計rnXY22??且與?獨(dú)立，222~?)(rnrn，從而rnmFmV,21~?)?()?(。

因此對)1,0(，1)(?)?()?(,21rnmFmVP。

令)(?)?()?(,21rnmFmVD，是以?為中心的一個橢球，1)(DP，D稱為的置信系數(shù)為1的置信橢球。

用H，?H，HXXH)(代替V,?,，那么置信橢球可寫為)(??)(?,21rnmFmHHHXXHHH。

更加若1m，由于rnF,1與rnt2分布一致，令)2/(rnt為上2/分位點(diǎn)，那么此時可估函數(shù)h的1置信區(qū)間為：

hXXhthrn)(?)2/(?，或??)2/(?hrnth，其中hXXhh)(??22?為)(hVar的估計。

6.2同時置信區(qū)間與Bonferronit-區(qū)間往往要對若干個可估函數(shù)同時給出區(qū)間估計。

設(shè)有m個可估函數(shù)mmhh,,11，用上一節(jié)的方法可以對每個i作一個置信水平為1的t-區(qū)間估計irnit??)2/(?，mi1。由不等式miimiimiiAPAPAP111)(11，(*)若每個事情發(fā)生的概率1)(iAP，那么全體事情同時發(fā)生的概率不是1，而是只能保證mAPmii11。

例如05.0，10m，那么只能保證5.0。一般來說雖然每個置信區(qū)間置信系數(shù)是1，同時置信區(qū)間的置信系數(shù)比1要低。若要確保m個聯(lián)合置信區(qū)間同時成立的概率達(dá)成名義上的1，一個可供選擇的手段是把每個置信區(qū)間的置信系數(shù)提高到m1。

上述作法當(dāng)m不太大(5m)，效果還可以，但總的來說過于保守，更加當(dāng)m很大時，此時每個置信區(qū)間都太寬以致沒有多大的實(shí)際意義。切合實(shí)際的折衷手段是增大。

由于不等式(*)稱為Bonferroni不等式，基于用m替換的方法得到的同時置信區(qū)間mimthihrni,,1,?)2/(??稱為Bonferronit-區(qū)間。

6.3最大模t-區(qū)間對m個獨(dú)立可估函數(shù)mhh,,1作同時區(qū)間估計，令mpmhhH1，mHrank)(，HXXHvVmmij)(，那么),(~?2VHNHm，?H與2?獨(dú)立且222~?)(rnrn分布。令iiiiivhhx?，),,(1mxxX，那么),0(~2RNXm，其中mmijrR)(，jjiiijijvvvr。

因此令),,(1mttt，iiiiivhht??，那么),,0(~rnRttm(多元t-分布)。令),,0(2/rnRtm使得11),,,0(),,0(2/2/mirnRttrnRtPmim即1),,0(max2/1rnRttPmimi。

這樣m個區(qū)間mirnRtvhmiii,,1),,,0(??2/為置信系數(shù)1的同時置信區(qū)間。由于),,0(2/rnRtm是由m個t分布變量取最大模分布確定的，故上同時置信區(qū)間稱為最大模t區(qū)間(maximummodulust-intervals)。

計算該區(qū)間的關(guān)鍵是求出),,0(2/rnRtm，一般比較困難，Sidak(1968)證明了),,0(),,0(2/2/rnItrnRtmmm，因此11),,,0(??2/mirnItvhhPmmiiii，而),,0(2/rnItmm是易求出的。

6.4Scheffe區(qū)間和置信帶引理6.4.1：

設(shè)0nnA，那么aAaAbbbab120)(sup。

定理6.4.1：

設(shè)線性模型eXY，),0(~2nINe，mHrankpm)(，)()(XH，那么對任意可估l，)(Hl，其置信系數(shù)為1的同時置信區(qū)間為2/12/1,)(?)(?lXXlmFlrnm。

上述同時置信區(qū)間是Scheffe(1953)提出來的，稱為Scheffe區(qū)間。留神Scheffe區(qū)間不是有限多個可估函數(shù)的同時置信區(qū)間，它是全體l，)(Hl的同時置信區(qū)間。對有限可估函數(shù)同時置信區(qū)間，Scheffe方法不確定最好，其長度可能會偏長，但Scheffe方法可以用于全體線性模型而無需對設(shè)計矩陣做任何限制。

當(dāng)rm即)()(XH時，可以得到所有可估函數(shù)l的同時1置信區(qū)間。

若pXrankpn)(，此時任何線性函數(shù)l都是可估的，此時1,)(?)(?2/12/1,ppnpRllXXlpFllP。

當(dāng)l變化時，區(qū)間2/12/1,)(?)(?lXXlpFlpnp也變化，形成一個區(qū)域，稱為置信帶(confidenceband)，其寬度為2/12/1,)(?)(2lXXlpFpnp。

例1：設(shè)簡樸線性模型iiiexy10，ni,,1，),0(~2Nei獨(dú)立同分布。

10???，其中niiniiixxyyxx1211)(/))((?，xy10??，nxxnii/1，nyynii/1，)2/()??(?12102nxyniii。

對任線性函數(shù)x10，其1置信帶為niinxxxxnFx1222/12,210)()(1?)(2)??(。

置信帶關(guān)于閱歷直線xy10???對稱，當(dāng)xx時帶寬最小。

oyxx01???yx第七章：預(yù)料問題第七章：預(yù)料問題假定響應(yīng)變量y與協(xié)變量pxx,,1存在線性關(guān)系exxypp11，設(shè)有n次觀測，那么未知參數(shù)p,,1可以由前面的結(jié)果來作出估計，設(shè)估計為p?,,?1，這樣得到閱歷模型ppxxy???11，該閱歷模型近似的描述了響應(yīng)變量y與協(xié)變量pxx,,1之間的關(guān)系，給定協(xié)變量的值，可以對響應(yīng)變量作出預(yù)料。

7.1點(diǎn)預(yù)料考慮線性模型iiiexy，ni,,1，寫成矩陣形式：

eXY，0Ee，2)(eCov，rXrankpn)(，0(已知)。現(xiàn)有m個點(diǎn)),,(1ipiixxx，mnni,,1，感興趣的問題是由此預(yù)料響應(yīng)變量y的m個值mnnyy,,1。

令mnnxxX10，mnnyyY10，mnneee10，那么000eXY，00Ee，020)(eCov。

假設(shè))()(0XX。

首先考慮被預(yù)料量0Y與歷史數(shù)據(jù)Y不相關(guān)，此時0),(0eeCov，為預(yù)料0Y，一個直觀的方法就是用00XEY的估計作為預(yù)測。即用YXXXXXY110*0*0)(來預(yù)料0Y，這里*為廣義最小二乘估計。由于)()(0XX，所以*0Y與廣義逆的選取無關(guān)。預(yù)料的偏差0*0YYZ，那么0EZ，即預(yù)測*0Y為0Y的一個無偏估計。偏差的協(xié)方差陣01002)()(XXXXZCov。

以上傳統(tǒng)預(yù)料方法假定被預(yù)料量0Y與歷史數(shù)據(jù)Y不相關(guān)，但在一些情形0Y與Y相關(guān)。

設(shè)0Y與Y相關(guān)程度nmVeeCov20),((V已知)，設(shè)YCYnm*0為0Y的一個線性預(yù)料，評價預(yù)料*0Y好壞目前常用的度量是廣義預(yù)測均方誤差(generalizedpredictionmeansquarederror，簡寫PMSE)。給定0A，)()()(0*00*0*0YYAYYEYPMSE。

若線性預(yù)測是無偏的且廣義預(yù)料均方誤差最小，那么稱該線性預(yù)料是最優(yōu)線