擬合優(yōu)度的度量課件

概念：樣本回歸線是對(duì)樣本數(shù)據(jù)的一種擬合。●不同的模型（不同函數(shù)形式)可擬合出不同的樣本回歸線●相同的模型用不同方法去估計(jì)參數(shù)，也可以擬合出不同的回歸線擬合的回歸線與樣本觀測(cè)值總是有偏離。樣本回歸線對(duì)樣本觀測(cè)數(shù)據(jù)擬合的優(yōu)劣程度，可稱為擬合優(yōu)度。如何度量擬合優(yōu)度呢？擬合優(yōu)度的度量建立在對(duì)Y的總變差分解的基礎(chǔ)上1

擬合優(yōu)度的度量

分析Y的觀測(cè)值、估計(jì)值與平均值有以下關(guān)系將上式兩邊平方加總，可證得（提示：交叉項(xiàng)）

（TSS）（ESS）（RSS）

或者表示為

總變差（TSS）：被解釋變量Y的觀測(cè)值與其平均值的離差平方和（總平方和）(說明Y的總變動(dòng)程度）

解釋了的變差（ESS）：被解釋變量Y的估計(jì)值與其平均值的離差平方和（回歸平方和）

剩余平方和（RSS）：被解釋變量觀測(cè)值與估計(jì)值之差的平方和（未解釋的平方和）2

一、總變差的分解

Y

X

3變差分解的圖示(以某一個(gè)觀測(cè)值為例)

以TSS同除總變差等式

兩邊：

或

定義：回歸平方和（解釋了的變差ESS）在總變差（TSS）中所占的比重稱為可決系數(shù)，用或表示:

4或

二、可決系數(shù)

可決系數(shù)越大，說明在總變差中由模型作出了解釋的部分占的比重越大，模型擬合優(yōu)度越好。反之可決系數(shù)越小，說明模型對(duì)樣本觀測(cè)值的擬合程度越差。

可決系數(shù)的特點(diǎn)：●可決系數(shù)取值范圍：●隨抽樣波動(dòng)，樣本可決系數(shù)是隨抽樣而變動(dòng)的隨機(jī)變量●可決系數(shù)是非負(fù)的統(tǒng)計(jì)量5可決系數(shù)的作用聯(lián)系：數(shù)值上可決系數(shù)是相關(guān)系數(shù)的平方6可決系數(shù)與相關(guān)系數(shù)的關(guān)系區(qū)別：

可決系數(shù)相關(guān)系數(shù)

是就模型而言是就兩個(gè)變量而言說明解釋變量對(duì)被解釋說明兩變量線性依存程度

變量的解釋程度

度量不對(duì)稱的因果關(guān)系度量對(duì)稱的相關(guān)關(guān)系取值0≦≦1取值-1≦r≦1

有非負(fù)性可正可負(fù)78第四節(jié)

回歸系數(shù)的區(qū)間估計(jì)和假設(shè)檢驗(yàn)為什么要作區(qū)間估計(jì)？

運(yùn)用OLS法可以估計(jì)出參數(shù)的一個(gè)估計(jì)值，但OLS估計(jì)只是通過樣本得到的點(diǎn)估計(jì)，它不一定等于真實(shí)參數(shù)，還需要尋求真實(shí)參數(shù)的可能范圍，并說明其可靠性。為什么要作假設(shè)檢驗(yàn)？OLS估計(jì)只是用樣本估計(jì)的結(jié)果，是否可靠？是否抽樣的偶然結(jié)果呢？還有待統(tǒng)計(jì)檢驗(yàn)。區(qū)間估計(jì)和假設(shè)檢驗(yàn)都是建立在確定參數(shù)估計(jì)值概率分布性質(zhì)的基礎(chǔ)上。9

一、OLS估計(jì)的分布性質(zhì)

基本思想

是隨機(jī)變量，必須確定其分布性質(zhì)才可能進(jìn)行區(qū)間估計(jì)和假設(shè)檢驗(yàn)

怎樣確定的分布性質(zhì)呢?

是服從正態(tài)分布的隨機(jī)變量，決定

了

也是服從正態(tài)分布的隨機(jī)變量；

是的線性函數(shù)，決定了也服從正態(tài)分布

正態(tài)正態(tài)正態(tài)

只要確定的期望和方差，即可確定的分布性質(zhì)線性特征（線性估計(jì)的重要性)10●的期望：

(已證明是無偏估計(jì)）●的方差和標(biāo)準(zhǔn)誤差

(證明見P38)

(標(biāo)準(zhǔn)誤差是方差的平方根)

注意：以上各式中均未知，但是個(gè)常數(shù)，其余均是已知的樣本觀測(cè)值，這時(shí)和都不是隨機(jī)變量。

的期望和方差11

基本思想：

是的方差，而不能直接觀測(cè)，只能從由樣本得到的去獲得有關(guān)的某些信息，去對(duì)作出估計(jì)?？梢宰C明（見附錄2.2)其無偏估計(jì)為

(這里的n-2為自由度,即可自由變化的樣本觀測(cè)值個(gè)數(shù))注意區(qū)別：是未知的確定的常數(shù)；是由樣本信息估計(jì)的，是個(gè)隨機(jī)變量對(duì)隨機(jī)擾動(dòng)項(xiàng)方差的估計(jì)12對(duì)作標(biāo)準(zhǔn)化變換為什么要對(duì)作標(biāo)準(zhǔn)化變換?在正態(tài)性假定下，由前面的分析已知但在對(duì)一般正態(tài)變量作實(shí)際分析時(shí)，要具體確定的取值及對(duì)應(yīng)的概率，要通過正態(tài)分布密度函數(shù)或分布函數(shù)去計(jì)算是很麻煩的，為了便于直接利用“標(biāo)準(zhǔn)化正態(tài)分布的臨界值”，需要對(duì)作標(biāo)準(zhǔn)化變換。標(biāo)準(zhǔn)化的方式：

標(biāo)準(zhǔn)正態(tài)分布函數(shù)13

●在已知時(shí)對(duì)

作標(biāo)準(zhǔn)化變換，所得Z統(tǒng)計(jì)量為標(biāo)準(zhǔn)正態(tài)變量。

1.已知時(shí)，對(duì)作標(biāo)準(zhǔn)化變換注意:這時(shí)和都不是隨機(jī)變量(X、、都是非隨機(jī)的）14

條件：

當(dāng)未知時(shí)，可用（隨機(jī)變量）代替去估計(jì)

參數(shù)的標(biāo)準(zhǔn)誤差。這時(shí)參數(shù)估計(jì)的標(biāo)準(zhǔn)誤差是個(gè)隨機(jī)變量。

●樣本為大樣本時(shí),作標(biāo)準(zhǔn)化變換所得的統(tǒng)計(jì)量Zk，也可以

視為標(biāo)準(zhǔn)正態(tài)變量（根據(jù)中心極限定理）。

●樣本為小樣本時(shí)，

用估計(jì)的參數(shù)標(biāo)準(zhǔn)誤差對(duì)作標(biāo)準(zhǔn)化變換，所得的統(tǒng)計(jì)量用t表示，這時(shí)t將不再服從正態(tài)分布，而是服從t分布（注意這時(shí)分母是隨機(jī)變量）

：

2.未知時(shí)，對(duì)作標(biāo)準(zhǔn)化變換基本思想：

對(duì)參數(shù)作出的點(diǎn)估計(jì)是隨機(jī)變量，雖然是無偏估計(jì)，但還不能說明這種估計(jì)的可靠性和精確性。如果能找到包含真實(shí)參數(shù)的一個(gè)范圍，并確定這樣的范圍包含參數(shù)真實(shí)值的可靠程度，將是對(duì)真實(shí)參數(shù)更深刻的認(rèn)識(shí)。方法：如果在確定參數(shù)估計(jì)式概率分布性質(zhì)的基礎(chǔ)上，可找到兩個(gè)正數(shù)δ和，能使得這樣的區(qū)間包含真實(shí)的概率為，即這樣的區(qū)間稱為所估計(jì)參數(shù)的置信區(qū)間。

討論：“如果已經(jīng)得出了的特定估計(jì)值,并確定了某個(gè)置信區(qū)間，這說明真實(shí)參數(shù)落入這個(gè)區(qū)間的概率為1-α”。這種說法對(duì)嗎?15

二、回歸系數(shù)的區(qū)間估計(jì)

16樣本容量充分大樣本容量較小總體方差已知總體方差

未知Z將接近標(biāo)準(zhǔn)正態(tài)分布服從

t分布三種情況基本思想:利用標(biāo)準(zhǔn)化后統(tǒng)計(jì)量的分布性質(zhì)去尋求:置信區(qū)間：標(biāo)準(zhǔn)正態(tài)分布（1）

當(dāng)總體方差已知時(shí)(Z服從正態(tài)分布)

取定（例如=0.05），查標(biāo)準(zhǔn)正態(tài)分布表得與對(duì)應(yīng)的臨界值z(mì)(例如z為1.96)，則標(biāo)準(zhǔn)化變量Z*（統(tǒng)計(jì)量）

因?yàn)?/p>

或

即17回歸系數(shù)的區(qū)間估計(jì)

(分三種情況尋找合適的)

方法：可用無偏估計(jì)去代替未知的，由于樣本容量充分大，標(biāo)準(zhǔn)化變量Z*（統(tǒng)計(jì)量）將接近標(biāo)準(zhǔn)正態(tài)分布注意:這里的“^”，表示“估計(jì)的”,這時(shí)區(qū)間估計(jì)的方式也可利用標(biāo)準(zhǔn)正態(tài)分布只是這時(shí)182.當(dāng)總體方差未知，且樣本容量充分大時(shí)

方法：用無偏估計(jì)去代替未知的，由于樣本容量較小，“標(biāo)準(zhǔn)化變量”t（統(tǒng)計(jì)量）不再服從正態(tài)分布，而服從t分布。這時(shí)可用t分布去建立參數(shù)估計(jì)的置信區(qū)間。選定α，查t分布表得顯著性水平為，自由度為n-2的臨界值(n-2)

，則有即

193、當(dāng)總體方差未知，且樣本容量較小時(shí)

2020統(tǒng)計(jì)量t計(jì)算的統(tǒng)計(jì)量為:相對(duì)于顯著性水平的臨界值為:

（單側(cè)）或

（雙側(cè)）基本概念回顧:

臨界值與概率、大概率事件與小概率事件0（大概率事件）（小概率事件）目的：簡(jiǎn)單線性回歸中，檢驗(yàn)X對(duì)Y是否真有顯著影響三、回歸系數(shù)的假設(shè)檢驗(yàn)

21

回歸系數(shù)的檢驗(yàn)方法

確立假設(shè)：原假設(shè)為備擇假設(shè)為

(本質(zhì)：檢驗(yàn)是否為0，即檢驗(yàn)是否對(duì)Y有顯著影響)

(1)當(dāng)已知或樣本容量足夠大時(shí)

可利用正態(tài)分布作Z檢驗(yàn)

給定,查正態(tài)分布表得臨界值Z▼

如果則不拒絕原假設(shè)▼如果

或

則拒絕原假設(shè)22(2)當(dāng)未知，且樣本容量較小時(shí)

只能用去代替，可利用t分布作t檢驗(yàn)：

給定,查t分布表得▼如果或者則拒絕原假設(shè)而不拒絕備擇假設(shè)▼如果則不拒絕原假設(shè)用P值判斷參數(shù)的顯著性假設(shè)檢驗(yàn)的p值：

p值是基于既定的樣本數(shù)據(jù)所計(jì)算的統(tǒng)計(jì)量，拒絕原假設(shè)的最低顯著性水平。統(tǒng)計(jì)分析軟件中通常都給出了檢驗(yàn)的p值

P統(tǒng)計(jì)量t計(jì)算的統(tǒng)計(jì)量:相對(duì)于顯著性水平的臨界值:或注意：t檢驗(yàn)是比較和P值檢驗(yàn)是比較和p與相對(duì)應(yīng)與P相對(duì)應(yīng)24用P值判斷參數(shù)顯著性的方法方法：將給定的顯著性水平與p值比較：?若值，必有，則在顯著性水平下拒絕原假設(shè)，即認(rèn)為Ｘ對(duì)Y有顯著影響?若值，必有，則在顯著性水平下不拒絕原假設(shè)，即認(rèn)為Ｘ對(duì)Y沒有顯著影響規(guī)則：當(dāng)時(shí)，P值越小，越能拒絕原假設(shè)

第五節(jié)

回歸模型預(yù)測(cè)

一、回歸分析結(jié)果的報(bào)告

經(jīng)過模型的估計(jì)、檢驗(yàn)，得到一系列重要的數(shù)據(jù)，為了簡(jiǎn)明、清晰、規(guī)范地表述這些數(shù)據(jù)，計(jì)量經(jīng)濟(jì)學(xué)通常采用以下規(guī)范化的方式：

例如：回歸結(jié)果為

=24·4545+0·5091

（6·4138）（0·0357）標(biāo)準(zhǔn)誤差SEt=(3·8128)(14·2605)t

統(tǒng)計(jì)量

=0·9621df=8可決系數(shù)和自由度

F=202·87DW=2.3F統(tǒng)計(jì)量DW統(tǒng)計(jì)量1.基本思想經(jīng)估計(jì)的計(jì)量經(jīng)濟(jì)模型可用于:經(jīng)濟(jì)結(jié)構(gòu)分析經(jīng)濟(jì)預(yù)測(cè)政策評(píng)價(jià)驗(yàn)證理論●運(yùn)用計(jì)量經(jīng)濟(jì)模型作預(yù)測(cè)：指利用所估計(jì)的樣本回歸函數(shù)作預(yù)測(cè)工具，用解釋變量的已知值或預(yù)測(cè)值，對(duì)預(yù)測(cè)期或樣本以外的被解釋變量的數(shù)值作出定量的估計(jì)。●計(jì)量經(jīng)濟(jì)預(yù)測(cè)是一種條件預(yù)測(cè)：條件：◆模型設(shè)定的關(guān)系式不變◆所估計(jì)的參數(shù)不變◆解釋變量在預(yù)測(cè)期的取值已作出預(yù)測(cè)26

二、被解釋變量平均值預(yù)測(cè)

預(yù)測(cè)值、平均值、個(gè)別值的相互關(guān)系

Y

是對(duì)真實(shí)平均值的點(diǎn)估計(jì),也是對(duì)個(gè)別值的點(diǎn)估計(jì)點(diǎn)預(yù)測(cè)值真實(shí)平均值個(gè)別值2、Y平均值的點(diǎn)預(yù)測(cè)

點(diǎn)預(yù)測(cè):

用樣本估計(jì)的總體參數(shù)值所計(jì)算的Y的估計(jì)值直接作為Y的預(yù)測(cè)值方法：

將解釋變量預(yù)測(cè)值直接代入估計(jì)的方程這樣計(jì)算的是一個(gè)點(diǎn)估計(jì)值

3、Y平均值的區(qū)間預(yù)測(cè)

基本思想：●預(yù)測(cè)的目標(biāo)值是真實(shí)平均值，由于存在抽樣波動(dòng)，預(yù)測(cè)的平均值不一定等于真實(shí)平均值，還需要對(duì)作區(qū)間估計(jì)●為對(duì)Y作區(qū)間預(yù)測(cè)，必須確定平均值點(diǎn)預(yù)測(cè)值的抽樣分布●

必須找出點(diǎn)預(yù)測(cè)值與預(yù)測(cè)目標(biāo)值的關(guān)系，即找出與二者都有關(guān)的統(tǒng)計(jì)量

具體作法（從的分布分析）

已知

可以證明

服從正態(tài)分布(為什么?)，將其標(biāo)準(zhǔn)化,當(dāng)未知時(shí)，只得用代替，這時(shí)有注意:（較復(fù)雜不具體證明）31顯然這樣的

t統(tǒng)計(jì)量與和都有關(guān)。給定顯著性水平α，查t分布表，得自由度n－2的臨界值，則有即Y平均值的置信度為的預(yù)測(cè)區(qū)間為構(gòu)建平均值的預(yù)測(cè)區(qū)間三、被解釋變量個(gè)別值預(yù)測(cè)

基本思想：

●既是對(duì)Y平均值的點(diǎn)預(yù)測(cè)，也是對(duì)Y個(gè)別值的點(diǎn)預(yù)測(cè)。●由于存在隨機(jī)擾動(dòng)的影響，Y的平均值并不等于Y的個(gè)別值●為了對(duì)Y的個(gè)別值作區(qū)間預(yù)測(cè)，需要尋找與點(diǎn)預(yù)測(cè)值和預(yù)測(cè)目標(biāo)個(gè)別值有關(guān)的統(tǒng)計(jì)量，并要明確其概率分布

已知剩余項(xiàng)是與預(yù)測(cè)值及個(gè)別值都有關(guān)的變量，并且已知服從正態(tài)分布，且可證明

當(dāng)用代替時(shí)，對(duì)標(biāo)準(zhǔn)化的變量t為

33（較復(fù)雜不具體證明）

具體作法：

構(gòu)建個(gè)別值的預(yù)測(cè)區(qū)間給定顯著性水平，查t分布表得自由度為N—2的臨界值，則有

因此，一元回歸時(shí)Y的個(gè)別值的置信度為的預(yù)測(cè)區(qū)間上下限為

35

被解釋變量Y區(qū)間預(yù)測(cè)的特點(diǎn)

（1）Y平均值的預(yù)測(cè)值與真實(shí)平均值有誤差，主要是受抽樣波動(dòng)影響

預(yù)測(cè)區(qū)間

Y個(gè)別值的預(yù)測(cè)值與真實(shí)個(gè)別值的差異,不僅受抽樣波動(dòng)影響，而且還受隨機(jī)擾動(dòng)項(xiàng)的影響

預(yù)測(cè)區(qū)間36（2）平均值和個(gè)別值預(yù)測(cè)區(qū)間都不是常數(shù)，是隨的變化而變化的，當(dāng)時(shí)，預(yù)測(cè)區(qū)間最小。（3）預(yù)測(cè)區(qū)間上下限與樣本容量有關(guān)，當(dāng)樣本容量n→∞時(shí),個(gè)別值的預(yù)測(cè)區(qū)間只決定于隨機(jī)擾動(dòng)的方差。預(yù)測(cè)區(qū)間37SRF各種預(yù)測(cè)值的關(guān)系Y的個(gè)別值的預(yù)測(cè)區(qū)間Y平均值的預(yù)測(cè)區(qū)間38第八節(jié)案例分析案例:分析各地區(qū)城鎮(zhèn)居民計(jì)算機(jī)擁有量與城鎮(zhèn)居民收入水平的關(guān)系

提出問題：隨著信息化程度和居民收入水平的提高，作為居民耐用消費(fèi)品重要代表的計(jì)算機(jī)已為眾多城鎮(zhèn)居民家庭所擁有。研究中國(guó)各地區(qū)城鎮(zhèn)居民計(jì)算機(jī)擁有量與居民收入水平的數(shù)量關(guān)系，對(duì)于探尋居民消費(fèi)增長(zhǎng)的規(guī)律性，分析各地區(qū)居民消費(fèi)的差異，預(yù)測(cè)地區(qū)全體居民消費(fèi)水平和結(jié)構(gòu)的發(fā)展趨勢(shì)，合理規(guī)劃信息產(chǎn)業(yè)的發(fā)展，都有重要的意義。

理論分析：影響居民計(jì)算機(jī)擁有量的因素有多種，但從理論和經(jīng)驗(yàn)分析，最主要的影響因素應(yīng)是居民收入水平。從理論上說居民收入水平越高，居民計(jì)算機(jī)擁有量越多。39變量選擇：被解釋變量選擇能代表城鄉(xiāng)所有居民消費(fèi)的“城鎮(zhèn)居民家庭平均每百戶計(jì)算機(jī)擁有量”(單位:臺(tái))；解釋變量選擇表現(xiàn)城鎮(zhèn)居民收入水平的“城鎮(zhèn)居民平均每人全年家庭總收入”（單位:元）研究范圍：全國(guó)各省市2011年底的城鎮(zhèn)居民家庭平均每百戶計(jì)算機(jī)擁有量和城鎮(zhèn)居民平均每人全年家庭總收入數(shù)據(jù)。2011年中國(guó)各地區(qū)城鎮(zhèn)居民每百戶計(jì)算機(jī)擁有量和人均總收入地區(qū)2011年底城鎮(zhèn)居民家庭平均每百戶計(jì)算機(jī)擁有量

(臺(tái))Y城鎮(zhèn)居民平均每人全年家庭總收入（元）X北

京103.5137124.39天

津95.429916.04河

北74.7419591.91山

西69.4519666.1內(nèi)蒙古60.8321890.19遼

寧71.6622879.77吉

林68.0419211.71黑龍江55.3617118.49上

海137.740532.29江

蘇96.9428971.98浙

江103.1734264.38安

徽74.0420751.11福

建10327378.11江

西73.8718656.52山

東85.8824889.8地區(qū)2011年底城鎮(zhèn)居民家庭平均每百戶計(jì)算機(jī)擁有量

(臺(tái))Y城鎮(zhèn)居民平均每人全年家庭總收入（元）X河

南71.4119526.92湖

北75.4920193.27湖

南66.3620083.87廣

東104.1330218.76廣

西91.7220846.11海

南63.8220094.18重

慶76.0721794.27四

川68.8619688.09貴

州63.8917598.87云

南63.5520255.13西

藏58.8318115.76陜

西82.4320069.87甘

肅56.1416267.37青

海52.6517794.98寧

夏59.3919654.59新

疆61.217631.15為了初步分析城鎮(zhèn)居民家庭平均每百戶計(jì)算機(jī)擁有量(Y)與城鎮(zhèn)居民平均每人全年家庭總收入(X)的關(guān)系，作以X為橫坐標(biāo)，以Y為縱坐標(biāo)的散點(diǎn)圖。42從散點(diǎn)圖可以看出城鎮(zhèn)居民家庭平均每百戶計(jì)算機(jī)擁有量(Y)與城鎮(zhèn)居民平均每人全年家庭總收入(X)大體呈現(xiàn)線性關(guān)系。可以建立如下簡(jiǎn)單線性回歸模型：模型設(shè)定:43

估計(jì)參數(shù)假定模型中隨機(jī)擾動(dòng)滿足基本假定，可用OLS法。

具體操作：使用EViews軟件，估計(jì)結(jié)果是：4444用規(guī)范的形式將參數(shù)估計(jì)和檢驗(yàn)的結(jié)果寫為：

（5.6228）(0.00024)t=(2.1267)(11.9826)

F=143.5836n=3145

1.可決系數(shù)：模型整體上擬合較好。

2.系數(shù)顯著性檢驗(yàn)：取，查t分布表得自由度為的臨界值為。因?yàn)閼?yīng)拒絕3.用P值檢驗(yàn)

>>p=0.0000表明，城鎮(zhèn)居民人均總收入對(duì)城鎮(zhèn)居民每百戶計(jì)算機(jī)擁有量確有顯著影響。模型檢驗(yàn)

應(yīng)拒絕46

4.經(jīng)濟(jì)意義檢驗(yàn)：所估計(jì)的參數(shù)

說明城鎮(zhèn)居民家庭人均總收入每