回歸模型的統(tǒng)計檢驗

回歸模型的統(tǒng)計檢驗第1頁，共27頁，2023年，2月20日，星期四對于樣本回歸模型擬合總體模型，我們通常要進(jìn)行經(jīng)濟(jì)檢驗、統(tǒng)計檢驗、計量檢驗等。統(tǒng)計檢驗則是在一定概率下求出參數(shù)，檢驗樣本對總體的代表性、影響關(guān)系是否顯著等問題。主要通過一些統(tǒng)計檢驗方法來保證模型在統(tǒng)計意義上（即以樣本推斷總體）的可靠性。我們所要進(jìn)行的統(tǒng)計檢驗包括兩方面，一方面檢驗回歸方程對樣本數(shù)據(jù)的擬合程度，通過可決系數(shù)；另一方面檢驗回歸方程的顯著性，通過假設(shè)檢驗對模型中被解釋變量與解釋變量之間的線性關(guān)系在總體上是否顯著成立作出判斷，包括對回歸方程線性關(guān)系的檢驗和對回歸系數(shù)顯著性的檢驗。第2頁，共27頁，2023年，2月20日，星期四一、模型的擬合優(yōu)度檢驗所謂擬合優(yōu)度，即模型對樣本數(shù)據(jù)的近似程度。由于實際觀察得到的樣本數(shù)據(jù)是對客觀事實的一種真實反映，因此，模型至少應(yīng)該能較好的描述這一部分客觀實際情況。為了考察模型的擬合優(yōu)度，需要構(gòu)造一個指標(biāo)——判定系數(shù)（可決系數(shù)）。認(rèn)識判定系數(shù)之前讓我們回顧一下關(guān)于樣本與總體回歸函數(shù)，了解總離差分解。第3頁，共27頁，2023年，2月20日，星期四⒈總變差的分解設(shè)估計的多元線性回歸模型為：分析Y的觀測值、估計值和平均值的關(guān)系因為，將上式兩邊平方加總，可證得第4頁，共27頁，2023年，2月20日，星期四SRF第5頁，共27頁，2023年，2月20日，星期四

TSS為總體平方和（TotalSumofSquares），反映樣本觀測值總體離差的大?。籈SS為回歸平方和（ExplainedSumofSquares），反映由模型中解釋變量所解釋的那部分離差的大??；RSS為殘差平方和（ResidualSumofSquares），反映樣本觀測值與估計值偏離的大小，也是模型中解釋變量未解釋的那部分離差的大小。

TSS=RSS+ESS

第6頁，共27頁，2023年，2月20日，星期四

2、擬合優(yōu)度檢驗統(tǒng)計量：可決系數(shù)(判定系數(shù))R2和校正可決系數(shù)第7頁，共27頁，2023年，2月20日，星期四判定系數(shù)不僅反映了模型擬合程度的優(yōu)劣，而且有直觀的經(jīng)濟(jì)含義：它定量地描述了y的變化中可以用回歸模型來說明的部分，即在被解釋變量的變動中，由模型中解釋變量所引起的比例。見前一節(jié)例題，解釋意義判定系數(shù)的特點：⑴判定系數(shù)取值范圍[0，1]。⑵隨抽樣波動，樣本判定系數(shù)是隨抽樣而變動的隨機(jī)變量。⑶判定系數(shù)是非負(fù)的統(tǒng)計量。第8頁，共27頁，2023年，2月20日，星期四判定系數(shù)與相關(guān)系數(shù)的關(guān)系聯(lián)系：數(shù)值上判定系數(shù)是相關(guān)系數(shù)的平方。區(qū)別：⑴前者就模型而言，后者就兩個變量而言。⑵前者說明解釋變量對被解釋變量的解釋程度，后者說明兩變量線性依存程度。⑶前者度量的不對稱的因果關(guān)系，后者度量的不含因果關(guān)系的對稱相關(guān)關(guān)系。⑷前者取值[0,1]非負(fù)，后者取值[-1,1]，可正可負(fù)。第9頁，共27頁，2023年，2月20日，星期四注意的問題判定系數(shù)只是說明列入模型的所有解釋變量對被解釋變量的聯(lián)合的影響程度，不說明模型中每個解釋變量的影響程度（在多元中）回歸的主要目的如果是經(jīng)濟(jì)結(jié)構(gòu)分析，不能只追求高的判定系數(shù)，而是要得到總體回歸系數(shù)可信的估計量。判定系數(shù)高并不一定每個回歸系數(shù)都可信。如果建模的目的只是為了預(yù)測被解釋變量值，不是為了正確估計回歸系數(shù)，一般可考慮有較高的判定系數(shù)。第10頁，共27頁，2023年，2月20日，星期四第11頁，共27頁，2023年，2月20日，星期四第12頁，共27頁，2023年，2月20日，星期四補(bǔ)充：關(guān)于假設(shè)檢驗(在進(jìn)行F/T統(tǒng)計檢驗之前)假設(shè)檢驗是統(tǒng)計推斷的一個主要內(nèi)容，它的基本任務(wù)是根據(jù)樣本所提供的信息，對未知總體分布的某些方面的假設(shè)作出合理的判斷。假設(shè)檢驗的程序是，先根據(jù)實際問題的要求提出一個論斷，稱為統(tǒng)計假設(shè)；然后根據(jù)樣本的有關(guān)信息，對假設(shè)的真?zhèn)芜M(jìn)行判斷，作出拒絕或接受假設(shè)的決策。

假設(shè)檢驗的前提是知道所估計的樣本回歸系數(shù)概率分布性質(zhì)，即對總體回歸系數(shù)某種原假設(shè)成立。假設(shè)檢驗的基本思想是概率性質(zhì)的反證法。概率性質(zhì)的反證法的根據(jù)是小概率事件原理，該原理認(rèn)為“小概率事件在一次試驗中幾乎是不可能發(fā)生的,如果該小概率事件竟然發(fā)生了，就認(rèn)為原假設(shè)不正確，而拒絕原假設(shè)，不拒絕備則假設(shè)”。下面講授的模型的顯著性檢驗及解釋變量的顯著性檢驗都基于此基礎(chǔ)。

第13頁，共27頁，2023年，2月20日，星期四二、模型的顯著性檢驗所謂模型的顯著性檢驗，就是檢驗?zāi)Ｐ蛯傮w的近似程度，而且最常用的檢驗方法是F檢驗。1.F檢驗的思想F檢驗的思想來自于總離差平方和的分解式：

TSS=ESS+RSS由于回歸平方和ESS是解釋變量X聯(lián)合體對被解釋變量Y的線性作用的結(jié)果，所以，如果ESS/RSS的比值較大，則X的聯(lián)合體對Y的解釋程度高，可認(rèn)為總體存在線性關(guān)系，反之總體上可能不存在線性關(guān)系。因此,可通過該比值的大小對總體線性關(guān)系進(jìn)行推斷。第14頁，共27頁，2023年，2月20日，星期四進(jìn)一步根據(jù)數(shù)理統(tǒng)計學(xué)中的定義，如果構(gòu)造一個統(tǒng)計量則該統(tǒng)計量服從自由度為（k，n-k-1）的F分布。第15頁，共27頁，2023年，2月20日，星期四第16頁，共27頁，2023年，2月20日，星期四第17頁，共27頁，2023年，2月20日，星期四第18頁，共27頁，2023年，2月20日，星期四見書例題第19頁，共27頁，2023年，2月20日，星期四F檢驗與R2的關(guān)系根據(jù)二者關(guān)系，有需注意的幾個問題：⑴F檢驗實際上也是判定系數(shù)的顯著性檢驗。⑵如果模型對樣本有較高的擬合優(yōu)度，F(xiàn)檢驗一般都能通過。⑶實際應(yīng)用中不必過分苛求R2值的大小，重要的是考察模型的經(jīng)濟(jì)意義是否合理。第20頁，共27頁，2023年，2月20日，星期四三、解釋變量的顯著性檢驗解釋變量顯著性檢驗即對回歸系數(shù)的顯著性進(jìn)行檢驗，如果變量是顯著的，那么回歸系數(shù)應(yīng)該顯著地不為0。于是，在變量顯著性檢驗中設(shè)計的原假設(shè)為：

H0：i=0

而備擇假設(shè)為：

H1:i0

其中的下角標(biāo)i，在一元回歸模型中取值1：

在二元回歸模型中取值1、2。第21頁，共27頁，2023年，2月20日，星期四然后根據(jù)樣本觀測值和估計值，構(gòu)造計算統(tǒng)計量：第22頁，共27頁，2023年，2月20日，星期四若H0成立，則第23頁，共27頁，2023年，2月20日，星期四第24頁，共27頁，2023年，2月20日，星期四第25頁，共27頁，2023年，2月20日，星期四用P值判定參數(shù)的顯著性假設(shè)檢驗的p值

p值是根據(jù)既定的樣本數(shù)據(jù)所計算的統(tǒng)計量，拒絕原假設(shè)的最小顯著性水平。統(tǒng)計軟件中（EViews,SPSS,SAS）通常都給出了檢驗的p值。方法：將給定的的顯著性水平與p值比較：若p<,則在顯著性水平下拒絕原假設(shè)H0，即認(rèn)為X對