多元線性回歸模型

多元線性回歸模型第1頁，課件共24頁，創(chuàng)作于2023年2月1、方程的顯著性檢驗(F檢驗)

擬合優(yōu)度檢驗只能說明模型對樣本數據的近似情況。方程的顯著性檢驗，旨在對模型中被解釋變量與解釋變量之間的線性關系在總體上是否顯著成立作出推斷。

方程顯著性的F檢驗

即檢驗模型

Yi=0+1X1i+2X2i++kXki+ii=1,2,,n

中的參數j是否顯著不為0。

可提出如下原假設與備擇假設：

H0：0=1=2==k=0H1：j不全為0第2頁，課件共24頁，創(chuàng)作于2023年2月

F檢驗的思想來自于總離差平方和的分解式：

TSS=ESS+RSS

如果這個比值較大，則X的聯合體對Y的解釋程度高，可認為總體存在線性關系，反之總體上可能不存在線性關系。

因此,可通過該比值的大小對總體線性關系進行推斷。1、方程的顯著性檢驗(F檢驗)

第3頁，課件共24頁，創(chuàng)作于2023年2月

根據數理統(tǒng)計學中的知識，在原假設H0成立的條件下，統(tǒng)計量

服從自由度為(k,n-k-1)的F分布

給定顯著性水平，可得到臨界值F(k,n-k-1)，由樣本求出統(tǒng)計量F的數值，通過

F

F(k,n-k-1)或FF(k,n-k-1)來拒絕或接受原假設H0，以判定原方程的線性關系是否顯著成立。1、方程的顯著性檢驗(F檢驗)

第4頁，課件共24頁，創(chuàng)作于2023年2月關于擬合優(yōu)度檢驗與方程顯著性檢驗關系的討論

由可推出：與或1、方程的顯著性檢驗(F檢驗)

第5頁，課件共24頁，創(chuàng)作于2023年2月1、方程的顯著性檢驗(F檢驗)

第6頁，課件共24頁，創(chuàng)作于2023年2月2、變量的顯著性檢驗（t檢驗）方程的總體線性關系顯著每個解釋變量對被解釋變量的影響都是顯著的

因此，必須對每個解釋變量進行顯著性檢驗，以決定是否作為解釋變量被保留在模型中。這一檢驗是由對變量的t檢驗完成的。第7頁，課件共24頁，創(chuàng)作于2023年2月

t統(tǒng)計量

由于以cii表示矩陣(X’X)-1

主對角線上的第i個元素，于是參數估計量的方差為：

其中2為隨機誤差項的方差，在實際計算時，用它的估計量代替:

2、變量的顯著性檢驗（t檢驗）第8頁，課件共24頁，創(chuàng)作于2023年2月因此，可構造如下t統(tǒng)計量

2、變量的顯著性檢驗（t檢驗）第9頁，課件共24頁，創(chuàng)作于2023年2月t檢驗設計原假設與備擇假設：

H1：i0

給定顯著性水平，可得到臨界值t/2(n-k-1)，由樣本求出統(tǒng)計量t的數值，通過

|t|

t/2(n-k-1)或|t|t/2(n-k-1)來拒絕或接受原假設H0，從而判定對應的解釋變量是否應包括在模型中。

H0：i=0

（i=1,2…k）

2、變量的顯著性檢驗（t檢驗）第10頁，課件共24頁，創(chuàng)作于2023年2月注意：一元線性回歸中，t檢驗與F檢驗一致

在一元線性回歸中，由于解釋變量只有一個，不存在解釋變量聯合影響的整體檢驗問題，也就用不著進行F檢驗。實際上二者在一元情形下是一致的：一方面，t檢驗與F檢驗都是對相同的原假設H0：1=0

進行檢驗;

另一方面，兩個統(tǒng)計量之間有如下關系：

2、變量的顯著性檢驗（t檢驗）第11頁，課件共24頁，創(chuàng)作于2023年2月2、變量的顯著性檢驗（t檢驗）第12頁，課件共24頁，創(chuàng)作于2023年2月即F統(tǒng)計量等于t統(tǒng)計量的平方。給定顯著性水平，查F(1,n－2)與t（n－2），臨界值之間也存在這樣的關系。也就是說在一元情形下，對參數的顯著性檢驗（t檢驗）與對回歸總體線性的顯著性檢驗（F檢驗）是等價的。在多元線性回歸模型中，F檢驗與t檢驗是不同的。當對參數檢驗均顯著時，F檢驗一定是顯著的。但是當F檢驗顯著時，并不意味著對每一個回歸系數的t檢驗都是顯著的。2、變量的顯著性檢驗（t檢驗）第13頁，課件共24頁，創(chuàng)作于2023年2月3、參數的置信區(qū)間

參數的置信區(qū)間用來考察：在一次抽樣中所估計的參數值離參數的真實值有多“近”。在變量的顯著性檢驗中已經知道：容易推出：在(1-)的置信水平下i的置信區(qū)間是

其中，t/2為顯著性水平為、自由度為n-k-1的臨界值。

第14頁，課件共24頁，創(chuàng)作于2023年2月如何才能縮小置信區(qū)間？

增大樣本容量n，因為在同樣的樣本容量下，n越大，t分布表中的臨界值越小，同時，增大樣本容量，還可使樣本參數估計量的標準差減小；提高模型的擬合優(yōu)度，因為樣本參數估計量的標準差與殘差平方和呈正比，模型優(yōu)度越高，殘差平方和應越小。提高樣本觀測值的分散度,一般情況下，樣本觀測值越分散，(X’X)-1的分母的|X’X|的值越大，致使區(qū)間縮小。3、參數的置信區(qū)間

第15頁，課件共24頁，創(chuàng)作于2023年2月第六節(jié)預測1、點預測2、區(qū)間預測第16頁，課件共24頁，創(chuàng)作于2023年2月1、點預測點預測：將解釋變量的一組特定值代入回歸方程式即可求出被解釋變量Y0的點預測.第17頁，課件共24頁，創(chuàng)作于2023年2月2、區(qū)間預測

一、E(Y0)的置信區(qū)間

二、Y0的置信區(qū)間第18頁，課件共24頁，創(chuàng)作于2023年2月對于模型

給定樣本以外的解釋變量的觀測值X0=(1,X10,X20,…,Xk0)，可以得到被解釋變量的預測值：它可以是總體均值E(Y0)或個值Y0的預測。但嚴格地說，這只是被解釋變量的預測值的估計值，而不是預測值。為了進行科學預測，還需求出預測值的置信區(qū)間，包括E(Y0)和Y0的置信區(qū)間。

2、區(qū)間預測

第19頁，課件共24頁，創(chuàng)作于2023年2月一、E(Y0)的置信區(qū)間易知

2、區(qū)間預測

第20頁，課件共24頁，創(chuàng)作于2023年2月容易證明

于是，得到(1-)的置信水平下E(Y0)的置信區(qū)間：

其中，t/2為(1-)的置信水平下的臨界值。2、區(qū)間預測

第21頁，課件共24頁，創(chuàng)作于2023年2月二、Y0的置信區(qū)間

如果已經知道實際的預測值Y0，那么預測誤差為：容易