一元線性回歸方程

關于一元線性回歸方程第一章一元線性回歸模型

以下設x為自變量(普通變量)Y為因變量(隨機變量).現給定x的n

個值x1,…,xn,觀察Y得到相應的n

個值y1,…,yn,(xi,yi)

i=1,2,…,n

稱為樣本點.

以(xi,yi)為坐標在平面直角坐標系中描點,所得到的這張圖便稱之為散點圖.第2頁,共28頁，2024年2月25日，星期天第3頁,共28頁，2024年2月25日，星期天§1.1模型的建立及其假定條件例如：研究某市可支配收入X對人均消費支出Y的影響。建立如下理論回歸模型：Yi=

0

+1

Xi+εi其中：Yi——被解釋變量；Xi——解釋變量；εI——隨機誤差項；

0，1—回歸系數隨機變量ε

i包含：回歸模型中省略的變量;確定數學模型的誤差；測量誤差一、一元線性回歸模型第4頁,共28頁，2024年2月25日，星期天XY80100120140160180200220240260556579801021101201351371506070849310711513613714515265749095110120140140155175708094103116130144152165178758598108118135145157175180－88－113125140－160189185－－－115－－－162－191戶數5657665765總支出32546244570767875068510439661211

假設調查了某社區(qū)所有居民，他們的人均可支配收入和消費支出數據如下：第5頁,共28頁，2024年2月25日，星期天YX5510012014016080

描出散點圖發(fā)現：隨著收入的增加，消費“平均地說”也在增加，且Y的條件均值均落在一根正斜率的直線上。這條直線稱為總體回歸線。第6頁,共28頁，2024年2月25日，星期天二、隨機誤差項εi的假定條件為了估計總體回歸模型中的參數，需對隨機誤差項作出如下假定：假定1：零期望假定：E(εi)=0。假定2：同方差性假定：Var(εi)=

2。假定4：εi

服從正態(tài)分布，即εi

N(0,

2)。假定3：無序列相關假定：Cov(εi,εj)=0,(i

j)。前三個條件稱為G-M條件第7頁,共28頁，2024年2月25日，星期天§1.2一元線性回歸模型的參數估計普通最小二乘法（OrdinaryLeastSquares）OLS回歸直線的性質OLSE的性質第8頁,共28頁，2024年2月25日，星期天一、普通最小二乘法對于所研究的問題，通常真實的回歸直線E(Yi|Xi)

=

0

+1Xi

是觀測不到的?？梢酝ㄟ^收集樣本來對真實的回歸直線做出估計。

經驗回歸直線：

其中：為Yi的估計值（擬合值）；為

0

,1

的估計值；如果觀測值到這條直線的縱向距離（真實值與估計值的偏差）用ei表示（稱為殘差），則經驗回歸模型為：（ei為εi的估計值）第9頁,共28頁，2024年2月25日，星期天注意：分清4個式子的關系（4）經驗（估計的）回歸直線：（1）理論（真實的）回歸模型：

（3）經驗（估計的）回歸模型：（2）理論（真實的）回歸直線：第10頁,共28頁，2024年2月25日，星期天對于參數的估計采用最小二乘估計法、最小二乘法的原則是以“殘差平方和最小”確定直線位置（即估計參數）。（Q為殘差平方和）Q===則通過Q最小確定這條直線，即確定，以為變量，把它們看作是Q的函數，就變成了一個求極值的問題，可以通過求導數得到。求Q對兩個待估參數的偏導數：=

=0=

=0正規(guī)方程組即第11頁,共28頁，2024年2月25日，星期天根據以上兩個偏導方程得以下正規(guī)方程（Normalequation）：第12頁,共28頁，2024年2月25日，星期天若記則第13頁,共28頁，2024年2月25日，星期天二、OLS回歸直線的性質（1）估計的回歸直線過點.

（3）Yi

的擬合值的平均數等于其樣本觀測值的平均數.=

=

=

（2）第14頁,共28頁，2024年2月25日，星期天統(tǒng)計性質線性無偏性有效性

2

的估計三、OLSE回歸直線的性質第15頁,共28頁，2024年2月25日，星期天1、線性這里指都是Yi的線性函數。證明：=

=

令代入上式，得：同理可證：

0也具有線性特性。=

第16頁,共28頁，2024年2月25日，星期天2、無偏性證明：======類似可證第17頁,共28頁，2024年2月25日，星期天3、有效性

0

，

1的OLS估計量的方差比其他線性無偏估計量的方差都小。第18頁,共28頁，2024年2月25日，星期天總體（隨機誤差項）真實方差2的無偏估計量：三、

2的估計第19頁,共28頁，2024年2月25日，星期天§1.3回歸方程的顯著性檢驗一、回歸參數的顯著性檢驗（t檢驗）首先，提出原假設和備擇假設：

H0：

H1：

其次，確定并計算統(tǒng)計量：

＝如果不能拒絕H0：，認為X對Y沒有顯著影響。

如果拒絕H0：

，認為X對Y有顯著影響。

同理,可對進行顯著性檢驗。

第20頁,共28頁，2024年2月25日，星期天二、回歸方程的顯著性檢驗（F檢驗）

總離差平方和＝回歸平方和＋殘差平方和SST=SSR+SSEH0：

H1：

拒絕域F>Fα(1,n-2)第21頁,共28頁，2024年2月25日，星期天三、用樣本可決系數檢驗回歸方程的擬合優(yōu)度R2

=

R2=0時表明解釋變量X與被解釋變量Y之間不存在線性關系；R2=1時表明樣本回歸線與樣本值重合，這種情況極少發(fā)生；一般情況下，R2越接近1表示擬合程度越好，X對Y的解釋能力越強。第22頁,共28頁，2024年2月25日，星期天四.

相關系數檢驗法1.提出原假設2.選擇統(tǒng)計量3.對給定的顯著性水平α,查臨界值rα(n-2),

得否定域為|R|

>rα(n-2);第23頁,共28頁，2024年2月25日，星期天§1.4

回歸系數估計值的置信區(qū)間

-t

/2(n-2)

0

t

/2(n-2)

由于：由大括號內不等式表示的

1的1-α的置信區(qū)間為：得：P{

t

/2

(n-2)

}=1-

同理,可，并求得的置信區(qū)間為：

第24頁,共28頁，2024年2月25日，星期天§1.5一元線性回歸方程的預測和控制點預測Yi區(qū)間預測

（1）單個值Yi的區(qū)間預測（2）均值E(Yi)的區(qū)間預測控制第25頁,共28頁，2024年2月25日，星期天如果經過檢驗，樣本回歸方程的擬合優(yōu)度好，且回歸系數的估計值顯著不為0，則可以用回歸方程進行預測和控制。1、點預測

假設X0為解釋變量的一個已知點，則帶入樣本回歸方程即可得到Y0的估計值:2、區(qū)間預測

估計值是一個點預測值，它可以是（1）總體真值Y0的預測值；也可以是（2）總體回歸線E(Y0

）的預測值?，F在根據來對（1）（2）進行區(qū)