應(yīng)用回歸分析（第5版）第2章 一元線性回歸

2024/12/281第2章一元線性回歸2.1一元線性回歸模型2.2參數(shù)β0、β1的估計(jì)2.3最小二乘估計(jì)的性質(zhì)2.4回歸方程的顯著性檢驗(yàn)2.5殘差分析2.6回歸系數(shù)的區(qū)間估計(jì)2.7預(yù)測(cè)和控制2.8本章小結(jié)與評(píng)注2024/12/2822.1一元線性回歸模型例2.1

表2.1列出了15起火災(zāi)事故的損失及火災(zāi)發(fā)生地與最近的消防站的距離。表2.1 火災(zāi)損失表2024/12/2832.1一元線性回歸模型例2.2

全國人均消費(fèi)金額記作y(元);

人均國民收入記為x(元)表2.2 人均國民收入表2024/12/2842.1一元線性回歸模型一元線性回歸模型

y=β0+β1x+ε回歸方程E（y|x）=β0+β1x2024/12/2852.1一元線性回歸模型樣本模型

yi=β0+β1xi+εi, i=1,2,…,n回歸方程E(yi)=β0+β1xi,var(yi)=σ2，樣本觀測(cè)值(x1,y1),(x2,y2),…,(xn,yn)經(jīng)驗(yàn)回歸方程

回歸方程平均意義的解釋2024/12/2862.2參數(shù)β0、β1的估計(jì)一、普通最小二乘估計(jì)

(OrdinaryLeastSquareEstimation,簡(jiǎn)記為OLSE)最小二乘法就是尋找參數(shù)β0、β1的估計(jì)值使離差平方和達(dá)極小稱為yi的回歸擬合值,簡(jiǎn)稱回歸值或擬合值

稱為yi的殘差有人用絕對(duì)值2024/12/2872.2參數(shù)β0、β1的估計(jì)2024/12/2882.2參數(shù)β0、β1的估計(jì)經(jīng)整理后,得正規(guī)方程組2024/12/2892.2參數(shù)β0、β1的估計(jì)得OLSE為記2024/12/28102.2參數(shù)β0、β1的估計(jì)續(xù)例2.1回歸方程2024/12/28112.2參數(shù)β0、β1的估計(jì)二、最大似然估計(jì)

連續(xù)型：是樣本的聯(lián)合密度函數(shù)：離散型：是樣本的聯(lián)合概率函數(shù)。似然函數(shù)并不局限于獨(dú)立同分布的樣本。似然函數(shù)在假設(shè)εi～N(0,σ2)時(shí),由（2.10）式知yi服從如下正態(tài)分布:2024/12/28122.2參數(shù)β0、β1的估計(jì)二、最大似然估計(jì)

y1,y2,…,yn

的似然函數(shù)為：對(duì)數(shù)似然函數(shù)為：與最小二乘原理完全相同

2024/12/28132.3最小二乘估計(jì)的性質(zhì)一、線性

是y1,y2,…,yn的線性函數(shù)

：2024/12/2814其中用到

2.3最小二乘估計(jì)的性質(zhì)二、無偏性

無偏性的意義2024/12/28152.3最小二乘估計(jì)的性質(zhì)三、的方差

回歸系數(shù)的相關(guān)情況2024/12/28162.3最小二乘估計(jì)的性質(zhì)三、的方差

在正態(tài)假設(shè)下Gauss

Markov條件

2024/12/28172.4回歸方程的顯著性檢驗(yàn)

一、t

檢驗(yàn)

原假設(shè)：H0：β1=0 對(duì)立假設(shè)：H1

：β1≠0

由當(dāng)原假設(shè)H0：β1=0成立時(shí)有：

2024/12/28182.4回歸方程的顯著性檢驗(yàn)

一、t

檢驗(yàn)

構(gòu)造t統(tǒng)計(jì)量

其中2024/12/28192.4回歸方程的顯著性檢驗(yàn)

二、用統(tǒng)計(jì)軟件計(jì)算

1．例2.1用Excel軟件計(jì)算2024/12/2820什么是P值?

(P-value)P值即顯著性概率值

SignificenceProbabilityValue是當(dāng)原假設(shè)為真時(shí)得到比目前的樣本更極端的樣本的概率，所謂極端就是與原假設(shè)相背離它是用此樣本拒絕原假設(shè)所犯棄真錯(cuò)誤的真實(shí)概率，被稱為觀察到的(或?qū)崪y(cè)的)顯著性水平2024/12/2821雙側(cè)檢驗(yàn)的P值

/

2

/

2

t拒絕拒絕H0值臨界值計(jì)算出的樣本統(tǒng)計(jì)量計(jì)算出的樣本統(tǒng)計(jì)量臨界值1/2P值1/2P值2024/12/2822左側(cè)檢驗(yàn)的P值H0值臨界值a樣本統(tǒng)計(jì)量拒絕域抽樣分布1-

置信水平計(jì)算出的樣本統(tǒng)計(jì)量P值2024/12/2823右側(cè)檢驗(yàn)的P值H0值臨界值a拒絕域抽樣分布1-

置信水平計(jì)算出的樣本統(tǒng)計(jì)量P值2024/12/2824利用P值進(jìn)行檢驗(yàn)的決策準(zhǔn)則若p-值≥

,不能拒絕H0若p-值＜

,拒絕H0雙側(cè)檢驗(yàn)p-值=2×單側(cè)檢驗(yàn)p-值2024/12/28252.4回歸方程的顯著性檢驗(yàn)

二、用統(tǒng)計(jì)軟件計(jì)算2.例2.1用SPSS軟件計(jì)算2024/12/28262.4回歸方程的顯著性檢驗(yàn)

二、用統(tǒng)計(jì)軟件計(jì)算2.用SPSS軟件計(jì)算2024/12/28272.4回歸方程的顯著性檢驗(yàn)

三、F檢驗(yàn)平方和分解式

SST=SSR+SSE構(gòu)造F檢驗(yàn)統(tǒng)計(jì)量

可以證明SSR和SSE均服從卡方分布2024/12/28282.4回歸方程的顯著性檢驗(yàn)

三、F檢驗(yàn)一元線性回歸方差分析表方差來源自由度平方和均方F值P值回歸殘差總和1n-2n-1SSRSSESSTSSR/1SSE/（n-2）P(F>F值)=P值2024/12/28292.4回歸方程的顯著性檢驗(yàn)

四、相關(guān)系數(shù)的顯著性檢驗(yàn)

2024/12/28302.4回歸方程的顯著性檢驗(yàn)

四、相關(guān)系數(shù)的顯著性檢驗(yàn)

2024/12/28312.4回歸方程的顯著性檢驗(yàn)

四、相關(guān)系數(shù)的顯著性檢驗(yàn)

附表1相關(guān)系數(shù)ρ=0的臨界值表n-25%1%n-25%1%n-25%1%10.9971.000160.4680.590350.3250.41820.9500.990170.4560.575400.3040.39330.8780.959180.4440.561450.2880.37240.8110.947190.4330.549500.2730.35450.7540.874200.4230.537600.2500.32560.7070.834210.4130.526700.2320.30270.6660.798220.4040.515800.2170.28380.6320.765230.3960.505900.2050.26790.6020.735240.3880.4961000.1950.254100.5760.708250.3810.4871250.1740.228110.5530.684260.3740.4781500.1590.208120.5320.661270.3670.4702000.1380.181130.5140.641280.3610.4633000.1130.148140.4970.623290.3550.4564000.0980.128150.4820.606300.3490.44910000.0620.0812024/12/28322.4回歸方程的顯著性檢驗(yàn)

四、相關(guān)系數(shù)的顯著性檢驗(yàn)

用SPSS軟件做相關(guān)系數(shù)的顯著性檢驗(yàn)

2024/12/28332.4回歸方程的顯著性檢驗(yàn)

四、相關(guān)系數(shù)的顯著性檢驗(yàn)

兩變量間相關(guān)程度的強(qiáng)弱分為以下幾個(gè)等級(jí)：當(dāng)|r|≥0.8時(shí)，視為高度相關(guān)；當(dāng)0.5≤|r|＜0.8時(shí)，視為中度相關(guān)；當(dāng)0.3≤|r|＜0.5時(shí)，視為低度相關(guān)；當(dāng)|r|＜0.3時(shí)，表明兩個(gè)變量之間的相關(guān)程度極弱，在實(shí)際應(yīng)用中可視為不相關(guān)。2024/12/28342.4回歸方程的顯著性檢驗(yàn)

五、三種檢驗(yàn)的關(guān)系H0:b=0H0:r=0H0:回歸無效2024/12/28352.4回歸方程的顯著性檢驗(yàn)

六、樣本決定系數(shù)

可以證明2024/12/28362.5殘差分析

一、殘差概念與殘差圖

殘差

誤差項(xiàng)

殘差ei是誤差項(xiàng)ei的估計(jì)值。

2024/12/28372.5殘差分析

一、殘差概念與殘差圖

2024/12/28382.5殘差分析

一、殘差概念與殘差圖

圖2.6火災(zāi)損失數(shù)據(jù)殘差圖2024/12/28392.5殘差分析

二、殘差的性質(zhì)

性質(zhì)1E(ei)=0

證明:2024/12/28402.5殘差分析

二、殘差的性質(zhì)

性質(zhì)2其中稱為杠桿值

2024/12/28412.5殘差分析

二、殘差的性質(zhì)

2024/12/28422.5殘差分析

二、殘差的性質(zhì)

性質(zhì)3.

殘差滿足約束條件:

這表明殘差是相關(guān)的,不是獨(dú)立的.2024/12/28432.5殘差分析

三、改進(jìn)的殘差

標(biāo)準(zhǔn)化殘差學(xué)生化殘差2024/12/28442.6回歸系數(shù)的區(qū)間估計(jì)

等價(jià)于β1的1-α置信區(qū)間2024/12/28452.7預(yù)測(cè)和控制

一、單值預(yù)測(cè)

2024/12/28462.7預(yù)測(cè)和控制

二、區(qū)間預(yù)測(cè)找一個(gè)區(qū)間（T1,T2），使得

需要首先求出其估計(jì)值的分布

1．因變量新值的區(qū)間預(yù)測(cè)2024/12/2847二、區(qū)間預(yù)測(cè)1因變量新值的區(qū)間預(yù)測(cè)以下計(jì)算的方差從而得2024/12/2848二、區(qū)間預(yù)測(cè)1因變量新值的區(qū)間預(yù)測(cè)記于是有

則2024/12/2849二、區(qū)間預(yù)測(cè)1因變量新值的區(qū)間預(yù)測(cè)y0的置信概率為1-α的置信區(qū)間為

y0的置信度為95%的置信區(qū)間近似為

能不能兩全其美2024/12/2850二、區(qū)間預(yù)測(cè)2因變量平均值的區(qū)間估計(jì)得E(y0)的1-α的置信區(qū)間為

E(y0)=β0+β1x0是常數(shù)2024/12/2851二、區(qū)間預(yù)測(cè)計(jì)算

對(duì)例2.1的火災(zāi)損失數(shù)據(jù)，假設(shè)保險(xiǎn)公司希望預(yù)測(cè)一個(gè)距最近的消防隊(duì)x0=3.5公里的居民住宅失火的損失

點(diǎn)估計(jì)值95%區(qū)間估計(jì)單個(gè)新值：（22.32，32.67）平均值E(y0)：（26.19，28.80）

的95%的近似置信區(qū)間為

=（27.50-2×2.316，27.50+2×2.316）=（22.87，32.13）2024/12/2852三、控制問題

給定y的預(yù)期范圍(T1,T2),如何控制自變量x的值才能以1-α的概率保證

用近似的預(yù)測(cè)區(qū)間來確定x。如果α=0.05,則要求

把帶入2024/12/28532.8本章小結(jié)與評(píng)注

一、一元線性回歸模型從建模到應(yīng)用的全過程例2.2

全國人均消費(fèi)金額記作y(元);人均國民收入記為x(元)表2.2 人均國民收入表2024/12/2854回歸模型的一個(gè)真實(shí)應(yīng)用2024/12/28552024/12/28562024/12/2857

黃石公園(Yellowstone)的間歇噴泉預(yù)測(cè)（回歸分析）

凡是到過美國黃石國家公園的人，都會(huì)被那里神奇而美麗的間歇噴泉深深迷住（OldFaithful）。這一噴泉每次噴發(fā)大約持續(xù)1分半鐘至5分鐘，兩次噴發(fā)間的間隔時(shí)間不等,短則40分鐘，長則126分鐘。就是說，噴發(fā)時(shí)間和