821一元線性回歸模型8-2-2 一元線性回歸模型參數(shù)的最小二乘估計(jì)課件

8.2一元線性回歸模型及其應(yīng)用8.2.1一元線性回歸模型8.2.2一元線性回歸模型參數(shù)的最小二乘估計(jì)1.結(jié)合具體實(shí)例,了解一元線性回歸模型的含義,了解模型參數(shù)的統(tǒng)計(jì)意義.2.了解最小二乘法原理,掌握一元線性回歸模型參數(shù)的最小二乘估計(jì)方法,會(huì)使用

相關(guān)的統(tǒng)計(jì)軟件.3.針對(duì)實(shí)際問(wèn)題,會(huì)用一元線性回歸模型進(jìn)行預(yù)測(cè).

第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析8.2一元線性回歸模型及其應(yīng)用第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析1第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析1|一元線性回歸模型把式子①

稱(chēng)為Y關(guān)于x的一元線性回歸模型.其中,Y稱(chēng)為

因變量或②

響應(yīng)變量

,x稱(chēng)為自變量或③

解釋變量

;a和b為模型的未知參

數(shù),a稱(chēng)為截距參數(shù),b稱(chēng)為④

斜率參數(shù)

;e是Y與bx+a之間的隨機(jī)誤差.如果e=0,那

么Y與x之間的關(guān)系就可用一元線性函數(shù)模型來(lái)描述.第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析1|一元線性回歸模型把式子①22|線性回歸方程與最小二乘法設(shè)滿足一元線性回歸模型的兩個(gè)變量的n對(duì)樣本數(shù)據(jù)為(x1,y1),(x2,y2),…,(xn,yn),

由yi=bxi+a+ei(i=1,2,…,n),得|yi-(bxi+a)|=|ei|,顯然|ei|越小,表示樣本數(shù)據(jù)點(diǎn)離直線y=bx+

a的豎直距離越小.通常用各散點(diǎn)到直線的豎直距離的平方之和Q=

來(lái)刻畫(huà)各樣本觀測(cè)數(shù)據(jù)與直線y=bx+a的“整體接近程度”.當(dāng)a,b的取值為

時(shí),Q達(dá)到最小.將⑦

=

x+

稱(chēng)為Y關(guān)于x的經(jīng)驗(yàn)回歸方程,也稱(chēng)經(jīng)驗(yàn)回歸函數(shù)或經(jīng)驗(yàn)回歸公式,其圖形稱(chēng)為經(jīng)驗(yàn)回歸直線.這種

求經(jīng)驗(yàn)回歸方程的方法叫做最小二乘法,求得的

,

叫做b,a的最小二乘估計(jì).經(jīng)驗(yàn)回歸直線一定過(guò)點(diǎn)(

,

).第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析2|線性回歸方程與最小二乘法設(shè)滿足一元線性回歸模型的兩33|殘差分析對(duì)于響應(yīng)變量Y,通過(guò)觀測(cè)得到的數(shù)據(jù)稱(chēng)為觀測(cè)值,通過(guò)⑧

經(jīng)驗(yàn)回歸方程

得到的

稱(chēng)為預(yù)測(cè)值,觀測(cè)值減去預(yù)測(cè)值稱(chēng)為⑨

殘差

.殘差是隨機(jī)誤差的估計(jì)結(jié)果,通過(guò)對(duì)殘差的分析可以判斷模型刻畫(huà)數(shù)據(jù)的效果,以及判斷原始數(shù)據(jù)中是否存在可

疑數(shù)據(jù)等,這方面工作稱(chēng)為殘差分析.第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析3|殘差分析對(duì)于響應(yīng)變量Y,通過(guò)觀測(cè)得到的數(shù)據(jù)稱(chēng)為觀測(cè)值,44|刻畫(huà)回歸效果的方式1.殘差圖法作圖時(shí)縱坐標(biāo)為殘差,橫坐標(biāo)可以選為樣本編號(hào),或身高數(shù)據(jù),或體重估計(jì)值等,這樣

作出的圖形稱(chēng)為殘差圖.在殘差圖中,殘差點(diǎn)比較均勻地落在以橫軸為對(duì)稱(chēng)軸的水

平的帶狀區(qū)域中,說(shuō)明選用的模型比較合適,這樣的帶狀區(qū)域的寬度越窄,說(shuō)明模型

擬合精度越高.2.殘差平方和法殘差平方和為

(yi-

)2,殘差平方和⑩

越小

,模型擬合效果越好.3.利用R2刻畫(huà)擬合效果R2=1-

.R2越大,模型的擬合效果越

好

,R2越小,模型的擬合效果越

差

.第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析4|刻畫(huà)回歸效果的方式1.殘差圖法第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分5

1.求經(jīng)驗(yàn)回歸方程前可以不進(jìn)行相關(guān)性檢驗(yàn).

(

?)2.在殘差圖中,縱坐標(biāo)為殘差,橫坐標(biāo)可以選為樣本編號(hào).

(√)3.利用經(jīng)驗(yàn)回歸方程求出的值是準(zhǔn)確值.

(

?)4.對(duì)于散點(diǎn)圖中的點(diǎn)沒(méi)有均勻分布在某條直線附近或毫無(wú)規(guī)則可言的兩個(gè)變量,用

最小二乘法求不出對(duì)應(yīng)的回歸直線.

(

?)5.y的實(shí)際值與估計(jì)值之間的誤差記為e,稱(chēng)之為隨機(jī)誤差,它主要是由計(jì)算產(chǎn)生的誤

差,沒(méi)有其他原因.(

?)6.用R2來(lái)刻畫(huà)模型的擬合效果時(shí),R2大于1對(duì)應(yīng)模型的擬合效果比R2小于1對(duì)應(yīng)模型

的擬合效果好.

(

?)判斷正誤，正確的畫(huà)“√”，錯(cuò)誤的畫(huà)“?”.第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析?判斷正誤，正確的畫(huà)“√”，錯(cuò)誤的畫(huà)“?”.第八章61|如何檢驗(yàn)回歸模型的擬合效果隨著人們物質(zhì)生活水平的提高,旅游漸漸成為人們的一種生活時(shí)尚.如圖是2015年

至2019年國(guó)內(nèi)游客人數(shù)y(單位:億)的散點(diǎn)圖.

第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析1|如何檢驗(yàn)回歸模型的擬合效果隨著人們物質(zhì)生活水平的提高,71.根據(jù)2015年至2019年的數(shù)據(jù)建立了游客人數(shù)y與時(shí)間編號(hào)t(2015年至2019年時(shí)間

編號(hào)t的值依次記為1,2,…,5)的3個(gè)回歸模型:①

=36.17e0.1041t;②

=5.14t+34.54;③

=12.412lnt+38.076.你認(rèn)為用哪個(gè)模型能更好地刻畫(huà)y與t之間的關(guān)系?提示:觀察散點(diǎn)圖,散點(diǎn)的分布更接近一條直線,故選擇回歸模型②.2.根據(jù)問(wèn)題1中你選定的經(jīng)驗(yàn)回歸方程,作出殘差圖,并作出分析.提示:依據(jù)經(jīng)驗(yàn)回歸方程

=5.14t+34.54,得殘差數(shù)據(jù)如表所示.t12345殘差

0.22-0.420.040.3-0.14第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析1.根據(jù)2015年至2019年的數(shù)據(jù)建立了游客人數(shù)y與時(shí)間編8以時(shí)間編號(hào)為橫坐標(biāo),殘差為縱坐標(biāo)作出殘差圖如圖所示.由圖可知,殘差點(diǎn)分布較

均勻,即用上述回歸模型擬合數(shù)據(jù)效果好.

3.根據(jù)問(wèn)題1中你選定的經(jīng)驗(yàn)回歸方程,計(jì)算R2,并作相關(guān)說(shuō)明.提示:利用R2的計(jì)算公式得R2≈0.9987,因?yàn)镽2越大,模型的擬合效果越好,所以從R2

分析,該模型擬合數(shù)據(jù)效果好.第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析以時(shí)間編號(hào)為橫坐標(biāo),殘差為縱坐標(biāo)作出殘差圖如圖所示.由圖可知9

檢驗(yàn)回歸模型的擬合效果一般有兩種方法:1.殘差分析通過(guò)殘差分析發(fā)現(xiàn)原始數(shù)據(jù)中的可疑數(shù)據(jù),判斷所建立模型的擬合效果.其步驟是:

計(jì)算殘差、畫(huà)殘差圖、在殘差圖中分析殘差特性.2.利用R2分析通過(guò)公式R2=1-

計(jì)算R2,其中

表示殘差平方和.R2越大,殘差平方和越小,模型的擬合效果越好;R2越小,殘差平方和越大,模型的擬合效果越差.第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析?第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析102|經(jīng)驗(yàn)回歸方程的求解與應(yīng)用

(1)確定研究對(duì)象,明確哪個(gè)變量是解釋變量,哪個(gè)變量是響應(yīng)變量.(2)畫(huà)出解釋變量和響應(yīng)變量的散點(diǎn)圖,觀察它們之間的關(guān)系(如是否存在線性關(guān)系

等).(3)由經(jīng)驗(yàn)確定回歸方程的類(lèi)型(如我們觀察到數(shù)據(jù)呈線性關(guān)系,則選用線性經(jīng)驗(yàn)回

歸方程).(4)按一定規(guī)則(如最小二乘法)估計(jì)經(jīng)驗(yàn)回歸方程中的參數(shù).(5)對(duì)變量值的預(yù)測(cè),即解釋變量取某值時(shí),對(duì)響應(yīng)變量的值進(jìn)行預(yù)測(cè).第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析2|經(jīng)驗(yàn)回歸方程的求解與應(yīng)用?第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析11

(2020全國(guó)百所名校新高考模擬示范卷)從中國(guó)教育在線官方公布的考研動(dòng)機(jī)調(diào)查

來(lái)看,本科生扎堆考研的原因大概集中在這6個(gè)方面:本科就業(yè)壓力大,提升競(jìng)爭(zhēng)力;通過(guò)考研選擇真正感興趣的專(zhuān)業(yè);為了獲得學(xué)歷;繼續(xù)深造;隨大流;有名校情結(jié).如

圖是2015~2019年全國(guó)碩士研究生報(bào)考人數(shù)的折線圖.第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析??通過(guò)考研選擇真正感興趣的專(zhuān)業(yè);為了獲得學(xué)歷;繼續(xù)深造;隨12(1)求y關(guān)于t的經(jīng)驗(yàn)回歸方程;(2)根據(jù)(1)中的經(jīng)驗(yàn)回歸方程,預(yù)測(cè)2021年全國(guó)碩士研究生報(bào)考人數(shù).參考數(shù)據(jù):

(ti-

)(yi-

)=311.經(jīng)驗(yàn)回歸方程

=

t+

中,

=

.第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析(1)求y關(guān)于t的經(jīng)驗(yàn)回歸方程;參考數(shù)據(jù):?(ti-?)(y13解析

(1)由題中數(shù)據(jù)得

=

=3,

=

=214.2,

=(-2)2+(-1)2+02+12+22=10,由參考數(shù)據(jù)知,

=311,第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析解析

(1)由題中數(shù)據(jù)得第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析14所以

=

=

=31.1,

=

-

=214.2-31.1×3=120.9,故所求經(jīng)驗(yàn)回歸方程為

=31.1t+120.9.(2)將2021年對(duì)應(yīng)的t=7代入經(jīng)驗(yàn)回歸方程,得

=31.1×7+120.9=338.6,所以預(yù)測(cè)2021年全國(guó)碩士研究生報(bào)考人數(shù)為338.6萬(wàn).第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析所以?=?=?=31.1,第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析158.2一元線性回歸模型及其應(yīng)用8.2.1一元線性回歸模型8.2.2一元線性回歸模型參數(shù)的最小二乘估計(jì)1.結(jié)合具體實(shí)例,了解一元線性回歸模型的含義,了解模型參數(shù)的統(tǒng)計(jì)意義.2.了解最小二乘法原理,掌握一元線性回歸模型參數(shù)的最小二乘估計(jì)方法,會(huì)使用

相關(guān)的統(tǒng)計(jì)軟件.3.針對(duì)實(shí)際問(wèn)題,會(huì)用一元線性回歸模型進(jìn)行預(yù)測(cè).

第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析8.2一元線性回歸模型及其應(yīng)用第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析16第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析1|一元線性回歸模型把式子①

稱(chēng)為Y關(guān)于x的一元線性回歸模型.其中,Y稱(chēng)為

因變量或②

響應(yīng)變量

,x稱(chēng)為自變量或③

解釋變量

;a和b為模型的未知參

數(shù),a稱(chēng)為截距參數(shù),b稱(chēng)為④

斜率參數(shù)

;e是Y與bx+a之間的隨機(jī)誤差.如果e=0,那

么Y與x之間的關(guān)系就可用一元線性函數(shù)模型來(lái)描述.第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析1|一元線性回歸模型把式子①172|線性回歸方程與最小二乘法設(shè)滿足一元線性回歸模型的兩個(gè)變量的n對(duì)樣本數(shù)據(jù)為(x1,y1),(x2,y2),…,(xn,yn),

由yi=bxi+a+ei(i=1,2,…,n),得|yi-(bxi+a)|=|ei|,顯然|ei|越小,表示樣本數(shù)據(jù)點(diǎn)離直線y=bx+

a的豎直距離越小.通常用各散點(diǎn)到直線的豎直距離的平方之和Q=

來(lái)刻畫(huà)各樣本觀測(cè)數(shù)據(jù)與直線y=bx+a的“整體接近程度”.當(dāng)a,b的取值為

時(shí),Q達(dá)到最小.將⑦

=

x+

稱(chēng)為Y關(guān)于x的經(jīng)驗(yàn)回歸方程,也稱(chēng)經(jīng)驗(yàn)回歸函數(shù)或經(jīng)驗(yàn)回歸公式,其圖形稱(chēng)為經(jīng)驗(yàn)回歸直線.這種

求經(jīng)驗(yàn)回歸方程的方法叫做最小二乘法,求得的

,

叫做b,a的最小二乘估計(jì).經(jīng)驗(yàn)回歸直線一定過(guò)點(diǎn)(

,

).第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析2|線性回歸方程與最小二乘法設(shè)滿足一元線性回歸模型的兩183|殘差分析對(duì)于響應(yīng)變量Y,通過(guò)觀測(cè)得到的數(shù)據(jù)稱(chēng)為觀測(cè)值,通過(guò)⑧

經(jīng)驗(yàn)回歸方程

得到的

稱(chēng)為預(yù)測(cè)值,觀測(cè)值減去預(yù)測(cè)值稱(chēng)為⑨

殘差

.殘差是隨機(jī)誤差的估計(jì)結(jié)果,通過(guò)對(duì)殘差的分析可以判斷模型刻畫(huà)數(shù)據(jù)的效果,以及判斷原始數(shù)據(jù)中是否存在可

疑數(shù)據(jù)等,這方面工作稱(chēng)為殘差分析.第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析3|殘差分析對(duì)于響應(yīng)變量Y,通過(guò)觀測(cè)得到的數(shù)據(jù)稱(chēng)為觀測(cè)值,194|刻畫(huà)回歸效果的方式1.殘差圖法作圖時(shí)縱坐標(biāo)為殘差,橫坐標(biāo)可以選為樣本編號(hào),或身高數(shù)據(jù),或體重估計(jì)值等,這樣

作出的圖形稱(chēng)為殘差圖.在殘差圖中,殘差點(diǎn)比較均勻地落在以橫軸為對(duì)稱(chēng)軸的水

平的帶狀區(qū)域中,說(shuō)明選用的模型比較合適,這樣的帶狀區(qū)域的寬度越窄,說(shuō)明模型

擬合精度越高.2.殘差平方和法殘差平方和為

(yi-

)2,殘差平方和⑩

越小

,模型擬合效果越好.3.利用R2刻畫(huà)擬合效果R2=1-

.R2越大,模型的擬合效果越

好

,R2越小,模型的擬合效果越

差

.第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析4|刻畫(huà)回歸效果的方式1.殘差圖法第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分20

1.求經(jīng)驗(yàn)回歸方程前可以不進(jìn)行相關(guān)性檢驗(yàn).

(

?)2.在殘差圖中,縱坐標(biāo)為殘差,橫坐標(biāo)可以選為樣本編號(hào).

(√)3.利用經(jīng)驗(yàn)回歸方程求出的值是準(zhǔn)確值.

(

?)4.對(duì)于散點(diǎn)圖中的點(diǎn)沒(méi)有均勻分布在某條直線附近或毫無(wú)規(guī)則可言的兩個(gè)變量,用

最小二乘法求不出對(duì)應(yīng)的回歸直線.

(

?)5.y的實(shí)際值與估計(jì)值之間的誤差記為e,稱(chēng)之為隨機(jī)誤差,它主要是由計(jì)算產(chǎn)生的誤

差,沒(méi)有其他原因.(

?)6.用R2來(lái)刻畫(huà)模型的擬合效果時(shí),R2大于1對(duì)應(yīng)模型的擬合效果比R2小于1對(duì)應(yīng)模型

的擬合效果好.

(

?)判斷正誤，正確的畫(huà)“√”，錯(cuò)誤的畫(huà)“?”.第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析?判斷正誤，正確的畫(huà)“√”，錯(cuò)誤的畫(huà)“?”.第八章211|如何檢驗(yàn)回歸模型的擬合效果隨著人們物質(zhì)生活水平的提高,旅游漸漸成為人們的一種生活時(shí)尚.如圖是2015年

至2019年國(guó)內(nèi)游客人數(shù)y(單位:億)的散點(diǎn)圖.

第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析1|如何檢驗(yàn)回歸模型的擬合效果隨著人們物質(zhì)生活水平的提高,221.根據(jù)2015年至2019年的數(shù)據(jù)建立了游客人數(shù)y與時(shí)間編號(hào)t(2015年至2019年時(shí)間

編號(hào)t的值依次記為1,2,…,5)的3個(gè)回歸模型:①

=36.17e0.1041t;②

=5.14t+34.54;③

=12.412lnt+38.076.你認(rèn)為用哪個(gè)模型能更好地刻畫(huà)y與t之間的關(guān)系?提示:觀察散點(diǎn)圖,散點(diǎn)的分布更接近一條直線,故選擇回歸模型②.2.根據(jù)問(wèn)題1中你選定的經(jīng)驗(yàn)回歸方程,作出殘差圖,并作出分析.提示:依據(jù)經(jīng)驗(yàn)回歸方程

=5.14t+34.54,得殘差數(shù)據(jù)如表所示.t12345殘差

0.22-0.420.040.3-0.14第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析1.根據(jù)2015年至2019年的數(shù)據(jù)建立了游客人數(shù)y與時(shí)間編23以時(shí)間編號(hào)為橫坐標(biāo),殘差為縱坐標(biāo)作出殘差圖如圖所示.由圖可知,殘差點(diǎn)分布較

均勻,即用上述回歸模型擬合數(shù)據(jù)效果好.

3.根據(jù)問(wèn)題1中你選定的經(jīng)驗(yàn)回歸方程,計(jì)算R2,并作相關(guān)說(shuō)明.提示:利用R2的計(jì)算公式得R2≈0.9987,因?yàn)镽2越大,模型的擬合效果越好,所以從R2

分析,該模型擬合數(shù)據(jù)效果好.第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析以時(shí)間編號(hào)為橫坐標(biāo),殘差為縱坐標(biāo)作出殘差圖如圖所示.由圖可知24

檢驗(yàn)回歸模型的擬合效果一般有兩種方法:1.殘差分析通過(guò)殘差分析發(fā)現(xiàn)原始數(shù)據(jù)中的可疑數(shù)據(jù),判斷所建立模型的擬合效果.其步驟是:

計(jì)算殘差、畫(huà)殘差圖、在殘差圖中分析殘差特性.2.利用R2分析通過(guò)公式R2=1-

計(jì)算R2,其中

表示殘差平方和.R2越大,殘差平方和越小,模型的擬合效果越好;R2越小,殘差平方和越大,模型的擬合效果越差.第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析?第八章成對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析252|經(jīng)驗(yàn)回歸方程的求解與應(yīng)用

(1)確定研究對(duì)象,明確哪個(gè)變量是解釋變量,哪個(gè)變量是響應(yīng)變量.(2)畫(huà)出解釋變量和響應(yīng)變量的散點(diǎn)圖,觀察它們之間的關(guān)系(如是否存在線性關(guān)系

等).(3)由經(jīng)驗(yàn)確定回歸方程的類(lèi)型(如我們觀察到數(shù)據(jù)呈線性關(guān)系,則選用線性經(jīng)驗(yàn)回

歸方程).(4)按一定規(guī)則(如最小二乘法)估計(jì)經(jīng)驗(yàn)回歸方程中的參數(shù).(5)對(duì)變量值的預(yù)測(cè),即解釋變量取某值時(shí),對(duì)響應(yīng)變量的值進(jìn)行預(yù)測(cè).