《元線性回歸》PPT課件.pptVIP

第2章 一元線性回歸,2 .1 一元線性回歸模型 2 .2 參數 的估計 2 .3 最小二乘估計的性質 2 .4 回歸方程的顯著性檢驗 2 .5 殘差分析 2 .6 回歸系數的區(qū)間估計 2 .7 預測和控制 2 .8 本章小結與評注,2 .1 一元線性回歸模型,例2 .1 表2.1列出了15起火災事故的損失及火災發(fā)生地與最近的消防站的距離。,表2.1 火災損失表,2 .1 一元線性回歸模型,例2.2 全國人均消費金額記作y(元); 人均國民收入記為x(元),表2.2 人均國民收入表,2 .1 一元線性回歸模型,2 .1 一元線性回歸模型,一元線性回歸模型,此時回歸方程為,2 .1 一元線性回歸模型,樣本模型,回歸方程,樣本觀測值(x1，y1),(x2，y2),(xn，yn),經驗回歸方程,2 .2 參數0、1的估計,一、普通最小二乘估計 (Ordinary Least Square Estimation,簡記為OLSE),最小二乘法就是尋找參數0、1的估計值使離差平方和達極小,稱為yi的回歸擬合值,簡稱回歸值或擬合值,稱為yi的殘差,2 .2 參數0、1的估計,2 .2 參數0、1的估計,經整理后,得正規(guī)方程組,2 .2 參數0、1的估計,得OLSE 為,記,2 .2 參數 的估計,續(xù)例2.1,回歸方程,2 .2 參數 的估計,二、最大似然估計,連續(xù)型：是樣本的聯合密度函數： 離散型：是樣本的聯合概率函數。 似然函數并不局限于獨立同分布的樣本。,似然函數,在假設iN(0,2)時,由（2.10）式知yi服從如下正態(tài)分布:,2 .2 參數0、1的估計,二、最大似然估計,y1,y2,yn 的似然函數為：,對數似然 函數為：,與最小二乘原理完全相同,2 .3 最小二乘估計的性質,一、線性,是y1,y2,yn 的線性函數 ：,其中用到,2 .3 最小二乘估計的性質,二、無偏性,2 .3 最小二乘估計的性質,三、 的方差,2 .3 最小二乘估計的性質,三、 的方差,在正態(tài)假設下,GaussMarkov條件,2.4 回歸方程的顯著性檢驗,一、t 檢驗,原假設： H0 ：1=0 對立假設： H1 ：10,由,當原假設H0 ：1=0成立時有：,2.4 回歸方程的顯著性檢驗,一、t 檢驗,構造t 統計量,其中,2.4 回歸方程的顯著性檢驗,二、用統計軟件計算,1例2.1 用Excel軟件計算,什么是P 值? (P-value),P 值即顯著性概率值 Significence Probability Value 是當原假設為真時得到比目前的 樣本更極端的樣本的 概率，所謂極端就是與原假設相背離 它是用此樣本拒絕原假設所犯棄真錯誤的 真實概率，被稱為觀察到的(或實測的)顯著性水平,雙側檢驗的P 值,/ 2,/ 2,t,拒絕,拒絕,H0值,臨界值,計算出的樣本統計量,計算出的樣本統計量,臨界值,1/2 P 值,1/2 P 值,左側檢驗的P 值,H0值,臨界值,a,樣本統計量,拒絕域,抽樣分布,1 - ,置信水平,計算出的樣本統計量,P 值,右側檢驗的P 值,H0值,臨界值,a,拒絕域,抽樣分布,1 - ,置信水平,計算出的樣本統計量,P 值,利用 P 值進行檢驗的決策準則,若p-值 ,不能拒絕 H0 若p-值 , 拒絕 H0 雙側檢驗p-值 =2單側檢驗p-值,2.4 回歸方程的顯著性檢驗,二、用統計軟件計算,2. 例2.1用SPSS軟件計算,2.4 回歸方程的顯著性檢驗,二、用統計軟件計算,2.用SPSS軟件計算,2.4 回歸方程的顯著性檢驗,三、F檢驗,平方和分解式,SST = SSR + SSE,構造F檢驗統計量,2.4 回歸方程的顯著性檢驗,三、F檢驗,一元線性回歸方差分析表,2.4 回歸方程的顯著性檢驗,四、相關系數的顯著性檢驗,2.4 回歸方程的顯著性檢驗,四、相關系數的顯著性檢驗,2.4 回歸方程的顯著性檢驗,四、相關系數的顯著性檢驗,附表1 相關系數=0的臨界值表,2.4 回歸方程的顯著性檢驗,四、相關系數的顯著性檢驗,用SPSS軟件做相關系數的顯著性檢驗,2.4 回歸方程的顯著性檢驗,四、相關系數的顯著性檢驗,兩變量間相關程度的強弱分為以下幾個等級： 當|r|0.8時，視為高度相關； 當0.5|r| 0.8時，視為中度相關； 當0.3|r| 0.5時，視為低度相關； 當|r| 0.3時，表明兩個變量之間的相關程度極弱， 在實際應用中可視為不相關。,2.4 回歸方程的顯著性檢驗,五、三種檢驗的關系,H0: b=0,H0: r=0,H0: 回歸無效,2.4 回歸方程的顯著性檢驗,六、樣本決定系數,可以證明,2.5 殘差分析,一、殘差概念與殘差圖,殘差,誤差項,殘差ei是誤差項ei的估計值。,2.5 殘差分析,一、殘差概念與殘差圖,2.5 殘差分析,一、殘差概念與殘差圖,圖 2.6 火災損失數據殘差圖,2.5 殘差分析,二、殘差的性質,性質1 E (ei)=0,證明:,2.5 殘差分析,二、殘差的性質,性質2,其中,稱為杠桿值,2.5 殘差分析,二、殘差的性質,2.5 殘差分析,二、殘差的性質,性質3. 殘差滿足約束條件:,2.5 殘差分析,三、改進的殘差,標準化殘差,學生化殘差,2.6 回歸系數的區(qū)間估計,等價于,1的1- 置信區(qū)間,2.7 預測和控制,一、單值預測,2.7 預測和控制,二、區(qū)間預測,找一個區(qū)間（T1,T2），使得,需要首先求出其估計值,的分布,1因變量新值的區(qū)間預測,以下計算,的方差,從而得,1. 因變量新值的區(qū)間預測,二、區(qū)間預測,記,于是有,則,二、區(qū)間預測,1. 因變量新值的區(qū)間預測,y0的置信概率為1-的置信區(qū)間為,y0的置信度為95%的置信區(qū)間近似為,二、區(qū)間預測,1. 因變量新值的區(qū)間預測,得E(y0)的1-的置信區(qū)間為,E(y0)=0+1x0是常數,二、區(qū)間預測,1. 因變量新值的區(qū)間預測,對例2.1的火災損失數據，假設保險公司希望預測一個距最近的消防隊x0=3.5公里的居民住宅失火的損失,點估計值,95%區(qū)間估計 單個新值： （22.32，32.67） 平均值E(y0)：（26.19，28.80）,的95%的近似置信區(qū)間為,=（27.50-22.316，27.50+22.316） =（22.87，32.13）,二、區(qū)間預測,計算,給定y的預期范圍(T1, T2),如何控制自變量x的值 才能以1-的概率保證,用近似的預測區(qū)間來確定x。如果=0.05,則要求,把,帶入,二、控制問題,2.8 本章小結與評注,一、一元線性回歸模型從建模到應用的全過程 例2.2