課件-群編7.1-7.4章回歸分析初步

1第七章回歸分析初步§7.1引言§7.2一元線性回歸模型§7.3回歸方程的顯著性檢驗§7.4一元線性回歸的預測統(tǒng)計關系的例子1：商品的消費量(y)與居民收入(x)之間的關系2：收入水平(y)與受教育程度(x)之間的關系3：學生的學習成績(y)與學生缺課的次數(shù)(x)關系4：子女身高(y)與父親身高(x)之間的關系5：商品銷售額(y)與廣告費支出(x)之間的關系§7.1引言2統(tǒng)計關系變量間具有密切的關系，但它們的密切程度并沒有到由一個完全確定另一個。例：汽車的消費量y與收入x。除了收入外，還有其它的因素影響汽車的消費量：如汽車的價格、汽油的價格、消費習慣、職業(yè)、離工作單位的距離、停車位、健康狀況、年齡等。變量間具有密切的關系，但不能由某一個或某一些變量唯一確定另一個變量的關系，稱為變量間的統(tǒng)計關系?；貧w函數(shù)回歸分析是處理變量x與y之間統(tǒng)計關系的一種統(tǒng)計技術和方法。當x的值給定時，y的值不能確定，因此要通過一定的概率分布來描述。回歸函數(shù)：給定x的值時，y的條件數(shù)學期望

f(x)=E(y|x)為隨機變量y對x的回歸函數(shù)。因此回歸函數(shù)是從平均意義上刻畫x與y統(tǒng)計關系?！?.2一元線性回歸模型兩個變量y,x具有明顯的線性關系，故考慮直線方程y=0+1x（函數(shù)表達的是確定性關系）y=0+1x+u,u表示除x外，影響y其它一切因素。將y與x之間的關系用兩部分來描述：a.一部分0+1x

，由x的變化引起y變化；b.另一部分u

，除x外的其它一切因素引起y變化。

參數(shù)(parameters)0,1;0稱為回歸常數(shù)(截距)（intercept,constant），1稱為回歸斜率(slope)回歸的術語y的名稱：因變量(dependentvariable)或被解釋變量(explainedvariable)；X的名稱：自變量(independentvariable)或解釋變量(explanatoryvariable)U的名稱：

隨機誤差項或隨機擾動項(stochasticerrorterm,randomdisturbanceterm):表示其它因素的影響，是不可觀測的隨機誤差！參數(shù)0，1的估計方法：普通最小二乘估計OLSE

(ordinaryleastsquareestimation)目的：

利用樣本數(shù)據(jù)得到0，1的理想估計值原則：

使n個樣本點最靠近回歸直線最小二乘法名稱的由來擬合值、殘差殘差實際上是y的觀測值與回歸值的差或者說是y的實際值與回歸值的差最小二乘估計公式的推導利用二元微積分求極值的知識知：

作為

極值問題解的必要條件是：在

取值時，Q(0，1)關于0，1的偏導數(shù)必須為0：續(xù)問題例題例表列出了15起火災事故的損失及火災發(fā)生地與最近的消防站的距離。參數(shù)β0、β1的估計例§7.3回歸方程的顯著性檢驗回歸系數(shù)的t檢驗回歸系數(shù)的顯著性檢驗就是檢驗自變量x對因變量y影響程度是否顯著。原假設H0:1=0對立假設H1:1≠0如果原假設成立，y和x之間并不存在真正的線性關系；拒絕原假設，y和x之間存在線性關系。

構造t統(tǒng)計量的理由：回歸的標準誤

稱為回歸的標準誤（thestandarderroroftheregression)例題例：y關于x的一元線性回歸的計算結果如下：請估計參數(shù)和它們的標準誤。解答標準誤的計算SST=SSE+SSR總平方和（totalsumofsquares）表示觀測值yi圍繞其均值的總變異解釋平方和（explainedsumofsquares）表示估計值圍繞其均值的變異殘差平方和（residualsumofsquares）

表示殘差圍繞回歸線的變異SST=SSE+SSR，其中SSE是由解釋變量x引起的，SSR是由殘差（其它因素）引起的。證明：SST=SSE+SSR判定系數(shù)R2SST=SSE+SSR，在總平方和SST中，如果解釋平方和SSE所占的比重越大，則線性回歸效果越好，稱回歸直線和樣本觀測值擬合優(yōu)度（goodnessoffit）較好;如果殘差平方和SSR所占的比重越大，則回歸直線和樣本觀測值擬合得不理想。判定系數(shù)R2=SSE/SST（或1－SSR/SST）R2

的性質(zhì):(1)非負,(2)0≤R2≤1自由度(df)自由度（numberofdegreeoffreedom）是指樣本觀測值的總數(shù)（n）減去對它們的獨立（線性）約束或限制的個數(shù)。換句話，它是指觀測值的總個數(shù)中獨立的觀測值個數(shù)。F統(tǒng)計量樣本決定系數(shù)R2

能夠說明樣本的擬和優(yōu)度。但是我們還需要對總體做出推斷，檢驗總體的線性是否成立。思路：若SSE/SSR比較大，則X對Y的解釋程度就比較高，可以推測總體存在線性。但是SSE/SSR樣本不同而不同，對于給定的樣本，利用SSE/SSR對總體進行推斷，必須進行統(tǒng)計檢驗。方差分析表ssdfMeanSquareFRegressionSSE1SSE/1[SSE/1]/[SSR/(n-2)]ResidualSSRn-2SSR/(n-2)TotalSSTn-1對F統(tǒng)計量的注解1：SSE服從卡方分布，SSR也服從卡方分布！2：可以證明SSE和SSR獨立！3：考慮分子、分母的自由度！因此，服從F分布！ttest和Ftest的關系§7.4一元線性回歸的預測根據(jù)經(jīng)濟理論建立線性回歸模型，并利用統(tǒng)計資料對模型參數(shù)進行了估計，建立了回歸方程。經(jīng)