變量之間的關系可以分為兩類函數(shù)關系和相關關系

1、第24講 一元線性回歸分析教學目的：1. 使學生理解隨機變量與普通變量間的相關關系； 2. 使學生理解與間的一元線性回歸模型； 3. 使學生掌握未知參數(shù)和的最小二乘估計方法； 4. 使學生掌握線性假設的顯著性檢驗方法。教學重點：使學生理解與間的一元線性回歸模型，掌握未知參數(shù)和的最小二乘估計方法。教學難點：使學生理解與間的一元線性回歸模型。教學時數(shù)：3學時。教學過程：第九章 回歸分析§9.1回歸分析的基本概念客觀世界中普遍存在著變量間的關系，而變量間的關系一般可分為兩類：確定性關系和非確定性關系。確定性關系：可以用函數(shù)來表示的變量間關系。非確定性關系：不能用函數(shù)來表示的變量間關系，也稱

2、為相關關系或統(tǒng)計關系。 如身高與體重之間的關系。一般來說，人高一些，體重要重一些，但同樣身高的人，體重往往不相同。又如人的血壓與年齡之間的關系，樹高與生長時間之間的關系，商品的銷售量與單價之間的關系等都是相關關系。 所謂回歸分析是指通過試驗和觀測去尋找隱藏在變量間相關關系的一種數(shù)學方法，是研究變量間相關關系的一種有力的數(shù)學工具。設隨機變量（因變量）與普通變量（自變量）之間存在著某種相關關系，由于是隨機變量，對于的各個取值，有它的分布，我們不妨用表示取確定值時，對應的的分布函數(shù)。可以想象如果我們掌握了隨著取值的變化而變化的規(guī)律，那么就能完全掌握與之間的關系了，然而這樣做往往非常復雜，甚至是不可能

3、的。作為一種近似，我們轉(zhuǎn)而去考察取確定值時的數(shù)學期望，若此時的數(shù)學期望存在，則其值隨的取值而定，它是的函數(shù)。將這一函數(shù)記為，稱為關于的回歸函數(shù)。這樣，我們就將討論與的相關關系的問題轉(zhuǎn)化為討論與的函數(shù)關系問題了。我們先看一個例子。例1 為研究某一化學反應過程中，溫度對產(chǎn)品得率的影響，測得數(shù)據(jù)如下：溫度100110120130140150160170180190得率45515461667074788589這里自變量是普通變量，是隨機變量。畫出散點圖如下：由散點圖大致可以看出與的相關關系可用線性函數(shù)近似地描述，其中為取確定值時的數(shù)學期望。§9.2 一元線性回歸分析1一元線性回歸模型設隨機變

4、量與普通變量間存在相關關系，且假設對于的每一個取值有其中、及都是不依賴于的未知參數(shù)。記，則對做這樣的正態(tài)假設，相當于假設 （1）其中未知參數(shù)及都是不依賴于。（1）式稱為一元線性回歸模型，其中稱為回歸系數(shù)。（1）式表明，因變量由兩部分組成，一部分是的線性函數(shù)，另一部分是隨機誤差，是人不可控制的。下面的任務是對、的估計。2參數(shù)、的最小二乘估計取的個不全相同的取值，作次獨立試驗，得到樣本 （2）和樣本觀測值 （3）把樣本觀測值（3）代入（1）得而使達到最小為原則對未知參數(shù)和的估計稱為未知參數(shù)和的最小二乘估計，估計值記為和。這時稱為關于的經(jīng)驗回歸方程，簡稱回歸方程。其圖象稱為回歸直線。下面求未知參數(shù)和

5、的最小二乘估計。求的極值點有得方程組解方程組得唯一解 （4）其中，和為未知參數(shù)和的最小二乘估計值，而 （5）中的和為未知參數(shù)和的最小二乘估計量，。 回歸方程也可寫成，這表明，關于樣本值的回歸直線通過散點圖的幾何中心。為了計算上的方便，我們引入記號這樣，和的估計值可寫成例2 求例1中變量關于的線性回歸方程。解 ，經(jīng)計算得故得于是得到回歸直線方程或?qū)懗?的估計由于記，稱為處的殘差。平方和稱為殘差平方和。為了計算，將做如下分解再由得的另一個分解式相應的統(tǒng)計量為可以證明 （6）于是即這樣就得到了的無偏估計量 （7）例3 求例2中的無偏估計。解 由例2中的計算結(jié)果得又已知，故，4線性假設的顯著性檢驗在以

6、上的討論中，我們假定關于的回歸函數(shù)具有形式，在處理實際問題時，是否為的線性函數(shù)，首先要根據(jù)有關專業(yè)知識和實踐來判斷，其次就要根據(jù)實際觀察得到的數(shù)據(jù)運用假設檢驗的方法來判斷。這就是說，求得的線性回歸方程是否具有實用價值，一般來說，需要經(jīng)過假設檢驗才能確定。若線性假設（1）符合實際，則不應為零，因為若，則就不依賴于了。因此，我們需要檢驗假設。用檢驗法來進行檢驗，可以證明：又由（6）式和（7）式知，且與相互獨立，故有即 其中。 當為真時，此時且，即得的拒絕域為 （8）此處為顯著性水平。當假設被拒絕時，認為回歸效果是顯著的，反之，就認為回歸效果不顯著?；貧w效果不顯著的原因可能有如下幾種：（1）影響的取值，除了及隨機誤差外還有其它不可忽略的因素；（2）不