第十章-相關(guān)與回歸分析ppt課件

1、第十章 相關(guān)與回歸分析,一、基本內(nèi)容 第一節(jié) 相關(guān)與回歸分析的基本問題 相關(guān)的概念與種類、回歸的概念與種類、相關(guān)分析與回歸分析的區(qū)別和聯(lián)系、相關(guān)分析與回歸分析的作用、相關(guān)分析與回歸分析的步驟 第二節(jié) 相關(guān)關(guān)系與一元線性回歸分析 相關(guān)系數(shù)測定，建立一元線性回歸方程，回歸估計標準差,二、學(xué)習(xí)目的與要求 通過對本章的學(xué)習(xí)，使同學(xué)們明確相關(guān)與回歸的概念、種類，相關(guān)與回歸分析的作用，掌握直線相關(guān)與簡單直線回歸分析的原理和計算方法。 三、學(xué)習(xí)重點與難點 本章學(xué)習(xí)的重點是直線相關(guān)與簡單直線回歸分析的計算，難點是相關(guān)與回歸在計算上的聯(lián)系。 四、授課學(xué)時：4-6個學(xué)時,客觀現(xiàn)象總是普遍聯(lián)系和相互依存的?？陀^現(xiàn)象

2、之間的數(shù)量聯(lián)系存在著兩種不同的類型：函數(shù)關(guān)系；相關(guān)關(guān)系。 現(xiàn)象的函數(shù)關(guān)系可以用數(shù)學(xué)分析的方法去研究，而研究客觀現(xiàn)象的相關(guān)關(guān)系需用統(tǒng)計學(xué)中的相關(guān)與回歸分析方法,第一節(jié) 相關(guān)與回歸分析 的基本問題,一、相關(guān)的概念與種類 二、回歸的概念與種類 三、相關(guān)分析與回歸分析的區(qū)別與聯(lián)系 四、相關(guān)分析與回歸分析的作用 五、相關(guān)分析與回歸分析的步驟,一、相關(guān)的概念與種類,一）函數(shù)關(guān)系 函數(shù)關(guān)系是指現(xiàn)象之間存在嚴格的依存關(guān)系。 （二）相關(guān)關(guān)系 相關(guān)關(guān)系是指現(xiàn)象之間存在這非嚴格、不確定的依存關(guān)系,變量間的關(guān)系（函數(shù)關(guān)系,是一一對應(yīng)的確定關(guān)系 設(shè)有兩個變量 x 和 y ，變量 y 隨變量 x 一起變化，并完全依賴于

3、x ，當變量 x 取某個數(shù)值時， y 依確定的關(guān)系取相應(yīng)的值，則稱 y 是 x 的函數(shù)，記為 y = f (x)，其中 x 稱為自變量，y 稱為因變量 各觀測點落在一條線上,變量間的關(guān)系（函數(shù)關(guān)系,函數(shù)關(guān)系的例子 某種商品的銷售額(y)與銷售量(x)之間的關(guān)系可表示為 y = p x (p 為單價) 圓的面積(S)與半徑之間的關(guān)系可表示為S = R2 企業(yè)的原材料消耗額(y)與產(chǎn)量(x1) 、單位產(chǎn)量消耗(x2) 、原材料價格(x3)之間的關(guān)系可表示為y = x1 x2 x3,變量間的關(guān)系（相關(guān)關(guān)系,變量間關(guān)系不能用函數(shù)關(guān)系精確表達 一個變量的取值不能由另一個變量唯一確定 當變量 x 取某個值

4、時，變量 y 的取值可能有幾個 各觀測點分布在直線周圍,變量間的關(guān)系（相關(guān)關(guān)系,相關(guān)關(guān)系的例子 商品的消費量(y)與居民收入(x)之間的關(guān)系 商品銷售額(y)與廣告費支出(x)之間的關(guān)系 糧食畝產(chǎn)量(y)與施肥量(x1) 、降雨量(x2) 、溫度(x3)之間的關(guān)系 收入水平(y)與受教育程度(x)之間的關(guān)系 父親身高(y)與子女身高(x)之間的關(guān)系,三）相關(guān)關(guān)系種類 1 按變量的多少，分單相關(guān)和復(fù)相關(guān) 2 按相關(guān)形式不同，分線性相關(guān)和非線性相關(guān)(曲線相關(guān)) 3 按相關(guān)方向不同，分正相關(guān)和負相關(guān) 4 按相關(guān)程度的高低，分完全相關(guān)、不完全相關(guān)和不相關(guān),相關(guān)關(guān)系的圖示,在 途 人 數(shù),航程,產(chǎn) 量,

5、零 件 報 廢 率,資 金 占 用 量,施肥量,運轉(zhuǎn)時間,商品周轉(zhuǎn)速度,正直線相關(guān),負直線相關(guān),指數(shù)曲線相關(guān),拋物線相關(guān),幾種不同的相關(guān)關(guān)系類型,二、回歸的概念與種類,一）回歸 英國生物學(xué)家兼統(tǒng)計學(xué)家高爾頓提出 統(tǒng)計學(xué)上的回歸分析是指根據(jù)大量統(tǒng)計數(shù)據(jù)，找出變量之間在數(shù)量變化方面的規(guī)律,二）回歸分析的種類,三、相關(guān)分析與回歸分析的區(qū)別與聯(lián)系,1 聯(lián)系：均為研究兩個或兩個以上變量之間關(guān)系的方法。 相關(guān)分析是回歸分析的前提，回歸分析是相關(guān)分析的繼續(xù)。無相關(guān)就無回歸，相關(guān)程度越高，回歸越好； 相關(guān)系數(shù)和回歸系數(shù)方向一致,2 區(qū)別： 相關(guān)分析中x與y對等，回歸分析中x與y要確定自變量和因變量； 相關(guān)分析

6、中x、y均為隨機變量，回歸分析中只有y為隨機變量，x為一般變量； 相關(guān)分析用于測定現(xiàn)象相關(guān)程度和方向，回歸分析用回歸模型進行預(yù)測和控制,四、相關(guān)分析與回歸分析的作用,1 研究經(jīng)濟現(xiàn)象之間的相關(guān)形式、相關(guān)方向和密切程度，認識其數(shù)量變化的規(guī)律性。 2 對經(jīng)濟現(xiàn)象進行推算和預(yù)測，為科學(xué)地制定經(jīng)濟政策和管理決策提供科學(xué)依據(jù),五、相關(guān)分析與回歸分析的步驟,1 相關(guān)關(guān)系的定性分析 2 確定回歸方程 3 計算相關(guān)系數(shù)，對回歸方程變量之間的相關(guān)性進行顯著性檢驗； 4 利用回歸方程進行推算和預(yù)測； 5 對推算和預(yù)測作出置信區(qū)間估計,第二節(jié) 相關(guān)關(guān)系與一元線性回歸分析,判斷現(xiàn)象之間有無相關(guān)關(guān)系時，先據(jù)實際情況看是

7、否有相關(guān)關(guān)系，若有，在定性分析的基礎(chǔ)上編制相關(guān)表，繪制相關(guān)圖，最后計算相關(guān)系數(shù),一、相關(guān)表和相關(guān)圖,相關(guān)表是一種統(tǒng)計表，它是直接根據(jù)現(xiàn)象之間的原始資料，將一變量的變量值按從小到大（或從大到?。┑捻樞蜻M行排列，并將另一變量的值與之對應(yīng)排列形成的表格。 相關(guān)圖又稱散點圖，它是用直角坐標系的x軸代表自變量 ，y軸代表因變量，將兩個變量間相對應(yīng)的變量值用坐標點的形式描繪出來，用以表明相關(guān)點分布狀況的圖形,10個大型工業(yè)企業(yè)銷售額（單位：億元,10個大型工業(yè)企業(yè)銷售額與利潤額散點圖（億元,二、回歸分析概述,指在相關(guān)分析的基礎(chǔ)上，根據(jù)相關(guān)關(guān)系的數(shù)量表達式（回歸方程式）與給定的自變量x，揭示因變量y在數(shù)量上

8、的平均變化，并求得因變量的預(yù)測值的統(tǒng)計分析方法,二、一元線性回歸方程的確定,對于經(jīng)判斷具有線性關(guān)系的兩個變量y與x，構(gòu)造一元線性回歸模型為,E()=0，總體一元線性回歸方程,一元線性回歸方程的幾何意義,我們用樣本觀察值計算a、b,并用其對總體線性回歸方程中的參數(shù)、做出估計，即求樣本回歸方程，用其對總體線性回歸方程進行估計。樣本回歸直線方程又稱一元線性回歸方程，其表達式為：=a+bx,總體一元線性 回歸方程,樣本一元線性回歸方程,以樣本統(tǒng)計量估計總體參數(shù),截距a 表示在沒有自變量x的影響時，其它各種因素對因變量y的影響；回歸系數(shù)b 表明自變量x每變動一個單位，因變量y變動b個單位,一元線性回歸方

9、程 中參數(shù)a、b的確定,最小平方法,整理得到由兩個關(guān)于a、b的二元一次方程組成的方程組,進一步整理，有,回歸直線,10個大型工業(yè)企業(yè)銷售額與利潤額散點圖（億元,10個大型工業(yè)企業(yè)銷售額回歸分析計算表（單位：億元,例題見課本P248-249,回歸系數(shù)b與相關(guān)系數(shù)r的關(guān)系,三、 相關(guān)系數(shù),相關(guān)系數(shù)是用以反映變量之間相關(guān)關(guān)系密切程度的統(tǒng)計指標。將反映兩變量間線性相關(guān)關(guān)系的統(tǒng)計指標稱為線性相關(guān)系數(shù)（簡稱相關(guān)系數(shù)）；將反映兩變量間曲線相關(guān)關(guān)系的統(tǒng)計指標稱為非線性相關(guān)系數(shù)；將反映多元線性相關(guān)關(guān)系的統(tǒng)計指標稱為復(fù)相關(guān)系數(shù)。 我們只介紹線性相關(guān)系數(shù),簡化 公式,XY協(xié)方差,X 均 方 差,Y 均 方 差,相關(guān)

10、系數(shù)的計算,相關(guān)系數(shù)取值及其意義,r 的取值范圍是 -1,1 |r|=1 為完全相關(guān) r =1，為完全正相關(guān) r =-1 為完全負正相關(guān) r = 0 不存在線性相關(guān)關(guān)系 -1 r 0 為負相關(guān) 0 r 1 為正相關(guān) |r|越趨于1表示關(guān)系越密切；|r|越趨于0表示關(guān)系越不密切,相關(guān)關(guān)系的測度（相關(guān)系數(shù)取值及其意義,r,低度線性相關(guān),中度線性相關(guān),高度線性相關(guān),10個大型工業(yè)企業(yè)銷售額相關(guān)系數(shù)計算表（單位：億元,相關(guān)關(guān)系的測度（相關(guān)系數(shù)計算例,例】在研究我國人均消費水平的問題中，把全國人均消費額記為y，把人均國民收入記為x。我們收集到19811993年的樣本數(shù)據(jù)(xi ，yi)，i =1,2,，

11、13，數(shù)據(jù)見表8-1，計算相關(guān)系數(shù),相關(guān)關(guān)系的測度（計算結(jié)果,解：根據(jù)樣本相關(guān)系數(shù)的計算公式有 人均國民收入與人均消費金額之間的相關(guān)系數(shù)為 0.9987,相關(guān)系數(shù)的顯著性檢驗,檢驗的步驟 第一步，計算相關(guān)系數(shù) 第二步，根據(jù)回歸方程的自由度（n-2）和給定的顯著性水平值，從相關(guān)系數(shù)臨界值查出臨界值r(n-2) 第三步，判別。如果|r| r(n-2)，表明兩變量之間線性相關(guān)關(guān)系顯著，檢驗通過；如果|r| r(n-2)，表明兩變量之間線性相關(guān)關(guān)系不顯著，檢驗不通過,四、估計標準誤差,估計標準誤差是因變量各實際值與其估計值之間的平均差異程度，表明其估計值對各實際值代表性的強弱；其值越小，回歸方程的代表

12、性越強，用回歸方程估計或預(yù)測的結(jié)果越準確?？蓮囊环矫娣从郴貧w模型擬合的優(yōu)劣狀況,在大樣本條件下，可用公式計算,五、擬合程度的評價 總離差平方和的分解 對任一實際觀測值t總有： 對上式兩邊取平方并求和，得到： 可以證明： 從而有： 即,上式中，是總離差平方和；是由回歸直線可以解釋的那一部分離差平方和，稱為回歸平方和；是用回歸直線無法解釋的離差平方和，稱為殘差平方和。式子兩邊同除以，得： 顯而易見，各個樣本觀測點與樣本回歸直線靠得越緊，SSR在SST中所占的比例就越大。因此，可定義這一比例為決定系數(shù)，即有： 決定系數(shù)是對回歸模型擬合程度的綜合度量，決定系數(shù)越大，模型擬合程度越高。決定系數(shù)越小，則模

13、型對樣本的擬合程度越差,決定系數(shù)r2具有如下特性： 1決定系數(shù)r2具有非負性。 由決定系數(shù)的定義式可知， r2的分子分母均是不可能為負值的平方和，因此其比值必大于零。（但是在回歸模型中不包括截距項的場合， 由于總離差平方和的分解公式不成立，按該式計算的r2有可能小于。 ） 2決定系數(shù)的取值范圍為 r2 。 3決定系數(shù)是樣本觀測值的函數(shù)，它也是一個統(tǒng)計量。 4在一元線性回歸模型中，決定系數(shù)是單相關(guān)系數(shù)的平方,離差平方和的分解,每個因變量y的實際值與其平均數(shù)之間存在的離差（y- ）的平方和稱為總離差平方和，簡稱總變差,總變差,回歸變差,估計值 與平均數(shù) 離差的平方和，稱為回歸變差（可解釋變差,剩余

14、變差,每個觀察值y與估計值 的離差平方和，稱為剩余變差（未解釋變差,剩余平方和,回歸 平方和,總離差平方和,SST=SSR+SSE,總離差平方和,回歸平方和,剩余（誤差）平方和,判定系數(shù),是指因變量的總變差中可以被自變量解釋部分的比例，即可解釋因素的影響程度。用來說明因變量的變化有多少可通過自變量得到解釋。是衡量擬合模型優(yōu)劣的重要分析指標,r2值越大，說明回歸模型擬合得愈優(yōu),判定系數(shù)與相關(guān)系數(shù)的關(guān)系,二者均可測定兩變量的線性相關(guān)密切程度,判定系數(shù)與相關(guān)系數(shù)的區(qū)別,判定系數(shù)無方向性（不能反映負相關(guān)），相關(guān)系數(shù)則有方向，其方向與樣本回歸系數(shù) b 相同（可反映正相關(guān)，也可反映負相關(guān)）； 判定系數(shù)說明

15、變量值的總離差平方和中可以用回歸線來解釋的比例，相關(guān)系數(shù)只說明兩變量間關(guān)聯(lián)程度及方向,估計標準差越小，則變量間相關(guān)程度越高，回歸線對Y的解釋程度越高,判定系數(shù)與估計標準誤差的關(guān)系,五、線性回歸的顯著性檢驗及回歸預(yù)測,在回歸分析中，要檢驗因變量Y與自變量X間到底有無真正的線性關(guān)系，可以通過回歸系數(shù)的顯著性檢驗（t檢驗）或回歸方程的顯著性檢驗（F檢驗）來判斷,回歸系數(shù)的顯著性檢驗,回歸系數(shù)的顯著性檢驗（t檢驗法,目的,回歸系數(shù)是根據(jù)樣本資料計算出來的，會出現(xiàn)抽樣誤差，故要對其可靠性做顯著性檢驗，檢驗總體兩變量間線性相關(guān)性是否顯著,步 驟,構(gòu)造檢驗統(tǒng)計量,回歸系數(shù)的顯著性檢驗（t檢驗法,根據(jù)給定的顯著性水平，確定臨界值,計算檢驗統(tǒng)計量并做出決策,步 驟,回歸方程的顯著性檢驗,回歸方程的顯著性檢驗（F檢驗法,構(gòu)造檢驗統(tǒng)計量,回歸方程的顯著性檢驗（F檢驗法,計算檢驗統(tǒng)計量并做出決策,3.根據(jù)給定的顯著性水平，確定臨界值 F(1,n-2,確定原假設(shè)的拒絕規(guī)則,當F F(1,n-2)接受H0,表示總體兩變量線性相關(guān)性