第7章相關與回歸分析

第7章相關與回歸分析弗朗西斯﹒高爾頓先生被譽為現(xiàn)代相關和回歸的創(chuàng)始人1875年，他利用豌豆試驗來確定尺寸的遺傳規(guī)律。他挑選7組不同尺寸的豌豆，說服他的朋友每一組種植10粒種子，最后把原始的豌豆種子與新長的豌豆種子進行尺寸比較當結果被繪制出來之后，他發(fā)現(xiàn)并非每一個子代都與父代一樣，相同的是，尺寸小的豌豆會得到更大的子代，而尺寸大的豌豆卻得到較小的子代高爾頓將此方法用到人類身上，他將父母和孩子的身高轉換成z值，對比父母的身高與他們孩子的身高。他并發(fā)現(xiàn)孩子們的z值偏離均值的程度小于父母的偏離程度，即非常矮小的父母傾向于有偏高的孩子；而非常高大的父母則傾向于有偏矮的孩子。它把這叫做對均值的“回歸”，這一發(fā)現(xiàn)構成了回歸分析的基礎7.1相關分析變量間的關系及分類統(tǒng)計變量之間的關系，存在著兩種不同的類型，一種是函數(shù)關系，另一種是相關關系函數(shù)關系是指變量之間存在著的一種固定的、嚴格的數(shù)量依存關系，即一個變量數(shù)值的變動，都會有另一個變量的數(shù)值與之完全對應相關關系是指變量之間存在著的一種非確定性的數(shù)量依存關系，即一個變量發(fā)生數(shù)值變化時，另一變量也相應地發(fā)生數(shù)值變化，但其數(shù)值是不固定的太陽和地球的運動就是函數(shù)你和你父親之間就是相關不可能是函數(shù)，如是函數(shù)，他動一下胳膊，你就要動一下腿相關分析是研究兩個或兩個以上的變量之間相關程度及大小的一種統(tǒng)計方法其主要內容包括：1.確定現(xiàn)象之間是否存在相關關系，以及相關關系呈現(xiàn)的形態(tài)2.確定相關關系的密切程度3.相關系數(shù)的檢驗回歸分析是尋找存在相關關系的變量間的數(shù)學表達式，并進行統(tǒng)計推斷的一種統(tǒng)計方法主要內容包括：１.進行參數(shù)估計。即如何根據(jù)樣本數(shù)據(jù)對回歸模型的參數(shù)進行估計，求出具體的回歸方程２.進行顯著性檢驗。即對回歸方程、參數(shù)估計值進行顯著性檢驗與校正，以便使回歸方程或參數(shù)更加優(yōu)良３.進行預測和控制四、相關與回歸相關僅判定變量之間是否存在關系（存在性）這關系的大小、正確與否都是回歸分析的內容（關系的具體表現(xiàn)）相關關系的種類１.按相關關系涉及變量（因素）的多少單相關與復相關２.按相關關系的表現(xiàn)形式線性相關和非線性相關３.按相關的方向正相關和負相關4.按相關程度來分完全相關、不完全相關和不相關（完全不相關）對立、反義詞相關關系的度量在進行相關分析時，可通過相關表P205散點圖計算相關系數(shù)散點圖，是利用坐標系，將兩變量相對應的變量值用坐標點形式描繪出來的二維數(shù)據(jù)圖相關系數(shù)相關表與散點圖只能粗略的反映變量間相關關系的方向、形式和密切程度，要確切地反映相關關系的密切程度，還需計算相關系數(shù)相關系數(shù)有很多種形式，常用由卡爾.皮爾遜提出的相關系數(shù)相關系數(shù)的計算相關系數(shù)用來度量的兩個變量，設為x與y根據(jù)總體數(shù)據(jù)計算的兩個變量之間線性相關強度的統(tǒng)計量，叫做總體相關系數(shù)，用ρ表示根據(jù)樣本計算的兩個變量之間線性相關強度的統(tǒng)計量，叫做樣本相關系數(shù)，簡稱相關系數(shù)，用r表示相關系數(shù)r的測定方法有兩種，第一種稱積差法，第二種稱簡捷法r是ρ的一個估計量，得到ρ是不可能的，需要用r來估計ρ。另外，估計得到的值需要進行檢驗---略例題（表7.1）2012年各地區(qū)農村居民家庭人均純收入與人均消費支出地區(qū)人均純收入x人均消費支出y甘肅4506.74146.2貴州47533961.7青海53645338.9云南5416.54561.3………北京16475.711878.9上海17803.711971.5性質與特點相關系數(shù)介于－1到＋1之間r=0，說明xy沒有線性相關關系r>0，正相關；r<0，負相關r絕對值=1，函數(shù)（完全相關）；r=1，完全正相關；r=-1，完全負相關r具有對稱性，x與y的相關系數(shù)和y與x的相關系數(shù)相等r只能測量線性r只說明線性程度，不能說明具體變化關系—-回歸r的數(shù)值大小與x和y的原點及尺度無關課堂練習根據(jù)抽樣知，某企業(yè)銷售額與流通費用的相關情況，如表，根據(jù)積差法與簡捷法分別計算相關系數(shù)r。年份（年）銷售額（萬元）流通費用（萬元）19981999200020012002200320042005200610163240741201972463451.83.15.27.710.413.318.821.228.3回歸分析回歸分析的分類回歸分析分類，主要有兩種第一，根據(jù)變量的數(shù)目，可以分類一元回歸、多元回歸第二，根據(jù)自變量與因變量的表現(xiàn)形式，分為線性與非線性回歸分析包括四個方向：一元線性回歸分析、多元線性回歸分析、一元非線性回歸分析、多元非線性回歸分析一元非線性回歸分析、多元非線性回歸分析合并為曲線回歸分析---略一元線性回歸分析一元線性回歸模型

（回歸函數(shù)）回歸模型的一般形式對于具有線性關系的兩個變量，可以用一個方程來表示它們之間的線性關系描述因變量y如何依賴于自變量x和誤差項ε的方程稱為回歸模型。對于只涉及一個自變量的一元線性回歸模型可表示為回歸方程描述因變量y的期望值如何依賴于自變量x的方程稱為回歸方程。根據(jù)對一元線性回歸模型的假設，可以得到它的回歸方程為估計的回歸方程（樣本函數(shù)）如果回歸方程中的參數(shù)已知，對于一個給定的x值，利用回歸方程就能計算出y的期望值用樣本統(tǒng)計量代替回歸方程中的未知參數(shù)，就得到估計的回歸方程，簡稱回歸直線、樣本函數(shù)參數(shù)估計與預測參數(shù)的最小二乘法估計對于回歸直線，關鍵在于求解參數(shù)常用高斯提出的最小二乘法，也叫做最小平方法，它是使因變量的觀察值y與估計值之間的離差平方和達到最小來求解給出給地區(qū)財政稅收收入與地區(qū)生產(chǎn)總值的關系，求回歸直線地區(qū)財政稅收收入y生產(chǎn)總值x北京3124.7517879.4天津1105.5612893.88河北1560.5926575.01山西1045.2212112.83………寧夏207.022341.29新疆698.937505.31課堂練習根據(jù)統(tǒng)計，70年代世界制造業(yè)總產(chǎn)量與世界制成品總出口量的變化關系如表。求回歸直線年度總產(chǎn)量年增長率(％)x總出口量年增長率(％)y19704.08.519714.08.019728.510.519739.515.519743.08.51975-1.0-4.519768.013.519775.05.019785.06.019794.07.0擬合優(yōu)度擬合優(yōu)度，主要是用來說明回歸直線是不是更好的擬合所有的散點判定系數(shù)因變量y的取值是不同的，y取值的這種波動稱為變差。因變量y取值的變差來源于兩個方面：一是由于自變量x的取值不同造成的，二是除x以外的其他因素的影響總平方和可以分解為回歸平方和、殘差平方和兩部分回歸平方和SSR反映了y的總變差中，由于x與y之間的線性關系引起的y的變化部分殘差平方和SSE反映了除了x對y的線性影響之外的其他因素對y變差的作用，是不能由回歸直線來解釋的y的變差部分可以看出，回歸直線擬合的好壞取決于SSR及SSE的根據(jù)WTO的統(tǒng)計數(shù)字，70年代世界制造業(yè)總產(chǎn)量與世界制成品總出口量的變化關系如表，求判定系數(shù)年度總產(chǎn)量年增長率(％)x總出口量年增長率(％)y19704.08.519714.08.019728.510.519739.515.519743.08.51975-1.0-4.519768.013.519775.05.019785.06.019794.07.0的計算太復雜，在一元線性回歸中，判定系數(shù)在數(shù)值上等于相關系數(shù)的平方7.3顯著性檢驗與回歸預測回歸直線求出后，還不可以直接進行預測等應用根據(jù)樣本做出的方程并不一定真，需要檢驗檢驗：回歸方程的檢驗、回歸系數(shù)的檢驗可否使用線性去描述F每一個回歸參數(shù)計算值是否為真t一元線性回歸，兩檢驗重合例題Excel2003版：工具-加載宏-加載…工具-數(shù)據(jù)分析-回歸2007版：菜單旁右鍵-自定義快速訪問工具欄-加載項-分析工具庫…數(shù)據(jù)-數(shù)據(jù)分析見Excel利用回歸直線進行估計和預測（1）點估計利用估計的回歸方程，對于x的某一個特定的值，求出y的一個估計值就是點估計點估計分兩種：一個是平均值的點估計，一個是個別值的點估計點估計的條件下，對于同一個特定的，平均值的點估計和個別值的點估計的結果是一樣的（2）區(qū)間估計利用估計的回歸方程，對于x的一個特定值，求出y的一個估計值的區(qū)間就是區(qū)間估計某企業(yè)從有關資料中發(fā)現(xiàn)廣告投入和產(chǎn)品銷售有較密切的關系。近年該企業(yè)廣告費和銷售額資料見表10-3，若2003年廣告費為120萬元，請用一元線性回歸求2003年產(chǎn)品銷售額的預測區(qū)間（α＝0.05）年份廣告費x（萬元）銷售額y（百萬元）199419951996199719981999200020012002355260728580951001051825303841444952607.4多元線性回歸分析一、模型概述與假設1.模型概述經(jīng)濟活動中，經(jīng)常會遇到某一現(xiàn)象的發(fā)展和變化取決于幾個影響因素的情況，也就是一個因變量和幾個自變量有依存關系的情況，這時需用多元線性回歸分析多元線性回歸分析預測法，是指通過對兩上或兩個以上的自變量與一個因變量的相關分析，建立預測模型進行預測和控制的方法多元線性回歸預測模型一般式為二、參數(shù)估計與預測1.回歸方程描述因變量y的期望值如何依賴于多個自變量x的方程稱為多元線性回歸方程多元線性回歸方程為用樣本統(tǒng)計量代替回歸方程中的未知參數(shù)，就得到估計的多元線性回歸方程2.參數(shù)的最小二乘法估計課堂練習某地區(qū)通過市場調查發(fā)現(xiàn)電冰箱銷售量同居民新結婚戶數(shù)、居民戶均收入水平相關。該地區(qū)近年電冰箱銷售量、新結婚戶數(shù)和居民戶均收入水平資料見教材表。以電冰箱銷售量（千臺）為因變量y，以新結婚戶數(shù)（千戶）為自變量，以居民戶均收入（千元）為自變量。若預計2010年該地區(qū)居民新婚戶數(shù)為30.2千戶，居民戶均收入62.5千元。用二元線性回歸預測該地區(qū)2003年電冰箱需求量年份冰箱銷量y新結婚數(shù)x1居民戶均收入x22002202228.520032622.53420043023.138.620053423.4402006402442.520074424.5462008492650.22095528.554.8回歸直線的擬合優(yōu)度多元線性回歸分析，一般用于判斷回歸直線擬合優(yōu)度的指標有多重判定系數(shù)修正多重判定系數(shù)估計標準誤差多重判定系數(shù)對多元線性回歸方程而言，總平方和SST同樣可以分解為回歸平方和SSR及殘差平方和SSE兩部分SST＝SSR＋SSE多重判定系數(shù)，也稱為復判定系數(shù)，是指在多元線性回歸分析中，回歸平方和占總平方和的比重曲線回歸分析曲線回歸概述直線關系是兩變量間最簡單的一種關系曲線回歸分析的基本任務是通過兩個相關變量x與y的實際觀測數(shù)據(jù)建立曲線回歸方程，以揭示x與y間的曲線聯(lián)系的形式曲線回歸分析最困難和首要的工作是確定自變量與因變量間的曲線關系的類型曲線回歸分析的基本過程先將x或y進行變量轉換對新變量進行直線回歸分析、建立直線回歸方程并進行顯著性檢驗和區(qū)間估計將新變量還原為原變量，由新變量的直線回歸方程和置信區(qū)間得出原變量的曲線回歸方程和置信區(qū)間