統(tǒng)計(jì)學(xué)相關(guān)與回歸分析課件

第九章

相關(guān)與回歸分析相關(guān)分析與回歸分析是現(xiàn)代統(tǒng)計(jì)學(xué)中非常重要的內(nèi)容，在自然、管理科學(xué)和社會(huì)經(jīng)濟(jì)領(lǐng)域有著十分廣泛的應(yīng)用。在分析變量之間關(guān)系的時(shí)，常用的基本模型:(1)相關(guān)模型;(2)回歸模型實(shí)踐中到底使用哪種模型取決于研究者的研究目的和數(shù)據(jù)的收集方式和條件。相關(guān)分析:

變量X和Y都被視為隨機(jī)變量，服從二元分布；經(jīng)典的回歸分析:

通常變量x不是隨機(jī)變量，在事先選好的值中取值，變量Y是隨機(jī)變量，在變量x

的給定值處有相應(yīng)的觀測(cè)值。例1：太陽鏡的日銷售數(shù)量Y與日最高氣溫X

之間的關(guān)系例2：人均消費(fèi)與人均GDP的關(guān)系相關(guān)分析與回歸分析相關(guān)分析

用一個(gè)指標(biāo)來表明現(xiàn)象間相互依存關(guān)系的密切程度?；貧w分析

根據(jù)相關(guān)關(guān)系的具體形態(tài)，選擇一個(gè)合適的數(shù)學(xué)模型，來近似地表達(dá)變量間關(guān)系。相關(guān)分析所研究的變量是對(duì)等關(guān)系；回歸分析所研究的兩個(gè)變量不是對(duì)等關(guān)系。因果本章內(nèi)容一、相關(guān)關(guān)系的概念和分類二、線性相關(guān)關(guān)系的識(shí)別三、一元線性回歸分析四、多元線性回歸分析五、非線性回歸分析相關(guān)分析NewNew一、相關(guān)關(guān)系的概念和分類一、函數(shù)關(guān)系和相關(guān)關(guān)系二、相關(guān)關(guān)系的分類

相關(guān)程度、相關(guān)方向、相關(guān)形式、

變量多少、相關(guān)性質(zhì)二、線性相關(guān)關(guān)系的識(shí)別（一）散點(diǎn)圖

（例子）

最簡(jiǎn)單、最直觀的識(shí)別方法,但難以給出相關(guān)的程度.（二）直線相關(guān)系數(shù)

直線相關(guān)系數(shù)的設(shè)計(jì)思想

總體相關(guān)系數(shù)與Pearson相關(guān)系數(shù)

相關(guān)系數(shù)的檢驗(yàn)

四、多元線性回歸分析基本概念：回歸系數(shù)、被解釋變量（因變量）、解釋變量（自變量）、多元回歸、隨機(jī)誤差項(xiàng)。基本假設(shè)解釋變量是確定性變量，不是隨機(jī)變量，且要求矩陣X中的自變量列之間不相關(guān)，樣本容量的個(gè)數(shù)應(yīng)大于解釋變量的個(gè)數(shù)。獨(dú)立、同分布、零均值正態(tài)分布的假定條件：

模型評(píng)價(jià)-擬合優(yōu)度一般不再用可決系數(shù)而是用修正的可決系數(shù)模型評(píng)價(jià)-顯著性檢驗(yàn)1整個(gè)回歸方程的檢驗(yàn)?zāi)Ｐ驮u(píng)價(jià)-顯著性檢驗(yàn)2單個(gè)回歸系數(shù)的檢驗(yàn)五、非線性回歸分析線性回歸模型的結(jié)構(gòu)特點(diǎn):（1）被解釋變量是解釋變量的線性函數(shù)—變量線性（2）被解釋變量也是參數(shù)的線性函數(shù)—參數(shù)線性根據(jù)實(shí)際分析建立的模型往往不符合上述線性特點(diǎn)，稱為非線性模型。如:柯布—道格拉斯生產(chǎn)函數(shù)處理非線性回歸模型的方法有兩種：(1)把非線性關(guān)系轉(zhuǎn)化為線性關(guān)系，然后再運(yùn)用線性回歸的分析方法進(jìn)行估計(jì)。(2)利用非線性最小二乘法直接估計(jì)非線性模型轉(zhuǎn)換成線性模型的常用方法:直接和間接代換法

相關(guān)關(guān)系：當(dāng)一個(gè)或幾個(gè)相互聯(lián)系的變量取一定數(shù)值時(shí)，與之相對(duì)應(yīng)的另一變量的值雖然不確定，但它仍按某種規(guī)律在一定的范圍內(nèi)變化，這種不確定的相互關(guān)系，稱為相關(guān)關(guān)系如：勞動(dòng)生產(chǎn)率與工資水平的關(guān)系,家庭支出和收入的關(guān)系，人的體重和身高的關(guān)系。相關(guān)關(guān)系不能用函數(shù)精確表達(dá),但經(jīng)常用一定的函數(shù)形式去近似地描述。相關(guān)關(guān)系按相關(guān)程度劃分

完全相關(guān)：當(dāng)一種現(xiàn)象的數(shù)量變化完全由另一個(gè)現(xiàn)象的數(shù)量變化所確定時(shí)，這兩種現(xiàn)象間的關(guān)系為完全相關(guān)。即函數(shù)關(guān)系。

不相關(guān)：當(dāng)兩個(gè)現(xiàn)象彼此互不影響，其數(shù)量變化各自獨(dú)立時(shí)，稱為不相關(guān)。

不完全相關(guān)：兩個(gè)現(xiàn)象之間的關(guān)系介于完全相關(guān)和不相關(guān)之間，稱為不完全相關(guān)。(主要表現(xiàn)形式,主要研究對(duì)象，常簡(jiǎn)稱為相關(guān)，即狹義的相關(guān))

正相關(guān)：當(dāng)一個(gè)現(xiàn)象的數(shù)量由小變大，另一個(gè)現(xiàn)象的數(shù)量也相應(yīng)由小變大，這種相關(guān)稱為正相關(guān)。如家庭支出隨家庭收入的提高而增加。

負(fù)相關(guān)：當(dāng)一個(gè)現(xiàn)象的數(shù)量由小變大，而另一個(gè)現(xiàn)象的數(shù)量相反地由大變小，這種相關(guān)稱為負(fù)相關(guān)。如商品流轉(zhuǎn)的規(guī)模越大，流通費(fèi)用水平則越低。按相關(guān)方向劃分單相關(guān)：一個(gè)變量對(duì)另一個(gè)變量的相關(guān)關(guān)系，稱為單相關(guān)。復(fù)相關(guān)：當(dāng)所研究的是一個(gè)變量對(duì)兩個(gè)或兩個(gè)以上其他變量的相關(guān)關(guān)系時(shí)，稱為復(fù)相關(guān)。如某種商品的需求與其價(jià)格水平及人們收入水平之間的相關(guān)關(guān)系就是一種復(fù)相關(guān)。偏相關(guān)：在某一變量與多種變量相關(guān)的場(chǎng)合，當(dāng)假定其他變量不變時(shí)，其中兩個(gè)變量的相關(guān)關(guān)系稱為偏相關(guān)。按變量多少劃分真實(shí)相關(guān)：當(dāng)兩種現(xiàn)象之間的相關(guān)確實(shí)具有內(nèi)在的聯(lián)系時(shí)，稱之為“真實(shí)相關(guān)”。虛假相關(guān)：當(dāng)兩種現(xiàn)象之間的相關(guān)只是表面存在，實(shí)質(zhì)上并沒有內(nèi)在的聯(lián)系時(shí)，稱之為“虛假相關(guān)”。按相關(guān)性質(zhì)劃分?jǐn)?shù)據(jù)散點(diǎn)圖散點(diǎn)圖設(shè)計(jì)思想總體相關(guān)系數(shù)二維隨機(jī)變量總體(X,Y),隨機(jī)變量X和Y的總體相關(guān)系數(shù)：

（數(shù)）性質(zhì)：（1）（2）的充分必要條件是存在常數(shù)和使得以概率1成立。

協(xié)方差(隨機(jī)變量)(數(shù))樣本相關(guān)系數(shù)例9.2Pearson相關(guān)系數(shù)，樣本相關(guān)系數(shù)例子EXCEL:

pearson()correl()圖9.5從二元總體中抽取的一個(gè)隨機(jī)樣本為什么要檢驗(yàn)？相關(guān)系數(shù)檢驗(yàn)1.要檢驗(yàn)的假設(shè)：或2.檢驗(yàn)方法一—t檢驗(yàn)

檢驗(yàn)統(tǒng)計(jì)量(原假設(shè)成立時(shí))例9.33.檢驗(yàn)方法二——直接利用R的分布總體相關(guān)系數(shù)檢驗(yàn)更簡(jiǎn)單的方法:直接查R分布的臨界值表，即相關(guān)系數(shù)臨界值表(附表九).例9.3例9.3法一：t統(tǒng)計(jì)量顯著性水平0.05，查表得到臨界值：由于，所以否定原假設(shè)，接受備擇假設(shè)，表明總體相關(guān)系數(shù)顯著不為零，即人均國(guó)內(nèi)生產(chǎn)總值與人均銷售金額之間確實(shí)存在著線性相關(guān)關(guān)系。方法二：普通最小二乘估計(jì)正規(guī)方程組：

求解正規(guī)方程組得：例子例子回歸方程：Excel:

Slope();intercept();steyx()可決系數(shù)估計(jì)標(biāo)準(zhǔn)誤差例子例子newExcel函數(shù):Steyx()Excel函數(shù):RSQ()顯著性檢驗(yàn)1例子顯著性檢驗(yàn)2例子相關(guān)分析

函數(shù)關(guān)系與相關(guān)關(guān)系相關(guān)關(guān)系的分類

完全、不完全、不相關(guān);正相關(guān)、負(fù)相關(guān);

線性相關(guān)、非線性相關(guān);單相關(guān)、復(fù)相關(guān)、偏相關(guān)線性相關(guān)的識(shí)別

散點(diǎn)圖(如何用EXCEL畫？)

相關(guān)系數(shù)及其檢驗(yàn)

總體相關(guān)系數(shù)(數(shù))

樣本相關(guān)系數(shù)(Pearson)相關(guān)分析(續(xù))(隨機(jī)變量)(數(shù))或者直接查R

的分布的臨界值表，即相關(guān)系數(shù)臨界值表(附表九).總體模型樣本模型模型的兩部分；自變量(解釋變量)，因變量(被解釋變量)

回歸系數(shù)；回歸系數(shù)的意義假設(shè)條件：

獨(dú)立同分布,均值為0,方差為

一元線性回歸方程(直線)

一元線性經(jīng)驗(yàn)回歸方程幾何解釋：截距和斜率一元線性回歸分析—概念

普通最小二乘估計(jì)(OLS)

實(shí)際值與相應(yīng)點(diǎn)的估計(jì)值(擬合值)

殘差；殘差平方和的無偏估計(jì)斜率和Pearson相關(guān)系數(shù)的關(guān)系一元線性回歸—估計(jì)方法OLS

無偏估計(jì)例子一元線性回歸模型評(píng)價(jià)

一元線性回歸模型的擬合優(yōu)度

可絕系數(shù)(判定)

正確認(rèn)識(shí)其作用；

擬合程度,解釋力度

與Pearson相關(guān)系數(shù)的關(guān)系一元線性回歸模型回歸系數(shù)的顯著性檢驗(yàn)(正確認(rèn)識(shí))

假設(shè)獨(dú)立同分布整個(gè)回歸方程的檢驗(yàn)

—方差分析(F檢驗(yàn))

回歸系數(shù)的顯著性檢驗(yàn)—t檢驗(yàn)注意：當(dāng)常數(shù)項(xiàng)時(shí)，上述估計(jì)和檢驗(yàn)不再成立！例子例9.5綜合最常用指標(biāo)一元線性回歸模型預(yù)測(cè)

點(diǎn)預(yù)測(cè)Excel:

trend(),forecast()

區(qū)間預(yù)測(cè)

Y的均值的區(qū)間估計(jì)

Y的個(gè)別值的區(qū)間估計(jì)(預(yù)測(cè)區(qū)間)注：條件是獨(dú)立同正態(tài)分布，P230-231三點(diǎn)結(jié)論.多元線性回歸分析

總體模型樣本模型(獨(dú)立同分布,均值為0)

普通最小二乘估計(jì)(OLS)

的無偏估計(jì)：無偏估計(jì)方差為多元線性回歸模型評(píng)價(jià)

多元線性回歸模型的擬合優(yōu)度

可絕系數(shù)(判定)

正確認(rèn)識(shí)其作用多元線性回歸模型回歸系數(shù)的顯著性檢驗(yàn)(正確認(rèn)識(shí))

假設(shè)獨(dú)立同分布整個(gè)回歸方程的檢驗(yàn)

—方差分析(F檢驗(yàn))

回歸系數(shù)的顯著性檢驗(yàn)—t檢驗(yàn)注意：當(dāng)常數(shù)項(xiàng)時(shí)，上述估計(jì)和檢驗(yàn)不再成立！例9.7例9.8非線性回歸模型

參數(shù)線性和變量線性非線性回歸模型

柯布—