計量課件第三章-多元線性回歸模型

1第三章多元線性回歸模型一元線性回歸模型的推廣2

1、研究中國的GDP增長

a.影響GDP增長的因素有哪些（投資、消費、出口、貨幣供應量等）？

b.GDP與各種因素關系的性質(zhì)是什么？（增、減）

c.各影響因素與GDP的具體的數(shù)量關系？

d.所作數(shù)量分析結果的可靠性如何？

e.今后的發(fā)展趨勢怎么樣？32、中國股票價格的波動●股票價格變動的情況怎樣（股價指數(shù)）？●影響股票價格變動的因素是什么（資金、政策、利率等）？●股價與各種因素的關系是什么（利空、利多）？●各種因素影響的具體數(shù)量規(guī)律是什么？●所得結果可不可靠？●今后的發(fā)展趨勢怎樣？43、中國家庭汽車的市場●汽車市場狀況如何（銷售量）？●影響汽車銷量的主要因素是什么（收入、價格、道路狀況等）？●各種因素對汽車銷量影響的性質(zhì)怎樣（正、負、無）？●各種因素影響汽車銷量的具體數(shù)量程度？●以上分析所得結論是否可靠●今后發(fā)展趨勢怎樣？5

很明顯，只用一個解釋變量已很難分析,還需要尋求有更多個解釋變量情況的回歸分析方法。

6多元線性回歸分析：研究因變量（被解釋變量）與兩個或兩個以上自變量（解釋變量）之間的回歸問題，稱為多元回歸分析。線性回歸自變量個數(shù)大于等于2多元線性回歸7第三章多元線性回歸模型第一節(jié)多元線性回歸模型概述第二節(jié)多元線性回歸模型的參數(shù)估計第三節(jié)多元線性回歸模型的統(tǒng)計檢驗第四節(jié)非線性模型的線性化小結8一、多元線性模型

i=1,2,…,n

在這個模型中，Y由X1,X2,…XK所解釋，其中，“斜率”βj的含義是其它變量不變的情況下，Xj改變一個單位對因變量所產(chǎn)生的影響，也稱為偏回歸系數(shù)。第一節(jié)多元線性回歸模型及古典假定9二元線性回歸模型（總體）樣本回歸模型10與簡單線性回歸分析一樣，多元線性回歸分析要解決的主要問題仍是：根據(jù)觀測樣本估計模型中的各個參數(shù)；對估計的參數(shù)及回歸方程進行統(tǒng)計檢驗；利用回歸模型進行預測和經(jīng)濟分析。11假定1：零均值假定假定2和假定3：同方差和無序列相關假定假定4：隨機擾動項與解釋變量不相關假定5:無多重共線性假定(多元中)

假定各解釋變量之間不存在線性關系，或各個解釋變量觀測值之間線性無關。假定6：正態(tài)性假定up二、多元線性回歸模型的基本假定12第二節(jié)

多元線性回歸模型的參數(shù)估計本節(jié)基本內(nèi)容:

●普通最小二乘法（OLS）●OLS估計式的性質(zhì)●隨機誤差項方差的估計

思考題

up13一、普通最小二乘法（OLS）最小二乘原則剩余平方和最?。?/p>

求偏導,令其為0:14151617P47【經(jīng)典實例】up18二、OLS估計式的性質(zhì)

OLS估計式仍具有

1.線性性:2.無偏性:3.

最小方差性結論：在古典假定下，多元線性回歸的OLS估計式是最佳線性無偏估計式

up19

三、隨機誤差項方差的估計

多元回歸中的無偏估計為：

T分布變換為變換：

up20P58練習題3

建立高新技術企業(yè)銷售額的計量經(jīng)濟模型：2122

（23.1525）（11.3088）（0.8191）t=(4.6783)(4.7781)(-3.6378)

23

思考一元線性回歸模型與多元線性回歸模型的基本假定是否相同？24

已知含有截距項的三元線性回歸模型估計的殘差平方和，樣本容量為n=24，則隨機誤差項的方差估計量為()。A.33.33B.40C.38.09D.36.36

up25第三節(jié)

多元線性回歸模型的檢驗本節(jié)基本內(nèi)容:

●擬合優(yōu)度檢驗●回歸方程的顯著性檢驗（F檢驗）●變量的顯著性檢驗（t檢驗）up26

對于雙變量線性模型

其中，=殘差平方和我們有第一節(jié)擬合優(yōu)度一、多重可決系數(shù)R227對于多元線性模型我們可用同樣的方法定義，稱為多重可決系數(shù)：對于多元線性模型28

殘差平方和的一個特點是，每當模型增加一個解釋變量，并用改變后的模型重新進行估計，殘差平方和的值會減小。由此可以推論，擬合優(yōu)度是一個與解釋變量的個數(shù)有關的量：

解釋變量個數(shù)增加

減小

R2

增大也就是說，人們總是可以通過增加模型中解釋變量的方法來增大R2

的值。因此，用R2

來作為擬合優(yōu)度的測度，不是十分令人滿意的。為此，我們定義修正可決系數(shù)

29

二、

修正的可決系數(shù)

在樣本容量一定的情況下，增加解釋變量必定使得自由度減少，所以調(diào)整的思路是:將殘差平方和與總離差平方和分別除以各自的自由度，以剔除變量個數(shù)對擬合優(yōu)度的影響:其中：n-k-1為殘差平方和的自由度，n-1為總體平方和的自由度。K為解釋變量個數(shù)。30如果模型增加一個沒有解釋能力的解釋變量，模型的殘差平方和RSS不會有多大的減小，卻使模型待估參數(shù)的個數(shù)增加，此時修正的可決系數(shù)不會增加，反而減小了。而只有當模型引入有解釋能力的解釋變量時，修正的可決系數(shù)才會增加。31

變差來源平方和自由度歸于回歸模型歸于剩余總變差方差分析表32

可決系數(shù)必定非負，但修正的可決系數(shù)可能為負值，這時規(guī)定

此外：

<三與可決系數(shù)的關系：33P47經(jīng)典實例表3-1地產(chǎn)評估房產(chǎn)評估地產(chǎn)評估房產(chǎn)評估房地產(chǎn)編號銷售價格Y（元/m2）（萬元）（萬元）159008103912247509002935340507304012440008003168597002000585164550800234574090800208986890596449794850900278010555095031441162001000395912116501800728313450085027321438008002986158300

2300477534回歸結果VariableCoefficientStd.Errort-StatisticProb.C-32.27321569.4897-0.0566700.9557X11.3223620.5382232.4569050.0302X21.2052610.1990816.0541260.0001R-squared0.912514Meandependentvar5918.667AdjustedR-squared0.897932S.D.dependentvar2320.344S.E.ofregression741.3040Akaikeinfocriterion16.23156Sumsquaredresid6594379.Schwarzcriterion16.37317Loglikelihood-118.7367F-statistic62.58202Durbin-Watsonstat1.038164Prob(F-statistic)0.00000035求修正的可決系數(shù)36例.設n=20,k=3,R2=0.70求解：

下面改變n的值，看一看的值如何變化。我們有若n=10，則=0.55

若n=5，則=-0.2037思考多大才算通過擬合優(yōu)度檢驗？up38

在多元回歸中有多個解釋變量，需要說明所有解釋變量聯(lián)合起來對應變量影響的總顯著性,或整個方程總的聯(lián)合顯著性。對回歸方程總顯著性檢驗需要在方差分析的基礎上進行F檢驗。39二、回歸方程的顯著性檢驗(F檢驗)

方程的顯著性檢驗，旨在對模型中被解釋變量與解釋變量之間的線性關系在總體上是否顯著成立作出推斷。

1、回歸方程顯著性的F檢驗

即檢驗模型

Yi=

0+1X1i+2X2i++kXki+uii=1,2,,n中的參數(shù)j是否顯著不為0。

可提出如下原假設與備擇假設：

H0：

1==k=0H1：

j不全為040

F檢驗的思想來自于總離差平方和的分解式：

TSS=ESS+RSS

如果這個比值較大，則X的聯(lián)合體對Y的解釋程度高，可認為總體存在線性關系，反之總體上可能不存在線性關系。因此,可通過該比值的大小對總體線性關系進行推斷。41

根據(jù)數(shù)理統(tǒng)計學中的知識，在原假設H0成立的條件下，統(tǒng)計量

服從自由度為(k,n-k-1)的F分布

給定顯著性水平

，可得到臨界值F

(k,n-k-1)，由樣本求出統(tǒng)計量F的數(shù)值，通過

F

F

(k,n-k-1)或F

F

(k,n-k-1)來拒絕或接受原假設H0，以判定原方程總體上的線性關系是否顯著成立。

42

F

(k,n-k-1)

F檢驗示意圖up43P53【相關鏈接】根據(jù)表3-1，可計算出：TSS=75375973ESS=68781594RSS=6594379給定一個顯著性水平=0.05，查分布表，得到一個臨界值3.89。顯然有F=62.5820＞3.89，所以拒絕原假設，可以認為地產(chǎn)評估價值和房產(chǎn)評估價值對房屋銷售價格的共同影響是顯著的。44P57練習：課后習題三、計算分析題1452、關于擬合優(yōu)度檢驗與方程顯著性檢驗關系的討論

由可推出：與或F和R2同方向變化：當R2=0時，F(xiàn)=0

R2越大時，F(xiàn)值也就越大R2=1時，F(xiàn)為無窮大46

因此，F(xiàn)檢驗時所估計回歸的總顯著性的一個度量，也是R2的一個顯著性檢驗。也就是檢驗H0：

1=2==k=0等價于:R2=0回答了前面的問題：

R2多大才能通過擬合優(yōu)度檢驗up47根據(jù)某國19年進口貿(mào)易總額Yt（單位億元）與個人消費支出X2、進口價格/國內(nèi)價格X3的數(shù)據(jù)，得到下面的回歸結果：Yt=-58.9+0.2X2-0.1X3SE(0.0092)(0.0840)=0.96，=0.95其中SE為參數(shù)估計量的標準差。（1）解釋X2和X3系數(shù)的意義；（2）Y的總離差中被回歸方程解釋的部分所占比重，未被回歸方程解釋的部分所占的比重；（3）對回歸方程進行整體顯著性檢驗（4）對各參數(shù)進行顯著性檢驗，并解釋檢驗結果。48一、偏回歸系數(shù)的顯著性檢驗檢驗假設步驟:1.原假設:2.給出檢驗統(tǒng)計量;3.根據(jù)數(shù)據(jù)計算統(tǒng)計量值和根據(jù)表查理論值;4.比較理論值與實際值,做出結論

三、變量的顯著性檢驗(t檢驗)

49P54【相關鏈接】VariableCoefficientStd.Errort-StatisticProb.C-32.27321569.4897-0.0566700.9557X11.3223620.5382232.4569050.0302X21.2052610.1990816.0541260.0001R-squared0.912514Meandependentvar5918.667AdjustedR-squared0.897932S.D.dependentvar2320.344S.E.ofregression741.3040Akaikeinfocriterion16.23156Sumsquaredresid6594379.Schwarzcriterion16.37317Loglikelihood-118.7367F-statistic62.58202Durbin-Watsonstat1.038164Prob(F-statistic)0.00000050對各個回歸參數(shù)作假設檢驗提出假設H0：

1=0H1：

1不等于0構造t統(tǒng)計量T=2.4569>t0.025(12)=2.179拒絕原假設，說明

1不等于0同理2不等于051注意:在一元回歸中F檢驗與t檢驗等價,

一元中：F檢驗：H0：

1=0

t檢驗：H0：

1=0但在多元回歸中F檢驗與t檢驗作用不同。521、將某公司的廣告費用(X)與銷售額(Y)的建立起一元線性回歸模型，計算的相關指標見表：變差平方和數(shù)值自由度回歸平方和ESS（）（）殘差平方和RSS1540（）總體平方和TSS6604219請回答以下問題：(1)樣本個數(shù)是多少？(2)求ESS？(3)ESS和RSS的自由度分別是多少？(4)求可決系數(shù)，并說明代表的含義(5)檢驗假設：X對Y無影響，你用什么假設檢驗？在＝0.05的顯著性水平下，請檢驗。(6)估計隨機誤差項的方差？53練習P57練習：課后習題三、計算分析題254補充習題55完成以下問題：1．寫出需求量對消費者平均收入、商品價格的線性回歸估計方程。2．解釋偏回歸系數(shù)的經(jīng)濟含義。3．對該模型做經(jīng)濟意義檢驗。4．估計調(diào)整的可決系數(shù)。5．在95%的置信度下對方程整體顯著性進行檢驗。6．在95%的置信度下檢驗偏回歸系數(shù)(斜率)的顯著