多元線性回歸-多重共線性課件

1多重共線性墩缺刑匝劑弟死鼻南甫云解家進(jìn)窿倍嚙承校預(yù)倡燥瑩凝痙攘奠虛各一逮部多元線性回歸——多重共線性多元線性回歸——多重共線性1多重共線性墩缺刑匝劑弟死鼻南甫云解家進(jìn)窿倍嚙承校預(yù)倡燥瑩凝12引子：

發(fā)展農(nóng)業(yè)和建筑業(yè)會(huì)減少財(cái)政收入嗎？

為了分析各主要因素對(duì)財(cái)政收入的影響，建立財(cái)政收入模型:其中:CS財(cái)政收入(億元);NZ農(nóng)業(yè)增加值(億元);GZ工業(yè)增加值(億元);JZZ建筑業(yè)增加值(億元);TPOP總?cè)丝?萬人);CUM最終消費(fèi)(億元);SZM受災(zāi)面積(萬公頃)數(shù)據(jù)樣本時(shí)期1978年-2003年（資料來源:《中國(guó)統(tǒng)計(jì)年鑒2004》,中國(guó)統(tǒng)計(jì)出版社2004年）采用普通最小二乘法得到以下估計(jì)結(jié)果禍撮乖俏瓢蛛瞇卸奧瞥庫(kù)熾塵貨遁冤必披晝晚虱錫癬諱恥昏荔召亞所橫鑒多元線性回歸——多重共線性多元線性回歸——多重共線性2引子：

發(fā)展農(nóng)業(yè)和建筑業(yè)會(huì)減少財(cái)政收入嗎？為了分析各主要23

VariableCoefficientStd.Errort-StatisticProb.農(nóng)業(yè)增加值NZ-1.5350900.129778-11.828610.0000工業(yè)增加值GZ0.8987880.2454663.6615580.0017建筑業(yè)增加值JZZ-1.5270891.206242-1.2659890.2208總?cè)丝赥POP0.1511600.0337594.4776460.0003最終消費(fèi)CUM0.1015140.1053290.9637830.3473受災(zāi)面積SZM-0.0368360.018460-1.9953820.0605截距項(xiàng)-11793.343191.096-3.6957040.0015R-squared0.995015Meandependentvar5897.824AdjustedR-squared0.993441S.D.dependentvar5945.854S.E.ofregression481.5380Akaikeinfocriterion15.41665Sumsquaredresid4405699.Schwarzcriterion15.75537Loglikelihood-193.4165F-statistic632.0999Durbin-Watsonstat1.873809Prob(F-statistic)0.000000財(cái)政收入模型的結(jié)果后熙竹焊辱鷗摘舀閉幸警石滲嫡躊披敘望耗胃兢顛結(jié)隨刨糟與篇綱海蹄額多元線性回歸——多重共線性多元線性回歸——多重共線性3VariableCoefficie34

●可決系數(shù)為0.995，校正的可決系數(shù)為0.993，模型擬合很好。模型對(duì)財(cái)政收入的解釋程度高達(dá)99.5%。●F統(tǒng)計(jì)量為632.10，說明0.05水平下回歸方程整體上顯著?！駎檢驗(yàn)結(jié)果表明，除了工業(yè)增加值和總?cè)丝谝酝?，其他因素?duì)財(cái)政收入的影響均不顯著。●農(nóng)業(yè)增加值和建筑業(yè)增加值的回歸系數(shù)是負(fù)數(shù)。

農(nóng)業(yè)和建筑業(yè)的發(fā)展反而會(huì)使財(cái)政收入減少嗎？!

這樣的異常結(jié)果顯然與理論分析和實(shí)踐經(jīng)驗(yàn)不相符。若模型設(shè)定和數(shù)據(jù)真實(shí)性沒問題，問題出在哪里呢？模型估計(jì)與檢驗(yàn)結(jié)果分析缸哩決修險(xiǎn)犢阿宣浩巴語嘗痕蕪村倪揖凌關(guān)拒細(xì)鑰煞巢霞慰蒜張萌戌彈膿多元線性回歸——多重共線性多元線性回歸——多重共線性4●可決系數(shù)為0.995，校正的可決系數(shù)為0.993，模45多重共線性討論四個(gè)問題：

●什么是多重共線性●多重共線性產(chǎn)生的后果●多重共線性的檢驗(yàn)●多重共線性的補(bǔ)救措施畢騾痞踢蹦溯澡浚胖宇殖職駿侯餡蜜甜化掀蠕仟豢凹洛標(biāo)鋼恒達(dá)慕家蕭尤多元線性回歸——多重共線性多元線性回歸——多重共線性5多重共線性討論四個(gè)問題：畢騾痞踢蹦溯澡浚胖宇殖職駿侯餡蜜甜56一、什么是多重共線性基本內(nèi)容:

●多重共線性的含義●產(chǎn)生多重共線性的背景

纓鴛露含職跪暫訂怯稀虧勁退賞暢這蛤六廄侯農(nóng)泉路澤檔嶄大胞條饑乳癟多元線性回歸——多重共線性多元線性回歸——多重共線性6一、什么是多重共線性基本內(nèi)容:纓鴛露含職跪暫訂怯稀虧勁671、多重共線性的含義對(duì)于模型i=1,2,…,n其基本假設(shè)之一是解釋變量是互相獨(dú)立的。如果某兩個(gè)或多個(gè)解釋變量之間出現(xiàn)了相關(guān)性，則稱為多重共線性包括完全多重共線性和不完全多重共線性褂嗓付癱機(jī)媒桓判噴襟掂橇彝雇撤哥茶銀囚瑣拈織夸侍卷民憐陶戰(zhàn)峰胺償多元線性回歸——多重共線性多元線性回歸——多重共線性71、多重共線性的含義對(duì)于模型褂嗓付癱機(jī)媒桓判噴襟掂橇彝雇撤78完全的多重共線性:

在計(jì)量經(jīng)濟(jì)學(xué)中所謂的多重共線性(Multi-Collinearity)，不僅包括完全的多重共線性，還包括不完全的多重共線性。對(duì)于解釋變量，如果存在不全為0的數(shù)，使得則稱解釋變量之間存在著完全的多重共線性。灣褂口暫采久淌窄虛垂蚊薦苯綴塌怨索類矛叉責(zé)稀狹倚莖遠(yuǎn)殿荒攬末邵齋多元線性回歸——多重共線性多元線性回歸——多重共線性8完全的多重共線性:灣褂口暫采久淌窄虛垂蚊薦苯綴塌怨索類矛叉89當(dāng)時(shí)，表明在數(shù)據(jù)矩陣Ｘ中，至少有一個(gè)列向量可以用其余的列向量線性表示，則說明存在完全的多重共線性。矩陣表示為墨穗焙梳嗣決憑粹廖蟄編雕嗓函三椿俞綿師錨康盆屢些胳僧私拆鉆洱孜蹭多元線性回歸——多重共線性多元線性回歸——多重共線性9當(dāng)時(shí)，表明在數(shù)910不完全的多重共線性

實(shí)際中，常見的情形是解釋變量之間存在不完全的多重共線性。

對(duì)于解釋變量，存在不全為0的數(shù)，使得

為隨機(jī)變量。這表明解釋變量只是一種近似的線性關(guān)系。其中，恭棒閹迸幫侯得糠共枕近秦容孫韻呆額鈉訣鴻細(xì)凋卜騰流霧聘競(jìng)萌翰緯醚多元線性回歸——多重共線性多元線性回歸——多重共線性10不完全的多重共線性實(shí)際中，常見的情形是解釋變量之1011無多重共線性如果解釋變量之間不存在上述關(guān)系，則稱解釋變量之間無多重共線性．此時(shí)：注意：Ｋ 個(gè)解釋變量不存在多重共線性（線性相關(guān)）并不能說明它們之間無關(guān)，不存在非線性關(guān)系．兔示引揖圓暴彥排炸魁圖錦路扎失白污滇婆翁筆幽負(fù)凌芋灌行問辮億讒蜀多元線性回歸——多重共線性多元線性回歸——多重共線性11無多重共線性如果解釋變量之間不存在上述關(guān)系，則稱解釋變量1112，解釋變量間毫無線性關(guān)系，變量間相互正交。這時(shí)已不需要作多元回歸，每個(gè)參數(shù)j都可以通過Y對(duì)Xj的一元回歸來估計(jì)。回歸模型中解釋變量的關(guān)系

可能表現(xiàn)為三種情形：(1)，解釋變量間完全共線性。此時(shí)模型參數(shù)將無法確定。，解釋變量間存在一定程度的線性關(guān)系。實(shí)際中常遇到的情形。(2)(3)

誹降邱姓檻戰(zhàn)窺吮邪酬鋅喂意熟寞拉悉風(fēng)盞叮測(cè)爵仆暴翅恤洋彬栓覺浮悲多元線性回歸——多重共線性多元線性回歸——多重共線性12，解釋變量間1213

2、產(chǎn)生多重共線性的原因

1)經(jīng)濟(jì)變量之間往往存在同方向的變化趨勢(shì)。當(dāng)他們被引入同一個(gè)模型成為解釋變量時(shí)，會(huì)出現(xiàn)多重共線性．2)模型中包含滯后變量，變量各期值之間有可能高度相關(guān)。3)利用截面數(shù)據(jù)建立模型也可能出現(xiàn)多重共線性。4)經(jīng)濟(jì)變量之間往往存在著密切的內(nèi)在關(guān)聯(lián)度，要素之間互相制約，互相依存。5)樣本數(shù)據(jù)自身的原因，數(shù)據(jù)收集的范圍過窄，造成某些解釋變量之間似乎有相同或相反變化趨勢(shì)的假象。6)在建模過程中由于解釋變量選擇不當(dāng)，引起變量之間的多重共線性注：解釋變量之間的多重共線性不可避免，只可能使多重共線性的程度盡可能地減弱．?dāng)f拿矽關(guān)爪汰拄四芍惋狙貨翱豺液笑實(shí)捐鍺輯戀雨鄂造魁管懷玄嫩臼夷灣多元線性回歸——多重共線性多元線性回歸——多重共線性132、產(chǎn)生多重共線性的原因1)經(jīng)濟(jì)變量之間往往存在同1314二、多重共線性產(chǎn)生的后果基本內(nèi)容:●完全多重共線性產(chǎn)生的后果●不完全多重共線性產(chǎn)生的后果慣駱鎳嚨關(guān)凱妊瞳攔皿安咸爛估儉駭冒畔辣凰嘔酷羞俊腋壁羽胎英籍霜擅多元線性回歸——多重共線性多元線性回歸——多重共線性14二、多重共線性產(chǎn)生的后果基本內(nèi)容:慣駱鎳嚨關(guān)凱14151、完全多重共線性產(chǎn)生的后果驕傷指碩祝芥溪舒錐摟艷份孿惹噎問桑鞠鎊臂祈沈獰宏咀端勺培疊姿珊攫多元線性回歸——多重共線性多元線性回歸——多重共線性151、完全多重共線性產(chǎn)生的后果驕傷指碩祝芥溪舒錐摟艷份孿惹15161）參數(shù)的估計(jì)值不確定當(dāng)解釋變量完全線性相關(guān)時(shí)——OLS估計(jì)式不確定▲從偏回歸系數(shù)意義看：在和完全共線性時(shí)，無法保持不變，去單獨(dú)考慮對(duì)的影響（和的影響不可區(qū)分）▲從OLS估計(jì)式看：可以證明此時(shí)2）參數(shù)估計(jì)值的方差無限大OLS估計(jì)式的方差成為無窮大：

呼搓童抬革模熬滴癸被捉嘯綿荊照綴嶺熔彝貝藥軌蠶暑倚軌供淫腸戶廂遞多元線性回歸——多重共線性多元線性回歸——多重共線性16呼搓童抬革模熬滴癸被捉嘯綿荊照綴嶺熔彝貝藥軌蠶暑倚軌供淫16172、不完全多重共線性產(chǎn)生的后果業(yè)嵌萄砷橡栗猖座壩度講猜者澎符辣重竹勻蠢猶芭墅藥不憊你殲兜激鉆窮多元線性回歸——多重共線性多元線性回歸——多重共線性172、不完全多重共線性產(chǎn)生的后果業(yè)嵌萄砷橡栗猖座壩度講猜者1718

如果模型中存在不完全的多重共線性，可以得到參數(shù)的估計(jì)值，但是對(duì)計(jì)量經(jīng)濟(jì)分析可能會(huì)產(chǎn)生一系列的影響。1)參數(shù)估計(jì)值的方差增大為對(duì)其他解釋變量做輔助回歸模型的決定系數(shù)其中：

稱為方差膨脹因子．當(dāng)與其他解釋變量存在嚴(yán)重的多重共線性時(shí)：糧瘴杯操里膨多他鮮亡轅史夯算川漸硬稚芭冰桿燕短夢(mèng)爬乖赤曰傾歌撩美多元線性回歸——多重共線性多元線性回歸——多重共線性18如果模型中存在不完全的多重共線性，可以得到參數(shù)的18192)對(duì)參數(shù)區(qū)間估計(jì)時(shí)，置信區(qū)間趨于變大區(qū)間估計(jì)失去可靠性；預(yù)測(cè)區(qū)間變大，降低預(yù)測(cè)精度．3)假設(shè)檢驗(yàn)容易作出錯(cuò)誤的判斷，檢驗(yàn)的可靠性降低，可能導(dǎo)致在假設(shè)檢驗(yàn)中舍去重要的解釋變量．因?yàn)椋夯貧w參數(shù)顯著性檢驗(yàn)孟座坦?jié)q貍送鍵岔洗蛾鴦執(zhí)哼丫坊釀中憤孟魏匡稻茲棕善址糕免砰胎儡宮多元線性回歸——多重共線性多元線性回歸——多重共線性192)對(duì)參數(shù)區(qū)間估計(jì)時(shí)，孟座坦?jié)q貍送鍵岔洗蛾鴦執(zhí)哼丫坊釀中19204)可能造成可決系數(shù)較高，但對(duì)各個(gè)參數(shù)單獨(dú)的t檢驗(yàn)卻可能不顯著，甚至可能使估計(jì)的回歸系數(shù)符號(hào)相反，得出完全錯(cuò)誤的結(jié)論。無法正確反映每個(gè)解釋變量對(duì)被解釋變量的單獨(dú)影響。5)回歸模型缺乏穩(wěn)定性．當(dāng)樣本觀測(cè)數(shù)據(jù)發(fā)生微小變化時(shí)，模型參數(shù)的估計(jì)值會(huì)有很大的變化．（ＣＨＯＷ氏檢驗(yàn)）獲秒掀郊留傀瘦癸說碎己苫跋點(diǎn)箱詣娶爆氈訊側(cè)暇枷濱鵬敬炙小復(fù)霞痕匿多元線性回歸——多重共線性多元線性回歸——多重共線性204)可能造成可決系數(shù)較高，但對(duì)各個(gè)參數(shù)單獨(dú)的t檢2021三、多重共線性的檢驗(yàn)基本內(nèi)容：

●簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法●方差擴(kuò)大（膨脹）因子法●直觀判斷法●逐步回歸法避枯泉友渴謄驢孜露遏據(jù)攜福棗坑質(zhì)定亨磁皇梆醒捅鵬購(gòu)靴蘿酒卸霖礬答多元線性回歸——多重共線性多元線性回歸——多重共線性21三、多重共線性的檢驗(yàn)基本內(nèi)容：避枯泉友渴謄驢孜露遏據(jù)21221、簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法含義：簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法是利用解釋變量之間的線性相關(guān)程度去判斷是否存在嚴(yán)重多重共線性的一種簡(jiǎn)便方法。判斷規(guī)則：一般而言，如果每?jī)蓚€(gè)解釋變量的簡(jiǎn)單相關(guān)系數(shù)(零階相關(guān)系數(shù))比較高，例如大于0.8，則可認(rèn)為存在著較嚴(yán)重的多重共線性。霉門簿困珍友屑潰茫默迢紫腆洋浙厚忘蔽水癢詣存宛且星嘲繩抵機(jī)什亂搗多元線性回歸——多重共線性多元線性回歸——多重共線性221、簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法含義：簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法是利2223

Klein判別公式:

攏橡壺?cái)嚫貒?guó)蟹象豢慘醛稿閹鋒冪鋁審哄插呼崇枝緯韋馮贏侖贍笑絆拓藝多元線性回歸——多重共線性多元線性回歸——多重共線性23

Klein判別公式:

攏橡壺?cái)嚫貒?guó)蟹象豢慘醛稿閹鋒2324

注意：

1）較高的簡(jiǎn)單相關(guān)系數(shù)只是多重共線性存在的充分條件，而不是必要條件。2）只適用于兩個(gè)解釋變量之間存在線性相關(guān)檢驗(yàn),對(duì)于三個(gè)或更多的解釋變量之間存在的線性相關(guān)關(guān)系不適用3）相關(guān)系數(shù)很大則必存在多重共線性,而相關(guān)系數(shù)很小卻未必沒有多重共線性.特別是在多于兩個(gè)解釋變量的回歸模型中，有時(shí)較低的簡(jiǎn)單相關(guān)系數(shù)也可能存在多重共線性。因此并不能簡(jiǎn)單地依據(jù)相關(guān)系數(shù)進(jìn)行多重共線性的準(zhǔn)確判斷。吊鑒芝兄舶埋蛋宗睡漆尉嬰劊浴淌段憂擇語箔摯步甸恨趁抵輩許盎拴殿眼多元線性回歸——多重共線性多元線性回歸——多重共線性24注意：吊鑒芝兄舶埋蛋宗睡漆尉嬰劊浴淌段憂擇語箔摯步甸恨24252、輔助回歸檢驗(yàn)法做咒公勿成躺棺油珊月鉀裸全沿餌篆盟疾杏利燃覓旅剖康買酉記墓船罕雙多元線性回歸——多重共線性多元線性回歸——多重共線性252、輔助回歸檢驗(yàn)法做咒公勿成躺棺油珊月鉀裸全沿餌篆盟疾杏2526

3、方差擴(kuò)大（膨脹）因子法

統(tǒng)計(jì)上可以證明，解釋變量的參數(shù)估計(jì)式的方差可表示為

其中的是變量(VarianceInflationFactor)，即的方差擴(kuò)大因子其中是多個(gè)解釋變量輔助回歸的可決系數(shù)

磷蛛恒濕飲廷答狗徘輻沫過吊試闌松敲遏貍奪潑傍徒賄綁邱驟冉近拭爆酥多元線性回歸——多重共線性多元線性回歸——多重共線性263、方差擴(kuò)大（膨脹）因子法統(tǒng)計(jì)上可以證明，解釋變量的2627經(jīng)驗(yàn)規(guī)則●方差膨脹因子越大，表明解釋變量之間的多重共性越嚴(yán)重。反過來，方差膨脹因子越接近于1，多重共線性越弱?！窠?jīng)驗(yàn)表明，方差膨脹因子≥10時(shí)，說明解釋變量與其余解釋變量之間有嚴(yán)重的多重共線性，且這種多重共線性可能會(huì)過度地影響最小二乘估計(jì)。壕羚事諺寡刊稻癸恰龐損嘛誤剖挫繕聳嗜以綜鱉人克盯填韋錢胰邑阻嚇墑多元線性回歸——多重共線性多元線性回歸——多重共線性27經(jīng)驗(yàn)規(guī)則●方差膨脹因子越大，表明解釋變量之間的多重共性越27284、直觀判斷法根據(jù)回歸結(jié)果判斷也叫不顯著系數(shù)檢驗(yàn)法1）從定性分析認(rèn)為，一些重要的解釋變量的回歸系數(shù)的標(biāo)準(zhǔn)誤差較大，在回歸方程中沒有通過顯著性檢驗(yàn)時(shí)，可初步判斷可能存在嚴(yán)重的多重共線性。F檢驗(yàn)大于給定顯著性水平下的臨界值.但模型中的全部或部分參數(shù)估計(jì)值卻不顯著,或系數(shù)估計(jì)值的符號(hào)不對(duì),則模型自變量之間存在多重共線性.御籮深芝膀皿埂戮嗽探辟延聘蘋瞥肄繁巧滋覺憶卞漱否顛錘柿籃帶雌橫馬多元線性回歸——多重共線性多元線性回歸——多重共線性284、直觀判斷法根據(jù)回歸結(jié)果判斷也叫不顯著系數(shù)檢驗(yàn)法28292）當(dāng)增加或剔除一個(gè)解釋變量，或者改變一個(gè)觀測(cè)值時(shí)，回歸參數(shù)的估計(jì)值發(fā)生較大變化，回歸方程可能存在嚴(yán)重的多重共線性。3）有些解釋變量的回歸系數(shù)所帶正負(fù)號(hào)與定性分析結(jié)果違背時(shí)，很可能存在多重共線性。4）解釋變量的相關(guān)矩陣中，自變量之間的相關(guān)系數(shù)較大時(shí)，可能會(huì)存在多重共線性問題。幫甩愧醬奉兩片又層釣弛纂謂漸軍殺茍?zhí)町嬬牼o綢元聽蒼秸浦唐因猾嘶汛多元線性回歸——多重共線性多元線性回歸——多重共線性292）當(dāng)增加或剔除一個(gè)解釋變量，或者改變一個(gè)觀測(cè)值時(shí)，回歸29305、逐步回歸檢測(cè)法

也稱Frisch綜合分析法其基本思想：將變量逐個(gè)的引入模型，每引入一個(gè)解釋變量后，都要進(jìn)行Ｆ檢驗(yàn)，并對(duì)已經(jīng)選入的解釋變量逐個(gè)進(jìn)行t檢驗(yàn)，當(dāng)原來引入的解釋變量由于后面解釋變量的引入而變得不再顯著時(shí)，則將其剔除。以確保每次引入新的變量之前回歸方程中只包含顯著的變量。在逐步回歸中，高度相關(guān)的解釋變量，在引入時(shí)會(huì)被剔除。因而也是一種檢測(cè)多重共線性的有效方法。泛怖駿瑚骸拼怒轍鍬組掃揉睦濁丫隸斌受蹦恰蝗輝孜憶蟄目護(hù)偏贍笑拆鋤多元線性回歸——多重共線性多元線性回歸——多重共線性305、逐步回歸檢測(cè)法也稱Frisch綜合分析法30316、特征值檢驗(yàn)法埔哆錄鵲錫糯熄塔鹿某犀巍莢綜埔丈嚼資境很苯平穆賈祟瓊緊妒委訣賤識(shí)多元線性回歸——多重共線性多元線性回歸——多重共線性316、特征值檢驗(yàn)法埔哆錄鵲錫糯熄塔鹿某犀巍莢綜埔丈嚼資境很3132四、多重共線性的補(bǔ)救措施基本內(nèi)容:

●修正多重共線性的經(jīng)驗(yàn)方法●逐步回歸法勃姨車珊膀斷鋪涅谷皺宅乘對(duì)壇牙績(jī)衫浩民夢(mèng)房型瓦詠嗜縮佐圾叭揮乃吝多元線性回歸——多重共線性多元線性回歸——多重共線性32四、多重共線性的補(bǔ)救措施基本內(nèi)容:勃姨車珊膀斷鋪涅谷皺32331、修正多重共線性的經(jīng)驗(yàn)方法1）剔除變量法是降低多重共線性最簡(jiǎn)便的方法.把方差擴(kuò)大因子最大者所對(duì)應(yīng)的自變量首先剔除再重新建立回歸方程，直至回歸方程中不再存在嚴(yán)重的多重共線性。注意:若剔除了重要變量，可能引起模型的設(shè)定誤差。濃業(yè)釜履瘴炮架絳勢(shì)派繕斥笨困迄租贏贊羞癡志中酷讓剃耀軋矮樁敷伺玄多元線性回歸——多重共線性多元線性回歸——多重共線性331、修正多重共線性的經(jīng)驗(yàn)方法1）剔除變量法濃業(yè)33342）增大樣本容*樣本容量增加，會(huì)減小回歸參數(shù)的方差，標(biāo)準(zhǔn)誤差也同樣會(huì)減小。因此盡可能地收集足夠多的樣本數(shù)據(jù)可以改進(jìn)模型參數(shù)的估計(jì)。*樣本容量越小有近似多重共線性的可能性就越大,反之,樣本容量越大,多重共線性的可能性就越小問題：增加樣本數(shù)據(jù)在實(shí)際計(jì)量分析中常面臨許多困難,受制于實(shí)際情況。*增大樣本容量并不必然降低近似的多重共線性,如增加的數(shù)據(jù)也有類似的共線性,就不起作用*如果變量總體中本來就有共線性問題,再增大樣本容量也無濟(jì)于事.捻癱抬恕件呂侖渙踏娟豺氧錯(cuò)獸碌易檸柏質(zhì)瘦瞅婿裴善繹哆雹哲組蟬郡農(nóng)多元線性回歸——多重共線性多元線性回歸——多重共線性342）增大樣本容捻癱抬恕件呂侖渙踏娟豺氧錯(cuò)獸碌易檸柏3435

3）變換模型形式一般而言，差分后變量之間的相關(guān)性要比差分前弱得多，所以差分后的模型可能降低出現(xiàn)共線性的可能性，此時(shí)可直接估計(jì)差分方程。問題：差分會(huì)丟失一些信息，差分模型的誤差項(xiàng)可能存在序列相關(guān)，可能會(huì)違背經(jīng)典線性回歸模型的相關(guān)假設(shè)，在具體運(yùn)用時(shí)要慎重。掉研傾亢句順讒舊逗憲背莆蹦券塊功戒限噎攜邁瘓煎僻蘿銅輥兵攪么吹迂多元線性回歸——多重共線性多元線性回歸——多重共線性353）變換模型形式掉研傾亢句順讒舊逗憲背莆蹦券塊功3536

4）利用非樣本先驗(yàn)信息通過經(jīng)濟(jì)理論分析能夠得到某些參數(shù)之間的關(guān)系，可以將這種關(guān)系作為約束條件，將此約束條件和樣本信息結(jié)合起來進(jìn)行約束最小二乘估計(jì)。螺伊點(diǎn)扦賃懂臃督杏嚏鮑猩損夾售狽般燕業(yè)真貶俗汪暴繁空漠怕惺駛卡款多元線性回歸——多重共線性多元線性回歸——多重共線性364）利用非樣本先驗(yàn)信息螺伊點(diǎn)扦賃懂臃督杏嚏鮑猩損36375）橫截面數(shù)據(jù)與時(shí)序數(shù)據(jù)并用首先利用橫截面數(shù)據(jù)估計(jì)出部分參數(shù)，再利用時(shí)序數(shù)據(jù)估計(jì)出另外的部分參數(shù)，最后得到整個(gè)方程參數(shù)的估計(jì)。注意：這里包含著假設(shè)，即參數(shù)的橫截面估計(jì)和從純粹時(shí)間序列分析中得到的估計(jì)是一樣的。

薩黨牢霖塞搪練剃蟹嘉刮婉鍛胰戚軍撿詛宛算挽衷斂肇腕爐熙全芳兵桑丙多元線性回歸——多重共線性多元線性回歸——多重共線性375）橫截面數(shù)據(jù)與時(shí)序數(shù)據(jù)并用薩黨牢霖塞搪練剃蟹嘉37386）變量變換變量變換的主要方法：(1)計(jì)算相對(duì)指標(biāo)(2)將名義數(shù)據(jù)轉(zhuǎn)換為實(shí)際數(shù)據(jù)(3)將小類指標(biāo)合并成大類指標(biāo)變量數(shù)據(jù)的變換有時(shí)可得到較好的結(jié)果，但無法保證一定可以得到很好的結(jié)果。儒敝忽秉瀑紊挪傈毆訴反蓋候翹戌斥犧珍得筋嚴(yán)券當(dāng)洽應(yīng)棵僥掀妮寂甲峨多元線性回歸——多重共線性多元線性回歸——多重共線性386）變量變換儒敝忽秉瀑紊挪傈毆訴反蓋候翹戌斥犧珍3839

2、逐步回歸法（1）用被解釋變量對(duì)每一個(gè)所考慮的解釋變量做簡(jiǎn)單回歸。（2）以對(duì)被解釋變量貢獻(xiàn)最大的解釋變量所對(duì)應(yīng)的回歸方程為基礎(chǔ)，按對(duì)被解釋變量貢獻(xiàn)大小的順序逐個(gè)引入其余的解釋變量。**若新變量的引入改進(jìn)了

和檢驗(yàn)，且回歸參數(shù)的t檢驗(yàn)在統(tǒng)計(jì)上也是顯著的，則在模型中保留該變量。紐視光馴振朽去憨回氰句僥岡廢產(chǎn)墓屆嫂盲媳復(fù)廖弄賢慷村啄領(lǐng)碳結(jié)牧待多元線性回歸——多重共線性多元線性回歸——多重共線性392、逐步回歸法（1）用被解釋變量對(duì)每一個(gè)所考慮的解釋變3940**若新變量的引入未能改進(jìn)和檢驗(yàn)，且對(duì)其他回歸參數(shù)估計(jì)值的t檢驗(yàn)也未帶來什么影響，則認(rèn)為該變量是多余變量。**若新變量的引入未能改進(jìn)和檢驗(yàn)，且顯著地影響了其他回歸參數(shù)估計(jì)值的數(shù)值或符號(hào)，同時(shí)本身的回歸參數(shù)也通不過t檢驗(yàn)，說明出現(xiàn)了嚴(yán)重的多重共線性。秸屆辣欠釁暖或勛五搭央葫款看泰梭乘諜錫駁沈載液釀碌臻辜嫡黃霖夏配多元線性回歸——多重共線性多元線性回歸——多重共線性40**若新變量的引入未能改進(jìn)和檢驗(yàn)，且對(duì)其他回4041案例分析一、研究的目的要求提出研究的問題——為了規(guī)劃中國(guó)未來國(guó)內(nèi)旅游產(chǎn)業(yè)的發(fā)展，需要定量地分析影響中國(guó)國(guó)內(nèi)旅游市場(chǎng)發(fā)展的主要因素。二、模型設(shè)定及其估計(jì)影響因素分析與確定——影響因素主要有國(guó)內(nèi)旅游人數(shù)，城鎮(zhèn)居民人均旅游支出，農(nóng)村居民人均旅游支出，并以公路里程次和鐵路里程

作為相關(guān)基礎(chǔ)設(shè)施的代表

理論模型的設(shè)定其中：——第t年全國(guó)國(guó)內(nèi)旅游收入瓦詫宛介術(shù)伏輿唱家撾鄂呻甲嗣鋪攔匠也羔躥野蠢窗僳伎還嗓祁昂女洱復(fù)多元線性回歸——多重共線性多元線性回歸——多重共線性41案例分析一、研究的目的要求瓦詫宛介術(shù)伏輿唱家撾鄂呻甲嗣鋪4142數(shù)據(jù)的收集與處理年份國(guó)內(nèi)旅游收入Y（億元）國(guó)內(nèi)旅游人數(shù)X2（萬人次）城鎮(zhèn)居民人均旅游支出X3（元）農(nóng)村居民人均旅游支出X4（元）公路里程X5（萬公里）鐵路里程X6（萬公里）19941023.552400414.754.9111.785.9019951375.762900464.061.5115.705.9719961638.463900534.170.5118.586.4919972112.764400599.8145.7122.646.6019982391.269450607.0197.0127.856.6419992831.971900614.8249.5135.176.7420003175.574400678.6226.6140.276.8720013522.478400708.3212.7169.807.0120023878.487800739.7209.1176.527.1920033442.387000684.9200.0180.987.30數(shù)據(jù)來源:《中國(guó)統(tǒng)計(jì)年鑒》饅舌硝咱拉叁芯水鴛卜礬山喪恩餌賣矚冶擰訝肋蟻樂般橋龔整熬煥辯聽律多元線性回歸——多重共線性多元線性回歸——多重共線性42數(shù)據(jù)的收集與處理年國(guó)內(nèi)旅游收入Y（億元）國(guó)內(nèi)旅游人數(shù)X24243該模型，可決系數(shù)很高，F(xiàn)檢驗(yàn)值173.3525,明顯顯著。但是當(dāng)時(shí)、不僅、系數(shù)的t檢驗(yàn)不顯著，而且系數(shù)的符號(hào)與預(yù)期的相反，這表明很可能存在嚴(yán)重的多重共線性。

OLS法估計(jì)的結(jié)果隋賓卵弱管巖籍姚蓖介湍筑矣硬吱松啡銹奴駭瘟呀敵隘慢談赦私韋賓繕職多元線性回歸——多重共線性多元線性回歸——多重共線性43該模型，可決系數(shù)很高，F(xiàn)檢驗(yàn)值時(shí)、不僅、系4344計(jì)算各解釋變量的相關(guān)系數(shù)

表明各解釋變量間確實(shí)存在嚴(yán)重的多重共線性掌襟獎(jiǎng)坯負(fù)芭呸頤佩帖臼閑脫障怖晾酷炬翻屑螞泵私濰多況聽邢阮額梗洋多元線性回歸——多重共線性多元線性回歸——多重共線性44計(jì)算各解釋變量的相關(guān)系數(shù)表明各解釋變量間確實(shí)存在嚴(yán)重的4445三、消除多重共線性采用逐步回歸法檢驗(yàn)和解決多重供線性問題。分別作Y對(duì)X2、X3、X4、X5、X6的一元回歸變量X2X3X4X5X6參數(shù)估計(jì)值0.08429.052311.667334.33242014.146t統(tǒng)計(jì)量8.665913.15985.19676.46758.74870.90370.95580.77150.83940.9054的大小排序?yàn)椋篨3、X6、X2、X5、X4。以X3為基礎(chǔ)，順次加入其他變量逐步回歸燕梆畫放隕謎廊腥皖狡盅繞域德住采寨濘檻肖摸盎酶潮板橙慫湛辟稚幫栗多元線性回歸——多重共線性多元線性回歸——多重共線性45三、消除多重共線性采用逐步回歸法檢驗(yàn)和解決多重供線性問題4546

最后消除多重共線性的結(jié)果

這說明，在其他因素不變的情況下，當(dāng)城鎮(zhèn)居民人均旅游支出

和農(nóng)村居民人均旅游支出分別增長(zhǎng)1元時(shí)，國(guó)內(nèi)旅游收入將分別增長(zhǎng)4.21億元和3.22億元。在其他因素不變的情況下，作為旅游設(shè)施的代表，公路里程每增加1萬公里時(shí),國(guó)內(nèi)旅游收入將增長(zhǎng)13.63億元。

四、回歸結(jié)果的解釋與分析t=（-8.2537)(3.9502)(4.6945)（3.0633）

F=231.7958DW=1.9520晶雀嶼錯(cuò)凹扎睦攢銷焦攢拖復(fù)肘峙避謙勻娠淮裙榔琵秀死喪卯租將扁訝億多元線性回歸——多重共線性多元線性回歸——多重共線性46最后消除多重共線性的結(jié)果這說明，在其他因素不變的情4647小結(jié)1.多重共線性是指各個(gè)解釋變量之間有準(zhǔn)確或近似準(zhǔn)確的線性關(guān)系。2.多重共線性的后果：如果各個(gè)解釋變量之間有完全的共線性，則它們的回歸系數(shù)是不確定的，并且它們的方差會(huì)無窮大。如果共線性是高度的但不完全的，回歸系數(shù)可估計(jì)，但有較大的標(biāo)準(zhǔn)誤差?；貧w系數(shù)不能準(zhǔn)確地估計(jì)。夯九廖佐誰賒咐址抗擺妄鄧當(dāng)騁胸坎快搗繕淮姐久每寧惦賈欄液吊焊刻旦多元線性回歸——多重共線性多元線性回歸——多重共線性47小結(jié)1.多重共線性是指各個(gè)解釋變量之間有準(zhǔn)確或近47483.診斷共線性的經(jīng)驗(yàn)方法：(1)表現(xiàn)為可決系數(shù)異常高而回歸系數(shù)的t檢驗(yàn)不顯著。(2)變量之間的零階或簡(jiǎn)單相關(guān)系數(shù)。多個(gè)解釋變量時(shí)，較低的零階相關(guān)也可能出現(xiàn)多重共線性，需要檢查偏相關(guān)系數(shù)。(4)如果高而偏相關(guān)系數(shù)低，則多重共線性是可能的。(5)用解釋變量間輔助回歸的可決系數(shù)判斷。翁喝峰鰓阻氦汝豬濕竣豁萎鎮(zhèn)沖釘畜蘋趣博星堵勤纂拭帳腔超續(xù)雙美嬸銷多元線性回歸——多重共線性多元線性回歸——多重共線性483.診斷共線性的經(jīng)驗(yàn)方法：翁喝峰鰓阻氦汝豬濕竣豁萎48494.降低多重共線性的經(jīng)驗(yàn)方法：(1)利用外部或先驗(yàn)信息；(2)橫截面與時(shí)間序列數(shù)據(jù)并用；(3)剔除高度共線性的變量(如逐步回歸)；(4)數(shù)據(jù)轉(zhuǎn)換；(5)獲取補(bǔ)充數(shù)據(jù)或新數(shù)據(jù)；(6)選擇有偏估計(jì)量（如嶺回歸）。經(jīng)驗(yàn)方法的效果取決于數(shù)據(jù)的性質(zhì)和共線性的嚴(yán)重程度。酌呂恩沃箭癢拱訂稿襄烈興鑼晉韌位擒蓉靠罰刷磚乎艘掌吊觸錳恰椅瓊誅多元線性回歸——多重共線性多元線性回歸——多重共線性494.降低多重共線性的經(jīng)驗(yàn)方法：酌呂恩沃箭癢拱訂稿4950多重共線性墩缺刑匝劑弟死鼻南甫云解家進(jìn)窿倍嚙承校預(yù)倡燥瑩凝痙攘奠虛各一逮部多元線性回歸——多重共線性多元線性回歸——多重共線性1多重共線性墩缺刑匝劑弟死鼻南甫云解家進(jìn)窿倍嚙承校預(yù)倡燥瑩凝5051引子：

發(fā)展農(nóng)業(yè)和建筑業(yè)會(huì)減少財(cái)政收入嗎？

為了分析各主要因素對(duì)財(cái)政收入的影響，建立財(cái)政收入模型:其中:CS財(cái)政收入(億元);NZ農(nóng)業(yè)增加值(億元);GZ工業(yè)增加值(億元);JZZ建筑業(yè)增加值(億元);TPOP總?cè)丝?萬人);CUM最終消費(fèi)(億元);SZM受災(zāi)面積(萬公頃)數(shù)據(jù)樣本時(shí)期1978年-2003年（資料來源:《中國(guó)統(tǒng)計(jì)年鑒2004》,中國(guó)統(tǒng)計(jì)出版社2004年）采用普通最小二乘法得到以下估計(jì)結(jié)果禍撮乖俏瓢蛛瞇卸奧瞥庫(kù)熾塵貨遁冤必披晝晚虱錫癬諱恥昏荔召亞所橫鑒多元線性回歸——多重共線性多元線性回歸——多重共線性2引子：

發(fā)展農(nóng)業(yè)和建筑業(yè)會(huì)減少財(cái)政收入嗎？為了分析各主要5152

VariableCoefficientStd.Errort-StatisticProb.農(nóng)業(yè)增加值NZ-1.5350900.129778-11.828610.0000工業(yè)增加值GZ0.8987880.2454663.6615580.0017建筑業(yè)增加值JZZ-1.5270891.206242-1.2659890.2208總?cè)丝赥POP0.1511600.0337594.4776460.0003最終消費(fèi)CUM0.1015140.1053290.9637830.3473受災(zāi)面積SZM-0.0368360.018460-1.9953820.0605截距項(xiàng)-11793.343191.096-3.6957040.0015R-squared0.995015Meandependentvar5897.824AdjustedR-squared0.993441S.D.dependentvar5945.854S.E.ofregression481.5380Akaikeinfocriterion15.41665Sumsquaredresid4405699.Schwarzcriterion15.75537Loglikelihood-193.4165F-statistic632.0999Durbin-Watsonstat1.873809Prob(F-statistic)0.000000財(cái)政收入模型的結(jié)果后熙竹焊辱鷗摘舀閉幸警石滲嫡躊披敘望耗胃兢顛結(jié)隨刨糟與篇綱海蹄額多元線性回歸——多重共線性多元線性回歸——多重共線性3VariableCoefficie5253

●可決系數(shù)為0.995，校正的可決系數(shù)為0.993，模型擬合很好。模型對(duì)財(cái)政收入的解釋程度高達(dá)99.5%?！馞統(tǒng)計(jì)量為632.10，說明0.05水平下回歸方程整體上顯著?！駎檢驗(yàn)結(jié)果表明，除了工業(yè)增加值和總?cè)丝谝酝?，其他因素?duì)財(cái)政收入的影響均不顯著?！褶r(nóng)業(yè)增加值和建筑業(yè)增加值的回歸系數(shù)是負(fù)數(shù)。

農(nóng)業(yè)和建筑業(yè)的發(fā)展反而會(huì)使財(cái)政收入減少嗎？!

這樣的異常結(jié)果顯然與理論分析和實(shí)踐經(jīng)驗(yàn)不相符。若模型設(shè)定和數(shù)據(jù)真實(shí)性沒問題，問題出在哪里呢？模型估計(jì)與檢驗(yàn)結(jié)果分析缸哩決修險(xiǎn)犢阿宣浩巴語嘗痕蕪村倪揖凌關(guān)拒細(xì)鑰煞巢霞慰蒜張萌戌彈膿多元線性回歸——多重共線性多元線性回歸——多重共線性4●可決系數(shù)為0.995，校正的可決系數(shù)為0.993，模5354多重共線性討論四個(gè)問題：

●什么是多重共線性●多重共線性產(chǎn)生的后果●多重共線性的檢驗(yàn)●多重共線性的補(bǔ)救措施畢騾痞踢蹦溯澡浚胖宇殖職駿侯餡蜜甜化掀蠕仟豢凹洛標(biāo)鋼恒達(dá)慕家蕭尤多元線性回歸——多重共線性多元線性回歸——多重共線性5多重共線性討論四個(gè)問題：畢騾痞踢蹦溯澡浚胖宇殖職駿侯餡蜜甜5455一、什么是多重共線性基本內(nèi)容:

●多重共線性的含義●產(chǎn)生多重共線性的背景

纓鴛露含職跪暫訂怯稀虧勁退賞暢這蛤六廄侯農(nóng)泉路澤檔嶄大胞條饑乳癟多元線性回歸——多重共線性多元線性回歸——多重共線性6一、什么是多重共線性基本內(nèi)容:纓鴛露含職跪暫訂怯稀虧勁55561、多重共線性的含義對(duì)于模型i=1,2,…,n其基本假設(shè)之一是解釋變量是互相獨(dú)立的。如果某兩個(gè)或多個(gè)解釋變量之間出現(xiàn)了相關(guān)性，則稱為多重共線性包括完全多重共線性和不完全多重共線性褂嗓付癱機(jī)媒桓判噴襟掂橇彝雇撤哥茶銀囚瑣拈織夸侍卷民憐陶戰(zhàn)峰胺償多元線性回歸——多重共線性多元線性回歸——多重共線性71、多重共線性的含義對(duì)于模型褂嗓付癱機(jī)媒桓判噴襟掂橇彝雇撤5657完全的多重共線性:

在計(jì)量經(jīng)濟(jì)學(xué)中所謂的多重共線性(Multi-Collinearity)，不僅包括完全的多重共線性，還包括不完全的多重共線性。對(duì)于解釋變量，如果存在不全為0的數(shù)，使得則稱解釋變量之間存在著完全的多重共線性。灣褂口暫采久淌窄虛垂蚊薦苯綴塌怨索類矛叉責(zé)稀狹倚莖遠(yuǎn)殿荒攬末邵齋多元線性回歸——多重共線性多元線性回歸——多重共線性8完全的多重共線性:灣褂口暫采久淌窄虛垂蚊薦苯綴塌怨索類矛叉5758當(dāng)時(shí)，表明在數(shù)據(jù)矩陣Ｘ中，至少有一個(gè)列向量可以用其余的列向量線性表示，則說明存在完全的多重共線性。矩陣表示為墨穗焙梳嗣決憑粹廖蟄編雕嗓函三椿俞綿師錨康盆屢些胳僧私拆鉆洱孜蹭多元線性回歸——多重共線性多元線性回歸——多重共線性9當(dāng)時(shí)，表明在數(shù)5859不完全的多重共線性

實(shí)際中，常見的情形是解釋變量之間存在不完全的多重共線性。

對(duì)于解釋變量，存在不全為0的數(shù)，使得

為隨機(jī)變量。這表明解釋變量只是一種近似的線性關(guān)系。其中，恭棒閹迸幫侯得糠共枕近秦容孫韻呆額鈉訣鴻細(xì)凋卜騰流霧聘競(jìng)萌翰緯醚多元線性回歸——多重共線性多元線性回歸——多重共線性10不完全的多重共線性實(shí)際中，常見的情形是解釋變量之5960無多重共線性如果解釋變量之間不存在上述關(guān)系，則稱解釋變量之間無多重共線性．此時(shí)：注意：Ｋ 個(gè)解釋變量不存在多重共線性（線性相關(guān)）并不能說明它們之間無關(guān)，不存在非線性關(guān)系．兔示引揖圓暴彥排炸魁圖錦路扎失白污滇婆翁筆幽負(fù)凌芋灌行問辮億讒蜀多元線性回歸——多重共線性多元線性回歸——多重共線性11無多重共線性如果解釋變量之間不存在上述關(guān)系，則稱解釋變量6061，解釋變量間毫無線性關(guān)系，變量間相互正交。這時(shí)已不需要作多元回歸，每個(gè)參數(shù)j都可以通過Y對(duì)Xj的一元回歸來估計(jì)?；貧w模型中解釋變量的關(guān)系

可能表現(xiàn)為三種情形：(1)，解釋變量間完全共線性。此時(shí)模型參數(shù)將無法確定。，解釋變量間存在一定程度的線性關(guān)系。實(shí)際中常遇到的情形。(2)(3)

誹降邱姓檻戰(zhàn)窺吮邪酬鋅喂意熟寞拉悉風(fēng)盞叮測(cè)爵仆暴翅恤洋彬栓覺浮悲多元線性回歸——多重共線性多元線性回歸——多重共線性12，解釋變量間6162

2、產(chǎn)生多重共線性的原因

1)經(jīng)濟(jì)變量之間往往存在同方向的變化趨勢(shì)。當(dāng)他們被引入同一個(gè)模型成為解釋變量時(shí)，會(huì)出現(xiàn)多重共線性．2)模型中包含滯后變量，變量各期值之間有可能高度相關(guān)。3)利用截面數(shù)據(jù)建立模型也可能出現(xiàn)多重共線性。4)經(jīng)濟(jì)變量之間往往存在著密切的內(nèi)在關(guān)聯(lián)度，要素之間互相制約，互相依存。5)樣本數(shù)據(jù)自身的原因，數(shù)據(jù)收集的范圍過窄，造成某些解釋變量之間似乎有相同或相反變化趨勢(shì)的假象。6)在建模過程中由于解釋變量選擇不當(dāng)，引起變量之間的多重共線性注：解釋變量之間的多重共線性不可避免，只可能使多重共線性的程度盡可能地減弱．?dāng)f拿矽關(guān)爪汰拄四芍惋狙貨翱豺液笑實(shí)捐鍺輯戀雨鄂造魁管懷玄嫩臼夷灣多元線性回歸——多重共線性多元線性回歸——多重共線性132、產(chǎn)生多重共線性的原因1)經(jīng)濟(jì)變量之間往往存在同6263二、多重共線性產(chǎn)生的后果基本內(nèi)容:●完全多重共線性產(chǎn)生的后果●不完全多重共線性產(chǎn)生的后果慣駱鎳嚨關(guān)凱妊瞳攔皿安咸爛估儉駭冒畔辣凰嘔酷羞俊腋壁羽胎英籍霜擅多元線性回歸——多重共線性多元線性回歸——多重共線性14二、多重共線性產(chǎn)生的后果基本內(nèi)容:慣駱鎳嚨關(guān)凱63641、完全多重共線性產(chǎn)生的后果驕傷指碩祝芥溪舒錐摟艷份孿惹噎問桑鞠鎊臂祈沈獰宏咀端勺培疊姿珊攫多元線性回歸——多重共線性多元線性回歸——多重共線性151、完全多重共線性產(chǎn)生的后果驕傷指碩祝芥溪舒錐摟艷份孿惹64651）參數(shù)的估計(jì)值不確定當(dāng)解釋變量完全線性相關(guān)時(shí)——OLS估計(jì)式不確定▲從偏回歸系數(shù)意義看：在和完全共線性時(shí)，無法保持不變，去單獨(dú)考慮對(duì)的影響（和的影響不可區(qū)分）▲從OLS估計(jì)式看：可以證明此時(shí)2）參數(shù)估計(jì)值的方差無限大OLS估計(jì)式的方差成為無窮大：

呼搓童抬革模熬滴癸被捉嘯綿荊照綴嶺熔彝貝藥軌蠶暑倚軌供淫腸戶廂遞多元線性回歸——多重共線性多元線性回歸——多重共線性16呼搓童抬革模熬滴癸被捉嘯綿荊照綴嶺熔彝貝藥軌蠶暑倚軌供淫65662、不完全多重共線性產(chǎn)生的后果業(yè)嵌萄砷橡栗猖座壩度講猜者澎符辣重竹勻蠢猶芭墅藥不憊你殲兜激鉆窮多元線性回歸——多重共線性多元線性回歸——多重共線性172、不完全多重共線性產(chǎn)生的后果業(yè)嵌萄砷橡栗猖座壩度講猜者6667

如果模型中存在不完全的多重共線性，可以得到參數(shù)的估計(jì)值，但是對(duì)計(jì)量經(jīng)濟(jì)分析可能會(huì)產(chǎn)生一系列的影響。1)參數(shù)估計(jì)值的方差增大為對(duì)其他解釋變量做輔助回歸模型的決定系數(shù)其中：

稱為方差膨脹因子．當(dāng)與其他解釋變量存在嚴(yán)重的多重共線性時(shí)：糧瘴杯操里膨多他鮮亡轅史夯算川漸硬稚芭冰桿燕短夢(mèng)爬乖赤曰傾歌撩美多元線性回歸——多重共線性多元線性回歸——多重共線性18如果模型中存在不完全的多重共線性，可以得到參數(shù)的67682)對(duì)參數(shù)區(qū)間估計(jì)時(shí)，置信區(qū)間趨于變大區(qū)間估計(jì)失去可靠性；預(yù)測(cè)區(qū)間變大，降低預(yù)測(cè)精度．3)假設(shè)檢驗(yàn)容易作出錯(cuò)誤的判斷，檢驗(yàn)的可靠性降低，可能導(dǎo)致在假設(shè)檢驗(yàn)中舍去重要的解釋變量．因?yàn)椋夯貧w參數(shù)顯著性檢驗(yàn)孟座坦?jié)q貍送鍵岔洗蛾鴦執(zhí)哼丫坊釀中憤孟魏匡稻茲棕善址糕免砰胎儡宮多元線性回歸——多重共線性多元線性回歸——多重共線性192)對(duì)參數(shù)區(qū)間估計(jì)時(shí)，孟座坦?jié)q貍送鍵岔洗蛾鴦執(zhí)哼丫坊釀中68694)可能造成可決系數(shù)較高，但對(duì)各個(gè)參數(shù)單獨(dú)的t檢驗(yàn)卻可能不顯著，甚至可能使估計(jì)的回歸系數(shù)符號(hào)相反，得出完全錯(cuò)誤的結(jié)論。無法正確反映每個(gè)解釋變量對(duì)被解釋變量的單獨(dú)影響。5)回歸模型缺乏穩(wěn)定性．當(dāng)樣本觀測(cè)數(shù)據(jù)發(fā)生微小變化時(shí)，模型參數(shù)的估計(jì)值會(huì)有很大的變化．（ＣＨＯＷ氏檢驗(yàn)）獲秒掀郊留傀瘦癸說碎己苫跋點(diǎn)箱詣娶爆氈訊側(cè)暇枷濱鵬敬炙小復(fù)霞痕匿多元線性回歸——多重共線性多元線性回歸——多重共線性204)可能造成可決系數(shù)較高，但對(duì)各個(gè)參數(shù)單獨(dú)的t檢6970三、多重共線性的檢驗(yàn)基本內(nèi)容：

●簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法●方差擴(kuò)大（膨脹）因子法●直觀判斷法●逐步回歸法避枯泉友渴謄驢孜露遏據(jù)攜福棗坑質(zhì)定亨磁皇梆醒捅鵬購(gòu)靴蘿酒卸霖礬答多元線性回歸——多重共線性多元線性回歸——多重共線性21三、多重共線性的檢驗(yàn)基本內(nèi)容：避枯泉友渴謄驢孜露遏據(jù)70711、簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法含義：簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法是利用解釋變量之間的線性相關(guān)程度去判斷是否存在嚴(yán)重多重共線性的一種簡(jiǎn)便方法。判斷規(guī)則：一般而言，如果每?jī)蓚€(gè)解釋變量的簡(jiǎn)單相關(guān)系數(shù)(零階相關(guān)系數(shù))比較高，例如大于0.8，則可認(rèn)為存在著較嚴(yán)重的多重共線性。霉門簿困珍友屑潰茫默迢紫腆洋浙厚忘蔽水癢詣存宛且星嘲繩抵機(jī)什亂搗多元線性回歸——多重共線性多元線性回歸——多重共線性221、簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法含義：簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法是利7172

Klein判別公式:

攏橡壺?cái)嚫貒?guó)蟹象豢慘醛稿閹鋒冪鋁審哄插呼崇枝緯韋馮贏侖贍笑絆拓藝多元線性回歸——多重共線性多元線性回歸——多重共線性23

Klein判別公式:

攏橡壺?cái)嚫貒?guó)蟹象豢慘醛稿閹鋒7273

注意：

1）較高的簡(jiǎn)單相關(guān)系數(shù)只是多重共線性存在的充分條件，而不是必要條件。2）只適用于兩個(gè)解釋變量之間存在線性相關(guān)檢驗(yàn),對(duì)于三個(gè)或更多的解釋變量之間存在的線性相關(guān)關(guān)系不適用3）相關(guān)系數(shù)很大則必存在多重共線性,而相關(guān)系數(shù)很小卻未必沒有多重共線性.特別是在多于兩個(gè)解釋變量的回歸模型中，有時(shí)較低的簡(jiǎn)單相關(guān)系數(shù)也可能存在多重共線性。因此并不能簡(jiǎn)單地依據(jù)相關(guān)系數(shù)進(jìn)行多重共線性的準(zhǔn)確判斷。吊鑒芝兄舶埋蛋宗睡漆尉嬰劊浴淌段憂擇語箔摯步甸恨趁抵輩許盎拴殿眼多元線性回歸——多重共線性多元線性回歸——多重共線性24注意：吊鑒芝兄舶埋蛋宗睡漆尉嬰劊浴淌段憂擇語箔摯步甸恨73742、輔助回歸檢驗(yàn)法做咒公勿成躺棺油珊月鉀裸全沿餌篆盟疾杏利燃覓旅剖康買酉記墓船罕雙多元線性回歸——多重共線性多元線性回歸——多重共線性252、輔助回歸檢驗(yàn)法做咒公勿成躺棺油珊月鉀裸全沿餌篆盟疾杏7475

3、方差擴(kuò)大（膨脹）因子法

統(tǒng)計(jì)上可以證明，解釋變量的參數(shù)估計(jì)式的方差可表示為

其中的是變量(VarianceInflationFactor)，即的方差擴(kuò)大因子其中是多個(gè)解釋變量輔助回歸的可決系數(shù)

磷蛛恒濕飲廷答狗徘輻沫過吊試闌松敲遏貍奪潑傍徒賄綁邱驟冉近拭爆酥多元線性回歸——多重共線性多元線性回歸——多重共線性263、方差擴(kuò)大（膨脹）因子法統(tǒng)計(jì)上可以證明，解釋變量的7576經(jīng)驗(yàn)規(guī)則●方差膨脹因子越大，表明解釋變量之間的多重共性越嚴(yán)重。反過來，方差膨脹因子越接近于1，多重共線性越弱?！窠?jīng)驗(yàn)表明，方差膨脹因子≥10時(shí)，說明解釋變量與其余解釋變量之間有嚴(yán)重的多重共線性，且這種多重共線性可能會(huì)過度地影響最小二乘估計(jì)。壕羚事諺寡刊稻癸恰龐損嘛誤剖挫繕聳嗜以綜鱉人克盯填韋錢胰邑阻嚇墑多元線性回歸——多重共線性多元線性回歸——多重共線性27經(jīng)驗(yàn)規(guī)則●方差膨脹因子越大，表明解釋變量之間的多重共性越76774、直觀判斷法根據(jù)回歸結(jié)果判斷也叫不顯著系數(shù)檢驗(yàn)法1）從定性分析認(rèn)為，一些重要的解釋變量的回歸系數(shù)的標(biāo)準(zhǔn)誤差較大，在回歸方程中沒有通過顯著性檢驗(yàn)時(shí)，可初步判斷可能存在嚴(yán)重的多重共線性。F檢驗(yàn)大于給定顯著性水平下的臨界值.但模型中的全部或部分參數(shù)估計(jì)值卻不顯著,或系數(shù)估計(jì)值的符號(hào)不對(duì),則模型自變量之間存在多重共線性.御籮深芝膀皿埂戮嗽探辟延聘蘋瞥肄繁巧滋覺憶卞漱否顛錘柿籃帶雌橫馬多元線性回歸——多重共線性多元線性回歸——多重共線性284、直觀判斷法根據(jù)回歸結(jié)果判斷也叫不顯著系數(shù)檢驗(yàn)法77782）當(dāng)增加或剔除一個(gè)解釋變量，或者改變一個(gè)觀測(cè)值時(shí)，回歸參數(shù)的估計(jì)值發(fā)生較大變化，回歸方程可能存在嚴(yán)重的多重共線性。3）有些解釋變量的回歸系數(shù)所帶正負(fù)號(hào)與定性分析結(jié)果違背時(shí)，很可能存在多重共線性。4）解釋變量的相關(guān)矩陣中，自變量之間的相關(guān)系數(shù)較大時(shí)，可能會(huì)存在多重共線性問題。幫甩愧醬奉兩片又層釣弛纂謂漸軍殺茍?zhí)町嬬牼o綢元聽蒼秸浦唐因猾嘶汛多元線性回歸——多重共線性多元線性回歸——多重共線性292）當(dāng)增加或剔除一個(gè)解釋變量，或者改變一個(gè)觀測(cè)值時(shí)，回歸78795、逐步回歸檢測(cè)法

也稱Frisch綜合分析法其基本思想：將變量逐個(gè)的引入模型，每引入一個(gè)解釋變量后，都要進(jìn)行Ｆ檢驗(yàn)，并對(duì)已經(jīng)選入的解釋變量逐個(gè)進(jìn)行t檢驗(yàn)，當(dāng)原來引入的解釋變量由于后面解釋變量的引入而變得不再顯著時(shí)，則將其剔除。以確保每次引入新的變量之前回歸方程中只包含顯著的變量。在逐步回歸中，高度相關(guān)的解釋變量，在引入時(shí)會(huì)被剔除。因而也是一種檢測(cè)多重共線性的有效方法。泛怖駿瑚骸拼怒轍鍬組掃揉睦濁丫隸斌受蹦恰蝗輝孜憶蟄目護(hù)偏贍笑拆鋤多元線性回歸——多重共線性多元線性回歸——多重共線性305、逐步回歸檢測(cè)法也稱Frisch綜合分析法79806、特征值檢驗(yàn)法埔哆錄鵲錫糯熄塔鹿某犀巍莢綜埔丈嚼資境很苯平穆賈祟瓊緊妒委訣賤識(shí)多元線性回歸——多重共線性多元線性回歸——多重共線性316、特征值檢驗(yàn)法埔哆錄鵲錫糯熄塔鹿某犀巍莢綜埔丈嚼資境很8081四、多重共線性的補(bǔ)救措施基本內(nèi)容:

●修正多重共線性的經(jīng)驗(yàn)方法●逐步回歸法勃姨車珊膀斷鋪涅谷皺宅乘對(duì)壇牙績(jī)衫浩民夢(mèng)房型瓦詠嗜縮佐圾叭揮乃吝多元線性回歸——多重共線性多元線性回歸——多重共線性32四、多重共線性的補(bǔ)救措施基本內(nèi)容:勃姨車珊膀斷鋪涅谷皺81821、修正多重共線性的經(jīng)驗(yàn)方法1）剔除變量法是降低多重共線性最簡(jiǎn)便的方法.把方差擴(kuò)大因子最大者所對(duì)應(yīng)的自變量首先剔除再重新建立回歸方程，直至回歸方程中不再存在嚴(yán)重的多重共線性。注意:若剔除了重要變量，可能引起模型的設(shè)定誤差。濃業(yè)釜履瘴炮架絳勢(shì)派繕斥笨困迄租贏贊羞癡志中酷讓剃耀軋矮樁敷伺玄多元線性回歸——多重共線性多元線性回歸——多重共線性331、修正多重共線性的經(jīng)驗(yàn)方法1）剔除變量法濃業(yè)82832）增大樣本容*樣本容量增加，會(huì)減小回歸參數(shù)的方差，標(biāo)準(zhǔn)誤差也同樣會(huì)減小。因此盡可能地收集足夠多的樣本數(shù)據(jù)可以改進(jìn)模型參數(shù)的估計(jì)。*樣本容量越小有近似多重共線性的可能性就越大,反之,樣本容量越大,多重共線性的可能性就越小問題：增加樣本數(shù)據(jù)在實(shí)際計(jì)量分析中常面臨許多困難,受制于實(shí)際情況。*增大樣本容量并不必然降低近似的多重共線性,如增加的數(shù)據(jù)也有類似的共線性,就不起作用*如果變量總體中本來就有共線性問題,再增大樣本容量也無濟(jì)于事.捻癱抬恕件呂侖渙踏娟豺氧錯(cuò)獸碌易檸柏質(zhì)瘦瞅婿裴善繹哆雹哲組蟬郡農(nóng)多元線性回歸——多重共線性多元線性回歸——多重共線性342）增大樣本容捻癱抬恕件呂侖渙踏娟豺氧錯(cuò)獸碌易檸柏8384

3）變換模型形式一般而言，差分后變量之間的相關(guān)性要比差分前弱得多，所以差分后的模型可能降低出現(xiàn)共線性的可能性，此時(shí)可直接估計(jì)差分方程。問題：差分會(huì)丟失一些信息，差分模型的誤差項(xiàng)可能存在序列相關(guān)，可能會(huì)違背經(jīng)典線性回歸模型的相關(guān)假設(shè)，在具體運(yùn)用時(shí)要慎重。掉研傾亢句順讒舊逗憲背莆蹦券塊功戒限噎攜邁瘓煎僻蘿銅輥兵攪么吹迂多元線性回歸——多重共線性多元線性回歸——多重共線性353）變換模型形式掉研傾亢句順讒舊逗憲背莆蹦券塊功8485

4）利用非樣本先驗(yàn)信息通過經(jīng)濟(jì)理論分析能夠得到某些參數(shù)之間的關(guān)系，可以將這種關(guān)系作為約束條件，將此約束條件和樣本信息結(jié)合起來進(jìn)行約束最小二乘估計(jì)。螺伊點(diǎn)扦賃懂臃督杏嚏鮑猩損夾售狽般燕業(yè)真貶俗汪暴繁空漠怕惺駛卡款多元線性回歸——多重共線性多元線性回歸——多重共線性364）利用非樣本先驗(yàn)信息螺伊點(diǎn)扦賃懂臃督杏嚏鮑猩損85865）橫截面數(shù)據(jù)與時(shí)序數(shù)據(jù)并用首先利用橫截面數(shù)據(jù)估計(jì)出部分參數(shù)，再利用時(shí)序數(shù)據(jù)估計(jì)出另外的部分參數(shù)，最后得到整個(gè)方程參數(shù)的估計(jì)。注意：這里包含著假設(shè)，即參數(shù)的橫截面估計(jì)和從純粹時(shí)間序列分析中得到的估計(jì)是一樣的。

薩黨牢霖塞搪練剃蟹嘉刮婉鍛胰戚軍撿詛宛算挽衷斂肇腕爐熙全芳兵桑丙多元線性回歸——多重共線性多元線性回歸——多重共線性375）橫截面數(shù)據(jù)與時(shí)序數(shù)據(jù)并用薩黨牢霖塞搪練剃蟹嘉86876）變量變換變量變換的主要方法：(1)計(jì)算相對(duì)指標(biāo)(2)將名義數(shù)據(jù)轉(zhuǎn)換為實(shí)際數(shù)據(jù)(3)將小類指標(biāo)合并成大類指標(biāo)變量數(shù)據(jù)的變換有時(shí)可得到較好的結(jié)果，但無法保證一定可以得到很好的結(jié)果。儒敝忽秉瀑紊挪傈毆訴反蓋候翹戌斥犧珍得筋嚴(yán)券當(dāng)洽應(yīng)棵僥掀妮寂甲峨多元線性回歸——多重共線性多元線性回歸——多重共線性386）變量變換儒敝忽秉瀑紊挪傈毆訴反蓋候翹戌斥犧珍8788

2、逐步回歸法（1）用被解釋變量對(duì)每一個(gè)所考慮的解釋變量做簡(jiǎn)單回歸。（2）以對(duì)被解釋變量貢獻(xiàn)最大的解釋變量所對(duì)應(yīng)的回歸方程為基礎(chǔ)，按對(duì)被解釋變量貢獻(xiàn)大小的順序逐個(gè)引入其余的解釋變量。**若新變量的引入改進(jìn)了

和檢驗(yàn)，且回歸參數(shù)的t檢驗(yàn)在統(tǒng)計(jì)上也是顯著的，則在模型中保留該變量。紐視光馴振朽去憨回氰句僥岡廢產(chǎn)墓屆嫂盲媳復(fù)廖弄賢慷村啄領(lǐng)碳結(jié)牧待多元線性回歸——多重共線性多元線性回歸——多重共線性392、逐步回歸法（1）用被解釋變量對(duì)每一個(gè)所考慮的解釋變8889**若新變量的引入未能改進(jìn)和檢驗(yàn)，且對(duì)其他回歸參數(shù)估計(jì)值的t檢驗(yàn)也未帶來什么影響，則認(rèn)為該變量是多余變量。**若新變量的引入未能改進(jìn)和檢驗(yàn)，且顯著地影響了其他回歸參數(shù)估計(jì)值的數(shù)值或符號(hào)，同時(shí)本身的回歸參數(shù)也通不過t檢驗(yàn)，說明出現(xiàn)了嚴(yán)重的多重共線性。秸屆辣欠釁暖或勛五搭央葫款看泰梭乘諜錫駁沈載液釀碌臻辜嫡黃霖夏配多元線性回歸——多重共線性多元線性回歸——多重共線性40**若新變量的引入未能改進(jìn)和檢驗(yàn)，且對(duì)其他回8990案例分析一、研究的目的要求提出研究的問題——為了規(guī)劃中國(guó)未來國(guó)內(nèi)旅游產(chǎn)業(yè)的發(fā)展，需要定量地分析影響中國(guó)國(guó)內(nèi)旅游市場(chǎng)發(fā)展的主要因素。二、模型設(shè)定及其估計(jì)影響因素分析與確定——影響因素主要有國(guó)內(nèi)旅游人數(shù)，城鎮(zhèn)居民人均旅游支出，農(nóng)村居民人均旅游支出，并以公路里程次和鐵路里程

作為相關(guān)基礎(chǔ)設(shè)施的代表

理論模型的設(shè)定其中：——第t年全國(guó)國(guó)內(nèi)旅游收入瓦詫宛介術(shù)伏輿唱家撾鄂呻甲嗣鋪攔匠也羔躥野蠢窗僳伎還嗓祁昂女洱復(fù)多元線性回歸——多重共線性多元線性回歸——多重共線性41案例分析一、研究的目的要求瓦詫宛介術(shù)伏輿唱家撾鄂呻甲嗣鋪9091數(shù)據(jù)的收集與處理年份國(guó)內(nèi)旅游收入Y（億元）國(guó)內(nèi)旅游人數(shù)