多元非線性回歸

1、3.5 回歸模型的其他函數(shù)形式回歸模型的其他函數(shù)形式 一、模型的類型與變換一、模型的類型與變換 二、非線性回歸實例二、非線性回歸實例 前面我們學習的線性回歸模型，解釋變量和被解前面我們學習的線性回歸模型，解釋變量和被解釋變量之間都呈現(xiàn)線性關(guān)系，但社會經(jīng)濟現(xiàn)象是極其釋變量之間都呈現(xiàn)線性關(guān)系，但社會經(jīng)濟現(xiàn)象是極其復雜的，有時解釋變量和被解釋變量之間的復雜的，有時解釋變量和被解釋變量之間的 依存關(guān)系依存關(guān)系不一定是線性的，而可能存在某種非線性關(guān)系。不一定是線性的，而可能存在某種非線性關(guān)系。 如著名的如著名的恩格爾曲線恩格爾曲線(Engle curves)表現(xiàn)為表現(xiàn)為冪函數(shù)冪函數(shù)曲線曲線形式、宏觀經(jīng)濟

2、學中的形式、宏觀經(jīng)濟學中的菲利普斯曲線菲利普斯曲線（Pillips cuves）表現(xiàn)為）表現(xiàn)為雙曲線雙曲線形式等。形式等。 這時，就需要選擇適當類型的曲線模型擬合這種這時，就需要選擇適當類型的曲線模型擬合這種關(guān)系，這就是關(guān)系，這就是非線性回歸模型非線性回歸模型或曲線回歸模型?；蚯€回歸模型。 但是，但是，大部分大部分非線性關(guān)系又可以通過一些簡單的非線性關(guān)系又可以通過一些簡單的數(shù)學處理數(shù)學處理，使之化為數(shù)學上的線性關(guān)系，從而可以運，使之化為數(shù)學上的線性關(guān)系，從而可以運用線性回歸的方法進行計量經(jīng)濟學方面的處理。用線性回歸的方法進行計量經(jīng)濟學方面的處理。 一、模型的類型與變換一、模型的類型與變換 1

3、、直接置換法、直接置換法 這類模型通過簡單的變量換元可直接化為線性回這類模型通過簡單的變量換元可直接化為線性回歸模型。由于這類模型的被解釋變量沒有變形，所以歸模型。由于這類模型的被解釋變量沒有變形，所以可可直接采用直接采用OLS估計回歸系數(shù)并進行檢驗和預測估計回歸系數(shù)并進行檢驗和預測。 例如，描述稅收與稅率關(guān)系的例如，描述稅收與稅率關(guān)系的拉弗曲線拉弗曲線：拋物線：拋物線 s = a + b r + c r2+ ， c0 s：稅收；：稅收； r：稅率，：稅率， 設(shè)設(shè)X1 = r，X2 = r2， 則原方程變換為則原方程變換為 s = a + b X1 + c X2 + ， c0 . （1）多項式

4、模型）多項式模型 設(shè)設(shè) 原方程變換為原方程變換為 ,2210 += =kkXXXY,221kkXZXZXZ= = = =.22110 += =kkZZZY 例如，例如，Y ：兒童死亡率；：兒童死亡率； X：人均：人均GDP。（2）雙曲線模型）雙曲線模型 設(shè)設(shè) 原方程變換為原方程變換為 ,110 += =XY,1XZ = =.10 += =ZY 用于測量許多經(jīng)濟變量的增長率，故又稱增長模用于測量許多經(jīng)濟變量的增長率，故又稱增長模型。型。 設(shè)設(shè) 則原方程變換為則原方程變換為 （3）對數(shù)模型）對數(shù)模型 半對數(shù)模型半對數(shù)模型 .*10* += =XY0101ln;ln,YXYX 雙對數(shù)模型雙對數(shù)模型

5、01lnln,YX *ln,ln,YY XX 雙對數(shù)模型由于彈性為常數(shù)雙對數(shù)模型由于彈性為常數(shù)1 ，故稱為不變彈性，故稱為不變彈性模型，應用非常廣泛。模型，應用非常廣泛。2、間接置換法、間接置換法 這類模型經(jīng)常通過對數(shù)代換間接地化為線性回歸這類模型經(jīng)常通過對數(shù)代換間接地化為線性回歸模型。由于這類模型在對數(shù)代換過程中改變了因變量模型。由于這類模型在對數(shù)代換過程中改變了因變量的形態(tài)，使得變形后模型的的形態(tài)，使得變形后模型的OLS估計失去了原模型的估計失去了原模型的殘差平方和最小的意義，從而估計不到原模型的最佳殘差平方和最小的意義，從而估計不到原模型的最佳回歸系數(shù)，回歸系數(shù)，可能造成回歸模型與原數(shù)據(jù)

6、之間的較大偏可能造成回歸模型與原數(shù)據(jù)之間的較大偏差差。（1）指數(shù)函數(shù)模型）指數(shù)函數(shù)模型 兩邊取對數(shù)，兩邊取對數(shù)， ,21210 eXXY = =.lnlnlnln22110 += =XXY 例如例如，Cobb-Dauglas生產(chǎn)函數(shù)生產(chǎn)函數(shù)模型模型 Q = A K L e,Q：產(chǎn)出量，：產(chǎn)出量，K：投入的資本；：投入的資本；L：投入的勞動：投入的勞動 方程兩邊取對數(shù)：方程兩邊取對數(shù)： ln Q = ln A + ln K + ln L+.（2）冪函數(shù)模型）冪函數(shù)模型 兩邊取對數(shù)，兩邊取對數(shù)， , eabYX= =.lnlnln += =bXaY3、復雜函數(shù)模型與級數(shù)展開法、復雜函數(shù)模型與級數(shù)展

7、開法 有些模型非但不是線性的，而且也無法采取變量有些模型非但不是線性的，而且也無法采取變量替換的方法化為線性形式，如替換的方法化為線性形式，如 對這類模型的參數(shù)估計，一般采用對這類模型的參數(shù)估計，一般采用高斯高斯-牛頓迭代牛頓迭代法法。即先將非線性模型在初始值處展開成泰勒級數(shù)，。即先將非線性模型在初始值處展開成泰勒級數(shù)，略去高次項，用低次項近似替代，然后用略去高次項，用低次項近似替代，然后用OLS法估計法估計參數(shù)。重復上述兩個步驟，得到參數(shù)估計值的收斂點參數(shù)。重復上述兩個步驟，得到參數(shù)估計值的收斂點列，將收斂點列的極限作為最后估計的結(jié)果。列，將收斂點列的極限作為最后估計的結(jié)果。.2122110

8、 += =XXY方程兩邊取對數(shù)后，得到：方程兩邊取對數(shù)后，得到： Q:產(chǎn)出量產(chǎn)出量, K:資本資本, L:勞動勞動, :替代參數(shù)替代參數(shù), :分配參數(shù)。分配參數(shù)。 例如，例如，常替代彈性常替代彈性CES生產(chǎn)函數(shù)模型生產(chǎn)函數(shù)模型1(1),QAKLe 1lnlnln(1),QAKL 設(shè)設(shè) 其在其在=0 處展開，處展開，有有( )ln(1),fKL , 0)0(= =f01(0)ln(1)ln(1)ln(1)ln,fKKLLKLKL 22222(0) ln(1)lnln(1)ln(1)(lnln)(1)ln,fKLKLKKLL 于是于是 21lnlnln(1)ln(1)ln.2kQAKLL 利用利用

9、OLS估計參數(shù)估計參數(shù)1，1，再以，再以1，1為初始值，為初始值，待入迭代方程，得到待入迭代方程，得到2，2，如此循環(huán)，得到兩組參，如此循環(huán)，得到兩組參數(shù)估計的點列數(shù)估計的點列i，i。 若點列收斂，則停止，極限值即為估計值；若發(fā)若點列收斂，則停止，極限值即為估計值；若發(fā)散，則重選初始值。散，則重選初始值。 二、非線性回歸實例二、非線性回歸實例 例例3.5.1 建立中國城鎮(zhèn)居民食品消費需求函數(shù)模型。建立中國城鎮(zhèn)居民食品消費需求函數(shù)模型。 根據(jù)需求理論，居民對食品的消費需求函數(shù)大致根據(jù)需求理論，居民對食品的消費需求函數(shù)大致為為 Q: 居民對食品的需求量，居民對食品的需求量，X：消費者的消費支出總額

10、：消費者的消費支出總額P1: 食品價格指數(shù)，食品價格指數(shù)， P0：居民消費價格總指數(shù)。：居民消費價格總指數(shù)。 零階齊次性零階齊次性，當所有商品和消費者貨幣支出總額，當所有商品和消費者貨幣支出總額按同一比例變動時，需求量保持不變。按同一比例變動時，需求量保持不變。 (*)(*) 為了進行比較，將同時估計（為了進行比較，將同時估計（*）式與（）式與（*）式。）式。 10(,),Qf X P P 010(,),Qf X PP P 根據(jù)根據(jù)恩格爾定律恩格爾定律，居民對，居民對食品的消費支出食品的消費支出與居民與居民的的總支出總支出間呈間呈冪函數(shù)冪函數(shù)的變化關(guān)系的變化關(guān)系: 首先首先,確定具體的函數(shù)形式

11、：確定具體的函數(shù)形式：對數(shù)變換對數(shù)變換: 考慮到考慮到零階齊次性零階齊次性時，時，(*)(*)(*)式也可看成是對（式也可看成是對（*）式施加如下約束而得）式施加如下約束而得因此，對（因此，對（*）式進行回歸，就意味著原需求函數(shù)）式進行回歸，就意味著原需求函數(shù)滿足零階齊次性條件。滿足零階齊次性條件。,32101 ePPAXQ = =.lnlnlnln031210 += =PPXQ,)ln()ln(ln012010 += =PPPXQ. 0321= =+ 表表 3.5.1 中中國國城城鎮(zhèn)鎮(zhèn)居居民民消消費費支支出出（元元）及及價價格格指指數(shù)數(shù) X (當年價) X1 (當年價) GP (上年=100

12、) FP (上年=100) XC (1990年價) Q (1990年價) P0 (1990=100) P1 (1990=100) 1981 456.8 420.4 102.5 102.7 646.1 318.3 70.7 132.1 1982 471.0 432.1 102.0 102.1 659.1 325.0 71.5 132.9 1983 505.9 464.0 102.0 103.7 672.2 337.0 75.3 137.7 1984 559.4 514.3 102.7 104.0 690.4 350.5 81.0 146.7 1985 673.2 351.4 111.9 116.

13、5 772.6 408.4 87.1 86.1 1986 799.0 418.9 107.0 107.2 826.6 437.8 96.7 95.7 1987 884.4 472.9 108.8 112.0 899.4 490.3 98.3 96.5 1988 1104.0 567.0 120.7 125.2 1085.5 613.8 101.7 92.4 1989 1211.0 660.0 116.3 114.4 1262.5 702.2 95.9 94.0 1990 1278.9 693.8 101.3 98.8 1278.9 693.8 100.0 100.0 1991 1453.8 7

14、82.5 105.1 105.4 1344.1 731.3 108.2 107.0 1992 1671.7 884.8 108.6 110.7 1459.7 809.5 114.5 109.3 1993 2110.8 1058.2 116.1 116.5 1694.7 943.1 124.6 112.2 1994 2851.3 1422.5 125.0 134.2 2118.4 1265.6 134.6 112.4 1995 3537.6 1766.0 116.8 123.6 2474.3 1564.3 143.0 112.9 1996 3919.5 1904.7 108.8 107.9 26

15、92.0 1687.9 145.6 112.8 1997 4185.6 1942.6 103.1 100.1 2775.5 1689.6 150.8 115.0 1998 4331.6 1926.9 99.4 96.9 2758.9 1637.2 157.0 117.7 1999 4615.9 1932.1 98.7 95.7 2723.0 1566.8 169.5 123.3 2000 4998.0 1958.3 100.8 97.6 2744.8 1529.2 182.1 128.1 2001 5309.0 2014.0 100.7 100.7 2764.0 1539.9 192.1 13

16、0.8 X：人均消費：人均消費X1：人均食品：人均食品消費消費GP：居民消費：居民消費價格指數(shù)價格指數(shù)FP：居民食品：居民食品消費價格指數(shù)消費價格指數(shù)XC：人均消費：人均消費（90年價）年價）Q：人均食品消：人均食品消費（費（90年價）年價）P0：居民消費價：居民消費價格縮減指數(shù)格縮減指數(shù)（1990=100）P1：居民食品消：居民食品消費價格縮減指數(shù)費價格縮減指數(shù)（1990=1002004006008001000120014001600180082848688909294969800Q中中國國城城鎮(zhèn)鎮(zhèn)居居民民人人均均食食品品消消費費 特征：特征：消費行為在消費行為在19811995年間表年間表現(xiàn)出較強的一致性現(xiàn)出較強的一致性1995年之后呈現(xiàn)出年之后呈現(xiàn)出另外一種變動特征。另外一種變動特征。 建立建立19811994年中國城鎮(zhèn)居民對食品的消費需求模型年中國城鎮(zhèn)居民對食品的消費需求模型: )ln(92. 0)ln(08. 0)ln(05. 163. 3)ln(01PPXQ (9.03) (25.35) (-2.28) (-7.34) 按按零階齊次性零階齊次性表達式回