計量地理學(xué)-p相關(guān)分析與回歸

相關(guān)分析與回歸分析時間序列分析主成分分析與因子分析判別分析聚類分析趨勢面分析方法馬爾可夫

方法相關(guān)分析與回歸分析是應(yīng)用最廣泛的統(tǒng)計方法之一。

獎金獲得者

經(jīng)濟(jì)學(xué)家克萊因曾

“計量經(jīng)濟(jì)學(xué)的百分之九十是回歸”。回歸分析為從一個或多個變量值推算另一個變量值。相關(guān)分析用來估計變量間的關(guān)系（相關(guān)）程度。地學(xué)領(lǐng)域中許多變量之間并不存在確定性數(shù)學(xué)關(guān)系，而是表現(xiàn)為某種統(tǒng)計關(guān)系，可以通過一些統(tǒng)計方法獲得變量間變化的平均關(guān)系，并估計實際數(shù)值相對于平均關(guān)系的偏差范圍。事物和現(xiàn)象在數(shù)量上的依存關(guān)系可分兩種：函數(shù)關(guān)系：一種確定性的依存關(guān)系，一般表達(dá)式為y=f(x)，x稱為自變量，y為因變量，即當(dāng)自變量的值確定后，因變量的值也隨之確定。相關(guān)關(guān)系：不完全確定的數(shù)量依存關(guān)系，即自變量的每個數(shù)值都可能有若干個數(shù)值與之對應(yīng)。這種對應(yīng)與函數(shù)關(guān)系不同，因為自變量與因變量間的對應(yīng)關(guān)系是不同的，但一般來說，因變量圍繞其均值上下波動。(a)、(b)為函數(shù)關(guān)系;(c)、(d)為相關(guān)關(guān)系;

(e)表現(xiàn)不相關(guān)1.1

相關(guān)分析相關(guān)分析的根本目的是獲得某些變量之間聯(lián)系密切程度或相關(guān)程度的測度。其中兩個變量之間的相關(guān)關(guān)系稱為單相關(guān)，多個變量之間的相關(guān)則稱為復(fù)相關(guān)。兩個變量x和y的n個樣本值，得到數(shù)據(jù)對:可將其繪成二維散點圖。衡量x和y在共同變動的方向和程度的一個指標(biāo)為協(xié)方差(Sxy或cov(x,y))，定義為：1相關(guān)與回歸分析協(xié)方差Sxy雖能衡量數(shù)據(jù)存在正相關(guān)或負(fù)相關(guān)，但卻不能衡量相關(guān)的顯著程度。此外對于具有不同量綱的數(shù)據(jù)集，協(xié)方差大小也難以比較。因此通常借鑒無量綱標(biāo)準(zhǔn)化的思想，采用另一統(tǒng)計量相關(guān)系數(shù)來描述，記為r，定義如下：其中Sx和Sy為x和y標(biāo)準(zhǔn)差的乘積。相關(guān)系數(shù)r的取值范圍在－1和1之間。當(dāng)r>0表示正相關(guān);當(dāng)r＝0表明不存當(dāng)r<0表示負(fù)相關(guān)；性關(guān)系即不相關(guān)｜r｜越接近于1，則相關(guān)程度越大。一般認(rèn)為：｜r｜≤0.3為弱相關(guān)，0.3<｜r｜<0.5為低度相關(guān)，0.5≤｜r｜<0.8為顯著相關(guān)，0.8≤｜r｜<1為高度相關(guān)，

r＝1為完全相關(guān)。在實際計算中，往往把相關(guān)系數(shù)轉(zhuǎn)化為如下形式：1.2

二元線性回歸回歸分析和相關(guān)分析都是研究和處理變量之間具有相互關(guān)系的數(shù)理統(tǒng)計方法，但它們之間既有聯(lián)系又有區(qū)別。在研究對象和內(nèi)容上兩者是相同的，但相關(guān)分析主要研究要間的密切程度，并無嚴(yán)格的自變量和因變量之分，即并不能表示變量間是否存在因果關(guān)系；回歸分析主要研究變量之間的數(shù)學(xué)表達(dá)形式，有自變量和因變量之分，可通過自變量的值來、內(nèi)插因變量的取值，并估算其誤差，有的性質(zhì)。回歸分析的主要目的有二：一是根據(jù)自變量的值得出因變量的估計值。二是估計值所含誤差的測度。從一組空間數(shù)據(jù)出發(fā)，確定這些變量間的定量數(shù)學(xué)表達(dá)式，即回歸方程；根據(jù)一個或幾個變量的值來

或控制另一個變量的取值；從影響某一過程的許多變量中找出主要變量和次要變量，分析變量間關(guān)系。根據(jù)變量的多少，回歸分析可分為一元回歸模型和多元回歸模型。變量之間的關(guān)系可以是線性關(guān)系或非線性關(guān)系?；貧w分析的主要內(nèi)容可概括如下：量，其期望值為零。此外，

i

是與x無關(guān)的一個隨進(jìn)行回歸分析首先要根據(jù)定性知識分辨自變量和因變量，從而找出方程描述這種因果關(guān)系，用自變量去解釋、估計和推斷因變量。線性回歸即是指采用線性方程的形式去描述兩個變量間的平均關(guān)系，并據(jù)此進(jìn)行誤差估計。變量Y的值由下式確定：yi

0

1

yi

i

。其中，

、

為0

1系數(shù)，為常數(shù)確定值，x稱為自變量，y為因變量。假定在式中，

0

1

xi

稱為系統(tǒng)部分，而

i

稱為隨機(jī)部分。稱為殘差（也稱回歸誤差或?qū)τ诨貧w方程的擬合，一般均采用最小二乘法進(jìn)行最小。由上式可知最小，采用拉格朗日乘子法可得到使根據(jù)樣本數(shù)據(jù)擬合出一條直線（回歸線），稱為樣本回歸函數(shù)，其公式為：y?

?

?

x，其中?0、?1是對上述0

1

、

的估計。一般地，y?i

和

y

不會完全吻合。兩者的差e0

1

i

i誤差）其中ei

yi

y?i

。估計。其準(zhǔn)則是使殘差平方和最小，即iie220

122)x(

y

yeiii

iii

ii

?

?

)

(

y

?iie20

1最小的系數(shù)?

、?

如下：inixi1i1

n(

x)2(xi

x)

yi?

?

y

?

x0

1可從下述兩方面來評價一條回歸線的擬合優(yōu)度。一是能否較好地解釋因變量y的變化，二是能否較好地因變量y的變化。通常用決定系數(shù)來判斷。1.2.2.1

決定系數(shù)對y與x相關(guān)程度的度量可用y各值相對于回歸線的變差和y各值相對于均值變差兩者之比來計算。由于兩者之差可能為負(fù)，因此通常用其平方和代替。即y值相對于回歸線的離差用解釋部分平方和，而y值相對于均值的離差用來計算，代表了被解釋部分平方和。兩者比值即可作為擬合優(yōu)度測度，并記為R2。2222(

y

yy(

y(

y

yei

ii

iiii

)?

)

)R2

1

i

i ii22ei

i

計算，它代表了未被i

ii

)(

y

y?2(

y

yii

i

)YYiei

=來自殘差SRFiy

=總離差iY?y?i=來自回歸YXi

X易知R2介于0和1之間?？梢宰C明R與前述相關(guān)系數(shù)r相等。這就表明R（或r）不僅測量了自變量X和因變量Y和相關(guān)程度，同時也測量其擬合優(yōu)度。1.2.2.2

回歸標(biāo)準(zhǔn)誤差對原始數(shù)據(jù)進(jìn)行了約束。n

2SER

此外，也可用回歸標(biāo)準(zhǔn)誤差(Standard

error

of

theregression，簡寫為SER)來判斷。SER是未解釋部分即殘差的平方和平均后取平方根。表達(dá)式為：

e20

1其中n-2為

度，之所以用n-2來平均而非采用n來平均，因為回歸方程擬合過程中采用了兩個參數(shù)?

、?

，1.2.3

顯著性檢驗兩個變量間相關(guān)系數(shù)大是否表示了數(shù)據(jù)間真正相關(guān)，與樣本量的大小有關(guān)。在情況下，任意兩點確定一條直線，其相關(guān)系數(shù)為1，但這并不能說明兩者間存在相關(guān)關(guān)系。通常采用F檢驗法檢驗相關(guān)系數(shù)是否顯著地異于零。其基本思路是用平均的解釋平方和與平均的未解釋平方和相比較。取兩者的比值為F：F

1

解釋平方和/

度未解釋平方和/度2i

i

i i

(

y

y

)

/

(n

2)(

yi

yi

)

/

12(

yi

yi

)

e2

2e2

/

(n

2)i2

i

i式中的分母即為上述的(SER)2。如果樣本的誤差服從正態(tài)分布，則可根據(jù)F檢驗表查閱對應(yīng)于兩個度和指定顯著性水平的F臨界值。若計算的F值大于此臨界值，則表明樣本相關(guān)系數(shù)顯著異于零。反之，則表明現(xiàn)有樣本量尚不足以確定兩者間是否存在相關(guān)關(guān)系。1.3注意問題單位變換的影響：在進(jìn)行相關(guān)和回歸分析時，往往是選取不同量綱的數(shù)據(jù)進(jìn)行分析，同時單位的選擇也具有一定程度的任意性，如不同變量的單位取得過于懸殊，將會影響分析的精度。因果關(guān)系分析:相關(guān)關(guān)系是描述變量關(guān)系的定量指標(biāo)，變量間是否存在關(guān)系仍需基于定性的判斷。其次，相關(guān)關(guān)系并不一定是因果關(guān)系，某兩個變量高度相關(guān)，可能是同受第三個其它變量影響所致，是一個原因?qū)е碌膬蓚€結(jié)果。但相關(guān)分析有助于因果分析，變量間有無相關(guān)關(guān)系，以及相關(guān)關(guān)系是否顯著有助于變量間的因果關(guān)系。1.3.3問題:

回歸分析是以已知數(shù)據(jù)為基礎(chǔ)的，因此需要謹(jǐn)慎對待問題?，F(xiàn)象發(fā)展不同的階段，或不同側(cè)面可能具有不同的規(guī)律性，相應(yīng)地可能具有不同的參數(shù)，甚至不同的函數(shù)形式。因此回歸方程的結(jié)果應(yīng)注意到其局限性。1.3.4偽相關(guān)問題:偽相關(guān)現(xiàn)象的產(chǎn)生有多種來源：其一是所分析的數(shù)據(jù)間本無聯(lián)系，相關(guān)和回歸分析作為數(shù)學(xué)方法不能對此進(jìn)行識別。其二是數(shù)據(jù)誤差，數(shù)據(jù)來源的確除了可能導(dǎo)致相關(guān)性變小，也可能導(dǎo)致偽相關(guān)的產(chǎn)生。其三是數(shù)據(jù)的分布，要獲得能夠解釋的相關(guān)性，一般要求數(shù)據(jù)分布較為均勻，某些具異常分布的數(shù)據(jù)可能會導(dǎo)致相關(guān)性增大，此時需依據(jù)定性認(rèn)識來判斷是否存在相關(guān)性。多元回歸分析地學(xué)現(xiàn)象的發(fā)生往往受到了多種因素的共同作用，此時需要選取多個變量進(jìn)行多元回歸分析。理論模型①

多元回歸分析的理論模型y

0

1

x1

2

x2

k

xk

其中

~

N

(0,

)

（正態(tài)分布）的變量。對y和

x1,

x2

,xk

各有n個觀測值。于是有：它代表了y的數(shù)學(xué)期望?？杉僭O(shè)根據(jù)觀測數(shù)據(jù)估計參數(shù) 的估計值，并記(i

1,2,n)yi

0

1

x1i

2

x2i

k

xik

i其中

i

~

N

(0,

)（i=1,2,…,n），是相互獨立的隨

量。其中系統(tǒng)部分，即總體回歸函數(shù)的方程為：E(

y)

x1

x2

x，k0

1

2

kk

并進(jìn)行假設(shè)檢驗。以根據(jù)觀測樣本數(shù)據(jù)求出參數(shù)

0

1

，

，,

0

1

k

，

，,

為?

，?

，,

?

，相應(yīng)地總體回歸函數(shù)方程可記為：0

1

ky

?

?

x1

?

x2

?

xk0

1

2

k將觀測數(shù)據(jù)代入即可得到y(tǒng)i的估計值：y?i

?

?

x1i

?

x2i

?

xik0

1

2

ky?i

和實測值yi

的差ei稱為殘差，ei

yi

y?i。最小的系數(shù)。0

1

k殘差的大小是衡量估計值?

，?

，,?

好壞的標(biāo)志。衡量殘差最小可用最大殘差最小、絕對殘差最小或殘差平方和最小來衡量。通常用殘差平方和（SSR）最小這一準(zhǔn)則。并用其去估計參數(shù)

?

，?

，,?

。0

1

k20

1

222)?x(

y

yekik2i1iii

ii

?

x

?

x

?

)

(

y

?i

ii同樣可采用拉格朗日乘子法可得到使iie2

??

?0

1k，,，2.2擬合優(yōu)度在多元回歸分析中，同樣多采用決定系數(shù)和回歸標(biāo)準(zhǔn)誤來確定擬合優(yōu)度。2.2.1決定系數(shù)決定系數(shù)的表達(dá)式為：R2越接近于1擬合得越好，但擬合得好并不代表所選的變量均有顯著性影響。22iiie(

y

yR2

1

i

,

(0

R2

1)

)i2.2.2

回歸標(biāo)準(zhǔn)誤差其中n-k-1為 度，因在擬合過程中計有k+1個參數(shù)對原始數(shù)據(jù)進(jìn)行了約束。n

k

1SER

回歸標(biāo)準(zhǔn)誤差(SER)表達(dá)式為：

e22.3顯著性檢驗同樣采用F檢驗。平均的解釋平方和與平均的未解釋平方和兩者的比值為F：222

) /(n

k

1)?

) /

kF

(

y

y(

yyiiiii

i度未解釋平方和/解釋平方和/

度1F比值服從

度為（k,n-k-1）的F分布，可用其來檢驗1

2

k

0

是否成立。可根據(jù)F檢驗表查閱對應(yīng)于兩個度和指定顯著性水平的F臨界值。若計算的F值大于此臨界值，則表明樣本相關(guān)系數(shù)顯著異于零。2.4注意問題2.4.1自變量的選擇進(jìn)行多元回歸分析，理論上是要求獲得可解釋的和可進(jìn)行的模型。因此必須盡可能選擇有意義的自變量。自變量并非越多越好，隨著自變量的增加，盡管有可能獲得更為精確的擬合方程，但模型本身的可靠性卻受到更大的影響。因此進(jìn)行多元回歸分析，對自變量和因變量之間的關(guān)系的定性分析尤為重要。2.4.2多重共線性盡可能全面地選取能夠描述系統(tǒng)不同側(cè)面的指標(biāo)，有助于更完備地描述系統(tǒng)。但很多情況下指標(biāo)多并不等同于全面，許多指標(biāo)之間在某種程度上類似于“同意反復(fù)”，此時指標(biāo)體系中往往會出現(xiàn)變量多重相關(guān)的情況。事實上許多社會、經(jīng)濟(jì)和技術(shù)指標(biāo)都有同步增長的趨勢，當(dāng)利用不同名目的相關(guān)指標(biāo)反復(fù)描述系統(tǒng)的某一特征時，就人為地夸大該特征在系統(tǒng)分析中的地位，影響分析的客觀性。2.4.3

自相關(guān)在實際生活中，許多序列存在一定程度的相關(guān)性，即當(dāng)前值與前期值有關(guān)。其形成原因有多種，但都可能影響到回歸方程的性，一般地可采用差分法和廣義最小二乘法等加以消除。2.5

可線性化的非線性回歸技術(shù)由于變量間關(guān)系的并非總是線性關(guān)系，因此有些情況下需要借助于某些非線性方程來描述。這里著重提及幾類可以通過某些簡單的數(shù)學(xué)轉(zhuǎn)換，從而借助于線性回歸的方法來處理的非線性的關(guān)系。常用的線性化變換（嚴(yán)格地說進(jìn)行有關(guān)分析需要較多的數(shù)據(jù)量，本例僅為示例）1.相關(guān)分析：人口和GDP間的相關(guān)系數(shù)為0.83，表現(xiàn)兩者間存在很強(qiáng)的正相關(guān)；人

口與耕地之間相關(guān)系數(shù)為-0.91，呈很強(qiáng)的負(fù)相關(guān)，科技進(jìn)步促進(jìn)生產(chǎn)力水

平的提高，糧食單產(chǎn)水平和總量成倍增長，使耕地減少成為可能；GDP和

耕地間的相關(guān)系數(shù)為-0.97，呈強(qiáng)負(fù)相關(guān)，經(jīng)濟(jì)發(fā)展促使耕地減少速度加快，工業(yè)的發(fā)展以及非農(nóng)業(yè)人口的增加，都要求占用大量的耕地來進(jìn)行基礎(chǔ)建

設(shè)，經(jīng)濟(jì)和人口是促使耕地減少的內(nèi)在動力。2.線性回歸分析，即y

b0以GDP為自變量，耕地為因變量進(jìn)行回歸分析，其模型為：該模型的有關(guān)參數(shù)為：y

460.673

0.00342x以人口和GDP為變量，與耕地的多元回歸模型為：其中：t=參數(shù)估計值/估計標(biāo)準(zhǔn)差3.非線性回歸分析耕地面積462460458456454452450448446444500

1000

1500

2000

2500

3000

3500

4000

4500

5000

5500GDPxy

y0

aet

，即2347.00149xy

442.20512

23.59447e，R2＝.99852時間序列分析的基本原理趨勢擬合方法季節(jié)變動（一）時間序列的組

份長期趨勢（T）是指時間序列隨時間的變化而逐漸增加或減少的長期變化的趨勢。季節(jié)變動（S）是指時間序列在一年中或固定時間內(nèi)，呈現(xiàn)出的固定規(guī)則的變動。循環(huán)變動（C）是指沿著趨勢線如鐘擺般地循環(huán)變動，又稱景氣循環(huán)變動(business

cycle

movement)。不規(guī)則變動（I）是指在時間序列中由于隨機(jī)因素影響所引起的變動。（二）時間序列的組合模型加法模型假定時間序列是基于4種成份相加而成的。長期趨勢并不影響季節(jié)變動。若以Y表示時間序列，則加法模型為Y=T+S+C+I乘法模型假定時間序列是基于4種成份相乘而成的。假定季節(jié)變動與循環(huán)變動為長期趨勢的函數(shù)。該模型的方程式為Y

T

S

C

I（3.3.1）（3.3.2）為t點的移動平均值;

n稱為移動)nny?j0t

jt

11

y?

y

1n1

1

y式中:

y?t時距。（一）平滑法時間序列分析的平滑法主要有三類：移動平均法設(shè)某一時間序列為

y1，y2，…，yt，則t+1時刻的

值為（3.3.3）滑動平均法其計算公式為公式為若l=2，則（3.3.4）式稱為五點滑動平均，其計算公式為1t2l

1y?

yt

yt

1

yt

l

)(

yt

l

yt

(l

1)

yt

1式中:y?

t為t點的滑動平均值;l為單側(cè)平滑時距。

若l=1，則（3.3.4）式稱為三點滑動平均，其計算

yt

yt

1

)

/

3

(

yt

1y?t

yt

1

yt

yt

1

yt

2

)

/

5(

yt

2y?t（3.3.4）（3.3.5）（3.3.6）指數(shù)平滑法①一次指數(shù)平滑α為平滑系數(shù)。一般時間序列較平穩(wěn)，α取值可小一些，一般取α∈（0.05,0.3）；若時間序列數(shù)據(jù)起伏波動比較大，則α應(yīng)取較大的值，一般取α∈（0.7,0.95）。tt

y

(1

)

y?n1y?

(1

)

j

yj

0t

jt

1（3.3.7）②高次指數(shù)平滑法二次指數(shù)平滑法的公式為三次指數(shù)平滑法的y?

a

b

k

c

k

2t

t

tt

k

at

bt

k公式為y?t

k（3.3.8）（3.3.9）三種最常用的趨勢線直線型趨勢線yt

a

bt指數(shù)型趨勢線tyt

ab拋物線型趨勢線2yt

a

bt

ct自相關(guān)性判斷①時間序列的自相關(guān)，是指序列前后期數(shù)值之間的相關(guān)關(guān)系，對這種相關(guān)關(guān)系程度的測定便是自相關(guān)系數(shù)。②測度:設(shè)y1，y2，…，yt，…，yn，共有

n個觀察值。把前后相鄰兩期的觀察值一一成對，便有（n－1）對數(shù)據(jù)，即(y1，y2)，(y2，y3)，…，(yt，yt+1)，…，(yn-1，yn)。其一階自相關(guān)系數(shù)r1為2)2n1

n1t

1t

1t

tn1(

yt

1

y

y

)

(

yt

1(

yt

yt

)(

yt

1

yt

1

)

t

1

r1

二階自相關(guān)系數(shù)r2為2)

2n2

n2t

1t

2t

2t

tn2

t

1

y

)

2

(

y

y(

yt

1(

yt

yt

)(

yt

2

yt

2

)r

k階自相關(guān)系數(shù)為nk

nkt

knkkt

12r

t

1

)2(

yt

k

yt

k(

y

y

)

t

1(

yt

yt

)(

yt

k

yt

k

)自回歸模型的建立常見的線性自回歸模型：①

一階線性自回歸②二階線性自回歸③一般地，p階線性自回歸模型為模型為

t模型為yt

0

1

yt

1

1

yt

1

2

yt

2yt

0

tyt

0

p

yt

p

t

1

yt

1在以上各式中，i

(i

0,1,2,,p)為待估計的參數(shù)值，它們可以通過最小二乘法估計獲得。基本步驟（1）對原時間序列求移動平均，以消除季節(jié)變動和不規(guī)則變動，保留長期趨勢；(2）將原序列y除以其對應(yīng)的趨勢方程值（或平滑值），分離出季節(jié)變動（含不規(guī)則變動），即季節(jié)系數(shù)=TSCI/趨勢方程值（TC或平滑值）=SI將月度（或季度）的季節(jié)指標(biāo)加總，以由計算誤差導(dǎo)致的值去除理論加總值，得到一個校正系數(shù)，并以該校正系數(shù)乘以季節(jié)性指標(biāo)從而獲得調(diào)整后季節(jié)性指標(biāo)。求模型，若求下一年度的值，延長趨勢線即可；若求各月（季）的值，需以趨勢值乘以各月份（季度）的季節(jié)性指標(biāo)。t

t是t+k時的

值;

a

、b

為方程系數(shù);的數(shù)學(xué)模型（以直線為例）為

(at

bt

k)

k求季節(jié)變動yt

k式中：yt

k

k

為季節(jié)性指標(biāo)。年份季度t游客人數(shù)y

i/104三點滑動平均2002112602237532533340312.6744223279.33200315275303.3326412346.3337352331.6748231290200419287315.33210428359.67311364345412243表3.3.3某旅游景點2002—2004年各季度客流量解題步驟：（1）求時間序列的三次滑動平均值，見表3.3.3第5列。（2）求季節(jié)性指標(biāo)：將表3.3.3中第4列數(shù)據(jù)分別除以第5列各對應(yīng)元素，得相應(yīng)的季節(jié)系數(shù)。然后再把各季度的季節(jié)系數(shù)平均得到季節(jié)性指標(biāo)，見表3.3.4。季節(jié)性指標(biāo)之和理論上應(yīng)等于4?，F(xiàn)等于3.9515，需要進(jìn)行校正。校正方法是：先求校正系數(shù)：θ=4/3.951

5=1.012

3。然后將表中的第5行，分別乘以θ，即得校正后的季節(jié)性指標(biāo)（見表3.3.4第6行）。表3.3.4季節(jié)性指標(biāo)及其校正值2002—1.153

81.087

40.798

320030.906

61.189

61.061

30.796

620040.910

11.191.055

1—季節(jié)性指標(biāo)0.908

41.177

81.067

90.797

5校正季節(jié)性指標(biāo)0.919

51.192

31.0810.807

2（3）用二次指數(shù)平滑法，求 模型系數(shù)：

(320.6661

7.529

7k)ky12k式中：

k

為校正后的季節(jié)性指標(biāo)。取平滑指數(shù)

0.2，分別計算一次指數(shù)平滑值和二次指數(shù)平滑值，然后再分別計算趨勢模型的系數(shù)和，結(jié)果如表3.3.5所示。由表3.3.5可知，模型為年份季度t游客人數(shù)S

(1)S

(

2)atbt200211260260260260022375283264.6301.44.633340294.4270.56318.245.9644223280.12272.47287.7681.912200315275279.1273.8284.395

21.324

826412305.68280.17331.180

86.37637352314.94287.13342.756

46.953

748231298.15289.33306.974

52.205

3200419287295.92290.65301.195

11.318

1210428322.34296.99347.688

46.337

6311364330.67303.72357.616

76.736

6412243313.14305.61320.666

11.882

4表3.3.5模型系數(shù)（4）求 值

。以2004年第4季度為基期，套用步驟（3）中所得

模型，計算

2005年各季度的客流量第1季度：=301.774

6（104人次）第2季度：=400.27（104人次）

第3季度：=371.07（104人次）

第4季度：=283.17（104人次）由此可以計算出2005年全年度的客流量值為301.774

6+400.27+371.07+283.17=1

356.28（104人次）主成份分析和因子分析在實現(xiàn)方法上非常相近，主要區(qū)別在于應(yīng)用目的不同。主成份分析（Principe

component

ysis，簡稱PCA）在多元統(tǒng)計分析中的地位，一是作為一種分析方法，二是作為進(jìn)行其它分析（如聚類分析）的中間過程。因子分析也是一種多變量數(shù)據(jù)的簡化技術(shù)，可以看成是主成份分析的推廣?；驹碇鞒煞莘治龅哪康氖峭ㄟ^線性變換將多項評價指標(biāo)綜合，形成少數(shù)幾個能充分反映總體信息的主成份，并以其貢獻(xiàn)率為權(quán)重構(gòu)造綜合指標(biāo)，從而在可能互為關(guān)聯(lián)的許多因子中，找出能反映它們內(nèi)在聯(lián)系、并起主導(dǎo)作用的幾個新因子。因子分析的目的是分解原始變量，從中歸納出潛在的類別，將相關(guān)性較強(qiáng)的指標(biāo)分別歸類，每一類變量可能是某種共同因素作用的結(jié)果，而不同類間變量的相關(guān)性較低。因此要求所劃分的類具有明確的實際含義，并可通過適當(dāng)?shù)男D(zhuǎn)變換，以利于對類的解釋。因子分析與主成份分析主要應(yīng)用于：（1）解決多重共線性問題，以主成份分析提取出的主成份代替原變量進(jìn)行分析，可在相當(dāng)程度上消除多重共線性的影響；（2）尋求變量間的結(jié)構(gòu)，通過因子分析確定的變量間的關(guān)系，反映了變量間的潛在結(jié)構(gòu)；（3）更直接的用途在于減少變量數(shù)目，即用較少的特征參數(shù)來表征一個系統(tǒng)。并將變量進(jìn)行分類。主成份（Principal

components）最早可以追溯到Karl

Parson于1901年開創(chuàng)的非隨

量的多元轉(zhuǎn)換分析；1933年H.A.

Ho ling將其推廣到隨

量。工作對象：樣本點×定量變量類型的數(shù)據(jù)表。

工作目標(biāo)：將多變量的平面數(shù)據(jù)進(jìn)行最佳綜合、簡化，以期：①

降維處理： 變量化為低維變量，且信息損失最少。②統(tǒng)計簡化：簡化變量系統(tǒng)的統(tǒng)計數(shù)字特征。對于任意m個變量，描述它們自身相互關(guān)系的特征數(shù)值包括均值、方差、協(xié)方差等，公有

個參數(shù)；經(jīng)主成分分析以后，新變量的均值為0，協(xié)方差亦化為0，變量系統(tǒng)的參數(shù)減少了

，只剩下m個參數(shù)了。例如，

的原來有兩個變量：長度

和寬度，則有兩個均值、兩個方差、一個協(xié)方差，共計5個參數(shù)，主成分分析以后，均值和協(xié)方差為0，只剩下兩個方差了。在特定情況下，可以將m維化為2維，從而在平面上描述樣本點的相互關(guān)系和樣本群點的結(jié)構(gòu)和分布特征，從而上數(shù)據(jù)的可見性（visibility）成為可能：抽象的不可見的空間→直的洞察能力觀的可見的低維平面圖式，極大增強(qiáng)研究或決策，提高工作效率。數(shù)據(jù)群點的重心位置（平均水平）；數(shù)據(jù)變異的最大方向；群點的散步范圍。經(jīng)典實例：1961年，英 計學(xué)家M.Scott對157個英國城鎮(zhèn)的發(fā)展水平

，原始的測量變量共有57個。通過主成分分析發(fā)現(xiàn)，只要5個新的綜合變量就可以95％的精度表示原數(shù)據(jù)的變異情況，而對問題的研究有57維降為5維！y1y2x1主成份分析和因子分析減少數(shù)據(jù)方法的基本思想，可以借助于回歸分析來理解。如特征向量分量x1,x2，并有N個樣本點的點集對y1

的分散性最大，即表達(dá)了最多的分類信息。就可能用一個參數(shù)y1代替原來的參數(shù)x1,x2，新因子（回歸線）是兩變量的線性組合，是兩個變量的綜合反映。將兩變量推廣到多個變量時，仍襲用了用一個因子來解釋兩個或多個變量的這一基本思想。（

x11,

x12

, ,

x1N

,

y11,

y12

,,y1N

），尋找新的坐標(biāo)系y1,

y2,使原來主成分的幾何意義將標(biāo)準(zhǔn)化數(shù)據(jù)標(biāo)繪在X-X坐標(biāo)系中，然后將坐標(biāo)軸按逆時針旋轉(zhuǎn)度，旋轉(zhuǎn)后的坐標(biāo)系用Z表示，且使Z1軸與點群的長軸趨勢一致，相應(yīng)地，Z2與短軸趨勢一致（圖3-5，圖3-6）。首先考慮

M(z1,z2)在X-X坐標(biāo)系中的投影，然后考慮M(x1,x2)在Z-Z坐標(biāo)系中的投影。借助三角函數(shù)知識，可以建立M(z1,z2)與M(x1,x2)的坐標(biāo)關(guān)系。設(shè)在Z－Z坐標(biāo)系中，點M的坐標(biāo)為（

）z，1

,

z它2

在X－X坐標(biāo)系中的坐標(biāo)為（ ），則xx1

,與x2

z的關(guān)系為x1

z1

cos

z2

sin

x2

z1

sin

z2

cos主成分分析寫作矩陣形式即是或者

2

2

x

cos

z

sin

sin

z1

x1

cosX

PZ

2

x1

sin

x2

cosz另一方面，在X－X坐標(biāo)系中，點M的坐標(biāo)為（

x1

,x2

），它在X－X坐標(biāo)系中的坐標(biāo)為（

z1

,z2

），則z與x的關(guān)系為z1

x1

cos

x2

sin

計算步驟主成份分析是一種多元統(tǒng)計方法，它可以對 變量進(jìn)行降維處理，并可建立在數(shù)據(jù)信息的損失量較小的前提之上?；舅悸肥峭ㄟ^數(shù)學(xué)變換，將原p維變量系統(tǒng)系統(tǒng)求解主成份指標(biāo)變量描述，每個樣本點用p

個X可表示為：轉(zhuǎn)x1,換x2為,一xmp維新變量，其y中1,yyh2

,被稱ym為(m第

hp)主成份（h=1,2,…m）。的步聚可簡述如下：（1）原數(shù)據(jù)表yX1中,

y的2

,n個y樣m 本點：則e資1,e料2

,矩e陣nx1,

x2

,xpxxxxxXp

x

12n1n22122

en

e1

2

p

e2

xnp

x1

p

x

x

x11

x12

n

p根據(jù)標(biāo)準(zhǔn)化矩陣計算的協(xié)方差陣。均值：;標(biāo)準(zhǔn)差：標(biāo)準(zhǔn)化數(shù)據(jù)矩陣為：（2）對X

n

p

進(jìn)行標(biāo)準(zhǔn)化處理為X＊：(xxjx

jijij(i

1,2,n;

j

1,2,

p) )

/

s

,*

nijxx

ji1

1n1

/

22

1ni1x(x

)s

jij

j

n

11122122n1

n2npx*x*

x*x*X

*x*n

p

x*

x*1

p

2

p

x*

x*1X

*

X

*相關(guān)陣R，R一般是N

1*

*1

2px

,

x

,,

x*（3）計算X＊的協(xié)方差陣R：R

第i主成份的貢獻(xiàn)率為：

nu1

,u2

,

,un

令（R-λI）u=0，其中I為單位矩陣。計算貢獻(xiàn)率和累計貢獻(xiàn)率：n(k

1,

2, ,

n)ci

i

/

kk

1y

uT

X

,(i

1,

2, ,

n)i

i（4）求特征值和特征向量用Jacobi法求R的特征值1

2

，及相應(yīng)的特征向量m

n前i個主成份的累積貢獻(xiàn)率為：Aci

i

/

k

,

(k

1,

2, ,

n)i1

k

1求主成份：0

1

1

0a

1

4

0

0

211223

3TTT

4.3028,

u

2.0000,

u

0.6972,

u

(0,1,

0)

(0.2898,

0,

0.9571)

(0.9751,

0,

0.2898)1

23y1

uT

X

Xy

uT

X

0.2898X

0.9571X2

2

1y

uT

X

0.9751X

0.2898X3

3

1

3例：求的主成份，及貢獻(xiàn)率各主成份的貢獻(xiàn)率分別為：4.3028/(4.3028+2+0.6972)=4.3028/7=0.61472/(4.3028+2+0.6972)=2/7=0.28570.6972/(4.3028+2+0.6972)=0.6972/7=0.0996主成分分析的要點現(xiàn)將主成分分析的要領(lǐng)概括如下：⒈主成分分析的目的：⑴

降維：

變量化為低維變量（Data

Reduction）。⑵正交：相關(guān)變量化為無關(guān)變量（OrthogonalTransformation）。⒉求解主成分的過程：將m

正交隨

量化為m維正交隨

量，然后從中提取p個方差最大的新變量，于是m維約化維p維（p<m）。⒊求解主成分的代數(shù)意義：二次型化為

。⒋求解主成分的幾何意義：將m維變量坐標(biāo)系在j-k平面繞原點旋轉(zhuǎn)角度，那么主成分得分是樣本點在新坐標(biāo)系下的坐標(biāo)。⒌提取主成分的判據(jù)：根據(jù)原始數(shù)據(jù)相關(guān)系數(shù)矩陣的特征根λj從大到小的累計值（j=1,2,…,m）。⒍λj的數(shù)值意義：⑴方差貢獻(xiàn)：主成分載荷的平方和。⑵主成分得分的方差。⒎主成分載荷的意義：原始變量與主成分（得分）之間的相關(guān)系數(shù)，或夾角余弦。⒏數(shù)據(jù)標(biāo)準(zhǔn)化的本質(zhì)與意義：⑴將變量坐標(biāo)系移到樣本群點的重心位置。⑵消除變量的量綱的影響。⑶使得相關(guān)系數(shù)、交角余弦和協(xié)方差等值。⒐主成分不是系統(tǒng)發(fā)展的主導(dǎo)因素。主要作用在于聚類、回歸等。⒑主成分分析不要輕易推廣到時間變量。下面， 根據(jù)表3.5.1給出的數(shù)據(jù)，對某農(nóng)業(yè)生態(tài)經(jīng)濟(jì)系統(tǒng)做主成分分析。樣本序號人口密度x

1

/(人.km-2

)人均耕地面積x

2

/hm2森林覆蓋率x

3

/%農(nóng)民人均純收入x

4

/(元.人-1

)人均糧食產(chǎn)量x

5

/(kg.人-1

)經(jīng)濟(jì)作物占農(nóng)作物播面比例x

6

/％耕地占土地面積比率

x

7

/％果園與林地面積之比x

8

/％1363.9120.35216.101192.11295.3426.72418.4922.2312141.5031.68424.3011

752.35452.2632.31414.4641.4553100.6951.06765.6011

181.54270.1218.2660.1627.4744143.7391.33633.2051

436.12354.2617.48611.8051.8925131.4121.62316.6071

405.09586.5940.68314.4010.303表3.5.1

某農(nóng)業(yè)生態(tài)經(jīng)濟(jì)系統(tǒng)各區(qū)域單元的有關(guān)數(shù)據(jù)668.3372.03276.2041540.29216.398.1284.0650.0114.861795.4160.80171.106926.35291.528.1354.0630.0124.862862.9011.65273.3071

501.24225.2518.3522.6450.0343.201986.6240.84168.904897.36196.3716.8615.1760.0556.1671091.3940.81266.502911.24226.5118.2795.6430.0764.4771176.9120.85850.302103.52217.0919.7934.8810.0016.1651251.2741.04164.609968.33181.384.0054.0660.0155.4021368.8310.83662.804957.14194.049.114.4840.0025.791477.3010.62360.102824.37188.0919.4095.7215.0558.4131576.9481.02268.0011

255.42211.5511.1023.1330.013.4251699.2650.65460.7021

251.03220.914.3834.6150.0115.59317118.510.66163.3041

246.47242.1610.7066.0530.1548.70118141.470.73754.206814.21193.4611.4196.4420.01212.94519137.760.59855.9011

124.05228.449.5217.8810.06912.65420117.611.24554.503805.67175.2318.1065.7890.0488.46121122.780.73149.1021

313.11236.2926.7247.1620.09210.078x1x2x3x4x5x6x7x8x9x11-0.327-0.714-0.3360.3090.4080.790.1560.744x2-0.331-0.0350.6440.420.2550.009-0.0780.094x3-0.71-0.03510.07-0.74-0.755-0.93-0.109-0.924x4-0.340.6440.0710.3830.069-0.05-0.0310.073x50.3090.42-0.740.38310.7340.6720.0980.747x60.4080.255-0.7550.0690.73410.6580.2220.707x70.790.009-0.93-0.0460.6720.6581-0.030.89x80.156-0.078-0.109-0.0310.0980.222-0.0310.29x90.7440.094-0.9240.0730.7470.7070.890.291（1）將表3.5.1中的數(shù)據(jù)作標(biāo)準(zhǔn)差標(biāo)準(zhǔn)化處理，然后將它們代入公式（3.5.4）計算相關(guān)系數(shù)矩陣（表3.5.2）。表3.5.2 相關(guān)系數(shù)矩陣（2）由相關(guān)系數(shù)矩陣計算特征值，以及各個主成分的貢獻(xiàn)率與累計貢獻(xiàn)率（表3.5.3）。由表3.5.3可知，第1，第2，第3主成分的累計貢獻(xiàn)率已高達(dá)86.596%（大于

85%），故只需要求出第1、第2、第3主成分

z1，z2，z3即可。主成分特征值貢獻(xiàn)率/%累計貢獻(xiàn)率/%z14.66151.79151.791z22.08923.21675.007z31.04311.58986.596z40.5075.63892.234z50.3153.50295.736z60.1932.1497.876z70.1141.27199.147z80.045

30.50499.65z90.03150.35100表3.5.3特征值及主成分貢獻(xiàn)率（3）對于特征值=4.661

0，=2.089

0，=1.0430分別求出其特征向量e1，e2，e3，再用公式（3.5.5）計算各變量x1，x2，…，x9在主成分z1，z2，z3上的載荷（表3.5.4）。z1z2z3占方差的百分?jǐn)?shù)/%x10.739-0.532-0.006182.918x20.1230.887-0.002880.191x3-0.9640.009

60.009

592.948x40.004

20.8680.003

775.346x50.8130.444-0.001185.811x60.8190.1790.12571.843x70.933-0.133-0.25195.118x80.197-0.10.9798.971x90.964-0.00250.009

292.939表3.5.4主成分載荷上述計算過程,可以借助于SPSS或系統(tǒng)實現(xiàn)。第1主成分z1與x1，x5，x6，x7，x9呈現(xiàn)出較強(qiáng)的正相關(guān)，與x3呈現(xiàn)出較強(qiáng)的負(fù)相關(guān)，而這幾個變量則綜合反映了生態(tài)經(jīng)濟(jì)結(jié)構(gòu)狀況，因此可以認(rèn)為第1主成分z1是生態(tài)經(jīng)濟(jì)結(jié)構(gòu)的代表。第2主成分z2與x2，x4，x5呈現(xiàn)出較強(qiáng)的正相關(guān)，與x1呈現(xiàn)出較強(qiáng)的負(fù)相關(guān)，其中，除了x1為人口總數(shù)外，x2，x4，x5都反映了人均占有資源量的情況，因此可以認(rèn)為第2主成分z2代表了人均資源量。(3)第3主成分z3與x8呈現(xiàn)出的正相關(guān)程度最高，其次是x6，而與x7呈負(fù)相關(guān)，因此可以認(rèn)為第3主成分在一定程度上代表了農(nóng)業(yè)經(jīng)濟(jì)結(jié)構(gòu)。(4)另外，表3.5.4中最后一列（占方差的百分?jǐn)?shù)），在一定程度上反映了3個主成分z1、z2、z3包含原變量（x1，x2，…，x9）的信息量多少。顯然，用3個主成分z1、z2、z3代替原來9個變量（x1，x2，…，x9）描述農(nóng)業(yè)生態(tài)經(jīng)濟(jì)系統(tǒng)，可以使問題更進(jìn)一步簡化、明了。1概述因子分析（factorysis）始于20世紀(jì)初的心理學(xué)研究，很快被應(yīng)用于社會學(xué)、類學(xué)、地質(zhì)學(xué)、醫(yī)學(xué)等領(lǐng)域。計量運動時期被引入地理學(xué)。計算機(jī)技術(shù)的發(fā)展為實現(xiàn)因子分析的復(fù)雜計算提供了技。術(shù)支持?，F(xiàn)在在許多科學(xué)領(lǐng)域都有應(yīng)用因子分析的基本目的：用少數(shù)幾個隨較多變量之間的協(xié)方差關(guān)系。這少數(shù)的隨量刻畫量是不可觀測的，人們稱之為“因子（factor）”?；舅悸罚焊鶕?jù)相關(guān)性大小將變量分組，使得組內(nèi)的變量之間具有較高的相關(guān)性，不同組內(nèi)的變量之間相關(guān)性較低。每一組變量組成一個“因子”，代表一種結(jié)構(gòu)，實則原始變量的線性組合，反映已經(jīng)觀測到的相關(guān)性。因子分析因子分析有兩類：R型因子分析：刻畫變量之間的相關(guān)性；Q型因子分析：刻畫樣本之間的相似性。2

數(shù)學(xué)模型（R型）下面以R型因子分析為例，說明因子分析的基本原理。至于Q型因子分析，數(shù)學(xué)原理與R型因子分析一樣，計算時只需將原始變量轉(zhuǎn)置，剩余的處理過程與R型因子分析沒有分別。⒈相關(guān)矩陣假定n個樣本、m個變量的標(biāo)準(zhǔn)化數(shù)據(jù)矩陣（為了書寫方便，對標(biāo)準(zhǔn)化數(shù)據(jù)不加上角標(biāo)）x

x

x

x1

2

m2m21

22

x

x

x

nm

x1m

x

n1

n2

x11

x12xX

代表第j個變量在n個樣本上的觀測值，可視為n維歐式空間中的一個點或向量。表為內(nèi)積形式便是:式中xij代表第i個樣本在第j個變量上的觀測值（

i

1,2,,nj

1,2,,m），等式右端的列向量Tj

1

j

2

j

njx

x

x

x

j

knij

ikn

n變量之間的相關(guān)系數(shù)或協(xié)方差可以表為nkjxT

xxxR1n1n2

x

xij

2iki1i1

i1

xij

xik

i1

jk

j

k

x

nk

xn

nnj

xx2k

x1k

2

j1

jR

1

(x

,

x

)

1

xm個變量兩兩之間的相關(guān)系數(shù)組成一個m維對稱方陣矩陣特征值非負(fù)→半正定矩陣；如果m個變量線性無關(guān)，則R正定，特征值全正。對于標(biāo)準(zhǔn)化數(shù)據(jù)，可以通過相關(guān)系數(shù)研究協(xié)方差矩陣的結(jié)構(gòu)。n

nn

R11

R1m

Rm1

Rmm

考慮兩個變量，

1

X

T

X

(

1

X

T

)(

1

X

)R

x2

，容易驗證：有X

x1

21 22

2

1

2 2

1

1

1 2

21

2

12RR11

R12

Rx

xx

xx

x

1

x1

n

x

1nxT

x

xT

xT

TX

T

X⒉因子模型及其基本定理式中、、…、和、、…、理論上是待求的新變量，即因子。上式的各個變量和參數(shù)解釋如下：假定公因子之間、單因子之間以及公因子與單因子之間都是互不相關(guān)的（即正交的），將原來m個變量表示成若干個因子（新變量）的線性組合形式px

j

akj

f

jk

1

u

j

j

，(

j

1,2,,

p)—公因子載荷，簡稱因子載荷—單因子載荷——公因子：反映變量之間的相關(guān)信息kju

ja

p

——公因子數(shù)：正整數(shù)，p

m

f

k

k

——單因子：反映相應(yīng)變量的特有信息為了說明方便，只考慮兩個變量、兩個因子的情況，因子模型可以展開為：令，式中F

被稱為因子計量（

measurement

offactors），其要素數(shù)值實則因子得分。于是因子模型可以表為矩陣形式j(luò)

um

0U

diag(u

)

為了求解因子模型，需要建立對角矩陣u1

0

2

12

1

22

f

2

u2

2

a

f

ax

u11

a21

f

2x1

a11

f121X

x x

，

21 22

12aaaA

a111

2F

f

f

0u2

u1

0

，，U

E

1

2

X

FA

EU顯然：If

ff

fnf

T

f f

T

fTTF

T

F

f

f

0

1

1 0

1n2

f

2

1

2 2

1

1

1 2

21

2

1

1

f1

ITTTTET

E

0

1

1 0

1n

2

1

2 2

1

1

1 2

21

2

n

1

1

1

nOTTTT

n

f

0

00 0

1n1n

2

1

2 2

1

1

1 2

21

2

f

f

f

f

F

T

E

1

f1

同理OTTET

F

f

f

0

0

0 0

1nT

1

1

1 2

T2

1

2 2

21

2

f

f

f

fn

1

1

1

n于是R

1

X

T

X

1

(FA

EU

)T

(FA

EU

)n

n

1

(FA)T

(FA)

1

(FA)T

(EU

)

1

(EU

)T

(FA)

1

(EU

)T

(EU

)n

n

n

nnn

n

nT

T

T

T

T

T

T

T1

1

1

1

A

(

F F

)

A

A

(

F E)U

U

(

E F

)

A

U

(

E

E)U

AT

IA

AT

OU

U

T

OA

U

T

IU

AT

A

U

TU令R*

AT

A

為約相關(guān)矩陣，則上式化為

R

U

TUR*這是因子分析的基本定理，式中

2

100

u

2u

2U

TU

顯然，R*與R只是對角線上的元素不同，其余元素相同。⒊因子模型各個變量或參數(shù)的統(tǒng)計意義A

EU

)

f

1

n⑴因子載荷與因子載荷矩陣用二維的情況進(jìn)行說明。假定數(shù)據(jù)都已標(biāo)準(zhǔn)化，公因子與原始變量的相關(guān)矩陣

1

f數(shù)矩陣，

n

(

1n可見因因子載荷可以表作Tk

jkjf

xn1a

。對于二變量的情況，列為表格即為式中k

1,2,,pj

1,2，,,

m⑵公因子方差稱pja2kjh2，(

j

1,2,,

m

)k

1為第j個變量xj的公因子方差。對于二變量的情形，顯然1h2

a

2

a

211

212，h2

a

2

a

212

22第j個變量的方差為211jjp2kjpkjTpj

j

Tn

uhxx

(n)(

)

k

1k

1jkj

kj

jkjk

1從而jh2

u

2

2

1j x

j。可以看出：j顯然

h2

1①變量xj的方差由兩部分構(gòu)成：一是公因子方差hj2，它是全部因子對變量xj的總方差所提供的貢獻(xiàn)；二是單因子對變量所提供的方差貢獻(xiàn)，僅與xj自身的變化有關(guān)。②公因子方差h

2是p個公因子對