典型相關(guān)分析的實(shí)例

CanonicalCorrelationAnalysis典型相關(guān)分析典型相關(guān)分析的實(shí)例一、引言

典型相關(guān)分析的實(shí)例

1.兩個(gè)隨機(jī)變量Y與X簡單相關(guān)系數(shù)2.一個(gè)隨機(jī)變量Y與一組隨機(jī)變量X1,X2,…,Xp多重相關(guān)(復(fù)相關(guān)系數(shù))3.一組隨機(jī)變量Y1，Y2，…，Yq與另一組隨機(jī)變量X1，X2，…，Xp典型(則)相關(guān)系數(shù)（一）何時(shí)采用典型相關(guān)分析典型相關(guān)是簡單相關(guān)、多重相關(guān)的推廣；或者說簡單相關(guān)系數(shù)、復(fù)相關(guān)系數(shù)是典型相關(guān)系數(shù)的特例。典型相關(guān)分析的實(shí)例

典型相關(guān)是研究兩組變量之間相關(guān)性的一種統(tǒng)計(jì)分析方法。也是一種降維技術(shù)。由Hotelling(1935,1936)最早提出，CooleyandLohnes(1971)、Kshirsagar(1972)和Mardia,Kent,andBibby(1979)推動(dòng)了它的應(yīng)用。

典型相關(guān)分析的實(shí)例實(shí)例（X與Y地位相同）

X1,X2,…,XpY1,Y2,…,Yq1臨床癥狀所患疾病2原材料質(zhì)量相應(yīng)產(chǎn)品質(zhì)量3居民營養(yǎng)健康狀況4生長發(fā)育（肺活量）身體素質(zhì)（跳高）5人體形態(tài)人體功能典型相關(guān)分析的實(shí)例

1985年中國28省市城市男生(19～22歲)的調(diào)查數(shù)據(jù)。記形態(tài)指標(biāo)身高(cm)、坐高、體重(kg)、胸圍、肩寬、盆骨寬分別為X1，X2，…，X6；機(jī)能指標(biāo)脈搏(次/分)、收縮壓(mmHg)、舒張壓(變音)、 舒張壓(消音)、肺活量(ml)分別為Y1，Y2，…，Y5?，F(xiàn)欲研究這兩組變量之間的相關(guān)性。

典型相關(guān)分析的實(shí)例

典型相關(guān)分析的實(shí)例簡單相關(guān)系數(shù)矩陣

典型相關(guān)分析的實(shí)例簡單相關(guān)系數(shù)公式符號(hào)Corr（X）＝R11Corr（Y）＝R22Corr（Y，X）＝R21Corr（X，Y）＝R12典型相關(guān)分析的實(shí)例簡單相關(guān)系數(shù)

描述兩組變量的相關(guān)關(guān)系的缺點(diǎn)

只是孤立考慮單個(gè)X與單個(gè)Y間的相關(guān)，沒有考慮X、Y變量組內(nèi)部各變量間的相關(guān)。兩組間有許多簡單相關(guān)系數(shù)（實(shí)例為30個(gè)），使問題顯得復(fù)雜，難以從整體描述。典型相關(guān)分析的實(shí)例（二）典型相關(guān)分析的思想采用主成分思想尋找第i對(duì)典型(相關(guān))變量（Ui，Vi）：典型相關(guān)系數(shù)典型變量系數(shù)或典型權(quán)重

典型相關(guān)分析的實(shí)例

X*1，X*2，…，X*p和Y*1，Y*2，…，Y*q分別為X1，X2，…，Xp和Y1，Y2，…，Yq的正態(tài)離差標(biāo)準(zhǔn)化值。記第一對(duì)典型相關(guān)變量間的典型相關(guān)系數(shù)為：＝Corr（U1，V1）（使U1與V1

間最大相關(guān)）

第二對(duì)典型相關(guān)變量間的典型相關(guān)系數(shù)為：＝Corr（U2，V2）（與U1、V1

無關(guān)；使U2與V2

間最大相關(guān)）.....……

第五對(duì)典型相關(guān)變量間的典型相關(guān)系數(shù)為：＝Corr（U5，V5）（與U1、V1

、…、U4、V4無關(guān)；U5與V5

間最大相關(guān)）有：

典型相關(guān)分析的實(shí)例典型相關(guān)變量的性質(zhì)典型相關(guān)分析的實(shí)例12η2η1典型變量典型相關(guān)系數(shù)1與2是三個(gè)X變項(xiàng)的線性組合。η1與η2代表兩個(gè)Y變項(xiàng)的線性組合。典型加權(quán)系數(shù)（三）典型相關(guān)分析示意圖典型相關(guān)分析的實(shí)例二、典型相關(guān)系數(shù)及其檢驗(yàn)

典型相關(guān)分析的實(shí)例（一）求解典型相關(guān)系數(shù)的步驟求X，Y變量組的相關(guān)陣

R=

；求矩陣

A、B

可以證明A、B有相同的非零特征根；典型相關(guān)分析的實(shí)例3.求A或B的λi（相關(guān)系數(shù)的平方）與，

i＝1,…,m，即；4.求A、B關(guān)于λi的特征根向量即變量加權(quán)系數(shù)。典型相關(guān)分析的實(shí)例（二）典型相關(guān)系數(shù)計(jì)算實(shí)例求X，Y變量組的相關(guān)陣

R=典型相關(guān)分析的實(shí)例Corr（X）＝R11Corr（Y）＝R22Corr（Y，X）＝R21Corr（X，Y）＝R12典型相關(guān)分析的實(shí)例2.求矩陣A、B典型相關(guān)分析的實(shí)例A矩陣(p×p)0.52980.45860.30530.3986-0.2919-0.1778-0.0912-0.0701-0.1669-0.1939-0.0007-0.01680.22740.27390.54890.08400.52380.44680.09660.03760.05100.3877-0.2523-0.1759-0.0915-0.0979-0.0669-0.03770.0061-0.08060.09490.14210.1757-0.02100.21710.3142典型相關(guān)分析的實(shí)例B矩陣(q×q)0.2611-0.0560-0.0337-0.0551-0.0312-0.00530.55720.10090.0034-0.0543-0.0632-0.08430.08590.00130.1743-0.1175-0.00070.11830.25500.1490-0.10520.13900.35310.29120.5573典型相關(guān)分析的實(shí)例3.求矩陣A、B的λ（相關(guān)系數(shù)的平方）A、B有相同的非零特征值典型相關(guān)分析的實(shí)例B矩陣求λ

（典型相關(guān)系數(shù)的平方）0.2611-

λ-0.0560-0.0337-0.0551-0.0312-0.00530.5572-λ

0.10090.0034-0.0543-0.0632-0.08430.0859-λ

0.00130.1743-0.1175-0.00070.11830.2550-λ

0.1490-0.10520.13900.35310.29120.5573-λ

典型相關(guān)分析的實(shí)例5個(gè)λ與典型相關(guān)系數(shù)λ1＝0.7643λ2＝0.5436λ3＝0.2611λ4＝0.1256λ5＝0.0220

典型相關(guān)分析的實(shí)例4.求A、B關(guān)于λi的變量系數(shù)

（求解第1典型變量系數(shù)）

典型相關(guān)分析的實(shí)例求解第2典型變量系數(shù)

典型相關(guān)分析的實(shí)例…求解第5典型變量系數(shù)

典型相關(guān)分析的實(shí)例5組（標(biāo)準(zhǔn)化）典型變量系數(shù)(X)U1U2U3U4U5X10.5852-1.14430.78230.0352-0.8298X2-0.21750.01890.60320.12891.5590X30.52881.6213-0.7370-0.4066-1.1704X40.1890-0.9874-0.77530.12290.6988X5-0.1193-0.0626-0.2509-0.58601.0488X60.19480.81080.14670.9523-0.5140典型相關(guān)分析的實(shí)例5組（標(biāo)準(zhǔn)化）典型變量系數(shù)(X)典型相關(guān)分析的實(shí)例由標(biāo)準(zhǔn)化典型變量系數(shù)獲得原變量X對(duì)應(yīng)的粗典型變量系數(shù)粗典型變量系數(shù)可由標(biāo)準(zhǔn)典型變量系數(shù)與相應(yīng)的標(biāo)準(zhǔn)差之比獲得。典型相關(guān)分析的實(shí)例5組（標(biāo)準(zhǔn)化）典型變量加權(quán)系數(shù)(Y)V1V2V3V4V5Y1-0.0838-0.13251.08070.3750-0.0376Y2-0.08781.26880.07010.2476-0.3342Y30.2147-0.33010.2218-1.08631.4100Y40.2920-0.2392-0.57651.3368-0.2942Y50.7607-0.29950.6532-0.0017-0.6905典型相關(guān)分析的實(shí)例（三）典型相關(guān)系數(shù)的特點(diǎn)

兩變量組的變量單位改變，典型相關(guān)系數(shù)不變，但典型變量加權(quán)系數(shù)改變。（無論原變量標(biāo)準(zhǔn)化否，獲得的典型相關(guān)系數(shù)不變）第一對(duì)典則相關(guān)系數(shù)較兩組變量間任一個(gè)簡單相關(guān)系數(shù)的絕對(duì)值都大，即

ρ1≥max(|Corr(Xi,Yj)|)或ρ1≥max(|Corr(X,Yj)|)≥max(|Corr(Xi,Y)|)典型相關(guān)分析的實(shí)例（四）校正典型相關(guān)系數(shù)

（AdjustedCanonicalCorrelation）

為了使結(jié)果更加明了，增加大值或小值，減少中間大小的值，將典型變量系數(shù)旋轉(zhuǎn)，可得到校正的典型相關(guān)系數(shù)。缺點(diǎn)：1.可能影響max（U1,V1）；2.影響（U1,V1）與其他典型變量間的獨(dú)立性。典型相關(guān)分析的實(shí)例（五）典型相關(guān)系數(shù)的假設(shè)檢驗(yàn)

全部總體典型相關(guān)系數(shù)均為0部分總體典型相關(guān)系數(shù)為0典型相關(guān)分析的實(shí)例1.全部總體典型相關(guān)系數(shù)為0典型相關(guān)分析的實(shí)例F近似檢驗(yàn)（計(jì)算公式）典型相關(guān)分析的實(shí)例F近似檢驗(yàn)（SAS結(jié)果）

TestofH0:ThecanonicalcorrelationsinthecurrentrowandallthatfollowarezeroLikelihoodApproximateRatioFValueNumDFDenDFPr>F10.067984662.2430700.003020.288405091.382060.6490.168630.631953010.801250.5610.650440.855215980.546400.772950.978034790.242210.7920典型相關(guān)分析的實(shí)例多變量統(tǒng)計(jì)量與F近似檢驗(yàn)

MultivariateStatisticsandFApproximationsStatisticValueFValueNumDFDenDFPr>FWilks'Lambda0.067982.2430700.0030Pillai'sTrace1.716511.83301050.0133Hotelling-LawleyTrace4.952772.623035.3960.0032Roy'sGreatestRoot3.2422111.35621<.0001NOTE:FStatisticforRoy'sGreatestRootisanupperboun.典型相關(guān)分析的實(shí)例多變量統(tǒng)計(jì)量的計(jì)算公式典型相關(guān)分析的實(shí)例2.部分總體典型相關(guān)系數(shù)為0

僅對(duì)較小的典型相關(guān)作檢驗(yàn)典型相關(guān)分析的實(shí)例卡方近似檢驗(yàn)典型相關(guān)分析的實(shí)例部分總體F近似檢驗(yàn)（計(jì)算公式）典型相關(guān)分析的實(shí)例三、典型結(jié)構(gòu)分析典型相關(guān)分析的實(shí)例與原變量間的相關(guān)程度和典型變量加權(quán)系數(shù)有關(guān)。典型變量與原變量的親疏關(guān)系

原變量與自已的典型變量

原變量與對(duì)方的典型變量之間的相關(guān)系數(shù)。典型相關(guān)分析的實(shí)例原變量在典型變量上的負(fù)荷(即原變量與典型變量間的相關(guān)系數(shù))U1U2U3U4U5V1V2V3V4V5身高X10.9050-0.08060.3777-0.14870.08870.7912-0.05940.1930-0.05270.0132坐高X20.86160.01120.4152-0.03600.24120.75320.00830.2121-0.01280.0357體重X30.93610.1655-0.0471-0.2933-0.02470.81840.1220-0.0240-0.1039-0.0037胸圍X40.6958-0.3189-0.53820.31910.13540.6083-0.2351-0.27500.11310.0201肩寬X50.13560.5329-0.0321-0.23760.73890.11850.3929-0.0164-0.08420.1095骨盆寬X60.24330.4412-0.04050.74780.39080.21270.3253-0.02070.26500.0579脈搏Y1-0.3610-0.06250.37570.16050.0410-0.4130-0.08480.73530.45300.2764收縮壓Y20.39630.62320.04950.05080.03320.45330.84520.09680.14330.2240舒張壓(音變)Y30.58010.15680.03780.02870.10500.66360.21270.07400.08100.7087舒張壓(消音)Y40.50030.0296-0.08370.23390.06770.57230.0401-0.16380.66000.4565肺活量Y50.79940.00940.0685-0.0743-0.04730.91440.01280.1341-0.2098-0.3190典型相關(guān)分析的實(shí)例負(fù)荷矩陣的表達(dá)左上角的矩陣

X1=0.9050U1-0.0806U2+0.3777U3-0.1487U4+0.0887U5

X2=0.8616U1+0.0112U2+0.4152U3-0.0360U4+0.2412U5……X6右下角的矩陣

Y1=-0.4130V1-0.0848V2+0.7353V3+0.4530V4+0.2764V5

Y2=0.4533V1+0.8452V2+0.0968V3+0.1433V4+0.2240V5…..Y5典型相關(guān)分析的實(shí)例各典型變量的意義解釋UVCorr(U,V)1身高、坐高、體重、胸圍舒張壓、肺活量0.87422肩寬收縮壓0.73733胸圍(-)脈搏0.51054骨盆寬舒張壓(消音)0.35425肩寬舒張壓(音變)0.1510典型相關(guān)分析的實(shí)例

等于該變量與自己這方典型變量的相關(guān)系數(shù)與典則相關(guān)系數(shù)的乘積

原變量與對(duì)方典型變量的相關(guān)典型相關(guān)分析的實(shí)例原變量與對(duì)方典型變量的相關(guān)

右上角和左下角反映了原變量和對(duì)方的典型變量間關(guān)系，為利用對(duì)方的典型變量來預(yù)測原變量(回歸)提供依據(jù)。典型相關(guān)分析的實(shí)例四、典型變量的冗余分析

（CanonicalRedundancyAnalysis）典型相關(guān)分析的實(shí)例

該方法由StewartandLove1968;CooleyandLohnes1971;vandenWollenberg1977)發(fā)展。以原變量與典型變量間相關(guān)為基礎(chǔ)。通過計(jì)算X、Y變量組由自己的典型變量解釋與由對(duì)方的典型變量解釋的方差百分比與累計(jì)百分比，反映由典型變量預(yù)測原變量的程度。典型相關(guān)分析的實(shí)例典型變量編號(hào)X1，X2，X3，X4，X5，X6被U1，U2，…，U5解釋典