多元統(tǒng)計(jì)分析石家莊經(jīng)濟(jì)學(xué)院

1、多元統(tǒng)計(jì)分析石家莊經(jīng)濟(jì)學(xué)院多元分析概述數(shù)據(jù)的組織陣列 描述統(tǒng)計(jì)量 樣本協(xié)方差 圖解法矩陣代數(shù)與隨機(jī)向量一、矩陣代數(shù)基礎(chǔ)（一）定義個(gè)實(shí)數(shù)排列成的一個(gè)有 將qpp行、q列的矩陣列稱為qp矩陣，常記作 qpaAij:，其中ija是第i行、第j列的元素。若q=1，則稱A為p維列向量，記作paaa21a若p=1，則稱A為q維行向量，記作qaaa,21a若矩陣 的所有元素全為零，則稱 為零矩陣。若 ，則稱 為 階方陣。pAqp AA轉(zhuǎn)置矩陣：將矩陣的行與列互換，記作 A對角線元素ppaaa,2211非對角線元素)(jiaij對角矩陣：對角線所有非對角線元素均為零。簡記為),(2211ppaaadiagA或

2、p階單位矩陣：所有p個(gè)對角線元素均為1，記作IAPIA 上三角矩陣：方陣的對角線下方的元素全為 。0下三角矩陣：方陣的對角線上方的元素全為 。0則425113)23(A對稱矩陣：若A是方陣，且AA 斜對稱矩陣：若A是方陣，且AA例：如果451213)32(A（二）運(yùn)算（二）運(yùn)算1、和的運(yùn)算（相同維數(shù)的兩個(gè)矩陣可以相加） 若 ，則A與B的和定義為qpbBqpaAijij: )(,: )(qpbaBAijij: )(則243211115121312310)32()32(BA2、積的運(yùn)算 若c為一常數(shù)，則它 與A的積定義為若 ，則A與B的積定義為qpcacAij: )(rqbBqpaAijij: )

3、(,: )(rpbaABqkkjik: )(1注意注意：當(dāng)A的列元素個(gè)數(shù)與B的行元素個(gè)數(shù)相同時(shí)，才能進(jìn)行矩陣的乘積運(yùn)算。 例 若 1102972,451213CBA和則6959475)2(1927) 1()2(3972451213) 13()32(BA3、矩陣運(yùn)算規(guī)律、矩陣運(yùn)算規(guī)律; )(BABA（1）)(ABAB（2）2121)(ABABBBA（3）kkABBA11)(（4）cBcABAc)(（5）正交矩陣：若方陣 滿足 。即矩陣的每一行均具有單位長度且行與行之間互相垂直（正交）。AIAA 投影矩陣：對稱的冪等矩陣。冪等矩陣：若方陣 滿足 。AA 2A如果存在矩陣 ，使得B)()()()()

4、(kkkkkkkkkkIBAAB則稱 為 的逆矩陣，并記作 。BA1A（三）（三） 矩陣的逆矩陣的逆1、定義 如果 ，就存在一個(gè)倒數(shù) ，能使 ，這個(gè)基本的數(shù)量關(guān)系在矩陣代數(shù)中有如下推廣：0a1a111aaaa 的 個(gè)列向量 線性無關(guān)。即的存在等價(jià)于 僅當(dāng) 時(shí)。即 是非退化方陣。Akkaaa1,21A0aaa21kkccc21021kcccA存在逆矩陣的條件是：逆矩陣具有如下的基本性質(zhì)： IAAAA11(1)TTAA)()(11（2） (3) 若 和 均為 階非退化方陣， 則 ACp111)(ACAC11AA （4） (5)若 是正交矩陣，則 ATAA1),(2211ppaaadiagA 則),

5、(11221111ppaaadiagA（6）若 非退化（即 ） piaii, 2 , 1, 0AB1110000BABA（7）若和為非退化方陣，則 于是：22) 1(, 1) 1() 1(, 33) 1(, 66) 1(,152222122121121111AAAAA故 的逆矩陣為： A152511515223161511A6312A例：設(shè)400063012A例：設(shè)（1） ， 當(dāng)且僅當(dāng) 。0)(Arank0A（2）若 為矩陣 ,且 ， 則 。 Aqp0AqpArank,min)(12、 矩陣的秩的基本性質(zhì)：（四）矩陣的秩（四）矩陣的秩1、定義：設(shè) 為 矩陣，如果 中不為零的子方陣最高階數(shù)為 ，

6、而任何 階子方陣皆為零，則稱 為矩陣 的秩，記作AAA1rrrqprArank)(（4） 。 )()(0000BrankArankBArankBArank（5） 。 )(),(min)(BrankArankABrank（3） 。 )()(TArankArank（7） 階方陣 是非退化的，當(dāng)且僅當(dāng) （稱作 是滿秩的）。pApArank)(A（8） 。)()(ArankAArankT（6）若 和 為非退化方陣，則 AC)()(BrankABCrank 例：設(shè) ， 由于 ， 所以 的秩是2。2143A0246AA20)2(2AA1的秩是1。1階子方陣的行列式是和，而故矩陣2121A例：設(shè)一 定義 設(shè)

7、 是 階方陣，若對于一個(gè)數(shù) ，存在一個(gè) 維非零向量 ，使得 ，則稱 為 的一個(gè)特征值或特征根，而稱 為 的屬于特征值 的一個(gè)特征向量。由該定義有， ，而 ，故必有 。AppxxxAAAx0 x )(IA0 x 0 IA特征值和特征向量是 的 次多項(xiàng)式，稱為特征多項(xiàng)式。上式有 個(gè)根（可能有重根），記作 ，它們可能為實(shí)數(shù)，也可能為復(fù)數(shù)。若 是 的一個(gè)根，則 為退化矩陣，故存在一個(gè) 維非零向量 ，使得 即 是 的一個(gè)特征值，而 是相應(yīng)的特征向量，一般都取為單位向量，即滿足IApp,21i0 IAIAippix0 x iiIA)(iAix1iTixx 故 的特征值是 和 ，相應(yīng)的單位特征向量為 A72

8、215251,515221xx6223A例 ： 設(shè) ) 7)(2(4)6)(3 (IA于是 二二 特征值和特征向量的基本性質(zhì)特征值和特征向量的基本性質(zhì)：（1） 和 有相同的特征值。TAA(2) 若 和 分別是 和 矩陣，則 和 有相同的非零特征值。BAqpBAABpq證明： 因?yàn)閝pqpqpIBABIIBAIIAI00BAIAIIBAIIBIqpqpqp00BAIAIIBABIqpqp00BAIABIqppq所以又故有 和pq0 BAIq0 ABIp關(guān)于 的方程 和 有著完全相同的非零根（若有重根，則它們的重?cái)?shù)也相同），故而 和 有相同的非零特征值。ABBA0 ABIp0 BAIq（3）若 為

9、實(shí)對稱矩陣，則 的特征值全為實(shí)數(shù)， 個(gè)特征值按大小依次表示為 。若 ，則相應(yīng)的特征向量 和 必正交，即 。AApp21jiixjx0jixx 證明 （1）設(shè) 是 的任一特征值， 是相應(yīng)的特征向量，于是兩邊取共軛復(fù)數(shù)，并注意 為實(shí)數(shù)矩陣，得 兩邊左乘 得AxxxAAxxATxxxxxTTA 又因此由于 ，從而 ，故而 ，即 為實(shí)數(shù)。xxxxxxTTTAA)(xxxxTT0 x 0 xxT（2）因?yàn)?所以 而 故 由于 ， 因而有jjjiiiAAxxxx,jTijjTiiTjiiTjAAxxxxxxxx,jTiiTjAAxxxxjTijiTjixxxxji0jTixx（4）若 ，則 為 的 個(gè)特征

10、值，相應(yīng)的特征向量分別為 。),(2211ppaaadiagAppaaa,2211ApTpTT) 1 , 0 , 0(,)0 , 1 , 0(,)0 , 0 , 1 (21eee（5）若 為 階對稱矩陣，則存在正交矩陣 及對角矩陣 ，使得ApT),(21pdiagTTTApppA00),(),(212121llllll),(),(221121pppAAAllllll上式兩邊右乘 ，得將 按列向量分塊，并記作 ，于是有TT),(21pTlllTAT故這表明 是 的 個(gè)特征值，而 為相應(yīng)的特征向量。由于 是正交矩陣，所以可以更確切地說，它們是正交單位特征向量。piAiii, 2 , 1,llp,2

11、1Aplll,21Tp上述矩陣 可作如下分解： 稱之為 的譜分解。ApiTiiiTpTTppTTTA121212100),(l lllllllA 三 方陣的跡（一）定義 設(shè) 為 階方陣，則它的對角線元素之和稱為 的跡，記作 ，即 AApppaaaAtr2211)()(Atr（二）方陣的跡的性質(zhì)：（1） 若 為 的特征值，則p,21AppAtr2211)(（2）（3）（4）（5）（6）若 為投影矩陣，則)()(BAtrABtr)()(TAtrAtr)()()(BtrAtrBAtrkkAtrAtr11)()(A)()(ArankAtr正定矩陣和非負(fù)定矩陣一 定義 設(shè) 是 階對稱矩陣， 是一 維向量

12、，則xx ATApxp稱為 的二次型。若對一切 ，有 ，則稱 為正定矩陣，記作 ；A0 x 0 xx AT若對一切 ，有 ，則稱 為非負(fù)定矩陣，記作 。 表示 ； A0AxA0 xx AT0A表示 。BA BA0 BA0 BA二、正定矩陣和非負(fù)定矩陣的性質(zhì)：（1）設(shè) 是對稱矩陣，則 是正定（或非負(fù)定）矩陣，當(dāng)且僅當(dāng) 的所有特征值均為正（或非負(fù)）。AAA（2）若 ，則 。0A0TA（3）設(shè) ，則 ，當(dāng)且僅當(dāng) 。0A0A0A（4） 對一切矩陣 成立。 證明 0TBBB2)()()(TTTTTTTTTTTTTTTTTTTTTTTTT（5）若 （或 ），則存在 （或 ），使得 ， 稱為 的平方根。21

13、21AAA 021A0A21AA00證明 因?yàn)?是對稱矩陣，所以存在正交矩陣 和對角矩陣 ，使得 。由 （或 ） 可知， 。令則有由于 的特征值 ，所以 （或 ） AT),(21pdiagTTTA0A0pii, 2 , 10(0），或TpTTAdiag21212121),(212121212121AATTTTTTATTT21Apii, 2 , 10(0），或021A0（6）設(shè) 是 階秩為 的矩陣，則存在一個(gè)秩為 的 矩陣 ，使得 。0AprrpBTBBA r證明 因?yàn)?，所以存在正交矩陣 和對角矩陣 ，使得 ，且 。又 。令 ， ， ，0AT),(21pdiagTTTA021p0121prr),(211rdiag)(21TTT 2111 TBTTTTTTTBBTTTTTTTTATTTTA)(000)(211121111211211111121121顯然， 是秩為 的 矩陣，因此Brrp特征值的極值問題 若 是 階對稱矩陣，其特征值依次為 則 p021p1/supxxxx0 xTTAApTTAxxxx0 x/inf證明 由于 是對稱矩陣，故存在正交矩陣 和對角矩陣 ，使得 。令 ，于是 ，即 ，可得 TTTTA),(21pdiagxxxyTTT/piiiTTTyA12/yyxxxx1yyT112piiyA故而（2）若 是 階對稱矩陣， 是 階正定矩陣， 是 的