應用多元統(tǒng)計分析（第六版）課件-第一章矩陣代數(shù)

第一章矩陣代數(shù)§1.1定義§1.2矩陣的運算§1.3行列式§1.4矩陣的逆§1.5矩陣的秩§1.6特征值、特征向量和矩陣的跡§1.7正定矩陣和非負定矩陣§1.8特征值的極值問題1§1.1定義p×q矩陣：p維列向量：q維行向量：

b′=(b1,b2,?,bq)向量a的長度：單位向量：2向量的幾何意義以p=2時為例，3坐標點帶有方向又有長度的量一些矩陣概念零矩陣：0=0pq=(0):

p×q

。p階方陣：對角線元素：a11,a22,?,app

非對角線元素：aij(i≠j)45下三角矩陣：對角矩陣：單位矩陣：上三角矩陣：A的轉(zhuǎn)置：對稱矩陣：A為方陣，滿足A′=A；顯然，aij=aji。例如，6§1.2矩陣的運算若A=(aij)：p×q，B=(bij)：p×q，則A與B的和定義為A+B=(aij+bij)：p×q若c為一常數(shù)，則它與A的積定義為cA=(caij)：p×q7若A=(aij)：p×q，B=(bij)：q×r，則A與B的積定義為8運算規(guī)律(1)(A+B)′=A′+B′。(2)(AB)′=B′A′。(3)A(B1+B2)=AB1+AB2。(4)

。(5)c(A+B)=cA+cB。9若兩個p維向量a和b滿足 a′b=a1b1+a2b2+?+apbp=0

則稱a和b正交。若方陣A滿足AA′=I，則稱A為正交矩陣。正交矩陣的三個等價定義：若方陣A滿足A2=A，則稱A為冪等矩陣。對稱的冪等矩陣稱為投影矩陣。10正交矩陣A的幾何意義當p=2時，11當p=3時，坐標系（剛性）旋轉(zhuǎn)后新舊坐標的變換可表達為

其中的變換矩陣也一定為正交矩陣。正交陣A的行列式非1即?1。若|A|=1，則正交變換y=Ax意味著對原p維坐標系作一剛性旋轉(zhuǎn)（或稱正交旋轉(zhuǎn)），y的各分量正是該點在新坐標系下的坐標；若|A|=?1，則包含了一個鏡面反射的坐標軸。由于y′y=(Ax)′(Ax)=x′A′Ax=x′x

故在新、舊坐標系下，該點到原點的距離保持不變。12矩陣的分塊設A=(aij)：p×q,將它分成四塊，表示成

若A和B有相同的分塊，則13若C為q×r矩陣，分成

則有14例1.2.2證明正交矩陣A：p×p的p個列向量和p個行向量都是一組正交單位向量。證明

記

由A′A=I，得15

于是

故有

即a1,a2,?,ap為一組正交單位向量。同理，由AA′=I可證a(1),a(2),?,a(p)也是一組正交單位向量。16§1.3行列式p階方陣A=(aij)的行列式定義為

這里

表示對1,2,?,p的所有排列求和，τ(j1j2?jp)是排列

j1,j2,?,jp中逆序的總數(shù)，稱它為這個排列的逆序數(shù)，一個逆序是指在一個排列中一對數(shù)的前后位置與大小順序相反，即前面的數(shù)大于后面的數(shù)。例如，(3142)=1+τ(1342)=3+τ(1234)=3。注：該定義只需了解即可，無需記住。應用中3階及以上的行列式一般都用軟件計算，除非特殊結構的。17基本性質(zhì)(1)若A的某行（或列）為零，則|A|=0。(2)|A′|=|A|。(3)若將A的某一行（或列）乘以常數(shù)c，則所得矩陣的行列式為c|A|。(4)若A是一個p階方陣，c為一常數(shù)，則|cA|=cp|A|。(5)若互換A的任意兩行（或列），則行列式符號改變。(6)若A的某兩行（或列）相同，則行列式為零。(7)若將A的某一行（或列）的倍數(shù)加到另一行（或列），則所得行列式不變。18(8)若A的某一行（或列）是其他一些行（或列）的線性組合，則行列式為零。(9)若A為上三角矩陣或下三角矩陣或?qū)蔷仃?，則

(10)若A和B均為p階方陣，則|AB|=|A||B|。(11)|AA′|≥0。(12)若A與B都是方陣，則19(13)若A：p×q，B：q×p，則|Ip+AB|=|Iq+BA|證明

因為

上述兩個等式兩邊各取行列式即證得結論。例1.3.3設x,y為兩個p維向量，則|Ip+xy′|=1+y′x20代數(shù)余子式設A為p階方陣，將其元素aij所在的第i行與第j列劃去之后所得(p?1)階矩陣的行列式，稱為元素aij的余子式，記為Mij。Aij=(?1)i+jMij稱為元素aij的代數(shù)余子式。有以下公式成立21§1.4矩陣的逆非退化（或非奇異）方陣：|A|≠0。退化（或奇異）方陣：|A|=0。非退化方陣A的逆矩陣：滿足AC=I的方陣C，記為C=A?1。A?1必是一個非退化矩陣，且是唯一的。22例1.4.1設

是一個非退化2階方陣，則注：應用中3階及以上的逆矩陣一般都用軟件進行計算，除非特殊結構的。23基本性質(zhì)(1)AA?1=A?1A=I。(2)(A′)?1=(A?1)′。(3)若A和C均為p階非退化方陣，則(AC)?1=C?1A?1(4)|A?1|=|A|?1。(5)若A是正交矩陣，則A?1=A′。(6)若A=diag(a11,a22,?,app)非退化（即aii≠0，i=1,2,?,p），則

(7)若A和B為非退化方陣，則24§1.5矩陣的秩線性相關：一組同維向量a1,a2,?,an，若存在不全為零的常數(shù)c1,c2,?,cn，使得c1a1+c2a2+?+cnan=0線性無關：同維向量a1,a2,?,an不線性相關。行秩：矩陣A的線性無關行向量的最大數(shù)目。列秩：矩陣A的線性無關列向量的最大數(shù)目。行秩和列秩必然相等，統(tǒng)稱為秩，記作rank(A)。25基本性質(zhì)(1)rank(A)=0，當且僅當A=0。(2)若A為p×q矩陣,且A≠0，則1≤rank(A)≤min{p,q}。若rank(A) =p，則稱A為行滿秩的；

若rank(A)=q，則稱A為列滿秩的。(3)rank(A)=rank(A′)。(4)

。26(5)rank(AB)≤min{rank(A),rank(B)}。(6)若A和C為非退化方陣，則rank(ABC)=rank(B)(7)p階方陣A是非退化的，當且僅當rank(A)=p（稱作A滿秩）。(8)rank(AA′)=rank(A′A)=rank(A)。27§1.6特征值、特征向量和矩陣的跡一、特征值和特征向量二、矩陣的跡28一、特征值和特征向量設A是p階方陣，若對于一個數(shù)λ，存在x≠0，使得Ax=λx，則稱λ為A的一個特征值或特征根，而稱x為A的屬于λ的一個特征向量。(A?λI)x=0，x≠0，故|A?λI|=0 |A?λI|是λ的p次多項式，稱為特征多項式。上式有p個根

（可能有重根），記作λ1,λ2,?,λp，可以為復數(shù)。反過來，若λi是上式的一個根，則存在xi≠0，使得(A?λiI)xi=0

今后，一般情況下取xi為單位向量，即滿足||xi||=1。29特征值和特征向量的基本性質(zhì)(1)A和A′有相同的特征值。(2)若A和B分別是p×q和q×p矩陣，則AB和BA有相同的非零特征值。證明

因為30所以由復系數(shù)多項式的因式分解定理可得出，兩個關于λ的方程|λIp?AB|=0和|λIq?BA|=0有著完全相同的非零根（若有重根，則它們的重數(shù)也相同），故而AB和BA有相同的非零特征值。31例1.6.2

設A和B為兩個p×p矩陣，則AB和BA有完全相同的特征值。例1.6.3

設a=(2,?4,1)′,b=(3,5,?1)′，試求ab′的特征

值。解

由于因此，ab′有一個非零特征值?15，而另兩個特征值為零。32(3)若A為實對稱矩陣，則A的特征值全為實數(shù)，p個特征值按大小依次表示為λ1≥λ2≥?≥λp。若λi≠λj，則相應的特征向量xi和xj必正交，即xi′xj=0。(4)若A=diag(a11,a22,?,app)，則a11,a22,?,app為A的p個特征值，相應的特征向量分別為e1=(1,0,?,0)′,e2=(0,1,0,?,0)′,?,ep=(0,?,0,1)′。(5)

，即A的行列式等于其特征值的乘積。可見，A為非退化矩陣，當且僅當A的特征值均不為零；A為退化矩陣，當且僅當A至少有一個特征值為零。33例1.6.4設方陣A：p×p的p個特征值為λ1,λ2,?,λp，試證： (i)若A可逆，相應于λ1,λ2,?,λp的特征向量分別為x1,x2,?,xp，則A?1的p個特征值為

，相應的特征向量仍可為x1,x2,?,xp； (ii)若A為冪等矩陣，則A的特征值為0或1； (iii)若A為正交矩陣，則A的特征值為1或?1。34(6)若A為p階對稱矩陣，則存在正交矩陣T及對角矩陣Λ=diag(λ1,λ2,?,λp)，使得A=TΛT′

得AT=TΛ

記T=(t1,t2,?,tp)，于是(At1,At2,?,Atp)=(λ1t1,λ2t2,?,λptp)Ati=λiti，i=1,2,?,p這表明λ1,λ2,?,λp是A的p個特征值，而t1,t2,?,tp為相應的一組正交單位特征向量。35譜分解36奇異值分解(7)設A：p×q，rank(A)=k，則存在U=(u1,u2,?,uk)：p×k，V=(v1,v2,?,vk)：q×k，Λ=diag(λ1,λ2,?,λk)，使得

其中，u1,u2,?,uk是一組p維正交單位向量，v1,v2,?,vk是一組q維正交單位向量，λi>0,i=1,2,?,k。λi稱為A的奇異值。AA′=UΛ2U′，A′A=VΛ2V′AA′U=UΛ2，A′AV=VΛ2AA′ui=λi2ui，i=1,2,?,kA′Avi=λi2vi，i=1,2,?,k37二、矩陣的跡設A為p階方陣，則A的跡定義為tr(A)=a11+a22+?+app38基本性質(zhì)(1)tr(AB)=tr(BA)。特別地，tr(ab′)=b′a(2)tr(A)=tr(A′)。(3)tr(A+B)=tr(A)+tr(B)。(4)(5)設A=(aij)為p×q矩陣，則39(6)設λ1,λ2,?,λp為方陣A的特征值，則tr(A)=λ1+λ2+?+λp證明|λI?A|=(λ?λ1)(λ?λ2)?(λ?λp)

比較等式兩邊λp?1項的系數(shù)即得。*(7)若A為投影矩陣，則tr(A)=rank(A)

40§1.7正定矩陣和非負定矩陣設A是對稱矩陣，則定義二次型：x′Ax，其中x是任一向量。正定矩陣：x′Ax>0，若對一切x≠0。記作A>0。非負定矩陣：x′Ax≥0，若對一切x。記作A≥0。對非負定矩陣A和B，A>B表示A?B>0；A≥B表示A?B≥0。41基本性質(zhì)(1)設A′=A，則A>0（或≥0）

λi>0（或≥0），i=1,2,?,p。(2)設A≥0，則A的秩等于A的正特征值個數(shù)。(3)若A>0，則A?1>0。(4)設A≥0，則A>0，當且僅當|A|≠0。(5)若A>0（或≥0），則|A|>0（或≥0）。(6)BB′≥0，對一切矩陣B成立。42(7)若A>0（或≥0），則存在A1/2>0（或≥0），使得A=A1/2A1/2，A1/2稱為A的平方根矩陣。注：當p=1時，A=a是一個正數(shù)（或非負數(shù)）,可有a=a1/2a1/2,而a1/2也是一個正數(shù)（或非負數(shù)）。*(8)設A≥0是p階秩為r的矩陣，則存在一個秩為r（即列滿