向量和矩陣的范數(shù)的若干難點(diǎn)導(dǎo)引

1、周國標(biāo)師生交流講席010»向量和矩陣的范數(shù)的若干難點(diǎn)導(dǎo)引(二)矩陣范數(shù)的定義引入矩陣范數(shù)的原因與向量范數(shù)的理由是相似的，在許多場合需要“測量”矩陣的“大小”，比如矩陣序列的收斂，解線性方程組時的誤差分析等，具體的情況在這里不再復(fù)述。最容易想到的矩陣范數(shù)，是把矩陣ACmn可以視為一個mn維的向量(采用所謂“拉直”的變換)，所以，直觀上可用在li范數(shù)意義下，|A|1在12-范數(shù)意義下，|A|fCmn上的向量范數(shù)來作為ACmn的矩陣范數(shù)。比如mn1|a“tr(AHA)±；(1.1)i1j11mn2|aij2,(1.2)i1j1注意這里為了避免與以后的記號混淆，下標(biāo)用“F”，這樣一

2、個矩陣范數(shù)，稱為Frobenius范數(shù)，或F-范數(shù)?？梢则?yàn)證它們都滿足向量范數(shù)的3個條件。那么是否矩陣范數(shù)就這樣解決了？因?yàn)閿?shù)學(xué)上的任一定義都要與其對象的運(yùn)算聯(lián)系起來，矩陣之間有乘法運(yùn)算，它在定義范數(shù)時應(yīng)予以體現(xiàn)，也即彳t計(jì)AB的“大小”相對于A與B的“大小”關(guān)系。定義1設(shè)ACmn,對每一個A,如果對應(yīng)著一個實(shí)函數(shù)N(A),記為|A|,它滿足以下條件：(1)非負(fù)性：|A|0;(1a)正定性：AOmn|A|0(2)齊次性：|A|A|,C;(3)三角不等式：|A|AB|A|B|,BCmn則稱N(A)|A|為A的廣義矩陣范數(shù)。進(jìn)一步，若對Cmn,Cnl,Cml上的同類廣義矩陣范數(shù)|?|,有(4)(矩

3、陣相乘的)相容性：|A|AB1111A|B|,BCnl,則稱N(A)|A|為A的矩陣范數(shù)。我們現(xiàn)在來驗(yàn)證前面(1.1)和(1.2)定義的矩陣范數(shù)是否合法？我們這里只考慮(1.2),把較容易的(1.1)的驗(yàn)證留給同學(xué)們，三角不等式的驗(yàn)證。按列分塊，記A(a1,a2,L,an),B(n,b2,L,bn)。|AB|F|(a1b1),(a2b?),abn)|F|a1b1|211a2b2|2|a0|22211a1也g|bL|an|2g|b11aJ|2L|an|2211a111211b1|2L|加巾心也11b1|2L|bn|2對上式中第2個括號內(nèi)的諸項(xiàng)，應(yīng)用Cauchy不等式，則有|AB|F|A|F2|A

4、|f|B|f|B|F(|A|F|B|f)2(1.3)于是，兩邊開方，即得三角不等式。再驗(yàn)證矩陣乘法相容性。mln22|AB|Faikbji 1 j 1 k 1m l n|aik 2i 1 j 1 k 1m l n聞M |i 1 j 1 k 1n|bsj|2(這一步用了s 1m nn l島 I2|bsj|2|A|F|Bi 1 k 1s 1 j 1Cauchy不等式)(1.4 )可見，矩陣相容性滿足。這樣就完成了對矩陣F-范數(shù)的驗(yàn)證。是不是這樣直接將向量范數(shù)運(yùn)用到矩陣范數(shù)就可以了嗎？No!1 122 2,A112 21,| A2|2,于是max| q |,那么，這樣的矩陣范1 i m1 j n2A

5、。因此，按上述矩陣國運(yùn)用l-范數(shù)于矩陣范數(shù)時便出了問題。如果|A|數(shù)在下面一個例子上就行不通。設(shè)A-范數(shù)的定義,|A|1,|A|A|_22|A|AA|A|A|1但這是矛盾的。所以簡單地將l-范數(shù)運(yùn)用于矩陣范數(shù)，是不可行的雖然這僅是一個反例，但是數(shù)學(xué)的定義是不可以有例外的。由此，我們必須認(rèn)識到，不能隨便套用向量范數(shù)的形式來構(gòu)造矩陣范數(shù)。為此，我們僅給出矩陣范數(shù)的定義是不夠的，還需要研究如何構(gòu)成具體的矩陣范數(shù)的方法。當(dāng)然，你也可以不去考慮構(gòu)成方法，一個函數(shù)一個函數(shù)去試，只要滿足條件就行。不過這樣做的工作量太大，也很盲目。第二，在實(shí)際計(jì)算時，往往矩陣與向量出現(xiàn)在同一個計(jì)算問題中，所以在考慮構(gòu)造矩陣范

6、數(shù)時，應(yīng)該使它與向量范數(shù)相容。比如要考慮Ax的“大小”，Ax是一個向量，但它由A與x相乘而得的，它與A的“大小”和x的“大小”的關(guān)系如何？這提出了兩類范數(shù)相容的概念。定義2對于Cmn上的矩B$范數(shù)|?11M和Cm,Cn上的同類向量范數(shù)|?|V，如果成立IIAxIIvIIAIIm|x|V,ACmn,xCn（1.5）則稱矩陣范數(shù)|?11M與向量范數(shù)|?|V是相容的。1mn21例1.1可以證明|A|f|aj|2tr（AHA）3是與向量范數(shù)|?|2相容。i1j1事實(shí)上，在（1。2）中，取BxCn1,那么11Ax11211AB|f|A|f|B|f|A|f|x|2二.矩陣算子范數(shù)現(xiàn)在給出一種構(gòu)造矩陣范數(shù)的

7、一般方法，它可以使構(gòu)造出的矩陣范數(shù)與向量范數(shù)相容，當(dāng)然，它也滿足定義1規(guī)定的4個條件。定義3設(shè)Cm,Cn上的同類向量范數(shù)為|?|V，ACmn,定義在Cmn空間上的矩陣A的由向量范數(shù)|?IV誘導(dǎo)給出的矩陣范數(shù)為I|A|Vmaxx 0I|Ax|VI|x|V(2.1 )可以驗(yàn)證，這樣定義出的矩陣范數(shù)|A|V滿足定義1規(guī)定的4個條件，同時又滿足矩陣范數(shù)與向量范數(shù)相容性要求（定義2）。由于有什么樣的向量范數(shù)|?|V,就有什么樣的矩陣范數(shù)，所以，這樣的矩陣范數(shù)稱為由向量范數(shù)誘導(dǎo)出的，簡稱誘導(dǎo)范數(shù)；又因?yàn)椋?.1）實(shí)際上規(guī)定了一個函數(shù)（或算子），故又稱為算子范數(shù)。（2.1）給定的范數(shù)實(shí)際是尋求一個最優(yōu)化問題

8、的最優(yōu)值，求目標(biāo)函數(shù)吆小的最大|x|v|x|V 它可以下列等價值，約束條件是x0,也就在Cn空間中除原點(diǎn)外的點(diǎn)中，找一個n維向量x,使11Ax11V,還是有困難的.可以證明,取得最大值。如果直接考慮這樣一個優(yōu)化問題方式定義，使問題的處理簡單。| Ax|V |A|V max V x0 |x|v事實(shí)上，分母上的|x|1V是一|Ax|V max|xV 1 |x|V個正數(shù)(x 0),max | Ax 11V|刈V 1那么根據(jù)向量范數(shù)的齊次性有(2.2)maxx 0|Ax|V|x|vmaxx 0|x|VAxmaxx 0|x|Vmax Az x/|z|V 1 Vmax Ax v|x|V 1Vx上面第3個等

9、號成立是因?yàn)橄蛄縕為一個單位向量。|x|V下面我們從理論上證明這樣的矩陣范數(shù)|A|V滿足定義1規(guī)定的4個條件，同時又滿足矩陣范數(shù)與向量范數(shù)相容性要求。定理2。1由（2.1）或（2.2）給定的Cmn上的矩陣范數(shù)滿足矩陣范數(shù)定義1的4個條件，且與相應(yīng)的向量范數(shù)相容。證明：首先，矩陣范數(shù)與向量范數(shù)的相容性是不難證明的，事實(shí)上，對|x|V=1,|A|V|x|V|A|Vmax|Az|V|Ax|v,因此，矩陣范數(shù)與向量范數(shù)的相容性條件|z|V1'（1.5）成立。我們下面來驗(yàn)證（2.1）或（2.2）滿足矩陣范數(shù)的4個條件。這4個條件中，前2個也容易驗(yàn)證，因此這里只來考察第3,4個條件。三角不等式的驗(yàn)

10、證：對于任一BCmn|AB|max|（AB）x|max|AxBx|max|A|B|x|1|x|1|x|1max|Ax|max|肉1111A|hbh|x|1|x|1矩陣相乘相容性的驗(yàn)證：由（1.5）,不難有|ABx|v|A|v|Bx|V|A|v|B|v|x|V當(dāng)x0時，11ABxJ1V|A|v|B|V|x|V所以|AB|vmaxBxUV|A|v|B|vx0|x|v至此，證實(shí)了用算子范數(shù)確能給出滿足矩陣范數(shù)定義和矩陣范數(shù)與向量范數(shù)的相容性的矩陣范數(shù)。推論1對于Cnn上的任一種向量誘導(dǎo)范數(shù)，都有但是要注意的是，對一般的矩陣范數(shù)，對任一向量l|x|Ix|I|x|故有|I|1。比如，|A|F不是誘導(dǎo)矩陣

11、范數(shù)，所以|I|fiii ii maxiiixii i 刈ix Cn ,有1。(2。3)幾個常用的誘導(dǎo)矩陣范數(shù)上面的論述表明，誘導(dǎo)矩陣范數(shù)與向量范數(shù)密切相關(guān),有何種向量范數(shù)，就有什么樣的誘導(dǎo)矩陣范數(shù)。下面就來具體地構(gòu)造幾個常用的誘導(dǎo)矩陣范數(shù)。設(shè)例 3. 1 設(shè) A Cmn,由向量11-范數(shù)誘導(dǎo)而來的最大列和誘導(dǎo)矩陣范數(shù)(3.1 )mIIA|1maxIaijI1 jni1證明：按列分塊，記AIIAI1(ai,a2,L,an),則由(3.1)和向量11-范數(shù)的定義可知設(shè)x(Xi,X2,L,xn)nmax|aj|1Cn,且有|x|1因此，11Ax|1naijxjj1max|aj|ajllxj|l|A

12、|1max|Ax|1l|x|111n|XjIj1m1aj11|xjmaxmax|aj|m1aij1i1(+)另一方面，選取k,使得mIaikImax|a0|i1ji1令X0為第k的單位向量ek(0,L 0,1,0,L ,0)T,那么Ax。mI|A|1 max II Ax11111Ax0l1 laikl llxl1 1i 1綜合(+)與(+)可知，由向量11-范數(shù)誘導(dǎo)出的矩陣范數(shù)既是 此必有(3.1).akmax(a1k,a2k,L ,amk)mlaij1(+)i 111AII1的上界，又是其下界，因例3.2設(shè)ACmn,矩陣譜范數(shù)由12-范數(shù)誘導(dǎo)得出的矩陣范數(shù)，定義為11A|2max|是AHA的

13、特征值Jmax(AHA)1(3.2)其中1為A的最大奇異值，當(dāng)ARnn時，IIAII2mmax(ATA)(3.3)證明：首先由線性代數(shù)，AHA是半正定矩陣，事實(shí)上，對任一xCn,有(x,AHAx)xHAHAx(Ax)H(Ax)11Ax|20因此，AHA的特征值都為非負(fù)實(shí)數(shù)，記為12L正交的，l2-范數(shù)等于1(即標(biāo)準(zhǔn)化了的)特征向量x(1),x12Ln0。n0,而且AHA具有n個相互,L,x(n),它們分別對應(yīng)于特征值|x|2 1的向量X :而且,由 llxll2這樣,AH AxnAHAi 1i(AH Ax(i)i ix(i)故這組特征向量構(gòu)成了一組標(biāo)準(zhǔn)正交基，用它們可表示任一個范數(shù)nix由此也

14、就是l|Ax|2(x, AH Ax)1| 1|22l2ixixnl211Ax12 .二*)另一方面，由|x|2 1 ,并且取1對應(yīng)的特征向量x(1)(1) 2(1) H (1)(1)(1)、/ (1)| Ax |2 (x ,A Ax ) (x , ix ) i(x , x 所以考慮(1)llx(1)ll2由x的任意性和算子范數(shù)的定義llAlLmaxllAxl2* )11All2maxllAx11211Axlb1|xl21綜合(*)和(*),由12-范數(shù)誘導(dǎo)得出的矩陣范數(shù)應(yīng)為11A|2匚max|是AHA的特征值Jmax(AHA)例3.3設(shè)ACmn,l-范數(shù)誘導(dǎo)得出的矩陣范數(shù)n|A|1 max.j

15、證明：設(shè) x (X,x2,L ,xn)T,且 |x| aij |1(3.4 )1,即 max| x | 1。11AxU maxnaij為1nmaxmaxi j 1|ajxj| max |aj |為 |j 1(|a |(max |xj |)max1 aij 1由算子范數(shù),llAll另一方面，選取k,nmaxllAxllllxll1使得lakjlmaxmax|aij|j1n|aij|j1*)1,ifakj0令y（yi,y2,L,yn）T,其中yj®|,ifakj0akj則|y|max|yj|1,從而有*M*nAy同|,ji*M*由算子范數(shù)nn|A|maX|Ax|Ay|akj|m?x|aj

16、|。（*|x|jiiji綜合（*）和（*）,便得n|a|max|aj|。ji除了上述3種常用的矩陣范數(shù)外，F(xiàn)robenius范數(shù)雖然不是算子范數(shù)，但也經(jīng)常所用,在討論序列收斂等問題上是等價的。一>12例3.4設(shè)A,求其各種矩陣范數(shù)。34解：|A|1最大列和=6;|A|最大行和=7；|A|fJi22232427305.477；|A|2152215.4650四.由矩陣范數(shù)推出的向量范數(shù)矩陣范數(shù)可由向量范數(shù)誘導(dǎo)，反過來，向量范數(shù)有時也可從矩陣范數(shù)推出。例4.1設(shè)|?11M是Cnn上的矩陣范數(shù)，任取Cn中的非零向量y,則函數(shù)Hn|x|V|xyUm，xC（4。1）是Cn上的向量范數(shù)，且矩陣范數(shù)|?

17、11M與向量范數(shù)|?|v相容。證明：欲證IIxIIv是一個向量范數(shù)，只須驗(yàn)證它滿足向量范數(shù)得個條件。非負(fù)性：當(dāng)x0時，由于y非零，故|x|V|xyH|m0,xCn；H_H當(dāng)x0時，xyOnn,故IIxIIv|xy11M0。齊次性：對任一常數(shù)cC,有l(wèi)lcxIV|cxyH|m|c|xyH|m|c|x|v。三角不等式：對任意的x,zCn,有|xz|V|(xz)yH|m|xyHxzH|m|xyH|M|xzH|m|1x|VHzHm。因此由向量范數(shù)的定義知，|x|V是一個向量范數(shù)。下面再證兩種范數(shù)的相容性。如果ACnn,xCn,那么HHH|Ax|v|(Ax)y|m|A(xy)|m|A|M|xy11M|A

18、|m|x|V?？梢姡仃嚪稊?shù)|?11M與向量范數(shù)|?|V相容。五.范數(shù)的若干應(yīng)用范數(shù)的應(yīng)用很廣泛，這里只舉2例。1 .矩陣奇異性的條件對于矢I陣ACnn，能否根據(jù)其范數(shù)的大小，來判別(IA)的奇異性？判別一個矩陣的奇異性，并不方便(比如計(jì)算A的行列式的值是否非零，判斷A的諸列是否線性無關(guān)等，均不大容易)，但矩陣的范數(shù)的計(jì)算，如|A|1,|A|,還是方便的。定理5.1(Banach引理)設(shè)矩陣ACnn,且對矩陣Cnn上的某種矩陣范數(shù)|?|,有|A|1,則矩陣(IA)非奇異，且有1|(I A) |I |1 |A|(5.1)證明：假設(shè)矩陣范數(shù)|A|與向量范數(shù)|x|相容。欲證矩陣(IA)非奇異，可通過

19、det(IA)0。用反證法。假設(shè)det(IA)0,則齊次線性方程組(IA)x0有非零解x0,即(IA)Xo0,Xo0于是，x0mAx0o兩邊取范數(shù)|Xo|v|Ax0|V11A|x0|V|x°|v其中最后一個不等號是由于|A|1。但上式是矛盾的，假設(shè)det(IA)0不成立，從而矩陣(IA)非奇異，故有逆。再由(IA)1(IA)I可得(IA)1Im(IA)1A兩邊取范數(shù)，得|(IA)1|Im(IA)1A|I|(IA)1|A|再移項(xiàng)，有|(IA)1|(1|A|)|I|從而|(IA)1|I|1|A|這正是我們要想證明的。在推演分析Axb的直接法的誤差分析時起重要的作用。請同學(xué)們自行證明下面類

20、似的結(jié)果。定理5.2設(shè)矩陣ACnn,且對矩陣Cnn上的某種矢I陣范數(shù)|?|,有11A|1,則|I (I1A) |A|1 |A|2 .近似逆矩陣的誤差一一逆矩陣的攝動在數(shù)值計(jì)算中，誤差無處不在，考慮由于這些誤差存在而帶來的后果，是一項(xiàng)重要的課題。設(shè)矩陣ACnn的元素aj帶有誤差aj,（i,j1,2,L,n）,則矩陣的真實(shí)的值應(yīng)為AA,其中A（a"稱為誤差矩陣，又叫攝動矩陣。若A為非奇異，其逆陣為A1。問題是：（AA）1與A1的近似程度如何呢？或者說,（AA）1與A1的“距離”大小為多少？下面是回答上述問題的攝動定理。定理5.3 設(shè)矩陣A Cn n非奇異，B1 _| A B| 1 ,則（1） A B 非奇異；（2）記 FCn n ,且對Cn n上的某種矩陣范數(shù)|?|,有11| A 1B |I (I A B)，那么 |F | A ； 1 |A1B|1_11_IIA(AB)|AB|2111oIIA|111AB|證明：由于|A1B|1,所以|A1B|1。由定理5。1,(IA1B)非奇異，故1ABA(IAB)非奇異。1在定理5。2中，將A換成AB,即得(2)。11111又因?yàn)锳(AB)(I(IAB)A,1 _11A B|1 _111A B|111