矩陣范數(shù)詳解

1、向量和矩陣的范數(shù)的若干難點(diǎn)導(dǎo)引(二)一 矩陣范數(shù)的定義引入矩陣范數(shù)的原因與向量范數(shù)的理由是相似的，在許多場合需要“測量”矩陣的“大小”，比如矩陣序列的收斂，解線性方程組時(shí)的誤差分析等，具體的情況在這里不再復(fù)述。最容易想到的矩陣范數(shù)，是把矩陣可以視為一個(gè)維的向量（采用所謂“拉直”的變換），所以，直觀上可用上的向量范數(shù)來作為的矩陣范數(shù)。比如在范數(shù)意義下，； （1.1）在-范數(shù)意義下， （1.2）注意這里為了避免與以后的記號混淆，下標(biāo)用“F”，這樣一個(gè)矩陣范數(shù)，稱為Frobenius范數(shù)，或F-范數(shù)。可以驗(yàn)證它們都滿足向量范數(shù)的3個(gè)條件。那么是否矩陣范數(shù)就這樣解決了？因?yàn)閿?shù)學(xué)上的任一定義都要與其對象

2、的運(yùn)算聯(lián)系起來，矩陣之間有乘法運(yùn)算，它在定義范數(shù)時(shí)應(yīng)予以體現(xiàn)，也即估計(jì)的“大小”相對于的“大小”關(guān)系。定義1 設(shè)，對每一個(gè)，如果對應(yīng)著一個(gè)實(shí)函數(shù)，記為，它滿足以下條件：（1）非負(fù)性：； （1a）正定性：（2）齊次性：；（3）三角不等式：則稱為的廣義矩陣范數(shù)。進(jìn)一步，若對上的同類廣義矩陣范數(shù)，有 （4）（矩陣相乘的）相容性：， ，則稱為的矩陣范數(shù)。我們現(xiàn)在來驗(yàn)證前面（1.1）和（1.2）定義的矩陣范數(shù)是否合法？我們這里只考慮（1.2）,把較容易的（1.1）的驗(yàn)證留給同學(xué)們，三角不等式的驗(yàn)證。按列分塊，記。對上式中第2個(gè)括號內(nèi)的諸項(xiàng)，應(yīng)用Cauchy不等式，則有 （1.3）于是，兩邊開方，即得三角

3、不等式。再驗(yàn)證矩陣乘法相容性。 （這一步用了Cauchy不等式） （1.4）可見，矩陣相容性滿足。這樣就完成了對矩陣F-范數(shù)的驗(yàn)證。是不是這樣直接將向量范數(shù)運(yùn)用到矩陣范數(shù)就可以了嗎？No!運(yùn)用-范數(shù)于矩陣范數(shù)時(shí)便出了問題。如果，那么,這樣的矩陣范數(shù)在下面一個(gè)例子上就行不通。設(shè)。因此，按上述矩陣-范數(shù)的定義，于是但這是矛盾的。所以簡單地將-范數(shù)運(yùn)用于矩陣范數(shù)，是不可行的。雖然這僅是一個(gè)反例，但是數(shù)學(xué)的定義是不可以有例外的。由此，我們必須認(rèn)識到，不能隨便套用向量范數(shù)的形式來構(gòu)造矩陣范數(shù)。 為此,我們僅給出矩陣范數(shù)的定義是不夠的，還需要研究如何構(gòu)成具體的矩陣范數(shù)的方法。當(dāng)然，你也可以不去考慮構(gòu)成方法

4、，一個(gè)函數(shù)一個(gè)函數(shù)去試，只要滿足條件就行。不過這樣做的工作量太大，也很盲目。第二，在實(shí)際計(jì)算時(shí)，往往矩陣與向量出現(xiàn)在同一個(gè)計(jì)算問題中，所以在考慮構(gòu)造矩陣范數(shù)時(shí)，應(yīng)該使它與向量范數(shù)相容。比如要考慮的“大小”，是一個(gè)向量，但它由與相乘而得的，它與的“大小”和的“大小”的關(guān)系如何？ 這提出了兩類范數(shù)相容的概念。定義2 對于上的矩陣范數(shù)和上的同類向量范數(shù)，如果成立 （1.5）則稱矩陣范數(shù)與向量范數(shù)是相容的。例11 可以證明 是與向量范數(shù)相容。事實(shí)上，在（1。2）中，取，那么二 矩陣算子范數(shù)現(xiàn)在給出一種構(gòu)造矩陣范數(shù)的一般方法，它可以使構(gòu)造出的矩陣范數(shù)與向量范數(shù)相容，當(dāng)然，它也滿足定義1規(guī)定的4個(gè)條件。定

5、義3 設(shè)上的同類向量范數(shù)為，定義在空間上的矩陣的由向量范數(shù)誘導(dǎo)給出的矩陣范數(shù)為 （2.1）可以驗(yàn)證，這樣定義出的矩陣范數(shù)滿足定義1規(guī)定的4個(gè)條件，同時(shí)又滿足矩陣范數(shù)與向量范數(shù)相容性要求（定義2）。由于有什么樣的向量范數(shù)，就有什么樣的矩陣范數(shù)，所以，這樣的矩陣范數(shù)稱為由向量范數(shù)誘導(dǎo)出的，簡稱誘導(dǎo)范數(shù)；又因?yàn)椋?.1）實(shí)際上規(guī)定了一個(gè)函數(shù)（或算子），故又稱為算子范數(shù)。（2.1）給定的范數(shù)實(shí)際是尋求一個(gè)最優(yōu)化問題的最優(yōu)值，求目標(biāo)函數(shù)的最大值，約束條件是，也就在空間中除原點(diǎn)外的點(diǎn)中，找一個(gè)n維向量，使取得最大值。如果直接考慮這樣一個(gè)優(yōu)化問題,還是有困難的. 可以證明，它可以下列等價(jià)方式定義,使問題的處

6、理簡單。 （2.2）事實(shí)上, 分母上的是一個(gè)正數(shù)(), 那么根據(jù)向量范數(shù)的齊次性有上面第3個(gè)等號成立是因?yàn)橄蛄繛橐粋€(gè)單位向量。下面我們從理論上證明這樣的矩陣范數(shù)滿足定義1規(guī)定的4個(gè)條件，同時(shí)又滿足矩陣范數(shù)與向量范數(shù)相容性要求。定理2。1 由（2.1）或（2.2）給定的上的矩陣范數(shù)滿足矩陣范數(shù)定義1的4個(gè)條件，且與相應(yīng)的向量范數(shù)相容。證明： 首先，矩陣范數(shù)與向量范數(shù)的相容性是不難證明的，事實(shí)上，對=1, , 因此,矩陣范數(shù)與向量范數(shù)的相容性條件（1.5）成立。我們下面來驗(yàn)證（2.1）或（2.2）滿足矩陣范數(shù)的4個(gè)條件。這4個(gè)條件中，前2個(gè)也容易驗(yàn)證，因此這里只來考察第3,4個(gè)條件。三角不等式的驗(yàn)

7、證: 對于任一矩陣相乘相容性的驗(yàn)證: 由（1.5），不難有當(dāng)時(shí)，所以 至此，證實(shí)了用算子范數(shù)確能給出滿足矩陣范數(shù)定義和矩陣范數(shù)與向量范數(shù)的相容性的矩陣范數(shù)。推論1 對于上的任一種向量誘導(dǎo)范數(shù)，都有 （2。3）但是要注意的是，對一般的矩陣范數(shù)，對任一向量，有故有 。比如， 不是誘導(dǎo)矩陣范數(shù)，所以 。三幾個(gè)常用的誘導(dǎo)矩陣范數(shù)上面的論述表明，誘導(dǎo)矩陣范數(shù)與向量范數(shù)密切相關(guān)，有何種向量范數(shù)，就有什么樣的誘導(dǎo)矩陣范數(shù)。下面就來具體地構(gòu)造幾個(gè)常用的誘導(dǎo)矩陣范數(shù)。設(shè)。例31 設(shè)，由向量-范數(shù)誘導(dǎo)而來的最大列和誘導(dǎo)矩陣范數(shù) （3.1）證明：按列分塊，記，則由（3.1）和向量-范數(shù)的定義可知設(shè)，且有因此, (+

8、)另一方面,選取k,使得 令為第k的單位向量,那么 (+)綜合(+)與(+)可知, 由向量-范數(shù)誘導(dǎo)出的矩陣范數(shù)既是的上界,又是其下界,因此必有(3.1).例3.2設(shè)，矩陣譜范數(shù)由-范數(shù)誘導(dǎo)得出的矩陣范數(shù)，定義為 (3.2)其中 為的最大奇異值, 當(dāng)時(shí), (3.3)證明:首先由線性代數(shù), 是半正定矩陣, 事實(shí)上,對任一,有因此,的特征值都為非負(fù)實(shí)數(shù),記為 ,而且具有n個(gè)相互正交的,-范數(shù)等于1(即標(biāo)準(zhǔn)化了的)特征向量,它們分別對應(yīng)于特征值。故這組特征向量構(gòu)成了一組標(biāo)準(zhǔn)正交基，用它們可表示任一個(gè)范數(shù)的向量： 而且，由， 可得到 。這樣， 。由此，也就是 由的任意性和算子范數(shù)的定義 （*）另一方面

9、，由，并且取對應(yīng)的特征向量，考慮所以 （*）綜合（*）和（*），由-范數(shù)誘導(dǎo)得出的矩陣范數(shù)應(yīng)為。例33 設(shè)，-范數(shù)誘導(dǎo)得出的矩陣范數(shù) （3.4）證明：設(shè)，即 。由算子范數(shù)， （*）另一方面，選取k，使得令其中，則 ，從而有，由算子范數(shù) 。 （*）綜合（*）和（*），便得。除了上述3種常用的矩陣范數(shù)外，F(xiàn)robenius范數(shù)雖然不是算子范數(shù)，但也經(jīng)常所用，在討論序列收斂等問題上是等價(jià)的。例34 設(shè)，求其各種矩陣范數(shù)。解： 最大列和 = 6；最大行和 = 7；四 由矩陣范數(shù)推出的向量范數(shù)矩陣范數(shù)可由向量范數(shù)誘導(dǎo)，反過來，向量范數(shù)有時(shí)也可從矩陣范數(shù)推出。例41 設(shè)是上的矩陣范數(shù)，任取中的非零向量，則

10、函數(shù) （4。1）是上的向量范數(shù)，且矩陣范數(shù)與向量范數(shù)相容。證明：欲證 是一個(gè)向量范數(shù)，只須驗(yàn)證它滿足向量范數(shù)得個(gè)條件。 非負(fù)性：當(dāng)時(shí)，由于非零，故； 當(dāng)時(shí)，故。 齊次性：對任一常數(shù)，有。 三角不等式： 對任意的，有。因此由向量范數(shù)的定義知， 是一個(gè)向量范數(shù)。下面再證兩種范數(shù)的相容性。如果，那么?？梢姡仃嚪稊?shù)與向量范數(shù)相容。五 范數(shù)的若干應(yīng)用范數(shù)的應(yīng)用很廣泛，這里只舉2例。1 矩陣奇異性的條件對于矩陣，能否根據(jù)其范數(shù)的大小，來判別的奇異性？判別一個(gè)矩陣的奇異性，并不方便（比如計(jì)算的行列式的值是否非零，判斷的諸列是否線性無關(guān)等，均不大容易），但矩陣的范數(shù)的計(jì)算，如，還是方便的。定理5.1 (Ba

11、nach引理)設(shè)矩陣,且對矩陣上的某種矩陣范數(shù),有,則矩陣非奇異,且有 (5.1)證明: 假設(shè)矩陣范數(shù)與向量范數(shù)相容。欲證矩陣非奇異，可通過。用反證法。假設(shè)，則齊次線性方程組 有非零解，即于是， 。兩邊取范數(shù) 其中最后一個(gè)不等號是由于 。 但上式是矛盾的，假設(shè)不成立，從而矩陣非奇異，故有逆。再由 可得 兩邊取范數(shù)，得再移項(xiàng)，有 從而 這正是我們要想證明的。在推演分析的直接法的誤差分析時(shí)起重要的作用。請同學(xué)們自行證明下面類似的結(jié)果。定理5.2 設(shè)矩陣,且對矩陣上的某種矩陣范數(shù),有，則 2近似逆矩陣的誤差逆矩陣的攝動(dòng) 在數(shù)值計(jì)算中，誤差無處不在，考慮由于這些誤差存在而帶來的后果，是一項(xiàng)重要的課題。

12、設(shè)矩陣的元素帶有誤差，則矩陣的真實(shí)的值應(yīng)為，其中稱為誤差矩陣，又叫攝動(dòng)矩陣。若為非奇異，其逆陣為。問題是：與的近似程度如何呢？或者說，與的“距離”大小為多少？下面是回答上述問題的攝動(dòng)定理。設(shè)矩陣非奇異，且對上的某種矩陣范數(shù)，有，則（1）非奇異； （2）記，那么 ；（3）。證明：由于，所以。由定理5。1，非奇異，故非奇異。在定理5。2中，將換成，即得（2）。又因?yàn)?，兩邊取范數(shù)，并利用（2）的結(jié)論，可得，即可得到（3）。 3矩陣譜半徑及其性質(zhì) 矩陣譜半徑是一個(gè)重要的概念，在特征值估計(jì)，廣義逆矩陣，數(shù)值計(jì)算（特別在數(shù)值線性代數(shù)）等理論中，都占有極其重要的地位。定義4 設(shè)矩陣的n個(gè)特征值為（含重根），稱為矩陣的譜半徑，記為。關(guān)于矩陣譜半徑的最證明也是最重要的結(jié)論是，矩陣的譜半徑不超過其任一種矩陣范數(shù)。這個(gè)結(jié)果已經(jīng)在課堂上證明過了。作為練習(xí)，請同學(xué)們對 驗(yàn)證這個(gè)結(jié)論。關(guān)于矩陣譜半徑的第2個(gè)重要結(jié)論是，如果矩陣為Hermite矩陣，則。證明留給大家。雖然Hermite矩陣的譜半徑與其譜范數(shù)相等，但是，一般矩陣的譜半徑與其譜范數(shù)可能相差很大。下面關(guān)于矩陣譜半徑的第3個(gè)重