矩陣分解與廣義逆

1、三、 矩陣的QR分解二、 矩陣的滿秩分解一、 矩陣的三角分解矩陣分解與廣義逆四、 矩陣的奇異值分解五、 矩陣的廣義逆與最小二乘法1矩陣的三角分解定義:若方陣A可分解為其中,L為單位下三角矩陣,R為上三角矩陣,則稱(chēng)A可三角(LU)分解.定理: n階方陣有唯一的三角分解當(dāng)且僅當(dāng)A的前n-1個(gè)順序主子式不等于零例子2 矩陣的滿秩分解定理：設(shè) ，那么存在使得其中 為列滿秩矩陣， 為行滿秩矩陣。我們成此分解為矩陣的滿秩分解。34解 ：（1）對(duì)此矩陣只實(shí)施行變換可以得到 56由此可知 ，且該矩陣第一列，第三列是線性無(wú)關(guān)的。選取7同樣，我們也可以選取8解：（2）對(duì)此矩陣只實(shí)施行變換可以得到所以 ，且此矩陣的

2、第三，第四，第五列任意一列都是線性無(wú)關(guān)的，所以選取哪一列構(gòu)成列滿秩矩陣均可以。9選取也可以選取10解：（3）對(duì)此矩陣只實(shí)施行變換可以得到 11所以 ，且容易看出此矩陣的第二列和第四列是線性無(wú)關(guān)的，選取12 由上述例子可以看出矩陣的滿秩分解形式并不唯一。一般地我們選取階梯型矩陣主元所在的列對(duì)應(yīng)的列向量構(gòu)成列滿秩矩陣，將階梯型矩陣全為零的行去掉后即可構(gòu)成行滿秩矩陣。但是不同的分解形式之間有如下聯(lián)系：定理：如果 均為矩陣 的滿秩分解，那么（1） 存在矩陣 滿足13（2） 矩陣的正交三角分解例： 設(shè) ，那么 可唯一地分解為或14其中 ， 是正線上三角矩陣， 是正線下三角矩陣。證明：先證明分解的存在性。

3、將矩陣 按列分塊得到由于 ，所以是線性無(wú)關(guān)的。利用Schmidt正交化與單位化方法，先得到一組正交向量組15并且向量組之間有如下關(guān)系再單位化，這樣得到一組標(biāo)準(zhǔn)正交向量組16其中 ，于是有17其中 ，18顯然矩陣 是一個(gè)正線上三角矩陣。 下面考慮分解的唯一性。設(shè)有兩種分解式19那么有注意到 是酉矩陣，而 是一個(gè)正線上三角矩陣，由前面的結(jié)論可知因此有20因?yàn)橛?，所以 ，按照分解的存在性可知其中 是正線上三角矩陣。于是其中 是正線下三角矩陣，而。 此結(jié)論也可以被推廣為21定理：設(shè) ，則 可以唯一地分解為其中 是 階正線上三角矩陣，即 是一個(gè)次酉矩陣。證明：分解的存在性證明，同上面的例題完全一樣。

4、分解的唯一性證明。設(shè)22則因?yàn)?是正定的Hermite 矩陣（為什么？），由正定二次型的等價(jià)定理可知，其三角分解是唯一的，故 ，進(jìn)一步有 。例 1 ：求下列矩陣的正交三角分解2324解： （1）容易判斷出 ，即 是一個(gè)列滿秩矩陣。按照定理的證明過(guò)程，將 的三個(gè)列向量正交化與單位化。先得到一個(gè)正交向量組2526再將其單位化，得到一組標(biāo)準(zhǔn)正交向量組27這樣，原來(lái)的向量組與標(biāo)準(zhǔn)正交向量之間的關(guān)系可表示成28將上面的式子矩陣化，即為29（2）首先判斷出 ，由定理可知必存在 ，以及三階正線上三角矩陣 使得30推論：設(shè) ，則 可分解為其中 ， 是 階正線上三角矩陣， 是 階正線下三角矩陣。 矩陣的奇異值分

5、解引理 1 ：對(duì)于任何一個(gè)矩陣 都有31引理 2 ：對(duì)于任何一個(gè)矩陣 都有 與 都是半正定的Hermite-矩陣。 設(shè) ， 是 的特征值， 是 的特征值，它們都是實(shí)數(shù)。如果記32特征值 與 之間有如下關(guān)系。定理：設(shè) ，那么。同時(shí)，我們稱(chēng)為矩陣 的正奇異值，簡(jiǎn)稱(chēng)奇異值。例 ：求下列矩陣的奇異值3334解： （1）由于顯然 的特征值為5，0，0，所以 的奇異值為 （2）由于35顯然 的特征值為 2，4，所以 的奇異值為 。 36例 2 證明：正規(guī)矩陣的奇異值為其非零特征值的模長(zhǎng)。定理：設(shè) ，是 的 個(gè)奇異值，那么存在 階酉矩陣 和 階酉矩陣 使得 37其中，且滿足 。證明： 由于 ，所以 的特征值

6、為38因?yàn)?是一個(gè)H-陣，所以存在 階酉矩陣 且滿足將酉矩陣 按列進(jìn)行分塊，記39 ，其中于是有從而有40記 ，這里 令 ，那么容易驗(yàn)證選取 使得 是酉矩陣，則 41由上述式子可得42這里，要注意 。 我們稱(chēng)此定理為奇異值分解定理。稱(chēng)表達(dá)式為矩陣 的奇異值分解式。 如何求此分解表達(dá)式？特別要注意下面的關(guān)系式43即44由此可知 的列向量就是 的標(biāo)準(zhǔn)正交特征向量；而 的列向量就是 的標(biāo)準(zhǔn)正交特征向量。例 ：求下列矩陣的奇異值分解表達(dá)式4546解 ： （1）容易計(jì)算 的特征值為5，0，0，所以 的奇異值為 。下面計(jì)算的標(biāo)準(zhǔn)正交特征向量，解得分別與5，0，0對(duì)應(yīng)的三個(gè)標(biāo)準(zhǔn)正交特征向量47由這三個(gè)標(biāo)準(zhǔn)正交特征向量組成矩陣 ，所以有再計(jì)算 的標(biāo)準(zhǔn)正交特征向量，解得分別與5，0對(duì)應(yīng)的兩個(gè)標(biāo)準(zhǔn)正交特征向量48由這兩個(gè)標(biāo)準(zhǔn)正交特征向量組成矩陣那么有49于是可得奇異值分解式為50解 ：（2）容易計(jì)算，那么 的非零奇異值為 ， 對(duì)應(yīng)于特征值5，2的標(biāo)準(zhǔn)特征向量為51由這兩個(gè)標(biāo)準(zhǔn)正交特征向量組成矩陣那么有再計(jì)算 的標(biāo)準(zhǔn)正