第二章矩陣分解4-矩陣的奇異值分解.ppt

4矩陣的奇異值分解矩陣的奇異值分解在矩陣?yán)碚撝械闹匾允遣谎远鞯?，它在最?yōu)化問題、特征值問題、最小二乘方問題、廣義逆矩陣問題和統(tǒng)計學(xué)等方面都有十分重要的應(yīng)用。一.預(yù)備知識為了論述和便于理解奇異值分解，本節(jié)回顧線性代數(shù)有關(guān)知識。定義2.14若實方陣Q滿足,則稱Q是正交矩陣.定義2.15若存在正交矩陣P,使得,則稱A正交相似于B.定義2.16共軛轉(zhuǎn)置矩陣記為,即.定義2.17若,則稱A為Hermit矩陣.定義2.18設(shè),若,則稱A為正規(guī)矩陣.,定義2.19設(shè),若,則稱A為酉矩陣.定義2.20設(shè),若存在酉矩陣P,使得,則A稱酉相似于B.性質(zhì)1若A是n階實對稱矩陣，是的特征值，則恒存在正交陣Q，使得而且Q的n個列向量是的一個完備的標(biāo)準(zhǔn)正交特征向量系。性質(zhì)2若，是非奇異矩陣，則存在正交陣P和Q，使得其中.,.,性質(zhì)3(1)設(shè),則是Hermit矩陣,且其特征值均是非負(fù)實數(shù);(2);(3)設(shè),則的充要條件為.把性質(zhì)2中的等式改寫為稱上式是A的正交對角分解.性質(zhì)4(1)設(shè),則A酉相似于對角陣的充分必要條件是A為正規(guī)矩陣;(2)設(shè),且A的特征值都是實數(shù),則正交相似于對角矩陣的充要條件A是為正規(guī)矩陣.,二.矩陣的奇異值分解現(xiàn)在開始論述矩陣的奇異值分解。定義2.21設(shè)，的特征值為則稱是A的奇異值；規(guī)定零矩陣0的奇異值都是0.定理2.9設(shè),則存在m階酉矩陣U和n階酉矩陣V,使得（2.41）其中矩陣,而數(shù)是矩陣A的所有非零奇異值.稱式（2.41）是矩陣A的奇異值分解.,證根據(jù)性質(zhì)3,是Hermit矩陣,且其特征值均是非負(fù)實數(shù),且記為顯然,是正規(guī)矩陣.根據(jù)性質(zhì)4,存在n階酉矩陣V,使得或,其中:設(shè)V有分塊形式則有即由,得或,其中.由,得或令，則根據(jù)線性代數(shù)理論知，可將兩兩正交的單位列向量擴充為的標(biāo)準(zhǔn)正交基，記矩陣，則是m階酉矩陣，且,于是所以(證畢)由上述定理的證明過程可知,A的奇異值是由A唯一確定的,但是,由于酉矩陣U和V是不唯一的,故A的奇異值分解(2.41)式也是不惟一的.,例10求矩陣的奇異值分解.解:可以求得矩陣的特征值是,對應(yīng)的特征向量可取為，于是可得，奇異值為，且使得成立的正交矩陣為,，其中經(jīng)計算,將擴張成的正交標(biāo)準(zhǔn)基則A的奇異值分解是,例11設(shè)矩陣，求它的奇異值分解.解經(jīng)過計算，矩陣的特征值為,對應(yīng)的特征向量分別是，從而正交矩陣,以及，計算,，,構(gòu)造.的奇異值分解是,.,三.正交相抵矩陣定義2.22設(shè),若存在m階正交矩陣U和n階正交矩陣V,使得,則稱A與B正交相抵.在上述定義中,若A和B都是n階方陣,U=V,則即A與B正交相似.可見正交相似概念是正交相抵概念的特殊情況.定理2.10正交相抵的兩個矩陣具有相同的奇異值.證若,則,上式表明與相似,而相似矩陣有相同的特征值,所以A與B有相同的奇異值.證畢直接驗證可知,正交相抵具有自反性、對稱性和傳遞性，因此，所有正交相抵的