QR分解（課堂PPT）

1、.1第一節(jié)第一節(jié) QRQR分解分解QRQR分解也稱為正交三角分解分解也稱為正交三角分解 矩陣矩陣QRQR分解是一種特殊的三角分解，在解決分解是一種特殊的三角分解，在解決矩陣特征值的計(jì)算、最小二乘法等問題中起到重矩陣特征值的計(jì)算、最小二乘法等問題中起到重要作用。要作用。主要內(nèi)容：主要內(nèi)容：11矩陣的矩陣的QRQR分解分解- Schmidt- Schmidt正交化方法正交化方法22矩陣的矩陣的QRQR分解分解- Householder- Householder變換、變換、 GivensGivens變換變換.2QRQR分解定理分解定理任意一個(gè)滿秩實(shí)任意一個(gè)滿秩實(shí)( (復(fù)）矩陣復(fù)）矩陣A A，都可唯一

2、地分解，都可唯一地分解A = QR A = QR ，其中其中Q Q為為正交（酉）矩陣，正交（酉）矩陣，R是具有正是具有正對(duì)角元的上三角矩陣。對(duì)角元的上三角矩陣。由于由于x x 1 1, ,x x 2 2, , ,x x n n 線性無(wú)關(guān)，將它們用線性無(wú)關(guān)，將它們用SchmidtSchmidt正交正交證明證明設(shè)設(shè)A A是一個(gè)實(shí)滿秩矩陣是一個(gè)實(shí)滿秩矩陣, A, A的的n n個(gè)列向量為個(gè)列向量為 x x 1 1, ,x x 2 2, , ,x x n n 定義定義:設(shè)設(shè).nnCA如果存在如果存在n階酉矩陣階酉矩陣Q和和n階上三角矩陣階上三角矩陣R R，使得，使得QRA 則稱之為則稱之為A A的的QR

3、QR分解或酉三角分解分解或酉三角分解當(dāng)當(dāng) 時(shí)，則稱為時(shí)，則稱為A的正三角分解的正三角分解nnRA化方法得標(biāo)準(zhǔn)正交向量化方法得標(biāo)準(zhǔn)正交向量e e 1 1, ,e e 2 2, , ,e e n n.3nnnnnnebebebxebebxebx221122211221111其中其中nibii, 2 , 1,0從而有從而有nnnnnnbbbbbbeeexxx222112112121.4nnnnnbbbbbbReeeQ2221121121,令令I(lǐng)QQT則則則則如如果果再再證證唯唯一一性性,11RQQRA由此得由此得DQRRQQ1111式中式中D=RD=R1 1R R-1-1仍為具有正對(duì)角元的上三角矩陣

4、。由于仍為具有正對(duì)角元的上三角矩陣。由于 DDDQDQQQITTT11即即D D為正交矩陣，因此為正交矩陣，因此D D為單位矩陣（正規(guī)上三角為對(duì)角陣）為單位矩陣（正規(guī)上三角為對(duì)角陣）故故RDRRQDQQ111,.5說明：說明：1若不要求若不要求R具有正對(duì)角元，則具有正對(duì)角元，則A的不同的不同QR分解僅在正交分解僅在正交矩陣的列和上三角矩陣矩陣的列和上三角矩陣R的對(duì)應(yīng)行相差模為的對(duì)應(yīng)行相差模為1的因子。的因子。該定理的證明過程給出了利用該定理的證明過程給出了利用SchmidtSchmidt正交化方法求可逆矩陣正交化方法求可逆矩陣QRQR分解的方法。分解的方法。例例 求矩陣求矩陣A A的的QRQR

5、分解分解110201221A解解，則，則記記122,102,011321xxx22若若A A為滿秩復(fù)矩陣，則存在酉矩陣為滿秩復(fù)矩陣，則存在酉矩陣Q Q與復(fù)非奇異上三角矩與復(fù)非奇異上三角矩陣陣R R，使，使A = QR A = QR .6TyyyxyyyxTyyyxyyxyyxyyxyxyxy2 , 1 , 121 , 1, 131231132),(),(1),(),(33121),(),(2211222311131112將將 正交化正交化321,xxxTyyTyyTyyeee2 , 1 , 11 , 1, 10 , 1 , 1663332221332211單位化單位化.733623313212

6、1122322eeexeexex整理得整理得,03633663322663322Q令令363300302222RQRA 則則.8例例1 1：利用：利用SchmidtSchmidt正交化方法求矩陣的正交化方法求矩陣的QRQR分解分解212240130A設(shè)設(shè),2 , 2, 1,1 , 4 , 3,2 , 0 , 0321TTTxxx則則 321,xxx線性無(wú)關(guān)，首先將它們正交化得：線性無(wú)關(guān)，首先將它們正交化得：,2 , 0 , 011Txy1),(),(221112yxyyyyx2),(),(1),(),(3322231113yyxyyyyxyyyxTyyx0 ,56,5851213Tyx0 ,

7、4 , 31212再單位化再單位化：,1 , 0 , 02111Tye,0 ,54,535122Tye.9,0 ,53,542133Tye于是：于是：1112eyx21212521eeyyx32132132251eeeyyyx從而從而 QRA00153540545302150212,1 , 0 , 02111Tye,0 ,54,535122Tye.10HouseholderHouseholder變換變換O+OTIHR2)(3)(H則則記記即：該變換將向量即：該變換將向量 變成了以變成了以 為法向量為法向量的平面的對(duì)稱向量的平面的對(duì)稱向量 。HouseholderHouseholder變換又稱為

8、反射變換或鏡像變換，有明變換又稱為反射變換或鏡像變換，有明顯的幾何意義。在顯的幾何意義。在 中，給定一個(gè)向量中，給定一個(gè)向量 ，令，令 表示表示 關(guān)于平面關(guān)于平面 （以（以 為法向量）為法向量）的反射變換所得像，的反射變換所得像，如圖所示，如圖所示，3R.11定義定義 設(shè)設(shè) 是一個(gè)單位向量，令是一個(gè)單位向量，令nCHIH2)(則稱則稱H H是一個(gè)是一個(gè)HouseholderHouseholder矩陣或矩陣或HouseholderHouseholder變換。變換。性質(zhì)性質(zhì)5.1.1 5.1.1 設(shè)設(shè)H H是一個(gè)是一個(gè)HouseholderHouseholder矩陣，則矩陣，則（1 1）H H是是

9、HermiteHermite矩陣，矩陣， ；（2 2）H H是酉矩陣，是酉矩陣， ；（3 3）H H是對(duì)合矩陣，是對(duì)合矩陣， ；（4 4）H H是自逆矩陣是自逆矩陣（5 5）diagdiag( (I I, ,H H ) ) 也是一個(gè)也是一個(gè)HouseholderHouseholder矩陣矩陣; ;（6 6）det Hdet H = -1 = -1。HHHIHHHIH2HH1.12其中其中 為實(shí)數(shù)。為實(shí)數(shù)。定理定理 設(shè)設(shè) 是一個(gè)單位向量，則對(duì)于任意的是一個(gè)單位向量，則對(duì)于任意的nCu nCxauHx uaxxaH,2nC當(dāng)當(dāng) 時(shí)，取單位向量時(shí)，取單位向量 使使0 auxnC0 xHauxxxxI

10、xHHH)(22)(存在存在HouseholderHouseholder矩陣矩陣H H，使得，使得證明證明 當(dāng)當(dāng)x=0 x=0時(shí)，任取單位向量時(shí)，任取單位向量則則則則002)(HIxH.13所以所以 當(dāng)當(dāng) 時(shí)，取時(shí)，取aux ,2auxauxxauxauxauxIxIxHHT22)(22)(uuaxuauaxxxauxauxHHHHH2)()(由于由于auauxauxauxxauxxxHHH)()()()(2)()()()()(2auxauxauxxauxxHHxauxxuaxxxxuauaxxxHHHHHHH)(2)(222.14推論推論1 1 對(duì)于任意的對(duì)于任意的 ，存在，存在Househ

11、olderHouseholder矩陣矩陣H H，使，使nCx1aeHx其中其中 為實(shí)數(shù)。為實(shí)數(shù)。12,eaxxaH) 1,(,2)(uuRuuuIHTnT1aeHx2xa 推論推論2 2 對(duì)于任意的對(duì)于任意的 ，存在，存在HouseholderHouseholder矩陣矩陣H HnRx上述結(jié)論表明，可以利用上述結(jié)論表明，可以利用HouseholderHouseholder變換將任意向量變換將任意向量化為與第一自然基向量化為與第一自然基向量 平行的向量（共線）平行的向量（共線）。 nRx1e，其中，其中使得使得得得.15例例2 2 用用HouseholderHouseholder變換將向量變換將

12、向量化為與化為與 平行的向量。平行的向量。Tiix2,232xTe0, 0, 11iexH21iaeaxxaH2,12ia325301211iiaexaex13ieHx 因此因此解解 由于由于為了使為了使為實(shí)數(shù)，取為實(shí)數(shù)，取令令112102145105101512iiiiIHH則則也可取也可取 或或3aia3說明說明.161 1 將矩陣將矩陣A A按列分塊按列分塊 , ,取取nA,2121121111111,aeaeaHIH111200*,11121111BaHHHAHn利用利用HouseholderHouseholder矩陣求矩陣的矩陣求矩陣的QRQR分解的步驟：分解的步驟：則則.172 2

13、 將矩陣將矩陣 按列分塊，按列分塊，)1()1(1nnCBnB,32122221221222,bebebuHuuIH222222001HHT2211200*0*)(CaaAHH)2()2(2nnCC取取則則其中其中.18121nHHHQ則則 A=QRA=QR依次進(jìn)行下去，得到第依次進(jìn)行下去，得到第n-1n-1個(gè)個(gè)n n階的階的HouseholdHousehold矩陣矩陣H Hn n-1-1，使得，使得RaaaAHHHnn*2112133因因 為自逆矩陣，令為自逆矩陣，令 iH.19例例2：已知矩陣：已知矩陣,112240130A利用利用HouseholderHouseholder變變換求換求A

14、 A的的QRQR分解分解因?yàn)橐驗(yàn)?2 , 0 , 01T記記, 2211a令令21111111eaeaT1 , 0 , 121則則HIH1112,001010100從而從而1302402121AH記記,3 , 4T則則, 5222b令令22222221ebeb,3 , 1101THIH2222,433451.20記記,43034000100122HHT則則RAHH20015021212取取0053404305121HHQ則則QRA.21GivensGivens變換變換x 2yx O我們知道，平面坐標(biāo)系我們知道，平面坐標(biāo)系 中的旋轉(zhuǎn)角為中的旋轉(zhuǎn)角為 變換可變換可表示為表示為2RT T是正交矩陣，

15、稱為平面旋轉(zhuǎn)矩陣。是正交矩陣，稱為平面旋轉(zhuǎn)矩陣。將其推廣到一般的將其推廣到一般的n n維酉空間中，維酉空間中，可以得到初等旋轉(zhuǎn)變換，也稱為可以得到初等旋轉(zhuǎn)變換，也稱為GivensGivens變換。變換。cossinsincos,2121TxxTyy.22定義定義 設(shè)設(shè)記記n n階矩陣階矩陣nCsc,122 sc)()()()(111111lklkcsscTkl由由 所確定的線性變換稱為所確定的線性變換稱為GivensGivens變換或初等旋轉(zhuǎn)變換。變換或初等旋轉(zhuǎn)變換。klT稱稱 為為GivensGivens矩陣或初等旋轉(zhuǎn)矩陣；矩陣或初等旋轉(zhuǎn)矩陣；klT容易驗(yàn)證，容易驗(yàn)證，GivensGiven

16、s矩陣是矩陣是酉矩陣酉矩陣，且，且 。 1detklT.23定理定理 對(duì)于任意向量對(duì)于任意向量 ，存在，存在GivensGivens變換變換 ，使得，使得 的第的第l l個(gè)分量為個(gè)分量為0 0，第，第k k個(gè)分量為非負(fù)實(shí)數(shù)，其個(gè)分量為非負(fù)實(shí)數(shù)，其余分量不變。余分量不變。nCxklTxTklTnklTnyyyxTxxxx,2121),( ,lkjxycxsxyxsxcyjjlkllkk證明證明 記記由由GivensGivens矩陣的定義可得矩陣的定義可得.24當(dāng)當(dāng) 時(shí)，取時(shí)，取c c=1,=1,s s=0=0，則，則T Tkl kl = = I I, ,此時(shí)此時(shí)022lkxx),(, 0lkjx

17、yyyjjlk當(dāng)當(dāng) 時(shí)，取時(shí)，取022lkxx2222,lkllkkxxxsxxxc),(002222222222lkjxyxxxxxxxxyxxxxxxxxxxyjjlklklklkllklklllkkkk, ,結(jié)論成立。結(jié)論成立。則則.25與第一自然基向量與第一自然基向量推論推論 給定一個(gè)向量給定一個(gè)向量 ，則存在一組，則存在一組GivensGivens矩陣矩陣 ， 使得使得nCxnTTT11312,1212131exxTTTnnCx1eTnxxxx,2112TTnxxxxxT, 0 ,3222112稱為用稱為用GivensGivens變換化向量變換化向量證明證明 設(shè)設(shè)由上述定理存在由上述

18、定理存在GivensGivens矩陣矩陣使得使得共線。共線。.26依此繼續(xù)下去，可以得出依此繼續(xù)下去，可以得出TnxxxxxxTT, 0, 0,433222112131222221121310, 0,exxxxxTTTTnn對(duì)于對(duì)于 又存在又存在GivensGivens矩陣矩陣 ，使得，使得xT1213T.27例例3 3 用用GivensGivens變換化向量變換化向量 與第一自然基向量與第一自然基向量共線共線 Tiix2,25,2222121xxixix5,5211isic1000525055212iiiiT20512xT解解 由于由于取取則構(gòu)造則構(gòu)造GivensGivens矩陣矩陣.283

19、, 2, 5232131xxxx32,3522sc11213133003,3503201032035exTTTxT12對(duì)于對(duì)于由于由于取取則則.29nA,21nTTT11312,121112131eTTTn2111112131,0*aBaATTTn利用利用GivensGivens矩陣求矩陣的矩陣求矩陣的QRQR分解的步驟：分解的步驟：先將矩陣先將矩陣A A按列分塊，按列分塊，11 1 對(duì)于對(duì)于存在一組存在一組GivensGivens矩陣矩陣于是于是nnCA使得使得.30nB321*nTTT22423,22222232420, 0,*,*bbTTTTn又存在一組又存在一組GivensGivens