數(shù)值分析07線性代數(shù)方程組的直接法課件

第七章線性方程組的直接解法(DirectMethodforSolvingLinearSystems)第七章線性方程組AX=b（3.1）

AX=b（3.1）線性方程組數(shù)值解法的分類直接法（適用于中等規(guī)模的n階線性方程組）

◆

Gauss消去法及其變形

◆矩陣的三角分解法迭代法（適用于高階線性方程組）

◆Jacobi迭代法

◆

Gauss-Seidel迭代法

◆逐次超松弛法

◆共軛斜量法線性方程組數(shù)值解法的分類直接法（適用于中等規(guī)模的n階線性方§1高斯消去法(GaussianElimination)1．三角形方程組的解法---回代法（3.2）（3.3）

§1高斯消去法(GaussianElimination2．順序高斯消去法思路首先將A化為上三角陣(upper-triangularmatrix)，此過(guò)程稱為消去過(guò)程，再求解如下形狀的方程組，此過(guò)程稱為回代求解

(backwardsubstitution)。=AX=b2．順序高斯消去法思路首先將A化為上三角陣(upper-將增廣矩陣的第i行+li1

第1行，得到：消元過(guò)程：第一步：設(shè)，計(jì)算因子其中A(1)X=b(1)A(2)X=b(2)將增廣矩陣的第i行+li1第1行，得到：消元第k步：設(shè)，計(jì)算因子將增廣矩陣的第i行+lik

第k行，得到：其中第k步：設(shè)，計(jì)算因子將增廣矩陣的第i行+回代過(guò)程：共進(jìn)行n

1步，得到回代過(guò)程：共進(jìn)行n1步，得到運(yùn)算量

（AmountofComputation）（1）用克萊姆（Cramer）法則求解n階線性方程組

每個(gè)行列式由n!項(xiàng)相加，而每項(xiàng)包含了n個(gè)因子相乘，乘法運(yùn)算次數(shù)為(n-1)n!次.僅考慮乘(除)法運(yùn)算,計(jì)算解向量包括計(jì)算n+1個(gè)行列式和n次除法運(yùn)算,乘(除)法運(yùn)算次數(shù)N=(n+1)(n-1)n!+n.當(dāng)n=8時(shí),N＝200，0000運(yùn)算量（AmountofComputation）（（2）

高斯消去法:

第1個(gè)消去步，計(jì)算li1(i=2,3，…，n)，有n-1次除法運(yùn)算.使aij(1)變?yōu)閍ij(2)

以及使bi(1)變?yōu)閎i(2)有n(n-1)次乘法運(yùn)算.

第k個(gè)消去步，有n-k次除法運(yùn)算、(n-k+1)(n-k)次乘法運(yùn)算.乘法運(yùn)算總次數(shù)為：

除法運(yùn)算總次數(shù)為:(n-1)+…+1=n(n-1)/2（2）高斯消去法:

第1個(gè)消去步，計(jì)算li1(i=2,回代過(guò)程的計(jì)算除法運(yùn)算次數(shù)為n次.乘法運(yùn)算的總次數(shù)為n+(n-1)+…+1=n(n-1)/2次Gauss消去法除法運(yùn)算次數(shù)為:n(n-1)/2+n=n(n+1)/2，乘法運(yùn)算次數(shù)為:n(n-1)(n+1)/3+n(n-1)/2=n(n-1)(2n+5)/6，

通常也說(shuō)Gauss消去法的運(yùn)算次數(shù)與n3同階，記為O(n3)回代過(guò)程的計(jì)算除法運(yùn)算次數(shù)為n次.乘法運(yùn)算的總次數(shù)為Ga順序Gauss消去法可執(zhí)行的前提定理1

給定線性方程組，如果n階方陣的所有順序主子式都不為零，即則按順序Gauss消去法所形成的各主元素均不為零，從而Gauss

消去法可順利執(zhí)行。注：當(dāng)線性方程組的系數(shù)矩陣為對(duì)稱正定或嚴(yán)格對(duì)角占優(yōu)陣時(shí)，按Gauss消去法計(jì)算是穩(wěn)定的。順序Gauss消去法可執(zhí)行的前提定理1給定線性方程組IllustrationIllustration3、列主元（Columnpivotelement）Gauss消去法：1、輸入矩陣階數(shù)n，增廣矩陣

A(n,n+1);2、對(duì)于(1)按列選主元：選取l

使

(2)如果，交換A(n,n+1)

的第k行與第l

行元素(3)

消元計(jì)算：3、回代計(jì)算3、列主元（Columnpivotelement）G4．無(wú)回代過(guò)程的主元消去法算法：第一步：選主元，在第一列中選絕對(duì)值最大的元素，設(shè)第k行為主元行，將主元行換至第一行，將第一個(gè)方程中x1的系數(shù)變?yōu)?，并從其余n–1個(gè)方程中消去x1。第二步：在第二列后n–1個(gè)元素中選主元，將第二個(gè)方程中x2的系數(shù)變?yōu)?，并從其它n–1個(gè)方程中消去x2。第k步：在第k列后n–k個(gè)元素中選主元，換行，將第k個(gè)方程xk的系數(shù)變?yōu)?，從其它n-1個(gè)方程中消去變量xk，…………4．無(wú)回代過(guò)程的主元消去法算法：第一步：選主元，在第一列中選消元公式為：對(duì)k=1,2,…,

按上述步驟進(jìn)行到第n步后，方程組變?yōu)椋杭礊樗蟮慕庀綖椋簩?duì)k=1,2,…,按上述步驟進(jìn)行到第n注：無(wú)回代的Gauss消元法實(shí)際上就是將方程組的系數(shù)矩陣化為行最簡(jiǎn)形矩陣。注：無(wú)回代的Gauss消元法實(shí)際上就是將方程組的系數(shù)矩陣化5．無(wú)回代消去法的應(yīng)用（1）解線性方程組系設(shè)要解的線性方程組系為：AX=b1,AX=b2,…AX=bm上述方程組系可以寫為AX=B=(b1,…,bm)5．無(wú)回代消去法的應(yīng)用（1）解線性方程組系設(shè)要解的線性方程組因此

X=A-1B即為線性方程組系的解。

在計(jì)算機(jī)上只需要增加幾組右端常數(shù)項(xiàng)的存貯單元，其結(jié)構(gòu)和解一個(gè)方程組時(shí)一樣。行系數(shù)右端因此 X=A-1B即為線性方程組系的解。（2）求逆矩陣設(shè)A=(aij)nn是非奇矩陣，A

0，且令由于

AA-1=AX=I因此，求A-1的問(wèn)題相當(dāng)于解下列線性方程組相當(dāng)于（1）中m=n,

B=I的情形。

（2）求逆矩陣設(shè)A=(aij)nn是非奇矩陣，A（3）求行列式的值用高斯消去法將

A化成（3）求行列式的值用高斯消去法將A化成§2.求解三對(duì)角方程組的追趕法定理：若A

為對(duì)角占優(yōu)的三對(duì)角陣，且滿足則方程組有唯一的LU分解?！?.求解三對(duì)角方程組的追趕法定理：若A為對(duì)角占優(yōu)的三直接比較等式兩邊的元素，可得到計(jì)算公式第二步:追—即解：第三步:趕—即解：第一步:對(duì)A作Crout分解直接比較等式兩邊的元素，可得到計(jì)算公式第二步:追—即解§3

矩陣的三角分解法

高斯消元法的矩陣形式

每一步消去過(guò)程相當(dāng)于左乘初等變換矩陣Lk§3矩陣的三角分解法

高斯消元法的矩陣形式每一步消數(shù)值分析07線性代數(shù)方程組的直接法課件A

的

LU

分解(LUfactorization)A的LU分解定理2：（矩陣的三角分解）設(shè)A為nn實(shí)矩陣，如果解AX=b用高斯消去法能夠完成（限制不進(jìn)行行的交換，即），則矩陣A可分解為單位下三角矩陣L與上三角知陣U的乘積。

A=LU且這種分解是唯一的。定理2：（矩陣的三角分解）設(shè)A為nn實(shí)矩陣，如果注：（1）L

為單位下三角陣而U

為一般上三角陣的分解稱為Doolittle

分解（2）L

為一般下三角陣而U

為單位上三角陣的分解稱為Crout分解。

注：（1）L為單位下三角陣而U為一般上三角陣的分解Doolittle分解法：通過(guò)比較法直接導(dǎo)出L和

U的計(jì)算公式。思路Doolittle分解法：通過(guò)比較法直LU分解求解線性方程組LU分解求解線性方程組直接三角分解法解AX=b的計(jì)算公式對(duì)于r=2,3,…,n計(jì)算（2）計(jì)算U的第r行元素

（3）計(jì)算L的第r列元素

(r

n)(1)直接三角分解法解AX=b的計(jì)算公式對(duì)于r=2,3,(4)(5)(4)(5)數(shù)值分析07線性代數(shù)方程組的直接法課件§4平方根法1．矩陣的LDR分解定理3：如果n階矩陣A的所有順序主子式均不等于零，則矩陣A存在唯一的分解式A=LDR其中L和R分別是n階單位下三角陣和單位上三角陣，D是n階對(duì)角元素的不為零的對(duì)角陣，上述分解也稱為A的LDR分解?！?平方根法1．矩陣的LDR分解定理3：如果n階矩陣A的2．平方根法

如果A為對(duì)稱正定矩陣，則存在一個(gè)實(shí)的非奇異下三

角矩陣，使A=LLT

，且當(dāng)限定的對(duì)角元素為正時(shí)，這種分解是唯一的。定理4：（對(duì)稱正定矩陣的三角分解）2．平方根法如果A為對(duì)稱正定矩陣，則存在一個(gè)實(shí)的非奇異將對(duì)稱

正定陣

A

做LU

分解U=uij=u11uij/uii111u22unn記為

A對(duì)稱即記D1/2=則仍是下三角陣，且有將對(duì)稱正定陣A做LU分解U=uij=u11uij用平方根法解線性代數(shù)方程組的算法（1）對(duì)矩陣A進(jìn)行Cholesky分解，即A=LLT，由矩陣乘法：對(duì)于

i=1,2,…,n計(jì)算用平方根法解線性代數(shù)方程組的算法（1）對(duì)矩陣A進(jìn)行Chole（2）求解下三角形方程組

（3）求解LTX=y（2）求解下三角形方程組（3）求解LTX=y3．改進(jìn)平方根法

其中3．改進(jìn)平方根法其中改進(jìn)平方根法解對(duì)稱正定方程組的算法改進(jìn)平方根法解對(duì)稱正定方程組的算法令LTX=y，先解下三角形方程組LDY=b得解上三角形方程組LTX=Y得令LTX=y，先解下三角形方程組LDY=b得解上§5向量和矩陣的范數(shù)

1．向量的范數(shù)定義1：設(shè)XRn，Ｘ

表示定義在Rn上的一個(gè)實(shí)值函數(shù)，稱之為X的范數(shù)，它具有下列性質(zhì)：（3）三角不等式：即對(duì)任意兩個(gè)向量X、YRn，恒有

(1)非負(fù)性：即對(duì)一切XRn，X

0,Ｘ

>0(2)齊次性：即對(duì)任何實(shí)數(shù)aR，XRn，§5向量和矩陣的范數(shù)1．向量的范數(shù)定義1：設(shè)XR

設(shè)X=(x1,x2,…,xn)T，則有

（1）（2）（3）三個(gè)常用的范數(shù)：范數(shù)等價(jià):設(shè)‖·‖A和‖·‖B是R上任意兩種范數(shù)，若存在常數(shù)C1、C2

>0使得,則稱

‖·‖A和‖·‖B

等價(jià)。設(shè)X=(x1,x2,…,xn)T，則有 （1定理5：定義在Rn上的向量范數(shù)

是變量X分量的

一致連續(xù)函數(shù)。定理6：在Rn上定義的任一向量范數(shù)

都與范數(shù)

等價(jià)，

即存在正數(shù)

M

與m(M>m)

對(duì)一切XRn，不等式成立。推論：Rn上定義的任何兩個(gè)范數(shù)都是等價(jià)的。

定理5：定義在Rn上的向量范數(shù)是變量X分量的定理6：對(duì)常用范數(shù)，容易驗(yàn)證下列不等式：

對(duì)常用范數(shù)，容易驗(yàn)證下列不等式：定義2：設(shè)給定Rn中的向量序列{}，即其中若對(duì)任何i(i=1,2,…,n)都有則向量

稱為向量序列{}的極限，或者說(shuō)向量序列{}依坐標(biāo)收斂于向量，記為定義2：設(shè)給定Rn中的向量序列{}，即其中若對(duì)任何i定理7：向量序列{Xk}依坐標(biāo)收斂于X*的充要條件是向量序列依范數(shù)收斂與依坐標(biāo)收斂是等價(jià)的。2．矩陣的范數(shù)定義3：設(shè)A為n

階方陣，Rn中已定義了向量范數(shù)，

則稱

為矩陣A的范數(shù)或模，

記為。即定理7：向量序列{Xk}依坐標(biāo)收斂于X*的充要條件是向量序列矩陣范數(shù)的基本性質(zhì)：

（1）當(dāng)A=0時(shí)，＝0，當(dāng)A0時(shí)，>0（2）對(duì)任意實(shí)數(shù)k和任意A，有（3）對(duì)任意兩個(gè)n階矩陣A、B有（5）相容性對(duì)任意兩個(gè)n階矩陣A、B，有（4）對(duì)任意向量XRn，和任意矩陣A，有矩陣范數(shù)的基本性質(zhì)：（1）當(dāng)A=0時(shí)，＝0例5:設(shè)A＝(aij)∈M.定義證明：這樣定義的非負(fù)實(shí)數(shù)不是相容的矩陣范數(shù).證明：設(shè)從而例5:設(shè)A＝(aij)∈M.定義證明：這樣定義的非負(fù)實(shí)數(shù)不定理8：設(shè)n

階方陣A=(aij)nn，則（Ⅰ）與相容的矩陣范數(shù)是（Ⅱ）與相容的矩陣范數(shù)是其中1為矩陣ATA的最大特征值。（Ⅲ）與相容的矩陣范數(shù)是上述三種范數(shù)分別稱為矩陣的1-范數(shù)、2-范數(shù)和∞-范數(shù)。定理8：設(shè)n階方陣A=(aij)nn，則（Ⅰ）與可以證明,對(duì)方陣和，有

(向量||·||2的直接推廣)Frobenius范數(shù):可以證明,對(duì)方陣和3．矩陣的范數(shù)與特征值之間的關(guān)系定理9：矩陣A

的任一特征值的絕對(duì)值不超過(guò)A的范數(shù)，即

定義4：矩陣A的諸特征值的最大絕對(duì)值稱為A的譜半徑，記為：并且如果A為對(duì)稱矩陣，則

3．矩陣的范數(shù)與特征值之間的關(guān)系定理9：矩陣A的任一特征值注:Rn×n中的任意兩個(gè)矩陣范數(shù)也是等價(jià)的。定義5：設(shè)||·||為Rn×n上的矩陣范數(shù)，A,B∈Rn×n稱||A-B||為A與B之間的距離。定義6：設(shè)給定Rn×n中的矩陣序列{

}，若則稱矩陣序列{}收斂于矩陣A，記為注:Rn×n中的任意兩個(gè)矩陣范數(shù)也是等價(jià)的。定義5：設(shè)||定理10

設(shè)B∈Rn×n，則由B的各冪次得到的矩陣序列Bk,k=0,1,2…)收斂于零矩陣（）的充要條件為。定理10設(shè)B∈Rn×n，則由B的各冪次得到的求解時(shí)，A

和的誤差對(duì)解有何影響？設(shè)A

精確，有誤差，得到的解為，即絕對(duì)誤差放大因子又相對(duì)誤差放大因子§6

線性方程組的性態(tài)和解的誤差分析求解時(shí)，A和的誤差對(duì)解§6ErrorAnalysisfor.

設(shè)精確，A有誤差，得到的解為，即

Waitaminute…

Whosaidthat(I+A1A)isinvertible?(只要A充分小，使得

是關(guān)鍵的誤差放大因子，稱為A的條件數(shù)，記為cond(A),越則A越病態(tài)，難得準(zhǔn)確解。大§6ErrorAnalysisfor定義7：設(shè)A

為n階非奇矩陣，稱數(shù)為矩陣A的條件數(shù)，條件數(shù)的性質(zhì)：

?。ヽond(A)≥1ⅱ）cond(kA)=cond(A),k為非零常數(shù)ⅲ）若，則記為cond(A)。定義7：設(shè)A為n階非奇矩陣，稱數(shù)為矩陣A的注:

cond(A)與所取的范數(shù)有關(guān)常用條件數(shù)有：cond(A)2特別地，若A對(duì)稱，則cond(A)1=‖A‖1‖‖1cond(A)=‖A‖

‖‖注:cond(A)與所取的范數(shù)有關(guān)常用條件數(shù)有：c例：Hilbert陣cond(H2)=27cond(H3)748cond(H6)=2.9106cond(Hn)asn注：現(xiàn)在用Matlab數(shù)學(xué)軟件可以很方便求矩陣的狀態(tài)數(shù)!定義2:

設(shè)線性方程組的系數(shù)矩陣是非奇異的,如果cond(A)越大,就稱這個(gè)方程組越病態(tài).反之,cond(A)越小,就稱這個(gè)方程組越良態(tài).例：Hilbert陣cond(H2)=27cond一般判斷矩陣是否病態(tài)，并不計(jì)算A1，而由經(jīng)驗(yàn)得出。行列式很大或很小（如某些行、列近似相關(guān)）；元素間相差大數(shù)量級(jí)，且無(wú)規(guī)則；主元消去過(guò)程中出現(xiàn)小主元；特征值相差大數(shù)量級(jí)。一般判斷矩陣是否病態(tài)，并不計(jì)算A1，而由經(jīng)驗(yàn)得出。近似解的誤差估計(jì)及改善：設(shè)的近似解為，則一般有cond(A)誤差上限改善方法(1)：Step1:近似解Step2:Step3:Step4:若可被精確解出，則有就是精確解了。經(jīng)驗(yàn)表明：若A不是非常病態(tài)（例如：），則如此迭代可達(dá)到機(jī)器精度；但若A病態(tài)，則此算法也不能改進(jìn)。近似解的誤差估計(jì)及改善：設(shè)的近似解為改善方法(2)對(duì)方程組進(jìn)行預(yù)處理，即適當(dāng)選擇非奇異對(duì)角陣D，C,使求解

Ax=b的問(wèn)題轉(zhuǎn)化為求解等價(jià)方程組DAC[C-1x]=Db,且使DAC

的條件數(shù)得到改善。（P173）用雙精度進(jìn)行計(jì)算，以便改善和減輕病態(tài)矩陣的影響。改善方法(2)對(duì)方程組進(jìn)行預(yù)處理，即適當(dāng)選擇非奇異對(duì)第七章線性方程組的直接解法(DirectMethodforSolvingLinearSystems)第七章線性方程組AX=b（3.1）

AX=b（3.1）線性方程組數(shù)值解法的分類直接法（適用于中等規(guī)模的n階線性方程組）

◆

Gauss消去法及其變形

◆矩陣的三角分解法迭代法（適用于高階線性方程組）

◆Jacobi迭代法

◆

Gauss-Seidel迭代法

◆逐次超松弛法

◆共軛斜量法線性方程組數(shù)值解法的分類直接法（適用于中等規(guī)模的n階線性方§1高斯消去法(GaussianElimination)1．三角形方程組的解法---回代法（3.2）（3.3）

§1高斯消去法(GaussianElimination2．順序高斯消去法思路首先將A化為上三角陣(upper-triangularmatrix)，此過(guò)程稱為消去過(guò)程，再求解如下形狀的方程組，此過(guò)程稱為回代求解

(backwardsubstitution)。=AX=b2．順序高斯消去法思路首先將A化為上三角陣(upper-將增廣矩陣的第i行+li1

第1行，得到：消元過(guò)程：第一步：設(shè)，計(jì)算因子其中A(1)X=b(1)A(2)X=b(2)將增廣矩陣的第i行+li1第1行，得到：消元第k步：設(shè)，計(jì)算因子將增廣矩陣的第i行+lik

第k行，得到：其中第k步：設(shè)，計(jì)算因子將增廣矩陣的第i行+回代過(guò)程：共進(jìn)行n

1步，得到回代過(guò)程：共進(jìn)行n1步，得到運(yùn)算量

（AmountofComputation）（1）用克萊姆（Cramer）法則求解n階線性方程組

每個(gè)行列式由n!項(xiàng)相加，而每項(xiàng)包含了n個(gè)因子相乘，乘法運(yùn)算次數(shù)為(n-1)n!次.僅考慮乘(除)法運(yùn)算,計(jì)算解向量包括計(jì)算n+1個(gè)行列式和n次除法運(yùn)算,乘(除)法運(yùn)算次數(shù)N=(n+1)(n-1)n!+n.當(dāng)n=8時(shí),N＝200，0000運(yùn)算量（AmountofComputation）（（2）

高斯消去法:

第1個(gè)消去步，計(jì)算li1(i=2,3，…，n)，有n-1次除法運(yùn)算.使aij(1)變?yōu)閍ij(2)

以及使bi(1)變?yōu)閎i(2)有n(n-1)次乘法運(yùn)算.

第k個(gè)消去步，有n-k次除法運(yùn)算、(n-k+1)(n-k)次乘法運(yùn)算.乘法運(yùn)算總次數(shù)為：

除法運(yùn)算總次數(shù)為:(n-1)+…+1=n(n-1)/2（2）高斯消去法:

第1個(gè)消去步，計(jì)算li1(i=2,回代過(guò)程的計(jì)算除法運(yùn)算次數(shù)為n次.乘法運(yùn)算的總次數(shù)為n+(n-1)+…+1=n(n-1)/2次Gauss消去法除法運(yùn)算次數(shù)為:n(n-1)/2+n=n(n+1)/2，乘法運(yùn)算次數(shù)為:n(n-1)(n+1)/3+n(n-1)/2=n(n-1)(2n+5)/6，

通常也說(shuō)Gauss消去法的運(yùn)算次數(shù)與n3同階，記為O(n3)回代過(guò)程的計(jì)算除法運(yùn)算次數(shù)為n次.乘法運(yùn)算的總次數(shù)為Ga順序Gauss消去法可執(zhí)行的前提定理1

給定線性方程組，如果n階方陣的所有順序主子式都不為零，即則按順序Gauss消去法所形成的各主元素均不為零，從而Gauss

消去法可順利執(zhí)行。注：當(dāng)線性方程組的系數(shù)矩陣為對(duì)稱正定或嚴(yán)格對(duì)角占優(yōu)陣時(shí)，按Gauss消去法計(jì)算是穩(wěn)定的。順序Gauss消去法可執(zhí)行的前提定理1給定線性方程組IllustrationIllustration3、列主元（Columnpivotelement）Gauss消去法：1、輸入矩陣階數(shù)n，增廣矩陣

A(n,n+1);2、對(duì)于(1)按列選主元：選取l

使

(2)如果，交換A(n,n+1)

的第k行與第l

行元素(3)

消元計(jì)算：3、回代計(jì)算3、列主元（Columnpivotelement）G4．無(wú)回代過(guò)程的主元消去法算法：第一步：選主元，在第一列中選絕對(duì)值最大的元素，設(shè)第k行為主元行，將主元行換至第一行，將第一個(gè)方程中x1的系數(shù)變?yōu)?，并從其余n–1個(gè)方程中消去x1。第二步：在第二列后n–1個(gè)元素中選主元，將第二個(gè)方程中x2的系數(shù)變?yōu)?，并從其它n–1個(gè)方程中消去x2。第k步：在第k列后n–k個(gè)元素中選主元，換行，將第k個(gè)方程xk的系數(shù)變?yōu)?，從其它n-1個(gè)方程中消去變量xk，…………4．無(wú)回代過(guò)程的主元消去法算法：第一步：選主元，在第一列中選消元公式為：對(duì)k=1,2,…,

按上述步驟進(jìn)行到第n步后，方程組變?yōu)椋杭礊樗蟮慕庀綖椋簩?duì)k=1,2,…,按上述步驟進(jìn)行到第n注：無(wú)回代的Gauss消元法實(shí)際上就是將方程組的系數(shù)矩陣化為行最簡(jiǎn)形矩陣。注：無(wú)回代的Gauss消元法實(shí)際上就是將方程組的系數(shù)矩陣化5．無(wú)回代消去法的應(yīng)用（1）解線性方程組系設(shè)要解的線性方程組系為：AX=b1,AX=b2,…AX=bm上述方程組系可以寫為AX=B=(b1,…,bm)5．無(wú)回代消去法的應(yīng)用（1）解線性方程組系設(shè)要解的線性方程組因此

X=A-1B即為線性方程組系的解。

在計(jì)算機(jī)上只需要增加幾組右端常數(shù)項(xiàng)的存貯單元，其結(jié)構(gòu)和解一個(gè)方程組時(shí)一樣。行系數(shù)右端因此 X=A-1B即為線性方程組系的解。（2）求逆矩陣設(shè)A=(aij)nn是非奇矩陣，A

0，且令由于

AA-1=AX=I因此，求A-1的問(wèn)題相當(dāng)于解下列線性方程組相當(dāng)于（1）中m=n,

B=I的情形。

（2）求逆矩陣設(shè)A=(aij)nn是非奇矩陣，A（3）求行列式的值用高斯消去法將

A化成（3）求行列式的值用高斯消去法將A化成§2.求解三對(duì)角方程組的追趕法定理：若A

為對(duì)角占優(yōu)的三對(duì)角陣，且滿足則方程組有唯一的LU分解?！?.求解三對(duì)角方程組的追趕法定理：若A為對(duì)角占優(yōu)的三直接比較等式兩邊的元素，可得到計(jì)算公式第二步:追—即解：第三步:趕—即解：第一步:對(duì)A作Crout分解直接比較等式兩邊的元素，可得到計(jì)算公式第二步:追—即解§3

矩陣的三角分解法

高斯消元法的矩陣形式

每一步消去過(guò)程相當(dāng)于左乘初等變換矩陣Lk§3矩陣的三角分解法

高斯消元法的矩陣形式每一步消數(shù)值分析07線性代數(shù)方程組的直接法課件A

的

LU

分解(LUfactorization)A的LU分解定理2：（矩陣的三角分解）設(shè)A為nn實(shí)矩陣，如果解AX=b用高斯消去法能夠完成（限制不進(jìn)行行的交換，即），則矩陣A可分解為單位下三角矩陣L與上三角知陣U的乘積。

A=LU且這種分解是唯一的。定理2：（矩陣的三角分解）設(shè)A為nn實(shí)矩陣，如果注：（1）L

為單位下三角陣而U

為一般上三角陣的分解稱為Doolittle

分解（2）L

為一般下三角陣而U

為單位上三角陣的分解稱為Crout分解。

注：（1）L為單位下三角陣而U為一般上三角陣的分解Doolittle分解法：通過(guò)比較法直接導(dǎo)出L和

U的計(jì)算公式。思路Doolittle分解法：通過(guò)比較法直LU分解求解線性方程組LU分解求解線性方程組直接三角分解法解AX=b的計(jì)算公式對(duì)于r=2,3,…,n計(jì)算（2）計(jì)算U的第r行元素

（3）計(jì)算L的第r列元素

(r

n)(1)直接三角分解法解AX=b的計(jì)算公式對(duì)于r=2,3,(4)(5)(4)(5)數(shù)值分析07線性代數(shù)方程組的直接法課件§4平方根法1．矩陣的LDR分解定理3：如果n階矩陣A的所有順序主子式均不等于零，則矩陣A存在唯一的分解式A=LDR其中L和R分別是n階單位下三角陣和單位上三角陣，D是n階對(duì)角元素的不為零的對(duì)角陣，上述分解也稱為A的LDR分解?！?平方根法1．矩陣的LDR分解定理3：如果n階矩陣A的2．平方根法

如果A為對(duì)稱正定矩陣，則存在一個(gè)實(shí)的非奇異下三

角矩陣，使A=LLT

，且當(dāng)限定的對(duì)角元素為正時(shí)，這種分解是唯一的。定理4：（對(duì)稱正定矩陣的三角分解）2．平方根法如果A為對(duì)稱正定矩陣，則存在一個(gè)實(shí)的非奇異將對(duì)稱

正定陣

A

做LU

分解U=uij=u11uij/uii111u22unn記為

A對(duì)稱即記D1/2=則仍是下三角陣，且有將對(duì)稱正定陣A做LU分解U=uij=u11uij用平方根法解線性代數(shù)方程組的算法（1）對(duì)矩陣A進(jìn)行Cholesky分解，即A=LLT，由矩陣乘法：對(duì)于

i=1,2,…,n計(jì)算用平方根法解線性代數(shù)方程組的算法（1）對(duì)矩陣A進(jìn)行Chole（2）求解下三角形方程組

（3）求解LTX=y（2）求解下三角形方程組（3）求解LTX=y3．改進(jìn)平方根法

其中3．改進(jìn)平方根法其中改進(jìn)平方根法解對(duì)稱正定方程組的算法改進(jìn)平方根法解對(duì)稱正定方程組的算法令LTX=y，先解下三角形方程組LDY=b得解上三角形方程組LTX=Y得令LTX=y，先解下三角形方程組LDY=b得解上§5向量和矩陣的范數(shù)

1．向量的范數(shù)定義1：設(shè)XRn，Ｘ

表示定義在Rn上的一個(gè)實(shí)值函數(shù)，稱之為X的范數(shù)，它具有下列性質(zhì)：（3）三角不等式：即對(duì)任意兩個(gè)向量X、YRn，恒有

(1)非負(fù)性：即對(duì)一切XRn，X

0,Ｘ

>0(2)齊次性：即對(duì)任何實(shí)數(shù)aR，XRn，§5向量和矩陣的范數(shù)1．向量的范數(shù)定義1：設(shè)XR

設(shè)X=(x1,x2,…,xn)T，則有

（1）（2）（3）三個(gè)常用的范數(shù)：范數(shù)等價(jià):設(shè)‖·‖A和‖·‖B是R上任意兩種范數(shù)，若存在常數(shù)C1、C2

>0使得,則稱

‖·‖A和‖·‖B

等價(jià)。設(shè)X=(x1,x2,…,xn)T，則有 （1定理5：定義在Rn上的向量范數(shù)

是變量X分量的

一致連續(xù)函數(shù)。定理6：在Rn上定義的任一向量范數(shù)

都與范數(shù)

等價(jià)，

即存在正數(shù)

M

與m(M>m)

對(duì)一切XRn，不等式成立。推論：Rn上定義的任何兩個(gè)范數(shù)都是等價(jià)的。

定理5：定義在Rn上的向量范數(shù)是變量X分量的定理6：對(duì)常用范數(shù)，容易驗(yàn)證下列不等式：

對(duì)常用范數(shù)，容易驗(yàn)證下列不等式：定義2：設(shè)給定Rn中的向量序列{}，即其中若對(duì)任何i(i=1,2,…,n)都有則向量

稱為向量序列{}的極限，或者說(shuō)向量序列{}依坐標(biāo)收斂于向量，記為定義2：設(shè)給定Rn中的向量序列{}，即其中若對(duì)任何i定理7：向量序列{Xk}依坐標(biāo)收斂于X*的充要條件是向量序列依范數(shù)收斂與依坐標(biāo)收斂是等價(jià)的。2．矩陣的范數(shù)定義3：設(shè)A為n

階方陣，Rn中已定義了向量范數(shù)，

則稱

為矩陣A的范數(shù)或模，

記為。即定理7：向量序列{Xk}依坐標(biāo)收斂于X*的充要條件是向量序列矩陣范數(shù)的基本性質(zhì)：

（1）當(dāng)A=0時(shí)，＝0，當(dāng)A0時(shí)，>0（2）對(duì)任意實(shí)數(shù)k和任意A，有（3）對(duì)任意兩個(gè)n階矩陣A、B有（5）相容性對(duì)任意兩個(gè)n階矩陣A、B，有（4）對(duì)任意向量XRn，和任意矩陣A，有矩陣范數(shù)的基本性質(zhì)：（1）當(dāng)A=0時(shí)，＝0例5:設(shè)A＝(aij)∈M.定義證明：這樣定義的非負(fù)實(shí)數(shù)不是相容的矩陣范數(shù).證明：設(shè)從而例5:設(shè)A＝(aij)∈M.定義證明：這樣定義的非負(fù)實(shí)數(shù)不定理8：設(shè)n

階方陣A=(aij)nn，則（Ⅰ）與相容的矩陣范數(shù)是（Ⅱ）與相容的矩陣范數(shù)是其中1為矩陣ATA的最大特征值。（Ⅲ）與相容的矩陣范數(shù)是上述三種范數(shù)分別稱為矩陣的1-范數(shù)、2-范數(shù)和∞-范數(shù)。定理8：設(shè)n階方陣A=(aij)nn，則（Ⅰ）與可以證明,對(duì)方陣和，有

(向量||·||2的直接推廣)Frobenius范數(shù):可以證明,對(duì)方陣和3．矩陣的范數(shù)與特征值之間的關(guān)系定理9：矩陣A

的任一特征值的絕對(duì)值不超過(guò)A的范數(shù)，即

定義4：矩陣A的諸特征值的最大絕對(duì)值稱為A的譜半徑，記為：并且如果A為對(duì)稱矩陣，則

3．矩陣的范數(shù)與特征值之間的關(guān)系定理9：矩陣A的任一特征值注:Rn×n中的任意兩個(gè)矩陣范數(shù)也是等價(jià)的。定義5：設(shè)||·||為Rn×n上的矩陣范數(shù)，A,B∈Rn×n稱||A-B||為A與B之間的距離。定義6：設(shè)給定Rn×n中的矩陣序列{

}，若則稱矩陣序列{}收斂于矩陣A，記為注:Rn×n中的任意兩個(gè)矩陣范數(shù)也是等價(jià)的。定義5：設(shè)||定理10

設(shè)B∈Rn×n，則由B的各冪次得到的