線性代數幾個基本基礎概念課件

線性代數的幾個基本概念(一)線性代數幾個基本基礎概念

引言

線性代數幾個基本基礎概念

數學的表述方式和抽象性產生了全面的升華!F幾何的抽象化實用直觀抽象(a,b，c)線性代數幾個基本基礎概念

按照現(xiàn)行的國際標準，線性代數是通過公理化、系統(tǒng)性表述的，具有很強的邏輯性、抽象性，是第二代數學模型.線性代數幾個基本基礎概念通常的教學模式概念——相應定理公式——例題求解直覺性喪失！線性代數幾個基本基礎概念

向量表面上只是一列數，但是其實由于它的有序性，所以除了這些數本身攜帶的信息之外，還可以在每個數的對應位置上攜帶信息.

線性空間中的任何一個對象，通過選取基和坐標的辦法，都可以表達為向量的形式.

向量是什么？

向量是具有n個相互獨立的性質（維度）的對象的表示問題線性代數幾個基本基礎概念矩陣是什么？矩陣的乘法規(guī)則怎樣定義？矩陣的相似是什么意思？特征值的本質是什么？線性代數幾個基本基礎概念

純粹的數學理論描述、證明不能令人滿意和信服！線性代數幾個基本基礎概念一、線性空間和矩陣的幾個核心概念

線性代數幾個基本基礎概念基本定義:

存在一個集合，在這個集合上定義某某概念，然后滿足某些性質”，就可以被稱為空間.空間

為什么要用“空間”來稱呼一些這樣的集合呢？奇怪!線性代數幾個基本基礎概念三維的空間由很多（實際上是無窮多個）位置點組成；這些點之間存在相對的關系；可以在空間中定義長度、角度；這個空間可以容納運動.這里我們所說的運動是從一個點到另一個點的跳躍（變換）,而不是微積分意義上的“連續(xù)”性的運動.線性代數幾個基本基礎概念容納運動是空間的本質特征“空間”是容納運動的一個對象

集合，而空間的運動由變換所規(guī)定.線性代數幾個基本基礎概念

矩陣矩陣是什么？

1.矩陣只是一堆數，如果不對這堆數建立一些運算規(guī)則.

2.矩陣是一列列向量，如果每一列向量列舉了對同一個客觀事物的多個方面的觀察值.

線性代數幾個基本基礎概念

3.矩陣是一個圖像，它的每一個元素代表相對位置的像素值.

4.矩陣是一個線性變換，它可以將一些向量變換為另一些向量.

要回答“矩陣是什么”，取決于你從什么角度去看它.線性代數幾個基本基礎概念矩陣與線性變換

在線性空間中，當選定一組基之后，不僅可以用一個向量來描述空間中的任何一個對象，而且可以用矩陣來描述該空間中的任何一個運動（變換）.也即對于任何一個線性變換，都能夠用一個確定的矩陣來加以描述.

線性代數幾個基本基礎概念.在線性空間中選定基之后，向量刻畫對象，矩陣刻畫對象的運動.

而使某個對象發(fā)生對應運動的方法，就是用代表那個運動的矩陣，乘以代表那個對象的向量.用矩陣與向量的乘法施加運動.

矩陣是線性空間中的線性變換的一個描述線性代數幾個基本基礎概念線性變換不同于線性變換的一個描述對于同一個線性變換，選定一組基，就可以找到一個矩陣來描述這個線性變換；換一組基，就得到一個不同的矩陣.

所有這些矩陣都是這同一個線性變換的描述，但又不是線性變換本身.線性代數幾個基本基礎概念同一個線性變換的矩陣具有性質：若A和B是同一個線性變換的兩個不同矩陣，則一定存在非奇異矩陣P，使得

即同一個線性變換在不同的坐標系下表現(xiàn)為不同的矩陣，但其本質相同，所以特征值相同.線性代數幾個基本基礎概念

相似矩陣，就是同一個線性變換的不同的描述矩陣.或者說相似矩陣都是同一個線性變換的描述

.線性代數幾個基本基礎概念

線性變換可以用矩陣的形式呈現(xiàn)，也就是說，矩陣是形式，而變換——也就是各種映射才是本質，而代數的重要任務之一就是研究各種數學結構之間的關系——也就是映射.線性代數幾個基本基礎概念維線性空間里的方陣的個維向量如果線性無關，那么它們就可以成為度量維線性空間的一組基，事實上就是一個坐標系體系.矩陣與坐標系線性代數幾個基本基礎概念矩陣描述了一個坐標系線性代數幾個基本基礎概念線性代數幾個基本基礎概念變換坐標線性代數幾個基本基礎概念

從變換的觀點來看，對坐標系M施加R變換，就是對組成坐標系M的每一個向量施加R變換.從坐標系的觀點來看，對坐標系M的每一個基向量，把它在I坐標系中的坐標找出來,然后通過R組成一個新的（坐標系）矩陣.

MIT線性代數幾個基本基礎概念矩陣既是坐標系，又是變換.

數學定義：矩陣就是由行列數放在一起組成的數學對象線性代數幾個基本基礎概念數學書上的語言是經過千錘百煉的。這種抽象的語言，精準的描述了人類對數學某些局部理解的精微.

這些描述的語言可能可以有更完善的改進，就像編寫的程序有些地方的語句可以改得更巧妙更堅固一樣.

線性代數幾個基本基礎概念

數學容許我們每個人按自己的理解方式來理解,這就看你怎樣對它加工，使它明確、使它華麗、使它完美.使它更易于理解和使用.這個過程也就是一個人學懂數學的過程.線性代數幾個基本基礎概念

數無形時少直觀,

形無數時難入微,

數形結合百般好,

隔離分家萬事休.

--------華羅庚線性代數幾個基本基礎概念將抽象思維形象化將理論知識實用化線性代數幾個基本基礎概念二、矩陣的四個基本子空間線性代數幾個基本基礎概念記：基本定義線性代數幾個基本基礎概念Columnspacen=5線性代數幾個基本基礎概念

Rowspacem=3線性代數幾個基本基礎概念r=2線性代數幾個基本基礎概念設A的行階梯形為Notice

則存在可逆矩陣B使得線性代數幾個基本基礎概念m=3n=5r=2Pivotrows1and2Pivotcolumns1and4例1線性代數幾個基本基礎概念Nullspace有三個自由變量：方程有解：線性代數幾個基本基礎概念線性代數幾個基本基礎概念

方程組

中，若不等于0且有解，則其解不會構成子空間，因為沒有0元素.線性代數幾個基本基礎概念LeftnullspaceLeftnullspace??線性代數幾個基本基礎概念線性代數幾個基本基礎概念設由例2行基線性代數幾個基本基礎概念線性代數幾個基本基礎概念(3,2,-1)(0,1,2)(1,0,3)N(A)線性代數幾個基本基礎概念例3則由解得則顯然線性代數幾個基本基礎概念RowspaceallATyColumnspaceallAxNullspaceAx=0LeftnullspaceATy=0C(AT)dimrRnN(A)dimn-rRmC(A)dimrN(AT)dimm-r互為正交補AX=b有解bN(AT)Rn線性代數幾個基本基礎概念RowspacenullspaceLeftnullspaceActionofonColumnspace線性代數幾個基本基礎概念例4若分解得線性代數幾個基本基礎概念三、矩陣的奇異值分解線性代數幾個基本基礎概念

應用領域

1.最優(yōu)化問題；

特征值問題；

最小二乘問題；

廣義逆矩陣問題等.

2.統(tǒng)計分析；

信號與圖像處理；

系統(tǒng)理論和控制等.線性代數幾個基本基礎概念矩陣的正交對角分解

若A是n階實對稱矩陣，則存在正交矩陣Q，使得

(1)其中為矩陣A的特征值，而Q的n個列向量組成A的一個完備的標準正交特征向量系.對于實的非對稱矩陣A，不再有像式（1）的分解，但卻存在兩個正交矩陣P和Q，使為對角矩陣，即有下面的正交對角分解定理.線性代數幾個基本基礎概念

定理設非奇異，則存在正交矩陣P和Q，使得(2)其中證因為A非奇異，所以為實對稱正定矩陣，于是存在正交矩陣Q使得，其中為特征值令,線性代數幾個基本基礎概念則有或者 再令,于是有即P為正交矩陣，且使改寫式(2)為(3)稱式（3）為正交矩陣A的正交對角分解線性代數幾個基本基礎概念引理：

1.設則是對稱矩陣，且其特征值是非負實數.

2.

3.設則的充要條件是

線性代數幾個基本基礎概念定義設是秩為

的

實矩陣，的特征值為則稱

為A的奇異值.線性代數幾個基本基礎概念奇異值分解定理

設A是秩為的則存在

階正交矩陣實矩陣,與

階正交矩陣使得其中為矩陣A的全部奇異值.①線性代數幾個基本基礎概念證明設實對稱矩陣的特征值為則存在n階正交矩陣，使得

將

分塊為其中

，

分別是

的前

r列與后

列.②線性代數幾個基本基礎概念并改寫②式為則有由③的第一式可得③由③的第二式可得令

，則

，即

的r個列是兩兩正交的單位向量.記線性代數幾個基本基礎概念因此可將

擴充成

的標準正交基，記增添的向量為

，并構造矩陣則是m階正交矩陣,且有于是可得線性代數幾個基本基礎概念稱上式為矩陣A的奇異值分解.線性代數幾個基本基礎概念在矩陣理論中，奇異值分解實際上是“對稱矩陣正交相似于對角矩陣”的推廣.奇異值分解中

是

的特征向量，而

的列向量是

的特征向量，并且

與

的非零特征值完全相同.但矩陣

的奇異值分解不惟一.注意線性代數幾個基本基礎概念數值秩在沒有誤差時，奇異值分解可以確定矩陣的秩.但是誤差的存在使得確定變得非常困難.例如，考慮矩陣線性代數幾個基本基礎概念因為第三列是前兩列的和，所以A的秩是2.

如果不考慮到這個關系，運用IEEE標準的雙精度浮點計算模式，用MATLAB命令SVD計算A的奇異值：formatlongeA=[1/3,1/3,2/3;2/3,2/3,4/3;1/3,2/3,1;2/5,1/5,3/5;3/7,1/7,4/7]；D=svd(A)線性代數幾個基本基礎概念計算結果為：D=2.4218e+0003.4026e-001

1.875146052457622e-016

因為有“三”個非零奇異值，所以A的秩為“3”.然而，注意到在IEEE雙精度的標準下,其中一個奇異值是微小的.也許應該將它看作零.因為這個原因，引人數值秩的概念.線性代數幾個基本基礎概念

如果矩陣有

個“大”的奇異值，而其它都很“微小”，則稱的數值秩為.為了確定哪個奇異值是“微小”的，需要引人閾值或容忍度.就MATLAB而言，可以把

設為閾值，大于這個閾值的奇異值的數目就是A的數值秩，把小于這個閾值的奇異值看作零.利用MATLAB的命令rank計算的秩，它的結果是2，就是這個道理.線性代數幾個基本基礎概念求矩陣的奇異值分解解:MATLAB程序為：A=[0,-1.6,0.6;0,1.2,0.8;0,0,0;0,0,0][U,S,V]=svd(A)線性代數幾個基本基礎概念計算結果A=0-1.60000.600001.20000.8000000000U=0.80000.600000-0.60000.800000001.000000001.0000線性代數幾個基本基礎概念S=2.00000001.00000000000V=001.0000-1.00000.000000.00001.00000線性代數幾個基本基礎概念奇異值分解的幾何意義研究將一個空間映射到不同空間，特別是不同維數的空間時，例如超定或欠定方程組所表示的情況，就需要用矩陣的奇異值來描述算子對空間的作用了.

線性代數幾個基本基礎概念考察二維平面上的單位圓在映射A下的變換過程,其中MATLAB程序為：A=[sqrt(3)\sqrt(2),sqrt(3)\sqrt(2);-3\sqrt(2),3\sqrt(2);1\sqrt(2),1\sqrt(2)][U,S,V]=svd(A)線性代數幾個基本基礎概念線性代數幾個基本基礎概念V是正交矩陣，表示二維空間的一個旋轉線性代數幾個基本基礎概念S將平面上的圓變換到三維空間坐標平面上的橢圓線性代數幾個基本基礎概念V是正交矩陣，表示二維空間的一個旋轉S維將空平間面坐上標的平圓面變上換的到橢三圓U是正交矩陣，表示三維空間的一個旋轉線性代數幾個基本基礎概念當A是方陣時，其奇異值的幾何意義是:若x是

維單位球面上的一點，則

是一個

維橢球面上的點，其中橢球的

個半軸長正好是A的

個奇異值.簡單地說，在2維情況下，A將單位圓變成了橢圓，A的兩個奇異值是橢圓的長半軸和短半軸.線性代數幾個基本基礎概念

設

A是秩為

的

實矩陣，

A的奇異值分解為：

即

,且

奇異值分解的性質線性代數幾個基本基礎概念則線性代數幾個基本基礎概念（1）

A的非零奇異值的個數等于它的秩r，即

（2）

是

的標準正交基.（3）

是

的標準正交基.（4）

是

的標準正交基.（5）

是

的標準正交基.線性代數幾個基本基礎概念從上面的結論可以得到同構線性代數幾個基本基礎概念奇異值分解的特征

1.奇異值分解可以降維A表示

個

維向量，可以通過奇異值分解表示成

個維向量.若A的秩

遠遠小于

和

,則通過奇異值分解可以降低A的維數.可以計算出，當時，可以達到降維的目的，同時可以降低計算機對存貯器的要求.線性代數幾個基本基礎概念2.奇異值對矩陣的擾動不敏感特征值對矩陣的擾動敏感.

在數學上可以證明，奇異值的變化不會超過相應矩陣的變化，即對任何的相同階數的實矩陣A、B的按從大到小排列的奇異值和有線性代數幾個基本基礎概念3.奇異值的比例不變性,即的奇異值是A的奇異值的倍