小波分析第1-2章

1、小波分析 Wavelet Analysis 田逢春 第1章 緒論一、課程的目的和任務(wù)二、小波分析的特點(diǎn)三、小波的應(yīng)用領(lǐng)域四、小波分析的最新發(fā)展動(dòng)態(tài)五、參考書一、課程的目的和任務(wù) 掌握現(xiàn)代信號處理技術(shù)中的小波分析方法這一重要工具，適用于幾乎所有專業(yè)。1. 小波分析的基本概念（框架、Riesz基、正交、雙正交小波、小波包、多小波及相互關(guān)系）。2相互關(guān)系（小波分析與傅氏分析、多分辨分析與小波分析的關(guān)系、尺度函數(shù)）3. 信號的小波分解和重構(gòu)（基本方法, 根據(jù)實(shí)際需要選擇小波或小波濾波器）。4. 典型小波及性質(zhì)、計(jì)算（緊支撐正交小波、光滑緊支撐正交小波、Daubechies小波、對稱性和正則性、消失矩，

2、尺度函數(shù)與小波函數(shù)的數(shù)值計(jì)算方法）。5. 小波級數(shù)變換與Mallat算法、離散小波變換、連續(xù)小波變換。6雙正交小波基、小波包、高維小波。7小波分析的典型應(yīng)用，包括利用小波變換實(shí)現(xiàn)噪聲消除、小波變換應(yīng)用于圖像數(shù)據(jù)壓縮。8超小波二、小波分析的特點(diǎn)1. 什么是小波？2. 小波最突出的特點(diǎn) 時(shí)頻局部化和能量集中性。 三、小波應(yīng)用領(lǐng)域數(shù)學(xué)其他分支中的應(yīng)用（微分方程、積分方程、函數(shù)逼近、分形、混沌等）一維信號處理（檢測、噪聲消除、特征提?。ㄕZ音識別）、語音數(shù)據(jù)壓縮、聲納信號處理、雷達(dá)信號處理）多維信號處理（圖象融合、噪聲消除、特征提取、指紋識別、模式識別、數(shù)字水印、圖象數(shù)據(jù)壓縮JPEG2000）通信 (C

3、DMA、自適應(yīng)均衡括頻通信、信道波形形成）生物醫(yī)學(xué)、生物遺傳（特征提?。┧摹⑿〔ǚ治龅淖钚掳l(fā)展動(dòng)態(tài) 1. 第二代小波(提升小波與整數(shù)小波變換) 2. 二維超小波（方向小波、脊波變換、曲波變換） 3. 小波與其它手段的結(jié)合(人工神經(jīng)網(wǎng)絡(luò)、分形與混沌、主元素分析法（PCA）、獨(dú)立分量分析法（ICA）、盲信號處理）小波從自身用作濾波器進(jìn)行信號處理發(fā)展到作為信號預(yù)處理方法來使用（應(yīng)用范圍擴(kuò)展到幾乎所有信號處理領(lǐng)域）五、參考書1. 大學(xué)數(shù)學(xué)自學(xué)叢書實(shí)變函數(shù)論，徐榮權(quán)，金長澤主編，遼寧人民出版社，1984（推薦博士學(xué)習(xí)）2劉樹琪，徐紅梅泛函分析入門及題解，天津人民出版社，1987.6（博士）3馮象初，甘小

4、冰數(shù)值泛函與小波理論，西安電子科技大學(xué)出版社，20034崔景泰著，程正興譯小波分析導(dǎo)論，西安交通大學(xué)出版社，19975李建平，田逢春等小波分析與信號處理理論、應(yīng)用及軟件實(shí)現(xiàn)，重慶出版社, 1997.126龍瑞麟高維小波分析，世界圖書出版公司，19957劉貴忠、邸雙亮小波分析及其應(yīng)用，西安電子科大出版社，19928Ingrid DaubechiesTen Lectures on Wavelet，Montpelier Vermont: Captial City Press, 1992.9美 Ingrid Daubechies著，李建平，楊萬年譯小波十講，國防工業(yè)出版社，2004.1010. 秦前清

5、，楊宗凱實(shí)用小波分析,西安電子科技大學(xué)出版社，2002.811. (法) Stphane Mallat著，楊力華，戴道清，黃文良譯，信號處理的小波導(dǎo)引 機(jī)械工業(yè)出版社，2003.6 12. Stphane Mallat著A Wavelet Tour of Signal Processing, Second Edition (英文版), 機(jī)械工業(yè)出版社，2003.9 13. C. Sidney Burrus, Ramesh A. Gopinath and Haitao Guo, Introduction to Wavelets and Wavelet Transforms: A Primer,

6、機(jī)械工業(yè)出版社，2005.4 14. 美Albert Boggess, Francis J. Narcowich, A First Course in Wavelets with Fourier Analysis, 電子工業(yè)出版社，2002.815. 張旭東，盧國棟，馮健編著圖像編碼基礎(chǔ)和小波壓縮技術(shù)原理、算法和標(biāo)準(zhǔn)，清華大學(xué)出版社，2004.316. 胡昌華，張軍波，夏軍，張偉編著基于MATLAB的系統(tǒng)分析與設(shè)計(jì)小波分析，西安電子科技大學(xué)出版社，1999.1217. 樓順天，李博菡編著基于MATLAB的系統(tǒng)分析與設(shè)計(jì)信號處理，西安電子科技大學(xué)出版社，1998.921張兆禮等現(xiàn)代圖像處理技術(shù)及

7、Matlab實(shí)現(xiàn)人民郵電出版社，2001.1122. 飛思科技產(chǎn)品研發(fā)中心編著小波分析理論與MATLAB 7實(shí)現(xiàn)，電子工業(yè)出版社,2005.923. 程正興，楊守志，馮曉霞著小波分析的理論 算法 進(jìn)展和應(yīng)用，國防工業(yè)出版社，2007年24.閆敬文，屈小波著超小波分析及應(yīng)用，國防工業(yè)出版社，2008.6一、 距離空間二、 賦范線性空間三、Hilbert空間 四、投影與逼近五、傅立葉級數(shù)與傅立葉變換第2章 數(shù)值泛函概要一、距離空間（度量空間） = 元素（集合）+ 距離1. 定義：設(shè)R表示一個(gè)非空集合，若其中任意兩元素x,y，都按一定的規(guī)則與實(shí)數(shù)d(x,y)相對應(yīng)，且滿足： (1) 非負(fù)性 d(x,

8、y)0, 且d(x,y)0當(dāng)且僅當(dāng) x y (2) 對稱性 d(x,y)d(y,x) (3) 三角不等式 d(x,z)d(x,y)d(y,z) 則稱d(x,y)為x與y間的距離（度量，metric），稱R為距離空間。2. 常見的距離空間 （1）n維歐氏空間Rn : n維實(shí)向量全體所構(gòu)成的空間 距離： （2）連續(xù)函數(shù)空間Ca,b 距離： （最大絕對誤差）（3）平方可積函數(shù)空間 （能量有限） 距離： （平均誤差） （注意與前面一個(gè)距離定義的區(qū)別，誰更嚴(yán)格？）（4）平方可和離散序列空間 距離： （能量有限） 同一個(gè)集合,可以引入不同的距離（例如既連續(xù)又平方可積函數(shù)空間）3、收斂概念注意：1. 不一定

9、能推出序列的極限存在，即不一定有： 2. 疊代法中判別收斂的準(zhǔn)則（實(shí)歐氏空間），其實(shí)質(zhì)為兩者的遠(yuǎn)序列數(shù)比較接近收斂點(diǎn)列： （xxnn=lim）（與極限點(diǎn)的距離越來越近） R為距離空間，nx為R中點(diǎn)列，Rx，若n時(shí)，數(shù)列 0),(xxdn(xn與X的距離， 則稱點(diǎn)列nx按距離0),(xxn, d收斂于 x，記為：xxnn=lim 或 xxn， n；稱nx為收斂點(diǎn)列，稱 x為 nx的極限。 （注意這里的點(diǎn)與高等數(shù)學(xué)中的點(diǎn)的區(qū)別） 3. 在實(shí)歐氏空間中，收斂點(diǎn)列與Cauchy點(diǎn)列相當(dāng)。（說明它是完備空間）4. 在一般距離空間中，收斂點(diǎn)列必為Cauchy點(diǎn)列，而Cauchy點(diǎn)列不一定是收斂點(diǎn)列。 例如

10、有理數(shù)點(diǎn)列： 1, 1.4, 1.41, 1.414, 1.4142, 在有理數(shù)空間中，是Cauchy點(diǎn)列而不是收斂點(diǎn)列，因它在有理數(shù)空間中無極限。(極限為 是無理數(shù)）4. 距離空間的完備性完備空間 特點(diǎn)：空間中的任一Cauchy點(diǎn)列都有極限。（注意極限點(diǎn)應(yīng)在該空間中）同一個(gè)集合可以對一種距離成為完備的距離空間，而對另一種距離卻成為不完備的距離空間。如,baC，按通常的距離 )()(max),(tytxyxdbta-= 是完備的距離空間。（無窮范數(shù)） 若在,baC中定義距離 ()2121)()(),(-=badttytxyxd 則它是一個(gè)不完備的距離空間。（2范數(shù)） 問題：1. 兩種距離中哪一

11、個(gè)更嚴(yán)格？ 2. 例： d函數(shù)及其高斯逼近序列（前者是不連續(xù)的，而后者是連續(xù)函數(shù)序列） 按前一個(gè)距離定義，高斯函數(shù)與Delta函數(shù)的距離越來越大，因此不是Cauchy序列，而按后一個(gè)定義（面積），兩者的距離衡為0，是Cauchy序列，但高斯函數(shù)序列的極限不是連續(xù)的，因此不是完備的。5. 線性空間（向量空間 = 元素代數(shù)運(yùn)算）定義：數(shù)域K上的向量空間X是在其上定義了元素（向量）的兩個(gè)代數(shù)運(yùn)算的非空集合：（1）向量加法： 中的映射（x,y) x+y 且滿足： 1）交換律 x+y=y+x 2）結(jié)合律 (x+y)+z=x+(y+z) 3）X中存在零向量 x+=x 4） 存在逆元素 使 x+(-x)=（

12、2）數(shù)乘： 1) 結(jié)合律 且仍在X中 2) 分配律 3) 回憶距離空間元素距離特點(diǎn)：1）線性空間 = 元素代數(shù)運(yùn)算 2）代數(shù)運(yùn)算滿足線性性質(zhì)二、賦范線性空間1、定義 E為實(shí)（或復(fù)）線性空間,若對每個(gè)元素xE,都有一個(gè)非負(fù)實(shí)數(shù)x與之對應(yīng), 對于x,yE, aK, 有: (1) x0, 當(dāng)且僅當(dāng)x0 (2) ax ax (3) xyxy 則稱x是x的范數(shù),稱E為賦范線性空間。 注意：K為數(shù)域（實(shí)數(shù)域或者復(fù)數(shù)域） 范數(shù)的物理意義：向量的長度2. 線性賦范空間相關(guān)問題 由范數(shù)導(dǎo)出距離 d(x.y)xy 這時(shí)線性賦范空間也是距離空間。定義了范數(shù)的線性空間按范數(shù)收斂 線性賦范空間X 中的序列收斂 是指 即

13、按范數(shù)收斂。距離空間不必是賦范空間 距離可不由范數(shù)引入。但賦范空間可以成為距離空間3、Banach空間（完備的賦范線性空間） 若賦范線性空間按距離 d(x.y)xy是完備的，則稱它為Banach空間。線性算子函數(shù)空間：函數(shù)的集合算子 函數(shù)空間X 中一個(gè)元素(函數(shù))，對應(yīng)另一空間Y 的一個(gè)元素， 即映射T: XY 。線性算子 X,Y 是兩個(gè)具有相同數(shù)域的線性空間，算子T: XY 稱為是線性的，若對所有X 中的x,y，和所有數(shù)域中的數(shù)a,b有： T(ax+by)=aTx+bTy 注意與信號與系統(tǒng)中定義的關(guān)系算子的模 線性賦范空間中算子T: XY的模 (范數(shù)）定義為線性算子的例子積分算子 注：小波變

14、換也是積分算子微分算子 矩陣算子 空間上的每個(gè)線性算子，都能用矩陣 來定 義，這時(shí)T=A 幾何意義：縮放旋轉(zhuǎn)剪切（shear) Y=Ax注意：仿射線性變換不是線性算子Y=Ax+b, 為什么？（多了一個(gè)平移）幾種線性算子線性時(shí)不變算子 設(shè) T: XY 是線性算子，記 若 ，則稱T 為線性時(shí)不變算子 (回憶線性時(shí)不變系統(tǒng)）。有界算子 X,Y 是線性賦范空間，線性算子T: XY 稱為是有界的，若存在實(shí)數(shù)k0使 |Tf |k|f |，對每個(gè)X中的f 成立，稱k為算子T 的界。 注意：算子 的泛數(shù)有界表示： （注意f 是指什么？） 連續(xù)算子 算子T 稱為連續(xù)的,若任給0,存在使 |u-v|，u,v屬于X

15、, 能推出 |TuTv |。內(nèi)積 設(shè)X 為K (實(shí)或復(fù))上的線性空間。在X上定義了內(nèi)積是指，對于X 中每一對元素f, g，都對應(yīng)K中一個(gè)確定的數(shù)，記為 滿足: (1) 對稱性 表示a 的復(fù)共軛。 (2) 線性 (3) 正性 ，且 當(dāng)且僅當(dāng)三、Hilbert空間內(nèi)積空間 引入了內(nèi)積的線性空間稱為內(nèi)積空間。內(nèi)積空間必是線性賦范空間 在內(nèi)積空間中,對每個(gè) ，由內(nèi)積導(dǎo)入范數(shù)，定義為 則X 就變成了一個(gè)線性賦范空間。Hilbert空間：完備的內(nèi)積空間稱為Hilbert空間。Hilbert空間的例子例1 空間是Hilbert空間，其內(nèi)積定義為： 例2 空間是Hilbert空間，其內(nèi)積定義為： 兩向量正交：

16、 若 ， 記為： 。 內(nèi)積空間性質(zhì)Schwarz不等式平行四邊形等式勾股定理 若x與y 正交， 則幾種空間的關(guān)系：正交向量組 X 是內(nèi)積空間, X中的非零向量集合S，若S中任意兩個(gè)不同元素正交，則稱S是X中的一個(gè)正交向量組。若還有|x|=1對S中的所有x成立，則稱S是規(guī)范正交向量組。規(guī)范正交序列 形成規(guī)范正交組的一個(gè)有限或無限的序列。向量序列的規(guī)范正交化：內(nèi)積空間任一線性無關(guān)向量序列，都能使用Gram-Schmidt規(guī)范正交化過程，得到規(guī)范正交序列。規(guī)范正交基完全規(guī)范正交序列 在內(nèi)積空間X中的一個(gè)規(guī)范正交序列 稱為是完全的，若對每個(gè) ， 有規(guī)范正交基 在內(nèi)積空間X 中的一個(gè)規(guī)范正交組S稱為是規(guī)

17、范正交基，若對每個(gè)X中的元素x 都有唯一表示 其中 是S中不同元素。內(nèi)積空間X 中的一個(gè)完全規(guī)范正交序列是X中的一個(gè)規(guī)范正交基。（反之不一定成立，注意雙正交情況）規(guī)范正交基的相關(guān)結(jié)論完全的標(biāo)準(zhǔn)正交系在Hilbert空間H中的一個(gè)規(guī)范正交序列是完全的,當(dāng)且僅當(dāng)對于所有 ，由 可推出 .即：不存在非零元素x 使它與所有xn正交,但x不屬于該正交序列.例如：三維空間中的任意二個(gè)軸的情況。注意”完全“二字Parseval等式 在Hilbert空間H中的一個(gè)規(guī)范正交序列xn是完全的,當(dāng)且僅當(dāng) 對每個(gè) 成立。（注意該公式的含義）四、投影與逼近函數(shù)的平方逼近 注意： 1）二范數(shù)，是在平均意義上的逼近，個(gè)別地方可能 誤差很大； 2