小波與多分辨率分析

1、1 小波分析 深圳大學信息工程學院 小波與多分辨率分析小波與多分辨率分析 wavelet and multiresolution analysis 信息工程學院信息工程學院 紀震紀震 dr. ji zhen faculty of information engineering, shenzhen univ. sept.,2000 2 信號分析工具信號分析工具 41822年fourier變換,在頻域的定位最準確，無任何時域定位能力。 4 函數(shù)，時域定位完全準確，頻域無任何定位能力 41946年gabor變換，stft，窗函數(shù)的大小和形狀與時間和頻率無關(guān)而保 持固定不變。不構(gòu)成正交基。 41982

2、年burt提出金字塔式圖像壓縮編碼，子帶編碼(subband coding),多采 樣率濾波器組(multirate sampling filter bank). 41910年harr提出規(guī)范正交基。 41981年stormberg對harr系進行改進，證明了小波函數(shù)的存在。 41984年,morlet提出了連續(xù)小波 41985年,meyer,grossmann,daubecies提出離散的小波基 41986年,meyer證明了不可能存在時域頻域同時具有正則性的正交小波基， 證明了小波的自正交性。 41987年,mallat統(tǒng)一了多分辨率分析和小波變換，給出了快速算法。 41988年，daub

3、ecies在nsf的小波專題研討會進行了講座。 小波分析 深圳大學信息工程學院 3 小波的應用 4j.morlet，地震信號分析。 4s.mallat，二進小波用于圖像的邊緣檢測、圖像壓縮和重構(gòu) 4farge，連續(xù)小波用于渦流研究 4wickerhauser，小波包用于圖像壓縮。 4frisch噪聲的未知瞬態(tài)信號。 4dutilleux語音信號處理 4h.kim時頻分析 4beykin正交小波用于算子和微分算子的簡化 信號處理、圖像處理、模式識別、語音識別、量子物理、地震勘探信號處理、圖像處理、模式識別、語音識別、量子物理、地震勘探 流體力學、電磁場、流體力學、電磁場、ct成象、機器視覺、機械

4、故障診斷、分形、數(shù)值計算成象、機器視覺、機械故障診斷、分形、數(shù)值計算 小波分析 深圳大學信息工程學院 4 軟件包 4math works:wavelet toolbox 4standford: wave tool 4yale:wplab 4mathsoft:s+wavelets 4aware:wavetool 4rice: wavelet toolbox 小波分析 深圳大學信息工程學院 a.brice, d.donoho, h.y.gao, wavelet analysis, ieee spectrum, 33(10),1996 5 距離空間距離空

5、間 r n dttytxyx nr z c r z )()(,內(nèi)積 為歐氏空間表示 表示正整數(shù)集合 表示復數(shù)集合 表示實數(shù)集合 表示整數(shù)集合 為距離的距離空間。為以之間的距離，和為則稱 有三角不等式： 對稱性： 時，當且僅當非負性： 而且滿足都對應一個實數(shù)是任一集合，設(shè) ),(),( ),(),(),(,. 3 ),(),(. 2 . 0),(0),(. 1 ),(, yxxyxyx yzzxyxxzyx xyyx yxyxyx yxxyxx 距離空間距離空間 常用的距離空間常用的距離空間 22/1 1 2 2 1 21 2 2 22/1 2 2 2 2 2/1 2 1 21 ,)(),( :

6、 ),( . 4 )(,)()(),( )(: )()( )(. 3 ,;,)()(max),( ,)(: )(, ,. 2 )(),(, .),( . 1 lyxyxyx xxxxxl l rlyxdttytxyx dttxtxrl rl bacyxbattytxyx batxtxbac bac yxyxryx xxxxn rn i ii i in r r n i ii n n n 定義距離 平方可和離散序列空間 定義距離 能量有限空間平方可積函數(shù)空間 定義距離 上的連續(xù)函數(shù)是 連續(xù)函數(shù)空間 定義距離 的全體所組成的集合維向量 維歐氏空間 小波分析 深圳大學信息工程學院 6 函數(shù)空間 小波分

7、析 深圳大學信息工程學院 來定義其長度。量，用范數(shù)對于線性空間的任一向 結(jié)合律及分配律。并且滿足加法或數(shù)乘的 運算），素的加法和元素的數(shù)乘中定義了線性運算（元是任一非空集合，在設(shè) x xx 線性空間線性空間 線性賦范空間線性賦范空間 xyyx yxyxxyxxxrxxx xxxx ),( ,. 3,. 200, 0. 1 , 距離定義為 時，當且僅當 與之對應，滿足存在非負實數(shù)為一線性空間，設(shè) banach空間空間 空間。為完備的線性賦范空間稱 中，該空間為完備的。都在都有極限，并且此極限中的任一序列設(shè)空間 banach xxx zii hilbert空間空間 空間完備的內(nèi)積空間稱為 ，距離稱

8、為內(nèi)積空間。范數(shù)中的內(nèi)積，為稱 時當且僅當 ，滿足，中定義了函數(shù)到，從為復數(shù)域上的線性空間設(shè) hilbert yxyxyxxxxxx xxxxx zyzxzyxc zyyx xzyxcxxx ,),(, . 0,0, 0,. 3 ,. 2 ,. 1 , 7 基底基底 小波分析 深圳大學信息工程學院 張成張成span k kk k k k kkk kk teatgxtg espanx texzkratteax texte )()(,)( )(,);( )()( 有即 張成的線性空間：為由序列稱 成的集合，即所有可能的線性組合構(gòu)表示為為一個函數(shù)序列，設(shè) 基底基底 為空間的基底是唯一的，稱式系數(shù)是線

9、性無關(guān)的，使得上如果 zkkkk teate )()( 正交正交 yxyxyxxyx正交，記作與稱中的兩個元素，若為內(nèi)積空間, 0, 標準正交系標準正交系中的標準正交系為空間，則稱滿足：內(nèi)積空間中元素列xe nm nm eee nnmn 1 0 , 完全的標準正交系完全的標準正交系 . 0,xexznxxex nn ，必有若，中的標準正交系內(nèi)積空間 雙正交基雙正交基 對偶系之間。正交性體現(xiàn)在展開系和 但是滿足不一定滿足正交關(guān)系，基底)()( ),(kltetee kln 8 hilbert空間 小波分析 深圳大學信息工程學院 1 1 22 ,. 4 ,. 3 . 2 .1 , 2 , 1;),

10、 2 , 1( n nn n n n nn eexxxx exxxx xm xe nespanmhilbertne 的完全標準正交系是 則四個條件等價空間的標準正交系，為設(shè) 1 )(),()( n nn etetxtx parseval 的形式：表示為一個付里葉級數(shù)空間的任意元素均可以 一種正交系，則的本質(zhì)聯(lián)系。只要找到定理和付里葉展開之間完全標準正交系、 9 框架及緊框架框架及緊框架 frame ,( , 1.cwt系數(shù)具有很大的冗余，計算量比較大 2.利用冗余性可以實現(xiàn)去噪和數(shù)據(jù)恢復的目的。 重建核方程 daakaw a da aw ff ),;,(),(),( 00 0 2 00 14

11、常用的連續(xù)小波常用的連續(xù)小波 小波分析 深圳大學信息工程學院 morlet wavelet morl(x) = exp(-x2/2) * cos(5x) no orthogonal, no biorthogonal,no compact support effective support=-4 4, symmetry -5-4-3-2-1012345 -1 -0.8 -0.6 -0.4 -0.2 0 0.2 0.4 0.6 0.8 1 morlet wavelet -5-4-3-2-1012345 0 2 4 6 8 10 12 14 fft of morlet wavelet morlet小

12、波是一種復數(shù)小波，時頻均具有很好的局部性。 15 mexican hat wavelet mexh(x) = c * exp(-x2/2) * (1-x2)where c = 2/(sqrt(3)*pi1/4) no orthogonal, no biorthogonal,no compact support effective support=-5 5, symmetry 常用的連續(xù)小波常用的連續(xù)小波 小波分析 深圳大學信息工程學院 -5-4-3-2-1012345 -0.5 0 0.5 1 mexican hat wavelet -5-4-3-2-1012345 0 2 4 6 8 10

13、12 14 16 18 fft of mexican hat wavelet mexican hat小波是gaussian二階導數(shù)， 時頻均具有很好的局部性。 16 小波分析 深圳大學信息工程學院 daubechies wavelet general characteristics: compactly supported wavelets with extremal phase and highest number of vanishing moments for a given support width. associated scaling filters are minimum- p

14、hase filters. orthogonal,biorthogonal,compact support support width 2n-1, no symmetry 常用的正交連續(xù)小波常用的正交連續(xù)小波 051015 -0.3 -0.2 -0.1 0 0.1 0.2 0.3 0.4 0.5 8th order daubechies wavelet 051015 0 0.2 0.4 0.6 0.8 1 1.2 1.4 17 常用的正交連續(xù)小波常用的正交連續(xù)小波 小波分析 深圳大學信息工程學院 meyer wavelet general characteristics: infinitely

15、 regular orthogonal wavelet orthogonal,biorthogonal,no compact support effective support=-8 8,symmetry -8-6-4-202468 -0.2 0 0.2 0.4 0.6 0.8 1 1.2 meyer wavelet 010203040506070 0 0.5 1 1.5 2 2.5 3 3.5 4 fft of meyer wavelet meyer小波是在頻域具有緊支集和任意階正則性， 時頻缺乏很好的局部性。 18 symlets wavelets general characterist

16、ics: compactly supported wavelets with least assymetry and highest number of vanishing moments for a given support width. associated scaling filters are near linear-phase filters. orthogonal,biorthogonal,compact support(width 2n-1) near symmetry 0246810121416 -0.2 -0.1 0 0.1 0.2 0.3 0.4 0.5 0.6 syml

17、ets wavelet 0246810121416 0 0.2 0.4 0.6 0.8 1 1.2 1.4 fft of symlets wavelet 常用的正交連續(xù)小波常用的正交連續(xù)小波 小波分析 深圳大學信息工程學院 19 離散小波變換(discrete wavelet transform) 小波分析 深圳大學信息工程學院 )()( )()( )()()( 1, , , 00 2/ 0 0 00 2/ 0, 0000 tcctf dtttfc ktaa a kat at azjkaaaa kjkj kjkj jj j j j kj jj 逆變換為 離散化的小波系數(shù)為 ，分別離散化，取和平

18、移參數(shù)參數(shù)在連續(xù)小波中，將尺度 二進小波二進小波dyadic wavelet（數(shù)學顯微鏡（數(shù)學顯微鏡） 。二進小波仍然是冗余的 不會破壞平移不變性。平移保持了連續(xù)變換，對尺度進行了離散化， 取 . 2 . 1 )()( 1, 2 0 2/ 0, 00 ktaat ba jj kj 20 尺度空間和尺度函數(shù)尺度空間和尺度函數(shù)(scaling space) 小波分析 深圳大學信息工程學院 k j kk j kj j j k j k jj kj k kk k k kk k tatfvtf zktspanv vtj tktt tatfvtf zktspanv vrlt kktt kttrlt )2()

19、(,)( ),2( )2( )2()2(2)( , )()(,)( ),( ,)()( )()(),( )()()()( 0 2/ , 0 0 0 2 2 有任意 ，可以張成空間，固定 得到伸縮對于尺度函數(shù)進行尺度 有任意 稱為零尺度空間空間張成一個之空間在定義由 滿足移系列為尺度函數(shù)，其整數(shù)平定義函數(shù) 尺度尺度j越大，尺度函數(shù)定義域變大，實際平移間隔也變大，越大，尺度函數(shù)定義域變大，實際平移間隔也變大， 不能反映函數(shù)（小于該尺度）的細微變化。不能反映函數(shù)（小于該尺度）的細微變化。 21 多分辨率分析多分辨率分析(multi-resolution analysis) 小波分析 深圳大學信息工程

20、學院 的正交基。是子空間的正交基，則是如果 的正交基，即是使得正交基存在性：存在 平移不變性： 伸縮規(guī)則性： 漸進完全性： 一致單調(diào)性： 間系列性質(zhì)的一系列子空多分辨率分析是指滿足 j jj nj r j j zj j zj j j vnttvnt mndtmtntznntspanv vntv znvntfvtf zjvtfvtf rlvv vvv zjv )2(2)()( )()()(,),( )(,. 5 ,)()(. 4 ,)2()(. 3 )(;0. 2 . 1 , 2/ ,0 0 00 00 0 2 012 v0 v1 v2 的正交基。不能構(gòu)成所以 正交性。在不同的尺度下不具有空間相

21、互包含， )()( )2(2)(, 2 , 2/ , rlt nttzjv znjnj jj njj 22 小波函數(shù)和小波空間小波函數(shù)和小波空間 小波分析 深圳大學信息工程學院 ）。的小波空間（細節(jié)空間稱為尺度為稱為小波函數(shù)， 的一組正交基。構(gòu)成了整個集合 的一組正交基為空間，所有 ，那么滿足允許條件的一組正交基為空間設(shè) 存在 。的一系列的正交子空間構(gòu)成了，所以 是相互正交的。即和任意 中補空間，即在為設(shè) jwt rlzkzj wzkzj twzk wtfwtf rlwwrl nmwwww vvwwvwvvvvw j kj jkj k j j zjjj zj nmnm jjjjjjjjjjj

22、)( )(,; ,; )(; )2()( )()( , , 2 , , 0, 0 0 22 111 v0 v1 v2 w1w2 s w1v1 w2v2 23 小波分析 深圳大學信息工程學院 小波函數(shù)和尺度函數(shù)的性質(zhì)小波函數(shù)和尺度函數(shù)的性質(zhì) poisson公式： 0)2()2( )()()(,);(),(. 2 1)2( )()()()(. 1 21 212211212211 2 2121 k r k r kfkf kkdtktfktfzkkktfktf kf kkdtktfktfzkktf 那么頻域表示為 ：是兩組正交的函數(shù)集合設(shè) 那么頻域表示為 集合：是一組正交規(guī)一的函數(shù)，設(shè) 小波函數(shù)和尺度

23、函數(shù)滿足小波函數(shù)和尺度函數(shù)滿足 0)2()2(. 3 1)2(. 2 1)2(. 1 2 2 zk zk zk kk k k 24 雙尺度方程雙尺度方程 小波分析 深圳大學信息工程學院 之間的內(nèi)在聯(lián)系。和 的基函數(shù)和函數(shù)、相鄰尺度空間和相鄰尺度空間雙尺度方程描述了兩個 kjkjkj jjjj wvvv , 1 11 , ) 2 () 2 ()( ) 2 () 2 ()( )()()( )()()( ,)(,)( )2()(2)()()( )2()(2)()()( )()()( 1 0 , 110, , 100, , 11, 10 1, 11 0, 10 , 111010 h h tkht tk

24、ht khkh ktkhtkht ktkhtkht tvttvwvv k kjj k kjj kk kk k kk k k 頻域表示為 雙尺度方程 其中 來線性表示?？臻g，可以用也屬于，所以，由于 25 濾波器系數(shù)濾波器系數(shù)h0(k)和和h1(k)的性質(zhì)的性質(zhì) 小波分析 深圳大學信息工程學院 110 1010 2 1 2 1 2 0 2 0 10 11 00 2 01 1 0 1010 10 ) 1()()(. 6 0)()()()( 1)()( 1)()( . 5 0)2(),2( )()2(),2( )()2(),2( . 4 ) 2 () 2 ()(, ) 2 ()(. 3 )()(0)

25、0(, 1)0(. 2 0)(,2)(. 1 k k kkk j j j j kk hggkhhkh hhhh hh hh lnhknh lklnhknh lklnhknh hhh hhhh khkh ，則，令 頻域關(guān)系 正交關(guān)系 遞推關(guān)系 相當于高通濾波器。相當于低通濾波器， 26 正交小波變換的正交小波變換的mallat快速算法快速算法 小波分析 深圳大學信息工程學院 mj m mj m kj mj m kj mj m kj r jj kjkj r jj kjkj dmkhcmkhcmallat ckmhd ckmhc mallat dtkttfttfd dtkttfttfc ,1,0,

26、1 ,1, 1 ,0, 1 2/ , 2/ , )2()2( )2( )2( )2(2)()(),( )2(2)()(),( 塔式快速重建 塔式快速分解 cm+2cmcm+1 dm+1dm+2 cm+2cmcm+1 dm+1dm+2 (a)分解 (b)重建 27 離散信號的多分辨率分析與正交小波變換離散信號的多分辨率分析與正交小波變換 小波分析 深圳大學信息工程學院 對應的濾波器為 mj m kj mj m kj ckmhd ckmhc ,1, 1 ,0, 1 )2( )2( mj m mj m kj dmkhcmkhc ,1,0, 1 )2()2( c0,k h0(-k)2 c1,k c0,k h1(-k)2 d1,k 雙雙通通道道濾濾波波器器組組 2h0(k) c1,k c0,k d1,k 2h1(k) + )(h 2 4 8 w0w1 w2v2 頻域的剖分 28 雙通