小波變換輕松入門

1、小波變換輕松入門第一節(jié)一個很簡單的例子 還談不上正式入門 但他具備了部分的思想。x0,x1,x2,x3=90,70,100,70為達(dá)到壓縮 我們可取 (x0+x1)/2 (x0-x1)/2 來代表 x0,x1 這樣 90,70 可表示為 80,1080即平均數(shù) 10是小范圍波動數(shù)（可想象出一種波的形狀）90,70 -80,10 ,100,70 - 85,15可以想象80 和85 都是局部的平均值反映大的總體的狀態(tài)，是變化相對緩慢的值，可以認(rèn)為他們是低頻部分的值；而10、15是小范圍波動的值 局部變換較快可以認(rèn)為他們是高頻部分的值。1. FIRST: 把90,70,100,70 寫成 80,85

2、,10,15即把低頻部分寫在一起(記頻率L） 高頻部分寫在一起（H)2. SECOND: 而80,85 又可經(jīng)同樣的變換-> 82.5, -2.5 這樣 82.5表示更低頻的信息(記頻率LL) -1.5則表示了頻率L上的波動3. 最后90,70,100,70 -82.5, -2.5, 10, 15這樣信息就可被壓縮了（數(shù)字范圍小了）這就是二級變換同樣的你可以進(jìn)行更高級的變換。呵呵，很簡單吧？ 現(xiàn)在再來擴(kuò)展一下 90,70-> 80,10寫成矩陣90,70 * 1/2,1/2 1/2 ,-1/2如果是90,70,100,70第一步就可寫成矩陣M11/2,0,1/2,01/2

3、,0,-1/2, 00, 1/2,0, 1/20 ,1/2,0,-1/2M1= 0.5000 0 0.5000 0 0.5000 0 -0.5000 0 0 0.5000 0 0.5000 0 0.5000 0 -0.5000第二步 只對低頻 L操作 高頻不變 故可寫成M21/2, 1/2,0, 01/2,-1/2, 0, 00,0,1, 00,0,0, 1M2= 0.5000 0.5000 0 0 0.5000 -0.5000 0 0 0 0 1.0000 0 0 0 0 1.0000令M=M1*M2 則可對4*4 的點陣操作M= 0.2500 0.2500 0.5000 0 0.2500

4、0.2500 -0.5000 0 0.2500 -0.2500 0 0.5000 0.2500 -0.2500 0 -0.5000同樣 你可輕易寫出 16*16的點陣矩陣試著對一幅圖像操作一步步運算 看看其結(jié)果第一步運算后原圖像縮小至左邊一半了 右邊的是對應(yīng)波動信息第二步運算后圖像又縮小至左邊一半了 對應(yīng)波動信息剛才我們僅僅對行變換，如果同時對列變換， 結(jié)果如何呢？ 自己試吧! 呵呵方式1： 對每一次行變換后對列變換 交叉進(jìn)行方式2： 對行變換后對列變換 獨立進(jìn)行事物的不變性（或緩慢變化）和快速變化性 信息分離再分離第二節(jié)這一節(jié)中希望大家能多動腦子 呵呵 因為我懶得寫很多東西 嘿嘿

5、不好意思了接著看上一節(jié)的變換90,70,100,70 à 82.5, -2.5, 10, 1582.5 即4個數(shù)的平均數(shù) 可畫出其對應(yīng)波形如F.1 。其他數(shù)字對應(yīng)相應(yīng)波形 （請稍微思考一下為什么及這些波形特點）好了，思考后請畫出8個點陣的對應(yīng)波形 （如是新手，一定要親手作作） 以后我們將使用這些波深入學(xué)習(xí) 在這里我們稱這些圖形為波, 與常見的正弦波sin(x)不同 呵呵 可能不習(xí)慣我舉幾個重要特性：面積特性：保持變換前后能量不變 （常如此，但非必須）F.3 -> F.4平移特性 （可對不同部分使用同一操作）F.2 -> F.3縮特性 （將操作對象的尺度

6、變大或變小）空間表示的信息完整性 （最少用幾個波就可以表示這個向量呢，波表示的數(shù)的含義，波之間可以替換嗎，有其他形式的波嗎 其他形式的波能用更少的數(shù)量來表示這個向量嗎）等等等好好思考了這些特性后，我們下一節(jié)將學(xué)習(xí)正交基，空間表示等 第三節(jié)小波分析系列講座第3節(jié)，關(guān)于特征基、正交、完備特征基等相關(guān)內(nèi)容。若一物體可用顏色和大小表示，我們稱顏色和大小為特征基，構(gòu)成此物體特征描述空間。大小和顏色是互不相干的2種描述，我們稱其為正交。同時若這些基的能夠完全表示所有物體，我們稱其為完備特征基。若特征基完備且正交，人們就可以在特定特征上對比事物而不受其他特征上的信息干擾，但由于人們的認(rèn)知形成過程，

7、特征基并非完全正交。 例：三唯空間的一個基的組合1,0,0 0,1,0 0,0,1 是正交 完備；1,0,0 0,1,0 0,1,1 完備 但不正交。因為0,1,1上的信息有一部分可以由0,1,0基表示。再來看特征描述空間轉(zhuǎn)換的性質(zhì)：x1,x2,x3,x4構(gòu)成向量空間，若四元變量無任何約束，則轉(zhuǎn)換到任意特征描述空間，最少需要4個特征基才能完備描述。若f(x1)->x2, g(x1)->x3 則我們可用新的特征基x1,規(guī)則f and g, x4 這樣就只需要3個特征基就可完備描述，因為特征基表現(xiàn)了物體特征，因而可以用更簡潔的描述表示物體。那么在圖象中x1,x2,x3,x4為

8、何可被壓縮呢，他們也是自由變化的參數(shù)呀?。ㄏ胂耄┖呛?雖然他們自由變化，但從自然圖片鄰近點的相關(guān)性，我們可知在大概率上x1,x2,x3,x4相近（這樣理論上只要1個x1就夠了），于是我們用相應(yīng)特征波形將其壓縮，這樣在大概率上數(shù)據(jù)就得到了壓縮。由于我們這種方法采取的特征基，也決定了對突變邊緣變換后的效果。（大家可以試試，要多動手，呵呵，懶人！簡單分析就可得出對突變邊緣變換后的特征效果，這樣就可以檢測突變）不知道大家畫出8個點的波形了嗎，我現(xiàn)在按頻率稱這些波形為LLL,LLH,LH,LH,H,H,H,H(L:low frequence, H high frequence)First: 4 L +4

9、 H（gx說明：第1步得到4個低頻、4個高頻，下同）Second:4 L-> 2 LL + 2 LHTHIRD: 2 LL->LLL + LLH（gx說明：23=8，故分3步）現(xiàn)在請把他畫成樹的形狀，然后研究分辨率的關(guān)系和特征基的關(guān)系及特征空間的關(guān)系。第四節(jié)本節(jié)，關(guān)于小波級數(shù)無限逼近函數(shù)等相關(guān)內(nèi)容。呵呵 現(xiàn)在任給一函數(shù)f(x) , 我們怎么知道小波級數(shù)可以無限逼近這個函數(shù)呢？ 我們想象 任給beta>0,可以將f(x)曲線按每beta長度分成很多小段，對應(yīng)很多點若我們可以用一函數(shù)g(x)來擬合這些點，那么g(x)和f(x)在任意x上的誤差將小于beta.若點數(shù)量為2

10、n個那么我們就可以分別用2(n-1)個L波和2(n-1)個H波擬合然后可將L波再分解，最后得到一棵樹 （分解的級數(shù)由你決定）（如果f(x)對應(yīng)的點數(shù)為2(n+1),那么我們需要在已有的基礎(chǔ)上如何做呢）這時可能有人感到奇怪，為什么要不停的分解下去 呵呵讓我們看看1個L和相應(yīng)1個H代表的意思，他代表很小的一段上的信息若是我們一眼看著這么多的小段信息（不畫出其曲線），我們可能就暈了小波變換的精髓就是：對于變化平緩的信息（對應(yīng)低頻信息），我們在大范圍（尺度）上觀察對于變化很快的信息（對應(yīng)高頻信息），我們在小范圍上觀察。想一想 我們的小波變換是不是代表這個意思呢 呵呵這也被稱為多尺度或多分辨率思想（說明

11、 我在此說的f(x)可被擬合是要有一定條件的，嚴(yán)格的證明以后會給出）現(xiàn)在我們將任一形狀的波形經(jīng)伸縮變換，平移變換 疊加后得到一曲線可以想象 若我們還用原來的波形來擬合它，明顯沒有用此波形來擬合它更好這告訴我們小波的形狀也不是固定不變的 它的形狀的選取由你要分析的特征決定例如 x1,x2,x3,x4若知道 x2=2*x1 +/- error , x3=3*x1 +/- error, |error|<2請你動手畫出對應(yīng)波形 并且注意怎樣反變換回去（這點很重要）第五節(jié)本節(jié)，總結(jié)和離散傅里葉變換的不足及小波產(chǎn)生的原因。因生活流離落魄，好久未繼續(xù)了，今天重看了一下以前寫的，發(fā)現(xiàn)實在太爛，又不想重新

12、來過，只好就此總結(jié)一下，呵呵?？偨Y(jié)一下前面所講的內(nèi)容思想任何一個事物都對應(yīng)著多個描述空間（從不同角度觀察），每個描述空間都由自身的特征描述基構(gòu)成，若這些特征基可以描述出S中不同事物，則稱特征基在S中是完備的。若這些特征基兩兩之間不相關(guān)，則稱其為正交。當(dāng)然完備并不要求正交，正交的好處在于每個特征基上描述的信息和其他特征基不相關(guān)。從而消除了信息的冗余（部分重復(fù)）表示。-描述空間也稱描述域。不同特征基也有不同描述和運算規(guī)則。故此我們可以將事物在A描述空間上的特征轉(zhuǎn)為在B空間（也成變換域）的特征，從而更符合于我們的觀察或認(rèn)知角度。傳統(tǒng)的傅里葉變換即是引入無窮余玄基和正玄基來無窮逼近L2空間中的函數(shù)。因

13、余玄基和正玄基的許多優(yōu)秀性質(zhì)而被廣泛應(yīng)用。在圖像壓縮中，我們就是利用了圖像數(shù)據(jù)的特性，將其轉(zhuǎn)化為符合其特性描述的空間上，從而更好的描述了圖像而達(dá)到壓縮的目的。而自然圖像的數(shù)據(jù)特性就是其中相鄰的象素點的顏色在一個大的概率上相關(guān)，否則我們將要看到一片顏色亂變的點。對此，我們引入圖像的頻域的描述空間概念，對于大范圍內(nèi)平緩變化的信息，我們稱其為低頻信息，對于小范圍內(nèi)變化很快的信息，我們稱其為高頻信息，并將這些信息對應(yīng)頻域上的數(shù)值。低頻和高頻信息完全在于人為，并不一定要有統(tǒng)一形式。離散傅里葉變換即是這樣一種變換。它以變化平緩的波來描述低頻信息，以變化快速的波來描述高頻信息。因自然圖像相關(guān)性，故低頻信息描

14、述了整體的信息，而高頻信息描述了局部細(xì)節(jié)。由此知，大部分高頻信息的值應(yīng)該在一個較小的范圍內(nèi)，再結(jié)合其他特性，進(jìn)行壓縮。但傅里葉變換存在一些不足。例如，要想取得較好的低頻信息，我們需要相對較長的變換窗口，而要想取得較好的高頻信息，我們又需要較短的窗口。(非常短窗口的低頻信息和非常長窗口的高頻信息都幾乎沒什么很大的意義) , 這樣就引起一對矛盾。小波變換應(yīng)運而生，為了解決傅里葉變換的不足，它就需要用長窗口來提取低頻信息，用短窗口來提取高頻信息。那么它是如何做的呢？正如第0節(jié)講到的變換，它就滿足了這個要求。它也就是haar小波變換。第六節(jié)本節(jié)，以圖像來說明建立空間特征基和小波變換的關(guān)系。以圖像來說明

15、建立空間特征基和小波變換的關(guān)系設(shè)有一幅圖像，從不同分辨率考察。若我們離很遠(yuǎn)來看，可能會把每64個點看作一個點，若記此時構(gòu)成的描述空間為V0.若走進(jìn)一些，把16個點看作一個點，記此時構(gòu)成的描述空間為V1若再走進(jìn)一些，把4個點看作一個點，記此時構(gòu)成的描述空間為V2若再走進(jìn)一些，把1個點看作一個點，記此時構(gòu)成的描述空間為V3則可知凡是Vi空間內(nèi)可以描述的圖像，Vi+1空間內(nèi)皆可描述,并且描述的更細(xì)致故Vi包含于Vi+1空間記Vi+1=Vi+Wi ,即Vi和Wi構(gòu)成Vi+1空間。（若ViWi ，則Wi為Vi的正交補空間，實際應(yīng)用中不要求一定正交。）( 正交)則Vi+1=Vi+Wi=Vi-1+Wi-1+

16、Wi=記Pi為圖像在Vi空間的描述則Di= Pi+1 - Pi 就表示了圖像在這兩個描述空間的細(xì)節(jié)差異，因為Vi+1=Vi+Wi，故Di為圖像在Wi空間上的描述。即Wi空間表述了細(xì)節(jié)差異。如果WiWj, 并且在Wj空間中能找到一組正交標(biāo)準(zhǔn)基，其基本函數(shù)必是高（帶）通的，就稱其為小波函數(shù)。WiWj正交，即為不同分辨率下的細(xì)節(jié)差異不相關(guān)，從而消除冗余。那么例子中V3=W2+W1+W0+V0相應(yīng)得到 P3=D2+D1+d0+P0 即最清晰分辨率下的圖像可以有不同分辨率下的細(xì)節(jié)差異和最高分辨率下的圖像合成而得由概率特性知細(xì)節(jié)差異在大范圍內(nèi)是一個較小的值。如果用上節(jié)所引入的頻域概念來看，低頻信息就是P0

17、,高頻為Di,這里的低頻和高頻就和傅里葉有稍微不同。而從分析中，我們自然而然的知道隨著頻率的不同，其數(shù)值對應(yīng)的空間窗口大小也不同了。正好滿足上節(jié)所說。呵呵，剩下的分析任務(wù)就是如何構(gòu)造Wi第七節(jié)本節(jié)，關(guān)于雙尺度差分方程及濾波器等相關(guān)內(nèi)容。在上節(jié)所講的Vi+1=Vi+Wi中 V就是尺度空間，即我們觀察事物所采用的尺度，也就是分辨率。 W就是細(xì)節(jié)空間，即不同尺度空間觀察事物的差異。 并且知道 一幅圖像=最低分辨率下圖像+不同細(xì)節(jié)空間的細(xì)節(jié)信息即 一幅圖像=系數(shù) * 尺度基 + 系數(shù) * 細(xì)節(jié)空間基 在Harr小波中若一個事物可用如下2個尺度基描述（尺度相同，位移不同） 記為1尺度 那么當(dāng)我們用一個大

18、尺度基描述時（即取平均），就會有一個失真 記為0尺度 此細(xì)節(jié)差異就對應(yīng)描述基如下（補空間基） 正如富里葉變換是將一個周期函數(shù)用無窮項正玄或余玄基逼近，小波變換是將一個函數(shù)以小波基來逐級逼近。富里葉變換是以ejwt 為核進(jìn)行積分，小波變換以小波基為核進(jìn)行積分. 函數(shù)W(x) 為母小波，那么通過尺度變換和平移變換，可得到不同小波基記為Wa,b=| a |-1/2 W( (x-b) /a ) 因為我們希望小波級數(shù)能無條件收斂。故母小波應(yīng)滿足一些條件 ：1. 小波函數(shù)值的絕對值在整個R上是可積的 L1函數(shù)空間即小波函數(shù)在無窮大處的值應(yīng)該趨向于0，保證收斂性2. 小波函數(shù)值的平方值在整個R上是可積的 L

19、2函數(shù)空間即小波函數(shù)的能量也是一個有限值，否則就將一個有限能量函數(shù)變換到無限能量級數(shù)上，其級數(shù)很難收斂 當(dāng)然母小波和被變換函數(shù)還應(yīng)該滿足一些其他條件，以保證反變換存在，否則意義也不大。在實際應(yīng)用中，我們經(jīng)常使用離散的2進(jìn)小波變換。即尺度是2 j , 位移是k Wj,k= 2 j/2 W ( 2 j x- k ) 構(gòu)造二進(jìn)小波函數(shù)和尺度函數(shù)的方法 Vn空間中，設(shè)S (x)是一個尺度基，則S (x-k) 對應(yīng)著不同位移的尺度基,所有這些尺度基構(gòu)成L2函數(shù)空間n尺度下的完備基。 Vn+1空間中，S(2x)是一個尺度基，則S(2x-k) 對應(yīng)著不同位移的尺度基,所有這些尺度基構(gòu)成L2空間n+1尺度下的

20、完備基。 如上Harr小波圖 n+1尺度是比n尺度更精細(xì)的空間，而Vn空間屬于Vn+1空間，故Vn空間中的基可用Vn+1空間中的基表示即 S (x)= Pk * S (2x-k) Pk 是系數(shù)。 對應(yīng)的有其補空間基 W (x)= Qk * S (2x-k) Qk 是系數(shù)。 這就是著名的兩尺度差分方程，它說明了Vn空間的基與Wn空間的基可由Vn+1空間的基經(jīng)過某種方式濾波產(chǎn)生（簡單的說 就是可由Vn+1空間的基乘以不同系數(shù)）。從而我們只需求出系數(shù)，就可以由尺度函數(shù)生成小波函數(shù)。（有些書上，也把Vn稱作小波）。此處再次思考一下概念，我們就更明白了多分辨率小波分析用不同尺度觀察事物的思想。 其對應(yīng)濾

21、波器圖如下 通過2個濾波器P, Q 將信號分解，然后通過其(逆)共軛濾波器P*, Q*進(jìn)行合成. 所謂濾波過程可以簡單的認(rèn)為就是將信號乘以一些系數(shù) 例上述harr小波兩尺度差分方程為 S (x)= 1/2 * S (2x)+ 1/2 * S (2x-1) W (x)= S (2x) - S (2x-1) 對應(yīng)濾波器系數(shù)如圖就很明了了。 P =1/2 , 1/2 Q =1, -1 P*=1, 1 T Q*=1/2, -1/2 T 依圖所示，我們有如下關(guān)系 Sj-1 = Sj * P Dj-1 = Sj * Q Sj = Sj-1 * P* + Dj-1 * Q* 對于雙正交濾波器，信號Sj-1 與 Dj-1 不相關(guān)那么P 應(yīng)該可以無損的重構(gòu)信號 ，故