小波分析及其應(yīng)用wavelet introduction

1 小波分析及其應(yīng)用WaveletAnalysisandIt sApplications同濟大學計算機系宣國榮2003年6月10日研究生講座 2009年11月10日補充附錄4 2 研究生講座 小波分析及其應(yīng)用 1 小波的特點和發(fā)展2 小波分析在一維信號處理中的應(yīng)用3 小波分析在圖象分析中的應(yīng)用圖象特征抽取圖象壓縮數(shù)據(jù)隱藏和圖象水印 3 1 小波的特點和發(fā)展 小波分析 是分析原始信號各種變化的特性 進一步用于數(shù)據(jù)壓縮 噪聲去除 特征選擇等 例如歌唱信號 是高音還是低音 發(fā)聲時間長短 起伏 旋律等 從平穩(wěn)的波形發(fā)現(xiàn)突變的尖峰 小波分析是利用多種 小波基函數(shù) 對 原始信號 進行分解 4 小波的時間和頻率特性 運用小波基 可以提取信號中的 指定時間 和 指定頻率 的變化 時間 提取信號中 指定時間 時間A或時間B 的變化 顧名思義 小波在某時間發(fā)生的小的波動 頻率 提取信號中時間A的比較慢速變化 稱較低頻率成分 而提取信號中時間B的比較快速變化 稱較高頻率成分 時間A 時間B 5 小波的成就 小波分析是純數(shù)學 應(yīng)用數(shù)學和工程技術(shù)的完美結(jié)合 從數(shù)學來說是大半個世紀 調(diào)和分析 的結(jié)晶 包括傅里葉分析 函數(shù)空間等 小波變換是20世紀最輝煌科學成就之一 在計算機應(yīng)用 信號處理 圖象分析 非線性科學 地球科學和應(yīng)用技術(shù)等已有重大突破 預示著小波分析進一步熱潮的到來 6 多分辨度分析 MRA 1988年Mallat提出的多分辨度分析理論 統(tǒng)一了幾個不相關(guān)的領(lǐng)域 包括語音識別中的鏡向濾波 圖象處理中的金字塔方法 地震分析中短時波形處理等 當在某一個分辨度檢測不到的現(xiàn)象 在另一個分辨度卻很容易觀察處理 例如 7 8 參考 M Vetterli WaveletsandSubbandCoding PrenticeHallPTR 1995p 11 9 小波的3個特點 小波變換 既具有頻率分析的性質(zhì) 又能表示發(fā)生的時間 有利于分析確定時間發(fā)生的現(xiàn)象 傅里葉變換只具有頻率分析的性質(zhì) 小波變換的多分辨度的變換 有利于各分辨度不同特征的提取 圖象壓縮 邊緣抽取 噪聲過濾等 小波變換比快速Fourier變換還要快一個數(shù)量級 信號長度為M時 Fourier變換 左 和小波變換 右 計算復雜性分別如下公式 10 小波基表示發(fā)生的時間和頻率 時頻局域性 圖解 Fourier變換的基 上 小波變換基 中 和時間采樣基 下 的比較 傅里葉變換 Fourier 基小波基時間采樣基 11 Haar小波基母函數(shù) a Haar 近似 基函數(shù) b Haar 細節(jié) 基函數(shù)低頻濾波系數(shù)高頻濾波系數(shù)H0 11 qH1 1 1 q qq q q 其中 12 Haar小波的基函數(shù) 第1行基函數(shù)是取平均 近似 第2 8行基函數(shù)是取變化 細節(jié) 細節(jié)包括變化速率和發(fā)生的時間 尺度函數(shù)近似基函數(shù) 小波函數(shù)細節(jié)基函數(shù) 13 小波分析發(fā)展歷史 1807年Fourier提出傅里葉分析 1822年發(fā)表 熱傳導解析理論 論文1910年Haar提出最簡單的小波1980年Morlet首先提出平移伸縮的小波公式 用于地質(zhì)勘探 1985年Meyer和稍后的Daubeichies提出 正交小波基 此后形成小波研究的高潮 1988年Mallat提出的多分辨度分析理論 MRA 統(tǒng)一了語音識別中的鏡向濾波 子帶編碼 圖象處理中的金字塔法等幾個不相關(guān)的領(lǐng)域 14 小波基可以通過給定濾波系數(shù)生成 小波基 尺度函數(shù)和小波函數(shù) 可以通過給定濾波系數(shù)生成 有的小波基是正交的 有的是非正交的 有的小波基是對稱的 有的是非對稱的 小波的近似系數(shù)和細節(jié)系數(shù)可以通過濾波系數(shù)直接導出 而不需要確切知道小波基函數(shù) 這是I Daubechies等的重要發(fā)現(xiàn) 使計算簡化 是快速小波分解和重建的基礎(chǔ) 15 小波基函數(shù)和濾波系數(shù) Haar 正交 對稱 近似 基函數(shù) 反變換 低頻和高頻 濾波系數(shù) 細節(jié) 基函數(shù) Haar小波 正變換 低頻和高頻 濾波系數(shù) 16 小波基函數(shù)和濾波系數(shù) db2 正交 不對稱 近似 基函數(shù) 細節(jié) 基函數(shù) db小波 反變換 低頻和高頻 濾波系數(shù) 正變換 低頻和高頻 濾波系數(shù) 17 小波基函數(shù)和濾波系數(shù) db4 正交 不對稱 18 小波基函數(shù)和濾波系數(shù) sym4 正交 近似對稱 19 小波基函數(shù)和濾波系數(shù) bior2 4 雙正交 對稱 20 小波基函數(shù)和濾波系數(shù) bior6 8 雙正交 對稱 21 2 小波分析在一維信號處理中的應(yīng)用 小波變換就是將 原始信號s 變換成 小波系數(shù)w w wa wd 包括近似 approximation 系數(shù)wa與細節(jié) detail 系數(shù)wd近似系數(shù)wa 平均成分 低頻 細節(jié)系數(shù)wd 變化成分 高頻 22 小波原始信號分解過程 原始信號s可分解成小波近似a與小波細節(jié)d之和 s a d小波系數(shù)w wa wd 的分量 乘以基函數(shù) 形成小波分解 小波近似系數(shù)wa 基函數(shù)A 近似分解a 平均小波細節(jié)系數(shù)wd 基函數(shù)D 細節(jié)分解d 變化 23 小波分解和小波基 正變換 原始信號在小波基上 獲得 小波系數(shù) 分量反變換 所有 小波分解 合成原始信號例如 小波分解a 小波系數(shù)wa 小波基A 24 離散小波變換公式 正變換反變換其中 是小波基函數(shù)參考 數(shù)字圖象處理 英文版 電子工業(yè)出版社 2002年 R C Gonzalaz DigitalImageProcessing p 375 信號s有M個樣本 J級小波變換 小波分解 小波系數(shù) 25 一維信號小波變換例子 Haar小波 例子 16點信號 6598378565981339 通過MATLAB實現(xiàn) wavemenu 波形圖小波正變換 小波系數(shù) 小波近似系數(shù) 加 小波細節(jié)系數(shù) 減 小波反變換 可以由分解信號恢復原始信號 有2種 近似分解 細節(jié)分解 26 一維信號的二級小波變換系數(shù) 原始信號2級小波系數(shù)w2 wa2 wd2 wd1 Haar是正交變換 除以常數(shù) 目的使變換后平方和不變 例如 16位 2級近似系數(shù) 2級細節(jié)系數(shù) 1級細節(jié)系數(shù) 16位 27 一維信號的二級小波變換分解 2級近似分解 原始信號每4個平均值 2級細節(jié)分解 原始信號每2個平均的差值 1級細節(jié)分解 原始信號單數(shù)和雙數(shù)的差值 恢復信號 28 一維信號的二級小波變換系數(shù)和分解 原始信號2級小波系數(shù)w2 wa2 wd2 wd1 2級近似分解 原始信號每4個平均值 2級細節(jié)分解 原始信號每2個平均的差值 1級細節(jié)分解 原始信號單數(shù)和雙數(shù)的差值 恢復信號 29 原始信號s 6598378565981339 小波系數(shù) 近似 wa2 28232816 2按照原始信號分辨率擴展 a2 wa2 A2s每四個平均值a2 28282828232323232828282816161616 4wa2 28282828232323232828282816161616 2擴展基函數(shù)A2 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 2 小波系數(shù) 細節(jié)2 wd2 6 3 6 8 2按照原始信號分辨率擴展 d2 wd2 D2s每二個平均的差值d2 6 6 6 6 3 3 3 3 6 6 6 6 8 8 8 8 4wd2 6 6 6 6 3 3 3 3 6 6 6 6 8 8 8 8 2擴展基函數(shù)D2 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 2 小波系數(shù) 細節(jié)1 wd1 1 1 4 3 1 1 2 6 sqrt 2 按照原始信號分辨率擴展 d1 wd1 D1s每單雙數(shù)的差值d1 1 1 1 1 4 4 3 3 1 1 1 1 2 2 6 6 2wd1 1 1 1 1 4 4 3 3 1 1 1 1 2 2 6 6 sqrt 2 擴展基函數(shù)D1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 sqrt 2 恢復 s1 a2 d2 d1 s1 s 6598378565981339 16點HAAR小波分解與恢復例子 其中 30 原始信號16點 31 兩級小波系數(shù)16點 原始信號小波系數(shù) 32 16點信號的Haar小波近似值和細節(jié)分解 兩級分解 33 小波去噪聲 一般噪聲特點 1 高頻成分 細節(jié) 2 幅度小 用閾值 去噪聲過程 去除原始信號高頻成分 細節(jié) 中幅度小于閾值部分 對2級小波 設(shè)定2個閾值 稱 閾值2 和 閾值1 去除1級噪聲 去除1級小波細節(jié)分解中小于 閾值1 部分 去除2級噪聲 去除2級小波細節(jié)分解中小于 閾值2 部分 恢復 將小波近似分解 加上去噪聲后小波細節(jié)分解 即獲得去除噪聲的信號 34 噪聲去除 兩級分解噪聲去除 括號內(nèi)保留部分數(shù)據(jù) 35 小波去噪聲16點 6598378565981339 原始信號 紅 去噪后 黃 36 Haar小波去噪聲 16點信號 16點原始信號 6598378565981339 小波去噪聲 兩級分解 37 一維信號的小波變換例子2 電壓曲線 通過MATLAB實現(xiàn) wavemenu 波形圖 MATLAB toolbox wavelet wavedemo leleccum mat 是 電網(wǎng)監(jiān)視的電壓曲線 有4570個點Haar小波變換 38 haar小波 s a2 d2 d1 wavemenu leleccumLevel2 s 原始信號 a2 近似 d1 d2細節(jié) 39 40 圖 5haar s a5 d5 d1 wavemenu leleccumLevel5a5 近似 d5 d1細節(jié) 附錄 5 wavemenu leleccumhaarLevel5 leleccum mat是有36560個點的一維電壓信號 s 原始信號 a1 近似 d1 細節(jié) 信號前2和后2的差 細節(jié)2 信號奇偶數(shù)值的差 細節(jié)1 原始信號 信號 近似值 5級小波分解 41 小波去噪聲leleccumhaar小波 兩級小波系數(shù) 1級細節(jié)小波系數(shù) 2級細節(jié)小波系數(shù) 黃虛線表示閾值 wd1 wd2 原始信號 紅 去噪后 黃 42 小波壓縮leleccumhaar 43 小波壓縮效果leleccumhaar 44 3 小波分析在圖象處理中的應(yīng)用 圖象是二維信號 其小波變換相當于二次一維信號的小波變換 1 第一次一維信號的小波變換相當于圖象的行變換 2 第二次一維信號的小波變換相當于圖象的列變換 小波變換用于圖象壓縮有良好的效果 已形成圖象壓縮的標準如JPEG2000 45 小波變換用于圖象特征抽取 46 第1級L1斜線細節(jié) 第1級L1水平細節(jié) 第1級L1垂直細節(jié) 第2級L2細節(jié) 近似圖象 第3級L3 小波系數(shù)分級方塊表示法 47 第3級L3分辨率 第2級L2分辨率 第1級L1分辨率 小波系數(shù)分級樹形表示法 48 小波變換用于圖象壓縮 采用小波進行壓縮 作 小波變換 后 統(tǒng)計特性有改善 消除行和列之間的相關(guān)關(guān)系 有損壓縮 根據(jù)視覺原理 不同分辨率小波系數(shù)進行比特分配 然后轉(zhuǎn)換到一維作熵編碼 如算術(shù)編碼或霍夫曼編碼 無損壓縮 選擇 整數(shù)小波變換 無舍入誤差 但不能進行比特分配 49 小波變換用于圖象壓縮 第3級L3水平 斜線 垂直細節(jié) 第2級L2水平 斜線 垂直細節(jié) 第1級L1水平 斜線 垂直細節(jié) 兩閾值線之間的直方圖被去除 有損壓縮 50 小波變換用于無損數(shù)據(jù)隱藏 無損數(shù)據(jù)隱藏 是基于無損壓縮 選擇 整數(shù)小波變換 無舍入誤差 例如可以采用第二代小波 無損數(shù)據(jù)隱藏 避免在嵌入數(shù)據(jù)后小波反變換時圖象灰度的溢出 小波變換前要作預處理 作直方圖調(diào)整 將圖象中灰度出現(xiàn)少的數(shù)據(jù) 合并入隱藏數(shù)據(jù) 第一個無損數(shù)據(jù)隱藏是1999年科達公司發(fā)表的一個專利 由于法律上原因 醫(yī)學圖象數(shù)據(jù)隱藏必須是無損的 此外 無損數(shù)據(jù)隱藏在電子銀行 電子政務(wù) 電子商務(wù) 圖象建檔等有廣泛的用途 51 數(shù)據(jù)嵌入核磁共振醫(yī)學圖象 可無損恢復 水印圖象見下頁 a 原始 512 512 8 b 小波域嵌入水印圖象 52 水印圖象 192 120 2二值圖象 53 小波變換用于無損數(shù)據(jù)隱藏 交通圖象 原始圖象 1024 768 信息隱藏后的偽裝圖象 1024 768 同時隱藏5張 320 280 圖象 見下頁 54 同時隱藏的5張 320 280 交通圖象 可完全恢復 55 小波變換用于圖象水印 指紋原始圖象嵌入水印 取款密碼等 后圖象 指紋傳感器 標準的Veridicom指紋鼠標指紋開發(fā)工具 VeridicomAuthenticationSDK以Windows的DLL庫方式提供指紋庫 FingerprintVerificationCompetition FVC FVC2000db1是由光學設(shè)備采集 FVC2000db2是由電容設(shè)備采集 銀行取款密碼嵌入指紋 網(wǎng)上進行身份認證 56 小波變換用于圖象水印 小波正變換 小波反變換 小波正變換 小波反變換 數(shù)據(jù)嵌入 數(shù)據(jù)提取 原始圖象 加水印后圖象輸入 原始圖象 加水印后圖象輸出 隱藏數(shù)據(jù) 隱藏數(shù)據(jù) 57 小波分析最新進展 1 第二代小波 稱提升算法 可用于整數(shù)小波 2 嵌入零樹法 獲得更優(yōu)良的效果 3 小波與統(tǒng)計理論結(jié)合 4 商品化 如 JPEG2000 小波圖象壓縮標準 MATLAB小波計算包等 58 小波分析及其應(yīng)用 講座小結(jié) 1 小波分析理論上比較完善小波變換基 既具有頻率局域性質(zhì) 又具有時間局域性質(zhì) 小波變換的多分辨度的變換 能在多個尺度上分解 便于觀察信號在不同尺度 分辨率 上不同時間的特性 2 小波分析有廣泛的實用性小波變換存在快速算法 對于M點序列而言 計算復雜性為 O M 處理快速 小波變換基函數(shù)有多種類型 可以是正交的 也可以是非正交 雙正交 比傅里葉變換更加靈活 59 附錄1 2級Haar小波變換4點例子 細節(jié)系數(shù) wd1 形成后不再變化 原始信號1級小波近似系數(shù)1級小波細節(jié)系數(shù)2級小波近似系數(shù)2級小波細節(jié)系數(shù) s w1 w2的平方和不變 60 附錄2 一級 二級小波16點 61 附錄3 16點小波去噪聲 62 16點HAAR小波去噪聲例子 原始信號s 6598378565981339 小波系數(shù) 近似 wa2 28232816 2按照原始信號分辨率擴展 a2 wa2 A2 s每四個平均值a2 28282828232323232828282816161616 4wa2 28282828232323232828282816161616 2擴展基函數(shù)A2 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 2 小波系數(shù) 細節(jié)2 wd2 000 1 2按照原始信號分辨率擴展 d