現(xiàn)代信號處理

1、現(xiàn)代信號處理 趙輝 信號：信息的載體 信號處理：從觀測信號中獲得隱含的信息。 經(jīng)典信號處理：非參數(shù)化信號處理（FFT），線性最小相位，高斯平穩(wěn) 現(xiàn)代信號處理：參數(shù)化信號處理，非最小相位，非高斯非平穩(wěn) 現(xiàn)代信號處理研究的問題 估計（estimation）：參數(shù)估計，信道估計，功率譜估計，波達(dá)方向 估計，特征提取，信號檢測（多用戶檢測） 濾波（filtering）：維納濾波，卡爾曼濾波，自適應(yīng)濾波 辨識（identification）：系統(tǒng)辨識，目標(biāo)識別，信號分類，反卷積與 均衡 課程特點 現(xiàn)代信號處理的主要理論、方法和應(yīng)用 “與前沿接軌” 數(shù)學(xué)知識（矩陣分析、數(shù)理統(tǒng)計、最優(yōu)化） 創(chuàng)新能力的培養(yǎng)

2、考核方式：課堂下學(xué)術(shù)報告 1. 何子述，夏威 等編著.現(xiàn)代數(shù)字信號處理及其應(yīng)用，清華大學(xué)出版社， 2009 2、姚天任，孫洪.現(xiàn)代數(shù)字信號處理，華中理工大學(xué)出版社，1999 3、張賢達(dá)著.現(xiàn)代信號處理，清華大學(xué)出版社，2002 4、胡廣書編著.現(xiàn)代信號處理教程，清華大學(xué)出版社，2004 5、張賢達(dá)、保錚著.通信信號處理，國防工業(yè)出版社，2000 6、楊行峻，鄭君里.人工神經(jīng)網(wǎng)絡(luò)與盲信號處理.清華大學(xué)出版社，2003 7、Cichocki A, Amari S. 吳正國，唐勁松，章林柯，等譯.自適應(yīng)盲信號與 圖像處 理.電子工業(yè)出版社，2005 隨機信號隨機信號 估計理論估計理論 高階高階譜分析

3、譜分析 陣列信號處理及應(yīng)用陣列信號處理及應(yīng)用 時頻分析和時頻分析和小波分析小波分析 同態(tài)同態(tài)信號處理信號處理 神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)信號處理信號處理 盲盲信號處理信號處理 本章主要介紹隨機信號的基本概念：相關(guān)函本章主要介紹隨機信號的基本概念：相關(guān)函 數(shù)數(shù)、協(xié)方差函數(shù)、功率譜密度、協(xié)方差函數(shù)、功率譜密度、兩個信號的正、兩個信號的正 交、統(tǒng)計不相關(guān)和統(tǒng)計獨立、相干信號以及它交、統(tǒng)計不相關(guān)和統(tǒng)計獨立、相干信號以及它 們的幾個典型應(yīng)用。們的幾個典型應(yīng)用。 按信號取值時間的連續(xù)性與否 按信號取值的隨機性與否 ( ) ( ) s tt s kk 連續(xù)時間信號 離散時間信號 為整數(shù) 1,01 ,0 ( ) sgn

4、( ) -1,00, tt u tt t 確定性信號（按某函數(shù)取值，每時刻值可知） 如 其它 隨機信號（每時刻取值未知）： 取值是隨機的（不能確切已知） 取值服從概率分布規(guī)律（統(tǒng)計特性確定，未知） 高斯信號：概率密度函數(shù)服從正態(tài)分布的隨機信號 非高斯信號：概率密度函數(shù)服從非正態(tài)分布的隨機信號。 平穩(wěn)信號（嚴(yán)格平穩(wěn)，n階平穩(wěn)，廣義平穩(wěn)，） 嚴(yán)格平穩(wěn)：概率密度分布函數(shù)與時間無關(guān) n階平穩(wěn)：n及n以下階矩有界且與時間無關(guān)。n=2時，廣義平穩(wěn) 廣義平穩(wěn)的條件（弱平穩(wěn)，協(xié)方差平穩(wěn)）： 嚴(yán)格平穩(wěn)一定廣義平穩(wěn)，反之不成立 非平穩(wěn)信號：凡不是廣義平穩(wěn)的信號 ( ) ( ) ( ) ( ; )( ) x xx

5、xxxx tE x t C CtC 均值常數(shù) （有界）， n階矩均方遍歷隨機信號 總體統(tǒng)計平均可以用足夠長的時間平均代替 可以通過一次觀測數(shù)據(jù)估計所有n及n以下階的統(tǒng)計平均值 2 11 1 lim()()( ,)0 21 ( ) N kk N tN Ex ttx tttt N x t 若 則稱為均方遍歷信號。 ()( ) xy R信號不變部分 均值變化部分 包含直流分量 直流分量 交流分量 （不感興趣） 互協(xié)方差函數(shù) 互功率譜：互協(xié)方差函數(shù)的Fourier變換 * ( ) ( ) () xyxy CEx tmy tm不含直流分量 2 ( )( ) “”0 “” jf xyxy PfCed Fo

6、urier 零均值化 ：均值不為 的信號減去其均值 注：一些書將 零均值化 的相關(guān)函數(shù)的變換 定義為功率譜。 互相關(guān)系數(shù) 相干信號(coherent)拷貝信號 相干積累：收集相干信號，以提高接收機信噪比 ( ) ( ) (0)(0) xy xy xxyy C CC 00 0 ()1 ( )() ( )1 c xy j xy y tCex t 若某一，使 注：若接近于 ，則稱高相關(guān)信號 統(tǒng)計獨立： 統(tǒng)計不相關(guān)： 正交： , ( ,)( )( ) X YXY fx yfx fy ( )0,( ), ( ) xy Cx ty t 則統(tǒng)計不相關(guān) * ( )0, ( )()0,( )( ) xy RE

7、x t y tx ty t即則 1. 常數(shù)向量的正交(常數(shù)向量：元素為常量的向量) , cos , H x yx y xy x xy y 夾角： ,0 H x yx y正交： 兩常數(shù)向量夾角為90 2. 函數(shù)的正交 22 ( ) ( ) , cos , ( )( ) b H a bb aa tt dt tdttdt xy x y x xy y xy 夾角： ,( ) ( )0 b H a tt dt x yxy正交： 兩函數(shù)夾角為90 3. 隨機向量的正交 * 22 ( )( ) ( ) ( ) ( ), ( ) cos ( ), ( )( ), ( ) ( )( ) xy E xy xy x

8、xyy ExEy 兩個隨機變量和之間的夾角： * ( ) ( )0E xy兩個隨機變量正交，若 12 12 ( )( ),( ),( ) ( )( ),( ),( ) ( )( ) T m T n j xxx yyy y x y i 兩個隨機向量和 正交，系指任何一個隨機變量 x都與另一個隨機變量正交。 ( )( ) H xym n E Rxy0正交條件： （零矩陣） 兩個向量正交兩個向量正交 任何一個向量到另外一個向量的投影為零任何一個向量到另外一個向量的投影為零 兩個向量互不干擾兩個向量互不干擾 1. 在多址通信技術(shù)中的應(yīng)用 通信理論的基本結(jié)論：若多個用戶的信號可以做到正交， 則這些用戶可

9、共享一個發(fā)射媒介。 時分多址(TDMA: time-division multiple access): 各個用戶的信號波形在時域上無重疊 正交(時域正交) * 12 ( )( )0, b ij a s t s t dtij 用戶 和用戶 之間有一個保護時隙 共享：整個頻帶 頻分多址(FDMA: frequency-division multiple access): 各個用戶的信號波形在頻域上無重疊 頻域正交 2 1 * 12 ( )( )0, F ij F Sf Sf dfij 用戶 和用戶 之間有一個保護頻隙 共享：整個時區(qū) 碼分多址(CDMA: code-division multip

10、le access): 各個用戶的信號波形在時域和頻域都有重疊，但信號之間 正交 CDMA 擴頻碼之間正交 直接序列 共享：整個時區(qū)和頻帶 2. 離散Karhunen-Loeve變換 12 1 1 , , 1,2, , 0, T H Mx HH H ii M H iiij i x xxE wiM wij xRxx wQ xQQQ q x xQwqq q wx 零均值隨機向量，自相關(guān)矩陣 線性變換（為酉矩陣，） 級數(shù)展開： （正交） 目的：希望減少 的系數(shù)個數(shù)，又能夠重構(gòu)原信號 基向量 1 1 22 11 2 , 1 m ii i M mii i m MM HHH mmmiiiiii i mi

11、m HHHHHH iiiiiiiixi wmM w EEE wE w wE wEE xq exxq e eqqq q q xq x x qqxxqq R q 逼近： 逼近誤差： 均方誤差： 由得： 1 11 * minmin 1 ()(1) () 0 Lagrange M H mixi i m H ii MM HH iixiiii i mi m i xiiixiii i i E J J x q R q q q qq R qq q q R qqR qq q R 最優(yōu)化： 約束條件： 拉格朗日乘子法： 代價函數(shù) 乘子 和基向量必須分別選取為自相關(guān)矩陣的 特征值 ii u和特征向量 1 1 1111

12、 K-L m ii i x K ii i MMMM HHH Kixiijjjii i Ki Kji K w KMK w E xu R xu q R quu uu 離散變換 若只有 個大特征值，其余個特征值可忽略，則 此時，均方誤差 可達(dá)到最小。 1 K-L K ii i w xux 結(jié)論： 用 逼近 ，可使逼近（信號重構(gòu)）的均方誤差 最小化，離散變換是原信號的最優(yōu)逼近。 12 1 111 1 11 1 1 , , , , , M H Mx i x KK H MK xxx M KK MxxKww Kww Rxx R uuUuu wUx 待發(fā)射信號：，求樣本自相關(guān)矩陣 特征值分解，確定大特征值個數(shù)

13、，并存儲個 特征向量。令 信號編碼： 個原數(shù)據(jù)個變換系數(shù) 實際發(fā)射：發(fā)射個系數(shù) K即可 利用離散K-L變換進行信號編碼及解碼 12 1 1 , , K iiM i K wx xx M K MK xu uu 接收端：利用重構(gòu)信號 （信號解碼） 發(fā)射端和接收端：必須有的信息 壓縮比： 若，則可實現(xiàn)大壓縮比的信號壓縮 信號編碼、信號壓縮：通信、圖像等。 1 * * ( ) ()( ) ( )( ) ( )( )( ) ) K kkk k T k T k k r tA b i s tiTn t r t s t dtk r t s t dtr t ks t 0 0 CDMA接收機接收信號： 相關(guān)接收 可

14、提取用戶 的發(fā)射信號 原理：相關(guān)運算 可抽取接收信號 與用戶 擴頻信號 ( 之間的共同部分。 1 2 2 1 ( )( ) ( ) ( ) ( ) ( ) L ii i i iL k k z tc t z t z t c t z t 無線通信中的多徑信號為典型的相干信號 加權(quán)系數(shù)選擇： 多徑信號 RAKE 接收：將所有具有較大能量的信號收集起來， 并相加。這是一個典型的相干積累，可提供信干噪比 （因為總的能量增加）。 2 * ( ) ( )( ) () ( ) ( ), ( )0( )0,() ( )( ) ( ) kk k kk k k kkk E x t x tCt C t tx tx t

15、k Cx t gt dtgt 有限能量信號：（平方可積信號） 級數(shù)展開： 展開系數(shù)；基 本 函數(shù) 基函數(shù)應(yīng)滿足的條件： 線性獨立 若，則完備性 基函數(shù) 正交信號變換 雙正交信號變換 非正交信號變換 ( )( ) 1, ( ),( )(- ) 0, ,1, kk kl jwtjwt tgt kl ttkl ee 若 其它 標(biāo)準(zhǔn)正交基：如 ( )( ) ( ),( )0 kkkl tgttgt ( )( ) ( ),( )0 kkkl tgttgt 今后均假設(shè)討論的信號已零均值化，這里x(t)已零均值化 線性系統(tǒng) ( )x t( )y t () ( )h t沖激響應(yīng) 系數(shù) * * ( )( )(

16、)( )() ( )( )( )() y tx th tx u h tu du h tx th u x tu du * * 121212 2 * 2 ( )( )( )() () ( ) ( ) ( )( ) ( )( )( )( ) ( )( ) yyyy xx yyxxxx jft RCE y t y t Cuu h u h u dudu PfPf H f HfPf H f H fh t edt 其中稱為傳遞函數(shù) 穩(wěn)定系統(tǒng)(stable system) 有界輸入必導(dǎo)致有界輸出的系統(tǒng) 對連續(xù)系統(tǒng): 對離散系統(tǒng): ( )h t dt （絕對可積分） ( ) k h t （絕對可求和） 因果系統(tǒng)

17、(causal system) 輸出必在輸入之后 ( )0,0h tt 第二部分第二部分 參數(shù)估計參數(shù)估計理論理論 N 參數(shù)估計理論的主要研究內(nèi)容： （1）估計子是如何接近真實參數(shù) 的?(接近度評價) （2）參數(shù)估計方法 估計子的定義 11 , , () (,) Np N Nxx Npp N N 映射 已知 個數(shù)據(jù)估計真實參數(shù) 即 維樣本空間維參數(shù)空間（ 維） 小樣本性能 個數(shù)據(jù)得到的估計子性能 ：計算機仿真 大樣本性能 漸近性能：理論分析 * * 1 1 * 2 1 ( )( ) ()( ) : 1 ( )()( ) 1 ( )()( ) () ( () : x N k n N k n N

18、NN N x nR kE x nk x n R kx nk x n Nk R kx nk x n N bE E 的自相關(guān)函數(shù) 兩個估計子 具有相關(guān)函數(shù)矩陣的 半正定性 估計誤差 隨機變量，不便使用） 偏差 （固定量，有用） 無偏估計 0 NE 1 2 N ( )( ) ( )( ) () : lim x x N E R kR x Nk E R kR x N E 兩個估計子的性能： 無偏估計 有偏估計 漸近無偏估計 漸近無偏估計 無偏估計一定是漸近無偏估計，反之一般不成立 “好”的估計：應(yīng)該是漸近無偏估計 兩個無偏估計(或其中一個漸進無偏估計)的性能比較： 2 222 22 2 1212 :()

19、() : () ()() () () 2 () () ()() ()(), NN N NNNNN NNNNNN NN VarEE MEEEE EEEEEEE Varb VarVar 估計方差 均方誤差 無偏估計的評價：若則稱比好 有偏 22 1212()(), : MM估計的評價：若則稱優(yōu)于 注 比較估計子性能時，用均方誤差比只用方差或偏差更合理 1 1 1 , ( |) ( )ln( |) ( |) ( |) ( )( |) ( |) ( )0, ( |) N N N xx f x V xf x f x f x E V xf xdxdx f xE V x f xdxdx 中隱含真實參數(shù) 的信

20、息估計子 引入品質(zhì)函數(shù) 2 2 2 2 2 ( ) ( )( )ln( |)ln( |) 1 ( )() ( ) ln( |)( )() 1 ( ) V xFisher JE VEf xEf x VarE J f xK CramerRao J 定義：品質(zhì)函數(shù)的方差稱為信息： 定理：假設(shè)是 的無偏估計，則 取等號的充要條件： 此時稱為下界 損失函數(shù)(代價函數(shù)) 絕對損失函數(shù) 二次型損失函數(shù) (, ) () () () NN NN C C , 標(biāo)量參數(shù) 向量參數(shù) 2 2 ( , ) () () () C C , 標(biāo)量參數(shù) 向量參數(shù) 均勻損失函數(shù) 0, (, ) () 1, 0, () () 1,

21、N N N N N N C C , 標(biāo)量參數(shù) 向量參數(shù) 風(fēng)險函數(shù): 損失函數(shù)的數(shù)學(xué)期望 Bayes估計：使風(fēng)險函數(shù)最小化的參數(shù)估計 (, ) (, ) NN RE C 2 , (, )() min MMSE (minimum mean square error) NN RE若對二次型 1 1 1 ,( ,| ), ln( ,| ) argmaxln( ,| ) NN N MLN xxf xx f xx f xx 1 給定 ,似然函數(shù)為但多用對數(shù)似然函數(shù) 。 的最大似然估計是對數(shù)似然函數(shù)最大化時的估計: 缺點：必須知道似然函數(shù)的形式 線性均方LMS (linear mean square) 1

22、1 2 2 1 2 2 11 11 , minmin 20 N NLMSnn n N nn n NN nnnnk nn kk NN iikkiikk ii xxw x Ew xE e E e Ew xEw xx ww wE x xExwRg 準(zhǔn)則： 1 1 2 2 1 2 2 11 11 , , , minmin 20 N NLMSnn n N nn n NN nnnnk nn kk NN iikkiikk ii N N ik i k xxw x Ew xE e E e Ew xEw xx ww wE x xExwRg R R 準(zhǔn)則： 11 1 , , TT NN wwgg wg Rw = gw = R g 正交性原理 線性均方估計是典型的Bayes估計 1 0 0 1, N nnkk n Ew xxE exkN 即 估計誤差與已知數(shù)據(jù)正交 2 1 2 1 min LMSMMSEBayes N nn n N nn n x w Ex w 代價函數(shù)（二