信息率失真理論

信息率失真理論第一頁，共五十三頁，2022年，8月28日一、保真度準則和實驗信道1、失真度定義漢明失真度——常用于離散信源表示第二頁，共五十三頁，2022年，8月28日全部n×n個失真度——失真矩陣漢明失真矩陣第三頁，共五十三頁，2022年，8月28日平方誤差失真度——常用于連續(xù)信源平方誤差失真函數(shù)2、平均失真度失真度的數(shù)學(xué)期望定義第四頁，共五十三頁，2022年，8月28日表示3、保真度準則平均失真度不大于給定的允許失真D定義第五頁，共五十三頁，2022年，8月28日表示4、實驗信道定義滿足保真度準則的所有數(shù)據(jù)處理信道第六頁，共五十三頁，2022年，8月28日離散信源的實驗信道表示全部n×n個實驗信道轉(zhuǎn)移概率——實驗信道矩陣第七頁，共五十三頁，2022年，8月28日連續(xù)信源的實驗信道實驗信道轉(zhuǎn)移概率密度函數(shù)第八頁，共五十三頁，2022年，8月28日二、單符號離散信源的信息率失真函數(shù)信源固定時，與等效信源間的平均互信息量是數(shù)據(jù)處理信道轉(zhuǎn)移概率分布的嚴格下凸函數(shù)，總能在實驗信道中找到一種信道轉(zhuǎn)移概率分布，使實驗信道中傳輸?shù)钠骄バ畔⒘吭诒Ｕ娑葴蕜t下達到最小信源概率分布不變時，保真度準則下平均互信息量的極小值，用R(D)表示定義第九頁，共五十三頁，2022年，8月28日表示1、信息率失真函數(shù)實驗信道轉(zhuǎn)移概率分布的n個約束條件保真度準則的約束條件第十頁，共五十三頁，2022年，8月28日第十一頁，共五十三頁，2022年，8月28日第十二頁，共五十三頁，2022年，8月28日第十三頁，共五十三頁，2022年，8月28日第十四頁，共五十三頁，2022年，8月28日對j求和乘P(xi)對i求和第十五頁，共五十三頁，2022年，8月28日信息率失真函數(shù)第十六頁，共五十三頁，2022年，8月28日第十七頁，共五十三頁，2022年，8月28日2、二進制信源的信息率失真函數(shù)第十八頁，共五十三頁，2022年，8月28日第十九頁，共五十三頁，2022年，8月28日第二十頁，共五十三頁，2022年，8月28日第二十一頁，共五十三頁，2022年，8月28日第二十二頁，共五十三頁，2022年，8月28日第二十三頁，共五十三頁，2022年，8月28日R(D)D0.50.25p=0.25p=0.5010.811第二十四頁，共五十三頁，2022年，8月28日求允許失真D=1/8時的信息率失真函數(shù)R(D)及達到R(D)的實驗信道例1D=1/8時第二十五頁，共五十三頁，2022年，8月28日第二十六頁，共五十三頁，2022年，8月28日第二十七頁，共五十三頁，2022年，8月28日3、等概率信源的信息率失真函數(shù)等概率信源第二十八頁，共五十三頁，2022年，8月28日第二十九頁，共五十三頁，2022年，8月28日第三十頁，共五十三頁，2022年，8月28日第三十一頁，共五十三頁，2022年，8月28日第三十二頁，共五十三頁，2022年，8月28日第三十三頁，共五十三頁，2022年，8月28日p=0.5時，二進制信源的信息率失真函數(shù)第三十四頁，共五十三頁，2022年，8月28日n=2時，等概率信源的信息率失真函數(shù)第三十五頁，共五十三頁，2022年，8月28日三進制等概率信源，求允許失真D=1/3時的信息率失真函數(shù)R(D)及達到R(D)的實驗信道例2D=1/3時第三十六頁，共五十三頁，2022年，8月28日習題：(P129-130)4.1、4.10、4.11第三十七頁，共五十三頁，2022年，8月28日三、N次擴展信源的信息率失真函數(shù)1、N次擴展信源的保真度準則和實驗信道失真度平均失真度第三十八頁，共五十三頁，2022年，8月28日第三十九頁，共五十三頁，2022年，8月28日如果給定允許失真ND保真度準則實驗信道第四十頁，共五十三頁，2022年，8月28日2、N次擴展信源的信息率失真函數(shù)第四十一頁，共五十三頁，2022年，8月28日四、單符號連續(xù)信源的信息率失真函數(shù)信源概率密度函數(shù)不變時，保真度準則下平均互信息量的下確界，用R(D)表示定義信源固定時，與等效信源間的平均互信息量是數(shù)據(jù)處理信道轉(zhuǎn)移概率密度函數(shù)的嚴格下凸泛函，總能在實驗信道中找到一種信道轉(zhuǎn)移概率密度函數(shù)，使實驗信道中傳輸?shù)钠骄バ畔⒘吭诒Ｕ娑葴蕜t下達到最小第四十二頁，共五十三頁，2022年，8月28日表示1、信息率失真函數(shù)實驗信道轉(zhuǎn)移概率密度函數(shù)的約束條件保真度準則的約束條件第四十三頁，共五十三頁，2022年，8月28日信息率失真函數(shù)第四十四頁，共五十三頁，2022年，8月28日2、高斯信源的信息率失真函數(shù)第四十五頁，共五十三頁，2022年，8月28日第四十六頁，共五十三頁，2022年，8月28日第四十七頁，共五十三頁，2022年，8月28日第四十八頁，共五十三頁，2022年，8月28日第四十九頁，共五十三頁，2022年，8月28日達到R(D)的實驗信道——方差為-1/2S的反向高斯加性信道N第五