6.2 離散信源的率失真函數(shù)的計(jì)算

1、6.2 離散信源的率失真函數(shù)的計(jì)算一、問題的數(shù)學(xué)描述二、率失真函數(shù)的求解及參數(shù)式三、特殊離散信源的率失真函數(shù)的計(jì)算舉例一、問題的數(shù)學(xué)描述目標(biāo)函數(shù)約束條件其中 已知 以及 D ，求 ，使 R 最小，得二、率失真函數(shù)的求解及參數(shù)式1. Lagrange 乘子法的求解過程分析(1) 記()() 其變量的個(gè)數(shù)為 個(gè)。目標(biāo)函數(shù) 的條件極值問題轉(zhuǎn)化為 函數(shù) 的無條件極值問題。 下面分別令進(jìn)行求解。則可知對(duì)任意固定的 i , j ，有由且二、率失真函數(shù)的求解及參數(shù)式1. Lagrange 乘子法的求解過程分析(1) 記()()即(2) 對(duì)任意固定的 i , j ，令得二、率失真函數(shù)的求解及參數(shù)式1. Lag

2、range 乘子法的求解過程分析(1) 記()()(2)得即二、率失真函數(shù)的求解及參數(shù)式1. Lagrange 乘子法的求解過程分析(1) 記()()令(3) 再令得二、率失真函數(shù)的求解及參數(shù)式1. Lagrange 乘子法的求解過程分析(1) 記()()二、率失真函數(shù)的求解及參數(shù)式1. Lagrange 乘子法的求解過程分析(4) 從而得到 個(gè)方程二、率失真函數(shù)的求解及參數(shù)式1. Lagrange 乘子法的求解過程分析(5) 將 (A) 式兩邊乘 再對(duì) i 求和，得由(A)有二、率失真函數(shù)的求解及參數(shù)式1. Lagrange 乘子法的求解過程分析(6) 將 (A) 式兩邊直接對(duì) j 求和，得

3、(A)(B)即二、率失真函數(shù)的求解及參數(shù)式1. Lagrange 乘子法的求解過程分析(A)(B)(C)(D)加上 由上述式子即可得到率失真函數(shù)的求解步驟。(A)(B)(C)(D)得(4) 由求(2) 由求(1) 由求(3) 由二、率失真函數(shù)的求解及參數(shù)式2. 簡(jiǎn)明的求解步驟及參數(shù)式步驟得(5) 由二、率失真函數(shù)的求解及參數(shù)式2. 簡(jiǎn)明的求解步驟及參數(shù)式參數(shù)式有由(1) (2) 二、率失真函數(shù)的求解及參數(shù)式2. 簡(jiǎn)明的求解步驟及參數(shù)式參數(shù)式其中，(B)(C) 前面的 (A) 式則用來得到實(shí)驗(yàn)信道的轉(zhuǎn)移概率。二、率失真函數(shù)的求解及參數(shù)式3. 參數(shù) s 的(幾何)意義分析有(1) 由 將 的兩邊對(duì)

4、 s 求導(dǎo)，得二、率失真函數(shù)的求解及參數(shù)式3. 參數(shù) s 的(幾何)意義參數(shù) s 為率失真函數(shù)的斜率。結(jié)論有(2) 由分析(1)三、特殊離散信源的率失真函數(shù)的計(jì)算舉例設(shè)某信源為失真矩陣為例編碼后的輸出為信源的概率分布為求率失真函數(shù)其中(1) 求解(2) 求率失真函數(shù)的參數(shù)式 .解由有其中代入已知條件即得求解得(2) 求率失真函數(shù)的參數(shù)式 .解由有其中代入已知條件即得求解得(2) 求率失真函數(shù)的參數(shù)式 .解(2) 求率失真函數(shù)的參數(shù)式 .解(3) 求率失真函數(shù)解(1)(2)由 (1) 式得代入 (2) 式即得記則得率失真函數(shù) R ( D ) 的曲線圖p = 0.5p = 0.3p = 0.2p

5、= 0.10.10.20.30.40.50D0.20.40.60.81.0R ( D )解(4) 畫出率失真函數(shù) 的圖形 .H ( X ) = 1.000( bit )H ( X ) = 0.881( bit )H ( X ) = 0.722( bit )H ( X ) = 0.469( bit )(5) 求實(shí)驗(yàn)信道的輸出符號(hào) Y 的概率分布 .解由有此外還可得(6) 求實(shí)驗(yàn)信道的轉(zhuǎn)移概率 .解由有編碼后的輸出符號(hào)為設(shè)信源 為等概分布，即失真矩陣為例求率失真函數(shù)(1) 求解(2) 求率失真函數(shù)的參數(shù)式 .解由及已知條件，有求解得(2) 求率失真函數(shù)的參數(shù)式 .解求解得由及已知條件，有其中(2) 求