第3章 信道容量A

1、第第 3 章信章信 道道 容容 量量 3.13.1信道定義與數(shù)學模型信道定義與數(shù)學模型信道數(shù)學模型：P(Y/X)XY信道模型如下圖所示。12,.,.,inXxxxx12,.,.,jmYyyyy1212,.,.,.,.,1,2,.,1,2,.,(/)jminyyyyxxxxjiinjmXp yxY 稱為信道的轉(zhuǎn)移概率或信道的傳遞概率。用信道轉(zhuǎn)移概率矩陣 (簡稱為信道矩陣)表示信道特性。信道矩陣為nm矩陣。(3)(/)jip yx112111222212(/)(/)(/)(/)(/)(/)(/)(/)(/)mmnnmnp yxp yxp yxp yxp yxp yxp yxp yxp yx 稱為反

2、信道的轉(zhuǎn)移概率。相應(yīng)矩陣 稱為反信道矩陣。反信道矩陣為m n矩陣。(4)(/)ijp xy112111222212(/)(/)(/)(/)(/)(/)(/)(/)(/)nnmmnmp xyp xyp xyp xyp xyp xyp xyp xyp xy信道的信息傳輸率R，定義為(5)I(X；Y )是 和 的函數(shù)。當信道特性 固定后，I(X；Y )隨信道的分布特性 變化。 I(X；Y )是 的上凸函數(shù)有最大值，因此總能找到一種概率分布 使信道的信息傳輸率R為最大，定義這個最大信息傳輸率為信道容量，記為C 。(6)其單位為比特/信道符號。若信道傳送平均一個符號為t秒，則單位時間為信道容量為(7)(

3、; )RI X Y()ip x(/)jip yx(/)jip yx()ip x()ip x()()maxmax (; )iip xp xCRI X Y()1max (; )itp xCI X Yt(比特/秒()ip x3.2.2 3.2.2 幾種特殊離散信道的信道容量幾種特殊離散信道的信道容量 一、離散無噪信道的信道容量一、離散無噪信道的信道容量 一般分為三種情況：1.1.具有一一對應(yīng)關(guān)系的無噪信道具有一一對應(yīng)關(guān)系的無噪信道(“(“一對一一對一”) ) m=n, 信道矩陣元素均為0或1。 無噪H(X/Y )=0,H(Y/X )=0,所以：(;Y )=H(X )= H(Y )根據(jù)信道容量的定義有

4、：(8)()max (; )logip xCI X Yn. .具有擴展性能的無噪信道（一對多）具有擴展性能的無噪信道（一對多）11213142521(/)(/)(/)000000000(/)(/)000000000(/)(/)mnmnp yxp yxp yxp yxp yxp yxp yx mn, 信道矩陣：1x1y2y3y2x5y6ynx1mymy4y信道矩陣每列只有一個元素不為0，已知后，X 不再有任何不確定性。信道疑義度H(Y/X )=0, 則有：(;Y )=H(X )因此：(9)()max (; )logip xCI X Yn3.3.具有歸并性能的無噪信道（多對一）具有歸并性能的無噪信

5、道（多對一）100100100010010001 mn, 信道矩陣：1x1y2y2xnxmy3x4x5x 信道矩陣中元素為0或1，每行有一個1，其余是0，每列有多個1。 這種信道的噪聲熵H(Y/X )=0,信道容量(10)()max (; )logip xCI X Ym二、強對稱二、強對稱離散信道的信道容量離散信道的信道容量nn階對稱矩陣 其中上述信道稱為。12,.,nXxxx12,.,nYyyy 111111n npppnnpppPnnpppnn1Pp對稱矩陣，(1)11nppSpnn 個( ; )( )(/)I x yH YH YX111(/)log (/(/)()()njijijnnii

6、iinip yxp yxH YXHp xp x1(/)log (/)log(1)log11nnijijijHp yxp yxppppnnn (/)niH YXHniH()()max( )max( )iininip xp xCH YHH YH1()jp yn1()() (/)1,2,.,(13)njijiip yp xp yxjn( )ip x(/),1,2,.,jip yxin1()ip xnloglogloglog1niCnHpnpppn1loglog1( )CppppH p 1.01.00.50Cp三、對稱三、對稱離散信道的信道容量離散信道的信道容量12,.,mQq qq12,.,nPpp

7、p121111111236111336611116231116633362PP1 1 1 11 1 , , , ,3 3 6 63 6QPmn1 1 1 1 , ,3 3 6 6PQmn111(/)lo( ; )( )(/)( )( )( )( )g(/)mjijiniinimjiip yxp yI x yH YH YXHxYp xH Yp x H 1(/)log(/)mmijijijHp yxp yx ,(/),1,2,.,jii p yxjmmiH12( ; )( )=( )( ,.,)mimI x yH YHH YH q qq離散信道的信道容量離散信道的信道容量12()max( )log

8、( ,.,)imimp xCH YHmH q qq12 ,.,mQq qq12()max( )(,.,)imp xCH YH q qq11111248811114288P1 1 1 13(, )( )( , )( )12 4 8 84I X YH YHH Y 12(), ()1p xp p xp 1214111111()(1)(1), ()(1)(2)244424111()(1)()88811111111( )(1)log(1)(2)log(2)loglog44448888p ypppp ypppp yppp yH Ypppp 3333log10.0612()4844C 比特/信源符號( )0

9、1111log(1)log(2)044441212H Ypppppp3.2.3 3.2.3 離散信道容量一般計算方法離散信道容量一般計算方法 ： 是n個變量 的多元函數(shù)，并滿足：可用拉格朗日乘子法求解。()max (; )ip xCI X Y(; )I X Y12 (), (),., ()np xp xp x1()1niip x引進拉格朗日乘子。解方程組(19)。1(; )( ) 1niiI X Yp x1(; )( ) 10( )( )niiiiI X Yp xp xp x（18)由于111(; )()log()( ) (/)log(/)mnmjjijijijijI X Yp yp yp x

10、 p yxp yx 1111( ) (/ )l()log ()( ) 10(og ()/nmijijiijmnjjijiip x p yxpp yp yp xp xyx（20)1()( ) (/)()(/)( )mjijijjjiip yp x p yxp yp yxp x求偏導(dǎo)得11(/)log ()(/)log (/og)l0mjijjijmjijijp yxp yxp yp yxep yx1()( ) (/)()(/)( )mjijijjjiip yp x p yxp yp yxp x11(/)log ()(/)log (/og)l0mjijjijmjijijp yxp yxp yp y

11、xep yxlog ()ln ()logjjp yp ye1(/) 1mjijp yx11(/ )log ()(/ )log (/ )logmmjijjijijjp yxp yp yxp yxe（21)( )ip x1111( ) (/ )log ( )( ) (/ )log (/ ) logmnmnijiijijijijijp yp x p y xp y xp xy xep 111log ()( ) (/ )logl)(/ )o(gmnmjijijijijjp yp x p yxp yxep y (; )I X YC（22)logCe（23)j111(/)log(/)(/)log()(/)

12、log()mmjijijijjjmjijjp yxp yxp yxp yCp yxp yClog()jjp yC()2jCjp y（24)（26)11(/)(/)log(/)mmjijjijijjp yxp yxp yx（25)1log2jmjC112()1jmmCjjjp y（27)122jmCj的計算步驟：1111(1)(/)(/)log(/),;(2)log2,;(3)()2,();(4)()() (/),().jjmmjijjijijjjmjCjjmjijiijp yxp yxp yxCCp yp yp yp xp yxp x由求由求由求由求()0,1,2,., .ip xin：要驗證112120(1)log(1)