數(shù)據(jù)通信與計(jì)算機(jī)網(wǎng)絡(luò)參考

思維世界的發(fā)展，在某種意義上說(shuō)，就是對(duì)驚奇的不斷擺脫。

-愛(ài)因斯坦（美國(guó)）4.2.3離散信道容量的一般計(jì)算方法(1)離散信道容量的計(jì)算方法(2)用拉格朗日乘子法求信道容量(3)一般離散信道容量計(jì)算步驟(4)舉例(1)離散信道容量的計(jì)算方法對(duì)一般離散信道求信道容量，就是在固定信道條件下，對(duì)所有可能的輸入概率分布p(xi)

，求平均互信息的極大值。由于I(X;Y)是輸入概率分布p(xi)的上凸函數(shù)，所以極大值一定存在。因?yàn)镮(X;Y)是n個(gè)變量{p(x1),p(x2),…,p(xn)}的多元函數(shù)，并滿足，所以可用拉格朗日乘子法計(jì)算這個(gè)條件極值。(2)用拉格朗日乘子法求信道容量引進(jìn)一個(gè)新函數(shù)

其中λ為拉格朗日乘子，解方程組

可得一般信道容量C。將I(X;Y)的表達(dá)式代入(4.2.21)得整理得(2)用拉格朗日乘子法求信道容量式(4.2.24)左邊為平均互信息的極大值，即(2)用拉格朗日乘子法求信道容量(2)用拉格朗日乘子法求信道容量(3)一般離散信道容量計(jì)算步驟一般離散信道容量對(duì)計(jì)算步驟總結(jié)如下：注意：在第②步信道容量C被求出后，計(jì)算并沒(méi)有結(jié)束，必須解出相應(yīng)的p(xi)

，并確認(rèn)所有的p(xi)≥0時(shí)，所求的C才存在。在對(duì)I(X;Y)求偏導(dǎo)時(shí)，僅限制，并沒(méi)有限制p(xi)≥0

，所以求出的p(xi)有可能為負(fù)值，此時(shí)C就不存在，必須對(duì)p(xi)進(jìn)行調(diào)整，再重新求解C。近年來(lái)人們一般采用計(jì)算機(jī)，運(yùn)用迭代算法求解。(3)一般離散信道容量計(jì)算步驟(4)舉例[例4.2.2]有一信道矩陣，求信道容量C。

解：因?yàn)棣攀菞l件轉(zhuǎn)移概率p(y1/x2)

，所以0≤ε≤1，從而有p(x1)≥0，p(x2)

≥0

，保證了C的存在。(4)舉例4.3

多符號(hào)離散信道

如果在不同時(shí)刻有多個(gè)來(lái)自于同一信源的隨機(jī)變量（多符號(hào)信源）通過(guò)離散信道傳輸，稱(chēng)這種信道為多符號(hào)離散信道。4.3.1多符號(hào)離散信道的數(shù)學(xué)模型4.3.2離散無(wú)記憶信道和獨(dú)立并聯(lián)信道的信道容量4.3.1多符號(hào)離散信道的數(shù)學(xué)模型多符號(hào)離散信道定義定義：多符號(hào)離散信源X

=X1X2…XN在N個(gè)不同時(shí)刻分別通過(guò)單符號(hào)離散信道{X

P(Y/X)Y}，則在輸出端出現(xiàn)相應(yīng)的隨機(jī)序列Y

=Y1Y2…YN，這樣形成一個(gè)新的信道稱(chēng)為多符號(hào)離散信道。由于新信道相當(dāng)于單符號(hào)離散信道在N個(gè)不同時(shí)刻連續(xù)運(yùn)用了N次，所以也稱(chēng)為單符號(hào)離散信道{X

P(Y/X)Y}的N次擴(kuò)展。多符號(hào)離散信道數(shù)學(xué)模型設(shè)信源矢量X的每一個(gè)隨機(jī)變量Xk(k=1,2,…,N)均取自并取遍于信道的輸入符號(hào)集{x1,x2,…,xn}，則信源共有nN個(gè)不同的元素ai(i=1,2,…,nN)。4.3

多符號(hào)離散信道該信源通過(guò)多符號(hào)離散信道{X

P(Y/X)Y}后，相對(duì)于每一個(gè)ai，信道輸出端輸出一個(gè)相應(yīng)的、由N個(gè)符號(hào)組成的輸出符號(hào)序列bj。4.3.1多符號(hào)離散信道的數(shù)學(xué)模型4.3

多符號(hào)離散信道

多符號(hào)離散信道/單符號(hào)離散信道的N次擴(kuò)展信道數(shù)學(xué)模型如圖所示。

它的輸入輸出關(guān)系可表示為信道矩陣：?jiǎn)畏?hào)離散信道的N次擴(kuò)展信道的數(shù)學(xué)模型單符號(hào)離散信道的N次擴(kuò)展信道數(shù)學(xué)模型如圖所示4.3.2離散無(wú)記憶信道和獨(dú)立并聯(lián)信道的信道容量4.3

多符號(hào)離散信道單符號(hào)離散無(wú)記憶信道與其N(xiāo)次擴(kuò)展信道傳遞概率之間的關(guān)系無(wú)記憶性：離散信道在時(shí)刻k的輸出隨機(jī)變量Yk只與時(shí)刻k的輸入隨機(jī)變量Xk(k=1,2,…,N)有關(guān)，與k時(shí)刻之前的輸入隨機(jī)變量X1X2…Xk-1和輸出隨機(jī)變量Y1Y2…Yk-1無(wú)關(guān)。無(wú)預(yù)感性：k時(shí)刻之前的輸出隨機(jī)變量序列Y1Y2…Yk-1只與k時(shí)刻之前的輸入隨機(jī)變量序列X1X2…Xk-1有關(guān)，與以后的第k時(shí)刻的輸入隨機(jī)變量Xk無(wú)關(guān)。離散無(wú)記憶信道的N次擴(kuò)展信道4.3.2離散無(wú)記憶信道和獨(dú)立并聯(lián)信道的信道容量4.3

多符號(hào)離散信道離散無(wú)記憶信道的N次擴(kuò)展信道的傳遞概率等于各單位時(shí)刻相應(yīng)的單符號(hào)離散無(wú)記憶信道的傳遞概率的連乘。離散無(wú)記憶信道的N次擴(kuò)展信道既是無(wú)記憶的，又是無(wú)預(yù)感的。即輸出隨機(jī)變量Yk只與對(duì)應(yīng)的輸入隨機(jī)變量Xk有關(guān)。離散無(wú)記憶信道的N次擴(kuò)展信道的數(shù)學(xué)模型可以用下圖表示4.3.2離散無(wú)記憶信道和獨(dú)立并聯(lián)信道的信道容量4.3

多符號(hào)離散信道單符號(hào)離散無(wú)記憶信道與其N(xiāo)次擴(kuò)展信道平均互信息之間的關(guān)系離散無(wú)記憶信道N次擴(kuò)展信道兩端的平均互信息為I(X;Y)=H(Y)－H(Y

/X)平均互信息公式4.3.2離散無(wú)記憶信道和獨(dú)立并聯(lián)信道的信道容量4.3

多符號(hào)離散信道第k個(gè)隨機(jī)變量Xk單獨(dú)通過(guò)單符號(hào)離散信道時(shí)的平均互信息N個(gè)輸入、輸出變量的平均互信息之和為上兩式相減得4.3.2離散無(wú)記憶信道和獨(dú)立并聯(lián)信道的信道容量4.3

多符號(hào)離散信道當(dāng)且僅當(dāng)含信源X=X1X2…XN無(wú)記憶興，或者脂說(shuō)信源X是離散無(wú)呈記憶信源X的N次擴(kuò)展信候源XN=X1X2…XN時(shí)，即即輸出招端各Yk(k=1,圈2,…覽,N)相互獨(dú)立資。4.3族.2離散無(wú)停記憶信濤道和獨(dú)惜立并聯(lián)縫信道的撐信道容應(yīng)量4.3多符號(hào)離演散信道結(jié)論1：離散無(wú)記緊憶信道的N次擴(kuò)展信牧道的平均互信息膊，不大于N個(gè)隨機(jī)哈變量X1X2…XN單獨(dú)通過(guò)信粒道{XP(Y/X)Y}的平均靈互信息競(jìng)之和。這時(shí)有結(jié)論2：離散無(wú)記知憶信道的N次擴(kuò)展信托道，當(dāng)輸助入端的N個(gè)輸入途隨機(jī)變狀量統(tǒng)計(jì)爆獨(dú)立時(shí)慶，信道冰的總平跪均互信恢息等于司這N個(gè)變量迎單獨(dú)通株過(guò)信道組的平均盼互信息矛之和。4.3勺.2離散無(wú)記稱(chēng)憶信道和錫獨(dú)立并聯(lián)糊信道的信拋道容量4.3多符號(hào)離趕散信道單符號(hào)離練散無(wú)記憶構(gòu)信道與其N(xiāo)次擴(kuò)展傳信道信屆道容量腐之間的釘關(guān)系由于離肉散無(wú)記企憶信源管的N次擴(kuò)展今信源中燈的隨機(jī)腸變量都艇取自同繡一符號(hào)抄集Xk∈{x1x2…xN}(k=1,2宗,…,N)，并具揚(yáng)有相同閘的概率逮分布，穴而且都獅通過(guò)同估一個(gè)離逼散無(wú)記裳憶信道[XP(Y/X)Y]，信道輸出破端隨機(jī)變善量序列中丘的隨機(jī)變顏量Yk(k=1,掘2,它…,N)也取自氣同一符號(hào)集攝并具有相臘同的概率珍分布，而狠且相互統(tǒng)正計(jì)獨(dú)立。所以I(Xk;Yk)=I(X;Y)結(jié)論：離散無(wú)獲記憶信旬道的N次擴(kuò)展場(chǎng)信道，槍如果信掩源也是暖離散無(wú)街記憶信朗源的N次擴(kuò)展信潤(rùn)源，則信本道總的平雖均互信息請(qǐng)是單符號(hào)街離散無(wú)記工憶信道平括均互信息餃的N倍。4.3.亭2離散無(wú)京記憶信艘道和獨(dú)賠立并聯(lián)可信道的洪信道容漂量4.3多符號(hào)離趙散信道結(jié)論的說(shuō)溪明：因?yàn)橛戨x散無(wú)記筑憶信道N次擴(kuò)展縱信道可矮以用N個(gè)單符膀號(hào)離散肯信道來(lái)竭等效，曲這N個(gè)信道之插間沒(méi)有任宇何關(guān)聯(lián)關(guān)華系，若輸翁入端的N個(gè)隨機(jī)變娘量之間也梁沒(méi)有任何蠟關(guān)聯(lián)關(guān)系毯的話，就壞相當(dāng)于N個(gè)毫不愛(ài)相干的報(bào)單符號(hào)憑離散信軋道在分結(jié)別傳送勉各自的雞信息，柳所以在蝴擴(kuò)展信羨道的輸殘出端得符到的平廳均信息越量必然資是單個(gè)需信道的N倍。用C表示離散敘無(wú)記憶信鏈道容量，某用CN表示其擴(kuò)資展信道容活量，CN=NC4.3.套2離散無(wú)刻記憶信欣道和獨(dú)若立并聯(lián)貼信道的戴信道容深量4.3多符號(hào)離愧散信道獨(dú)立并聯(lián)涌信道獨(dú)立并鋼聯(lián)信道/獨(dú)立并列/獨(dú)立平行/積信道：輸入和蜂輸出隨機(jī)蚊序列中的跌各隨機(jī)變?cè)趿咳≈涤陬^不同的符盈號(hào)集，就繼構(gòu)成了獨(dú)借立并聯(lián)信溪道。是離散無(wú)胡記憶信道線的N次擴(kuò)展淋信道的撞推廣。輸入隨截機(jī)序列X=X1X2…XN，Xk∈{x1k,x2k,…,xnk}輸出隨傻機(jī)序列Y=Y1Y2…YN，Yk∈{y1k,y2k,…,ynk}N個(gè)獨(dú)立并盯聯(lián)信道的儉容量CN第k個(gè)單符號(hào)牽離散無(wú)記穗憶信道的仿信道容量Ck當(dāng)輸入蒸端各隨傍機(jī)變量端統(tǒng)計(jì)獨(dú)倉(cāng)立，且腐每個(gè)輸鐘入隨機(jī)膜變量Xk(k=1,膛2,…,N)的概率分隊(duì)布達(dá)到各叛自信道容雖量Ck(k=1,侄2,…,N)的最佳分阿布時(shí)，CN達(dá)到其最純大值：4.3線.2離散無(wú)箱記憶信爸道和獨(dú)訓(xùn)立并聯(lián)掩信道的求信道容光量4.3多符號(hào)望離散信尋道獨(dú)立并聯(lián)臣信道推廣翅到更一般拿情況：輸入各隨烏機(jī)變量不淹但取值于京不同的符肝號(hào)集，而河且各集合霉的元素個(gè)爽數(shù)也不相鈴?fù)?；輸出隨仿機(jī)變量投也取值芝于不同烤的符號(hào)得集合，傻各集合鋪的元素奴個(gè)數(shù)也赴不相同摩；這種更一算般的信道脹可得到與臘上述類(lèi)似姥的結(jié)論。可以把N個(gè)變量贈(zèng)的獨(dú)立矮并聯(lián)信鴉道看成事是離散村無(wú)記憶蛋信道的N次擴(kuò)展信灣道的推廣杠，也可以漁把離散信捆道的N次擴(kuò)展賢看成是瘋獨(dú)立并戒聯(lián)信道陣的特例。4.3獅.2離散無(wú)記病憶信道和凈獨(dú)立并聯(lián)佳信道的信再道容量4.3多符號(hào)離島散信道單路通信豈系統(tǒng)：不論袍是單符畝號(hào)的還有是多符扛號(hào)的，繁都只有尸一個(gè)輸折入端和森一個(gè)輸毅出端的閃信道稱(chēng)晉為單用榴戶信道產(chǎn)，相應(yīng)莊的通信貝系統(tǒng)稱(chēng)圈為單路識(shí)通信系繩統(tǒng)。多路通躁信系統(tǒng)：為了闖提高通襯信效率倚，通信抹網(wǎng)中的劍信道往雞往有多積個(gè)輸入霉端和多糕個(gè)輸出季端，這傘種信道鹽稱(chēng)為多房誠(chéng)用戶信黨道，相疏應(yīng)的通糖信系統(tǒng)場(chǎng)稱(chēng)為多型路通信夸系統(tǒng)。網(wǎng)絡(luò)信買(mǎi)息論/多用戶信觀息論：研窮究多路通決信系統(tǒng)信閉息傳遞的緣瑞理論。實(shí)奏際的信道劑大部分是肅多用戶信稱(chēng)道。例如腹：計(jì)算機(jī)輸通信、衛(wèi)塌星通信、建廣播通信信、有線電詳視等。4.4.抬1多址接喘入信道4.4.注2廣播信毛道4.4.減3相關(guān)信源替的多用戶跨信道問(wèn)題4.4多用戶詞信道定義及奧信道模伶型多址接省入信道/多元接入懶信道：多陣個(gè)用戶的貓信息用多償個(gè)編碼器最分別編碼頓以后，送懷入同一信扯道傳輸，鳥(niǎo)在接收端也用一個(gè)譯壯碼器譯碼近，然后分察送給不同憶的用戶。剛這是有多貼個(gè)輸入端垂但只有一教個(gè)輸出端亦的多用戶歲信道。多址接入素信道模型萌如下圖所氣示4.4童.1多址接入廟信道4.4多用戶信殖道二址接危入信道煤的信道挨容量最簡(jiǎn)單的箭多址接入違信道是只羞有兩個(gè)輸燥入端和一增個(gè)輸出端差的二址接責(zé)入信道，慚如下圖所翻示。U1至U’1的信息率R1，信道容板量C1U2至U’2的信息型率R2，信道容沿量C2總信道容抽量C124.4.森1多址接入鈔信道4.4多用戶網(wǎng)信道二址接入辛信道信息去率和信道返容量之間急滿足如下匠條件這些條猶件確定估了二址羊接入信嚷道以R1和R2為坐標(biāo)的降二維空間拉中的某個(gè)川區(qū)域（圖智中陰影部由分），這將個(gè)區(qū)域的涉界線就是絨二址接入揭信道的容談量。4.4乎.1多址接贏入信道4.4多用戶待信道當(dāng)X1和X2相互獨(dú)立沉?xí)r有max(C1,C2)≤C12≤C1+C2多址接椅入信道擁的信道扔容量二址接莊入信道窮的結(jié)論巧很容易逐推廣到探多址接湊入信道我；多址接入先信道參數(shù)多址接入秘信道數(shù)N第r個(gè)編碼器摔的信息率閱為Rr相應(yīng)的散信道容欄量為Cr；信道總險(xiǎn)容量為CΣ4.4.佛1多址接剝?nèi)胄诺?.4多用戶營(yíng)信道當(dāng)輸入旨各信源叔獨(dú)立時(shí)敵有4.4.舌1多址接入廢信道4.4多用戶剪信道這些限制煮條件規(guī)定暗了一個(gè)在N維空間的爽體積，這脹個(gè)體積的霧外型是一球個(gè)截去角采的多面體勻，多面體肆內(nèi)是信道蟲(chóng)允許的信鍬息率，多悟面體的上托界就是多邀址接入信方道的容量曬。定義：具有一個(gè)凝輸入和多做個(gè)輸出的再信道稱(chēng)為腫廣播信道萬(wàn)。最簡(jiǎn)單猶的廣播說(shuō)信道是開(kāi)單輸入爸雙輸出毀廣播信暮道，如付下圖所算示：對(duì)于一般尼的廣播信悟道，很難臟用系統(tǒng)的長(zhǎng)方法求出逮其信息率僻可達(dá)區(qū)域是，只在某陶些特殊的溫情況下，舟能夠證明種信道容量撫的容量界英線是可以燈達(dá)到的。4.4.武2廣播信膨道4.4多用戶信泥道定義：由多個(gè)單泥用戶信道檢組成的并隱聯(lián)信道，費(fèi)傳送相互認(rèn)有關(guān)的多填路信息的您信道。這使種信道有青多個(gè)輸入唐和多個(gè)輸褲出，且輸旺入端各信支源之間有介關(guān)聯(lián)關(guān)系諸。兩個(gè)相關(guān)賓信源用兩米個(gè)獨(dú)立信越道傳送的考多用戶信爽道模型。隨著網(wǎng)鑒絡(luò)技術(shù)晉的發(fā)展厘，多用緣瑞戶信息拘論在近山代信息累論中越公來(lái)越為溪大家關(guān)尊注，不榜過(guò)許多攝問(wèn)題還闊沒(méi)有找恒到系統(tǒng)僻的解決躁方法。4.4晶.3相關(guān)信迫源的多勺用戶信哀道問(wèn)題4.4多用戶信產(chǎn)道定義：當(dāng)誰(shuí)信源與信許道連接時(shí)湯，若信息珠傳輸率達(dá)該到了信道誦容量，我梳們稱(chēng)此信源與采信道達(dá)蓮到匹配。否則，吐認(rèn)為信道塞有剩余。信道冗余致度定義：信道冗竿余度＝C-I(X;Y)C表示該信饅道的信道貫容量，I(X;Y)表示信源肅通過(guò)該信屠道實(shí)際傳賺輸?shù)钠骄鶞I信息量。信道相懇對(duì)冗余眠度＝一般通信嘩系統(tǒng)中，疼信源發(fā)出永的消息（林符號(hào)）必獅須轉(zhuǎn)換成將適合信道靜傳輸?shù)姆绿?hào)（信號(hào)概）來(lái)傳輸碧。對(duì)于離鞏散無(wú)損信著道，如何撐進(jìn)行轉(zhuǎn)換航，才能使輩信道的信顆息傳輸率役達(dá)到信道變?nèi)萘浚_(dá)凳到信源與瞎信道的匹裳配呢？－垮香農(nóng)無(wú)失截真信源編檔碼定理。4.4置.4信源與逐信道的嘗匹配4.4多用戶信置道無(wú)失真婚信源編盞碼就是菠將信源錢(qián)輸出的舒消息變鵲換成適保合信道鑼傳輸?shù)幕\新信源覆的消息伐（符號(hào)刑）來(lái)傳快輸，而朱使新信辟源的符散號(hào)接近炸等概分職布，新渠信源的炮熵接近腫最大熵log2r,這樣，潤(rùn)信道傳展輸?shù)男艣Q息量達(dá)屠到最大伴，信道除剩余度露接近于敘零，使泥信源與話信道達(dá)胃到匹配釣，信道石得到充耍分利用擋。4.5日.1連續(xù)信道停的定義及窄數(shù)學(xué)模型4.5.倆2連續(xù)信道情的信道容壺量4.5庭.3加性連姥續(xù)信道請(qǐng)的信道虧容量4.5.巡壽4高斯加性冠連續(xù)信道綁的信道容伏量4.5.看5平均功鬼率受限宮的加性牲信道的則信道容云量4.5獅.6結(jié)論4.5連續(xù)信道連續(xù)信竄道定義：輸入棉和輸出是隨機(jī)變拴量都取元值于連殺續(xù)集合壺的信道暴。信道傳吉遞特性：傳遞膝特性用永條件轉(zhuǎn)剛移概率潑密度函幟數(shù)p(y/x)表示。連續(xù)信儲(chǔ)道數(shù)學(xué)帽模型：{Xp(y/x)Y}，如下投圖所示章。4.5.厭1連續(xù)信道勞的定義及雀數(shù)學(xué)模型4.5連續(xù)信道連續(xù)隨澇機(jī)變量皇之間的振平均互染信息滿劫足非負(fù)扣性，并可以共證明，它臺(tái)是信源概嘴率密度函止數(shù)p(x)的上凸鈴函數(shù)。連續(xù)信拴道的信詢(xún)道容量C：信源X等于某慈一概率求密度函職數(shù)p0(x)時(shí)，信道軍平均互信根息的最大丑值，即一般連續(xù)路信道的容鐵量并不容份易計(jì)算，從當(dāng)信道為證加性信道肅時(shí)，情況擇要簡(jiǎn)單一擺些。4.5.籮2連續(xù)信道龍的信道容純量4.5連續(xù)信道加性連薦續(xù)信道：噪聲草為連續(xù)探隨機(jī)變塵量N，且與X相互統(tǒng)掏計(jì)獨(dú)立有的信道效。這種信道財(cái)?shù)脑肼晫?duì)免輸入的干陸擾作用表蓮現(xiàn)為噪聲纏和輸入線勢(shì)性疊加，丙即Y=X+N。如下圖斯所示。4.5.小3加性連續(xù)適信道的信掃道容量4.5連續(xù)信草道對(duì)于加性彼連續(xù)信道殃，信道的惡條件概率時(shí)密度函數(shù)部等于噪聲汗的概率密摸度p(y/x)=p(n)這進(jìn)一步鬧說(shuō)明信道釋的傳遞概腐率是由于債噪聲熵所沫引起的。4.5殘.3加性連續(xù)湯信道的信逃道容量4.5連續(xù)信道加性連攔續(xù)信道框的條件瘡熵等于仗其噪聲蝴熵。說(shuō)珠明Hc(Y/X)是由噪詠聲引起債的，故等稱(chēng)Hc(N)為噪聲熵屈。該結(jié)論原說(shuō)明了阻條件熵冬是由于犧信道中含噪聲引他起的，遍它完全弟等于噪晶聲信源羅的不確冷定性，年即噪聲烈信源的碼熵，所碎以稱(chēng)它佛為噪聲惠熵。4.5.糠3加性連杰續(xù)信道淡的信道樹(shù)容量4.5連續(xù)信接道加性連決續(xù)信道染的信道渴容量：加性噪聲N和信源X相互統(tǒng)佳計(jì)獨(dú)立能，X的概率密糾度函數(shù)p(x)的變動(dòng)不熄會(huì)引起噪誤聲熵Hc(N)的改變，貧所以加性暮信道的容偶量C就是選存擇p(x)，使輸出湯熵Hc(Y)達(dá)到最哨大值，啄即上式說(shuō)明中：加性連上續(xù)信道拐容量取舉決于噪火聲N（即信道逢）的統(tǒng)計(jì)勁特性和輸濫入隨機(jī)變怪量X所受的限逢制條件。（對(duì)于酬不同的艱限制條熔件，連泄續(xù)隨機(jī)汁變量具惠有不同頌都最大硬熵值。降）4.5連續(xù)信道4.5.僻3加性連續(xù)釣信道的信構(gòu)道容量高斯加性嚴(yán)連續(xù)信道呈：高斯噪戴聲為N，均值獲為0，方差芽為σ2，噪聲功妻率為PN；信道的傳室遞概率密猶度函數(shù)：p(y/x)=p(n)如果把x看成是一聰個(gè)常數(shù)，扔則上式就番變成了隨y變化的聲高斯函滅數(shù)，即綁當(dāng)已知X=x時(shí)，Y也是一潛個(gè)高斯貫變量，爭(zhēng)均值為x，方差矮為σ2。4.5.惕4高斯加兼性連續(xù)持信道的祖信道容斧量4.5連續(xù)信道因此高斯猾加性信道置的容量為4.5連續(xù)信道4.5.班4高斯加余性連續(xù)萌信道的植信道容耀量輸入概雹率密度吃函數(shù)p(x)是什么茅樣的函乞數(shù)時(shí)，刪才能使Y呈高斯陶分布？設(shè)限定弟輸入平薦均功率PX，噪聲促平均功怎率PN=σ2，則輸出隨臂機(jī)變量Y的平均給功率PY也是受撓限的。根據(jù)最鈔大連續(xù)猴熵定理津，要使Hc(Y)達(dá)到最大拾，Y必須是直一個(gè)均值為0、方差為σ2Y=PY的高斯隨仰機(jī)變量。高斯加性牧信道中輸眼入X和噪聲N相互統(tǒng)計(jì)獄獨(dú)立，且Y=X+N。由概冤率論可隨知：若互輸入X是均值為0、方差蓄為σ2X=PX的高斯隨雖機(jī)變量，損即X的概率冤密度函漏數(shù)為p(x)，則可以繼證明，輸倉(cāng)出Y的概率霞密度函飛數(shù)就等艙于4.5鬧.5平均功率廟受限的加廈性信道的失信道容量4.5連續(xù)信道即當(dāng)輸入擦隨機(jī)變量X的概率虎密度是故均值為0、方差σ2X的高斯回隨機(jī)變病量；加性信滿道的噪念聲N是均值藍(lán)為0、方差憶為σ2的高斯鋒隨機(jī)變搭量時(shí)；輸出隨機(jī)慎變量Y也是一殖個(gè)高斯啊隨機(jī)變羨量，其仁均值為0、方差為σ2Y=σ2X+σ2=PY。4.5集.5平均功可率受限峰的加性托信道的孝信道容宜量4.5連續(xù)信道這時(shí)輸出紋端的連續(xù)井熵Hc(Y)達(dá)到最大幼值，即(PX/PN)稱(chēng)為信川道的信噪功杯率比。4.5.返5平均功率賺受限的加缺性信道的神信道容量4.5連續(xù)信道設(shè)信道的止頻帶限于(0,W)；根據(jù)采樣它定理，如磚果每秒傳拼送2W個(gè)采樣勞點(diǎn)，在謀接收端陷可無(wú)失險(xiǎn)真地恢掃復(fù)出原膊始信號(hào)堂；香農(nóng)公式：把信道檢的一次傳恒輸看成是役一次采樣先，由于信翼道每秒傳恨輸2W個(gè)樣點(diǎn)，遇所以單位謎時(shí)間的信粱道容量為(Ct：最大涂的信息稱(chēng)傳輸速春率/單位時(shí)間季內(nèi))4.5蓬.6結(jié)斬論4.5連續(xù)信道香農(nóng)公睛式推出坊的條件正：連續(xù)消息仗是平均功磚率受限的廟高斯隨機(jī)怪過(guò)程，平傳均功率為PX。被取樣政后的樣值舍同樣呈高應(yīng)斯分布，廟樣值之間褲彼此獨(dú)立堂；噪聲為加屑性WGN，平均間功率為PN；信號(hào)的彎有效帶巧寬為W。4.5.沙6結(jié)售論4.5連續(xù)信道香農(nóng)公跟式說(shuō)明券：當(dāng)信道容逮量一定時(shí)防，增大信灑道帶寬，野可以降低收對(duì)信噪功某率比的要問(wèn)求；反之槳，當(dāng)信道散頻帶較窄揉時(shí)，可以疼通過(guò)提高廟信噪功率秀比來(lái)補(bǔ)償。當(dāng)信道詠頻帶無(wú)活限時(shí)，睜其信道嘉容量與南信號(hào)功肅率成正移比。4.5地.6結(jié)論4.5連續(xù)信誰(shuí)道香農(nóng)公儲(chǔ)式的意筋義：信道容街量與所凝傳輸信究號(hào)的有卷效帶寬啊成正比譯，信號(hào)榮的有效邪帶寬越非寬，信杯道容量駱越大；信道容戚量與信涌道上的暗信號(hào)噪鞏聲比有略關(guān)，信策噪比越糾大，信始道容量筐也越大辯，但其圍制約規(guī)快律呈對(duì)敬數(shù)關(guān)系；信道容量C,有限帶窯寬W和信噪比勿可以相互久起補(bǔ)償作弟用，即可界以互換。拉應(yīng)用極為陽(yáng)廣泛的擴(kuò)選展頻譜通鴨信，多相灣位調(diào)制等元都是以此趙為理論基鏡礎(chǔ)。當(dāng)信道束上的信款噪比小天于1時(shí)（低掌于0db），信道壺的信道容膝量并不等格于0，這說(shuō)明掏此時(shí)信道乖仍具有傳敵輸消息的乞能力。也超就是說(shuō)信背噪比小于1時(shí)仍能進(jìn)燒行可靠的介通信，這眾對(duì)于衛(wèi)星紙通信、深空歲通信等代具有特問(wèn)別重要錢(qián)的意義猴。4.5怖.6結(jié)米論4.5連續(xù)信道香農(nóng)公式落的意義：是否可扶以用無(wú)蘇限制地著加大信芽號(hào)有效哥帶寬的厭方法來(lái)呆減小發(fā)包射功率滿，或在章任意低打的信噪恩比情況鴉下仍能款實(shí)現(xiàn)可瞞靠的通吹信呢？悲盡管從湯香農(nóng)公涌式不能刷直接看欺出，但蔽它隱含唇著否定余的回答；這說(shuō)明撈此時(shí)的向信道容味量C趨于有限冰值，取決陶于發(fā)射功饑率和信道質(zhì)白色高斯佛噪聲的功肌率譜密度疾之比。盡療管此時(shí)的C仍大于0，尚可進(jìn)千行通信，窩但由于信月道容量與錢(qián)發(fā)射功率繁成正比，描已與加大蘆信號(hào)有效在帶寬的初和衷相悖，快因此用無(wú)如限的帶寬獨(dú)換取信道宏容量是否淚合算，值錄得推敲，軍況且物理至上不可能梨提供無(wú)限曲帶寬進(jìn)行象通信。該結(jié)論實(shí)泉際上指出汗了信號(hào)有別效帶寬與遣發(fā)射功率倉(cāng)互換的有俱效性問(wèn)題統(tǒng)。信道容淺量是通信匠系統(tǒng)的最查大信息傳傲輸速率，虛通常是系茅統(tǒng)的設(shè)計(jì)研指標(biāo)，因作此C往往是業(yè)給定的擺。這時(shí)遷可以根職據(jù)信道雙特性來(lái)山權(quán)衡發(fā)武射功率師和信號(hào)惜有效帶菊寬的互幅換，使院系統(tǒng)的卵設(shè)計(jì)趨輕于最佳盞。4.5.蛙6結(jié)論4.5連續(xù)信道香農(nóng)公源式的意刺義：香農(nóng)公式蕉是在噪聲員為加性WGN情況下推誰(shuí)得的，由忠于白色高齡斯噪聲是攀危害最大史的信道干作擾，因此騙對(duì)那些不稿是白色高侄斯噪聲的蒜信道干擾貢而言，其互信道容量敞應(yīng)該大于茶按香農(nóng)公隱式計(jì)算的食結(jié)果。4.5礎(chǔ).6結(jié)廢論4.5連續(xù)信曠道信道編顧碼定理松：若有一離艦散無(wú)記憶吼平穩(wěn)信道己，其容量壺為C，輸入皮序列長(zhǎng)超度為L(zhǎng)，只要錘待傳送暫的信息看率R<C，總可砍以找到沃一種編匯碼，當(dāng)L足夠長(zhǎng)應(yīng)時(shí)，譯謹(jǐn)碼差錯(cuò)畫(huà)概率Pe<ε，ε為任意階大于零盤(pán)的正數(shù)啦。反之軍，當(dāng)R>C時(shí)，任蔥何編碼肉的Pe必大于狂零，當(dāng)L→∞，Pe→1。信道編胸碼定理兩說(shuō)明：同無(wú)失鑰真信源毛編碼定債理類(lèi)似藍(lán)，信道偏編碼定佩理也是倍一個(gè)理摔想編碼漁的存在啟性定理扶。它指止出信道旱容量是培一個(gè)臨宗界值，只要信息暗傳輸率不鋤超過(guò)這個(gè)攝臨界值，列信道就可觸幾乎無(wú)失喇真地把信園息傳送過(guò)恥去，否則低就會(huì)產(chǎn)生望失真。連續(xù)信詢(xún)道也有慎類(lèi)似結(jié)曬論。4.6信道編碼稠定理香農(nóng)第二進(jìn)定理指出門(mén)，若R<C，則存在序某種編碼蘋(píng)可以使傳峽輸錯(cuò)誤概伐率任意小修；反之，給若R>C，則可以瘋使傳輸錯(cuò)旅誤概率任碧意小的編刪碼不存在櫻。它從理林論上證效明平均廟錯(cuò)誤譯然碼概率Pe趨于零、信道信息黃傳輸速率R無(wú)限接境近于信來(lái)道容量C的抗干擾表信道編碼安是存在的法。但從實(shí)民用觀點(diǎn)義來(lái)看，向理論的起證明尚黨不能令宣人滿意掙。因?yàn)槌自谧C明棋的過(guò)程階中是完綱全“隨業(yè)機(jī)地”脈去選擇唱一個(gè)碼棍。這個(gè)閉碼是完灑全無(wú)規(guī)概律的，香因此，箭就無(wú)法悠具體構(gòu)序造這個(gè)辰碼，也快就無(wú)法消實(shí)現(xiàn)和引應(yīng)用。帆但人們土在理論罪指導(dǎo)下婚，賦予船碼以各港種形式弦的代數(shù)他結(jié)構(gòu)，擦出現(xiàn)了雞代數(shù)編踩碼、卷積碼等仍。平均誤禾碼率Pe：指接蒜收的錯(cuò)預(yù)誤符號(hào)涌數(shù)與接泥收的總竄符號(hào)數(shù)叨的比值薯，這里孝的錯(cuò)誤擾符號(hào)是俱指無(wú)論緣瑞用什么翠方法都激不能糾乳正的那脾些碼。清在工程貍上，Pe通常指降二進(jìn)制策信道的盛誤比特舒率，有失時(shí)也稱(chēng)鎮(zhèn)誤碼率孕