通信原理(第1章)

1、通信原理通信原理茅正沖茅正沖 135850018112 信息作為一種資源，只有通過廣泛地信息作為一種資源，只有通過廣泛地傳播與交流，才能產(chǎn)生利用價值、促進(jìn)社傳播與交流，才能產(chǎn)生利用價值、促進(jìn)社會成員之間的合作、推動社會生產(chǎn)力的發(fā)會成員之間的合作、推動社會生產(chǎn)力的發(fā)展、創(chuàng)造出巨大的經(jīng)濟(jì)效益。展、創(chuàng)造出巨大的經(jīng)濟(jì)效益。 本門課程主要討論信息的傳輸和交換本門課程主要討論信息的傳輸和交換的基本原理，即通信系統(tǒng)的基本原理，的基本原理，即通信系統(tǒng)的基本原理，基本性質(zhì)和基本的分析方法。基本性質(zhì)和基本的分析方法。 3緒論緒論確知信號、隨機(jī)信號、信道確知信號、隨機(jī)信號、信道模擬調(diào)制系統(tǒng)模擬調(diào)制系統(tǒng)模擬信號的數(shù)字

2、傳輸模擬信號的數(shù)字傳輸數(shù)字基帶傳輸系統(tǒng)數(shù)字基帶傳輸系統(tǒng)數(shù)字頻帶傳輸系統(tǒng)數(shù)字頻帶傳輸系統(tǒng)新型數(shù)字帶通傳輸技術(shù)新型數(shù)字帶通傳輸技術(shù)差錯控制編碼差錯控制編碼4第第1章章 緒論緒論通信的基本概念通信的基本概念 通信系統(tǒng)組成通信系統(tǒng)組成 通信系統(tǒng)的分類通信系統(tǒng)的分類 信息及其度量信息及其度量 主要性能指標(biāo)主要性能指標(biāo) 51.1 通信的基本概念通信的基本概念 v 通信的目的：傳遞通信的目的：傳遞消息消息中所包含的中所包含的信息信息。 消息消息：是物質(zhì)或精神狀態(tài)的一種反映，例如語音、文字、音樂、數(shù)據(jù)、圖：是物質(zhì)或精神狀態(tài)的一種反映，例如語音、文字、音樂、數(shù)據(jù)、圖片或活動圖像等。片或活動圖像等。 信息信息：是

3、消息中包含的有效內(nèi)容。：是消息中包含的有效內(nèi)容。 信號信號-信號是指隨時間變化的物理量。因為消息不適合于在信道中直接信號是指隨時間變化的物理量。因為消息不適合于在信道中直接傳輸，需將其調(diào)制成適合在信道中傳輸?shù)男盘?。信號可以分為連續(xù)時間信傳輸，需將其調(diào)制成適合在信道中傳輸?shù)男盘?。信號可以分為連續(xù)時間信號和離散時間信號號和離散時間信號 信息是指消息中所包含的有意義的內(nèi)容，消息信息是指消息中所包含的有意義的內(nèi)容，消息是信息的載體，消息又是以具體信號形式表現(xiàn)是信息的載體，消息又是以具體信號形式表現(xiàn)出來的。出來的。 實現(xiàn)通信的方式和手段：實現(xiàn)通信的方式和手段： 非電的：如旌旗、消息樹、烽火臺非電的：如旌

4、旗、消息樹、烽火臺 電的：如電報、電話、廣播、電視、遙控、遙測、因特網(wǎng)和計算機(jī)通電的：如電報、電話、廣播、電視、遙控、遙測、因特網(wǎng)和計算機(jī)通信等。信等。 因此，通信的根本目的在于因此，通信的根本目的在于傳輸含有信息的消息傳輸含有信息的消息。“通信通信”也就是也就是“信息傳輸信息傳輸”或或“消息傳輸消息傳輸”。61.1 通信的基本概念通信的基本概念 v通信發(fā)展史通信發(fā)展史1837年電報開始的年電報開始的通信初級階段通信初級階段1948年香農(nóng)提出信息論開始的年香農(nóng)提出信息論開始的近代通信階段近代通信階段80年代以后光纖通信應(yīng)用、綜合業(yè)務(wù)數(shù)字網(wǎng)崛起的年代以后光纖通信應(yīng)用、綜合業(yè)務(wù)數(shù)字網(wǎng)崛起的現(xiàn)代通信

5、階段現(xiàn)代通信階段71.1 通信的基本概念通信的基本概念 v通信初級階段通信初級階段v1837年，摩爾斯發(fā)明有線電報，開始了電通信階段年，摩爾斯發(fā)明有線電報，開始了電通信階段v1843年，亞歷山大年，亞歷山大本取得電傳打字電報的專利本取得電傳打字電報的專利v1864年，麥克斯韋創(chuàng)立了電磁輻射理論年，麥克斯韋創(chuàng)立了電磁輻射理論,并被當(dāng)時的赫茲證明，促使了后來無線通信的出現(xiàn)并被當(dāng)時的赫茲證明，促使了后來無線通信的出現(xiàn)v1876年，貝爾利用電磁感應(yīng)原理發(fā)明了電話年，貝爾利用電磁感應(yīng)原理發(fā)明了電話v1879年，第一個專用人工電話交換系統(tǒng)投入運行年，第一個專用人工電話交換系統(tǒng)投入運行v1880年，第一個付

6、費電話系統(tǒng)運營年，第一個付費電話系統(tǒng)運營v1892年，加拿大政府開始規(guī)定電話速率年，加拿大政府開始規(guī)定電話速率v1896年，馬可尼發(fā)明無線電報年，馬可尼發(fā)明無線電報v1907年，電子管問世，通信進(jìn)入電子信息時代年，電子管問世，通信進(jìn)入電子信息時代v1915年，橫貫大陸電話開通年，橫貫大陸電話開通; 實現(xiàn)越洋語音連接實現(xiàn)越洋語音連接v1918年，調(diào)幅無線電廣播、超外差式接收機(jī)問世年，調(diào)幅無線電廣播、超外差式接收機(jī)問世v1925年，開通三路明線載波電話，開始多路通信年，開通三路明線載波電話，開始多路通信v1936年，調(diào)頻無線電廣播開播年，調(diào)頻無線電廣播開播v1937年，雷沃斯發(fā)明脈沖編碼調(diào)制，奠定

7、了數(shù)字通信基礎(chǔ)年，雷沃斯發(fā)明脈沖編碼調(diào)制，奠定了數(shù)字通信基礎(chǔ)v1938年，電視廣播開播年，電視廣播開播v20世紀(jì)世紀(jì)40年代二戰(zhàn)期間，雷達(dá)與微波通信得到發(fā)展年代二戰(zhàn)期間，雷達(dá)與微波通信得到發(fā)展v1946年，第一臺數(shù)字電子計算機(jī)問世年，第一臺數(shù)字電子計算機(jī)問世v1947年，晶體管在貝爾實驗室問世，為通信器件的進(jìn)步創(chuàng)造了條件年，晶體管在貝爾實驗室問世，為通信器件的進(jìn)步創(chuàng)造了條件81.1 通信的基本概念通信的基本概念 v近代通信階段近代通信階段v 1948年，香農(nóng)提出了信息論，建立了通信統(tǒng)計理論年，香農(nóng)提出了信息論，建立了通信統(tǒng)計理論v 1950年，時分多路通信應(yīng)用于電話系統(tǒng)年，時分多路通信應(yīng)用于電

8、話系統(tǒng)v 1951年，直撥長途電話開通年，直撥長途電話開通v 1956年，敷設(shè)越洋通信電纜年，敷設(shè)越洋通信電纜v 1957年，發(fā)射第一顆人造地球衛(wèi)星年，發(fā)射第一顆人造地球衛(wèi)星v 1958年，發(fā)射第一顆通信衛(wèi)星年，發(fā)射第一顆通信衛(wèi)星v 1962年，發(fā)射第一顆同步通信衛(wèi)星，開通國際衛(wèi)星電話；脈沖編碼調(diào)制進(jìn)年，發(fā)射第一顆同步通信衛(wèi)星，開通國際衛(wèi)星電話；脈沖編碼調(diào)制進(jìn)入實用階段入實用階段v 20世紀(jì)世紀(jì)60年代，彩色電視問世；阿波羅宇宙飛船登月；數(shù)字傳輸理論與技年代，彩色電視問世；阿波羅宇宙飛船登月；數(shù)字傳輸理論與技術(shù)得到迅速發(fā)展；計算機(jī)網(wǎng)絡(luò)開始出現(xiàn)術(shù)得到迅速發(fā)展；計算機(jī)網(wǎng)絡(luò)開始出現(xiàn)v 1969年，電

9、視電話業(yè)務(wù)開通年，電視電話業(yè)務(wù)開通v 20世紀(jì)世紀(jì)70年代，商用衛(wèi)星通信、程控數(shù)字交換機(jī)、光纖通信系統(tǒng)投入使用；年代，商用衛(wèi)星通信、程控數(shù)字交換機(jī)、光纖通信系統(tǒng)投入使用；一些公司制定計算機(jī)網(wǎng)絡(luò)體系結(jié)構(gòu)一些公司制定計算機(jī)網(wǎng)絡(luò)體系結(jié)構(gòu)91.1 通信的基本概念通信的基本概念 現(xiàn)代通信階段現(xiàn)代通信階段-通信革命通信革命 v 20世紀(jì)世紀(jì)80年代，開通數(shù)字網(wǎng)絡(luò)的公用業(yè)務(wù)；個人計算機(jī)和計算機(jī)局域網(wǎng)出現(xiàn)；網(wǎng)年代，開通數(shù)字網(wǎng)絡(luò)的公用業(yè)務(wù)；個人計算機(jī)和計算機(jī)局域網(wǎng)出現(xiàn)；網(wǎng)絡(luò)體系結(jié)構(gòu)國際標(biāo)準(zhǔn)陸續(xù)制定絡(luò)體系結(jié)構(gòu)國際標(biāo)準(zhǔn)陸續(xù)制定v 20世紀(jì)世紀(jì)90年代，蜂窩電話系統(tǒng)開通，各種無線通信和數(shù)據(jù)移動通信技術(shù)不斷涌現(xiàn)；年代，

10、蜂窩電話系統(tǒng)開通，各種無線通信和數(shù)據(jù)移動通信技術(shù)不斷涌現(xiàn)；光纖通信得到迅速普遍的應(yīng)用；國際互聯(lián)網(wǎng)和多媒體通信技術(shù)得到極大發(fā)展，光纖通信得到迅速普遍的應(yīng)用；國際互聯(lián)網(wǎng)和多媒體通信技術(shù)得到極大發(fā)展，v 1997年，年，68個國家簽定國際協(xié)定，互相開放電信市場個國家簽定國際協(xié)定，互相開放電信市場數(shù)據(jù)通信數(shù)據(jù)通信計算機(jī)科學(xué)技術(shù)與通信技術(shù)相結(jié)合的產(chǎn)物計算機(jī)科學(xué)技術(shù)與通信技術(shù)相結(jié)合的產(chǎn)物計算機(jī)以及各種數(shù)據(jù)設(shè)備之間經(jīng)由數(shù)據(jù)通路（專線或通信網(wǎng)絡(luò)）所進(jìn)行的數(shù)據(jù)交換計算機(jī)以及各種數(shù)據(jù)設(shè)備之間經(jīng)由數(shù)據(jù)通路（專線或通信網(wǎng)絡(luò)）所進(jìn)行的數(shù)據(jù)交換計算機(jī)通信計算機(jī)通信指兩臺或多臺指兩臺或多臺“自治自治”的計算機(jī)之間的數(shù)據(jù)交換

11、的計算機(jī)之間的數(shù)據(jù)交換不能不能“自治自治”的各種數(shù)據(jù)設(shè)備之間的數(shù)據(jù)交換屬于數(shù)據(jù)通信，但不是計算機(jī)通信的各種數(shù)據(jù)設(shè)備之間的數(shù)據(jù)交換屬于數(shù)據(jù)通信，但不是計算機(jī)通信數(shù)據(jù)數(shù)據(jù)/計算機(jī)通信的革命計算機(jī)通信的革命始于始于20世紀(jì)世紀(jì)70/80年代年代90年代年代Internet普及與多媒體通信技術(shù)發(fā)展加速了變革普及與多媒體通信技術(shù)發(fā)展加速了變革數(shù)據(jù)通信與計算機(jī)通信逐漸融合數(shù)據(jù)通信與計算機(jī)通信逐漸融合通信產(chǎn)業(yè)與計算機(jī)產(chǎn)業(yè)日趨重合通信產(chǎn)業(yè)與計算機(jī)產(chǎn)業(yè)日趨重合10 1.2 通信系統(tǒng)組成通信系統(tǒng)組成 1.2.1 通信系統(tǒng)的一般模型通信系統(tǒng)的一般模型圖 1-1 通信系統(tǒng)的一般模型 11 1.2 通信系統(tǒng)組成通信系統(tǒng)

12、組成 1.2.2 模擬通信系統(tǒng)模型和數(shù)字通信系統(tǒng)模型模擬通信系統(tǒng)模型和數(shù)字通信系統(tǒng)模型模擬信號：代表消息的信號參量取值連續(xù)模擬信號：代表消息的信號參量取值連續(xù) 例如麥克風(fēng)輸出電壓例如麥克風(fēng)輸出電壓圖 1-2 模擬信號波形 模擬信號和數(shù)字信號模擬信號和數(shù)字信號12 1.2 通信系統(tǒng)組成通信系統(tǒng)組成 數(shù)字信號：代表消息的信號參量取值為有限個數(shù)字信號：代表消息的信號參量取值為有限個 例如電報信號、計算機(jī)輸入輸出信號例如電報信號、計算機(jī)輸入輸出信號(a) 二進(jìn)制信號(b) 2PSK信號圖 1-3 數(shù)字信號波形 通常，按照信道中傳輸?shù)氖悄M信號還是數(shù)字通常，按照信道中傳輸?shù)氖悄M信號還是數(shù)字信號，相應(yīng)地

13、把通信系統(tǒng)分為模擬通信系統(tǒng)和數(shù)字信號，相應(yīng)地把通信系統(tǒng)分為模擬通信系統(tǒng)和數(shù)字通信系統(tǒng)。通信系統(tǒng)。13 1.2 通信系統(tǒng)組成通信系統(tǒng)組成 模擬通信系統(tǒng)模型模擬通信系統(tǒng)模型經(jīng)過調(diào)制后的信號成為已調(diào)信號經(jīng)過調(diào)制后的信號成為已調(diào)信號;發(fā)送端調(diào)制前和接收端解調(diào)后發(fā)送端調(diào)制前和接收端解調(diào)后的信號稱為基帶信號。因此，原始電信號又稱為的信號稱為基帶信號。因此，原始電信號又稱為基帶信號基帶信號，而，而已調(diào)信號又稱為已調(diào)信號又稱為頻帶信號頻帶信號。通常具有很高的中心頻率，直接可以在信通常具有很高的中心頻率，直接可以在信道中傳輸。基本特征：道中傳輸?；咎卣鳎?、攜帶有信息；、攜帶有信息；2、適合在信道中傳輸；、適

14、合在信道中傳輸；3、信號的頻譜具有帶通形式，且中心頻率、信號的頻譜具有帶通形式，且中心頻率遠(yuǎn)離零頻。如語音信號遠(yuǎn)離零頻。如語音信號300 3400Hz帶通信號帶通信號通常具有頻率很通常具有頻率很低的頻譜分量，低的頻譜分量，一般不宜直接傳一般不宜直接傳輸。如語音信號輸。如語音信號300 3400Hz基帶信號基帶信號模擬信息源調(diào)制器信道解調(diào)器受信者圖 1-4 模擬通信系統(tǒng)模型 14 1.2 通信系統(tǒng)組成通信系統(tǒng)組成 數(shù)字通信系統(tǒng)模型數(shù)字通信系統(tǒng)模型圖 1-5 數(shù)字通信系統(tǒng)模型 在某些有線信道中，特別是傳輸距離不太遠(yuǎn)的情況下，可以不經(jīng)過在某些有線信道中，特別是傳輸距離不太遠(yuǎn)的情況下，可以不經(jīng)過調(diào)制和

15、解調(diào)過程而讓數(shù)字基帶信號直接進(jìn)行傳輸，我們稱之為數(shù)字調(diào)制和解調(diào)過程而讓數(shù)字基帶信號直接進(jìn)行傳輸，我們稱之為數(shù)字信號的信號的基帶傳輸基帶傳輸。與此相應(yīng)，另外一些信道，比如在無線信道和光。與此相應(yīng)，另外一些信道，比如在無線信道和光信道中，數(shù)字基帶信號則必須經(jīng)過調(diào)制，將信號頻譜搬移到高頻處信道中，數(shù)字基帶信號則必須經(jīng)過調(diào)制，將信號頻譜搬移到高頻處才能在信道中傳輸，我們把這種傳輸稱為數(shù)字信號的才能在信道中傳輸，我們把這種傳輸稱為數(shù)字信號的頻帶傳輸頻帶傳輸。15 1.2 通信系統(tǒng)組成通信系統(tǒng)組成 抗干擾能力強(qiáng)，抗干擾能力強(qiáng)，且可消除噪聲積累且可消除噪聲積累 差錯可控差錯可控 易于與各種數(shù)字終端接口，易于

16、與各種數(shù)字終端接口，用現(xiàn)代計算技術(shù)對信號進(jìn)行處理用現(xiàn)代計算技術(shù)對信號進(jìn)行處理 易于集成化易于集成化 數(shù)字通信的許數(shù)字通信的許多優(yōu)點都是用多優(yōu)點都是用比模擬通信占比模擬通信占據(jù)更寬的系統(tǒng)據(jù)更寬的系統(tǒng)頻帶為代價而頻帶為代價而換取的。換取的。易于加密處理易于加密處理 1.2.3數(shù)字通信的特點數(shù)字通信的特點16 1.3 通信系統(tǒng)的分類與通信方式通信系統(tǒng)的分類與通信方式 分類分類按信號特征分類按信號特征分類 按信號復(fù)用方式分類按信號復(fù)用方式分類 1.3.1 通信系統(tǒng)的分類通信系統(tǒng)的分類按調(diào)制方式分類按調(diào)制方式分類 按通信業(yè)務(wù)分類按通信業(yè)務(wù)分類 按工作波段分類按工作波段分類 按傳輸媒介分類按傳輸媒介分類

17、17 1.3 通信系統(tǒng)的分類與通信方式通信系統(tǒng)的分類與通信方式 1.3.2 通信方式通信方式 按消息傳遞的方向與時間關(guān)系分按消息傳遞的方向與時間關(guān)系分 單工通信單工通信半雙工通信半雙工通信 全雙工通信全雙工通信 18 1.3 通信系統(tǒng)的分類與通信方式通信系統(tǒng)的分類與通信方式 按碼元排列順序分按碼元排列順序分 并行傳輸并行傳輸 串行傳輸串行傳輸 將代表信息將代表信息的數(shù)字信號碼元的數(shù)字信號碼元序列以成組的方序列以成組的方式在兩條或兩條式在兩條或兩條以上的并行信道以上的并行信道上同時傳輸。上同時傳輸。 將數(shù)字信號將數(shù)字信號碼元序列以串行碼元序列以串行方式一個碼元接方式一個碼元接一個碼元地在一一個碼

18、元地在一條信道上傳輸。條信道上傳輸。1.3.2 通信方式通信方式19 1.4 信息及其度量信息及其度量 一、離散消息的信息量一、離散消息的信息量信息信息 是消息中包含的有效內(nèi)容是消息中包含的有效內(nèi)容如何度量呢？如何度量呢？消息所表達(dá)的事件越不可能發(fā)生，信息量就越大。消息所表達(dá)的事件越不可能發(fā)生，信息量就越大。度量信息量的原則度量信息量的原則 能度量任何消息，并與消息的種類無關(guān)。能度量任何消息，并與消息的種類無關(guān)。 度量方法應(yīng)該與消息的重要程度無關(guān)。度量方法應(yīng)該與消息的重要程度無關(guān)。 消息中所含信息量和消息內(nèi)容的不確定性有關(guān)。消息中所含信息量和消息內(nèi)容的不確定性有關(guān)。舉例：兩則消息舉例：兩則消息

19、 大陸和臺灣統(tǒng)一；大陸和臺灣統(tǒng)一； 今天下雨。今天下雨。其中，其中， 比比 包含有更多的信息。包含有更多的信息。20 1.4 信息及其度量信息及其度量 度量信息量的方法：度量信息量的方法： 事件的不確定程度可以用其出現(xiàn)的概率來描述：消息出現(xiàn)的事件的不確定程度可以用其出現(xiàn)的概率來描述：消息出現(xiàn)的概率越小，則消息中包含的信息量就越大。概率越小，則消息中包含的信息量就越大。設(shè)：設(shè)：P(x) 消息發(fā)生的概率，消息發(fā)生的概率， I 消息中所含的信息量。消息中所含的信息量。則則 P(x) 和和 I 之間應(yīng)該有如下關(guān)系：之間應(yīng)該有如下關(guān)系： I 是是 P(x) 的函數(shù)：的函數(shù)： I I P(x) P(x)

20、，I ； P(x) ，I P(x) = 1時，時，I 0； P(x) 0，I IP(x1)P(x2) = IP(x1)+IP(x2) 滿足上述滿足上述4條件的關(guān)系式如下：條件的關(guān)系式如下：)(log)(1logxPxPIaa信息量的定義信息量的定義21 1.4 信息及其度量信息及其度量 )(log)(1logxPxPIaa式中：式中：P(x)為該消息發(fā)生的概率。為該消息發(fā)生的概率。 當(dāng)對數(shù)底當(dāng)對數(shù)底 a = 2 時，信息量的單位為比特（時，信息量的單位為比特（bit） a = e 時，信息量的單位為奈特（時，信息量的單位為奈特（nit） a = 10時，信息量的單位為哈特萊時，信息量的單位為哈

21、特萊 通常廣泛使用的單位為比特，這時有通常廣泛使用的單位為比特，這時有221loglog( )( )IP xP x ( bit )22 1.4 信息及其度量信息及其度量 例例 1.4-1 已知二進(jìn)制離散信源（已知二進(jìn)制離散信源（0，1），若），若“0”出現(xiàn)的概率為出現(xiàn)的概率為1/3，求出現(xiàn)，求出現(xiàn)“1”的信息量。的信息量。 解：解：由于全概率為由于全概率為1，即，即 P(0) + P(1) = 1 則出現(xiàn)則出現(xiàn)“1”的概率的概率P(1) = 2/3 故出現(xiàn)故出現(xiàn)“1”的信息量為的信息量為 2213loglog0.585(1)2IP bit 例例 1.4-2 已知二進(jìn)制離散信息源（已知二進(jìn)制離散

22、信息源（0，1），每一符號波形等概率），每一符號波形等概率獨立發(fā)送，求傳送二進(jìn)制波形之一的信息量。獨立發(fā)送，求傳送二進(jìn)制波形之一的信息量。 解：解：由于每一波形出現(xiàn)的概率為由于每一波形出現(xiàn)的概率為 P(x) = 1/2， 故其信息量為故其信息量為221loglog 21( )IP xbit23 1.4 信息及其度量信息及其度量 2log 2(b)kIk例例 1.4-3 已知四進(jìn)制離散信源（已知四進(jìn)制離散信源（0，1，2，3），獨立等概率發(fā)），獨立等概率發(fā)送，求傳送每一波形的信息量。送，求傳送每一波形的信息量。 解：解：由于每一波形出現(xiàn)的概率為由于每一波形出現(xiàn)的概率為 P(x) = 1/4， 故

23、其信息量為故其信息量為221loglog 42( )IP xbit結(jié)論：結(jié)論： 若有若有M個等概率波形（個等概率波形（P = 1/M），且每一個波形的出），且每一個波形的出現(xiàn)是獨立的，則傳送現(xiàn)是獨立的，則傳送 M 進(jìn)制波形之一的信息量為進(jìn)制波形之一的信息量為 若若M是是2的整冪次，即的整冪次，即 M = 2k，則有，則有)b(log/11log1log222MMPI24 1.4 信息及其度量信息及其度量 非等概率情況非等概率情況 設(shè)一個離散信源是由設(shè)一個離散信源是由 M 個符號組成的集合，其中每個符個符號組成的集合，其中每個符號號 xi ( i = 1, 2, 3, , M ) 按一定的概率按

24、一定的概率P( xi ) 獨立出現(xiàn)，即獨立出現(xiàn)，即 1212,MMxxxP xP xP x1( )1MiiP x且有且有則整個消息的信息量則整個消息的信息量 式中：式中：ni 為第為第 i 個符號出現(xiàn)的次數(shù)個符號出現(xiàn)的次數(shù) P(xi)為第個符號出現(xiàn)的概率為第個符號出現(xiàn)的概率 n 為離散消息源的符號數(shù)目為離散消息源的符號數(shù)目 n=n1+n2+nm25 1.4 信息及其度量信息及其度量 例例 1.4-4 一離散信源由一離散信源由 0，1，2，3 四個符號組成，它們出現(xiàn)的概四個符號組成，它們出現(xiàn)的概率分別為率分別為3/8，1/4，1/4，1/8，且每個符號的出現(xiàn)都是獨立的。試，且每個符號的出現(xiàn)都是獨

25、立的。試求某消息求某消息201020130213001203210100321010023102002010312032100120210的信息量。的信息量。解：解：在此消息中，在此消息中，0出現(xiàn)出現(xiàn)23次，次，1出現(xiàn)出現(xiàn)14 次，次，2出現(xiàn)出現(xiàn)13次，次，3出現(xiàn)出現(xiàn)7次，共有次，共有57個符號，故該消息的信息量個符號，故該消息的信息量 4212222log( )311123log14log13log7log844833 28+26+21=108bitiiiInP x26 1.4 信息及其度量信息及其度量 二、離散信源的平均信息量二、離散信源的平均信息量 H 所謂平均信息量是指信源中每個符號所

26、含信息量的統(tǒng)計平所謂平均信息量是指信源中每個符號所含信息量的統(tǒng)計平均值。統(tǒng)計獨立的個符號的離散信息源的平均信息量為均值。統(tǒng)計獨立的個符號的離散信息源的平均信息量為 21logniiiH xP xP x （bit/符號）符號） 由于由于H(x)同熱力學(xué)中的熵形式相似，故稱它為信息源的同熱力學(xué)中的熵形式相似，故稱它為信息源的熵熵。信源中每個符號等概率獨立出現(xiàn)信源中每個符號等概率獨立出現(xiàn) ，則得最大信息熵，則得最大信息熵22111loglogniHnnn （bit/符號）符號）27 1.4 信息及其度量信息及其度量 例例 1.4-5 利用統(tǒng)計平均值的方法（熵的概念），重現(xiàn)計算利用統(tǒng)計平均值的方法（熵

27、的概念），重現(xiàn)計算 例例 1.4-4。 解：信息熵為解：信息熵為 222233111111Hloglogloglog884444881.906 (bit/符號符號) 則該消息所含信息量為則該消息所含信息量為 I = 57 1.906 = 108.64 ( bit )28 1.4 信息及其度量信息及其度量 三、連續(xù)信源的信息量三、連續(xù)信源的信息量 關(guān)于連續(xù)消息的信息量可以用概率密度函數(shù)來描述。關(guān)于連續(xù)消息的信息量可以用概率密度函數(shù)來描述?？梢宰C明，連續(xù)消息的平均信息量為可以證明，連續(xù)消息的平均信息量為 ( )logaH xf xf x dx 式中，式中，f (x) 連續(xù)消息出現(xiàn)的概率密度。連續(xù)消息出現(xiàn)的概率密度。29有效性有效性給定信道內(nèi)所給定信道內(nèi)所傳輸?shù)男畔?nèi)傳輸?shù)男畔?nèi)容的多少，即容的多少，即傳輸?shù)膫鬏數(shù)摹八俣人俣取眴栴}。問題?？煽啃钥煽啃越邮招畔⒌臏?zhǔn)接收信息的準(zhǔn)確程度，即傳確程度，即傳輸?shù)妮數(shù)摹百|(zhì)量質(zhì)量”問題。問題。 主要性能指標(biāo)主要性能指標(biāo) 1.5 通信系統(tǒng)主要性能指標(biāo)通信系統(tǒng)主要性能指標(biāo) 30 有效性有效性可靠性可靠性 1.5 通信系統(tǒng)主要性能指標(biāo)通信系統(tǒng)主要性能指標(biāo) 一、模擬通信系統(tǒng)的性能指標(biāo)一、模擬通信系統(tǒng)的性能指標(biāo)信噪比信噪比 = 信號平均功率信號平均功率 / 噪聲平均