信息論與編碼理論

1、信息論與編碼理論課程名稱：信息論與編碼理論 英文譯名：Information and coding theory課程編碼：070102B10適用專業(yè)：信息與計(jì)算科學(xué)課程類別：專業(yè)必修學(xué)時(shí)數(shù)：80學(xué)時(shí) 學(xué)分：5編寫執(zhí)筆人：曾凱 審定人：高仕龍 編寫日期：2006年2月17日一、課程的性質(zhì)、目的和任務(wù)信息論與編碼理論是信息與計(jì)算科學(xué)本科專業(yè)的必修課程。本課程主要內(nèi)容包括信源的數(shù)學(xué)模型與分類、信源編碼定理、信道的數(shù)學(xué)模型與分類、信道編碼定理、線性碼、循環(huán)碼、BCH碼、Reed-Solomon碼等。通過教學(xué)，使學(xué)生掌握信息論與編碼理論的基本理論和基本原理，具有推理和處理問題的能力，為深入理解數(shù)學(xué)在信息

2、科學(xué)中的應(yīng)用及學(xué)習(xí)其他課程打下基礎(chǔ)。二、課程教學(xué)內(nèi)容及教學(xué)基本要求第一章 緒論（4學(xué)時(shí)）1、教學(xué)內(nèi)容信息論的發(fā)展概況，“信息”的概念的正確理解2、教學(xué)目的及要求 了解信息論的發(fā)展概況，正確掌握“信息”的概念。第二章 離散信源及其信息側(cè)度（14學(xué)時(shí)）1、教學(xué)內(nèi)容信源的數(shù)學(xué)模型及分類，信息熵級(jí)基本性質(zhì)，離散無記憶的擴(kuò)展信源，離散平穩(wěn)信源和馬爾可夫信源2、教學(xué)目的及要求 了解信源的數(shù)學(xué)模型，掌握信息熵的概念，理解解其性質(zhì)，理解離散無記憶的擴(kuò)展信源和二維平穩(wěn)信源及其信息熵，了解離散馬爾科夫信源。第三章 離散信道及其信道容量（14學(xué)時(shí)）1、教學(xué)內(nèi)容信道的數(shù)學(xué)模型及分類，平均互信息及平均條件互信息，平均互

3、信息的特性，信道容量及其一般計(jì)算方法，離散無記憶擴(kuò)展信道及其信道容量。2、教學(xué)目的及要求了解信道的數(shù)學(xué)模型，掌握平均互信息及平均條件互信息，了解其特性，掌握特殊信道的信道容量的計(jì)算，了解一般信道的計(jì)算方法。第四章 無失真信源編碼（14學(xué)時(shí)）1、教學(xué)內(nèi)容編碼器，等長碼，等長信源編碼定理，變長碼，變長信源編碼定理，霍夫曼編碼和其他編碼方法。2、教學(xué)目的及要求 了解編碼器，等長碼的概念，了解等長信源編碼定理，變長信源編碼定理，掌握霍夫曼碼，費(fèi)偌碼的編碼方法。第五章 有噪信道編碼（6學(xué)時(shí)）1、教學(xué)內(nèi)容錯(cuò)誤概率和譯碼規(guī)則，錯(cuò)誤概率與編碼方法，有噪信道編碼定理，糾錯(cuò)碼的基本思想和漢明碼。2、教學(xué)目的及要求

4、 理解錯(cuò)誤概率和譯碼規(guī)則，了解有噪信道編碼定理。掌握糾錯(cuò)碼的基本思想和漢明碼第六章 編碼理論的基本知識(shí)（6學(xué)時(shí)）1、教學(xué)內(nèi)容代數(shù)碼理論的基本特點(diǎn)，碼的糾錯(cuò)、檢錯(cuò)能力，編碼理論的基本問題。2、教學(xué)目的及要求 了解理解代數(shù)碼的基本特點(diǎn)，理解編碼理論的基本問題。掌握碼的糾檢錯(cuò)能力第七章 線性碼（8學(xué)時(shí)）1、教學(xué)內(nèi)容線性碼和漢明碼的定義、性質(zhì)，線性碼的對(duì)偶碼，它們的譯碼方法，線性碼的重量分布，極長碼。2、教學(xué)目的及要求理解線性碼的定義及其性質(zhì)，掌握其譯碼方法，理解線性碼的重量分布。第八章 循環(huán)碼（6學(xué)時(shí)）1、教學(xué)內(nèi)容循環(huán)碼的定義、性質(zhì)，循環(huán)碼的校驗(yàn)矩陣及其對(duì)偶碼，循環(huán)碼的編碼方法，檢錯(cuò)性能2、教學(xué)目的

5、及要求理解循環(huán)碼的定義、性質(zhì)，掌握循環(huán)碼的編碼方法。 第九章 BCH碼和Reed-Solomon碼（8學(xué)時(shí)）1、教學(xué)內(nèi)容 BCH碼和Reed-Solomon碼及基本性質(zhì)，BCH碼和Reed-Solomon碼的譯碼方法2、教學(xué)目的及要求 理解BCH碼和Reed-Solomon碼及其基本性質(zhì)，掌握它們的譯碼方法。三、課程教學(xué)環(huán)節(jié)本課程以課堂講授為主，為了培養(yǎng)學(xué)生整理歸納，綜合分析和解決問題的能力，每章都安排一部分內(nèi)容作為自學(xué)，習(xí)題課以典型例題分析及綜合性的練習(xí)為主。每一個(gè)教學(xué)單元都應(yīng)有一定數(shù)量的習(xí)題，閉卷考試。本課程總學(xué)時(shí)為80學(xué)時(shí)，講授與習(xí)題課數(shù)之比為5：1。四、課時(shí)分配及教學(xué)方式和手段序號(hào)課程內(nèi)容理論教學(xué)課內(nèi)實(shí)踐教學(xué)課時(shí)小計(jì)備注課時(shí)數(shù)教學(xué)方式手段課時(shí)數(shù)教學(xué)方式手段1第一章 緒論4課堂教授042第二章 離散信源及其信息測度14課堂教授0143第三章離散信道及其信道容量14課堂教授0144第四章無失真信源編碼14課堂教授0145第五章有噪信道編碼6課堂教授066第六編碼理論的基本知識(shí)6課堂教授067第七章 線性碼8課堂教授088第八章 循環(huán)碼6課堂教授69第九章BCH碼和Reed-Solomon碼8課堂教授8五、本課程與其他課程的聯(lián)系與分工：先修課程：概率與數(shù)理統(tǒng)計(jì)、近世代數(shù)六、建議教材及教學(xué)參考書：教材：信息論與編碼理論陳魯生、沈世鎰編，科