信息論與編碼-序言

1、信息論與編碼主講：李永全1 隨著科學(xué)技術(shù)的不斷發(fā)展，信息的概念逐漸深化，其應(yīng)用領(lǐng)域也不斷擴(kuò)展，并與現(xiàn)代通信、計(jì)算機(jī)科學(xué)、現(xiàn)代管理、系統(tǒng)工程等學(xué)科緊密結(jié)合，廣泛地應(yīng)用于我們的日常生活中。本課程旨在通過對(duì)通信系統(tǒng)中信息理論的介紹，使大家更深入地了解信息的概念和本質(zhì)，并掌握一些基本的信息理論知識(shí)和常用的編解碼的方法。課程性質(zhì)2課程內(nèi)容 本課程包括信息論基礎(chǔ)和編碼兩大部分。首先立足于概率論和隨機(jī)過程的知識(shí)，通過各種隨機(jī)變量的概率空間，給出了信息的統(tǒng)計(jì)模型，介紹了信息的統(tǒng)計(jì)度量。以香農(nóng)信息論為基礎(chǔ)，香農(nóng)三大定理及香農(nóng)公式為重點(diǎn)，從“單符號(hào)離散系統(tǒng)多符號(hào)離散系統(tǒng)”介紹了離散信源和信道的信息理論，然后，推廣

2、到連續(xù)系統(tǒng)。重點(diǎn)講授信息的概念，信息的度量和計(jì)算等一些基本問題。還學(xué)習(xí)了幾種常用的信源編碼方法和糾錯(cuò)編碼方法。3課程位置 信息論與編碼是無線電技術(shù)，通信、信號(hào)與信息處理等專業(yè)的基礎(chǔ)課。本課程的目的是使學(xué)生掌握信息傳輸、存貯、處理與識(shí)別系統(tǒng)中關(guān)于信息的概念、度量、編碼理論與方法, 為有效而可靠的設(shè)計(jì)信息系統(tǒng)打下理論基礎(chǔ)。同時(shí)，本課程也是學(xué)生進(jìn)一步學(xué)習(xí)通信理論、信號(hào)檢測(cè)與估值，糾錯(cuò)編碼、語音信號(hào)處理、數(shù)字圖像處理、模式識(shí)別、人工智能及計(jì)算機(jī)通信網(wǎng)等專業(yè)課程的必要的必修課。4課程要求 通過本課程的學(xué)習(xí)，力求學(xué)生掌握信源、信道、編碼器的基本數(shù)學(xué)模型；掌握熵、信息量、信道容量等的概念和基本計(jì)算方法；掌握

3、編碼的原理和統(tǒng)計(jì)編碼的方法；了解信源和信道編碼定理的內(nèi)容和意義；了解率失真函數(shù)的定義，性質(zhì)及計(jì)算，保真度準(zhǔn)則下的信源編碼的定理。5教材及參考書教材： 陳運(yùn)、周亮等，信息論與編碼，電子工業(yè)出版社參考書：1. 傅祖蕓，信息論基礎(chǔ)理論與應(yīng)用，電子工業(yè)出版社2. 方軍、俞槐栓，信息論與編碼，電子工業(yè)出版社3. 吳伯修、祝宗泰、錢霖君，信息論與編碼，東南大學(xué)出版社4. 姜丹，信息論與編碼，中國(guó)科學(xué)技術(shù)大學(xué)出版社 6教學(xué)計(jì)劃學(xué)分：2.5（3）總學(xué)時(shí)：40（48）7答疑安排每周星期三晚7：00地點(diǎn)：主教學(xué)樓1204（辦）8幾點(diǎn)建議1、本課程只有理論介紹，顯得枯燥、繁雜，不易理解，且“概率與數(shù)理統(tǒng)計(jì)”知識(shí)要求較高，學(xué)起來有一定難度。但只要理順課程思路，盡快進(jìn)入角色，并加以舉一反三的理解，相信大家能學(xué)好該課程，切忌望而生畏。2、由于本課程是后續(xù)專業(yè)課程的先修課，學(xué)時(shí)安排較為集中，因此學(xué)習(xí)的過程中盡量做到當(dāng)堂課的內(nèi)容當(dāng)堂掌握，最好不要有問題積壓。3、本課