信息論與編碼（第3版）-教學大綱

《信息論與編碼（第3版）》教學大綱課程信息課程名稱：信息論與編碼（第3版）課程類別：素質選修課/專業(yè)基礎課課程性質：選修/必修計劃學時：64計劃學分：4先修課程：無選用教材：《信息論與編碼（第3版）》，傅祖蕓主編，2023年，電子工業(yè)出版社教材。適用專業(yè)：本課程可作為高等院校相關專業(yè)的本科生課程,也可供科研院所從事信息科學理論技術、方法研究的科研和工程技術人員參考。課程負責人：二、課程簡介該課程系統(tǒng)地論述信息論與糾錯編碼的基本理論。全書共9章，內(nèi)容包括:信息的定義和度量,離散信源和連續(xù)信源的信息熵,信道和信道容量,平均失真度和信息率失真函數(shù),三個香農(nóng)信息論的基本定理,若干種常見實用的無失真信源壓縮編碼的方法,以及信道糾錯編碼的基本內(nèi)容和分析方法。三、課程教學要求序號專業(yè)畢業(yè)要求課程教學要求關聯(lián)程度1工程知識內(nèi)容包括:信息的定義和度量,離散信源和連續(xù)信源的信息熵,信道和信道容量,平均失真度和信息率失真函數(shù),三個香農(nóng)信息論的基本定理,若干種常見實用的無失真信源壓縮編碼的方法,以及信道糾錯編碼的基本內(nèi)容和分析方法。L2問題分析當今人們生活在高度信息化的時代,移動通信、互聯(lián)網(wǎng)通信、多媒體技術、計算機技術.空間技術、可視技術、智能技術等信息科學與技術獲得了超出人們想象的、前所未有的發(fā)展速度。在這些信息科學與技術領域中,只要涉及信息的存儲傳輸和處理的問題就要用到香農(nóng)信息論的基本理論。H3設計/開發(fā)解決方案在論述方式上,在闡明物理概念和工程背景的基礎上,先結合實例建立數(shù)學模型,再給出結論和定理，力求條理清晰,物理概念必須準確和嚴謹完整。以使學生明白重要定理不是憑空產(chǎn)生的,是有理論依據(jù)的,定理與結論是完美的。H4研究L5使用現(xiàn)代工具L6工程與社會學生能夠意識到信息與編碼的重要性，不僅要有良好的思想道德素質、科學文化素質、專業(yè)技能和健康的身體，而且要有良好的心理素質，勇于承擔責任，能夠承受失敗與挫折等。L7環(huán)境和可持續(xù)發(fā)展L8職業(yè)規(guī)范L9個人和團隊1.學會個人發(fā)展和團隊合作，提高個人和團隊的綜合素質。2.學會與他人合作和溝通，建立良好的人際關系和團隊合作氛圍。H10溝通1.學會進行有效的溝通和表達，與客戶、同事和上級保持良好的溝通和協(xié)作。2.學會進行跨文化溝通和合作，提高國際化視野和跨文化交流能力。M11項目管理L12終身學習1.學會進行自我學習和自我提升，不斷提高自身的專業(yè)水平和創(chuàng)新能力。2.學會進行終身學習和職業(yè)發(fā)展規(guī)劃，不斷拓展職業(yè)領域和發(fā)展空間。H注：“課程教學要求”欄中內(nèi)容為針對該課程適用專業(yè)的專業(yè)畢業(yè)要求與相關教學要求的具體描述。“關聯(lián)程度”欄中字母表示二者關聯(lián)程度。關聯(lián)程度按高關聯(lián)、中關聯(lián)、低關聯(lián)三檔分別表示為“H”“M”或“L”?！罢n程教學要求”及“關聯(lián)程度”中的空白欄表示該課程與所對應的專業(yè)畢業(yè)要求條目不相關。四、課程教學內(nèi)容章節(jié)名稱主要內(nèi)容重難點關鍵詞學時類型1緒論信息的概念信息論研究的對象、目的和內(nèi)容信息論發(fā)展簡史與信息科學了解信息的概念；掌握信息論這一學科的研究對象、目的和內(nèi)容；掌握本學科的發(fā)展歷史、現(xiàn)狀和動向。4理論+實操2離散信源及其信息測度信源的數(shù)學模型及分類離散信源的信息熵信息熵的基本性質離散無記憶的擴展信源離散平穩(wěn)信源馬爾可夫信源信源冗余度與自然語言的熵了解信源的概念；掌握信源的統(tǒng)計特性和數(shù)學模型,以及各類離散信源的信息測度一熵及其性質。10理論+實操3離散信道及其信道容量信道的數(shù)學模型及分類平均互信息及平均條件互信息平均互信息的特性信道容量及其一般計算方法離散無記憶擴展信道及其信道容量獨立并聯(lián)信道及其信道容量串聯(lián)信道的互信息和數(shù)據(jù)處理定理信源與信道的匹配了解并掌握離散信道的統(tǒng)計特性和數(shù)學模型；掌握信道傳輸?shù)钠骄バ畔⒓捌湫再|；掌握信道容量及其計算方法。9理論+實操4波形信源和波形信道連續(xù)信源和波形信源的信息測度連續(xù)信源熵的性質及最大差熵定理熵功率連續(xù)信道和波形信道的信息傳輸率高斯加性波形信道的信道容量了解并掌握隨機波形信源的統(tǒng)計特性和它的信息測度,以及波形信道的信道容量等問題。6理論+實操5無失真信源編碼定理編碼器等長碼漸近等分割性和e典型序列等長信源編碼定理變長碼變長信源編碼定理了解并掌握離散信源進行無失真信源編碼的要求、方法及理論極限；掌握熵的物理意義。6理論+實操6有噪信道編碼定理錯誤概率和譯碼規(guī)則錯誤概率與編碼方法有噪信道編碼定理聯(lián)合信源信道編碼定理掌握在有噪信道中能使消息通過傳輸后發(fā)生的錯誤最少的方法；掌握在有噪信道中無錯誤傳輸?shù)目蛇_的最大信息傳輸率。3理論+實操7保真度準則下的信源編碼失真度和平均失真度信息率失真函數(shù)及其性質信息率失真函數(shù)的參量表述及其二元對稱信源和離散對稱信源的R(D)連續(xù)信源的信息率失真函數(shù)保真度準則下的信源編碼定理聯(lián)合有失真信源信道編碼定理限失真信源編碼定理的實用意義了解并掌握信息率失真理論的基本內(nèi)容；掌握離散無記憶信源；掌握信源的失真度和信息率失真函數(shù)的定義與性質；掌握離散信源和連續(xù)信源的信息率失真函數(shù)計算；掌握保真度準則下的信源編碼定理。6理論+實操8無失真的信源編碼霍夫曼(Huffman)碼費諾(Fano)碼香農(nóng)—費諾—埃利斯碼游程編碼和MH編碼算術編碼字典碼了解并掌握典型的霍夫曼編碼游程編碼及算術編碼的原理和方法。；掌握通用編碼(又稱字典碼)的原理和方法。9理論+實操9信道的糾錯編碼差錯控制的基本形式糾錯編碼分類及基本概念線性分組碼循環(huán)碼卷積碼了解信道糾錯編碼的基本內(nèi)容和一些主要糾錯碼；掌握信道糾錯編碼的一些最基本的概念和基本的方法。11理論+實操五、考核要求及成績評定序號成績類別考核方式考核要求權重（%）備注1期末成績期末考試考試50百分制，60分為及格2平時成績課后作業(yè)9次40優(yōu)、良、中、及格、不及格3平時表現(xiàn)出勤情況10兩次未參加課程則無法獲得學分注：此表中內(nèi)容為該課程的全部考核方式及其相關信息。六、學生學習建議學習方法建議1.通過開展課堂討論、實踐活動，增強的團隊交流能力，學會如何與他人合作、溝通、協(xié)調(diào)等等。2.通過思考，加深自己的興趣，鞏固知識點。3.進行練習和實踐，提高自己的技能和應用能力，加深對知識的理解和記憶。學生課外閱讀參考資料《信息論與編碼（第3版）》，傅祖蕓主編，2023年，電子工業(yè)出版社教材。七、課程改革與建設課程在論述方式上,在闡明物理概念和工程背景的基礎上,先結合實例建立數(shù)學模型,再給出結論和定理，力求條理清晰,物理概念必須準確和嚴謹完整。以使學生明白重要定理不是憑空