信息與編碼理論 第2版 課件 1.1 信息的基本概念

第1章

緒論目錄1.1信息的基本概念1.2信息論的研究對象、目的和內(nèi)容1.3信息論的形成和發(fā)展1.4信源編碼問題1.5信道編碼問題1.1信息的基本概念組成客觀世界的三大基本要素：物質(zhì)能量信息沒有物質(zhì)什么都不存在，沒有能量什么都不會發(fā)生，沒有信息什么都沒有意義。

——美國學(xué)者歐廷格1.概述2.區(qū)別消息、信息、信號三個概念

信息的通俗概念：消息就是信息。用文字、符號、數(shù)據(jù)、語言、音符、圖片、圖像等能夠被人們感覺器官所感知的形式，把客觀物質(zhì)運動和主觀思維活動的狀態(tài)表達出來，就稱為消息。消息中包含信息，消息是信息的載體。2.信息的通俗概念（續(xù)1）信號是表示消息的物理量，包括電信號、光信號等。信號中攜帶著消息，信號是消息的載體。信息信號消息3.信息的狹義概念（香農(nóng)信息）香農(nóng)信息：信息是對事物運動狀態(tài)或存在方式的不確定性的描述。通信的基本問題是在一點(信宿）精確或近似恢復(fù)另一點（信源）所選擇的消息?！?/p>

香農(nóng)通信的過程就是消除不確定性的過程。3.信息的狹義概念（香農(nóng)信息）（續(xù)1）例1：甲袋紅、白球各50個，乙袋紅、白、藍(lán)、黑球各25個。比較從甲袋中取出一個球是紅球的事件和從乙袋中取出一個球是紅球的事件發(fā)生的難易程度，也就是事件發(fā)生的不確定性。3.信息的狹義概念（香農(nóng)信息）（續(xù)2）例2：焦作地區(qū)十月份可能出現(xiàn)的天氣包括：晴、陰、雨、雪。比較天氣預(yù)報為“晴”和天氣預(yù)報為“雪”，這兩個結(jié)果出現(xiàn)的不確定性。結(jié)論：不確定性的大小與事件發(fā)生的概率有關(guān)。3.信息的狹義概念（香農(nóng)信息）（續(xù)3）不確定性的大小與事件發(fā)生的概率有關(guān)因此，信息量可以表示為概率的函數(shù)。不確定性是概率的函數(shù)3.信息的狹義概念（香農(nóng)信息）（續(xù)4）信息與概率的關(guān)系：事件發(fā)生的概率越大，該事件包含的信息量越?。蝗绻粋€事件發(fā)生的概率為1，那么它包含的信息量為0；兩個相互獨立事件所提供的信息量應(yīng)等于它們各自提供的信息量之和。3.信息的狹義概念（香農(nóng)信息）（續(xù)6）香農(nóng)信息的優(yōu)點：有明確的數(shù)學(xué)表達式，定量化與人們直觀理解的信息含義一致不考慮收信者主觀感受的不同，認(rèn)為同一消息對任何收信者，所得信息量相同。3.信息的狹義概念（香農(nóng)信息）（續(xù)7）香農(nóng)信息的局限：沒有考慮收信者的主觀特性和主觀意義4.信息的廣義