實(shí)驗(yàn)一離散信源及其信息測(cè)度

1、預(yù)備知識(shí)一、矩陣處理1）在MATLAB中矩陣的創(chuàng)建應(yīng)遵循以下基本常規(guī)：矩陣元素應(yīng)用方括號(hào)（）括住；每行內(nèi)的元素間用逗號(hào)（,）或空格隔開(kāi)；行與行之間用分號(hào)（;）或回車(chē)鍵隔開(kāi)；元素可以是數(shù)值或表達(dá)式。2）矩陣賦值若A=1 2 3; 4 5 6; 7 8 9;10 11 12若A=1 2 3; 4 5 6; 7 8 9;10 11 12，選出前3行構(gòu)成矩陣B，B=A(1：3，:)選出前2列構(gòu)成矩陣C，C=A(:，1:2)3）矩陣刪除在MATLAB中可以對(duì)數(shù)組中的單個(gè)元素、子矩陣和所有元素進(jìn)行刪除操作，刪除就是將其賦值為空矩陣（用表示）。若將A的2,3行去除，則A(2,3,:)=4）矩陣變換A'

2、;%矩陣A的轉(zhuǎn)置A(:) %矩陣A按列展開(kāi)形成一維數(shù)組5）矩陣運(yùn)算點(diǎn)運(yùn)算兩個(gè)矩陣之間的點(diǎn)運(yùn)算是按照數(shù)組運(yùn)算規(guī)則計(jì)算，矩陣的對(duì)應(yīng)元素直接運(yùn)算。要求參加運(yùn)算的矩陣大小必須相同。有“.*”、“./”和“.”三種運(yùn)算符。乘法運(yùn)算兩個(gè)矩陣的維數(shù)相容時(shí)（A的列數(shù)等于B的行數(shù)），可以進(jìn)行A乘B的乘法運(yùn)算。二、M文件if語(yǔ)句 最簡(jiǎn)單的選擇結(jié)構(gòu)語(yǔ)句，其基本格式為： if 表達(dá)式 語(yǔ)句組 end 說(shuō)明：表達(dá)式多為關(guān)系或邏輯表達(dá)式。如果表達(dá)式為真（非零），就執(zhí)行if和end之間的語(yǔ)句組，然后再執(zhí)行end之后的語(yǔ)句；如果表達(dá)式為假（零），就直接執(zhí)行end之后的語(yǔ)句。 for語(yǔ)句 for語(yǔ)句為計(jì)數(shù)循環(huán)語(yǔ)句，在許多情況下

3、，循環(huán)條件是有規(guī)律變化的，通常把循環(huán)條件初值、終值和變化步長(zhǎng)放在循環(huán)語(yǔ)句的開(kāi)頭，這種形式就是for語(yǔ)句的循環(huán)結(jié)構(gòu)。for循環(huán)的一般形式是：for 循環(huán)變量名=表達(dá)式1：表達(dá)式2：表達(dá)式3 語(yǔ)句體end 說(shuō)明：其中表達(dá)式1的值是循環(huán)變量的初值，表達(dá)式2的值是循環(huán)步長(zhǎng)，表達(dá)式3的值是循環(huán)變量的終值。初值、步長(zhǎng)和終值可以取整數(shù)、小數(shù)、正數(shù)和負(fù)數(shù)，步長(zhǎng)可以缺省，缺省值為1。continue語(yǔ)句 continue語(yǔ)句用于控制for循環(huán)或while循環(huán)跳過(guò)某些執(zhí)行語(yǔ)句，當(dāng)出現(xiàn)continue語(yǔ)句時(shí)，則跳過(guò)循環(huán)體中所有剩余的語(yǔ)句，繼續(xù)下一次循環(huán)，即結(jié)束本次循環(huán)。三、函數(shù)文件基本結(jié)構(gòu) 函數(shù)文件由functio

4、n關(guān)鍵字引導(dǎo)，其基本結(jié)構(gòu)為： function 輸出形參表函數(shù)名（輸入形參表） 注釋說(shuō)明部分 函數(shù)體語(yǔ)句return 說(shuō)明：以function開(kāi)頭的一行為引導(dǎo)行，表示該文件是一個(gè)函數(shù)文件。函數(shù)名的命名規(guī)則與變量名相同。輸入形參表是函數(shù)的輸入?yún)?shù)，可以有多個(gè)，用“逗號(hào)”來(lái)分隔；輸出形參表為函數(shù)的輸出參數(shù)，當(dāng)輸出形參只有一個(gè)時(shí)，直接輸入變量名而不用方括號(hào)，多個(gè)輸出形參用“逗號(hào)”來(lái)分隔。 注意：函數(shù)文件編輯結(jié)束后，不能像M文件那樣單擊F5或單擊Debug Save and Run選項(xiàng)運(yùn)行，而是要直接存盤(pán)。函數(shù)調(diào)用函數(shù)文件編制好后，就可以調(diào)用函數(shù)進(jìn)行計(jì)算了。函數(shù)調(diào)用的一般格式為：輸出實(shí)參表函數(shù)名（輸入

5、實(shí)參表） 需要注意的是，函數(shù)調(diào)用時(shí)各實(shí)參出現(xiàn)的順序、個(gè)數(shù)，應(yīng)與函數(shù)定義時(shí)形參的順序、個(gè)數(shù)一致，否則會(huì)出錯(cuò)。函數(shù)調(diào)用時(shí)，先將實(shí)參傳遞給相應(yīng)的形參，從而實(shí)現(xiàn)參數(shù)傳遞，然后再執(zhí)行函數(shù)的功能。四、二維繪圖二維繪圖plot(x，y，參數(shù)) 說(shuō)明：x，y可以是向量或矩陣，參數(shù)選項(xiàng)為一個(gè)字符串，決定二維圖形的顏色、線(xiàn)型及數(shù)據(jù)點(diǎn)的圖標(biāo)。 plot (x1, y1, 參數(shù)1，x2, y2, 參數(shù)2，) 說(shuō)明：可以用同一函數(shù)在同一坐標(biāo)系中畫(huà)多幅圖形，x1，y1確定第一條曲線(xiàn)的坐標(biāo)值，參數(shù)1為第一條曲線(xiàn)的選項(xiàng)參數(shù)；x2，y2為第二曲線(xiàn)的坐標(biāo)值，參數(shù)2為第二條曲線(xiàn)的選項(xiàng)參數(shù)；其他圖形以次類(lèi)推。坐標(biāo)軸的調(diào)整（1）坐標(biāo)軸

6、比例控制 函數(shù)：axis（xmin xmax ymin ymax） 說(shuō)明：將圖形的x軸范圍限定在xmin xmax之間，y軸的范圍限定在ymin ymax 之間。 MATLAB繪制圖形時(shí)，按照給定的數(shù)據(jù)值確定坐標(biāo)軸參數(shù)范圍。（2）有關(guān)圖形的標(biāo)題、坐標(biāo)軸標(biāo)注等圖形文字標(biāo)識(shí)類(lèi)函數(shù)如下：函數(shù)：title（字符串）說(shuō)明：圖形標(biāo)題。函數(shù)：xlabel（字符串）說(shuō)明：x軸標(biāo)注。函數(shù)：ylabel（字符串）說(shuō)明：y軸標(biāo)注。函數(shù)：text（x，y，字符串）說(shuō)明：在坐標(biāo)（x，y）處標(biāo)注說(shuō)明文字。函數(shù)：gtext（字符串）說(shuō)明：用鼠標(biāo)在特定處標(biāo)注說(shuō)明文字。圖形控制（1）圖形的保持函數(shù)：hold on說(shuō)明：保持當(dāng)前

7、圖形及軸系的所有特性（2）網(wǎng)格控制函數(shù)：grid on說(shuō)明：在所畫(huà)的圖形中添加網(wǎng)格線(xiàn)五、三維繪圖1meshgrid函數(shù)按指定方式創(chuàng)建網(wǎng)格矩陣。函數(shù)：X，Y=meshgrid(a,b)說(shuō)明：將等長(zhǎng)度向量a，b，轉(zhuǎn)換為二維網(wǎng)格數(shù)據(jù)，再以一組z軸的數(shù)據(jù)對(duì)應(yīng)到這個(gè)二維網(wǎng)格，即可得到三維數(shù)據(jù)。MATLAB提供了plot3函數(shù)繪制三維曲線(xiàn)圖形。該函數(shù)將繪制二維圖形的函數(shù)plot的特性擴(kuò)展到了三維空間，其功能和使用方法類(lèi)似于繪制二維圖形的函數(shù)。其格式為：plot3(x1，y1，z1，參數(shù)1，x2，y2，z2，參數(shù)2，)三維曲面圖：函數(shù)名稱(chēng)命令格式說(shuō)明三維網(wǎng)格曲面mesh(x，y，z，c)mesh(x，y，z

8、)mesh(z，c)mesh(z)當(dāng)x，y為n×m矩陣時(shí)，且x矩陣的所有行向量相同、y矩陣的所有列向量相同時(shí)，mesh函數(shù)將自動(dòng)執(zhí)行meshgrid(x，y)，將x，y轉(zhuǎn)換為三維網(wǎng)格數(shù)據(jù)矩陣。z和c分別為m×n矩陣，c表示網(wǎng)格曲面的顏色分布，若省略，則網(wǎng)格曲面的顏色亮度與z方向上的高度值成正比。x，y若均為省略，則三維網(wǎng)格數(shù)據(jù)矩陣取值x=1：n，y= 1：m填充顏色的三維網(wǎng)格曲面surf(x，y，z，c)surf (x, y, z)surf (z，c)surf (z)函數(shù)mesh繪制連接三維空間的一些四邊形所構(gòu)成的曲面，該曲面只有四邊形的邊用某種顏色繪出，四邊形的內(nèi)部是透明

9、的。surf函數(shù)繪制的曲面也由一些四邊形所構(gòu)成，不同的是四邊形的邊是黑色的，其內(nèi)部用不同的顏色填充六、符號(hào)計(jì)算1.定義符號(hào)變量 函數(shù)：syms 變量名1 變量名2 變量名3 說(shuō)明：一次創(chuàng)建多個(gè)符號(hào)變量。2.符號(hào)方程求解x1,x2,xnsolve(s1,s2,sn)求解由符號(hào)表達(dá)式s1,s2,sn組成的代數(shù)方程組，自變量分別為x1,x2,.xn 3.級(jí)數(shù)的符號(hào)求和函數(shù)格式說(shuō)明函數(shù)格式說(shuō)明symsum(S)計(jì)算符號(hào)表達(dá)式S（表示級(jí)數(shù)的通項(xiàng)）對(duì)于默認(rèn)自變量的不定和。symsum(S，a，b)計(jì)算符號(hào)表達(dá)式S對(duì)于默認(rèn)自變量從a到b的有限和。symsum(S，x)計(jì)算符號(hào)表達(dá)式S對(duì)于自變量x的不定和。s

10、ymsum(S，x，a，b)計(jì)算符號(hào)表達(dá)式S對(duì)于自變量x從a到b的有限和。4. 符號(hào)計(jì)算結(jié)果的繪圖實(shí)驗(yàn)一 離散信源及其信息測(cè)度一、實(shí)驗(yàn)?zāi)康?.掌握離散信源熵的原理和計(jì)算方法。2.熟悉matlab軟件的基本操作，練習(xí)應(yīng)用matlab軟件進(jìn)行信源熵函數(shù)曲線(xiàn)的繪制。3.理解信源熵的物理意義，并能從信源熵函數(shù)曲線(xiàn)圖上進(jìn)行解釋其物理意義。二、實(shí)驗(yàn)環(huán)境windows 系統(tǒng),MATLAB 三、實(shí)驗(yàn)原理1. 離散信源相關(guān)的基本概念、原理和計(jì)算公式（1）產(chǎn)生離散信息的信源稱(chēng)為離散信源。離散信源只能產(chǎn)生有限種符號(hào)。隨機(jī)事件的自信息量I（xi）為其對(duì)應(yīng)的隨機(jī)變量xi 出現(xiàn)概率對(duì)數(shù)的負(fù)值。即： I （xi ）= -l

11、og2p ( xi) （2）信源輸出的各消息的自信息量的數(shù)學(xué)期望為信源的信息熵，信源熵是信源的統(tǒng)計(jì)平均不確定性的描述，是概率函數(shù)的函數(shù)。表達(dá)式如下：2. 二元信源的信息熵及二維繪圖1）設(shè)信源符號(hào)集X=0，1 ，每個(gè)符號(hào)發(fā)生的概率分別為p(0)= p，p(1)= q，p+ q =1，即信源的概率空間為 ：，則該二元信源的信源熵為： H( X) = - plogpqlogq = - plogp (1 - p)log(1- p) 即：H (p) = - plogp (1 - p)log(1- p) 其中 0 p 1 2）MATLAB二維繪圖 用matlab 中的命令plot( x , y) 就可以自

12、動(dòng)繪制出二維圖來(lái)。 如：在matlab 上繪制余弦曲線(xiàn)圖，y = cos x ，其中 0 x 2p。 >>x =0:0.1:2*pi； %生成橫坐標(biāo)向量，使其為 0，0.1，0.2，6.2 >>y =cos(x )； %計(jì)算余弦向量 >>plot(x ,y ) %繪制圖形3.求解聯(lián)合熵，條件熵，平均符號(hào)熵4.求解馬爾可夫信源的穩(wěn)態(tài)分布及n步轉(zhuǎn)移矩陣P（n）=Pn；穩(wěn)態(tài)分布要滿(mǎn)足W*P=W及W=1四、實(shí)驗(yàn)內(nèi)容 1、用matlab編程實(shí)現(xiàn)離散無(wú)記憶信源熵值的計(jì)算。編寫(xiě)一M函數(shù)文件：function H= entropy(p)2、繪制2元符號(hào)信源熵函數(shù)與概率分布曲線(xiàn),圖形如下圖所示：3、設(shè)X是一個(gè)離散平穩(wěn)有記憶信源，記憶長(zhǎng)度N=2，已知聯(lián)合概率如下圖所示：aiaj01201/41/18011/181/31/18201/187/36求H(X2|X1)及H2(X)4、一個(gè)馬爾可夫信源有3個(gè)符號(hào)，轉(zhuǎn)移概率為：，求出各符號(hào)穩(wěn)態(tài)概率分布及二步轉(zhuǎn)移概率矩陣五、設(shè)計(jì)思路1) 求