信息論與編碼理論習(xí)題答案

1、信息論與編碼理論習(xí)題答案第二章信息量和爛2.2八元編碼系統(tǒng)，碼長為3,第一個(gè)符號(hào)用于同步，每秒1000個(gè)碼字，求它的 信息速率。解：同步信息均相同，不含信息，因此每個(gè)碼字的信息量為 2xlog8二2x3二6 bit因此,信息速率為 6x1000=6000 bit/s2。3 擲一對無偏骰子，告訴你得到的總的點(diǎn)數(shù)為：(a) 7；(b) 12問各得解：(1)可能的組合為到多少信息量。1,6 , 2, 5 , 3,4 , 4, 3, 5,2, 6, 1 得到的信息量二log一二log6二2. 585 bitPW(2)可能的唯一，為6, 6得到的信息量二log一二log36二5。17 bit2.4經(jīng)過充

2、分洗牌后的一副撲克(52張)，問：(a) 任何一種特定的排列所給出的信息量是多少？(b) 若從中抽取13張牌，所給出的點(diǎn)數(shù)都不相同時(shí)得到多少信息量？解：(a) p(a) =52!信息量二log一二log52!二225。58 bit“、13!13種點(diǎn)數(shù)任意排列(b)413花色任選“(b)二131x4"4136 / 31信息量二logC；_log4= 3。208 bit信息論與編碼理論習(xí)題簽案2。9 隨機(jī)擲3顆骰子，X表示第一顆骰子的結(jié)果，Y表示第一和第二顆骰子的 點(diǎn)數(shù)之和，Z表示3顆骰子的點(diǎn)數(shù)之和，試求H(Z | Y) . H(X | Y).H(Z|X,Y)、H(X,Z|Y)、H(Z|

3、X).解：令第一第二第三顆骰子的結(jié)果分別為,x2,x3, X, x2, x3相互獨(dú)立，則X = xlt Y = xY + x2 f Z = xx-.+xH(Z | /) = /f(x3) = log6=2. 585 bitH(ZX) = H(x2 + x5) = HY)二 2x (log 36+log18+ log 12+A log 9+ log ) + A log 636363636 &36 & 536=3. 2744 bitH(X | 丫)二H(X)-/(X;Y)二H(X) X)而 H(YX) = H(X)f 所以 H (X |K)= 2H(X)-H(Y)=1O 8955

4、bit或 H(XY) = H(XY)-H(Y)=H(X) + H(YX)-H(<Y)而 H(YX) = H(X),所以H(X Y)=2H(X) H(Y)=K 8955 bitH(Z | X,Y) = H(Z | Y) = H(X)=2O 585 bitH(X,Z | Y)H(X | Y) + H(Z XY). 8955+2o 585二4。4805 bit2o 10 設(shè)一個(gè)系統(tǒng)傳送10個(gè)數(shù)字，0, 1,-, 9o奇數(shù)在傳送過程中以0. 5的槪 率錯(cuò)成另外一個(gè)奇數(shù)，其余正確接收，求收到一個(gè)數(shù)字平均得到的信息量。解:X 信道 135仏9 ；02468I(X;Y) = H(Y)-H(YX)因?yàn)檩?/p>

5、入等概，由信道條件可知,信息論與編碼理論習(xí)題簽案P（y = ii為奇數(shù)）=右110爪訓(xùn)為偶數(shù)）時(shí)G444+護(hù)即輸出等概，則/（r）=iogioH（Y|X）二-工工/心兒）log（兒|兀） j二-工工P（X兒）logp（y,I兀）一工工pg兒）logp（兒I兀） j ，偶j f奇。工工/心兀）l°gp（” |兀）j f奇 工p（X）p®比）iogp（xl兀）工 工（兀）（兒丨兀）bg（兒|兀）匸1,3,5,7.9i*j f=1.3.5.7.9log 8x4x54二一x log 2x5+ x x10 2 10 2Z（X;X） = /（/）-H（Y I X） = log 10 -

6、1 = log5=2. 3219 bit2o 11令坷,，業(yè)為一等概消息集，各消息相應(yīng)被編成下述二元碼字©二0000, “2二0011, m3=0101, m4=0110,“5=1001, w6=1010, “7二1100, w8=1111通過轉(zhuǎn)移概率為q的BSC傳送。求：（a）接收到的第一個(gè)數(shù)字0與匚之間的互信息量。（b）接收到的前二個(gè)數(shù)字00與心之間的互信息量。（c）接收到的前三個(gè)數(shù)字000與匚之間的互信息量。（d）接收到的前四個(gè)數(shù)字0000與©之間的互信息量。解：信息論與編碼理論習(xí)題答案1-p即/(H；0), /("JOO), /(«000), /

7、(mOOOO)P(o)二扣-P)x4 + “x4二 +oo2曲)週喘2叫亍二叫(i) bit2p(00) = A2(1-p)2 + 4(1 _ p)p + 2p訂二 184心;00)二log£291®.二log (1/?r 二21 + 10g(l- p) bit 1p(00)1/4p(000) = |(l-p)3 + 3(1-p)2 p + 3(l-p)p2+p3 = |ooI(“i;000)=3 1 + log(l-p) bitp(0000) = |(1 - p)4 +6(1-p)2p2 + p4o/(gOOOO)二log 律；"、-bit(1-py+ 6(i-

8、pyp+p42o 12 計(jì)算習(xí)題 2。9 中 /(Y;Z). /(X;Z). /(X,Y;Z 八 /(Y;Z|X)、/(X;Z|Y)。解：根據(jù)題2. 9分析、1 (3 |2166 f 21610 |216H(Z)二2(log216 +log + log + log +216216321662161015(21621(21625 |21627 f216、log+log+log+log) 21615216212162521627=3.5993 bit/(Y;Z)二H(Z) H(Z| Y)二H(Z) H(X)二仁 0143 bit /(X;Z)二 H(Z) H(Z | X) = H(Z)- H(F)

9、二0. 3249 b i t /(X9Y;Z) = H(Z)H(ZIXY) = H(Z) H(X)=1.O143 bit# / 31信息論與編碼理論習(xí)題簽案Z(y；Z I X)-H(Z I X)-H(z I XY) = H(Y)H(X)=0o 6894 bit/(X;Z I Y)-H(Z I Y) H(Z I XX)二H(X) H(X)二0 bit2。14 對于任意槪率事件集X,Y,乙證明下述關(guān)系式成立(a) H(Y,ZX) <H(YX) + H(ZX),給出等號(hào)成立的條件(b) H(Y,Z | X) = H(Y | X) + H(Z X,Y)(c) H(Z|X,y)<H(Z|X)

10、證明：(b) H(Y,Z| X)二一工工工”O(jiān)w)log#(z|x)x y z二一工工工P(RZ)logp(y | x)pz | xy>)x y z=SSZ(w)logI %)y -工工p(w)log pd I勸X 二= H(YX) + H(ZXY)(c) /匕以,丫)二一工工工/心2)log p(z | x)')y -二工工”5) X Pd I Q)log P(z | 6 X 二<工工卩(與)-p(z|x)logp(z|x)X yz=-工工！>5z)log pd I x)x y z二 H(Z|X)當(dāng)| xy)- p(.z | X),即X給定條件下，Y與z相互獨(dú)立時(shí)等

11、號(hào)成立(a) 上式(c)左右兩邊加上H(Y|X),可得H(Y | X) + H(Z X,Y) < H(丫 | X) + H(Z | X)于是H(Y,ZX) <HYX) + H(ZX)8 / 31信息論與編碼理論習(xí)題答案11 / 311廠12. 28令概率空間X= 1 1，令Y是連續(xù)隨機(jī)變量.已知條件概率密度為 .25 2.-2< y-x<2 Lp(y x) = ，求：0,其他(a) Y的概率密度做y)(b)(b) 若對Y做如下硬判決lyiV = Jo,-l<y <1一 1,y<-l求i(xy),并對結(jié)果進(jìn)行解釋.解：(a)由已知，可得.-3 <

12、y < 1 else.-l<y <3else1 /?(y|x =-1)=4 0.j. p(y|x = l)二”0.如二"(x = -1) p(y |x = -l) + p(x = 1) p(yx = i)11 - 8 11穴4 1-80-3 < y <-l-1 < y < 1Ij；log8x2 + lfilog4=20 5 bitc(.Yx)= - P(x = j) "(y 丨 x = - l)log p(y I x = -l)dy-(x = 1) DO I * = l)log p(y | x = l)dyTl拯撲-扛拯存=2 bi

13、tI(X;Y) = HC(Y) HC(Y | X)=0. 5 bit(c)由Q(y)可得到V的分布律1/101p1/41/21/4再由p(y 1x)可知V101p 0J | A=-1 )1/21/20p <v i a=o01/21/2/(V) = |log2 + ix21og4 = 1.5 bitH(VX) = -丄 Iog2 +丄 Iog2x2 二 1 bit2 2I(X;V) = H(V)-H(VX)= 0.5 bit2. 29 令0(x)和(x)是同一事件集U上的兩個(gè)概率分布，相應(yīng)的爛分別為HU 和 HU)?。(a) 對于0 幾 1,證明Q(x) = A ft(x) + (1-2)

14、 Q2(x)是概率分布(b) H(U)是相應(yīng)于分布 Q(x)的爛,試證明H(U)A H(t/) + (l_2) H(U)2證明：(a)由于Q(x)和Q2(x)是同一事件集U上的兩個(gè)概率分布，于是<7i W >0, q2(x)>0又O<A<1,則q(x)=A (x) + (l-2) q2(x) >0J q(x)dx 二 J 勺(x>/x+ J (1 - A)q2 (.v>/a=1因此，2(x)是概率分布。 /(/) = -J切(x) + (1 -A)q2(x)Iog礎(chǔ)(a) + (1 - Z)q2(x)"xX二-可 4 (x)10g (x

15、) + (1-Z)q2 (x)t/.rX一 (1 一 刃 j (x) logMs (X) + (1-刃肚X> -A j (x) log q、(x)dx -(1- 2)j q2 (x) log q2 (x)dx(引理 2)XX=2 H(U + (1-A) H(U)2信息論與編碼理論習(xí)題簽案第三章 信源編碼離散信源無失真編碼3.1試證明長為N的D元等長碼至多有D(D" _個(gè)碼字.證：在£)元碼樹上，第一點(diǎn)節(jié)點(diǎn)有£)個(gè)，第二級有I)?,每個(gè)節(jié)點(diǎn)對應(yīng)一個(gè)碼字，若最長碼有N,則函數(shù)有二二D(D' _1),此時(shí) 臺(tái) 1-DD-1所有碼字對應(yīng)碼樹中的所有節(jié)點(diǎn)。碼長

16、為1的D個(gè)；碼長為2的£>'個(gè)碼長為N的£>"個(gè)D(D " _1)D-13o 2設(shè)有一離散無記憶信源 L若對其輸出的長為100的事件 0.004, 0.996序列中含有兩個(gè)或者少于兩個(gè)的序列提供不同的碼字。(a) 在等長編碼下，求二元碼的最短碼長。(b) 求錯(cuò)誤概率(誤組率)。解：(a)不含勺的序列1個(gè)長為ioo的序列中含有1個(gè)的序列cnoo個(gè)長為100的序列中含有2個(gè)的序列C二二4950個(gè)所需提供碼的總數(shù)M二1 +100+4950二5051于是采用二元等長編碼- =12.3,故取N二13 logD(b) 當(dāng)長度為100的序列中含有兩

17、個(gè)或更多的時(shí)出現(xiàn)錯(cuò)誤，因此錯(cuò)誤概率為Pc = l -0 (0.996 )100- C!oo(0.004)(0.996)" - CQ(0.004)2 (0.996)9S二 7775xE12 / 31信息論與編碼理論習(xí)題答案3.3 設(shè)有一離散無記憶信源，U= 1 3 ，其爛為H(U)考察其長為厶的輸出序 <4'4 >列，當(dāng)L>Lq時(shí)滿足下式(a) 在5=0.05, £二01下求厶(b) 在 5二 1(T, £二10一'下求厶(c) 令T是序列叫的集合，其中16 / 31試求L二厶時(shí)情況(a) (b)下，T中元素個(gè)數(shù)的上下限。134解：

18、/(/) = - X loS Pk = - log 4 + - log - =0 o 81 bitEg)二 H(U)a,2 = EI(ak)-HiU)2 = EI(ak)2-HU)二工久(log/人)k二0. 471則根據(jù)契比雪夫大數(shù)定理(a)0.1x(0.05)2'6La2(b)71x1013(c) 由條件可知兀為典型序列，若設(shè)元素個(gè)數(shù)為，則根據(jù)定理其中&, h = 6可知（i） b'=,8 = 01, £ = b = 005,厶= 1884下邊界:（1-<t,）2£（/（£/>-'，）=0.9x2143184上邊界：

19、2厶(0/)+名)一 21620 24故 0.9x21431 84 <Mt < 21620-24（i i） <Jf =：£ = 10一6, £ = ”10= L = 4.71xlOH（1-= 0.9999x 2381x1oIJ2乙（円（）十名'）-23-82x1°h故0.9999x2381x1011 <Mt <23S2x1°u3.4 對于有4字母的離散無記憶信源有兩個(gè)碼A和碼B,參看題表。字母概率碼A碼Bai0.411a20.30110830.2001100a40. 100011000(a) 各碼是否滿足異字頭條件？

20、是否為唯一可譯碼？ 當(dāng)收到1時(shí)得到多少關(guān)于字母的信息？(c) 當(dāng)收到1時(shí)得到多少關(guān)于信源的平均信息？解：碼A是異頭字碼，而B為逗點(diǎn)碼，都是唯一可譯碼。碼 A /（勺;1） = log," U = log, = 1.32 bitP）04碼B碼AU二 aa2,aa4 /（“;1）=工（色|1）/;1）二（ |1）/（6；1） + 0二1 32 bit=1碼 B Z(m;1)=工 p(ak l)I(ak ;1) =0 bitJt=l(收到1后，只知道它是碼字開頭，不能得到關(guān)于U的信息。)3o 5令離散無記憶信源=< "1a3a4a5a6 a7a3a9"100.16

21、0.140.130.120.100.900.080.070.060.05» <(a) 求最佳二元碼，計(jì)算平均碼長和編碼效率。(b) 求最佳三元碼，計(jì)算平均碼長和編碼效率。解：(a)0000.16010a2 0.14ona3 0.13100aA 0.12noa5 0.10ina6 0.0900100.080011«s 0.071010cig 0.061011a10 0.050.270.2310010.420.310H(U)= 一工幾 log幾二3。234 bit 平均碼長 亓=工幾你二3. 26二/?=帀logDk效率 z;=w)= wl=992%R n log D信息

22、論與編碼理論習(xí)題答案00010210122021221101110.430亓=工幾吐二2。11(b)平均碼長R = h logD=3o 344效率=竽=96.6%3.6令離散無記憶信源U = ai “°2>0.5.0.3.0.2(a) 求對U的最佳二元碼、平均碼長和編碼效率。(b) 求對U的最佳二元碼、平均碼長和編碼效率。(c) 求對的最佳二元碼、平均碼長和編碼效率。 解：(a)18 / 31片二0。5X1+0. 3 X 2+2X0. 2=1.5H(U)= 2>Jog以=1485 bit信息論與編碼理論習(xí)題答案22 / 31 = 99%R(b)離散無記憶 AH (U U

23、J=2H(U) =2o 97 bit1 p (a a )二 0 o 25, p (a a、)二0. 15, p (a a ) 0 o 19 p (a、a )二 0。15, p (a»a丿二0。091113.1p (a a3 ) =0. 06, p(a3ai ) =0. 1, p (a3a,)04二0. 06, p0.55 0100.250.250,204500010.150100.151100 1 .V 1111A 1 .V 10000a2a20.090001dg0.0601100.0601110.04亓2二=3n =- 1.520.15Q1W) 2.97 c oo = 二二0。99

24、n2 log D 3(b) 有關(guān)最佳二元類似略3o 7令離散無記憶信源ia)p(ajpa)j且 0 WP(a/WP (a?)W 。WP (a.) <1o 定義 Q_.二/>1,而Jl=lQfO,今按下述方法進(jìn)行二元編碼。消息a：的碼字為實(shí)數(shù)Q；的二元數(shù)字表 示序列的裁短(例如1/2的二元數(shù)字表示序列為1/2->10000-,1/4T0100)，保留的裁短序列長度是大于或等于I (a&)的最小整數(shù).對信源U =構(gòu)造碼。64勺.6“6.a7.a3% %, % % %6, %6, %6,(b) 證明上述編碼法得到的碼滿足異字頭條件，且平均碼長亓滿足H (U) W 亓 WH

25、(U)+1o解：(a)符號(hào)Q,LC04000011640001%1840010316400111440100383011a248210%34211(b)反證法證明異字頭條件令k <r ,若畋是代，的字頭，則Qk -Qk <2'nt又由 I(ak)<nk <I(ak) +1 可知，2" < pk < 2+1從而得 er-a<2 <Pk這與假設(shè)心是s的字頭(即Q嚴(yán)Q嚴(yán)pQ相矛盾，故滿足異字頭條件。 由已知可得log < nk < log +1PkPk對不等號(hào)兩邊取概率平均可得工 Pk log X PZ < X 以

26、log 丄 +1k Pk kk Pk即 H(U)<n<H(U) + l3。8擴(kuò)展源DMC,(060.4丿(a)求對U的最佳二元碼、平均碼長和編碼效率。(b)求對I?的最佳二元碼、平均碼長和編碼效率。(c) 求對的最佳二元碼、平均碼長和編碼效率.(d) 求對u4的最佳二元碼、平均碼長和編碼效率。解：(a)C1=0, C2=1,/(/) = 0.97 bit(b)“瞥 97%DMC信道00660.36010.24100.2411ag0.160,4010.6 0| | 11兀=2, n = l, 77 = 2 = 97%(c)信息論與編碼理論習(xí)題答案信息論與編碼理論習(xí)題答案0111100

27、0001100101a2ata21100a2a2a1101a衛(wèi)心0.50434 / 31爲(wèi)二2.944 亓二0.981二98. 85%(c) 略3。9設(shè)離散無記憶信源礙,冬試求其二元和三元0.3,.0.2,.0.15,.0.15,.0.1,.0.1Huffman 編碼。解：pJ10.40.3 0oi a 0.3-!->1 0.211 a 02ooo a z o.i5001 a 01 10.1100 a. o.i101100010220210.3az0.2a0.153a0.154a0.1 Ja0.1110.220120103o 11設(shè)信源有K個(gè)等概的字母，其中K=6Z-2y,1 <a

28、 <2.今用Huffman編碼法 進(jìn)行二元編碼。(a) 是否存在有長度不為j或j+1的碼字，為什么？(b) 利用a和j表示長為j+1的碼字?jǐn)?shù)目。(c) 碼的平均長度是多少？解：Huffman思想：將概率小的用長碼，大的用短碼，保證n X,當(dāng)?shù)雀艜r(shí)， 趨于等長碼。a) 對q = 1時(shí)，K二2，則用長度為j碼表示；當(dāng)a = 2時(shí)，用K二2二 用長度 為j+1碼表示。平均碼長最短，則當(dāng)時(shí)，則介于兩者之間，即 只存在j, j+1長的碼字。b) 設(shè)長為j的碼字個(gè)數(shù)為N“長度為j+1的碼字?jǐn)?shù)目為Nj+1,根據(jù)二元 Huffman編碼思想(必定占滿整個(gè)碼樹)，即Nj+Nju = K = ax2j x2

29、y+.+1x2_u+1) =1從而 y=(2 a)x2仃 A?+1 =(cr-l)x2y+1_119c) L = /V. j + N 屮(j + l)二 j + 2 K 3K田7a133.12設(shè)二元信源的字母概率為p=上,p（l） = - o若信源輸出序列為 441011 0111 1011 0111（a）對其進(jìn)行算術(shù)編碼并進(jìn)行計(jì)算編碼效率。（b）對其進(jìn)行LZ編碼并計(jì)算編碼效率.（3肯1）Pls)=解：（a）Jf（治+1） = F仙）+p仙）尸（如）根據(jù)遞推公式 -可得如下表格"（"+】） =卩仙）+P（如）其中，F(xiàn) (1)二0, F (1)= %, p(0)% p (1)

30、二w.血）噸）0101341403 13X =4 416141339X = 一 16 46419327X =64 4256033 V134413547136 F137 承0374101384111394120394131414131141531241615081251351416= 0.0101100111100100 -從而C = 01W)=Rlog 4 + - log 4-=99.85% %(b)首先對信源序列進(jìn)行分段：01111 0 11 01 111 011然后對其進(jìn)行編碼，編碼字典如下所示段號(hào)短語1J編碼1101000120000000311110011401210101511131

31、0111601141100170111611101一17R = f l log D =r =&7x4 416134/（/）= _log4 +-log-= 0.8113b i t443=空 = 46.36%R3.13 設(shè)DMS為U二e 6.S 1,各a .相應(yīng)編成碼字0.10.110和1110。試證明對足夠長的信源輸出序列，相應(yīng)的碼序列中0和1出現(xiàn)的概率相等. 解：概率信源符號(hào)碼字1/201/4Cl2101/81101/81110設(shè)信源序列長為N,則相應(yīng)碼字長為（條件是N要足夠長） N , N c N “L = xl + x2 x3 = N2 484相應(yīng)碼序列中0出現(xiàn)的次數(shù)Ln = xl

32、+xl + xl = N°2488p (0) = = -p (1) =1p(0)=-L 223o 14 設(shè)有一 DMS, U二0.9 0.1采用如下表的串長編碼法進(jìn)行編碼信源輸出序列0串長度(或中間數(shù)字)輸出二元碼字1000000110001001200107011181(a)求 H (U)o(b) 求對于每個(gè)中間數(shù)字相應(yīng)的信源數(shù)字的平均長度;f。1(c) 求每個(gè)中間數(shù)字對應(yīng)的平均長度萬一。(d) 說明碼的唯一可譯性.解：(a) H(U) = -0.9log0.9-0.1 log0.1 = 0.469 bit 由已知可得下表先驗(yàn) 概率信源輸出 序列0串長度 (或中間數(shù)字)輸出二元碼字

33、0o 11000000. 0901100010.0o110.1000.1010o 0531601100. 0478701110. 4381(b) 丘=lx0l + 2x0.9 +8x0.4305 =5.6953 bit(c) % =1x0.4305 + 4x(1 0.4305) = 2.7085 bit(d) 異字碼頭第四章信道及信道容童4.1計(jì)算由下述轉(zhuǎn)移概率矩陣給定的DMC的容量。1一1一卩達(dá)到C需要輸入等概, 它是一對稱信道,-C = log 3 +p(jk)logp(yk)=log3 + (1 -p)log(l-p) + pogp = log3-H(p) bit/符號(hào)£ &#

34、163;2222pP口l_p_I711_.它是一對稱信道 C = log 4 + 乎 log- x 2 + # log # x 2=2 + (1-p)log-_ + plog = l-H(p) bit/符號(hào)21-pP0(c)pl-P0001它是分信道' "P 和1的和信道P 1-卩Cv = log2 + (1 - p)log(l- p) = I-H(p)C2 = 0由 2c=2c*+2,可知C = logl+21_W(P> bit/符號(hào)4o 3求圖中DMC的容量及最佳輸入分布01334013343 £4 41 13 30丄4 發(fā)送符號(hào)1時(shí)等概率收到0,1,2,

35、傳對與傳錯(cuò)概率完全相同，即不攜帶任何信息量，于是信道簡化為二元 純刪除信道丄413£4C = l q = l 1/4 = 3/4 bit/符號(hào)(b)由圖知1-3 1-3 1-3 O 1-31-3 1-31-3 O1 - 3 o 1 一 3 為準(zhǔn)對稱當(dāng)輸入等槪，即e0=a=g2=l時(shí)達(dá)到信道容量c此時(shí) Qo = © = d=#x£x2 = £rr3=i(川0)C = /(x = 0V) = 5>C/|0)log11£二丄 log £ + 丄 log £ + 丄 log 孑=Z log 2b i t / 符號(hào)3遼3Z3丄3

36、29934.5 N個(gè)相同的BSC級聯(lián)如圖。各信道的轉(zhuǎn)移概率矩陣 P 1-/7 .令2 = px/ = o,r = o,i,.,/v,且0為 y-p p已知。(a)求0的表達(dá)式。(b) 證明Ns 時(shí)有© 1/2,且與0。取值無關(guān)，從而證明Wts時(shí)的級聯(lián)信道容量C” t0(“>0) 解：N個(gè)信道級聯(lián)后BSC可表示為N個(gè)級聯(lián)可以看成N1個(gè)級聯(lián)后與第N個(gè)級聯(lián)信息論與編碼理論習(xí)題簽案 Pn = (1 - “T) 卩 + p、T (1 - 卩)=PT (1 - 2 卩)+ 同理可得Pnt = Pn4Q-2p)+p(1一2卩)+p2 = pl-(l-2p)+pPi = P從而Pn = PwQ

37、-2p)+P=Pn-2 (1 _ 2p) + p (1 - 2p) + p=Pn-2 (1 -2pf + p-(l-2p)+p=Pg (1 - 2)' + p (1 -2)2 + p (l-2p)+pN7= L(l 2p)AT + p工(1 2”/=0N-l =吃(1-2"/=0l_(l_2p)“ l-(l-2pf=p =1-(1-2p)2(a)Qn = Oo (1 - P v ) +(1 - Oo)P . v=Qo + Q-2Qo)Pn= Q + (1-2Q)1-(：2P)、(b)i_(i _2p)a，剋Q廠鹽 Q +(l-2Q)y1-2Q2信息論與編碼理論習(xí)題簽案因此與0

38、。無關(guān)。由于Qn = PXN = 0=px° = 0 (1 Pv ) + px0 = 1 PN = | 與 pxq = 0 = 2o 無關(guān)，因此 Pn =扌，c二o。4o 8 一 PCM語音通信系統(tǒng)，已知信號(hào)帶寬W二4000 Hz,采樣頻率為2W,且采用 8級幅度量化,各級岀現(xiàn)的概率為1/2, 1/4, 1/8, 1/16, 1/32, 1/32,1/32, 1/32.試求所需的信息速率。解: H(U) = 一工以 log仇弓Iog2 + #log4 + *log8 + £logl6+存41og32 = bit9信息速率R = y；/(V) = 8000x- = 18000 bit/s4.9在數(shù)字電視編碼中，若每幀為500行，每行劃分成600個(gè)像素，每個(gè)像素采 用8電平量化，且每秒傳送30幀時(shí)，試求所需的信息速率。解：每個(gè)像素信息量為/ = log8 = 3 bit每秒傳輸30幀，即30x500x600 = 9x10"個(gè)像素A/? = 9x106x3 = 2.7x107 bit/s4o 10帶寬為3 kHZ,信噪比為30 dB的電話系統(tǒng)，若傳送時(shí)間為3分鐘，試估計(jì) 可能傳送