信息论与编码理论习题答案(6)

1?pN?10pN?1pN?11?p0pp011?pN?111?p1

∴pN?(1?pN?1)?p?pN?1?(1?p)?pN?1?(1?2p)?p 同理可得

pN?1?pN?2?(1?2p)?p pN?2?pN?3?(1?2p)?p

?

p2?p1?(1?2p)?p

p1?p 从而

pN?pN?1?(1?2p)?p???????[pN?2?(1?2p)?p]?(1?2p)?p???????pN?2?(1?2p)2?p?(1?2p)?p???????pN?3?(1?2p)3?p?(1?2p)2?p?(1?2p)?p ???????p?(1?2p)N?1i?0N?1?p?(1?2p)ii?0N?2???????p?(1?2p)i1?(1?2p)N1?(1?2p)N???????p??1?(1?2p)2(a)

QN?Q0(1?pN)?(1?Q0)pN???????Q0?(1?2Q0)pN1?(1?2p)N???????Q0?(1?2Q0)2(b)

?1?(1?2p)N?limQN?lim?Q0?(1?2Q0)?N??N??2??

1?2Q01??????????????Q0??22因此与Q0无关。 由于

QN?p{xN?0}1

???????p{x0?0}?(1?pN)?p{x0?1}?pN?2与p{x0?0}?Q0无关，因此pN?

1，C=0。 24.8 一PCM语音通信系统，已知信号带宽W=4000 Hz，采样频率为2W，且采

用8级幅度量化，各级出现的概率为1/2，1/4，1/8，1/16，1/32，1/32，1/32，1/32。试求所需的信息速率.

111119解：H(V)???pklogpk?log2?log4?log8?log16??4log32? bit

24816324k∴信息速率R?fsH(V)?8000?9?18000 bit/s 4

4.9 在数字电视编码中，若每帧为500行，每行划分成600个像素，每个像素采用8电平量化，且每秒传送30帧时，试求所需的信息速率。 解：每个像素信息量为I?log8?3 bit

每秒传输30帧，即30?500?600?9?106个像素 ∴R?9?106?3?2.7?107 bit/s

4.10 带宽为3 kHZ，信噪比为30 dB的电话系统，若传送时间为3分钟，试估计

可能传送话音信息的数目。 S解：()dB=30dB=103=1000

NS则C?Wlog(1?)?3000log(1?1000)?R bit/s=29.9 Kb/s

N又传送时间t=30分钟=180 s

∴信息量为29.9?180=5.382 Mbit 4.12 若要以R=105?bit/s的速率通过一个带宽为8 kHz、信噪比为31的连续信道

传送，可否实现？

解：根据SHANNON公式

C?Wlog(1?S)?8000log32?40 Kb/s N当连续信道为高斯信道时，C

第五章 离散信道编码定理

5.1 设有一DMC，其转移概率矩阵为

?1/21/31/6??1/61/21/3? ????1/31/61/2??若Q(x1)=1/2，Q(x2)?Q(x3)=1/4，试求两种译码准则下的译码规则，并计算误码率。

解：

（1）最大后验概率译码准则

首先计算 p(x?y)?p(y1)?p(x)py(?x)

p(y)111111317?????? p(y2)? p(y3)? 2246438324212p(x1?y1)? p(x1?y2)? p(x1?y3)?

327132p(x2?y1)? p(x2?y2)? p(x2?y3)?

987213p(x3?y1)? p(x3?y2)? p(x3?y3)?

987?p(x1?y1)?p(x3?y1)?p(x2?y1) p(x(2x?1?y2)?p p(x(1x?3?y3)?p∴译码规则为

2y)?p(3x? 2y)p(2x? 3y)3y)?y1?x1 y2?x1 y3?x3

1111?11?11∴Pe?????????

2644?36?24（2）最大似然准则译码

计算p(y?x)

?p(y1?x1)?p(y1?x3)?p(y1?x2)

p(y(2y?1x)?2?x2)?p p(y(3y?2x)?3?x3)?pp(2y? 3x)p(3y? 1)x∴译码规则

y1?x1 y2?x2 y3?x3

1?11?1?11?1?11?1∴Pe????????????????

2?36?4?63?4?36?2显然它不是最佳。

第六章 线性分组码

6.1 设有4个消息a1,a2,a3,和a4被编成长为5的二元码00000，01101，10111，11010。试给出码的一致校验关系。若通过转移概率为p<1/2的BSC传送，试给出

最佳译码表及相应的译码错误概率表示式。 解：

?0?0（1）C?m?G???1??10?p1????001???p10?0?p01p11p02p12?010??0???01??1??10101011000110?1?? 1??0??10010??11010??01011? ?H?从而构造出G??????01101???00101??（2） 根据最小距离译码准则，可得伴随式与错误图样的对应关系如下

001?00100 101?10100 010?01000 110?00010 011?00001 111?00110 100?10000 000?00000

5432（3）P?1?(1?p)?5(1?p)p?2(1?p)p e

6.4 设二元(6,3)码的生成矩阵为

?100011?? G??010001????001110??试给出它的一致校验矩阵为。

解：

?001100??

101010H＝?????110001??