信息论与编码试卷09-10-1-A-答案

杭州电子科技大学信息论与编码期末试卷及答案

多少信息量。

杭州电子科技大学学生考试卷 (A) 卷考试课程 课程号 学生姓名信息论与编码

r1 = 2k 解：根据题意有 R = 0 .7

r 2 = 5k w1 = 1 / 8 w2 = 1 / 4 ,W = , p( w1 / r1) = 0.8 0 .3 0.36 0.64

考试日期 教师号 任课教师 班级

成绩

由 p( w1) = p(r1) p ( w1 / r1) + p( r 2) p ( w1 / r 2) p( w1 / r 2) = 4 / 15 所以 p( w2 / r 2) = 1 p ( w1 / r 2) = 11 / 15 得知 5kΩ电阻的功耗为 1/4W,获得的自信息量为 lb( p( w2 / r 2)) = 0.448bit

学号(8 位)

一、填空题(每空 2 分，共 32 分) 。1. 在现代通信系统中，信源编码主要用于解决信息传输中的

有效性

,信道编码主要用 安全性 。 a1 三、 (18 分)已知 6 符号离散信源的出现概率为 1 2 a2 1 4 a3 1 8 a4 1 16 a5 1 32 a6 1 ,试计算它的 32

于解决信息传输中的

可靠性

,加密编码主要用于解决信息传输中的

1.75bit/符号 。 2. 离散信源 X = x1 x 2 x 3 x 4 ,则信源的熵为 p ( x) 1 / 2 1 / 4 1 / 8 1 / 8 3. 对称 DMC 信道的输入符号数为 n,输出符号数为 m,信道转移概率矩阵为 pij,则该信

道的容量为 C = log m +

j =1

∑ pij log pij 。n

m

熵、Huffman 编码和费诺编码的码字、平均码长及编码效率。解：该离散信源的熵为 H ( x) = ∑ pi lb( pi ) =i =1 6

4. 采用 m 进制编码的码字长度为 Ki,码字个数为 n,则克劳夫特不等式为 ∑ m Ki ≤ 1 ,i =1

1 1 1 1 1 1 lb 2 + lb 4 + lb8 + lb16 + lb32 + lb32 2 4 8 16 32 32

=1.933 bit/符号 Huffman 编码为：

它是判断

唯一可译码存在

的充要条件。 前向纠错 、 反馈重发 和 混合纠错 。 。

5. 差错控制的基本方式大致可以分为

符号 概率 a1 0.5 a2 0.25 a3 0.125 a4 0.0625 a5 0.03125 1 0.0625 0 0 平均码长 l = 1 0.125 0 1 0.25 0 1 0.5 0 1 1.0

码字 1 01 001 0001 00001 00000

6. 如果所有码字都配置在二进制码树的叶节点，则该码字为

唯一可译码

7. 齐次马尔可夫信源的一步转移概率矩阵为 P,稳态分布为 W,则 W 和 P 满足的方程为 W=WP

。

8. 设某信道输入端的熵为 H(X),输出端的熵为 H(Y),该信道为无噪有损信道，则该信

道的容量为

MAX H(Y)

。 等概_____分布情况下，信

9. 某离散无记忆信源 X,其符号个数为 n,则当信源符号呈

a6 0.03125

源熵取最大值___log(n) 。10. 在信息处理中，随着处理级数的增加，输入消息和输出消息之间的平均互信息量趋于

1 1 1 1 1 1 * 1 + * 2 + * 3 + * 4 + * 5 + * 5 = 1.933码元 / 符号 2 4 8 16 32 32H ( x) l = 100%

减少

。

编码效率为 η =

二、 12 分)设有一批电阻，按阻值分 70%是 2kΩ,30%是 5kΩ;按功耗分 64%是 1/8W, (36%是 1/4W。现已知 2kΩ电阻中 80%是 1/8W,假如

得知 5kΩ电阻的功耗为 1/4W,问获得

第1页 共3页

杭州电子科技大学信息论与编码期末试卷及答案

第2页 共3页

杭州电子科技大学信息论与编码期末试卷及答案

第3页 共3页