《信息论基础》试卷（期末）（B2卷）

试题编号：

重庆邮电大学2008/2009学年2学期 《信息论基础》试卷（期末）（B卷）（开卷）

题 号 得 分 评卷人

一、填空题（共25分，每空1分）

一 二 三 四 五 六 七 总 分 1、连续信源的绝对熵为 。

2、离散无记忆信源在进行无失真变长信源编码时，编码效率最大可以达

到 。

3、无记忆信源是指 。

4、离散无记忆信源在进行无失真变长信源编码时，码字长度是变化的。根据信源符号

的统计特性，对概率大的符号用 码，对概率小的符号用 码，这样平均码

长就可以降低，从而提高 。

5、为了提高系统的有效性可以采用 ，为了提高系统的可靠性可

以采用 。

6、八进制信源的最小熵为 ，最大熵为 。

《信息论基础》试卷第1页

7、若连续信源输出信号的平均功率为1瓦特，则输出信号幅度的概率密度函数为

时，信源具有最大熵，其值

为 。

8、即时码是指 。

9、无失真信源编码定理指出平均码长的理论极限值为 ，此时编码效率

为 ，编码后的信息传输率为 。

10、一个事件发生概率为0.125，则自信息量为 。

11、信源的剩余度主要来自两个方面，一是 ，

二是 。

12、m阶马尔可夫信源的记忆长度为 ，信源可以有 个

不同的状态。

13、同时扔一对均匀的骰子，当得知“两骰子面朝上点数之和为2”所获得的信息量为

比特，当得知“面朝上点数之和为8” 所获得的信息量为 比特。

14、在下面空格中选择填入数学符号“?，?，?，?”或“?”

H?XY? H?Y??H?X|Y? H?Y??H?X?。

《信息论基础》试卷第2页

?1?二、（5分）已知信源的概率密度函数为p(x)??b?a??0计算信源的相对熵。

a?x?b其他，

三、（10分）一个平均功率受限的连续信道，信道带宽为1MHz，信道噪声为高斯白噪声。

（1）已知信道上的信号与噪声的平均功率比值为20，计算该信道的信道容量。

（2）如果信道上的信号与噪声的平均功率比值降为10，要达到相同的信道容量，信道带宽应为多少？

（3）如果信道带宽降为0.5MHz，要达到相同的信道容量，信道上的信号与噪声的平均功率比值应为多少？

《信息论基础》试卷第3页

四、（16分）一个离散无记忆信源

x2x3x4x5x6??X??x1??P(x)??1/81/81/81/81/41/4?

????1) 求H(X)和冗余度；

2) 编成Fano码，计算编码效率； 3) 编成Huffman码，计算编码效率

《信息论基础》试卷第4页

五、（１6分）设一个离散无记忆信源的概率空间为

它们通过干扰信道，信道输出端的接收符号集为Y??b1,b2?，已知信道传输概率如下图所示。

试计算：

（1）信源X中事件x1和x2分别含有的自信息量；（２分） （2）收到信息yj(j?1,2)后，获得的关于x1的信息量；（２分） （3）信源X的信息熵；（２分）

（4）条件熵H?Y|x1?，H?Y|x2?；（２分）

（5）共熵H(XY)、信道疑义度H(X|Y)和噪声熵H(Y|X)；（６分） （6）收到消息Y后获得的关于信源X的平均信息量。（２分）

《信息论基础》试卷第5页