一、选择题
1. 以下哪一项是信息熵的基本单位？
A. 比特
B. 焦耳
C. 瓦特
D. 牛顿
2. 在信源编码中，如果一个符号出现的概率为0.5，则该符号的信息量是多少？
A. 1比特
B. 2比特
C. 3比特
D. 4比特
二、填空题
1. 信息论的创始人是__________。
2. 香农第一定理指出，在无噪声信道中，信息传输速率的最大值称为__________。
三、简答题
1. 什么是信源编码？其目的是什么？
2. 请解释什么是互信息，并说明它在信息论中的作用。
四、计算题
1. 假设一个二进制信源，其符号“0”和“1”的概率分别为0.7和0.3，求该信源的熵。
2. 已知某信道的输入符号集为{A, B}，输出符号集为{X, Y}，转移概率矩阵为：
| | X| Y|
|-------|------|------|
| A | 0.8| 0.2|
| B | 0.1| 0.9|
计算该信道的容量。
五、论述题
1. 试述香农第二定理的主要内容及其意义。
2. 结合实际应用，谈谈你对信息论的理解与认识。
请根据以上题目完成试卷，并在规定时间内提交答案。祝各位考生取得优异成绩！
