第一章 绪论
1-1英文字母中e出现概率为0.105, c出现的概率为0.023, j出现的概率为0.001。试分别计算它们的信息量。
解题思路：考查信息量的基本概念，用公式I?loga()。底数a一般采用2，这时信息量单位为bit
解：Ie??log2Pe??log20.105?3.25bit，
1PIc??log2Pc??log20.023?5.44bit，
Ij??log2Pj??log20.001?9.97bit
1-2有一组12个符号组成的消息，每个符号平均有四种电平，设四种电平发生的概率相等，试求这一组消息所包含的信息量。若每秒传输10组消息，则一分钟传输多少信息量？ 解题思路：考查平均信息量及信息量叠加的概念。每个符号有四种等概电平可能，因此先用
H(x)??Pilog2i?141计算其平均信息量。整个消息的总信息量是12个符号的各自平均信息Pi1,i?1,2,3,4。 4?量（相等）的和。 解：（1）N?12，Pi?每个符号的平均信息量为I?log2?1则由12个符号组成的一?log24?2比特/符号，
Pi组消息的信息量为I?N*I?24bit
（2）每秒传输10组消息，则一分钟传输10×60组信息，因此信息传输速率为10×60×24
比特/分钟＝14400比特/分钟
1-3消息序列是由4种符号0、1、2、3组成的，四种符号出现的概率分别为3/8、1/4、1/4、1/8，而且每个符号出现都是相互独立的，求下列长度为58个符号组成的消息序列“2 0 1 0 2 0 1 3 0 3 2 1 3 0 0 1 2 0 3 2 1 0 1 0 0 3 2 1 0 1 0 0 2 3 1 0 2 0 0 2 0 1 0 3 1 2 0 3 2 1 0 0 1 2 0 2 1 0”的信息量和每个符号的平均信息量。
解题思路：考查平均信息量的概念。可以先求出每个符号的信息量，根据消息序列中各符号出现的次数得到消息序列的总信息量，再用符号数平均从而得到符号平均信息量。也可以先根据H(x)??Pilog2i?141直接求出这四种符号的平均信息量，再根据消息序列中符号个数Pi得到消息序列的总平均信息量。 解：方法一：
0，1，2，3每符号各自携带的信息量分别为
I0??log231?1.415bit； I1??log?2bit； 284I2??log211?2bit； I3??log2?3bit； 48 则这58个符号所带的总信息量为
I=23?I0???????????????????=23?1.415????2????2???3； ?=110.545?bit 而每个符号的平均信息量
I?方法二：
每符号平均信息量为 H(x)?H(x)?1.91?bit/符号 58?i?1413Plog?i2Pi881l2og??2341log?4282lo?gb8?i符号t1.9 /消息序列总平均信息量为
I?58?H(x)?110.2?bit
1-4某气象员用明码报告气象状态，有四种可能的消息：晴、云、雨、雾。若每个消息是等
概率的，则发送每个消息所需的最少二进制脉冲数是多少？若该4个消息出现的概率不等，且分别为1/4、1/8、1/8、1/2，试计算每个消息的平均信息量。
解题思路：考查从工程角度对信息量的定义。传输两个相互等概的消息时，要区别这两种消息，至少需要1位二进制脉冲；若要传输4个独立等概的消息之一，则至少需要2位二进制脉冲。
解：（1）需log24?2个 （2）H(x)??Plogii?1421111??log24?2??log28??log22?1.75比特/消息 Pi482
1-5设数字信源发送-1.0V和0.0V电平的概率均为0.15，发送+3.0V和+4.0V电平的概率均为0.35。试计算该信源的平均信息量。
解题思路：考查信源平均信息量计算方法，采用H(x)?解：
?Pilog2i?141计算。 PiH(x)???PilogPii?14???????????(2?0.15?log20.15?2?0.35?log20.35) ???????????1.879?bit/符号
1-6对二进制信源，证明当发送二进制码元1的概率和发送二进制码元0的概率相同时，信源熵最大，并求最大的信源熵。
解题思路：设发“1”的概率和发“0”的概率分别为P和1-P，则信源熵可表达为P的函数H(P)，问题转化为求H(P)的最值及取到最值时P的取值。
（1）证明：设发“1”的概率为P，则发“0”的概率为1-P。这时信源熵为
11?(1?P)log2 P1?PdH(P)?0，则得到 欲使信源熵H(P)取最大值，令
dP H(P)?Plog2
log21111?P()?log2?(1?P)[?(?1)]?0 P?Pln21?P(1?P)ln2111?log2，求得P?1?P?。 P1?P2 由此得到log2 即当发送二进制码元“1”的概率和发送二进制码元“0”的概率相同时，信源熵最大。 （2）解：将P?1代入H(P)的表达式，得到H(P)|1?1bit/symbol。
P?22
1-7一个由字母A、B、C、D组成的信源，对传输的每一个字母用二进制脉冲编码：00代表A，01代表B，10代表C，11代表D。又知每个二进制脉冲的宽度为5ms。 ① 不同字母等概率出现时，试计算传输的平均信息速率以及传输的符号速率； ② 若各字母出现的概率分别为：PA?15 , PB?14 , PC?14 , PD?310，试计算平 均信息传输速率。 解题思路：考查信息传输速率和符号传输速率的概念及其关系。由每个脉冲的时间宽度可得 每个字母（符号）的时间宽度，其倒数就是符号传输速率r。无论4个字母等概与否，符号 传输速率是一定的。根据教材式（1.10）R?rH(x)，分别计算出①、②中的字母（符号） 平均信息量H(x)，就可以得到平均信息传输速率R。
－－
解：（1）每个脉冲宽5ms，则每个字母（符号）占时宽为2×5×103＝102秒
1?100符号/秒 ?2101每个字母的平均信息量为H(x)??log2?2比特/符号
4每秒传送符号数为r?平均信息速率为R?rH(x)?2?100?200?bit/s （2）平均信息量为H(x)?11310?log25?2??log24??log2?1.9855比特/符号 54103平均信息速率为1.9855?100?198.55bit/s
1-8设数字键盘上有数字0，1，2，3，4，5，6，7，8，9，发送任一数字的概率都相同。试问应以多快的速率发送数字，才能达到2 b/s的信息速率？ 解题思路：仍然考查的是对R?rH(x)的理解。