1
第二?/p>
信源与信息度?/p>
习题解答
1.
某大学设置五个学院,每个学院的学生数分别?/p>
学院?/p>
数学
物理
外语
外贸
医学
人数?/p>
300
400
500
600
200
问“某学生王某是外语学院学生”这一消息提供的信息量是多少?
解:
总人数为?/p>
300+400+500+600+200=2000
?/p>
是外语学院学生的概率为:
500
0.25
2000
?/p>
同理计算其它学院学生概率后,
得信源的概率空间为:
1
2
3
4
5
(
)
0.15
0.2
0.25
0.3
0.1
X
x
x
x
x
x
p
X
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?
“学生王某是外语学院学生”这一消息提供的信息量?/p>
3
3
(
)
lb
(
)
lb
0.25
2
I
x
p
x
?/p>
?/p>
?/p>
?/p>
?/p>
比特
2.
同时扔出两个正常的骰子,也就是各面呈现的概率都是
1/6
,求?/p>
?/p>
1
?/p>
事件?/p>
2
?/p>
5
同时呈现”的自信息量?/p>
?/p>
2
?/p>
事件“两?/p>
4
同时呈现”的自信息量?/p>
?/p>
3
?/p>
事件“至少呈现一?/p>
1
”的自信息量?/p>
解:
?/p>
1
)事件?/p>
2
?/p>
5
同时呈现”的概率?/p>
1
(
)
18
p
A
?
,该事件的自信息量:
1
(
)
lb
(
)
lb
4.170 bit
18
I
A
p
A
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
2
)事件“两?/p>
4
同时呈现”的概率?/p>
1
(
)
36
p
B
?/p>
,该事件的自信息量:
1
(
)
lb
(
)
lb
5.170 bit
36
I
B
p
B
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
3
)事件“至少呈现一?/p>
1
”的概率?/p>
11
(
)
36
p
C
?/p>
,该事件的自信息量:
11
(
)
lb
(
)
lb
1.711 bit
36
I
C
p
C
?/p>
?/p>
?/p>
?/p>
?/p>
3.
字母?/p>
e
?/p>
在英文中出现的概率是
0.103
,字母?/p>
c
”出现的概率?/p>
0.022
,字母?/p>
x
”出现的概率
?/p>
0.001
,求这些字母各自的自信息量?/p>
解:
?/p>
1
)字母?/p>
e
”的自信息量?/p>
(
)
lb
(
)
lb0.103
3.279 bit
I
e
p
e
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
2
)字母?/p>
c
”的自信息量?/p>
(
)
lb
(
)
lb0.022
5.506 bit
I
c
p
c
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
3
)字母?/p>
x
”的自信息量?/p>
(
)
lb
(
)
lb0.001
9.966 bit
I
x
p
x
?/p>
?/p>
?/p>
?/p>
?/p>