1
模拟试题一
一、概念简答题(共
10
题,每题
5
分)
1.
简述离散信源和连续信源的最大熵定理?/p>
答:离散无记忆信源,等概率分布时熵最大?/p>
连续信源,峰值功率受限时,均匀分布的熵最大。平均功率受限时,高斯分布的熵最大。均值受限时,指
数分布的熵最大?/p>
2.
什么是平均自信息(信息熵)?什么是平均互信息?比较一下两个概念的异同之处?/p>
3.
解释等长信源编码定理和无失真变长信源编码定理,说明对于等长码和变长码,最佳码的每符号平均?/p>
长最小为多少?编码效率最高可达多少?
.
答:等长信源编码定理:对于任?/p>
,只?/p>
,则?/p>
L
足够长时必可
使译码差?
?/p>
变长信源编码定理:只?/p>
,一定存在一种无失真编码?/p>
等长码和变长码的最小平均码长均?/p>
,编码效率最高可?/p>
100%
?/p>
4.
解释最小错误概率译码准则,最大似然译码准则和最小距离译码准则,说明三者的关系?/p>
答:最小错误概率译码准则下,将接收序列译为后验概率最大时所对应的码字?/p>
最大似然译码准则下,将接收序列译为信道传递概率最大时所对应的码字?/p>
最小距离译码准则下,将接收序列译为与其距离最小的码字?/p>
三者关系为:输入为等概率分布时,最大似然译码准则等效于最小错误概率译码准则。在二元对称无记?/p>
信道中,最小距离译码准则等效于最大似然译码准则?/p>
5.
设某二元码字
C={111000
?/p>
001011
?/p>
010110
?/p>
101110}
?/p>
①假设码字等概率分布,计算此码的编码效率?/p>
②采用最小距离译码准则,当接收序列为
110110
时,应译成什么码字?
.
答:
1
?/p>
2
)令接收序列?
,则?
?
?
?
,故接收序列应译?/p>
010110
?/p>