信息论与编码理论第二章习题答案(王育民)

部分答案,仅供参考。

2.1信息速率是指平均每秒传输的信息量

点和划出现的信息量分别为log3,log3,

2一秒钟点和划出现的次数平均为

0.2?121?0.4?3344?15

4一秒钟点和划分别出现的次数平均为10.5

那么根据两者出现的次数,可以计算一秒钟其信息量平均为10log3?5log3?15log3?5

42442

2.3 解:

(a)骰子A和B,掷出7点有以下6种可能:

A=1,B=6; A=2,B=5; A=3,B=4; A=4,B=3; A=5,B=2; A=6,B=1 概率为6/36=1/6,所以信息量

-log(1/6)=1+log3≈2.58 bit

(b) 骰子A和B,掷出12点只有1种可能: A=6,B=6

概率为1/36,所以信息量

-log(1/36)=2+log9≈5.17 bit

2.5解:

出现各点数的概率和信息量:

1点:1/21,log21≈4.39 bit; 2点:2/21,log21-1≈3.39 bit; 3点:1/7,log7≈2.81bit; 4点:4/21,log21-2≈2.39bit; 5点:5/21,log(21/5)≈2.07bit; 6点:2/7,log(7/2)≈1.81bit 平均信息量:

(1/21)×4.39+(2/21)×3.39+(1/7)×2.81+(4/21)×2.39+(5/21)×2.07+(2/7)×1.81≈2.4bit

2.7解:

X=1:考生被录取; X=0:考生未被录取; Y=1:考生来自本市;Y=0:考生来自外地; Z=1: 考生学过英语;Z=0:考生未学过英语

P(X=1)=1/4, P(X=0)=3/4; P(Y=1/ X=1)=1/2; P(Y=1/ X=0)=1/10;

P(Z=1/ Y=1)=1, P(Z=1 / X=0, Y=0)=0.4, P(Z=1/ X=1, Y=0)=0.4, P(Z=1/Y=0)=0.4 (a) P(X=0,Y=1)=P(Y=1/X=0)P(X=0)=0.075, P(X=1,Y=1)= P(Y=1/X=1)P(X=1)=0.125

P(Y=1)= P(X=0,Y=1)+ P(X=1,Y=1)=0.2

P(X=0/Y=1)=P(X=0,Y=1)/P(Y=1)=0.375, P(X=1/Y=1)=P(X=1,Y=1)/P(Y=1)=0.625 I(X ;Y=1)=?P(x/Y?1)I(x;Y?1)??P(x/Y?1)logxxP(x/Y?1)

P(x)=P(X?0/Y?1)logP(X?0/Y?1)P(X?1/Y?1) ?P(X?1/Y?1)logP(X?0)P(X?1)精选

=0.375log(0.375/0.75)+0.625log(0.625/0.25)=(5/8)log5-1≈0.45bit

(b) 由于P(Z=1/ Y=1)=1, 所以 P(Y=1,Z=1/X=1)= P(Y=1/X=1)=0.5 P(Y=1,Z=1/X=0)= P(Y=1/X=0)=0.1

那么P(Z=1/X=1)= P(Z=1,Y=1/X=1)+ P(Z=1,Y=0/X=1)=0.5+ P(Z=1/Y=0,X=1)P(Y=0/X=1)=0.5+0.5*0.4=0.7

P(Z=1/X=0)= P(Z=1,Y=1/X=0)+ P(Z=1,Y=0/X=0)=0.1+P(Z=1/Y=0,X=0)P(Y=0/X=0)=0.1+0.9*0.4=0.46

P(Z=1,X=1)= P(Z=1/X=1)*P(X=1)=0.7*0.25=0.175 P(Z=1,X=0)= P(Z=1/X=0)*P(X=0)= 0.46*0.75=0.345

>>灞曞紑鍏ㄦ枃<<
12@gma联系客服:779662525#qq.com(#替换为@) 苏ICP备20003344号-4