7、土要性能指标:有效性和可靠性有效性:系统传输消息(或信息)的“速度”,又称传输速率。在模拟系统中用信息速率Rb/s表示;在数字系统中用比特率R,b/s或码元速率Ry(B)表示。N进制码元速率和比特率之间的关系如下R,=RH=log2N可靠性:系统传输消息或信息的可靠程度。又称误信率、误码率或误比特率。在模拟通信系统中用误信率或均方误差来表示,在数字通信系统中用误码率或误比特率来表示。1.2例题详解例1-1一个由字母A、B、C、1)组成的字,对于传输的每:个字母用二进制脉冲编码,00代替A,01代替B,10代替C.11代替I.每个脉冲宽度为5ms:(1)不同的字母是等可能出现时,试计算传输的平均信息速率。(2)若每个字母出现的可能性分别为PA=1/S,PB=1/4,Pc=1/4,P =3/10试计算传输的平均信息速率。解:(1)不同的字母是等可能出现,即出现概率均为1/4。11每个字母的平均信息量为H=4×4kog2 4二2比特/符号因为每个脉冲宽度为5ms,所以每个字母所占用的时问为2 × 5 × 10-3 = 10-2 s1每秒传送符号数为10-2=100符号/秒平均信息速率为2×100=200b/s(2)平均信息量为11.1-1oe1131-3H-=1.985比特/符号1020210210020平均信息速率为1.985×100=198.5b/s例1-2-个离散信号源每毫秒发出4种符号中的个,各相互独立符号出现的概率分别为0.4、0.3、0.2.0.1。求该信号源的平均信息量和信息速率。解:利用摘的计算公式,平均信息量为Z Ploga P:H=-7-1=- (0.4log20.4 + 0.3log20.3 + 0.2log20.2 + 0.1log20.1)=1.85比特/符号信息速率为H×1Re=1.85×103b/s10-31.3习题解答1.3.1设英文字母E出现的概率为0.105,x出现的概率为0.002。试求E及x的信息量。:3-
1解:E的信息量5=3.25bitIt=log2 0.1051x的信息量5=8.97bit1x=log20.0021.3.2某信息源的符号集由A、B、C、D和E组成,设每符号独立出现,其出现概率分别为1/4、1/8、1/8、3/16和5/16。试求该信息源符号的平均信息量。解:平均信息量,即信息源的摘≥P(r,)logaP(a)H=1.13135.15110g24111log2 8log28log21616l082 16418816″~2.23比特/符号1.3.3设有四个消息A,B、C、D分别以概率1/4、1/8、1/8和12传送,每一消息的出现是相互独立的,试计算其平均信息量。P(r;)logz P(r;)解:平均信息量H=i=1111110g21Foeag-音o22110g24-842=1.75比特/符号1.3.4国际莫尔斯电码用点和划的序列发送英文字母,划用持续3单位的电流脉冲表示,点用持续1个单位的电流脉冲表示;且划出现的概率是点出现概率的1/3:(1)计算点和划的信息量;(2)计算点和划的平均信息量。解:(1)因为划橱现的概率是点出现概率的1/3,所以,点出现的概率为P,=3/4,划出现的概率为Pz=1/4。3故,点的信息量11=-1og2~0.415bit划的信息量12 = - log2 4=2bit31(2)平均信息量H=× 0.415 +×2=0.81比特/符号441.3.5设一信息源的输出由128个不同符号组成,其中16个符号出现的概率为1/32,其余112个出现概率为1/224。信息源每秒发出1000个符号,且每个符号被此独立。试计算该信息源的平均信息速率。111解:平均信息量H=-16×立log232112×224l0=6.405比特/符号log2224平均信息速率R,=6.405×1000=6405b/s1.3.6设一数字传输系统传送二进制码元的速率为1200b/s,试求该系统的信息速率;若该系统改成传送16进制信号码元,码元速率为2400b/s,则这时的系统信息速率为多少?解:传送二进制码元时R,=RB2log2N=RB2log22=1200b/s传送十六进制码元时R=RBl6log2N=RB16log216=2400×4=9600b/s1.3.7消息源以概率P1=1/2,P2=1/4,P3=1/8,P4=1/16,Ps=1/16发送5种消息符号m1,m2,m3,m4,ms。若每个消息符号出现是独立的,求每个消息符号的信息量。解:每个消息符号的信息量分别为.4
11= kog2 =Ii = log2 p.=fbit11=l0g21/4=2 bitI2 = log P211. = logz 1/8I3 = logz P,= 3 bit11f4 = logz p.=log2 1/16-4 bit11Is = logz P,=10g21/16= 4 bit1.3.8设有4个消息符号,其出现概率分别为1/4、1/8、1/8、1/2各消息符号出现是相对独立的。求该符号集的平均信息量解:利用摘的计算公式,平均信息量为4 P,log2 P:H=i-1111.75比特/符号log24+1og28log286log22.4881.3.93若题1.3.2中信息源以1000b/s速率传送信息,则传送1小时的信息量为多少?传送1小时可能达到的最大信息量为多少?解:由题1.3.2已算得:H=2.23比特/符号,所以传送1小时的信息量为I=2.23×1000×3600=8.028MbitI当符号等概时有最大嫡Hmx =-5×=2.32比特/符号log23传送1小时的信息量的最大值为Irmax = 2.32 × 1000 × 3600 = 8.352 Mbit1.3.10汉字电报中每位十进制数字代码出现概率如表1.3.1所示,求该离散信源的。表1.3.1汉字电报中数字代码的出现概率数字0213A56789概率0.260.160.080.0620.060.0630.1550.0620.0480.052解:离散信息源的摘为H=ZPlog2P,=3.06比特/符号:.1.3.11证明两离散信息源α1,1条件摘和摘之间满足如下关系:H(Y/X)≤H(Y)。证:因为H(Y) -H(Y/X) =I(X,Y)≥0所以H(Y/X)≤H(Y),证毕。1.3.12已知非对称二进制信道,输人符号的概率场为(0.1)r1.r213P,P2)4.4[P(0/0)P(1/0)1[0.80.21信道转移概率矩阵为求:LP(0/1)P(1/1)/=L0.10.9).5
(1)输出符号集Y的平均信息量H(Y);(2)条件摘H(X/Y)与H(Y/X);(3)平均互信息量X,Y)。3111×0.8+解; (1)P(y) = P(y = 0) =× 0.1 =Y4404×0.2+4×0.9=291P(y2) = P(y = 1) =AX40故输出符号集Y的平均信息量11_29,29llenH(Y) = -=0.849比特/符号401082 406-40log240(2)条件摘22(r;)P(y;/z;)logP(yj/t,)H(Y/X)=-i=l j=1=-P(1)P(y1/xi)log2P(y//a)-P(2)P(y1/2)logzP(y1/r2)-P(1)P(y2/1)log2P(y2/,) -P(2)P(y2/2)log2P(y2/2)820.02g0.4a4= 0.532 bit平均互信息量I(X,Y)=H(Y)-H(Y/X)=(0.849-0.532)bit=0.317bit又因为I(X,Y) =H(X)-H(X/Y)所以条件嫡H(X/Y) = H(X) - I(X, Y) = (0.811 - 0.317) bit = 0.494 bit(3)平均互信息量I(X,Y)=0.317bit1.4补充练习1.4.1已知八进制数字信号的传输速率为1600波特,试问变换成二进制数字信号时的传输速率为多少?1.4.2已知二进制数字信号的传输速率为2400b/s,试问变换成四进制数字信号时,传输速率为多少波特?1.4.3试问四进制、八进制的每一波形所含的信息量是二进制每一波形所含信息量的多少倍?1.4.4若采用3作为信息量对数的底,试求该信息量单位与比特单位的关系。1.4.5英文字母中e"的出现概率为0.105,“c"的出现概率为0.023,""的出现概率为0.001,分别计算它们的自信息量。1.4.6同时掷两个般子,也就是各面呈现的概率都是1/6,求:(1)"3和5同时出现”这一事件的自信息量;(2)“两个1同时出现"这一事件的自信息量;(3)两个点数的各种组合(无序对)的摘或平均信息量;(4)两个点数之和的炳;(5)两个点数中至少有一个是1的自信息量。.6
1.4.7某一无记忆信源的符号集为10,11,知po=1/4,P1=3/4。(1)求符号的平均摘;(2)由100个符号构成的序列,求某一特定序列(例如有m个“0"和(100-m)个"1")的自信息量的表达式。(3)计算(2)中的序列的摘。7