例3:试求图中二进制对称信道的容量 其中Px1)=a,P(x)=1-a 解】根据信道容量的定义式, 需要求出 发送端 接收端 (X)=H=H(/X 的最大值。 上式右端第二项为 H(Y/X)=∑∑p(x,y)og2p(y/x,) i=1j=1 将P(x1)=a,P(x2)=1-a和转移概率p,q代入上式,得出 H(r/X=-aplog, p-(1-a)plog, p-aug log, g-(1-a)log, q 上式可以化简为 Y/X)=-plog, p-glog, 9 将上式代入X,Y)=H()=H(/X) 得到X)=H(Y)+pbe2P+qog2q
11 ➢ 例3：试求图中二进制对称信道的容量。 其中P(x1 ) = ，P(x2 ) = 1 - 。 【解】根据信道容量的定义式， 需要求出 的最大值。 上式右端第二项为 将P(x1 ) = ，P(x2 ) = 1 - 和转移概率p, q代入上式，得出 上式可以化简为 将上式代入 得到 p p q q 发送端 接收端 x2 x1 y1 y2 I(X;Y) = H(Y) − H(Y / X ) = = = − 2 1 2 1 2 ( / ) ( , )log ( / ) i j i j j i H Y X p x y p y x H(Y / X) = −plog 2 p −(1−)plog 2 p −qlog 2 q −(1−)log 2 q H(Y / X) = −plog 2 p − qlog 2 q I(X;Y) = H(Y) − H(Y / X ) I X Y H Y p p q q 2 2 ( ; ) = ( ) + log + log
I(X, n)=H(r)+plog, p+glog2 q 当H(Y为最大时,上式达到最大。H(Y)的最大值等于1,故 C=maxI(X, n=1+plog2 p+glog2 q=1-H(p) 按照上式画出的曲线: 10 C 0 0.25 0.5 0.75 二进制对称信道的误码率P P=∑P(e/x,)P(x) 式中,P(e/x;)为给定输入x1条件下的误码率,所以有 Pe=qP(x,)+qP(x2)=q 上式表明无条件误码率P等于条件误码率P(y/x),i≠j 12
12 当H(Y)为最大时，上式达到最大。H(Y)的最大值等于1，故 按照上式画出的曲线： ➢ 二进制对称信道的误码率Pe 式中，P( e/xi )为给定输入xi 条件下的误码率，所以有 上式表明无条件误码率Pe等于条件误码率P( yj / xi )，i j。 I X Y H Y p p q q 2 2 ( ; ) = ( ) + log + log max[ ( ; )] 1 log log 1 ( ) 2 2 C = I X Y = + p p + q q = − H p C = = 2 1 ( / ) ( ) i e i i P P e x P x Pe = qP(x1 ) + qP(x2 ) = q