4.2离散无记忆信道
4.2 离散无记忆信道
离散无记忆信道(定义4.2.1,4.2.2) px(ylx)=p(y Ix) n=l 平稳信道 p(yn=j xn=k)=p(ym=j xm=k)
离散无记忆信道(定义4.2.1,4.2.2) 1 ( | ) ( | ) N N n n n p p y x = y x = 平稳信道 p(y j | x k) p(y j | x k) n = n = = m = m =
● ●●4 例:二元对称信道 ●p=0.1 0 1-p 0 p 1 1-p 1
例:二元对称信道 ⚫ p=0.1 1-p 1-p p p 1 1 0 0
信道容量 K-1J-1 l(x:)=∑∑QpUk)log k=0j=0 apu i-
信道容量 1 1 1 0 0 0 ( | ) ( ; ) ( | )log ( | ) K J k K k j i i p j k I X Y Q p j k Q p j i − − − = = = =
信道容量 。定义4.2.3离散无记忆信道的信道容量定义 为: C=max I(X;Y {Qk} 即C为改变输入分布时,使每个符号所能含有 的平均互信息量的最大值。相应的分布称为 最佳分布。 信道容量表示了信道传送信息的最大能力
信道容量 ⚫ 定义4.2.3 离散无记忆信道的信道容量定义 为: 即C为改变输入分布时,使每个符号所能含有 的平均互信息量的最大值。相应的分布称为 最佳分布。 信道容量表示了信道传送信息的最大能力 { } max ( ; ) Qk C I X Y =