42离散无记忆信道 ●●●●● ●●●● ●●。●●
4.2 离散无记忆信道
●●● ●●●●● ●●● 离散无记忆信道(定义4.1.2) PN(ylx)=p(n Ix,) 平稳信道 pn=jxn=k=pm=j xm=k)
离散无记忆信道(定义4.2.1,4.2.2) 1 ( | ) ( | ) N N n n n p p y x = y x = 平稳信道 p(y j | x k) p(y j | x k) n = n = = m = m =
●●● ●●●●● ●●● 例:二元对称信道 ●●● ●●●● ●●0● 0.1 1-p p
例：二元对称信道 ⚫ p=0.1 1-p 1-p p p 1 1 0 0
●●● ●●●●● ●●● 信道容量 ●●●●● ●●●● ●●0● K I(X;Y)=∑∑Q(|k)logk pOlk k=0j=0 Op(ili i=0
信道容量 1 1 1 0 0 0 ( | ) ( ; ) ( | )log ( | ) K J k K k j i i p j k I X Y Q p j k Q p j i − − − = = = =
●●●●● ●●●● 信道容量 ●●● ●●●● ●●0● ●定义42.3离散无记忆信道的信道容量定义 为: C=maxI(X; Y) t2k 即C为改变输入分布时,使每个符号所能含有 的平均互信息量的最大值。相应的分布称为 最佳分布。 信道容量表示了信道传送信息的最大能力
信道容量 ⚫ 定义4.2.3 离散无记忆信道的信道容量定义 为： 即C为改变输入分布时，使每个符号所能含有 的平均互信息量的最大值。相应的分布称为 最佳分布。 信道容量表示了信道传送信息的最大能力 { } max ( ; ) Qk C I X Y =