42离散无记忆信道 ●●●●● ●●●● ●●。●●
4.2 离散无记忆信道
●●●●● ●●●● 离散无记忆信道(定义424.22) Pn(ylx)=p(n Ix 平稳信道 pn=jxn=k=pm=j xm=k)
离散无记忆信道(定义4.2.1,4.2.2) = = N n N n n p y x p y x 1 ( | ) ( | ) 平稳信道 p(y j | x k) p(y j | x k) n = n = = m = m =
●●●●● ●●●● 例:二元对称信道 ●●0 ●●● ●●●● 0.1 1-p p
例：二元对称信道 ⚫ p=0.1 1-p 1-p p p 1 1 0 0
●●●●● ●●●● 信道容量 ●●0 ●●● ●●●● K I(X;Y)=∑∑Q(|k)logk pOlk k=0j=0 Op(ili i=0
信道容量 1 1 1 0 0 0 ( | ) ( ; ) ( | )log ( | ) K J k K k j i i p j k I X Y Q p j k Q p j i − − − = = = =
●●●●● ●●●● 信道容量 ●●0 ●●● ●●●● ●定义42.3离散无记忆信道的信道容量定义 为: C=maxI(X; Y) t2k 即C为改变输入分布时,使每个符号所能含有 的平均互信息量的最大值。相应的分布称为 最佳分布。 信道容量表示了信道传送信息的最大能力
信道容量 ⚫ 定义4.2.3 离散无记忆信道的信道容量定义 为： 即C为改变输入分布时，使每个符号所能含有 的平均互信息量的最大值。相应的分布称为 最佳分布。 信道容量表示了信道传送信息的最大能力 { } max ( ; ) Qk C I X Y =