传输模式 收端 发端 C;许 正确传输 用 许C1 码 组 用 码C 不可检出错误传输 组 C24禁 的 用 C’码 组 P~信道传输特征 P~译码方法
C 0 C 1 C i ┋Cj ┋C2k- 1 收端 传输模式 P E～信道传输特征 P E～译码方法 C 2 k ┋C i ’ ┋ C 2 n - 1许用码组禁用码组 C 0 C 1 ┋C i ┋ C 2 k - 1 许用码组 发端
、信道编码的基本原理(检错、纠错原理) 寻找一种编码方法,使所加的监督码元最少,而检错纠错能 力又高,且便于实现。 理论基础:香农第二定理 对于一个给定的有扰信道,如信道容量为C,只要发送端 以低于c的速率R发送信息,则一定存在一种编码方法, 使编码错误概率p随码长n的增加,按指数下降到任意小的 值。也就是说,可以通过编码使通信过程实际上不发生错 误,或使错误控制在允许数值之下。即: P≤enE
二、信道编码的基本原理（检错、纠错原理） 寻找一种编码方法，使所加的监督码元最少，而检错纠错能 力又高，且便于实现。 理论基础：香农第二定理 对于一个给定的有扰信道，如信道容量为C，只要发送端 以低于C的速率R发送信息，则一定存在一种编码方法， 使编码错误概率p随码长n的增加，按指数下降到任意小的 值。也就是说，可以通过编码使通信过程实际上不发生错 误，或使错误控制在允许数值之下。即： nE R[ ] P e−
玛长 随机编码指数 P<expl-nE(y 信息传输率 ※E(R)意义:n给定,则最佳编码的P上界既定
信息传输率 E(R) 码长 Pexp{-nE(R)} ※ E (R)意义：n给定，则最佳编码的P上界既定
香农第二理说明 1.适用于DMC,有记忆信道及连续信道; 2.P→>0,可靠编码条件 「R<<C时,N足够长,必存在最佳编码,使P→0 R≤C 输入等概,R=C时,最佳编码也存在(有效性,可靠性最优) R≤C等价于M=2M=2(E>0)存在最佳 R>C等价于M=2M=2NC+(E>0)不存在最佳
１． 适用于DMC，有记忆信道及连续信道; 0 R C R C N PE R C− → = 时， 足够长，必存在最佳编码，使 输入等概， 时，最佳编码也存在（有效性，可靠性最优） ( ) ( ) 2 2 ( 0) 2 2 ( 0) NR N C NR N C R C M R C M − + = = = = 等价于 存在最佳 等价于 不存在最佳 ２．PE→0，可靠编码条件：
表述二、设某信道有个输入符号,s个输出符号, 信道容量为C。只要码长N足够长,总可以在输入 的r个符号的集合中找到M(M≤2NC,为任意 小的正数)个码字,分别代表M个等可能性的消 息,组成一个码以及相应的译码规则,使信道输 出端的平均错误译码概率P达到任意小。 有噪信道编码逆定理 设离散无记忆信道[X,p(v|x),Y]的信道容 量为C,R是信息传输率,当R>C时,则无论码长N 多长,总找不到一种编码,使译码的平均错误概率 任意小
有噪信道编码逆定理 设离散无记忆信道［X，p(y|x)，Y］的信道容 量为C，R是信息传输率，当R>C时，则无论码长N 多长，总找不到一种编码，使译码的平均错误概率 任意小。 表述二、设某信道有r个输入符号，s个输出符号， 信道容量为C。只要码长N足够长，总可以在输入 的r N个符号的集合中找到M（M2 N(C-)，为任意 小的正数）个码字，分别代表M个等可能性的消 息，组成一个码以及相应的译码规则，使信道输 出端的平均错误译码概率PE达到任意小