《信息论与编码 Information Theory and Coding》课程教学资源（课件讲稿）第5章 有噪信道编码

第5章有噪信道编码 第五章有噪信道编码 信息理论与编码 1

第五章 有噪信道编码 信息理论与编码 1 第5章 有噪信道编码

主要内容 1、译码规则对错误概率的影响 2、两种典型的译码规则 3、信道编码对平均差错率和信息率的影 咆 4、汉明距离 5、有噪信道编码定理（香农第二定理 6、有噪信道编码逆定理 7、线性分组码 第五章有噪信道编码 信息理论与编码 2

第五章 有噪信道编码 信息理论与编码 2 主要内容 1、译码规则对错误概率的影响 2、两种典型的译码规则 3、信道编码对平均差错率和信息率的影 响 4、汉明距离 5、有噪信道编码定理（香农第二定理） 6、有噪信道编码逆定理 7、线性分组码

实际信道由于信道噪声的干扰，传输 错误不可避免。为了降低平均差错率，可 先对消息进行编码— 信道编码，再送入 信道传送。 第五章有噪信道编码 信息理论与编码 3

第五章 有噪信道编码 信息理论与编码 3 实际信道由于信道噪声的干扰，传输 错误不可避免。为了降低平均差错率，可 先对消息进行编码——信道编码，再送入 信道传送

1、译码规则对错误概率的影响 译码是一种映射： F(b)=a,∈A,j=1,2,s 信道正好入的是4，=>正确译码 信道输入的不是☑，=>错误译码 译码正确概率 PX=aIY=b)=PLFb)川b,」 译码错误概率： P(elb)=P[X+F(b)IY=b]=1-P[F(b)b] 第五章有噪信道编码 信息理论与编码 A

第五章 有噪信道编码 信息理论与编码 4 1、译码规则对错误概率的影响 译码是一种映射： ， 信道正好输入的是 =>正确译码 信道输入的不是 =>错误译码 译码正确概率： 译码错误概率： * ( ) F b a A j j   j s 1, 2,... * aj * aj * ( | ) ( ) | P X a Y b P F b b j j j j        ( | ) ( ) | 1 ( ) | P e b P X F b Y b P F b b j j j j j             

平均差错率： P(P(eb,) 名 P(b){1-P[F(b,)Ib,]} = 1一 若P[F(b)b,] 或 -1->P[F(]P[b,IF(,] E=∑.Pa,b)=∑.Pa)Pbla) Y.X-a Y.X-a 好的译码规则应使平均差错率小。 第五章有噪信道编码 信息理论与编码 5

第五章 有噪信道编码 信息理论与编码 5 平均差错率： 或 好的译码规则应使平均差错率小。   1 1 ( ) ( | ) ( ) 1 ( ) | s e j j j s j j j j P P b P e b P b P F b b            1 1 1 ( ), 1 ( ) | ( ) s j j j s j j j j P F b b P F b P b F b                     * * , , ( , ) ( ) ( | ) e i j i j i Y X a Y X a P P a b P a P b a      