6.1平均错误概率和译码规则 反之,若收到“0译作“1”,收到“1”译作“0”,则平 均错误概率为1/3,可见错误概率与译码准则有关 可见,错误概率既与信道的统计特有关,又与码 规有关。 译码规则设离散单符号信道的输入符号集为A={a i=1,2,…,r输出符号集B=[b],j=1,2,…,s。 若对每一个输出符号b都有一个确定的数f(b)使b对 应于惟一的一个输入符号a1,则这样的函数称为译码规 则,记为f(b)=a71=1,2,…,r=1,2,,S ash mfy@ustc.edu.cn 信息论与编码技术-信道纠错编码
mfy@ustc.edu.cn 信息论与编码技术-信道纠错编码 6/ 反之，若收到“0”译作“1”，收到“1”译作“0”，则平 均错误概率为1/3，可见错误概率与译码准则有关。 可见，错误概率既与信道的统计特性有关，又与译码 规则有关。 译码规则 设离散单符号信道的输入符号集为 输出符号集 。 若对每一个输出符号 都有一个确定的数 使 对 应于惟一的一个输入符号 ，则这样的函数称为译码规 则，记为 F b j = ai ( ) i =1，2，，r j =1，2，，s ={ }, A ai = = [ ], 1 2 B b j i ， ， ，s i r =1 2 ， ， ， j b j b i a ( ) F bj
61平均错误概率和译码规则 例6.1(p200) 0.50.30.2 0.20.30.5 0.30.30.4 可以设计译码准则: F(b1)=a1 F(b) A:F(b2)=a2 B: F(b,) F(b2)=a2 译码规则的选择应该有一个依据,一个自然的依据就 是使平均错误概率最小。 ash mfy@ustc.edu.cn 信息论与编码技术-信道纠错编码
mfy@ustc.edu.cn 信息论与编码技术-信道纠错编码 7/ 例6.1（p200） 1 2 3 1 2 3 0.5 0.3 0.2 0.2 0.3 0.5 0.3 0.3 0.4 b b b a a a P = 1 1 2 2 3 3 ( ) ( ) ( ) F b a A F b a F b a = = = ： 1 1 2 3 3 2 ( ) ( ) ( ) F b a B F b a F b a = = = ： 可以设计译码准则： 译码规则的选择应该有一个依据，一个自然的依据就 是使平均错误概率最小
6.1平均错误概率和译码规则 有了译码规则以后,收到b,的情况下,译码的条件正确概率为 P(F(b,76=P(a, 1b,) 而错误译码的概率为收到b后,推测发出除了a之外 其它符号的概率:P(e/b)=1-P(a/b) 可以得到平均错误译码概率为: P=∑(b)P(eb)=∑P(b)(1-P(a/b) 它表示经过译码后平均接收到一个符号所产生错误的大 ,也称平均错误概率。 如何设计译码规则F(b)=a,使P最小 ash mfy@ustc.edu.cn 信息论与编码技术-信道纠错编码 8/
mfy@ustc.edu.cn 信息论与编码技术-信道纠错编码 8/ ( ( ) / ) ( / ) P F b b P a b j j i j = 而错误译码的概率为收到 后，推测发出除了 之外 其它符号的概率： j b i a ( / ) 1 ( / ) P e b P a b j i j = − 可以得到平均错误译码概率为： 1 1 ( ) ( / ) ( )(1 ( / )) m s e j j j i j j j P p b P e b p b P a b = = = = − 它表示经过译码后平均接收到一个符号所产生错误的大 小，也称平均错误概率。 如何设计译码规则 F b a P ( ) , j i E = 使 最小？ 有了译码规则以后，收到 bj 的情况下，译码的条件正确概率为：
6.1平均错误概率和译码规则 由前边的讨论可以看出,为使P(e/b,)最小,就应选择 P(F(b)/b为最大,即选择译码函数F(b)=a并使之满 足条件:Pa/b)≥Pa/b)a≠a 也就是说,收到一个符号以后译成具有最大后验概率 的那个输入符号。这种译码准则称为“最大后验概率准则” 或“最小错误概率准则”。 根据贝叶斯定律,上式也可以写成 P(b, /(a) p(b,/ap(a) erence P(b,) 0(0 P(b,) ash mfy@ustc.edu.cn 信息论与编码技术-信道纠错编码 9/
mfy@ustc.edu.cn 信息论与编码技术-信道纠错编码 9/ 由前边的讨论可以看出，为使 最小，就应选择 为最大，即选择译码函数 并使之满 足条件： ( ( ) / ) P F b b j j ( / ) P e bj * ( ) F b a j = * * ( / ) ( / ) P a b P a b a a j i j i 也就是说，收到一个符号以后译成具有最大后验概率 的那个输入符号。这种译码准则称为“最大后验概率准则” 或“最小错误概率准则” 。 根据贝叶斯定律，上式也可以写成 * * ( / ) ( ) ( / ) ( ) ( ) ( ) j j i i j j P b a P a P b a P a P b P b
61平均错误概率和译码规则 即:P(b,/a)P(a)≥P(b,/a2)P(a) 当信源等概分布时,上式为: P(b,/a)≥P(b,/a1) 这称为最大似然译码准则,方法是收到一个b,后, 在信道矩阵的第j列,选择最大的值所对应的输入符号作 为译码输出。可进一步写出平均错误概率 =∑P(b)P(e/b)=∑1-PIF(b)b}P(b) 1-∑P[F(b)l=∑pab)∑PF(b,)b XY ∑pab)∑Pnb=∑P(ab) YX-a mfy@ustc.edu.cn 信息论与编码技术-信道纠错编码 10/
mfy@ustc.edu.cn 信息论与编码技术-信道纠错编码 10/ 即： * * ( / ) ( ) ( / ) ( ) P b a P a P b a P a j j i i 当信源等概分布时，上式为： * ( / ) ( / ) P b a P b a j j i 这称为最大似然译码准则，方法是收到一个 后， 在信道矩阵的第j列，选择最大的值所对应的输入符号作 为译码输出。 j b 可进一步写出平均错误概率： * , * , , ( ) ( / ) {1 [ ( )/ ]} ( ) 1 [ ( ) ] ( ) [ ( ) ] ( ) [ ] ( ) E j j j j j Y Y j j i j j j Y X Y Y i j j i j X Y Y Y X a P P b P e b P F b b P b P F b b p a b P F b b p a b P a b P a b − = = − = − = − = − =