离散无记忆(简单)信源的等长编码 ■渐进无错编码(简单地说就是:当R>H(U1)时,可以 适当地编码和译码使得译码错误的概率p仼意小 格地说就是:)设给定了编码设备的编码速率R8 R0>H(U1)。则对任意的e>0,总存在一个Lo,使得 意的L>Lo,都有对(U1U2…U1)的等长编码和对应的译 码方法,满足 ①实际的编码速率R=MogD/L≤R, ②译码错误的概率p≤ε。 ■渐进无错编码的原理大数定律。随着L的增加, U1U2…U)的所有事件中,某些事件所占的比例越来 越小(→>0),其发生的概率却越来越大(→1)
离散无记忆(简单)信源的等长编码 ◼ 渐进无错编码 (简单地说就是:当R>H(U1 )时,可以 适当地编码和译码使得译码错误的概率pe任意小。严 格地说就是:) 设给定了编码设备的编码速率R0, R0>H(U1 )。则对任意的ε>0,总存在一个L0,使得对任 意的L>L0,都有对(U1U2…UL )的等长编码和对应的译 码方法,满足 ①实际的编码速率R=NlogD/L≤R0, ②译码错误的概率pe <ε。 ◼ 渐进无错编码的原理 大数定律。随着L的增加, (U1U2…UL )的所有事件中,某些事件所占的比例越来 越小(→0),其发生的概率却越来越大(→1)
离散无记忆(简单)信源的等长编码 ■不能渐进无错的编码(简单地说就是:当R<H(U1)时 无论怎样编码和译码都不能使译码错误的概率p任意 小。严格地说就是:)设给定了编码设备的编码速率 R足 ,R0<H(U)。则无论怎样编码和译码都不能同时满 ①实际的编码速率R≤R, ②译码错误的概率p任意小
离散无记忆(简单)信源的等长编码 ◼ 不能渐进无错的编码 (简单地说就是:当R<H(U1 )时, 无论怎样编码和译码都不能使译码错误的概率pe任意 小。严格地说就是: ) 设给定了编码设备的编码速率 R0,R0<H(U1 )。则无论怎样编码和译码都不能同时满 足 ①实际的编码速率R≤R0, ②译码错误的概率pe任意小