即时码的树图构造法 我们可以用树图的形式构造即时码,如 树根—码字的起点 0 0 树枝数、码的数 01 10 节点数—码字的一部分 0 001 0000 100 节数——码长 0001 1000 端点—码字 码4的树图 码3的树图满树—等长码 非满树——变长码
即时码的树图构造法 我们可以用树图的形式构造即时码,如 0 1 0 0 1 1 1 1 01 001 0001 码4的树图 1 0 1 1 0 0 0 0 10 100 1000 码3的树图 树根——码字的起点 树枝数——码的数 节点数——码字的一部分 节数——码长 端点——码字 满树——等长码 非满树——变长码
克拉夫特( Kraft)不等式 定理对于码符号为X=(x,x2,x}的任意唯可译码, 所对应的码长为,,,k,则必定满足 反之,若码长满足上式,则一定存在这样的唯一可译 码
克拉夫特(Kraft)不等式 定理 对于码符号为 的任意唯一可译码, 所对应的码长为 ,则必定满足: 1 2 { , ,..., } X x x x = q 1 2 , ,..., q k k k 1 1 i q k i r − = 反之,若码长满足上式,则一定存在这样的唯一可译 码
所有的码 非奇异码 唯一可译码 即时码
所有的码 非奇异码 唯一可译码 即时码
§3.3定长编码定理一1-描述 定长(等长)码信源编码定理: 对离散,无记忆、平稳、遍历信源其符号序列:Ⅹ=(X1Ⅹ2…X), 可用K个符号Y=NY1,Y2Yk)进行等长编码,对任意e>0,0>0, 只要满足: (KLlog meH(X)+a 则:当足够大时,可使译码差错小于6, 反之,当(KL)ogmH(X2ε时,译码一定出错 解释:定长编码定理给岀了信源进行等长编码所需码长的理论极限 值
§3.3定长编码定理-1-描述 定长(等长)码信源编码定理: 对离散,无记忆、平稳、遍历信源其符号序列:X=(X1 ,X2 …..XL ), 可用KL个符号Y=(Y1,Y2….YkL) 进行等长编码,对任意ε>0,δ>0, 只要满足: (KL/L)log m≥HL(X)+ε 则:当L足够大时,可使译码差错小于δ, 反之,当 (KL/L)log m≤H(X)-2ε 时,译码一定出错。 解释:定长编码定理给出了信源进行等长编码所需码长的理论极限 值