●●●●● ●●●● 离散无记忆源 ●●0 ●●● ●●●● 字母表A={a1…,ak},概率p1,…,pk,长为L的源输 出序列a={u1,…,u4},共有K种序列 码符号字母表B={b1…,b)},以码符号表示源输 出序列,D元码 ●等长D元码,不等长D元码 ●单义可译码,每个消息都至少有一个码字与之 对应 ●单义可译码存在充要条件DNKL N≌ LlogK/ogD
离散无记忆源 ⚫ 字母表A={a1 ,…,aK },概率p1 ,…,pK ,长为L的源输 出序列uL={u1 ,…,uL}，共有KL种序列 ⚫ 码符号字母表B={b1 ,…,bD},以码符号表示源输 出序列，D元码 ⚫ 等长D元码，不等长D元码 ⚫ 单义可译码，每个消息都至少有一个码字与之 对应。 ⚫ 单义可译码存在充要条件DN≥KL N≥LlogK/logD
●●●●● ●●●● DMs的等长编码 ●●0 ●●● ●●●● NogD≥LH(U) ●H(U)是统计平均值,L达到无限时,一个具体 的源输出序列的平均每符号的信息量才等于 ●选L足够长,使NogD≥L[H(U)+e1]
DMS的等长编码 ⚫ NlogD≥LH(U) ⚫ H(U)是统计平均值，L达到无限时，一个具体 的源输出序列的平均每符号的信息量才等于 H(U) ⚫ 选L足够长，使 NlogD≥L[H(U)+eL ]