7.4统计编码 高效编码的主要方法是尽可能去除信源中的冗余成份, 从而以最少的数码率传递最大的信息量。冗余度存在于像 素间的相关性及像素值出现概率的不均等性之中,对于有 记忆性信源来说首先要去除像素间的相关性,从而达到压 缩数码率的目的。对于无记忆性信源来说,像素间没有相 关性,可以利用像素灰度值出现概率的不均等性,采用某 种编码方法,也可以达到压缩数码率的目的。这种根据像 素灰度值岀现概率的分布特性而进行的压缩编码叫统计编 码 2021年2月20日 数字图象处理演示稿纪玉波制作
2021年2月20日 数字图象处理演示稿 纪玉波制作 (C) 1 7.4 统计编码 高效编码的主要方法是尽可能去除信源中的冗余成份， 从而以最少的数码率传递最大的信息量。冗余度存在于像 素间的相关性及像素值出现概率的不均等性之中，对于有 记忆性信源来说首先要去除像素间的相关性，从而达到压 缩数码率的目的。对于无记忆性信源来说，像素间没有相 关性，可以利用像素灰度值出现概率的不均等性，采用某 种编码方法，也可以达到压缩数码率的目的。这种根据像 素灰度值出现概率的分布特性而进行的压缩编码叫统计编 码
74.1离散图像信息的熵 幅图像如果有s1,s2,…,S共q种幅度值,并且出 现的概率分别为P1,P2,…,Pa,那么每一种幅值所具有 的信息量分别为1og2(1/P1),1og2(1/P2),…,1og2(1/P) 由此,其平均信息量可由下式表示: H 1092 P P log p 把这个平均信息量叫做熵 如果一个图像信源能输出K个独立的消息,当这 些消息出现的概率彼此相等时,那么这个信源的熵 最大 2021年2月20日 数字图象处理演示稿纪玉波制作
2021年2月20日 数字图象处理演示稿 纪玉波制作 (C) 2 7.4.1 离散图像信息的熵 一幅图像如果有s1,s2,…,sq共q种幅度值，并且出 现的概率分别为P1,P2,…,Pq，那么每一种幅值所具有 的信息量分别为log2(1/P1),log2(1/P2),…,log2(1/Pq)。 由此，其平均信息量可由下式表示： 把这个平均信息量叫做熵。 如果一个图像信源能输出K个独立的消息，当这 些消息出现的概率彼此相等时，那么这个信源的熵 最大
7.4.2编码效率与冗余度 为了确定一个衡量编码方法优劣的准则,首先讨论 下编码效率与冗余度的问题。设某个无记忆信源共有M个 消息,记作{u1,u2,…,u}。其中消息u(i=1,2,,M)各自出 现的概率分别为{P1P2,PM}。可把这个信源用下式表示: M PP P 根据该信源的消息集合,在字母集A={a1a2…,an}中 选取a进行编码。一般情况下取二元字母集A∈{0,1} 通常,这一离散信源中的各个消息出现的概率并不相等 根据信息论中熵的定乂,可计算出该信源的熵如下式 2021年2月20日 数字图象处理演示稿纪玉波制作
2021年2月20日 数字图象处理演示稿 纪玉波制作 (C) 3 7.4.2编码效率与冗余度 为了确定一个衡量编码方法优劣的准则，首先讨论一 下编码效率与冗余度的问题。设某个无记忆信源共有M 个 消息，记作{u1 ,u2 ,…,uM}。其中消息ui (i=1,2,…,M）各自出 现的概率分别为{P1 ,P2 ,…PM}。可把这个信源用下式表示： 根据该信源的消息集合，在字母集A={a1 ,a2 ,…,an}中 选取ai进行编码。一般情况下取二元字母集A∈{0,1}。 通常，这一离散信源中的各个消息出现的概率并不相等。 根据信息论中熵的定义，可计算出该信源的熵如下式：
H(X)=∑Plog2P i=1 式中H(X)代表熵,P代表第i个消息出现的概率。 例如,设一离散信源如下: 2488 可算出该信源的熵 H(X)=∑Plog2P log log 2 log, 48 111og2 88 84 2021年2月20日 数字图象处理演示稿纪玉波制作
2021年2月20日 数字图象处理演示稿 纪玉波制作 (C) 4 式中H(X)代表熵,Pi代表第i个消息出现的概率。 例如，设一离散信源如下： 可算出该信源的熵：
设对应于每个消息的码字由N个符号组成。也就是说每 个消息所对应的码字长度各为N那么,每个消息的平 均码长可用下式表示: M N=∑PN 式中N代表平均码长,M为信源中包含的消息的个数, P为第i个消息出现的概率,N为第i个消息对应的码长。 平均而言,每个符号所含有的熵为 S=H(X 2021年2月20日 数字图象处理演示稿纪玉波制作
2021年2月20日 数字图象处理演示稿 纪玉波制作 (C) 5 设对应于每个消息的码字由Ni个符号组成。也就是说每 个消息所对应的码字长度各为Ni ,那么，每个消息的平 均码长可用下式表示： 式中 代表平均码长，M为信源中包含的消息的个数， Pi为第i个消息出现的概率，Ni为第i个消息对应的码长。 平均而言，每个符号所含有的熵为