3,信息熵的基本性(6) 网络安金 NETWORK SECURIY V.极值性 信源各个状态为零概率分布时,熵值最 大,并且等于信源输出状态数,因为 当P(x1)=P(x2)=…=P(x)=1N时, H(X)=∑og=bogN(2.5)
3. 信息熵的基本性质(6) V. 极值性 信源各个状态为零概率分布时，熵值最 大，并且等于信源输出状态数，因为 当 时， (2.5) P(x1 ) = P(x2 ) == P(xs ) =1/ N N N N H X N i log 1 log 1 ( ) 1 = − = =
例题 网络安金 NETWORK SECURIY 例,信源有两种状态时,概率空间 P(x1)1-P(x1) 其H(x与P(x)关系如图所示,当P(x)=12时熵有最大值; 当信源输出是确定的,即P(x1)=1则H(X)=0,此时表 明该信源不提供任何信息;反之,当信源输出为等概 率发生时,即P(x1)=12时信源的熵达到最大值,等于 lbit倌信息量。 信息熵函数曲
例 题 例，信源有两种状态时，概率空间 其 与 关系如图所示,，当 =1/2时熵有最大值； 当信源输出是确定的，即 ，则 ，此时表 明该信源不提供任何信息；反之，当信源输出为等概 率发生时，即 时信源的熵达到最大值，等于 1bit信息量。 − = P(x ) 1 ( ) [ , ( )] 1 1 1 2 P x x x X P xi H (X ) P(x) P(x) P(x1 ) =1 H(X ) = 0 P(x1 ) =1/ 2 信息熵函数曲线 P(x) 0 0.5 1 明 文 H(x)
4信丸熵在信息加鲁编码中的作用(1) 网络安金 NETWORK SECURIY 通过熵和信息量的概念,可计算加密系统中各 部分的熵。令明文熵为H(M)=H(m),密钥 熵H(K)=H(k),密文熵H(C)=H(c")。这里M、 K和C分别是明文、密钥和密文空间,m、k、 c分别是它们的字母集,l,r和v分别是明文、密 钥、和密文的长度。则明文和密文之间的互信 息以及密钥与密文之间的互信息分别是 (k";c")=H(k")-H(k'c") (2.6) (m;c")=H(m)-H(m/c") (2.7)
4. 信息熵在信息加密编码中的作用(1) 通过熵和信息量的概念，可计算加密系统中各 部分的熵。令明文熵为 ，密钥 熵 ，密文熵 。这里M、 K和C分别是明文、密钥和密文空间，m、k、 c分别是它们的字母集，l ,r和v分别是明文、密 钥、和密文的长度。则明文和密文之间的互信 息以及密钥与密文之间的互信息分别是： ( ) ( ) l H M = H m ( ) ( ) r H K = H k ( ) ( ) v H C = H c ( ; ) ( ) ( ) l v l l v I m c = H m − H m c ( ; ) ( ) ( ) r v r r v I k c = H k − H k c (2.6) (2.7)
4信息熵在信息加编码中的作用(2) 网络安金 NETWORK SECURIY 因为只要密文、密钥确定后,明文也就得到了,所以 H(m)(c,k)=0:故1(m:(c,k)=H(m) 定理:对任意加密系统 (m;c)≥H(m)-H(K) (2.8) 从该理论我们可以看出,密钥熵越大,密文中所包含的 明文信息量就越小。一个加密系统中,若其密文与明 文之间的互信息 ,则密码分析者无论截 获多大的密文,均代能得到关明文的任何信息。这 种加密系统称为完善加密系统,或无条件加密系统
4. 信息熵在信息加密编码中的作用(2) 因为只要密文、密钥确定后，明文也就得到了，所以 ,故 定理：对任意加密系统 从该理论我们可以看出，密钥熵越大，密文中所包含的 明文信息量就越小。一个加密系统中，若其密文与明 文之间的互信息 ，则密码分析者无论截 获多大的密文，均不能得到有关明文的任何信息。这 种加密系统称为完善加密系统，或无条件加密系统。 ( )( , )) = 0 l v r H m c k ( ;( , )) ( ) l v r l I m c k = H m I(m ;c ) H(m ) H(K) l v l − (2.8) ( ; ) = 0 l v I m c
4信熵在信息加密编码中的作用(3) 网络安金 NETWORK SECURIY 在对密文攻击下,完善加密系统是安全的,但它不能 保证在已知明文或选择性明文攻击下也是安全的。因 此,完善保密系统存在的必要条件是 H(K)≥H(m) (29) 证明:若H(K)<H(m),则由前一个定理可 得,(m1;c")>0,所以I(m1;c)=0的必要条件是 H(K)≥H(m)
4. 信息熵在信息加密编码中的作用(3) 在对密文攻击下，完善加密系统是安全的，但它不能 保证在已知明文或选择性明文攻击下也是安全的。因 此，完善保密系统存在的必要条件是 证明：若 ，则由前一个定理可 得， ，所以 的必要条件是 ( ) ( ) l H K H m (2.9) ( ) ( ) l H K H m ( ; ) 0 l v I m c ( ; ) = 0 l v I m c ( ) ( ) l H K H m