《信息论》课程PPT教学课件：第二章 信息量和熵

22离散集的平均自信 息量一熵 ●●●●●

2.2 离散集的平均自信 息量－熵

●●● ●●●● ●●●●● ●●●● 熵 ●●●●● ●●●● H(x)=∑(x)logq(x) 集Ⅹ中事件出现的平均不确定性 例22.1H() 例22.2

熵 H(x) = − q(x)log q(x) 集X中事件出现的平均不确定性 例2.2.1 H(p) 例2.2.2