微分摘的特点:1、微分熵只是实际的有限项,去掉了无穷大项不能作为连续随机变量不确定性的度量公式2、不能把微分视为自信息量的统计平均:因为连续随机变量取值于连续区间,有无穷多个取值点,每一点的概率均为零,自信息量无意义。3、微分腐可用于比较两个连续随机变量不确定性4、不具备非负性
2、不能把微分熵视为自信息量的统计平均:因 为连续随机变量取值于连续区间,有无穷多个取 值点,每一点的概率均为零,自信息量无意义。 3、微分熵可用于比较两个连续随机变量不确定 性 4、不具备非负性 微分熵的特点: 1、微分熵只是实际熵的有限项,去掉了无穷大项。 不能作为连续随机变量不确定性的度量公式
例2.10(均匀分布随机变量的熵)设连续随机变量X的概率密度函数为,xe[a,b]求微分炳。fx(x)= b-a0,x[a,b]解:由微分炳定义式得h(X)=-1og-dx = log(b-a)b-ab-a讨论:若b-a<l,则h(X)<0,微分为负值。可见微分腐不具备非负性
讨论:若b-a<1,则h(X)<0,微分熵为负值。可见微 分熵不具备非负性 例2.10 (均匀分布随机变量的熵)设连续随机变 量X的概率密度函数为 1 , [ , ] ( ) 0, [ , ] X x a b f x b a x a b 求微分熵。 解:由微分熵定义式得 1 1 ( ) log log( ) b a h X dx b a b a b a