《信息理论与编码》课程教学课件（讲稿）第2章 信息的度量 2.8 离散有记忆信源的熵 2.9 马尔可夫信源的信息熵

2.9马尔可夫信源的信息熔2.9.1马尔可夫链一、概念设随机序列(Xn,nET)为一马尔可夫过程，T={0,1,2,为离散的时间参数集合,X,E状态空间集S={St,S2,,S}

2.9 马尔可夫信源的信息熵 2.9.1 马尔可夫链 一、概念    1 2  { , } 0,1,2, , , , , n n J XnT T X S S S S    设随机序列 为一马尔可夫过程， 为离散的时间参数集合， 状态空间集 ＝

若对所有正整数nET如果条件概率均满足P(X, = S, I Xn-1 = Si-, Xn= S..,.-",X, = S,3n-21= P(X, = S, I Xn- = Si.- n-1则称随机过程(Xn,nE T)为一个马尔可夫链

1 2 1 1 1 2 1 1 { | , , , } { | } { , } n n n n n n i n i n i i n i n i n n T P X S X S X S X S P X S X S X n T                若对所有正整数 ， 如果条件概率均满足 则称随机过程 为一个马尔可夫链

直观含义：如果系统在n-1时刻处于状态S1,则在将来时刻n的状态S,与过去时刻n-2,….1的状态Sn-2,Sn-1..S,无关，仅与现在时刻n-1的状态S,-有关。即已知系统的现在，系统的将来与过去无关

直观含义：如果系统在n-1时刻处于状态Sn- 1 ,则在将来时刻n的状态Sn与过去时刻n- 2,.,1的状态Sn-2 ,Sn-1 ,.,S1无关，仅与现在 时刻n-1的状态Sn-1有关。 即 已知系统的现在，系统的将来与过去无关

1、马尔可夫链的初始分布：在马尔可夫链中，记(Pi,ieS),P,=p[X。=i)≥0,ieS且满足P;=1,ies为马尔可夫链的初始分布

1、马尔可夫链的初始分布：  , , 0,   0  1, i i i i S p i S p p X i i S p         在马尔可夫链中， 记 且满足 为马尔可夫链的初始分布

2、马尔可夫链的k步转移概率：p((m)= P[Xm+k = jl Xm=i)i,jes当k-1时称为一步转移概率：p(' (m) = p,(m)

2、马尔可夫链的k步转移概率：   ( ) ( ) | , k ij m k m p m P X j X i i j S      当k=1时称为一步转移概率： (1) ( ) ( ) ij ij p m p m 