5.2状态的分类及性质 一.状态的分类 二.状态的性质 (一)周期性 (二)常返性 三.状态空间的分解
5.2 状态的分类及性质 一.状态的分类 二.状态的性质 (一)周期性 (二)常返性 三.状态空间的分解 1
一.状态的分类 定义:若存在≥0使得p>0,则称从状态i可达状态j 记为i→j。 如果ij且j→i,则称i与j互通(相通),记为 i←>1
定义 : 若存在n≥0使得 ,则称从状态 i 可达状态 j, 记为i→j 。 ( ) 0 n ij p i j 一.状态的分类 2 如果i→j且 j →i ,则称 i 与 j 互通(相通),记为
定理:互通是一种等价关系.即 √自反性i; √对称性ifi>j,then j→i; √传递性ifij,jk,then i>k. 证明:如果i→k,k→j,则由定义,存在r≥1和n≥1,使得: p,2>0,p8>0 根据C一K方程,我们有: pg=∑p%p9≥p限pg>0(keS) meS 因此,i→j。同理可以证明相通的情形
3 定理:互通是一种等价关系. 即 if , then if , , then . i i i j j i i j j k i k ; ; ✓自反性 ✓对称性 ✓传递性
状态的分类 定义:称互通的两个状态属于同一个类。 注1:类是集合,是状态空间S按“互通”为标准划 分成的子集,其元素为状态 注2:同一类的状态之间都是互通的;任何一个状态 不能同时属于两个不同的类 即任意两个类或不相交或相同
称互通的两个状态属于同一个类. 状态的分类 4 定义 : 同一类的状态之间都是互通的;任何一个状态 不能同时属于两个不同的类. 注1 : 类是集合,是状态空间S按“互通”为标准划 分成的子集,其元素为状态. 注2 : 即任意两个类或不相交或相同
例:请对下述Markov链进行状态分类 1.疾病死亡模型 2.赌徒破产模型 3. S={L,2,3} 4 0 P= .0 6
例:请对下述Markov链进行状态分类 1.疾病死亡模型 2.赌徒破产模型 5 3 1 4 4 111 424 3 1 4 4 0 0 P = 3. S = {1, 2 3}