《应用随机过程教程》教学资源（参考资料）与在算法和智能计算中的应用——第3章 随机过程的一般概念与独立增量过程

采用变量替换yn1=Sm-s,(≤k,u=yn+k后,可以很容易地算出右方的积分为 meg()ld,即我们得到了 P(N,=m, N, 2m+k)=2",(u)du 进而有 P(N k)=∑P(N,=m,N ∑x"ejsm)dm=-Js.nh 并且 P(N+-N,=k)=P(N-N2≥k)-P(N-N,≥k+1)=(g(n)-84()dh (k-1) k k 特别地还有P(N=k)=P(N4-M0-e.由此可见 P(N,=m,N#-N≥k)=P(N,=m,M+2m+k)=2」g4(a)dt =P(N1=k)P(N,u-N,≥k) 作为推论,我们得到P(N,=m,N-N=k)=P(N,=k)P(N-N,=k).这说明了 N与NN的独立性.利用类似的推理,对于Vn,V0<t1<…<tn,可得 P(N N =P(N,=m)P(N+1-N=m)…P(Nx-N+n=mn) (·(tn-tn)" 这就证明了随机过程ξ的独立增量性与 Poisson性 (3)→(2)的证明

50 采用变量替换 m l m l m k y s s l k u y + = + - £ = + ,( ), 后, 可以很容易地算出右方的积分为 ò - t k s m m e g u du m s 0 ( ) ! l l , 即我们得到了 P(N m,N m k) s = t +s ³ + ò - = t k s m m e g u du m s 0 ( ) ! l l . 进而有 P(N N k) s +t - s ³ å ¥ = = = + ³ + 0 ( , ) m P Ns m Ns t m k å ò -l ¥ = = l t k s m m m e g u du m s 0 0 ( ) ! ò = t gk u du 0 ( ) . 并且 P(N N k ) s +t - s = P(N N k) = s+t - s ³ - ( - ³ + 1) + P N N k s t s = ò - + t gk u gk u du 0 1 ( ( ) ( )) ò -l + -l - l - - l = t u k k u k k e du k u e k u 0 1 1 ] ( 1)! ! { t k u t k k e k t e k u -l -l l × = l = ! ( ) ] ! [ 0 . 特别地还有 P(N k ) t = ( ) 0 P N N k = t - = t k e k t -l l × = ! ( ) . 由此可见 P(N m, N N k ) s = t+s - s ³ P(N m,N m k ) = s = t +s ³ + ò -l = l t k s m m e g u du m s 0 ( ) ! P(N k ) = t = P(N N k) s +t - s ³ . 作为推论，我们得到 P(N m, N N k) s = t +s - s = P(N k ) = t = P(N N k) s +t - s = . 这说明了 Ns 与 Ns +t - Ns .的独立性. 利用类似的推理, 对于 n "n " < t <L < t 0 1 , , 可得 ( , , , ) P Ns = m Ns+t1 - Ns = m1 L Ns+tn - Ns+tn-1 = mn ( ) ( ) ( ) = P Ns = m P Ns +t1 - Ns = m1 LP Ns+tn - Ns+tn-1 = mn s m e m s -l l × = ! ( ) 1 1 ! ( ) 1 1 t m e m t -l l × 1 ( ) 1 ! ( ( )) - -l - - l × - n n n t t n m n n e m t t L . 这就证明了随机过程 t x 的独立增量性与 Poisson 性. (3)Þ(2)的证明

对于Ⅶn,V0<S1<…<Sn,取充分小的h1,…,hn(<maxn(S1-S),S0=0) P(S1<T1<S1+h1,…,Sn<tn<Sn+hn) P(N=0, N N。=1,N,-N In+he P(N4=0)P(NA=1)P(N2-4-4=0)…P(Mn,=1) =e.1·he-·e(e-2…,h,e+o(h1…h) 入”h1…heˉ+o(h1…hn) 除以h…hn后,令h,…,hn→0,便得到(r1…,n)在约束条件0<S1<…<Sn下的分 布密度为e.(2)得以证明 定理3.10( Poisson过程的随机分流定理) 设N为强度为λ的 Poisson过程如果把其相应的指数流看成顾客流,用与此指数流相互 独立的概率P,把每个到达的顾客,归入第一类,而以概率1-P把他归入第二类.对 i=1.2,记N,为t前到达的第i类顾客数.那么{N,:t≥0}与{N2):t≥0}分别为强度 pλ与(1-p)的 Poisson过程,而且这两个过程相互独立(这个性质称为 Poisson过程的随 机分流定理,也称为 Poisson过程在随机选取下的不变性) 证明由N是独立增量过程及归类的机制,可知N,都是独立增量过程,而且 P(N60-N≥2)=o(h),P(N0-N=1)= pλ.h+o(h),(i=1) p)λ·h+o(h)(i=2) 所以它们都是 Poisson过程下面我们先证明它们在同一个时刻的独立性:由于 r(1) P(N N,=m N 我们有 P(N=n,N(2) =m)=C n+n7 (n+m)! e-pR (PA D.e4l-p((-pZ)-=P(N =n)P(N, 2)=m) 这就证明了在固定的时刻1,N与N独立我们用类似而较为冗长的叙述,可以证明 对于任意n,m,及1,…,n;51…,sm,随机向量(N40)…N)与(N…,N)的

51 对于 n "n " < s <L < s 0 1 , , 取充分小的 , , ( max ( ), 0) h1 L hn < i£n si - si -1 s0 = ( , , ) 1 1 1 1 n n n hn P s < t < s + h L s < t < s + ( 0, 1, 0, , 1) 1 1 1 1 2 1 1 = = + - = - + = + - = n n n P Ns Ns h Ns Ns Ns h L Nt h Nt ( 0) ( 1) ( 0) ( 1) 1 1 2 1 1 = = = - - = = h hn P Ns P Nh P Ns s LP N ( ) 1 ( ) 1 1 1 2 1 1 2 n h n s h s s h s e h e e e h e o h h = -l ×l × -l × -l - - -l Ll × -l n + L ( ) 1 1 n s n n h h e o h h = l L -l n + L . 除以h1Lhn 后, 令h1 ,L, hn ® 0 , 便得到( , , ) 1 n t L t 在约束条件 n < s <L < s 0 1 下的分 布密度为 n n s e -l l . (2)得以证明. 定理３．１０ (Poisson 过程的随机分流定理) 设Nt 为强度为l 的 Poisson 过程, 如果把其相应的指数流看成顾客流, 用与此指数流相互 独立的概率 p ，把每个到达的顾客, 归入第一类, 而以概率1- p 把他归入第二类. 对 i = 1,2 ，记 (i) Nt 为t 前到达的第i 类顾客数. 那么{ : 0} (1) Nt t ³ 与{ : 0} (2) Nt t ³ 分别为强度 pl 与(1- p)l 的 Poisson 过程, 而且这两个过程相互独立. (这个性质称为 Poisson 过程的随 机分流定理，也称为 Poisson 过程在随机选取下的不变性). 证明 由Nt 是独立增量过程及归类的机制，可知 (i) Nt 都是独立增量过程, 而且 ( 2) ( ) ( ) ( ) P N N o h i t i t+h - ³ = , î í ì - × + = × + = + - = = (1 ) ( ),( 2) ( ),( 1) ( 1) ( ) ( ) p h o h i p h o h i P N N i t i t h l l . 所以它们都是 Poisson 过程. 下面我们先证明它们在同一个时刻的独立性: 由于 n n m P(Nt n, Nt m| Nt n m) Cn m p (1 p) (1) (2) = = = + = + - , 我们有 ( )! ( ) ( , ) (1 ) (1) (2) n m t P N n N m C p p e n m n n m t t t n m + l× = = = - × + -l + × l × = - l ! ( ) n p t e n p ! ((1 ) ) (1 ) m p t e m p - l × - - l ( ) ( ) (1) (2) = P Nt = n P Nt = m . 这就证明了在固定的时刻t , (1) Nt 与 (2) Nt 独立. 我们用类似而较为冗长的叙述，可以证明 对于任意 n,m , 及 n m t , ,t ;s , ,s 1 L 1 L , 随机向量 ( , , ) (1) (1) 1 n Nt L Nt 与( , , ) (2) (2) s1 sm N L N 的

独立性这就是说,随机过程{N:t≥0}与{N,:t≥0}是独立的 [注]指数流与 Poisson过程的离散时间版本 令T为独立同分布的几何分布随机序列,又k=T+…+Tk,{Nn=k}={k=n) 记参数(k,p)的负二项分布为NB(k,p),即 P(NB(k; p)=n)=Ch(1-p)"-p 由简单的概率计算可得到rk~NB(k,p),从而P(Nn=k)=P(NB(k;p)=n).此处的N, 正是起到”离散时间的 Poisson过程”的作用,即它就是"离散时间情形的 Poisson过 程".我们把它列表对比如下 流的间隔「流的到达时刻了 计数过程N1,或Nn 「连续型:指数流|指数分布ExB r(k,A)分布 Poisson 离散型:几何流几何分布负三项NB(k,P)P(Nn=k)=P(NB(k;pP)=n) 2.3与指数流有关的一些随机变量与分布 定理3.11若N为 Poisson过程,则在N,=n的条件下,(r1…,n)的条件分布密度为 f(s1…,Sn)=-l0 也就是说,如果n,…,n独立且服从U[0,而mu…,na为n,…nn按次序大小重新排 列而得的顺序随机变量:m1≤…≤no,那么在N=n的条件下,(r1…,rn)的分布密 度与(u,2…,nm)的分布密度相同 注]把上面的证明倒回去,就可以发现此定理的结论反过来也是对的,即:如果一个取非负整值的跃度 为1的非降随机过程N1,满足:N1~ Poisson1,且在N1=n的条件下,(r1…,Tn)的条件分布 密度为∫(S1…,Sn)=-lo 1010<s,其中n为N,的第n次跳跃时刻,那么N,是 Poisson过程 我们还有下述相关的结论: (1)在N1=n的条件下,τn的条件分布密度为 g,(S) Ion(s) ()P(n.s,N1=m)=(s)eo() 证明对于Ⅶn,V0<S1<…<Sn,取充分小的h1,…,b、(< max(S1-S-1),S0=0)

52 独立性. 这就是说，随机过程{ : 0} (1) Nt t ³ 与 { : 0} (2) Nt t ³ 是独立的. ［注］指数流与 Poisson 过程的离散时间版本 令Tk 为独立同分布的几何分布随机序列，又 k = T1 +L+ Tk t , {N k} { n) n = = tk = . 记参数(k, p) 的负二项分布为 NB(k; p) ，即 k n k k n P NB k p n C p p - - ( ( ; ) = ) = - (1- ) 1 1 ． 由简单的概率计算可得到 ~ NB(k; p) k t ，从而 P(N k ) P(NB(k; p) n) n = = = ．此处的Nn 正是起到＂离散时间的 Poisson 过程＂的作用， 即它就是＂离散时间情形的 Poisson 过 程＂．我们把它列表对比如下: 流的间隔Tk 流的到达时刻 k t 计数过程 Nt ，或 Nn 连续型：指数流 指数分布 Expl G(k,l)分布 Poisson lt 离散型：几何流 几何分布 负二项 NB(k; p) P(N k ) P(NB(k; p) n) n = = = 2. 3 与指数流有关的一些随机变量与分布 定理 3.１１ 若Nt 为 Poisson 过程, 则在Nt = n的条件下, ( , , ) 1 n t L t 的条件分布密度为 n n s s t n I t n f s s 1 L = 0< 1<L< £ ! ( , , ) . (3. 6) 也就是说, 如果h hn , , 1 L 独立且服从 U[0,t], 而 (1) ( ) , , h L h n 为h hn , , 1 L 按次序大小重新排 列而得的顺序随机变量: h(1) £L £h(n) . 那么在 Nt = n的条件下, ( , , ) 1 n t L t 的分布密 度与( , , ) h(1) L h(n) 的分布密度相同. [注] 把上面的证明倒回去, 就可以发现此定理的结论反过来也是对的, 即: 如果一个取非负整值的跃度 为 1 的非降随机过程 Nt ， 满足: Nt ~ Poissonlt , 且在 Nt = n的条件下, ( , , ) 1 n t L t 的条件分布 密度为 n n s s t n I t n f s s 1 L = 0< 1<L< £ ! ( , , ) , 其中 n t 为 Nt 的第n 次跳跃时刻, 那么 Nt 是 Poisson 过程. 我们还有下述相关的结论： (1) 在Nt = n的条件下, n t 的条件分布密度为 ( ) ( ) [0, ] 1 I s t ns g s n t n n D - = (3. ７) (2) ( ) ! ( ) ( , ) [0, ] e I s n s P s N n t t n n t l -l t £ = = (3. ８) 证明 对于 n "n " < s <L < s 0 1 , , 取充分小的 , , ( max ( ), 0) h1 L hn < i£n si - si -1 s0 =

就有 P(S1<τ1<S+h S,<T1<S1 N,=n) P(N,=n P(,=0)P(N4=1)P(N2-4=0)…P(N2=1)P(N--42=0) (r) n he-·e(2-)…入,h 定理3.12若s≤t,k≤n,则在N1=n条件下,N,的条件分布与二项分布 B(n,-)相同.而k的条件分布则是 P(T >,N1=n) P(rk≤slN,=n) P(N, =n) P(N, =J, N-N (2·D) ∑C(y n 推论3.13若s≤,k≤n则E(21M=m=4 证明用次序统计量的结果:独立同分布的U0,门]的随机变量,按小至大的第k个次 序随机变量的期望为 n+1 推论3.14Eτ,= +i 证明EN=E[E(xx|N=∑E(rn|N2=n)P(N,=n)

53 就有 ( , , | ) P s1 < t1 < s1 + h1 L sn < t n < sn + hn Nt = n ( ) ( , , , ) 1 1 1 1 P N n P s s h s s h N n t n n n n t = < < + < < + = = t L t t n s h s s h h t s h e n t P N P N P N P N P N n n n l -l = = - - = = - - = = ! ( ) ( 0) ( 1) ( 0) ( 1) ( 0) 1 1 2 1 1 L t n n h t s h n s h s s h e n t e h e e h e e o h h n n n -l -l -l× -l - - -l× -l - - l × ×l× × l× × + = ! ( ) ( ) 1 ( ) ( ) 1 1 1 2 1 1 L L ,( , , 0) ! ® n h1 hn ® t n L 定理 3.１２ 若 s £ t, k £ n , 则在 Nt = n 条件下, Ns 的条件分布与二项分布 ( , ) t s B n 相同. 而 k t 的条件分布则是 å= - ÷ ø ö ç è æ ÷ - ø ö ç è æ £ = = n j k j n j j k t n t s t s P(t s | N n) C 1 (3. ９) 证明 P( s | N n) t k £ t = ( ) ( , , ) 1 P N n P s s N n t j j t n j k = £ > = = + = å t t å å = - - = = - × = = - = n j k j n j j n t n n j k s t s t s t s e n t P N j,N - N n j C ( ) (1 ) ! ( ) ( ) l l . 推论３.１３ 1 , , ( | ) + £ £ = = n kt s t k n E N n k t 若 则 t . 证明 用次序统计量的结果：独立同分布的U[0,t]的随机变量，按小至大的第k 个次 序随机变量的期望为 n + 1 kt ． 推论３.１４ t e t E t Nt l × - + l t = -l 1 证明 å ¥ = = = = = 0 [ ( | )] ( | ) ( ) n E N E E N Nt E n Nt n P Nt n t t t t t

(·t) n+l nk 2=∑[n+1)-1 λ(n+1) DI 下面给出当前所用部件的寿命分布 把T解释成某工作线上第k次被更新的部件的寿命.假定它们都服从分布eNpx,那 么它们所对应的计数过程N,就是 Poisson过程.考虑当前时刻t所用的部件(注意当前时 刻t所用的部件不是第N,个,而是N+1个,因为更新了N次后,起用的应该是第N1+1个 部件)的寿命T+1,这里Tx+的随机性,不仅来自固定的部件的寿命,而且还来自N1的 随机性,所以不应该认为它服从指数分布.以下我们推导它的分布 因为rA≤1<τ+T+1,所以T+≤S就等价于t-x<TN≤s.于是 (1)当s<t时,由T41≤S,我们有N1≥1且1-s≤N<t.利用N1=n与Tn之间的 独立性及了n与Tn的独立性,由(3.7)式所给出对条件密度函数gn(u)导致 P(TN E(ELINS(,+)II-S,(IN I,tN, D e[Its(tudIIsn(t IN,=n, tN =u)g (u)da () ∑[.(e (t-a) -s) n-I 1) ).da=1 入se (2)当s≥t时,我们有0≤τN≤1,并注意用o=0,类似地得到 P(TN+≤s)=P(t T+≤s,0≤tN<D) E(ELINS(TN+I)O(TN) INI, TN D ∑ -(t-u) P(t<T≤s,N,=0 ).d+(e-e-)=1- 综合(1)与(2),我们得到

54 å å ¥ = -l× ¥ + = -l× + l × l = + - l × + = 0 1 0 ( 1)! 1 ( ) [( 1) 1] ! ( ) 1 n t n n t n e n t e n n t n nt l - + l × l × - - = l = -l× l× l× -l× e t te e e t t t t 1 [( ( 1)] ． 下面给出当前所用部件的寿命分布 把Tk 解释成某工作线上第k 次被更新的部件的寿命． 假定它们都服从分布 l exp , 那 么它们所对应的计数过程 Nt 就是 Poisson 过程. 考虑当前时刻t 所用的部件 (注意当前时 刻t 所用的部件不是第 Nt 个, 而是Nt +1 个，因为更新了Nt 次后，起用的应该是第 Nt +1个 部件) 的寿命TNt +1 . 这里TNt +1 的随机性，不仅来自固定的部件的寿命, 而且还来自 Nt 的 随机性, 所以不应该认为它服从指数分布. 以下我们推导它的分布. 因为 Nt £ < Nt + TNt +1 t t t , 所以T s Nt +1 £ 就等价于t T s Nt Nt - t < +1 £ . 于是： (1) 当s < t 时, 由T s Nt +1 £ ，我们有 Nt ³ 1且t s t Nt - £ t < . 利用Nt = n与Tn +1之间的 独立性及 n t 与Tn +1的独立性, 由(3. ７)式所给出对条件密度函数g (u) n 导致 ( [ ( ) ( ) | , ]) ( ) ( , ) [ , ] 1 [ , ) 1 1 t t t Nt t t t t t s N t s t N t N N N N N E E I T I N P T s P t T s t s t t t t t -t + - + + = £ = - < £ - £ < åò ¥ = -l -t + - l = t = t = 1 [ , ] 1 [ , ) ! ( ) [ ( ) ( )| , ) ( ) n t n t s n t s t n t N n e n t E I T I N n u g u du n t åò ¥ = - -l - -l - -l l× = - 1 1 ( ) ! ( ) ( ) n t t s t n n n t u s e n t du t nu e e ò - -l - -l -l -l = - l × = - - l t t s t u s s s (e e ) du 1 e se ( ) . (2) 当s ³ t 时, 我们有 t Nt 0 £ t £ , 并注意用t 0 = 0, 类似地得到 ( [ ( ) ( ) | , ]) ( ) ( ,0 ) [ , ] 1 [0, ) 1 1 t t t Nt t t t t t s N t N t N N N N N E E I T I N P T s P t T s t t t t t -t + + + = £ = - < £ £ < ( , 0) ! ( ) ( ) 1 1 0 1 ( ) + < £ = l× = å - ò ¥ = -l - -l - -l t n t t n n n t u s e P t T s N n t du t nu e e ò -l - -l -l -l -l -l = - l× + - = - l - t t u s t s s s e e du e e te e 0 ( ) ( ) ( ) 1 . 综合(1)与(2)，我们得到