《应用随机过程教程》教学资源（参考资料）与在算法和智能计算中的应用——第3章 随机过程的一般概念与独立增量过程

龚光鲁,钱敏平著应用随机过程教程及其在算法与智能计算中的应用 清华大学出版社,2003 第3章随机过程的一般概念与独立增量过程 1.一般概念 1随机过程与有限维分布族 定义3.1设T为[0∞)或(-∞,∞)或R,依赖参数t(t∈T)的一族随机变量 (或随机向量){}通称为随机过程,t称为时间.当T为整数集或正整数集时,则一般称 为随机序列而当T为二维(或更一般地,d维)整数格点时,则称为随机场. 更明确地,随机过程ξ应该写成ξ,(5(t,O).这里的O代表做一次完整的试验 或者说,是一个基本事件.当O取固定的值,例如o0时,5(O0)是t的函数,称为随机过程 的一个轨道或一个”现实”,这个现实是由Oo导致的 定义3.2随机过程或随机序列的概率特性,由它在任意有限个时刻{12…,tn}上 (ξ,…,ξ)的分布(称为有限维分布族)所确定.有限维分布族即 5≤xn):Ⅶn,Ⅵ12…,tn∈T,x12…,xn} 定义3.3有限维分布都是 Gauss分布的随机过程或随机序列,称为 Gauss过程或 Gauss序列对于Gius过程或序列){,:l∈T},记m(1)=E5,0(,s)=Cov(515,),分 别称为期望函数与协方差函数G(1,s)是非负定对称函数,即 0(s,1)=(,s,t∈T,矩阵((t1,1),m为非负定矩阵(Vn,V4;…,tn∈T) 于是{5:t∈}的Gaus性就等价于:对任意有限个时刻{,…n},(5,…,5,)的矩母 数为 有时人们也用R(t,s)=E(3,)=a(1,s)+m(t)m(s),称其为相关函数可见 Gauss过 程的有限维分布族由期望函数与相关函数完全地确定了 d维随机过程ξ1是依赖于参数t的d维随机向量族.其它概念与随机过程类似 1.2独立增量过程 定义3·4称随机过程{:t≥0}为独立增量过程,如果对于

45 龚光鲁，钱敏平著 应用随机过程教程及其在算法与智能计算中的应用 清华大学出版社,2003 第 3 章 随机过程的一般概念与独立增量过程 1. 一般概念 1. 1 随机过程与有限维分布族 定义３.１ 设T 为[0,¥)或（- ¥，¥）或 d R ，依赖参数t（t Î T ）的一族随机变量 （或随机向量）{ }t x 通称为随机过程，t 称为时间．当T 为整数集或正整数集时，则一般称 为随机序列. 而当T 为二维（或更一般地， d 维）整数格点时，则称为随机场． 更明确地，随机过程 t x 应该写成 ( ) t, ) xt w 或x（ w . 这里的w 代表做一次完整的试验, 或者说, 是一个基本事件. 当w 取固定的值, 例如w0 时, ( ) w0 xt 是t 的函数, 称为随机过程 的一个轨道或一个”现实”，这个现实是由w0 导致的． 定义３.２ 随机过程或随机序列的概率特性，由它在任意有限个时刻{ , , } 1 n t L t 上 ( , , ) t n t t x L x 的分布 (称为有限维分布族) 所确定. 有限维分布族即: { ( , , ) ( , , ): , , , , , , } t1 , ,t 1 n t1 1 t n 1 n 1 n F x x P x x n t t T x x L n L = £ L n £ " " L Î " L D x x . 定义３.３ 有限维分布都是 Gauss 分布的随机过程或随机序列，称为 Gauss 过程或 Gauss 序列. 对于 Gauss 过程(或序列){ : t T} xt Î , 记 ( ) , ( , ) ( , ) t Cov t s m t = Ex s t s = x x , 分 别称为期望函数与协方差函数.s (t,s) 是非负定对称函数, 即 s (s,t) =s (t,s),s,t ÎT ，矩阵 i j i j n t t , £ (s ( , ) 为非负定矩阵（"n,"t 1 ,L,t n ÎT ）. 于是{ : t T} xt Î 的 Gauss 性就等价于: 对任意有限个时刻{ , , } 1 n t L t , ( , , ) t n t t x L x 的矩母 函数为 å = £ + + + i j n n n i j i j m t z m t z t t z z n M z z e , 1 1 ( , ) 2 1 ( ) ( ) 1 ( , , ) L s L . (3. 1) 有时人们也用 R(t,s) E( ) (t,s) m(t)m(s) = xt xs = s + D , 称其为相关函数. 可见 Gauss 过 程的有限维分布族由期望函数与相关函数完全地确定了. d 维随机过程 t x 是依赖于参数t 的 d 维随机向量族. 其它概念与随机过程类似. 1. 2 独立增量过程 定 义 ３ . ４ 称随机过程 { : t ³ 0} t x 为 独立增量过程 , 如果对于

Vn,0≤0<41<…<tn,起始随机变量及其后的增量5,54-5,…5n-5m,是相 互独立的随机变量组.独立增量过程称为时齐的,如果ξ-5,的分布不依赖于s 时间离散的独立增量过程,就是独立随机变量的部分和.而时齐的独立增量过程则是独 立同分布随机变量部分和的时间连续情形 记随机过程,的特征函数为Φ(a,1)=Ee,那么我们有 命题3.5若ξ0=0,则独立增量过程ξ为时齐的必要充分条件为:其特征函数有可 乘性,即 dp(a, t+s=g(a,top(a, s) 证明:必要性显然.我们证明充分性.由独立增量性,我们有下面的命题 pp(a, rp(a, s)=q(a, t+s) ee 由此得到 Eea(5+s,)=g(a, t)=Ee"asr 这正说明了过程的时齐性 独立增量过程具有以下的 Markov性:对于Vs>s1>…>SmV1,y,x,x,…,xm有 (*≤y|5,=x,5,=x1,…5.=xm)=P(5≤y|5,=x) 这个等式的推导将在本章第3节中在特殊情形(增量具有分布密度的情形)中给出.等式 3.3)有非常明确的概率含义,它说明了由这个随机过程所描写的随机现象具有以下特 点:在已知,=x,5,=x1,…,,=xm条件下,随机变量的条件分布函数只与5,=x 有关,而与随机向量(5,…,5。)的取值无关如果把s看成现在,5:=x看成现在的取 值,把S+看成”将来”,小于s的时刻看成”过去”,那么这正是表达了:对于独立增量过程, 在已知过去与现在的条件下,将来的条件分布只与现在的取值有关,而与过去的取值无关 这种”忘记过去”的性质,称为无后效性或 Markov性 时齐的独立增量过程具有非常特殊形式的特征函数:彐v(.使Eet=e) 类似地,人们常遇到d维独立增量过程 2 Poisson过程与复合 Poisson过程 2.1事故申报次数的概率模型与 Poisson过程 例3.δ(保险公司理赔次数)设在时间间隔(0,刁中某保险公司收到的某类保险的理赔 次数为N,那么它是一个只取非负整值的随机过程.从长期经验的积累,人们概括出以下

46 , 0 , 0 1 n "n " £ t < t < L < t 起始随机变量及其后的增量 0 1 0 1 , , , - - -n n t t t t t x x x L x x 是相 互独立的随机变量组. 独立增量过程称为时齐的, 如果 s t s x - x + 的分布不依赖于 s. 时间离散的独立增量过程, 就是独立随机变量的部分和. 而时齐的独立增量过程则是独 立同分布随机变量部分和的时间连续情形. 记随机过程 t x 的特征函数为 t ia a t Ee x F( , ) = , 那么我们有 命题３．５ 若x0 = 0， 则独立增量过程 t x 为时齐的必要充分条件为：其特征函数有可 乘性, 即 F(a,t + s) = F(a,t)F(a,s) . (3. 2) 证明: 必要性显然．我们证明充分性．由独立增量性, 我们有下面的命题 ( , ) ( , ) ( , ) ( , ) ( ) ( ) Ee Ee Ee Ee a s a t a s a t s s t s t s s s t s ia ia ia ia = = = F F F = F + x + x + -x x x + -x , 由此得到 s t s t ia ia Ee a t Ee x x x = F = + - ( , ) ( ) , 这正说明了过程的时齐性. 独立增量过程具有以下的 Markov 性: 对于 m m s s s , t, y, x, x , , x " > 1 > L > " 1 L 有 ( | , , , ) s t s s1 1 s m P y x x x m x + £ x = x = L x = = P( y | x) xs +t £ x s = . (3. 3) 这个等式的推导将在本章第３节中在特殊情形(增量具有分布密度的情形)中给出. 等式 （３．３）有非常明确的概率含义, 它说明了由这个随机过程所描写的随机现象具有以下特 点: 在已知 s s s m x x x m x = ,x = 1 , ,x = 1 L 条件下, 随机变量 s+t x 的条件分布函数只与 x x s = 有关, 而与随机向量 ( , , ) s1 sm x L x 的取值无关. 如果把 s 看成”现在”, x x s = 看成现在的取 值, 把s + t 看成”将来”, 小于 s 的时刻看成”过去”, 那么这正是表达了: 对于独立增量过程, 在已知过去与现在的条件下, 将来的条件分布只与现在的取值有关, 而与过去的取值无关. 这种＂忘记过去” 的性质, 称为无后效性或 Markov 性. 时齐的独立增量过程 t x 具有非常特殊形式的特征函数: ( ) ( ), lx y l y l i t Ee e t - $ 使 = . 类似地, 人们常遇到d 维独立增量过程. 2 Poisson 过程与复合 Poisson 过程 2.1 事故申报次数的概率模型与 Poisson 过程 例３．６ (保险公司理赔次数) 设在时间间隔(0,t]中某保险公司收到的某类保险的理赔 次数为 Nt , 那么它是一个只取非负整值的随机过程. 从长期经验的积累, 人们概括出以下

的初步近似性质: (1)在不同的时间区段内的理赔次数是彼此独立的随机变量 (2)在同样长的时间区段内的理赔次数的概率规律是一样的; (3)N。=0,在有限时间区段内理赔次数是有限的,而且在非常短的时间区段h内的 理赔次数超过2的概率是h的高价无穷小o(h) (1),(2)说明了N是时齐的独立增量过程.而性质③3)称为普通性 我们来推导满足普通性的非负整值的时齐独立增量过程的概率分布.令 P,()=P(N1=l),我们有 P0( P(Ns=0)=P(N1=0,N =P(N=0)P(N+-N1=0)=P0(D)p0(s) 解这个函数方程,可知存在λ>0,使p0(t)=e-.再则,由性质(3)有 P(N+h-N1≥2)=o(h) 利用时齐性及独立增量性,由全概率公式我们得到 Pr(+h)=P(N,h=k+1) P(N1=k,N+b-N1=1)+P(N1=k+1,Nh-N1=0)+o(h) =P4(D)P(h)+P4+1(D)p0(h)+o(h) P4(D)(1-P0(h)-o(h)+Pk1()e-+o(h) P4(1-e-)+Pk+()e+o(h 于是 (+b)-P、Nm(+Bb 令h→0,便得无穷常微分方程组 Pk(1)=λ·P(1)-·Pk1(t) 4) 显见,对于k≥1还应该满足初值条件: (0)=0,P0(0) 下面我们用矩母函数方法来推导P()的明显表达式令 (,=)=E=∑p

47 的初步近似性质: (1) 在不同的时间区段内的理赔次数是彼此独立的随机变量; (2) 在同样长的时间区段内的理赔次数的概率规律是一样的; (3) N0 = 0, 在有限时间区段内理赔次数是有限的, 而且在非常短的时间区段 h 内的 理赔次数超过 2 的概率是h 的高价无穷小 o(h ). (1), (2) 说明了Nt 是时齐的独立增量过程. 而性质(3)称为普通性. 我们来推导满足普通性的非负整值的时齐独立增量过程的概率分布 . 令 p (t) P(N i) i = t = , 我们有 ( ) ( 0) ( 0, 0) p0 t + s = P Nt+s = = P Nt = Nt+s - Nt = ( 0) ( 0) ( ) ( ) 0 0 P N P N N p t p s = t = t +s - t = = ． 解这个函数方程, 可知存在l > 0 , 使 t p t e -l 0 ( ) = . 再则，由性质(3)有 P(N N 2) o(h) t+h - t ³ = , 利用时齐性及独立增量性, 由全概率公式我们得到 ( ) ( 1) pk+1 t + h = P Nt +h = k + P(N k, N N 1) P(N k 1, N N 0) o(h) = t = t +h - t = + t = + t+h - t = + ( ) ( ) ( ) ( ) ( ) = pk t p1 h + pk +1 t p0 h + o h ( )(1 ( ) ( )) ( ) ( ) 0 1 p t p h o h p t e o h h = k - - + k + - + l ( )(1 ) ( ) ( ) 1 p t e p t e o h h k h = k - + + - + -l l ． 于是 h e p t h e p t h p t h p t h k h k k k 1 ( ) 1 ( ) ( ) ( ) 1 1 1 - + - = + - - + - + + l l ． 令h ® 0, 便得无穷常微分方程组: ' ( ) ( ) ( ) 1 1 p t p t p t k+ k k+ = l × - l × （３．４） 显见，对于k ³1还应该满足初值条件： pk (0) = 0, p0 (0) = 1. 下面我们用矩母函数方法来推导 p (t) k 的明显表达式. 令 å ¥ = D = = 0 ( , ) ( ) k k zN k M t z Ez z p t t ．

那么 po(t)+∑pk() (P(1)-Pk+1() Ap0()+x·M(t,2)-A(M(t,z)-P0()=A(2-1)M(t, 实质上这是一个以二为参数的关于自变量t的常系数常微分方程,且满足初始条件 M(0,=)=P0(0)=1.易见此方程的解为 (t,=) kI 按矩母函数的定义,由此得到表达式 P,(t) 也就是说N1~ Poisson·随机过程N称为 Poisson过程 由 Poisson分布的性质推出:EN1=ar(N)=λ·1,由此我们便得到参数λ的概率含 eN, Var(N) 即λ是单位时间的平均理赔次数,称为此 Poisson过程的强度, 同时它也代表单位时间理赔次数的方差 注1方程(3.4)也可以用数学归纳法通过常微分方程中的常数变异法直接求解 [注2] Poisson过程是用以描写一切”罕见事件”发生的概率规律的数学模型. 定义3.7时齐的独立增量过程N,称为强度为λ的 Poisson过程,如果它满足 N。=0,N1~ Poisson Poisson过程的联合分布为 1<…<Im,n1<…nm,P(4=n1,…N=mm)=Pn(1)P吗-(2-41)…P-m:(m-m) 2.2 Poisson过程与指数流的关系 把理赔时刻看成随机到达的”点”,那么随着时间的发展,就出现一系列随机的点,记 这些时刻为0<τ1<…<τn<…>∞,即τ为第k个理赔发生的时刻.这个概念可以抽 象为下述定义 定义3.8如果随机序列{τk}满足:0=τo<τ1<…<τm<…>∞,则称之为 个事件流,简称为流.记T=τ-τ-1.如果7~eXp2,而且{}独立同分布,那么, 我们称这个事件流0=0<T1<…<Tm<…→>∞为强度为λ的指数流又由于随机序列

48 那么 å å ¥ = + + - ¥ = + = + + = - + - ¶ ¶ 0 1 1 0 1 0 1 ' ( ) ' ( ) ( ( ) ( )) ( , ) k k k k t k k p t p k t z e p t p t z t M t z l l l ( ) ( , ) ( ( , ) ( )) ( 1) ( , ) 0 0 = -lp t + l ×zM t z - l M t z - p t = l z - M t z ． 实质上这是一个以 z 为参数的关于自变量 t 的常系数常微分方程, 且满足初始条件 M (0,z) = p0 (0) = 1. 易见此方程的解为 å ¥ = - - = = 0 ( 1) ! ( ) ( , ) k t k k z t e z k t M t z e l l l . 按矩母函数的定义，由此得到表达式 t k k e k t p t l -l = ! ( ) ( ) . 也就是说 Nt ~ Poissonlt ．随机过程 Nt 称为 Poisson 过程. 由 Poisson 分布的性质推出: EN Var N t t t = ( ) = l × , 由此我们便得到参数l 的概率含 义: t Var N t ENt t ( ) l = = , 即l 是单位时间的平均理赔次数, 称为此Poisson过程的强度, 同时它也代表单位时间理赔次数的方差. [注 1] 方程(３．４)也可以用数学归纳法通过常微分方程中的常数变异法直接求解. [注 2] Poisson 过程是用以描写一切”罕见事件”发生的概率规律的数学模型. 定义３.７ 时齐的独立增量过程Nt 称为强度为l 的 Poisson 过程，如果它满足 N Nt ~ Poissonlt 0, 0 = ． Poisson 过程的联合分布为 , , ( , , ) ( ) ( ) ( ) 1 < < m 1 < m t1 = 1 t = m = n1 1 n2 -n1 2 - 1 n -n -1 m - m-1 t t n n P N n N n p t p t t p t t L L L m L m m 2. 2 Poisson 过程与指数流的关系 把理赔时刻看成随机到达的 ”点”, 那么随着时间的发展, 就出现一系列随机的点, 记 这些时刻为 0 < t 1 <L < t m <L ® ¥ , 即 k t 为第 k 个理赔发生的时刻. 这个概念可以抽 象为下述定义 定义３.８ 如果随机序列{ }k t 满足: 0 = t 0 < t1 < L < t m < L ® ¥ , 则称之为一 个事件流，简称为流. 记Tk = k - k-1 t t . 如果 l Tk ~ exp , 而且{ } Tk 独立同分布，那么， 我们称这个事件流 0 = t 0 < t1 < L < t m < L ® ¥ 为强度为l 的指数流. 又由于随机序列

T}与随机序列{τn)唯一地相互确定,所以,有时我们也称{k}为指数流. 对于指数流{k)而言,在时间段(01中出现的τk的个数,记为N1=sup{k:τk≤l}, 是一个 Poisson过程,N称为指数流的计数过程我们把这写成一般的结论 定理3·9对于取非负整值的随机过程N1,令k=n{t:N,=k}(它等价于 N,=sup{k:τk≤l}),那么下面诸事实彼此等价 (1){k}是强度为λ的指数流 (2)Vn,(1…rn)的分布密度为(记号l4表示A的示性函数) g(,…,Sn)=Xel1ons<:; (3)N是强度为λ的 Poisson过程 证明首先注意{N≥k}={k≤l} (1)→(2)只要注意 P(r1≤ < 1…d,=小…∫ed…d +2s52 1++n≤Sn λeld1…d 而(2)→(1)得自{n}与{Tk}是一一对应的 (2)→(3)先求τk,(k≤m)的密度(记成g4().由(2)用归纳法可得 g(n)=…「e1-s,,…-d…d (I(k,λ)分布) (k-1) 再则,由(2)推出 P(N,=m,N+≥m+k)=P(tn≤S<m< m+k-S+t S<S+1<<m+k≤s+t

49 { } Tk 与随机序列{ ) n t 唯一地相互确定, 所以，有时我们也称{ } Tk 为指数流. 对于指数流{ ) k t 而言，在时间段 (0,t]中出现的 k t 的个数，记为 N sup{k : t} t = tk £ ， 是一个 Poisson 过程，Nt 称为指数流的计数过程. 我们把这写成一般的结论. 定理３．９ 对于取非负整值的随机过程 Nt , 令 inf{ t : N k} t k = t = ( 它等价于 N sup{k : t} t = t k £ )，那么下面诸事实彼此等价: (1) { }k t 是强度为l 的指数流; (2) ,( , , ) n 1 n " t L t 的分布密度为 (记号 A I 表示 A 的示性函数) 1 {0 1 } ( , , ) n n s s n s n g s s e I < < < - L = l L ; (3. 4) (3) Nt 是强度为l 的 Poisson 过程. 证明 首先注意 {N k} { t} t ³ = tk £ . (1)Þ(2) 只要注意 ò ò + + £ + £ £ > - + + £ £ = n n n n t t s t t s t s t t n n t t P s n sn e dt dt L L L L L L L 1 1 2 2 1 1 1 1 , , 0 1 ( ) 1 1 ( , , ) l t t l ò ò £ £ £ > > > - = n n n n y s y s y s y y n n y e dy dy L L L L 2 2 1 1 1 0 1 l l ò ò £ £ £ < < < - = n n n n y s y s y s y y n n y e I dy dy L L L L 2 2 1 1 0 1 1 l l . 而(2)Þ(1) 得自{ }n t 与{ } Tk 是一一对应的. (2)Þ(3) 先求 ,(k n) t k £ 的密度(记成g (u) k ). 由(2)用归纳法可得 g (u) k ò ò < < < < < < < - + - - + = s s u s s k k n n s e I ds ds ds ds k k n L n 0 1 L 1 1 L 1L 1 1L l l 0 1 ( 1)! > - -l - = l u k k u I k u e (G(k,l) 分布). (3. 5) 再则, 由(2)推出 P(N m,N m k) s = t +s ³ + ( ) 1 P s s t = t m £ < t m+ < L < t m+k £ + ò ò < < < £ + £ < < < + + - + + + + = s s s s t s s s s m k m k s m m k m m k m k e I ds ds L L L L 1 0 1 1 l l