《应用随机过程教程》教学资源（参考资料）与在算法和智能计算中的应用——第4章 更新现象及其理论

龚光鲁,钱敏平著应用随机过程教程及其在算法与智能计算中的应用 清华大学出版社,2003 第4章更新现象及其理论 Stieltjes积分简述 假定G(x)为右连续的递增函数.那么,我们可以如微积分中定积分那样定义关于G(x) 的 Stieltjes积分 h(x)dG(x)=lim rm.(o)-4(m)0 ∑h(1(")G(n1(")-(G(") 这里{}是半开区间(ab]的一个划分.这种积分的运算规律及近似计算,与普通积分基 本上类似.最大的不同之处是:由于G(x)在某些点上的跃度可以大于零,在这些点上的积 分就可能不是0.因此我们通常考虑在半开区间(a,b上的积分.类似地还可以定义瑕积分 M(xG)=lm→J(x)d(x,简记为JMx)dF(x)或MF 般地说, Stieltjes积分更多地用作理论分析,因为除了几种特殊情形或者是它们的混 合情形,能计算出积分以外,通常的 Stieltjes积分只能用积分和来近似估算.几种能直接计 算的特殊情形包括 (1)若G(x)=g(a)dm,则[hx)dG(x)=[h(x)g(x)dx化简为普通的积分 (2)若G(x)是右连续的递增的阶梯函数,即存在{xn}c(an,b],使 G(x)=∑G(xn)-G(xn-),则由积分的定义可算出 h(x)dG(x)=Ch(xn)[G(xn)-G(,-) 这时, Stieltjes积分就化为无穷级数 (3)对于一个点的集合{x0},有(x)dG(x)=h(x0)G(x0)-G(x- 可见, Stieltjes积分是一种包容普通的积分与无穷级数,而比之更为广泛的数学模型.显 然 Stieltjes积分也与通常积分一样地具有加法性质.此外, Stieltjes积分还具有以下的性质: (1)若h(x)≥0,则h(x)G(x)20(因为G(x)递增) 特别地,若F()是随机变量5的分布函数,则E5)=∫xF(x)(这在第一章中已 经提到) (2)若h(x)20,且∑h(x)<∞,则

76 龚光鲁，钱敏平著 应用随机过程教程及其在算法与智能计算中的应用 清华大学出版社,2003 第 4 章 更新现象及其理论 1. Stieltjes 积分简述 假定G( x) 为右连续的递增函数. 那么, 我们可以如微积分中定积分那样定义关于 G( x) 的 Stieltjes 积分: ( ) ( ) lim ( )[ ( ) ( ( )] ( ) ( ) 1 ( ) max ( ) 0 ( ) ( ) 1 n i i n i n i t t n b a h x dG x h t G t G t n i n i i = å - ò + - ® ®¥ + ， 这里{ } (n) i t 是半开区间 (a, b]的一个划分. 这种积分的运算规律及近似计算, 与普通积分基 本上类似. 最大的不同之处是: 由于 G( x) 在某些点上的跃度可以大于零, 在这些点上的积 分就可能不是 0. 因此我们通常考虑在半开区间(a, b]上的积分. 类似地还可以定义瑕积分 ®¥ ®-¥ ¥ -¥ = ò b h x dG x a ( ) ( ) lim ò b a h(x)dG(x), 简记为 ò h(x)dF(x) 或 ò hdF . 一般地说, Stieltjes 积分更多地用作理论分析, 因为除了几种特殊情形或者是它们的混 合情形, 能计算出积分以外, 通常的 Stieltjes 积分只能用积分和来近似估算. 几种能直接计 算的特殊情形包括: (1) 若 ò = x c G(x) g(u)du , 则 = ò b a h(x)dG(x) ò b a h(x)g(x)dx 化简为普通的积分. (2) 若G( x) 是右连续的递增的阶梯函数, 即存在{x } (a,b] n Ì , 使 å£ = - - x x n n n G(x) [G(x ) G(x )], 则由积分的定义可算出 ò = å - - n n n n b a h(x)dG(x) h(x )[G(x ) G(x )], 这时, Stieltjes 积分就化为无穷级数. (3) 对于一个点的集合{ }0 x , 有 ( ) ( ) ( )[ ( ) ( )] 0 0 0 { 0} = - - ò h x dG x h x G x G x x . 可见，Stieltjes 积分是一种包容普通的积分与无穷级数, 而比之更为广泛的数学模型. 显 然 Stieltjes 积分也与通常积分一样地具有加法性质. 此外，Stieltjes 积分还具有以下的性质: (1) 若h(x) ³ 0 , 则 ( ) ( ) ³ 0 ò h x dG x (因为G( x) 递增). 特别地, 若 F(x) 是随机变量x 的分布函数, 则 ò Eh(x ) = h(x)dF(x) (这在第一章中已 经提到). (2) 若 hn (x) ³ 0, 且å hn (x) < ¥ n , 则

∫∑h(x)d0(x)=∑Jh,(x(x (3)设右连续的递增函数列G(x)满足∑G(x)<∞,又(x)20则 「x)2G(x)=∑Mxd(x) 注事实上(2)和(3)给出了无穷和与积分的运算次序可以交换的条件.在(2)和(3)中,我们 并未严格地给出h(x),hn(x)需要满足的条件,通常遇到的函数都可取成h(x),b(x).在本 书中避免在数学上追求严格条件 2.更新过程的概念 2.1作为 Poisson过程推广的更新过程 更新现象是指数流的推广·也是一种按随机时刻到达的流,但是这个随机的流并不按独 立同分布的指数分布随机变量的和到达,而是按非负独立同分布随机变量和的到达 定义4.1假定{}是非负的独立同分布随机变量序列,且其二阶矩有限.记 ET IawT1=a2,再假定ao=P(T1=0)<1.令 0=0,n=T1+…+Tn,(n≥1),N1=Sup{k:k≤l 即N,是{n}的计数过程(它们分别是 Poisson过程与指数流的推广).rn称为第n次更新 时刻,随机序列{n}称为更新流,Tn称为第n个更新间隔,N,称为更新过程 除了 Poisson过程以外,一般的更新过程N,就不是独立增量过程.但是更新过程与更新 流之间仍由下面的关系联系起来 {N≥n}={n≤l 定义4.2非负整值随机变量η称为关于随机变量列{k}满足Wald条件,如果对于 任意n,事件{=n}与{n1,Tn+2…}独立 引理4.3对于更新过程N,在t固定时n=N1+1关于{}满足Wald条件 证明{=m}即随机事件{N1=n-1},也就是{rm1≤l}\{rn≤l},后者可由随机变量 组{T1,…,Tn}完全地确定.故N1+1(即n)满足Wald条件 注意虽然N+1(即n)满足Wald条件,但是N,并不满足Wald条件.所以,对于 rx+可以应用Wa|d等式(1.26)与(1.27),而对于rx则不可以应用Wa|d等式(1.26)与

77 òå åò = n n hn (x)dG(x) hn (x)dG(x) . (3) 设右连续的递增函数列G (x) n 满足å < ¥ k k G (x) , 又h(x) ³ 0 则 ò å åò = k k h(x)d ( Gk (x)) h(x)dGk (x) . 注 事实上(2)和(3)给出了无穷和与积分的运算次序可以交换的条件. 在(2)和(3)中, 我们 并未严格地给出 h(x),h (x) n 需要满足的条件, 通常遇到的函数都可取成h(x),h (x) n . 在本 书中避免在数学上追求严格条件. 2. 更新过程的概念 2. 1 作为 Poisson 过程推广的更新过程 更新现象是指数流的推广. 也是一种按随机时刻到达的流，但是这个随机的流并不按独 立同分布的指数分布随机变量的和到达, 而是按非负独立同分布随机变量和的到达. 定义４.１ 假定{ } Tk 是非负的独立同分布随机变量序列, 且其二阶矩有限 . 记 ET1 = m , 2 VarT1 = s , 再假定 ( 0) 1 0 = 1 = < D a P T . 令 0, ,( 1) t 0 = t n = T1 +L+Tn n ³ , N sup{k : t} t = t k £ ， （4. 1） 即 Nt 是{ }n t 的计数过程（它们分别是 Poisson 过程与指数流的推广）． n t 称为第n 次更新 时刻, 随机序列{ }n t 称为更新流, Tn称为第n 个更新间隔, Nt 称为更新过程. 除了 Poisson 过程以外，一般的更新过程Nt 就不是独立增量过程. 但是更新过程与更新 流之间仍由下面的关系联系起来 {N n} { t} t ³ = t n £ . (4. 2) 定义４．２ 非负整值随机变量h 称为关于随机变量列{ } Tk 满足 Wald 条件，如果对于 任意n ，事件{h = n}与{ , , } Tn+1 Tn+2 L 独立． 引理４．３ 对于更新过程Nt ，在t 固定时 = + 1 Nt D h 关于{ } Tk 满足 Wald 条件． 证明 {h = n}即随机事件{N = n -1} t ，也就是{ } \{ } 1 t t t n- £ t n £ ，后者可由随机变量 组{ , , } T1 L Tn 完全地确定．故 Nt +1（即h ）满足 Wald 条件． ? 注意 虽然Nt +1（即h ）满足 Wald 条件，但是Nt 并不满足 Wald 条件. 所以，对于 Nt +1 t 可以应用 Wald 等式(1. 26)与(1. 27)，而对于 Nt t 则不可以应用 Wald 等式(1. 26)与

27 此外,即使在N是 Poisson过程的情形,由于{Tk}并不与N,独立,作为随机多个项 的独立和的x+1或rN都不是复合 Poisson过程.这样才能避免作不正确的推导 命题4.4P(N,=∞)=0 证明由大数定律,我们有 P(N=∞)=mnP(N1≥n)=lmnP(n≤1) T1+…+T =lm mm P( 0 记n的分布函数为F(1)=P(τn≤l}.与 Poisson过程类似地,更新过程N,的分布为 P(N,=n)=F(0-Fn(O 假定T是第k次更新的部件的寿命,利用F(1)是时刻t前更新次数超过n的概率 P(N,≥n),可以在此概率在容许小的控制条件下,设计部件备件的最小存储量也就是找 尽可能小的n,使Fn()被控制在一个可以容许的“小“的范围内,以达到减少储备量的 目的但是Fn()=P(rn≤D是n个与7独立同分布的随机变量的和的分布函数,除了极个 别的例子外,一般很不容易得到Fn(O)的解析表达式,然而,在应用中可以借助于随机模拟 得到它的近似例如,多次(例如m次)生成n个独立T随机数并求和用此m个和中不超 过t的频率,作为F(1)的估计值 命题4.5更新过程N,的期望函数称为更新函数它满足m(m)=EN1<∞,而且有 m()=∑Fn() 证明其有限性由P(T1=0)<1所保证,我们略去其证明.为了得到(44)式,我们利 用非负随机变量I 它的求和与取期望可以交换所以 EN=E∑l1s)=∑P(n≤1)=右

78 (1. 27)). 此外, 即使在 Nt 是 Poisson 过程的情形, 由于{ } Tk 并不与 Nt 独立, 作为随机多个项 的独立和的 Nt +1 t 或 Nt t 都不是复合 Poisson 过程. 这样才能避免作不正确的推导. 命题 4. ４ P(Nt = ¥) = 0 ． 证明 由大数定律, 我们有 P(N ) lim P(N n) lim P( t) t = ¥ = n®¥ t ³ = n®¥ t n £ lim ( ) 0 1 £ = + + = ®¥ n t n T T P n n L . ? 记 n t 的分布函数为 F (t) P( t} n = t n £ . 与 Poisson 过程类似地, 更新过程Nt 的分布为 ( ) ( ) ( ) 1 P N n F t F t t = = n - n+ . (4. 3) 假定 Tk 是第 k 次更新的部件的寿命 , 利用 F (t) n 是时刻 t 前更新次数超过 n 的概率 P(N n) t ³ , 可以在此概率在容许小的控制条件下，设计部件备件的最小存储量. 也就是找 尽可能小的 n , 使F (t) n 被控制在一个可以容许的 “小 “ 的范围内, 以达到减少储备量的 目的. 但是F (t) P( t) n = t n £ 是n 个与T1独立同分布的随机变量的和的分布函数，除了极个 别的例子外, 一般很不容易得到 F (t) n 的解析表达式. 然而, 在应用中可以借助于随机模拟 得到它的近似. 例如, 多次 (例如m 次) 生成n 个独立T1随机数并求和, 用此m 个和中不超 过t 的频率, 作为F (t) n 的估计值. 命题 4.５ 更新过程Nt 的期望函数称为更新函数. 它满足 ENt m t D ( )= < ¥ , 而且有 m(t) å ¥ = = 1 ( ) n n F t (4. 4) 证明 其有限性由P(T1 = 0) <1所保证, 我们略去其证明. 为了得到(4.4)式, 我们利 用非负随机变量 { n t} I t £ , 它的求和与取期望可以交换, 所以 å å ¥ = ¥ = = £ = £ 1 1 { } ( ) ( ) n n t t n EN E I P t n t t = 右

命题4.6令N。=lm,N1,则P(N2=∞)=1 证明P(N2<∞)≤P(使Tn=∞)s∑P(Tn=∞)=0 1.2更新函数的更新方程 定理4.7设T的分布函数为F1(1),则更新函数m(1)满足积分方程 m()=F1(1)+m(t-s)dF(s) 证明为了数学上更简单,我们假定分布函数F1具有密度f1.于是F是n个独立同分 布密度∫的随机变量的和的分布因此,它的分布密度满足关系 fn=f*∫n,J2=f*f, 其中(f*gO)=(-(s,fOg0在∞)上定义(易见∫*g=g*f)由 f(t-s)F, (s)ds)=( f(s)F, (t-s)ds)=f(s)f,(t-s)ds=fn(D) 可知 F(1)=[f(-s)F2(S)d=(f*F))=(F*/)) 再用(44)式便得 m()=F1(1)+(F+F2+…)*f=F1(1)+(m*f)(t) ? 注1更新函数m(1)是时刻t以前的平均更新次数EN,它是更新过程的一个极为重 要的量,表达了部件的平均储备量方程(4.5)可用来对m(1)作数值近似例如用典型的迭 代方法,可以求得m(m)的数值近似解.即令 m0(O)=F1(O)m0+()=F()+m(-)/()b、m≥0) 那么,在适当的条件下,就有∑m1“(1)≈m(t) 注2设h()是一个在任意有限区间上有界的函数.利用更新函数可以求解如下类型的 积分方程 g()=h()+g(-s)dF(s)

79 命题 4.６ 令N t®¥ Nt D ¥ =lim ， 则P(N¥ = ¥) =1. 证明 å ¥ = ¥ < ¥ £ $ = ¥ £ = ¥ = 1 ( ) ( , ) ( ) 0 n P N P n 使Tn P Tn . 1. 2 更新函数的更新方程 定理 4.７ 设T1的分布函数为 ( ) 1 F t , 则更新函数m(t) 满足积分方程 ( ) ( ) ( ) ( ) 1 0 1 m t F t m t s dF s t ò = + - . (4. 5) 证明 为了数学上更简单, 我们假定分布函数F1具有密度 1 f . 于是Fn 是n 个独立同分 布密度 f 的随机变量的和的分布. 因此, 它的分布密度 n f 满足关系 1 1 2 1 1 f f f , f f f n = * n - = * , 其中 ò * = - D t f g t f t s g s ds 0 ( )( ) ( ) ( ) , f (t), g (t) 在[0,¥) 上定义, (易见 f * g = g * f ). 由 ( ( ) ( ) }' ( ( ) ( ) )' ( ) ( ) ( ) 1 0 0 0 f t s F s ds f s F t s ds f s f t s ds f t n n t n t n t ò - = ò - = ò - = + 可知 ( ) ( ) ( ) ( )( ) ( )( ) 0 1 F t f t s F s ds f F t F f t n t n = - n = * n = * + ò ． 再用(4. 4)式便得 ( ) ( ) ( ) ( ) ( )( ) 1 1 2 1 m t = F t + F + F +L * f = F t + m* f t . ? 注 1 更新函数m(t) 是时刻t 以前的平均更新次数 ENt , 它是更新过程的一个极为重 要的量, 表达了部件的平均储备量. 方程(4. 5)可用来对m(t) 作数值近似. 例如用典型的迭 代方法，可以求得m(t) 的数值近似解. 即令 ò = = + - ³ + t n n m t F t m t F t m t s f s ds n 0 ( ) 1 ( 1) 1 (0) ( ) ( ), ( ) ( ) ( ) ( ) ,( 0) ． 那么, 在适当的条件下, 就有 ( ) ( ) ( ) 0 m t m t k n k å » = . 注 2 设h(t) 是一个在任意有限区间上有界的函数. 利用更新函数可以求解如下类型的 积分方程 ( ) ( ) ( ) ( ) 1 0 g t h t g t s dF s t = + - ò

这种积分方程称为更新方程.更新方程在精算中的集体风险模型中,是一个最基本的数学工 具 下面我们来求解更新方程.假定更新间隔的分布函数F1(x)具有密度f1(x).注意 Fn(x)的密度函数∫满足fn=f1*∫n,故而这时更新函数m(1)具有微商 m()=∑f()这样更新方程可以改写为 g=h+(g*f),即g*(1-f1)=h 由此得到更新方程的解 g=(1-f1)*h=(1+∑f)*h= g()=h()+「h(-sm(s 如果更新间隔的分布函数F1(x)不存在密度,那么只要利用Sees积分的性质,就可以得到 g(0)=b()+M-s)dm(s) 这就是说,更新方程的解g(1)可以用更新函数m(1)表示 注3更新间隔的分布函数F1(x)完全确定了更新函数m().反之,更新函数m(1)也 完全确定了更新间隔的分布函数F1(x).事实上它们可以通过 Laplace变换相互表达.对于 一个在[0,∞)定义的非负函数g(),可以定义它的 Laplace变换(记为L())如下 当g(1)是更新时间T具有密度f时,其 Laplace变换的概率含义为T的负指数矩,即 L(z)=Ee1.容易验证 Laplace变换满足以下的乘法关系 在(4.5)式两边取 Laplace变换,就得到其 Laplace形式 Ln()=L(=)+L(=)Ln(=)

80 这种积分方程称为更新方程. 更新方程在精算中的集体风险模型中, 是一个最基本的数学工 具. 下面我们来求解更新方程. 假定更新间隔的分布函数 ( ) 1 F x 具有密度 ( ) 1 f x . 注意 F (x) n 的密度函数 n f 满 足 n n f = f * f +1 1 , 故 而 这时更新函数 m(t) 具有微商 '( ) ( ) 1 m t f t n n å ¥ = = . 这样, 更新方程可以改写为 ( )1 g = h + g * f , 即g *(1- f 1 ) = h . 由此得到更新方程的解 (1 ) (1 ) ' 1 1 g f1 h f n h h h m n = - * = +å * = + * ¥ = - . 即 g t h t h t s m s ds t ( ) ( ) ( ) '( ) 0 = + - ò . 如果更新间隔的分布函数 ( ) 1 F x 不存在密度, 那么只要利用 Stieltjes 积分的性质, 就可以得到 ( ) ( ) ( ) ( ) 0 g t h t h t s dm s t = + - ò . 这就是说, 更新方程的解 g (t) 可以用更新函数m(t) 表示. 注３ 更新间隔的分布函数 ( ) 1 F x 完全确定了更新函数 m(t) . 反之, 更新函数 m(t) 也 完全确定了更新间隔的分布函数 ( ) 1 F x . 事实上它们可以通过 Laplace 变换相互表达. 对于 一个在[0,¥) 定义的非负函数 g (t) ，可以定义它的 Laplace 变换（记为L (z) g ）如下 L z e g t dt zt g ( ) ( ) 0 - ¥ ò = ． 当 g (t) 是更新时间T1 具有密度 1 f 时, 其 Laplace 变换的概率含义为T1 的负指数矩， 即 ( ) = 1 L z f 1 zT Ee- ．容易验证 Laplace 变换满足以下的乘法关系 L (z) L (z)L (z) g *h = g h . 在（４．５）式两边取 Laplace 变换, 就得到其 Laplace 形式 ( ) ( ) ( ) ( ) 1 1 L z L z L z L z m = F + f m . (4. 6)