对外经济贸易大学：《应用随机过程 Applied Stochastic Processes》课程教学资源（学习资料）教学杂记帮助理解

AND THIS IS HOW IT I5 Idon't buy much anymore nent stores doors brush into place And the ore filling hunger 随机过程杂记 作者：邓军 组织：对外经济贸易大学 时间：May5,2020 版本：0.1

随机过程杂记 作者：邓军 组织：对外经济贸易大学 时间：May 5, 2020 版本：0.1

目录 0-0- 1概率论基础 1 11为什么需要概率空间·····.· 1 1.l.l理发师悖论Barber paradox)· 1 l.l.2贝特朗悖论Bertrand's Paradox) 1 1.1.3非悖论，生日问题 3 12概率空间·········· 3 1.2.1可测空间.... 4 1.2.2概率空间········ 8 12.3条件概率··········。 10 1.2.4全概率公式和Bayes公式 11 13随机变量和分布函数········· 13 1.3.1数字特征 17 1.3.2矩函数(Moment Generating Function) 17 l.3.3特征函数(Characteristic function) 18 1.3.4反演公式及唯一性定理 21 1.3.5 多维随机变量的特征函数 24 1.4独立性与条件期望 25 1.4.1独立性 25 1.4.2条件期望.. 26 1.4.3条件分布 。。。。 27 1.4.4一般条件期望* 31 2随机过程的基本概念与类型 34 2.1随机过程的背景 34 22基本概念..·..·... 34 2.3有限维分布与Kolmogorov定理 36 2.3.1随机过程的数字特征 37 2.4随机过程的基本类型 40 2.4.1平稳过程.·.· 40 2.4.2独立增量过程 41 3 Brown运动（维纳过程） 44 3.1基本概念与性质··. 44 32维纳过程的分布····· 48

目录 1 概率论基础 1 1.1 为什么需要概率空间 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 1.1.1 理发师悖论 (Barber paradox) . . . . . . . . . . . . . . . . . . . . . . 1 1.1.2 贝特朗悖论 (Bertrand’s Paradox) . . . . . . . . . . . . . . . . . . . . 1 1.1.3 非悖论, 生日问题 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 1.2 概率空间 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 1.2.1 可测空间 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4 1.2.2 概率空间 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 1.2.3 条件概率 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10 1.2.4 全概率公式和 Bayes 公式 . . . . . . . . . . . . . . . . . . . . . . . . 11 1.3 随机变量和分布函数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13 1.3.1 数字特征 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17 1.3.2 矩函数 (Moment Generating Function) . . . . . . . . . . . . . . . . . 17 1.3.3 特征函数 (Characteristic function) . . . . . . . . . . . . . . . . . . . 18 1.3.4 反演公式及唯一性定理 . . . . . . . . . . . . . . . . . . . . . . . . . 21 1.3.5 多维随机变量的特征函数 . . . . . . . . . . . . . . . . . . . . . . . 24 1.4 独立性与条件期望 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25 1.4.1 独立性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25 1.4.2 条件期望 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26 1.4.3 条件分布 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27 1.4.4 一般条件期望 ⋆ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31 2 随机过程的基本概念与类型 34 2.1 随机过程的背景 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34 2.2 基本概念 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34 2.3 有限维分布与 Kolmogorov 定理 . . . . . . . . . . . . . . . . . . . . . . . . 36 2.3.1 随机过程的数字特征 . . . . . . . . . . . . . . . . . . . . . . . . . . 37 2.4 随机过程的基本类型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40 2.4.1 平稳过程 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40 2.4.2 独立增量过程 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41 3 Brown 运动（维纳过程） 44 3.1 基本概念与性质 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44 3.2 维纳过程的分布 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48

目录 -iⅲ- 3.3维纳过程的数字特征 49 3.3.1二次变差 51 3.4 Brown运动的鞅性质......·.··· 55 3.5 Brown运动的最大值变量及反正弦律 56 3.6 Brown运动的几种变化 58 3.6.1 Brown桥.··. 58 3.6.2几何Brown运动.· 59 4 Poisson过程 61 41齐次泊松过程········· 61 4.1.1 Poisson过程数学模型... 。。 61 4.1.2齐次泊松过程的数字特征 66 4.1.3时间间隔与等待时间的分布 68 4.1.4到达时间的条件分布 70 4.1.5更新计数过程 70 4.2复合泊松过程..... 73 4.2.1复合Poisson过程······ 73 4.3非齐次泊松过程（了解内容，不考察） 75 5鞅(Martingale)过程 77 5.1基本概念·..···· 77 5.2鞅的停时定理及其应用 83 5.2.1鞅的停时定理... 83 5.3连续鞅.··。········ 87

目录 – iii – 3.3 维纳过程的数字特征 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49 3.3.1 二次变差 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51 3.4 Brown 运动的鞅性质 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55 3.5 Brown 运动的最大值变量及反正弦律 . . . . . . . . . . . . . . . . . . . . . 56 3.6 Brown 运动的几种变化 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58 3.6.1 Brown 桥 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58 3.6.2 几何 Brown 运动 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59 4 Poisson 过程 61 4.1 齐次泊松过程 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61 4.1.1 Poisson 过程数学模型 . . . . . . . . . . . . . . . . . . . . . . . . . . 61 4.1.2 齐次泊松过程的数字特征 . . . . . . . . . . . . . . . . . . . . . . . 66 4.1.3 时间间隔与等待时间的分布 . . . . . . . . . . . . . . . . . . . . . . 68 4.1.4 到达时间的条件分布 . . . . . . . . . . . . . . . . . . . . . . . . . . 70 4.1.5 更新计数过程 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70 4.2 复合泊松过程 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73 4.2.1 复合 Poisson 过程 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73 4.3 非齐次泊松过程 (了解内容，不考察) . . . . . . . . . . . . . . . . . . . . . 75 5 鞅 (Martingale) 过程 77 5.1 基本概念 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77 5.2 鞅的停时定理及其应用 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83 5.2.1 鞅的停时定理 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83 5.3 连续鞅 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87

第一章概率论基础 内容提要 口悖论 口随机变量 口样本空间 口分布函数 口代数 口特征函数 口可测空间 口独立性 口概率空间 口条件数学期望 口测度完备化 1.1为什么需要概率空间 我们需要概率空间的目的有三个：(1)避免语言描述的模糊性(2)模糊性带来的概 率悖论，(3)严格的定义随机变量和随机过程。 1.l.1理发师悖论(Barber paradox) 小城里的理发师要为所有不给自己刮脸的人刮脸。那么理发师是否应该给自己刮脸 呢？显然，如果理发师不给自己刮脸，那么根据他的话，他应该自己刮脸，所以矛盾了。 如果理发师给自己刮脸，根据他的描述，他不应该给自己刮脸，这样也矛盾了。 这个例子告诉我们：语言描述模糊性带来了悖论。 1.1.2贝特朗悖论(Bertrand's Paradox) 问题描述：在一个半径为1的圆内画一个内接等边三角形。如果在圆的周长上随机 选择两点，并连接这两个点。求这条弦比内接等边三角形边长要长的概率？ 。第一种计算方式：如下图所示，固定内接等边三角形的一个顶点作为弦的一个点。 因此随机选取另外一个点，作为这条弦的另外一个点。显而易见，当这条弦在60 度-90度这个范围内比三角形的边长要长。如下图的红色线段。因此，概率为13。 。第二种计算方式：我们选择和内接等边三角形一条边平行的弦。因此，我们可以过 圆心作三角形一条边的垂线。与三条线边平行线中有一半比三条线的边长要长。因 此，概率为1/2。 。第三种计算方式：我们再作一个等边三角形的内切圆。只有当弦穿过了内切圆，弦 才比三角形的边长要长。因此，概率为 小圆面积1 大圆面积=4

第 一 章 概率论基础 内容提要 h 悖论 h 样本空间 h σ 代数 h 可测空间 h 概率空间 h 测度完备化 h 随机变量 h 分布函数 h 特征函数 h 独立性 h 条件数学期望 1.1 为什么需要概率空间 我们需要概率空间的目的有三个：（1）避免语言描述的模糊性（2）模糊性带来的概 率悖论，（3）严格的定义随机变量和随机过程。 1.1.1 理发师悖论 (Barber paradox) 小城里的理发师要为所有不给自己刮脸的人刮脸。那么理发师是否应该给自己刮脸 呢？显然，如果理发师不给自己刮脸，那么根据他的话，他应该自己刮脸，所以矛盾了。 如果理发师给自己刮脸，根据他的描述，他不应该给自己刮脸，这样也矛盾了。 这个例子告诉我们：语言描述模糊性带来了悖论。 1.1.2 贝特朗悖论 (Bertrand’s Paradox) 问题描述：在一个半径为 1 的圆内画一个内接等边三角形。如果在圆的周长上随机 选择两点，并连接这两个点。求这条弦比内接等边三角形边长要长的概率？ 第一种计算方式：如下图所示，固定内接等边三角形的一个顶点作为弦的一个点。 因此随机选取另外一个点，作为这条弦的另外一个点。显而易见，当这条弦在 60 度-90 度这个范围内比三角形的边长要长。如下图的红色线段。因此，概率为 1/3。 第二种计算方式：我们选择和内接等边三角形一条边平行的弦。因此，我们可以过 圆心作三角形一条边的垂线。与三条线边平行线中有一半比三条线的边长要长。因 此，概率为 1/2。 第三种计算方式：我们再作一个等边三角形的内切圆。只有当弦穿过了内切圆，弦 才比三角形的边长要长。因此，概率为 小圆面积 大圆面积 = 1 4

1.1为什么需要概率空间 -2- 图1.1：贝特朗悖论第一种计算方式 图1.2：贝特朗悖论第二种计算方式 图1.3：贝特朗悖论第三种计算方式

1.1 为什么需要概率空间 – 2 – 图 1.1: 贝特朗悖论第一种计算方式 图 1.2: 贝特朗悖论第二种计算方式 图 1.3: 贝特朗悖论第三种计算方式