1.2概率空间 -8 同理可以得到 lim inf An =[0,1]lim sup An =[0,2]. n→+o 1.2.2概率空间 有了可测空间(2，F)我们能够定义可测集，也就是我们可以认识的事件。但现在还 没有一把度量的直尺去刻画事件的大小。下面我们就引入这个度量工具：概率。 定义1.6.概率空间 (2,F)为一个可测空间。P为一个函数P:下→[0,1刂。其定义域为σ代数下，值 域为[0,1。如果函数P满足： 1.P(2)=1: 2.对任意的A∈F,有0≤P(A)≤1： 3.如果A1,A2,…,A0为任意不相交的集合序列，则有 PUA)=∑PA) (1.4) =1 n=1 我们把三元组(2，下，P)称为概率空间。 9 理解1.4.概率 概率定义了如何刻画0代数F中事件发生的大小。我们只能度量可以认识事件的 概率大小，也即是σ代数下中的可测集！ 例1.10假设2={1，w2,w3},F={0,2,{w,w2},{w3}.定义 P({w1,w2})=0.5,P({3})=0.5. 因此，上面的概率P刻画事件{w1,w2}和{w3}发生的概率。但是，我们并不知道事件 {w}发生的概率大小。因为，{}关于F不可测，也不在概率P的定义域内。 定义1.7.零测集 如果一个事件发生的概率为0，我们称其为零测集。 在随机过程的研究中，零测集通常没有什么作用，对于研究的问题也没有什么影响。 但是一个零测集并不代表是空集，依赖于概率的定义。所以我们通常采用下面完备化的 技巧是的这个概率空间性质更好一些。 定义1.8.完备的概率测度 令W代表2的所有P零测集的子集的全体，由{F,W门生成的σ代数（即包含F 和N的最小σ代数)称为下的完备化，记为F F中的每个集合B都可以表为B=AUN,其中A∈F,N∈N,且A∩N=0。 定义 P(B)=P(AUN)=P(A)
1.2 概率空间 – 8 – 同理可以得到 lim inf n→+∞ An = [0, 1] ̸= lim sup n→+∞ An = [0, 2]. 1.2.2 概率空间 有了可测空间 (Ω, F) 我们能够定义可测集，也就是我们可以认识的事件。但现在还 没有一把度量的直尺去刻画事件的大小。下面我们就引入这个度量工具：概率。 定义 1.6. 概率空间 ♣ (Ω, F) 为一个可测空间。P 为一个函数 P : F → [0, 1]。其定义域为 σ 代数 F，值 域为 [0, 1]。如果函数 P 满足： 1. P(Ω) = 1; 2. 对任意的 ∀A ∈ F, 有 0 ≤ P(A) ≤ 1; 3. 如果 A1, A2, · · · , A∞ 为任意不相交的集合序列，则有 P( ∪∞ n=1 An) = ∑∞ n=1 P(An). (1.4) 我们把三元组 (Ω, F, P) 称为概率空间。 理解 1.4. 概率 ♣ 概率定义了如何刻画 σ 代数 F 中事件发生的大小。我们只能度量可以认识事件的 概率大小，也即是 σ 代数 F 中的可测集！ 例 1.10 假设 Ω = {ω1, ω2, ω3}, F = {∅, Ω, {ω1, ω2}, {ω3}}. 定义 P({ω1, ω2}) = 0.5, P({ω3}) = 0.5. 因此，上面的概率 P 刻画事件 {ω1, ω2} 和 {ω3} 发生的概率。但是，我们并不知道事件 {ω1} 发生的概率大小。因为，{ω1} 关于 F 不可测，也不在概率 P 的定义域内。 定义 1.7. 零测集 ♣ 如果一个事件发生的概率为 0，我们称其为零测集。 在随机过程的研究中，零测集通常没有什么作用，对于研究的问题也没有什么影响。 但是一个零测集并不代表是空集，依赖于概率的定义。所以我们通常采用下面完备化的 技巧是的这个概率空间性质更好一些。 定义 1.8. 完备的概率测度 令 N 代表 Ω 的所有 P 零测集的子集的全体，由 {F, N } 生成的 σ 代数 (即包含 F 和 N 的最小 σ 代数) 称为 F 的完备化，记为 Fb. Fb 中的每个集合 B 都可以表为 B = A ∪ N，其中 A ∈ F, N ∈ N , 且 A ∩ N = ∅。 定义 Pb(B) = Pb(A ∪ N) = P(A)
1.2概率空间 -9 则P就被扩张到上。 容易验证，户是户上的概率测度，函数P称为P的完备化。我们总假定P是完 备的概率测度。 例1.11假设2={w,w2,w3},F={0,2,{w1,w2},{3}.定义 P({w1,w2})=0,P({w3}）=1. 因此，{w1,w2}为零测集。但是其子集，{w},{w2}都不是可测集。因此，如果我们关心 的是概率发生的大小，我们不妨把{w1},{2}加入到下中，从而把她们都变成可测集， 同时也定义她们的概率为0。因此，定义 手={0,2，{wi,{w2,{w1,w2,{w3,{w1,w3},{w2,w3} P({w》=p({2)=0,P({3)=1 显然，新得到的(2，F,P)是概率空间(2，下，P)的完备化。 理解1.5.概率空间的逻辑 概率空间的逻辑图可以如下表示： ?感共起的集仓（③，F)可以认识的李件(？，万，P)可认识李件的度量大小随机变量 也就是可测集 可测事件的概率大小 命题12.概率的性质 事件的概率有如下性质： 1.若A,B∈F,则P(AUB)+P(AnB)=P(A)+P(B) 2.若A,B∈F,且ACB,则P(B-A)=P(B)-P(A)(可减性). 3.若A,B∈F,且ACB,则P(A)≤P(B)(单调性) 4.若An∈F,n≥1，则PUn≥1An)≤∑n≥P(An) 5.从下连续：若An∈F且An↑A∈F,则P(A)=imn→eP(An) 6.从上连续：若An∈F且An↓A∈F,则P(A)=limn→eP(An) 证明1、2、3的证明很显然，我们省掉了。 4.引入如下记号： B1=A1,B2=A2lA1,B3=A3(41UA2),…,Bn=An 通过如上构造，显然Bn为不相交的集合序列。并且对于所有的k,U1Ai=U片1B,BnC An。因此可以得到P(Bn)≤P(An)和 P(4.)=P(UB.)-P(BsP). D- n=1 5.由于集合序列An递增，所以A=U1A。通过采用3.中相同的新集合序列Bm·因
1.2 概率空间 – 9 – ♣ 则 P 就被扩张到 Fb 上。 容易验证，Pb 是 Fb 上的概率测度，函数 Pb 称为 P 的完备化。我们总假定 P 是完 备的概率测度。 例 1.11 假设 Ω = {ω1, ω2, ω3}, F = {∅, Ω, {ω1, ω2}, {ω3}}. 定义 P({ω1, ω2}) = 0, P({ω3}) = 1. 因此，{ω1, ω2} 为零测集。但是其子集，{ω1}, {ω2} 都不是可测集。因此，如果我们关心 的是概率发生的大小，我们不妨把 {ω1}, {ω2} 加入到 F 中，从而把她们都变成可测集， 同时也定义她们的概率为 0。因此，定义 Fb = {∅, Ω, {ω1}, {ω2}, {ω1, ω2}, {ω3}, {ω1, ω3}, {ω2, ω3}}. Pb({ω1}) = Pb({ω2}) = 0, Pb({ω3}) = 1. 显然，新得到的 (Ω, Fb, Pb) 是概率空间 (Ω, F, P) 的完备化。 理解 1.5. 概率空间的逻辑 ♣ 概率空间的逻辑图可以如下表示： Ω 感兴趣的集合 −−−−−−−−→ (Ω, F) 可以认识的事件 −−−−−−−−−→ 也就是可测集 (Ω, F, P) 可认识事件的度量大小 −−−−−−−−−−−−−→ 可测事件的概率大小 随机变量 命题 1.2. 概率的性质 ♠ 事件的概率有如下性质： 1. 若 A, B ∈ F, 则 P(A ∪ B) + P(A ∩ B) = P(A) + P(B). 2. 若 A, B ∈ F, 且 A ⊂ B，则 P(B − A) = P(B) − P(A)(可减性). 3. 若 A, B ∈ F, 且 A ⊂ B，则 P(A) ≤ P(B)(单调性). 4. 若 An ∈ F, n ≥ 1, 则 P( ∪ n≥1 An) ≤ ∑ n≥1 P(An). 5. 从下连续: 若 An ∈ F 且 An ↑ A ∈ F，则 P(A) = limn→∞ P(An). 6. 从上连续: 若 An ∈ F 且 An ↓ A ∈ F，则 P(A) = limn→∞ P(An) 证明 1、2、3 的证明很显然，我们省掉了。 4. 引入如下记号： B1 = A1, B2 = A2\A1, B3 = A3\(A1 ∪ A2), · · · , Bn = An\ (n∪−1 i=1 Ai ) 通过如上构造，显然Bn 为不相交的集合序列。并且对于所有的k, ∪k i=1 Ai = ∪k i=1 Bi , Bn ⊂ An 。因此可以得到 P(Bn) ≤ P(An) 和 P (∪∞ n=1 An ) = P (∪∞ n=1 Bn ) = ∑∞ n=1 P(Bn) ≤ ∑∞ n=1 P(An). 5. 由于集合序列 An 递增，所以 A = ∪∞ n=1 An。通过采用 3. 中相同的新集合序列 Bn. 因
1.2概率空间 -10- 此可以得到 PA=PU1=r(UA-Pa圆 =m∑PB)=P(UB=P4 6.证明类似5.可以考虑Cn=2-An。这样新的集合序列就是递增的了，可以直接用 5.的结论。 Q 例112设某股票一天的成交笔数为m,基本事件为{m},样本空间F是2的一切子集组 成的集族，则下是一个2代数.定义P(0)=0,并对A∈F令 PA=∑e-A ,A>0. kEA 证明：P为可测空间(2，F,P)上的概率测度. 证明(1)我们证明P(2)=1. P@=∑eAA= k∈0 k=0 =e-e入=1. (2)对于F中任意不相交的集合序列An,可以得到 P心-一若-2E若-立ra n1 k∈Un An n=1k∈Am 因此，P为可测空间(2，F,P)上的概率测度. 1.2.3条件概率 定义1.9 概率空间(2，F,P)上面，如果A,B∈F且P(B)>0,则定义 P(AUB)-P(B) P(AB) 称为已知事件B发生的条件下，事件A发生的条件概率。 定理1.1 概率空间（①，下，P)上面，B∈F,且P(B)>0,则对所有的A∈F,有P(AB)相对 应，且函数P(B)满足如下的三条公理： 。HA∈F,0≤P(AB)≤1 。P(2B)=1 。A∈F,i=1,2,…,n,并且AnA=0,i≠j,则 A)-Pa 证明该定理的证明很显然。可以从条件概率的定义简单推导得到。 ■
1.2 概率空间 – 10 – 此可以得到 P(A) = P( ∪∞ n=1 An) = P (∪∞ n=1 Bn ) = ∑∞ n=1 P(Bn) = lim k→∞ ∑ k n=1 P(Bn) = lim k→∞ P (∪ k n=1 Bn ) = lim k→∞ P(Ak). 6. 证明类似 5. 可以考虑 Cn = Ω − An 。这样新的集合序列就是递增的了，可以直接用 5. 的结论。 ■ 例 1.12 设某股票一天的成交笔数为 m, 基本事件为 {m}, 样本空间 F 是 Ω 的一切子集组 成的集族，则 F 是一个 Ω 代数. 定义 P(∅) = 0, 并对 A ∈ F 令 P(A) = ∑ k∈A e −λ λ k k! , λ > 0. 证明：P 为可测空间 (Ω, F, P) 上的概率测度. 证明 (1) 我们证明 P(Ω) = 1. P(Ω) = ∑ k∈Ω e −λ λ k k! = ∑ +∞ k=0 e −λ λ k k! = e −λ e λ = 1. (2) 对于 F 中任意不相交的集合序列 An，可以得到 P( ∪∞ n=1 An) = ∑ k∈ ∪ n An e −λ λ k k! = ∑∞ n=1 ∑ k∈An e −λ λ k k! = ∑∞ n=1 P(An). 因此，P 为可测空间 (Ω, F, P) 上的概率测度. ■ 1.2.3 条件概率 定义 1.9 ♣ 概率空间 (Ω, F, P) 上面，如果 A, B ∈ F 且 P(B) > 0, 则定义 P(A|B) = P(AB) P(B) . 称为已知事件 B 发生的条件下，事件 A 发生的条件概率. 定理 1.1 ♡ 概率空间 (Ω, F, P) 上面, B ∈ F, 且 P(B) > 0, 则对所有的 A ∈ F, 有 P(A|B) 相对 应，且函数 P(·|B) 满足如下的三条公理： ∀A ∈ F, 0 ≤ P(A|B) ≤ 1 P(Ω|B) = 1 Ai ∈ F, i = 1, 2, · · · , n, 并且 Ai ∩ Aj = ∅, i ̸= j, 则 P (∪∞ i=1 Ai |B ) = ∑∞ i=1 P(Ai |B). 证明 该定理的证明很显然。可以从条件概率的定义简单推导得到。 ■
1.2概率空间 -11- 定义110 PB:=P(B),则PB是可测空间(2，)上的概率，称(L,F,PB)是条件概率空间. 8 定理12 A是概率空间(2，F,PB)上的正概率事件，B∈F,且PA(B)>0,则对任意C∈F 有 PA(CIB)=P(CA∩B) 证明有定义可以得到： P(CnBA) PA(CB)= PA(CnB) PA(B) P(BA) P(ABC)P(AB)P(ABC) P(A) P(A) P(AB) =P(CIAn B). ■ 理解1.6.条件概率 条件概率告诉了我们已经给定了一个事件下，另外一个事件发生的概率。例如下 面图片所示，可以设想在一个样本空间中事件发生就是在平板上方掉落的球。如 果球落在了横板上面，说明该事件就发生了。图片中红色挡板就是事件A,蓝色的 挡板就是的事件B。在给定事件A条件下，事件B的条件概率就是下落的小球首 先已经触碰到红色挡板A的条件下，并且再次触碰到挡板B的概率。该图例的动 态演示可以在http:∥setosa..io/conditional/查看。 ● 图1.6：条件概率 1.2.4全概率公式和Bayes公式 定理1.3 概率空间(2，F,P)上，若 。A∈F且P(A:)>0对所有的i=1,2,… 。U21A=2,A:nA=0
1.2 概率空间 – 11 – 定义 1.10 ♣ PB := P(·|B), 则 PB 是可测空间 (Ω, F) 上的概率, 称 (Ω, F, PB) 是条件概率空间. 定理 1.2 ♡ A 是概率空间 (Ω, F, PB) 上的正概率事件,B ∈ F, 且 PA(B) > 0, 则对任意 C ∈ F 有 PA(C|B) = P(C|A ∩ B). 证明 有定义可以得到： PA(C|B) = PA(C ∩ B) PA(B) = P(C ∩ B|A) P(B|A) = P(ABC) P(A) / P(AB) P(A) = P(ABC) P(AB) = P(C|A ∩ B). ■ 理解 1.6. 条件概率 ♣ 条件概率告诉了我们已经给定了一个事件下，另外一个事件发生的概率。例如下 面图片所示，可以设想在一个样本空间中事件发生就是在平板上方掉落的球。如 果球落在了横板上面，说明该事件就发生了。图片中红色挡板就是事件 A, 蓝色的 挡板就是的事件 B。在给定事件 A 条件下，事件 B 的条件概率就是下落的小球首 先已经触碰到红色挡板 A 的条件下，并且再次触碰到挡板 B 的概率。该图例的动 态演示可以在 http://setosa.io/conditional/查看. 图 1.6: 条件概率 1.2.4 全概率公式和 Bayes 公式 定理 1.3 概率空间 (Ω, F, P) 上，若 Ai ∈ F 且 P(Ai) > 0 对所有的 i = 1, 2, ... ∪∞ i=1Ai = Ω, Ai ∩ Aj = ∅
1.3随机变量和分布函数 -12- 则对任意的B∈F,有 P(B)= P(A)P(BIA) =1 P(A;B) P(Aj)P(BA) ∑1P(A)P(BA 理解1.7.Bayes公式 我们可以把B当作是某一个原因的结果，而A是这些所有的可能性。全概率公 式告诉我们，如何通过细分全空间2得到B发生的概率P(B)。而Bays公式则反 过来，如果我们看到了结果B,去推测是原因A使得其发生的概率。 ByCs公式在金融中也有重要的应用。例如在市场做市商要对一个资产提供连续报 价时，做市场需要面对可能的信息交易者和噪音交易者。所以如何报价，一方面可 以为市场提供流动性，另外一方面又不至于在和信息交易者交易时过多亏损。因 此，做市商可以通过市场提交的订单流来推测信息交易者和噪音交易者的比例，以 此来提高卖价和买价，以及价差，来保持自己的做市能力。 品 例1.13高射炮向敌机发射三发炮弹，每弹击中与否相互独立且每发炮弹击中的概率均为 0.3,又知敌机若中一弹，坠毁的概率为02，若中两弹，坠毁的概率为0.6，若中三弹，敌 机必坠毁。求敌机坠毁的概率。 B={敌机坠毁}，A,={敌机中了i个子弹} 因此，我们可以计算 P(B)= PA)P(BLA) i=0 =(1-0.3)3*0+C*0.3*(1-0.3)2*0.2 +C*0.32*(1-0.3)*0.6+C*0.33*1 =0.2286. 计算在敌机坠毁的条件下，该机中了一发炮弹的概率。 P(A|B)= P(A1)P(BA1) ∑oP(A)P(BlA C3*0.3*(1-0.3)2*0.2 =0.385826772. 0.2286
1.3 随机变量和分布函数 – 12 – ♡ 则对任意的 B ∈ F, 有 P(B) = ∑∞ i=1 P(Ai)P(B|Ai) P(Aj |B) = P(Aj )P(B|Aj ) ∑∞ i=1 P(Ai)P(B|Ai) . 理解 1.7. Bayes 公式 ♣ 我们可以把 B 当作是某一个原因的结果，而 An 是这些所有的可能性。全概率公 式告诉我们, 如何通过细分全空间 Ω 得到 B 发生的概率 P(B)。而 Bayes 公式则反 过来，如果我们看到了结果 B，去推测是原因 Aj 使得其发生的概率。 Bayes 公式在金融中也有重要的应用。例如在市场做市商要对一个资产提供连续报 价时，做市场需要面对可能的信息交易者和噪音交易者。所以如何报价，一方面可 以为市场提供流动性，另外一方面又不至于在和信息交易者交易时过多亏损。因 此，做市商可以通过市场提交的订单流来推测信息交易者和噪音交易者的比例，以 此来提高卖价和买价，以及价差，来保持自己的做市能力。 例 1.13 高射炮向敌机发射三发炮弹，每弹击中与否相互独立且每发炮弹击中的概率均为 0.3，又知敌机若中一弹，坠毁的概率为 0.2，若中两弹，坠毁的概率为 0.6，若中三弹，敌 机必坠毁。求敌机坠毁的概率。 B = { 敌机坠毁}, Ai = {敌机中了i 个子弹} 因此，我们可以计算 P(B) = ∑ 3 i=0 P(Ai)P(B|Ai) = (1 − 0.3)3 ∗ 0 + C 1 3 ∗ 0.3 ∗ (1 − 0.3)2 ∗ 0.2 +C 2 3 ∗ 0.3 2 ∗ (1 − 0.3) ∗ 0.6 + C 3 3 ∗ 0.3 3 ∗ 1 = 0.2286. 计算在敌机坠毁的条件下，该机中了一发炮弹的概率。 P(A1|B) = P(A1)P(B|A1) ∑3 i=0 P(Ai)P(B|Ai) = C 1 3 ∗ 0.3 ∗ (1 − 0.3)2 ∗ 0.2 0.2286 = 0.385826772