14CHAPTER1.预备知识特别地,若对每个n,有A,CAn+1,则称A,}为单调增的(或单调不减的);若对每个n,有AAn+1,则称【An)为单调降的(或单调不增的):对单调增序列(A,,令A=U-,An,则A为【An)的极限,通常记为A,个A;对单调降序列[An],令A=nm=An,则A为[An)的极限,记作A,↓A.例1.8.考虑集合序列A, = [0,1 + ]这是单调减的,极限为交集。事实上,lim sup A -n[0,1+ ]-1k=n [0.1+ ]= [0, 1];liminf An =Un[0,1 + ]n-→o.. U [0, 1] = [0, 1] 0=1例1.9.考虑如下定义的集合序列A,:A2n =[0,2+], A2n+1=[0,1+a2则B2n = U Ak= A2n U A2n+1 UA2n+2 U...k=21=(A2n UA2n+2 U..) U(A2n+1U A2n+3 U..)=A2n U A2n+1 =[0,2+ ] u[0,1 + H]=[0. 2 + ] Bzn+1= U Ak= A2n+1 UA2n+2UA2n+3 U...k=2n+1=(A2n+1UUA2n+3U..)U (UA2n+2UA2n+4U..)Aam+ UAa- [1+][0.2]n.=[0.2 +,]fn+il
14 CHAPTER 1. 预备知识 特别地,若对每个 𝑛,有 𝐴𝑛 ⊂ 𝐴𝑛+1,则称 {𝐴𝑛} 为单调增的(或单调不减的); 若对每个 𝑛,有 𝐴𝑛 ⊃ 𝐴𝑛+1,则称 {𝐴𝑛} 为单调降的(或单调不增的). 对单 调增序列 {𝐴𝑛},令 𝐴 = ⋃ ∞ 𝑛=1 𝐴𝑛,则 𝐴 为 {𝐴𝑛} 的极限,通常记为 𝐴𝑛 ↑ 𝐴; 对单调降序列 {𝐴𝑛},令 𝐴 = ⋂ ∞ 𝑛=1 𝐴𝑛,则 𝐴 为 {𝐴𝑛} 的极限,记作 𝐴𝑛 ↓ 𝐴. 例 1.8. 考虑集合序列 𝐴𝑛 = [0, 1 + 1 𝑛 ] . 这是单调减的,极限为交集。事实上, lim sup 𝑛→∞ 𝐴𝑛 = ∞ ⋂ 𝑛=1 ∞ ⋃ 𝑘=𝑛 [0, 1 + 1 𝑘 ] = ∞ ⋂ 𝑛=1 [0, 1 + 1 𝑛 ] = [0, 1]; lim inf 𝑛→∞ 𝐴𝑛 = ∞ ⋃ 𝑛=1 ∞ ⋂ 𝑘=𝑛 [0, 1 + 1 𝑘 ] = ∞ ⋃ 𝑛=1 [0, 1] = [0, 1]. 例 1.9. 考虑如下定义的集合序列 𝐴𝑛: 𝐴2𝑛 = [0, 2 + 1 𝑛 ] , 𝐴2𝑛+1 = [0, 1 + 1 𝑛 ] , 则 𝐵2𝑛 = ∞ ⋃ 𝑘=2𝑛 𝐴𝑘 = 𝐴2𝑛 ∪ 𝐴2𝑛+1 ∪ 𝐴2𝑛+2 ∪ ⋯ =(𝐴2𝑛 ∪ 𝐴2𝑛+2 ∪ ⋯) ∪ (𝐴2𝑛+1 ∪ 𝐴2𝑛+3 ∪ ⋯) =𝐴2𝑛 ∪ 𝐴2𝑛+1 = [0, 2 + 1 𝑛 ] ∪ [0, 1 + 1 𝑛 ] = [0, 2 + 1 𝑛 ] . 𝐵2𝑛+1 = ∞ ⋃ 𝑘=2𝑛+1 𝐴𝑘 = 𝐴2𝑛+1 ∪ 𝐴2𝑛+2 ∪ 𝐴2𝑛+3 ∪ ⋯ =(𝐴2𝑛+1 ∪ ∪𝐴2𝑛+3 ∪ ⋯) ∪ (∪𝐴2𝑛+2 ∪ 𝐴2𝑛+4 ∪ ⋯) =𝐴2𝑛+1 ∪ 𝐴2𝑛+2 = [0, 1 + 1 𝑛 ] ∪ [0, 2 + 1 𝑛 + 1] = [0, 2 + 1 𝑛 + 1]
151.1.概率空间从此得limsupAn=UA,n-→ocn=1k-(n0s)n(04)n=1k-2m+10(n Bn) n (n Bant)-[0, 2] n [0, 1] = [0, 2],但lim infA, =UnAkn=1k=(Uns)nCnA=1k=2n+11k=2r=[0, 1] n [0, 1] = [0, 1]上下极限不相等。例1.10.设有某人在反复地投掷硬币,观察硬币朝上的面是正面或反面{所有由投掷结果正面和反面组成的序列},=2的所有子集,记A,为第n次投掷的是“正面”的事件,则limsupAn=[有无限多个投掷结果是正面);n-→oliminfA,={除有限多个外,投掷结果都是正面1.1.4概率定义1.5.设(2.)是可测空间,P()是定义在上的实值函数,满足(1) P(2) = 1;(2) VAEF, 0≤P(A)≤1;(3)对两两互不相容事件A1.A2.....有P(U 4,) =Z P(A).i=1i=1则称P是(2.)上的概率(或概率测度),(2,,P)称为概率空间,9中的元素称为事件,P(A)称为事件A的概率
1.1. 概率空间 15 从此得 lim sup 𝑛→∞ 𝐴𝑛 = ∞ ⋂ 𝑛=1 ∞ ⋃ 𝑘=𝑛 𝐴𝑘 = ( ∞ ⋂ 𝑛=1 ∞ ⋃ 𝑘=2𝑛 𝐴𝑘) ∩ ( ∞ ⋂ 𝑛=1 ∞ ⋃ 𝑘=2𝑛+1 𝐴𝑘) = ( ∞ ⋂ 𝑛=1 𝐵2𝑛) ∩ ( ∞ ⋂ 𝑛=1 𝐵2𝑛+1) =[0, 2] ∩ [0, 1] = [0, 2], 但 lim inf 𝑛→∞ 𝐴𝑛 = ∞ ⋃ 𝑛=1 ∞ ⋂ 𝑘=𝑛 𝐴𝑘 = ( ∞ ⋃ 𝑛=1 ∞ ⋂ 𝑘=2𝑛 𝐴𝑘) ∩ ( ∞ ⋃ 𝑛=1 ∞ ⋂ 𝑘=2𝑛+1 𝐴𝑘) =[0, 1] ∩ [0, 1] = [0, 1]. 上下极限不相等。 例 1.10. 设有某人在反复地投掷硬币,观察硬币朝上的面是正面或反面. Ω = {所有由投掷结果正面和反面组成的序列}, F = Ω的所有子集, 记 𝐴𝑛 为第 𝑛 次投掷的是 “正面” 的事件,则 lim sup 𝑛→∞ 𝐴𝑛 ={有无限多个投掷结果是正面}; lim inf 𝑛→∞ 𝐴𝑛 ={除有限多个外,投掷结果都是正面}. 1.1.4 概率 定义 1.5. 设 (Ω, F) 是可测空间,𝑃(⋅) 是定义在 F 上的实值函数,满足 (1) 𝑃 (Ω) = 1; (2) ∀𝐴 ∈ F, 0 ≤ 𝑃 (𝐴) ≤ 1; (3) 对两两互不相容事件𝐴1 , 𝐴2 , . , 有 𝑃( ∞ ⋃ 𝑖=1 𝐴𝑖 ) = ∞ ∑ 𝑖=1 𝑃 (𝐴𝑖 ). 则称 𝑃 是 (Ω, F) 上的概率(或概率测度),(Ω, F, 𝑃 ) 称为概率空间,F 中 的元素称为事件,𝑃(𝐴) 称为事件 𝐴 的概率
16CHAPTER1.预备知识定义的第(3)条称为概率的可列可加性或完全可加性。例1.11.考虑掷一次般子的样本空间2=1,2.3.4,5,6,令A表示掷出偶数点,=(A),P()在(2,)上定义,令P(A)=PA)=1/2。这时,并不知道P([掷出1点}),因为【掷出1点)±,其概率无定义。例1.12.设某股票一天的成交笔数为m,样本空间为2=[0,1,2,.},为2的所有子集组成的集合族。定义P(0)=0,对AEF定义De-nneP(A) = )kEA其中入>0为给定常数。则P()是概率测度。证明:(1)Z=eP(2) = k!K=Ok!=0=e-^ed = 1.(2)显然0≤P(A)≤1。(3)设A1,A2...互不相容,则eA/K!n-keUn,Ane-Nk!n=lkeAn=P(An),n=1证毕
16 CHAPTER 1. 预备知识 定义的第 (3) 条称为概率的可列可加性或完全可加性。 例 1.11. 考虑掷一次骰子的样本空间 Ω = {1, 2, 3, 4, 5, 6},令 𝐴 表示掷出偶 数点,F = 𝜎({𝐴}),𝑃 (⋅) 在 (Ω, F) 上定义,令 𝑃 (𝐴) = 𝑃 (𝐴𝑐 ) = 1/2。这 时,并不知道 𝑃({掷出 1 点}),因为 {掷出 1 点} ∉ F,其概率无定义。 例 1.12. 设某股票一天的成交笔数为 𝑚,样本空间为 Ω = {0, 1, 2, . },F 为 Ω 的所有子集组成的集合族。定义 𝑃(∅) = 0,对 𝐴 ∈ F 定义 𝑃 (𝐴) = ∑ 𝑘∈𝐴 𝑒 −𝜆 𝜆 𝑘 𝑘! , 其中 𝜆 > 0 为给定常数。则 𝑃 (⋅) 是概率测度。 证明:(1) 𝑃 (Ω) = ∞ ∑ 𝑘=0 𝑒 −𝜆 𝜆 𝑘 𝑘! = 𝑒−𝜆 ∞ ∑ 𝑘=0 𝜆 𝑘 𝑘! =𝑒−𝜆𝑒 𝜆 = 1. (2)显然 0 ≤ 𝑃 (𝐴) ≤ 1。 (3)设 𝐴1 , 𝐴2 , . 互不相容,则 𝑃 ( ∞ ⋃ 𝑛=1 𝐴𝑛) = ∑ 𝑘∈⋃ ∞ 𝑛=1 𝐴𝑛 𝑒 −𝜆 𝜆 𝑘 𝑘! = ∞ ∑ 𝑛=1 ∑ 𝑘∈𝐴𝑛 𝑒 −𝜆 𝜆 𝑘 𝑘! = ∞ ∑ 𝑛=1 𝑃(𝐴𝑛), 证毕
171.1.概率空间概率有如下性质:(1)若A,BE,则P(AUB)=P(A)+P(B)-P(AnB)(2)可减性:若A,BE,且ACB,则P(B一A)=P(B)一P(A)(3)单调性:若A,BE,且ACB,则P(A)≤P(B)(4)次可加性:若A,E,n≥1则P(U An) ≤ P(An).n=1n=1(5)从下连续:若AnE?且An个AE?则P(A) = P(U An) = P(lim An)= lim P(A,);n=1(6)从上连续:若AnE且An+AE则P(A) = P( An) = P(lim An) = lim P(A,).n=1证明略,参见(张波,商豪,and邓军2023)P.6。1.1.5测度和完备概率空间概率测度是测度的特例。设(,)是可测空间,如果集合函数μ:R满足除了P(2)=1以外的所有概率测度条件,则称μ()为可测空间(2,)上的一个测度。如果()<00,则称μ为有限测度。如果存在的分割[Bn,n=1,2,...使得所有μ(Bn)<8o,则称μ为α有限测度。这里α的分割(Bn,n=1,2,..},是指B之间互不相容,且α=U=,Bn。B也可以是有限个。最常用的测度是Borel测度。对区间(a,bl,定义μ((a,bl)=b一a,这个集合函数μ)可以推广到Borelα代数B(R)上定义,就是长度的概念的推广。Borel测度是有限测度,但μ(R)=00。如果概率空间(2,,P)的P零测集(即零概率事件)的每个子集仍为事件,则称之为完备的概率空间.为了避免P零测集的子集不是事件的情形出现,我们把概率测度完备化.令V代表2的所有P零测集的子集的全体,由,N生成的代数(即包含和入的最小代数)称为的完备化,记为
1.1. 概率空间 17 概率有如下性质: (1) 若𝐴, 𝐵 ∈ F, 则 𝑃(𝐴 ∪ 𝐵) = 𝑃 (𝐴) + 𝑃 (𝐵) − 𝑃 (𝐴 ∩ 𝐵). (2) 可减性:若𝐴, 𝐵 ∈ F, 且𝐴 ⊂ 𝐵, 则𝑃 (𝐵 − 𝐴) = 𝑃 (𝐵) − 𝑃 (𝐴). (3) 单调性:若𝐴, 𝐵 ∈ F, 且𝐴 ⊂ 𝐵, 则𝑃 (𝐴) ≤ 𝑃 (𝐵). (4) 次可加性:若𝐴𝑛 ∈ F, 𝑛 ≥ 1 则 𝑃( ∞ ⋃ 𝑛=1 𝐴𝑛) ≤ ∞ ∑ 𝑛=1 𝑃(𝐴𝑛). (5) 从下连续:若𝐴𝑛 ∈ F 且𝐴𝑛 ↑ 𝐴 ∈ F 则 𝑃(𝐴) = 𝑃 ( ∞ ⋃ 𝑛=1 𝐴𝑛) = 𝑃 ( lim𝑛→∞ 𝐴𝑛) = lim𝑛→∞ 𝑃 (𝐴𝑛); (6) 从上连续:若𝐴𝑛 ∈ F 且𝐴𝑛 ↓ 𝐴 ∈ F 则 𝑃 (𝐴) = 𝑃 ( ∞ ⋂ 𝑛=1 𝐴𝑛) = 𝑃 ( lim𝑛→∞ 𝐴𝑛) = lim𝑛→∞ 𝑃 (𝐴𝑛). 证明略,参见 (张波, 商豪, and 邓军 2023) P.6。 1.1.5 测度和完备概率空间 概率测度是测度的特例。设 (𝒳, F) 是可测空间,如果集合函数 𝜇 ∶ F → ℝ 满足除了 𝑃 (Ω) = 1 以外的所有概率测度条件,则称 𝜇(⋅) 为可测空间 (𝒳, F) 上的一个测度。如果 𝜇(𝒳) < ∞,则称 𝜇 为有限测度。如果存在 𝒳 的分割 {𝐵𝑛, 𝑛 = 1, 2, . } 使得所有 𝜇(𝐵𝑛) < ∞,则称 𝜇 为𝜎 有限测度。 这里 𝒳 的分割 {𝐵𝑛, 𝑛 = 1, 2, . },是指 𝐵𝑛 之间互不相容,且 𝒳 = ⋃ ∞ 𝑛=1 𝐵𝑛。 𝐵𝑛 也可以是有限个。 最常用的测度是 Borel 测度。对区间 (𝑎, 𝑏],定义 𝜇((𝑎, 𝑏]) = 𝑏 − 𝑎,这个集 合函数 𝜇(⋅) 可以推广到 Borel 𝜎 代数 B(ℝ) 上定义,就是长度的概念的推广。 Borel 测度是 𝜎 有限测度,但 𝜇(ℝ) = ∞。 如果概率空间 (Ω, F, 𝑃 ) 的 𝑃 零测集 (即零概率事件) 的每个子集仍为事件,则 称之为完备的概率空间. 为了避免 𝑃 零测集的子集不是事件的情形出现,我们 把概率测度完备化. 令 𝒩 代表 Ω 的所有 𝑃 零测集的子集的全体,由 {F, 𝒩} 生成的 𝜎 代数 (即包含 F 和 𝒩 的最小 𝜎 代数) 称为 F 的完备化,记为
18CHAPTER1.预备知识季.中的每个集合B都可以表为B=AUN,其中AE,NEN,且AnN=0.定义P(B) = P(AU N) = P(A)则P就被扩张到上.容易验证,P是上的概率测度,集函数P称为P的完备化.本书总假定P是完备的概率测度勒贝格可测集的集合(R)是包含B(R)的一个α域,在其上定义了测度π()满足((a,b))=b一a,(R,(R),μ)是(R,B(R),μ)的完备化。勒贝格积分是关于勒贝格测度的积分,见1.6.4。例1.13.设2=(w1,w2,w3],=[2,0,[w1,w2], [w3]]。定义P((wi,w2)) = 0, P((ws)) = 1.这时【w1}和【w2}不是可测集,所以概率无定义;但是,它们是0测集(w1,w2】的子集,其概率的一个合理定义是0。令F= [2,0, (w1, (w2), (w1,w2), (w3))并令P((w1))=P((w2))=0,则(2,,P)是完备的概率空间。1.2随机变量与分布函数1.2.1随机变量定义1.6.设(2,,P)是(完备的)概率空间,X是定义在2上取值于实数集R的函数,如果对任意实数ER,w:X(w)≤)E?,则称X(w)是?上的随机变量,简称为随机变量。F(r)=P(w:X(w)≤r),-00<<00称为随机变量X的分布函数随机变量X是概率空间模型中用数字值表示随机试验结果的一种数学模型。X不仅仅是wE2的函数,还要求可测性:即[w:X(w)≤)E,V。事实上,在概率空间(2,,P)中,仅在中的事件信息才是可知并且可以计算
18 CHAPTER 1. 预备知识 F. F 中的每个集合 𝐵 都可以表为 𝐵 = 𝐴 ∪ 𝑁,其中 𝐴 ∈ F, 𝑁 ∈ 𝒩, 且 𝐴 ∩ 𝑁 = ∅. 定义 𝑃 (𝐵) = ̄ 𝑃 (𝐴 ∪ 𝑁) = 𝑃 (𝐴). ̄ 则 𝑃 就被扩张到 F 上. 容易验证,𝑃̄是 F 上的概率测度,集函数 𝑃̄称为 𝑃 的完备化. 本书总假定 𝑃 是完备的概率测度. 勒贝格可测集的集合 L (ℝ) 是包含 B(ℝ) 的一个 𝜎 域,在其上定义了测度 𝜇(⋅) 满足 𝜇((𝑎, 𝑏]) = 𝑏 − 𝑎,(ℝ, L (ℝ), 𝜇) 是 (ℝ, B(ℝ), 𝜇) 的完备化。勒贝格积分 是关于勒贝格测度的积分,见1.6.4。 例 1.13. 设 Ω = {𝜔1 , 𝜔2 , 𝜔3}, F = {Ω, ∅, {𝜔1 , 𝜔2}, {𝜔3}}。定义 𝑃({𝜔1 , 𝜔2}) = 0, 𝑃 ({𝜔3}) = 1. 这时 {𝜔1} 和 {𝜔2} 不是可测集,所以概率无定义;但是,它们是 0 测集 {𝜔1 , 𝜔2} 的子集,其概率的一个合理定义是 0。令 F = {Ω, ∅, {𝜔1}, {𝜔2}, {𝜔1 , 𝜔2}, {𝜔3}}, 并令 𝑃({𝜔 ̄ 1}) = 𝑃({𝜔 ̄ 2}) = 0,则 (Ω, F, 𝑃 )̄ 是完备的概率空间。 1.2 随机变量与分布函数 1.2.1 随机变量 定义 1.6. 设 (Ω, F, 𝑃 ) 是 (完备的) 概率空间,𝑋 是定义在 Ω 上取值于实数 集 ℝ 的函数, 如果对任意实数 𝑥 ∈ ℝ, {𝜔 ∶ 𝑋(𝜔) ≤ 𝑥} ∈ F,则称 𝑋(𝜔) 是 F 上的随机变量,简称为随机变量. 𝐹(𝑥) = 𝑃 (𝜔 ∶ 𝑋(𝜔) ≤ 𝑥), −∞ < 𝑥 < ∞ 称为随机变量 𝑋 的分布函数. 随机变量 𝑋 是概率空间模型中用数字值表示随机试验结果的一种数学模型。𝑋 不仅仅是 𝜔 ∈ Ω 的函数,还要求可测性:即 {𝜔 ∶ 𝑋(𝜔) ≤ 𝑥} ∈ F, ∀𝑥。事实 上,在概率空间 (Ω, F, 𝑃 ) 中,仅在 F 中的事件信息才是可知并且可以计算