1.2概率空间 -3- 这个例子告诉我们:三种计算的概率都是正确的,但是得到的结论呢却不一致。这 是因为语言模糊性带来随机选取的不一致,从而带来概率计算的不确定性。 1.1.3非悖论,生日问题 生日问题是指,如果在一个房间要多少人,则两个人的生日相同的概率要大于50? 答案是23人。这就意味着在一个典型的标准班级(30人)中,存在两人生日相同的可 能性更高。对于60或者更多的人,这种概率要大于99。这个问题有时也被称做生日悖 论,但从引起逻辑矛盾的角度来说生日悖论并不是一种悖论,它被称作悖论只是因为这 个数学事实与一般直觉相抵触而已。大多数人会认为,23人中有2人生日相同的概率应 该远远小于50%。计算与此相关的概率被称为生日问题,在这个问题之后的数学理论已 被用于设计著名的密码攻击方法:生日攻击。 1 c0.7 50.6 0.4 0.3 0.2 0.1 0 0 102030405060708090100 Number of people 图1.4:生日问题 理解11.悖论 从这些例子,我们看到为了严格的说明什么是随机的,为了避免语言描述带来的 模糊性。我们需要严格的定义所讨论的随机所定义的空间! 1.2概率空间 当我们做一系列的随机试验,能够得到不同的结果,为了研究这些可能的结果。我 们把随机试验所有的可能性放在一起,成为样本空间。例如,我们抛掷一个六面的骰子, 可能会得到{1,2,…,6}中的任何一个数字。因此,我们用2={1,2,·,6}表示抛骰 子这个实验的样本空间。 定义1.1.样本空间2 我们感兴趣的实验所有结果放在一起构成的集合,称为样本空间2。其中的元素称 为样本空间D的点。 例1.1如果我们想研究抛一次硬币的结果,我们可以用如下的2来表示样本空间。 2={正面,反面} (1.1)
1.2 概率空间 – 3 – 这个例子告诉我们:三种计算的概率都是正确的,但是得到的结论呢却不一致。这 是因为语言模糊性带来随机选取的不一致,从而带来概率计算的不确定性。 1.1.3 非悖论, 生日问题 生日问题是指,如果在一个房间要多少人,则两个人的生日相同的概率要大于 50%? 答案是 23 人。这就意味着在一个典型的标准班级(30 人)中,存在两人生日相同的可 能性更高。对于 60 或者更多的人,这种概率要大于 99%。这个问题有时也被称做生日悖 论,但从引起逻辑矛盾的角度来说生日悖论并不是一种悖论,它被称作悖论只是因为这 个数学事实与一般直觉相抵触而已。大多数人会认为,23 人中有 2 人生日相同的概率应 该远远小于 50%。计算与此相关的概率被称为生日问题,在这个问题之后的数学理论已 被用于设计著名的密码攻击方法:生日攻击。 图 1.4: 生日问题 理解 1.1. 悖论 ♣ 从这些例子,我们看到为了严格的说明什么是随机的,为了避免语言描述带来的 模糊性。我们需要严格的定义所讨论的随机所定义的空间! 1.2 概率空间 当我们做一系列的随机试验,能够得到不同的结果,为了研究这些可能的结果。我 们把随机试验所有的可能性放在一起,成为样本空间。例如,我们抛掷一个六面的骰子, 可能会得到 {1, 2, · · · , 6} 中的任何一个数字。因此,我们用 Ω = {1, 2, · · · , 6} 表示抛骰 子这个实验的样本空间。 定义 1.1. 样本空间 Ω ♣ 我们感兴趣的实验所有结果放在一起构成的集合,称为样本空间 Ω。其中的元素称 为样本空间 Ω 的点。 例 1.1 如果我们想研究抛一次硬币的结果,我们可以用如下的 Ω 来表示样本空间。 Ω = {正面, 反面}. (1.1)
1.2概率空间 -4 图1.5:抛骰子的样本空间 例12如果我们想研究抛两次硬币的结果,我们可以用如下的2来表示样本空间。 ={正面,正面},{反面,正面},{正面,反面},{反面,反面}} (1.2) 思考抛无穷次硬币的结果的样本空间? 当我们有了样本空间2,这时我们可以把研究对象限定在该指定的样本空间上。这 样就避免了随机选取带来的模糊性。例如在贝特朗悖论中,如果我们事先制定了如何去 画弦,这样就相当于固定了样本空间2,就能避免前面得到的三种不同的概率。 在样本空间2基础上,如果我们还感兴趣某几个事情一起发生或者都不发生的概 率,这时我们就希望能够把样本空间2一些结果当作一个整体放在一起来考虑。这就有 了子集、事件、σ代数的引入。例如我们想研究抛两次硬币第一次出现是正面的概率。在 例1.2的样本空间2上,我们可以选取A={正面,正面},{正面,反面}作为一个整体事 件。下一节我们给出这些概念的详细定义。 1.2.1可测空间 定义12.事件(子集) 样本空间2中的点构成的集合,称为2的子集或者事件。 例13例如2={1,w2,·,w10}。我们称w,i=1,2,…,10为样本空间2中的点或者 元素。类似A={w1,3},B={w4,w7,wg}这样由其元素构成的子集就称为事件。注意 以后我们在使用符号:时,它可以表示任意的含义,例如硬币的正反面,骰子的点数, 一个班级的同学。它只是一个抽象的符号。 有了事件的概念,接下来我们想研究一系列事件发生的概率或者两个事件交集发生 的概率,这时我们就需要σ代数的概念。例如在上面例子1.3中,如果我们想知道A,B同 时发生的概率,这时我们就需要研究A∩B;如果想研究A,B有一个发生的概率,这时
1.2 概率空间 – 4 – 图 1.5: 抛骰子的样本空间 例 1.2 如果我们想研究抛两次硬币的结果,我们可以用如下的 Ω 来表示样本空间。 Ω = {{正面, 正面}, {反面, 正面}, {正面, 反面}, {反面, 反面}}. (1.2) 思考抛无穷次硬币的结果的样本空间? 当我们有了样本空间 Ω,这时我们可以把研究对象限定在该指定的样本空间上。这 样就避免了随机选取带来的模糊性。例如在贝特朗悖论中,如果我们事先制定了如何去 画弦,这样就相当于固定了样本空间 Ω,就能避免前面得到的三种不同的概率。 在样本空间 Ω 基础上,如果我们还感兴趣某几个事情一起发生或者都不发生的概 率,这时我们就希望能够把样本空间 Ω 一些结果当作一个整体放在一起来考虑。这就有 了子集、事件、σ 代数的引入。例如我们想研究抛两次硬币第一次出现是正面的概率。在 例1.2的样本空间 Ω 上,我们可以选取 A = {{正面, 正面}, {正面, 反面}} 作为一个整体事 件。下一节我们给出这些概念的详细定义。 1.2.1 可测空间 定义 1.2. 事件 (子集) ♣ 样本空间 Ω 中的点构成的集合,称为 Ω 的子集或者事件。 例 1.3 例如 Ω = {ω1, ω2, · · · , ω10}。我们称 ωi , i = 1, 2, · · · , 10 为样本空间 Ω 中的点或者 元素。类似 A = {ω1, ω3}, B = {ω4, ω7, ω9} 这样由其元素构成的子集就称为事件。注意 以后我们在使用符号 ωi 时,它可以表示任意的含义,例如硬币的正反面,骰子的点数, 一个班级的同学。它只是一个抽象的符号。 有了事件的概念,接下来我们想研究一系列事件发生的概率或者两个事件交集发生 的概率,这时我们就需要 σ 代数的概念。例如在上面例子1.3中,如果我们想知道 A, B 同 时发生的概率,这时我们就需要研究 A ∩ B; 如果想研究 A, B 有一个发生的概率,这时
1.2概率空间 我们就需要研究AUB。 定义13.o代数 2是一个样本空间,下是一些由2子集构成的集合。如果下满足如下三个条件 1.2∈F: 2.如果A∈F,则我们有A的补集Ac=2八A∈F: 3.如果一系列集合An∈F,n=1,2,…,o,则有U%1An∈F。 我们则称下为一个σ代数。并称(2,F)为可测空间。(2,F)中的元素称为可测集 或者可测事件。 我们用0表示空集。A∈F表示A在F中。对于两个集合A,B,我们用A八B表示 两个的差,即: A\B={ww∈A,w生B}. 理解12.o代数 定义σ代数是为了去研究2中单个事件或者事件组合所发生的概率。因此,我们 需要在下包含一系列的事件。但并不是所有的事件放在一起都对我们研究一般问 题有效。直观来说, 。F必须包含事件的全体,这样我们才能讨论必然会发生的事情。因此有了 2eF。 。如果一个事情的正面我们感兴趣,一般我们也对其反面(不发生)感兴趣。因 此有了如果A∈F,我们要求A的补集A=2A∈F; 。我们希望如果有无穷多个事情发生的情况或者极限下会怎么样。因此有了如 果一系列事件(An)n≥1∈F,我们希望U心1An∈F。 。只要一个集合在下中,我们就称为它为关于下的可测集合。所以一个集合 是否可测,依赖于我们定义的σ代数F。 。我们可以把σ代数下想象成我们所有知识的集合体。只有在下中的事件,我 们才能够认识! 品 例1.4我们想研究抛一次六面骰子出现2或者3。这时我们可以把这个问题用可测空间 来严格描述出来。 2={1,2,3,4,5,6},F={0,2,{2,3,{1,4,5,6}} 因为是研究"2或者3”,因此我们把2,3放在一起作为一个整体。因此下包含了事件 {2,3}。为了让下成为o代数我们还包含了其他的事件。显然在上面的下中,{1}不在 里面,虽然{1}是{1,4,5,6}的一个子集。因此,我们说{1}不是上面下的可测集,我 们也无法认识她。同样{2}也不是下的可测集。 例1.5如果想研究抛一次六面骰子出现分别出现2和出现3的概率。这时我们可以把这 个问题用可测空间来严格描述出来。 2={1,2,3,4,5,6},F1={0,2,{2,{3},{2,3},{1,2,4,5,6},{1,3,4,5,6,{1,4,5,6}}
1.2 概率空间 – 5 – 我们就需要研究 A ∪ B。 定义 1.3. σ 代数 ♣ Ω 是一个样本空间,F 是一些由 Ω 子集构成的集合。如果 F 满足如下三个条件, 1. Ω ∈ F; 2. 如果 A ∈ F, 则我们有 A 的补集 Ac = Ω\A ∈ F; 3. 如果一系列集合 An ∈ F, n = 1, 2, · · · , ∞, 则有 ∪∞ n=1 An ∈ F。 我们则称 F 为一个 σ 代数。并称 (Ω, F) 为可测空间。(Ω, F) 中的元素称为可测集 或者可测事件。 我们用 ∅ 表示空集。A ∈ F 表示 A 在 F 中。对于两个集合 A, B, 我们用 A\B 表示 两个的差,即: A\B = {ω|ω ∈ A, ω /∈ B}. 理解 1.2. σ 代数 ♣ 定义 σ 代数是为了去研究 Ω 中单个事件或者事件组合所发生的概率。因此,我们 需要在 F 包含一系列的事件。但并不是所有的事件放在一起都对我们研究一般问 题有效。直观来说, F 必须包含事件的全体,这样我们才能讨论必然会发生的事情。因此有了 Ω ∈ F。 如果一个事情的正面我们感兴趣,一般我们也对其反面(不发生)感兴趣。因 此有了如果 A ∈ F, 我们要求 A 的补集 Ac = Ω\A ∈ F; 我们希望如果有无穷多个事情发生的情况或者极限下会怎么样。因此有了如 果一系列事件 (An)n≥1 ∈ F, 我们希望 ∪∞ n=1 An ∈ F。 只要一个集合在 F 中,我们就称为它为关于 F 的可测集合。所以一个集合 是否可测,依赖于我们定义的 σ 代数 F。 我们可以把 σ 代数 F 想象成我们所有知识的集合体。只有在 F 中的事件,我 们才能够认识! 例 1.4 我们想研究抛一次六面骰子出现 2 或者 3。这时我们可以把这个问题用可测空间 来严格描述出来。 Ω = {1, 2, 3, 4, 5, 6}, F = {∅, Ω, {2, 3}, {1, 4, 5, 6}}. 因为是研究"2 或者 3",因此我们把 2,3 放在一起作为一个整体。因此 F 包含了事件 {2, 3}。为了让 F 成为 σ 代数我们还包含了其他的事件。显然在上面的 F 中,{1} 不在 里面,虽然 {1} 是 {1, 4, 5, 6} 的一个子集。因此,我们说 {1} 不是上面 F 的可测集,我 们也无法认识她。同样 {2} 也不是 F 的可测集。 例 1.5 如果想研究抛一次六面骰子出现分别出现 2 和出现 3 的概率。这时我们可以把这 个问题用可测空间来严格描述出来。 Ω = {1, 2, 3, 4, 5, 6}, F1 = {∅, Ω, {2}, {3}, {2, 3}, {1, 2, 4, 5, 6}, {1, 3, 4, 5, 6}, {1, 4, 5, 6}}
1.2概率空间 -6- 因为是研究"分别出现2和出现3",因此我们把2和3需要单独分离开来研究,而不能 放在一起作为一个整体。为了让F成为σ代数我们还包含了其他的事件。在σ代数万 中,{2}是万1的可测集,但不是例子1.4中F的可测集。 上面例子告诉我们,可测集依赖于我们定义的σ代数! 例1.6一些-代数的例子。 。最小的o-代数:平凡(trivial)o-代数{0,2. 。最大的o-代数:全体子集22:={A:AC2}. 。分割形成的o-代数:令A1,A2,·,An为2的不相交的子集,并有U=1An=2 则由A1,A2,·,An进行有限并、补运算产生一个σ-代数,其中包含2n个集合。 。F={A,A9,0,2} 定义1.4.-代数的生成 对于2的一个子集族S,如果存在2上的0-代数F使得 。SCF 。对于任意包含S的2上的σ-代数F,都有FCF', 则称下是由子集系S生成的(最小的)σ-代数,记作F:=σ(S) 命题1.1 下面命题成立: (1)对①的任何子集系S,都存在F:=σ(S): (2)如果S本身是2上的一个o-代数,则σ(S)=S. 例1.7 。2={w1,w2,…,w4},S={1},{2,w3}。则:由S生成的-代数为 a(S)={0,2,{w1},{w2,w3,w4}, {w,w2,w3},{w4} {w2,w3},{w1,w4} 。如果S={w1},{w2}。则:由S生成的o-代数为: σ(S)= {0,2,{w1},{w2,w3,w4}, {w1,w2},{w3,w4} {w2},{w1,w3,w4} 定义1.5.集合上下极限 如果{A,n=1,2,·,o}为集合序列。我们定义 lim sup An (1.3) n→+cd 照4-0(04) 从上面定义可以看到如果定义Bn=UnAk,则Bn为一递减集合序列。因此
1.2 概率空间 – 6 – 因为是研究" 分别出现 2 和出现 3",因此我们把 2 和 3 需要单独分离开来研究,而不能 放在一起作为一个整体。为了让 F 成为 σ 代数我们还包含了其他的事件。在 σ 代数 F1 中,{2} 是 F1 的可测集,但不是例子1.4中 F 的可测集。 上面例子告诉我们,可测集依赖于我们定义的 σ 代数!! 例 1.6 一些 σ-代数的例子。 最小的 σ-代数:平凡(trivial)σ-代数 {∅, Ω}. 最大的 σ-代数:全体子集 2 Ω := {A : A ⊂ Ω}. 分割形成的 σ-代数:令 A1, A2, · · · , An 为 Ω 的不相交的子集,并有 ∪n i=1 An = Ω. 则由 A1, A2, · · · , An 进行有限并、补运算产生一个 σ-代数,其中包含 2 n 个集合。 F = {A, Ac , ∅, Ω}. 定义 1.4. σ-代数的生成 ♣ 对于 Ω 的一个子集族 S, 如果存在 Ω 上的 σ-代数 F 使得 S ⊂ F; 对于任意包含 S 的 Ω 上的 σ-代数 F ′ , 都有 F ⊂ F′ , 则称 F 是由子集系 S 生成的(最小的)σ-代数,记作 F := σ(S). 命题 1.1 ♠ 下面命题成立: (1) 对 Ω 的任何子集系 S, 都存在 F := σ(S). (2) 如果 S 本身是 Ω 上的一个 σ-代数,则 σ(S) = S. 例 1.7 Ω = {ω1, ω2, · · · , ω4}, S = {{ω1}, {ω2, ω3}}。则:由 S 生成的 σ-代数为: σ(S) = {∅, Ω, {ω1}, {ω2, ω3, ω4}, {ω1, ω2, ω3}, {ω4}, {ω2, ω3}, {ω1, ω4}} 如果 S = {{ω1}, {ω2}}。则:由 S 生成的 σ-代数为: σ(S) = {∅, Ω, {ω1}, {ω2, ω3, ω4}, {ω1, ω2}, {ω3, ω4}, {ω2}, {ω1, ω3, ω4}} 定义 1.5. 集合上下极限 如果 {An, n = 1, 2, · · · , ∞} 为集合序列。我们定义 lim sup n→+∞ An = + ∩∞ n=1 ( ∪∞ k=n Ak ) , lim inf n→+∞ An = + ∪∞ n=1 ( ∩∞ k=n Ak ) . (1.3) 从上面定义可以看到如果定义 Bn = ∪∞ k=n Ak,则 Bn 为一递减集合序列。因此
1.2概率空间 Bn的极限可以定义为无穷的交集,并且 +oo limsup An=lim Bn=∩Bn n→+ n-→+oo n=1 。如果定义Cn=∩nAk,则Cn为一递增集合序列。因此,Cn的极限可以定义 为无穷的并集,并且 十●0 =1 理解13.集合上下极限 类似于数列,数列的极限不一定存在,但是我们可以定义数列的上下极限。同理, 对于集合序列一样,其极限也不一定存在。 例1.8如果集合序列An如下 4,=0,1+ 显然,An是一个递减集合序列。可以得到 limsup An n(心a1+)=ho1+-o. lim inf An n-t0o U(a1+)-U0=a 例1.9如果集合序列An如下 4=0,2+h41=01+h 可以得到 B2n=Ak A2n U A2n+I UA2n+2 U... k=2n =(A2nUA2m+2U…)U(A2n+1UA2n+3U…) =0,2+U0,1+月=0,2+ B2n+1=Ak A2n+1 U A2n+2 U... k=2m+1 =(A2n+1UA2n+3U…U(A2n+2UA2n+4U…) =0,1+hU0,2+n+=o,2+n+ lim sup An ia=()jn(n (a2+)n(m2++)-a
1.2 概率空间 – 7 – ♣ Bn 的极限可以定义为无穷的交集,并且 lim sup n→+∞ An = lim n→+∞ Bn = + ∩∞ n=1 Bn 。如果定义 Cn = ∩∞ k=n Ak,则 Cn 为一递增集合序列。因此,Cn 的极限可以定义 为无穷的并集,并且 lim inf n→+∞ An = lim n→+∞ Cn = + ∪∞ n=1 Cn. 理解 1.3. 集合上下极限 ♣ 类似于数列,数列的极限不一定存在,但是我们可以定义数列的上下极限。同理, 对于集合序列一样,其极限也不一定存在。 例 1.8 如果集合序列 An 如下 An = [0, 1 + 1 n ]. 显然,An 是一个递减集合序列。可以得到 lim sup n→+∞ An = + ∩∞ n=1 ( ∪∞ k=n [0, 1 + 1 k ] ) = + ∩∞ n=1 [0, 1 + 1 n ] = [0, 1], lim inf n→+∞ An = + ∪∞ n=1 ( ∩∞ k=n [0, 1 + 1 k ] ) = + ∪∞ n=1 [0, 1] = [0, 1]. 例 1.9 如果集合序列 An 如下 A2n = [0, 2 + 1 n ], A2n+1 = [0, 1 + 1 n ]. 可以得到 B2n = ∪∞ k=2n Ak = A2n ∪ A2n+1 ∪ A2n+2 ∪ · · · = (A2n ∪ A2n+2 ∪ · · ·) ∪ (A2n+1 ∪ A2n+3 ∪ · · ·) = [0, 2 + 1 n ] ∪ [0, 1 + 1 n ] = [0, 2 + 1 n ]. B2n+1 = ∪∞ k=2n+1 Ak = A2n+1 ∪ A2n+2 ∪ · · · = (A2n+1 ∪ A2n+3 ∪ · · ·) ∪ (A2n+2 ∪ A2n+4 ∪ · · ·) = [0, 1 + 1 n ] ∪ [0, 2 + 1 n + 1 ] = [0, 2 + 1 n + 1 ], lim sup n→+∞ An = + ∩∞ n=1 Bn = (+ ∩∞ n=1 B2n )∩ (+ ∩∞ n=0 B2n+1) = (+ ∩∞ n=1 [0, 2 + 1 n ] )∩ (+ ∩∞ n=0 [0, 2 + 1 n + 1 ] ) = [0, 2]