20第2章概来论公理化 样本空间的任一子集E称为事件(event),事件就是由试验的某些可能结果组成的 一个集合.如果试验的结果包含在E里面，那么就称E发生了.以下是一些有关事 件的例子： 在前面的例(1)中，令E={g,那么E就表示“婴儿是个女孩”这个事件：类 似地，F={b}就表示“婴儿是个男孩” 在例(2)中，如果E={所有以3开头的排列，那么E就表示“3号马获得了第一” 在例(3)中，如果E={(H,H),(H,T)},那么E就表示“第一枚硬币正面朝上” 在例(4中，如果E={(1,6,(2,5),(3,4),(4,3,(5,2,(6,1),那么E就表示 “两个骰子点数之和为7”. 在例(5)中，如果E={x:0≤x≤5，那么E就表示“晶体管的寿命不超过5 个小时” 对于同一个样本空间S的任两个事件E和F,定义一个新的事件EUF,它 由以下结果组成：这些结果或在E里，或在F里，或既在E里也在F里.也 就是说，如果事件E或者事件F中有一个发生，那么EUF就发生.比如在例 (1)中，如果E={g,F={b,那么EUF={g,b以，也即，EUF与整个样本 空间S是一致的.在例(3)中，如果E={(H,H),(但，T)}且F={(T,那么 EUF={(H,H,(H,T,(T,H)以，因此，EUF意味着“至少有一枚硬币正面朝上” 事件EUF称为事件E和事件F的并(union) 类似地，对于任意两个事件E和F,还可以定义EF,称为E和F的交(interscc tion),它由E和F的公共元素组成.也即事件EF(有时也记为EnF)发生当且仅 25当E和F同时发生.比如在例(3)中，事件E={(,H),(,T),(T,H)}表示“至少 有一个正面朝上”，而F={(H,T),(T,H),(T,T》表示“至少有一个反面朝上”，那 么EF={(H,T),(T,H}就表示“正好一个正面朝上，一个反面朝上”.在例(4) 中，事件E={(1,6,(2,5),(3,4),(4,3),(5,2),(6,1)}表示两个股子点数之和为7，而 F={(1,5),(2,4),(3,3),(4,2),(5,1》表示骰子点数之和为6，那么EF不包含任何 试验结果，所以它也不可能发生.类似这样的事件，称为不可能事件，记为（也即， ②是不包含任何结果的事件).如果EF=②，则称E和F是乏不相容的(mutually exclusive). 用类似的方式再来定义两个以上事件的并和交.设E,E2,·是一系列事件， 这些事件的并记为U1Em,表示至少包含在某一个En里的所有结果所构成的事 件.同样，这些事件的交记为∩。1E,其含义为包含在所有En里的所有结果构成 的事件. 最后，一个事件的补事件记为E,其含义是包含在样本空间里但不包含在E 里的所有结果构成的事件.也即，发生当且仅当E不发生.在例(4)中，如 E={(1,6),(2,5),(3,4),(4,3),(⑤，2)，(6,1)，那么当两个骰子点数之和不等于7时
2.2样本空问和事件21 E发生.值得说明的是，样本空间S的补集Sc=a. 对于任两个事件E和F,如果E内的所有结果都在F中，那么称E包含于F 记为ECF(或者FE).因此，如果ECF,那么E发生也就能推出F也发生， 如果ECF和FCE,那么称E和F是相同的，记为E=F. 韦恩图(Venn Diagram)是一种用来阐述事件之间的逻辑关系的非常有效的几 何表示方法，样本空间S表示为一个大的矩形，表示包含了所有可能结果，事件 E,F,G,·表示为包含在矩形之内的一个个小圆，所关心的事件可以用相应的阴影 区域来表示.比如，在图2.1的三个韦恩图中，阴影部分分别表示EUF,EF和E。 图2.2表示ECF. (a)阴能区域：EUF b)明影区域：EF (c)阴影K域：E 图2.1韦恩图 并、交和对立事件遵循类似于代数学 里的一些运算规则，列举如下 交换律：EUF=FUE EF=FE 结合律：(EUF)UG=EU(FUG) (EF)G=E(FG) ECF 分配律：(EUF)G=EG U FG 图2.2事件的包含关系 EFUG=(EUG)(FUG) 上述式子可以通过以下方式来证明：先证明等式左边的事件里的任一结果必然包 含于等式右边的事件，再证明等式右边的事件里的任一结果也包含于等式左边的事 件.另一个显而易见的方法就是利用韦恩图，比如图2.3就表示了分配律. 26 (a)阴影区域：EG b)阴影驱域：FG 图2.3分配律
22第2章概率论公理化 下面关于并、交及对立事件这三个基本运算之间的重要的关系式称为德摩根 定律(DeMorgan's laws): 位s)-i (0a-0 为了证明上述定律，首先假设x是(U片1E)里的一个元素，那么x不包含 27于U是1E,这就意味着x并不包含于任一个事件E,i=1,2,.,n,所以对任意 i(i=1,2,·,n)来说，x就包含于，也即x包含于∩1E.另一方面，假设x包 含于∩1E,那么对任一i,=1,2,.,n,x包含于E.这就意味着x不属于所 有的E,即x不包含于U片1E.也即x包含于(U片1E).这样就证明了德摩根 定律的第一条 现证明德摩根定律的第二条，由第一条定律可知 (心s=Ar 这样，由(E)=E,上式等价于 0°-is 对两边取补运算，即得到如下结果： 28 gs-(0 i= 2.3概率论公理 一种定义事件发生的概率的方式是利用事件发生的频率.定义如下：一个试验 的样本空间为S,在相同的条件下可重复进行.对于样本空间S里的事件E,记(E) 为次重复试验中事件E发生的次数.那么，该事件发生的概率 P回=照A 即概率P(E)定义为E发生的次数占试验总次数的比例的极限，也即发生频率的极限 虽然上述定义很直观，而且大多读者也一直这么认为，但它却有很严重的缺陷， 怎么就知道n(E)/n会收敛到一个固定的常数，而且如果进行另一次重复试验，它 也会收敛到这个相同的常数？例如，设想进行这样的试验：重复掷一枚硬币次， 怎么能保证在n次试验中正面朝上的比例会随着n的增大而收敛于某个数？而且
2.3概率论公理23 即使它确实收敛于某个数，又如何保证进行另一次同样的重复试验时，其比例会趋 于同样的值？ 用频率来定义概率的支持者常常这样回答上述问题，他们认为(E)/m趋于某 常数是整个系统的-一个假设，或者说一个公理(axiom).但是，这个假设非常不简洁 因为，尽管事实上需要假定频率的极限是存在的，但是这却不是一个最基本、最简 单的假设.同时，这样的假设也不一定为所有人所认同。事实上，先假定一些更简 单、更显而易见的关于概率的公理，然后去证明频率在某种意义下趋于一个常数极 限不是更合情合理吗？这也正是本书采纳的现代概率论公理化道路。特别地，仍假 定对于样本空间里的任一事件E,都存在一个值P(E)(指的就是事件E的概率)，并 假定这些概率值符合一系列公理.读者一定会认可这些公理，因为这些公理很接近 于对概率的直觉认识 假设某个试验的样本空间为S,对应于其中任一事件E,定义一个数P(E),满 足如下3条公理： 公理10≤P(E)≤1 29 公理2P(S)=1 公理3对任一亲列互不相容的事件E1,E2,.(也即，如果i≠j,则EE =0),有 P(UE)=>P(E) =1 我们把满足以上3条公理的P(E)称为事件E的概率. 公理1说明，任何事件E的概在0到1之间.公理2说明，S作为必然发生 的事件，其概率定义为1.公理3说明对任意一列互不相容事件，至少有一件发生 的概率等于各事件发生的概率之和.这些公理简明又直观 设E,E2,.为一特殊的事件序列，其中E=SE=⑦，i>1,此时各个事 件互不相容，且S=U°1E.由公理3可以得到：P(S)=∑，P(E)=P(S)+ ∑e2P(o)这就说明P(O)=0,也即空事件发生的概率为0. 值得注意的是，对于有限个互不相容事件的序列E,D2,·,En,有 P(UE)=∑PE) (3.1) 为证明这个结论，只需在公理3中，令所有E(>)为空事件即可.当样本空间为 有限集时，公理3与上式是等价的，但当样本空间是无限集时，公理3的推广就是必 要的， 30 例3a掷一枚硬币，记正面朝上的事件为H,反面朝上的事件为T.假设两者
24第2章概率论公理化 发生的可能性一样，那么P({H)=P({T)= 另外如果这个硬币有偏向，而且正面朝上的机会是反面朝上机会的2倍，那么 P({H})=,P({T)= 例3b掷一枚骰子，若6个面出现的可能性是一样的，这样就有P({1)= P({2)=P({3)=P({4)=P({5)=P({6})=1/6.从公理3可知出现偶数面朝 上的概率为P({2,4,6)=P({2)+P({4)+P({6)= 设P(E)是定义在样本空间里的事件的集函数，若它满足公理1,2,3，则P(E) 就是事件E的概率.这一定义是现代概率论的数学基础。我们认为，读者会认为这 些公理很自然，而且与对概率的直觉概念（也即概率是与机会和随机性有关的知识） 很吻合.进一步，利用这些公理可以证明，随着试验的不断进行，事件E发生的频率 趋近P(E)的概率为1.这就是第8章将要介绍的强大数定律.另外，第2.7节还将 介绍概率的另一种解释，即概率可作为确信程度的度量 技术注疑 在定义中，我们假定概率P(E)是针对样本空间里的所有事件E定义的，事实 上，如果样本空间是不可数集，那么P(E)仅仅针对那些所谓可测的事件进行定义， 但是，这并不是概率论的缺陷，因为所有现实中的事件都是可测的， 2.4几个简单命题 这一节证明几个有关概率的简单性质.首先注意到E和E总是互不相容的， 而且EUE=S,因此由公理2和公理3可以得到 1=P(S)=P(EUE)=P(E)+P(E) 以下的命题4.1便是上式的等价形式： 31 命题4.1P(E)=1-P(E) 命题4.1说明，一个事件不发生的概率，等于1减去它发生的概率.比如，掷 枚硬币，若正面朝上的概率是3/8，那么反面朝上的概率一定是5/8. 接下来的第二个命题指出了如果事件E包含于事件F,那么E发生的概率必 然不大于F发生概率 命题4.2如果ECF,那么P(E)≤P(F) 证明：由ECF,可将F表示为F=EUEF,这样，因为E和EF是互不相 容的，由公理3可得P(F)=P(E)+P(EF).由于P(EF)≥0，因此P(E)≤P(F).■