Lec4 Note of ProbabilityXuxuayame日期:2024年3月5日引理2.4.设A1,.,An相互独立,则任意取补后仍然独立如DAC=1-P(A) = 1 -(1 - P(A)--1例2.7.独立重复试验,小概率事件一定会发生,记A=第i次试验事件发生,P(A)=E,0<=<<1,则 = 1 - (1 - e)" → 1.JA,即n次试验中A发生的概率"1.所谓常在河边走哪有不湿鞋,过马路需小心3概率模型例3.1.生日问题:班上有n名同学,记A=[至少两人生日相同),问P(A)(365)n解. P(A)=1 -P(AC) =365确切来讲有如下的一些具体数据:15202530354555n4050P(A)0.250.810.890.940.970.990.410.570.71若B=【有他人和我生日相同),B;=【第名和我同生日].那么364)P(B) =P ((UB)) = 1 - II(1 - P(B) =1 365口值得一提的是P(B)≥50%台n≥254,而n=100时P(B)=23.8%例3.2.赌徒破产问题:玩家有财富k,庄家有财富N-k.投币,若H则玩家财富+1,T则-1,对赌至一方输光,问赌徒输光的概率?1
Lec4 Note of Probability Xuxuayame 日期:2024 年 3 月 5 日 引理 2.4. 设 A1, · · · , An 相互独立, 则任意取补后仍然独立. 如 P (∪n i=1 Ai ) = 1 − P (∩n i=1 A C i ) = 1 − ∏n i=1 P(A C i ) = 1 − ∏n i=1 (1 − P(Ai)). 例 2.7. 独立重复试验, 小概率事件一定会发生. 记 Ai = 第 i 次试验事件发生, P(Ai) = ε, 0 < ε << 1, 则 P (∪n i=1 Ai ) = 1 − (1 − ε) n → 1. 即 n 次试验中 A 发生的概率 n→∞ −→ 1. 所谓常在河边走哪有不湿鞋, 过马路需小心. 3 概率模型 例 3.1. 生日问题: 班上有 n 名同学, 记 A = {至少两人生日相同}, 问 P(A). 解. P(A) = 1 − P(AC) = 1 − ( 365 n ) n! 365n . 确切来讲有如下的一些具体数据: n 15 20 25 30 35 40 45 50 55 P(A) 0.25 0.41 0.57 0.71 0.81 0.89 0.94 0.97 0.99 若 B = {有他人和我生日相同}, Bi = {第i名和我同生日}. 那么 P(B) = P (n∪−1 i=1 Bi ) = 1 − n∏−1 i=1 (1 − P(B C i )) = 1 − ( 364 365)n−1 值得一提的是 P(B) ≥ 50% ⇔ n ≥ 254, 而 n = 100 时 P(B) = 23.8%. 例 3.2. 赌徒破产问题: 玩家有财富 k, 庄家有财富 N − k. 投币, 若 H 则玩家财富 +1, T 则 −1, 对赌至一方输光, 问赌徒输光的概率? 1
解。记Ak=玩家初始为k最后输光,B=首句正面HP(Ak) = P(A [ B)P(B) + P(Ax [BC)P(BC) = P(Ak+1) + 2P(Ak-1)记k=P(A),则Pk=Pk+1+Pk-1(Po=1,PN=0→pk=k(p1- po)+po.口令=N代入o得到1-o=-,故pk=1-例3.3.三门问题(MontyHallProblem):参赛者面前有三扇关着的门,其中一门后为汽车,另两门后为羊,选中有汽车的门可赢得车,主持人知道各门后是什么,参赛者选了一个门之后,主持人在剩下两门中打开了有羊的一扇门.问参赛者是否要换门解。换!记参赛者选的门为1号门,主持人打开的门记为2号门,记事件A,=车在i号门,B=主持人打开2号门,由Bayes公式,P(B A)P(A)P(A1B) =E- P(B |A)P(A,)X11×#+1×3<2直观看法:开始中奖=换变为不中奖,;不中奖=换变中奖,口思考:N门问题,换或不换?换的话中奖概率为(F-)>例3.4.摸球:从n个不同的球中任摸出m个的摸法:无放回有放回nm计顺序Am(n+m-n不计序mm我们现在说明有放回不计序的结果为何如此.记球i被摸出来;次,则1+2++an=m,&i≥0并允许ai=0.这等价于m个相同的小球放人到n个不同的盒子允许空盒,允许一盒多球.可见摸球问题分分球入盒问题现令yi=ri+1,则y1+.+ym=n+m,i≥1台把m+n个相同的球放人到n个不同盒子中且无空盒,盒中可多球台m+n个相同球共有m+n-1个缝隙并放n-1个(n+m-l(n+m-l挡板,故有种分球人盒法=n-1 m例3.5.盒子中4白6红共10球,从中随机取4个,问2白2红概率?41/6(2(2)L=0., P(A) =,2白2红事件A样本点个数为口解12=1042
解. 记 Ak = {玩家初始为k最后输光}, B = {首句正面H}. P(Ak) = P(Ak | B)P(B) + P(Ak | B C )P(B C ) = 1 2 P(Ak+1) + 1 2 P(Ak−1). 记 ρk = P(Ak), 则 ρk = 1 2 ρk+1 + 1 2 ρk−1 ρ0 = 1, ρN = 0 ⇒ρk = k(ρ1 − ρ0) + ρ0. 令 k = N, 代入 ρ0, ρN 得到 ρ1 − ρ0 = − 1 N , 故 ρk = 1 − k N . 例 3.3. 三门问题 (Monty Hall Problem): 参赛者面前有三扇关着的门, 其中一门后为汽 车, 另两门后为羊, 选中有汽车的门可赢得车. 主持人知道各门后是什么, 参赛者选了一 个门之后, 主持人在剩下两门中打开了有羊的一扇门. 问参赛者是否要换门. 解. 换! 记参赛者选的门为 1 号门, 主持人打开的门记为 2 号门, 记事件 Ai = 车在 i 号 门, B = 主持人打开 2 号门, 由 Bayes 公式, P(A1 | B) = P(B | A1)P(A1) ∑2 i=1 P(B | Ai)P(Ai) = 1 2 × 1 3 1 2 × 1 3 + 1 × 1 3 = 1 3 < 1 2 . 直观看法: 开始中奖 = 换变为不中奖, 1 3 ; 不中奖 = 换变中奖, 2 3 . 思考: N 门问题, 换或不换? 换的话中奖概率为 N−1 N(N−2) > 1 N . 例 3.4. 摸球: 从 n 个不同的球中任摸出 m 个的摸法: 无放回 有放回 计顺序 Am n n m 不计序 ( n m ) (n + m − 1 m ) 我们现在说明有放回不计序的结果为何如此. 记球 i 被摸出来 xi 次, 则 x1 + x2 + · · · + xn = m, xi ≥ 0 并允许 xi = 0. 这等价于 m 个相同的小球放入到 n 个不同的盒子, 允许空盒, 允许一盒多球. 可见 摸球问题 ↔ 分球入盒问题. 现令 yi = xi + 1, 则 y1 + · · · + ym = n + m, yi ≥ 1 ⇔ 把 m + n 个相同的球放入到 n 个不 同盒子中且无空盒, 盒中可多球 ⇔ m + n 个相同球共有 m + n − 1 个缝隙并放 n − 1 个 挡板, 故有 ( n + m − 1 n − 1 ) = ( n + m − 1 m ) 种分球入盒法. 例 3.5. 盒子中 4 白 6 红共 10 球, 从中随机取 4 个, 问 2 白 2 红概率? 解. |Ω| = ( 10 4 ) , 2 白 2 红事件 A 样本点个数为 ( 4 2 )(6 2 ) , P(A) = ( 4 2 )(6 2 ) ( 10 4 ) = 3 7 . 2
例3.6.将n个小球放入到N>n个不同盒子中,每种方法等可能.A=前n个盒子中各有一个小球,问 P(A).解。关键在于小球是否可区分?盒子容量是否有限制?(1)球可区分,盒子容量无限制,[2|=Nn,[A|=n!,P(A)=~,这对应了Maxwell-Boltzman分布/统计.(2)小球不可区分,盒子无限制,N+n-1(N-1)!n!(-2g],这对应 Bose-Einstin 分布/统计[2] =, [A| = 1, P(A) =n(3)球不可区分,每个盒子中至多一个., [A| = 1, P(A) = (m,对应 Fermi-Dirac 统计.12=N口例3.7.Polva坛模型:坛子里有b黑球,r红球.从中任取一个取出之后放回,再放入c个同色球记Bn=【第n次抽到黑球}.问P(Bn)解。()抽3次可能RiB2B3,BRB3,BBB3等.那么利用乘法公式得到P(RB2B3) =P(R1)P(B2 |R1)P(B3 /RiB2)bb+cAb+rb+r+cb+r+2cP(BiR2B3) =P(B)P(R2 /B)P(B3 /BiR2)bb+crb+rb+r+cb+r+2cb(b+c)r类似也可得到P(BB2R3)=(+)(6++(6++20)(ii)在前n次抽取中,含k个黑球与n一k个红球的任意给定次序的概率为b(b+c)...(b+(k-1)c)r(r+c)..(r+ (n-k-1)c)D:(b) =(b+r)(b+r+c)... (b+r+ (n-1)c)(iii) P(Bn+1),记Ak=前n次抽取中含k个黑球,k=0.1.....n,由全概率公式nP(Bn+1 / A)P(Ak)P(Bn+1) =k=0b+kcD(bb+r+nck=0bD(b+b+1-0b>P(6+c个黑球r个红球,前n抽取中含k个黑球)b+rk0bb+r3
例 3.6. 将 n 个小球放入到 N > n 个不同盒子中, 每种方法等可能. A = 前 n 个盒子中各 有一个小球, 问 P(A). 解. 关键在于小球是否可区分? 盒子容量是否有限制? (1) 球可区分, 盒子容量无限制. |Ω| = Nn , |A| = n!, P(A) = n! Nn , 这对应了 Maxwell-Boltzman 分布/统计. (2) 小球不可区分, 盒子无限制. |Ω| = ( N + n − 1 n ) , |A| = 1, P(A) = (N−1)!n! (N+n−1)! , 这对应 Bose-Einstein 分布/统计. (3) 球不可区分, 每个盒子中至多一个. |Ω| = ( N n ) , |A| = 1, P(A) = (N−n)n! N! , 对应 Fermi-Dirac 统计. 例 3.7. Polya 坛模型: 坛子里有 b 黑球, r 红球. 从中任取一个取出之后放回, 再放入 c 个 同色球, 记 Bn = {第n次抽到黑球}, 问 P(Bn). 解. (i) 抽 3 次. 可能 R1B2B3, B1R2B3, B1B2B3 等. 那么利用乘法公式得到 P(R1B2B3) = P(R1)P(B2 | R1)P(B3 | R1B2) = r b + r b b + r + c b + c b + r + 2c P(B1R2B3) = P(B1)P(R2 | B1)P(B3 | B1R2) = b b + r r b + r + c b + c b + r + 2c . 类似也可得到 P(B1B2R3) = b(b+c)r (b+r)(b+r+c)(b+r+2c) . (ii) 在前 n 次抽取中, 含 k 个黑球与 n − k 个红球的任意给定次序的概率为 Dk(b) = b(b + c)· · ·(b + (k − 1)c)r(r + c)· · ·(r + (n − k − 1)c) (b + r)(b + r + c)· · ·(b + r + (n − 1)c) . (iii) P(Bn+1). 记 Ak = 前 n 次抽取中含 k 个黑球, k = 0, 1, · · · , n, 由全概率公式 P(Bn+1) = ∑n k=0 P(Bn+1 | Ak)P(Ak) = ∑n k=0 b + kc b + r + nc( n k ) Dk(b) = ∑n k=0 b b + r Dk(b + c) ( n k ) = ∑n k=0 b b + r P(b + c个黑球r个红球, 前n抽取中含k个黑球) = b b + r . 3
注意结果是与无关的口评论.C=0为有放回摸球,结论显然为C=一1为无放回摸球,表明抽签与次序无关4随机变量与分布函数4.1定义例4.1.投币.2=[H,T),玩家H赢1,T输1.用X表示玩家赢的钱,X(H)=1,X(T)-1,X:2→R,属于某种随机变量,定义4.1.概率空间上的映射X:2→R,若VER,WE2X(W)≤r)E,则称X为(2,,P)上的一个随机变量(Randomvariable,r.v.))例4.2.重复投币一直投下去,X表示首次出现H时投了多少次,则X为随机变量定义4.2.设X为(2,,P)上的r.V,则称F(r)=P((w|X(w)≤r))为X的概率分布函数 (Distribution function)例4.3.例4.1中的X,1,≥1,F(c) =,-1≤<10, <-1.引理4.1.分布函数基本的性质:(i)非负单增:r<y,0≤F(r)≤F(y)(i) lim F(r)=0, lim F(r)=1(ii)右连续:F(+0)=F()满足(i)(i)(ii)的函数称为分布函数证明. (i) An= (w| X(w)≤-n), n =1,2,.. Ai A2... An,且N An = (w / X(w) = -00) = 0.由概率测度的连续性,lim F(-n) = lim P(An) = P(lim An) = 0再由(i)单调性→limF(c)=0.类似地 lim F(n)=1→ lim.F(c)=1.4
注意结果是与 c 无关的. 评论. c = 0 为有放回摸球, 结论显然为 b b+r . c = −1 为无放回摸球, b b+r 表明抽签与次序无关! 4 随机变量与分布函数 4.1 定义 例 4.1. 投币. Ω = {H, T}, 玩家 H 赢 1, T 输 1. 用 X 表示玩家赢的钱, X(H) = 1, X(T) = −1, X : Ω → R, 属于某种随机变量. 定义 4.1. 概率空间上的映射 X : Ω → R, 若 ∀ x ∈ R, {ω ∈ Ω | X(ω) ≤ x} ∈ F, 则称 X 为 (Ω, F, P) 上的一个随机变量 (Random variable, r.v.). 例 4.2. 重复投币一直投下去, X 表示首次出现 H 时投了多少次, 则 X 为随机变量. 定义 4.2. 设 X 为 (Ω, F, P) 上的 r.v., 则称 F(x) = P({ω | X(ω) ≤ x}) 为 X 的概率分布函 数 (Distribution function). 例 4.3. 例4.1中的 X, F(x) = 1, x ≥ 1, 1 2 , −1 ≤ x < 1 0, x < −1. 引理 4.1. 分布函数基本的性质: (i) 非负单增: ∀ x < y, 0 ≤ F(x) ≤ F(y). (ii) lim x→−∞ F(x) = 0, lim x→+∞ F(x) = 1. (iii) 右连续: F(x + 0) = F(x). 满足 (i)(ii)(iii) 的函数称为分布函数 证明. (ii) An = {ω | X(ω) ≤ −n}, n = 1, 2, · · · . A1 ⊃ A2 ⊃ · · · ⊃ An, 且 ∩∞ n=1 An = {ω | X(ω) = −∞} = ∅. 由概率测度的连续性, limn→∞ F(−n) = limn→∞ P(An) = P ( limn→∞ An ) = 0. 再由 (i) 单调性 ⇒ lim x→−∞ F(x) = 0. 类似地 limn→∞ F(n) = 1 ⇒ lim x→+∞ F(x) = 1. 4
(i)Bn=[w X(w)≤+,则Bn,且nm=Bn=[X≤),于是F(r) = P(X ≤ a) = P (lim Bn) = lim P(Bn) = 1lim F(r+=).n→cn→00n口5
(iii) Bn = {ω ∈ Ω | X(ω) ≤ x + 1 n }, 则 Bn ↘, 且 ∩∞ n=1 Bn = {X ≤ x}, 于是 F(x) = P(X ≤ x) = P ( limn→∞ Bn ) = limn→∞ P(Bn) = limn→∞ F(x + 1 n ). 5