Lecl Note of ProbabilityXuxuayame日期:2024年2月26日关于课程总成绩=期末50%+期中30%+平时作业20%不出意料在第十四周期末考试,正常的话上课(还是考试)到5月14日,期中为4月9日.平时作业每周一次,每周上午交习题课每两周一次,也就是说第3,5,7,9,11,12周,每次两节课教材为Grimmett&StirzakerProbabilityandrandomprocesses3rd参考书:李贤平《概率论基础》3rd;苏淳,冯群强《概率论》3rd;钟开莱《Acourse inprobabilitytheory》3rd.课程主页:点击文字跳转但实际上这其实也是隔壁刘班的课程主页甚至是往年的草.Part I基础概念1概率空间定义1.1.样本空间:一次试验所有可能出现的结果的集合,记为2Q中的元素称为样本点,记为w事件是2的子集,记为A,B.概率就是事件发生的可能性大小,记为P(A),注意0≤P(A)≤1.例1.1.(1)投币(Tossacoin)只有两个可能的结果:正面朝上(H,head);反面朝上(T,tail).1
Lec1 Note of Probability Xuxuayame 日期:2024 年 2 月 26 日 关于课程 总成绩 = 期末 50%+ 期中 30%+ 平时作业 20%. 不出意料在第十四周期末考试, 正常的话上课 (还是考试) 到 5 月 14 日, 期中 为 4 月 9 日. 平时作业每周一次, 每周上午交. 习题课每两周一次, 也就是说第 3,5,7,9,11,12 周, 每次两节课. 教材为 Grimmett&Stirzaker Probability and random processes 3rd. 参考书: 李贤平《概率论基础》3rd; 苏淳, 冯群强《概率论》3rd; 钟开莱《A course in probability theory》3rd. 课程主页: 点击文字跳转但实际上这其实也是隔壁刘班的课程主页甚至是往 年的草. Part I 基础概念 1 概率空间 定义 1.1. 样本空间: 一次试验所有可能出现的结果的集合, 记为 Ω. Ω 中的元素称为样本点, 记为 ω. 事件是 Ω 的子集, 记为 A, B. 概率就是事件发生的可能性大小, 记为 P(A), 注意 0 ≤ P(A) ≤ 1. 例 1.1. (1) 投币 (Toss a coin) 只有两个可能的结果: 正面朝上 (H, head); 反面朝上 (T, tail). 1
Q={H,T},事件有0,H),{T),{H,T).P({H))=,P({T})=2(2)掷殷子2=[1.2.3.4.5.6].结果为1的事件为[11.结果为偶数的事件为2.4.61.结果≤5的事件为[1,2,3,4,5].例1.2.明天A股上证指数为r(t),0≤t≤T,2=[0,T]上所有函数).样本点是一条曲线,事件“收盘时指数≥3000”为(fE2|f(T)≥3000).事件“全天最高点≥3000”为(f2/suPo≤≤Tf(t)≥3000).事件“收盘价高于开盘价”为(f2/f(T)≥f(0))1.1事件事件关系:设A,B为两个事件·ACB,事件A发生蕴含事件B发生·AnB=の,称A,B为互不相容事件·事件A发生:WEA·の为不可能事件.·为必然事件·事件的运算即为集合的运算,事件的交,并,余台AnB,AUB,AC.·wEAUB:事件A发生或B发生.或说A,B至少有一个发生·WEAnB:事件A和B都发生·WEAC:事件A不发生·AIB.A-B:=AnBC,表示事件A发生但B不发生·A△B=(A\B)U(B\A),表示事件A和B至少有一个发生但不同时发生Question:S2中所有子集都是事件?记F=AC2A为事件}.我们希望F对于并,交,余是封闭的例1.3.抛多少次硬币第一次出现正面朝上?2 = {1, 2, 3, .-].第一次出现正面朝上要么抛了偶/奇数次A=[2,4,6,8···].而[2],[4]···也为事件,所以我们会希望事件的可列并也为事件,2
Ω = {H, T}, 事件有 ∅, {H}, {T}, {H, T}. P({H}) = 1 2 , P({T}) = 1 2 . (2) 掷骰子. Ω = {1, 2, 3, 4, 5, 6}. 结果为 1 的事件为 {1}, 结果为偶数的事件为 {2, 4, 6}, 结果 ≤ 5 的事件为 {1, 2, 3, 4, 5}. 例 1.2. 明天 A 股上证指数为 x(t), 0 ≤ t ≤ T, Ω = {[0, T]上所有函数}. 样本点是一条曲 线, 事件“收盘时指数 ≥ 3000”为 {f ∈ Ω | f(T) ≥ 3000}. 事件“全天最高点 ≥ 3000”为 {f ∈ Ω | sup0≤t≤T f(t) ≥ 3000}. 事件“收盘价高于开盘价”为 {f ∈ Ω | f(T) ≥ f(0)}. 1.1 事件 事件关系: 设 A, B 为两个事件. • A ⊂ B, 事件 A 发生蕴含事件 B 发生. • A ∩ B = ∅, 称 A, B 为互不相容事件. • 事件 A 发生: ω ∈ A. • ∅ 为不可能事件. • Ω 为必然事件. • 事件的运算即为集合的运算, 事件的交, 并, 余 ⇔ A ∩ B, A ∪ B, AC. • ω ∈ A ∪ B: 事件 A 发生或 B 发生. 或说 A, B 至少有一个发生. • ω ∈ A ∩ B: 事件 A 和 B 都发生. • ω ∈ AC: 事件 A 不发生. • A \ B, A − B := A ∩ BC, 表示事件 A 发生但 B 不发生. • A△B = (A \ B) ∪ (B \ A), 表示事件 A 和 B 至少有一个发生但不同时发生. Question: Ω 中所有子集都是事件? 记 F = {A ⊂ Ω | A为事件}. 我们希望 F 对于并, 交, 余是封闭的. 例 1.3. 抛多少次硬币第一次出现正面朝上? Ω = {1, 2, 3, · · · }. 第一次出现正面朝上要么抛了偶/奇数次. A = {2, 4, 6, 8, · · · }. 而 {2}, {4}, · · · 也为 事件, 所以我们会希望事件的可列并也为事件. 2
Lec2 Note of ProbabilityXuxuayame日期:2024年2月27日定义1.2.称FC2?为一个g-代数(g-域),若(a) 2 EF;(b) AEF AC EF;(c) An E F, n = 1, 2, ... =→ Um=i An E F.称(2,3)为可测空间事件即为中的元素例1.4.(1)最小的-代数为F := [0,2].(2)AC2, F :=[0,A,AC,2)是α-代数(3):=2°是最大的α-代数.当中元素个数有限时,通常取=29,即2中任意子集即是事件当2无限时,取F=29有时太大,例如2=N,F=2N1.2概率若N次独立重复试验,事件A发生了NA次,则称Fn(A)=A为事件A在N次试验中发生的频率经验:频率在P(A)附近摆动概率的客观性:. 0< F(A) <1 → 0 <P(A) <1, P() = 0, P(2) = 1.·若 An B=,即 A,B互不相容,那么FN(AUB)=NB=NANE=Fs(A)+NFn(B) → P(AUB) = P(A) +P(B)更一般地,若事件A1,,An两两都不相交.那么(A1 U A2)nA3 = (AinA3) U (A2 nA3) = @→P(Ai U A2) n A3) = P(Ai U A2) + P(A3) = P(A1) + P(A2) + P(A3)PUA.)=P(A)-11
Lec2 Note of Probability Xuxuayame 日期:2024 年 2 月 27 日 定义 1.2. 称 F ⊂ 2 Ω 为一个 σ-代数 (σ-域), 若 (a) Ω ∈ F; (b) A ∈ F ⇒ AC ∈ F; (c) An ∈ F, n = 1, 2, · · · ⇒ ∪∞ n=1 An ∈ F. 称 (Ω, F) 为可测空间. 事件即为 F 中的元素. 例 1.4. (1) 最小的 σ-代数为 F := {∅, Ω}. (2) A ⊂ Ω, F := {∅, A, AC, Ω} 是 σ-代数. (3) F := 2Ω 是最大的 σ-代数. 当 Ω 中元素个数有限时, 通常取 F = 2Ω, 即 Ω 中任意子集即是事件. 当 Ω 无限时, 取 F = 2Ω 有时太大, 例如 Ω = N, F = 2N . 1.2 概率 若 N 次独立重复试验, 事件 A 发生了 NA 次, 则称 FN (A) = NA N 为事件 A 在 N 次试 验中发生的频率. 经验: 频率在 P(A) 附近摆动. 概率的客观性: • 0 ≤ FN (A) ≤ 1 ⇒ 0 ≤ P(A) ≤ 1, P(∅) = 0, P(Ω) = 1. • 若 A ∩ B = ∅, 即 A, B 互不相容, 那么 FN (A ∪ B) = NA∪B N = NA+NB N = FN (A) + FN (B) ⇒ P(A ∪ B) = P(A) + P(B). 更一般地, 若事件 A1, · · · , An 两两都不相交. 那么 (A1 ∪ A2) ∩ A3 = (A1 ∩ A3) ∪ (A2 ∩ A3) = ∅ ⇒P((A1 ∪ A2) ∩ A3) = P(A1 ∪ A2) + P(A3) = P(A1) + P(A2) + P(A3) ⇒P (∪n i=1 Ai ) = ∑n i=1 P(Ai). 1
并且我们要求其对n=8也成立.WEUA,台FiENs.t.wEA,-定义1.3.P:F一→R称为(2,F)上的一个概率测度,若(a)非负性:VAEFP(A)≥0(b)规范性:P(2)=1.(c)可列可加性:AnE,n=1,2,且两两互不相交,即A,nA,=の,Vi≠j,那么UA;P(A,)i=1称(2,,P)为概率空间例 1.5. 投币 2 =(H,T), F = [0,2, [H), [TI), 取 P((H)) = p, p E[0,1], P({T))1-p.那么(2,,P)成为概率空间例1.6.掷般子Q=[1,2,3,4,5,6),F=29,令P(A)=,AE.则(2,,P)成为概率空间.这是两个古典概型的典型例子,即有限等可能的(似乎在例1.5中应当要求p=)例1.7.2=[1,2,3,],-22,定义P(A) =1AEF.RieA2那么P(2)=1,可以验证(2,F,P)构成概率空间这个例子并不是古典概型的类似还有几何概型例1.8.会面问题:两个人相约5一6点在某地会面,先到者等另一人20分钟,过时离开问两人能会面的概率?记两人到达的时间分别为r,y,即0≤a,y≤60.那么能会面台-y≤20取=[(,) /0≤,≤60), A=(r,g) / /-20),那么P(A)==号,这是计算面积得到的例1.9.蒲丰投针问题(Buffonsneedleproblem,1777):把一根长度为l的针投到画着平行线的平面上,平行线之间的距离都为d(d>l),问针与平行线相交的概率?记为针中点到平行线的最短距离,0≤≤.记为针与平行线的夹角,0≤<.那么1针与平行线相交台0≤sing.取=((,)10≤≤, 0≤≤,A=((,)[0≤sin)Al sin pde_ 21P(A) = 元d[2]2
并且我们要求其对 n = ∞ 也成立. ω ∈ ∪∞ i=1 Ai ⇔ ∃ i ∈ N s.t. ω ∈ Ai . 定义 1.3. P: F → R 称为 (Ω, F) 上的一个概率测度, 若 (a) 非负性: ∀ A ∈ F, P(A) ≥ 0. (b) 规范性: P(Ω) = 1. (c) 可列可加性: An ∈ F, n = 1, 2, · · · 且两两互不相交, 即 Ai ∩ Aj = ∅, ∀ i ̸= j, 那么 P (∪∞ i=1 Ai ) = ∑∞ i=1 P(Ai). 称 (Ω, F, P) 为概率空间. 例 1.5. 投币 Ω = {H, T}, F = {∅, Ω, {H}, {T}}, 取 P({H}) = p, p ∈ [0, 1], P({T}) = 1 − p. 那么 (Ω, F, P) 成为概率空间. 例 1.6. 掷骰子 Ω = {1, 2, 3, 4, 5, 6}, F = 2Ω, 令 P(A) = |A| 6 , A ∈ F. 则 (Ω, F, P) 成为概率 空间. 这是两个古典概型的典型例子, 即有限等可能的 (似乎在例1.5中应当要求 p = 1 2 ). 例 1.7. Ω = {1, 2, 3, · · · }, F = 2Ω, 定义 P(A) = ∑ i∈A 1 2 i , A ∈ F. 那么 P(Ω) = 1, 可以验证 (Ω, F, P) 构成概率空间. 这个例子并不是古典概型的. 类似还有几何概型. 例 1.8. 会面问题: 两个人相约 5 − 6 点在某地会面, 先到者等另一人 20 分钟, 过时离开, 问两人能会面的概率? 记两人到达的时间分别为 x, y, 即 0 ≤ x, y ≤ 60. 那么能会面 ⇔ |x − y| ≤ 20. 取 Ω = {(x, y) | 0 ≤ x, y ≤ 60}, A = {(x, y) ∈ Ω | |x−y| ≤ 20}, 那么 P(A) = |A| |Ω| = 5 9 , 这是计算面积得到的. 例 1.9. 蒲丰投针问题 (Buffon’s needle problem, 1777): 把一根长度为 l 的针投到画着平行 线的平面上, 平行线之间的距离都为 d (d > l), 问针与平行线相交的概率? 记 x 为针中点到平行线的最短距离, 0 ≤ x ≤ d 2 . 记 φ 为针与平行线的夹角, 0 ≤ φ ≤ π 2 . 那么 针与平行线相交 ⇔ 0 ≤ x ≤ l 2 sin φ. 取 Ω = {(φ, x) | 0 ≤ φ ≤ π 2 , 0 ≤ x ≤ d 2 }, A = {(φ, x) ∈ Ω | 0 ≤ x ≤ l 2 sin φ}. P(A) = |A| |Ω| = ∫ π 2 0 l 2 sin φdφ πd 4 = 2l πd. 2
这件事可以拿来算元的近似值例1.10.Monte-Carlo模拟:计算定积分I=ff(r)da,其中0≤f()≤M2=[(r,)Iaab,0≤y≤M).在2中随机取一个点,问落在曲线下方的概率?令 A= (a,9) e 2 / ≤ f(),那么 P(A) = M(-a):做法:投点n次,记录落在阴影部分的次数n,则1nM(6-)→M(6-a)→IN引理1.1.概率测度的性质:(i) P(AC) = 1 - P(A).(ii)若A,,An两两不相容,则P(U-A)=i-P(A)(iii) A C B, 则 P(B) = P(A) + IP(B /A) ≥ P(A), 且 P(B\A) =P(B) - P(A)(iv) P(AU B) = P(A) + P(B) - P(An B) ≤P(A) + IP(B) =→ P(U"- A) ≤=, P(A,)(v)Jordan公式:(-1)k-1 P(Ain...n Ai).k=1ii<..<ik例1.11.配对问题:n对夫妇随机坐在长桌两侧,女士一侧男士一侧,问至少一对夫妇面对面的概率?设A,为第i对夫妇面对面,B为至少有一对夫妇面对面,那么JAP(B) = P(-1)k-1 P(Ai,n...nAi)ii<.ikk=1(n) (n-k)!-(k)n!n11K>1k:!ek=1引理1.2.概率测度的连续性:(i) A C A2 C..*, 记 lim A := U- Ag,则 P (lim A)=limP(A)(i)BiB2 ..., 记 lim B := N=, B,则 P (lim B)= lim P(B).3
这件事可以拿来算 π 的近似值. 例 1.10. Monte-Carlo 模拟: 计算定积分 I = ∫ b a f(x)dx, 其中 0 ≤ f(x) ≤ M. Ω = {(x, y) | a ≤ x ≤ b, 0 ≤ y ≤ M}. 在 Ω 中随机取一个点, 问落在曲线下方的概 率? 令 A = {(x, y) ∈ Ω | y ≤ f(x)}, 那么 P(A) = I M(b−a) . 做法: 投点 n 次, 记录落在阴影部分的次数 n, 则 n N → I M(b − a) ⇒ M(b − a) n N → I. 引理 1.1. 概率测度的性质: (i) P(AC) = 1 − P(A). (ii) 若 A1, · · · , An 两两不相容, 则 P( ∪n i=1 Ai) = ∑n i=1 P(Ai). (iii) A ⊂ B, 则 P(B) = P(A) + P(B \ A) ≥ P(A), 且 P(B \ A) = P(B) − P(A). (iv) P(A ∪ B) = P(A) + P(B) − P(A ∩ B) ≤ P(A) + P(B) ⇒ P( ∪n i=1 Ai) ≤ ∑n i=1 P(Ai). (v) Jordan 公式: P (∪n i=1 Ai ) = ∑n k=1 (−1)k−1 ∑ i1<···<ik P(Ai1 ∩ · · · ∩ Aik ). 例 1.11. 配对问题: n 对夫妇随机坐在长桌两侧, 女士一侧男士一侧, 问至少一对夫妇面 对面的概率? 设 Ai 为第 i 对夫妇面对面, B 为至少有一对夫妇面对面, 那么 P(B) = P (∪n i=1 Ai ) = ∑n k=1 (−1)k−1 ∑ i1<···ik P(Ai1 ∩ · · · ∩ Aik ) = ∑n k=1 (−1)k−1 ( n k ) (n − k)! n! = ∑n k=1 (−1)k−1 1 k! → 1 − 1 e . 引理 1.2. 概率测度的连续性: (i) A1 ⊂ A2 ⊂ · · · , 记 lim i→∞ Ai := ∪∞ i=1 Ai . 则 P ( lim i→∞ Ai ) = lim i→∞ P(Ai). (ii) B1 ⊃ B2 ⊃ · · · , 记 lim i→∞ Bi := ∩∞ i=1 Bi , 则 P ( lim i→∞ Bi ) = lim i→∞ P(Bi). 3