第一讲大数定理 I.授课题目(章节) S5.1大数定理 Ⅱ.教学目的与要求 Ⅲ.教学重点与难点: 热等营大大车软大定理 难点:(1)了解契比雪夫大数定理,伯努利大数定理(独立同分布随机变量的大数定 律)成立的条件及结论 (2)了解独立同分布的中心极限定理和德莫佛一拉普拉斯定理(仁项分布以正态分布 为极限分布)的应用条件和结论,并会用相关定理近似计算有关随机事件的概率。 V.讲授内容: 在前面学习概率的定义时,就知道了一个事实:概率是事件发生的频率所呈现的稳定 但仅从现实生活里的一些可观察的随机事件的表面作了说明,并未从根本上加以理论证明, 除此之外,我们还认识到大量测量值的算术平均值也具有稳定性。所以我们有必要研究在这 种以“大量观测值”为背景下的随机事件的概率的规律。这就是本章内容的背景和所要探讨 学习的。 为了根本更好地理解和学习大数定理,结合契比雪夫不等式,先从概率论中最重要也最 基本的契比雪夫定理开始: 定理一(契比雪夫定理的特殊情况) 设随机变量X,X2,X。,相互立,且具有相同的期望和方差: BX,)=么DX,)=0X=121作前n个随机变星的算术平均:下-之.· 则时于任意的e,有mp低-小水小-mP空-水1 (1.1) 该式表明:当n→o时这个事件的概奉趋于1,即对于任意的正数8,当n充分大时不等式 空-小水我限大 证明由于 2]-2(x)m-牙 n 由契比雪夫不等式知 P们之-水之一吾在上式中令加→并注意到概率不能大于1,即得:
第一讲大数定理 Ⅰ.授课题目(章节) §5.1 大数定理 Ⅱ.教学目的与要求 Ⅲ.教学重点与难点: 重点:契比雪夫不等式,契比雪夫大数定理;伯努利大数定理,辛钦大数定理;独立 同分布的中心极限定理,德莫佛—拉普拉斯定理。 难点:(1)了解契比雪夫大数定理,伯努利大数定理(独立同分布随机变量的大数定 律)成立的条件及结论 (2)了解独立同分布的中心极限定理和德莫佛—拉普拉斯定理(二项分布以正态分布 为极限分布)的应用条件和结论,并会用相关定理近似计算有关随机事件的概率。 Ⅳ.讲授内容: 在前面学习概率的定义时,就知道了一个事实:概率是事件发生的频率所呈现的稳定 , 但仅从现实生活里的一些可观察的随机事件的表面作了说明,并未从根本上加以理论证明。 除此之外,我们还认识到大量测量值的算术平均值也具有稳定性。所以我们有必要研究在这 种以“大量观测值”为背景下的随机事件的概率的规律。这就是本章内容的背景和所要探讨 学习的。 为了根本更好地理解和学习大数定理,结合契比雪夫不等式,先从概率论中最重要也最 基本的契比雪夫定理开始: 定理一(契比雪夫定理的特殊情况) 设随机变量 1 2 , ,., ,. X X X n 相互立, 且具有相同的期望和方差: 2 ( ) , ( ) )( 1, 2,.). E X u D X k k k = = = 作前 n 个随机变量的算术平均: , 1 1 n k k X X n = = , 则对于任意的 ,有 1 1 lim lim 1 n k n n k p X u p X u n → → = − = − = ( 1.1 ) 该式表明:当 n → 时这个事件的概率趋于 1,即对于任意的正数 ,当 n 充分大时不等式 1 1 n K k X u n = − 成立的概率很大。 证明 由于 ( ) 1 1 1 1 1 , n n k k k k E X E X nu u n n n = = = = • = ( ) 2 2 2 2 1 1 1 1 1 , n n k K k k D X D X n n n n n = = = = • = 由契比雪夫不等式知: 2 2 1 1 1 . , n k k n P X u n n = − − → 在上式中令 并注意到概率不能大于1,即得:
mP2x-水- 定理一表明,当n很大时,随机变量X,XX,的算术平均X-片之X,接近于 数学期望E(X)=E(X2)=.=E(X)=u.这种接近是在概率意义的接近。也即使说,在 定理的条件下,n个随机变量的算术平均,当n无限增加时将几乎变成一个常数 于是有了下面的依概率收敛的定义: 设了,Y,X,是一个随机变量序列,a是一个常数,若对于任意正数6,有 mp化.-a4<=L则称序列X,.依概率收敛于a。记为.一a 依概率收敛的序列还有以下性质: 设X。P→a,YnP→b又设函数g(x,y)在点(a,b)连续,则 gXn,y)p→g(a,b) 这样,上述定理一又可叙述为: 定理一设随机变量X1,X2,.,X。,.,相互独立,且具有相同的数学期望和方差: E(X)=H,DX)=gk=12问则序列下=上之X依概率收敛于H,即 X卫→4. 定理二(伯努利大数定理)设n,是n次独立重复试验中事件A发生的次数。P是事件A在 每次试验中发生的概率,则对于任意正数£>0,有 =P怡-小1aa =P-4小e-02或 证因为n4~bn,p),由第四章S2例6,有 n4=X1+X2+.+X。 其中,X,X2,.,Xn相互独立,且都服从以p为参数的(0-)分布。因而
1 1 lim 1 n k n k p X u n → = − = , 定理一表明,当 n 很大时,随机变量 1 2 , ,., X X X n 的算术平均 1 1 n k k X X n = = • 接近于 数学期望 E X E X E X u ( 1 2 ) = = = = ( ) . . ( k ) 这种接近是在概率意义的接近。也即使说,在 定理的条件下, n 个随机变量的算术平均,当 n 无限增加时将几乎变成一个常数。 于是有了下面的依概率收敛的定义: 设 1 2 , ,., ,. Y Y Y n 是一个随机变量序列, 是一个常数,若对于任意正数 ,有 lim 1, n n p Y → − = 则称序列 1 2 , ,. ,. Y Y Y n 依概率收敛于 。 记为 . P Y n ⎯⎯→ 依概率收敛的序列还有以下性质: 设 X a p n ⎯→ ,Y b p n ⎯→ 又设函数 g x y ( , ) 在点 (a b, ) 连续,则 g(X ,Y ) g(a,b) p n n ⎯→ 这样,上述定理一又可叙述为: 定理一 设随机变量 X1, X2 ,., X n ,.,相互独立,且具有相同的数学期望和方差: E(Xk ) = , ( ) ( 1,2, ) D Xk = 2 k = 则序列 = = n k X K n X 1 1 依概率收敛于 , 即 ⎯→ p X 。 定理二(伯努利大数定理) 设 A n 是 n 次独立重复试验中事件 A 发生的次数。p 是事件 A 在 每次试验中发生的概率,则对于任意正数 0 ,有 lim =1 − → p n n P A n (1.2) 或 lim = 0 − → p n n P A n ( ) 1.2 证 因为 n b(n p) A ~ ., ,由第四章§2 例 6,有 nA = X1 + X2 ++ Xn 其中, X1 , X2 ,., X n 相互独立,且都服从以 p 为参数的 (0 1− ) 分布。因而
E(X)=pD(X)=P1-PK=l2,.,m,由(1.1)式即得 =P化+x++小<小1▣▣p怡-4<小- 伯努利大数定理表明事件发生的频率”4依概率收敛于事件的概率P。这个定理以严格 的数学形式表达了频率的稳定性。就是说当n很大时,事件发生的频率与概率有较大偏差的 可能性很小。由实际推断原理,在实际应用中,当试验次数很大时,便可以用事件发生的频 率来代替事件的概常。 定理一中要求随机变量X,X2,.的方差存在。但在这些随机变量服从相同分布的场 合,并不需要这一要求,我们有以下的定理。 定理三(辛软定理)设随机变量X,X2,X。,.相互独立,服从同一分布,且具有数 学期望E(Xx)=4k=12,则对于任意正数6,有 (1.3) 证明略。 显然,伯努利大数定理是辛软定理的特殊情况。 例 设随机变量X的数学期望E(X)=4,方差D(X)=σ2,求P{X-4≥3o}的大小区间 解令6=30 对实比香夫不等就有:Px-9D.有0r-小刘写石-号 例2 设X,X,X.是独立同分布的随机变量,其分布函数为F()=a+号amcm方b≠0) 问其是否适用于辛钦大数定理? 解软大数定理成立的条作是:随机变量X的数学塑存在,即,(国女收。 dx 由于F()6+从而有 斗器=心
E(X ) p,D(X ) P(1 P)(K 1,2, ,n) k = k = − = ,由(1.1)式即得 ( ) 1 1 lim 1 2 = + + + − → X X X p n p n n ,即 lim =1 − → p n n p A n . 伯努利大数定理表明事件发生的频率 n nA 依概率收敛于事件的概率 p 。这个定理以严格 的数学形式表达了频率的稳定性。就是说当 n 很大时,事件发生的频率与概率有较大偏差的 可能性很小。由实际推断原理,在实际应用中,当试验次数很大时,便可以用事件发生的频 率来代替事件的概率。 定理一中要求随机变量 X1, X2 ,.的方差存在。但在这些随机变量服从相同分布的场 合,并不需要这一要求,我们有以下的定理。 定理三(辛钦定理)设随机变量 X1, X2 ,., X n ,.相互独立,服从同一分布,且具有数 学期望 E(X ) = (k =1,2, ) K ,则对于任意正数 ,有 1 1 lim 1 = − = → n k k n X n p . (1.3) 证明略。 显然,伯努利大数定理是辛钦定理的特殊情况。 例 1 设随机变量 X 的数学期望 ( ) ( ) 2 E X u D X X u = = − , 3 方差 ,求P 的大小区间 解 令 = 3 则有契比雪夫不等式有: ( ) ( ) ( ) 2 2 2 2 1 , 3 3 9 D X p X u p X u − − = 有 例 2 设 1 2 , ,., . X X X n 是独立同分布的随机变量,其分布函数为 ( ) 1 arctan ( 0) x F x a b b = + 问其是否适用于辛钦大数定理? 解 辛钦大数定理成立的条件是:随机变量 X 的数学期望存在,即 dF x( ) x dx dx + − 收敛。 由于 ( ) 2 2 , ( ) d b F x dx b x = + 从而有 dF x( ) x dx dx + − ( ) 2 2 2 2 2 2 2 2 0 0 2 lim ( ) A A b x b b x b d b x dx b x b x b x + + − →+ + = = = + + +
色m+)w 即辛钦大数定理不适用。 例3在n次独立试验中,设事件A在第i次试验中发生的概率为P(亿=1,2,”) 试证明:A发生的频率稳定于概率的平均值。 1,0分别表示A 发生和不发生(i=1,2,),则X服从(0-1)分布,故 E(X)=p,D(X)=P,1-p)=p9,又因为 (B,-9,}=(B+g,}广-4p9,=1-4p420,所以:D(X)=p9,≤0=l2川) 由契北雪大大数定是,对ve>a有回P作2X-E(小 即▣P低之小水小 V.小结与提问: 大数定理给我们的实际推断原理(小概率原理)作了理论支撑:如p(A)=0.001,则 可理解为在1000次的试验中只能希望发生一次。而在概率很小的事件在一次试验中发生几 乎是不可能的.即小概率事件我们通常可以认为在一次试验中几乎不发生。但小到什么程度, 则要视其具体问题的要求而定。“万无一失”,“人无远虑,必有近忧”,“未雨缪绸”等,正 是文学上对小概率事件的描述。 I.课外作业: 4习题五
2 2 lim ln 1 A b A →+ b = + = + 即辛钦大数定理不适用。 例 3 在 n 次独立试验中,设事件 A 在第 i 次试验中发生的概率为 p i n i ( =1, 2,. .) 试证明: A 发生的频率稳定于概率的平均值。 证明 设 X 表示 n 次试验中 A 发生的次数,引入新的随机变量 0 Xi = 1,• , 10, 分别表示 A 发生和不发生 (i n =1 2,. , ) ,则 X 服从 (0 1− ) 分布,故 E X p D X p p p q ( i i i i i i i ) = = − = , 1 ( ) ( ) ,又因为 ( ) ( ) 2 2 4 1 4 0 i i i i i i i i p q p q p q p q − = + − = − ,所以: ( ) ( ) 1 1, 2,. 4 D X p q i n i i i = = 由契比雪夫大数定理,对 o, 有 ( ) 1 1 lim 1 n i i n i p X E X n → = − = 即 1 1 lim 1 n i n i X p p n n → = − = Ⅴ. 小结与提问: 大数定理给我们的实际推断原理(小概率原理)作了理论支撑:如 p A( ) = 0.001 ,则 可理解为在 1000 次的试验中只能希望发生一次。而在概率很小的事件在一次试验中发生几 乎是不可能的。即小概率事件我们通常可以认为在一次试验中几乎不发生。但小到什么程度, 则要视其具体问题的要求而定。“万无一失”,“人无远虑,必有近忧”,“未雨缪绸”等,正 是文学上对小概率事件的描述。 Ⅵ.课外作业: P154 习题五
第二讲中心极限定理 I.授课题目(章节) S2”中心极限定理 Ⅱ.教学目的与要求: 字日极限定理求概率 Ⅲ.教学重点与难点 重点:独立同分布的中心极限定理,德莫佛一拉普拉斯定理。 难点:了解独立同分布的中心极限定理和德莫佛一拉普拉斯定理(仁项分布以正态分布 为极限分布)的应用条件和结论,并会用相关定理近似计算有关随机事件的概率。 V.讲授内容: 在客观实际中有许多随机变量,它们是由大量的相互独立的随机因素的综合影响所形成 定理一(独立同分布的中心极限定理)设随机变量X,X2,.,X。,.相互独立,服从 同一分布,且具有数学期望和方差:E(X:)=4,D(X)=σ2>0(k=1,2,),则随机变 量之和之X。的标准化变量 盈位含-m ② √nc 的分布函数F(x)对于任意x满足 imF.(x)im p √no 1ehh=).20 证明略。 这就是说,均值为4,方差为σ2>0的独立同分布的随机变量X,X2,.,X。和 会X,的标准靴化变量。当加充分大时有 Ex. 似地=N(0,1). (2.2) 在一般情况下,很难求出n个随机变量之和∑X:的分布函数,(2.2)式表明,当n充
第二讲中心极限定理 Ⅰ.授课题目(章节) §5.2 中心极限定理 Ⅱ.教学目的与要求: 会用中心极限定理求概率 Ⅲ.教学重点与难点: 重点:独立同分布的中心极限定理,德莫佛—拉普拉斯定理。 难点:了解独立同分布的中心极限定理和德莫佛—拉普拉斯定理(二项分布以正态分布 为极限分布)的应用条件和结论,并会用相关定理近似计算有关随机事件的概率。 Ⅳ.讲授内容: 在客观实际中有许多随机变量,它们是由大量的相互独立的随机因素的综合影响所形成 的。而其中每一个别因素在总的影响中所起的作用都是微小的。这种随机变量往往近似地服 从正态分布。这种现象就是中心极限定理的客观背景。本节只介绍三个常用的中心极限定理。 定理一(独立同分布的中心极限定理) 设随机变量 X1, X2 ,., X n ,.相互独立,服从 同一分布,且具有数学期望和方差: ( ) , ( ) 0( 1,2, ) E Xk = D Xk = 2 k = ,则随机变 量之和 = n k X K 1 的标准化变量: n X n D X X E X Y n k k n k k n k n k k k n − = − = = = = = 1 1 1 1 的分布函数 F (x) n 对于任意 x 满足 ( ) 2 1 lim ( ) lim 1 2 2 x e dt x n X n F x p x t n k K n n n = = − = − − = → → . (2.1) 证明略。 这就是说,均值为 ,方差为 0 2 的独立同分布的随机变量 X1, X2 ,., X n 和 = n k X k 1 的标准化变量,当 n 充分大时,有 n X n k k =1 近似地=N(0,1). (2.2) 在一般情况下,很难求出 n 个随机变量之和 = n k X k 1 的分布函数,(2.2)式表明,当 n 充