第6章大数定律与中心极限定理内容：1.大数定律（切比雪夫、辛钦、伯努利大数定律）2.中心极限定理（林德伯格-列维定理、棣莫弗-拉普拉斯定理）及其应用要求：1.熟悉定理内容，理解它们的概率意义2.会应用中心极限定理估算有关事件的概率6.1大数定律一、客观背景1.事件发生的频率具有稳定性（随着试验次数的增加，事件发生的频率逐渐稳定与某个常数）2.大量测量值的算术平均值具有稳定性（随着试验次数n的增加，前n次试验的算术平均值Y,逐渐稳定于它的期望EY，）二、定理（理论证明了上述两个客观规律）引理6.1.1（切比雪夫不等式）设随机变量X具有数学期望EX与方差DX，则对于任意的正数，有P(X-EX|≥eX证明（就X为连续性随机变量的情形证明）设X的分布密度为f(x），则P(X - EX|≥6)= Jx-EX≥s (x)dr[X - EX]?f(x)dxEX252DX-(x-EX)"f(x)dx=L2定理6.1.1（切比雪夫大数定律）设X，X，.相互独立且分别有数学期望EX！x,是及具有公共上界的方差，即存在k>0，使DX,≤k(i=1,2,.)。Y,=n台前n个随机变量的平均值，则对于任意正数ε，有lim P(Y, - EY,/<)=1或证明 1≥P(Y,-EY,|<8)=1-P(Y, -EY,|≥8)1
1 第 6 章 大数定律与中心极限定理 内容：1.大数定律（切比雪夫、辛钦、伯努利大数定律） 2.中心极限定理（林德伯格-列维定理、棣莫弗-拉普拉斯定理）及其 应用 要求：1.熟悉定理内容，理解它们的概率意义 2.会应用中心极限定理估算有关事件的概率 6.1 大数定律 一、客观背景 1.事件发生的频率具有稳定性（随着试验次数的增加，事件发生的频率逐渐稳定 与某个常数） 2.大量测量值的算术平均值具有稳定性（随着试验次数 n 的增加，前n 次试验的 算术平均值Yn 逐渐稳定于它的期望 EYn ） 二、定理（理论证明了上述两个客观规律） 引理 6.1.1（切比雪夫不等式）设随机变量 X 具有数学期望 EX 与方差 DX ， 则对于任意的正数e ，有 { } 2 e e DX P X - EX ³ £ 。 证明（就 X 为连续性随机变量的情形证明）设 X 的分布密度为 f (x) ， 则 { } ò - ³ - ³ = e e X EX P X EX f (x)dx ò - ³ - £ e e X EX f x dx X EX ( ) 2 2 2 2 2 ( ) ( ) 1 e e DX £ x - EX f x dx = ò +¥ -¥ 定理 6.1.1（切比雪夫大数定律）设 X1 , X 2 ,L相互独立且分别有数学期望EXi 及具有公共上界的方差，即存在k > 0 ，使 DX £ k (i = 1,2,L) i 。 å= = n i n X i n Y 1 1 是 前n 个随机变量的平均值，则对于任意正数e ，有 lim { - < }= 1 ®¥ e n n n P Y EY 或 1 1 1 lim 1 1 = þ ý ü î í ì å - å < = = ®¥ e n i i n i i n EX n X n P 证明 1 ³ P{Yn - EYn < e}= 1- P{Yn - EYn ³ e}
DY.k≥1-L≥1-n&?2又klim (1-)=1n&2+所以limP(Y,-EY,<8)=1说明1：定理说明了大量测量值的算术平均值是稳定的，事实上，把每次测量看作一次试验，则每次测量结果X，X，….都是随机变量，它们相互独立，若它们有期望和方差，且方差具有公共上界。1>x，满足那么，由这个定理，前n次试验结果的算术平均值Ynilim P(Y, - EY,[<8)=1即随着试验次数n的增加，前n次试验的算术平均值Y,=！之x,逐渐稳定与它n=l的期望值，或者称“随机变量序列(Y-EY，依概率收敛于0”。定义6.1.1设Y,Yz，是随机变量序列，a是一个常数。若对于任意的正数，有lim P(Y, -αl<)=1则称随机变量序列Y,Y，…依概率收敛于a，记作Y,P>a (n-→o)说明2：定理6.1.1另一种叙述：若随机变量X,X，，...相互独立且分别有数学期1之x,与它的期望，并由具有公共上界的方差，那么前n次的算术平均值Y=ni=l望值EY，之差将依概率收敛于0，即Y, -EY, P→0 (n →o)说明3：如果各随机变量相互独立并服从同一分布，就不需要定理中“方差具有公共上界”这一条件，即有下面的在应用中很重要的定理：定理6.1.2（辛钦大数定律）设随机变量X，X，，…相互独立，服从同一分布，2
2 2 2 1 1 e ne DY k n ³ - ³ - 又 lim (1 ) 1 2 - = ®¥ ne k n 所以 lim { - < }= 1 ®¥ e n n n P Y EY 说明 1：定理说明了大量测量值的算术平均值是稳定的。 事实上，把每次测量看作一次试验，则每次测量结果 X1 , X 2 ,L都是随机变 量，它们相互独立，若它们有期望和方差，且方差具有公共上界。 那么，由这个定理，前n 次试验结果的算术平均值 å= = n i n X i n Y 1 1 满足 lim { - < }= 1 ®¥ e n n n P Y EY 即随着试验次数 n 的增加，前 n 次试验的算术平均值 å= = n i n X i n Y 1 1 逐渐稳定与它 的期望值，或者称“随机变量序列{ } ¥ - n n 1 Y EY 依概率收敛于 0”。 定义 6.1.1 设Y1 ,Y2 ,L是随机变量序列，a 是一个常数。若对于任意的正数e ， 有 lim { - < }= 1 ®¥ P Y a e n n 则称随机变量序列Y1 ,Y2 ,L依概率收敛于a ，记作 Y ¾¾® a (n ® ¥) P n 说明 2：定理 6.1.1 另一种叙述：若随机变量 X1 , X 2 ,L相互独立且分别有数学期 望，并由具有公共上界的方差，那么前 n 次的算术平均值 å= = n i n X i n Y 1 1 与它的期 望值 EYn 之差将依概率收敛于 0，即 Y - EY ¾¾®0 (n ® ¥) P n n 说明 3：如果各随机变量相互独立并服从同一分布，就不需要定理中“方差具有 公共上界”这一条件，即有下面的在应用中很重要的定理： 定理 6.1.2 (辛钦大数定律) 设随机变量 X1 , X 2 ,L相互独立，服从同一分布
且有数学期望EX=μ(i=1,2,)，则对于任意的正数ε，有1x,-μ<limP=n→otni或X=1x,μ (n→0)ni=l定理6.1.3（伯努利大数定律）设n，是n重伯努利试验中事件A发生的次数P为一次试验中A发生的概率，则对于任意的正数ε，有limP=<即n重伯努利试验中事A件发生的频率"依概率收敛于p，即nnp (n→)n证明设X，是n重伯努利试验中第i次试验时事件A发生的次数，则X,X.….相互独立，均服从0-1分布且EX, = p,DX, = p(1-p)令12x,=nY. =nln从而1EX, =p=pEY =nn=由定理6.1.2有n=Y,p (n→)n由这一定理可知：（1）当试验在不变的条件下重复进行多次时，随机事件发生的频率稳定于它的概率。（2）小概率事件在个别试验中几乎不发生----实际推断原理。三、例题3
3 且有数学期望 EX = (i = 1,2,L) i m ，则对于任意的正数e ，有 1 1 lim 1 = þ ý ü î í ì å - < = ®¥ m e n i i n X n P 或 ( ) 1 1 = å ¾¾® ® ¥ = X n n X P n i i m 定理 6.1.3（伯努利大数定律）设 A n 是n 重伯努利试验中事件 A 发生的次数， p 为一次试验中 A 发生的概率，则对于任意的正数e ，有 lim = 1 þ ý ü î í ì - < ®¥ p e n n P A n 即n 重伯努利试验中事 A 件发生的频率 n n A 依概率收敛于 p ，即 ¾¾® p (n ® ¥) n n A P 证明 设 X i 是 n 重伯努利试验中第 i 次试验时事件 A 发生的次数，则 X1 , X 2 ,L相互独立，均服从 0-1 分布且 EX p , DX p(1 p) i = i = - 令 n n X n Y A n i n = å i = =1 1 从而 p p n EX n EY n i n i n = å i = å = =1 =1 1 1 由定理 6.1.2 有 = Y ¾¾® p (n ® ¥) n n P n A 由这一定理可知： （1）当试验在不变的条件下重复进行多次时，随机事件发生的频率稳定于它的 概率。 （2）小概率事件在个别试验中几乎不发生-实际推断原理。 三、例题
例设随机变量X和Y的数学期望分别是-2和2，方差分别为1和4，相关系数为-0.5，试根据切比雪夫不等式估计概率P(X+Y≥6)。解记Z=X+Y，则EZ = E(X +Y)= EX +EY =-2+2 = 0DZ = D(X +Y)= DX +DY +2Cov(X,Y)=DX+DY+2Px/DX./DY=1+4+2×(0.5)×/1×~4=3有切比雪夫不等式知P(X+Y≥6)=p(Z-EZ|≥6)-62=124
4 例 设随机变量 X 和Y 的数学期望分别是-2 和 2，方差分别为 1 和 4，相关系 数为-0.5，试根据切比雪夫不等式估计概率 P{X + Y ³ 6}。 解 记 Z = X + Y ，则 EZ = E(X + Y ) = EX + EY = -2 + 2 = 0 DZ = D(X + Y ) = DX + DY + 2Cov (X ,Y ) = DX + DY + 2r XY × DX × DY = 1+ 4 + 2 ´ (-0.5) ´ 1 ´ 4 = 3 有切比雪夫不等式知 { } { } 12 1 6 6 6 2 + ³ = - ³ £ = DZ P X Y p Z EZ
6.2中心极限定理在实际生活中许多随机变量都服从正态分布，这是因为大量的相互独立的随机因素的综合影响所形成的，而其中每一个别因素在总的影响中所起的作用都是微小的，这种随机变量往往近似地服从正态分布。一、定理6.2.1（林德伯格-列维定理）设随机变量X，X2，.相互独立，服从同一分布，且具有数学期望和方差：EX,=μ,DX,=α2>0(i=12,.)则随机变量ZX,-E(ZX)x,-ni-li-Z.=VngD(2x,)V1的分布函数F,(x）对于任意x满足lim F,(x)= lim P(Z, ≤x)=e2 dx =Φ(x)V2元1.应用这个定理说明，如果随机变量X，X，…相互独立，服从同一分布，且具有数学期望μ和方差。2>0，则当n充分大时，它们的和变量近似地服从正态分布，即Y, -ZX, ~ N(nu,ng2)近似地，i=lX-nμX.)isN(O,1)VngD(Z X,)i=从而有-np= Φ(b)-Φ(a)hIng2.举例例1计算机进行加法计算时，把每个加数取为最接近于它的整数来计算。设所有的舍入误差是相互独立的随机变量，并且都在区间（-0.5,0.51上服从均匀分布，求3005
5 6.2 中心极限定理 在实际生活中许多随机变量都服从正态分布，这是因为大量的相互独立的随 机因素的综合影响所形成的，而其中每一个别因素在总的影响中所起的作用都是 微小的，这种随机变量往往近似地服从正态分布。 一、定理 6.2.1（林德伯格-列维定理）设随机变量 X1 , X 2 ,L相互独立，服从同一 分布，且具有数学期望和方差： , 0 ( 1,2, ) EXi = m DX i = s 2 > i = L 则随机变量 s m n X n D X X E X Z n i i n i i n i i n i i n - = - = å å å å = = = = 1 1 1 1 ( ) ( ) 的分布函数 F ( x) n 对于任意 x 满足 { } ( ) 2 1 lim ( ) lim 2 2 F x P Z x e dx x x x n n n n = £ = ò = F -¥ - ®¥ ®¥ p 1.应用 这个定理说明，如果随机变量 X1 , X 2 ,L相互独立，服从同一分布，且具有 数学期望 m 和方差 0 2 s > ，则当n 充分大时，它们的和变量近似地服从正态分 布，即 近似地， ~ ( , ) 2 1 Y X N nm ns n i n å i = = ~ (0,1) ( ) ( ) 1 1 1 1 N n X n D X X E X n i i n i i n i i n i i s - m = - å å å å = = = = 从而有 b ( ) b ( ) a n X n P a n i i » F - F ï ï þ ï ï ý ü ï ï î ï ï í ì £ - < å= s m 1 2.举例 例 1 计算机进行加法计算时，把每个加数取为最接近于它的整数来计算。设 所有的舍入 误差是相互独立的随机变量，并且都在区间(-0.5,0.5]上服从均匀分布，求 300