第五章大数定律与中心极限定理 第一节大数定律 定义1设Y,Y2,…,Yn,…为一随机变量序列， a为一个常数，如果对于任意正数，都有 lim P(Y -ak&)=1, n→o 则称{y按概率收敛于a,记作Yn”→a （n→00). 定理1（契比雪夫不等式）设E(X)=,D(X)=o2,则对于任意正 数ε，有 PilX-uRasgi 或 PIX-u小ke≥1-g
第五章 大数定律与中心极限定理 第一节 大数定律 定义1 设 为一随机变量序列， a 为一个常数，如果对于任意正数ε，都有 , 则称{Yn}按概率收敛于a , 记作 （n→∞）． Y1 , Y2 , ,Yn , lim {| − | } =1 → P Y a n n Y a P n ⎯→ 定理1（契比雪夫不等式） 设 E ( X ) = μ ， D ( X ) = σ 2 ，则对于任意正 数ε ，有 ， 或 ． 2 2 {| | } P X − 2 2 {| | } 1 P X − −
证只就连续型进行证明，设X的概率密度为f(x), 则有 PIX-p=jrs2"fcu x-u26 Jc-4rfwas 02 定理2（契比雪夫大数定律的特例）设X1,X2,…,Xn,…相互独 立，且具有相同的数学期望E(Xx)=和方差DXk)=o2(k=1,2,) 则对于任意正数8， 证令y,=之X,则有()=w,D)=O,由定理1有 k= 是非交x州
证 令 ，则有 ， ，由定理1有 ， = = n k n Xk n Y 1 1 E(Yn ) = n D Yn 2 ( ) = 1 1 1 1 2 2 − − = n k Xk n P n 定理2（契比雪夫大数定律的特例） 设 相互独 立，且具有相同的数学期望E ( Xk ) =μ 和方差 ， 则对于任意正数ε， ( ) ( 1, 2, ) D Xk = 2 k = X1 , X2 , , Xn , 1 1 lim 1 = − = → n k k n X n P . . ( ) ( )d 1 ( )d ( ) {| | } ( )d 2 2 2 2 2 | | = = − − − = + − + − − x f x x f x x x P X f x x x 证 只就连续型进行证明，设 X 的概率密度为 f (x)， 则有
因此有 lim 1-→00 2- 定理2'（契比雪夫定理）设X1,X2,,Xn,相互 独立，分别具有数学期望 E(X1),E(X2),…,E(Xn)… 及方差 D(X),D(X2)2…,D(Xn),… 并且方差是一致有上界的，即存在正数M,使得D(Xm)≤M,n=1,2,…,则 对于任意正数，恒有 lim P22x- 定理3（伯努利定理）设n4是在n次独立重复试验中事件A发生的次数， P(A)=p,则对任意正数e,有 n
因此有 1 1 lim 1 = − = → n k k n X n P . 定理2′(契比雪夫定理) 设 相互 独立，分别具有数学期望 及方差 并且方差是一致有上界的，即存在正数M ，使得 ， ，则 对于任意正数ε，恒有 . X1 , X2 , , Xn , E(X1 ), E(X2 ), ,E(Xn ), D(X1 ), D(X2 ), ,D(Xn ), D(Xn ) M n =1, 2, ( ) 1 1 1 lim 1 1 = − = = → n k k n k k n E X n X n P 定理3（伯努利定理） 设 nA是在 n 次独立重复试验中事件 A 发生的次数， P( A ) = p ，则对任意正数ε，有 lim =1 . − → p n n P A n
证 n~B(n,p),E(n)=np,D(n)=np(1-p) )-d- 由定理1可得 p1-p) 1-h 于是有 定理4（辛钦定理) 设X1,X2,,Xn,…相互独立，服从同一分布，期 望E(X)=u存在，则对于任意正数8，有 =P空x.4小-1 证明略.此定理说明， 品空X:按概率收敛于以=8(W.进-步有 2X按概率收敛于山=E(X)1=L2,.这是参数估计的理论基础. n k=1
证 ． 由定理1可得 ， 于是有 . n ~ B(n, p), E(n ) np, D(n ) np(1 p) A A = A = − n p p n n p D n n E A A (1 ) , − = = 1 (1 ) 1 2 − − − p n n P n p p A lim =1 − → p n n P A n 定理4（辛钦定理） 设 相互独立，服从同一分布，期 望 E ( Xk ) = μ存在，则对于任意正数ε，有 1 . 1 lim 1 = − = → n k k n X n P 证明略．此定理说明， 按概率收敛于μ = E ( Xk ) ．进一步有 按概率收敛于 ．这是参数估计的理论基础． = n k X k n 1 1 = n k l X k n 1 1 = E(X ) (l =1, 2, ) l l k X1 , X2 , , Xn ,
第二节中心极限定理 定义2设X1,X2,…,Xm,·的分布函数依次为 F(x),F(x),…,Fn(x), X的分布函数为F(x).如果对于F(x)的每个连续 点x,都有1imFn(x)=F(x),则称随机变量序列 11→0 X1,X2,…,Xm,…依分布收敛于X,记为 XnL→X(n→o). 定理5（独立同分布中心极限定理) 设X1,X2,…,Xm,相互独立，服 从同一分布，存在期望E(X)=和方差 D(Xk)=o2≠0(k=1,2,则 2Xx-m Y= k= 依分布收敛于标准正态分布N(0,1),即对于Y,的分布函数 Fn(筋连续点x有 lim F (x)= xe 2dt=or) n-→∞ -0√2元
第二节 中心极限定理 定义2 设 的分布函数依次为 X 的分布函数为F ( x )．如果对于F ( x ) 的每个连续 点 x ，都有 , 则称随机变量序列 依分布收敛于 X ，记为 . X1 , X2 , , Xn , F1 (x), F2 (x), ,Fn (x), X1 , X2 , , Xn , lim F (x) F(x) n n = → X ⎯→X (n → ) L n 定理5（独立同分布中心极限定理） 设 相互独立，服 从同一分布，存在期望E (Xk ) =μ和方差 ，则 依分布收敛于标准正态分布N ( 0, 1 )，即对于 Yn的分布函数 的连续点 x 有 . X1 , X2 , , Xn , ( ) 0 ( 1, 2, ) D Xk = 2 k = n X n Y n k k n = − = 1 F (x) n − − → = = x t n n F x e dt (x) 2 1 lim ( ) 2 2