目录第三章1随机变量的数字特征83.2方差、标准差和矩183.2.1方差和标准差13$3.2.2矩.83.3协方差和相关系数383.3.1协方差3$3.3.2相关系数483.4其他一些数字特征与相关函数7i
8 ¹ 1nÙ ÅCþêiA 1 §3.2 !IO ÚÝ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 §3.2.1 ÚIO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 §3.2.2 Ý . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 §3.3 Ú'Xê . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 §3.3.1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 §3.3.2 'Xê . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4 §3.4 Ù¦ êiA'¼ê . . . . . . . . . . . . . . . . . . . . . . . . . . 7 i
第三章随机变量的数字特征83.2方差、标准差和矩83.2.1方差和标准差现在我们转到本章开始时候提到的另一类数字特征，即刻画随机变量在其中心位置附近散布程度的数字特征，其中最重要的是方差.在实际应用中，方差不仅是信息度量的标准也是风险度量的标准定义3.2.1.设X为随机变量，分布为F，则称Var(X)=E(X -EX)?=2为X(或分布F)的方差，其平方根VVar(X)=α(取正值）称为X(或分布F)的标准差，显然有Var(X) = Ex2- (EX)2对随机变量的方差，我们可以得到定理3.2.1.设c为常数.则有1. 0≤Var(X)=Ex?-(EX)?, 因此Var(X)≤Ex?2. Var(cX) = c2Var(X)3.Var(X)=0当且仅当P(X=c)=1,其中c=EX.此时,我们称X退化到常数c4.对任何常数c有，Var(X)≤E(X-c)2,其中等号成立当且仅当c=EX5.如果随机变量X和Y相互独立，a,b为常数，则Var(aX+bY)=a2Var(X)+b2Var(Y)证明上述定理，我们介绍一个引理。引理3.2.1.如果为退化于0的随机变量，则有E2=0；反之，如果随机变量的2阶矩存在而且E2=0，则必为退化于0的随机变量1
1nÙ ÅCþêiA §3.2 !IO ÚÝ §3.2.1 ÚIO y3·= Ùm©ÿJ,aêiA, =xÅCþ3Ù¥% NCÑÙ§ÝêiA, Ù¥´ . 3¢SA^¥, Ø=´&EÝþ IO´ºxÝþIO. ½Â 3.2.1. X ÅCþ, ©ÙF, K¡ V ar(X) = E(X − EX) 2 = σ 2 X (½©ÙF) , Ù² p V ar(X) = σ () ¡X (½©ÙF)IO . w,k V ar(X) = EX2 − (EX) 2 . éÅCþ , ·± ½n 3.2.1. c~ê. Kk 1. 0 ≤ V ar(X) = EX2 − (EX) 2 , ÏdV ar(X) ≤ EX2 . 2. V ar(cX) = c 2V ar(X) 3. V ar(X) = 0 =P(X = c) = 1, Ù¥c = EX. d,·¡Xòz~êc. 4. é?Û~êck, V ar(X) ≤ E(X − c) 2 , Ù¥ Ò¤á =c = EX. 5. XJÅCþXÚY pÕá, a, b~ê. KV ar(aX + bY ) = a 2V ar(X) + b 2V ar(Y ). y²þã½n§·0 Ún" Ún 3.2.1. XJξòzu0ÅCþ§KkEξ2 = 0¶§XJÅCþξ2 Ý 3 Eξ2 = 0§Kξ7òzu0ÅCþ. 1
Proof.如果ε为退化于o的随机变量，则有P(S=0)=1,故有Es?=0。反之，如果随机变量平方可积，并且E2=0，但是不退化于0，则有P(=0)<1。那么就存在>0口和0<<1，使得P(ISI>)>E，于是E?>8。导致矛盾，所以必退化到0.常见分布的方差：1.二项分布X~B(n,p)VarX = np(1 - p)2. Poisson 分布X ~ P(A):VarX =>3.均匀分布X~U[a,b]:VarX= (b-a)2124.指数分布X~Erp(>)：VarX = 1/>?5.正态分布X~N(μ,α2)：VarX =a?由此得到正态分布N(μ,α2）中另一参数。2的解释：它就是分布的方差，正态分布完全由其均值μ和方差。2决定，故也常称为“均值为μ方差为。2的正态分布”.方差。2越小，则X的取值以更大的概率集中在其均值附近定义3.2.2.我们称X*-X-EXVVar(X)为X的标准化随机变量.易见EX*=0.Var(X*）=1我们引入标准化随机变量是为了消除由于计量单位的不同而给随机变量带来的影响，例如，我们考察人的身高，那么当然可以以米为单位，得到X1：也可以以厘米为单位，得到X2.于是就有得到X2=100X1：那么这样一来，X,与X1的分布就有所不同这当然是一个不合理的现象.但是通过标准化，就可以消除两者之间的差别，因为我们有X=X.对于正态分布，我们经过标准化Y=（X－μ)/，就可以得出均值为0方差为1的正态分布，即标准正态分布2
Proof. XJξòzu0ÅCþ§KkP(ξ = 0) = 1, kEξ2 = 0"§XJÅ Cþξ²È§¿ Eξ2 = 0§´ξØòzu0§KkP(ξ = 0) < 1"@oÒ3δ > 0 Ú0 < < 1§¦P(|ξ| > δ) > §u´Eξ2 > δ2 "gñ§¤±ξ7òz0. ~©Ù µ 1. ©ÙX ∼ B(n, p): V arX = np(1 − p) 2. Poisson ©ÙX ∼ P(λ): V arX = λ 3. þ!©ÙX ∼ U[a, b]: V arX = (b − a) 2 12 4. ê©ÙX ∼ Exp(λ): V arX = 1/λ2 5. ©ÙX ∼ N(µ, σ2 ): V arX = σ 2 dd©ÙN(µ, σ2 ) ¥,ëêσ 2 )º: §Ò´©Ù , ©Ù d Ùþµ Ú σ 2 û½, ~¡“þµ σ 2 ©Ù”. σ 2 , KX ±VÇ8¥3ÙþµNC. ½Â 3.2.2. ·¡ X∗ = X − EX p V ar(X) XIOzÅCþ. ´EX∗ = 0, V ar(X∗ ) = 1. ·Ú\IOzÅCþ´ ØduOþü ØÓ ÅCþ5K . ~X, · < p, @o,±±ü , X1, ±±fü , X2. u´ÒkX2 = 100X1. @où5, X2X1 ©ÙÒk¤ØÓ. ù,´ØÜny. ´ÏLIOz, Ò±Øüöm O, Ï· kX∗ 2 = X∗ 1 . éu©Ù, ·²LIOzY = (X − µ)/σ, Ò±Ñþ0 1©Ù, =IO©Ù. 2
83.2.2矩下面我们引入矩的概念，并将之与我们前面所说的期望、方差建立联系定义3.2.3.设X为随机变量，c为常数，r为正整数，则E[(X-c)1称为X关于c点的r阶矩比较重要的有两个情况：1.c=0.这时Qk=EXr称为X的r阶原点矩2.C=EX.这时=E[(X-EX)称为X的r阶中心矩容易看出，一阶原点矩就是期望，二阶中心矩就是X的方差Var(X)83.3协方差和相关系数现在我们来考虑多维随机向量的数字特征，以二维的情况为例，设（X，Y）为二维随机变量，X，Y本身都是一维随机变量，那么它们相应的均值方差，我们都在上两节中讨论过了，我们更有兴趣的数字特征是反映分量之间关系的那种量，其中最重要的，是本节要讨论的协方差和相关系数83.3.1协方差定义3.3.1.我们称Cou(X,Y) = E(X - EX)(Y - EY)为X与Y的协方差，其中Cou是英文单词Covariance的缩写由协方差的定义，我们立刻可以得到协方差具有如下性质1. Cov(X,Y) = Cov(Y, X), Cov(X,X) = Var(X)2.Cou(X,Y)=EXY-EXEY，显然若X、Y相互独立,则Cou(X,Y)=03. Cov(X1 +X2, Y) = Cov(X1,Y) +Cov(X2,Y)3
§3.2.2 Ý e¡·Ú\ÝVg§¿ò·c¡¤`Ï"! ïáéX. ½Â 3.2.3. XÅCþ, c ~ê, rê, KE[(X − c) r ] ¡X 'uc :r Ý. 'kü¹: 1. c = 0. ùαk = EXr ¡X r :Ý. 2. c = EX. ùµk = E[(X − EX) r ] ¡X r ¥%Ý. N´wÑ, :ÝÒ´Ï", ¥%ÝÒ´X V ar(X). §3.3 Ú'Xê y3·5ÄõÅþêiA, ±¹~, (X, Y ) ÅCþ, X, Y Ñ´ÅCþ, @o§Aþ , ·Ñ3þü!¥? ØL , ·k,êiA´N©þm'X@«þ, Ù¥, ´ !?Ø Ú'Xê. §3.3.1 ½Â 3.3.1. ·¡ Cov(X, Y ) = E(X − EX)(Y − EY ) XY , Ù¥Cov´=©ücCovariance . d ½Â, ·á± äkXe5: 1. Cov(X, Y ) = Cov(Y, X), Cov(X, X) = V ar(X) 2. Cov(X, Y ) = EXY − EXEY , w,eX!Y pÕá, KCov(X, Y ) = 0 3. Cov(X1 + X2, Y ) = Cov(X1, Y ) + Cov(X2, Y ) 3
4.对任何实数a1,a2,bi,b2，有22Cov(aiX1 + a2X2,biYi + b2Y2) =EZaib,Cou(X,Yy)S=1=如果s1，，sn是定义在同一概率空间下的随机变量，并且其中每个随机变量都是平方可积的。称矩阵 = (bi) =(cov(Si,sj)D($1)COu(S1,52)cov(1,Sn)D(62)COV($2, $1)..cov(52, Sn):：.:D(sn)COv(Sn,S1) COv(Sn,E2)为$1，…·，Sn的协方差矩阵。显然≥0。例3.3.1.设(X,Y)~Na,b,,2,P)，则(X,Y)的协方差矩阵为o?po102D=03poi0283.3.2相关系数定义3.3.2.设随机变量X,Y为随机变量，称Cov(X,Y)px,Y =VVarX.VVarY为X与Y的相关系数.当pxY=0时，则称X与Y不相关，由定义容易看出，若令X*=(X-EX)/VVarX和Y*=(Y-EY)/VVarY分别为X和Y相应的标准化随机变量，则px,Y=Cou(X*,Y*)．因此，形式上可以把相关系数视为“标准尺度下的协方差”从这个角度上说，相关系数可以更好的反映两个随机变量间的关系，而不受它们各自所用度量单位的影响例3.3.2.设(X,Y)~N(a,b,o2,o2,p),则px,y=p相关系数有如下的性质：4
4. é?Û¢êa1, a2, b1, b2, k Cov(a1X1 + a2X2, b1Y1 + b2Y2) = X 2 i=1 X 2 j=1 aibjCov(Xi , Yj ) XJξ1, · · · , ξn´½Â3ÓVÇmeÅCþ§¿ Ù¥zÅCþÑ´² È"¡Ý Σ = (bij ) = (cov(ξi , ξj )) = D(ξ1) cov(ξ1, ξ2) · · · cov(ξ1, ξn) cov(ξ2, ξ1) D(ξ2) · · · cov(ξ2, ξn) . . . . . . . . . . . . cov(ξn, ξ1) cov(ξn, ξ2) · · · D(ξn) ξ1, · · · , ξn Ý "w,Σ ≥ 0" ~ 3.3.1. (X, Y ) ∼ N(a, b, σ2 1 , σ2 2 , ρ)§K(X, Y ) Ý Σ = σ 2 1 ρσ1σ2 ρσ1σ2 σ 2 2 ! §3.3.2 'Xê ½Â 3.3.2. ÅCþX, Y ÅCþ, ¡ ρX,Y = Cov(X, Y ) √ V arX · √ V arY , XY 'Xê. ρX,Y = 0, K¡XY Ø'. d½ÂN´wÑ, e-X∗ = (X − EX)/ √ V arXÚY ∗ = (Y − EY )/ √ V arY ©O XÚY AIOzÅCþ, KρX,Y = Cov(X∗ , Y ∗ ). Ïd, /ªþ±r'X êÀ“IOºÝe ”, lùÝþ`, 'Xê±ÐNüÅC þm'X, Øɧg¤^Ýþü K. ~ 3.3.2. (X, Y ) ∼ N(a, b, σ2 1 , σ2 2 , ρ), KρX,Y = ρ. 'XêkXe5: 4