34CHAPTER1.预备知识解答:今YlnX,则X=eY。于是11 (y-μ)2eyEXdexp22V2元011{2 [ -2y + μ2 -202]dexpV2元g11(-202(μ-2)2 -(μ+o2)2 + μ2dexpV2元g=eu+102(-202(u-μ-02)2/ dyexpV2元=eu+$0?X2=e2Y,2Y~N(2μ,(20)2),于是E(X2) = e2μ+2从而Var(Y) = E(X2) - [E(X)? = e2μ+20 - e2μ+a2 = e2μ+a (e_ 1).例1.20(匹配问题).在一次聚会中,n个人将自己的帽子放到房间中央,混合后每人随机取一个。设随机变量X表示取到自己帽子的人数,求X的期望和方差解:令X,表示第个人取到自己帽子的示性函数,则X=x;i=l由抽签问题的公平性可知每个人抽取到自己帽子的概率相等,显然第一个人抽到自己帽子的概率是。于是n4E(X) =E(X,) = P(X, = 1)i=1=1=nP(X, =1) = n ×=1n易见Var(X,) =Var(X,) = E(X2)-[E(X,)]?n-1=E(XI) -[E(X,)2 = n2
34 CHAPTER 1. 预备知识 解答:令 𝑌 = ln 𝑋,则 𝑋 = 𝑒𝑌 。于是 𝐸𝑋 = ∫∞ −∞ 𝑒 𝑦 1 √ 2𝜋𝜎 exp [−1 2 (𝑦 − 𝜇)2 𝜎 2 ] 𝑑𝑦 = ∫∞ −∞ 1 √ 2𝜋𝜎 exp {− 1 2𝜎2 [𝑦2 − 2𝜇𝑦 + 𝜇2 − 2𝜎2𝑦]} 𝑑𝑦 = ∫∞ −∞ 1 √ 2𝜋𝜎 exp {− 1 2𝜎2 (𝑦 − 𝜇 − 𝜎2 ) 2 − (𝜇 + 𝜎2 ) 2 + 𝜇2} 𝑑𝑦 =𝑒𝜇+ 1 2 𝜎 2 ∫ ∞ −∞ 1 √ 2𝜋𝜎 exp {− 1 2𝜎2 (𝑦 − 𝜇 − 𝜎2 ) 2} 𝑑𝑦 =𝑒𝜇+ 1 2 𝜎 2 . 𝑋2 = 𝑒2𝑌 ,2𝑌 ∼ N(2𝜇, (2𝜎)2 ),于是 𝐸(𝑋2 ) = 𝑒2𝜇+2𝜎2 , 从而 Var(𝑌 ) = 𝐸(𝑋2 ) − [𝐸(𝑋)]2 = 𝑒2𝜇+2𝜎2 − 𝑒2𝜇+𝜎2 = 𝑒2𝜇+𝜎2 (𝑒𝜎 2 − 1). 例 1.20 (匹配问题). 在一次聚会中,n 个人将自己的帽子放到房间中央,混合 后每人随机取一个。设随机变量 𝑋 表示取到自己帽子的人数,求 𝑋 的期望和 方差. 解:令 𝑋𝑖 表示第 𝑖 个人取到自己帽子的示性函数,则 𝑋 = 𝑛 ∑ 𝑖=1 𝑋𝑖 . 由抽签问题的公平性可知每个人抽取到自己帽子的概率相等,显然第一个人抽 到自己帽子的概率是 1 𝑛。于是 𝐸(𝑋) = 𝑛 ∑ 𝑖=1 𝐸(𝑋𝑖 ) = 𝑛 ∑ 𝑖=1 𝑃(𝑋𝑖 = 1) =𝑛𝑃 (𝑋1 = 1) = 𝑛 × 1 𝑛 = 1. 易见 Var(𝑋𝑖 ) =Var(𝑋1 ) = 𝐸(𝑋2 1 ) − [𝐸(𝑋1 )]2 =𝐸(𝑋1 ) − [𝐸(𝑋1 )]2 = 𝑛 − 1 𝑛2
351.3.数字特征、矩母函数与特征函数考虑E(X,X,)的计算(i<j)。由抽签问题的公平性,这应该等于E(X,X2)。X,X2=1当前仅当前两个人抽到自己的帽子,概率为11n-1n于是1Cov(X, X,) = E(X,X,) - E(X,)E(X) = n2(n-1)从而Var(X) = Var(X,) +2 Cov(X, X)ii=ln-11I+2×n(n-1 ×;=nx?1n2n2(n-1)关于X的概率分布见1.6.2。例1.21(标准正态分布的各阶矩).设X~N(0,1),求E(X*),k=1,2..。解答:一e-号为偶函数,所以对奇数k有E(Xk)=0。密度函数中()=-/2当k为偶数时,作积分变量替换t=号r2,=21/2t1/2,则1rke-1r" drE(X)V2元Jo22k/2k/2e-t21/21t1/2 dt2V2元Je12k/2t#-1e-tdtVRJo12k/2r(k+1)12k/2k-lrk-1122V元2V元2k/2k-1k-3331.r2VA21=2k/22-k/2(k-1)(k3)...3.1.V元VR=(k - 1).这里利用了(+1)=()V>0和()=元
1.3. 数字特征、矩母函数与特征函数 35 考虑 𝐸(𝑋𝑖𝑋𝑗 ) 的计算(𝑖 < 𝑗)。由抽签问题的公平性,这应该等于 𝐸(𝑋1𝑋2 )。 𝑋1𝑋2 = 1 当前仅当前两个人抽到自己的帽子,概率为 1 𝑛 × 1 𝑛 − 1 . 于是 Cov(𝑋𝑖 , 𝑋𝑗 ) = 𝐸(𝑋𝑖𝑋𝑗 ) − 𝐸(𝑋𝑖 )𝐸(𝑋𝑗 ) = 1 𝑛2(𝑛 − 1). 从而 Var(𝑋) = 𝑛 ∑ 𝑖=1 Var(𝑋𝑖 ) + 2 ∑ 𝑖<𝑗 Cov(𝑋𝑖 , 𝑋𝑗 ) =𝑛 × 𝑛 − 1 𝑛2 + 2 × 1 2 𝑛(𝑛 − 1) × 1 𝑛2(𝑛 − 1) = 1. 关于 𝑋 的概率分布见1.6.2。 例 1.21 (标准正态分布的各阶矩). 设 𝑋 ∼ N(0, 1),求 𝐸(𝑋𝑘 ),𝑘 = 1, 2, .。 解答: 密度函数 𝜙(𝑥) = √ 1 2𝜋𝑒 − 𝑥2 2 为偶函数,所以对奇数 𝑘 有 𝐸(𝑋𝑘 ) = 0。 当 𝑘 为偶数时,作积分变量替换 𝑡 = 1 2 𝑥 2 , 𝑥 = 21/2𝑡 1/2 , 则 𝐸(𝑋𝑘 ) =2 ∫∞ 0 𝑥 𝑘 1 √ 2𝜋 𝑒 − 1 2 𝑥 2 𝑑𝑥 = 2 √ 2𝜋 ∫ ∞ 0 2 𝑘/2𝑡 𝑘/2𝑒 −𝑡2 1/2 1 2 𝑡 −1/2 𝑑𝑡 = 1 √ 𝜋 2 𝑘/2 ∫ ∞ 0 𝑡 𝑘+1 2 −1𝑒 −𝑡 𝑑𝑡 = 1 √ 𝜋 2 𝑘/2Γ(𝑘 + 1 2 ) = 1 √ 𝜋 2 𝑘/2 𝑘 − 1 2 Γ(𝑘 − 1 2 ) = 1 √ 𝜋 2 𝑘/2 𝑘 − 1 2 𝑘 − 3 2 ⋯ 3 2 1 2 Γ(1 2 ) = 1 √ 𝜋 2 𝑘/22 −𝑘/2(𝑘 − 1)(𝑘 − 3) ⋯ 3 ⋅ 1 ⋅ √ 𝜋 =(𝑘 − 1)!!. 这里利用了 Γ(𝑥 + 1) = 𝑥Γ(𝑥), ∀𝑥 > 0 和 Γ( 1 2 ) = √ 𝜋
36CHAPTER1.预备知识另外,可以计算2re-rdrE|X| =V2元221/2t1/2e-t21/21t-1/2 dt2V2元Jo2e-tdtV2元-V1.3.3随机向量的期望和方差阵设X=(X1....,X,)T是随机向量(表示为列向量),定义E(X)=(EXi,..,EX,)T.设M为n×p矩阵,其中每个元素为随机变量,称M为随机矩阵,定义EM)为每个元素的期望所组成的矩阵。对随机向量X定义其协方差阵(方差阵)为Var(X) =E[(X-E(X))(X-E(X))T1设Var(X)=(oii)nxn’则Q=Var(X,),Qj=Cov(X,X,), (i+j)显然Var(X)是对称阵,且易证明其为非负定阵。设X,Y分别是n维和m维随机向量,定义其协方差阵为Cov(X,Y) = E[(X -E(X))(Y - E(Y))T1,这是一个n×m矩阵,其(i,j)元素为Cov(X,Y)。易见Cov(Y,X) = [Cov(X,Y)]T命题1.1.设M,C为随机矩阵,A,B为非随机矩阵,则E(C + AMB)= E(C) + AE(M)B
36 CHAPTER 1. 预备知识 另外,可以计算 𝐸|𝑋| = 2 √ 2𝜋 ∫ ∞ 0 𝑥𝑒− 1 2 𝑥 2 𝑑𝑥 = 2 √ 2𝜋 ∫ ∞ 0 2 1/2𝑡 1/2𝑒 −𝑡2 1/2 1 2 𝑡 −1/2 𝑑𝑡 = 2 √ 2𝜋 ∫ ∞ 0 𝑒 −𝑡 𝑑𝑡 =√ 2 𝜋 . 1.3.3 随机向量的期望和方差阵 设 𝑋 = (𝑋1 , . , 𝑋𝑛) 𝑇 是随机向量(表示为列向量),定义 𝐸(𝑋) =(𝐸𝑋1 , . , 𝐸𝑋𝑛) 𝑇 . 设 𝑀 为 𝑛×𝑝 矩阵,其中每个元素为随机变量,称 𝑀 为随机矩阵,定义 𝐸(𝑀) 为每个元素的期望所组成的矩阵。 对随机向量 𝑋 定义其协方差阵(方差阵)为 Var(𝑋) = 𝐸 [(𝑋 − 𝐸(𝑋))(𝑋 − 𝐸(𝑋))𝑇 ] . 设 Var(𝑋) = (𝜎𝑖𝑗)𝑛×𝑛,则 𝜎𝑖𝑖 = Var(𝑋𝑖 ), 𝜎𝑖𝑗 = Cov(𝑋𝑖 , 𝑋𝑗 ), (𝑖 ≠ 𝑗). 显然 Var(𝑋) 是对称阵,且易证明其为非负定阵。 设 𝑋, 𝑌 分别是 𝑛 维和 𝑚 维随机向量,定义其协方差阵为 Cov(𝑋, 𝑌 ) = 𝐸 [(𝑋 − 𝐸(𝑋))(𝑌 − 𝐸(𝑌 ))𝑇 ] , 这是一个 𝑛 × 𝑚 矩阵,其 (𝑖, 𝑗) 元素为 Cov(𝑋𝑖 , 𝑌𝑗 )。易见 Cov(𝑌 , 𝑋) = [Cov(𝑋, 𝑌 )]𝑇 . 命题 1.1. 设 𝑀, 𝐶 为随机矩阵,𝐴, 𝐵 为非随机矩阵,则 𝐸(𝐶 + 𝐴𝑀𝐵) = 𝐸(𝐶) + 𝐴𝐸(𝑀)𝐵
371.3.数字特征、矩母函数与特征函数命题1.2.设X为随机向量,α为非随机向量,B为非随机矩阵,令Y=α+BX则E(Y) =Q + BE(X),Var(Y) =B Var(X)BT.推论1.1.设X为n维随机向量,=Var(X),则为非负定矩阵。证明:只要对任意QERn都有QTEα ≥0.令Y=QTX,则Var(Y) = Var(αTX) = αTα ≥ 0,得证。命题1.3.设X,Y,Z为随机向量,α和β为非随机向量,AB为非随机矩阵Cou(Q+AX,β+BY)=ACou(X,Y)BT,Cou(X +Z,Y)=Cou(X,Y)+ Cov(Z,Y)定理1.9.设X为随机向量,分布函数为F(r),函数9为Rn到R的Borel函数,则E[g(X)] =g(r) dF(r),只要右侧的积分存在。证明略。矩母函数1.3.4定义1.12.设随机变量X的分布函数为Fx(r),令Φx(t) = E[etX] =etrdFx(r)若Φx(t)在某个长度大于0的包含原点的区间上取有限值,则称Φx(t)为X的矩母函数
1.3. 数字特征、矩母函数与特征函数 37 命题 1.2. 设 𝑋 为随机向量,𝛼 为非随机向量,𝐵 为非随机矩阵,令 𝑌 = 𝛼+𝐵𝑋, 则 𝐸(𝑌 ) =𝛼 + 𝐵𝐸(𝑋), Var(𝑌 ) =𝐵Var(𝑋)𝐵𝑇 . 推论 1.1. 设 𝑋 为 𝑛 维随机向量,Σ = Var(𝑋),则 Σ 为非负定矩阵。 证明:只要对任意 𝛼 ∈ ℝ𝑛 都有 𝛼 𝑇 Σ𝛼 ≥ 0. 令 𝑌 = 𝛼𝑇 𝑋,则 Var(𝑌 ) = Var(𝛼𝑇 𝑋) = 𝛼𝑇 Σ𝛼 ≥ 0, 得证。 命题 1.3. 设 𝑋, 𝑌 , 𝑍 为随机向量,𝛼 和 𝛽 为非随机向量,𝐴, 𝐵 为非随机矩阵, Cov(𝛼 + 𝐴𝑋, 𝛽 + 𝐵𝑌 ) =𝐴Cov(𝑋, 𝑌 )𝐵𝑇 , Cov(𝑋 + 𝑍, 𝑌 ) =Cov(𝑋, 𝑌 ) + Cov(𝑍, 𝑌 ). 定理 1.9. 设 𝑋 为随机向量,分布函数为 𝐹(𝑥),函数 𝑔 为 ℝ 𝑛 到 ℝ 的 Borel 函数,则 𝐸[𝑔(𝑋)] = ∫ ℝ𝑛 𝑔(𝑥) 𝑑𝐹(𝑥), 只要右侧的积分存在。 证明略。 1.3.4 矩母函数 定义 1.12. 设随机变量 𝑋 的分布函数为 𝐹𝑋(𝑥), 令 𝜙𝑋(𝑡) = 𝐸[𝑒𝑡𝑋] = ∫∞ −∞ 𝑒 𝑡𝑥 𝑑𝐹𝑋(𝑥), 若 𝜙𝑋(𝑡) 在某个长度大于 0 的包含原点的区间上取有限值,则称 𝜙𝑋(𝑡) 为 𝑋 的矩母函数
38CHAPTER1.预备知识如果X是仅取非负值的随机变量,则Φx(t)在(一0,0)上有限。假设对Φ(t)求导时,求导运算与求期望运算可以交换次序,有$(t) =E(XetX)$"(t)=E(X?etx):(n)(t)=E(Xnetx)令t=0,得到o(n)(0) = E[X"], n = 1, 2, ...当矩母函数存在时,它唯一地决定分布,因此我们能够用矩母函数刻画随机变量的概率分布:矩母函数还经常用来讨论独立随机变量和的分布。例1.22.求标准正态分布的矩母函数并用矩母函数求其前4阶矩。解:设X服从标准正态分布,则X有矩母函数etr.1e-号darΦ(t) =E(etX) :V2元-oc1e-(r2-2ta) drV2元-00:11e-(r-t)"et* drV2元1=eit2e-(r-t) dr00V2元=exte, te (-00, 00)
38 CHAPTER 1. 预备知识 如果 𝑋 是仅取非负值的随机变量,则 𝜙𝑋(𝑡) 在 (−∞, 0] 上有限。 假设对 𝜙(𝑡) 求导时,求导运算与求期望运算可以交换次序,有 𝜙 ′ (𝑡) =𝐸(𝑋𝑒𝑡𝑋) 𝜙 ″ (𝑡) =𝐸(𝑋2 𝑒 𝑡𝑋) ⋮ 𝜙 (𝑛)(𝑡) =𝐸(𝑋𝑛𝑒 𝑡𝑋) 令 𝑡 = 0, 得到 𝜙 (𝑛)(0) = 𝐸[𝑋𝑛], 𝑛 = 1, 2, . 当矩母函数存在时,它唯一地决定分布,因此我们能够用矩母函数刻画随机变 量的概率分布. 矩母函数还经常用来讨论独立随机变量和的分布。 例 1.22. 求标准正态分布的矩母函数并用矩母函数求其前 4 阶矩。 解:设 𝑋 服从标准正态分布,则 𝑋 有矩母函数 𝜙(𝑡) =𝐸(𝑒𝑡𝑋) = ∫∞ −∞ 𝑒 𝑡𝑥 1 √ 2𝜋 𝑒 − 𝑥2 2 𝑑𝑥 = ∫∞ −∞ 1 √ 2𝜋 𝑒 − 1 2 (𝑥2−2𝑡𝑥) 𝑑𝑥 = ∫∞ −∞ 1 √ 2𝜋 𝑒 − 1 2 (𝑥−𝑡)2 𝑒 1 2 𝑡 2 𝑑𝑥 =𝑒 1 2 𝑡 2 ∫ ∞ −∞ 1 √ 2𝜋 𝑒 − 1 2 (𝑥−𝑡)2 𝑑𝑥 =𝑒 1 2 𝑡 2 , 𝑡 ∈ (−∞, ∞)