第四节矩与协方差矩阵 一、矩与协方差矩阵的定义 二、n维正态变量的概率密度 三、n维正态变量的性质
第四节 矩与协方差矩阵 一、矩与协方差矩阵的定义 二、n维正态变量的概率密度 三、n维正态变量的性质
一、矩的定义 设(X,Y)是二维随机变量： X的k阶原点矩：E(X),k=1,2,3,.记作：4=E(X) X的k阶中心矩：E{IX-E(X)),k=2,3, X和Y的k+l阶混合矩：E(XY),k,l=1,2, X和Y的k+l阶混合中心矩： E{X-E(X)]Y-E(Y)},k,1=1,2,. 说明：E(X)是X的一阶原点矩；D(X)是X的二阶中心矩； Cov(X,Y)是X与Y的二阶混合中心矩. 在实际应用中，高于4阶的矩很少使用
一、矩的定义 设 ( ) X Y, 是二维随机变量. X k 的 阶原点矩： ( ) 1 2,3, k E X k ， = ， {[ ( )] }, 2,3, k X k 的 阶中心矩： E X E X k − = ( ), , 1,2, k l X Y k l 和 的 + 阶混合矩： E X Y k l = {[ ( )] [ ( )] }, , 1,2, k l E X E X Y E Y k l − − = X Y k l 和 的 + 阶混合中心矩： ( ) ( ) Cov , ( ) E X X D X X X Y X Y 是 的一阶原点矩； 是 的二阶中心矩； 是 与 的二阶混合中心矩. 说明： 在实际应用中，高于4 . 阶的矩很少使用 ( ). k 记作：k = E X
二、协方差矩阵的定义 定义二维随机变量（X1X2)有四个二阶中心矩，记为 CH=E[X-E(X C=Cov(Xi,X C2=E [X,-E(X )][X,-E(X2)] i,j=1,2 c1=E[X2-E(X,][X-E(X]}=c2 ca=E [X,-E(X2) 则称C= 为(X1,X)的协方差矩阵。 C22 C是对称矩阵
则 称 C = 2 1 2 2 1 1 1 2 c c c c 为 （X1，X2）的协方差矩阵。 二、协方差矩阵的定义 定义 二维随机变量（X1,X2）有四个二阶中心矩，记为 2 11 1 1 c E X E X = − ( ) c E X E X X E X 12 1 1 2 2 = − − ( ) ( ) c E X E X X E X c 21 2 2 1 1 12 = − − = ( ) ( ) 2 22 2 2 c E X E X = − ( ) —— C 是对称矩阵. Cov( , ) ij i j c X X = i j , 1,2 =
设n维随机变量(X1,X2,.,Xn)的二阶混合中心矩 c=Cov(XX)=EIX;-E(X)IIX-E(X )i,j=1,2,n 都存在， 则称矩阵 C1C12.C1m C= 91 C22 C2n Cn2 Cnn 为n维随机变量(X1,X2,·,Xn)的协方差矩阵. C是对称矩阵
1 2 ( , , , ) 设 n X X X 维随机变量 n 的二阶混合中心矩 Cov( , ) [ ( )][ ( )] , 1,2, , , ij i j i i j j c X X E X E X X E X i j n = = − − = ， 都存在 则称矩阵 11 12 1 21 22 2 1 2 n n n n nn c c c c c c C c c c = 1 2 ( , , , ) . 为n X X X 维随机变量 n 的协方差矩阵 —— C 是对称矩阵
三、n维正态变量的概率密度 矩阵形式 以二维随机变量(X,X2)为例。 1 )2m1-p n-, 0102 入矩阵-（货）-() K,X)的协方差矩阵C三 C1=1 o -p0102 detC -P0102
1 2 以二维随机变量 ( , ) . X X 为例 1 2 2 1 2 2 2 1 1 1 1 2 2 2 2 2 2 2 1 2 1 2 1 ( , ) 2π 1 1 ( ) ( )( ) ( ) exp 2 . 2(1 ) f x x σ σ ρ x μ x μ x μ x μ ρ ρ σ σ σ σ = − − − − − − − + − 引入矩阵 1 2 , x X x = 1 2 . μ μ μ = 三、n 维正态变量的概率密度 2 1 1 2 2 1 2 2 , σ ρσ σ ρσ σ σ = 1 2 ( , ) X X 的协方差矩阵 11 12 21 22 c c C c c = 2 1 2 1 2 2 1 2 1 1 det σ ρσ σ C C ρσ σ σ − − = − 2 2 1 2 2 2 2 2 1 2 1 2 1 1 . (1 ) σ ρσ σ σ σ ρ ρσ σ σ − = − − ——矩阵形式