3.21 回归参数的估计 二、回归值与残差 称),=月。+Bx1+B22+…+Bpxp为回归值 =XB=X(X'X)X'y H=X(X'X)X' 称为帽子矩阵,其主对角线元素记为h,则
3.2 回归参数的估计 二、回归值与残差 i i i p i p y x x x ˆ ˆ ˆ ˆ ˆ 称 0 1 1 2 2 为回归值 y Xβ X XX Xy -1 ( ) ˆ ˆ H X XX X -1 ( ) 称为帽子矩阵,其主对角线元素记为hii ,则
3.2回归参数的估计 二、回归值与残差 r(H)=∑h:=p+l 此式的证明只需根据迹的性质tr(AB)=tr(BA),因而 tr(H)=tr(X(X'X)X)=tr(X'X(X'X)) =tr(I)=p+1
3.2 回归参数的估计 二、回归值与残差 此式的证明只需根据迹的性质tr(AB)=tr(BA),因而 ( ) 1 1 tr H h p n i ii ) 1 1 p p tr(I tr(H) tr(X X X X ) tr(X X X X ) -1 -1 ( ) ( )
3.2回归参数的估计 二、回归值与残差 e=y-y=y-Hy=(I-H)y cov(e,e)=cov((I-H)Y,(I-H)Y) =(I-H)cov(Y,Y)(I-H) =o2 (I-H)I (I-H)=02 (I-H) 得D(e)=(1-h)o2,i=1,2,…,n
3.2 回归参数的估计 二、回归值与残差 cov(e,e)=cov((I-H)Y,(I-H)Y) =(I-H)cov(Y,Y)(I-H)′ =σ2(I-H)In(I-H)′=σ2(I-H) 得 D(ei )=(1-hii)σ 2 ,i=1,2,…,n e y y ˆ y Hy (I - H)y
3.2回归参数的估计 二、回归值与残差 得E(∑e)=∑D(e,)=(n-p-1)a2 i1 i=1 Eeew-∑e n-p-1 n-p-1 是σ的无偏估计
3.2 回归参数的估计 二、回归值与残差 n i i e n p n p SSE n p 1 2 2 1 1 ( 1 1 1 1 ˆ e e) 是σ 2的无偏估计 2 1 1 2 ( ) ( ) ( 1) E e D e n p n i i n i 得 i
3.2回归参数的估计 三、回归参数的最大似然估计 y~N(XB,o 2I) 似然函数为 L=26-)ep2ag-xv-x) InL--2m(2z)-2I(')-2:-XBY(-X) 等价于使(y-XB)'(yXB)达到最小,这又完全与 OLSE一样
3.2 回归参数的估计 三 、回归参数的最大似然估计 y~N(Xβ,σ2In) 似然函数为 (y - Xβ)(y - Xβ)) 2 1 (2 ) exp( 2 2 2 2 n n L (y - Xβ)(y - Xβ) 2 1 ln( ) 2 ln(2 ) 2 ln 2 2 n n L 等价于使(y-Xβ)′(y-Xβ)达到最小,这又完全与 OLSE一样