3.2回归参数的估计 、回归参数的普通最小二乘估计 最小二乘估计要寻找A,,…,B,使得 QA,B,B2,…,B2)=∑(y-B-Rxn-B2x2-…一月1x) mIn ∑(-B-Rx1-B2x2…一月xm2) A,B1,B2…B1
3.2 回归参数的估计 一、回归参数的普通最小二乘估计 最小二乘估计要寻找 ˆ 0, ˆ 1, ˆ 2,, ˆ p ,使得 = = = − − − − − = − − − − − n i i i i p i p n i p i i i p i p y x x x Q y x x x p 1 2 0 1 1 2 2 , , , , 1 2 0 1 2 0 1 1 2 2 min ( ) ) ˆ ˆ ˆ ˆ ) ( ˆ , , ˆ , ˆ , ˆ ( 0 1 2
3.2回归参数的估计 回归参数的普通最小二乘估计 00 月B=B =-2∑(-A0-Bx1-B2x2-…-B 0O Q0=B=-2(y-1-Bx-x oO aB2B2=B2 2∑(y-6-x1-B2x2-…-B2xn)x2=0 oO ∑(--Bx1-B2x2-…一Bxn)xn=0
3.2 回归参数的估计 一、回归参数的普通最小二乘估计 = − − − − − − = = = − − − − − − = = = − − − − − − = = = − − − − − − = = = = = = ) 0 ˆ ˆ ˆ ˆ 2 ( ˆ ) 0 ˆ ˆ ˆ ˆ 2 ( ˆ ) 0 ˆ ˆ ˆ ˆ 2 ( ˆ ) 0 ˆ ˆ ˆ ˆ 2 ( ˆ 1 0 1 1 2 2 1 0 1 1 2 2 2 2 2 2 1 0 1 1 2 2 1 1 1 1 1 0 1 1 2 2 0 0 0 n i i i i p i p i p p p p n i i i i p i p i n i i i i p i p i n i i i i p i p y x x x x Q y x x x x Q y x x x x Q y x x x Q
32回归参数的估计 、回归参数的普通最小二乘估计 经整理后得用矩阵形式表示的正规方程组 (y-xB)=0 移项得XXB=Xy 当(Xx)存在时,即得回归参数的最小二乘估计为 B=(X'X)X'y
3.2 回归参数的估计 一、回归参数的普通最小二乘估计 经整理后得用矩阵形式表示的正规方程组 X y −Xβ) = 0 ˆ ( XXβ= Xy ˆ ( ) −1 当 XX β= XX Xy -1 ( ) ˆ 移项得 存在时,即得回归参数的最小二乘估计为:
32回归参数的估计 二、回归值与残差 称=A+月x+B2x12+…+月x为回归值 y=XB=X(X'X)"X'y H=X(X'X"X' 称为帽子矩阵,其主对角线元素记为h,则
3.2 回归参数的估计 二、回归值与残差 i i i p i p y x x x ˆ ˆ ˆ ˆ ˆ 称 = 0 + 1 1 + 2 2 ++ 为回归值 y = Xβ= X XX Xy -1 ( ) ˆ ˆ H = X XX X -1 ( ) 称为帽子矩阵,其主对角线元素记为hii ,则
32回归参数的估计 二、回归值与残差 m(H)=∑h=P+1 此式的证明只需根据迹的性质tr(AB)=tr(BA),因而 tr(h=tr(XxxX=tr('x(X'x") =tr (Ind=p+
3.2 回归参数的估计 二、回归值与残差 此式的证明只需根据迹的性质tr(AB)=tr(BA),因而 ( ) 1 1 = = + = tr H h p n i ii = 1 ) = +1 = = tr(Ip+ p tr(H) tr(X X X X ) tr(X X X X ) - 1 - 1 ( ) ( )