◇正规方程组的另一种写法 对于正规方程组 XY=XXB 将Y=XB+e代入得 XXB+Xe=XXB 于是Xe=0(*)或 ∑x (*)或(米)是多元线性回归模型正规方程组 的另一种写法。 U
⃟正规方程组 的另一种写法 对于正规方程组 X Y X Xβ ˆ = X Xβ ˆ X e X Xβ ˆ + = 于是 Xe = 0 或 (*)或(**)是多元线性回归模型正规方程组 的另一种写法。 (*) (**) = 0 i e = 0 i ji i X e
◇样本回归函数的离差形式 y=B1x1+B2x21+…+Bk x;+e, kki 12..n 其矩阵形式为:y=x+e x 其中 yI y2 k2 B 在离差形式下,参数的最小二乘估计结果为 B=(Xx)XY A=F-Bx1-…-B
⃟样本回归函数的离差形式 i i i k ki i y = x + x + + x + e ˆ ˆ ˆ 1 1 2 2 i=1,2…n 其矩阵形式为: y = xβ+ e ˆ 其中 : = n y y y 2 1 y = n n kn k k x x x x x x x x x 1 2 1 2 2 2 2 1 1 2 1 1 x = k ˆ ˆ ˆ ˆ 2 1 β 在离差形式下,参数的最小二乘估计结果为 β= xx xY −1 ( ) ˆ Y X k Xk ˆ ˆ ˆ 0 = − 1 1 −−
◇随机误差项的方差c的无偏估计 可以证明,随机误差项的方差的无偏估 计量为: ∑e2 ee k-1 k U
⃟随机误差项的方差的无偏估计 可以证明,随机误差项的方差的无偏估 计量为: 1 1 ˆ 2 2 − − = − − = n k n k ei e e
*二、最大或然估计 对于多元线性回归模型 Y=Bo+BX+B2x2it.+BkXk+u 易知Y~NXB.a) Y的随机抽取的n组样本观测值的联合概率 L(Ba2)=P(Y1Y2…,n) ∑(x1-(0+B1X1+2X2+…+B1Xxk)2 20 e (2m)20 。2(Y-XB)(Y-XB) (2n)or e 2o2
*二、最大或然估计 • 对于多元线性回归模型 Yi X i X i + k X ki + i = + + + 0 1 1 2 2 易知 ~ ( , ) 2 Yi N Xi β • Y的随机抽取的n组样本观测值的联合概率 ) ˆ ) ( ˆ ( 2 1 )) ˆ ˆ ˆ ˆ ( ( 2 1 1 2 2 2 2 2 0 1 1 2 2 2 2 (2 ) 1 (2 ) 1 , ) ( , , , ) ˆ( Y Xβ Y Xβ β − − − − − + + + + = = = e e L P Y Y Y n Y X X X n n n i i i k k i n
即为变量Y的或然函数 对数或然函数 为 L=Ln(l) nin((2zo)-(Y-XB)(Y-X B) 20 对对数或然函数求极大值,也就是对 (Y-XBOY-XB 求极小值。 U
• 对数或然函数 为 ) ˆ ) ( ˆ ( 2 1 ( 2 ) ( ) 2 * = − − Y − Xβ Y − Xβ = nLn L Ln L 对对数或然函数求极大值,也就是对 ) ˆ ) ( ˆ (Y − Xβ Y − Xβ 求极小值。 即为变量Y的或然函数