得到下列方程组 ∑X-∑6+bx+…+6,x)=0 ∑YX∑+b1X+…+X以X=0 ∑YX2∑b+bX+…+bXX2=0 ∑Yx-∑G,+b1x1+…+b1xx=0 求参数估计值的实质是求一个k+1元方程组
( ) ( ) ( ) ( ) − + + + = − + + + = − + + + = − + + + = 0 0 0 0 ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ 1 0 1 1 2 0 1 2 1 1 0 1 1 1 0 1 Y x b b X b X X Y X b b X b X X Y X b b X b X X Y b b X b X ki ki k i ki i ki i k i i i ki i k i i i ki k i i 得到下列方程组 求参数估计值的实质是求一个k+1元方程组
变成矩阵形式 n+b2x+b∑x+…+b∑X=∑ bX,tb)x' ∑XX+…+b∑XX=∑X X+bX+b∑XX+…+∑x=∑X ∑X,∑X ∑X X XX XX XY X XX ∑K ∑
正规方程 变成矩阵形式 + + + + = + + + + = + + + + = ki i ki ki i ki i ki k i i k ki i i i i i i i k ki i b X b X X b X X b X X Y b X b X b X X b X X X Y nb b X b X b X Y 2 0 1 1 2 2 2 2 1 1 1 2 1 0 1 1 0 1 1 2 2 ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ = ki i i i i k ki ki i ki i ki i i ki i i i i i ki X Y X Y Y b b b b X X X X X X X X X X X X n X X X 1 2 1 0 2 1 2 2 1 1 2 1 1 1 2 ˆ ˆ ˆ ˆ
矩阵形式 n ∑ X ∑ Ⅹ Ⅹ.X ∑ XX XY Xy= ∑X∑xX.∑xx…∑X」 ∑X」 XXB=Xy B=(XX"XY
正规方程 矩阵形式 B X X X Y X XB X Y = = −1 ( ) ˆ ˆ = 2 1 2 2 1 1 2 1 1 1 2 ki ki i ki i ki i i ki i i i i i ki X X X X X X X X X X X X n X X X X X = bk b b b B ˆ ˆ ˆ ˆ ˆ 2 1 0 = ki i i i i X Y X Y Y X Y 1
最小二乘法的矩阵表示 Y=XB Y=XB+U URN(O,o E=Y-Y=Y-XB =e'e=(r- XB)(r-XB) Q=(r-BXCr-XB) (YY-YB-BXT+BXXB)为什么YXB=BYY? Yy-2BXY+BXXB 0Q=0 ⅩY+XXB=0 aB B=CX)Xy ee k
最小二乘法的矩阵表示 ( ) ( ) 1 ˆ 0 ˆ 0 ˆ ˆ ˆ ˆ 2 ˆ ˆ ) ˆ ˆ ˆ ˆ ( ) ˆ )( ˆ ( ) ˆ ) ( ˆ ( ˆ ˆ ˆ ~ (0, ) ˆ ˆ ˆ 1 2 1 2 1 2 2 − − = = = − + = = − + = − − + = = − − = = − − = = − = − = − = = + − = = n k e e B X X X Y X Y X XB B Q Y Y B X Y B X XB Y Y Y XB B X Y B X XB Y XB B X Y Q Y B X Y XB e e Y XB Y XB Q y y E Y Y Y XB Y XB Y XB U U N n i i i n i ei 为什么 ?
2.1最小二乘估计量的性质 ■(1)线性(估计量都是被解释变量观测值的线性组合) ■(2)无偏性(估计量的数学期望=被估计的真值) (3)有效性(估计量的方差是所有线性无偏估计中最 小的) 结论:在古典假定下,OS估计式尸是最佳线性 无偏估计(BLUE)
2.1最小二乘估计量的性质 ◼ (1)线性(估计量都是被解释变量观测值的线性组合) ◼ (2)无偏性(估计量的数学期望=被估计的真值) ◼ (3)有效性(估计量的方差是所有线性无偏估计中最 小的) 无偏估计( ) 结论:在古典假定下, 估计式 是最佳线性 BLUE OLS