第二节 多元线性回归模型的佑计 本节基本内容: ●普通最小二乘法(OLS) ●OLS佔计式的性质 ●OLS估计的分布性质 ●随机扰动项方差的估计 ●回归系数的区间估计 16
16 第二节 多元线性回归模型的估计 本节基本内容: ● 普通最小二乘法（OLS） ● OLS估计式的性质 ● OLS估计的分布性质 ● 随机扰动项方差 的估计 ● 回归系数的区间估计 2
omet 通最小二乘法(OLS) 最小二乘原则 剩余平方和最小:mn∑2=∑(r- min2>e=∑(B+属2X2+X++k 求偏导,令其为0:02 =0 aB
17 一、普通最小二乘法（OLS） 最小二乘原则 剩余平方和最小： 求偏导,令其为0: 2 2 min ( - ) ˆ i i i e Y Y = 2 2 1 2 2 3 3 min [ -( ... )] ˆ ˆ ˆ ˆ i i i i k ki e Y X X X = + + + + 2 ( ) 0 ˆ = i j e
omet 即 2P(+AX2+X++=0→∑9=0 2X[(+X2+++Ax=0→∑xe=0 21(++x+A=0→∑X=0 注意到[y(+x+x+x 18
18 即 注意到 1 2 2 3 3 ˆ ˆ ˆ ˆ -( ... ) + + + + = i i i ki ki i Y X X X e 0 i e = 1 2 2 3 3 ˆ ˆ ˆ ˆ -2 -( ... ) 0 + + + + = i i i ki ki Y X X X 1 2 2 3 3 ˆ ˆ ˆ ˆ -2 -( ... ) 0 + + + + = X Y X X X ki i i i ki ki 2 1 2 2 3 3 ˆ ˆ ˆ ˆ -2 -( ... ) 0 + + + + = X Y X X X i i i i ki ki 2 0 X ei i = 0 X eki i =
omet 用矩阵表示 e 21 2·· 0 n Xe ∑Xe Xa k4-k2 x lle 0 nn 因为样本回归函数为Y=B+e 两边乘X有:X=XB+Xe 因为X=0,则正规方程为: XXB=XY 10
19 用矩阵表示 因为样本回归函数为 两边乘 有： 因为 ，则正规方程为： X X e = 0 2 21 22 2 2 1 1 1 0 0 0 i 1 i i n 2 ki i k1 k kn n e e X e X X X e = = = ... X e X X X e X e ˆ X X β = X Y ˆ X Y = X X β + X e ˆ Y = Xβ + e X e
omet OLS估计式 由正规方程XXB=X(XX)是满秩矩阵,其逆存在 多元回归中=XXXY 二元回归中A=-B2x2-B3 B2 ∑yx2,)∑x2)-∑yx3)∑x2x) ∑x)∑x)-∑ ∑yx)∑x)-C∑yx)∑xx) β3 C∑x,)∑x2)-C∑x2x,) 注意:X和为X,Y的离差
20 由正规方程 多元回归中 二元回归中 注意： 和 为 的离差 ˆ -1 β = (X X) X Y( ) , k k X X β ˆ = X Y X X 是满秩矩阵 其逆存在 1 2 2 3 3 ˆ ˆ ˆ =Y - β X - β X 2 3 2 2 2 3 3 2 2 2 2 3 2 3 ( )( ) -( )( ) ˆ ( )( ) -( ) i i i i i i i i i i i y x x y x x x x x x x = 2 2 3 3 2 3 2 2 2 2 2 3 2 3 ( )( ) -( )( ) ˆ ( )( ) -( ) i i i i i i i i i i i y x x y x x x x x x x = x y X,Y OLS估计式