第二节eCS多元线性回归模型的估计本节基本内容普通最小二乘法(OLS)OLS估计式的性质OLS估计的分布性质的估计随机扰动项方差回归系数的区间估计16
16 第二节 多元线性回归模型的估计 本节基本内容: ● 普通最小二乘法(OLS) ● OLS估计式的性质 ● OLS估计的分布性质 ● 随机扰动项方差 的估计 ● 回归系数的区间估计 2
Oe第一、普通最小二乘法(OLS)最小二乘原则剩余平方和最小:mine-(Y·)mine-Y-B+BX+BX,++BXaEe)求偏导,令其为0:=0op17
17 一、普通最小二乘法(OLS) 最小二乘原则 剩余平方和最小: 求偏导,令其为0: 2 2 min ( - ) ˆ i i i e Y Y = 2 2 1 2 2 3 3 min [ -( . )] ˆ ˆ ˆ ˆ i i i i k ki e Y X X X = + + + + 2 ( ) 0 ˆ = i j e
cometCS即2ZY-(B+BX,+BX,++BX)l-0-Ee-02EXYB+X+X,++X)-0Xe-0-2xY(B+BX,+BX,++X)l-0→EXhe=0注意到Y-(B+B,X,+BX,++BX)-e18
18 即 注意到 1 2 2 3 3 ˆ ˆ ˆ ˆ -( . ) + + + + = i i i ki ki i Y X X X e 0 i e = 1 2 2 3 3 ˆ ˆ ˆ ˆ -2 -( . ) 0 + + + + = i i i ki ki Y X X X 1 2 2 3 3 ˆ ˆ ˆ ˆ -2 -( . ) 0 + + + + = X Y X X X ki i i i ki ki 2 1 2 2 3 3 ˆ ˆ ˆ ˆ -2 -( . ) 0 + + + + = X Y X X X i i i i ki ki 2 0 X ei i = 0 X eki i =
rometCS用矩阵表示Ze0111e,0EXeX21X22X2ne2X'e..:::.0EXheXklXk2Xkn...enX'eY-Xβ+e因为样本回归函数为X'Y-XXB+X'e两边乘X有:因为Xe=0,则正规方程为:XXB-X'Y19
19 用矩阵表示 因为样本回归函数为 两边乘 有: 因为 ,则正规方程为: X X e = 0 2 21 22 2 2 1 1 1 0 0 0 i 1 i i n 2 ki i k1 k kn n e e X e X X X e = = = . X e X X X e X e ˆ X X β = X Y ˆ X Y = X X β + X e ˆ Y = Xβ + e X e
cometCSOLS估计式XXB-XY(XX)是满秩矩阵,其逆存在由正规方程β-(XX)"XY多元回归中B-Y-BX-BX二元回归中B-LnLynx0x)-x)EyE)-Eyxx)B.x)-x)注意:X和J为X,Y的离差20
20 由正规方程 多元回归中 二元回归中 注意: 和 为 的离差 ˆ -1 β = (X X) X Y( ) , k k X X β ˆ = X Y X X 是满秩矩阵 其逆存在 1 2 2 3 3 ˆ ˆ ˆ =Y - β X - β X 2 3 2 2 2 3 3 2 2 2 2 3 2 3 ( )( ) -( )( ) ˆ ( )( ) -( ) i i i i i i i i i i i y x x y x x x x x x x = 2 2 3 3 2 3 2 2 2 2 2 3 2 3 ( )( ) -( )( ) ˆ ( )( ) -( ) i i i i i i i i i i i y x x y x x x x x x x = x y X,Y OLS估计式