§2.3一元线性回归模型的参数估计 (Estimation of Simple Linear Regression Model) 参数的普通最小二乘估计(0LS) 参数估计的最大或然法(ML) 三、参数估计的矩法(MM) 四、最小二乘估计量的性质 五、参数估计量的概率分布及随机干 扰项方差的估计
§2.3 一元线性回归模型的参数估计 (Estimation of Simple Linear Regression Model) 一、参数的普通最小二乘估计(OLS) 二、参数估计的最大或然法(ML) 三、参数估计的矩法(MM) 四、最小二乘估计量的性质 五、参数估计量的概率分布及随机干 扰项方差的估计
一、参数的普通最小二乘估计(OLS)
一、参数的普通最小二乘估计(OLS)
1、最小二乘原理 。 根据被解释变量的所有观测值与估计值之差的 平方和最小的原则求得参数估计量。 Mm0=∑化-P=∑(g-(a,+月x,》月 ·为什么取平方和?
1、最小二乘原理 • 根据被解释变量的所有观测值与估计值之差的 平方和最小的原则求得参数估计量。 2 2 0 1 1 1 ˆ ˆ ˆ ( ) ( ( )) n n MinQ Y Y Y X = − = − + i i i i • 为什么取平方和?
2、正规方程组 覆 =0 ∑g-月。-月,X,)=0 a四 ∑g,-B。-BX)X,=0 o那, ·该关于参数估计量的线性方程组称为正规方程 组(normal equations)
2、正规方程组 • 该关于参数估计量的线性方程组称为正规方程 组(normal equations)。 0 1 0 ˆ 0 ˆ Q Q = = − − = − − = ) 0 ˆ ˆ ( ) 0 ˆ ˆ ( 0 1 0 1 i i i i i Y X X Y X
3、参数估计量 ·求解正规方程组得到结构参数的普通最小二乘 估计量(ordinary least squares estimators) 及其离差形式: XΣY,-X,2Y,X, 月- Ex yi nX-(2X,)2 x B= Y,X,-∑Y,X, B。=Y-Bx n2X-(X,)2
3、参数估计量 • 求解正规方程组得到结构参数的普通最小二乘 估计量(ordinary least squares estimators) 及其离差形式: − − = − − = 1 2 2 2 2 2 0 ( ) ˆ ( ) ˆ i i i i i i i i i i i i i n X X n Y X Y X n X X X Y X Y X = − = Y X x x y i i i 0 1 1 2 ˆ ˆ ˆ