3普通最小二乘法 好方法之一就是普通最小二乘法 采用拟合样本趋势的方法,寻找一条尽可能好地 拟合所有样本点的样本回归线
3.普通最小二乘法 • 好方法之一就是普通最小二乘法 • 采用拟合样本趋势的方法，寻找一条尽可能好地 拟合所有样本点的样本回归线
我们希望做到的—寻找一条尽可能好地拟 合所有样本点的样本回归线 以残差作为突破口 在给定样本下, 求样本回归线n=B+Bx的问题 转换为 在给定样本下,找到使残差平方和最小的直线 注(e=y-y=y-B-Bx;)
我们希望做到的——寻找一条尽可能好地拟 合所有样本点的样本回归线 • 以残差作为突破口 • 在给定样本下， • 求样本回归线 的问题 • 转换为 • 在给定样本下，找到使残差平方和最小的直线 i xi y 0 1 ˆ ˆ ˆ = + 注：（ y y y xi ） i i i 0 1 ˆ ˆ 1 e = − ˆ = − − i i xi y 0 1 ˆ ˆ ˆ = +
图示说明 纵向距离e=y,y=y Xi,y 纵向距离 A为实际点,B为拟 合直线上与之对应 的点
y x 纵 向 距 离 (x y ) i i A , (x y ) i i B , ˆ A为实际点，B为拟 合直线上与之对应 的点 图示说明 y y y xi i i i 0 1 ˆ ˆ = − ˆ = − − 纵向距离ei
我们希望做到的—寻找一条尽可能好地拟 合所有样本点的样本回归线 给定一组样本观测值x,y1(i1,2,n),残差平 方和是月和A的函数。选择不同的B和A将给出 不同的残差平方和 ∑e2=x(2-)2=Σy-A-月x 于是在给定样本下, 求样本回归线y=B6+A1x的问题 最终转换为 即在给定样本下找到使得残差平方和最小的参数 估计值
我们希望做到的——寻找一条尽可能好地拟 合所有样本点的样本回归线 给定一组样本观测值xi , yi（i=1,2,…n），残差平 方和是 和 的函数。选择不同的 和 将给出 不同的残差平方和 • 于是在给定样本下， • 求样本回归线 的问题 • 最终转换为 • 即在给定样本下找到使得残差平方和最小的参数 估计值 i xi y 0 1 ˆ ˆ ˆ = + 1 ˆ 0 ˆ 0 ˆ 1 ˆ 2 0 1 2 2 ˆ ˆ = (y − y ˆ ) =（y − − xi ） i i i e i
4、参数估计的离差形式 deviation form) x=∑x ∑ n 则(2.2.6)的参数估计量可以写成 2.2.7 Bo =y B 由于房、B的估计结果是从最小二乘原理得到的,故称为 普通最小二乘估计量( OLS estimators)
4、参数估计的离差形式(deviation form) • 记 x i = xi - x y y i i y = - （ ） ＝ 2.2.7 ˆ - ˆ ˆ 0 1 1 2 = y x x x y i i i = i x x n 1 = i y y n 1 则（2.2.6）的参数估计量可以写成： 由于 0 ˆ 、 1 ˆ 的估计结果是从最小二乘原理得到的，故称为 普通最小二乘估计量 (OLS estimators)