2.最小二乘原理 我们的任务是,在给定X和Y的一组观测值 (XnYn)的情况下 如何求出Yt=a+βXt+u中a和β的估计值 和B,使得拟合的直线为最佳 直观上看,也就是要求在X和Y的散点图上穿过 各观测点画出一条“最佳”直线,如下图所示
2.最小二乘原理 我们的任务是， 在给定X和Y的一组观测值 (X1 , Y1 ), (X2 , Y2 ) , ..., (Xn , Yn ) 的情况下, 如何求出 Yt = + Xt + ut 中 和 的估计值 和 , 使得拟合的直线为最佳。 直观上看，也就是要求在X和Y的散点图上穿过 各观测点画出一条“最佳”直线，如下图所示 。 ˆ ˆ
Y C 图 2
* * * * * et * * * * * * * * * * * * Y X Xt 图 2 Yt Yt ˆ Y ˆ = ˆ + ˆ X
残差 拟合的直线P=a+BY称为拟合的回归线 对于任何数据点(tY+),此直线将Yt的总值分成两部分 第一部分是Y的拟合值或预测值Y: H1=a+BX1,t=1,2 第二部分,et,代表观测点对于回归线的误差,称为拟合 或预测的残差( residuals): x1-Y1 即21=y-a-BX t=1,2 n
残差 拟合的直线 称为拟合的回归线. 对于任何数据点 (Xt , Yt ), 此直线将Yt 的总值 分成两部分。 第一部分是Yt的拟合值或预测值 ： , t=1,2,……,n 第二部分，et ，代表观测点对于回归线的误差，称为拟合 或预测的残差 （residuals）： t=1,2,……,n 即 t=1,2,……,n Yt ˆ Yt Xt ˆ ˆ ˆ = + t t Xt e Y ˆ = − ˆ − t Yt Yt e = − ˆ Y ˆ = ˆ + ˆ X
残差平方和 我们的目标是使拟合出来的直线在某种意 义上是最佳的,直观地看,也就是要求估计直 线尽可能地靠近各观测点,这意味着应使残差 总体上尽可能地小。要做到这一点,就必须用 某种方法将每个点相应的残差加在一起,使其 达到最小。理想的测度是残差平方和,即 ∑e2=∑(x-,)2
残差平方和 我们的目标是使拟合出来的直线在某种意 义上是最佳的，直观地看，也就是要求估计直 线尽可能地靠近各观测点，这意味着应使残差 总体上尽可能地小。要做到这一点，就必须用 某种方法将每个点相应的残差加在一起，使其 达到最小。理想的测度是残差平方和，即 2 2 ) ˆ ( t Yt Yt e = −
最小二乘法 最小二乘法就是选择一条直线,使其残差平方和达 到最小值的方法。即选择和尸,使得 ∑e2=∑( ∑(1-Q-Bx,)2 达到最小值 15
15 最小二乘法 最小二乘法就是选择一条直线，使其残差平方和达 到最小值的方法。即选择 ˆ 和 ˆ ，使得 = − − = = − 2 2 2 ) ˆ ( ˆ ) ˆ ( t t t t t Y X S e Y Y 达到最小值