石河子大学：《计量经济学》课程PPT教学课件（硕士生）第二章 经典单方程计量经济学模型 The Classical Single Equation Econometric Model 2.3 多元线性回归模型的估计

§2.3多元线性回归模型的估计 估计目标：结构参数B,及随机误差项的方差62 估计方法：OLS、ML或者MM 一、普通最小二乘估计 二、最大或然估计 三、矩估计 四、参数估计量的性质 五、样本容量问题 六、估计实例

§2. 3 多元线性回归模型的估计 估计方法：OLS、ML或者MM 一、普通最小二乘估计 二、最大或然估计 三、矩估计 四、参数估计量的性质 五、样本容量问题 六、估计实例

一、普通最小二乘估计 对于随机抽取的n组观测值（化，X,i=1,2,.,n,j=01,2,.k 如果样本函数的参数估计值已经得到，则有： 卫=B。+B,X.+B2X21++BX i=1,2.n 根据最小二乘原理，参数估计值应该是下列方程组的解 -Q=0 Q=0 明 其中0-立e-立- 900 =2-成+成x+成X++aX》 -Q=0

一、普通最小二乘估计 对于随机抽取的n组观测值 Y X i n j k ( i , ji), =1,2,  , , = 0,1,2,  如果样本函数的参数估计值已经得到，则有： Yi   X i  X i  ki X Ki ˆ ˆ ˆ ˆ ˆ = 0 + 1 1 + 2 2 ++ i=1,2.n 根据最小二乘原理，参数估计值应该是下列方程组的解              = = = = 0 ˆ 0 ˆ 0 ˆ 0 ˆ 2 1 0 Q Q Q Q  k          其中 2 1 1 2 ) ˆ  ( = = = = − n i i i n i Q ei Y Y 2 1 0 1 1 2 2 )) ˆ ˆ ˆ ˆ ( ( = = − + + + + n i Yi   X i  X i   k X ki

于是得到关于待估参数估计值的正规方程组： (B。+BX.+B2X21+.+BXa)=Y, 2(B。+B1Xu+B2X2,+.+BkXa)Xu=2Y,Xu (Bo+BX+B2X2++BX)X2=EYX2 (B。+BX,+B2X21+.+BXa)Xa=Y,Xa 解该(k+1)个方程组成的线性代数方程组，即可得到 (k+1)个待估参数的估计值B,j=0,12,.,k

于是得到关于待估参数估计值的正规方程组：           + + + + =   + + + + =   + + + + =   + + + + =  i i k ki ki i ki i i i k ki i i i i i k ki i i i i i k ki i X X X X Y X X X X X Y X X X X X Y X X X X Y ) ˆ ˆ ˆ ˆ ( ) ˆ ˆ ˆ ˆ ( ) ˆ ˆ ˆ ˆ ( ) ˆ ˆ ˆ ˆ ( 0 1 1 2 2 0 1 1 2 2 2 2 0 1 1 2 2 1 1 0 1 1 2 2                      解该（k+1）个方程组成的线性代数方程组，即可得到 (k+1)个待估参数的估计值   , , , , , j j = 0 1 2  k

正规方程组的矩阵形式 n ∑XYB。 1 . ∑X ∑X,Xa Xn X12 . ∑Xa∑X6X Xk2 X kn 即 XXB=XY 由于XX满秩，故有 B=(XXXY

正规方程组的矩阵形式                             =                                     k k kn n n ki ki i ki k i i i ki i ki Y Y Y X X X X X X X X X X X X X X n X X                 2 1 1 2 1 1 1 1 2 1 0 2 1 1 2 1 1 1 1 1 1 ˆ ˆ ˆ    即 (XX)β ˆ = XY 由于X’X满秩，故有 β= XX XY −1 ( ) ˆ

将上述过程用矩阵表示如下： 寻找一组参数估计值B,使得残差平方和 最小。 0-含=e=Nx创N-K 即求解方程组： (Y-XB)(Y-XB)=0 (YY-BXY-YXB+8XXB)=0 aB aYY-2YXB+8xX间=0 -XY+XXB=0 得到： XY-XXB 于是： B=(XXXY

将上述过程用矩阵表示如下： 即求解方程组： ( ˆ ) ( ˆ ) 0 ˆ Y − Xβ  Y − Xβ =  β  ( ˆ ˆ ˆ ˆ ) 0 ˆ  −   −  +   =   Y Y βX Y Y Xβ βX Xβ β ( 2 ˆ ˆ ˆ ) 0 ˆ  −  +   =   Y Y Y Xβ βX Xβ β − XY + XXβ ˆ = 0 得到： β= XX XY −1 ( ) ˆ X Y X Xβ ˆ  =  于是：