普通最小二乘估计 对于随机抽取的n组观测值(,X)i=12…,n,j=02,k 如果样本函数的参数估计值已经得到,则有: =Bo+BX+B2X2i+.+BKXk 12..n 根据最 小二乘原 理,参数 今g=0 其 Q=∑e2=2(-) 估计值应 该是右列/%2g=0中 ∑(-(B0+B1X1+2Xx2+…+x5) 方程组的 解
一、普通最小二乘估计 • 对于随机抽取的n组观测值 Y X i n j k ( i , j i), =1,2, , , = 0,1,2, 如果样本函数的参数估计值已经得到，则有： Yi X i X i ki X Ki ˆ ˆ ˆ ˆ ˆ = 0 + 1 1 + 2 2 ++ i=1,2…n • 根据最 小二乘原 理，参数 估计值应 该是右列 方程组的 解 = = = = 0 ˆ 0 ˆ 0 ˆ 0 ˆ 2 1 0 Q Q Q Q k 其 中 2 1 1 2 ) ˆ ( = = = = − n i i i n i Q ei Y Y 2 1 0 1 1 2 2 )) ˆ ˆ ˆ ˆ ( ( = = − + + + + n i i X i X i k X ki Y
于是得到关于待估参数估计值的正规方程组: 2(B+月X1+B2X21+…+B4X)=2Y ∑(6+月1x1n+B2X2+…+Bx)X1=∑rX1 Σ(B+Bx1+B2X21+…+B4Xh)X2=YX ∑(B+B1X1+B22+…+B4X)Xk=∑X6 解该(k+1)个方程组成的线性代数方程组,即 可得到(k+1)个待估参数的估计值,=012…;k
• 于是得到关于待估参数估计值的正规方程组： + + + + = + + + + = + + + + = + + + + = i i k ki ki i ki i i i k ki i i i i i k ki i i i i i k ki i X X X X Y X X X X X Y X X X X X Y X X X X Y ) ˆ ˆ ˆ ˆ ( ) ˆ ˆ ˆ ˆ ( ) ˆ ˆ ˆ ˆ ( ) ˆ ˆ ˆ ˆ ( 0 1 1 2 2 0 1 1 2 2 2 2 0 1 1 2 2 1 1 0 1 1 2 2 解该（k+1）个方程组成的线性代数方程组，即 可得到(k+1) 个待估参数的估计值 $ , , , , , j j = 012 k
口正规方程组的矩阵形式 ∑XYA ∑X,∑X…∑XXA□_xnx12 ∑X6∑X ∑X2人B (XXB=XY 由于XX满秩(由假设1:解释变量之间线性无关,即 rk(XX)=rk(X)=k+1),故有 B=(XX) XY
□正规方程组的矩阵形式 = k k kn n n ki ki i ki k i i i ki i ki Y Y Y X X X X X X X X X X X X X X n X X 2 1 1 2 1 1 1 1 2 1 0 2 1 1 2 1 1 1 1 1 1 ˆ ˆ ˆ 即 (XX)β ˆ = XY 由于X’X满秩(由假设1:解释变量之间线性无关,即 rk(X’X)= rk(X)=k+1)，故有 β= XX XY −1 ( ) ˆ
◇随机误差项的方差G的无偏估计 可以证明,随机误差项的方差的无偏估 计量为: ∑ ee 1
⃟随机误差项的方差的无偏估计 可以证明，随机误差项的方差的无偏估 计量为： 1 1 ˆ 2 2 − − = − − = n k n k ei e e
二、参数估计的最大或然法(ML 最大或然法( Maximum likelihood,简称ML),也 称最大似然法,是不同于最小二乘法的另一种 参数估计方法,是从最大或然原理出发发展起 来的其他估计方法的基础。 基本原理: 对于最大或然法,当从模型总体随机抽取n组 样本观测值后,最合理的参数估计量应该使得 从模型中抽取该n组样本观测值的概率最大
*二、参数估计的最大或然法(ML) 最大或然法(Maximum Likelihood,简称ML)，也 称最大似然法，是不同于最小二乘法的另一种 参数估计方法，是从最大或然原理出发发展起 来的其他估计方法的基础。 基本原理： 对于最大或然法，当从模型总体随机抽取n组 样本观测值后，最合理的参数估计量应该使得 从模型中抽取该n组样本观测值的概率最大