E(e'e)=E(u(I-X(X'X)X)u) =o'tr(I-X(X'X)-X') =o2(trI-tr(X(X'X)X)) =o2(n-(k+1) 02 E(e'e) 62= e'e n-k-1 n-k-1
( ( 1)) ( ( ( ) )) ( ( ) ) ( ) ( ( ( ) ) ) 2 2 1 2 1 1 = − + = − = − = − − − − n k t r t r t r E E I X X X X I X X X X e e μ I X X X X μ 1 ( ) 2 − − = n k E e e 1 ˆ 2 − − = n k e e
二、最大似然估计
二、最大似然估计
1、最大似然法 最大似然法(Maximum Likelihood,ML),也称 最大或然法,是不同于最小二乘法的另一种参 数估计方法,是从最大或然原理出发发展起来 的其它估计方法的基础。 ·基本原理:当从模型总体随机抽取n组样本观 测值后,最合理的参数估计量应该使得从模型 中抽取该n组样本观测值的概率最大。 ·ML必须已知随机项的分布
1、最大似然法 • 最大似然法(Maximum Likelihood,ML),也称 最大或然法,是不同于最小二乘法的另一种参 数估计方法,是从最大或然原理出发发展起来 的其它估计方法的基础。 • 基本原理:当从模型总体随机抽取n组样本观 测值后,最合理的参数估计量应该使得从模型 中抽取该n组样本观测值的概率最大。 • ML必须已知随机项的分布
2、估计步骤:以一元模型为例 Y的分布 Y,~N(B。+BX,o2) 20化-房-月x户 P(Y,)= Y:的概率函数 e 0√2 L(Bo,B,2)=P(Yi,Y2:,Y) Y的所有样 2022化-成-Ax)月 本观测值的 联合概率一 似然函数 (2π)2o
2、估计步骤:以一元模型为例 , ) ˆ ˆ ~ ( 2 Yi N 0 + 1 Xi 2 0 1 2 ) ˆ ˆ ( 2 1 2 1 ( ) Yi Xi i P Y e − − − = , ) ( , , , ) ˆ , ˆ ( 1 2 2 L 0 1 P Y Y Yn = 2 0 1 2 2 ) ˆ ˆ ( 2 1 (2 ) 1 i i n Y X n e − − − = Yi的分布 Yi的概率函数 Y的所有样 本观测值的 联合概率— 似然函数
L'In(L) -N2a)。g-a-ax/ 对数似然 函数 0 (Y,-p。-pX,)2=0 对数似然函 0 数极大化的 卵 2(Y,-B。-BX,)2=0 一阶条件 B。= ∑X∑Y-∑X,∑Y,X, n2X,-(2X,)2 结构参数的 n2Y,X,-2Y,2X, ML估计量 n2X,-(X,)2
2 2 0 1 * ) ˆ ˆ ( 2 1 ln( 2 ) ln( ) Yi Xi n L L = − − − − = − − = − − = ) 0 ˆ ˆ ( ˆ ) 0 ˆ ˆ ( ˆ 2 0 1 1 2 0 1 0 i i i i Y X Y X − − = − − = 1 2 2 2 2 2 0 ( ) ˆ ( ) ˆ i i i i i i i i i i i i i n X X n Y X Y X n X X X Y X Y X 对数似然 函数 对数似然函 数极大化的 一阶条件 结构参数的 ML估计量