在满足基本假设条件下,对一元线性回归模型: Y=Bo+BX+u 随机抽取n组样本观测值(X,Y;)(i=1,2,n) 假如模型的参数估计量已经求得,为0、B 那么Y服从如下的正态分布: y1~N(B0+BX1,02) 于是,Y的概率函数为 P(1) V4公30(1-A-Bx)2
在满足基本假设条件下，对一元线性回归模型： Yi = 0 + 1 X i + i 随机抽取n组样本观测值（Xi , Yi）（i=1,2,…n）。 那么Yi服从如下的正态分布： , ) ˆ ˆ ~ ( 2 Yi N 0 + 1 Xi 于是，Y的概率函数为 2 0 1 2 ) ˆ ˆ ( 2 1 2 1 ( ) Yi Xi i P Y e − − − = （i=1,2,…n） 假如模型的参数估计量已经求得，为
因为Y是相互独立的,所以的所有样本观测值的联 合概率,也即或然函数( likelihood function)为: L(A,B,o2)=P(x,2…;yn 2(-B0-B1X (2丌) 将该或然函数极大化,即可求得到模型参 数的极大或然估计量
因为Yi是相互独立的，所以的所有样本观测值的联 合概率，也即或然函数(likelihood function)为： , ) ( , , , ) ˆ , ˆ ( 1 2 2 L 0 1 P Y Y Yn = 2 0 1 2 2 ) ˆ ˆ ( 2 1 (2 ) 1 i i n Y X n e − − − = 将该或然函数极大化，即可求得到模型参 数的极大或然估计量
由于或然函数的极大化与或然函数的对数的 极大化是等价的,所以,取对数或然函数如下: L =n(l) nl√2x)n2x(x-B-BX,) 对求极大值,等价于对Σ(1-B0-A1x12求极小值: 2(1-B0-B11)2=0 B2-X1)2=0 oB
由于或然函数的极大化与或然函数的对数的 极大化是等价的，所以，取对数或然函数如下： 2 2 0 1 * ) ˆ ˆ ( 2 1 ln( 2 ) ln( ) Yi X i n L L = − − − − =
解得模型的参数估计量为: ∑Ⅹ2∑Y-∑X∑YX n2X -(2X) n∑Y.X.-∑Y∑X x2-(ΣX 可见,在满足一系列基本假设的情况下,模型 结构参数的最大或然估计量与普通最小二乘估计 量是相同的
解得模型的参数估计量为： − − = − − = 1 2 2 2 2 2 0 ( ) ˆ ( ) ˆ i i i i i i i i i i i i i n X X n Y X Y X n X X X Y X Y X 可见，在满足一系列基本假设的情况下，模型 结构参数的最大或然估计量与普通最小二乘估计 量是相同的
·对于多元线性回归模型 Y= Bo+BX+B,X2i+.+BXk+u 易知YN(XBσ Y的随机抽取的n组样本观测值的联合概率 L(Bσ2)=P(Y1,Y2,…,Yn) (2T or e 202 Σ(H-(B0+B1X1+B2X2+…+BkXh)) (27)2 o, e 202(Y-X B(Y-XB
• 对于多元线性回归模型 Yi X i X i + k X ki + i = + + + 0 1 1 2 2 易知 ~ ( , ) 2 Yi N Xi β • Y的随机抽取的n组样本观测值的联合概率 ) ˆ ) ( ˆ ( 2 1 )) ˆ ˆ ˆ ˆ ( ( 2 1 1 2 2 2 2 2 0 1 1 2 2 2 2 (2 ) 1 (2 ) 1 , ) ( , , , ) ˆ( Y Xβ Y Xβ β − − − − − + + + + = = = e e L P Y Y Y n Y X X X n n n i i i k k i n