定理22最小二乘估计的统计性质 考虑(26)的估计,假设数据由式(212)生 成,其中{e(,=1,2,…}是均值为零,方差为a2 的独立随机变量序列,令E鲁表示数学期望,cov 表示随机变量的协方差,如果①①是非奇异的 (1)E{O(1)}=00 (2)Cov{6(t)}=a2(cΦ) (3)a2(1)=2(0,1)/(t-m)是02的无偏估计 其中n是0和6的参数数目,t是数据的数目
0 ( )} ˆ E{θ t = θ 2 σ 定理2.2 最小二乘估计的统计性质 考虑(2.6)的估计,假设数据由式(2.12)生 成,其中{e(i),i=1,2,…}是均值为零,方差为 的独立随机变量序列,令E{}表示数学期望,cov 表示随机变量的协方差,如果 是非奇异的, 则 (1) T 2 1 ( )} ( ) ˆ { − = T Cov θ t σ θ ˆ (2) (3) , )/( ) ˆ ˆ ( ) 2 ( 2 σ t = V θ t t − n 是 的无偏估计 0 θ 2 σ 其中n是 和 的参数数目,t是数据的数目
递推计算( recursive computations) 令0(t-1)代表基于t-1次测量的最小二乘估计 P()=()()=∑o(p( ∑叭()7()+()97()(214 =P(t-1)+p(t)q(t)
( 1) ˆ θ t − 递推计算(recursive computations) 令 代表基于t-1次测量的最小二乘估计 (2.14) ( 1) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) 1 1 1 1 1 P t φ t φ t φ i φ i φ t φ t P t t t φ i φ i T T t i T t i T T = − + = + = = − − = = −
0(t)=P()∑(y(i) =PO∑o()y(i)+()y() (i)y(i)=P(t-1)6(t-1) =P(t)0(t-1)-0(t)g()0(t-1)
= + = − = = 1 1 1 ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ˆ t i t i P t φ i y i φ t y t θ t P t φ i y i ( 1) ˆ ( 1) ( ) ( ) ˆ ( ) ( 1) ˆ ( ) ( ) ( 1) 1 1 1 1 = − − − = − − − − = − P t θ t φ t φ t θ t φ i y i P t θ t T t i
6(1)=6(t-1)-P(t)p(t)(1)6(t-1)+P(t)(t)y(t) =6(-1)+P(09001 =6(t-1)+K(t)(t) K()=P(t)(t),e()=(y()-g(t)0(t
( ) ( 1) ( ) ( ) ˆ ( 1) ˆ ( 1) ( ) ( ) ( ) ( ) ˆ ( 1) ( ) ( ) ( ) ˆ ( 1) ( ) ( ) ( ) ˆ ( ) ˆ θ t K t ε t θ t P t φ t y t φ t θ t θ t θ t P t φ t φ t θ t P t φ t y t T T = − + = − + − − = − − − + ( ( 1)) ˆ K(t) = P(t)φ(t), ε(t) = y(t) − φ (t)θ t − T
矩阵逆引理( matrix inversion lemma) 令AC,C-+DHB为非奇异矩阵,则A+BCD 可逆,且 (A+BCD) A-AB(C+DA B)DA
A C C DA B 1 1 , , − − + 矩阵逆引理(matrix inversion lemma) 令 为非奇异矩阵,则 可逆,且 1 1 1 1 1 1 1 ( ) ( ) − − − − − − − = − + + A A B C DA B DA A BCD A+ BCD