内容提要上次课的回顾MLEMLE的性质MLE的数值确定1小结与应用实例
内容提要 上次课的回顾 MLE MLE的性质 MLE的数值确定 小结与应用实例 小结与应用实例
Reviewofthelastlecture上次课的回顾线性模型一LM一般MVU估计一RBLS最佳线性无偏估计一BLUE
上次课的回顾 线性模型-LM 一般MVU估计-RBLS 最佳线性无偏估计- 最佳线性无偏估计-BLUE Review of the last lecture Review of the last lecture
Reviewofthelastlecture一般线性模型的MVU定理4.2如果观测数据可以表示为:x=H0+s+w其中x是N×1的观测矢量,H是已知的NXp(N>p)观测矩阵,秩为p。是pX1的待估计的参数向量,s是NX1的已知信号样本量,W是NX1的噪声矢量,并且PDF为N(O,C),则MVU估计为:=(HTC-"H)-IHTC-I(x-s)协方差矩阵为C=(H'C-"H)-对于一般的线性模型,MVU估计量是有效的,它达到了CRLB
一般线性模型的MVU x= +s+ H w θ N C (0, ) 定理4.2 如果观测数据可以表示为: 其中 x 是 N × 1的观测矢量,H是已知的 N × p (N>p)观测矩 阵,秩为 p。 是 p × 1的待估计的参数向量, s 是 N × 1的已知 信号样本矢量 , w 是 N × 1的噪声矢量, 并且PDF 为 ,则 MVU估计为: 对于一般的线性模型, MVU估计量是有效的,它达到了CRLB 11 1 1 1 ˆ ˆ ( ) () ( ) T T T HC H HC C HC H θ θ − − = - - - = x-s 协方差矩阵为 θ Review of the last lecture Review of the last lecture
ReviewofthelastlectureNeyman-Fisher因子分解定理定理5.1(Neyman-Fisher因子分解)如果我们能够将PDF分解为(5.3)p(x; ) = g(T(x),0)h(x)其中g为仅通过7x)才与x有关的函数,h是仅依赖于x的函数,那么x)是 的充分统计量。反过来,如果x)是θ的充分统计量,那么PDF可以分解为上式。理解:若诸样本随机变量的联合概率密度函数可以分解为某统计量的密度函数与某一完全不含参数的函数之乘积,那么该统计量必是该参数的充分统计量,反之亦然
Neyman-Fisher因子分解定理 定理5.1(Neyman-Fisher因子分解)如果我们能 够将PDF分解为 其中 g为仅通过 T(x)才与 x有关的函数, h是仅依赖 于 x的函数,那么 T(x)是θ的充分统计量。反过 来,如果 T(x)是θ的充分统计量,那么PDF可以分 解为上式。 理解:若诸样本随机变量的联合概率密度函数可以分解为某统计量 的密度函数与某一完全不含参数的函数之乘积,那么该统计量必是 该参数的充分统计量,反之亦然。 p gT h ( ; ) ( ( ), ) ( ) (5.3) x xx θ = θ Review of the last lecture Review of the last lecture
ReviewofthelastlectureRBLS定理定理5.2(Rao-Blackwell-Lehmann-Scheffe)如果是θ的无偏估计量,T(x)是θ的充分统计量,那么=E(IT(x))是:1.θ的一个适用的估计量(与θ无关);2.无偏的;3.对于所有的θ,它的方差要小于或等于i的方差另外,如果充分估计量是完备的,那么θ是MVU估计量。 = E(|T(x) = / Op(0T(x)dgg(T(x))=
RBLS定理 定理5.2(Rao-Blackwell-Lehmann-Scheffe)如果 是θ的无偏估计量,T(x)是θ的充分统计量,那么 是: 1.θ的一个适用的估计量(与θ无关); 2.无偏的; 3.对于所有的θ,它的方差要小于或等于 的方差 另外,如果充分估计量是完备的,那么 是MVU估计量。 ˆθ Review of the last lecture Review of the last lecture