因为无法求解MVU估计量,因此我们提出一种准最佳估计量,当观测数据记录足够多或者当N一8时,这种估计量是有效的E(A) → A(7.4)var(A) →CRLB(7.5)满足(7.4)式的估计量称为渐进无偏估计;如果该估计又满足7.5式,则称为渐进有效估计。对于有限长度的数据记录,其最佳性是有保证的。也许还存在比这更好的估计量,但要找到它可能颇费周折
ˆ ( ) (7.4) ˆ var( ) (7.5) MVU N EA A A CRLB → ∞ → → 因为无法求解 估计量,因此我们提出一种准最佳估计量, 当观测数据记录足够多或者当 时,这种估计量是有效的, 满足(7.4)式的估计量称为渐进无偏估计;如果该估计又满足 (7.5)式,则称为渐进有效估计。对于有限长度的数据记录,其 最佳性是有保证的。也许还存在比这更好的估计量,但要找到 它可能颇费周折
最大似然估计原理.最大似然估计常用来估计未知的非随机参量,它定义为使似然函数最大的值作为估计量。对于未知非随机被估计量A,观测矢量x的概率密度函数 p(x;の),称之为似然函数。最大似然估计的基本原理是对于某个选定的,考虑x落在一个小区域内的概率p(x;0)dx,取 p(x;0)dx最大的那个对应的,作为估计量
最大似然估计原理 最大似然估计常用来估计未知的非随机参 量,它定义为使似然函数最大的 值作为估 计量。 对于未知非随机被估计量 ,观测矢量 的 概率密度函数 ,称之为似然函数。 最大似然估计的基本原理是对于某个选定 的 ,考虑 落在一个小区域内的概 率 ,取 最大的那个对应 的 作为估计量 。 θ θ x p(; ) x θ θ x p d (; ) x x θ p(; ) x x θ d ˆθ ML
最大似然估计量的构造根据最大似然估计原理,如果已知似然函数p(x,①)那么最大似然估计量,可由方程a ln p(x;0)p(x; 0)=0=0or0=0N0=0MLa0a0MI解得,该方程称为最大似然方程。最大似然估计也适用于随机参量,但主要是对于不知道先验PDF情况的估计。或者在随机参量情况下,虽然知道被估计量的先验PDF但不用,而用最大似然估计构造估计量也是可以的
最大似然估计量的构造 根据最大似然估计原理,如果已知似然函 根据最大似然估计原理,如果已知似然函 数 , 那么最大似然估计量 那么最大似然估计量 可由方程 解得,该方程称为最大似然方程。 解得,该方程称为最大似然方程。 最大似然估计也适用于随机参量 最大似然估计也适用于随机参量 ,但主要是对 于不知道先验PDF情况的估计。或者在随机参量 情况的估计。或者在随机参量 情况下,虽然知道被估计量的先验 情况下,虽然知道被估计量的先验PDF但不用, 而用最大似然估计构造估计量也是可以的。 而用最大似然估计构造估计量也是可以的。 p(; ) x θ ˆθ ML ˆ ˆ (; ) ln ( ; ) 0 0 ML ML p p or θ θ θ θ θ θ θ θ = = ∂ ∂ = = ∂ ∂ x x θ
最大似然估计一继续标量参数的MLE定义为对于固定的x,使p(x;①)最大的θ值p(x;の)是似然函数,lnp(x;)是对数似然函数例7.2:白高斯噪声中的DC电平一修正N-111Z(e[m| - A)2p(x, A) ==OXI2A(2元A)今n=0N-1N-1N11a ln p(x; A)Z(alm) - A)2Z(αn) -42A20A2AAn=0n=0N-1令其等于零后得到:ZA2+Aα2[n] = 0Nn=0
标量参数的MLE定义为对于固定的x,使 最大的 值。 是似然函数, 是对数似然函数 例7.2:白高斯噪声中的DC电平-修正 令其等于零后得到: 最大似然估计-继续
N_1Zr2[n]N4n=0N-111-ZA>0.α2[n]2N4n=0估计是有偏的,因为:N-1NE(A)r2YNn=0N-1Zα2[n]n=0114224A
估计是有偏的,因为: