估计的数学问题>必须估计一组参数的值>例如:雷达,声纳,语音,图像分析,生物医学,通信,控制,地震学等>参数估计问题:假设有N点数据集,它与未知参数有关,我们希望为θ定义一个估计量: = g(x[0], x[1], x[2]... x[N -1])>用PDF(概率密度函数)来描述数据模型:PDF以未知量 为参数,即:p(x;の)>是确定参数/随机参数→经典估计/贝叶斯估计
¾ 必须估计一组参数的值 ¾ 例如:雷达,声纳,语音,图像分析,生物医学,通 信 ,控制, 地震学等 ¾ 参数估计问题: 假设有N点数据集,它与未知参数有 关,我们希望为 定义一个估计量: ¾ 用PDF(概率密度函数)来描述数据模型:PDF以未知 量 为参数,即: ¾ 是确定参数/随机参数 经典估计/贝叶斯估计。 ˆ θ = g x x x xN ( [0], [1], [2] [ 1]) " − θ 估计的数学问题 p(; ) x θ θ θ
估计量性能评估>估计量的性能评估一估计量是否接近参数的真实值?一是否还有更好的估计?一eg.样本平均 vs.X[0]>估计量是随机变量,它的性能只能由统计或者PDF来描述>为了评估估计性能,采用计算机模拟将永远不会得出明确的结论,尽管它在洞察一些问题和促进作一些推测方面相当有价值。>性能与计算复杂性之间的折衷
¾ 估计量的性能评估 —估计量是否接近参数的真实值? —是否还有更好的估计? — eg.样本平均 vs. X[0] ¾ 估计量是随机变量,它的性能只能由统计或者PDF 来描述 ¾ 为了评估估计性能,采用计算机模拟将永远不会得出明 确的结论,尽管它在洞察一些问题和促进作一些推测方 面相当有价值。 ¾ 性能与计算复杂性之间的折衷 估计量性能评估
性能评价指标无偏性:1b= E(0)-6一致性:lim-。 = 0(w.p.1)■方差(有效性):E[(-)(-)]1分布:估计误差的渐进分布(理想正态)/N(@-0)~ N(O,C)
性能评价指标 无偏性: 一致性: 方差(有效性): 分布:估计误差的渐进分布(理想正态) ˆ b E = ( ) θ − θ ˆ lim ( . .1) N→∞ θ θ = w p ˆ ˆ [( )( ) ] T E θ − − θθ θ ˆ ( ) (0, ) d N NC θ θ− ∼
无偏性>无偏估计意味着估计量的平均值是未知参数的真值>估计量是无偏的,如果参数θ满足E(①)=0,当0是确定信号时,E(①)=E(0),当0是随机信号>无偏估计不一定总是存在,并且它们可能很难计算>无偏估计的性质在经过函数变换后并不是不变的
¾ 无偏估计意味着估计量的平均值是未知参数的真值 ¾ 估计量是无偏的,如果参数 满足 ¾ 无偏估计不一定总是存在,并且它们可能很难计算 ¾ 无偏估计的性质在经过函数变换后并不是不变的 θ ˆ () , ˆ ( ) ( ), E E E θθθ θ θθ = = 当 是确定信号时, 当 是随机信号 无偏性
一致性对于任意的ε>0.如果lim Pr - 0 >|=(N→80此时的估计量e称为一致估计(consistent)
一致性 { } 0, ˆ lim Pr 0 ˆ N ε θθ ε θ →∞ > −> = 对于任意的 如果 此时的估计量 称为一致估计(consistent)