§42贝叶斯估计 在一个统计决策问题中,可供选择的决策函 数往往很多,自然希望寻找使风险最小的决策函 数,然而在这种意义下的最优决策函数往往是不 存在的。这是因为风险函数R(,d)是既依赖于参 数又依赖于决策函数d的二元函数,它往往会 使得在某些处决策函数d1的风险函数值较小 而在另一些θ处决策函数d2的风险函数值较小。要 解这个问题,就要建立一个整体指标的比较准则 湘潭大学数学与计算科学学院一页一页
湘潭大学数学与计算科学学院 上一页 下一页 1 §4.2 贝叶斯估计 在一个统计决策问题中,可供选择的决策函 数往往很多,自然希望寻找使风险最小的决策函 数,然而在这种意义下的最优决策函数往往是不 存在的。这是因为风险函数R d ( , ) 是既依赖于参 数 又依赖于决策函数d 的二元函数,它往往会 使得在某些 处决策函数 1 d 的风险函数值较小; 而在另一些 处决策函数 2 d 的风险函数值较小。要 解这个问题,就要建立一个整体指标的比较准则
贝叶斯方法通过引进先验分布把两个风险函数 的点点比较转化为用一个整体指标的比较来代替, 从而可以决定优劣。 、先验分布与后验分布 在前一章讨论参数估计问题时,我们都是把待参数 视为参数空间⊙中的一个未知常数(或常数向量),在估 计时仅利用样本所提供的关于总体的信息,而没有利用 关于的其他任何信息。然而在许多实际问题中,往往在 抽样前便对参数θ有所了解,这种在抽样前对未知参数 所了解的信息,称为先验信息。 湘潭大学数学与计算科学学院一页一页
湘潭大学数学与计算科学学院 上一页 下一页 2 贝叶斯方法通过引进先验分布把两个风险函数 的点点比较转化为用一个整体指标的比较来代替, 从而可以决定优劣。 一、先验分布与后验分布 在前一章讨论参数估计问题时,我们都是把待参数 视为参数空间 中的一个未知常数(或常数向量),在估 计时仅利用样本所提供的关于总体的信息,而没有利用 关于 的其他任何信息。然而在许多实际问题中,往往在 抽样前便对参数 有所了解,这种在抽样前对未知参数 所了解的信息,称为先验信息
例4.6某学生通过物理实验确定当地的重力加 速度,测得如下数据(m/s2): 980,979,9.78,6.81,680。 问如何估计当地的重力加速度? 如果用样本均值x=8.596来估计,你一定会认为这个结 果很差,这是因为在未做实验之前你对重力加速度已 有了一个先验的认识,比如你已经知道它大致在980 左右,误差最大不超过0.1。因此,参数的先验信息对 于正确估计参数往往是有益的 湘潭大学数学与计算科学学院一页一页
湘潭大学数学与计算科学学院 上一页 下一页 3 例 4.6 某学生通过物理实验确定当地的重力加 速度,测得如下数据 2 ( / ) m s : 9.80,9.79,9.78,6.81,6.80。 问如何估计当地的重力加速度? 如果用样本均值x = 8.596 来估计,你一定会认为这个结 果很差,这是因为在未做实验之前你对重力加速度已 有了一个先验的认识,比如你已经知道它大致在 9.80 左右,误差最大不超过 0.1。因此,参数的先验信息对 于正确估计参数往往是有益的
要利用参数0的先验信息,通常是将看作在参 数空间⊙中取值的随机变量。 在实际中这种作法可以有两种理解: 是从某一范围考察,参数确是随机的,如用P表示 某工厂每日的废品率,尽管从某一天看,P确是一个 未知常数,但从数天或更长一段时间看,每天的P会 有一定变化,一般来说P的变化范围呈现一定的分布 规律,我们可以利用这种分布规律来作为某日废品率估 计的先验信息; 湘潭大学数学与计算科学学院一页一页
湘潭大学数学与计算科学学院 上一页 下一页 4 要利用参数 的先验信息,通常是将 看作在参 数空间 中取值的随机变量。 在实际中这种作法可以有两种理解: 一是从某一范围考察,参数确是随机的,如用p 表 示 某工厂每日的废品率,尽管从某一天看,p 确是一个 未知常数,但从数天或更长一段时间看,每天的p 会 有一定变化,一般来说 p 的变化范围呈现一定的分布 规律,我们可以利用这种分布规律来作为某日废品率估 计的先验信息;
另一种理解是参数可能确是某一常数,但人们无法知道 或无法准确地知道它,只可能通过它的观测去集训它, 像例4.6中的当地重力加速度,这时,我们不妨把它看 成一个随机变量,认为它所服从的分布可以通过它的先 验知识获得。 例如,可以认为当地的重力加速度服从正态分布 N(980012)。这一观点在实际中是很有用处的。它将 使我们能够充分地利用参数的先验信息对参数作出 更准确的估计。 湘潭大学数学与计算科学学院一页一页
湘潭大学数学与计算科学学院 上一页 下一页 5 另一种理解是参数可能确是某一常数,但人们无法知道 或无法准确地知道它,只可能通过它的观测去集训它, 像例 4.6 中的当地重力加速度,这时,我们不妨把它看 成一个随机变量,认为它所服从的分布可以通过它的先 验知识获得。 例如,可以认为当地的重力加速度服从正态分布 2 N(9.80,0.1 ) 。这一观点在实际中是很有用处的。它将 使我们能够充分地利用参数的先验信息对参数作出 更准确的估计