武汉大学：《信号检测与估计》课程电子教案（课件讲稿）06 贝叶斯BAYES估计

古典统计学派vs贝叶斯学派经典统计只以样本提供的信息在一定统计模型下作统计推断，对样本量较大的样本，有较好的统计推断效果贝叶斯统计推断由于利用了先验知识因而对小样本一般也有较好的统计推断效果

古典统计学派vs贝叶斯学派 „ 经典统计只以样本提供的信息在一定统 只以样本提供的信息在一定统 计模型下作统计推断， 计模型下作统计推断，对样本量较大的 对样本量较大的 样本，有较好的统计推断效果 样本，有较好的统计推断效果 。 „ 贝叶斯统计推断 贝叶斯统计推断由于利用了先验知识， 由于利用了先验知识， 因而对小样本一般也有较好的统计推断 对小样本一般也有较好的统计推断 效果

古典统计学派Vs贝叶斯学派经典统计的出发点是根据样本，在一定的统计模型下做出统计推断贝叶斯统计假设统计模型为参数统计模型，在取得样本观测值前，往往对参数统计模型中的参数有某些先验知识（在数学上，关宇先验知识的数学描述就是先验分布）。贝叶斯统计的主要特点就是使用先验分布，而在得到样本观测值后，由观测数据与先验分布提供的信息得到后验分布，该后验分布综合了样本与先验信息，组成较完整的后验信息。后验分布是贝叶斯统计推断的基础

古典统计学派vs贝叶斯学派 „ 经典统计的出发点是 经典统计的出发点是根据样本，在一定的统计 根据样本，在一定的统计 模型下做出统计推断 模型下做出统计推断 。 „ 贝叶斯统计假设统计模型为参数统计模型 假设统计模型为参数统计模型，在 取得样本观测值前，往往对参数统计模型中的 取得样本观测值前，往往对参数统计模型中的 参数有某些先验知识（在数学上，关于先验知 参数有某些先验知识（在数学上，关于先验知 识的数学描述就是先验分布）。 识的数学描述就是先验分布）。贝叶斯统计的 主要特点就是使用先验分布 主要特点就是使用先验分布，而在得到样本观 ，而在得到样本观 测值后，由观测数据与先验分布提供的信息得 测值后，由观测数据与先验分布提供的信息得 到后验分布，该后验分布综合了样本与先验信 到后验分布，该后验分布综合了样本与先验信 息，组成较完整的后验信息。 息，组成较完整的后验信息。后验分布是贝叶 后验分布是贝叶 斯统计推断的基础。 斯统计推断的基础

古典统计学派vs贝叶斯学派经典统计只以样本提供的信息在一定统计模型下作统计推断，对样本量较大的样本，有较好的统计推断效果贝叶斯统计推断由于利用了先验知识因而对小样本一般也有较好的统计推断效果

古典统计学派vs贝叶斯学派 „ 经典统计只以样本提供的信息在一定统 只以样本提供的信息在一定统 计模型下作统计推断， 计模型下作统计推断，对样本量较大的 对样本量较大的 样本，有较好的统计推断效果 样本，有较好的统计推断效果 。 „ 贝叶斯统计推断 贝叶斯统计推断由于利用了先验知识， 由于利用了先验知识， 因而对小样本一般也有较好的统计推断 对小样本一般也有较好的统计推断 效果

关于贝叶斯学派的争论贝叶斯学派与频率学派争论的焦点在于先验分布的问题。所谓频率学派是指坚持概率的频率解释的统计学家形成的学派。贝叶斯学派认为先验分布可以是主观的，它没有也不需要有频率解释。而频率学派则认为，只有在先验分布有一种不依赖主观的意义，且能根据适当的理论或以往的经验决定时，才允许在统计推断中使用先验分布，否则就会丧失客观性

关于贝叶斯学派的争论 „ 贝叶斯学派与频率学派争论的焦点在于先验分 贝叶斯学派与频率学派争论的焦点在于先验分 布的问题。 „ 所谓频率学派是指坚持概率的频率解释的统计学家 所谓频率学派是指坚持概率的频率解释的统计学家 形成的学派。 „ 贝叶斯学派认为先验分布可以是主观的，它没有也 贝叶斯学派认为先验分布可以是主观的，它没有也 不需要有频率解释。 不需要有频率解释。 „ 而频率学派则认为，只有在先验分布有一种不依赖 而频率学派则认为，只有在先验分布有一种不依赖 主观的意义，且能根据适当的理论或以往的经验决 主观的意义，且能根据适当的理论或以往的经验决 定时，才允许在统计推断中使用先验分布，否则就 定时，才允许在统计推断中使用先验分布，否则就 会丧失客观性。 会丧失客观性

关于贝叶斯学派的争论另一个批评是：贝叶斯方法对任何统计问题都给以一种程式化的解法，这导致人们对问题不去作深入分析，而只是机械地套用公式。贝叶斯学派则认为：从理论上说，可以在一定条件下证明，任何合理的优良性准则必然是相应于一定先验分布的贝叶斯准则，因此每个统计学家自觉或不自觉地都是“贝叶斯主义者”。他们认为，频率学派表面上不使用先验分布，但所得到的解也还是某种先验分布下的贝叶斯解，而这一潜在的先验分布，可能比经过慎重选定的主观先验分布更不合理

关于贝叶斯学派的争论 „ 另一个批评是：贝叶斯方法对任何统计问题都 另一个批评是：贝叶斯方法对任何统计问题都 给以一种程式化的解法，这导致人们对问题不 给以一种程式化的解法，这导致人们对问题不 去作深入分析，而只是机械地套用公式。 去作深入分析，而只是机械地套用公式。 „ 贝叶斯学派则认为：从理论上说，可以在一定条件 贝叶斯学派则认为：从理论上说，可以在一定条件 下证明，任何合理的优良性准则必然是相应于一定 下证明，任何合理的优良性准则必然是相应于一定 先验分布的贝叶斯准则，因此每个统计学家自觉或 先验分布的贝叶斯准则，因此每个统计学家自觉或 不自觉地都是 “贝叶斯主义者 ”。他们认为，频率学 。他们认为，频率学 派表面上不使用先验分布，但所得到的解也还是某 派表面上不使用先验分布，但所得到的解也还是某 种先验分布下的贝叶斯解，而这一潜在的先验分 种先验分布下的贝叶斯解，而这一潜在的先验分 布，可能比经过慎重选定的主观先验分布更不合理。 布，可能比经过慎重选定的主观先验分布更不合理