北京大学：《模式识别》课程教学资源（课件讲义）第三章 概率密度估计

第三章概率密度估计 30引言 ■3.1参数估计 3.2非参数估计 ■33说明

1 第三章 概率密度估计 „ 3.0 引言 „ 3.1 参数估计 „ 3.2 非参数估计 „ 3.3 说明

3.0引言

2 3.0 引言

3.0引言 ■进行 Bayes决策需要事先知道两种知识: 各类的先验概率 观测向量的类条件概率密度。 知识的获取(估计): 一些训练数据; ■对问题的一般性的认识

3 3.0 引言 „ 进行Bayes决策需要事先知道两种知识： „ 各类的先验概率； „ 观测向量的类条件概率密度。 „ 知识的获取（估计）： „ 一些训练数据； „ 对问题的一般性的认识

3.0引言 ■类的先验概率的估计(较容易): 依靠经验; 用训练数据中各类出现的频率估计 用频率估计概率的优点: 无偏性; 相合性 收敛速度快

4 3.0 引言 „ 类的先验概率的估计（较容易）： „ 依靠经验； „ 用训练数据中各类出现的频率估计。 „ 用频率估计概率的优点： „ 无偏性； „ 相合性； „ 收敛速度快

3.0引言 类条件概率密度的估计(非常难): 概率密度函数包含了一个随机变量的全部信 息; 概率密度函数可以是满足下面条件的任何函 数 p(x)≥0,「p/(x)x=l

5 3.0 引言 „ 类条件概率密度的估计（非常难）： „ 概率密度函数包含了一个随机变量的全部信 息； „ 概率密度函数可以是满足下面条件的任何函 数： ( ) 1. ∫ p(x) ≥ 0, p x dx =