ch02.贝叶斯决策论
Ch 02. 贝叶斯决策论
符号表示 表示类别的随机变量O 类别标记O,i=1,2,3, 例如: 鲑鱼;O2:鲈鱼 类别先验概率P(a)=P(O=O) 当所有类别互斥并且完备的情况下∑P(a)=1 类条件概率密度函数p(x|a)
符号表示 • 表示类别的随机变量 • 类别标记 例如： ：鲑鱼； ：鲈鱼 • 类别先验概率 当所有类别互斥并且完备的情况下 • 类条件概率密度函数 ( ) ( ) P P i i = = , 1,2,3,... i =i ( | )i p x 1 2 1 ( ) 1 c i i P = =
进行观察之前 问题 给定所有可能类别的先验概率,在不进行观察的情况下,预测下一个 可能出现的模式的类别 最佳决策规则 如果P()≥P(a,i≠j,则预测下一个模式为 ·在没有对新岀现的模式进行任何观察情况下,该决策规则造成错 误的概率最小,因此为最优决策规则 如果先验概率不变,则每次的预测均相同 如果有更多的信息,是否可以做出更好的预测?
进行观察之前 • 问题 给定所有可能类别的先验概率，在不进行观察的情况下，预测下一个 可能出现的模式的类别 • 最佳决策规则 • 在没有对新出现的模式进行任何观察情况下，该决策规则造成错 误的概率最小，因此为最优决策规则； • 如果先验概率不变，则每次的预测均相同。 • 如果有更多的信息，是否可以做出更好的预测？ 如果 P P i j ( ) ( ), j i ，则预测下一个模式为 j
进行观察之后 在类别为O的情况下,观察到特征x的概率为p(x|O) ·可用于分类的特征x在类别不同的情况下,其概率分布 应有所不同 p(x|0)dx=1 p(x p(x|2) p(x|02)
• 在类别为 的情况下，观察到特征 的概率为 • 可用于分类的特征x在类别不同的情况下，其概率分布 应有所不同 进行观察之后 ( | )i i x p x
根据观察到的特征做出预测 ·目标:在观察到x的情况下,类别为o的概率 P(|x),i=1,2,3 ·判决规则 从样本中观察到x的情况下, 如果P(O,|x)≥P(O|x),i≠j, 则预测该模式为O
• 目标：在观察到 的情况下，类别为 的概率 • 判决规则 ( | ) ( | ), P x P x i j j i 从样本中观察到 的情况下， 如果 ， 则预测该模式为 根据观察到的特征做出预测 j ( | ), 1,2,3..., P x i c i = i x x