2.2.1基于最小错误率的贝叶斯决策 利用贝叶斯公式(1)还可以得到几种最小错 误率贝叶斯决策规则的等价形式: (2如果p(xo)P(o)=mp(xo)P(), 则 x∈a (3)若(x) p(x|1)、P(O2) 则x∈ p(x|O2)<P(O1) (4)对上式的(x)取自然对数的负值,可写为 *ih(x=-In[(x)]=-Inp(x)+ Inp(r a2)< In p(o2) P(01) x∈ C
利用贝叶斯公式(1)还可以得到几种最小错 误率贝叶斯决策规则的等价形式： 1,2 max ⑵如果 j= p(x|ωi ) P(ωi )= p(x|ωj ) P(ωj )， 则 x∈ωi 2.2.1基于最小错误率的贝叶斯决策 ⑷对上式的l(x)取自然对数的负值，可写为 ω1 ⑶若 ( ) ( ) ( | ) ( | ) ( ) 1 2 2 1 P P p x p x l x = < ，则x∈ ω2 若h(x)=－ln[l(x)]=－lnp(x|ω1 )+ lnp(x|ω2 ) < ( ) ( ) 1 2 P P ln ω1 ω2 > 则 x∈
2.2.1基于最小错误率的贝叶斯决策 举例 假设在某个局部地区细胞识别中正常(O1) 和异常(o2)两类先验概率分别为正常状态: P1)=0.9;异常状态:P(o2)=0.1。现有 待识的细胞,其观察值为x,从类条件 概率密度分布曲线上查得pxo1)=0.2, px2)=0.4。试对该细胞x进行分类。 课堂练习
举例 • 假设在某个局部地区细胞识别中正常(ω1 ) 和异常(ω2 )两类先验概率分别为正常状态： P(ω1 )=0.9；异常状态：P(ω2 )=0.1。现有 一待识的细胞，其观察值为x，从类条件 概率密度分布曲线上查得p(x|ω1 )=0.2， p(x|ω2 )=0.4。试对该细胞x进行分类。 • 课堂练习 2.2.1基于最小错误率的贝叶斯决策
2.2.1基于最小错误率的贝叶斯决策 解:利用贝叶斯公式,分别计算出O1及 O2的后验概率。 0.2×0.9 P(Ox) P(xOP(O 0.818 ∑p(x|o)P(o) 0.2×0.9+0.4×0. P(O2x)=1-P(ox)=1-0.818-0.182 根据贝叶斯决策规则(2),有 Px)=0.818>P(a2x)=0.182 所以合理的决策是把x归类于正常状态
• 解：利用贝叶斯公式，分别计算出ω1及 ω2的后验概率。 0.818 0.2 0.9 0.4 0.1 0.2 0.9 ( | ) ( ) ( | ) ( ) ( | x) 2 1 1 1 1 = + = = j= j P j p x p x P P P(ω2 |x)=1－ P(ω1 |x)=1－0.818=0.182 根据贝叶斯决策规则(2)，有 P(ω1 |x) = 0.818 > P(ω2 |x) = 0.182 所以合理的决策是把 x 归类于正常状态。 2.2.1基于最小错误率的贝叶斯决策
2.2.1基于最小错误率的贝叶斯决策 从这个例子可见,决策结果取决于实际 观察到的类条件概率密度p(x(o)和先验概 率P(o)两者。 在这个例子中由于状态o1的先验概率比 ω2的先验概率大好几倍,使先验概率在 做出决策中起了主导作用
• 从这个例子可见，决策结果取决于实际 观察到的类条件概率密度p(x|ωi )和先验概 率P(ωi )两者。 • 在这个例子中由于状态ω1的先验概率比 ω2的先验概率大好几倍，使先验概率在 做出决策中起了主导作用。 2.2.1基于最小错误率的贝叶斯决策
2.2.1基于最小错误率的贝叶斯决策 最小错误率贝叶斯决策规则证明 错误率一平均错误率,以P(e)来表示,其 定义为 P(e)= P(e,x)dx= P(exp(x)dx P(olx),P(o,x)>P(o, lx) P(elx P(O,x),P(o 1x)>P(o,lx) P(elx)=min[ P(o x), P(a x)
最小错误率贝叶斯决策规则证明 • 错误率－平均错误率，以P(e)来表示，其 定义为 = ( | ) ( | ) ( | ) ( | ) ( | ) ( | ) ( | ) 2 1 2 1 2 1 P x P x P x P x P x P x P e x ，当 ，当 ( | ) min[ ( | ), ( | )] 2 1 P e x = P x P x − − P(e) = P(e, x)dx = P(e | x) p(x)dx 2.2.1基于最小错误率的贝叶斯决策