贝叶斯分类 ,最大后验概率分类: 。当某个观测结果出现时,认为后验概率最大的事件发 生。 f(x)=argmax (P(@/x),P(@2 /x)....,P(@/x) →f(x)=arg ma p(x/)P(@)p(x/@,)P(@,) P(x) P(x) f(x)=argmax(p(x/)P(@)....,p(x/@)P(@)
最大后验概率分类: ◦ 当某个观测结果出现时,认为后验概率最大的事件发 生。 1 2 1 1 1 1 ( ) arg max ( / ), ( / ),..., ( / ) ( / ) ( ) ( / ) ( ) ( ) arg max ,..., ( ) ( ) ( ) arg max ( / ) ( ),..., ( / ) ( ) n n n n n f P P P p P p P f P P f p P p P x x x x x x x x x x x x
贝叶斯分类 ,分类器的几何意义一一空间划分: 。最大后验概率分类器将空间划分为个不同的区域,每 个区域属于一类。 。对于二元分类,分类面为: p(X1o)P(o)-p(x/o2)P(o2)=0 2 2
分类器的几何意义——空间划分: ◦ 最大后验概率分类器将空间划分为n个不同的区域,每 个区域属于一类。 ◦ 对于二元分类,分类面为: 1 1 2 2 p P p P ( / ) ( ) ( / ) ( ) 0 x x
贝叶斯分类 ,分类器的几何意义一一空间划分: 。对于多元分类问题,空间划分为: 1.21c2,,2nc2, 2.2∩2,=p,i≠j, 9 3.21U.U22=2; 22 0 95
分类器的几何意义——空间划分: ◦ 对于多元分类问题,空间划分为: 1 1 2 1. ,..., , ... n i j i j , 2. , 3. ;
贝叶斯分类 ,分类错误: 。错误概率:将j类样本划分到第类的概率: P(&,@)=p(xI@)P(@j)dx x∈2 。总分类错误概率(准确度) P.=∑(-Po,1o,Po,)
分类错误: ◦ 错误概率:将 j 类样本划分到第 i类的概率: ◦ 总分类错误概率(准确度) ( , ) ( / ) ( ) i P p P d i j j j x x x 1 1 ( / ) ( ) N e j j j j P P P
贝叶斯分类 ,分类错误一一二元分类: 。最大后验概率分类是最小误差分类。 最大 P.=p(x/)P()dx 后验 分类 +p(xI@)P(@2)dx 将更多21划分给22 将更多22划分给21 2
分类错误——二元分类: ◦ 最大后验概率分类是最小误差分类。 最大 后验 分类 将更多Ω1 划分给Ω2 将更多Ω2 划分给Ω1 Ω1 Ω2 2 1 1 1 2 2 ( / ) ( ) ( / ) ( ) P p P d e p P d x x x x