决策规则:g(x)=Wx+mo=maxW7x+m0}→x∈O M 对于二类情况g(x)=g2(x)-g1(x)=(42-1)∑x +∑ →X∈ P(O2) ◎决策界面:若o,与O,相邻:g(x)-g,(x)=0 W(x-x)=0,其中W=∑(H1-H) Po)-4) x (1-p1) (1-1)∑(-)
( ) ( ) ( ) ( ) ( ) ln ( ) 2 1 ( ) 0, ( ) 0 1 1 0 i j T i j i j j i i j i j T P P x W x x W 其中 。 ( ) ( ) 0 ( ) ( ) ( ) ln 2 1 ( ) ( ) ( ) ( ) ( ) max 2 1 2 1 1 1 2 2 1 1 2 1 2 1 0 1 0 g x g x x P P g x g x g x x g x W x w W x w x i j i j T T j i T j j M i T i i 决策界面:若 与 相邻 对于二类情况 决策规则:
讨论:针对ω,o2二类情况,如图: (a):因为∑,=∑≠8,所以等概率面是椭圆,长轴由∑本征值决定 (b):因为W与(x-x0)点积为0,所以W与(x-x0)正交,H通过x0点 (c):因为W=∑(H,-H1)所以W与(1-1)不同相;H不垂直于值联线。 (d):若各类先验概率相等,则xo=(4-则H通过均值联线中点 否则H离开先验概率大的一类
Ø 讨论:针对ω1,ω2二类情况,如图: 否则 离开先验概率大的一类 。 若各类先验概率相等, 则 则 通过均值联线中点 因为 所以 与 不同相 不垂直于 值联线。 因为 与 点积为 所以 与 正交, 通过 点。 因为 所以等概率面是椭圆, 长轴由 本征值决定 H d x H c W W H b W x x W x x H x a I i j i j i j i i ( ), ; 2 1 ( ) : ( ) : ( ); ( ) ; ( ) : ( ) 0, ( ) ( ) : , 0 1 0 0 0 1 1 2 1 x 2 x H W 2 0 x
3、第三种情况(一般情况):Σ为任意,各类协方差矩阵不等, 二次项x7∑x与关。所以判别函数为二次型函数 °判别函数:g(x)=xWx+Wx+1,其中听;=-∑7,(mxm矩阵) W=∑(m维列向量, ∑-m∑+mnP(a) ◎决策规则:g,(x)=xWx+Wx+1o maxwin+Wx+0/→x∈ l≤j≤M 对于二类情况(x)=82(x)-81(x)=(x-1)∑1(x-1)-(x-H2)∑2(x-12) P(O →x∈
Ø 3、第三种情况(一般情况):Σί为任意,各类协方差矩阵不等, 二次项x T Σί x与i有关。所以判别函数为二次型函数。 j i T j j T j M i T i i T i x W x W x w x g x x W x W x w 0 1 0 max 决策规则: ( ) 2 1 2 1 2 1 2 1 1 2 2 1 2 1 1 1 ( ) ( ) ln ln 2 1 ( ) ( ) 2 1 ( ) ( ) 2 1 ( ) ( ) ( ) x P P g x g x g x x x x x 对于二类情况 T T ln ln ( ) 2 1 2 1 ( ) ,( ) 2 1 : ( ) , 1 0 1 1 0 i i i i T i i i i i i i i T i i T i W n w P g x x W x W x w W n n 维列向量, 判别函数 其中 矩阵
决策面方程:g,(x)-g(x)=0 下面看一下决策界面的各种图形: 对于二类问题,条件:a:二类情况O,O2;b:x1x2为条件独立; c:先验概率相等。 (a圆 (b)椭圆 (c物线 (d)双曲线 (e)直线
(a)圆 1 x 2 x 1 2 (d)双曲线 1 2 2 (b)椭圆 2 1 (c)抛物线 1 2 1 2 先验概率相等。 对于二类问题,条件: 二类情况 ; 为条件独立; 下面看一下决策界面的 各种图形: 决策面方程: : : : ( ) ( ) 0 1 2 1 2 c a b x x g x g x i j (e)直线 2 2 1 1