对每个X有M种可能的类别划分,X被判决为每一类的条件平均风险分别为ri(X),r2(X),...,rM(X)。决策规则则XEOk若r(X)=min (r(X),i=1,...,M)每个X都按条件平均风险最小决策,则总的条件平均风险也最小。总的条件平均风险称为平均风险条件平均风险:对某个样本而言。条件平均风险与平均风险的区别平均风险:对模式总体而言。1)多类情况设有M类,对于任一X对应M个条件平均风险:r(X)=EL,(X)P(0, X),1,2,...Mj=l
若 rk (X) = min ri (X), i =1, ,M 则 X k 每个X 都按条件平均风险最小决策,则总的条件平均风险也 最小。总的条件平均风险称为平均风险。 条件平均风险与 平均风险的区别 平均风险:对模式总体而言。 条件平均风险:对某个样本而言。 1)多类情况 设有M 类,对于任一X 对应 M个条件平均风险: 对每个X有M种可能的类别划分,X被判决为每一类的条件平 均风险分别为r1 (X),r2 (X) ,. ,rM(X) 。决策规则: = = M j i Li j P j r 1 (X) (X) ( | X) , i=1,2, .,M
用先验概率和条件概率的形式p(X /0 )P(r(X)=ZL,P(o, /X)-2Lp(X)1=1DL,p(X /0, )P(0) )p(X)对所有类别一样,不提供分类信息.. r(X)-L,p(X|o,)P(o,),i=1,2,..,Mj-1决策规则为:若 r(X)<r(X), i=1,2,.,M; i+k,则 Xeのk
( ) ( ) = = = = M j j j i j M j i i j j p p P r L P L 1 1 | ( ) ( ) ( | ) X X X X = = M j Li j p j P j p 1 ( | ) ( ) ( ) 1 X X 用先验概率和条件概率的形式: ∵ p(X)对所有类别一样,不提供分类信息。 , i=1,2,.,M = = M j i i j j P j r L p 1 (X) (X | ) ( ) 决策规则为: r r i M i k k (X) i (X), =1,2, , ; 若 ,则 X k
M2)两类情况:对样本X:. r(X)=ZL,p(X /o,)P(,)j=l当X被判为?类时:r(X) = Lup(X /0)P()+ Li2p(X /0 )P(0))当X被判为の类时:r(X)= Lap(X /@)P(0)+ L22P(X /, )P(0))决策规则:则XEO若r(X)<r(X)(4-15)则XEO(4-16)若r(X)>r(X)由(4-15)式:LP(X /)P()+ L2P(X /0,)P(0,)<L2P(X /)P()+ L2p(X /0,)P()(L2 - L2)p(X /0,)P(0,) <(L21-L)p(X /)P()p(X /0)(L2 - L22)P(02)p(X /O,)(L-L)P(@)
( ) ( | ) ( ) ( | ) ( ) 2 L21 p 1 P 1 L22 p 2 P 2 r X = X + X ( ) ( | ) ( ) ( | ) ( ) 1 L11 p 1 P 1 L12 p 2 P 2 r X = X + X 2)两类情况:对样本X 1 2 1 若r(X) r (X) 则 X 1 2 2 若r(X) r (X) 则 X 当X 被判为ω1类时: 当X 被判为ω2类时: (4-15) (4-16) ( | ) ( ) ( | ) ( ) ( | ) ( ) ( | ) ( ) 11 1 1 12 2 2 21 1 1 22 2 P 2 L p X P + L p X P L p X P + L p X ( ) ( | ) ( ) ( ) ( | ) ( ) L12 − L22 p X 2 P 2 L21 − L11 p X 1 P 1 ( ) ( ) ( ) ( ) ( | ) ( | ) 2 1 1 1 1 1 2 2 2 2 2 1 L L P L L P p p − − X X 由(4-15)式: = = M j i i j j P j r L p 1 (X) (X | ) ( ) 决策规则:
(L21 - L22)P(02)p(XIO)p(X/0.)(L2 -LDP(0)4(X)=P(Xla),称似然比;令:p(X 02)类概率密度函-L22)P(02),为阈值(L21数012(L2 - L)P(0)p(Xla)也称の判别步骤:的似然函数①定义损失函数Li。②计算012。③计算1(X)。①若l2(X)>012,则XEQ若12(X)<02,则XE02若12(X)=2,任意判决
令: ( | ) ( | ) ( ) 2 1 12 X X X p p l = ,称似然比; ( ) ( ) ( ) ( ) 12 11 1 21 22 2 12 L L P L L P − − = ,为阈值。 ② 计算 12 。 ③ 计算 l 12 (X) 。 ① 定义损失函数Lij。 判别步骤: 12 1 ④ 若l (X) ,则 X 若l 12(X) =12, 任意判决 12 2 若l (X) ,则X ( ) ( ) ( ) ( ) ( | ) ( | ) 1 2 1 1 1 2 1 2 2 2 2 1 L L P L L P p p − − X X 类概率密度函 数 p(X |ωi ) 也称ωi 的似然函数
例4.2在细胞识别中,病变细胞和正常细胞的先验概率分别为P(@)=0.05,P()=0.95现有一待识别细胞,观察值为X,从类概率密度分布曲线上查得p(X/@)=0.5,p(X|0)=0.2损失函数分别为L=0,L21=10,L2=0,L12=1。按最小风险贝叶斯决策分类。解:计算0,和1X)得:(1-0)×0.95-(L12 - L22)P(02)-1.9012 =(L21 - L1)P(o))(10-0)×0.0542(X)= P(X/o)_ 0.5=2.50.2p(X/0)(: 112()>012..XE0为病变细胞
P(1 ) = 0.05, P(2 ) = 0.95 p(X |1 ) = 0.5, p(X |2 ) = 0.2 解:计算 12 和 l 12 (X) 得: 2.5 0.2 0.5 ( | ) ( | ) ( ) 2 1 1 2 = = = X X X p p l ( ) 12 X 12 l X 1 例4.2 在细胞识别中,病变细胞和正常细胞的先验概率 分别为 现有一待识别细胞,观察值为X, 从类概率密度分布曲线上查得 损失函数分别为L11=0,L21=10, L22=0,L12=1。按最小风险贝 叶斯决策分类。 为病变细胞。 1.9 (10 0) 0.05 (1 0) 0.95 ( ) ( ) ( ) ( ) 21 11 1 12 22 2 12 = − − = − − = L L P L L P