3.（0-1）损失最小风险贝叶斯决策损失函数为特殊情况：L,=0L=1，i≠j1）多类情况V一般形式: r(X)=ZLp(X[o,)P(,)i1,2....,Mj=l若r(X)<r(X),i+k，则Xeのk(0-1)情况下，r（X）可改写成：Mr(X)=Zp(X o,)P(o,)-p(X/o,)P(0,)j=l= p(X)-p(X /0,)P(0 )当XEの时，应满足p(X)-p(X /0)P(O)<(X)-p(X /0,)P(0,)p(X /0)P(0)> p(X /0,)P( )
= 0 Lii L i j 损失函数为特殊情况： ij =1, 3. (0-1)损失最小风险贝叶斯决策 1) 多类情况 ( ) ( | ) ( ) ( | ) ( ) 1 j j i i M j ri X = p X P − p X P = ( ) ( | ) ( ) = p X − p X i P i (0-1)情况下， ri (X ) 可改写成： ( ) ( | ) ( ) ( ) ( | ) ( ) p X − p X k P k p X − p X i P i 当 X k 时，应满足 ， i=1,2,.,M r r i k 若 k (X) i (X), ，则 X k = = M j i Li j p j P j r 1 一般形式： (X) (X | ) ( ) ( | ) ( ) ( | ) ( ) p X k P k p X i P i
p(X/O)P(O)>p(X/0)P(0)判别函数等价形式：d(X)=p(XIの)P(の)i=1,2,.,M决策规则的等价形式为：若d,(X)>d,(X),i=1,2,..,M, i+k则XEOk最小错误率贝叶斯决策2）两类情况L1 = L22 = 0, L2 = L21 =1d,(X)= p(X /0,)P(02)d (X)= p(X /a)P(o)决策规则为若d;(X)>d(X),则XEの)(4-20)若d(X)>d(X)，则Xeの
——最小错误率贝叶斯决策 L11 = L22 = 0, L12 = L21 =1 ( ) ( | ) ( ) d1 X = p X 1 P 1 ( ) ( | ) ( ) d2 X = p X 2 P 2 2) 两类情况 ( | ) ( ) ( | ) ( ) k k i P i p X P p X 决策规则为 1 2 1 若d (X) d (X)，则 X (4-20) 2 1 2 若d (X) d (X)，则X d d i M i k 若 k (X) i (X), =1,2, , , 判别函数等价形式： di (X) = p(X |i )P(i ), i =1,2, ,M 决策规则的等价形式为： 则 X k
d (X)= p(X /0)P(0,)若d(X)>d,(X),则XEO或从式（4-20）导出似然比形式：若d(X)>d(X)，则XE02对XEの的情况：p(X/)P()>p(X/の)P(O)P(02)p(X/)p(X /0,)P(o)P(02)p(X o)式中: l2(X)= P019P(o)p(X /0,)P(02)p(X /o)类似地，对Xの,的情况有：p(X /02)P(o)决策规则：若l2(X)>02, 则XE若12(X)<012,则XE0)L(X)的确定：根据错误造成损失的严重程度，及专家经验确定
对X 1的情况： ( | ) ( ) ( | ) ( ) p X 1 P 1 p X 2 P 2 ( ) ( ) ( | ) ( | ) 1 2 2 P P p p X X 或从式(4-20) 导出似然比形式： ( ) ( ) , ( | ) ( | ) ( ) 1 2 1 2 2 1 2 P P p p l = = X X 式中： X 12 12 1 决策规则： 若l (X) ，则 X 12 12 2 若l (X) ，则X 类似地， 对X 2的情况有： ( ) ( ) ( | ) ( | ) 1 2 2 P P p p X X ( ) ( | ) ( ) di X = p X i P i 1 2 1 若 d (X) d (X)， 则 X 2 1 2 若 d (X) d (X)， 则 X Lij(X)的确定：根据错误造成损失的严重程度，及专家经验确定
4.2.3正态分布模式的贝叶斯决策许多实际的数据集：均值附近分布较多的样本：De距均值点越远，样本分布越少。n此时正态分布（高斯分布）是s一种合理的近似。it正态分布概率模型的优点：yO.*物理上的合理性。159.0166.2173.4*数学上的简单性。x图中为某大学男大学生的身高数据，红线是拟合的密度曲线。可见，其身高应服从正态分布
4.2.3 正态分布模式的贝叶斯决策 许多实际的数据集： 均值附近分布较多的样本； 距均值点越远，样本分布越少。 此时正态分布（高斯分布）是 一种合理的近似。 正态分布概率模型的优点： * 物理上的合理性。 * 数学上的简单性。 图中为某大学男大学生的身高数据，红线是拟合的密度曲 线。可见，其身高应服从正态分布
1．相关知识概述1）二次型aain设一向量X=xX，矩阵A=anann则XTAX称为二次型nZ含义：是一个二次齐次多项式，XTAX=ajxx,i,j=1二次型中的矩阵A是一个对称矩阵，即α,=αji。2）正定二次型对于VX±0（即X分量不全为零），总有XAX>0，则称此二次型是正定的，而其对应的矩阵称为正定矩阵
1. 相关知识概述 1）二次型 T 1 , n X = x x = n nn n a a a a 1 11 1 设一向量 ，矩阵 A X AX 则 T 称为二次型。 二次型中的矩阵A是一个对称矩阵，即 aij = a ji 。 = = n i j ij i j a x x , 1 T 含义：是一个二次齐次多项式， X AX 2）正定二次型 对于 （即X分量不全为零），总有 ，则称 此二次型是正定的，而其对应的矩阵称为正定矩阵。 X 0 0 T X AX