k-近邻法
k-近邻法
7 决策规则 基本规则:在所有N个训练样本中找到测试样 本的k个最近邻,其中各类别所占个数表示成k, i=1,…,C 口判别函数: 8(X)=k,i=1,,C, 待定点 口决策规则: j=argmax g(x),i=1,...,c;
7 决策规则 基本规则:在所有 N 个训练样本中找到测试样 本的 k 个最近邻,其中各类别所占个数表示成 ki , i=1,…,c; 判别函数: 决策规则: argmax ( ), 1,..., ; i i j gi c x ( ) i i g x = k , i = 1,...,c;
8 错误率 口在N→∞时,k-近邻法的 错误率要低于最近邻法。 k=1 k=2 口k-近邻法的错误率上下界 k=3 7 仍是在一倍到两倍贝叶斯 k=99 决策方法的错误率范围内。 贝叶斯错误率 P≤月≤P2-cP 或简化为:P*≤P≤2P
8 错误率 在 N→∞ 时,k-近邻法的 错误率要低于最近邻法。 k-近邻法的错误率上下界 仍是在一倍到两倍贝叶斯 决策方法的错误率范围内。 ** * * * (2 ), 1 2 k k c P PP P c PP P 或简化为: