最近邻法 966 1.最近邻法规则 已知C类，每类样本数为N个，i=1,2,.C 判别函数：8，(x)=minx-x‖k=1,2,N 决策规则：8，(x)=min8,(x)i=1,2,c 则决策x∈w —称为最近邻法
最近邻法 ( ) min 1, 2,..., k i i i g x x x k N ( ) min ( ) 1, 2,... j i i g x g x i c j x w ——称为最近邻法 1．最近邻法规则 判别函数： 决策规则： 已知C类，每类样本数为Ni个， i c 1,2,... 则决策
J966 最近邻法实质： 就是将样本x与N个已知类别属性的样本之间的 欧氏距离进行比较，将x归入最近的样本所属的类 别。 最近邻法是次优方法，误差率比贝叶斯误差率 大，当N→o,误差率不超过贝叶斯误差率2倍。 但不具有统计特性，不稳定
最近邻法实质： 就是将样本x与N个已知类别属性的样本之间的 欧氏距离进行比较，将x归入最近的样本所属的类 别。 最近邻法是次优方法，误差率比贝叶斯误差率 大，当N，误差率不超过贝叶斯误差率2倍。 但不具有统计特性，不稳定
/96 >在样本数很大时，最近邻规则能很好的工作 样本数非常大时，认为x距离x足够近，使 P(w;/x)=P(w;/x) ,'。最近邻规则是真实概率的一个有效近似 相当于决策规则为： P(w,x)=max P(w;x) X∈W;
在样本数N很大时，最近邻规则能很好的工作 ( / ') ( / ) P w x P w x i i ( | ) max ( | ) i j i j P w x P w x x w ∴ 最近邻规则是真实概率的一个有效近似 ∵样本数非常大时，认为x距离x足够近，使 相当于决策规则为：
/96 最近邻规则相当于把特征空间分成一个个网格单 元，每一个单元的点到最近邻x'（代表点)的距 离比到其它样本点距离更近 ,'.小单元中的任意点的类别就与最近邻x的类别 相同。即x与N个训练样本比较欧氏距离，x归入最 近样本的类
最近邻规则相当于把特征空间分成一个个网格单 元，每一个单元的点到最近邻x（代表点）的距 离比到其它样本点距离更近 ∴小单元中的任意点的类别就与最近邻x的类别 相同。即x与N个训练样本比较欧氏距离，x归入最 近样本的类
/956 X2 如图示二维情况，分界面就是各相邻训练样本距离 的垂直中心线 ∴.最近邻决策面是分段线性的
∴ 最近邻决策面是分段线性的。 如图示二维情况，分界面就是各相邻训练样本距离 的垂直中心线