主要步骤: 966 1. 选取一组具有类别标志的样本集X={x1,,x 2.确定一个准则函数J (1)应是X,w,W的函数; (2)反映分类器的性质 3.用最优化技术求出准则函数的极值解:w*,wo*, 由此得g(x)
1. 选取一组具有类别标志的样本集X={x1,…,xN} 2. 确定一个准则函数J (1)应是X,w, w0的函数; (2)反映分类器的性质 主要步骤: 3. 用最优化技术求出准则函数的极值解:w*, w0*, 由此得g(x)
966 常用准则函数有: 感知准则; 最小平方误差准则; Fisher准则; 最小错分样本准则;
常用准则函数有: Fisher准则; 感知准则; 最小错分样本准则; 最小平方误差准则;
感知准则函数 J966 前面已知,分类器设计过程: 样本集→确定判别函数形式→再确定权向量 →分类器设计完成。 介绍一种设计线性分类器的算法:感知器算法 感知器(perception)算法由神经网络演变来
感知准则函数 前面已知,分类器设计过程: 感知器(perception)算法由神经网络演变来。 样本集确定判别函数形式再确定权向量 分类器设计完成。 介绍一种设计线性分类器的算法:感知器算法
/96 几个基本概念: 1.线性可分性 设有N个样本y1,y2,,y为增广样本分量,即 [1 X y= (y是d+1维) 分别来自W1,w2类, 希望用它们确定判别函数 g(x)=a'y,并寻找能使所有样本正确分类的权向 量a*
几个基本概念: 1. 线性可分性 设有N个样本y1,y2,…,yN为增广样本分量,即 1 1 1 d x y x x 分别来自w1,w2类,希望用它们确定判别函数 ,并寻找能使所有样本正确分类的权向 量a* ( ) T g x a y (y是d+1维)
966 关键:是否存在一个线性分类器,即:是否存在 一个权向量a,使 对于y,∈% 都有ay,>0 对于y,∈w2都有a'y<0 若存在这样的权向量a,则称为线性可分 实际中,完全线性可分的条件很难满足,允许一定分类误差 存在
关键:是否存在一个线性分类器,即:是否存在 一个权向量a ,使 1 2 0 0 T i i T i i y w a y y w a y 对于 都有 对于 都有 若存在这样的权向量a,则称为线性可分 实际中,完全线性可分的条件很难满足,允许一定分类误差 存在