二感知器法 感知器的原理结构为: 感单元组合单元 加权单元 K1 响应单元 W1*1 外 阙值 输出 界 2 72 RT I'n*Xn
二 感知器法 感知器的原理结构为:
通过对W的调整,可实现判别函数g(x)=WX>R 其中R为响应阈值 定义感知准则函数:只考虑错分样本 定义:J)=∑(x)其中x为错分样本 X∈X0 当分类发生错误时就有WX<0,或-WX>0,所以J() 总是正值,错误分类愈少,J(W)就愈小 理想情况为J(W)=0即求最小值的问题
通过对W的调整,可实现判别函数g(x) =WTX > RT 其中RT为响应阈值 定义感知准则函数:只考虑错分样本 定义: 其中x0为错分样本 当分类发生错误时就有WTX <0,或-WTX >0, 所以J(W) 总是正值,错误分类愈少, J(W)就愈小。 理想情况为 即求最小值的问题。 ( ) = − 0 ( ) X X J W W X T J (W ) = 0
求最小值对W求梯度ⅴ=m=∑(x) X∈X0 代入迭代公式中Wx1= WK-pk vJ 即感知器选代公式:W+1=W+m∑X X∈X0 由J(w)经第K+1次迭代的时候,J(W趋于0,收敛于所求的W值 感知器训练 J (W) J CW1) J CWk) 所求的W J+1) W n1 nk wl+
求最小值对W求梯度 代入迭代公式中Wk+1 = Wk -ρk▽J 由J(W)经第K+1次迭代的时候,J(W)趋于0,收敛于所求的W值 ( ) = − = 0 ( ) X X X W J W J + = + 0 1 X X 即感知器迭代公式:Wk Wk k X
W的训练过程: 例如X1,x2X32∈(1作X,%的垂直线可得解区(如图) 假设起始权向量w1=0pk=1 1.x1,x2X3三个矢量相加得矢量2,垂直于矢量2的超平面H将x错分 2x3与矢量2相加得矢量3,垂直于矢量3的超平面H1将x错分 3依上法得矢量4,垂直于矢量4做超平面H2将x3错分 4.x3与矢量4相加得矢量5矢量5在解区内,垂直于矢量5的超平面可 以把X1,x2X3分成一类 .5 X2 W区间 H
W的训练过程: 例如:x1 , x2, x3∈ω1 作 x1 , x3的垂直线可得解区(如图) 假设起始权向量w1=0 ρk = 1 1. x1 , x2, x3三个矢量相加得矢量2,垂直于矢量2的超平面H将x3错分. 2. x3与矢量2相加得矢量3,垂直于矢量3的超平面H1 ,将x1错分. 3.依上法得矢量4,垂直于矢量4做超平面, H2将x3错分 4. x3与矢量4相加得矢量5,矢量5在解区内,垂直于矢量5的超平面可 以把 x1 , x2, x3分成一类 。 x1 x2 x3 2 H 3 H1 4 H2 5 W区间
■感知器算法: 1.错误分类修正W6 如Wx≤0并且X∈ω1W+=WPx 如wx>0并且x∈O2W+1=WPx 2正确分类,w不修正 如wx>0并且x∈o1 如wx<0并且x∈02 W1-:;=W H k+1 权值修正过程
+ ◼ 感知器算法: 1.错误分类修正wk 如wk Tx≤0并且x∈ω1 wk+1= wk -ρk x 如wk Tx≥0并且x∈ω2 wk+1= wk -ρk x 2.正确分类 ,wk不修正 如wk Tx>0并且x∈ω1 如wk Tx<0并且x∈ω2 wk+1= wk + - H wk+1 ρk w x k 权值修正过程