第四章 自适应线性神经元 辈自适应线性神经元模型 单个自适应线性神经元的学习方法 辈单层自适应线性神经元的学习方法 奉MATLAB程序仿真 集关于自适应线性神经元的几点说明 2006-11-28 北京科技大学付冬梅
2006-11-28 北京科技大学 付冬梅 2 第四章 自适应线性神经元 自适应线性神经元模型 单个自适应线性神经元的学习方法 单层自适应线性神经元的学习方法 MATLAB程序仿真 关于自适应线性神经元的几点说明
4.1自适应线性神经元模型 线性神经元模型如图所示： I/O关系 a=purelin(W*P+b) 输入 具有向量输入的线性神经元 此处 R=输入神经元 的个数 a purelin(Wp+b) 2006-11-28 北京科技大学付冬梅 3
2006-11-28 北京科技大学 付冬梅 3 4.1自适应线性神经元模型 线性神经元模型如图所示： I/O关系 a=purelin(W*P+b)
X2 : : w 算法 X2 4 w 算法 2006-11-28 北京科技大学付冬梅 4
2006-11-28 北京科技大学 付冬梅 4
4.2单个自适应线性神经元的学习方法 ■基于最小二乘的一次性学习算法 注意到O=KO'+b,所以有O'=(O-b)/K 同理有：y=y-b)/K,所以X,Y仍是样本对。 y=∑w,x i=0 y X 10 ..Y=XW Y= X ym ∴.W=XX)XY 2006-11-28 北京科技大学付冬梅 5
2006-11-28 北京科技大学 付冬梅 5 基于最小二乘的一次性学习算法 4.2单个自适应线性神经元的学习方法 注意到O=KO’+b，所以有O’=(O-b)/K， 同理有： y’=(y-b)/K，所以{X，Y’}仍是样本对。 ' 0 n i i i y w x = = 1 11 1n m m1 mn y x x Y XW Y ,X y x x = = = W (X X) X Y T 1 T − =
4.2单个自适应线性神经元的学习方法 基于梯度的学习算法（内部反馈） 设经过no次学习以后（即得到第n0个W1w2·wn 后，或者没有初始权值w°w…w后)，对于输入x, 感知机的输出为： y(n)=∑w,(n)x=WIX 其中 1Wn+1=-8 Xn+1三1 又设在同样输入X作用下，样本输出y则感知机的输出误差为 e(no)=y-y(no)e2(no)=[y-y(no)] 2006-11-28 北京科技大学付冬梅 6
2006-11-28 北京科技大学 付冬梅 6 基于梯度的学习算法(内部反馈) 后），对于输入 ， n0 次学习以后（即得到第 n0 个 w w w 1 2 n j x T j n i j y n wi n xi W X + = = = 1 1 0 0 ( ) ( ) wn+1 = − xn+1 1 ( ) ( ) 0 n0 e n y y j = − 2 0 0 2 e (n ) [ y y(n )] j = − 设经过 后，或者没有初始权值 感知机的输出为： 其中 则感知机的输出误差为： j x j 又设在同样输入 作用下，样本输出 y 1 2 0 0 0 w w wn 4.2单个自适应线性神经元的学习方法