第05章自适应线性元件 zoujiang(@public.wh.hb.cn 邹江
第05章 自适应线性元件 zoujiang@public.wh.hb.cn 邹江
自适应线性元件( Adaptive Linear Element,简称 Adaline) 由威德罗( Widrow)和霍夫(Hof)首先提出的 它与感知器的主要不同之处在于其神经元有一个 线性激活函数,这允许输出可以是任意值,而 不仅仅只是像感知器中那样只能取0或1。 它采用的是WH学习法则,也称最小均方差 (LMS)规则对权值进行训练 自适应线性元件的主要用途是线性逼近一个函数 式而进行模式联想
自适应线性元件(Adaptive Linear Element，简称 Adaline) 由威德罗（Widrow）和霍夫（Hoff）首先提出的 它与感知器的主要不同之处在于其神经元有一个 线性激活函数，这允许输出可以是任意值，而 不仅仅只是像感知器中那样只能取0或1。 它采用的是W—H学习法则，也称最小均方差 (LMS)规则对权值进行训练 自适应线性元件的主要用途是线性逼近一个函数 式而进行模式联想
5.1自适应线性神经元模型和 结构 w nI n P2 a <X2”闭 (a) Adaline (b)Madaline 图5.1自适应线性神经网络的结构
5．1自适应线性神经元模型和 结构 图5. 1 自适应线性神经网络的结构
5.2W-H学习规则 W—H学习规则是由威德罗和霍夫提出的用 来修正权矢量的学习规则 采用W-H学习规则可以用来训练一定网络 的权值和偏差使之线性地逼近一个函数 式而进行模式联想( Pattern association)
5．2 W－H学习规则 W—H学习规则是由威德罗和霍夫提出的用 来修正权矢量的学习规则 采用W—H学习规则可以用来训练一定网络 的权值和偏差使之线性地逼近一个函数 式而进行模式联想(Pattern Association)
定义一个线性网络的输出误差函数为: Ew,B)=7-412=r-WP2 我们的目的是通过调节权矢量,使E(W,B)达到最小值 所以在给定E(W,B)后,利用WH学习规则修正权矢量 和偏差矢量,使E(W,B)从误差空间的某一点开始,沿 着F(W,B)的斜面向下滑行
定义一个线性网络的输出误差函数为： 我们的目的是通过调节权矢量，使E(W，B)达到最小值。 所以在给定E(W，B)后，利用W—H学习规则修正权矢量 和偏差矢量，使E(W，B)从误差空间的某一点开始，沿 着E(W，B)的斜面向下滑行