5- 2BP网络的学习算法 5-2-2BP学习算法的描述 a之(d,()-o,(Paho. ohi(k) ho,(k) hi,(k) a32d,()-0.P) aho(k) ohoi (k) hi (k) a2(d.-R2"ho,-bP h= aho,(k) oho (k) ohi,(k) =-之(d,(k)-o,k》f,(k》waah,A oho;,(k) =-(∑6，(K)wm)fh,(k)》会-6，(k) 2006-12-6 北京科技大学自动化系付冬梅 17
2006-12-6 北京科技大学 自动化系 付冬梅 17 2 1 2 1 2 1 1 1 ( ( ( ) ( )) ) 2 ( ) ( ) ( ) ( ) 1 ( ( ( ) f( ( ))) ) 2 ( ) ( ) ( ) 1 ( (( ( ) f( ( ) ) )) 2 ( ) ( ) ( ) q o o o h h h h q o o o h h h q p o ho h o o h h h h d k yo k e ho k hi k ho k hi k d k yi k ho k ho k hi k d k w ho k b ho k ho k hi k = = = = - = - = - - = 1 1 ( ) ( ( ) ( ))f ( ( )) ( ) ( ( ) )f ( ( )) ( ) q h o o o ho o h q o ho h h o ho k d k yo k yi k w hi k k w hi k k = = = - - = - - 5-2 BP网络的学习算法 5-2-2 BP学习算法的描述
5-2BP网络的学习算法 5-2-2BP学习算法的描述 第六步，利用输出层各神经元的δ（和隐含层各神 经元的输出来修正连接权值， 8O(k) △wk)=-'a=hu6,(kho,( ho w0=w0+n6,(k)h0,(k) 第七步，利用隐含层各神经元的6，和输入层各神 经元的输入修正连接权。 v,(k) g=-ahi,k B hi;(k)=5(k)x,(k) OWih w%1=w路+n6,(K)x(k) 2006-12-6 北京科技大学自动化系付冬梅 18
2006-12-6 北京科技大学 自动化系 付冬梅 18 ◼ 第六步，利用输出层各神经元的 和隐含层各神 经元的输出来修正连接权值 。 ◼ 第七步，利用隐含层各神经元的 和输入层各神 经元的输入修正连接权。 1 ( ) ( ) ( ) ( ) ( ) ho o h ho N N ho ho o h e w k k ho k w w w k ho k + = - = = + ( ) o k ( ) w k ho ( ) h k 1 ( ) ( ) ( ) ( ) ( ) ( ) ( ) h ih h i ih h ih N N ih ih h i e e hi k w k k x k w hi k w w w k x k + = - = - = = + 5-2 BP网络的学习算法 5-2-2 BP学习算法的描述
5-2 BP网络的学习算法 5-2-2BP学习算法的描述 第八步，计算全局误差 三do 第九步，判断网络误差是否满足要求。当误差 达到预设精度或学习次数大于设定的最大次数 则结束算法。否则，选取下一个学习样本及对 应的期望输出，返回到第三步，进入下一轮学 习。 2006-12-6 北京科技大学自动化系付冬梅 19
2006-12-6 北京科技大学 自动化系 付冬梅 19 ◼ 第八步，计算全局误差 ◼ 第九步，判断网络误差是否满足要求。当误差 达到预设精度或学习次数大于设定的最大次数， 则结束算法。否则，选取下一个学习样本及对 应的期望输出，返回到第三步，进入下一轮学 习。 2 1 1 1 ( ( ) ( )) 2 m q o o k o E d k y k m = = = - 5-2 BP网络的学习算法 5-2-2 BP学习算法的描述
5-2 BP网络的学习算法 5-2-3BP学习算法的直观解释 情况一的直观表达 当误差对权值的 偏导数大于零时，权 值调整量为负，实际 输出大于期望输出 权值向减少方向调整 使得实际输出与期望 ho 输出的差减少。 ae>0,此时Awho<0 OW ho 2006-12-6 北京科技大学自动化系付冬梅 20
2006-12-6 北京科技大学 自动化系 付冬梅 20 情况一的直观表达 当误差对权值的 偏导数大于零时，权 值调整量为负，实际 输出大于期望输出， 权值向减少方向调整， 使得实际输出与期望 输出的差减少。 who ho e w e >0，此时Δwho<0 5-2 BP网络的学习算法 5-2-3 BP学习算法的直观解释
5- 2BP网络的学习算法 5-2-3BP学习算法的直观解释 情况二的直观表达 当误差对权值的偏导数 小于零时，权值调整量 为正，实际输出少于期 望输出，权值向增大方 向调整，使得实际输出 与期望输出的差减少。 ae<0,此时△Who>0 2006-12-6 北京科技大学自动化系付冬梅 21
2006-12-6 北京科技大学 自动化系 付冬梅 21 情况二的直观表达 当误差对权值的偏导数 小于零时，权值调整量 为正，实际输出少于期 望输出，权值向增大方 向调整，使得实际输出 与期望输出的差减少。 ho e w e <0, 此时Δwho>0 who 5-2 BP网络的学习算法 5-2-3 BP学习算法的直观解释