7.2.4神经网络的学习 学习: 神经网络的最重要特征之一。 实质: 同一个训练集的样本输入输出模式反复作用于网络,网 络按照一定的训练规则自动调节神经元之间的连接强度或拓 扑结构,使实际输出满足期望的要求或者趋于稳定。 典型的权值修正方法:Hbb学习规则、误差修正学习 1.Hebb学习规则 如果神经网络中某一神经元与另一直接与其相连的神经 元同时处于兴奋状态,那么这两个神经元之间的连接强度应 该加强
7.2.4 神经网络的学习 学习: 同一个训练集的样本输入输出模式反复作用于网络,网 络按照一定的训练规则自动调节神经元之间的连接强度或拓 扑结构,使实际输出满足期望的要求或者趋于稳定。 实质: 1.Hebb学习规则 典型的权值修正方法: Hebb学习规则、误差修正学习 如果神经网络中某一神经元与另一直接与其相连的神经 元同时处于兴奋状态,那么这两个神经元之间的连接强度应 该加强。 神经网络的最重要特征之一
XI Wlj X2 w2j Xn 神经元间的连接 w(t+1)=w(t)+7[y,(t)y,(t)] w什):修正一次后的某一权值; 1:学习因子,表示学习速率的比例常数; y,y:分别表示时刻第个和第个神经元的状态(输出)。 由y,(t)=x,(t)有: w(t+1)=w(t)+7Ly,(t)x,(t)]
w (t 1) w (t) [ y (t) y (t)] ij ij j i wij(t+1):修正一次后的某一权值; η:学习因子,表示学习速率的比例常数; yj(t),yi(t):分别表示t时刻第j个和第i个神经元的状态(输出)。 由 yi(t) xi(t) 有: w (t 1) w (t) [ y (t)x (t)] ij ij j i 神经元间的连接
2.6学习规则 1)选择一组初始权值w); (2)计算某一输入模式对应的实际输出与期望输出的误差: (3)更新权值,阈值可视为输入恒为(一1)的一个权值; w,(t+1)=w()+7ld,-y,(t]x,(t) 式中,1:学习因子 山,y,:第个神经元的期望输出与实际输出: x:):第个神经元的第i个输入。 (4)返回2),直到对所有训练模式网络输出均能满足要求。 神经网络的学习体现在: 权值变化; 网络结构变化
2. δ学习规则 (3)更新权值,阈值可视为输入恒为(-1)的一个权值; (1)选择一组初始权值wij(1); (2)计算某一输入模式对应的实际输出与期望输出的误差; w (t 1) w (t) [d y (t)]x (t) ij ij j j i 式中, (4)返回 (2) ,直到对所有训练模式网络输出均能满足要求。 dj,yj(t):第j个神经元的期望输出与实际输出; xi(t):第j个神经元的第i个输入。 神经网络的学习体现在: η:学习因子; 权值变化; 网络结构变化