DHNN *对称网络 两个神经元相互影响的权重相同 *无自反馈网络 神经元对自己的反馈为零 *异步更新方式 任意时刻只有一个神经元更新输出,其他神经元不变 *同步更新方式 任意时刻所有神经元更新输出(全并行) 任意时刻部分神经元更新输出(部分同步) ICL by谢广明,2005-200学年度第一学期
by 谢广明 , 2005~2006学年度第一学期 11 DHNN 对称网络 – 两个神经元相互影响的权重相同 无自反馈网络 – 神经元对自己的反馈为零 异步更新方式 – 任意时刻只有一个神经元更新输出,其他神经元不变 同步更新方式 – 任意时刻所有神经元更新输出(全并行) – 任意时刻部分神经元更新输出(部分同步)
DHNN *稳定输出 从某个初始输出开始,若存在一个有限时刻,从该 时刻后网络输出不再发生变化,则称网络进入稳 定输出。 含有n个节点的网络有2n种可能输出状态,可以 有多个稳定输出 ICL by谢广明,2005-200学年度第一学期 12
by 谢广明 , 2005~2006学年度第一学期 12 DHNN 稳定输出 – 从某个初始输出开始,若存在一个有限时刻, 从该 时刻后网络输出不再发生变化,则称网络进入稳 定输出。 – 含有 n 个节点的网络有 2 n 种可能输出状态,可以 有多个稳定输出
DHNN *随机异步更新方式 任意时刻随机选择一个神经元更新输出,其他神 经元不变 优点;算法容易实现,不需要同步机制,避免不 同稳态以等概率出现 ICL by谢广明,2005-200学年度第一学期 13
by 谢广明 , 2005~2006学年度第一学期 13 DHNN 随机异步更新方式 – 任意时刻随机选择一个神经元更新输出,其他神 经元不变 – 优点;算法容易实现,不需要同步机制,避免不 同稳态以等概率出现
DHNN *异步更新方式下的能量函数 也是构造一个关于状态的函数,定义其能量为 E 0 vv:+>0v 能量变化量为 △E(t)=E(t+1)-E(t)=-o)(t)Ava()≤0 这样随着网络的演变,能量总是在下降 ICL by谢广明,2005-200学年度第一学期 14
by 谢广明 , 2005~2006学年度第一学期 14 DHNN 异步更新方式下的能量函数 – 也是构造一个关于状态的函数,定义其能量为 – 能量变化量为 – 这样随着网络的演变,能量总是在下降 = = = = − + n i n i i i n j i j i j i j E v v v 2 1 1 1 1 E(t) = E(t +1) − E(t) = −ui(t) (t)vi(t) (t) 0