1.2网络稳定性 米 ◆稳定点分类 在一个反馈网络中,存在很多稳定点 稳定点收敛域 渐近稳定点:在稳定点N周围的N(σ)区域内,从任个初 始状态N(t)出发,当t→∞时都收敛于N,则称N为渐近 稳定点 不稳定平衡点N:在某些特定的轨迹演化过程中,网络 能够到达稳定獻Nen,但对其它方向上任意小的区域N() 不管N()取多么小,其轨迹在时间以后总是偏离N en 7 期望解 网络的解:如果网络最后稳定到设计人员期望的稳定点 且该稳定点又是渐近稳定点,那么这个点称为网络的解 网络的伪稳定点:网络最终稳定到一个渐近稳定点上,但 2021/2/20 这个稳定点不是网络设计所要求的解
2021/2/20 11 1.2 网络稳定性 稳定点分类 – 在一个反馈网络中,存在很多稳定点 – 稳定点收敛域 • 渐近稳定点:在稳定点Ne周围的N(σ)区域内,从任一个初 始状态N(t0 )出发,当t→∞时都收敛于Ne,则称Ne为渐近 稳定点 • 不稳定平衡点Nen:在某些特定的轨迹演化过程中,网络 能够到达稳定点Nen,但对其它方向上任意小的区域N(σ), 不管N(σ)取多么小,其轨迹在时间t以后总是偏离Nen; – 期望解 • 网络的解:如果网络最后稳定到设计人员期望的稳定点, 且该稳定点又是渐近稳定点,那么这个点称为网络的解; • 网络的伪稳定点:网络最终稳定到一个渐近稳定点上,但 这个稳定点不是网络设计所要求的解
1.2网络稳定性 米 ◆状态轨迹为极限环 在某些参数的情况下,状态N()的轨迹是一个圆, 或一个环 状态N(t)沿着环重复旋转,永不停止,此时的输出 A(t)也出现周期变化(即出现振荡) 如果在种状态下循环变化,称其极限环为r 对于离散反馈网络,轨迹变化可能在两种状态下来 回跳动,其极限环为2 2021/2/20
2021/2/20 12 1.2 网络稳定性 状态轨迹为极限环 – 在某些参数的情况下,状态N(t)的轨迹是一个圆, 或一个环 – 状态N(t)沿着环重复旋转,永不停止,此时的输出 A(t)也出现周期变化(即出现振荡) – 如果在r种状态下循环变化,称其极限环为r – 对于离散反馈网络,轨迹变化可能在两种状态下来 回跳动,其极限环为2
1.2网络稳定性 米 ◆状态轨迹为混沌 如果状态N(t)的轨迹在某个确定的范围内运动,但 既不重复,又不能停下来 状态变化为无穷多个,而轨迹也不能发散到无穷远, 这种现象称为混沌( chaos) 出现混沌的情况下,系统输出变化为无穷多个,并 且随时间推移不能趋向稳定,但又不发散 2021/2/20
2021/2/20 13 1.2 网络稳定性 状态轨迹为混沌 – 如果状态N(t)的轨迹在某个确定的范围内运动,但 既不重复,又不能停下来 – 状态变化为无穷多个,而轨迹也不能发散到无穷远, 这种现象称为混沌(chaos) – 出现混沌的情况下,系统输出变化为无穷多个,并 且随时间推移不能趋向稳定,但又不发散
1.2网络稳定性 米 ◆状态轨迹发散 状态N(t)的轨迹随时间一直延伸到无穷远。此时状 态发散,系统的输出也发散 在人工神经网络中,由于输入、输出激活函数上 个有界函数,虽然状态N(t)是发散的,但其输出A(t) 还是稳定的,而A(t)的稳定反过来又限制了状态 的发散。 一般非线性人工神经网络中发散现象是不会发生的 除非神经元的输入输出激活函数是线性的 2021/2/20
2021/2/20 14 1.2 网络稳定性 状态轨迹发散 – 状态N(t)的轨迹随时间一直延伸到无穷远。此时状 态发散,系统的输出也发散 – 在人工神经网络中,由于输入、输出激活函数上一 个有界函数,虽然状态N(t)是发散的,但其输出A(t) 还是稳定的,而A(t)的稳定反过来又限制了状态 的发散。 – 一般非线性人工神经网络中发散现象是不会发生的, 除非神经元的输入输出激活函数是线性的
1.3网络工作方式 米 ◆目前的反馈神经网络是利用稳定的特定轨迹来 解决某些问题 如果视系统的稳定点为一个记忆,则从初始状态朝 此稳定点移动的过程即为寻找该记忆的过程 状态的初始值可以认为是给定的有关该记忆的部分 信息,状态N移动的过程,是从部分信息去寻找 全部信息,这就是联想记忆的过程 将系统的稳定点考虑为一个能量函数的极小点。在 状态空间中,从初始状态Nt)=N(t+t),最后到 达N。若N为稳定点,则可以看作是N把N(to)吸 引了过去,在Nt)时能量比较大,而吸引到N时能 2021/2/20 量已为极小了
2021/2/20 15 1.3 网络工作方式 目前的反馈神经网络是利用稳定的特定轨迹来 解决某些问题 – 如果视系统的稳定点为一个记忆,则从初始状态朝 此稳定点移动的过程即为寻找该记忆的过程 – 状态的初始值可以认为是给定的有关该记忆的部分 信息,状态N(t)移动的过程,是从部分信息去寻找 全部信息,这就是联想记忆的过程 – 将系统的稳定点考虑为一个能量函数的极小点。在 状态空间中,从初始状态N(t0 )=N(t0+t),最后到 达N*。若N*为稳定点,则可以看作是N*把N(t0 )吸 引了过去,在N(t0 )时能量比较大,而吸引到N*时能 量已为极小了