10.1人工神经网络与神经网络优化算法 定义能量函数 E=2∑->1+2820M(10-1-8) 则其变化量 E、、OEdh ∑ dt =1 av, dt (10-1-9)
10.1 人工神经网络与神经网络优化算法 定义能量函数 (10-1-8) 则其变化量 (10-1-9) = − = = = = − − + n i v i n i i i n i n j i j i j i E T v v I v g v dv R 1 0 1 1 1 1 ( ) / 2 1 = = n i i i dt dv v E dt dE 1
10.1人工神经网络与神经网络优化算法 其中, E l1 ∑T-∑Tn+n-1 R ∑(7-7)-2 ∑(T0-T ∑(T-Tn)1-Cg"(n
10.1 人工神经网络与神经网络优化算法 其中, dt dv T T v C g v dt du T T v C I R u T T v T v I R u T v T v v E i i i n j i j j i j i i n j i j j i j i i i n j j i j n j i j j i j i i i n j n j i j j j i j i ( ) ( ) ( ) 2 1 ( ) 2 1 2 1 2 1 1' 1 1 1 1 1 1 − = = = = = = = − − − = − − − = − − − − + = − − + −
10.1人工神经网络与神经网络优化算法 于是,当Tn=Tn 时, de <0 d t d t (10-1-10)
10.1 人工神经网络与神经网络优化算法 于是,当 时, (10-1-10) Tij = Tji ( ) 0 2 1 1' = −= − dt dv C g v dt dE i n i i i
10.1人工神经网络与神经网络优化算法 且当 z O时 dE 0 t dt 因此,随时间的增长,神经网络在状态空间 中的轨迹总是向能量函数减小的方向变化, 且网络的稳定点就是能量函数的极小点。 连续型 Hopfield网络广泛用于联想记忆和优 化计算问题
10.1 人工神经网络与神经网络优化算法 且当 时 。 因此,随时间的增长,神经网络在状态空间 中的轨迹总是向能量函数减小的方向变化, 且网络的稳定点就是能量函数的极小点。 连续型Hopfield 网络广泛用于联想记忆和优 化计算问题。 = 0 dt dvi = 0 dt dE
10.2遗传算法 遗传算法是模拟生物在自然环境中的遗传和 进化过程而形成的一种自适应全局优化概 率搜索算法。它最早由美国密执安大学的 Ho|land教授提出,起源于上世纪60年代 对自然和人工自适应系统的研究。上世纪 70年代, De Jong基于遗传算法的思想在 计算机上进行了大量的纯数值函数优化计 算实验
10.2 遗传算法 遗传算法是模拟生物在自然环境中的遗传和 进化过程而形成的一种自适应全局优化概 率搜索算法。它最早由美国密执安大学的 Holland教授提出,起源于上世纪60年代 对自然和人工自适应系统的研究。上世纪 70年代,De Jong基于遗传算法的思想在 计算机上进行了大量的纯数值函数优化计 算实验