10.1人工神经网络与神经网络优化算法 ■1982年,美国加州工学院物理学家 Hopfield提 出了离散的神经网络模型,标志着神经网络的研 究又进入了一个新高潮。1984年, Hopfield又 提出连续神经网络模型,开拓了计算机应用神经 网络的新途径。 ■1986年, Rumelhart和 Meckel|and提出多层网 络的误差反传( back propagation)学习算法, 简称BP算法。BP算法是目前最为重要、应用最 广的人工神经网络算法之一
10.1 人工神经网络与神经网络优化算法 ◼ 1982年,美国加州工学院物理学家Hopfield提 出了离散的神经网络模型,标志着神经网络的研 究又进入了一个新高潮。1984年,Hopfield又 提出连续神经网络模型,开拓了计算机应用神经 网络的新途径。 ◼ 1986年,Rumelhart和Meclelland提出多层网 络的误差反传(back propagation)学习算法, 简称BP算法。BP算法是目前最为重要、应用最 广的人工神经网络算法之一
10.1人工神经网络与神经网络优化算法 ■自20世纪80年代中期以来,世界上许多国 家掀起了神经网络的研究热潮,可以说神 经网络已成为国际上的一个研究热点
10.1 人工神经网络与神经网络优化算法 ◼ 自20世纪80年代中期以来,世界上许多国 家掀起了神经网络的研究热潮,可以说神 经网络已成为国际上的一个研究热点
10.1人工神经网络与神经网络优化算法 10.1.2人工神经元模型与人工神经网络模 型 ■人工神经元是一个多输入、单输出的非线 性元件,如图10-1所示。 「其输入、输出关系可描述为
10.1 人工神经网络与神经网络优化算法 10.1.2 人工神经元模型与人工神经网络模 型 ◼ 人工神经元是一个多输入、单输出的非线 性元件,如图10-1所示。 ◼ 其输入、输出关系可描述为
10.1人工神经网络与神经网络优化算法 X,=∑Onx1-6 (10-1-1) y,=f(X,) 式中,x( n)是从其它神经元传来的 输入信号;是阈值;v表示从神经元 到神经元j的连接权值;f()为传递函数
10.1 人工神经网络与神经网络优化算法 ◼ (10-1-1) ◼ 式中, 是从其它神经元传来的 输入信号; 是阈值; 表示从神经元 到神经元 的连接权值; 为传递函数。 = = − = ( ) 1 j j n i j i j i j y f X X x x (i 1,2, ,n) i = j ij i j f (•)
10.1人工神经网络与神经网络优化算法 2 y 图10-1
10.1 人工神经网络与神经网络优化算法 yj θj x0=1 ∑ f ωnj x1 x2 . . . xn ω2j ω1j 图10-1