6.1.3人工神经网络模型 人工神经网络是以工程技术手段来模拟 人脑神经元网络的结构与特征的系统。 利用人工神经元可以构成各种不同拓扑 结构的神经网络,它是生物神经网络的 种模拟和近似。就神经网络的主要连 接型式而言,目前已有数十种不同的神 经网络模型,其中前馈型网络和反馈型 网络是两种典型的结构模型
11 6.1.3 人工神经网络模型 ◼ 人工神经网络是以工程技术手段来模拟 人脑神经元网络的结构与特征的系统。 利用人工神经元可以构成各种不同拓扑 结构的神经网络,它是生物神经网络的 一种模拟和近似。就神经网络的主要连 接型式而言,目前已有数十种不同的神 经网络模型,其中前馈型网络和反馈型 网络是两种典型的结构模型
1.前馈型神经网络 前馈型神经网络,又称前向网络( Feed forward nn) 如图所示,神经元分层排列,有输入层、隐层(亦称 中间层,可有若干层)和输出层,每一层的神经元只 接受前一层神经元的输入。 从学习的观点来看,前馈网络是一种强有力的学习系 统,其结构简单而易于编程;从系统的观点看,前馈 网络是一静态非线性映射,通过简单非线性处理单元 的复合映射,可获得复杂的非线性处理能力。但从计 算的观点看,缺乏丰富的动力学行为。大部分前馈网 络都是学习网络,它们的分类能力和模式识别能力 般都强于反馈网络,典型的前馈网络有感知器网络、 BP网络等。 12
12 1. 前馈型神经网络 ◼ 前馈型神经网络,又称前向网络(Feed forward NN)。 如图所示,神经元分层排列,有输入层、隐层(亦称 中间层,可有若干层)和输出层,每一层的神经元只 接受前一层神经元的输入。 ◼ 从学习的观点来看,前馈网络是一种强有力的学习系 统,其结构简单而易于编程;从系统的观点看,前馈 网络是一静态非线性映射,通过简单非线性处理单元 的复合映射,可获得复杂的非线性处理能力。但从计 算的观点看,缺乏丰富的动力学行为。大部分前馈网 络都是学习网络,它们的分类能力和模式识别能力一 般都强于反馈网络,典型的前馈网络有感知器网络、 BP 网络等
输八层隐层 输出层 13
13
2.反馈型神经网络 ■反馈型神经网络( Feedback nN)的结构如图 所示。如果总节点(神经元)数为N,那么每 个节点有N个输入和一个输出,也就是说,所 有节点都是一样的,它们之间都可相互连接。 反馈神经网络是一种反馈动力学系统,它需要 工作一段时间才能达到稳定。 Hopfield神经网 络是反馈网络中最简单且应用广泛的模型,它 具有联想记忆( Content Addressible memory, CAM)的功能,如果将 Lyapunov函数定义为 寻优函数, Hopfield神经网络还可以用来解决 快速寻优问题。 14
14 2. 反馈型神经网络 ◼ 反馈型神经网络(Feedback NN)的结构如图 所示。如果总节点(神经元)数为N,那么每 个节点有N个输入和一个输出,也就是说,所 有节点都是一样的,它们之间都可相互连接。 ◼ 反馈神经网络是一种反馈动力学系统,它需要 工作一段时间才能达到稳定。Hopfield神经网 络是反馈网络中最简单且应用广泛的模型,它 具有联想记忆(Content一Addressible Memory, CAM)的功能,如果将Lyapunov函数定义为 寻优函数,Hopfie1d神经网络还可以用来解决 快速寻优问题
输出 输入 15
15