第13章智能优化计算简介 本章对目前常用的几种智能优化计算 算法作简单介绍,以使读者对它们有个基本 认识。内容包括神经网络、遗传算法、模拟 退火算法和神经网络混合优化学习策略
第13章 智能优化计算简介 本章对目前常用的几种智能优化计算 算法作简单介绍，以使读者对它们有个基本 认识。内容包括神经网络、遗传算法、模拟 退火算法和神经网络混合优化学习策略
13.1人工神经网络与神经网络优化算法 ●人工神经网络是近年来得到迅速发展的 个前沿课题。神经网络由于其大规模并行 处理、容错性、自组织和自适应能力和联 想功能强等特点,已成为解决很多问题的 有力工具。本节首先对神经网络作简单介 绍,然后介绍几种常用的神经网络,包括 前向神经网络、 Hopfield网络
13.1人工神经网络与神经网络优化算法 ⚫ 人工神经网络是近年来得到迅速发展的一 个前沿课题。神经网络由于其大规模并行 处理、容错性、自组织和自适应能力和联 想功能强等特点，已成为解决很多问题的 有力工具。本节首先对神经网络作简单介 绍，然后介绍几种常用的神经网络，包括 前向神经网络、Hopfield网络
13.1人工神经网络与神经网络优化算法 1人工神经网络发展简史 ●最早的研究可以追溯到20世纪40年代。1943年, 心理学家 McCulloch和数学家Pt合作提出了形式 神经元的数学模型。这一模型一般被简称为MP 神经网络模型,至今仍在应用,可以说,人工神 经网络的研究时代,就由此开始了 ●1949年,心理学家Hebb提出神经系统的学习规则 为神经网络的学习算法奠定了基础。现在,这个 规则被称为Hebb规则,许多人工神经网络的学习 还遵循这一规则
13.1人工神经网络与神经网络优化算法 1.人工神经网络发展简史 ⚫ 最早的研究可以追溯到20世纪40年代。1943年， 心理学家McCulloch和数学家Pitts合作提出了形式 神经元的数学模型。这一模型一般被简称为M-P 神经网络模型，至今仍在应用，可以说，人工神 经网络的研究时代，就由此开始了。 ⚫ 1949年，心理学家Hebb提出神经系统的学习规则， 为神经网络的学习算法奠定了基础。现在，这个 规则被称为Hebb规则，许多人工神经网络的学习 还遵循这一规则
13.1人工神经网络与神经网络优化算法 ●1957年, F Rosenblat提出“感知器”( Perceptron) 模型,第一次把神经网络的研究从纯理论的探讨 付诸于工程实践,掀起了人工神经网络研究的第 次高潮 ●20世纪60年代以后,数字计算机的发展达到全盛 时期,人们误以为数字计算机可以解决人工智能、 专家系统、模式识别问题,从而放松了对“感知 器”的研究。于是,从20世纪60年代末起,人工 神经网络的研究进入了低潮
13.1人工神经网络与神经网络优化算法 ⚫ 1957年，F.Rosenblatt提出“感知器”(Perceptron) 模型，第一次把神经网络的研究从纯理论的探讨 付诸于工程实践，掀起了人工神经网络研究的第 一次高潮。 ⚫ 20世纪60年代以后，数字计算机的发展达到全盛 时期，人们误以为数字计算机可以解决人工智能、 专家系统、模式识别问题，从而放松了对“感知 器”的研究。于是，从20世纪60年代末起，人工 神经网络的研究进入了低潮
13.1人工神经网络与神经网络优化算法 ●1982年,美国加州工学院物理学家 Hopfield提出 了离散的神经网络模型,标志着神经网络的研究 又进入了一个新高潮。1984年, Hopfield又提出 连续神经网络模型,开拓了计算机应用神经网络 的新途径。 1986年, Rumelia和 Mcclelland提出多层网络的 误差反传( Back-propagation)学习算法,简称BP算 法。BP算法是目前最为重要、应用最广的人工神 经网络算法之一
13.1人工神经网络与神经网络优化算法 ⚫ 1982年，美国加州工学院物理学家Hopfield提出 了离散的神经网络模型，标志着神经网络的研究 又进入了一个新高潮。1984年，Hopfield又提出 连续神经网络模型，开拓了计算机应用神经网络 的新途径。 ⚫ 1986年，Rumelhart和Meclelland提出多层网络的 误差反传(Back-propagation)学习算法，简称BP算 法。BP算法是目前最为重要、应用最广的人工神 经网络算法之一