61.4神经网络的学习方法 学习方法是体现人工神经网络智能特性的主要标志, 离开了学习算法,人工神经网络就失去了自适应、自 组织和自学习的能力。目前神经网络的学习方法有多 种,按有无导师来分类,可分为有教师学习 (Supervised Learning 无教师学习( Unsupervised Learning)和再励学习( Reinforcement Learning)等几 大类。在有教师的学习方式中,网络的输出和期望的 输出(即教师信号)进行比较,然后根据两者之间的 差异调整网络的权值,最终使差异变小。在无教师的 学习方式中,输入模式进人网络后,网络按照一预先 设定的规则(如竞争规则)自动调整权值,使网络最 终具有模式分类等功能。再励学习是介于上述两者之 间的一种学习方式 16
16 6.1.4 神经网络的学习方法 ◼ 学习方法是体现人工神经网络智能特性的主要标志, 离开了学习算法,人工神经网络就失去了自适应、自 组织和自学习的能力。目前神经网络的学习方法有多 种,按有无导师来分类,可分为有教师学习 (Supervised Learning)、无教师学习(Unsupervised Learning)和再励学习(Reinforcement Learning)等几 大类。在有教师的学习方式中,网络的输出和期望的 输出(即教师信号)进行比较,然后根据两者之间的 差异调整网络的权值,最终使差异变小。在无教师的 学习方式中,输入模式进人网络后,网络按照一预先 设定的规则(如竞争规则)自动调整权值,使网络最 终具有模式分类等功能。再励学习是介于上述两者之 间的一种学习方式
神经网络中常用的几种最基本的学习方法 1.Hebb学习规则 ■两个神经元同时处于激发状态时,它们 之间的连接强度将得到加强,这一论述 的数学描述被称为Hebb学习规则 ■Hebb学习规则是一种无教师的学习方法, 它只根据神经元连接间的激活水平改变 权值,因此这种方法又称为相关学习或 并联学习
17 神经网络中常用的几种最基本的学习方法 1. Hebb学习规则 ◼ 两个神经元同时处于激发状态时,它们 之间的连接强度将得到加强,这一论述 的数学描述被称为Hebb学习规则 ◼ Hebb学习规则是一种无教师的学习方法, 它只根据神经元连接间的激活水平改变 权值,因此这种方法又称为相关学习或 并联学习
2. Delta(8)学习规则 ■δ规则实现了E中的梯度下降,因此使误 差函数达到最小值。但δ学习规则只适用 于线性可分函数,无法用于多层网络。 BP网络的学习算法称为BP算法,是在δ 规则基础上发展起来的,可在多网络上 有效地学习。 18
18 2.Delta(δ)学习规则 ◼ δ规则实现了E中的梯度下降,因此使误 差函数达到最小值。但δ学习规则只适用 于线性可分函数,无法用于多层网络。 BP网络的学习算法称为BP算法,是在δ 规则基础上发展起来的,可在多网络上 有效地学习