第06讲反向传播网络 zoujiang(@public.wh.hb.cn 邹江
第06讲 反向传播网络 zoujiang@public.wh.hb.cn 邹江
反向传播网络(Back- Propagation Network,简称 BP网络)是将WH学习规则一般化,对非线性 可微分函数进行权值训练的多层网络。 BP网络是一种多层前向反馈神经网络,其神经元 的变换函数是S型函数,因此输出量为0到1之 间的连续量,它可以实现从输入到输出的任意 的非线性映射 由于其权值的调整采用反向传播 ( Backpropagation)的学习算法,因此被称为 BP网络
反向传播网络(Back—Propagation Network,简称 BP网络)是将W—H学习规则一般化,对非线性 可微分函数进行权值训练的多层网络。 BP网络是一种多层前向反馈神经网络,其神经元 的变换函数是S型函数,因此输出量为0到1之 间的连续量,它可以实现从输入到输出的任意 的非线性映射。 由于其权值的调整采用反向传播 (Backpropagation)的学习算法,因此被称为 BP网络
BP网络主要用于: 1)函数逼近:用输入矢量和相应的输出矢量训练 个网络逼近一个函数; 2)模式识别:用一个特定的输出矢量将它与输入 矢量联系起来 3)分类:把输入矢量以所定义的合适方式进行分 类 4)数据压缩:减少输出矢量维数以便于传输或 存储
BP网络主要用于: 1)函数逼近:用输入矢量和相应的输出矢量训练 一个网络逼近—个函数; 2)模式识别:用一个特定的输出矢量将它与输入 矢量联系起来; 3)分类:把输入矢量以所定义的合适方式进行分 类; 4)数据压缩:减少输出矢量维数以便于传输或 存储
6.1BP网络模型与结构 slur 网 Al sers rq ,网 k BI HF2 sixl 1。B2 six six S k=I S∠; 个具有r个输入和一个隐含层的神经网络模型结构
6.1 BP网络模型与结构 一个具有r个输入和一个隐含层的神经网络模型结构
感知器和自适应线性元件的主要差别在激活函数 上:前者是二值型的,后者是线性的。 BP网络具有一层或多层隐含层,除了在多层网络 上与前面已介绍过的模型有不同外,其主要差 别也表现在激活函数上。 BP网络的激活函数必须是处处可微的,所以它就 不能采用二值型的阀值函数{0,1}或符号函数 —-1,1},BP网络经常使用的是S型的对数或 正切激活函数和线性函数
感知器和自适应线性元件的主要差别在激活函数 上:前者是二值型的,后者是线性的。 BP网络具有一层或多层隐含层,除了在多层网络 上与前面已介绍过的模型有不同外,其主要差 别也表现在激活函数上。 BP网络的激活函数必须是处处可微的,所以它就 不能采用二值型的阀值函数{0,1}或符号函数 {—1,1},BP网络经常使用的是S型的对数或 正切激活函数和线性函数