6.1神经网络模型 ·2.神经网络模型 (4)结合型网络:在任意两个神经元之间都可能有 连接,在相互结合网络中,信号要在神经元之间 反复往返传递,网络处在一种不断改变状态的过 程中有可能进入周期震荡或其他如混沌之类的平 衡状态
2. 神经网络模型 (4)结合型网络:在任意两个神经元之间都可能有 连接,在相互结合网络中,信号要在神经元之间 反复往返传递,网络处在一种不断改变状态的过 程中有可能进入周期震荡或其他如混沌之类的平 衡状态。 6.1 神经网络模型
6.1神经网络模型 ·3.神经网络的种类 ◆ 按照网络的结构区分,有前向网络和反馈网络; 骜疆学习方式区分,有有导师学习和无导师学 按照网络性能区分,有连续型和离散型,随机 型和确定型; 篷醒窦篯质区分,有一价线性关联和高阶非 按照对生物神经系统的层次模拟区分,有神经 馨索姿寶美快最霜睿脆望洪绵 组合式模型、网络层次模型、神
3. 神经网络的种类 ◆ 按照网络的结构区分,有前向网络和反馈网络; ◆ 按照学习方式区分,有有导师学习和无导师学 习型; ◆ 按照网络性能区分,有连续型和离散型,随机 型和确定型; ◆ 按照突触性质区分,有一阶线性关联和高阶非 线性关联型; ◆ 按照对生物神经系统的层次模拟区分,有神经 元层次模型、组合式模型、网络层次模型、神 经系统层次模型和智能型模型。 6.1 神经网络模型
6.1神经网络模型 ·3.神经网络的种类 用于模式识别的神经网络类型 ①BP网络:1g86,D.E.Rumelharta等,基于BP(Back Propagation)误差反向传播算法的多层前馈神经网络,每个 襟醭蛋和度基,采痛所量餐递夏。 层的所有神经元没有层内联结、各 ②Hopfield网络:一种反馈网络,网络中的每一个神经元 都将自己的输出通过连接权传递给所有其他神经元,,同时又 繁格三祥餐醇菱挖氟是化纤案线其省系统的奇 ③径向基函数网络(RBF网络):这也是一种前馈网络。网 络的学习速度和收敛较快,但是,所需训练样本要多一些。 RBF网络采角高斯型传递函数
用于模式识别的神经网络类型 ①BP网络:1986,D.E.Rumelhart等,基于BP( Back Propagation)误差反向传播算法的多层前馈神经网络,每个 神经元只前馈到其下一层的所有神经元,没有层内联结、各 层联结和反馈联结,采用Sigmoid型传递函数。 ②Hopfield网络:一种反馈网络,网络中的每一个神经元 都将自己的输出通过连接权传递给所有其他神经元,同时又 接收其它神经元传递过来的信息,所以该系统具有系统的动 态性能,一般用于联想记忆和优化计算。 ③径向基函数网络(RBF网络):这也是一种前馈网络。网 络的学习速度和收敛较快,但是,所需训练样本要多一些。 RBF网络采用高斯型传递函数。 6.1 神经网络模型 3. 神经网络的种类
6,2反向传播多层前馈神经网络 ●6.2.1反向传播神经网络结构 ·多层前馈网络(应用最多、最成功) 多层感知机(MLP) 采用反向传播(BP)学习算法 径向基函数网络(RBF) 概率神经网络(PNN)
6.2 反向传播多层前馈神经网络 6.2.1 反向传播神经网络结构 多层前馈网络(应用最多、最成功) 多层感知机(MLP) 径向基函数网络(RBF) 概率神经网络(PNN) ——采用反向传播(BP)学习算法 ……
6,2反向传播多层前馈神经网络 6.2.1反向传播神经网络结构 ●BP网:Back-Propagation Neural Network ●基于BP误差反向传播算法的多层前馈神经网络 ·9o%的神经网络应用采用BP ·主要应用于函数逼近、模式识别、分类、数据压缩 输入1 输出1 输入2 输出2 输入3 输出3 输出4 三层BP网络 输入 输出N 的典型结构
BP网: Back—Propagation Neural Network 基于BP误差反向传播算法的多层前馈神经网络 90%的神经网络应用采用BP 主要应用于函数逼近、模式识别、分类、数据压缩 6.2 反向传播多层前馈神经网络 6.2.1 反向传播神经网络结构 三层BP网络 的典型结构