6.1神经网络模型 ●ANN的学习规则 监督型 无监督型 强化学习型
6.1 神经网络模型 ANN的学习规则 监督型 无监督型 强化学习型
6.1神经网络模型 1.神经元模型:1943,McCulloch&Pitts, ANN研究的开端 ·神经元:神经网络操作的基本信息处理单位 ·神经元模型:人工神经网络的设计基础,基 于模拟生物神经元信息的传递特性,即输入 和输出关系
6.1 神经网络模型 1. 神经元模型:1943,McCulloch & Pitts, ANN研究的开端 神经元:神经网络操作的基本信息处理单位 神经元模型:人工神经网络的设计基础,基 于模拟生物神经元信息的传递特性,即输入 和输出关系
多输入 单输出 固定输入X0=+1 简单神经元模型 求和单元非线性激活函数 输出 一组连接 j() (对应于 yi 生物神经 求和结点 元的突触) 求取各输入 连接强度由各连接上的权值 信号的加权 起非线性映射作用 表示,权值为正表示激活, 和(线性组 并将神经元输出幅度 为负表示抑制 合) 限制在一定范围内
简单神经元模型 多输入 单输出 一组连接 (对应于 生物神经 元的突触) 连接强度由各连接上的权值 表示,权值为正表示激活, 为负表示抑制 求和单元 非线性激活函数 求取各输入 信号的加权 和(线性组 合) 起非线性映射作用 并将神经元输出幅度 限制在一定范围内
固定输入x0=+1·→@网 x·+®对 x2+@9 输出 →yx x0:固定输入+1(或-1) 求和结点 x→@ 0ko:偏置b,作用:添加新的固定输入,添加新的 等于偏置的突触权值 x,x2,…,xn:神经元的输入,即是来自前级个神经元的轴 突信息 0k1,O2,L,Dm:分别是神经元对x,X2,L,Xn的权值连接,即 突触的传递效率 ∫:是激活函数(也称传递函数),决定神经元受到输入 x,x2,L,x,的共同作用达到阈值时以何种方式输出 y:神经元的输出,一个神经元输出的正常幅度范围可写成 单位闭区间[0,1]或者另一种区间[-1,+1]
1 2 , , , n x x x :神经元的输入,即是来自前级n个神经元的轴 突信息 k 0 :偏置 ,作用:添加新的固定输入,添加新的 等于偏置的突触权值 bk 1 2 , , , k k kn L :分别是i神经元对 的权值连接,即 突触的传递效率 1 2 , , , n x x x L x0 :固定输入+1(或-1) f 1 2 , , , n x x x L 的共同作用达到阈值时以何种方式输出 :是激活函数(也称传递函数),决定i神经元受到输入 k y :i神经元的输出,一个神经元输出的正常幅度范围可写成 单位闭区间[0,1]或者另一种区间[-1,+1]
激活函数 ·阶跃型 f)-s≥0 s<0 10 a
激活函数 阶跃型 ( ) 1, 0 0, 0 s f s s =