Q22网络模型 米 ◆BP网络特点 输入和输出是并行的模拟量 网络的输入输出关系是各层连接的权因子决定,没有 固定的算法 权因子通过学习信号调节。学习越多,网络越聪明 隐含层越多,网络输岀精度越高,且个别权因子的损 坏不会对网络输出产生大的影响 只有当希望对网络的输出进行限制,如限制在0和1之 间,那么在输出层应当包含S型激活函数 在一般情况下,均是在隐含层采用S型激活函数,而 输出层采用线性激活函数 2021/2/20
2021/2/20 11 2.2 网络模型 BP网络特点 – 输入和输出是并行的模拟量 – 网络的输入输出关系是各层连接的权因子决定,没有 固定的算法 – 权因子通过学习信号调节。学习越多,网络越聪明 – 隐含层越多,网络输出精度越高,且个别权因子的损 坏不会对网络输出产生大的影响 – 只有当希望对网络的输出进行限制,如限制在0和1之 间,那么在输出层应当包含S型激活函数 – 在一般情况下,均是在隐含层采用S型激活函数,而 输出层采用线性激活函数
Q22网络模型 米 ◆S型函数具有非线性放大系数功能,可以把输入从负无 穷大到正无穷大的信号,变换成-1到之间输出 ◆对较大的输入信号,放大系数较小;而对较小的输入信 号,放大系数则较大 ◆采用S型激活函数可以处理和逼近非线性输入/输岀关系 0 2021/2/20 -1
2021/2/20 12 2.2 网络模型 S型函数具有非线性放大系数功能,可以把输入从负无 穷大到正无穷大的信号,变换成-1到l之间输出 对较大的输入信号,放大系数较小;而对较小的输入信 号,放大系数则较大 采用S型激活函数可以处理和逼近非线性输入/输出关系
Q23学习规则 米 ◆BP算法属于δ算法,是一种监督式的学习算法 ◆主要思想 对于q个输入学习样本:PLP2,Pq,已知与其对应的 输出样本为:T1T2.Tq 使网络输出层的误差平方和达到最小 用网络的实际输出A1A2Aq与目标矢量T1T2,Tq 之间的误差修改其权值,使Am与期望的Tm,(m=1,q 尽可能接近 2021/2/20
2021/2/20 13 2.3 学习规则 BP算法属于δ算法,是一种监督式的学习算法 主要思想 – 对于q个输入学习样本:P1,P2,…,Pq,已知与其对应的 输出样本为:T1,T2,…,Tq – 使网络输出层的误差平方和达到最小 – 用网络的实际输出A1,A2,…,Aq, 与目标矢量T1,T2,…,Tq 之间的误差修改其权值,使Am与期望的Tm,(m=l,…,q) 尽可能接近
Q23学习规则 米 ◆BP算法是由两部分组成信息的正向传递与误差 的反向传播 正向传播过程中,输入信息从输入层经隐含层逐层计 算传向输出层,每一层神经元的状态只影响下一层神 经元的状态 如果在输出层未得到期望的输出,则计算输出层的误 差变化值,然后转向反向传播,通过网络将误差信号 沿原来的连接通路反传回来修改各层神经元的权值直 至达到期望目标 2021/2/20
2021/2/20 14 2.3 学习规则 BP算法是由两部分组成,信息的正向传递与误差 的反向传播 – 正向传播过程中,输入信息从输入层经隐含层逐层计 算传向输出层,每一层神经元的状态只影响下一层神 经元的状态 – 如果在输出层未得到期望的输出,则计算输出层的误 差变化值,然后转向反向传播,通过网络将误差信号 沿原来的连接通路反传回来修改各层神经元的权值直 至达到期望目标
Q23学习规则 米 ◆假设输入为P,输入神经元有r个,隐含层内有s1个神经 元,激活函数为F1,输出层内有52个神经元,对应的激 活函数为F2,输出为A,目标矢量为T 八、,d k k=1,2,…,s2, ;i=1,2, 2021/2/20
2021/2/20 15 2.3 学习规则 假设输入为P,输入神经元有r个,隐含层内有s1个神经 元,激活函数为F1,输出层内有s2个神经元,对应的激 活函数为F2,输出为A,目标矢量为T