6.2.1信息的正向传递 )隐含层中第个神经元的输出为: a2=f1(∑wl;pj+b1),=1,2,…, (6.1) 2)输出层第k个神经元的输出为: a2k=f2(∑W2kial;+b2k),k=l,2,….2 i=1 (62) 3)定义误差函数为: Ew,B)=2∑(k-a2k)2 (6.3) k=1
6．2．1信息的正向传递 1)隐含层中第i个神经元的输出为： 2)输出层第k个神经元的输出为： 3)定义误差函数为： (6.1) （6.2） （6.3）
6.2.2利用梯度下降法求权值变化及误差的反向传播 (1)输出层的权值变化 对从第i个输入到第k个输出的权值有: de de da2 △w2 n dw 2 ki da2 d k ki m(tk - k) f2' ali =n ski a (64) 其中: Ski =(tk-a2k=ek f2 ex=tk (6.5)(6.6) 同理可得: E de da2 △b2k=-n 0b2 la2k a62 m(tk-a2k)·f2′=n·8k (6.7)
6．2．2利用梯度下降法求权值变化及误差的反向传播 (1)输出层的权值变化 对从第i个输入到第k个输出的权值有： 其中： 同理可得： （6.4） （6.5）（6.6） （6.7）
(2)隐含层权值变化 对从第j个输入到第个输出的权值,有 dE de da2 dal △wlj=-n k dwi n∑(k-a2k)·f2·w2k几1·P=n·8Pj (68) 其中 6=e·n1,e;=∑δ ki wki k=1 (69) 同理可得: △blz=n6 (6.10)
(2)隐含层权值变化 对从第j个输入到第i个输出的权值，有： 其中： 同理可得： （6.8） （6.9） （6.10）