人工神经网络 Neural connections in animals Neuron To other neurons A From other neurons Artificial neural network Output node Input pattern Output pattern Microsoft Corporation. All Rights Reserved 20211/27
2021/1/27 6 人工神经网络
人工神经元 神经元是构成神经网络的最基本单元(构 件)。 °人工神经元模型应该具有生物神经元的 个基本特性。 20211/27
2021/1/27 7 人工神经元 • 神经元是构成神经网络的最基本单元(构 件)。 • 人工神经元模型应该具有生物神经元的六 个基本特性
人工神经元的基本构成 net=XW 人工神经元模拟生物神经元的一阶特性。 输入:X=(x1,x2, ●● 联接权:W=(W1,w2,…,wn)T 网络输入:net∑xw1 向量形式:net=XW 20211/27 8
2021/1/27 8 人工神经元的基本构成 • 人工神经元模拟生物神经元的一阶特性。 –输入:X=(x1,x2,…,xn) –联接权:W=(w1,w2,…,wn)T –网络输入: net=∑xiwi –向量形式: net=XW xn wn ∑ x1 w1 x2 w2 net=XW …
激活函数( Activation function) 激活函数—执行对该神经元所获得的网 络输入的变换,也可以称为激励函数、活 化函数:0=f(net) 1、线性函数( Liner function) f (net)=k*net+c net 20211/27
2021/1/27 9 激活函数(Activation Function) • 激活函数——执行对该神经元所获得的网 络输入的变换,也可以称为激励函数、活 化函数: o=f(net) • 1、线性函数(Liner Function) f(net)=k*net+c net o o c
2、非线性斜面函数( Ramp function) ifnet>0 f(net)=k*net if net<0 if net<-0 y>0为一常数,被称为饱和值,为该神经元 的最大输出。 20211/27 10
2021/1/27 10 2、非线性斜面函数(Ramp Function) γ if net≥θ f(net)= k*net if |net|<θ -γ if net≤-θ • γ>0为一常数,被称为饱和值,为该神经元 的最大输出