感知器 种类型的ANN系统是以感知器为基础 感知器以一个实数值向量作为输入,计 算这些输入的线性组合,如果结果大于 某个阈值,就输出1,否则输出-1 1wo+v1x1+…+nxn>0 otherwise 其中每个w是一个实数常量,或叫做权 值,用来决定输入x对感知器输出的贡献 率。特别地,-wO是阈值 2003.12.18机器学习-人工神经网络作者: Mitchel译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-人工神经网络作者:Mitchell 译者:曾华军等讲者:陶晓鹏 11 感知器 • 一种类型的ANN系统是以感知器为基础 • 感知器以一个实数值向量作为输入,计 算这些输入的线性组合,如果结果大于 某个阈值,就输出1,否则输出-1 其中每个wi是一个实数常量,或叫做权 值,用来决定输入xi对感知器输出的贡献 率。特别地,-w0是阈值。 + + + − = otherwise w w x w x o x x n n n ... 0 1 1 ( ,..., ) 0 1 1 1
感知器(2) ·两种简化形式,附加一个常量输入x0=1,前面 的不等式写成 或写成向量形式 ·x>0 为了简短起见,把感知器函数写为 O(x)=sgn(w·x 其中,哪)-1m 2003.12.18机器学习-人工神经网络作者: Mitchel译者:曾华军等讲者:陶晓鹏 12
2003.12.18 机器学习-人工神经网络作者:Mitchell 译者:曾华军等讲者:陶晓鹏 12 感知器(2) • 两种简化形式,附加一个常量输入x0=1,前面 的不等式写成 或写成向量形式 • 为了简短起见,把感知器函数写为 其中, 0 0 = n i i i w x w x 0 o(x) sgn( w x) = − = otherwise y y 0 1 1 sgn( )
感知器(3) 学习一个感知器意味着选择权W2…,wn的 值。所以感知器学习要考虑的候选假设 空间H就是所有可能的实数值权向量的集 H={|w∈R1 2003.12.18机器学习-人工神经网络作者: Mitchel译者:曾华军等讲者:陶晓鹏 13
2003.12.18 机器学习-人工神经网络作者:Mitchell 译者:曾华军等讲者:陶晓鹏 13 感知器(3) • 学习一个感知器意味着选择权w0 ,…,wn的 值。所以感知器学习要考虑的候选假设 空间H就是所有可能的实数值权向量的集 合 { | } +1 = n H w w R
感知器的表征能力 可以把感知器看作是n维实例空间(即点 空间)中的超平面决策面 对于超平面一侧的实例,感知器输出1, 对于另一侧的实例,输出-1 这个决策超平面方程是=0 可以被某个超平面分割的样例集合,称 为线性可分样例集合 2003.12.18机器学习-人工神经网络作者: Mitchel译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-人工神经网络作者:Mitchell 译者:曾华军等讲者:陶晓鹏 14 感知器的表征能力 • 可以把感知器看作是n维实例空间(即点 空间)中的超平面决策面 • 对于超平面一侧的实例,感知器输出1, 对于另一侧的实例,输出-1 • 这个决策超平面方程是 • 可以被某个超平面分割的样例集合,称 为线性可分样例集合 w x = 0
感知器的表征能力(2) 单独的感知器可以用来表示很多布尔函 数 表示m-ofn函数 感知器可以表示所有的原子布尔函数: 与、或、与非、或非 然而,一些布尔函数无法用单一的感知 器表示,例如异或 2003.12.18机器学习-人工神经网络作者: Mitchel译者:曾华军等讲者:陶晓鹏 15
2003.12.18 机器学习-人工神经网络作者:Mitchell 译者:曾华军等讲者:陶晓鹏 15 感知器的表征能力(2) • 单独的感知器可以用来表示很多布尔函 数 • 表示m-of-n函数 • 感知器可以表示所有的原子布尔函数: 与、或、与非、或非 • 然而,一些布尔函数无法用单一的感知 器表示,例如异或