统计学习理论及应用 第四讲感知机 编写：文泉、陈娟 电子科技大学计算机科学与工程学院
统计学习理论及应用 第四讲 感知机 编写：文泉、陈娟 电子科技大学 计算机科学与工程学院
目录 ①感知机的概念 感知机的学习策略 3 感知机学习算法 4 感知机学习算法的对偶形式 1/28
目录 1 感知机的概念 2 感知机的学习策略 3 感知机学习算法 4 感知机学习算法的对偶形式 1 / 28
知识点： ·感知机的概念 ●感知机的学习策略 。感知机的学习算法 ·感知机算法的对偶形式 重点与难点： ·重点：感知机的学习策略 ·难点：感知机算法的对偶形式 2/28
知识点： 感知机的概念 感知机的学习策略 感知机的学习算法 感知机算法的对偶形式 重点与难点： 重点：感知机的学习策略 难点：感知机算法的对偶形式 2 / 28
4.1.感知机的概念 感知机(perceptron)是二类分类的线性分类模型(linear classification model),其输入为实例的特征向量，输出为实 例的类别，取+1和-1二值。感知机对应于输入空间（特 征空间)中，将实例划分为正、负两类的分离超平面，属 于判别模型 第3讲涉及的线性回归模型((linear regression model).的 输出是连续的。 ·第4讲涉及的感知机模型是线性分类模型(linea classification model)的输出是离散的。 3/28
4.1. 感知机的概念 ▶ 感知机（perceptron) 是二类分类的线性分类模型（linear classification model）, 其输入为实例的特征向量，输出为实 例的类别，取 +1 和 −1二值。感知机对应于输入空间（特 征空间）中，将实例划分为正、负两类的分离超平面，属 于判别模型 ▶ 第 3 讲涉及的线性回归模型（linear regression model）的 输出是连续的。 ▶ 第 4 讲涉及的感知机模型是线性分类模型（linear classification model）的输出是离散的。 3 / 28
感知机的定义 定义：（感知机）假设输入空间（特征空间)是XCm, 输出空间是y={+1,-1}。输入x∈X表示实例的特征 向量，对应于输入空间（特征空间）的点；输出y∈)y表示 实例的类别。感知机是由输入空间到输出空间的映射函数： y=f(x)=sign(w·x+b) sign() 其中 ·w·x是w与x的内积。 ·w和b是感知机的模型参数。 ·sign()是符号函数。 4/28
感知机的定义 ▶ 定义：(感知机）假设输入空间（特征空间）是 X ⊆ R n ， 输出空间是 Y = {+1, −1} 。输入 x ∈ X 表示实例的特征 向量，对应于输入空间（特征空间）的点；输出 y ∈ Y 表示 实例的类别。感知机是由输入空间到输出空间的映射函数: y = f (x) = sign(w · x + b) sign(z) = +1, z ≥ 0 −1, z < 0 其中 w · x 是 w 与 x 的内积。 w 和 b 是感知机的模型参数。 sign(·) 是符号函数。 4 / 28