例子-XOR问题 例子：XOR问题： 线形表示： 名 y cd时 y 1. 0 03 1+ 映射： 1. 1 2.0 1 0+ (x,y)→(x,xy,y) 2. 0 1 0 3. 1 0 0+ 3. 1 0 0 4.1 1 1 4. 1 1 - 11
11 例子---XOR问题 xy 0 0 0 1 例子：XOR问题： 映射： (x,y)→(x,xy,y) 线形表示：
在机器学习中的方法 寻找具有一般意义的线性空间（方法） 目前，机器学习主要采用两种方法： (1)整体线性，Hilbert3空间（核映射） (2) 类似分段线性，Madaline或弱分类 方法 12
12 在机器学习中的方法 ◼ 寻找具有一般意义的线性空间(方法) ◼ 目前，机器学习主要采用两种方法： (1) 整体线性，Hilbert空间(核映射) (2) 类似分段线性，Madaline或弱分类 方法
Hilbert空间 ■Hilbert空间是Von Neumman为量子力 学数学基础提出的一类具有一般意义的 线性内积空间 在机器学习中借助Hilbert空间构成特征 空间 13
13 Hilbert空间 ◼ Hilbert空间是Von Neumman为量子力 学数学基础提出的一类具有一般意义的 线性内积空间 ◼ 在机器学习中借助Hilbert空间构成特征 空间
线性不可分机器学习问题 将线性不可分问题变为线性可分问题的 关键是寻找一个映射，将样本集映射到 特征空间，使其在特征空间线性可分 这样，我们只需以感知机为基础，研究 统计机器学习问题。 14
14 线性不可分机器学习问题 ◼ 将线性不可分问题变为线性可分问题的 关键是寻找一个映射，将样本集映射到 特征空间，使其在特征空间线性可分 ◼ 这样，我们只需以感知机为基础，研究 统计机器学习问题
闭难一特征空间基的送辣 选择特征空间的基 特征空间的基可以采用多项式基或三角 函数基 寻找一般的方法描述特征空间存在根本 性困难（维数灾） 与神经网络相比，核函数的选择可以借 助领域知识，这是一个优点 15
15 困难—特征空间基的选择 ◼ 选择特征空间的基 ◼ 特征空间的基可以采用多项式基或三角 函数基 ◼ 寻找一般的方法描述特征空间存在根本 性困难(维数灾) ◼ 与神经网络相比，核函数的选择可以借 助领域知识，这是一个优点